En los últimos tiempos, el desarrollo y la implementación de proyectos de inteligencia artificial generativa han tomado un papel central en las estrategias de negocio de las empresas. La necesidad de priorizar estas iniciativas ha crecido exponencialmente. Más que encontrar diversos usos, las empresas buscan balancear el valor comercial con el costo y el esfuerzo que requieren, enfrentándose a desafíos únicos como las «alucinaciones» de la IA, donde los sistemas toman decisiones incorrectas, y el constante cambio en el panorama regulatorio.
Para abordar estos desafíos, se ha propuesto integrar prácticas de inteligencia artificial responsable en los métodos de priorización de proyectos. Según el marco de trabajo de AWS, la IA responsable implica diseñar, desarrollar y utilizar la tecnología de forma que maximice beneficios y minimice riesgos. Este enfoque se centra en ocho dimensiones clave: equidad, explicabilidad, privacidad y seguridad, controlabilidad, veracidad y robustez, gobernanza y transparencia. A lo largo del desarrollo de proyectos, es crucial evaluar potenciales daños, implementar medidas de mitigación y monitorear continuamente los riesgos.
Aplicar principios de IA responsable desde la génesis de un proyecto proporciona una visión más precisa de los riesgos y el esfuerzo necesario para mitigarlos. Esto puede prevenir la repetición de trabajos costosos y evitar descubiertos riesgos más adelante en el proceso. Aunque muchas empresas cuentan con sistemas propios para priorizar, el uso de la metodología WSJF del sistema Escaled Agile es una opción demostrada. Esta técnica prioriza proyectos calculando el costo del retraso frente al tamaño del trabajo.
Como ejemplo, se pueden evaluar dos proyectos: uno que utiliza un modelo de lenguaje para generar descripciones de productos y otro que emplea un modelo de texto a imagen para campañas publicitarias. Inicialmente, el segundo proyecto parece más urgente y necesario. Sin embargo, al incluir la evaluación de riesgos en dimensiones de IA responsable, el primer proyecto resulta menos complejo y menos costoso de mitigar, lo que lo hace más recomendable para iniciar.
El desafío para las empresas es empezar a desarrollar políticas de IA responsable y adoptar estas prácticas para proyectos de inteligencia artificial generativa, lo que impacta significativamente en las decisiones de priorización. Estas medidas no solo son fundamentales para evitar costos innecesarios, sino también para construir confianza con sus clientes y cumplir con regulaciones cada vez más estrictas.
