En el mundo empresarial actual, muchas compañías se enfrentan al reto de implementar la inteligencia artificial (IA) de manera efectiva. Este desafío se manifiesta en una aparente dualidad: por un lado, existen iniciativas formales como asociaciones estratégicas y proyectos piloto; por otro, los ingenieros trabajan para integrar aplicaciones de IA con datos empresariales de manera no oficial.

Los empleados, por su parte, experimentan con herramientas de código abierto en sus hogares debido a las barreras de seguridad empresarial, utilizando aplicaciones de IA «no oficiales» para agilizar sus tareas. Este enfoque genera un dilema sobre el retorno de inversión y la seguridad en el uso de estas tecnologías.

En una reciente cumbre en Boston, un panelista subrayó que si «el cliente es siempre el problema, probablemente tú seas el problema», lo que apunta a una falta de entendimiento sobre cómo aprovechar estas tecnologías. La empresa Barndoor AI, fundada por Oren Michels, se ha posicionado como una solución a este dilema. Su objetivo es ayudar a las organizaciones a adoptar sistemas autónomos sin comprometer la seguridad y cumplimiento normativo.

Durante el Generative AI Summit en Boston, se discutió la tensión entre adoptar tecnologías AI de manera responsable y la preocupación por la «control, visibilidad y confianza». Se concluyó que sin estos elementos, la adopción de IA carece de un valor duradero. Los panelistas también señalaron que el lenguaje técnico que inunda la industria no clarifica el valor real ni los costos para los directores financieros.

El fenómeno del «Shadow AI», donde los empleados utilizan IA fuera del marco oficial, evoca la adopción inicial de teléfonos inteligentes y servicios en la nube. Aunque estas prácticas pueden impulsar la innovación, también representan riesgos significativos como la filtración de datos.

Barndoor AI propone estructuras de gobernanza que permitan a las empresas experimentar de manera segura y gestionar riesgos mientras innovan. Su meta es proporcionar un «plano de control» para que los agentes de IA operen de forma segura, permitiendo a las empresas maximizar el potencial de la IA en un entorno que fomente la innovación sin burocracia.