El avance de la inteligencia artificial (IA) está llevando a las máquinas a niveles de autonomía sin precedentes, lo que hace que la necesidad de transparencia y explicabilidad sea más urgente que nunca. En un reciente panel de expertos, destacados profesionales del sector discutieron las implicaciones de la confianza en los sistemas de IA autónomos.

Saradha Nagarajan, ingeniera de datos en Agilent Technologies, subrayó que la confianza es fundamental para la explicabilidad. Afirmó que entender el funcionamiento interno de los modelos de IA permite mayor adaptabilidad y confianza en sus predicciones. Además, destacó la importancia de establecer pautas éticas claras y mecanismos de auditoría tanto antes como después de la implementación.

Pankaj Agrawal de LinkedIn señaló que en sectores regulados, la transparencia es esencial. Subrayó que los sistemas deben contar con supervisión para alinear las decisiones de la IA con normas éticas y operativas definidas, algo crítico en aplicaciones de alto riesgo.

Dan Chernoff, científico de datos en Parallaxis, sugirió que la ética está más relacionada con el gobierno y la alineación con normas que con consideraciones éticas por sí solas. Afirmó que es vital trazar las decisiones de una IA de regreso a sus datos de entrada para evaluar posibles errores y sus causas.

Keshavan Seshadri de Prudential Financial analizó cómo regulaciones como la Ley de IA de la UE influyen en la forma en que la industria aborda el riesgo. Sugirió que es crucial que los diseñadores de sistemas de IA mapeen las decisiones de los agentes a niveles de riesgo definidos, para identificar sesgos y construir sistemas más robustos y seguros.

La discusión también incluyó la colaboración interfuncional en el desarrollo de IA responsable, donde la inclusión de diversas partes interesadas es clave para el éxito. Se enfatizó que la construcción de IA responsable es una labor conjunta que requiere aportes de líderes de producto, equipos de seguridad y otros colaboradores.

Los expertos coincidieron en que el diseño específico del dominio es esencial. En sectores regulados, se necesita un enfoque que ajuste las entradas y salidas de los sistemas de IA para asegurar que reflejen políticas y restricciones correspondientes, permitiendo construir sistemas confiables y seguros adaptados a las necesidades de cada sector.