Un reciente estudio de la Universidad de Waterloo ha revelado un marco innovador denominado Social Responsibility Stack (SRS), diseñado para enfrentar el desafío de garantizar la ética y la responsabilidad en sistemas de inteligencia artificial (IA). Este enfoque sugiere que la responsabilidad social debe ir más allá del simple cumplimiento normativo, y ser considerada como un proceso de control continuo que se incorpora desde el inicio en la arquitectura del sistema.

Los riesgos vinculados con la implementación de la IA son cada vez más evidentes, como lo demuestran ciertos sistemas de salud que, aunque inicialmente precisos, pueden desarrollar sesgos con el tiempo, o algoritmos de recomendación que crean cámaras de eco entre distintos grupos de usuarios. Estos problemas destacan la importancia de un enfoque más dinámico en la gestión de la ética en IA, donde los valores sociales se integren desde el comienzo y se monitoreen de manera constante a lo largo de la vida útil del sistema.

El SRS está compuesto por seis capas interconectadas de responsabilidad. La primera, llamada «valor de enraizamiento», transforma conceptos abstractos como «justicia» en restricciones concretas y medibles, como el máximo permitido de diferencia en las tasas de falsos negativos entre grupos demográficos en un sistema de triaje hospitalario.

La segunda capa, el «modelado de impacto socio-técnico», utiliza simulaciones para prever daños potenciales, evaluando cómo un sistema de IA podría afectar negativamente a comunidades o influir en la dependencia excesiva de los médicos en herramientas diagnósticas. La tercera capa incluye salvaguardias de diseño que integran controles técnicos, asegurando que las restricciones de equidad y otros parámetros críticos formen parte del proceso de entrenamiento del sistema.

El marco también incluye interfaces de retroalimentación conductual, que observan la interacción entre humanos y la IA, ajustando el comportamiento del sistema para evitar que los usuarios confíen ciegamente en sus recomendaciones. Otra capa relevante es la auditoría social continua, que evalúa el rendimiento del sistema y activa intervenciones automáticas cuando se detectan desviaciones.

Finalmente, la capa superior se centra en la gobernanza e inclusión de partes interesadas, donde las decisiones son apoyadas por juntas de revisión y consejos de participantes, garantizando un proceso de gobernanza activo y no simplemente formal.

Este enfoque combina la teoría de control con la ética de la IA, estructurando la gobernanza como un problema de control de bucle cerrado. Establece regiones operativas admisibles y métricas cuantificables para evaluar el cumplimiento de valores sociales a través del tiempo, convirtiendo la transparencia en un elemento clave de la rendición de cuentas en la ingeniería de IA.

El estudio incluye tres ejemplos de aplicaciones del SRS: un sistema de soporte de decisiones clínicas que examina sesgos en la atención médica, una red de vehículos autónomos que asegura decisiones éticas, y un sistema automatizado de determinación de beneficios en el sector público que audita continuamente sus efectos.

La principal aportación del SRS reside en explicitar las decisiones sobre compromisos de valor, permitiendo a los ingenieros navegar entre precisión, equidad y transparencia. En un futuro donde los sistemas de IA son centrales para decisiones críticas, el SRS ofrece una hoja de ruta para que la gobernanza de la IA sea una disciplina de ingeniería activa y continua, abordando proactivamente la complejidad de la responsabilidad social.