La inteligencia artificial generativa está redefiniendo el sector sanitario, impulsando una revolución digital que transforma la gestión del cuidado y el compromiso del paciente. Su capacidad para mejorar la atención médica se manifiesta a través de sistemas automatizados y herramientas de apoyo diagnóstico que ofrecen sugerencias personalizadas y oportunas. Un estudio reciente ha demostrado que estudiantes de medicina que recibieron retroalimentación de modelos de lenguaje grande en simulaciones clínicas mejoraron significativamente su toma de decisiones en comparación con sus pares.

Estos modelos, núcleo de la IA generativa, permiten conversaciones naturales y habilitan la creación de productos en áreas como facturación, diagnóstico, tratamiento e investigación. Sin embargo, su implementación requiere una comprensión profunda de los riesgos que podrían afectar la prestación de servicios de salud. Abordar estos desafíos exige planificar y ejecutar un enfoque integral para desarrollar aplicaciones de IA generativa de manera segura.

Durante el diseño de estas aplicaciones en el ámbito de la salud, es esencial establecer políticas que determinen insumos y resultados, funcionando como guías para construir un sistema responsable. Además, se deben considerar riesgos potenciales, como las respuestas erróneas generadas por confabulación y el sesgo, que pueden exacerbar desigualdades.

Transparencia y responsabilidad son claves en el desarrollo de aplicaciones de IA generativa. Documentar fuentes de datos y decisiones de diseño mediante herramientas como las «fichas de modelo» facilita la evaluación del sistema y permite a los usuarios tomar decisiones informadas.

La seguridad es fundamental al diseñar sistemas de IA generativa, integrándose en todas las capas de la aplicación para proteger la privacidad y seguridad de los datos de los pacientes. Estas aplicaciones pueden ser vulnerables a ataques adversariales, como la inyección de prompts, por lo que se recomienda realizar evaluaciones de riesgo y establecer salvaguardias para controlar entradas y salidas.

La IA generativa tiene el potencial de mejorar notablemente diversos aspectos del cuidado de la salud, incrementando la calidad del servicio, la experiencia del paciente y la seguridad clínica. Es vital considerar las limitaciones y establecer un marco de gobernanza que garantice la seguridad y confianza que los usuarios esperan.