A medida que las organizaciones continúan adoptando tecnologías de inteligencia artificial generativa, enfrentan desafíos significativos para garantizar que estas aplicaciones se alineen con las salvaguardias establecidas. Si bien los modelos fundamentales ofrecen capacidades impresionantes, también introducen riesgos, como la generación de contenido dañino y la exposición a información sensible.
Para abordar estos desafíos, Amazon ha lanzado Bedrock Guardrails, una solución que se ha convertido en un aliado esencial para empresas como MAPFRE, KONE, Fiserv y PagerDuty. Al igual que con las aplicaciones tradicionales, esta solución implementa múltiples capas de seguridad, bloqueando hasta un 88% más de contenido multimodal no deseado y dañino. Además, filtra más del 75% de las respuestas alucinadas en casos de generación aumentada de recuperación y resúmenes, utilizando razonamiento automatizado para prevenir errores fácticos por alucinaciones.
Un ejemplo sobresaliente del uso exitoso de esta tecnología es el asistente de inteligencia artificial para una compañía de seguros de salud. Este asistente permite a los usuarios verificar detalles de cobertura, presentar reclamos y encontrar proveedores a través de interacciones conversacionales las 24 horas del día. La implementación de Amazon Bedrock Guardrails en este contexto no solo añade seguridad y cumplimiento, sino que también ayuda a mantener altos estándares de protección contra contenido no deseado, fortaleciendo la confianza en los sistemas de inteligencia artificial.
La solución es altamente flexible, permitiendo ajustes específicos para cada aplicación. Las evaluaciones de entradas del usuario y respuestas del modelo se realizan según políticas previamente definidas, funcionando con todos los modelos de lenguaje grande en Amazon Bedrock y modelos ajustados. Esto brinda a las organizaciones la capacidad de aplicar salvaguardias variadas a través de distintas aplicaciones.
La configuración de políticas de protección incluye filtros para contenido multimodal y denegación de temas, asegurando que las aplicaciones operen dentro de límites apropiados. En el sector de seguros de salud, por ejemplo, se evita que las aplicaciones brinden diagnósticos de enfermedades, reservando tales evaluaciones para profesionales calificados.
Amazon Bedrock Guardrails también ofrece la API ApplyGuardrail, que facilita la evaluación de entradas y respuestas sin necesidad de invocar un modelo, aumentando la versatilidad en la gestión de inteligencia artificial generativa. Las pruebas con diversas consultas han demostrado su eficacia en bloquear contenido sensible y proteger la privacidad del usuario.
Con la implementación de Amazon Bedrock Guardrails, las organizaciones avanzan hacia un uso más seguro y ético de la inteligencia artificial, reafirmando su compromiso con la responsabilidad y la seguridad en sus operaciones. Este enfoque no solo mejora la experiencia del cliente, sino que también fomenta una adopción más generalizada de tecnologías de inteligencia artificial en sectores críticos como el de la salud.
