Amazon Bedrock, la avanzada plataforma de inteligencia artificial en la nube de Amazon, ha dado a conocer una nueva característica que promete revolucionar el desarrollo y la implementación de modelos personalizados. La inclusión de soporte para probabilidades logarítmicas en su función de Importación de Modelos Personalizados permitirá a los desarrolladores integrar modelos previamente ajustados, como Llama, Mistral y Qwen, through una experiencia sin servidor y con una API unificada.

Esta actualización busca proporcionar una visión más clara sobre cómo un modelo de inteligencia artificial toma decisiones, lo cual es crucial para desarrollar aplicaciones confiables y seguras. La comprensión de la confianza del modelo en sus predicciones permitirá a los desarrolladores abordar consultas específicas de un dominio con mayor precisión. Gracias a esta mejora, los usuarios tendrán la capacidad de analizar la confianza del modelo a nivel de cada token, mejorando de esta manera la evaluación y el filtrado de resultados.

El uso de probabilidades logarítmicas proporciona una medida cuantificable de la certeza del modelo en sus respuestas. Un valor cercano a cero indica alta confianza, como -0.1 que representa aproximadamente un 90% de seguridad. En contraste, -3.0 indica solo un 5% de confianza. Esta información es clave para detectar errores, evaluar la calidad de cada parte de una respuesta, y optimizar los costos en sistemas de generación aumentada por recuperación (RAG).

Para aprovechar esta nueva funcionalidad, los usuarios deben contar con una cuenta activa de AWS y tener los permisos necesarios para usar la API de Amazon Bedrock. Este desarrollo aporta una mayor transparencia al proceso de toma de decisiones de los modelos, permitiendo a los desarrolladores crear aplicaciones que se adapten a distintos niveles de confianza, una característica vital en sectores críticos como la salud y las finanzas.

Los casos de uso sugeridos incluyen la detección de llamadas erróneas por parte del modelo, la identificación de respuestas poco confiables y la optimización de sistemas RAG, todo ello con el objetivo de crear aplicaciones más robustas y fiables. Al introducir criterios medibles de confianza, Amazon Bedrock reafirma su compromiso con el desarrollo de herramientas que promuevan una innovación segura y escalable en el ámbito de la inteligencia artificial.