Un innovador chatbot de código abierto ha sido lanzado con el objetivo de elevar la precisión y transparencia de los modelos de lenguaje mediante «Automated Reasoning checks». Esta herramienta avanzada permite que el chatbot emplee retroalimentación para mejorar su contenido generado, realizar preguntas aclaratorias y demostrar la validez de sus respuestas.

El nuevo sistema incluye un registro de auditoría capaz de ofrecer explicaciones matemáticamente verificables sobre la validez de sus respuestas. Además, posee una interfaz de usuario que muestra el proceso de reescritura y las iteraciones que ocurren de manera invisible al usuario. A diferencia de los modelos tradicionales, que pueden errar en sus respuestas, las herramientas de razonamiento automatizado validan las afirmaciones a través de deducción lógica y pruebas matemáticas.

Este enfoque no solo mejora la exactitud al dar afirmaciones precisas para responder a preguntas concretas, sino que también aumenta la transparencia al proporcionar pruebas verificables de por qué esas afirmaciones son correctas. Esto es esencial en entornos regulados donde la audibilidad y la explicación son fundamentales.

El chatbot está desarrollado sobre una aplicación Flask que expone APIs para enviar preguntas y verificar el estado de las respuestas. Permite configurar un modelo de lenguaje de Amazon Bedrock para generar respuestas, seleccionar una política de razonamiento automatizado para la validación y establecer un máximo de iteraciones para ajustar una respuesta.

Durante el proceso de reescritura, el sistema clasifica los hallazgos de las verificaciones según su prioridad y decide los pasos a seguir: tales como aclaraciones ambiguas, inconsistencias lógicas o información inválida. Cada iteración almacena los hallazgos y proporciona un historial detallado del proceso.

Para quienes deseen explorar esta implementación, se ofrecen guías para crear políticas de razonamiento automatizado y ejecutar la referencia del chatbot. El código y la documentación están disponibles en línea para facilitar su adopción y personalización.

Con este avance, se espera que las aplicaciones de inteligencia artificial generativa sean más confiables y comprensibles, fusionando la flexibilidad de los modelos de lenguaje con la rigurosidad de la verificación matemática.