En el ámbito empresarial, la precisión en la recuperación de información mediante asistentes impulsados por inteligencia artificial generativa se ha posicionado como un uso destacado de esta tecnología. Para mejorar la precisión y reducir las alucinaciones, el método de Generación Aumentada por Recuperación (RAG) se ha convertido en la técnica preferida para obtener respuestas fiables y precisas utilizando datos específicos de cada empresa. Este enfoque se aplica en varias áreas, incluyendo asistentes de IA, búsqueda de información y la provisión de insights en tiempo real, lo que mejora la calidad del contenido generado.
Amazon ha presentado las Bases de Conocimiento de Amazon Bedrock, un servicio que simplifica la implementación de RAG. Esta herramienta se encarga de tareas complejas como la ingesta de datos, el fragmentado de la información, el embebido de datos y la coincidencia de consultas, facilitando la creación rápida de soluciones RAG. Sin embargo, en entornos empresariales con numerosos documentos relevantes, las respuestas suelen depender de una selección limitada de los primeros resultados que devuelve la base de datos, lo que puede comprometer la precisión si no se encuentran entre los primeros.
Nippon Life India Asset Management Limited ha abordado este desafío implementando una solución que mejora la precisión de las respuestas en comparación con el enfoque RAG convencional. La empresa ha reutilizado y reordenado respuestas, aplicando métodos RAG avanzados para lograr mayor exactitud. Las limitaciones del método RAG tradicional, como la falta de exactitud con grandes volúmenes de documentos, dificultaban el procesamiento de estructuras complejas y complicaban las respuestas a preguntas con múltiples facetas.
Los desarrolladores han empezado a emplear estrategias diversas para superar estos retos. Algunas soluciones incluyen el uso de servicios adicionales para la extracción de información, la reformulación programática de preguntas complejas y la creación de fragmentos personalizados de documentos. Nippon ha adoptado un enfoque avanzado que emplea un ciclo de trabajo RAG que abarca la ingesta de datos y la generación de texto, basado en la creación de fragmentos almacenados en una base de datos vectorial, permitiendo una búsqueda más eficiente y relevante.
A través de Amazon Bedrock, la empresa ha optimizado su método de RAG, utilizando técnicas como el reordenamiento de resultados y análisis semántico. Esto ha llevado a una notable mejora en la calidad de las respuestas, logrando un incremento en la precisión superior al 95% y reduciendo las alucinaciones en un 90-95%. Además, la implementación de esta tecnología ha reducido el tiempo necesario para generar informes de dos días a solo diez minutos.
La evolución continua de estos métodos indica un futuro en el que empresas como Nippon podrán beneficiarse aún más de las capacidades de RAG, explorando innovaciones como GraphRAG y la filtración de metadatos. La tecnología avanza, prometiendo aplicaciones más sofisticadas que transformarán la forma de interactuar con la información y optimizarán la toma de decisiones en ambientes empresariales.