La inteligencia artificial generativa (GenAI) está revolucionando diversos sectores al agilizar procesos y fomentar la innovación. Aunque las interacciones textuales a través de chat con GenAI son populares, en aplicaciones prácticas resulta fundamental el uso de datos estructurados para integrar APIs, bases de datos y cargas de trabajo basadas en datos. Esta integración de datos estructurados puede mejorar la inteligencia conversacional, ofreciendo salidas más confiables y aplicables. No obstante, uno de los principales desafíos es la imprevisibilidad de los modelos de lenguaje de gran tamaño (LLMs), lo que dificulta la producción consistente de salidas estructuradas como JSON.
La dificultad principal se debe a que los datos de entrenamiento de los LLMs están mayoritariamente centrados en texto no estructurado, como artículos y sitios web, dejando en desventaja los formatos estructurados. Esto repercute en la precisión al generar salidas JSON, componentes clave para una integración fluida en APIs y bases de datos. La capacidad de estos modelos para reconocer tipos de datos y manejar jerarquías complejas varía, lo que influye en la elección del modelo más adecuado.
En este contexto, Amazon Bedrock, un servicio gestionado que ofrece acceso seguro a los modelos de IA más avanzados, introduce dos soluciones:
- Ingeniería de prompts: Consiste en generar salidas estructuradas mediante prompts bien formulados.
- Uso de herramientas con la API Bedrock Converse: Ofrece un mayor control y permite integrar esquemas JSON de manera nativa, logrando mayor consistencia.
Un ejemplo práctico es el análisis de reseñas de clientes, donde Bedrock genera salidas estructuradas, como puntuaciones de sentimientos, usando un código Python simplificado. Este proceso involucra configurar el cliente Bedrock, crear un esquema JSON, formular un prompt claro, añadir datos de reseñas y provocar que Bedrock procese la respuesta.
Con la API Converse de Amazon Bedrock, que facilita conversaciones de múltiples turnos, es posible integrar herramientas que permiten una alineación directa de las salidas con esquemas JSON predefinidos.
En pruebas realizadas con los modelos Claude de Anthropic, se logró más del 93% de éxito en generar respuestas estructuradas. El método de uso de herramientas demostró ser más efectivo que la ingeniería de prompts bajo condiciones complejas, lo que sugiere que las futuras mejoras de los modelos seguirán optimizando su rendimiento.
En resumen, Amazon Bedrock ofrece dos métodos para generar respuestas estructuradas: la ingeniería de prompts y el uso de herramientas. Ambos enfoques tienen ventajas y limitaciones, por lo que su aplicación varía según las necesidades del usuario. La incorporación de datos estructurados es crucial para maximizar el potencial de la inteligencia artificial generativa en aplicaciones del mundo real.
