Los desarrolladores enfrentan constantemente el desafío de transformar datos no estructurados en formatos organizados, crucial para facilitar la comunicación efectiva máquina a máquina. En el campo de la inteligencia artificial, donde las aplicaciones necesitan procesar y consumir información de manera eficiente, el desarrollo de salidas estructuradas se ha convertido en un elemento esencial. Esto es particularmente relevante en tareas como la extracción de datos de documentos, la creación de asistentes útiles a través de APIs y el desarrollo de agentes que ejecuten acciones específicas.
En respuesta a estas necesidades, Amazon ha introducido la técnica de decodificación restringida a través de sus modelos de base Nova. Esta técnica innovadora permite extraer datos ajustados a esquemas complejos, disminuyendo los errores en el uso de herramientas hasta en un 95%. La implementación de salidas estructuradas se realiza mediante dos enfoques principales: la modificación del aviso del sistema o el uso de configuraciones de herramientas, ambas metodologías buscan especificar cómo deben formatearse los datos generados por los modelos.
La modificación del aviso del sistema implica ajustar las instrucciones del sistema para que el modelo genere una respuesta en el formato solicitado. Por ejemplo, en aplicaciones de soporte al cliente, se podría solicitar que la respuesta generada esté en formato JSON, especificando no solo el contenido, sino también el sentimiento del usuario.
Por otro lado, la configuración de la herramienta implica proporcionar al modelo una estructura a través de esquemas de solicitud, como funciones de código o APIs. Este acercamiento es especialmente útil en el desarrollo de aplicaciones que demandan salidas estructuradas definidas meticulosamente.
A pesar de la efectividad de ambos enfoques, las salidas generadas pueden ser no determinísticas, lo que conlleva margen de error. Sin embargo, con la decodificación restringida, se ha mejorado significativamente la precisión al restringir los posibles tokens generados durante cada paso del proceso. Esto se logra mediante una gramática que controla estrictamente las opciones disponibles para el modelo.
Una etapa fundamental del proceso de uso de Amazon Nova es la creación de configuraciones de herramientas que definen claramente el esquema de salida que el modelo debe seguir. Estas configuraciones aseguran que el modelo interprete correctamente cómo se deben completar los campos de datos.
Con la adición de soporte nativo para herramientas y la técnica de decodificación restringida, los modelos pueden ahora generar salidas en formato JSON completo y con un nivel de complejidad acorde a la aplicación requerida. Esto representa una evolución significativa en la generación de salidas estructuradas, convirtiéndose en una herramienta invaluable para los desarrolladores que buscan construir sistemas de inteligencia artificial más fiables y eficientes.
