En el reciente AWS Summit celebrado en Nueva York, se reveló una innovadora suite de capacidades de personalización para los modelos de Amazon Nova, ahora accesibles a través de recetas listas para usar en Amazon SageMaker AI. Estas herramientas permitirán a los usuarios ajustar los modelos Nova Micro, Nova Lite y Nova Pro durante todo el ciclo de vida del entrenamiento, incluyendo etapas claves como el pre-entrenamiento, ajuste fino supervisado y alineación.
Una serie de publicaciones sucesivas analizará estas recetas de personalización, proporcionando guías de implementación paso a paso. El punto de partida es la técnica de Optimización de Preferencias Directa (DPO), que orienta las salidas del modelo según las preferencias del usuario mediante pares de respuestas —una preferida y otra no—. Esto dirige al modelo hacia resultados que mejor reflejan el tono y las directrices deseadas.
Los modelos personalizados podrán ser desplegados en Amazon Bedrock con un rendimiento de salida provisionado, y la versión eficiente en parámetros del DPO permite inferencia bajo demanda. Las recetas de personalización Nova están disponibles en trabajos de entrenamiento de SageMaker, ofreciendo flexibilidad para elegir el entorno adecuado según las necesidades de infraestructura y escala.
El flujo de trabajo con SageMaker comienza con la selección de una receta de personalización detallada para calibrar los parámetros de entrenamiento de Amazon Nova. Luego, a través de una solicitud por API, el sistema utiliza un script lanzador para ejecutar la receta en un clúster de cómputo gestionado. SageMaker maneja la infraestructura necesaria y orquesta el entrenamiento distribuido.
Esta arquitectura simplificada ofrece una experiencia completamente gestionada, permitiendo a los usuarios definir rápidamente los parámetros de entrenamiento en un modelo Amazon Nova y seleccionar su infraestructura preferida, mientras que SageMaker gestiona la infraestructura de principio a fin, con un modelo de precios basado en el tiempo de entrenamiento utilizado.
Adicionalmente, el modelo de Amazon Nova personalizado se puede desplegar en Amazon Bedrock mediante la API createcustommodel, integrándose con herramientas nativas como Amazon Bedrock Knowledge Bases, Guardrails y Agents.
Un destacado caso de uso empresarial ilustra cómo la adaptación del modelo Amazon Nova Micro puede optimizar funciones estructuradas para flujos de trabajo específicos de aplicaciones, logrando una mejora del 81% en la puntuación F1 y un aumento de hasta el 42% en métricas ROUGE. Esto permitirá que los modelos sean más eficientes en aplicaciones comerciales, como asistentes de soporte al cliente y automatización de flujos de trabajo.
Con la implementación de técnicas de alineación como DPO, se anticipa que esta tecnología transformará la forma en que las empresas personalizan y optimizan los modelos de IA, haciendo esta avanzada personalización más accesible para organizaciones de diversos sectores.
