Hoy se han lanzado los nuevos modelos de razonamiento de NVIDIA, Llama 3.3 Nemotron Super 49B V1 y Llama 3.1 Nemotron Nano 8B V1, los cuales ya están disponibles en el Amazon Bedrock Marketplace y Amazon SageMaker JumpStart. Estas innovaciones permitirán a las organizaciones construir, experimentar y escalar sus ideas de inteligencia artificial generativa de manera responsable en la plataforma de AWS.

La integración de los microservicios de inferencia NVIDIA NIM facilita el despliegue de modelos de IA generativa, aprovechando los servicios gestionados de AWS. Estas soluciones están diseñadas para acelerar la implementación de modelos de IA, permitiendo a los desarrolladores integrar aplicaciones de IA generativa con solo un comando o unas pocas líneas de código.

El Llama 3.3 Nemotron Super 49B V1 es una versión optimizada que utiliza un enfoque de Búsqueda de Arquitectura Neuronal (NAS) para reducir su huella de memoria y aumentar la eficiencia. Este modelo ofrece un soporte impresionante para contextos de hasta 128,000 tokens, facilitando tareas complejas como la generación aumentada de datos y la llamada a herramientas. Por su parte, el Llama 3.1 Nemotron Nano 8B V1 mantiene características similares, siendo más compacto y utilizando capacidades mejoradas con un modelo más pequeño que se puede usar localmente.

Amazon Bedrock Marketplace proporciona una experiencia unificada y segura para acceder a modelos de IA, permitiendo a las organizaciones encontrar lo que más se ajusta a sus necesidades, abarcando una amplia variedad de aplicaciones, desde la redacción de contenidos hasta la clasificación de información.

Para empezar a utilizar estos modelos, los usuarios solo necesitan suscribirse a ellos en Amazon Bedrock y seguir unos sencillos pasos para desplegarlos. Pueden realizar inferencias directamente en la consola de Bedrock o a través del SDK de SageMaker.

En conclusión, la llegada de los modelos Llama 3.3 y Llama 3.1 representa un avance significativo en la capacidad de las empresas para implementar soluciones avanzadas de IA. Gracias a la infraestructura escalable de AWS, las empresas pueden desplegar estos modelos de manera fácil y rápida, transformando sus aplicaciones de inteligencia artificial con tecnologías de vanguardia.