NVIDIA ha presentado su nuevo modelo de inteligencia artificial, el Nemotron 3 Nano 30B, que ya se encuentra disponible en el catálogo de Amazon SageMaker JumpStart. Este innovador modelo, con 3 mil millones de parámetros activos, está diseñado para impulsar la innovación tecnológica y ofrecer valor tangible a las empresas.
El Nemotron 3 Nano destaca por su eficiencia computacional y precisión, permitiendo a los desarrolladores ejecutar tareas altamente especializadas a gran escala. Basado en una arquitectura de mezcla de expertos (MoE), combina una estructura Transformer-Mamba que optimiza la generación de razonamientos. Además, ofrece pesos, conjuntos de datos y recetas completamente abiertos, asegurando que los desarrolladores puedan personalizar, optimizar y desplegar el modelo en su propia infraestructura, manteniendo así altos estándares de privacidad y seguridad.
Entre sus características más notables se encuentran su desempeño sobresaliente en codificación, razonamiento científico y resolución de problemas matemáticos. También lidera en benchmarks como LiveCodeBench y GPQA Diamond. Con una capacidad de ventana contextual de hasta un millón de tokens, este modelo basado en texto utiliza texto tanto para entradas como para salidas.
Para hacer uso del Nemotron 3 Nano, los interesados necesitan tener un dominio de Amazon SageMaker Studio provisionado. Desde allí, pueden buscar el modelo en la interfaz de SageMaker Studio, desplegarlo y probarlo mediante la interfaz de línea de comandos de AWS o mediante código Python con el SageMaker SDK.
Disponible de forma completamente administrada en SageMaker JumpStart, su implementación es sencilla y eficiente. Los usuarios pueden verificar la disponibilidad del paquete de modelo según la región y explorar la documentación y ejemplos de código en el repositorio de GitHub de NVIDIA. Este lanzamiento busca simplificar la adopción de modelos de inteligencia artificial generativa, permitiendo a más empresas aprovechar el potencial de estas avanzadas soluciones tecnológicas.
