En un avance significativo para el campo de la inteligencia artificial, Inception Labs ha anunciado la disponibilidad de los modelos de fundación Mercury y Mercury Coder a través de Amazon Bedrock Marketplace y Amazon SageMaker JumpStart. Esta iniciativa permite a los desarrolladores implementar estos modelos con el fin de construir, experimentar y escalar de manera responsable sus aplicaciones de IA generativa en la infraestructura de Amazon Web Services (AWS).
Los modelos Mercury representan la primera familia de modelos de lenguaje basados en difusión a escala comercial, y se destacan por su rapidez en la generación de texto y su habilidad para mantener alta calidad en las salidas. A diferencia de los modelos tradicionales que generan texto de manera secuencial, Mercury permite la generación de múltiples tokens en paralelo. Esto resulta en velocidades de inferencia significativamente más rápidas, alcanzando hasta 1,100 tokens por segundo en GPUs NVIDIA H100.
Entre las características notables de los modelos Mercury Coder se encuentra la generación de código de alta calidad en diversos lenguajes de programación, como Python, Java y JavaScript. También ofrece un rendimiento sólido en tareas de completado y edición de código, y soporte para longitudes de contexto de hasta 32,768 tokens, extendibles hasta 128,000 tokens mediante técnicas de extensión.
Amazon Bedrock Marketplace juega un papel crucial en la democratización del acceso a estas capacidades avanzadas de IA, proporcionando una amplia selección de modelos y una experiencia de integración unificada y segura. La plataforma permite a las organizaciones escalar de manera efectiva, con configuraciones de escalabilidad a través de endpoints gestionados.
Para acceder a los modelos Mercury en Amazon Bedrock, los usuarios deben seguir un proceso sencillo que incluye acceder al catálogo de modelos, seleccionar el modelo deseado y suscribirse. Una vez suscritos, pueden probar las capacidades del modelo en el entorno de Amazon Bedrock.
SageMaker JumpStart, por su parte, ofrece un servicio completamente gestionado que proporciona modelos de fundación para diversos casos de uso, facilitando la implementación rápida de aplicaciones de aprendizaje automático. Mediante el uso de SageMaker Studio, los desarrolladores pueden descubrir y desplegar efectivamente los modelos Mercury.
Se espera que la implementación de estos modelos transforme cómo las empresas pueden aprovechar la inteligencia artificial, mejorando tanto la velocidad como la calidad de las aplicaciones generativas que desarrollan. Con la llegada de Mercury, el panorama de la IA generativa en la nube se consolida aún más, ofreciendo herramientas potentes para diversas necesidades industriales.
