Amazon ha revolucionado el campo de la inteligencia artificial con el lanzamiento de su sistema SageMaker HyperPod, el cual permite a las organizaciones aprovechar la potencia sin precedentes de las GPUs NVIDIA Blackwell en una sola plataforma. Este desarrollo promete ser un avance crucial en la innovación de la inteligencia artificial, ofreciendo una capacidad de procesamiento espectacular de 360 petaflops en cálculos de punto flotante denso (FP8) y 1.4 exaflops en cálculos de punto flotante disperso (FP4).
Los recién presentados P6e-GB200 UltraServers, sustentados por la arquitectura NVIDIA GB200 NVL72, ofrecen un rendimiento líder en la industria al facilitar el desarrollo e implementación de modelos de inteligencia artificial de mil billones de parámetros. Esta integración permite a las organizaciones escalar rápidamente el desarrollo de modelos, reduciendo tiempos de inactividad y simplificando la transición desde el entrenamiento hasta su despliegue masivo.
Estos UltraServers conectan 36 CPUs NVIDIA Grace con 72 GPUs Blackwell en un único dominio NVLink, proporcionando un acceso sin precedentes a recursos computacionales. Esto mejora significativamente el rendimiento y la eficacia en la formación de modelos de inteligencia artificial, al permitir el acceso a un máximo de 72 GPUs en un solo NVLink.
La solución destaca también por su avanzada capacidad de red, ofreciendo hasta 130 TBps de ancho de banda NVLink de baja latencia, lo que optimiza la comunicación en las cargas de trabajo de gran escala. Asimismo, los UltraServers permiten hasta 405 TB de almacenamiento NVMe SSD local, acelerando el proceso de entrenamiento de modelos al facilitar un rápido acceso y almacenamiento de datos.
El uso combinado de SageMaker HyperPod y los P6e-GB200 UltraServers representa un paso fundamental hacia entrenamientos y despliegues más eficientes y rápidos de los modelos de inteligencia artificial más avanzados. Este avance es particularmente beneficioso para las organizaciones que gestionan múltiples proyectos, garantizando la máxima utilización de la infraestructura y reduciendo costos operativos.
Aquellas organizaciones interesadas pueden acceder a las capacidades de UltraServer mediante planes de entrenamiento flexibles, disponibles en la zona local de AWS en Dallas, lo que facilita el acceso a estas potentes herramientas que Amazon ofrece para impulsar el desarrollo de la inteligencia artificial en diferentes sectores. Las organizaciones pueden registrarse en la consola de SageMaker para comenzar a utilizar esta innovadora tecnología y maximizar sus esfuerzos en el ámbito de la inteligencia artificial.
