En el Generative AI Summit Silicon Valley 2025, Vishal Sarin, fundador y CEO de Sagence AI, discutió uno de los desafíos más urgentes en el campo de la inteligencia artificial (IA) generativa: su demanda energética. Durante una entrevista con Tim Mitchell del AI Accelerator Institute, Sarin subrayó la necesidad de optimizar la eficiencia energética para que esta tecnología alcance su potencial máximo.
Sarin explicó que, a pesar de las enormes oportunidades del AI generativo, enfrenta un serio cuello de botella debido a los altos requerimientos de energía. Destacó que para que esta tecnología sea económicamente viable, es crucial impulsar la innovación en eficiencia energética, lo que implica repensar la arquitectura de la IA desde los chips hasta los sistemas de refrigeración.
Durante el diálogo, Sarin indicó que las mejoras significativas en el consumo de energía deben enfocarse en la computación y la memoria, donde se gasta la mayor parte de la energía al transferir datos. La implementación de la computación en memoria, que integra más estrechamente el proceso de cómputo con la memoria, podría reducir costos y consumo energético. Esta innovación es crucial para mejorar la eficiencia energética, especialmente en las tareas de inferencia del AI generativo.
Además, Sarin habló sobre el papel crítico de los aceleradores de hardware, como las GPU. Aunque son esenciales para el rendimiento, también consumen mucha energía. Superar sus limitaciones requiere combinar sus fortalezas con innovaciones arquitectónicas como la computación en memoria. También mencionó que los modelos de lenguaje pequeños (SLMs) ofrecen una solución más eficiente, reduciendo la necesidad de infraestructuras masivas.
Otro aspecto crucial que destacó es la innovación en sistemas de refrigeración. La infraestructura para IA genera una cantidad significativa de calor, y los sistemas tradicionales no son suficientes. Innovaciones como el enfriamiento líquido y la recuperación de energía son esenciales para controlar el consumo energético.
Sarin se mostró optimista sobre la capacidad de la industria para enfrentar estos retos. Alinearse hacia la eficiencia y sostenibilidad se ha convertido en una prioridad, prometiendo un futuro más viable para el AI generativo. Según Sarin, romper las barreras de eficiencia energética es una necesidad, y estas innovaciones serán determinantes para que el AI generativo aporte valor transformador a largo plazo.
