En un avance significativo hacia la democratización del desarrollo de aplicaciones de inteligencia artificial, Microsoft ha presentado el AI Toolkit para Visual Studio Code (VS Code). Esta innovadora extensión está diseñada para facilitar la creación de aplicaciones generativas de IA, integrando avanzadas herramientas y modelos del catálogo de Azure AI Foundry y fuentes reconocidas como Hugging Face.

El AI Toolkit permite a los desarrolladores descargar y ejecutar modelos de IA localmente, ofreciendo acceso a modelos optimizados para diversas plataformas, como Windows 11 con aceleración DirectML, Linux con aceleración de NVIDIA y, próximamente, soporte para MacOS. Además, los usuarios tienen la posibilidad de probar los modelos en un entorno intuitivo de “playground” o implementarlos en sus aplicaciones usando una API REST.

Una de las características más destacadas es la capacidad de afinar modelos de IA, tanto localmente como en la nube. Esta funcionalidad es crucial para crear nuevas habilidades, mejorar la fiabilidad de las respuestas y ajustar el tono y formato de estas. El toolkit proporciona guías detalladas para la optimización de modelos de lenguaje populares, como Phi-3 y Mistral.

Otra funcionalidad de gran interés es la posibilidad de desplegar características de IA en la nube o en dispositivos locales. También se incluyen opciones para realizar ejecuciones por lotes de entradas en el entorno de playground para modelos seleccionados.

Para aquellos interesados en explorar más sobre el AI Toolkit, Dona Sarkar y John Lam presentan un resumen en un video disponible desde Microsoft Build 2024. La documentación más reciente, junto con detalles sobre cómo descargar y utilizar el AI Toolkit, está disponible en la página oficial de Visual Studio Code, donde los desarrolladores pueden acceder a tutoriales y guías adicionales para un uso más efectivo de esta herramienta prometedora.