La construcción de un stack de inteligencia artificial agentiva representa uno de los mayores desafíos tecnológicos actuales, comparándose a la construcción de un rascacielos en medio de un terremoto. En este entorno dinámico, donde las tecnologías avanzan rápidamente y las mejoras son constantes, la integración con sistemas existentes se convierte en un reto crítico. La experiencia de construir un stack agentivo para StartUp Play, enfocada en la agregación de plataformas OTT, ofrece valiosas lecciones sobre lo que funciona y lo que se debe evitar en este campo.

La evolución empresarial ha transitado desde arquitecturas monolíticas hasta modelos de microservicios y arquitecturas sin servidor. Hoy, la necesidad de incluir capacidades de razonamiento y modelos de lenguaje a gran escala impone nuevas exigencias. El desarrollo de un stack agentivo implica distintas capas: desde las interfaces API, pasando por la capa de orquestación, hasta las capas de memoria y contexto. Todo esto debe manejarse bajo un estricta gobernanza de datos.

Un aspecto fundamental es que los microservicios sean sin estado, utilizando soluciones como Kafka o Redis para escalar. Un logro notable en este sentido fue desarrollar un sistema que soporta un millón de transacciones por segundo, subrayando la importancia de una arquitectura sólida desde el inicio.

Cinco enfoques diferentes han sido identificados para construir un stack agentivo, variando desde la implementación de sistemas empresariales hasta el uso de sandboxes para agentes. Estos caminos ofrecen distintas ventajas, como la eficiencia en el uso de tokens y la estandarización de herramientas.

Los casos de uso en plataformas OTT destacan la flexibilidad arquitectónica, implementando modelos para mejorar metadata, recomendaciones y monitoreo de calidad. Aunque los modelos cambian, la data y las percepciones de los usuarios son activos valiosos a largo plazo.

La gestión de datos es crítica, estructurándose en tres niveles: sesión, múltiples sesiones y largo plazo. Esto garantiza que cada dato se capture y orqueste adecuadamente, formando una base firme para futuras implementaciones.

El dilema entre construir o comprar soluciones también es estratégico. Identificar qué desarrollar internamente y qué adoptar del mercado influye en la eficacia y competitividad de la organización.

Finalmente, integrar puntos de contacto de forma modular y reemplazable es esencial para adaptarse a cambios en modelos y plataformas, asegurando la sostenibilidad a largo plazo. En un mundo de rápida evolución tecnológica, crear un stack que capture el valor de la data generada es indispensable.

La construcción de un stack agentivo es desafiante, pero ofrece grandes oportunidades para empresas dispuestas a adaptarse y evolucionar. Al final, el valor creado y los problemas resueltos son activos perdurables, independientemente de la tecnología utilizada.