La creciente adopción de la inteligencia artificial generativa en el ámbito empresarial ha generado un desafiante interrogante: ¿quién es el responsable de decidir cuál modelo de lenguaje debe responder a cada solicitud? Tradicionalmente, esta decisión ha estado en manos de servicios externos, cuyos criterios y procesos son a menudo opacos para el cliente, o se ha optado por utilizar constantemente el modelo más reciente disponible. En respuesta a esta incertidumbre, TIMIA, una empresa especializada en inteligencia artificial y analítica avanzada, ha presentado una innovadora solución denominada RouterKit. Este framework permite a las empresas desarrollar y entrenar su propio enrutador de modelos, alineado con sus tareas específicas, el catálogo de modelos disponible y las prioridades que establezcan.
RouterKit supone una solución efectiva que minimiza notablemente el costo de implementar la IA generativa, sin comprometer la calidad inherente de los modelos más sofisticados. TIMIA ha revelado sus planes de liberar el código de RouterKit bajo la licencia Apache 2.0, facilitando así su utilización, modificación y distribución, incluso para propósitos comerciales.
Esta herramienta funciona como una capa de decisión y no compite directamente con los grandes modelos de lenguaje. Al recibir una solicitud, RouterKit evalúa sus características sin resolverla inicialmente, para determinar cuál de los modelos disponibles tiene mayores probabilidades de proporcionar una respuesta adecuada. La selección se realiza en base a criterios preestablecidos por la organización, que pueden considerar la calidad, el tiempo de respuesta o el costo. Si la respuesta inicial no satisface los estándares requeridos, el sistema cuenta con la capacidad de redirigir la solicitud a otro modelo, permitiendo un número configurable de intentos.
La oferta de TIMIA se diferencia de otros servicios de enrutamiento en su transparencia. Mientras que muchas soluciones comerciales operan como cajas negras, RouterKit posibilita que cada decisión sea explicable y auditada, permitiendo que el sistema sea reentrenado conforme los modelos o necesidades del negocio evolucionen. Sandro Calzada, director de Innovación de TIMIA, señala: «La pregunta ya no es qué modelo utilizar, sino quién decide qué modelo resuelve cada tarea y con qué criterio. Queremos que cada organización tenga el control, utilizando sus propios datos de una manera comprensible».
Para la validación del sistema, TIMIA llevó a cabo pruebas con 1.135 tareas de programación en Python, utilizando BigCodeBench, un repositorio público de pruebas. Se compararon siete modelos, accesibles mediante API o alojados en infraestructura propia, registrando sus resultados en varias ejecuciones para evaluar tanto la tasa de resolución como la variabilidad de las respuestas. Con esta información, se entrenó un modelo predictivo que identificó las alternativas más eficaces para resolver cada tarea, logrando una tasa de resolución del 68 %, superior al 66,6 % del mejor modelo individual evaluado.
Inicialmente, la evaluación estuvo centrada en la programación, un campo donde las pruebas automáticas, tales como los tests unitarios, permiten verificar objetivamente las soluciones. En el futuro, TIMIA planea expandir las aplicaciones de RouterKit a otros escenarios, como consultas a bases de datos, extracción de información y procesos con agentes de IA, lo que requerirá el desarrollo de nuevos mecanismos de evaluación. Además, consideran incluir el tiempo de respuesta como criterio de optimización y simplificar la integración de nuevos modelos.
La publicación del código de RouterKit tiene la intención de incentivar a que otras organizaciones adopten este framework, lo adapten a sus propios procesos y contribuyan a su desarrollo, promoviendo así una mayor transparencia y control en el uso de la inteligencia artificial generativa.