Las Empresas deben preguntarse quién determina el modelo de IA para cada tarea

La creciente adopción de la inteligencia artificial generativa en las empresas ha generado una importante discusión sobre la gestión de modelos de lenguaje y la responsabilidad en la toma de decisiones respecto a cuál modelo debe responder a cada solicitud. En muchos casos, esta responsabilidad recae en servicios externos con procesos a menudo opacos, o bien, en la elección automática del modelo más reciente. Como respuesta a esta problemática, TIMIA, una empresa destacada en inteligencia artificial y analítica avanzada, ha lanzado RouterKit. Este innovador framework permite a las empresas crear y entrenar su propio sistema de enrutamiento de modelos, diseñado para responder a necesidades específicas mediante el uso de modelos ya existentes y prioridades organizativas claramente definidas.

RouterKit se presenta como una solución capaz de reducir significativamente los costos de uso de la inteligencia artificial generativa, sin comprometer la calidad que ofrecen los modelos más avanzados. La compañía ha revelado su comprometida intención de liberar el código de RouterKit bajo la licencia Apache 2.0, permitiendo su uso, modificación y distribución, incluso con fines comerciales.

La herramienta trabaja como una capa de decisión que, al recibir una solicitud, estudia sus características para determinar qué modelos son más propensos a proporcionar una respuesta acertada. La selección de modelos se basa en criterios específicos establecidos por la organización, los cuales pueden incluir calidad, tiempo de respuesta o coste. En casos donde la respuesta inicial no sea satisfactoria, el sistema puede redirigir la solicitud a otro modelo, hasta un número determinado de intentos.

TIMIA se distancia de otros servicios de enrutamiento comercial, que a menudo operan como cajas negras, al ofrecer con RouterKit un sistema donde cada decisión es explicable y auditable. Esto proporciona la posibilidad de reentrenamiento del sistema para adaptarse a nuevos modelos o cambios en las necesidades del negocio. Sandro Calzada, director de Innovación de TIMIA, ratifica esta visión afirmando que lo crucial ya no es qué modelo utilizar, sino quién decide sobre su adecuación y bajo qué criterios, buscando ofrecer control comprensible a cada organización mediante sus propios datos.

Para validar RouterKit, TIMIA empleó 1.135 tareas de programación en Python provenientes de BigCodeBench, un repositorio de pruebas públicas. En esta evaluación compararon siete modelos, accesibles mediante API o en infraestructuras propias, analizando la efectividad y variabilidad de las respuestas. El modelo predictivo entrenado con estos datos logró resolver el 68 % de las tareas, superando al mejor modelo individual evaluado, que alcanzó un 66,6 %.

Inicialmente centrado en la programación, un campo donde los tests automáticos facilitan la verificación objetiva de las soluciones, TIMIA planea extender el uso de RouterKit a otras aplicaciones como consultas a bases de datos, extracción de datos y procesos con agentes de IA. Será necesario definir nuevos criterios de evaluación y tener en cuenta el tiempo de respuesta como un criterio de optimización, además de simplificar la integración de nuevos modelos.

Con la liberación del código de RouterKit, TIMIA busca que otras organizaciones adopten este marco, lo adapten a sus flujos y contribuyan a su desarrollo, promoviendo así una mayor transparencia y control en el uso de la inteligencia artificial generativa.

Scroll al inicio