Desafío de Sensedia
Gobernar y controlar el consumo diario de millones de tokens de LLM utilizados por sus desarrolladores en herramientas destinadas a aumentar su productividad técnica en tareas de desarrollo de software.
Papel del AI Gateway
Sensedia AI Gateway actuó como una capa central de mediación e hizo viable el proyecto mediante tres pilares: control de tokens y abstracción del proveedor, con un panel único que monitorea el consumo por usuario en tiempo real y abstrae la API incluso cuando se cambia de LLM; seguridad corporativa, mediante la centralización de credenciales en una bóveda segura y la integración con SSO, lo que elimina las fugas de datos a través de cuentas personales; y desempeño, con enrutamiento dinámico y fallback automático entre modelos para garantizar un flujo ininterrumpido.
Resultados
La iniciativa escaló el uso de la IA de forma controlada: de 350 millones a 1,260 millones de tokens diarios (con picos de 2,000 millones), totalmente auditados y gobernados, sin una latencia significativa. Alrededor de 140 desarrolladores utilizan activamente la herramienta, con mayor agilidad y automatización de tareas mediante MCP/Jira. Su uso se extendió a áreas no técnicas, como Marketing, democratizando el acceso a LLMs avanzados sin sobrecargar el presupuesto con licencias individuales.
.svg){kind=logo}
.png)
.png)
