Revolut apuesta por GLM para sus 2.000 ingenieros y recorta su factura de IA

Los números

Según la charla, Revolut sirve el modelo con unas 56 GPU de Nvidia, con un coste combinado de unos 30 céntimos por millón de tokens. La factura es fija y no crece con cada solicitud. Abitbol afirma que el tiempo de programación se redujo en torno a un 60% y el de entrega, desde que se asigna una incidencia hasta el despliegue, en torno a un 70%.

El cambio fue gradual. Gemini, introducido en enero, mejoró el tiempo de entrega un 10% y el de programación un 20%. Después llegó Claude Code, con 300 dólares mensuales por ingeniero, pero la mejora fue pequeña porque la asignación no duraba todo el mes. El modelo autoalojado prometía tokens ilimitados, y los equipos los usaron para buscar en Confluence, gestionar incidencias en Jira o rastrear Slack. Para Abitbol, el cuello de botella real no era escribir código, sino el trabajo que lo rodea.

Un arranque difícil y la cuestión china

La puesta en marcha no fue inmediata: en junio, los tiempos de respuesta superaban los 10 segundos con cuatro solicitudes por segundo. Tras ajustar el despliegue con las mismas GPU, Revolut atendía más de ocho solicitudes por segundo con latencia inferior a 1,8 segundos. Entre sus consejos: limitar la ventana de contexto a 256.000 tokens, usar FP4 en lugar de FP8 para ahorrar cerca del 40% de capacidad y vigilar las tasas de acierto de caché, sin ampliar hardware cada vez que sube el tráfico.

Usar un modelo chino en un banco regulado puede generar dudas, admite Abitbol. Revolut solo emplea los pesos, alojados en su infraestructura o en un proveedor de la UE o EEUU, de modo que ningún dato llega a un servicio chino. Considera que es incluso mejor para la privacidad que enviar código a OpenAI o Anthropic. Los agentes operan en un sandbox que permite ciertos comandos y bloquea otros, siempre con una persona en el bucle. Como GLM solo trabaja con texto, las tareas de imagen van a un modelo más barato, como Gemini Flash.