Revolut сделал GLM от Z.ai основным ИИ для 2000 инженеров

Что изменилось

Раньше инженеры работали с Claude Code от Anthropic и Codex от OpenAI. Теперь они в основном используют GLM — модель с открытыми весами, параметры которой общедоступны. Revolut запускает её на собственных серверах. Передовые инструменты остаются доступными, но как резервный вариант с небольшим бюджетом для самых трудных проблем.

Модель обслуживается примерно на 56 GPU Nvidia, совокупная стоимость составляет около 30 центов за миллион токенов. Счёт фиксированный и не растёт с каждым запросом. По словам Абитболя, время программирования сократилось примерно на 60%, а время доставки — от назначения задачи до развёртывания — примерно на 70%.

В январе Revolut внедрил Gemini от Google: время доставки улучшилось примерно на 10%, время программирования — на 20%. Затем запустили Claude Code с бюджетом 300 долларов в месяц на инженера, но рост продуктивности оказался небольшим, так как лимита не хватало на весь месяц. С собственной моделью обещали неограниченные токены. Их тратили на поиск в Confluence, работу с задачами в Jira и поиск в Slack. По мнению Абитболя, это показывает: узкое место было не в написании кода, а в работе вокруг него.

Сложности и «китайский вопрос»

Внедрение прошло не сразу гладко. В июне время ответа превышало 10 секунд при четырёх запросах в секунду. После настройки на том же числе GPU Revolut обрабатывал более восьми запросов в секунду с задержкой менее 1,8 секунды. Среди советов Абитболя: ограничить контекстное окно 256 000 токенов, использовать менее точный формат FP4 вместо FP8, что экономит около 40% мощности GPU, и следить за попаданиями в кэш.

Использование китайской модели в регулируемом банке может вызвать вопросы. Абитболь подчёркивает, что Revolut применяет только веса модели и размещает их на своей инфраструктуре или у провайдера из ЕС или США, так что данные в китайские сервисы не уходят. По его словам, это даже лучше для приватности, чем отправлять код в OpenAI или Anthropic. Агенты работают в песочнице, где одни команды разрешены, а другие заблокированы, и человек всегда остаётся в цикле. GLM работает только с текстом, поэтому задачи с изображениями уходят в более дешёвую модель вроде Gemini Flash.