Revolut wybiera GLM Z.ai jako domyślne AI dla 2000 inżynierów

Co się zmieniło

Inżynierowie korzystali dotąd z Claude Code i Codexa. Teraz pracują głównie na GLM, modelu o otwartych wagach, który Revolut uruchamia na własnych serwerach. Narzędzia frontier pozostają dostępne, ale jako opcja z niewielkim budżetem na trudne problemy.

Model obsługuje około 56 GPU Nvidii, a łączny koszt to około 30 centów za milion tokenów. Rachunek jest stały i nie rośnie z każdym zapytaniem. Według Abitbola czas kodowania skrócił się o ok. 60%, a czas dostarczenia, od przypisania zgłoszenia do wdrożenia, o ok. 70%.

W styczniu Revolut wprowadził Gemini Google'a, co poprawiło czas dostarczenia o ok. 10%, a kodowania o 20%. Potem przyszedł Claude Code z budżetem 300 dolarów miesięcznie na inżyniera, ale przyrost produktywności był niewielki, bo limit nie starczał na cały miesiąc. Model hostowany we własnym zakresie dał z kolei nielimitowane tokeny. Inżynierowie używali ich do przeszukiwania Confluence, obsługi zgłoszeń w Jirze czy szukania w Slacku, co według Abitbola pokazuje, że wąskim gardłem było nie samo pisanie kodu, lecz praca wokół niego.

Trudności i kwestia Chin

Wdrożenie nie poszło gładko. W czerwcu czas odpowiedzi przekraczał 10 sekund przy czterech zapytaniach na sekundę. Po strojeniu na tej samej liczbie GPU Revolut obsługiwał ponad osiem zapytań na sekundę z opóźnieniem poniżej 1,8 s. Abitbol radzi ograniczyć okno kontekstu do 256 tys. tokenów, używać formatu FP4 zamiast FP8, co oszczędza ok. 40% mocy GPU, oraz pilnować trafień w pamięci podręcznej.

Użycie chińskiego modelu w regulowanym banku budzi pytania. Abitbol podkreśla, że Revolut korzysta wyłącznie z wag, hostowanych na własnej infrastrukturze lub u dostawcy z UE albo USA, więc żadne dane nie trafiają do chińskiej usługi. Jego zdaniem jest to korzystniejsze dla prywatności niż wysyłanie kodu do OpenAI czy Anthropic. Agenci działają w piaskownicy, która pozwala na część poleceń, a blokuje inne, z człowiekiem w pętli. GLM obsługuje tylko tekst, więc zadania z obrazami trafiają do tańszego Gemini Flash.