Revolut, 엔지니어 2000명 기본 AI를 GLM으로 전환

무엇이 바뀌었나

엔지니어들은 그동안 Anthropic의 Claude Code와 OpenAI의 Codex에 의존했지만, 이제는 주로 GLM을 씁니다. GLM은 파라미터가 공개된 오픈 웨이트 모델이며 Revolut의 자체 서버에서 구동됩니다. 프런티어 도구는 적은 예산으로 가장 어려운 문제에만 쓸 수 있습니다.

발표에 따르면 모델 서비스에는 Nvidia GPU 약 56개가 쓰이며, 비용은 100만 토큰당 약 30센트입니다. 요금은 고정이라 요청마다 늘지 않습니다. Abitbol은 코딩 시간이 약 60%, 이슈 배정부터 배포까지의 리드타임이 약 70% 줄었다고 주장했습니다.

앞서 1월 도입한 Google Gemini는 리드타임을 약 10%, 코딩 시간을 약 20% 개선했습니다. 이후 엔지니어당 월 300달러 예산으로 Claude Code를 도입했으나 한 달을 버티지 못해 효과는 작았습니다. 자체 호스팅 모델은 무제한 토큰을 내걸었고, 그 결과 Confluence 검색, Jira 이슈 관리, Slack 검색에도 토큰이 쓰였습니다. 병목은 코드 작성이 아니라 주변 업무였다는 설명입니다.

난관과 중국 모델 논란

처음부터 순조롭지는 않았습니다. 6월에는 초당 4건 요청에서 응답 시간이 10초를 넘었습니다. 같은 GPU 수로 배포를 조정한 뒤 초당 8건 이상을 1.8초 미만 지연으로 처리하게 됐습니다. 컨텍스트 창을 25만 6000토큰으로 제한하고 FP8 대신 FP4를 쓰면 GPU 용량을 약 40% 아낄 수 있다는 조언도 내놓았습니다.

규제를 받는 은행이 중국 모델을 쓰는 데 대한 우려에 대해 Abitbol은 모델 가중치만 사용하며 자사 인프라나 EU·미국 업체에서 운영하므로 데이터가 중국 서비스로 가지 않는다고 설명했습니다. 에이전트는 샌드박스에서 실행되고 사람이 항상 개입합니다. GLM은 텍스트 전용이라 이미지 작업은 Gemini Flash 같은 저렴한 모델로 넘깁니다.