Revolut, 자체 호스팅 GLM으로 전환

• Revolut이 엔지니어 약 2,000명의 코딩 작업을 자체 호스팅 GLM으로 옮기고, Claude Code와 Codex는 예외적으로 사용하는 도구로 분류함
• AI 운영 책임자 David Abitbol에 따르면 Nvidia B200 56개를 사용하며, 혼합 기준 비용은 토큰 100만 개당 0.30달러로 기존 Anthropic과 OpenAI에 지불하던 비용의 약 10분의 1임
• 전환 후 엔지니어링 리드타임이 70% 개선됐다고 하나, 구체적인 측정 방식은 제시하지 않음
• 성과는 토큰 사용량 제한을 풀었을 때 나타났으며, 엔지니어들은 어려운 작업에만 AI를 아껴 쓰는 대신 모든 작업에 활용하기 시작함
• 오픈 웨이트 모델이 기본값, 프런티어 모델이 예외가 되는 전환은 IPO를 준비하는 AI 연구소들에 가격 책정 문제를 안길 수 있음

전환 규모와 비용

• Revolut은 엔지니어 약 2,000명을 자체 호스팅 GLM으로 전환하고, Claude Code와 Codex를 예외 사용 목록으로 옮김
• AI 운영을 이끄는 David Abitbol에 따르면 자체 호스팅 운영 규모와 성과는 다음과 같음
  • Nvidia B200 56개를 사용함
  • 혼합 기준 토큰 100만 개당 비용은 0.30달러로, 기존 Anthropic과 OpenAI 지출의 약 10분의 1임
  • 엔지니어링 리드타임은 70% 개선됐으며, 측정 기간이나 방식은 게시물에 없음

토큰 제한 해제와 사용 방식 변화

• 토큰 사용량 제한이 사라지면서 성과가 나타남
  • 엔지니어들은 AI를 어려운 작업에만 아껴 쓰지 않고 모든 작업에 활용하기 시작함
• 프런티어 모델을 예외로, 오픈 웨이트 모델을 기본값으로 쓰는 흐름은 IPO를 준비하는 AI 연구소들에 가격 책정 문제를 안길 수 있음
• 비용이 90% 줄어든다면 팀을 프런티어 API에서 다른 방식으로 옮길 것인지 질문하며 마무리함