Flava MCP Hub가 걸어온 길: AI 시대를 위한 배관 공사

들어가며 "우리 서비스, 지금 어떤 상태야?" AI 에이전트에게 이렇게 물어보신 적 있으신가요? 아마 겉보기에는 그럴듯하지만 실제로 활용하기는 어려운 답이 돌아왔을 겁니다. LLM(large language model, 대규모 언어 모델)은 학습 시점 이후의 정보를 스스로 알 수 없습니다. 현재 우리 클러스터에서 어떤 리소스가 실행 중인지, 어제 배포한 버전이 무엇인지, 관련 내용이 사내 문서 어디에 있는지도 알기 어렵습니다. 모델 자체로는 외부 상태나 사내 데이터에 직접 접근할 수 없기 때문입니다. 이 한계를 보완하는 규격이 MCP(Model Context Protocol)입니다. MCP는 LLM이 필요한 순간에 외부 도구와 데이터에서 컨텍스트를 가져올 수 있도록 합니다. 그래서 사내 시스템의 최신 정보를 활용하려면 필요한 MCP 서버를 만들어 연결하는 방법을 먼저 생각할 수 있습니다. 하지만 실제 환경에서 MCP 서버를 연결하려고 하면 다른 문제가 생깁니다. 사내 데이터에 접근하려면 사내 인증을 거쳐야 하며, 이를 위해서는 사내 인증 체계를 먼저 이해하고 브라우저 콜백 처리, 토큰 캐시, 만료된 토큰의 갱신 로직까지 직접 구현해야 합니다. 실제 MCP 서버 로직은 많지 않더라도, 이를 사내에서 사용할 수 있는 형태로 만드는 데 더 많은 노력이 들어갑니다. 더 큰 문제는 이러한 작업이 팀마다 별도로 반복되고 있었다는 점입니다. 다른 팀이 이미 같은 인증 로직을 구현해 사용하고 있다는 사실을 모른 채, 각 팀이 비슷한 코드를 다시 작성하고 있었습니다. 운영 책임도 각 팀이 그대로 부담해야 했습니다. 이는 각 팀이 개별적으로 대응할 문제가 아니라 플랫폼 차원에서 해결해야 할 문제였습니다. 그래서 반복되는 인증과 운영 부담을 플랫폼에서 대신 처리할 수 있도록 구조를 바꿨습니다. 그렇게 만든 플랫폼이 Flava MCP Hub입니다. 이 글에서는 Flava MCP Hub의 설계를 순서대로 살펴보겠습니다. 내부 구조를 네 개의 층으로 나눈 '4층 배관 모델'부터 MCP 표준과 사내 인증 사이의 간극을 해소한 방법, 오픈소스 Gateway에서 자체 Gateway로 전환한 과정까지 차례로 다룹니다. 마지막으로 플랫폼 운영 이후 확인한 새로운 가치와 앞으로의 방향을 소개하겠습니다. 왜 Flava MCP Hub를 만들었나 Flava MCP Hub는 사내 공통 프라이빗 클라우드인 Flava 위에 올라간 전사 공통 MCP 플랫폼입...