[르포] 정부 GPU 7656장 운영 최전선…'NHN 팩토리X' 가보니

NHN 팩토리X 서울 내부 전경 서울 영등포구에 위치한 NHN 팩토리X(NHN FactoryX) 서울 데이터센터 6층 데이터홀에 들어서자 검은색 그래픽처리장치(GPU) 랙이 일정한 간격을 두고 길게 줄지어 선 모습이 먼저 눈에 들어왔다. 수많은 장비가 돌아가는 '윙' 소리가 공간을 가득 채웠고, 벽면에서는 서늘한 바람이 끊임없이 불었다. 6일 방문한 NHN 팩토리X는 NHN클라우드의 AI 인프라 운영을 위한 핵심 거점으로, 고성능 컴퓨팅 인프라를 운영하는 인공지능 데이터센터(AIDC)다. 정부 사업을 통해 조성된 AI 인프라로 엔비디아 B200 GPU 총 7656장을 기반으로 구축됐다. 글로벌 인프라 투자사 액티스가 투자한 데이터센터에 위치해 있으며, 전체 데이터센터의 절반인 3층부터 6층까지를 활용한다. NHN 팩토리X 3~5층은 정부 AI 컴퓨팅 자원을 운영하는 공간이며 6층은 NHN클라우드 자체 AI 클라우드 서비스와 GPU 인프라 운영에 활용한다. 전체 IT 로드는 13㎿ 규모다. 특히 3·4층에는 B200 GPU 4080장(510노드)을 하나의 연산 환경으로 연결한 클러스터1이 구축됐다. 해당 클러스터1은 글로벌 슈퍼컴퓨터 성능 순위 TOP500에서 세계 20위를 기록했다. 5층에는 2040장(255노드) 규모의 클러스터가 자리한다. 6층은 192노드 규모다. NHN 팩토리X서울 GPU 서버 전면부 해당 데이터센터는 대규모 엔비디아 B200 GPU를 운용하기 위해 수랭 냉각 방식을 활용한 점이 특징이다. 전 층에 직접수랭식(DLC) 냉각 방식을 적용했다. GPU와 중앙처리장치(CPU) 등에 콜드 플레이트를 직접 접촉시키고 액체 냉매를 순환시켜 열을 빼내는 방식이다. 이일준 NHN클라우드 이사는 “대규모 GPU 자원을 수랭 냉각 기반으로 운영하는 것은 국내서 NHN클라우드가 처음일 것”이라며 “서버에서 발생하는 열의 약 70~80%를 GPU와 CPU가 차지하는 만큼 이들 부품은 수랭으로 냉각하고, 메모리와 네트워크 카드, 인피니밴드 스위치, 스토리지 등은 공랭으로 식히는 방식”이라고 설명했다. 이 이사는 수랭 적용으로 GPU 서버의 전력 소비를 줄일 수 있다고 강조했다. B200 장비는 공랭 방식에서는 약 14.3㎾의 전력을 요구하지만 수랭 적용 시 약 12.3㎾까지 낮아진다는 설명이다. 한편에 마련된 데이터센터 관제실에서는 직원들이 GPU와 네트워크 상태 등을 대형 모니터를 통해 실시간으로 확인·관리하...