[르포] "수랭식으로 AIDC 전력 소비 13.9% 줄여"⋯'NHN 팩토리X 서울' 가보니

엔비디아 B200 GPU 7656장 가동...열 때문에 성능 떨어지는 '스로톨링' 문제 해소 "10분 안에 발전기 가동"⋯비상 상황 대비 '발전기실' 구축 [아이뉴스24 최효경 기자] 서울 영등포구 양평동에 위치한 인공지능(AI) 데이터센터 'NHN 팩토리X 서울'. 건물 6층 데이터홀 문을 열자 사람 키를 훌쩍 넘긴 검은색 서버 랙이 줄지어 모습을 드러냈다. B200 그래픽처리장치(GPU) 서버 6대가 배치된 랙 위로는 굵은 냉각수 배관이 지나갔고, 뒤편에는 냉매 호스와 전력·통신 케이블이 촘촘히 연결됐다.수천장의 GPU가 쉼 없이 연산하고 있지만 뜨거운 열기나 귀를 찌르는 굉음은 없었다. 서늘한 바람이 부는 데이터홀에서는 바로 옆 사람의 설명을 알아들을 수 있을 정도로 조용했다. 이일준 NHN클라우드 기술사업부장은 "공랭식 냉각을 사용할 경우 GPU 서버에서 나오는 소음 데시벨이 90(dB)에서 110(dB)에 달한다"며 "이 곳은 직접수랭식(DLC)을 통해 데시벨이 6-70(dB)에 불과한 것"이라고 말했다. 데이터홀이 외부에 공개된 것은 이번이 처음이다. 그만큼 서비스 운영에 핵심적인 공간이란 의미다.팩토리X 서울 내부 전경. [사진=NHN클라우드] B200 총 7656장⋯"수랭식 냉각으로 전력 효율 약 14% 높여" 18일 방문한 'NHN 팩토리X 서울'에는 엔비디아 B200 GPU 총 7656장이 있다. 한 장에 약 10억원, 한 랙 당 60억원 규모다. NHN클라우드는 건물 3~6층에서 AI 모델 학습과 추론에 필요한 컴퓨팅 자원을 운영한다. 이곳은 지난 해 정부가 발주한 1조 4700억원 규모의 'AI 컴퓨팅 인프라 사업'에서 NHN클라우드가 1조원 규모의 AI 인프라 구축과 운영을 맡으면서 조성됐다.지난 4월부터 본격 가동된 팩토리X의 핵심 경쟁력은 GPU의 열을 잡는 직접수랭식(DLC) 냉각이다. 서버 내부 GPU와 중앙처리장치(CPU)에 '콜드플레이트'를 맞대고, 그 안으로 냉각수를 순환시켜 열을 직접 빼낸다. 데워진 냉각수는 랙 아래 설치된 냉각수분배장치(CDU)를 거쳐 다시 식혀진다.수랭식의 효과는 전력 사용량에서 드러난다. 이일준 NHN클라우드 기술사업부장은 "GPU 서버 한 대 전력 기준 공랭식에서는 14.3킬로와트(kW)인 반면, 수랭식의 경우 12.3kW로 낮아진다"며 "공랭식보다 서버 전력 사용량이 약 13.9% 줄어드는 것"이라고 설명했다.서버 6대가 들어간 랙을 기준으로 하면...