베일 벗은 머스크의 AI 공장…"우리보다 빨리 컴퓨팅 자원 늘리는 곳 없어"

세계 최대 컴퓨팅 단지인 xAI의 '슈퍼콜로서스' 내부가 11일(현지시간) 공개됐다.

일론 머스크 테슬라 최고경영자(CEO)는 11일(현지시간) X(옛 트위터)를 통해 xAI 타운홀 미팅 영상을 공개했다. 머스크 CEO는 테네시주 멤피스 콜로서스2에서 근무 중인 인프라 건설 인력과의 화상연결을 통해 전 직원에게 데이터센터 내부를 공유했다.

영상 속 데이터센터 내부는 '인공지능(AI) 팩토리'라고 할 만큼 기존 제조업 공장과 닮은 모습이었다. 안전모를 쓴 직원들 너머로 수십개 서버가 끝없이 늘어서 있었고, 천장은 도관들로 복잡하게 연결됐다. 개별 서버에 꽂힌 수십개의 랙들에서는 그래픽처리장치(GPU)들이 초록색 불빛을 내뿜으며 웅웅거리는 연산음을 냈다.

눈에 띄는 점은 건설 속도다. 현장의 한 xAI 엔지니어는 "데이터홀 하나에는 약 1368㎞ 이상의 광섬유, 2만7000개 그래픽처리장치(GPU), 20만개의 커넥터가 들어가는데 이를 구축하는 데 6주도 안 걸렸다"고 전했다. 이런 데이터홀을 동시에 여러 개 짓는 형태로 총 11개를 완공했고, 지금 이 순간에도 데이터홀이 늘어나고 있다는 설명이다.

슈퍼콜로서스는 ▲2024년 7월 가동된 첫 번째 데이터센터인 콜로서스1 ▲지난달 17일 공식 운영을 시작한 콜로서스2, ▲작년 말 건물을 매입해 내부 공사 및 전력 인프라 구축을 진행 중인 콜로서스3로 구성된다. 특히 콜로서스1의 경우 부지 선정부터 가동까지 전 과정을 122일 만에 완료해 젠슨 황 엔비디아 CEO로부터 "초인적인 속도"라는 찬사를 받기도 했다.

머스크 CEO는 직원들에게 "현재 xAI보다 빠르게 컴퓨팅 자원을 인터넷에 올리는 곳은 없다"며 자신감을 내비쳤다. 비결은 테슬라식 수직계열화다. 건축과 기계, 전기, 배터리팩 등 데이터센터 건설 전 과정을 외부에 맡기지 않고 직접 통제해 속도를 끌어올린 것이다.

3개 데이터센터 전력 사용량은 총 2.5기가와트(GW)가 넘는다. 대형 원자력발전소 2개로도 공급하기 어려운 규모다. xAI는 발전소를 건설하고 전력망 연결에 수년을 기다리는 대신 트럭 크기의 가스터빈을 수십대 설치하는 방식을 택했다. 이는 '발전기를 한 곳에 1년 미만으로 두면 허가없이 가동할 수 있다'는 지역 규제의 허점을 이용한 것이다. 그러나 지난달 미국 환경보호청(EPA)이 임시 발전기 설치도 대기 오염방지 대책 등 규제를 통과해야한다고 지적하며 제동이 걸린 상태다.

한편 머스크 CEO는 우주 데이터센터 사업에 대한 의지도 강하게 드러냈다. 그는 이날 회의에서 데이터센터 위성을 만들 달 공장과, 이를 우주로 발사하기 위한 우주 투석기(매스 드라이버)에 대한 구상도 공개했다.

이러한 구상을 구현하기 위한 조직 개편도 단행했다고 머스크 CEO는 밝혔다. 그는 "최근 회사를 떠난 이들은 회사 초기에 운영에 적합했던 사람들"이라며 세대 교체의 당위성을 설명했다. 최근 유화이 우, 지미 바 등 초기 멤버들이 퇴사하며 창립 멤버 12명 중 절반이 xAI를 떠났다. 이 중 5명은 최근 1년 내 퇴사했다.

실리콘밸리=김인엽 특파원 inside@hankyung.com