GPU도 빌려쓰는 시대 … '66조 구독 시장' 잡기 나선 ICT 기업들

구독형 그래픽처리장치(GPU) 시장을 선점하기 위한 국내 정보통신기술(ICT) 업계의 경쟁이 거세지고 있다. GPU가 생성형 인공지능(AI) 모델 개발에 필수 인프라로 자리잡으며 기업 고객의 수요가 폭발적으로 늘어나고 있어서다. 국내 클라우드 기업들과 통신사 등 다양한 기업들이 이미 시장에 뛰어들어 점유율 선점에 나섰다.

GPU는 AI 모델 개발에 있어 필수적인 존재다. 딥러닝 과정에서 필요한 대량 데이터 처리를 돕고 연산 속도를 높이기 때문이다. 다만, 중소기업과 스타트업을 비롯한 작은 규모의 기업들이 자체적으로 GPU를 구축하기는 어렵다. 하드웨어 구매 등을 비롯한 인프라 투자 단계에서 큰 비용이 발생하는데다 전력을 많이 사용해 에너지 효율성도 높지 않다. 이들이 클라우드 환경에서 GPU를 구독하는 형태로 사용하는 GPUaaS(GPU as a Service)에 주목하는 이유다.

GPUaaS는 클라우드 서비스 기업이 클라우드를 통해 가상 환경에서 GPU를 사용자의 주문에 맞춰 할당하고 빌려주는 서비스다. 인프라를 직접 갖추지 않아도 인터넷 연결만 가능하다면 고성능 GPU에 접근이 가능하다는 게 강점이다. 사용자는 AI 모델 훈련이나 인프라 구축에 필요한 GPU를 원하는 만큼만 사용하고 주문량을 유연하게 조정할 수 있다.

GPUaaS에 대한 수요는 현재 폭발적으로 증가하고 있다. 시장조사기관 포춘 비즈니스 인사이트는 글로벌 GPUaaS 시장 규모가 지난해 43억1000만달러(약 5조7400억원)에서 매년 35.8%씩 성장해 2032년에는 498억4000만달러(약 66조3800억원)로까지 커질 것으로 예측했다.

또 공급기업들에게는 구독형 인프라 서비스(IaaS)와 비교해 더욱 높은 부가가치 창출이 가능하다는 강점도 있다. GPU 구독 서비스는 기존에 제공하고 있던 IaaS에 GPU를 추가한 형태다. 공급 기업이 서비스 제공 단가를 높게 책정할 수밖에 없다. 여기에 AI 기업들의 경우 고성능 컴퓨팅 자원이 필수적이기 때문에 수요 또한 IaaS와는 비교할 수 없을 정도로 높다.

이에 클라우드사들을 비롯해 통신사, IT기업들은 66조 규모의 시장을 선점하기 위해 발빠르게 대처하는 모습이다. 최신 GPU 확보에 주력하고 다양한 글로벌 기업들과 손을 잡으며 기술력을 키우고 있다.

KT클라우드는 엔비디아의 최신 GPU를 AI 인프라에 적용한다.. AI 학습과 추론 과정을 최적화해 공공기관과 스타트업 고객을 확보하기 위해서다. 기존 KT클라우드가 가진 AI 훈련 서비스에 엔비디아의 최신 GPU 모델인 'H200'을 도입해 AI 인프라 성능을 개선한다. 기존에 사용하 'H100' 기반의 AI 훈련 서비스에 최신 GPU를 추가하며 연산 처리 성능과 전력 효율을 향상시켰다.

SK텔레콤도 지난해 GPU 구독 서비스를 시작했다. 자회사 SK브로드밴드의 가산 데이터센터에 GPU를 탑재했다. 엔비디아로부터 GPU를 직접 공급받는 GPU 구독 서비스 기업 람다와 협력 체계도 구축했다. 3년 안에 최소 1000대 이상의 GPU를 확보할 계획을 세웠다.

클라우드 기업들도 최신 GPU를 들여오는 데 발벗고 나섰다. NHN클라우드는 지난해 광주광역시에 구축한 국가AI 데이터센터(국가AIDC)를 거점으로 GPUaaS 사업을 키운다. 올해 1월 영업권이 국가에서 NHN클라우드로 이관된 이후 구독 역량 강화에 더욱 힘쓰는 모습이다.
최지희 기자 mymasaki@hankyung.com