SKT·Arm·리벨리온, AI 추론 서버 공동 개발…"GPU 대신 CPU+NPU"

SK텔레콤이 글로벌 반도체 설계 기업 Arm, 국내 인공지능(AI) 반도체 스타트업 리벨리온과 손잡고 차세대 AI 추론 서버 솔루션 개발에 나선다.

3사는 9일 차세대 AI 인프라 혁신을 위한 전략적 파트너십(MOU)을 체결했다. Arm이 새롭게 출시한 'Arm AGI CPU'와 리벨리온이 올해 3분기 출시 예정인 'AI 추론 전용 칩 리벨카드(RebelCard™)'를 한 서버에 함께 탑재해 AI 추론 성능을 높이는 솔루션을 공동 개발하고, SKT의 AI 데이터센터에서 실증하기로 했다.

이번 협력의 배경에는 AI 산업의 패러다임 변화가 있다. AI 모델을 만드는 '학습(Training)'에서 실제 서비스를 제공하는 '추론(Inference)'으로 무게중심이 이동하면서 인프라의 핵심 과제도 달라졌다. 추론은 365일 쉬지 않고 작동해야 하는 만큼 전력 효율이 곧 비용 경쟁력과 직결된다. GPU는 추론에도 활용할 수 있지만 전력 소모와 비용이 높아, 추론에 특화된 NPU(신경망처리장치)가 대안으로 부상하고 있다.

CPU와 NPU를 결합하는 방식도 이 맥락에서 나왔다. 실제 AI 서비스 운영에는 AI 연산 외에도 데이터 입출력, 네트워크 통신, 메모리 관리 등 다양한 범용 처리가 동시에 필요하다. CPU가 시스템 전반을 총괄하고 NPU가 AI 추론을 전담하는 '이종 컴퓨팅' 구조로 성능과 효율을 동시에 높이겠다는 전략이다.

Arm AGI CPU는 Arm이 35년 역사상 처음으로 직접 생산에 나선 데이터센터용 프로세서로, AI 추론 서비스에 최적화됐다. 두 칩은 지난 3월 'Arm 에브리웨어' 행사에서 이미 결합 시연을 통해 대규모 데이터센터 상용화 가능성을 입증한 바 있다.

SK텔레콤은 해당 솔루션이 적용된 서버를 자사 AI 데이터센터에 탑재해 성능과 안정성을 검증할 계획이다. 독자 개발 AI 파운데이션 모델 '에이닷엑스 케이원(A.X K1)'을 해당 서버로 운영하는 방안도 검토 중이다.

이재신 SK텔레콤 AI 사업개발 담당은 "추론에 최적화된 인프라와 독자 파운데이션 모델 A.X K1을 결합한 풀 패키지를 제공함으로써 AI 데이터센터 경쟁력을 더욱 강화해 나가겠다"고 말했다.

오진욱 리벨리온 최고기술책임자(CTO)는 "AI 특화 인프라 구축을 위해 각 분야 전문가들이 원팀으로 뭉친 이번 협력은 업계에서도 매우 유의미한 선례가 될 것"이라고 강조했다.

홍민성 한경닷컴 기자 mshong@hankyung.com