모레 “AI 데이터센터, '토큰 팩토리 OS'로 효율 높여야”

모레가 엔비디아·AMD 등 다양한 인공지능(AI) 가속기를 통합 운용해 토큰 생산 효율을 높이는 '토큰 팩토리'를 제시했다.

조강원 모레 대표는 15일(현지시간) 미국 산타클라라 컨벤션센터에서 열린 'AI 인프라 서밋 2026'에서 AI 데이터센터가 그래픽처리장치(GPU) 자원 공급을 넘어 AI 모델의 토큰을 생산·판매하는 '토큰 팩토리'로 진화하고 있다고 진단했다.

모레는 AI 데이터센터 경쟁력이 개별 GPU 성능을 넘어 전체 인프라의 토큰 생산 효율로 이동하고 있다고 봤다. 엔비디아·AMD 등 서로 다른 제조사와 세대의 가속기가 혼재하는 환경에서 추론 작업과 자원을 통합 최적화하는 소프트웨어가 중요해졌다는 설명이다.

이를 구현하기 위해 '토큰 팩토리 운용체계(OS)'를 제시했다. 데이터센터 내 다양한 가속기를 통합 활용하고, 모델과 가속기의 연산 특성에 따라 최적의 추론 경로를 구성하는 AI 인프라 소프트웨어다. 특정 GPU나 추론 엔진에 대한 종속성을 낮추면서 토큰 생산 효율을 높이는 것이 목표다.

핵심 기술로는 'MoAI Inference Framework'를 제시했다. 엔비디아·AMD·텐스토렌트 등 이기종 가속기를 하나의 클러스터로 묶어 추론 작업을 각 가속기 특성에 맞게 분산하는 것이 특징이다. 엔비디아 H100과 AMD MI300X를 결합한 분산 추론으로 동일 벤더 구성 대비 최대 1.67배 높은 처리량을 구현한 사례도 제시됐다.

앞서 모레의 이기종 AI 인프라SW는 국제전기통신연합(ITU) 'AI 포 굿 글로벌 서밋 2026'에서 혁신 사례로 선정됐다. 다양한 AI 가속기를 활용해 운영 비용과 에너지 소비를 줄이는 것이 특징이다.

조 대표는 “중요한 것은 특정 GPU 성능이 아니라 서로 다른 가속기를 얼마나 효율적으로 활용해 낮은 비용으로 토큰을 생산하느냐”라며 “분산 추론 소프트웨어를 기반으로 고객이 특정 하드웨어에 종속되지 않는 토큰 팩토리를 구축하도록 지원하겠다”고 말했다.

조벼리 기자 starry@etnews.com