래블업, 퓨리오사AI RNGD 성능검증 백서 발간··· '추론 AI 반도체 효율 입증'

[IT동아 남시현 기자] 래블업이 지난 7월 29일, 퓨리오사AI와 협력해 ‘RNGD Meets Backend.AI:주권 AI 시대를 위한 AI 추론 인프라’라는 이름의 기술 백서를 출간했다. 래블업은 AI 인프라 운영 플랫폼 백엔드닷에이아이를 서비스하는 소프트웨어 기업으로 GPU 가상화, 이기종 가속기 통합 관리, 단일 소프트웨어를 다수가 활용하는 멀티테넌트 자원 운영 등 기업용 AI 인프라 관련 소프트웨어 및 기술을 개발한다.. 래블업은 현재 12개 이상의 AI 가속기 기업과 협력해 이기종 컴퓨팅을 지원 중이며 이번 백서는 퓨리오사AI의 2세대 신경망처리장치(NPU) RNGD(레니게이드)의 기술적 특징과 실제 동작 환경에서의 성능을 알리기 위해 출간됐다. 래블업이 지난 7월 29일, 퓨리오사AI RNGD와 엔비디아 RTX PRO 6000 블랙웰 서버 에디션을 비교한 백서를 발간했다 / 출처=래블업 퓨리오사AI는 2017년 설립된 AI 반도체 설계 전문 기업으로 비전(컴퓨터 시각처리) 전용 추론 NPU 워보이와 대형언어모델(LLM) 및 멀티모달 AI 추론을 위한 NPU RNGD를 양산 중이다. RNGD는 지난 2024년 핫 칩스에서 RNGD를 처음 공개한 뒤 올해 초 본격적인 제품 양산을 선언했으며 현재 국내 및 글로벌 시장에 RNGD 확산을 위한 계약을 진행 중이다. 2026년 8월 현재 RNGD는 삼성SDS의 클라우드에서 NPUaaS로 서비스를 시작했으며, 포르투갈 리스본의 에퀴닉스 LS2 데이터센터 배치는 물론 최근 스웨덴에도 15MW급 데이터센터에 제품을 공급하기로 한 상태다. 국산 AI 반도체, 주권 AI 실현을 위한 열쇠 백서는 추론용 AI 반도체 시대의 개막과 시장 상황, 그리고 주권 AI의 중요성으로 시작한다. 오늘날 AI 시장은 AI를 구축하는 학습과 구축된 AI를 서비스하는 추론 시장으로 이원화되었다. 시장의 중심에 있는 엔비디아는 GPU를 통해 학습과 추론을 모두 제공함으로써 시장의 중심이 되었지만 학습 시장이 어느 정도 성숙하며 전력 소모량과 발열 관리, 데이터센터의 상면 등 복합적인 요소까지 검토하기 시작했다. 그러다 보니 AI 추론에 한해서는 가격이 비싸고 전력 소모량이 높은 GPU 대신에 NPU, TPU 등 추론 전용으로 설계된 AI 반도체를 활용하자는 움직임이 생기고 있다. 퓨리오사AI의 NPU가 바로 이 추론용 AI 반도체 수요에 대응한다. 전 세계 국가들이 AI 주권을 얘기하고...