업스테이지·퓨리오사AI 맞손, '국산NPU에 국산 LLM 올린다'

[IT동아 남시현 기자] 인공지능(AI) 기술 기업 업스테이지와 AI 반도체 팹리스 기업 퓨리오사AI가 AI 시장 경쟁력 강화를 목표로 양해각서를 체결했다. 이번 양해각서는 퓨리오사AI의 2세대 신경망처리장치(NPU) ‘RNGD(레니게이드)’에 업스테이지의 대형언어모델(LLM) 솔라를 탑재하는 것을 목표로 한다. 또한 네트워크 연결 없이 폐쇄된 환경에서도 퓨리오사AI NPU를 기반으로 솔라 기반 AI가 구동되는 온프레미스 AI 구축 사업을 공동 추진하고 향후 글로벌 시장 공략에서 나선다.

백준호 퓨리오사AI 대표(좌측)와 이활석 업스테이지 CTO(우측) / 출처=업스테이지

이번 협약식은 백준호 퓨리오사AI 대표와 이활석 업스테이지 최고기술책임자(CTO)를 비롯한 양사 주요 관계자들이 참석한 가운데 진행됐다. 퓨리오사AI와 업스테이지 간의 양해각서 체결은 지난 2022년 퓨리오사AI의 1세대 NPU ‘워보이’와 업스테이지의 광학문자인식(OCR) 설루션 관련 협력 이후 두 번째다.

가볍게 알아보는 AI 모델의 구동 방식

일반적으로 AI라고 했을 때 떠올리는 서비스는 오픈AI의 챗GPT다. 챗GPT는 대량의 데이터를 사전에 학습한 뒤 자연어를 이해하고 생성하는 능력을 갖춘 대형언어모델이다. 대형언어모델을 쉽게 설명하면 도서관이고, 챗GPT 같은 AI 모델은 정답이 적힌 책을 찾아주는 사서라고 할 수 있다. 사용자가 자연어로 질문하면 사서 역할을 하는 GPT-4o 등의 AI 모델이 내용을 인식하고, 수십억 개의 장서가 갖춰진 도서관에서 정답이 적힌 서적을 찾아서 제공하는 식이다.

업스테이지가 시범 제공하는 대화형 AI / 출처=업스테이지

AI의 성능을 끌어올리기 위해서는 도서관의 도서 수를 많이 확보하면 되고, 더 좋은 정답과 이해 능력을 올리려면 사서를 교육하면 된다. 여기서 도서관의 장서가 곧 데이터의 총량이라 할 수 있고, 장서 수가 많을수록 AI가 찾아서 제공할 수 있는 결과도 많아진다.

하지만 단순히 책이 많다고 해서 도서관의 수준이 올라가는 게 아니듯 데이터의 품질을 끌어올리고 개량하는 작업이 필요하다. 또 사서의 능력과 효율을 올리기 위한 학습 과정도 필요하다. 여기서 필요한 장치가 그래픽 카드(GPU)며 현재 엔비디아의 GPU 장치가 90% 이상의 시장 점유율을 가져가고 있다.

문제는 많은 기업들이 AI 구동에 필요한 매개변수를 다듬고, AI의 성능과 효율을 끌어올리다 보니 전 세계적으로 GPU의 수요가 늘고 있다. 이로 인해 GPU 가격이 오르는 것은 물론 수급에도 어려움을 겪고 있다. 특히 모델을 학습하는 방안은 아직까지 GPU를 활용하는 게 가장 효과적이라서 많은 비용을 들여서라도 GPU를 수급하는 기업들이 많다. 그런데 AI 모델이 기존에 구축된 도서관에서 장서를 찾아주는 역할인 ‘추론’ 과정은 고가의 GPU가 아닌 NPU를 사용할 수 있다. NPU는 AI 처리에 전용으로 설계된 반도체로 GPU 대비 낮은 소비전력으로 AI 추론 작업을 수행한다.

국산 NPU와 국산 LLM의 결합, 어떻게 이뤄지나?

이번 양해각서의 주요 내용은 퓨리오사AI의 NPU에 업스테이지의 LLM을 탑재하는 것이다. 업스테이지가 어떤 LLM을 탑재할 것인가까지 구체적으로 밝히진 않았지만, 이전에 출시된 모델부터 도입하거나 오는 7월 중 출시할 솔라 프로 2.0 LLM을 탑재할 가능성도 있다.

솔라 프로 2는 ‘MMLU(종합 지식)’ ‘IFEval(지시 이행)’ 등 주요 LLM 성능 지표에서 메타 라마 4 스카우트보다 높은 성능을 발휘했고, 라마 3.3 70B 및 알리바바 큐웬 2.5 72B 등 매개변수가 두 배가 넘는 모델보다 좋은 성능을 냈다. 아울러 업스테이지 LLM 중 처음으로 추론 모드를 추가해 복잡한 문제에서 정교한 답변을 제공한다.

퓨리오사AI의 2세대 반도체 레니게이드의 기판 / 출처=퓨리오사AI

퓨리오사AI의 RNGD는 ‘엔터프라이즈 및 클라우드를 위한 AI 추론’에 최적화된 반도체다. AI 모델을 생성하고 구축하는 것보다는 AI 모델을 구동하고 작업을 수행하는 용도다. 따라서 업스테이지가 LLM을 개발하면 퓨리오사AI의 RNGD가 이를 처리하는 방식이 될 전망이다. 향후 업스테이지가 일반 사용자 대상으로 챗GPT와 같은 챗봇 서비스를 제공하면 퓨리오사AI RNGD가 연산을 처리할 수 있다.

덧붙여 온프레미스 AI 사업 구축 관련 협력은 금융, 국방 등 폐쇄망이나 임베디드 시스템 등 네트워크 연결이 없지만 AI 수행이 필요한 환경에서도 퓨리오사AI RNGD를 활용해 AI를 쓸 수 있도록 하는 작업이다.

김성훈 업스테이지 대표는 “이번 협력은 국내 AI 산업 자립화를 향한 의미 있는 발걸음”이라며, “AI 소프트웨어부터 하드웨어까지 모두 국내 기술로 구현하는 데 큰 의의가 있으며, 앞으로도 업스테이지는 퓨리오사AI와의 긴밀한 협력을 바탕으로 글로벌 시장에서도 한국형 AI의 기술 경쟁력을 입증해 나가겠다”라고 말했다.

IT동아 남시현 기자 (sh@itdonga.com)