토종 AI칩社, 자체 SW 플랫폼 개발 '속도'

국내 인공 신경망처리장치(NPU) 업체들이 반도체용 소프트웨어(SW) 개발에 속도를 내고 있다. 엔비디아, 구글 같은 글로벌 기업이 ‘칩+소프트웨어’ 패키지를 함께 제공하는 풀스택 전략으로 시장을 장악하는 것에 대항하기 위해서다. 인공지능(AI)업계에선 “개발자가 쉽고 편하게 쓸 수 있는 소프트웨어 생태계를 구축했는지가 AI 칩 경쟁력의 핵심이 될 것”이라는 전망이 나온다.

◇AI 최적화 기술이 핵심

11일 업계에 따르면 토종 AI 서버용 반도체 회사 리벨리온은 ‘RAISE’라는 자체 소프트웨어 개발에 박차를 가하고 있다. RAISE는 NPU를 고객사인 AI 서버 회사들이 곧바로 활용할 수 있도록 하는 소프트웨어 플랫폼이다. 이 플랫폼은 파이토치, vLLM 등 기존 AI 개발 도구가 리벨리온 칩에서 잘 작동하도록 연결해주는 역할을 한다.

이를 위해 리벨리온은 글로벌 소프트웨어 회사 레드햇과 협력하고 있다. 레드햇은 1990년대 ‘리눅스’라는 오픈소스 생태계를 주도했다. 리벨리온은 ‘레드햇 오픈시프트 AI’라는 플랫폼을 통해 풀스택 AI 추론 솔루션을 제공한다. 박성현 리벨리온 최고경영자(CEO)는 “그래픽처리장치(GPU) 중심의 AI 서버 환경을 넘어 NPU 기반 추론 인프라의 새로운 대안을 제시하는 사례가 될 것”이라고 말했다.

국내 AI 반도체 회사 하이퍼엑셀도 풀스택 소프트웨어를 개발하겠다는 의지가 강하다. 하이퍼엑셀은 AI 추론 모델에 특화한 ‘LPU’(LLM 프로세싱 유닛)를 개발하는 스타트업이다. ‘eDSL’이라는 전용 개발 언어를 만들고 있다. LPU의 계산 기능을 직접 설계하고 연산 능력을 극대화하는 AI 언어다. 또 파이토치, vLLM 같은 오픈소스로 공개된 AI 개발 도구를 LPU에서 그대로 사용할 수 있도록 하는 중간 실행 소프트웨어인 ‘하이퍼덱스 SDK’를 개발 중이다.

이진원 하이퍼엑셀 최고기술책임자(CTO)는 “완전한 독자 생태계를 구축하기보다 기존 오픈소스가 LPU에서 최대 성능을 발휘할 수 있는 솔루션을 구축하고 있다”며 “중국 딥시크 출현 이후 AI 최적화 수요가 급증하고 있다”고 했다.

◇“AI 칩 수요 기업 요구 반영해야”

이들이 자체 소프트웨어 확보에 나서는 것은 엔비디아, 구글 등 풀스택 소프트웨어를 갖춘 거대 AI 반도체 기업에 대항하기 위해서다. AI 칩 세계 1위 엔비디아의 최대 강점은 수십 년간 쌓은 소프트웨어 노하우다. 잘 알려진 쿠다(CUDA)뿐만이 아니다. 연산을 최적화하는 텐서RT, 초거대 모델 학습을 지원하는 네모(NeMo), GPU 여러 개가 데이터센터에서 각자의 정보를 빠르게 공유할 수 있도록 해주는 ‘NCCL’ 같은 라이브러리까지 다양한 소프트웨어가 유기적으로 연결돼 있다.

구글이 텐서처리장치(TPU)로 엔비디아 GPU에 대항할 수 있는 것도 소프트웨어의 힘 덕분이다. 이들은 텐서플로 같은 전용 프레임워크와 컴파일러(XLA) 등 탄탄한 TPU 전용 소프트웨어 스택을 갖추고 있다.

이에 비해 국내 AI업계에선 칩의 연산 능력을 키우는 데 지나치게 집중한다는 우려가 팽배하다. 소프트웨어에서 차별점을 확보하지 못한다면 개발자들은 계속 엔비디아 GPU를 택할 수밖에 없다는 것이다.

강해령 기자 hr.kang@hankyung.com