'AI파운드리' 사업 나선 KT클라우드

KT클라우드가 ‘인공지능(AI) 파운드리’ 사업을 본격화한다. 이를 위해 업스테이지, 디노티시아, 폴라리스오피스, 리벨리온 등 AI 전문 업체와 전략적 파트너십(사진)을 맺었다고 18일 발표했다.

파운드리는 다른 회사가 설계한 반도체 칩을 대신 제조해주는 전문 반도체 생산 업체를 말한다. 기업의 AI 전환(AX) 시장에도 이 같은 개념을 도입할 수 있다는 게 KT클라우드의 목표다. 회사 관계자는 “많은 기업이 AI 도입을 통한 업무 혁신에 관심을 두고 있지만 높은 인프라 투자 비용과 솔루션 도입·운영 부담, AI 기술 전문성 확보 어려움에 직면하고 있다”며 “다양한 파트너사와 손잡고 고객이 실제로 AI를 도입할 수 있도록 ‘엔드 투 엔드’ 서비스를 제공할 예정”이라고 설명했다.

업스테이지는 네이버 출신이 창업한 토종 대규모언어모델(LLM) 기업이다. 리벨리온은 퓨리오사AI와 함께 신경망처리장치(NPU) 설계 분야 주요 스타트업이다. NPU는 엔비디아가 독점하고 있는 AI 칩(GPU)에 비해 경량 AI 모델에 특화된 반도체다. 디노티시아와 폴라리스오피스는 각각 AI 반도체 솔루션, 문서 처리 분야 전문 업체다.

KT클라우드를 중심으로 5개사는 고객이 보유한 데이터를 빠르게 정제하고, 경량화한 AI 모델과 모듈형 검색증강생성(RAG) 서비스를 통해 신뢰성 높은 AI 시스템을 간편하게 구현하는 서비스를 출시할 계획이다. RAG는 AI 모델이 외부 데이터를 활용해 환각 현상을 줄이는 기술이다. AI 모델은 라마, 미스트랄, 솔라 등 다양한 오픈소스를 활용할 예정이다. 추론을 위한 인프라에는 엔비디아의 그래픽처리장치(GPU)는 물론이고 KT클라우드와 협력해온 리벨리온의 NPU도 적용한다.

이승우 기자 leeswoo@hankyung.com