LG CNS, 실속형 LLM 공개…캐나다 AI 기업과 공동개발

LG CNS가 캐나다 인공지능(AI) 스타트업 코히어와 손잡고 한국어에 특화된 경량형 대규모언어모델(LLM)을 공개했다. ‘에이전틱 AI’를 핵심 사업 모델로 삼고 있는 LG CNS는 이번 경량 AI 모델을 통해 금융, 공공 분야를 공략하는 데 속도를 낼 계획이다.

25일 AI업계에 따르면 이번에 LG CNS가 공개한 AI 모델은 파라미터(매개변수) 70억 개를 갖춘 경량형 모델이다. 파라미터 수천억 개를 가진 거대 LLM에 비해 특정 영역에서의 빠른 처리 속도와 낮은 운영 비용이 장점이다.

2019년 구글 출신 AI 연구원들이 설립한 코히어는 ‘AI 대부’로 불리는 제프리 힌턴이 직접 투자한 기업이다. AI업계 관계자는 “코히어와 함께 한국어 특화 LLM을 처음 선보인 것은 국내 기업을 대상으로 선택지를 넓혀주겠다는 의미”라고 말했다. 금융업계에 따르면 대형 은행의 경우 마이크로소프트(MS) 등 빅테크를 통해 에이전틱 AI 시스템을 구축하는 데 1000억원 안팎의 비용을 투자한 것으로 알려졌다. 투자 비용 부담이 워낙 커 실속형을 원하는 고객이 많을 것이라는 게 LG CNS의 판단이다.

LG CNS는 특히 금융·공공 분야 등 민감한 데이터가 많은 고객사가 안전하게 LLM을 활용하도록 하기 위해 코히어와 손잡았다. 코히어는 캐나다 최대 은행인 로열뱅크오브캐나다(RBC) 등에 AI 솔루션을 제공했다. 국내에선 LG CNS와 유일하게 지난 3월 파트너십을 맺었다. LG CNS 관계자는 “이번에 선보인 LLM은 파라미터 규모가 비슷한 다른 다섯 개의 오픈소스 모델을 대상으로 실시한 벤치마크 테스트에서 합산 점수 1위를 달성했다”고 설명했다.

강경주 기자 qurasoha@hankyung.com