LG CNS, 추론형 LLM 개발…"에이전틱 AI 본격화"

LG CNS는 캐나다의 인공지능(AI) 유니콘 기업 코히어와 손잡고 초대형 대규모언어모델(LLM)을 개발했다. 스스로 사고해 답을 도출하는 추론(reasoning) 기능을 갖춘 모델이다. 기업 내부 환경에 AI 모델을 구축하는 온프레미스 방식에 특화해 금융·공공 등 보안이 중요한 영역을 집중적으로 공략한다는 목표다.

LG CNS는 코히어와 함께 초대형 추론형 LLM을 공동 개발했다고 10일 발표했다. 파라미터(매개변수)가 1110억 개로 23개 언어를 지원한다. 한국어, 영어, 일본어, 중국어는 물론 히브리어, 페르시아어 등도 이해할 수 있다. 추론형 LLM은 AI가 논리적인 해답을 도출하는 모델로, AI가 스스로 판단해 작업을 수행하는 ‘에이전틱 AI’ 구현에 필수적인 기술로 꼽힌다.

이 모델은 코히어의 기업용 LLM ‘커맨드’에 LG CNS가 국내 산업 분야에서 축적한 기술력을 결합했다. LG CNS는 LLM을 온프레미스 방식으로 제공해 고객이 민감한 데이터를 외부에 유출하지 않고 자체 인프라 내에서 처리할 수 있도록 할 계획이다. 회사 관계자는 “코히어의 커맨드 모델은 이미 캐나다 최대 은행 RBC 등에서 온프레미스 방식으로 사용되는 등 시장에서 검증됐다”고 설명했다.

LG CNS는 모델 압축 기술을 통해 두 개의 그래픽처리장치(GPU)만으로 AI 모델을 구동할 수 있다고 강조했다. 통상 파라미터가 1000억 개 이상인 LLM은 최소 네 개의 GPU가 필요하다는 설명이다. 회사 측은 “성능 면에서도 대표적 추론 능력 벤치마크인 매스500, AIME 2024에서 오픈AI의 GPT-4o, 앤스로픽의 클로드 3.7 소네트 등 글로벌 기업 LLM보다 높은 점수를 받았다”고 강조했다. 한국어 평가 테스트에서도 온프레미스형 LLM 가운데 최고 수준의 성능을 기록했다.

LG CNS는 LG AI연구원의 ‘엑사원’을 활용해온 데 이어 지난달 코히어와 함께 파라미터 70억 개 규모의 경량형 LLM도 선보였다. 여기에 초대형 모델까지 추가해 고객의 선택 폭을 넓혔다.

LG CNS 관계자는 “코히어와 계속 협력해 LLM 성능을 지속해서 고도화할 것”이라며 “금융과 공공 등 다양한 산업에서 맞춤형 에이전틱 AI 서비스를 확대하겠다”고 말했다.

이승우 기자 leeswoo@hankyung.com