LG CNS, 저비용·고성능 '추론형 LLM' 개발…에이전틱 AI 경쟁 뛰어든다

LG CNS가 저비용·고성능 '추론형 거대언어모델(LLM)'을 개발하고 에이전틱 인공지능(AI) 경쟁에 가세했다.

LG CNS는 코히어와 함께 1110억개 파라미터를 갖춘 추론형 LLM을 개발했다고 10일 밝혔다. 코히어는 구글 출신 AI 연구원들이 설립한 캐나다 기반 AI 유니콘 기업으로 양사는 지난 3월부터 기술 개발에 협력해왔다.

LG CNS는 인간의 개입 없이 AI가 자율적으로 복잡한 문제를 해결하고 작업을 수행하는 '에이전틱 AI' 구현을 목표로 추론형 LLM을 개발했다. 이를 위해 단순 질문-응답을 넘어서 다단계 의사결정이 가능한 구조를 갖추도록 하는 데 집중했다.

이번 모델의 강점은 저비용·경량화·고성능이다.

일반적으로 1000억개 이상 파라미터를 가진 모델은 최소 4장의 GPU가 필요하다. 하지만 이 모델은 모델 압축 기술을 통해 2장만으로도 구동이 가능하도록 설계됐다.

중소기업도 '온프레미스(구축형)' 방식으로 고성능 AI를 자체 인프라에서 운용할 수 있도록 경량화 기술을 적용했다. 클라우드 환경이 아닌 자체 인프라에서 AI를 운용할 수 있는 만큼 보안성과 독립성을 강화할 수 있다. LG CNS는 민감 데이터를 다루는 금융·공공 부문 고객에 데이터 주권을 보장하는 '소버린 AI' 구현 기반을 마련하게 됐다고 설명했다.

성능은 벤치마크를 통해 확인됐다. 수학 문제 기반 테스트인 'Math500'과 'AIME 2024'에서 GPT-4o, GPT-4.1, 클로드 3.7 소넷 등 주요 AI 모델보다 높은 점수를 기록했다.

'Math500'은 대학 수준 이상 수학문제 500개로 구성된 테스트로 AI가 얼마나 논리적으로 문제를 풀 수 있는지를 검증한다. 'AIME 2024'는 미국 수학 경시대회 문제를 활용해 AI의 수학적 추론 능력을 평가한다.

한국어 이해 평가 지표인 KMMLU와 KO-IFEval에서도 온프레미스 모델 중 최고 성능을 보였다. 특히 파라미터 수가 두 배 이상인 알리바바 큐원3보다도 우수한 결과를 나타냈다.

LG CNS는 코히어와 공동 개발한 초대형·경량형(5월 출시) LLM 2종, LG AI연구원의 '엑사원'을 포함한 LLM 라인업을 확보하게 됐다. 이를 바탕으로 비즈니스 자동화 등 고객 맞춤형 에이전틱 AI 서비스를 본격 확대할 계획이다.

아울러 코히어와 지속 협업으로 모델 고도화도 추진할 방침이다.

김태훈 LG CNS AI클라우드사업부 전무는 “고객 비즈니스에 특화된 에이전틱 AI 서비스를 제공하고, 고객의 AX를 선도하는 최고의 파트너로 자리매김할 것”이라고 말했다.

류태웅 기자 bigheroryu@etnews.com