SKT, 독자 구축 LLM 에이닷 엑스 3.1 선보여

5 hours ago 1

순수 자체개발 A.X 3 모델과 대규모 학습 기반 A.X 4 모델 ‘투 트랙 전략’

[아이뉴스24 서효빈 기자] SK텔레콤은 자체 개발한 대규모언어모델(LLM) 'A.X(에이닷 엑스) 3.1 라이트'를 오픈소스 커뮤니티 허깅페이스에 공개했다고 11일 밝혔다.

'A.X 3.1 라이트'는 프롬 스크래치(From Scratch) 방식으로 설계부터 학습까지 SK텔레콤이 독자 수행한 70억개(7B) 매개변수 기반의 경량 모델이다. 기존 에이닷 전화 통화요약에 활용된 'A.X 3.0 라이트'의 후속 버전으로, 모바일 환경에서도 높은 효율성과 성능을 발휘하도록 설계됐다.

이번 모델은 자매 모델인 'A.X 4.0 라이트'와 유사한 수준의 한국어 이해 성능을 갖춘 것이 특징이다. 한국어 능력 벤치마크 KMMLU에서는 61.70을 기록해 A.X 4.0 라이트(64.15)의 96% 성능을 달성했고, 한국어 및 한국문화 평가 CLIcK에서는 71.22로 69.97을 기록한 A.X 4.0 라이트를 넘어섰다.

SK텔레콤은 이달 중 340억개(34B) 매개변수를 기반으로 한 'A.X 3.1' 풀모델도 오픈소스로 공개할 예정이다. 이를 통해 프롬 스크래치 방식 LLM 개발 역량을 지속적으로 강화하고, 자사 AI 브랜드 '에이닷(A.)'의 기술 기반도 확대한다는 전략이다.

앞서 SK텔레콤은 2018년부터 한국어 기반 AI 언어 모델 개발을 시작해, 2019년 KoBERT, 2020년 GPT2 한국어 모델 등을 공개했다. 2022년에는 자체 LLM 'A.X' 기반의 에이닷 서비스를 선보였으며, 2023년부터는 A.X 3.0 모델을 통화요약 등 다양한 기능에 적용해 왔다.

SK텔레콤은 앞으로도 △A.X 3 시리즈를 자생력 있는 소버린 AI 모델로 발전시키고 △대규모 학습(CPT)을 활용한 A.X 4 시리즈를 특화 영역에 적용하는 투트랙 전략을 지속할 방침이다.

김태윤 SK텔레콤 파운데이션 모델 담당은 "꾸준히 쌓아 온 한국형 LLM 개발 역량을 바탕으로 AI 생태계 자립성과 국가 AI 경쟁력 제고에 기여하겠다"고 말했다.

/서효빈 기자(x40805@inews24.com)

포토뉴스