업스테이지, 성능 높인 언어 모델 '솔라 프로2' 프리뷰 버전 공개

6 hours ago 2

7월 정식 출시 전 초기 테스트용 선공개⋯"매개변수 1.5배 커지고 성능 향상"
단계적 사고 거쳐 구조화된 답변 생성하는 '추론 모드' 탑재

[아이뉴스24 정유림 기자] 업스테이지는 차세대 거대언어모델(LLM) '솔라 프로 2'의 프리뷰 버전을 공개한다고 20일 밝혔다. 오는 7월 정식 출시에 앞서 초기 테스트용으로 프리뷰 API(응용 프로그램 인터페이스)를 무료로 사용할 수 있도록 공개했다.

솔라 프로 2는 업스테이지가 지난해 12월 출시한 솔라 프로의 후속으로, 모델 매개변수(파라미터)는 기존 220억개에서 310억개로 확대되고 성능도 향상됐다. 업스테이지 관계자는 "MMLU(종합 지식), IFEval(지시 이행) 등 주요 LLM 벤치마크 성능 평균에서 크기가 2배 이상 큰 메타(옛 페이스북)의 라마 4 스카우트, 알리바바의 큐원 2.5 72B 등 빅테크(대형 IT 기업) 모델들을 앞질렀다"고 설명했다.

솔라 프로 2에는 '하이브리드 모드'가 적용된다. AI 모델 사용 시 빠른 응답에 최적화된 챗 모드와 단계적 사고를 거쳐 구조화된 답변을 생성하는 추론 모드 중 선택할 수 있다. 추론 모드에는 생각 사슬(CoT) 기법이 적용돼 수학이나 코딩처럼 복잡한 문제에서 더 정교한 답변을 제공하는 것이 특징이다.

사용성도 높였다. 기존보다 2배 확장된 6만4000 토큰까지 지원해 더 긴 문서나 대화를 한 번에 처리할 수 있다. 자체 토크나이저(AI 모델이 텍스트를 이해할 수 있는 작은 단위(토큰)로 분리하는 도구) 개선을 통해 한국어(한글)와 문서 기반 작업에서 최대 30%까지 토큰 절감이 가능해졌으며 이에 따라 응답 속도와 비용 효율이 향상됐다고 회사 측은 설명했다.

김성훈 업스테이지 대표는 "솔라 프로2는 31B(310억개)라는 효율적인 규모로도 70B(700억개) 모델 수준의 성능을 구현한다"며 "최고 추론 성능과 뛰어난 한국어 성능을 갖춘 이번 모델을 통해 더 많은 업무 혁신을 기대한다"고 밝혔다.

/정유림 기자(2yclever@inews24.com)

포토뉴스