라이너, AI 질문 토큰 비용 50% 절감 '모델 API' 출시

라이너가 인공지능(AI) 오케스트레이션 솔루션 '라이너 모델 API'를 출시했다.

고성능 모델 답변 품질을 유지하며 거대언어모델(LLM) 토큰 비용을 최대 50% 이상 절감할 수 있게 지원한다. 실제 유입되는 질문 난이도가 제각각임에도 답변 품질을 위해 프론티어급 모델을 호출·처리, 불필요한 인프라 비용이 급증하는 구조적 한계가 존재한다는 게 라이너 판단이다.

라이너는 저비용 경량모델 품질 문제와 프론티어 모델 높은 도입 비용 사이 고민하는 기업들에 해법 제시 차원에서 라이너 모델 API를 개발했다. 상위급 모델 수준의 답변 정확도를 유지하며 토큰 비용을 50% 이상 절감, 기업 인프라 부담을 낮춘다.

복잡한 로직 구현 없이 기존 API 교체만으로 즉시 적용할 수 있다는 것도 장점이다. 정밀 오케스트레이션 기술로 성능과 비용 효율을 동시에 잡았다. 라이너의 '독자 모델 평가체계'와 '실사용 환경에서 축적한 성능 검증 경험'이 활용됐다. 실사용 성능 검증 기반 질문 유형별 최적의 모델도 정밀하게 선별한다.

실사용 환경 자체 데이터 평가 결과, 고성능 모델로 배정된 질의 비중은 약 43%로 나타났다. 코딩·수학과 복합 추론이 필요한 고난도 질문은 상위 모델로 배정해 정확도를 극대화한 것이다. 나머지 57% 일반 질문은 효율적인 모델로 배분해 정답률 손실 없이 비용 절감 효과를 끌어올렸다.

라이너는 실제 이용자가 요청하는 다양한 질의 내용을 정밀하게 반영하고자 비식별 처리된 대표 질의 데이터셋을 구축해 이번 성능 검증을 진행했다. 일상적 탐색부터 업무 처리, 학술 연구에 이르기까지 다변화된 이용 패턴을 종합 분석해 모델 배정 알고리즘을 최적화했다.

김진우 라이너 대표는 “끊임없이 쏟아지는 신규 모델 성능과 단가를 개발사가 매번 검증하고 교체해야 하는 번거로움을 라이너 모델 API가 해결할 것”이라며 “기업들이 비용 부담과 모델 선택의 피로감에서 벗어나 핵심 업무 혁신에만 몰입할 수 있는 환경을 만들겠다”고 말했다.

라이너는 최근 AX 전담 조직 'AX 디비전'을 가동하며 기업간거래(B2B) 시장 공략을 본격화했다. AI 오케스트레이션 모델 제공, 기업 내부 방대한 데이터를 AI가 이해할 수 있는 지식 자산화, 의사결정에 필요한 통찰 등을 제공한다.

박종진 기자 truth@etnews.com