이스트소프트, JDC 사내 생성형 AI 언어모델 구축 사업 수주

내부 환경에서 안전하게 데이터 활용하는 AI 플랫폼 구축⋯AI 에이전트 환경까지 [아이뉴스24 최효경 기자] 이스트소프트(대표 정상원)는 제주국제자유도시개발센터(이하 JDC)가 발주한 'JDC 사내 생성형 AI 언어모델(sLLM) 구축 사업'을 수주했다고 21일 밝혔다.이스트소프트 로고. [사진=이스트소프트]이번 사업은 JDC 내부 서버에 생성형 AI 환경을 구축해 임직원의 업무 정확도와 처리 속도를 높이는 것을 목표로 한다. 외부와 분리된 내부 환경에서 안전하게 데이터를 활용할 수 있는 AI 플랫폼을 마련하는 것이 핵심이다.사업 기간은 계약일로부터 6개월이다.이스트소프트는 외부망과 분리된 기관 내부 서버에 sLLM을 직접 구축하고, 그 위에 AI 에이전트를 결합한 업무지원 플랫폼을 선보일 계획이다. 개발사업, 면세사업, 예산, 안전관리, 계약, 인사 등 JDC의 주요 업무 영역별로 특화된 업무지원 챗봇을 구축한다.일상적인 질의응답에는 30억개 이상, 복잡한 장문 추론에는 1200억개 이상의 언어모델을 각각 적용해 업무 성격에 맞는 최적의 응답 품질을 구현한다. 약 3.8TB 규모의 기관 내 문서를 임베딩해 검색증강생성(RAG) 기반의 AI 문서검색 서비스를 제공하고 전사콘텐츠관리시스템(ECM) 등 기존 시스템 및 외부 데이터와 연동해 답변의 최신성을 유지한다.실제 업무를 실행하는 AI 에이전트 환경도 마련한다. 응용프로그램 인터페이스(API) 호출 기반의 실행형 에이전트를 구축하고, 여러 에이전트가 협업하는 업무 흐름을 직접 설계·실행할 수 있는 '에이전트 빌더'를 제공해 향후 JDC가 AI 활용 범위를 자체적으로 확장할 수 있는 기반을 조성한다.정상원 이스트소프트 대표는 "이번 사업은 보안이 중요한 공공기관에서도 생성형 AI를 안전하고 실질적으로 활용할 수 있다는 것을 보여주는 사례가 될 것"이라며 "앨런을 통해 쌓아온 에이전틱 AI 역량을 바탕으로 JDC의 업무 혁신을 성공적으로 지원하고, 공공 AI 시장에서의 입지를 빠르게 확대해 나가겠다"고 말했다./최효경 기자([email protected]) 포토뉴스