셀렉트스타, AI 캐릭터 '아기상어'와 대화 안전·신뢰 확보

셀렉트스타가 생성형 인공지능(AI)으로 구현된 '아기상어' 세계관과 대화 안전성 검증을 지원했다.

셀렉트스타는 지난 6월 서울 동대문 디자인플라자(DDP)에서 개막한 더핑크퐁컴퍼니 AI 인터랙티브 전시 '아기상어 비밀 초대장: 비커밍 샤크'에 AI 신뢰성 평가 플랫폼 '다투모 플랫폼'을 적용했다. 캐릭터 세계관과 대화 안전성, 다국어 대화 품질을 평가하기 위한 차원이다.

전시는 관람객 말과 행동에 AI 캐릭터가 실시간 반응하는 방식으로 운영된다. 실시간 소통 중 예상이 어려운 질문에도 캐릭터 성격과 세계관을 유지하고, 관람객에 부적절한 답변을 하지 않도록 안전성을 확보하도록 기술을 지원했다.

셀렉트스타는 더핑크퐁컴퍼니 '아기상어' 캐릭터와 세계관을 일관되게 구현하도록 페르소나와 세부 대화 지침을 설계하고 AI 신뢰성을 평가했다. 어린이 대상 콘텐츠인 만큼 다투모 플랫폼 AI 안전성 벤치마크를 활용, 부적절한 답변이 생성되지 않는지 함께 검증했다.

한국어·영어·일본어·중국어 등 4개 언어에서 동일한 수준의 캐릭터 경험을 제공하는 것도 과제였다. 언어권별 문화 맥락과 표현 방식을 고려, 캐릭터성과 대화 의미가 자연스럽게 전달되도록 검증했다.

4개 언어별 2500개씩 총 1만개 안전성 평가 시나리오를 생성하고 시뮬레이션한 결과, 평가 기준을 충족했다. 셀렉트스타 자체 평가 데이터셋 기준 부적절 콘텐츠 차단율은 약 99%, 전체 AI 대화 응답 정확도는 97.38%를 기록했다. 이달 17일까지 AI 캐릭터와 누적 대화 세션은 27만9000건에 달한다.

김세엽 셀렉트스타 대표는 “다투모 플랫폼은 각 기업이 원하는 AI 신뢰성 기준을 정의하고, 실제 서비스 환경에서 기준을 충족하는지 반복적으로 평가할 수 있게 지원한다”며 “AI 도입이 실제 서비스로 확산될수록 신뢰성 평가는 반드시 거쳐야 하는 단계로 자리 잡을 것”이라고 말했다.

셀렉트스타는 AI 신뢰·안전 강화를 위해 다양한 사업을 병행하고 있다. 최근 독자 AI 파운데이션 모델 2차 단계평가를 통과한 SK텔레콤 컨소시엄에서 데이터 품질·관리로 안정적인 데이터 활용과 AI 학습을 지원했다.

박종진 기자 truth@etnews.com