셀렉트스타, MWC에서 AI 레드팀 개최…“AI 안전성 기술, 세계에 알린다”

국내 인공지능(AI) 스타트업 셀렉트스타가 AI 안전성 기술을 해외 시장에 뽐낸다.

셀렉트스타는 내달 5일 스페인 바르셀로나에서 열리는 세계 최대 이동통신 박람회 'MWC25'에서 AI 레드팀 챌린지를 진행한다.

AI 레드팀은 AI 시스템의 유해하거나 차별적 결과, 시스템 오용 등 결함·취약성을 식별하기 위한 구조화된 테스트 활동을 의미한다.

셀렉트스타는 세계이동통신사업자연합회(GSMA)와 협력, 국내외 통신사의 AI 모델 안정성뿐만 아니라 자사 AI 레드팀 기술력을 전 세계 시장에 선보일 계획이다.

이번 행사는 거대언어모델(LLM) 등 생성형 AI 시스템의 안전성과 신뢰성을 검증하기 위해 기획됐다. 국내외 주요 통신사의 AI 모델이 대상이다.

셀렉트스타는 지난해 4월 서울 코엑스에서 과학기술정보통신부 및 공공기관, 기업들과 함께 대규모 AI 레드팀 챌린지를 기획한 바 있다. 당시 1000여명의 일반인과 대학생 등이 참여했다.

황민영 셀렉트스타 부대표는 “AI 레드팀 챌린지 성과를 바탕으로 GSMA와 파트너십을 맺고 이번 챌린지를 준비해왔다”며 “통신 분야는 고객과 직접 소통하는 챗봇이나 고객 상담 등으로 AI 도입이 가장 활발한 분야 중 하나”라고 말했다.

이번 챌린지에는 사전 신청을 받은 MWC 참가자와 통신·AI 분야 개발자와 연구자 등 200여명의 전문가들이 참여할 것으로 예상된다.

특히 한국이 주도하고 있는 아시아 통신사 AI 모델의 우수성과 안전성을 글로벌 무대에서 선보이는 자리가 될 것으로 기대를 모으고 있다.

황 부대표는 “MWC는 세계 3대 IT 박람회 중 하나로 글로벌한 행사”라며 “올해는 이러한 행사로 글로벌 시장에서 기술검증(PoC)을 진행하고, 내년에는 규모를 더 키우는 것을 내부적으로 계획하고 있다”고 전했다.

셀렉트스타는 이번 챌린지를 계기로 본격적으로 해외 시장에 진출할 계획이다. 자사 AI 모델 평가, AI 안전성 도구, AI 레드팀 솔루션을 글로벌 무대에 선보이고, 미국 실리콘밸리를 시작으로 해외 고객사를 확보하는 것을 목표로 하고 있다.

황 부대표는 “AI 모델을 기업 서비스에 적용하려고 할 때 적절한 AI 안전성 관련 데이터 평가 세트와 툴을 전문으로 제공하는 기업은 세계적으로도 드물다”며 “올해가 AI 안전성 분야에서 글로벌에서 두각을 나타내는 원년이 될 것”이라고 강조했다.

김명희 기자 noprint@etnews.com