DGIST, 오탐률 2% 혁신적 텍스트 워터마킹 개발…디지털 저작권 보호하는 AI 포렌식 분야에서 핵심 역할 기대

디지스트(DGIST·총장 이건우) 연구팀이 가짜뉴스를 맞는 인공지능(AI) 포렌식 핵심기술을 개발했다.

DGIST는 김영식 전기전자컴퓨터공학과·인공지능전공 교수 연구팀이 AI가 작성한 글에 눈에 보이지 않는 고유의 디지털 워터마크를 정교하게 심어두고, 텍스트가 훼손되거나 조작되어도 AI 생성 여부와 출처를 명확히 증명하는 혁신적인 가짜 방지 기술 'BREW(Block-wise Reliable Embedding for Watermarking)'를 개발했다고 2일 밝혔다. 이번 기술은 향후 가짜 뉴스로 인한 사회적 혼란을 막고 디지털 저작권을 보호하는 글로벌 AI 포렌식 분야에서 핵심적으로 활용될 전망이다.

생성형 AI가 빠르게 확산하면서 AI가 작성한 뉴스·문서·과제·창작물의 출처를 정확히 확인하는 기술의 중요성이 커지고 있다. 그러나 기존 멀티비트 텍스트 워터마킹 기술은 워터마크가 없는 일반 글도 AI 생성 글로 잘못 판단하는 높은 오탐률로 인해 실제 적용에 한계가 있었다.

연구팀이 개발한 BREW는 글을 여러 조각(블록)으로 나누어 독립적으로 검증하고 문장의 미세한 변화를 추적하는 방식을 도입했다. 단어를 교체하거나 문장 구조를 교묘하게 비틀어 암호를 지우려는 악의적인 시도가 있더라도, '윈도우 시프팅(Window-Shifting)' 기법을 통해 정렬을 복구하여 워터마크를 완벽하게 추적해 낸다.

실제 실험 결과, BREW는 AI 생성 글의 10%를 동의어로 바꾸는 훼손 환경에서도 96.5%의 높은 탐지율을 유지했다. 특히 200단어 정도의 비교적 짧은 글에서도 우수한 성능을 입증했으며, 사람이 작성한 일반 글을 AI 생성 글로 잘못 판단하는 오탐률을 단 2% 수준으로 극적으로 낮추는 데 성공했다.

김영식 교수는 “이번 연구는 사람이 쓴 글을 AI가 쓴 것으로 오인하던 기존 기술의 치명적 결함을 극복하고, 악의적인 텍스트 훼손 시도까지 완벽히 방어해 내는 강력한 기술”이라며 “향후 가짜뉴스로 인한 사회적 혼란을 막고 디지털 저작권을 보호하는 글로벌 AI 포렌식 분야에서 핵심적인 역할을 할 것”이라고 밝혔다.

한편, 과학기술정보통신부 정보통신기획평가원(IITP)의 '양자안전 보안인프라 전환 및 양자보안 검증 기술 개발' 과제와 '자율주행 차량 서비스 보호를 위한 V2X 무선통신 인프라 보안 핵심기술 개발' 과제 지원을 받아 수행된 이번 연구 논문은 AI 분야 최고 권위 학회인 'ICML 2026'에 채택됐고, 오는 6일 서울 코엑스에서 열리는 'ICML 2026'에서 발표될 예정이다.

대구=정재훈 기자 jhoon@etnews.com