샘 올트먼이 세운 보안 스타트업의 경고 "올해 딥페이크 범죄 1500% 늘어난다"

'인간'을 증명할 수 있는 기술이 보안의 핵심으로 떠올랐다. 인공지능(AI)을 이용한 딥페이크와 합성 사기 등 ‘디지털 신뢰 위기’가 전세계적으로 확산되면서다.

신원 인증 프로젝트 ‘월드’의 기술 개발사인 ‘툴스 포 휴머니티’(TFH)는 17일 보고서를 발표하고 올해 인공지능(AI)을 이용한 딥페이크 사기가 앞으로 2년간 160배 가량 증가할 것이라고 내다봤다. 올해에는 딥페이크 범죄가 800만 건에 달할 것으로 전망했다. 이는 2023년 대비 1500% 증가한 수치다. TFH는 샘 올트먼 오픈AI 최고경영자(CEO)가 설립한 스타트업이다.

TFH는 보고서에서 사이버 범죄를 크게 합성 사칭, 가짜 신원, 여론 조작 등의 3가지 유형으로 분류했다. 이와 함께 보고서를 통해 온라인에 영상을 게시한 모든 사람이 음성 복제 기술의 표적이 될 수 있다고도 경고했다. 실제 데이터에 가짜 데이터가 혼합된 신종 합성 신원은 오랜 기간 탐지되지 않는 경우도 많아 문제가 되고 있다는 점도 전했다.

TFH는 일상 속에서도 AI 관련 '가짜 신원' 범죄가 일어나고 있다고 경고했다. TFH의 분석 결과 '데이팅 앱' 이용자의 10~15%가 가짜 프로필로 추정됐다. AI로 생성한 이력서를 통해 기업 비즈니스에 접근하려는 시도도 늘어났다. 리뷰 플랫폼에서도 AI로 생성한 가짜 신원이 허위 후기 등을 작성하며 기업의 신뢰를 흔들고 있다고 경고했다. 여론 조작에도 사용될 수 있다는 게 TFH의 주장이다.

이에 인간 증명 기술이 새로운 보안 해결책으로 떠올랐다. TFH가 내놓은 '월드 ID'는 인간만이 가질 수 있는 홍채 정보를 통해 인간임을 증명해야 시스템에 접근할 수 있는 시스템이다. 개인정보 보호 중심 검증도 내세웠다. 개인 정보를 노출하지 않고 인간임을 증명하는 방법이 '인체'에 있다는 것이다.

월드 ID는 한 번의 검증으로도 모든 서비스에서 재확인 없이 접근을 유지할 수 있다는 점에서 글로벌 보안업계의 주목을 받고 있다. 사용자가 단 한 번 익명으로 인간임을 검증하면, 다른 이용자도 진짜 인간임을 확인하며 서비스 전반에서 신뢰 기반의 상호작용을 할 수 있도록 설계됐다.

박상욱 TFH "기존 보안 체계는 비밀번호와 SMS 인증 등을 묻지 받을 수 있는가'를 묻지만, 그 문을 통과하는 존재가 사람인지 정교한 프로그램인지는 확인하지 않는 게 한계다"라며 “AI 시대에는 개인정보를 보호하면서도 보편적으로 인간성을 검증할 수 있는 새로운 방법이 반드시 필요하다”고 말했다.

최지희 기자 mymasaki@hankyung.com