유럽의회, 딥페이크 음란 이미지 생성 AI 규제 착수

유럽연합(EU)이 동의 없이 생성되는 성적 이미지 제작 인공지능(AI)에 대해 금지 조치를 추진한다. 최근 일론 머스크의 AI 서비스 '그록(Grok)'을 통해 여성과 아동의 나체 이미지가 대량 생성된 사건이 계기가 됐다.

블룸버그에 따르면 유럽의회 시민자유위원회는 18일(현지시간) 'AI 옴니버스 법안(Artificial Intelligence Omnibus)' 초안에 해당 내용을 포함한 수정안을 승인했다.

수정안은 특정 개인을 식별할 수 있는 인물의 신체나 성적 행위를 사실적으로 묘사하는 이미지를 동의 없이 생성하는 AI 시스템을 금지하는 내용을 담고 있다.

다만 기업이 해당 기능을 제한하는 기술적 조치를 적용한 경우에는 예외를 인정한다. 규제 대상은 이용자가 아닌 AI 기술 자체다. 최근 AI 모델이 실제 인물과 유사한 이미지를 정교하게 생성하는 수준까지 발전한 점이 반영됐다.

이번 조치는 유럽 각국 정부가 이미 유사한 금지 방안에 합의한 상황과 맞물려 연내 법제화 가능성이 높은 것으로 평가된다.

문제의 발단은 올해 1월 발생한 '그록' 논란이다. 머스크가 운영하는 소셜미디어 X에서 누구나 접근 가능한 이 챗봇은 옷을 입은 인물 사진을 기반으로 성적 이미지로 변환하는 데 활용됐다. 이후 온라인에는 해당 이미지가 대량 확산됐고, 비판이 확산되자 운영사 'xAI'는 관련 기능을 제한했다. 현재 EU와 영국 규제당국은 해당 사건에 대해 콘텐츠 관리 및 온라인 안전 법규 위반 여부를 조사 중이다.

EU는 이미 비동의 성적 콘텐츠 제작 및 유포를 불법으로 규정하고 있다. 2024년 '여성 대상 폭력 방지 지침'은 AI를 활용한 성적 이미지 생성도 범죄로 포함했다. '디지털서비스법(DSA)' 역시 불법 콘텐츠 유통을 허용한 플랫폼에 책임을 묻고 있다.

이번 개정안은 AI 플랫폼 자체를 직접 규제 대상으로 삼았다는 점에서 기존 규제와 차별화된다. 향후 법안이 통과되면 생성형 AI 개발사는 자사 모델이 부적절한 이미지를 생성하지 않도록 통제 장치를 마련해야 한다.

박진형 기자 jin@etnews.com