"AI 저질 영상이 아이들 망친다"…美 아동단체, 유튜브에 경고

미국 시민단체와 아동 발달 전문가들이 구글에 유튜브 내 인공지능(AI) 저품질 영상인 ‘AI 슬롭’을 아동에게 노출하지 말라고 요구했다.

아동보호단체 페어플레이는 1일(현지시간) 순다르 피차이 구글 최고경영자(CEO)와 닐 모한 유튜브 CEO에게 보낸 공개서한을 홈페이지에 공개했다. 사회심리학자와 정신과 의사 등 전문가 100명, 그리고 미국교사연맹(AFT) 등 130여 개 단체가 함께 참여했다.

이들은 AI 슬롭이 아이들에게 여러 문제를 일으킨다고 비판했다. 현실 인식을 왜곡하고 학습을 방해하며, 집중력을 떨어뜨린다고 주장했다. 또 화면 시청 시간을 늘리고 야외 활동을 줄여 발달에도 악영향을 준다고 강조했다.

유튜브의 대응도 부족하다고 지적했다. 현재 제작자가 ‘합성 콘텐츠’라고 표시할 수 있지만 이 표시가 제대로 작동하지 않는 경우가 많다는 것이다. 특히 유튜브 키즈에는 해당 표시 기능 자체가 없다고 했다. 설령 표시가 있어도 설명란 아래쪽에 있어 아이들이 인지하기 어렵다는 설명이다.

이들은 현재 정책이 수백만 명의 아동에게 위험을 초래할 수 있다고 꼬집었다. 문제 해결 책임이 부모에게 전가되고 있다는 점도 비판했다. AI 콘텐츠의 안전성이 충분히 검증되지 않은 만큼 아동 보호를 위한 조치가 시급하다고 목소리를 높였다.

또 유튜브 전반에서 AI 활용이 빠르게 확산하고 있는 점도 문제로 꼽았다. 영상뿐 아니라 음성, 스토리 등 다양한 콘텐츠에 AI가 쓰이면서 플랫폼이 이용자 보호보다 수익을 우선하고 있다는 게 이들 설명이다. 실제로 일부 제작자는 저품질 AI 영상을 대량으로 제작해 수백만달러를 벌고 있다고 밝혔다. 아동 대상 인기 AI 채널 중에는 연간 425만달러 이상을 번 사례도 언급했다. 이들은 18세 미만 이용자 대상 AI 영상 추천 중단, 부모의 콘텐츠 차단 기능 강화 아동 대상 AI 콘텐츠 투자 중단 등을 요구했다.

유튜브 관계자는 “유튜브 키즈 앱에는 엄격한 기준을 적용하고 있으며, AI 생성 콘텐츠는 검증된 소수의 고품질 채널로 제한한다”고 설명했다. 또 “부모에게 개별 채널 차단 기능을 제공한다”며 “AI 콘텐츠의 투명성을 위해 자체 제작 콘텐츠에는 라벨을 부착하고, 크리에이터에게도 AI 사용 여부 공개를 의무화했다”고 밝혔다.

구글은 과거에도 비슷한 문제를 겪은 바 있다. 2016~2017년을 전후해 인기를 얻은 겨울왕국 ‘엘사’ 캐릭터를 활용한 영상 중 일부가 폭력적이거나 성적인 요소를 포함해 논란이 됐다. 해당 영상은 알고리즘을 통해 아동에게 반복 노출되며 문제가 커졌다. 당시 구글은 유튜브에서 15만 개 이상의 영상을 삭제하고 270여 개 계정을 정지하는 등 대규모 조치를 취했다.

유지희 기자 keephee@hankyung.com