메타와 틱톡, 참여 유도를 위해 유해 콘텐츠 노출을 허용했다는 내부고발자 증언

• 내부고발자들은 Meta와 TikTok이 알고리듬이 분노를 유발할수록 참여율이 높아진다는 내부 연구 결과를 알고도, 더 많은 유해 콘텐츠를 사용자 피드에 노출시켰다고 폭로함
• Meta 엔지니어는 주가 하락을 이유로 ‘경계선 콘텐츠’ 노출을 늘리라는 지시를 받았다고 밝혔으며, TikTok 직원은 정치인 관련 사례가 아동 피해보다 우선 처리되었다는 내부 대시보드를 공개함
• Meta의 Reels는 TikTok과 경쟁하기 위해 충분한 안전장치 없이 출시되었고, 내부 연구에서 괴롭힘·증오발언·폭력성 댓글 비율이 인스타그램 본피드보다 높았다는 결과가 확인됨
• TikTok 내부 안전팀 직원은 정치적 관계 유지를 위해 아동 안전이 후순위로 밀렸다고 증언하며, “부모는 앱을 삭제하라”고 경고함
• 두 회사는 모두 고의적 유해 콘텐츠 증폭을 부인했으나, 내부 문건과 증언은 참여 중심 알고리듬이 사용자 안전보다 수익을 우선시했다는 구조적 문제를 드러냄

내부고발자들의 폭로 개요

• 12명 이상의 내부고발자와 관계자들이 폭력, 성적 착취, 테러 관련 콘텐츠 등 안전 문제를 무시한 채 사용자 참여 경쟁을 벌였다고 증언
  • Meta 엔지니어는 여성혐오·음모론 등 ‘경계선 콘텐츠’ 를 더 노출하라는 경영진의 지시를 받았다고 밝힘
  • TikTok 직원은 정치인 관련 신고가 아동 피해보다 우선 처리된 사례를 BBC에 제시
• TikTok 내부에서는 정치인과의 관계 유지가 규제나 금지 위험을 피하기 위한 이유로 언급됨

Meta 내부 연구와 Reels의 문제

• Meta 연구원 Matt Motyl은 Reels 출시(2020) 당시 안전장치가 부족했다고 밝힘
  • 내부 연구에 따르면 Reels 댓글은 인스타그램 본피드보다 괴롭힘·증오발언·폭력 조장 비율이 각각 75%, 19%, 7% 높음
• 회사는 Reels 성장에 700명 인력 투입, 반면 아동 보호·선거 무결성 담당팀은 인력 충원이 거부됨
• 내부 문건은 알고리듬이 사용자 복지보다 수익 극대화를 우선시한다고 지적
  • “Facebook은 사용자를 ‘패스트푸드’처럼 소비시킬 수 있으나 오래 지속되기 어렵다”는 표현 포함

TikTok 내부 안전팀의 증언

• BBC는 2025년 수개월간 TikTok 신뢰·안전팀 직원 ‘Nick’ 과 접촉
  • 그는 AI 도입과 인력 감축으로 유해 콘텐츠 대응이 약화되었다고 밝힘
  • 테러, 성폭력, 학대, 인신매매 관련 자료 증가를 확인했다고 증언
• 내부 대시보드에서 정치인 풍자 게시물이 청소년 성적 협박 피해 사례보다 우선 검토된 사례 제시
  • 이라크 16세 피해자 사례 등에서 긴급도 낮게 분류된 사실 확인
• Nick은 “회사가 아동 안전보다 정치적 관계를 더 중시한다”고 말하며, 부모에게 ‘TikTok을 삭제하라’고 조언
• TikTok은 “정치 콘텐츠가 아동 안전보다 우선되지 않는다”며 주장 왜곡이라고 반박
  • 청소년 계정에는 50개 이상의 기본 안전 설정이 적용된다고 설명

알고리듬 경쟁과 Meta의 대응

• 2020년 코로나19 시기 TikTok 급성장에 대응해 Meta는 Reels를 긴급 출시
  • Motyl은 “사용자 보호보다 속도가 우선이었다”고 언급
  • Reels 팀은 유해 콘텐츠가 더 높은 참여를 유도하기 때문에 안전 기능 도입을 꺼렸다고 함
• Brandon Silverman(Crowdtangle 창립자) 은 당시 Mark Zuckerberg가 경쟁에 극도로 민감했다고 증언
  • Reels 확장에는 700명 투입, 안전팀은 인력 확보에 어려움
• 전 Meta 엔지니어 ‘Tim’은 TikTok과의 경쟁으로 ‘경계선 콘텐츠’ 제한이 완화되었다고 밝힘
  • “주가 하락과 매출 압박 속에 단기 수익 확보를 위해 조치 완화 결정이 내려졌다”고 언급

알고리듬의 작동 방식과 사회적 영향

• 내부 문건은 분노·도덕적 자극 콘텐츠가 높은 참여를 유도하며, 알고리듬이 이를 선호한다고 명시
  • “이용자가 분노를 느낄수록 더 많은 콘텐츠를 소비하게 된다”는 구조
• 영국 경찰 테러전문가들은 최근 반유대주의·인종차별·극우 폭력 게시물의 ‘정상화’ 현상을 목격했다고 보고
• 한 10대 이용자는 14세부터 알고리듬에 의해 ‘급진화’되었다고 증언, 분노와 혐오감이 강화되었다고 설명

기업의 공식 입장

• Meta: “금전적 이익을 위해 유해 콘텐츠를 증폭시킨다는 주장은 사실이 아니다”
  • 지난 10년간 안전·보안에 대규모 투자를 진행했고, 청소년 보호 기능을 도입했다고 강조
• TikTok: “주장은 조작된 것”이라며, 유해 콘텐츠가 노출되지 않도록 기술 투자를 지속 중이라고 설명
  • “수백만 명이 새로운 관심사를 발견하고 커뮤니티를 형성하도록 지원한다”고 덧붙임