"우리 아이, 틱톡에서 뭘 보고 있을까"…부모 걱정 덜어줄 '신기능'

‘내 아이가 틱톡을 쓴다는데, 안전할까?’ ‘나도 한번 틱톡을 해볼까 싶은데, 악성 댓글이 겁나네?’

가입자 수 10억 명, 매일 수억 건의 콘텐츠가 올라오는 글로벌 숏폼 플랫폼 틱톡이 청소년 보호와 크리에이터를 위한 안전 기능을 대폭 업그레이드한다. 보호자 알림, 댓글 필터링, 콘텐츠 적합성 사전 심사 등 기술 기반 기능을 고도화해 플랫폼의 신뢰도를 높이겠다는 방침이다.

틱톡은 30일 ‘신뢰와 안전’을 주제로 글로벌 온라인 브리핑을 열고, 청소년·가족·크리에이터를 위한 새로운 안전 강화 기술을 발표했다. 발표자로 나선 아담 프레서 틱톡 글로벌 총괄은 “신뢰할 수 있는 플랫폼은 기술과 사람의 안전한 협업에서 출발한다”고 강조했다.

발표의 핵심은 2019년 도입된 ‘세이프티 페어링’의 고도화다. 세이프티 페어링은 보호자가 자녀의 틱톡 사용 시간을 관리할 수 있도록 돕는 시스템이다. 이날 아담 총괄은 자녀가 콘텐츠를 게시하거나 유해 콘텐츠를 신고할 경우 보호자에게 실시간 알림이 전송되는 기능을 추가할 것이라 예고하며 현재 테스트 중이라고 밝혔다.

부모의 관리 권한도 확대된다. 자녀가 주로 시청하는 콘텐츠 주제나 차단한 계정을 보호자가 확인할 수 있으며 보호자가 직접 차단할 수도 있다. 이 밖에도 자녀의 팔로잉 목록, 콘텐츠 다운로드 허용 여부, 개인정보 설정 등의 항목을 보호자가 확인하고 관리할 수 있는 기능도 전세계적으로 확대 적용된다.

크리에이터 보호 기능도 개인 맞춤형으로 강화한다. 기존에는 커뮤니티 가이드라인에 따라 일괄적으로 콘텐츠 제작·유통 환경이 관리됐다면 이제는 인공지능(AI)을 활용한 댓글 차단, 실시간 관리 기능이 도입된다. ‘크리에이터 케어 모드’는 반복적으로 신고된 유형의 댓글을 AI가 자동 인식·학습해 차단하며 크리에이터마다 필터링 기준을 개별 설정할 수 있다. 라이브 방송 중에는 특정 단어나 이모지를 사전 차단할 수 있고 크리에이터가 공동 관리자를 지정해 실시간으로 악성 댓글 등에 대응할 수 있도록 할 방침이다.

아담 총괄은 “커뮤니티 가이드라인을 위반한 콘텐츠나 댓글은 예전부터 선제적으로 관리해왔다”며 “크리에이터 케어 모드는 모욕적 표현으로부터 각 크리에이터들을 보다 정밀하게 보호할 수 있도록 설계된 맞춤형 안전 기능”이라고 설명했다.

크리에이터들이 올린 콘텐츠가 틱톡 이용자들의 피드에 노출되기 전 추천 적합성을 점검할 수 있는 ‘콘텐츠 체크 라이트’ 기능도 현재 시범 테스트 중이다. 업로드 전에 콘텐츠가 틱톡 가이드라인을 충족했는지 확인할 수 있으며 필요한 수정 사항에 대한 구체적 피드백도 제공된다. 틱톡은 자체 테스트 결과 저품질 콘텐츠 비율이 약 27％ 감소했다고 밝혔다. 이외에도 크리에이터에게 오는 수많은 메시지를 효율적으로 관리할 수 있도록 돕는 '크리에이터 인박스' 기능 등도 추가될 예정이다.

아담 총괄은 신뢰·안전 강화 부문에 연간 약 20억 달러(약 2조 7000억원)를 투입하고 있다고 밝혔다. 지난해 7월부터 9월 사이, 자동화 기술로 삭제된 콘텐츠는 전체 삭제 콘텐츠의 85％이고, 시청 전에 삭제된 비율은 90％이며 신고 전에 삭제된 콘텐츠 비율은 99％에 달한다는 게 틱톡의 설명이다. 틱톡은 최근 사회적 문제가 되고 있는 딥페이크 등 무분별한 AI 생성 콘텐츠에 대해서도 지난해 부터 AI가 생성한 콘텐츠임을 알리는 라벨을 자동으로 붙이며 대응하고 있다.

틱톡 관계자는 “일부 테스트 중인 기능을 제외하면 자녀 보호 및 크리에이터 안전 강화를 위한 기능들은 30일 기준 도입돼 연내 순차적으로 확대 적용할 예정”이라고 밝혔다.
최영총 기자 youngchoi@hankyung.com