"AI 안전성 더 명확하게"…네이버 자율규제위, 권고 내용은?

네이버 이용자보호 및 자율규제위원회가 보고서를 내고 인공지능(AI) 안전성 체계 확립을 위해 책임·관리 원칙을 명확하게 규정할 것을 권고했다.

네이버 자율규제위는 2일 1년여간의 활동 내역을 담은 2차 활동보고서를 공개했다. 네이버 자율규제위는 이용자와 파트너들을 보호하고 서비스 개선을 위한 제도적 기반을 마련하려는 목적으로 2023년 9월 출범했다.

이번 보고서엔 AI 안전성 관리 논의 등을 포함해 총 7차례에 걸쳐 이뤄진 활동내역이 담겼다. △AI 안전성 체계 정립 △커머스 플랫폼 정산 주기 등 판매자·이용자 보호 조치 △중소상공인(SME) 사업자 디지털 전환을 돕는 '비즈니스 스쿨' △다크패턴 개선 △SME·창작자 대상 상생 프로그램 '프로젝트 꽃' △고객센터 개선 △안전한 인터넷 사용환경을 위한 그린인터넷 캠페인 등 7개 주제가 포함됐다.

네이버 자율규제위는 AI 안전성 체계 확립을 위해 책임과 관리 원칙을 더 명확히 하고 교육 프로그램을 통해 인지도를 제고하도록 노력해야 한다고 권고했다. 또 네이버의 정산 시스템과 이용자 우선 대응 원칙을 고도화하고 판매자 혜택 강화, 글로벌 지향 콘텐츠 제작, 소비자 보호 교육 강화 등에 관한 권고도 이뤄졌다.

이 외에도 다양한 창작자군을 지원해야 할 필요성과 친화적인 고객센터 서비스를 제공할 AI 기술 활용·체계화를 강조했다. 안전한 인터넷 사용환경을 조성할 수 있도록 외부기관과의 협력체계 구축도 주문했다. 다크패턴 방지를 위한 정기적 분류 체계 업데이트·교차 검증 체계 마련도 권고했다.

네이버 자율규제위는 네이버 가품 방지, 소비자 보호 활동 등을 분석한 뒤 이를 점검한 연구과제도 추후 발표할 예정이다.

권헌영 네이버 자율규제위 위원장은 "플랫폼 스스로 이용자 권익 보호와 정보 전달의 투명성을 보장하기 위한 노력이 뒷받침될 때 신뢰받는 플랫폼으로 자리매김할 수 있다"며 "빠르게 변화하는 환경 속, 앞으로도 네이버 자율규제위원회는 기술의 진보와 이용자의 권익이 조화를 이룰 수 있도록 점검하고 방향을 제시할 수 있도록 노력하겠다"고 말했다.

유봉석 네이버 정책·RM 대표는 "앞으로도 네이버 자율규제위원회의 객관적이고 체계적인 지원을 바탕으로, 검색부터 커머스, 커뮤니티까지 다양한 서비스에 걸쳐 이용자들이 안심하고 사용할 수 있는 사용 환경을 조성하기 위해 꾸준히 노력해 나가겠다"고 했다.

김대영 한경닷컴 기자 kdy@hankyung.com