"피자에 접착제 바르세요"…'AI 황당 답변' 악몽에 편집자들 발칵

위키피디아 상단에 검색 내용을 요약해 보여주던 기능이 중단됐다. 위키피디아 편집자 커뮤니티에서 부정적인 반응이 쏟아지면서 결국 서비스를 중단한 것으로 알려졌다.

지난 11일(현지시간) 정보기술(IT) 매체 404미디어에 따르면 비영리 단체 위키미디어 재단은 인공지능(AI)으로 문서 내용을 요약해 보여주는 '간단한 문서 요약' 기능을 일시 중단한다고 발표했다.

재단은 앞서 이 기능을 2주간 시범 도입한다고 밝혔다. 구글이 검색 결과를 요약해 상단에 표시하는 'AI 오버뷰' 기능을 선보인 것과 유사한 구조다.

하지만 위키피디아 편집자들 사이에서 "매우 나쁜 아이디어", "강력하게 반대한다", "절대 안 된다" 등의 반응이 쏟아지자 결국 일시 중단했다.

한 편집자는 "구글이 AI 요약을 출시했다고 해서 우리가 그들을 능가할 필요는 없다"며 "모바일이든 다른 곳이든 이 테스트를 하지 말아달라고 진심으로 간청한다"고 했다. 그는 "독자들과 신뢰할 수 있고 진지한 출처로서의 명성에 즉각적이고 돌이킬 수 없는 해를 끼칠 것"이라며 "독자들 지성을 모욕하지 말고 화려한 AI 요약을 도입하는 대열에 합류하지 말자"고 주장했다.

편집자들이 반발하는 배경엔 AI 요약 기능을 향한 '불신'이 깔려 있다. 이 매체는 "AI가 생성한 허위 정보와 잘못된 정보의 홍수 속에서도 위키피디아는 크게 훼손되지 않은 몇 안 되는 인터넷 플랫폼 중 하나"라며 "생성형 AI를 도입한 이후 사용자들에게 접착제를 먹으라고 강요했던 구글과는 달리 위키피디아의 커뮤니티는 문서의 품질을 비교적 높게 유지해 왔다"고 전했다.

여기서 언급한 접착체 사건은 구글 'AI 오버뷰'가 "피자에 치즈가 잘 안 붙는다"는 사용자의 검색 요청에 "무독성 접착제를 약 8분의 1컵 정도 넣어도 된다"는 결과를 제시한 사례를 말한다.

또 다른 편집자는 "인간 편집자도 중립적 관점(NPOV) 문제를 일으킬 수 있지만 집단적으로 모이면 아름다운 코퍼스(Corpus·말뭉치)로 균형을 이룬다"며 "간단한 문서 요약은 신뢰성과 NPOV에 문제가 있는 한 명의 편집자에게 문서 맨 위에 플랫폼을 제공하는 동시에 다른 사람들에겐 편집 통제권을 전혀 주지 않게 되는데 이는 위키피디아를 신뢰할 수 없다는 생각을 강화한다"고 비판했다.

재단은 이 기능을 일시 중단하면서도 AI 요약에 대한 관심을 거두지 않았다.

재단 측은 "생성형 AI를 위키피디아에 도입하는 것은 중요한 의미를 지닌 중대한 결정"이라며 "편집자의 참여 없이 위키에 요약 기능을 도입할 계획은 없다. 이 아이디어뿐 아니라 AI로 요약하거나 수정된 콘텐츠과 관련된 향후 아이디어에도 어떤 상황에서든 편집자 검토가 필요하다"고 했다.

김대영 한경닷컴 기자 kdy@hankyung.com