"다시 만들어" 명령했더니…"XXX야" 욕설 퍼부은 중국 AI

중국 빅테크(기술대기업) 텐센트의 생성형 인공지능(AI) 서비스가 사용자에게 욕설을 쏟아내 논란이 발생했다.

26일 중국 매체 홍성신문 등에 따르면 중국 중부 산시성 시안의 한 변호사는 춘제(중국의 설) 연휴 기간 텐센트의 생성형 AI 서비스 '위안바오'를 이용해 새해 인사용 이미지를 제작했다.

이 변호사는 위안바오에 자신의 사진을 업로드한 뒤 "나는 변호사이니 직업 특성에 맞는 새해 인사 이미지를 제작해 달라"고 요구했다.

하지만 결과가 마음에 들지 않자 그는 "이게 무슨 디자인이냐"는 취지의 불만을 표현하며 수정 지시를 반복했다.

그러자 위안바오는 본래 '새해 복 많이 받으세요, 승진하시길 바랍니다'라는 문구가 있던 자리에 심한 욕설이 담긴 문구를 넣고 이미지를 만들었다.

이 사례가 소셜미디어(SNS)를 통해 확산하자 텐센트는 사과와 함께 재발 방지를 약속했다.

텐센트는 "모델이 여러 차례 대화를 처리하는 과정에서 비정상적인 결과가 발생했다"며 "관련 문제를 긴급 교정하고 사용자 경험을 최적화했다"고 안내했다.

이에 대해 중국 광저우일보는 "기술은 죄가 없지만 그대로 두는 것은 방임"이라며 "AI는 사람의 학습 능력과 지식만을 습득해서는 안 되고, 인류의 양심도 계승해야 한다"고 지적했다.

오세성 한경닷컴 기자 sesung@hankyung.com