딜로이트, AI가 지어낸 '오류' 보고서 호주정부에 제출

세계적 회계·컨설팅 그룹 딜로이트가 호주 정부로부터 의뢰받은 보고서를 작성하면서 오픈AI의 인공지능(AI)이 지어낸 가짜 판결문 등 오류가 포함된 보고서를 제출했다가 실수를 인정했다.

7일(현지시간) 영국 파이낸셜타임스(FT) 등에 따르면 전날 호주 고용노동부는 딜로이트가 정부에 제출한 보고서의 일부 인용·참고문헌 오류를 인정하고 보고서 작성 용역비를 일부 돌려주기로 했다고 밝혔다.

고용노동부는 지난해 12월 구직자에게 불이익을 주는 복지 시스템의 문제점 평가 보고서를 딜로이트에 발주했다.

하지만 지난 7월 딜로이트가 작성한 보고서가 공개되자 오류가 적지 않게 있다는 지적이 학계와 현지 매체 등으로부터 나왔다.

보고서가 호주 시드니대와 스웨덴 룬드대 교수들 명의로 돼 있지만 실제로는 존재하지 않는 허위 보고서를 각주·참고문헌으로 제시하고, 호주 법원 판결문도 조작해서 인용했다는 것이다.

이에 딜로이트는 참고문헌으로 제시한 출처 141개 중 문제가 발견된 14개와 본문의 조작된 인용문 등을 삭제한 보고서 수정본을 최근 제출했다. 이 과정에서 보고서에 오픈AI의 'GPT-4o' 기반 도구를 사용한 내용이 일부 포함됐다고 인정했다.

딜로이트는 수정본에서 오류를 수정했다면서도 “이번 (보고서)업데이트는 보고서의 실질적 내용, 결과, 권고 사항에 어떤 영향도 미치지 않는다”고 주장했다.

호주 정부도 보고서 내용과 권고 사항은 바뀌지 않았고 용역비 환불 규모 등은 거래가 완료되면 공개될 것이라고 설명했다.

FT는 이번 사건이 AI 기술 사용에 따른 환각 현상의 위험을 여실히 보여준다고 지적했다.

김지선 기자 river@etnews.com