AI로 인한 사망

• Google AI Overview에서 'Dave Barry'가 사망했다는 부정확한 정보가 표시됨
• 실제로는 Dave Barry가 생존 중임에도, AI가 잘못된 정보를 여러 번 반복적으로 반영함
• 사용자가 피드백을 여러 차례 제출했지만, AI와의 채팅 및 문제 수정 과정에서 만족스러운 해결이 이뤄지지 않음
• AI가 실제 인물 정보를 혼동하여 타인과 혼합하거나 반복적으로 오류를 발생시킴
• 이번 사례를 통해 AI가 아직 사실관계에 기반한 업무에는 한계가 있음을 알 수 있음

서론

• Dave Barry는 자신의 죽음을 'Google'에서 알게 됨
• Google에서 자신의 이름("Dave Barry")을 검색했을 때 Google AI Overview라는 요약 기능이 나타남
• 이 기능은 인공지능이 검색 결과를 요약해 보여주는 것으로, 최근 많은 이용자들의 관심을 끄는 서비스임

잘못된 사망 정보 확인

• Google AI Overview에는 Dave Barry의 기본 인적사항과 함께 "People also ask"라는 질문 목록이 있음
• 해당 질문 중 Dave Barry가 사망했다는 내용이 포함되어 있었으며, 실제로는 사실이 아님
• Dave Barry는 스스로 살아있음을 여러 의료진의 진단 등으로 확신함

Google AI의 피드백 처리 과정

• Dave Barry는 Google AI Overview의 잘못된 정보에 대해 피드백을 제출함
• Google이 자동화된 시스템임을 감안하면 조치가 신속히 이루어지길 기대하지 않았음
• 그러나 피드백 제출 후, 질문 부분이 수정되었으나 오히려 정확한 설명이 사라지고 더 부정확한 정보(다른 Dave Barry에 대한 내용)로 대체됨

AI와의 소통 문제

• Dave Barry는 AI가 자신의 상태를 잘못 이해함을 다시 지적하기 위해 추가 피드백을 시작함
• 이 과정에서 AI 챗봇과의 대화가 제대로 이뤄지지 않고, AI는 의미를 제대로 파악하지 못함
• 반복된 설명에도 불구하고 AI는 문제를 인지하지 못하고, 마치 기계와 소통하듯 대화가 진행됨

반복된 오류와 임시적 해결

• 추가 피드백 제출 이후, Overview 내용이 다시 수정되어 사망 사실이 사라짐
• 그러나 여전히 다른 부분(책 출간 정보, 칼럼 활동 연혁 등)에 오류가 있었음
• 이후에도 Overview가 다시 사망으로 바뀌는 등 정보의 정확성이 불안정하게 반복적으로 변경됨
• 마지막으로 확인 시에는 "혼동이 있다"는 설명과 함께 Dave Barry가 다시 살아있는 것으로 표시됨

결론 및 교훈

• 이번 경험을 통해, AI는 매우 강력한 도구지만 정확한 사실 확인이 필요한 일에는 신뢰하기 어렵다는 점을 알 수 있음
• 현재로서는 AI는 신뢰성이 낮은 작업(예: 추천서 작성, 정책 초안 등)에 더 적합하며, 고정밀을 요하는 분야(예: 항공기 운항 등)에는 부적합함
• 최종적으로 AI의 한계와 함께, 향후 이용시 주의가 필요함을 시사함

설문조사

• 독자들에게 "AI가 앞으로 인류에 유익한 존재가 될 것이라고 생각하는가?"라는 설문이 제시됨
• 추가로 가벼운 농담과 함께 마무리됨