[창간기획]AI에 속은 경험 많아…답변 검토과정 거쳐야

인공지능(AI)이 존재하지 않는 사실이나 자료, 출처를 마치 진짜인 것처럼 제시하는 환각(할루시네이션) 현상은 여전히 업무 현장에서 AI 활용의 걸림돌로 작용했다. 이로 인해 관리자급 AI 담당자들은 AI의 분석 결과는 참고 자료로 활용하고, 전문가의 의견을 신뢰하는 경향이 더 높은 것으로 나타났다. AI의 잘못된 정보나 왜곡된 답변으로 곤란을 겪은 사례 조사 (자세한 설문조사 결과는 창간기획면을 통해 확인할 수 있습니다.) 전자신문이 AI 관리자 143명을 대상으로 진행한 설문조사에서 무려 139명(97.2%)이 “AI 서비스를 이용하면서 잘못된 정보나 왜곡된 답변으로 인해 곤란을 겪은 경험이 있다”고 답했다. 사실상 응답자 대부분이 AI의 부정확한 정보 전달을 경험한 셈이다. 구체적으로 할루시네이션을 경험했다는 사례는 89건이나 됐다. 전체 응답자의 62.2%다. 학습 데이터의 한계와 확률에 기반한 생성 방식으로 인해 AI가 근거 없는 내용을 마치 사실인 것처럼 말하는 할루시네이션은 AI 확산 초기부터 제기된 문제지만, 최근에는 그 양상이 점점 알아차리기 어렵게 변화하고 있다고 전문가들은 지적했다. 한 응답자는 “AI가 허위 정보를 사실처럼 만들어 내는 방법이 다양해지고 정교해졌다”면서 “이는 사회 여러 방면에서 잘못된 여론을 형성하거나, 판단을 유도해 사회적 비용과 혼란을 야기할 수 있다”고 우려했다. AI의 잘못된 정보나 왜곡된 답변으로 곤란을 겪은 사례 조사 (자세한 설문조사 결과는 창간기획면을 통해 확인할 수 있습니다.) 질문 의도를 이해하지 못하거나 맥락을 제대로 파악하지 못한 경우는 26건(18.2%)이었고, AI가 강점을 지닌 분야로 여겨졌던 계산·분석·요약·번역 등에서 단순 오류나 잘못된 결과를 경험한 사례도 14건(9.8%)이나 됐다. 수는 적지만 AI가 차별적 답변을 내놓거나(5건) 민감한 정보를 요구하는(2건) 치명적인 사례를 경험한 사례도 있었다. 이처럼 AI가 내놓는 답변의 불완전성으로 인해 응답자의 76.2%(109명)는 AI와 전문가의 의견이 다를 경우 “전문가 의견을 신뢰하겠다”고 밝혔다. 세부 응답에서 AI의 답변을 신뢰하지 못해 추가 검토를 거치는 경우가 빈번했다. 다른 응답자는 “기존 소프트웨어(SW)의 오류는 눈에 보이지만 AI의 환각은 그럴듯한 형태로 나타나기 때문에 검증 없이 통과될 위험이 크다”면서 “결국 AI 활용의 실질적 비용은 사용료가 아니라 결과를 검토하고 판...