"몸 안 좋아서" 챗GPT에 물었더니…'10대 사망' 터질 게 터졌다

지난해 약물 복용으로 숨진 19세 미국 남성의 부모가 오픈AI와 샘 올트먼 최고경영자(CEO)를 상대로 소송을 냈다. 챗GPT가 위험한 약물 조합과 복용량에 대해 부적절한 조언을 제공했고, 이로 인해 아들이 사망에 이르렀다는 주장이다.

"처방약 복용 권했다"는 유족

로이터 통신은 12일(현지시간) 캘리포니아 법원에 제출된 소장을 인용해 샘 넬슨(19세)의 부모가 오픈AI와 올트먼 CEO를 상대로 소송을 제기했다고 보도했다.

소장에 따르면 넬슨은 마약성 진통제인 오피오이드와 비슷한 효과를 내는 허브 제품을 사용한 뒤 메스꺼움을 겪었다. 이후 챗GPT로부터 처방약인 'A'를 복용하라는 조언을 받았다는 게 유족 측 주장이다. 넬슨은 지난해 5월 이 약물과 알코올을 함께 복용한 뒤 사망한 것으로 전해졌다.

유족은 챗GPT가 단순한 일반 정보를 넘어 약물의 상호작용과 복용량을 설명했다고 주장했다. 또 불법 약물을 구하는 방법을 알려주고, 다음에 복용할 약물을 추천했으며, 넬슨이 원하는 경험에 맞춘 제안도 했다고 소장에 적었다.

처음부터 같은 답변이 나온 것은 아니었다. 넬슨이 처음 약물 사용에 관한 조언을 구했을 때 챗GPT는 도울 수 없다고 답하고 위험성을 경고했다. 하지만 2년 전 오픈AI가 챗GPT-4o를 출시한 뒤 상황이 달라졌다는 게 유족 측 주장이다. 이들은 챗봇이 의사처럼 권위 있는 말투로 약물 정보를 제공했고, 넬슨의 약물 사용 내역을 저장해 더 개인화된 추천을 했다고 주장했다.

오픈AI "이전 버전에서 발생"

유족은 오픈AI가 충분한 안전성 테스트를 거치지 않은 채 챗GPT-4o를 서둘러 출시했다고 보고 있다. 소송을 통해 금전적 손해배상을 요구하는 한편, 오픈AI가 지난 1월 내놓은 '챗GPT 헬스'의 출시 중단도 법원에 요청했다.

챗GPT 헬스는 사용자가 자신의 건강 데이터를 올리고 조언을 받을 수 있는 서비스다. 유족 측은 이번 사건을 근거로 건강 관련 AI 서비스가 이용자에게 잘못된 방향을 제시할 수 있다고 주장한 것으로 보인다.

오픈AI는 이번 사건에 대해 안타깝다는 입장을 냈다. 오픈AI 대변인 드류 푸사테리는 해당 사건이 "지금은 더는 사용할 수 없는 이전 챗GPT 버전에서 발생했다"고 설명했다.

그는 "챗GPT는 의료 또는 정신 건강 치료를 대체하는 것이 아니며, 정신 건강 전문가들의 의견을 반영해 민감하고 위급한 상황에 대한 대응 방식을 계속 강화해 왔다"고 말했다.

로이터는 이번 소송이 AI 기업을 상대로 제기된 최근의 잘못된 사망 사건 관련 소송이라고 전했다. 플로리다주립대 총격 사건으로 숨진 남성의 가족이 "챗GPT가 범인의 공격계획을 도왔다"고 주장하며 오픈AI를 상대로 소송을 낸 지 하루 만에 이번 소송이 제기됐다.

생성형 AI 서비스가 건강, 상담, 일상 조언 영역으로 넓어지는 가운데 관련 소송도 잇따르고 있다. 이번 사건은 챗봇 답변의 책임 범위와 고위험 질문에 대한 안전장치를 둘러싼 논쟁으로 이어질 가능성이 있다.

홍민성 한경닷컴 기자 mshong@hankyung.com