Anthropic이 일기 내용을 경찰에 신고, 작성 여성은 중범죄 혐의를 받음

플로리다의 한 여성이 Claude를 일기장처럼 사용하며 보안관 사무실에 총격을 가하겠다는 내용을 작성한 혐의로 중범죄 처벌에 직면함 Claude 안전 시스템이 해당 내용을 탐지한 뒤 사람 검토자에게 넘겼으며, 검토자는 실제 위협이라고 판단해 경찰에 신고함 Anthropic은 사망이나 심각한 신체적 상해를 막는 데 정보 공개가 필요하다고 판단하면 제한적인 긴급 상황에서 사용자 정보를 공유할 수 있다고 밝힘 적용 법률은 폭력 위협이 담긴 서면 또는 전자 기록을 다른 사람이 볼 수 있는 방식으로 전송하거나 게시하는 행위를 2급 중범죄로 규정함 챗봇은 본인만 볼 수 있는 비공개 일기장과 다르며, Microsoft Copilot 이미지 편집기에서도 사람 검토자가 사용자 입력과 AI 편집 결과를 볼 수 있음 Claude 기록 탐지부터 경찰 수사까지 체포 보고서에 따르면, 플로리다 Bonita Springs에 거주하는 Carli Michelle Heller는 9월 26일 보안관 사무실을 공격하겠다는 내용을 작성한 혐의를 받음 이후 Heller는 Anthropic의 챗봇을 일기장처럼 사용한다고 말함 Claude 안전 시스템이 해당 기록을 탐지해 사람 검토자에게 넘겼고, 검토자는 실제 위협이라고 판단해 법 집행기관에 신고함 Anthropic은 사망이나 심각한 신체적 상해를 예방하는 데 필요하다고 판단하는 제한적인 긴급 상황에서 사용자 정보를 공유할 수 있다고 밝힘 보안관실 소속 경찰관들은 Heller의 신원을 확인하고 자택을 방문해 별다른 충돌 없이 신병을 확보했으며, 이후 LCSO 정보 담당 형사가 수사를 넘겨받음 Heller는 플로리다법에 따라 서면 폭력 위협 혐의를 받음 Florida Statute 836.10은 살해나 상해, 대규모 총격, 테러를 위협하는 서면 또는 전자 기록의 발송, 게시, 전송을 2급 중범죄로 규정함 해당 전달 행위는 다른 사람이 그 내용을 볼 수 있는 방식으로 이뤄져야 함 위협 신고를 둘러싼 소송과 챗봇의 사생활 한계 지난달 캐나다 브리티시컬럼비아주는 OpenAI가 대규모 총격 사건을 예방할 수 있었다고 주장하며 OpenAI와 Sam Altman을 상대로 소송을 제기함 총격범인 18세 전 재학생 Jesse Van Rootselaar는 총기 폭력 관련 대화로 OpenAI 안전팀에 이미 탐지된 상태였음 OpenAI는 해당 대화가 법 집행기관에 신고할 기준에 미치지 못한다고 판단해 경찰에 알리지 않았음 ...