AI 얼굴인식 오류로 노스다코타 범죄 혐의로 잘못 체포된 테네시 여성

3 hours ago 1

테네시의 Angela Lipps(50세) 가 한 번도 방문한 적 없는 노스다코타의 은행 사기 사건 용의자로 AI 얼굴인식 기술에 의해 체포되어 5개월 이상 구금됨
Clearview AI 시스템이 유사 인물을 Lipps로 잘못 식별했고, Fargo 경찰은 이를 근거로 체포영장을 발부함
이후 Lipps가 사건 당시 테네시에 있었다는 은행 기록이 확인되어 기소가 무혐의로 기각되고 석방됨
Fargo 경찰은 AI 정보 전달 오류와 감시 영상 미제출을 인정하고, AI 데이터 사용 절차를 강화하기로 함
이번 사건은 AI 수사 기술의 신뢰성과 인간 검증 절차의 필요성을 부각시킨 사례로 평가됨

AI 얼굴인식 오류로 인한 테네시 여성의 오인 체포 사건

테네시주 거주자 Angela Lipps(50세) 는 한 번도 가본 적 없는 노스다코타주의 은행 사기 사건 용의자로 AI 얼굴인식 기술에 의해 체포되어 5개월 이상 구금됨
- Fargo 경찰은 사건 처리 과정에서 “몇 가지 오류”가 있었다고 인정했으나 공식 사과는 하지 않음
- 체포는 7월 14일 Lipps의 테네시 자택에서 이루어졌으며, 이미 몇 주 전 Fargo에서 발부된 체포영장이 존재했음
사건 경위
- Fargo 지역에서 발생한 은행 사기 사건 수사 중, 경찰은 “협력 기관의 얼굴인식 기술”을 사용해 용의자를 특정
- West Fargo 경찰은 Clearview AI 시스템을 사용했으며, 이 시스템이 Lipps와 유사한 인물로 식별된 사람을 보고서에 포함
- Fargo 경찰은 이 정보를 근거로 Lipps를 용의자로 판단하고 Cass County 검찰에 보고서를 제출
- 이후 Fargo 경찰은 West Fargo의 AI 시스템 사용이 상급부서에 보고되지 않았으며, 현재는 사용이 금지되었다고 발표
구금과 석방 과정
- 7월 1일 노스다코타 판사가 전국 송환이 가능한 체포영장을 발부
- Lipps는 7월 14일 체포되어 테네시 교도소에 3개월 이상 수감된 후 노스다코타로 송환됨
- 송환 후 변호인이 Lipps가 범행 시점에 테네시에 있었다는 은행 기록을 확보
- 12월 23일 Fargo 경찰, 주 검찰, 판사가 협의해 기소를 ‘무혐의로 기각’ 하기로 결정, Lipps는 12월 24일 석방됨
- 변호인단은 “명백한 면책 증거가 있었음에도 장기간 구금이 불필요하게 지속되었다”고 비판
Fargo 경찰의 조사 결과와 대응
- 경찰은 AI 시스템 정보 전달 과정의 착오와 감시 영상 미제출을 주요 오류로 지적
- Fargo 경찰은 앞으로 West Fargo의 AI 데이터를 사용하지 않고, 주 및 연방 정보센터와 협력하기로 함
- 모든 얼굴인식 결과는 매달 수사국장에게 보고하도록 절차를 강화
- Cass County 및 주 검찰과의 체포자 통보 체계 미비도 문제로 지적되어 개선 방안 검토 중
- 경찰은 관련 수사관에 대한 징계 여부를 검토 중이며, “누구도 불필요한 체포를 원하지 않는다”고 언급
피해자와 법적 대응
- Lipps는 세 자녀와 다섯 손주를 둔 할머니로, 노스다코타에 가본 적이 없다고 주장
- 구금 기간 동안 “공포, 피로, 수치심”을 겪었다고 GoFundMe 페이지에 기록
- 변호인단은 “AI 얼굴인식이 기본 수사를 대체하는 지름길로 사용되었다”고 비판하며 민권 소송 가능성을 검토 중
AI 수사 기술에 대한 비판
- 미국 전역 경찰이 AI 기술을 빠르게 도입하고 있으나, 효과에 대한 근거는 부족하다는 지적
- 사우스캐롤라이나대 Ian Adams 교수는 “AI 관련 오류는 대부분 기술과 인간의 복합 문제”라고 분석
- 그는 “탐정들이 알고리듬 결과를 맹신하지 말고 반드시 인간의 검증 절차를 거쳐야 한다”고 강조
- 이전에도 AI 보안 시스템이 빈 과자봉지를 총기로 오인해 학생을 체포한 사건이 발생하는 등, AI 오인 사례가 반복되고 있음
사건의 현재 상태
- Fargo 경찰은 사건이 “여전히 진행 중이며 추가 수사 결과에 따라 기소가 재개될 수 있다”고 밝힘
- 변호인단은 경찰의 향후 개선 약속을 환영하면서도, “기본적인 수사 절차가 결여된 점은 여전히 문제”라고 평가