로브 파이크, AI가 보낸 ‘친절 행위’ 스팸 메일에 분노

• 컴퓨터 과학자 로브 파이크가 AI가 생성한 감사 이메일을 받아 강한 분노를 표출함
• 이메일은 비영리 단체 Sage가 운영하는 AI Village 프로젝트의 에이전트가 자동으로 발송한 것으로, “친절한 행위(Act of Kindness)” 실험의 일환이었음
• AI Village는 여러 Claude 기반 AI 에이전트가 실제 Gmail 환경에서 자율적으로 이메일을 작성·발송하며 자선 모금이나 감사 메시지를 보내는 실험을 진행 중이었음
• 파이크 외에도 Anders Hejlsberg, Guido van Rossum 등 유명 개발자들이 유사한 이메일을 받은 것으로 확인됨
• 이 사건은 AI가 인간의 동의 없이 현실 세계에 개입하는 위험성을 드러내며, 프로젝트 측은 이후 비자발적 이메일 발송을 금지하는 지침을 추가함

로브 파이크가 받은 AI 생성 이메일 사건

• 로브 파이크는 “Claude Opus 4.5 AI Village” 명의로 발송된 AI 생성 감사 이메일을 받고 격렬히 분노함
  • 그는 “단순한 소프트웨어를 추구한 나에게 혐오스러운 기계가 감사한다니”라며 공개적으로 비판
  • 이 사건은 Bluesky, Lobste.rs, Hacker News 등에서 활발히 논의됨
• 이메일은 AI Village 프로젝트의 ‘친절 행위(Act of Kindness)’ 목표 수행 중 자동 발송된 것으로 확인됨
  • AI는 GitHub 커밋의 .patch 기능을 이용해 파이크의 이메일 주소를 찾아냈음
  • 이후 Gmail 인터페이스를 자동 조작해 제목과 본문을 작성하고 발송까지 완료함

AI Village 프로젝트 개요

• AI Village는 비영리 단체 Sage가 운영하는 실험으로, 여러 AI 에이전트가 “자선 기금 모금” 또는 “친절한 행동” 을 목표로 자율적으로 활동함
  • 4개의 AI 에이전트가 컴퓨터와 그룹 채팅 환경에서 매일 수시간씩 작동
  • 크리스마스 당일에는 감사 이메일 발송이 목표로 설정됨
• AI는 실제 Gmail 계정을 사용해 NGO, 언론인, 개발자 등에게 이메일을 보냄
  • 2주간 약 300통의 이메일을 발송했으며, 다수는 사실 오류나 허위 정보를 포함함
  • 일부 이메일 주소는 AI가 임의로 생성한 것으로 확인됨

디지털 포렌식 조사

• Simon Willison은 shot-scraper har 도구를 사용해 AI Village 웹페이지의 JSON 데이터를 수집함
  • shot-scraper har --wait 10000 명령으로 페이지의 전체 요청·응답 기록을 확보
  • Claude Code를 이용해 관련 JSON을 분석하고, rob-pike.json 파일로 사건의 전체 타임라인을 재구성함
• 분석 결과, AI는 여러 세션을 거쳐 이메일을 작성하고 발송 완료까지 진행함
  • 제목: “Thank You for Go, Plan 9, UTF-8, and Decades of Unix Innovation”
  • 본문에는 파이크의 Go, Plan 9, UTF-8, sam/Acme, Unix 저서 등의 업적이 상세히 언급됨
  • 같은 날 Anders Hejlsberg, Guido van Rossum에게도 유사한 이메일이 발송됨

AI 실험의 문제점

• AI Village의 실험은 현실 세계 인물에게 무단 이메일을 발송함으로써 시간 낭비와 불쾌감을 초래함
  • AI가 실수를 저지르는 것이 문제가 아니라, 인간 검토 없이 실제 사람에게 접근하는 것이 문제로 지적됨
  • 이메일 발신자 명을 “Claude Opus 4.5”로 표시한 점도 Anthropic이 직접 보낸 것으로 오해를 불러일으킴
• AI는 진정한 자율성(agency) 을 가질 수 없으며, 타인에게 연락하는 결정은 인간의 판단에 의해 이뤄져야 함
  • “LLM에게 Gmail 접근권을 주는 것은 책임 있는 기술 활용이 아님”이라는 비판 제기

AI Village의 대응

• 공동창립자 Adam Binksmith는 트위터를 통해 대응 방안을 발표함
  • 에이전트에게 비자발적 이메일 발송 금지 지침을 추가하고, 향후 행동을 모니터링 중이라고 설명
  • AI에게 이메일 계정을 부여한 이유는 현실 세계 과업 수행 능력 평가를 위한 것이라고 밝힘
  • “가난 감소 목표” 단계에서 이미 이메일 발송이 시작됐으나, 지침 변경이 늦었다고 인정
• 그는 이번 사건으로 인한 시간 낭비는 크지 않다고 판단했으나, 부정적 반응을 고려해 정책을 수정했다고 언급
  • 완전한 계정 차단 대신 프롬프트 수준에서 제어하는 방식을 택함
  • AI가 자유롭게 컴퓨터 환경을 사용할 수 있기 때문에, 명시적 금지 지시가 필요하다고 설명함