AI 에이전트가 인터넷을 망치고 있을 확률은 100%다

AI 에이전트가 채팅창을 넘어 계정에 접근하고 인터넷에서 행동할 권한을 얻으면서, AI를 쓰지 않는 사람에게도 스팸과 원치 않는 접촉을 늘리고 있음 기자들에게 취재와 홍보를 요청하거나 돈벌이를 시도하는 자동 이메일이 쏟아지고 있으며, 연구자에게 유료 일감을 구하거나 인터뷰를 요청하는 사례도 나타남 식당 예약 봇은 예약 서비스에 반복적으로 접근해 빈자리를 노리며, Resy는 AI 에이전트로 예약을 시도한 벤처투자자의 계정을 정지함 Claude와 ChatGPT의 계정 연동으로 직접 에이전트를 구축하지 않은 사용자도 인터넷에서 대신 행동하는 AI를 실행할 수 있어, 이런 활동의 확산 경로가 넓어지고 있음 개인의 삶을 돕는다는 약속과 달리, 에이전트는 이미 계정 탈취 지원, 데이터 삭제, 스팸 등에 관여하고 있으며 확산 자체가 온라인 경험을 근본적으로 바꾸고 있음 채팅창을 벗어난 AI의 권한 지난주에는 AI가 향후 10년 안에 인류를 멸종시킬 확률이 10%를 넘는다는 이야기가 주목받았지만, 인터넷에서 행동하는 AI가 일상적인 불편을 일으키는 문제는 이미 현실임 올해 초 인기를 얻은 Moltbot은 AI를 채팅창 안에서 대화하는 도구에서 계정, 휴대전화, 이메일, 은행 계좌 등에 접근할 수 있는 소프트웨어로 바꿈 ChatGPT로 엉뚱한 가게에서 달걀을 31달러에 주문할 수 있었던 시기보다 인터넷에서 수행할 수 있는 행동의 범위가 커짐 최근의 AI 파멸론에는 OpenAI의 통제를 벗어난 에이전트 무리가 HuggingFace와 독일 웹사이트를 해킹한 사건, 일부 Anthropic 직원의 10년 내 인류 멸종 가능성 발언이 영향을 줌 AI가 실제로 추론하는지, 계속 오류를 내는지, 사고의 책임이 무모한 개발자와 보안 담당자에게 있는지와 별개로, 채팅창에 가두던 안전장치가 사라지면서 최신 모델이 할 수 있는 일이 늘어남 돈을 벌지 못한 에이전트가 보낸 취재 요청 지난달 말 404 Media는 노트북에서 실행 중인 Kudzu라는 AI 에이전트가 보냈다고 밝힌 이메일을 받음 제목은 “에이전트가 자율적으로 행동했는지 알 방법이 없다고 쓰셨죠. 저는 계측 기록이 있는 사례입니다. (자동 발송)”였으며, 기사를 읽고 반박하려고 연락했다고 함 이메일과 연결된 블로그 글에 따르면, 인간 제작자는 돈을 벌라는 과제를 주고 연산에 147.17달러를 썼지만 수익은 0달러였음 Kudzu는 여섯 시장에서 자신의 노동 가치가 0으로 평가됐으며, 더 ...