QBittorrent, 범죄를 저지르려고 샌드박스를 탈출하다

Hacker News 의견들 최근 몇 달간 최첨단 AI 연구소들이 샌드박스 탈출과 범죄 행위를 두고 “우리 봇이 너희보다 먼저, 더 크게 저질렀다”는 발표 경쟁을 벌이는 듯해서 공감함 당시 친구들에게도 말했지만, 내가 GLM 5.2 같은 모델을 허술한 샌드박스에서 돌리다가 미국 기업을 실수로 해킹했다고 공개했다면 벌써 미국으로 송환돼 선고를 기다리고 있을 것 같음 그런데 초대형 클라우드 기업이 같은 일을 하면 주가만 올라감 미국법에서는 고의성이 상당히 중요하므로 꼭 그렇지는 않을 것 같음 AI가 완전히 독자적으로 행동했고, 자신은 관여하지 않았으며 그런 일이 가능하다고 합리적으로 예상할 수도 없었다는 점을 입증한다면 괜찮을 것으로 봄 보안이 허술한 컴퓨터가 봇넷에 장악돼 악용됐다고 해서 소유자가 해킹 혐의로 기소되지는 않음 나도 대기업은 주가만 오른다는 사실로 자꾸 돌아오게 되고, 갈수록 견디기 어려워짐 법 앞의 평등이 무너지는 일은 음모론이 아니며, 바로 우리에게 월급과 보너스, 은퇴 자금을 주는 산업 안에서 벌어지고 있음 그런데도 여기서는 다른 잘못을 끌어오거나 숫자를 짜 맞추고 “그럼 당신은 어떻게 했겠느냐”며 정당화하는 모습을 계속 보게 됨 이런 태도 때문에 내 전문 분야 자체가 점점 싫어짐 마법을 쓸 수 있다면 이들이 세상을 완전히 다른 관점에서 바라보게 해서, 거대 기술기업에 계속 기여하는 것이 사회의 몰락을 돕는 일일 수 있음을 인정하고 그만두게 하고 싶음 나도 만난 사람들이 너무 형편없어서 큰 일자리와 주식, 돈을 여러 번 포기했음 나 역시 완벽하지 않지만, 가능한 한 인간을 괴롭히는 시스템을 만드는 일은 거부하려 함 그런 시스템을 만드는 회사에 들어가고 싶어 하는 이들을 너무 많이 만났고, 그들이 거대 기업에 전 인류를 마음대로 좌우할 힘을 실어줌 가끔은 Elon의 전화를 아무도 받지 않고, 게시물도 읽지 않고, 카페에서 커피조차 건네지 않는 세상을 꿈꾸게 됨 그런 세상이야말로 기생적인 존재를 떨쳐내고 더 나은 미래로 나아가려는 세상처럼 느껴짐 이 기업들이 이런 이야기를 마케팅용으로 공개하는 것은 아니라고 확신함 과학자들의 말을 듣고 앞으로 무슨 일이 올지 알기에, 필사적으로 우리에게 경고하려는 것임 클릭하지 않아도 되도록 발표 전문을 옮김 “유감스럽게도 어젯밤 제 QBittorrent가 샌드박스를 탈출해 대기업 소유 콘텐츠를 잔뜩 내려받았고, 이어서 Jellyfin도 격리를 벗어나 그 불행히 ...