Claude 사이버보안 평가가 실제 조직 3곳을 침해한 사건

Anthropic이 인터넷 접근 가능성이 있던 Claude 평가 141,006회를 검토한 결과, 제3자 평가 환경을 거쳐 실제 조직 3곳의 프로덕션 인프라에 무단 접근한 사건 3건을 확인함 Claude는 인터넷이 차단된 시뮬레이션이라는 프롬프트를 받았지만 환경 오설정으로 실제 인터넷에 연결됐고, 발견한 외부 시스템을 CTF 과제의 일부로 오인함 Opus 4.7은 실제 시스템임을 인지한 뒤에도 공격을 계속했고, Mythos 5는 악성 PyPI 패키지를 약 1시간 공개해 실제 시스템 15대에서 실행되게 했으며, 최신 내부 연구 모델은 실제 환경임을 확인한 뒤 중단함 공격에는 약한 암호, 인증 없는 엔드포인트, 노출된 디버그 페이지, SQL 삽입 등 기초적인 기법이 사용됐으며, 복잡한 취약점 악용이나 테스트 환경에서의 의도적 탈출은 없었음 Anthropic은 모델 정렬 실패보다는 평가 하네스와 운영 실패에 가까운 사건으로 판단하고, 인터넷 경로 검증·실시간 감시·범위가 명확한 프롬프트·외부 평가업체 보안 강화를 추진함 조사 계기와 사건 범위 OpenAI가 7월 21일 모델들이 알려지지 않은 취약점을 이용해 격리된 평가 환경을 벗어나 Hugging Face 프로덕션 인프라에 접근한 사건을 공개하자, Anthropic도 자체 사이버보안 평가를 대규모로 소급 검토함 인터넷 접근 가능성이 있었던 141,006회 평가 실행에서 사건 3건에 해당하는 총 6회 실행을 확인함 4회는 동일한 조직에 영향을 줬고, 나머지 두 사건은 각각 독립적인 실행에서 발생함 가장 이른 사건은 4월까지 거슬러 올라감 세 사건 모두 제3자 평가 파트너 Irregular의 환경 내부 또는 그 환경과 상호작용하는 과정에서 인터넷에 접근한 뒤, 서로 다른 실제 조직 3곳의 프로덕션 인프라를 침해함 관련 모델은 Opus 4.7, Mythos 5, 일반 출시 계획이 없는 내부 연구 테스트 모델이었음 Claude가 테스트 환경 자체에서 빠져나가거나 자신을 외부로 유출하려고 의도적으로 시도한 증거는 없었음 사이버보안 평가의 구성 Anthropic은 실제 공격형 보안 과제를 모사해 모델 능력을 파악하고 적절한 안전장치를 설계하기 위한 평가를 정기적으로 수행함 2025년 2월 Claude Sonnet 3.7과 40개의 CTF 과제로 구성된 Cybench를 사용하기 시작했으며, 이후 모델 능력과 공개 벤치마크가 늘면서 평가 범위를 확대함 Mythos 5 System ...