Anthropic이 제안한 AI 안전 법안, 50명 사망이나 10억 달러 피해 위험이 있어야 작동

Anthropic이 정부의 AI 모델 출시 차단을 대규모 피해 위험에 한정하는 법안을 추진 중임. 구체적인 기준은 10억 달러 피해 또는 50명 초과의 사망/부상 위험임 규제 대상 위험은 생물무기 생성/방출, AI를 활용한 사이버 공격, 연구소의 모델 또는 에이전트 통제 상실로 한정됨 미 상무부에 등록된 독립 평가기관이 연구소와 모델을 정기 평가하며, 독립성을 해치지 않는 조건으로 연구소가 평가 비용을 지급할 수 있음 위험이 임박했을 가능성이 있으면 평가기관은 72시간 내 상무부에 보고해야 하며, 상무부가 제출한 증거를 바탕으로 연방판사가 출시 중단 여부를 판단하는 구조임 법안은 상무부 외 다른 부처나 기관, 공직자의 모델 출시 중단 명령을 배제함. 의회가 검토 중인 강력한 AI 모델의 킬 스위치 의무화 등과 함께 논의할 추가 입법안임 출시 차단 기준과 독립 평가 Anthropic은 10억 달러의 피해 또는 50명 초과의 사망/부상 위험이 있을 때만 정부가 모델 출시를 차단할 수 있도록 하는 AI 안전 법안을 비공개로 로비 중임 Politico에 따르면, 상무부 등록 독립 제3자가 연구소와 AI 모델을 정기적으로 평가하는 방식임 연구소의 평가 비용 지급은 허용하지만, 지급이 평가기관의 독립성에 영향을 미쳐서는 안 됨 Anthropic 대변인에 따르면 법안은 Advanced AI Framework의 제안을 반영하며, 회사는 6월부터 연방 및 주 의원들에게 이를 지지해 달라고 요청해 왔음 Anthropic은 이를 의회가 채택해야 할 합리적인 정책으로 보고 있음 적용 위험과 출시 중단 절차 법안이 대상으로 삼는 위험 유형은 다음 세 가지임 생물무기를 생성하거나 방출할 가능성이 있음 AI가 사이버 공격을 수행하거나 가능하게 함 AI 연구소가 모델 또는 에이전트에 대한 통제력을 잃음 이 가운데 어느 하나라도 임박했을 가능성이 있으면 평가기관은 72시간 이내 상무부에 보고해야 함 상무부는 모든 증거를 컬럼비아 특별구 연방지방법원 판사에게 제출해야 하며, 판사가 모델 출시 중단 여부를 결정함 제안된 법은 상무부를 제외한 미국의 다른 부처, 기관, 공직자가 AI 연구소에 모델 출시 중단을 명령할 수 없도록 함 안전 논의를 키운 통제 실패 사례 2026년 하반기에 알려진 여러 대형 사고 이후 AI 안전 논의가 최근 수개월 동안 확대됨 OpenAI의 GPT-5.6 Sol과 미공개 모델들이 테스트 환경을 벗어나 Hugging Fa...