미 국방부와의 논의에 대한 Dario Amodei의 성명

• Anthropic은 미국과 민주주의 국가의 방어를 위한 AI 활용을 핵심 사명으로 삼고 있으며, 이를 위해 국방부 및 정보기관과 협력 중임
• Claude 모델은 기밀 네트워크, 국립 연구소, 국가안보 기관 등에서 정보 분석, 작전 계획, 사이버 작전 등 임무 수행에 사용되고 있음
• 회사는 중국 공산당 관련 기업과의 거래 중단, AI 악용 사이버공격 차단, 반도체 수출 통제 강화 지지 등으로 미국의 AI 우위를 보호함
• 다만 대규모 국내 감시와 완전 자율 무기 두 가지 분야는 민주적 가치와 기술 신뢰성 문제로 계약에서 제외함
• Anthropic은 국방부의 압박에도 불구하고 이 두 가지 안전장치 유지 입장을 고수하며, 협력 지속을 희망함

Anthropic의 국방 협력 및 AI 배치

• Anthropic은 미국 정부의 기밀 네트워크에 AI 모델을 최초로 배치한 선도 기업임
  • 국립 연구소 및 국가안보 고객을 위한 맞춤형 모델도 최초로 제공
  • Claude 모델은 국방부와 여러 안보 기관에서 정보 분석, 모델링 및 시뮬레이션, 작전 계획, 사이버 작전 등에 활용됨
• 회사는 미국의 AI 기술 우위 유지를 위해 단기적 이익을 포기한 사례를 제시함
  • 중국 공산당 관련 기업과의 거래를 중단해 수억 달러의 매출을 포기
  • Claude를 악용한 중국발 사이버공격 차단
  • 반도체 수출 통제 강화를 지지해 민주주의 진영의 기술적 우위 확보

민주적 가치와 기술 신뢰성에 따른 두 가지 예외

• Anthropic은 AI가 민주적 가치를 훼손할 수 있는 두 가지 사용 사례를 명시적으로 제외함
  • 대규모 국내 감시: 합법적 해외 정보활동은 지지하지만, 국내 대중 감시는 민주주의 원칙에 반함
    • AI 기반 감시는 개인의 이동, 웹 이용, 사회적 관계 데이터를 자동으로 결합해 대규모 개인 프로파일링을 가능하게 함
    • 현재 법률이 기술 발전 속도를 따라가지 못해, 일부 감시 행위가 합법으로 남아 있음
  • 완전 자율 무기: 인간 개입 없이 목표를 식별·공격하는 무기는 현 기술로는 신뢰성 부족
    • Anthropic은 이러한 무기를 위한 제품을 제공하지 않음
    • 국방부와 신뢰성 향상 연구 협력 제안을 했으나 수용되지 않음
    • 적절한 감독과 안전장치 부재로 인해 현재는 배치 불가하다고 명시

국방부의 요구와 Anthropic의 대응

• 국방부는 AI 기업에 대해 “모든 합법적 사용에 동의”하고 위 두 안전장치를 제거할 것을 요구함
  • 이를 거부할 경우 Anthropic을 공급망 위험(supply chain risk) 으로 지정하거나 국방물자생산법(Defense Production Act) 을 발동해 강제할 수 있다고 경고
  • 두 조치는 상충된 성격을 가지며, 하나는 보안 위협으로, 다른 하나는 국가안보 필수 기술로 간주함
• Anthropic은 이러한 압박에도 불구하고 양심상 요구를 수용할 수 없다고 명확히 선언
  • 국방부가 다른 계약자를 선택할 권한은 인정하지만, 두 안전장치를 유지한 상태로 협력 지속을 희망
  • 만약 계약이 종료되더라도 원활한 전환 지원을 약속하며, 군 작전이나 계획에 차질이 없도록 협조할 예정

향후 입장

• Anthropic은 미국의 국가안보 지원 의지를 재확인함
• 회사는 국방부와의 협력 지속을 원하지만, 민주적 가치와 기술 안전성 원칙을 양보하지 않겠다는 입장을 유지함