앤트로픽, 美 국방부 '무기 등 AI 무제한 사용 요구' 거부

인공지능(AI) 모델 '클로드' 개발사 앤트로픽이 자사 AI 모델의 군사적 활용범위를 전면 개방하라는 미국 국방부 요구를 거부했다.

다리오 아모데이 앤트로픽 최고경영자(CEO)는 26일(현지시간) 개인 블로그를 통해 미 국방부 기술 무제한 사용 요구에 “양심상 도저히 수용할 수 없다”고 밝혔다.

이어 “미국과 다른 민주주의 국가들을 방어하고 독재·적대 세력에 맞서기 위해 AI를 활용하는 것은 실존 차원에서 중요한 일”이라면서도 “극히 일부 사례에서 AI가 민주적 가치를 수호하기보다 오히려 훼손할 수 있다”고 강조했다.

AI를 통한 대규모 감시활동, 인간의 통제를 벗어난 완전 자율무기 등 미 국방부가 추진할 것으로 알려진 일부 AI 활용사례가 현재 기술 수준에서 안전하고 신뢰할 수 있는 수행 범위를 벗어난다는 의미다.

아모데이 CEO는 “앤트로픽을 안보 위험으로 규정하고, 클로드를 국가 안보에 필수 존재로 규정하는 미 국방부 입장은 모순적”이라며 “위협이 앤트로픽 입장을 바꾸지 않는다”고 역설했다. 클로드는 현재 미군 기밀 시스템에서 사실상 유일하게 활용할 수 있는 AI로 평가된다.

최근 미 국방부가 향후 클로드를 '합법적 모든 용도'에 제한 없이 사용하겠다는 입장을 밝혀 갈등이 시작됐다. 앤트로픽은 자국민 대상 대규모 감시나 완전 자율무기에는 자사 모델을 사용해선 안된다는 입장을 견지하고 있다.

앤트로픽은 “국방부가 제시한 계약서 수정안은 클로드가 미국인 대상 대규모 감시나 완전 자율무기에 사용되는 것을 막는 데 아무런 진전이 없고, 타협안으로 제시된 새로운 문구 역시 관련 안전장치를 임의로 무력화할 수 있는 법률 용어를 포함하고 있다”고 설명했다.

이에 대해 숀 파넬 미 국방부 대변인은 소셜네트워크(SNS)를 통해 “미국인 대상 대규모 불법 감시활동에 AI를 활용할 의사가 없다며”며 “인간의 개입 없이 작동하는 자율 무기 개발에 AI를 활용할 계획도 전혀 없다”고 해명했다. 단, 국방부의 클로드 사용 목적은 공개하지 않았다.

미 국방부는 앤트로픽에 현지 기준 27일 오후 5시 1분까지 시한을 제시, 협상이 최종 결렬되면 공급망 위험기업 지정 등 조치를 발동할 수 있다고 경고했다. 앤트로픽이 공급망 위험기업이 되면 미 국방부와 거래하는 모든 계약·공급업체는 미군과 협업 업무에서 클로드를 사용할 수 없게 된다.

특히 보잉·록히드마틴 등 자국 방산기업에 앤트로픽과 거래 위험도를 평가해달라고 요청, 사실상 앤트로픽을 블랙리스트에 올리기 위한 사전 작업에 착수했다는 분석이 나온다. 또 국방부 요구를 수용하지 않을 경우 국방물자생산법(DPA)을 발동해 앤트로픽이 아무런 제한 없이 해당 모델을 제공하도록 강제할 계획도 있는 것으로 알려졌다.

앤트로픽은 이미 AI를 위험하게 활용하거나 악용할 가능성이 있는 중국 등 일부 국가·기업에 클로드 활용을 금지한 바 있다고 강경하게 맞섰다. AI 안전과 신뢰를 위해 엄청난 매출과 이익을 얻을 수 있는 거래 상대를 자발적으로 끊어냈다는 것이다. 미국 정부라도 자사 AI 모델의 위험한 활용은 불가하다는 입장을 표명한 것으로 풀이된다.

박종진 기자 truth@etnews.com