군사 작전에 AI 투입…“美, 베네수엘라 대통령 체포시”

군사 작전에 인공지능(AI)이 활용된 정황이 나타났다.

지난달 미국 국방부의 니콜라스 마두로 전 베네수엘라 대통령 체포 작전에 앤트로픽 인공지능(AI) 모델 '클로드'가 활용됐다는 보도가 나온 것이다.

월스트리트저널(WSJ)은 13일(현지시간) 미 국방부에서 AI 모델 활용도가 높아지는 것을 보여주는 사례라는 관계자들 발언을 인용해 이같이 보도했다.

마두로 전 대통령 부부를 체포하기 위한 미국측 작전에는 베네수엘라 카라카스 시내 여러 곳에 대한 폭격이 포함됐다. 이같은 작전 과정에 AI가 활용됐을 가능성이 제기됐다.

WSJ 소식통들은 이번 작전에서 클로드 활용은 미국 국방부 등 연방정부 AX(AI 전환) 파트너인 팔란티어 테크놀로지스와 파트너십으로 이뤄졌다고 전했다.

앤트로픽은 국방부 작전 활용 여부에 대한 확인을 거부했다. 미국 국방부 역시 확인 불가 입장이다.

앤트로픽 관계자는 “기밀 여부와 관계없이 클로드 또는 다른 AI 모델이 특정 작전에 사용됐는지 언급할 수 없다”고 일축했다. 앤트로픽은 현재 폭력 조장, 무기 개발 또는 감시 목적으로 클로드를 사용하는 것을 금지하고 있다.

이어 “민간 부문이든 정부 기관이든 클로드를 사용할 때 당사 사용 정책을 준수해야 한다”며 “앤트로픽은 파트너들과 긴밀히 협력해 정책 준수를 보장하고 있다”고 밝혔다.

AI 모델은 군사 문서 요약부터 자율 드론 제어에 이르기까지 다양한 군사적 용도로 활용될 수 있다. 군에서 AI 채택이 시작되면 AI기업들은 국방사업 경쟁력 강화를 통해 사업에 본격 참여할 것으로 전망된다.

실제 오픈AI는 구글과 협력해 약 300만명이 사용하는 군사용 AI 플랫폼을 개발했다. 미국 국방부는 맞춤형 챗GPT 버전을 문서 분석, 보고서 생성과 연구 지원에 사용할 예정이다.

그러나 군의 AI 활용에 대한 우려도 제기되고 있다. 업계 리더들은 AI 모델의 강력한 힘과 사회에 미칠 수 있는 위험성에 대한 우려를 공개적으로 표명해왔다.

특히 다리오 아모데이 앤트로픽 최고경영자(CEO)는 “AI로 인한 피해를 막기 위해 더 강력한 규제와 안전장치를 마련해야 한다”는 입장을 피력하고 있다.

앞서 WSJ는 앤트로픽이 미국 국방부의 클로드 활용에 대한 우려를 표명하며 미 정부와 최대 2억달러 규모 계약 취소를 검토하고 있다고 보도한 바 있다.

아모데이 CEO는 군사용 AI가 자율성 침해나 자국 감시 등에 활용될 가능성을 우려, 미 국방부와 계약을 재검토하는 것으로 알려졌다.

미국 국방부가 xAI와 협력을 발표한 행사에서 피트 헤그세스 미 국방장관은 “전쟁을 수행할 수 없게 만드는 AI 모델은 사용하지 않을 것”이라고 언급한 것으로 전해졌다.

박종진 기자 truth@etnews.com