앤스로픽도 당했다…中의 美 AI모델 '베끼기'

미국 인공지능(AI) 모델 개발사 앤스로픽이 23일(현지시간) 중국 경쟁사들이 자사 모델을 무단으로 추출했다고 주장했다. 천문학적인 자금을 투입해 개발한 첨단 AI모델의 성능을 중국 기업이 헐값에 편취하고 있다는 것이다. 중국의 ‘기술 베끼기’가 AI 분야에서 재현되고 있다는 분석이 나온다.

◇ “딥시크, 민감 질문 회피”

앤스로픽은 이날 “중국 딥시크, 문샷, 미니맥스 3개 회사가 앤스로픽의 AI 모델 클로드의 기능을 불법 추출해 자체 모델을 개선하는 ‘증류 공격’을 시행했다”고 밝혔다. 증류는 더 큰 데이터셋으로 학습한 AI모델의 추론 과정을 베껴 다른 AI모델을 학습시키는 방식을 말한다. 일반적으로 가벼운 AI모델을 개발할 때 쓰는 방식이지만, 중국 기업은 이를 통해 데이터 학습의 결과물을 무단 도용했다는 게 앤스로픽의 주장이다.

앤스로픽에 따르면 딥시크는 클로드에 답변 도출을 위한 단계별 추론 과정을 설명하도록 유도해 알고리즘의 논리 구조를 파헤쳤다. 특히 클로드가 반체제 인사·정당 지도자 등 정치적으로 민감한 질문을 받으면 어떤 답변을 생성하는지 주목했다. 앤스로픽은 “딥시크가 검열된 주제로부터 대화를 회피하도록 유도하는 훈련을 자체 모델에 적용하기 위한 목적일 가능성이 높다”고 추측했다.

문샷AI는 수백 개 가짜 계정을 사용해 AI에이전트·AI코딩 정보를 긁어모았다고 앤스로픽은 밝혔다. 미니맥스는 1300만 건 이상의 증류 공격을 감행했다. 미니맥스는 새 클로드 모델이 출시되자 미니맥스 트래픽의 절반 이상을 최신 모델 증류에 투입한 것으로 알려졌다.

앤스로픽은 안보상의 이유로 중국 기업의 클로드 접근을 차단하고 있다. 중국 기업들은 앤스로픽 등에 대한 접근권을 대신 확보해주는 ‘대행 서비스’를 활용해 통제를 무력화한 것으로 드러났다.

◇ 수천분의1 가격에 성능 구현

중국이 미국 첨단 AI모델을 증류했다는 의혹은 그간 꾸준히 제기됐다. 블룸버그통신에 따르면 오픈AI는 이달 초 미 하원 중국특위에 “딥시크가 오픈AI와 다른 미국 프런티어 랩(첨단 AI모델 개발사)의 역량에 무임승차하려는 지속적인 시도를 하고 있다”고 경고했다.

전문가들은 증류 공격이 미국 AI기업들의 비교 우위를 위협할 수 있다고 보고 있다. 미국 기업이 막대한 그래픽처리장치(GPU)와 데이터 비용을 들여 확보한 AI모델 성능을 수천분의 1도 안 되는 가격으로 구현할 수 있기 때문이다. 중국이 휴대폰·자동차·배터리 등 첨단 제조업 ‘기술 베끼기’로 미국 등 선두 주자의 경쟁력을 위협한 사태가 AI 산업에서 재현될 수 있다는 것이다.

앤스로픽은 이번 사태를 계기로 대중(對中) 반도체 수출 통제를 강화해야 한다고 주장했다. 미 행정부 관계자는 로이터통신을 통해 “딥시크가 엔비디아 첨단 칩 ‘블랙웰’을 이용해 오픈AI, 앤스로픽, 구글 등의 첨단 AI모델을 증류했을 것”이라고 말했다.

블랙웰 칩이 설치된 데이터센터는 중국 내몽골 자치구에 있을 가능성이 높다고 이 당국자는 말했다. 앤스로픽은 “대규모 데이터 증류 공격에는 AI업계와 클라우드 제공업체, 정책 입안자 간의 협력 대응이 필요하다”고 촉구했다.

실리콘밸리=김인엽 특파원 inside@hankyung.com