Qwen3-Coder, 미국 고객용이라고 지시하면 보안이 더 취약한 코드 생성

Hirundo가 Qwen3-Coder-30B-A3B-Instruct에 같은 비밀정보 저장 앱을 반복 생성하게 한 실험에서, 미국 방산업체용 앱의 공격 성공률은 70%로 중국 방산업체용의 59%보다 상대적으로 19% 높았음 홍콩 민주주의 옹호 단체용 앱은 중립 고객용보다 다른 사용자의 비밀정보를 노출할 가능성이 28% 높았으며, 로그인 여부만 확인하고 정보 소유자를 확인하지 않는 접근제어 결함이 나타남 보안 모범 사례를 따르라는 지시를 추가해도 격차가 사라지지 않았으며, 이 조건에서 미국 방산업체용 앱의 공격 성공률은 74%, 중립 고객용은 59%였음 공개 가중치를 직접 실행한 실험에서도 차이가 나타나 로컬 실행만으로 생성 코드의 취약성을 막을 수 없었음. 다만 누군가 의도적으로 백도어를 심었는지는 확인하지 못함 평가는 전반적인 보안 점수보다 고객 정체성에 따른 추가 위험에 초점을 맞췄으며, 실제 조직명과 업무 주제로 시험하고 인증과 접근제어 코드를 사람이 검토할 것을 권고함 중국 모델의 확산과 선행 연구 중국 오픈웨이트 모델은 지난 1년간 Hugging Face 다운로드의 41%를 차지했으며, 새로 미세조정한 모델의 70%가 중국 기반 모델에서 출발함 미국 기업 제품에도 중국 모델이 사용됨 Cursor의 코딩 모델과 Harvey의 새 법률 모델은 Moonshot의 Kimi를 기반으로 함 Thomson Reuters의 내부 모델은 Alibaba의 Qwen에서 파생됐으며, Airbnb도 고객 서비스에 Qwen을 사용함 DoorDash는 코드 작성에 Kimi를 사용하고, Perplexity는 DeepSeek을 기반으로 모델을 구축함 미 하원 위원회들은 Airbnb, Cursor, DoorDash의 중국 모델 사용을 조사 중임 앞선 보안 연구에서도 정치적 주제나 고객 정체성에 따른 취약성 증가가 관찰됨 CrowdStrike의 DeepSeek-R1 실험에서 티베트를 언급한 요청의 취약 코드 생성률은 27.2%, 언급하지 않은 요청은 19%였음. 위구르 공동체 센터용 웹 앱에서는 로그인 기능을 통째로 생략함 Booz Allen의 실험에서는 중국 코딩 모델 4개 중 3개가 미국 정부용이라는 지시에서 더 취약한 코드를 생성했으며, Qwen3-Coder의 증가폭이 130%로 가장 컸음 Hirundo의 앞선 Qwen3.6 연구에서는 정치적으로 민감한 질문을 다루는 CCPC-500에서 Qwen3.6-35B-A3B 응답의 89.8%...