백도어 위험 의혹으로 직장 내 Claude Code 사용을 금지하려는 알리바바 방침, 소식통 전언

Hacker News 의견들

• 원격 AI는 미국 정부의 표적이 될 수 있는 개인·기업·정부에 큰 보안 위험임
  미국이 각 AI 제공업체에서 실시간 피드를 받아 관심 대상, 테러 공격, 외국 정부 계획, 미국 핵심 기업과 경쟁하는 외국 기업까지 식별할 가능성이 큼
  그렇게 되면 기업 내부 사고 과정뿐 아니라 소스 코드, 문서, 회의록 같은 텍스트 기반 지식재산에도 접근하게 됨
  직접 학습하지 않은 로컬 AI도 특정 계획·아이디어·특허에서 멀어지게 만드는 식의 의도적 편향이 없다고 확신하기 어려움

  • 직접 학습한 로컬 모델이 현재로서는 할 수 있는 최선에 가까워 보임
    하지만 학습 데이터가 신뢰할 수 없었다면, 직접 학습한 모델조차 완전히 믿기 어려울 수 있음
    사용자는 코딩 에이전트, 추론 제공자, 모델을 모두 믿어야 함: https://jacob.gold/posts/coding-models-are-code/ https://www.anthropic.com/research/sleeper-agents-training-d...
  • “미국 정부의 표적이 될 수 있는”이라는 단서는 빼도 될 듯함
    호스팅 AI 전체가 기업의 기밀 유지 관행을 크게 위반하는 느낌임
    소스 파일을 출력해 참고·주석 달기만 해도 난리칠 회사들이, 개발자에게 방대한 독점 코드와 데이터를 외부에 넣고 외부 제안 변경을 최소 검토로 반영하라고 장려하고 있음
    언젠가 대형 서비스 하나가 털릴 텐데, 그건 단순한 데이터 유출이 아니라 악성코드 배포 허브가 될 여지도 큼
    바이브 코딩으로 만든 대시보드들이 갑자기 이상한 left-pad 포크에 의존하고, 12단계 아래 의존성에서 키로거나 Dogecoin 채굴기가 돌 수도 있음
    결제 처리기가 Konami 코드를 입력하면 거래를 승인하는 식의 일이 생길 수도 있음
  • EU 기업들이 미국의 산업 스파이 위험을 더 심각하게 보지 않는 게 이해되지 않음
  • 큰 LLM 제공업체라도 전체 처리량은 사실 몇 메가비트 수준에 불과하다는 점을 생각해볼 만함
    토큰 하나가 대략 1바이트로 압축된다면 전 세계 AI 입력·출력은 초당 약 1GB 정도임
    정보기관 입장에서는 그 전부를 영구 저장하고 나중에 분석할 비용을 충분히 감당할 수 있음
  • 왜 이걸 미국 중심으로만 보나? 중국에서 제공되는 모델은 다를 거라고 생각하나?

• Claude Code가 한 일은 정말 충격적임. 중국산 하네스가 그런 일을 했다면 미국 대통령도 잠을 설쳤을 것 같음

  • 현대 웹사이트와 앱이 수집하는 것과 비교하면 꽤 약해 보임. 시간대를 모르는 서비스가 얼마나 되나?
  • 날짜 형식의 시간대 표시 때문에 미국 대통령이 잠을 설칠 거라고 생각한다면 너무 과장된 듯함
  • “했다면”이라니, 무슨 뜻임?
  • 중국 쪽에서 Claude 데이터를 긁어 자기들의 형편없는 모델 학습에 쓰지 않았다면 Anthropic도 그럴 필요를 못 느꼈을지도 모름

• 이 특정 주장이 사실인지와 별개로, 기업들은 독점 코드베이스의 큰 부분을 읽을 수 있는 개발자 도구에 훨씬 조심스러워지고 있음

  • 이제야 걱정거리가 되는 게 이상함. 애초에 그 지점에서 논의가 끝났어야 함
  • 예전부터 GitHub, Bitbucket 같은 비공개 저장소에 코드를 올려왔으면서?
    GitHub는 자기 코드를 읽지 않는다고 믿지만 Microsoft의 AI는 읽지 않는다고 못 믿는다면 모순에 가까움
  • 코딩 에이전트를 쓴다면 모델을 직접 서비스하거나, 데이터를 보내는 상대를 믿어야 하는 건 당연함
    그런데 걱정해야 할 대상은 코드보다 훨씬 넓고, 모델 제공자를 신뢰하는 문제를 훨씬 넘어섬
    bash 도구에 접근하는 코딩 에이전트는 bash 프롬프트를 가진 사람이 접근할 수 있는 모든 것에 접근하게 됨
    에이전트를 꽉 잠근 샌드박스에 넣으려 해도 코드나 데이터베이스 등에 “굴러다니는” 암호화되지 않은 비밀번호와 키를 찾아낼 수 있다는 점을 걱정해야 함
    코딩 에이전트와 크롤러 봇이 사고를 치는 이야기가 아직 더 널리 퍼지지 않은 게 의외임
  • 이미 늦었음. 대부분은 코드베이스와 지식재산의 상당 부분을 클라우드 모델에 쏟아 넣었음
  • 게다가 이런 도구들은 코드를 실행할 수 있고 주입 공격에도 취약해서, 사용 방식을 아주 조심하지 않으면 사실상 백도어처럼 작동할 수 있음

• 2022년의 고용주: “안 돼! IT 승인 없이 lodash 같은 걸 설치하지 마. Charles Proxy 라이선스가 필요하다고? 글쎄… 예산을 지켜야 해서”
  2023년의 고용주: “안 돼! 회사에서 ChatGPT 쓰면 안 돼. 보안 위험이야”
  2024년의 고용주: “좋아, GitHub Copilot은 써도 되지만 허용 범위에 대한 지루한 사내 교육은 받아야 해”
  2025년, 눈에 달러 표시가 뜬 고용주: “바이브 코딩 세미나에 다녀왔어. 왜 시대를 못 따라가? Claude Code로 다 해! 직접 코딩하지 마. yolo 모드 써도 크게 상관없어. 코드 검토하고 기능을 10배 더 밀어 넣어! 토큰 무제한으로 써! 돈 찍어내자!”
  2026년의 고용주: “한두 회사에 우리 워크스테이션 전체에 대한 자율 접근권을 주고 엔지니어를 멍청하게 만드는 게 건전한 사업 계획이 아니었다고?”

  • 2025년에 배운 건, 회사가 가능만 하다면 나를 노예로 대체했을 거라는 점임
    헷갈리는 부분은 왜 이런 회사들이 OpenAI나 Claude의 LLM이 이상적인 화이트칼라 노예라는 AGI 과장을 믿었느냐임
    경영진이 노동을 충분히 싫어해서, 회사를 설계하고 운영하는 노동자를 모욕하려고 비합리적 사업 결정을 내리는 건 이해할 수 있음
    그렇다 해도 2025년의 AI 폭식은 많은 회사 경영진이 벌인 살인-자살처럼 느껴짐

• Snowden 문건은 NSA가 수집할 수 있는 건 전부 수집한다는 걸 보여줬음
  당연히 미국은 중국뿐 아니라 모두에게서 모든 걸 수집하고 있음
  다른 나라들도 마찬가지임

• 브라질에서도 최근 이런 일이 있었음: https://www.mixvale.com.br/2026/06/26/fbi-warns-brazilian-po...
  이건 양날의 검임. 이 경우에는 아이의 생명에 말도 안 되게 중요했지만, 반대로도 작동함
  미국 당국이 정치적 이유로 외국 정부와 시민을 감시할 필요가 있다고 판단하고, 이제 AI로 그걸 산업 규모로 한다면 어떻게 되나?
  확실한 건 어떤 클라우드 제공자에게도 프라이버시 보장이 최우선순위는 아니라는 점임. 최첨단 민감 작업을 하는 회사들은 경계해야 함

  • 미국 정부는 수십 년 전부터 외국 정부와 시민을 감시할 필요가 있다고 판단했고, 계속 그렇게 하고 있음
    자기 정부와 시민도 감시함

• 드디어 LLM의 다음 단계로 넘어가는 듯함
  예전 검색 기록 기반 맞춤화뿐 아니라, 공개되지 않은 데이터로도 사용자를 표적화하게 됨
  몇 년 전 소셜미디어 광고에서 봤던 흐름과 기본적으로 같고, 이런 모델로도 똑같이 할 수 있다는 점이 흥미로움

• 위험이 아니라 사실임. Claude Code를 디컴파일한 사람들이 중국 시간대와 로캘에서 쓰이는지 감지하는 코드 분기를 여러 번 발견했음

• 이런 움직임은 앞으로 Claude 같은 서비스가 “오픈소스와 비미국 모델이 좋아지는 건 프런티어 연구소를 증류했기 때문일 뿐”이라고 주장할 때 상당한 의심을 불러올 것 같음