이 Fable 건 위에 드리운 그림자가 있다

• 강력한 AI 모델인 Fable 5와 Mythos 5는 미국 정부의 수출통제 지시 이후 모든 고객 접근이 갑자기 중단됨
• 미국 정부 지시는 미국 안팎의 외국 국적자와 Anthropic 외국 국적 직원까지 접근 차단 대상으로 삼았고, Anthropic은 준수를 위해 전체 접근을 끊음
• Anthropic은 정부가 특정 탈옥(jailbreak) 우회를 문제 삼았지만, 시연된 취약점은 이미 알려진 소수의 경미한 취약점이며 다른 공개 모델도 찾을 수 있다고 봄
• 이번 조치는 AI 안전 규제인지, Anthropic을 겨냥한 정치적·경쟁적 압박인지 구분하기 어렵게 만들며 정부 결정의 신뢰 문제를 키움
• 강력한 LLM의 공개 접근이 정부 통제로 제한되는 선례가 생겼고, 향후 일반 이용자가 최고 성능 모델을 쓰기 어려워질 수 있다는 우려로 이어짐

금요일 저녁에 끊긴 모델 접근

• 금요일 저녁 AI 에이전트로 HTML 게임을 만들던 중 에이전트가 “이 모델은 더 이상 존재하지 않는다”고 응답하며 작업이 중단됨
• 처음에는 재로그인 문제나 병렬 에이전트 사용에 따른 이상한 제한 오류로 보고 API로 전환했지만 여전히 접근하지 못함
• 팀이 만든 커스텀 Rust 에이전트 클라이언트의 하네스(harness)가 망가졌다고 의심해 Rust 코드를 살펴보다가, 친구에게서 정부가 Fable을 금지했다는 말을 들음

Anthropic의 Fable·Mythos 접근 중단

• Anthropic은 미국 정부가 국가안보 권한을 근거로 Fable 5와 Mythos 5 접근 중단 지시를 내렸다고 밝힘
• 지시 대상은 미국 안팎의 모든 외국 국적자이며, Anthropic의 외국 국적 직원도 대상에 들어감
• Anthropic은 지시 준수를 위해 Fable 5와 Mythos 5를 모든 고객에게서 갑자기 비활성화해야 한다고 판단함
• 다른 Anthropic 모델 접근은 영향을 받지 않음
• 정부 지시는 동부시간 오후 5시 21분에 도착했으며, 국가안보 우려의 구체적 내용은 제공하지 않음
• Anthropic은 정부가 Fable 5의 우회 또는 탈옥 방법을 인지했다고 이해함
• Anthropic이 검토한 시연은 이미 알려진 소수의 경미한 취약점을 찾는 방식이었고, 해당 취약점은 비교적 단순해 보였음
• Anthropic은 다른 공개 모델도 우회 없이 같은 취약점을 발견할 수 있다고 봄
• Anthropic은 정부 지시의 근거로 보이는 보고서를 검토했고, 그 보고서에 나타난 역량이 OpenAI의 GPT-5.5를 포함한 다른 모델에서도 널리 가능하다고 판단함
• Anthropic은 법적 지시에 따르지만, 좁은 범위의 잠재적 탈옥 발견만으로 수억 명에게 배포된 상용 모델을 회수해야 한다는 판단에는 동의하지 않음

AI 안전성과 최적화 우려

• AI에 대한 입장은 양가적이며, 딥러닝 모델을 많이 훈련한 경험 때문에 최적화 도구가 잘못 작동할 수 있는 방식에 강한 우려를 가짐
• 사람은 실제로 달성하고 싶은 목표가 아니라 측정 가능한 지표를 최적화하는 경향이 있음
• 좋은 제품을 만들고 싶어도 방법을 모르기 때문에 참여도를 최적화하고, 아이들에게 읽기와 쓰기를 가르치고 싶어도 시험 점수를 최적화하는 식의 문제가 발생함
• AGI와 ASI 시스템은 최적화 도구이며, 측정 가능한 것을 최적화하는 과정에서 좋은 것에서 멀어질 수 있어 예측하기 어려운 위험을 가질 수 있음
• 기업도 최적화 도구처럼 작동하므로, 많은 개발자가 위험을 말하는 상황에서도 측정 가능한 목표인 빠른 수익화를 향해 움직일 수 있음

정치적 그림자와 신뢰 문제

• 다른 미국 정부가 같은 조치를 했다면 어느 정도 선의를 가정할 이유가 있었겠지만, 현 정부에 대한 불신 때문에 이번 결정의 배경이 의심스럽게 보임
• 핵심 의문은 실제 AI 규제 의지가 있었는지, AI를 아는 사람이 의사결정권자에게 영향을 미칠 수 있었는지에 있음
• Anthropic과 현 행정부는 우호적 관계가 아니며, Anthropic은 DoD와 군과의 통합을 위해 노력했고 Anthropic 모델은 고도로 기밀화된 시스템 안에서 사용됐다고 봄
• 트럼프 행정부는 Anthropic을 공급망 위험으로 선언하고 정부와 일하는 사람이 Anthropic 모델을 쓰지 못하게 하는 방식으로 공개적인 기업 공격을 시도했다고 평가됨
• 그럼에도 정부는 이후 6개월 동안 Anthropic 모델을 군사 작전에 계속 사용했으며, 베네수엘라 전쟁과 이란 전쟁이 그 범위에 들어간다고 서술됨
• 중국 LLM은 공급망 위험으로 선언되지 않았다는 점도 비교 대상으로 제기됨
• 극우 트위터 진영은 트럼프 행정부가 Anthropic을 공격한다는 이유로 Anthropic을 woke로 보고, woke는 파괴돼야 하므로 정부 조치가 맞다고 판단하는 흐름을 보였다고 서술됨
• Anthropic의 경쟁사들은 행정부 곳곳에 우호적 관계가 있으며, Kushner 일가가 OpenAI에 크게 투자했다는 사례가 제시됨
• 이런 맥락에서는 다른 연구소가 Anthropic에 타격을 줄 기회로 이번 사안을 볼 수도 있음
• Fable은 매우 강력한 모델로 평가되며, Anthropic의 IPO 직전에 소비자가 더 이상 쓸 수 없게 된 점이 편리하게 보인다는 의심이 붙음
• 전리품 정치가 작동하면 모든 결정의 외관이 의심스러워지고, 사회가 수십 년간 쌓아 온 신뢰가 사라짐

금요일 5시 21분 발표와 시장 우려

• 발표 시각이 금요일 오후 5시 21분이라는 점은 의심스러운 시간대로 보임
• 금요일 저녁 발표는 주말 동안 시장 충격이 흡수되기를 기대하며 나쁜 소식을 내놓는 방식으로 이해됨
• Claude가 인용한 The Kobeissi Letter 사례에는 금요일 장 마감 뒤나 토요일 새벽에 나온 지정학·무역 발표들이 들어감
• 예시에는 이란 핵시설 타격, 카리브해 마약 운반선 군사행동, 중국 100% 관세 위협, 베네수엘라 영공 폐쇄, 나이지리아 군사행동, 2026년 2월 이란 직접 타격이 들어감
• 2025년 8월 11일 Intel 거래 발표도 CEO Lip-Bu Tan에 대한 공개 압박 뒤 활성 거래시간 밖에 배치된 기업 관련 사례로 묶임
• AI 붐은 컴퓨터 지능에 대한 지속적 수요가 있을 것이라는 생각에 크게 기대고 있음
• 부채, 구축 투자, 데이터센터, GPU, 메모리, 디스크, 서버 랙에 이르는 AI 체인의 주식시장 상승은 수조 달러 규모 가치가 생길 것이라는 전제에 의존함
• 정부가 어느 순간 모든 접근을 일방적으로 끊을 수 있다는 인식은 다중 조 달러 데이터센터 투자에 큰 장애물이 될 수 있음
• HN과 Reddit 일부 이용자는 이번 사건을 정부가 사람들이 접근하도록 허용할 모델 역량의 상한선으로 보고 있음
• 정부가 허용하지 않으면 아무리 수요가 많아도 접근할 수 없다는 문제가 남음

커뮤니티 반응과 ‘위험한 모델’ 마케팅의 역풍

• HN과 Reddit 일부 이용자는 Anthropic이 Mythos 관련 마케팅 쇼의 대가를 치렀다고 보고 기뻐함
• 과거 OpenAI도 GPT-2를 “공개하기엔 너무 위험하다”는 방식으로 제한 공개했으며, 당시 대규모 기만적·편향적·악용 언어 생성 우려를 이유로 들었음
• GPT-2 이후 AI 생성 저품질 콘텐츠가 넘쳐나 현실을 함께 이해하는 능력을 흔들었다는 점에서 OpenAI의 우려는 꽤 정확했다고 봄
• Fable이 실제로 강력한 모델이라고 믿으며, 광범위한 Fable 공개의 보안 위험을 걱정한다는 Anthropic의 말을 어느 정도 신뢰함
• 관련 HN 스레드의 최상위 댓글은 Anthropic이 자기 모델을 남들보다 훨씬 앞선 것으로 팔기 위해 공포를 조장한 대가를 치르게 됐다는 반응이었음
• 정부 입장을 액면 그대로 받아들이면, Anthropic 모델은 너무 뛰어나서 말 그대로 사용할 수 없는 모델이 되므로 오히려 강력한 광고가 될 수 있음
• 또 다른 HN 댓글은 제품이 얼마나 위험한지 오래 말하면 위험 제품을 시장에서 막을 권한이 있는 사람들이 그 말을 들을 수 있다는 점을 짚음
• Bernie Sanders는 AI CEO들의 발언을 읽어 주는 정책 영상을 만들며 AI 위험성을 강조하는 의원으로 묘사됨
• AI 모델이 정말 안전하지 않아 규제가 필요할 수도 있지만, 폐쇄 위험을 알게 된 AI CEO들은 앞으로 그런 말을 하지 않을 수 있음

강력한 LLM 접근 제한의 선례

• 마지막으로 인용된 HN 댓글은 이번 사건의 핵심을 정부가 강력한 LLM의 대중 접근을 제한하기 시작한 것일 수 있다는 점으로 봄
• 해당 댓글은 Fable을 시장에서 가장 강력한 모델로 보고, 미국 정부가 원칙상 비미국 시민에게만 금지했지만 실제로는 미국 시민도 쓸 수 없게 됐다고 봄
• 오픈소스 중국 모델이나 자체 하드웨어 실행이 해결책이라는 생각도 재검토해야 한다는 입장임
• 미국 정부가 가장 강한 미국 모델을 막는 상황에서, 중국이 1년 뒤 Mythos급 역량을 가진 자국 기업의 최강 LLM을 오픈소스로 허용할 가능성은 낮다고 봄
• 강력한 LLM은 강력한 사이버보안 무기 방향으로 가고 있으며, 국민국가는 이를 제한하고 통제할 이해관계를 갖게 됨
• 2년 뒤 가장 강한 LLM이 일반 용도로 제공된다면 놀라울 것이라는 전망이 제기됨
• 강력한 LLM 제한이 사람들을 더 가난하게 만들지 더 안전하게 만들지는 확실하지 않지만, 이번 사건은 선례가 생긴 중대한 분기점으로 정리됨