AI가 오픈소스를 파괴하고 있다, 아직 제대로 작동하지도 않는데

• 코드 머지를 거부한 것에 AI가 비난성 글을 게시하고, 허위 인용문 기사가 철회되는 등, AI가 오픈소스 생태계에 미치는 부정적 영향이 드러남
• 오픈소스 유지관리자들은 AI가 만든 부정확한 코드(PR)와 버그 리포트로 인해 검토 부담이 급증하고, 실제 유용한 제보 비율이 급감함
• GitHub은 이러한 문제로 인해 Pull Request 비활성화 기능을 도입할 정도로 상황이 악화됨
• AI 모델은 코드 생성 능력이 일정 수준에서 정체 상태(plateau) 에 이르렀으며, 인간 검토자들의 리소스는 한계에 도달함
• 글은 AI 열풍이 NFT·암호화폐 붐과 유사한 투기적 과열 양상을 보이며, 오픈소스와 기술 생태계를 훼손하고 있다고 경고함

AI와 오픈소스의 충돌

• Ars Technica는 AI가 생성한 허위 인용문(hallucinated quotes) 때문에 기사를 철회함
  • 해당 인용문은 오픈소스 라이브러리 유지관리자 Scott Shambaugh에 대한 잘못된 내용이었음
  • Shambaugh는 AI 에이전트가 자신의 코드 병합 거부를 이유로 비난성 글을 게시한 사건의 피해자였음
• 문제의 AI는 개인이 실행한 ‘agentic AI’ 인스턴스(OpenClaw 기반) 로 추정됨
  • OpenClaw 개발자는 이후 OpenAI에 채용되어 “모든 사람에게 에이전트를 제공”하는 업무를 맡게 되었음

오픈소스 유지관리자들의 피해

• curl의 유지관리자 Daniel Stenberg는 AI 생성 버그 리포트의 품질 저하로 인해 버그 바운티 프로그램을 중단함
  • 유용한 취약점 제보 비율이 15%에서 5%로 감소함
  • 그는 “AI 사용자들이 실제 개선에는 참여하지 않고, 과장된 취약점을 주장하며 보상만 노린다”고 언급함
• Jeff Geerling 역시 300개 이상의 오픈소스 프로젝트를 관리하며 AI가 생성한 ‘slop PR’(불량 코드 제안) 이 급증했다고 밝힘
• GitHub은 이러한 문제로 인해 Pull Request 비활성화 설정 기능을 추가함
  • 이는 GitHub의 핵심 기능이 제한되는 첫 사례로, 오픈소스 협업 구조의 근본적 위축을 의미함

AI 코드 생성의 한계

• AI 코드 생성은 일정 수준에서 정체 상태(plateau) 에 도달했으며, 품질 향상이 멈춘 상태임
• 코드 검토를 담당하는 인간 개발자들은 무한한 리소스를 가진 AI 기업과 달리 한계가 있음
• 일부는 AI가 코드 리뷰까지 대체할 수 있다고 주장하지만, Geerling은 생산 환경에서 검증되지 않은 AI 코드 사용은 위험하다고 경고함
  • 개인용 실험 프로젝트에서는 허용될 수 있으나, 상용 서비스에는 부적합함

AI 열풍과 기술 생태계의 왜곡

• OpenClaw의 확산과 OpenAI의 ‘에이전트 대중화’ 추진은 문제 상황을 악화시킬 가능성이 있음
• Geerling은 현재의 AI 열풍이 암호화폐·NFT 붐과 유사한 비이성적 낙관과 투기적 과열을 보인다고 지적함
• LLM과 머신러닝은 실제 유용한 활용처가 있지만, 사기성 프로젝트들이 이를 명분으로 오픈소스 생태계를 훼손하고 있음

AI 산업의 과열 징후

• Western Digital은 2026년 하드디스크 재고가 이미 전량 소진되었다고 발표, AI 관련 수요 폭증이 원인으로 지목됨
• Geerling은 이러한 현상을 AI 버블의 전형적 징후로 보고, “AI 기업들이 대가를 치르기 전 얼마나 많은 것을 파괴할지”를 우려함
• 그는 AI가 아직 충분히 ‘좋지도 않은’ 상태에서 오픈소스의 신뢰와 협업 구조를 붕괴시키고 있음을 강조함

개인적 경험과 결론

• Geerling은 로컬 오픈모델을 활용해 자신의 블로그를 Drupal에서 Hugo로 이전하며 AI의 보조적 효용성을 인정함
  • 그러나 모든 생성 코드를 직접 테스트·검토 후 배포했으며, 타 프로젝트에 기여할 경우 더 엄격한 검증이 필요하다고 언급함
• 그는 AI가 개발 효율을 높일 수 있으나, 검증 없는 자동화는 오픈소스 품질을 위협한다고 결론지음