인터넷을 더 이상 신뢰할 수 없다

• 일본 세가 제네시스용 재발매 게임 ‘Phantasy Star Fukkokuban’ 을 검색하던 중, 실제 존재하지 않는 AI 생성 허위 기사를 발견한 사례를 중심으로 인터넷 신뢰 붕괴를 다룸
• 검색 결과 상위에 노출된 사이트가 그래픽 향상·날씨 효과 등 사실과 전혀 다른 내용을 포함한 글을 게시했으며, 이는 대형 언어 모델(LLM) 이 만들어낸 허구로 드러남
• 작성자는 ChatGPT에 동일 게임을 설명하도록 요청했을 때도 잘못된 플랫폼·내용을 제시하는 등, 훈련 데이터 부족으로 인한 환각(hallucination) 현상을 직접 확인함
• 이러한 자동 생성 콘텐츠는 SEO 목적의 광고 사이트에 대량 유입되어, 정보 검증 없이 그럴듯한 거짓 정보를 퍼뜨리는 구조를 강화함
• 결과적으로 인터넷의 공유 지식 기반이 훼손되고 있으며, 신뢰할 수 있는 정보는 LLM 이전 시대의 평판 있는 사이트에 의존할 수밖에 없다는 결론을 제시함

Phantasy Star Fukkokuban 사례

• 1994년 일본에서 발매된 세가 제네시스용 ‘Phantasy Star Fukkokuban’ 은 원래의 마스터 시스템 게임을 그대로 담은 재발매판임
  • 일부 제네시스 콘솔에서는 마스터 시스템 게임을 실행할 수 없어, 해당 카트리지도 작동하지 않음
  • 작성자는 이 게임의 발매일을 확인하려다 검색 결과 상위에서 허위 정보를 담은 사이트를 발견함
• 문제의 사이트 ‘Press Start Gaming’은 그래픽 향상·날씨 효과·주야 변화 등을 언급했으나, 실제 게임에는 존재하지 않음
  • 기사 첫 문장이 “Game data not found”였음에도 불구하고, AI가 생성한 그럴듯한 설명문이 이어졌음

대형 언어 모델의 환각 문제

• LLM은 다음 토큰 예측을 기반으로 작동하며, 훈련 데이터에 없는 희귀 주제에 대해 그럴듯한 허구를 만들어냄
  • ‘Phantasy Star’ 시리즈와 ‘Fukkokuban(복각판)’이라는 단어의 의미를 결합해, 존재하지 않는 리메이크판을 상상함
• 작성자가 ChatGPT에 동일 게임 설명을 요청했을 때, 세가 새턴용 컴필레이션으로 잘못 인식하는 답변을 받음
  • 실제로는 ‘Phantasy Star Collection’이라는 다른 게임과 혼동된 것으로 보임
• 이와 유사하게, 작성자가 다룬 또 다른 희귀 게임 ‘Mahjong Daireikai’ 에 대해서도 일본어권 웹에서 AI가 생성한 허구 설명이 존재함

인터넷 신뢰의 붕괴

• ‘Press Start Gaming’ 사이트는 광고 수익 목적의 자동화 콘텐츠 플랫폼으로 추정됨
  • 사이트 하단에는 “©2025 Cloud Gears Media”라는 문구가 있으며, 실제 기업과의 연관성은 불분명함
  • 이러한 사이트는 사실 전달보다 검색 노출(SEO) 을 우선시함
• LLM의 도입으로 허위 정보 생산 비용이 급감했고, 검증 없는 콘텐츠가 대량 확산됨
  • 과거에는 저임금 필진이라도 최소한의 사실 확인을 했지만, 이제는 AI가 완전한 허구를 생성함
• 작성자는 “이제는 새로운 사이트를 신뢰하기 어렵다”며, AI 이전에 평판을 쌓은 매체만 의존하게 되었음을 언급함

AI 시대의 정보 생태계 훼손

• 작성자는 “인터넷의 공유 지식(common)”이 이미 돌이킬 수 없을 정도로 훼손되었다고 평가함
  • 신뢰할 수 있는 정보원조차 AI 콘텐츠로 오염될 위험이 있음
  • 예시로 Ars Technica가 AI 생성 인용문이 포함된 기사를 게재 후 정정 및 철회한 사례를 언급함
• LLM이 더 많은 데이터를 통합하게 되면, 언젠가는 정확도가 향상될 수 있으나, 현재의 피해는 이미 진행 중임
• 작성자는 “이 글은 단순한 분노의 토로(rant)”라며, 인터넷 신뢰 상실의 현실적 체감을 강조함

결론

• AI와 SEO 중심의 콘텐츠 생태계는 정보의 진위보다 생산 효율을 우선함
• 결과적으로, 사실 검증 없는 자동 생성 글이 검색 상위에 노출되어 사용자 학습과 탐구의 기반을 훼손함
• 작성자는 “인터넷을 더 이상 신뢰할 수 없다”는 선언으로 글을 마무리하며, 디지털 지식의 신뢰 회복이 시급함을 시사함