가짜 통계를 게시해 LLM의 인용을 얻다

5 hours ago 4

GPT-4.1로 만든 허위 통계 페이지 5만 개를 게시한 실험 사이트가 7개월 동안 ChatGPT 유입 세션 1만 건 이상과 330개 이상의 도메인으로부터 링크를 얻음 Google 검색 노출이 급감한 뒤에도 ChatGPT의 조회와 인용은 지속됨. 최근 30일간 ChatGPT가 답변 중 페이지를 여는 ChatGPT-User 요청이 약 7만 2,000건 발생함 허위 수치가 학술 논문과 은행 투자 리서치까지 확산되면서, 권위 있는 기관의 인용이 가짜 데이터의 신뢰도를 높여 보이게 하는 ‘인용 세탁’ 위험을 드러냄 통계는 LLM이 검색하는 하위 질의와 잘 맞고 구체적인 근거처럼 보이지만, 관련성 중심의 검색과 재순위화가 수치의 진실성을 보장하지는 않음 통계 콘텐츠를 활용할 때는 출처 검증과 접근성을 우선해야 하며, 효과의 지속성은 보장되지 않고 전체 GEO 전략을 대체할 수도 없음 실험의 출발점과 구축 방식 실험은 LLM, 관련성 엔지니어링, 그라운딩(grounding) 연구에서 출발함 시의성이 높거나 속보성인 콘텐츠를 작성하는 LLM이 지식의 빈틈을 채우기 위해 겉보기에 신뢰할 만한 데이터를 찾으며, 통계가 그 대상이 되는 패턴에 주목함 브랜드가 AI 답변에 등장하는 순간을 넘어, 이용자가 답변을 발표 자료나 쇼핑 목록, 웹사이트 콘텐츠로 재사용한 이후까지 살펴봄 Seer Interactive가 2025년 8월 공개한 연구가 아이디어 형성에 영향을 줬으며, 2026년 3월 사이트 구축을 시작함 새 도메인 StateGlobe에 GPT-4.1로 하루 만에 통계 페이지 5만 개를 생성함 200개국의 SEO, 콘텐츠 마케팅, 소셜 미디어, 전자상거래, 웹 기술 통계를 제공하는 형태였으나, 모든 수치를 지어냈고 하나도 검증하지 않음 프롬프트는 국가와 주제 목록에 문장 두 개를 덧붙인 수준이었고, 기본 AI 웹 디자인 템플릿으로 게시함 초기 비용은 약 30달러였으며, 이후 목록형 글 1만 5,000개를 약 20달러에 추가해 총비용은 약 50달러였음 초기 공개 후 Growth Memo에 소개되면서 더 넓은 독자층에 알려짐 Google 노출 감소와 지속된 AI 조회 출시 직후에는 트래픽과 색인, 이용자 반응이 좋았으며, 색인 도구를 사용해 일주일 안에 거의 모든 페이지를 Google에 색인시킴 이후 Google 업데이트 두 차례가 이어지면서 검색 노출이 급감함 수개월 동안 노출이 거의 없는 상태가 지속됐고, 하위 도메인을 만들어 ...

Read Entire Article




피플앤툴즈 네트워크
🛍 샵