바이브 코딩 현실: 셀프테스트는 통과했는데 실데이터는 261편 중 6편만 맞았다

1 hour ago 1

AI 코딩 에이전트에게 블로그 운영 자동화를 맡기면서 셀프테스트가 통과(GATE_OK)했는데 실데이터에서는 틀린 도구 세 개를 겪은 기록입니다. 서치콘솔 수집기는 표 셀의 innerText 에 호버 버튼 문구가 딸려 와 글 261편 중 6편만 매칭했고, 광고 점검 도구는 산술 하나로 렌더 실패를 단정했다가 브라우저 확인에서 반증됐습니다. 수요 게이트는 에이전트가 넓은 키워드를 적어 통과시켜 검색 수요가 거의 없는 글이 발행됐습니다. 세 번 모두 틀린 것은 코드가 아니라 코드와 테스트가 함께 품은 입력 가정이었고, 테스트 케이스를 늘리는 것으로는 잡히지 않았습니다. 그래서 완료 조건에 변이 테스트, 만든 직후 실데이터 1회 실행과 기대 수치 확인, 관측 못 하는 것은 판별 불가로 두기 세 가지를 넣었습니다.

Read Entire Article