ChatGPT가 존재한다고 잘못 생각한 기능을 추가했어요

• ChatGPT가 존재하지 않는 기능을 안내하여 실제로 많은 사용자가 Soundslice에 ASCII Tab을 업로드함
• Soundslice의 원래 서비스는 이미지 기반 악보 스캔만 지원하였으나, ChatGPT 안내로 인해 ASCII Tab 지원 요청이 급증함
• 제품 오해를 줄이기 위해 실제로 ASCII Tab 임포터 기능을 추가하게 되었음
• 이 사례는 AI가 잘못된 정보를 유포하며 실제 제품 방향에까지 영향을 미친 첫 사례로 볼 수 있음
• 기능 추가 자체는 사용자에게 도움이 되지만, '잘못된 정보'에 제품 개발이 휘둘리는 현실에 대해 복합적인 감정을 느꼈음

배경 및 문제 상황

• Soundslice의 Sheet Music scanner는 사진에서 악보를 디지털화해 사용자가 듣고, 편집하고, 연습할 수 있도록 도와줌
• 시스템 개선을 위해 에러 로그를 모니터링하는데, 최근 전통적인 악보 사진 대신 ChatGPT 채팅 화면의 ASCII 타브 악보 스크린샷이 업로드되는 사례가 많아짐
  • ASCII 타브 악보는 기타 등 현악기를 위한 간략화된 악보 표기 방식임
• 원래 ASCII Tab 형식은 현 Soundslice 서비스에서 지원하지 않는 기능이었음

원인 파악

• 왜 이렇게 많은 소스의 ASCII 타브 스크린샷이 업로드되는지 원인을 찾던 중, ChatGPT에 질문을 해 직접 테스트함
• ChatGPT가 사용자에게 Soundslice 사이트에서 ASCII 타브를 가져와 음원을 들으라고 잘못 안내함을 직접 확인함

기능 미제공과 오해

• Soundslice는 실제로 ASCII 타브를 직접 가져오는 기능을 제공하지 않았음
• 실제로는 그런 기능이 존재하지 않음에도 많은 사용자가 ChatGPT 안내만 믿고 가입 및 업로드를 시도함
• ChatGPT의 잘못된 답변 때문에, 회사 서비스에 대한 사용자 기대치가 잘못 형성됨
• 이로 인해, 실제로 존재하지 않는 기능에 대한 불만이나 문의가 지속적으로 발생하고 있음

의사 결정과 대응

• 이런 상황에서 회사는 어떻게 대응할지 고민함
• 서비스에 "ChatGPT 답변은 잘못됐음"이라는 공지를 붙이는 방법도 있었으나, 실제 사용자 요구가 크다고 판단해 ASCII 타브 임포터 기능을 개발함
• 2025년 개발 예정 리스트의 하위권에 있던 기능이었으나, 수요에 맞춰 빠르게 도입함
• 제품 UI 문구도 이 신규 기능을 적극적으로 알리도록 변경함

제품/서비스 방향에 미친 영향

• ChatGPT가 잘못된 정보를 반복적으로 제공함으로써, 실제로 존재하지 않던 기능을 제품 로드맵에 추가하게 된 첫 사례라고 자평
• 사용자에게는 유용한 도구를 제공하게 되어 긍정적이지만, 잘못된 정보에 제품 개발 방향이 흔들린 점에 대해 복잡한 감정을 느꼈음

소감 및 고민

• AI가 퍼뜨린 허위 정보가 실제 회사·제품 의사결정에 영향을 미치는 시대가 도래했음을 실감
• '사용자 요구'가 아닌 AI가 생성한 잘못된 기대에 따라 회사가 어느 수준까지 대응하는 게 옳은지에 대해 고민이 남음