엑셀에 코파일럿이 들어간 것이 걱정되는 이유

Hacker News 의견

• 기술 사용에 대한 두 가지 상반된 내러티브가 흥미로움
  하나는 “Brenda 같은 사람은 실수하니 자동화가 필요하다”는 주장이고, 다른 하나는 “Brenda는 완벽하지만 AI는 오류가 많다”는 주장임
  사실 이 둘은 모순이 아님. 우리는 이해 가능한 작업, 신뢰할 수 있는 실행, 관찰 가능한 과정, 지루한 반복 업무에만 자동화를 적용함
  문제는 AI가 이런 조건을 충족하지 못할 때 생김. 특히 AI의 자율성이 두려움을 유발함. “왜 이런 결과가 나왔는지 모르겠다”는 불안감 때문임
  그래서 사람들은 여전히 좁은 범위의 AI나 안전장치가 있는 AI를 더 신뢰함

  • “Brenda는 완벽, AI는 오류”라는 단순 구도가 아님
    전통적인 코드는 항상 같은 입력에 같은 출력을 내지만, AI는 매번 다름
    AI가 왜 그렇게 작동했는지 이해할 수 없는 불투명성이 문제임
    Brenda는 실수해도 원인을 묻고 고칠 수 있지만, AI는 그게 어려움
    나도 AI를 좋아하지만, 그 한계를 잘 알고 있음
  • 모순이 아니라, 우리가 말하는 ‘기계’는 결정론적 알고리즘을 의미함
    반면 생성형 AI는 예측 불가능함
    예측 가능성 순서를 매기면 Quick Sort > Brenda > Gen AI 순임
  • “Thinking mode”는 디버깅 가능성의 환상을 줄 뿐임
    생성된 토큰은 인간의 사고 과정을 반영하지 않음
    모델이 만든 “추론 단계”는 실제 내부 상태를 보여주지 않으며, 보이지 않는 편향에 따라 결론이 바뀜
  • 회계 같은 분야에서는 결정론적 자동화가 중요함
    AI는 검증이 어렵고, 비용 대비 가치가 불분명함
    결국 “Brenda + AI” 조합이 더 나을지, 아니면 Brenda 혼자 나을지가 핵심 질문임
    지금의 AI는 여전히 “몇 년 후쯤 유용해질 것”이라는 상태에 머물러 있음
  • AI를 불신하는 이유는 Brenda가 완벽해서가 아니라, 리더들이 Brenda보다 AI를 더 믿기 때문임

• 우리 조직에서도 Microsoft Stack에 Copilot과 AI가 강제로 도입됐음
  대부분의 기능은 비활성화되거나 쓸모없었음. 결국 주가 부양용 마케팅에 불과함
  또, 회사는 AI 회의 녹취 봇을 금지함. 보안상 위험하기 때문임

  • 회의록 전사는 기업용 AI 중 가장 유용한 기능 중 하나지만, 클라우드에 신뢰를 두긴 어려움
  • “Microsoft가 쓸모없는 걸 밀어붙이는 건 40년 된 비즈니스 모델”이라는 냉소적 반응도 있음
  • 개발자 스택까지 AI가 침투하는 게 불편함
    VS 코드 자동완성이나 오류 해석은 좋지만, 모든 걸 챗 인터페이스로 몰아넣는 건 별로임
    음성 인식 품질부터 개선했으면 함

• 예전에 친구 회사에서 매일 재무 데이터를 DB에 커밋하는 Perl 스크립트가 있었음
  그 스크립트 없이는 회사가 돈을 벌 수 없었음. 관리자 비밀번호를 아는 사람은 단 한 명뿐이었음
  Copilot이 아무리 좋아도 그 비밀번호는 모름

  • 그런 시스템이 있다면 Copilot보다 운영 리스크가 더 큰 문제임
  • 나도 예전에 월 500만 달러를 청구하는 시스템을 관리했는데, root 비밀번호를 남긴 사람이 없었음
    지금도 2008년 리눅스로 돌아가고 있을 것 같음
  • 어떤 동료는 비슷한 Perl 스크립트를 30페이지짜리로 인쇄해 집에 보관했었음
  • 이런 상황은 AI 반대 논거가 아니라, 조직 관리 부실의 증거임
  • 이런 구식 시스템은 직업 안정성에도 도움 안 됨

• TikTok 영상에서 인용된 문장이었음
  yt-dlp로 MP4를 받고 MacWhisper로 전사했음

  • 그냥 직접 타이핑하는 게 더 빨랐을 것 같음
  • TikTok 인용이 HN 상위에 오른 건 처음 보는 일임
  • 아이러니하게도, 이 일은 Brenda에게 맡겼어야 했을지도 모름
  • MacWhisper는 parakeet v2 모델을 쓰는 GUI 툴인데, 사실상 Python 스크립트용 $60 껍데기 같음

• 나도 Excel에서 LLM을 써봤는데, 현실 데이터에서는 즉시 혼란에 빠짐
  데모는 항상 깨끗한 재무제표나 교과서 예제임
  실제 기업 데이터는 전혀 다름. Excel에서는 거의 쓸모없음

  • Excel을 잘 모르는 입장에서는 LLM이 가능한 기능을 알려주는 가이드로는 쓸 만할 듯함

• 내가 아는 Brenda들은 단순히 스프레드시트만 다루는 게 아님
  실제로는 운영팀과 협의, 결정 영향 분석, 예외 처리 등 복잡한 일을 함
  Copilot은 이런 맥락을 전혀 이해 못 함. “지출 청구서 템플릿”을 요청하면 #REF 오류가 뜬 시트를 줌

  • 재무팀의 비효율은 대부분 낮은 우선순위 때문임
    개선 제안을 직접 하는 게 좋음. 예를 들어 공유 워크북 링크를 만들어 모두가 그걸 쓰게 하면 됨
    단, 꾸준히 업데이트하지 않으면 다시 혼란이 생김
  • 자동화를 늘리면 결국 Brenda보다 세 배 비싼 인력이 필요해지고, 단순 이메일이 티켓 시스템으로 바뀜
  • “Brenda를 줄이자”는 말보다, Brenda를 존중하고 지원하는 태도가 필요함
  • 자동화가 생기면 유지보수 인력이 필요하고, 그게 더 비쌈
    프로세스가 바뀔 때마다 조율이 필요해 결국 다시 수동으로 회귀함

• “AI가 망칠까 봐 두렵다”는 문제는 Git 연동된 Excel 버전 관리로 완화 가능함
  Copilot이 만든 수식이나 VBA 변경을 커밋 단위로 추적하면, 무슨 일이 일어났는지 명확히 볼 수 있음

• Brenda는 느려졌지만, 그 덕분에 시스템 전체를 지탱하는 방법을 알고 있음

  • 하지만 결국 상사는 “AI로 더 빠르게 하겠다”며 업무를 외주화할 것임
    Brenda는 실직하고, 다른 나라 누군가는 새 일자리를 얻음

• AI를 쓴다고 해서 책임이 면제되는 건 아님
  AI 결과를 검증할 수 있을 만큼의 전문성이 있어야 함
  시간을 절약할 수는 있지만, 검증 과정 때문에 생각보다 덜 절약됨

• 나도 Excel을 좋아하지만, 복잡한 중첩 수식은 여전히 어렵게 느껴짐
  ChatGPT나 duck.ai 같은 모델을 써봤지만, 자주 엉뚱한 수식을 내놓음
  여러 번 수정 요청을 해야 겨우 작동함
  LLM이 영어로 설명해주는 건 좋지만, 결과적으로 시간 낭비와 좌절이 많았음
  처음엔 Excel을 더 쉽게 만들어줄 거라 믿었지만, 지금은 아직 멀었다는 확신이 생김