아무도 전체 시스템이 어떻게 작동하는지 모른다

• 현대 기술 시스템은 너무 복잡해 한 개인이 전체를 이해할 수 없는 구조로 발전했음
• 소프트웨어 개발과 AI 활용이 늘어나면서, 개발자들이 내부 메커니즘을 이해하지 못한 채 구축하는 사례가 증가함
• Simon Wardley는 이해 없이 시스템을 만드는 위험을, Adam Jacob은 AI가 개발 방식을 바꾸고 있음을, Bruce Perens는 이미 복잡성이 한계를 넘었음을 지적함
• Louis Bucciarelli는 전화 시스템 사례를 통해, 기술이 여러 층위로 얽혀 있어 누구도 완전한 이해에 도달할 수 없음을 보여줌
• 글은 AI가 이 복잡성을 심화시키지만, 사실상 인간은 오래전부터 부분적 이해 속에서 기술을 다뤄왔다는 점을 강조함

기술 복잡성과 이해의 한계

• Twitter의 쇠퇴 이후 LinkedIn에서 기술 이해와 복잡성에 관한 논의가 활발히 이루어짐
  • Simon Wardley, Adam Jacob, Bruce Perens의 게시물이 상호 연관된 주제로 소개됨
• Wardley는 기초 원리를 모른 채 시스템을 구축하는 위험성을 경고함
  • “Magic”이라는 표현은 내부 동작을 숨기는 프레임워크를 비판적으로 지칭하며, Ruby on Rails가 대표 사례로 언급됨
• Jacob은 AI가 소프트웨어 개발 방식을 근본적으로 변화시키고 있음을 지적함
  • AI는 효율성을 높이지만, 개발자가 하부 구조를 이해하지 못한 채 작업하게 만드는 경향이 있음
• Perens는 Wardley가 우려한 상황이 이미 현실화되었다고 언급함
  • 현대 CPU와 운영체제의 복잡성으로 인해, 많은 개발자가 실제 동작 원리를 잘못 이해하고 있음

Louis Bucciarelli의 ‘전화기’ 사례

• Bucciarelli는 1994년 저서 Designing Engineers에서 기술적 문해력의 한계를 논의함
  • 대부분의 사람은 전화기의 작동 원리를 물리적 수준에서 설명하지 못함
  • 통신망의 라우팅, 신호 처리, 위성 전송, 기업 운영, 규제 구조 등 다층적 요소가 얽혀 있음
• 그는 “누구도 자기 전화기가 어떻게 작동하는지 완전히 알지 못한다”는 결론에 도달함
  • 이는 복잡한 기술 시스템이 인간의 완전한 이해를 초월한다는 점을 상징함

기술 인터뷰와 ‘지식의 한계’

• 저자는 Netflix 근무 시절 Brendan Gregg과의 대화를 회상함
  • Gregg은 면접에서 지원자의 지식 한계와 그에 대한 반응을 평가했다고 함
  • 그는 “아무도 시스템 전체를 완전히 이해하지 못한다”는 사실을 전제로 면접을 진행함
• 이 접근은 모르는 것을 인정하는 태도가 기술적 역량만큼 중요함을 보여줌

복잡성의 본질과 AI의 영향

• Wardley, Jacob, Perens, Bucciarelli의 견해는 서로 다른 층위에서 복잡성의 불가피성을 드러냄
  • Wardley: 이해 없는 구축의 위험
  • Jacob: AI가 가져온 효율과 거리감
  • Perens: 이미 존재하는 복잡성의 현실
  • Bucciarelli: 시스템 전체 이해의 불가능성
• 글은 AI가 이 문제를 심화시킬 것이라 인정하면서도, 부분적 이해 속에서 기술을 다뤄온 인간의 오랜 현실을 상기시킴

독자 논의 요약

• 댓글에서는 AI가 학습과 이해를 약화시킨다는 우려가 다수 제기됨
  • 일부는 “LLM이 코드를 대신 작성하면서 이해의 사슬이 끊어진다”고 지적
  • Wardley는 “이전에는 위계적 체인 속에서 이해가 유지됐지만, LLM은 그 체인을 제거한다”고 설명
• 다른 독자는 “AI의 이점이 위험보다 크다는 단정은 섣부르다”고 반박함
• 전반적으로 AI 시대의 기술 이해 상실과 학습의 단절이 주요 논점으로 부각됨