우리는 작동 방식을 아는 마지막 세대

• 1990년대 컴퓨터 게임은 autoexec.bat, 부팅 디스크, 사운드 카드 인터럽트 같은 기계의 조건을 사용자가 직접 배워야 실행할 수 있었음
• 모뎀 협상음, 드라이브 점퍼, 잘못 설정한 인터럽트처럼 컴퓨터는 사용자를 밀어냈고, 그 저항을 겪는 과정이 작동 방식을 아는 통로였음
• AI assistant는 설정 파일이나 조건을 요구하기보다 사용자의 문장에 맞춰 스스로를 재배치하는 순응적인 도구에 가까움
• 핵심 손실은 기술 역량보다 친숙함의 상실임; 기계와 싸우고 실패한 뒤 다시 시도하며 생기는 관계가 사라지고 있음
• 앞으로 우리는 어느 때보다 기계에 더 의존하지만, 동시에 그 기계를 덜 알게 되는 상태에 놓일 수 있음

어려움이 지식이던 컴퓨터 경험

• 1990년대에 컴퓨터 게임을 하려면 먼저 컴퓨터가 어떻게 작동하는지 조금은 알아야 했음
  • autoexec.bat 같은 파일을 열어 읽었음
  • 특정 게임 하나를 실행하기 위해 전용 부팅 디스크를 만들기도 했음
  • 기계가 허락하지 않으면 게임을 할 수 없었고, 사용자는 기계의 조건을 배워야 했음
• 당시의 컴퓨터와 주변기기에는 사용자가 직접 맞서야 하는 마찰이 있었음
  • 모뎀은 연결 협상을 소리로 들려줬고, 반복해서 들으면 통화가 끊길 조짐도 알아차릴 수 있었음
  • 드라이브에는 손톱으로 작은 점퍼를 설정했음
  • 사운드 카드가 어떤 인터럽트에 응답하는지 알아야 했고, 틀리면 아무것도 작동하지 않았음
• “어려움이 곧 지식”이라는 감각이 당시의 컴퓨터 경험을 관통함
  • 사용자는 자신을 밀어내는 대상을 통해 기계를 알게 됨
  • “질 수 있는 대상만 알 수 있다”는 문장이 이 경험을 압축함

순응적인 AI와 사라지는 친숙함

• 오늘날의 AI assistant는 마지막 편의성처럼 보이며, 사용자가 원하는 것을 말하면 결과가 나타나는 방식으로 작동함
  • 설정 파일을 읽게 하지 않음
  • 조건을 내걸지 않음
  • 사용자의 문장에 맞춰 스스로를 바꾸고, 사용자가 불만을 보이면 사과한 뒤 다시 시도함
• 도전하지 않는 기계는 알기 어렵고, 주로 사용의 대상이 됨
  • 역량이 사라진다는 이야기가 핵심은 아님
  • AI 모델은 사람이 읽지 않는 매뉴얼까지 읽었고, 기계가 어떻게 작동하는지 말할 수 있음
  • 계산 능력이나 기술 지식만 놓고 보면 지식은 더 안전해졌다고 볼 수 있음
• 사라지는 것은 특정 기계와 부딪히며 생기는 친숙함임
  • 어떤 기계와 싸우고, 실패하고, 다시 시도해 마침내 작동시키는 경험이 줄어듦
  • 사람들은 이전보다 더 기계에 의존하게 되지만, 동시에 그 기계를 덜 알게 됨
• 다음 세대는 이를 상실로 느끼지 않을 수 있음
  • 한 번도 맺어 본 적 없는 관계는 그리워할 수 없음
  • 그들은 모든 것을 해 주고 아무것도 요구하지 않는 도구를 전등 스위치처럼 자연스럽게 쓸 수 있음
• 모뎀 연결음 녹음을 현대 컴퓨터가 즉시 완벽하게 재생하는 장면은 이 대비를 보여줌
  • 과거의 모뎀 소리는 마음속에 남아 있음
  • 그 소리를 재생한 현대의 기계는 같은 방식으로 알 수 없음
  • 현대의 기계는 사용자가 그렇게 알 필요가 없도록 만들어졌고, 그것이 우리가 원했던 결과임