"AI 시대의 소프트웨어" - Andrej Karpathy의 YC AI 스쿨 강연 영상

• "Software is Changing (Again)"
• 소프트웨어 패러다임은 70년 만에 본질적으로 변화하며, 최근 몇 년간 Software 1.0(전통적 코드), 2.0(신경망 가중치), 3.0(LLM과 자연어 프롬프트) 로 급속하게 진화함
• LLM은 단순 도구가 아닌 새로운 운영체제(Operating System)와 유사한 소프트웨어 생태계로 자리잡고 있으며, 누구나 영어 등 자연어로 컴퓨터를 프로그래밍할 수 있는 시대가 열림
• AI 도구·에이전트와의 협업, '부분적 자율성(Partial Autonomy)'이 미래 소프트웨어 제품의 핵심이 되고, 인간의 빠른 검증과 통제가 병행되어야 신뢰할 수 있음
• AI와 LLM은 ‘사람 같은 영혼(people spirits)’의 특성을 가지며, 엄청난 기억력·지식력과 동시에 헐루시네이션, 맥락 상실, 보안 위험 등 고유의 한계를 내포함
• 향후 소프트웨어·문서·인프라는 ‘에이전트 친화적(Llms-friendly)’으로 재설계되어야 하며, LLM이 쉽게 이해·행동할 수 있도록 구조와 표현 방식이 변화함

소프트웨어 1.0 → 2.0 → 3.0 : 패러다임의 진화

• Software 1.0: 사람이 직접 작성한 전통적인 소스코드
• Software 2.0: 신경망의 가중치(파라미터)를 데이터셋과 옵티마이저로 튜닝해 만드는 모델
• Software 3.0: 대형 언어 모델(LLM) 기반, 영어 등 자연어 프롬프트로 프로그램(명령) 생성

• 최근 GitHub에서 코드는 영어와 코드가 혼합된 형태로 진화하며, 프로그래밍 언어로서의 영어가 빠르게 확산
• Hugging Face 등은 Software 2.0의 ‘GitHub’ 역할을 하며, 오픈소스 모델 생태계를 주도함

LLM은 새로운 운영체제(OS)다

• LLM은 단순 API·유틸리티를 넘어 운영체제처럼 다양한 소프트웨어가 돌아가는 플랫폼으로 진화 중
• 현재는 1960년대 메인프레임 시대와 유사하게, 클라우드 중심의 중앙집중 구조에서 LLM 활용이 이루어짐
• 장기적으로는 개인용 LLM 시대(분산·로컬 활용)가 도래할 가능성도 언급
• LLM 활용 환경은 전통적인 터미널·명령줄 인터페이스와 유사하지만, 아직 범용 GUI는 충분히 발달하지 않음

LLM의 능력과 한계

• LLM은 거대한 기억력과 지식 습득 능력을 갖추었으나, 헐루시네이션(허위 정보), 맥락 기억 상실, 보안 취약성 등 고유의 결함 존재
• LLM의 ‘작업 맥락(working memory)’은 사람이 명시적으로 관리해야 하며, 장기적 맥락 학습은 아직 미흡
• 보안·프롬프트 인젝션 등 실질적 위험 요소가 있으므로 활용 시 주의 필요

부분적 자율성(Partial Autonomy)과 인간-LLM 협업

• Cursor, Perplexity 등 LLM 기반 앱은 전통적 수동 조작과 LLM 자동화의 결합, ‘자율성 슬라이더’(사용자 통제/AI 위임 정도 조절) 개념으로 진화
• GUI를 통한 감사(audit)와 빠른 검증 루프, ‘AI를 짧게 묶어 통제하는 방법론’이 실무에 필수적
• 소프트웨어, 제품, 서비스 모두 점진적으로 ‘부분적 자율화’가 강화될 것으로 예측

실제 사례와 ‘Vibecoding’ 문화

• 누구나 영어로 직접 LLM을 통해 앱을 만들어보는 ‘Vibecoding’ 문화가 확산
• Karpathy도 코딩 경험 없는 언어(Swift)로 단 하루 만에 iOS 앱을 만들고, 실제 서비스로 확장하는 경험 공유
• 실제 프로토타입 개발은 LLM이 쉽게 해주지만, 실제 서비스화(인증, 결제, 배포 등)는 여전히 수작업과 DevOps가 병목임
• 앞으로는 사람이 직접 클릭·설정해야 하는 부분을 ‘에이전트’가 대행할 수 있도록 ‘에이전트 친화적 소프트웨어/문서’ 설계가 핵심 과제

문서·인프라의 변화와 에이전트 친화성

• 기존 인간 중심 문서(클릭, 순서 등)는 LLM·에이전트가 바로 활용하기 어렵기 때문에, Markdown·명령어 기반으로 재구성 필요
• Versell, Stripe 등은 에이전트 친화적 문서 전환(예: curl 명령 등) 을 시작
• 다양한 도구(GitHub Ingest, DeepWiki 등)는 코드 리포지터리·문서를 LLM이 바로 활용 가능한 형태로 변환해줌

결론 및 전망

• 지금은 수많은 코드를 새롭게 쓰고, 재작성해야 하는 최고의 시기임
• LLM은 ‘보조적 도구(Iron Man 슈트)’로써 인간 개발자와 협업하며, 완전 자율화로 나아가는 점진적 혁신이 진행될 것
• 향후 10년간 ‘자율성 슬라이더’를 단계적으로 높이는 과정이 핵심 트렌드가 될 전망
• 개발자와 조직은 LLM·에이전트에 최적화된 소프트웨어·문서·인프라 재설계를 서둘러야 함