AGI가 곧 올 것 같지 않은 이유

• 글 작성자는 AGI(범용 인공지능) 가 가까운 시일 내 등장할 것이라 보지 않음
• LLM(대형 언어 모델) 은 뛰어난 능력을 보여주지만, 인간처럼 지속적으로 학습하며 점진적으로 개선하는 능력이 부족함
• 현 LLM은 사용자 피드백을 통해 맞춤화하거나 맥락을 쌓는 데 한계가 있으며, 이는 실제 사무직 자동화에 큰 장벽임
• 컴퓨터 사용 및 멀티모달 데이터 등 현실적 과제들은 데이터 부족, 긴 작업 시간, 기술적 난이도 때문에 발전 속도가 느릴 것으로 전망됨
• 장기적으로 온라인 학습이 가능해지면 매우 급격한 변화가 발생할 것이라고 기대하지만, 향후 10년 내에 쉽게 실현될 것으로 보지 않음

인트로 및 AGI 예상 시점 논의

• 글 작성자는 다양한 전문가들과 AGI 도달 시점에 대해 논의한 경험을 바탕으로 자신의 견해를 제시함
• 일부에서는 2년 후, 또는 20년 후에 AGI가 등장할 것이라 예측하지만, 본인은 2025년 6월 현재로서 AGI가 곧 도래한다고 판단하지 않음

지속적 학습(Continual Learning)의 한계

• 많은 사람이 현 AI 기술만으로도 경제적으로 인터넷보다 더 변혁적이라는 입장을 보이지만, 글 작성자는 이에 동의하지 않음
• Fortune 500 기업들이 LLM을 업무 근본적으로 혁신하는 데 활용하지 못하는 이유는 경영진의 보수성 때문이 아니라 현 AI의 지속적 학습 결여 때문임
• 필자가 다양한 LLM 기반 도구를 직접 구축하고 활용하는 과정에서, LLM은 반복적 업무에 있어 5/10 정도 성과를 내지만 점진적 개선능력이 부족함을 확인함
• 인간은 맥락 구축, 스스로의 실패 분석, 반복을 통한 소소한 개선 습득 등 능력을 통해 생산성이 발전하지만, LLM은 고수준 피드백 전달 경로가 부재하며, 프롬프트 조정만으로 인간식 ‘학습’이 불가능함
• RL(RLHF) 파인튜닝이 있긴 하지만, 인간과 같은 적응적이고 유기적인 학습과는 거리가 멀며, 이는 실무 자동화에서 결정적 제약 요소임
• AI 모델이 인간 직원처럼 업무 중 풍부한 맥락을 쌓고 기억하며 성장하는 방식은 아직 실현방안이 부족함
• 세션 내에서는 일부 맥락 학습이 이루어지기도 하지만, 세션 종료 후에는 모든 학습된 맥락이 소실되는 한계 존재
• 장기 기억(rolling context window) 같은 해법이 시도되지만, 풍부한 경험적 지식의 요약은 브리틀(취약) 하며, 텍스트 기반 도메인 외에서는 더욱 비효율적으로 작동함
• AI 발전이 현 수준으로 정체될 경우에도 많은 사무직 업무가 해당 기술로 대체되기는 어렵고, 인간 직원이 가진 맥락 학습력이 경쟁력임
• 즉, 지속적 학습 기술이 실제로 구현되는 시점에야 AI의 가치가 불연속적으로 급상승하며, 궁극적으로 이 기술이 가능해지면 복수 인스턴스 간 학습 공유를 통해 인간보다 빠르게 슈퍼인텔리전스화가 가능함
• 그러나, 연구실은 혁신 기술을 완전하게 완성하기 전에 불완전한 버전을 먼저 공개할 동인도 크기에, 지속적 학습의 진정한 도약이 일어나기 전 징후가 나타날 것으로 예상함

컴퓨터 사용 및 자동화의 현실적 어려움

• Anthropic 연구원들과의 대화에서, 2026년 말까지 신뢰성 높은 컴퓨터 사용 에이전트가 등장할 것이라는 예측을 들었으나, 필자는 이에 회의적임
• 현재도 컴퓨터 사용 에이전트가 존재하지만 실제로 다루기엔 효율성이 낮음
• 세금 신고 같은 실제 과업을 자동화하려면, 다중 시스템, 장시간 에이전트 실행, 다양한 멀티모달 데이터 처리가 필요하며, 이는 학습 및 검증 프로세스를 매우 느리게 만듦
• 기존 텍스트 프리트레이닝 데이터(즉, 언어 모델에 사용한 대용량 인터넷 문서 등)와 달리, 다중모달 컴퓨터 사용 데이터셋은 부족하여, 신뢰도 높은 에이전트 개발에 시간 소요가 예상됨
• 새롭게 제안되는 혁신적인 알고리듬도 실제 현장 적용까지 다년간의 엔지니어링 조정이 필요해, 컴퓨터 사용 과제의 발전이 상당히 느릴 것임

추론능력의 고도화와 한계

• Gemini 2.5 등 최신 모델들은 화자의 의도 해석, 논리적 자기검증, 맥락 반응 등에서 실제로 추론 능력을 보임
• Claude Code 등이 주어진 스펙만으로 동작하는 코드를 빠르게 생성하는 등, 분명 넓은 도메인에서 초보적 ‘범용지능’의 기미가 감지됨
• 최상위 수준 LLM 모델이 능력을 보여주는 도메인에서는 제법 인상적인 성과를 내기도 함

단기 및 장기 AI/AGI 예측

• 필자는 자신의 예측에 대해 확률적 시각을 견지함을 강조하며, 이에 따라 대비책 마련은 여전히 타당함을 언급
• 아래 항목에 50% 확률로 베팅할 의향이 있음
  • 2028년까지: AI가 소규모 기업의 세금 신고 전 과정을 완결적으로 처리할 수 있는 수준에 도달 가능성 존재
    • 현재 컴퓨터 사용 능력은 GPT-2 수준에 머물러 있으며, 데이터 부족 및 긴 타임호라이즌으로 인한 최적화 난이도가 높음
    • 멋진 데모는 2026~2027년에도 등장하겠지만, 완전히 자율적으로 장기간 복합 과업을 수행하는 수준은 어려움이라고 예상함
  • 2032년까지: AI가 인간과 같이 업무 중 자연스럽고 점진적으로 학습하여 몇 개월간 실무 적응 후 인간만큼 맥락과 선호, 노하우 내재화가 가능한 시점 도래 가능성
    • 온라인 연속학습 구현이 가까운 시점에는 보이지 않더라도, 7년이라는 기간 동안 본질적인 돌파구가 마련될 수도 있음

AI 발전의 제한 요인 및 미래 전망

• AGI 실현 시점은 확률적으로 매우 넓게 분포(로그정규) 되며, AI 발전은 지난 10년간 연산량(트레이닝 컴퓨트) 증가와 밀접한 연관이 있었음
• 연산량 증가는 2030년 이후에는 한계점에 도달할 것으로 예상되며, 알고리듬 혁신이 병목 역할을 하게 됨
• 혁신적인 패러다임 전환이 없다면, 연도별 AGI 등장 확률은 시간이 갈수록 감소할 수 있음
• 만약 ‘긴 쪽’에 베팅이 맞는다면 2030~2040년까지 일상세계가 크게 변하지 않을 가능성도 있으나, 반대로 현 AI 한계를 극복한다면 매우 급진적인 변화가 일어날 수 있음