Andrew Ng: AI 에이전트의 현황 [유튜브]

• 앤드류 응은 AI 에이전트와 에이전틱(agentic) 시스템 개념을 중심으로, 에이전트 정의 논쟁보다 자율성의 스펙트럼에 집중할 것을 제안
• 현재 실제 비즈니스 기회는 복잡한 완전 자율 에이전트보다, 단순하고 선형적이거나 작은 분기만 있는 워크플로우에 많음
• 에이전틱 시스템 설계와 운영에 필요한 실전적 스킬(작업 분해, 평가 시스템, 데이터 연결 등)이 여전히 희소하며, 다양한 도구 활용 능력이 중요
• 평가(evals), 음성 스택(voice stack), AI 코드 어시스턴트 등이 충분히 주목받지 못한 핵심 도구로 꼽힘
• 스타트업 성공의 핵심 요인은 실행 속도와 깊은 기술 이해이며, AI 도구 발전으로 더 많은 비(非)개발자도 기본 코딩 역량을 갖추는 게 생산성 향상에 도움

Introduction

• 앤드류 응이 LangChain 등 다양한 AI/에이전트 프로젝트와 커뮤니티에 기여한 배경 소개
• 에이전트 정의 논쟁 대신, 에이전틱 시스템은 자율성의 정도가 다양할 수 있음을 강조
• "진짜 에이전트인가"를 따지기보다, 자율성의 크고 작음을 스펙트럼으로 보고 실용적으로 접근할 것을 제안

Opportunities: 실제 비즈니스 기회

• 실제로 많은 비즈니스 워크플로우는 선형적 흐름 혹은 약간의 분기만 포함
  • 예: 웹 폼 작성, 데이터베이스 조회, 단순 검색 등 반복 업무 자동화
• 작업 분해 및 미세 조정(마이크로 태스크화), 평가 지표 설계, 워크플로우 개선 등 실무적 역량이 희소
• 복잡한 에이전틱 워크플로우도 중요하지만, 대다수의 가치 창출은 단순 반복 구조에서 발생

Skills: 에이전트 빌더가 갖춰야 할 역량

• 비즈니스 프로세스 파악 후, 데이터 수집/통합·프롬프트·프로세스 분할 등 체계적 설계 역량 요구
• 자동화 평가 시스템(시스템/컴포넌트별 성능 추적, 평가 프레임워크 구축 등)이 중요
• 경험 많은 팀은 "불필요한 개선"에 집착하지 않고, 효율적으로 문제 우회/대체
• 다양한 AI 도구·프레임워크를 실제로 써보며, 결정·시도 속도와 도구조합(레고 블록식 활용) 이 빠름

AI Tools & 변화

• 최근 2~3년 간, AI 도구(예: Langgraph, RAG, 챗봇, 메모리 관리, 평가/가드레일 등) 생태계가 다양해짐
• 도구는 레고 블록처럼 다채롭게 결합할 수 있어, 실제 활용 경험이 쌓일수록 빠른 의사결정 가능
• LLM의 컨텍스트 윈도우 증가로 RAG 등 일부 기법의 실질적 역할 변화—하이퍼파라미터 튜닝의 중요성이 감소

Underrated Tools: 저평가된 핵심 도구

• Evals(자동화 평가): 많은 팀이 과하게 어렵게 여기지만, 작은 예시부터 빠르게 구현/개선하는 습관이 중요
• Voice stack(음성 기반 워크플로우): 대규모 기업에서 수요와 활용도가 빠르게 증가하지만, 개발자 커뮤니티의 관심이 부족
• AI 코드 어시스턴트: AI 지원 코딩으로 생산성 향상, 모든 구성원이 기본 코딩 역량을 익히면 직무별 생산성 개선
  • AI Fund 사례: 리셉셔니스트, CFO, 변호사까지 모두 코딩을 배우며 업무 효율 증대

Voice Application의 특성

• 텍스트 프롬프트보다 음성 입력이 사용자 부담을 줄이고, 더 빠르게 정보 입력을 유도
• 음성 기반 에이전트는 반응 시간(지연) 이 매우 중요(이상적으론 1초 미만), 실시간 인터랙션을 위한 다양한 UX 트릭 활용(예: 프리리스폰스, 백그라운드 노이즈)
• 음성 인터페이스가 적용될 분야와 활용 가능성은 매우 크나, 개발자 도구와 지원 인프라가 더 필요

MCP: 표준화와 데이터 통합

• MCP(Mesh Capability Protocol): 다양한 데이터 소스·API·도구를 표준화된 인터페이스로 연결하는 업계 트렌드
• MCP 표준은 아직 초기 단계이나, 복잡한 데이터·툴 통합을 간소화하는 핵심 축으로 발전할 전망
• n개의 에이전트와 m개의 데이터 소스를 연결할 때 n*m이 아닌 n+m의 비용으로 통합할 수 있게 하는 비전

Agent-to-Agent 시스템

• 멀티 에이전트, 에이전트 간 상호작용은 매우 초기 단계로, 아직은 같은 팀 내에서만 실질적 성공 사례가 많음
• 다른 팀/회사 간 에이전트 상호작용은 앞으로의 발전 영역

Vibe Coding 및 AI 코딩

• AI 어시스턴트와 함께 코딩하는 'Vibe Coding' 현상은 실제로 높은 집중과 지적 노동을 요구, 이름과 달리 "느낌만"으로 코딩하는 것이 아님
• AI 코드 어시스턴트 발전으로, 더 많은 비개발자와 직군에서 코딩 역량의 중요성이 높아짐
• 코딩 학습은 미래 생산성의 핵심—프로그래밍 언어(특히 Python) 한 가지는 익혀둘 것 권장

Advice for Startups: AI 스타트업에 대한 조언

• 스타트업 성공의 1순위는 실행 속도, 2순위는 기술에 대한 깊은 이해
• 마케팅/영업/가격책정 등은 중요하지만, 기술의 실질적 작동 원리와 최신 기술 변화에 대한 이해가 더욱 희소하고 중요
• 깊은 기술적 본질에 대한 감각을 가진 팀이 빠르고 효율적으로 문제를 해결할 수 있음