[기고]왕과 사는 남자, 개발자와 사는 AI 에이전트: 엔터프라이즈 AI 관점에서 본 에이전트의 본질과 과제

최근 영화 〈왕과 사는 남자〉가 우리 사회에 던지는 여운이 깊다. 왕위에서 쫓겨난 단종은 더 이상 통치자가 아니지만, 그를 지키는 촌장 엄흥도에게 그는 여전히 '왕'이며 동시에 자식 같은 존재다. 영화는 예측할 수 없는 존재를 곁에서 지켜보며, 그 결정의 결과를 온전히 감당해야 하는 삶의 무게를 담담하게 그려낸다. 이 묘한 긴장감과 책임감의 구도는 오늘날 기업 현장에서 '인공지능(AI) 에이전트'를 마주하는 우리의 모습과 놀라울 정도로 닮아 있다.

현재 산업계는 AI 에이전트 열풍이다. 우리 회사만 뒤처지는 것 아닌가 하는 불안감(FOMO)마저 느껴질 정도다. 하지만 30년 넘게 IT와 클라우드, 기업용 소프트웨어 현장을 지켜온 필자의 시각에서 볼 때, 지금 우리에게 필요한 것은 유행을 쫓는 속도가 아니다. AI 에이전트가 무엇인지 정확히 이해하고, 기업의 업무에 AI 에이전트를 어떤 방식으로 사용할지, 기업이 이를 다룰 준비가 되었는지 등도 되돌아 살펴보아야 한다고 생각한다.

생성형 AI, 특히 거대언어모델(LLM)은 AI가 마치 생각하고 말하는 능력을 갖춘 것처럼 보이게 만들었다. 여기서 '갖춘 것처럼'이라는 표현을 쓴 이유는, 현재의 모델이 인간이 지식을 학습해서 이를 바탕으로 문제의 답을 추론하는 방식과 유사해 보이지만, 실제로 스스로 생각하는 것인지 아니면 확률적으로 유사한 데이터를 조합하는 것인지의 경계에 서 있기 때문이다. AI 에이전트는 바로 이 모호한 경계 위에서 '대답하는 존재'를 넘어 '행동하는 존재'로 확장된 기술이다.

일반적으로 AI 에이전트는 사용자의 요청을 받아 의도를 파악하고, 도구(MCP 서버 등)를 활용해 실행 계획을 세우며 동작한다. 관측(Observe), 추론(Think), 결정(Decide), 실행(Act)의 네 단계를 거치며 업무를 수행한다. 여기서 기업 리더들이 주목해야 할 지점은 바로 '실행'이다.

실행은 곧 권한을 의미하며, 그 권한은 반드시 책임으로 이어지기 때문이다. 개인이 사용하는 퍼블릭 AI 혹은 커머셜 AI는 그동안 정보 제공의 최강자로 군림했던 검색 서비스와 비슷한 면이 있다. 조금 부정확하더라도 편리하면 그만이지만, 금융·공공·기업 환경에서의 AI 판단은 감사와 규제의 영역이다. 따라서 우리는 에이전트를 도입하기 전, 우리가 감당할 수 있는 '위임의 범위'를 먼저 설정해야 한다.

필자는 오랜 시간 기업용 소프트웨어 개발, 메인프레임 현대화와 클라우드 전환 등을 이끌어왔다. 과거의 시스템이 정해진 규칙에 따라 움직이는 '결정론적' 세계였다면, AI 에이전트가 주도하는 환경은 '확률론적' 세계다. 특히 기업의 핵심 자산과 데이터를 다루는 영역에서는 '소버린 AI(Sovereign AI)'의 관점도 필요하다. 기업 스스로가 AI의 주권을 가지고 통제할 수 있을 때 비로소 에이전트에게 중요한 업무를 맡길 수 있다. 이는 마치 엄흥도가 단종이라는 존재를 마을의 질서 안에서 지켜내려 했던 노력과 일맥상통한다.

소프트웨어 개발 현장에서도 AI 에이전트의 활용(결국은 코드를 학습한 LLM의 활용)은 비약적으로 늘고 있다. AI가 코드를 직접 생성하고, 스스로 테스트하며 버그를 수정하는 단계까지 이르렀다. 필자는 여기서 우리가 오랫동안 강조해 온 '시프트 레프트(Shift Left)' 전략을 다시 떠올린다. 제품의 품질을 위한 테스트 방안을 가능한 개발 초기 단계로 앞당기듯, AI가 생성하는 코드 역시 빠르게 초벌 구이를 해서 개발자의 시간을 절약함과 동시에 사고의 지평을 넓혀준다. 기업이 '완성형 업무 소프트웨어'(설치형과 SaaS형 모두를 포함하는 의미로 미리 완성된 기업용 소프트웨어 제품의 의미) 대신 AI 에이전트가 그때그때 생성해 실행하는 '생성형 업무 소프트웨어'를 전적으로 신뢰할 수 있을지는 아직 미지수다.

예를 들어, 에이전트가 ERP 시스템에서 데이터를 비교 분석해 보고하는 수준이라면 환영할 일이다. 하지만 에이전트가 스스로 데이터를 결정하고 지사에 보낼 보고서 내용까지 바꿔버린다면, 이는 기술의 문제를 넘어 '업무 위임과 신뢰'의 영역으로 넘어간다. 결국 현재의 흐름은 AI 에이전트가 기존 소프트웨어를 완전히 대체하기보다는, 소프트웨어 제품의 강력한 '기능' 중 하나로 탑재되어 사용자를 지원하는 방식이 주류가 될 것으로 보인다.

결국 AI 에이전트는 만능 해결사도, 단기 유행도 아니다. 엔터프라이즈 환경에서 에이전트는 조직이 감당할 수 있는 만큼만 권한을 부여하고, 그 결과에 대해 명확한 책임 체계를 갖춰야 하는 존재다. 지금 CIO와 CTO가 내려야 할 판단은 “AI 에이전트를 쓸 것인가”라는 단순한 기술적 선택이 아니다. 오히려 “우리 조직은 어떤 에이전트와 함께 살 준비가 되어 있는가”이다. 조직이 “일단 도입하자”는 목표만 세우는 것은, 마치 왕이 누구인지도 모른 채 마을의 문제를 해결하려 왕을 모셔오는 것과 다를 바 없다.

영화 속 엄흥도는 왕을 통제하지 않았지만, 그 존재가 가져올 결과는 묵묵히 자신의 삶으로 책임졌다. 준비된 조직에 AI 에이전트는 대체 불가능한 경쟁력이 되겠지만, 준비되지 않은 조직에 AI 에이전트는 감당하기 어려운, 위험한 통치자가 될 수도 있겠다.

박기은 티맥스소프트 연구본부장(부사장) eun_park2@tmaxsoft.com