[전문가 기고] 에이전틱 AI 시대, '알아서' 해주는 마법은 없다

손무성 LG CNS 최적화컨설팅담당 최근 업계의 최대 화두는 단연 '에이전틱 인공지능(AI)'이다. 사용자가 묻는 말에 그럴듯한 문장을 만들어 대답하는 수준을 넘어, 우리의 대리인(에이전트)이 되어 귀찮고 번거로운 일을 똑똑하게 처리해 주는 AI다. 즉, 우리가 목표를 제시해 주면 AI가 이를 달성하기 위한 좋은 계획을 스스로 세우고 직접 실행까지 해 준다는 것이다. 많은 사람들은 이제 에이전틱 AI가 도입되기만 하면, 골치 아픈 일들을 그저 '알아서' 완벽하게 처리해 줄 것이라는 장밋빛 환상을 품고 있다. 하지만 단언컨대, 세상에 스스로 알아서 다 해주는 기적의 기술은 없다. 에이전틱 AI가 진정으로 우리가 원하는 결과를 내기 위해서는 반드시 선행돼야 할 조건이 있다. 바로 달성해야 할 '목적'을 명확히 하고, 절대 넘어서는 안 될 행동 범위와 현재 가용한 시간 및 자원의 한계, 즉 '제약조건'을 정교하게 정의하는 일이다. 만약 이러한 요건이 불명확하게 정의된다면 아찔한 부작용이 발생할 수 있다. 예를 들어, 집안일을 돕는 AI 로봇에게 “최단 시간 내에 집 안을 깨끗하게 청소해”라고만 지시했다고 가정해 보자. 로봇은 '시간 단축'이라는 목적만 좇아 바닥에 놓인 중요한 서류를 쓰레기로 간주해 빨아들이거나, 동선을 줄이려다 값비싼 도자기를 밀어붙이며 직진할지도 모른다. 좋은 의사결정이란 결국 상충하는 여러 목표와 제약 사이에서 끊임없이 절충하고 최적의 평형점을 찾아내는 일이다. 따라서 에이전틱 AI를 제대로 통제하고 현실에서 가치 있게 활용하기 위한 핵심 역시 '주어진 제약조건 아래에서 목적을 달성하는 최상의 답을 찾는 것'으로 귀결된다. 이것이 바로 인류의 오랜 난제들을 해결해 온 '수학적최적화(Mathematical Optimization)'다. 수학적최적화란 무엇인가? 쉽게 설명하면, 만들어진 수학적 모델을 바탕으로 '우리가 가진 한정된 돈, 시간, 인력 안에서 가장 큰 성과를 얻을 수 있는 '최고의 가성비 선택지'를 계산해 내는 기술'이다. 그리고 언제나 현실의 복잡한 비즈니스 상황을 수학식으로 정교하게 구조화하고 모사하는 데에서 출발한다. 이 기술의 위력은 제2차 세계대전 당시 이미 증명됐다. 당시 자원과 병력에서 절대적 열세에 몰려 있던 연합군은 수학자와 과학자들을 동원해 병력 배치, 레이더망 구축, 수송선단 경로를 '최적화'함으로써 최소한의 자원으로 독일군을 압도하는 기적을 만들어냈다. 전쟁의 승패...