[송민택 교수의 D-엣지] 초휴먼 AI 에이전트, 금융이 감당해야 할 질문들

고객이 투자 손실을 우려해 예금을 인출하려 했지만, 사전에 설정된 금융 에이전트가 이미 포트폴리오를 조정해 놓았다. 급락 조짐을 감지한 에이전트가 내부 분석 자료를 요약하고 전략을 재편한 것이다. 실시간 정보 분석, 자동 매매 실행, 고객간 연동 전략 등은 아직 기술과 제도상 제약이 많은 만큼, 현재의 금융 현장에선 낯선 장면이다. 그러나 이 시나리오는 머지않아 상상에서 구현의 영역으로 다가올 것이다.

초휴먼 AI 에이전트는 똑똑해진 챗봇을 넘어선다. 판단하고 실행하며, 빠르게 위험을 감지하고 때론 사람보다 정확하게 대응한다. 지금까지의 생성형 AI가 사람의 입력과 판단을 전제로 작동했다면, 에이전트는 판단의 주체를 AI로 이동시킨다. 최근 생성형 AI 시장에서 주목받는 건 모델 크기나 파라미터 수가 아니라 AI 에이전트의 구조다. 기억을 유지하고 도구를 활용하며 서로 다른 시스템간 협업 능력이 강화되면서 AI는 실행 가능한 주체로 진화하고 있다.

금융은 특히 이런 변화에 민감한 영역으로 관련 시장의 잠재적 수혜자일 수 있다. 예컨대 투자자문 에이전트는 시장 뉴스와 과거 내역을 연결하고, 내부 API를 호출해 자동 거래까지 수행하는 방식으로 진화할 수 있다. 기존 AI가 정해진 모델 안에서 점수만 산출했다면, 에이전트는 신용 정보를 조회하고 상황을 분석해 조건을 조정하며, 실행 여부까지 판단할 것이다.

이처럼 초휴먼 에이전트는 금융 전반을 재편할 잠재력이 크지만, 기술만으로는 모든 것이 해결되지는 않는다. 이를 수용하기 위해 넘어야 할 과제들을 미리 짚어보겠다.

우선, 기술이 항상 신뢰를 얻는 것은 아니다. 투자 손실을 봤거나 대출이 거절됐을 때, 소비자는 누가 판단했는지 의문이 생길 수 있다. 만약AI일 경우 사람들은 충분한 설명없이 받아들이기 어렵다. 소비자가 따지는 건 결과가 아니라 책임이다. 따라서 결과에 상응하는 납득 가능한 근거가 요구된다. 아무리 정확해도 설명하지 못하는 판단은 시장에서 지속적으로 유지되기 어렵다.

여기에 정보보안과 개인정보 이슈도 겹친다. 에이전트가 내부 문서와 외부 시스템을 넘나들며 정보를 처리하는 만큼, 민감한 데이터가 외부에 노출될 가능성도 커진다. 특히, AI가 숨겨진 지시에 따라 보안 규칙을 우회하는 프롬프트 인젝션 같은 보안 위협이나 자동화된 외부 호출 기능은 사고 위험을 높일 수 있다. 더구나 금융은 규제산업이다. AI의 자율적 판단은 현행 제도가 가정하지 않은 변수이며 누구에게 책임을 묻고 어떻게 구제할지 체계가 불완전하다.

현재의 금융감독은 여전히 사람의 행위를 전제로 한다. 하지만 에이전트는 판단과 실행, 기록까지 스스로 수행하며 사람의 개입을 거치지 않는 구조로 진화하고 있다. 이미 해외 금융사 중 일부는 AI의 자체 판단으로 고객 응대와 재무 처리를 시도하고 있으나, 해외 규제당국도 이 같은 흐름에 제도적 대응을 고심하고 있다. 제도는 아직 사람에게 판단의 주체와 행위에 대한 의무를 부과하고 있지만, 기술은 이미 사람의 통제와 판단을 벗어난 영역까지 진입했다. 이 간극이 벌어질수록 책임 공백이나 자칫 규제 실패로 이어질 수 있는 것이다.

이처럼 초휴먼 AI 에이전트는 이미 금융 속으로 성큼 다가왔다. 일의 형태를 바꾸고 구성원의 역할도 변화시키고 있다. 이런 변화 속에서 문제는 업무가 아니라 태도나 의식이다. 사람은 감정과 윤리, 관계라는 영역에서 여전히 우월하다. 이를 감안해 금융권은 AI와 상생하고 조율하는 문화를 준비해야 한다. 판단은 AI에게 위임하더라도 결과에 대한 책임과 설명의 무게는 여전히 사람과 제도여야 한다. 그것이 기술을 포용하는 금융의 핵심 과제일 것이다.

송민택 한양대 경영전문대학원 겸임교수 nagaiaida@hanmail.net