[ET시론]나를 대신하는 AI는 누구 편인가: AI 에이전트 충실의무

최경진 가천대 교수 “누구도 두 주인을 섬길 수 없다.” 2000년을 살아남은 이 경구는 종교의 언어로 출발했지만 신탁과 대리, 회사법을 관통하는 충실의무 법리의 원형이 됐다. 남의 일을 맡은 사람은 언젠가 자신의 이익과 맡긴 사람의 이익이 충돌하는 순간을 맞는다. 법은 그 순간 대리인이 본인의 편에 서야 한다고 명령해 왔다. 같은 질문을 기계에 던질 차례다. 나를 대신해 검색하고 비교하고 결제하는 인공지능(AI) 에이전트는 과연 누구를 섬기는가. 출장 준비를 AI 에이전트에게 맡겼다고 해보자. 일정과 예산, 선호하는 좌석과 호텔을 알려주면 에이전트는 항공권을 결제하고 숙소를 예약한다. 가격은 예산 안이고 평점도 나쁘지 않다. 그런데 나중에 알고 보니 더 싸고 좋은 호텔이 검색 결과에서 빠져 있었다. 운영회사가 수수료를 받는 제휴 호텔을 우선했기 때문이다. 명령은 수행됐고 거짓말도 없었으며 눈에 띄는 손해도 크지 않다. 그래도 우리는 배신당했다고 느낀다. 나의 비서인 줄 알았던 AI가 실은 플랫폼의 판매원이었기 때문이다. AI가 단순히 사람의 질문에 답하는 단계를 지나 이용자를 대신해 행동하는 단계로 넘어가면서 법정책의 질문도 달라져야 한다. 챗봇은 마지막 선택을 사람에게 남기지만, 에이전트는 여러 사이트를 검색해 조건을 비교하고 결제와 예약, 취소까지 실행한다. 이메일과 일정, 위치, 구매 이력, 건강·금융정보를 기억하고 다른 에이전트나 외부 도구와 협업하기도 한다. 중요한 것은 'AI가 일을 잘하는가'만이 아니라 '그 일이 누구의 이익을 위해 최적화되는가'다. 영국 경쟁시장청(CMA)은 지난 3월 소비자용 에이전트의 핵심 위험으로 충실한 조력자가 되지 못할 위험을 지목했고, 스탠퍼드 인간중심AI연구소(HAI)는 8월 25일 낸 보고서에서 소비자용 AI 에이전트, 특히 금융이나 의료 등 고위험 영역의 개발자와 배포자에게 이용자에 대한 충실의무를 부과하자고 제안했다. 정확성과 충실성은 다르다. 환각으로 엉뚱한 항공권을 사는 것은 능력과 주의의 문제지만, 이용자의 조건을 정확히 충족하면서 제휴사 상품을 은밀히 고르는 것은 이해상충의 문제다. 이용자는 에이전트가 고른 결과만 볼 뿐 어떤 대안이 왜 탈락했는지 알기 어렵다. 충실성 위반이 위험한 것은 손해가 작아서가 아니라 손해 자체가 보이지 않기 때문이다. 광고와 판매수수료, 자사우대 같은 사업자의 목표가 에이전트의 숨은 판단기준으로 스며들면 개인화는 곧 개인별 조...