MS, AI 에이전트 내부자 위협 대응 강화…실시간 감시·권한 통제

마이크로소프트(MS)가 기업 내부 인공지능(AI) 에이전트의 행동을 실시간 감시하고 접근 권한을 통제하는 보안 기술을 강화한다. 외부 해커뿐 아니라 기업이 직접 도입한 AI 에이전트도 내부자 보안 위협이 될 수 있다는 판단에서다.

하예테 갈로 MS 보안 부문 수석부사장은 19일(현지시간) 공식 블로그를 통해 에이전트형 보안 시스템 '프로젝트 퍼셉션(Perception)'의 기능을 확대한다고 밝혔다.

MS는 지난 7월 외부 AI 기반 사이버 공격에 대응하기 위해 프로젝트 퍼셉션을 공개했다. 이번에는 보호 대상을 기업 내부 AI 에이전트까지 확장했다.

MS는 기업 내부에 배치된 AI 에이전트를 '에이전틱 내부자'로 규정했다. AI 에이전트가 데이터와 업무 시스템에 접근하고 주요 업무에서 직접 행동하거나 의사결정을 내리기 때문이다. 외부 공격에 감염되지 않더라도 의도하지 않은 행동으로 보안 사고를 일으킬 수 있다는 설명이다.

갈로 부사장은 “AI 에이전트는 예측하기 어렵다. 상황이 바뀌면 행동을 조정하고 의도와 다르게 작동할 수 있으며, 해킹당하지 않은 상태에서도 목표를 달성하기 위해 다른 에이전트와 협력하거나 공모할 수 있다”고 경고했다.

MS는 AI 에이전트의 행동을 사전에 감시하고 통제하는 '가디언 에이전트'를 활용한다. 신원·접근 권한·데이터·네트워크·클라우드·실행 환경 등을 종합해 위험도를 지속 평가하고, 필요하면 권한을 조정하거나 위협을 차단한다. 위험 발생 원인과 에이전트의 행동을 추적할 수 있는 기록도 제공한다.

사티아 나델라 MS 최고경영자(CEO)는 엑스(X)를 통해 “프로젝트 퍼셉션에 에이전트 위험을 지속적으로 평가하고, 권한을 조정하며, 위협을 차단할 수 있는 새로운 기능을 추가하고 있다”고 밝혔다.

박진형 기자 jin@etnews.com