[국방 AX 컨퍼런스] 한국형 AI-RMF 4대 기능 제시···“AI 잘 쓰는 것보다 통제가 핵심”

생성형 인공지능(AI)을 넘어 스스로 취약점을 찾고 공격 경로를 추론하는 '미소스급 AI'의 등장에 대비해 국방 AI 보안체계를 기존 정보보호에서 'AI 무기 통제' 개념으로 확장해야 한다는 제언이 나왔다.

강정호 국방전산정보원 대령은 3일 '2026 국방 AX 및 차세대 보안 융합 컨퍼런스'에서 '미소스급 AI, 한국형 AI-RMF를 통한 국방에서의 통제전략과 대응방안'을 주제로 발표했다.

강 대령은 미소스급 AI를 취약점 탐지와 공격경로 추론, 익스플로잇 생성 등을 자율 수행할 수 있는 차세대 공격형 AI로 정의했다. 이러한 AI가 등장하면 사이버 공격과 방어가 인간의 판단 속도를 넘어 '머신 스피드'로 진행될 가능성이 높다고 전망했다.

이에 따라 인간의 역할도 직접적인 전술 실행보다 전략적 의사결정과 AI 행동 통제, 실행 평가, 위험관리 중심으로 바뀌어야 한다고 강조했다. 특히 AI가 어떤 상황에서 어떤 행동까지 수행할 수 있는지 규정하는 교전규칙과 인간의 최종 승인체계를 사전에 마련해야 한다고 제언했다.

대응책으로는 한국형 AI-RMF의 △거버넌스(Govern) △위험식별(Map) △위험평가(Measure) △위험관리(Manage) 등 4대 기능을 제시했다. 고위험 AI의 사용권한과 교전규칙을 설정하고 위협 시나리오 데이터베이스를 구축해 공격 능력을 정량적으로 평가해야 한다는 것이다.

운용 단계에서는 격리환경과 'Human-in-the-loop', 킬스위치, 로그·추적체계 등을 적용해야 한다고 강조했다.

강 대령은 “완벽한 보안은 존재하지 않으며 보안은 완료되는 작업이 아니라 지속적인 통제 과정”이라며 “미소스급 AI 시대에는 AI를 얼마나 잘 쓰느냐보다 통제 가능한 범위 안에 두는 능력이 더욱 중요해질 것”이라고 말했다.

김현민 기자 minkim@etnews.com