진화하는 AI, 스스로 타깃 찾고 공격법도 결정…“AI 보안 기술 필요”

정부가 지난해 정보보호 10대 이슈 중 하나로 인공지능(AI) 기술을 연계한 사이버공격 심화를 꼽았다. 특히 올해에도 AI 기반 공격이 진화할 것으로 예상됨에 따라 이에 맞서 AI 기반 보안 기술 발전 등 대응책 마련이 요구된다.

국가정보원·과기정통부 등은 최근 이 같은 내용을 담은 '2025 국가정보보호백서'를 발간했다.

먼저 AI 기술이 고도화할수록 AI 기술을 이용한 해킹사례도 함께 증가하고 있는 것으로 분석된다. 실제 마이크로소프트(MS)는 지난해 북한을 비롯한 러시아·이란·중국 등의 지원을 받는 해킹조직들이 오픈AI 챗GPT와 같은 거대언어모델(LLM)을 활용해 해킹 공격에 사용했다는 내용의 보고서를 발표한 바 있다.

해킹조직은 주로 인간의 심리를 적극 이용하는 '사회공학적' 기법 해킹에 AI 기술을 활용하는 한편, 악성코드 제작, 보안 시스템 실시간 분석 및 공격 최적화 등을 위해 AI를 적극 이용하고 있다. 이처럼 AI를 연계한 사이버 공격은 피싱 공격을 정교하게 하고 보안 탐지 기술을 우회하거나 정상 트래픽을 위장하는 등 공격 수준이 높아져 대응에 어려움을 겪고 있다.

랜섬웨어 공격이 보다 정교해지고 체계화된 점도 10대 이슈에 올랐다. 배경엔 AI 기술이 있다. 사이버 범죄자들은 AI 기술을 활용해 취약점 분석 등 랜섬웨어 공격 기법을 지능화하는 수준까지 도달시켰다. 특히 생성형 AI를 이용하면 전문가가 아니더라도 랜섬웨어를 개발할 수 있으며, 높은 취약점이 있는 잠재 대상을 식별하고 보안을 위한 탐지를 회피하는 등 위험성이 커졌다.

올해엔 AI 위협이 본격화할 것으로 우려된다. 지난해 생성형 AI 기술이 급격히 발전하고 보편화하는 해였다면 올해엔 공격자들이 생성형 AI를 본격적으로 활용할 것으로 전망되기 때문이다. 특히 프라우드GPT(FraudGPT)·웜GPT(WormGPT) 등 악성 AI 모델이 다크웹에서 유통되면서 피싱, 악성코드 제작, 취약점 탐색 등에 생성형 AI가 자주 활용될 것으로 보인다.

더욱이 AI는 피해자를 자동 선택해 공격 시나리오를 스스로 결정하고 실시간으로 보안 환경을 분석해 공격 전략을 즉각 수정하는 능력을 갖췄다. 이는 기존의 수동적 공격 방식과 비교해 매우 빠르고 유연한 사이버 위협으로 작용한다. 보고서는 전통적인 규칙 기반의 탐지·방어 메커니즘을 벗어난 AI 기반 보안기술로의 발전이 요구된다고 진단했다.

이 밖에도 보고서는 10대 이슈로 망분리 정책 개선을 위한 국가망보안체계(N²SF) 발표, 지능형 사물인터넷(IoT) 기기 해킹 문제 발생, 소프트웨어 공급망 보안 가이드라인 발표, 사이버 공격 국제 대응 강화, 국가사이버안보전략 등 변화하는 사이버안보 환경에 대한 적극적 대응 전략 수립·시행 등을 선정했다.

조재학 기자 2jh@etnews.com