피싱 페이지도 '뚝딱'…해커 무기된 AI

일상 생활에서 생성형 인공지능(AI) 등 AI 기술 사용이 확산하는 가운데 해커들 역시 해킹 도구로 AI를 적극 활용하는 것으로 나타났다. 챗GPT 등을 통해 피해자를 꾀어내기 위한 피싱 문구를 정교화하는 데서 나아가 웹 개발 AI를 사용해 피싱 페이지를 제작하고 있다.

7일 정보보호업계와 외신 등에 따르면, 글로벌 아이덴티티 보안 기업 옥타(Okta)의 위협 인텔리전스는 최근 버셀(Vercel)의 웹 개발 생성형 AI 도구인 '브이제로'(v0)를 악용한 사례를 발견했다. v0는 개발자가 텍스트를 프롬프트에 입력하면 사용자환경(UI)을 구축할 수 있는 도구로, 누구나 기술 수준과 관계없이 웹사이트를 제작할 수 있도록 돕는다.

공격자는 v0를 활용해 실제 사이트를 사칭한 가짜 로그인 페이지를 만들었다. 특히 피싱 사이트의 모든 요소를 신뢰할 수 있는 플랫폼 내 호스팅해 정상 사이트로 보이도록 했다.

기존의 서비스형 피싱(PhaaS) 등 도구는 공격자의 코딩 기술이 필요하고 품이 어느 정도 들었다. 이제는 v0과 같은 도구를 통해 프롬프트 입력만으로 피싱 페이지를 생성할 수 있다. 저숙련 공격자도 피해자가 속아 넘어갈 수 있는 수준의 피싱 페이지를 대규모로 구축할 수 있는 것이다.

옥타 측은 “공격자가 피싱 공격 역량을 강화하기 위해 주요 생성형 AI 도구를 적극 실험하고 무기화하고 있다”며 “v0와 같은 플랫폼을 사용하면 신규 공격자도 높은 수준의 피싱 페이지를 신속하게 제작해 운영 속도와 규모를 높일 수 있다”고 밝혔다.

이미 주요 사이버 보안 기업은 해커들이 AI 도구를 손에 넣으면서 사이버 공격의 빈도와 강도가 폭발적으로 증가할 것이라고 경고했다. 윔(worm)GPT, 프러드(Fraud)GPT 등 사이버 범죄에 특화된 생성형 AI 서비스가 성행하고 있으며, 거대언어모델(LLM) '화이트래빗네오'(WhiteRabbitNeo)의 경우 '보안팀에 의해 검열되지 않은 AI 모델'이라고 적극 홍보한다.

생성형 AI 모델을 사칭하는 사례도 발견되고 있다. 글로벌 사이버 보안 기업 카스퍼스키에 따르면, 올해 중소·중견기업을 대상으로 한 사이버 공격 중 챗GPT와 딥시크(DeepSeek) 등 AI 기반 서비스를 악용한 사례가 늘고 있다. 챗GPT를 사칭한 사이버 위협은 올해 1~4월 177건으로 전년 동기 대비 115% 증가했다. 또 올해 1월 출시한 딥시크를 사칭한 사례도 83건으로, 출시하자마자 공격자가 사칭 공격에 악용하고 있다.

엔터프라이즈 아이덴티티 보안 기업 세일포인트는 최근 글로벌 보안 및 정보기술(IT) 전문가 대상 설문조사 결과를 통해 기업 업무 영역 곳곳에 AI 에이전트가 스며들고 있지만 통제는 미흡하다고 지적하기도 했다.

정보보호업계는 AI 기술이 발전하는 만큼 사이버 위협도 동시에 커지기에 AI 연구·개발(R&D) 투자의 일정 수준을 사이버 보안에 투자해야 한다고 강조한다.

한 정보보호업계 관계자는 “사이버 보안 없이 안전한 AI 시대를 구현할 수 없다”며 “Ai 서비스·모델에 대한 보안과 함께 AI를 활용한 보안 기술 개발에 적극 나서야 한다”고 말했다.

조재학 기자 2jh@etnews.com