다크웹서 'AI 계정 해킹' 활개... “지금이 가장 위험한 시점”

기업용 AI 모델 계정과 클라우드 컴퓨팅 자원을 노린 해킹 범죄가 올해 눈에 띄게 늘어난 것으로 나타났다.

구글 위협분석그룹(TAG)의 존 헐트퀴스트 수석 분석가는 27일 파이낸셜타임스에 다크웹과 암시장을 통해 AI 서비스 로그인 정보가 거래되거나 타인의 서버 자원이 무단으로 도용되는 사례가 올해 들어 뚜렷하게 증가했다고 밝혔다.

이렇게 훔친 대형언어모델(LLM) 접근권을 활용하는 이른바 'LLM 재킹'은 단순 금전 갈취를 넘어 전쟁이나 첩보 작전 등에까지 쓰이고 있는 것으로 전해졌다.

구글 위협분석그룹이 파악한 바에 따르면, 앤트로픽·구글·오픈AI 등 주요 AI 기업 서비스의 이용권이 다크웹에서 정상가 대비 최대 97% 낮은 가격에 팔리고 있다. 월 200달러에 이르는 구독 상품이 단 몇 달러로 거래되는 셈이다.

AI 기업이 이상 사용 패턴을 감지해 계정을 차단하더라도, 판매자들은 추가 요금 없이 새 계정으로 교체해주는 '접속 보장' 서비스까지 내세우며 영업하고 있다.

범죄 조직뿐 아니라 국가의 지원을 받는 해킹 세력도 기업 클라우드 서버를 뚫고 그 안에서 자신들의 AI 모델을 돌리는 방식으로 자원을 탈취한 사례가 확인됐다. 헐트퀴스트 분석가는 과거 미국을 겨냥했던 중국계 사이버 스파이 조직이 이런 방식의 사건에 관여한 정황도 있다고 언급했다.

그는 이런 수법을 통해 공격자가 방어 측보다 훨씬 낮은 비용으로 AI 연산력을 확보하게 되면서, 비용 구조상 우위를 점할 수 있다는 점을 우려했다. 이미 모든 위협 행위자가 AI를 각종 사이버 공격에 동원하고 있다는 것이 그의 진단이다.

헐트퀴스트 분석가는 “AI를 그저 지나가는 유행으로 여기며 손 놓고 있는 이들은 결국 물에 빠진 채로 정신을 차리게 될 것”이라며, 앞으로 전례 없는 규모의 공격과 사고를 겪게 될 것이라고 경고했다.

그는 특히 지금이 해커들이 표적 기업의 서버에 침투하기에 가장 유리한 시점이라고 강조했다. 많은 기업이 자체 AI 인프라를 막 도입하는 단계여서 연산 사용량이 급격히 늘어나더라도 이상 신호로 포착되기 어렵기 때문이라는 설명이다.

헐트퀴스트 분석가는 2014년 러시아 해킹조직 '샌드웜'의 실체를 처음 밝혀내고, 2년 뒤에는 이 조직이 우크라이나 전력망 공격의 주범임을 입증한 보안 전문가로 알려져 있다.

최호 기자 snoop@etnews.com