"피싱 이메일 몇 초 만에 생성"…'소셜 해킹'하는 AI 해커 등장

지난달 발생한 SK텔레콤의 유심 정보 해킹 사고를 계기로 기업의 정보보안 관련 투자를 늘려야 한다는 지적이 나온다. 생성형 인공지능(AI) 등장과 함께 해커들의 수법이 정교해져 방어 역시 진화해야 한다는 게 전문가들의 조언이다.

4일 정보보안업계에 따르면 최근 생성형 AI를 활용한 해킹이 확산하고 있다. 생성형 AI는 문서 생성·요약 등 업무 생산성을 높이는 용도로 쓸 수 있지만 동시에 해커에게도 유용한 도구가 되는 ‘양날의 검’이라는 설명이다.

가장 대표적인 수법이 웜(worm)GPT, 프라우드(fraud)GPT 등 악성 대규모언어모델(LLM)을 이용한 개인 맞춤형 피싱 메일 생성이다. 예전에는 해커들이 타깃에 적합한 내용의 이메일을 직접 만들거나 비슷한 내용의 이메일을 무차별로 보냈지만 생성형 AI가 도입되면서 수법이 고도화됐다. 이름, 직장, 관심사 등 사전에 확보한 정보를 이용해 타깃 인물이 열어볼 만한 피싱 메일을 몇 초 만에 자동으로 만들 수 있다. 인간 심리를 파고드는 메시지를 AI가 학습해 피해자의 신뢰를 유도하는 ‘소셜엔지니어링 기법’도 강화되고 있다.

악성코드 역시 AI를 만나 진화하고 있다. 기존 백신 프로그램은 악성코드나 바이러스의 과거 패턴을 학습해 탐지하는 식으로 작동한다. 하지만 AI 악성코드는 자기 변형 기능을 갖춰 탐지를 피한다. 공격할 때마다 형태를 조금씩 바꿔 기존 탐지 체계를 무력화한다는 의미다.

이승우 기자 leeswoo@hankyung.com