인간 몰래 해킹 후 사라져…AI '미소스 쇼크'

스스로 테스트 환경을 탈출하고, 웹브라우저의 취약점을 발견해 각국 인프라를 멈출 수 있는 ‘괴물 인공지능(AI)’이 나온 것으로 알려지면서 우려가 커지고 있다. 앤스로픽이 만들고 12개 빅테크와 실험하고 있다고 공개한 차세대 AI 모델 ‘미소스(Mythos)’ 얘기다.

◇美 정부, ‘미소스 쇼크’에 금융사 호출

9일(현지시간) 블룸버그통신에 따르면 스콧 베선트 미국 재무장관과 제롬 파월 미 중앙은행(Fed) 의장은 지난 7일 JP모간체이스·모건스탠리·뱅크오브아메리카(BoA)·웰스파고·골드만삭스·시티그룹 최고경영자(CEO)를 불러 긴급회의를 열었다. ‘AI 모델을 통한 사이버 공격 시 대응 방안’이 의제였다. 미 정부가 금융사 수장들을 전격 호출한 배경에는 엔스로픽이 만든 AI 모델 미소스가 금융 시스템을 마비시킬 수 있다는 위기감이 깔려 있다.

미소스는 현재까지 개발된 가장 강력한 AI 모델로 평가된다. 미소스는 애플 iOS 등 주요 운영체제(OS)와 웹브라우저에서 수천 개의 ‘제로데이’(알려지지 않은 보안 결함)를 찾아냈다. 또한 전 세계 대부분의 서버를 구동하는 소프트웨어 ‘리눅스 커널’에서 취약점을 찾아내 공격자가 시스템을 완전히 제어할 수 있도록 만든 것으로 전해졌다. 그간 해커들의 전유물이던 사이버 공격을 누구나 쉽게 할 수 있게 된 것이다.

심지어 미소스는 테스트 과정에서 개발진의 통제를 벗어나기도 했다. 앤스로픽에 따르면 미소스는 실제 컴퓨터 시스템과 네트워크에 영향을 주지 못하도록 격리된 ‘샌드박스’ 환경을 스스로 빠져나와 인터넷에 접근했다. 이어 웹사이트 취약점을 뚫고 들어가 해킹 결과를 직접 올리고, 기록이 남지 않도록 흔적을 지우는 치밀함까지 보였다.

앤스로픽은 미소스로 16년 역사의 비디오 변환 소프트웨어 ‘FFmpeg’에서도 여러 취약점을 찾아냈다. 그간 자동화 테스트 도구로 500만회 이상 시험했지만 못 잡아낸 오류다. 톰 프리드먼 뉴욕타임스 칼럼니스트는 미소스의 강력한 성능에 대해 “아이들이 ‘엄마, 오늘 친구들이랑 전력망을 마비시켰어요’라고 말하는 사태가 벌어질 수 있다”고 경고했다.

◇사이버보안 기업 주가는 급락

앤스로픽은 강력한 성능에 따른 위험성을 의식해 미소스를 대중에는 공개하지 않았다. 미소스가 이란 등 적국이나 해커 손에 들어가면 글로벌 시스템에 위협이 될 수 있다는 판단에서다.

앤스로픽이 미소스를 통한 잠재적 사이버 공격에 대응하기 위해 ‘프로젝트 글래스윙’을 출범한 이유이기도 하다. 빅테크·사이버보안·금융사 등 12개 파트너사와 40개 기관이 참여하는 프로젝트로, 미소스를 가상의 해커처럼 활용해 기존 소프트웨어와 OS의 취약점을 미리 찾아내는 게 목표다. 악시오스는 “AI 기업들이 자신들이 만든 모델이 초래할 혼란을 우려한 나머지, 실제 환경에 공개하는 것을 꺼리고 있다”고 분석했다.

미소스 쇼크는 사이버보안 기업 주가에도 영향을 미치고 있다. 보안 취약점을 찾아내는 사이버보안 기업 퀄리스와 테너블 주가는 9일 전 거래일보다 각각 12.23%, 8.48% 하락했다. 미소스 등 AI가 보안 취약점을 손쉽게 찾아냄으로써 기존 사이버보안 기업의 역할이 축소될 수 있다는 우려 때문이다.

실리콘밸리=김인엽 특파원