"AI 통제 못하면 미래 암울"…'알파고' 아버지의 경고 [AI 엑스파일]

데미스 하사비스는 누구

구글의 AI 전문 자회사 딥마인드 창업자이자 최고경영자(CEO). 1976년 영국 출생으로 영국 케임브리지 대학교에서 컴퓨터공학, 런던 대학교에서 인지 신경과학을 공부했다. 국내엔 바둑 AI '알파고'의 개발자로 유명하다. 2024년 노벨 화학상을 받았다. 단백질 구조 예측 AI '알파폴드' 개발한 공로를 인정받았다. 현재 구글의 AI 혁신을 이끌고 있다.

데미스 하사비스가 하고 싶은 얘기는
앞으로 성능이 뛰어난 초지능 또는 AGI(범용 인공지능)이 등장한다. 이 AI는 좋은 일도, 나쁜 일도 가능하게 할 것이다. 그래서 인류는 AI의 마지막 단계 개발에서 국제 공조로 관리해야 한다. AI는 어디에나 쓰일 수 있고 누가 어떻게 쓰느냐에 따라 엄청난 이익도 막대한 피해도 초래할 수 있다는 경고다.

초지능 AI 모델을 공개하거나 판매하면 대량 살상용 생물학 물질을 합성하는 방법을 찾거나 첨단 사이버 무기가 나올 수 있다는 우려이기도 하다. 하사비스는 지금을 ‘AGI에 거의 다다른 시점’이라고 보고 있다. 더 이상 개별 기업과 국가가 경쟁적으로 AI를 개발해서는 안 된다고 주장하는 듯하다.

하사비스는 일명 ‘AGI CERN’을 구상했다. CERN은'유럽 입자 물리 연구소'다. 유럽 여러 국가가 공동으로 대형 과학 연구를 수행하기 위해 설립한 국제 연구기관이다. AI 방식의 CERN은 ① 기술적·안전적 이점 ② 정책·거버넌스 적합성 ③ 실행 가능성의 세 부문에서 검토할 필요가 있다.

기술적·안전적 이점은 어느 정도 있다. 하나의 시설에서 가장 강력한 AI 모델을 안전·윤리 목적에 집중해 시험하기 때문이다. 공동 관리가 가능하다. 영국의 왕립 국제문제연구소(채텀 하우스)는 지난해 'AI와 글로벌 거버넌스의 과제'라는 논문에서 "AI를 위한 CERN은 최첨단 AI 시스템에 대한 접근을 중개한다"며 "세계 연구자들이 단일 연구실에서 독립적으로 달성할 수 있는 것 이상으로 AI 모델의 안전성, 편향성, 견고성을 테스트하고 비교할 수 있다"고 주장했다.

이렇게 상호 감시가 되기 때문에 '정책·거버넌스 적합성'도 어느 정도 충족할 수 있다. AI 개발에서 나타난 부익부 빈익빈 현상 문제도 해결이 가능하다. 수십~수백 억 달러에 달하는 전력과 그래픽처리장치(GPU) 확보, 최고 수준의 AI 개발자 채용을 세계적으로 분담하거나 공유할 수 있다.

하지만 가장 중요한 '실행 가능성'을 따져보면 ‘AGI CERN’ 설립 자체가 쉽지 않다. 세계 각국은 이미 AI를 강력한 전략 자산으로 생각하고 있다. 미국이 엔비디아에 고성능 GPU의 중국 수출을 제한하는 이유다. 고성능 GPU는 AI 개발에 필수다. AI를 다루는 UN(국제연합)이 생긴다고 해도 AI 관련 자원과 발언권이 부족한 국가는 소외되기 마련이다.

현재 AGI 개발 주도권을 잃는 것은 국가 안보를 포기하는 것과 같다. 그래서 어떤 국가도 경쟁국이 AI에서 앞서 나가는 것을 가만히 보지 않을 것이다. 'AGI CERN'이나 'AI UN'이 설립되면 결국 각국의 비밀 연구를 가속할 것이다. 뒤에서 더 위험한 '그림자 경쟁'을 촉발할 수 있다. 핵무기가 그랬다.

무엇보다 민간 기업이 국제 공조에 협조할까. 과거 핵과 달리 '핵'이 될 수 있는 AI는 현재 민간 기업이 개발하고 있다. 구글, 오픈AI, 앤스로픽, xAI, 알리바바, 텐센트, 딥시크, 미스트랄 등 현재 AI 파운데이션 모델을 경쟁하는 곳은 모두 기업이다. 하사비스도 지난 2월 이코노미스트와 인터뷰에서 "AI 개발 속도 경쟁 압박에 잠도 못 이룬다"고 밝혔다. 이미 막대한 투자를 한 기업은 연구 성과를 공유하기 꺼릴 것이다. 이들 기업은 주주 이익과 인류 공동 이익 간 충돌하면 어떤 선택을 할까.

일각에선 이런 비판도 나온다. 구글 등 이미 AGI 경쟁의 최전선에서 막대한 이익을 추구하는 기업이 충분한 우위를 확보하고 '국제 협력'을 강조하는 건 기득권 유지 전략이라는 지적이다. AI 기업은 AI 모델로 돈만 벌고 위험 책임은 공공에 떠넘긴다는 것이다.

과거 핵확산방지조약(NPT)과 비슷한 우려도 나온다. NPT는 핵무기 보유국은 기득권을 유지하며 비보유국을 억제하는 구조였다. 현재 AI 경쟁에서 이미 빅테크와 일부 국가가 AGI 단계에 진입했다는 분석이다. 지금 'AGI CERN'는 ‘제로부터 룰 세팅’이 아니라 기득권 중심의 재조정 방식이다.

하지만 눈으로 확인된 위협은 국제 공조를 촉발할 수도 있다. 사실 지금의 과학자, 정치인, 기업 관계자 등의 AGI의 우려는 미래의 추상적인 이야기에 가깝다. 실제로 통제 불가능한 AI가 자국의 금융망을 붕괴시키고 국방 시스템을 무력화하는 것을 눈앞에서 목격한다면, 일류의 의사 결정은 기존의 지정학적 셈법을 초월할 수 있다.

과거를 봐도 위협이 추상적일 때는 인류는 이기심이 앞섰다. 하지만 인류는 위협을 구체적으로 목격하면 생존을 위한 초월적 협력을 선택해왔다. 여기서도 핵이 대표적인 사례다. 1945년 일본 히로시마·나가사키에서 핵의 위력을 확인한 인류는 국제원자력기구(IAEA)가 설립하고 NPT를 체결했다. 다만 통제 불가능한 AI가 보여줄 ‘맛보기 재앙'이 인류가 감당할 수준이어야 할 것이다.

[AI 엑스파일은 글로벌 AI 산업, 학계 등의 최전선에서 AI를 고민하는 이들의 얘기를 전달합니다. 색다른 AI 이슈를 편하게 보시려면 기자 페이지를 구독해 주세요]

김주완 기자 kjwan@hankyung.com