올트먼 오픈AI CEO, 'IAEA형 국제기구' 등 AI 안전 3대 시나리오 제안

샘 올트먼 오픈AI 최고경영자(CEO)가 직원들에 인공지능(AI) 안전 관리를 위한 세 가지 방안을 제시한 것으로 나타났다. 국제원자력기구(IAEA)와 유사한 국제기구 설립 추진이 대표적이다.

19일(현지시간) 미국 IT 매체 디인포메이션 등 외신은 소식통들을 인용해 지난주 올트먼 CEO가 직원들에 AI 안전 확보를 위한 3개 시나리오를 설명했다고 보도했다.

먼저 IAEA처럼 AI 안전 기준을 수립하고 감독하는 국제기구를 설립하는 방안이다. 소식통에 따르면 올트먼이 이를 가장 선호하는 시나리오라고 설명한 것으로 전해졌다.

올트먼 CEO는 2023년 5월에도 당시 최고과학자 일리야 수츠케버 등과 함께 쓴 블로그 글로 AI 시스템을 점검하고 컴퓨팅 자원과 에너지 사용량을 추적하는 국제기구의 필요성을 주장했다. 다만 중국을 포함한 주요 국가 협력이 필수적인 만큼 실현 가능성은 불확실한 것으로 보인다.

모든 AI 기업·연구소가 단일 기구를 통해 작업하고 참여국에 새 모델을 제공하는 시나리오도 제시했다. 올트먼 CEO는 이를 당시 구글 딥마인드를 이끌던 데미스 하사비스 전 구글 딥마인드 CEO의 과거 제안에서 따와 '데미스 플랜'이라고 불렀다.

하사비스 CEO는 약 10년 전 유럽입자물리학연구소(CERN)와 유사한 기구를 AI업계에 만들자고 제안했다. 최근 하사비스 CEO가 미국 금융산업규제국(FINRA)과 비슷한 자율 규제 기구 설립을 추진해온 만큼 올트먼 CEO 구상과 일치하는지 역시 불분명한 것으로 알려졌다.

특정 AI 개발사가 압도적인 경제력으로 경쟁사의 컴퓨팅 자원을 통제하는 '엘리저 플랜'도 제시했다. AI 안전 연구자 엘리저 유드코프스키의 주장에 착안한 시나리오다.

유드코프스키는 2022년 블로그를 통해 첨단 AI 시스템이 인류 존속을 위협할 수 있다며 초지능을 먼저 개발한 주체가 다른 개인이나 조직의 위험한 초지능 개발을 막아야 한다고 주장했다.

소식통에 따르면 올트먼 CEO는 엘리저 플랜을 설명하며 AI가 스스로 성능을 개선하는 '재귀적 자기개선(RSI)' 단계에 도달하면, 막대한 경제력으로 모든 경쟁사의 그래픽처리장치(GPU)를 무력화하는 시기가 올 수 있다고 전망했다. 이어 “명백히 끔찍하다”며 첨단 AI 개발을 중앙집권화하는 시도로 규정했다.

조벼리 기자 starry@etnews.com