샘 올트먼 "AI 권력 독점은 인류의 파국…AI 규제기구 필요"

샘 올트먼 오픈AI 최고경영자는 18일(현지시간) 인도 뉴델리에서 열린 ‘제4회 인공지능(AI) 임팩트 정상회의’에서 인공지능(AI) 거버넌스의 구축 필요성을 공개적으로 강조했다. 국제원자력기구(IAEA)와 비슷한 '국제 AI 규제 기구'를 설치해야한다고도 말했다.

올트먼 CEO는 이날 연설자로 나서 “세계는 핵 확산을 감시하는 IAEA와 같은 전담 규제기구를 AI 분야에서도 시급히 구축해야 한다”며 “지금의 제도와 속도로는 기술 발전을 따라갈 수 없다”고 주장했다. 올트먼은 "강력한 AI 기술과 자원이 소수 기업, 소수 국가에 집중될 경우 “인류를 파국으로 몰고 갈 수 있는 위험이 생긴다"며 이를 완화하기 위한 초국가적 규제와 공동 감시체계의 필요성을 언급했다.

그는 AI 발전 속도가 예상보다 빠를 수 있다고도 전망했다. 올트먼은 “몇 년 안에 초기 형태의 진정한 슈퍼인텔리전스에 도달할 수 있다”며 “2028년 무렵이면 세계의 지적 능력 상당 부분이 사람의 뇌가 아닌 데이터센터 안에 존재하게 될 수도 있다”고 내다봤다. 그는 “이른바 슈퍼인텔리전스는 연구·경영·전략 수립 등 다양한 영역에서 인간 과학자나 경영자보다 뛰어난 존재가 될 것”이라며 이같은 수준의 AI가 등장하기 전에 국제사회 차원의 안전장치와 책임 구조를 먼저 설계해야 한다고 강조했다.

AI 규제·거버넌스를 둘러싼 국제 논의가 본격화되는 가운데 글로벌 빅테크 대표주자가 공개 석상에서 ‘IAEA식 AI 감독기구’와 ‘슈퍼인텔리전스 수년 내 도래 가능성’을 동시에 거론했다는 점에서 시장과 정책 당국 모두에 메시지를 던진 것으로 평가된다.

올트먼은 AI 권력의 집중이 가져올 정치·경제적 리스크를 부각하며 ‘민주적 AI(democratic AI)’라는 개념을 전면에 내세웠다. 그는 “AI의 민주화가 인류가 번영하는 가장 좋은 길”이라고 규정했다. 그러면서 “한 회사 또는 한 나라에 AI가 지나치게 중앙화되는 것은 인류 전체에 큰 위험을 초래할 수 있다”고 경고했다. 올트먼은 AI가 자유와 인간의 선택권을 확장하는 방향으로 설계돼야 한다고 강조하면서 이를 위해 AI 접근성, 실제 활용·채택, 이용자 주체성이라는 세 가지 축을 제시했다. 그는 “AI가 소수의 통제 수단이 아니라 다수의 생산성 도구가 되어야 한다”며, 기술의 분산과 개방, 상호운용성을 거듭 강조했다.

노동시장과 실물경제에 대한 질문에는 조심스러운 낙관론을 유지했다. 올트먼은 “AI가 기존 일자리에 분명한 영향을 줄 것이라는 점은 숨길 수 없는 사실”이라고 인정하면서도, 역사적으로 자동화와 기술 혁신이 그랬던 것처럼 “새롭고 더 나은 일자리들이 생겨날 것이라고 나는 여전히 확신한다”고 말했다. 다만 그는 안전과 신뢰를 확보하지 못할 경우, AI가 경제 성장의 동력이 아니라 사회적 불안 요인으로 인식될 수 있다고 경고했다.

고은이 기자 koko@hankyung.com