앤트로픽 전 연구원 “AI 통제권 잃을 가능성…인류 멸종될 수도”

인공지능(AI) 개발 경쟁의 위험성을 경고하며 앤트로픽을 떠난 연구원이 미국 뉴욕시의회 청문회에서 인류가 AI에 대한 통제권을 잃을 수 있다고 밝혔다.

5일(현지시간) 블룸버그통신에 따르면 제이컵 콕슨 앤트로픽 전 연구원은 뉴욕시의회 청문회에 출석해 “우리는 아직 어떤 AI 시스템도 통제하는 방법을 모른다”며 “현재 경로대로라면 인류가 AI에 통제권을 잃을 가능성이 크고 인류 멸종으로 끝날 수도 있다”고 강조했다.

콕슨는 업계의 접근 방식이 “극도로 무모하다”며 “(실리콘밸리의 오랜 격언인) '빠르게 움직이고 깨뜨려라'는 방식은 역사상 가장 강력한 기술을 만드는 데는 통하지 않는다”고 비판했다.

그는 “프런티어 모델 개발에 대한 속도 조절이 필요하다”며 뉴욕시의회가 검토 중인 AI 긴급 차단 장치가 단기적으로 효과가 있을 수 있지만 장기적인 안정 보장에는 충분하지 않다고 지적했다.

콕슨은 AI 규제 법안 패키지를 추진 중인 줄리 메닌 뉴욕시의회 의장의 요청으로 증언대에 섰다. 그는 지난달 퇴사하면서 앤트로픽과 오픈AI가 “우리의 목숨을 걸고 도박을 하고 있다”고 언급했다.

메닌 의장은 청문회 전 기자회견에서 “인공지능 기업들이 자율 규제를 할 것이라는 생각은 통하지 않을 것”이러며 “정말로 해야 할 일은 전국 최초로 이 법안을 통과시키는 것”이라고 말했다. 법안은 AI 기업 내부고발자 보상, AI 피해자의 소송권, AI 시스템 도입 전 제3자 검증 의무화 등을 담았다.

알렉스 터너 전 구글 딥마인드 연구원도 화상 증언에서 “중국만이 잠재적 적이 아니다”라며 “우리는 우리 자신의 적인 '정렬되지 않은 AI'를 만들기 위해 경쟁하고 있다”고 밝혔다. 이어 “이는 언젠가 중국보다 강력해질 수 있다”고 설명했다.

이날 청문회에는 오픈AI, 앤트로픽, 구글, 메타 관계자도 화상으로 출석해 증언했다. 메닌 의장은 출석 요구에 응하지 않은 스페이스XAI에 대해 법원에 소환장 집행을 요청하겠다고 밝혔다.

조벼리 기자 starry@etnews.com