앤스로픽 "AI가 인간 지배할 날 머지 않아"

인공지능(AI)이 인간의 능력을 능가하는 ‘특이점’이 머지않았다는 주장을 앤스로픽이 제기했다. 앤스로픽 연구진은 4일(현지시간) 블로그를 통해 “AI 모델의 능력이 인간을 완전히 뛰어넘어 세상을 지배할 수 있다”며 AI가 스스로를 개선하는 ‘재귀 개선’이 예상보다 빨리 찾아올 가능성을 경고했다. 챗봇에서 코딩 도구, AI에이전트로 단계적으로 발전해온 AI 모델이 지금까지는 인간의 통제 아래 있었지만, 앞으로 스스로를 개발해 인간 지능을 뛰어넘을 수 있다는 것이다.

실제로 AI가 사람의 지시를 받지 않고 독자적으로 작업하는 기간은 늘어나고 있다. 앤스로픽에 따르면 2024년 클로드3 오퍼스는 인간이 4분 걸리는 작업을 혼자 수행했다. 지난해 출시된 클로드 3.7 소네트는 1시간30분, 지난 2월 공개된 클로드4.6 오퍼스는 12시간치 일을 했다. 앤스로픽은 내년이면 인간이 몇 주 걸릴 일을 AI가 혼자 하게 될 것으로 내다봤다.

앤스로픽은 특이점 도달을 포함해 두 개의 미래 시나리오를 더 제시했다. 데이터 투입량에 비례해 AI가 발전하는 ‘스케일링의 법칙’이 한계에 직면하는 AI 발전이 정체되는 미래가 첫번째다. 다른 하나는 AI 모델은 지속적으로 발전하지만 인간이 연구 방향을 결정하는 시나리오다. 후자의 경우 일부 기업이 시민을 감시하고 여론을 조작하는 미래가 펼쳐질 수 있다고 앤스로픽은 지적했다.

정치적 올바름을 회사 기조로 삼고 있는 앤스로픽은 이런 미래를 막기 위해 “기술 개발 속도를 늦춰 파급 효과에 대처할 시간을 가져야 한다”고 주장했다. 이를 위해 냉전 시기 ‘중거리핵전력조약(INF)’과 같은 국제적 AI 군축 조약이 필요하다고도 제언했다.

업계의 시각은 엇갈린다. 앤스로픽 의견에 동조하는 시각도 있지만 AI 개발의 주도권을 쥔 앤스로픽이 시장 장악을 위해 규제로 후발주자를 묶어두려 한다는 비판도 만만찮다. 데이비드 색스 전 백악관 AI·가상자산 차르는 최근 “앤스로픽은 자신을 안전한 AI 기업으로 자리매김하는 동시에 다른 무모한 AI를 막아야한다고 주장함으로써 독점적 지배력을 가지려 한다”고 했다.

실리콘밸리=김인엽 특파원 inside@hankyung.com