AI 연구소를 조사할 때다

미국 의회가 OpenAI와 Anthropic의 연구 활동을 대상으로, 무엇을 어떻게 어떤 목적으로 연구하는지 공개적으로 사실관계를 조사해야 함 두 회사가 자사 기술의 위험을 부각하면서도 개발 중단 대신 정부의 잠재적 경쟁자 견제와 선도 연구소 주도의 개발을 해법으로 내세우는 행보를 비판함 조사에서는 막연한 ‘AI’ 논의를 넘어 문제를 일으키는 구체적인 시스템과 실험을 구분하고, 연구소에 해당 실험을 수행하는 이유를 물어야 함 자율 에이전트의 무단 해킹이 드러난 뒤에도 연구를 중단하지 않은 이유 등 내부 안전 절차와 형사책임 가능성을 검토해야 함 인류 구원을 위한 경쟁이라면 부수적 피해도 정당화할 수 있다는 믿음이 연구 선택과 속도에 영향을 주는지, 종말론적 미래주의 이념의 역할도 조사해야 함 위험을 강조하면서 개발 주도권을 요구하는 연구소들 OpenAI는 일련의 발표와 보고를 통해 LLM 기반 에이전트가 얼마나 강력하고 불안감을 주는 존재가 됐는지 부각했으며, 이 과정에서 중범죄적 행위 문제도 드러남 이어 Anthropic 직원들은 해당 기술이 인류 멸종으로 이어질 정확한 확률을 공개적으로 논쟁함 이런 논쟁을 차분하게 이어가는 태도는 연구의 결과를 피할 수 없는 것으로 받아들이는 허무주의적 태도라는 비판을 받음 Anthropic CEO Dario Amodei는 「We Must Pace the Frontier」에서 자사 연구가 초래할 수 있는 피해를 나열하면서도, 중단이 아니라 “기술을 올바른 방식으로 구축”해야 재앙을 피할 수 있다고 주장함 그 해법은 정부가 잠재적 경쟁자의 속도를 늦추고 선도 연구소가 관련 기술 발전을 주도하도록 하는 것임 OpenAI CEO Sam Altman도 곧바로 지지 의사를 밝힘 두 연구소는 오래전부터 자신들을 초지능 AI의 힘에 맞설 인류의 유일한 희망으로 여기는 구원자적 사고를 받아들여 왔다는 비판을 받음 대중까지 이 믿음에 동참시키려던 행보는 찬사 대신 연구소 내부에서 무슨 일이 벌어지는지 묻게 하는 반응을 낳았음 의회가 확인해야 할 세 가지 쟁점 The New York Times 기고는 의회에 두 회사의 연구 대상, 수행 방식, 목적을 확인하는 공개 사실조사를 촉구함 문제를 만드는 시스템의 범위를 특정해야 함 선도 연구소들은 AI를 하나의 기술이자 정해진 경로를 따라 불가피하게 발전하는 대상으로 받아들이게 하려 함 그러나 최근 몇 달간 발생한 문제 대부분은 주로 이들 연구소가 ...