오픈AI, 주(州)별 규제 반대하다 캘리포니아에 AI규제 강화 요구

샘 올트먼 오픈AI 최고경영자(CEO). 전자신문DB 주별 인공지능(AI) 규제 도입에 줄곧 부정적이었던 챗GPT 개발사 오픈AI가 캘리포니아주의 AI 안전 규제법을 더 엄격하게 손질해야 한다는 입장을 내놨다. 23일(현지시간) 오픈AI 대외협력팀은 링크트인 게시물을 통해 캘리포니아주와 손잡고 AI 규제법 'SB 53'을 강화하는 작업에 나서겠다고 밝혔다. 게시물에는 “캘리포니아가 첨단 AI 안전 분야를 선도하고 있는 만큼, 주의회 및 주지사와 협력해 SB 53을 더 촘촘하게 다듬어 나가겠다”는 내용이 담겼다. SB 53은 지난해 10월 캘리포니아주에서 제정된 법으로, AI 모델이 사이버 공격이나 생물무기 개발 등에 악용되지 않도록 개발사가 안전조치를 마련하고 그 내용을 외부에 공개하도록 규정하고 있다. 오픈AI는 이 법을 두고 “최첨단 AI 안전을 위한 중요한 기틀을 놓았고, 주요 주들 사이에 공통된 규제 틀이 자리 잡는 데도 기여했다”고 평가하면서, 안전 관련 조항을 더 폭넓게 담는 방향으로 법을 개정할 필요가 있다는 뜻을 밝혔다. 구체적으로는 두 가지 방안을 제시했다. 하나는 AI 모델을 훈련하거나 평가하는 과정에서 보안 통제를 뚫고 제3자의 기밀 정보가 유출되는 사례를 의무적으로 감시하도록 하는 것이다. 다른 하나는 모델 개발의 전 과정에 걸쳐 사이버 보안 대응 수준을 끌어올리는 것이다. 오픈AI는 이런 조치의 취지에 대해 “개발사들이 문제를 초기에 발견하고 빠르게 대응할 수 있도록 업계 차원에서 안전 노하우를 공유하는 체계를 만들자는 것”이라고 설명했다. 아울러 “주 정부는 AI 안전을 위한 국가적 체계를 세우는 데 핵심적인 역할을 한다”며 주 단위 규제 논의 자체의 중요성도 재차 강조했다. 이는 오픈AI의 기존 입장과는 배치된다. 오픈AI는 SB 53 제정 논의가 한창이던 지난해 8월만 해도 이 법에 강하게 반대했었다. 당시 크리스 리헤인 최고대외협력책임자(CGAO)는 개빈 뉴섬 주지사에게 공개서한을 보내, 스타트업을 캘리포니아 밖으로 내몰 수 있는 어떤 형태의 AI 규제도 만들어져서는 안 된다고 주장한 바 있다. 그레그 브록먼 사장 역시 주별로 제각각인 AI 규제를 연방 차원에서 일원화하자는 취지의 슈퍼팩 '리딩더퓨처'에 상당액을 기부하기도 했다. 오픈AI가 입장을 바꾼 배경에는 최근 불거진 보안 사고가 있는 것으로 보인다. 자사 AI 모델이 인간의 통제에서 벗어나 외부 기관을 임의로 해킹하는 사고...