[AI 세이프가드] ④ 토비 월시 “안전과 혁신은 반대 아니다…AI 운명 결정하는 건 인간”

전자신문은 'AI 세이프가드' 기획의 일환으로 세계적인 인공지능(AI) 석학 토비 월시 호주 뉴사우스웨일스대(UNSW) 교수를 서면 인터뷰했다. 월시 교수는 자율살상무기 규제 운동을 주도해온 대표적 AI 연구자로, 2018년 KAIST의 국방 AI 연구를 둘러싼 국제 학술교류 보이콧을 이끈 인물이기도 하다. 최근에는 신간 'God AI: Boom or Doom?'을 통해 초지능·싱귤래리티·실존적 위험부터 노동시장과 민주적 제도까지 AI가 인간 사회에 던지는 질문을 폭넓게 다뤘다. 월시 교수 인터뷰를 통해 초지능 시대의 위험과 통제, 한국에 필요한 AI 안전 거버넌스의 방향을 짚는다. ◇ 글 싣는 순서 ① 틀린 답 넘어 제멋대로 행동하는 AI로…위험의 공식이 바뀌었다 ② AI도 출시 전 '시험대' 오른다…싱가포르서 본 안전 산업의 최전선 ③ 한국의 AI 안전망은 어디까지 왔나 ④ “인류는 AI를 통제할 수 있는가”…글로벌 석학에게 묻다 ⑤ 안전이 곧 AI 경쟁력…대한민국 '신뢰 생태계' 어떻게 만들까 토비 월시 호주 뉴사우스웨일스대(UNSW) 교수 “안전과 혁신은 반대 개념이 아닙니다. 항공산업은 사람들이 안전하다고 신뢰했기 때문에 성장했습니다. AI 역시 과학·의학·교육과 인간 삶을 개선할 위대한 선의 동력이 될 수 있지만 그 결과는 자동으로 오지 않습니다. 안전성, 테스트, 해석 가능성에 훨씬 더 많은 노력이 필요합니다.” 토비 월시 호주 뉴사우스웨일스대(UNSW) 교수는 AI를 둘러싼 '혁신이냐, 안전이냐'는 이분법적인 구분에 선을 그었다. AI는 과학과 의학의 발전을 앞당기고 교육을 개선하며 인간을 반복 노동에서 해방시킬 잠재력이 있지만 그런 미래가 저절로 찾아오는 것은 아니라는 것이다. 그는 AI 위험을 과장하거나 축소하는 대신 독립적 안전성 검증, 실질적 책임, 인간의 최종 통제권, 강한 공공 제도의 필요성을 강조했다. AI를 '위대한 선의 동력'으로 만들 수 있는 선택권이 인간에게 있다고 보고 강력한 AI를 출시하기 전 독립적인 안전성 검증을 거치고, 사고를 보고하며, 피해 발생 시 실질적인 책임을 묻는 제도를 기술 발전과 함께 구축해야 한다는 것이다. 그가 지난달 출간한 신간 '신과 같은 AI: 번영인가 파국인가? 기계가 인간을 넘어설 때 무엇을 기대해야 하는가(God AI: Boom or Doom? What to Expect When Machines Outsmart Us)'도 같은 질문에서 출발한...