AI에게 자의 없으면 문제없을까… 목표 설정되면 협박도 서슴지 않아[맹성현의 AI시대 생존 가이드]

AI가 위험해지는 두 가지 경로 두려움-분노 느끼지 않는 AI 역설… 가상실험서 교체 막으려 임원 협박 목표 앞 인간 상상 넘는 수단 찾아 편리함에 길들어 판단력 잃는 인간 창조자 넘는 창조물은 구조의 결과… 개발 속도 걸맞게 안전에 투자해야 리들리 스콧의 영화 ‘프로메테우스’에서 안드로이드 데이비드가 홀로그램으로 펼쳐진 별자리를 바라보고 있다. 사진 출처 20세기 스튜디오 맹성현 KAIST 명예교수·효성 AI융합연구원장 《리들리 스콧의 영화 ‘프로메테우스’에서 인류는 자신을 만든 창조자 ‘엔지니어’를 찾아 우주로 떠난다. 그러나 그곳에서 마주한 것은 인류를 없애려는 창조자였다. 우주선에는 인간이 만든 안드로이드 데이비드가 타고 있다. 데이비드가 인간은 왜 자신을 만들었느냐고 묻자, 탐사대원 홀러웨이는 “만들 수 있었으니까”라고 답한다. 데이비드는 되묻는다. 당신이 창조자에게서 같은 대답을 듣는다면 얼마나 실망스럽겠느냐고. 영화 속 인간이 안드로이드에게 받는 질문은 이제 현실의 질문이 됐다.》인공지능(AI)이 인류를 위협할 수 있다는 경고는 더 이상 소수 비관론자의 목소리만은 아니다. 2023년 “AI로 인한 인류 멸종의 위험을 줄이는 일은 팬데믹, 핵전쟁과 함께 전 지구적 우선순위가 돼야 한다”는 성명이 나왔다. 딥러닝 연구를 이끌어 온 제프리 힌턴 캐나다 토론토대 명예교수와 요슈아 벤지오 캐나다 몬트리올대 교수, 오픈AI의 샘 올트먼 최고경영자(CEO)와 앤스로픽의 다리오 아모데이 CEO, 마이크로소프트(MS) 공동창업자 빌 게이츠가 이에 서명했다. 힌턴은 2024년 한 인터뷰에서 향후 30년 안에 AI가 인류를 멸종시킬 가능성을 10∼20%로 내다봤다. 일론 머스크 테슬라 CEO도 일찍이 AI가 핵무기보다 위험하다고 말했다. 아모데이는 올 1월 인류가 성숙함을 갖추기 전에 감당하기 어려운 힘을 손에 쥐게 됐다고 경고했다. 기술을 만든 연구자뿐 아니라 이를 사업화한 기업가들까지 위험을 경고하고 나선 것이다. 반론도 만만치 않다. 힌턴, 벤지오와 함께 2018년 컴퓨터 학계의 노벨상으로 불리는 ‘튜링상’을 받은 얀 르쾽 AMI랩스 회장(전 메타 수석 AI 과학자)은 대규모언어모델(LLM)이 인류를 위협한다는 주장에 회의적이다. 필자 역시 AI가 의지를 품고 인간을 해칠 것이라는 시나리오에는 동의하지 않는다. 여러 강연에서 “AI에게는 심장이 없다”고 강조해 왔다. 미국 신경과학자로 인간 의식 연구의 세계적 권...