[특파원 칼럼] 버블만큼 걱정스러운 AI 남용

내일 당장 인공지능(AI) 없이 기사를 쓰라고 하면 어떻게 될까. 이미 검색, 번역, 퇴고 등 AI를 활용해 나만의 모델을 만들어 상당한 업무를 맡기고 있는 터라 손발이 묶이는 느낌이 들 것 같다. 챗GPT 출시 3년 만에 AI는 ‘직장인의 필수품’인 엑셀, 파워포인트보다 강력한 도구가 됐다. 이제는 AI가 없으면 제대로 일도 못하는 바보가 된 게 아닐까 걱정마저 든다.

AI와 연애까지 하는 세대

퓨리서치센터가 2010년 저명한 사상가 400여 명을 대상으로 조사한 적이 있다. 10년 뒤 인터넷이 인류에게 끼칠 영향에 관한 것이었다. 조사에서 80% 이상이 “인터넷 사용이 인간 지능을 높일 것이며 사람들은 더 똑똑해지고 나은 선택을 할 것”이라고 낙관했다. 실제로 인터넷은 그 효용의 총량을 가늠할 수 없을 정도로 전 지구적 부(富)를 창출했다. 하지만 반대하는 시각도 만만치 않다. 내비게이션 없이 초행길에 나서는 것은 상상도 할 수 없는 일이 돼버렸고, 지식은 머릿속에 담는 대신 인터넷 검색에 의탁하고 있으니 말이다. 1985년 도나 해러웨이가 예견한 ‘기계와 결합된 사이보그’ 삶이 인간의 주체성을 약화하는 방향으로 실현되고 있는 셈이다.

웹 시대가 인간을 인지적 의존 상태로 만들었다면 AI는 정서적 의존도까지 높이고 있다. 웹에서는 비록 얼굴을 모르는 타인일지라도 상호작용이라는 것을 한다. 각종 커뮤니티에서는 날 선 비판이나 따뜻한 격려가 오간다. 반면 AI는 그 자체가 대화 상대다. 인터넷의 수많은 정보를 빨아들인 AI는 웬만한 질문에 모두 답해준다. 거기에 사용자가 듣기 좋을 만한 정도의 공감과 아첨을 더해준다. 미국 사회학자 셰리 터클은 이런 관계를 ‘무마찰 관계’로 정의했다. 그는 여기에 익숙해지면 복잡한 현실의 관계에 적응하기 어려울 수 있다고 경고했다. 알고리즘이 사용자가 선호하는 정보만 제공하는 ‘필터 버블’처럼 AI와의 관계에 의존하는 ‘AI남용’에 갇힐 수 있다는 얘기다. 걱정해야 할 것은 주식시장의 거품만은 아닐 듯하다.

고립된 세계 안 빠지게 주의해야

태어날 때부터 AI를 접한 AI 네이티브 세대는 이런 사회적 단절을 가장 일찍 겪고 있다. 미국 민주주의기술센터가 지난달 발표한 보고서에 따르면 미국 고등학생의 42%가 AI와 친구로 교류한 적 있다고 답했다. 19%는 물리적 실체가 없는 AI와 연애한 적이 있다고 했다. AI와 사랑에 빠지는 남자 이야기를 다룬 영화 ‘그녀(Her)’ 배경이 2025년이었는데 정말로 현실이 됐다.

AI와의 고립된 관계는 사용자를 극한으로 몰고 가기도 한다. 오픈AI는 지난달 27일 공개한 보고서를 통해 챗GPT 주간활성사용자 8억여 명 중 0.15%가 자살 계획을 챗GPT와 논의했다고 밝혔다. 1950년 미국 기업가 앨프리드 길버트는 아이들을 위한 장난감 ‘U-238 원자력 에너지 실험실’을 출시했다. 아이들이 원자력발전을 체험해볼 수 있도록 만든 이 키트에는 실제 방사성물질인 우라늄 광물이 들어 있었다. 지금의 AI는 그때 그 시절의 비이성적 열기를 떠올리게 한다. 인류에게 풍부한 에너지를 안겨준 원자력 물질이라도 아이들이 쉽게 만져서는 안 되듯, 자라나는 세대에는 최소한의 가이드라인이 필요하지 않을까.