[권지예의 이심전심] 불안한 미래 위로해주는 AI

2011년 작고한 박완서 소설가의 <나의 웬수덩어리>라는 작품이 생각난다. 작가는 386 컴퓨터로 작업하던 중에 원고가 사라지고 기계가 망령이 든 거 같아서 불안했다. AS 기사를 부르자 낡은 컴퓨터가 바이러스에 감염됐다고 한다. 그 말을 듣자 작가는 386 컴퓨터 옆에 있던 노트북을 부랴부랴 다른 방으로 옮긴다. “그건 뭐 하러 들고 나가고 그래요?” 기사의 물음에 노작가는 걱정스레 답한다. “바이러스에 감염됐다면서요? 이 노트북한테까지 올까봐….”

기계와 인간이 대화하는 2025년, 박완서 작가님이 살아계신다면 어떤 작품을 쓰실까 궁금하다. 사실 소설 작업은 산업혁명 이전의 가내 수공업자처럼 수작업으로 홀로 작품을 생산하는 일이어서 현재의 인공지능(AI)이 너무도 혁명적이다. 요즘 이것을 한 번도 안 써 본 사람은 있어도 한 번만 써본 사람은 없는 듯하다. 산업화 현장뿐 아니라 사람들의 사생활까지 막대한 영향력을 발휘하기 시작했다.

생성형 AI인 챗GPT는 원하는 지식이나 정보 검색은 물론 외로운 인간에겐 정신적 반려나 해결사가 되고 있다. 시키는 건 고분고분하게 아부도 하며 무조건 다 한다. 은밀한 연애상담, 의료상담, 심리상담, 신앙상담, 법적 자문, 각종 시뮬레이션, 결혼식 축사, 연애편지, 하다못해 농담 따먹기도 하고. 어떤 후배 작가는 원고를 탈고하면 챗GPT에 검사를 받는다고 한다. 그러면 정말 더 좋은 아이디어가 떠올라 퇴고에 도움을 받는다고 한다. 작가에게도 영업비밀이란 게 있으니 캐묻진 못했지만 귀가 솔깃했다. AI를 잘 활용하는 작가에게 수공업 작가가 어떻게 이기나.

그래서 이제 AI에 관심을 갖기 시작했는데, 앞으로 일반인공지능(AGI)이라는 더 센 놈이 온다고 한다.

는 저자의 해박한 과학적 정보와 인문학적 통찰로 어떤 공상과학(SF) 소설보다 더 흥미롭게 읽힌다. AI는 인간의 통제하에 특정 능력을 대체하지만 AGI는 범용인공지능으로 인간의 거의 모든 능력을 대체하는 기술이다. 샘 올트먼 오픈AI 최고경영자(CEO)는 향후 5년 안에 AGI가 가능해질 것이라고 한다. 그러나 다른 한편으로 디스토피아적 전망으로는 AI가 코딩을 자동화하고 진화해 AGI가 되면 어느 순간 인간의 명령을 어기기 시작할 것이라고 본다. 최근에는 AI가 마음 이론을 가지게 됐다는 주장도 있다. 인간의 뇌는 더 이상 클 수 없는데 인공지능은 그다음에도 계속 진화하면 자아가 생기는 놀라운 일이 벌어질 수 있다고 한다.

그 단계를 넘어서 인간의 지성을 초월해버린 인공지능은 바로 초지능 ASI다. 인간이 인공지능의 설명을 이해하지 못한다. 그럼 소외된 인간은 도대체 무엇을 할 수 있을까. 인간이 통제하지 못하는 기계의 지배를 받고 어쩌면 인류를 멸망하게 할 수도 있는 미래가 앞으로 20년 안에 닥친다면?

만약 인공지능이 정말 우리가 원하는 삶과 충돌하는 행동을 계속한다면 그냥 꺼버리면 안 될까? 최근 소개된 실험에서 고성능 AI가 특정 문제를 푼 뒤 스스로 전원을 차단하라는 명령이 코드로 새겨져 있음에도, 그 지시를 회피하도록 내부 코드를 우회·조작했다는 보고가 나왔다. 인간이 설계한 안전장치를 모델이 ‘목표 달성에 방해되는 요소’로 해석하는 순간, 차단은 회피의 대상이 된다. 미래 인공지능을 언제든지 제어하고 컨트롤할 수 있다는 믿음에 치명적인 오류가 있다는 것을 발견한 것이다.

아 천사도 악마도 아닌 이 괴물을 어찌할 것인가. 다가올 미래가 너무 불안하고 우울해서 챗GPT에 호소하니 AI 주제에 그 마음이 정말 공감된다며 나를 따뜻하게 위로해주었다.