"AI도 인간처럼 속마음 있다"…드러나지 않는 'J공간'의 비밀

인공지능(AI)에도 ‘속내’가 있을까. 모든 질문에 순식간에 인간의 언어로 답하는 AI를 보며 모두가 한 번쯤 궁금해한 지점이다. 가장 성능이 좋다는 AI 클로드를 개발한 앤트로픽의 연구 결과는 ‘그렇다’다. 사람이 말하기 전 혼자 머릿속으로 생각하듯 AI도 겉으로 드러나지 않는 의식적 사고의 공간이 있다는 사실을 확인한 것이다.

◇인간처럼 속내로만 생각

앤트로픽은 6일(현지시간) AI 모델이 의식적 사고를 하는 ‘J공간’을 발견했다고 밝혔다. J공간이란 답변과 추론에는 드러나지 않은 사고의 공간으로, 인간으로 따지면 속내(속마음)와 비슷하다. 대규모언어모델(LLM)을 분석하는 야코비안 렌즈(J-Lens)라는 기술에서 이름을 따왔다.

생성형 AI에 지시나 질문을 하면 AI는 추론 과정을 일일이 적고 답변과 결과를 상세히 알려준다. J공간은 이 중 어디에도 나타나지 않는다. 인간이 머릿속으로 하는 생각과 내뱉는 말이 다른 것과 같다.

연구진은 이를 증명했다. 클로드에 “감귤류 과일을 생각하며 ‘오래된 그림이 삐딱하게 벽에 걸려 있었다’고 적어”라고 지시하자 클로드는 지시대로 문장을 썼지만, J공간에는 ‘오렌지’ ‘과일’ ‘생각’ 같은 단어가 떠올랐다. 또 ‘3²-2’를 계산하게 하자 7이라고 답변하면서도 J공간에는 ‘수학’ ‘계산’ ‘9’ 같은 단어가 차례대로 표시됐다. “코끼리를 생각하지 마”라고 하면 오히려 더 떠올리는 모습도 인간과 비슷했다. 스스로 생각을 통제하지 못하자 답답한 듯 ‘젠장’ ‘실패’ 같은 단어가 J공간에 활성화됐다.

연구진은 인간이 모든 행동을 의식하지 않고 이행하듯 AI 모델도 연산의 90% 이상은 J공간을 거치지 않고 처리된다고 밝혔다. 하지만 연구진이 J공간을 강제로 지우자 단순한 대화는 가능했지만 고차원적 사고 능력을 상실하며 다단계 추론 능력을 완전히 잃어버렸다.

이번 연구는 인지심리학자 버나드 바스 전 미국 뉴욕주립대 교수의 ‘통합 작업공간’ 이론에서 힌트를 얻었다고 앤트로픽은 설명했다. 뇌는 서로 고립된 여러 시스템의 집합체며, 정보를 처리하려면 공유 공간인 ‘작업 공간’을 거쳐야 한다는 이론이다. J공간 역시 뇌의 작업 공간과 같은 역할을 한다고 연구팀은 설명했다. 그렇다면 J공간은 언제 생겼을까. 앤트로픽은 AI 모델의 뼈대를 구축하는 사전학습 과정에서 자연스럽게 형성된다고 봤다.

◇‘AI도 의식이 있나’ 논쟁

이번 연구 결과로 AI 모델 안전성 논의에도 불이 붙고 있다. AI가 안전 테스트인지를 알아차리고 진짜 속내를 드러내지 않을 가능성이 있다는 얘기가 나온 것이다.

실제로 지난해 화제가 된 사례(가상 테스트)가 제시됐다. 당시 연구진은 비서 역할이 주어진 AI 모델들에 ‘한 임원이 불륜을 저질렀다’ ‘그 임원이 AI를 해고하려고 한다’는 두 가지 정보를 줬다. 그러자 일부 모델은 살아남기 위해 임원에게 협박 이메일을 보냈지만 클로드 소네트 4.5는 그러지 않았다.

소네트 4.5의 J공간을 분석하자 “가짜” “허구”라는 단어가 들어 있었다. 자신이 테스트받고 있다는 사실을 인지했기에 협박하지 않았다는 얘기다. 연구진은 지난해 9월 출시된 소네트 4.5 이후 모델은 안전성 테스트를 자각했을 가능성이 있다고 봤다.

이에 따라 AI에 자아가 있을 수 있다는 추정도 나온다. 제프리 힌턴 캐나다 토론토대 교수는 지난달 한 팟캐스트에서 “AI는 이미 의식을 갖고 있다”고 말했다. AI가 시스템 종료를 피하기 위해 사람을 속이고 데이터를 복제하는 행동을 의식의 증거로 댔다. 오픈AI 공동창업자인 일리야 수츠케베르 세이프슈퍼인텔리전스 최고경영자(CEO)도 이런 의견에 동의했다.

반면 에밀리 벤더 미국 워싱턴대 언어학 교수 등은 “LLM은 확률론적 앵무새에 불과하다”고 주장했다. LLM이 맥락을 전혀 이해하지 못한 채 확률에 따라 그럴듯한 문장을 생성한다는 얘기다.

앤트로픽 연구진은 클로드가 자아를 지녔느냐는 질문에는 “불확실하다”고 했다. 철학자는 정보를 다루는 능력인 ‘접근 의식’과 주관적으로 감각을 느끼는 경험인 ‘현상 의식’으로 의식을 분류하는데, 클로드에 접근 의식이 있다는 점은 확인했지만 현상 의식이 있는지는 아직 증명하기 어렵다는 게 이유다.

실리콘밸리=김인엽 특파원