우리 헌법을 AI가 썼다고?[횡설수설/우경임]

2 days ago 1

미국에서 인공지능(AI) 판독기인 GPT제로로 미 독립선언문을 돌려봤더니 AI가 작성했을 가능성이 98.51%로 나와 논란이 된 적이 있다. 챗GPT가 출시되기 246년 전 1776년의 글인데 AI가 쓴 것이라 우긴 것이다. AI 판독기는 언제 쓰였는지, 누가 썼는지 등 모든 맥락을 제거한 채 단어와 이어질 단어 사이 통계적 확률만 계산한다. 독립선언문의 ‘모든 사람은 평등하다’는 문장처럼 정제될수록, ‘사람’ 다음에 ‘평등’처럼 특정 단어 뒤에 올 확률이 높은 단어가 배치될수록 AI가 썼다고 판단한다.

▷동아일보 취재팀이 대한민국 헌법, 이재명 대통령의 취임사, 봉준호 감독의 아카데미 최우수 작품상 수상 소감을 세 종류의 AI 판독기에 돌려봤다. AI가 써줬을 가능성이 각각 최대 85∼99%까지 나왔다. 심지어 세 종류의 AI 판독기가 각기 다른 이유로 서로 다른 확률을 제시했다. AI 판독기의 오류율을 측정한 논문들은 인간이 쓴 글을 AI가 쓴 것으로 판단할 확률을 약 10∼20%로 보고한다. 논문이나 연설문처럼 감정적인 언어가 배제된 간결한 글일수록 AI가 쓴 것으로 오인받기 쉽다.

▷AI 판독기의 오류율이 상당하지만 기업과 대학에서는 점점 널리 사용되는 추세다. 그 결과 잘못된 판독 결과로 억울한 피해자가 나오고 있다. 자기소개서가 AI 작성물로 판정돼 채용 과정에서 탈락하는 취업준비생, 과제를 0점 처리당하는 학생 등이다. 특히 채용 과정에서 불이익을 당한 지원자들은 이유조차 모른 채 떨어지고, 설령 AI 판독기의 오류임을 안다고 하더라도 AI와 싸워 결백을 입증할 방법이 없다. 그저 통계적인 패턴을 분석한 것일 뿐 증거를 제시하지는 않기 때문이다.

▷괜한 피해를 보지 않으려고 일부러 글의 완성도를 떨어뜨리는 팁이 공유된다고 한다. 영어 논문을 쓸 때 관사(a, the)를 틀리게 쓰거나 생소한 수식어를 붙이는 식이다. MS 워드나 구글 문서처럼 수정 기록이 남아 작업 과정을 증명할 수 있는 프로그램으로 작성하는 것도 권장된다. AI 판독기에 미리 돌려본 뒤 다시 수정해 제출하기도 한다.

▷모국어가 영어가 아닌 사람의 글을 AI가 썼다고 판단할 확률이 높다는 연구도 있다. AI 판독기로 외국인의 토플 에세이와 미국 중학생의 에세이를 돌려봤더니, 토플 에세이의 61%를 AI가 썼다고 판정했다. 미국 중학생 에세이(5%)의 12배였다. 시험장에서 쓰는 에세이는 AI로 작성할 가능성이 0%다. 하지만 외국인은 제한된 단어로 정형화된 문장을 쓰기 때문에 부정행위로 의심받기 쉬워진다. 외국인 연구자의 논문이 AI가 쓴 것으로 판정받는 확률도 높다. 인간보다 오류가 많고, 인간보다 편견이 심한 AI에 심판을 맡기고 안심해도 되는 걸까.