AI를 가로막는 벽…천재도 막았던 '사회적 병목 현상'[AI 엑스파일]

미국 실리콘밸리 사람들은 IQ에 정말 집착합니다. 모든 것은 똑똑한 사람에게 달려있다고 생각하죠. 똑똑한 사람이 더 많아지면, 그들이 위대한 일들을 해낼 것이라고요. 하지만 경제학적 관점에서 IQ에 반대하는 입장에서 보면 사람들은 똑똑할수록 오히려 성과가 더 나쁘다고 합니다. 더 똑똑할수록 더 못 한다는 거죠. 그들은 자신의 지능을 어떻게 활용해야 할지 모르거나, 우리 사회가 그들을 어떻게 대해야 할지 몰라서 결국 똑똑한 사람은 사회에 적응하지 못한다는 것입니다. 이는 성공을 좌우하는 결정적 요인은 IQ가 아니라 우리 사회에 뭐가 근본적으로 잘못된 것이 있다는 것을 보여줍니다.
(people are really fixated on IQ in Silicon Valley, and that it's all about smart people. And if you have more smart people, they'll do great things. And then the economics anti -IQ argument is that people actually do worse. The smarter they are, the worse they do. And it's just they don't know how to apply it or our society doesn't know what to do with them and they don't fit in. And so that suggests that the gating factor isn't IQ, but something, you know, that's deeply wrong with our society.)
-지난달 26일 유튜브 채널 '로스 다우댓과 함께하는 흥미로운 시간'에 출현한 피터 틸

피터 틸은 누구

미국 실리콘밸리에서 가장 영향력 있는 인물 중 한 명. 글로벌 온라인 결제업체인 페이팔을 공동 창업했다. 독일에서 태어나 어린 시절 여러 나라를 오가다 미국 캘리포니아에 정착했다. 미국 스탠퍼드 대학교에서 철학을 전공하고 같은 학교 로스쿨을 졸업했다.

2002년 페이팔을 이베이에 매각한 틸과 페이팔 초기 멤버들은 테슬라, 유튜브, 링크트인 등 혁신적인 기업을 창업하거나 투자했다. 2003년에는 인공지능(AI) 기반 데이터 분석 기업 팔란티어 테크놀로지스를 설립했다. 페이스북, 스페이스X 등 수많은 유망 스타트업도 초기에 투자했다.

피터 틸이 하고 싶은 얘기는

일부에선 영재가 사회를 혁신한다고 주장하지만, 기존 사회 시스템이 이들을 막을 수 있다는 주장이다. 각종 규제, 관료주의, 위험 회피 문화 등이 뛰어난 인간의 두뇌를 제대로 활용하지 못하도록 막고 있다는 것이다. 초지능이 나타나도 이런 사회·문화적 병목 현상을 해결하지 못하면 혁신은 나오기 어렵다는 해석도 가능하다. 틸은 AI가 이런 처지에 놓여 있다고 주장한다.

유럽연합(EU)의 인공지능법(AI Act)이 대표적이다. 이 법은 AI 서비스의 위험 수준에 따라 차등 규제하는 것이 골자다. 에어버스, ASML 등 유럽 주요 기업이 지난 3일 EU에 AI 규제법 시행을 연기해달라고 요구하기도 했다. 이들 기업은 "EU 규제는 불분명하고 중복적이며 갈수록 복잡해진다"라며 "유럽 챔피언 기업의 발전뿐 아니라 글로벌 경쟁에서 필요한 규모의 AI 전개 능력을 위험에 빠뜨린다"고 주장했다.

AI가 규제에 발목이 잡히는 건 다양한 이유에서다. 우선 되돌릴 수 없는 대규모 피해가 발생할 수 있다는 우려. 해킹 가능성 등을 0%에 가깝게 만들려고 한다면 규제는 사전 허가로 작동하기 쉽다. AI 기업은 해당 지침이 마련되기 전까지 서비스 출시와 투자를 하지 않을 것이다. 유럽 AI 규제법에 일부 담긴 규제다.

AI를 검증하기 어렵다는 일명 '블랙박스' 문제. 정부 담당자는 AI 모델의 로직과 데이터를 검증하기 어렵기 때문에 AI 기업에 과도하게 관련 증빙을 요구할 수 있다. 해당 평가 기준이나 지표도 정하기 어렵다. 규제기관과 AI 기업 모두 평가 비용이 증가하기 쉽다. 승인 기간도 짧지는 않을 것이다. 해당 지표가 없는 미국 국립표준기술연구소(NIST)의 'NIST AI RMF'(AI 위험관리 프레임워크)가 본격 시행되면 관련 논란이 커질 수 있다는 지적이 있다.

AI가 인간을 대체할 것이라는 우려. 특정 직종을 AI가 대체하면 해당 직역 집단은 즉각 피해를 주장할 수 있다. 이는 정치적인 문제로 전환되기 쉽다. AI를 통한 혁신의 속도는 떨어진다. 지난해 BMW 등이 미국 공장에서 휴머노이드 로봇 투입을 추진하자 노조가 일자리와 안전을 위협한다고 문제를 제기했다.

AI의 학습에 필수인 데이터·저작권 논란도 있다. 최근 국내외 언론사들이 앞다퉈 AI 기업이 무단으로 자사의 데이터를 AI 학습에 사용했다며 문제를 제기했다. 각종 소송과 관련 입법 공백으로 병목 현상이 생길 수 있다. 결국 AI 기업이 어느 정도는 데이터를 구입해야 할 것이다. 관련 비용은 AI 기업에 부담이 될 수 있다.

초지능을 막는 병목 현상이 불가피하다는 주장도 있다. '규제는 신뢰 기반을 만들어 시장 전체를 키운다'. 가장 대표적인 근거다. 규제 준수는 초기엔 비용으로 보인다. 하지만 장기적으로는 소비자가 거부감 없이 이용할 수 있도록 하면서 시장의 저변을 확장할 수 있다. 기존에도 규제는 위험·책임 범위를 명확히 해 ‘불확실성 리스크 프리미엄’을 줄이는 경우도 많았다.

'적절한 발목잡기'가 없어 역효과가 나타난 경우도 있다. 규제가 부족해 생긴 문제가 오히려 사회적으로 반작용을 낳아 혁신 지연과 비용 폭등으로 이어진 사례다. 자율주행차가 그랬다. 초기에 관련 규정이 없는 상황에서 미국 일부 지역에선 조기 상용화됐다. 하지만 잦은 사고로 운행이 중단됐다. 해당 지역 사회의 반발로 ‘정책 모라토리엄’까지 발생하기도 했다.

[AI 엑스파일은 글로벌 AI 산업, 학계 등의 최전선에서 AI를 고민하는 이들의 얘기를 전달합니다. 색다른 AI 이슈를 편하게 보시려면 기자 페이지를 구독해 주세요]

김주완 기자 kjwan@hankyung.com