[시론] AI 로봇이 사고 내면 누가 책임질까

인공지능(AI)이 데이터 분석과 텍스트 생성을 넘어 물리적 환경에서 상호작용하고 직접 행동하는 ‘피지컬 AI’ 시대가 본격화할 것이라고 한다. 피지컬 AI 기술을 적용한 휴머노이드 로봇이 산업 현장에 투입되는 것은 물론이고 우리 일상에서 다양한 용도로 사용된다는 것이다. 우리나라에서는 아직 자율주행 차량 운행이 제한적이지만, 미국과 중국에서는 무인 자율주행 택시를 상용화한 곳도 있다. 머지않은 미래에 가사 노동과 육아, 환자와 노인 돌봄이 AI 로봇의 몫이 될 것이라는 기사는 내심 반갑기도 하다.

그런데 자율성을 가지는 AI 로봇이 예상하지 못한 행동을 해서 큰 피해가 발생했다면 누가, 어디까지 책임을 져야 할까? 자율주행 차량이 운행 중 큰 사고를 내서 대규모 인명피해가 발생했다면? 아이를 돌보는 로봇이 손주를 보러 온 할머니의 행동을 공격으로 인식해서 위해를 가한다면? 환자를 돌보는 로봇이 자신의 처지를 비관한 환자의 자살을 방조하는 역할을 했다면?

우리가 AI 기술에 가지는 두려움은 AI가 지닌 자율성과 적응력이 높아지면 그 출력값을 통제할 수 없다는 데 있다. 특히 피지컬 AI는 현실 세계와 상호작용하며 직접 물리적인 행동을 하기 때문에 다양한 이해관계가 개입할 수 있고, 책임 범위와 규모 또한 크게 확장될 가능성도 있다. 이런 책임을 어떻게 분배할 것인지에 관해 사회적인 논의가 필요한 시점이다.

예를 들어 자율주행 차량을 타다 사고가 났다면, 그 사고가 왜 일어났는지 먼저 살펴봐야 한다. 자율주행 기능보다 이용자의 과실 때문이었다면 이용자가, 차량 제공자가 안전성 테스트 등 주의 의무를 이행하지 않아 사고가 발생했다면 운영자가 책임지는 것이 자연스럽다. 그런데 이용자와 운영자가 합리적인 주의를 기울였음에도 차량이 예상하지 않은 방식으로 작동해 많은 인명 피해를 냈다면, 그로 인한 모든 책임을 지게 하는 것은 가혹할 수 있다.

그렇다면 위험한 물건을 공급한 자율주행 차량이나 AI 로봇을 만든 회사에 책임을 묻는 것은 어떨까. 현행 법률에 따르면 결함이 있는 제조물을 공급한 제조업자는 제조물책임을 질 수 있다. 그런데 AI 로봇이 자율성에 기초해 한 행위를 결함이라고 할 수 있는지, 다른 방식으로 설계했다면 사고를 막을 수 있었을지 등에 의문이 든다. 제조업자에게 무거운 책임을 지우면 안전한 로봇을 개발할 유인을 제공하는 측면도 있겠지만, 자칫 개발 자체를 포기해버릴 수도 있다. 이와 관련해 AI 로봇이 스스로 자기가 야기한 손해를 책임지도록 하자는 논의도 있었다. 법인처럼 등록을 받아 관리하고, 일정한 재산을 부여하거나 보험을 들게 하자는 것이다. 그런데 이는 궁극적인 책임 주체가 누구인지, 이렇게 책임을 제한하면 피해자 보호는 어떻게 할 것인지 등의 문제를 남긴다.

이처럼 AI의 행위에 법적 책임을 분배하는 문제는 정책적인 고려가 우선돼야 한다. 상용화 속도가 빠른 분야부터 혹은 위험성이 큰 분야부터 그 효용이나 위험성 등에 비춰 누구에게 어떤 책임을 인정하는 것이 합리적인지 충분한 논의가 필요하다. 그 과정에서 위험을 줄이는 방안을 고민하거나, 위험성이 너무 큰 특정 기술을 사용하지 않기로 합의할 수도 있고, 위험성이 있지만 사회적 효용이 매우 크다면 그 책임을 여러 주체나 사회 전반에 분산하는 방안을 고안할 수도 있다. AI가 무조건 ‘멋진 신세계’를 선사하지는 않을 것이다. 우리에게 유익한 방향으로 기술을 발전시키기 위해서는 기술 분야만이 아니라 사회 전반적인 노력이 함께 있어야 한다.