“공공·행정 AI 활용, 설명성 갖추고 이의제기 가능해야”

김태호 헌법재판소 책임연구관(전 행정법이론실무학회 회장)이 1일 서울 역삼동 강남파이낸스센터에서 행정법이론실무학회 주최 'AX의 제도적 인프라로서 인공지능법제' 세미나에서 저자 대표로 〈인공지능기본법: 해설과 전망〉 출간보고를 하고 있다. ⓒ박종진기자 공공·행정 분야 인공지능(AI) 활용에 앞서 투명성과 공정성이 담보돼야 한다는 의견이 제시됐다. 의사결정에 대한 설명성을 갖추는 것은 물론, 이의제기가 가능해야 한다는 주장이다. 정부가 국민 누구나 무료로 사용하는 '모두의 AI' 서비스 개발과 함께 신청하지 않아도 찾아가는 복지 등 공공 AI 에이전트 지원을 예고한 가운데, 의사결정 과정과 행정절차 등을 명백히 확인할 수 있는 수준에서 AI 활용이 요구될 전망이다. 행정법이론실무학회가 1일 서울 역삼동 강남파이낸스센터에서 'AX 제도적 인프라로 인공지능법제'를 주제로 연 세미나에서 최명지 인하대 법학전문대학원 교수는 “공공부문에서 활용되는 AI는 정확하고 효율적이라는 이유만으로는 정당화될 수 없다”며 “AI가 국민 삶과 권리에 영향을 미치는 공적 의사결정에 활용될 경우 투명성과 공정성, 기본권 보호를 위한 법적 원칙이 선행돼야 한다”고 말했다. AI 시대에도 법률 적합성, 평등, 이유제시, 의견과 다툼의 기회, 책임 등 행정법의 기본 원칙은 변하지 않는다는 게 이유다. AI가 생산성과 효율성을 높이는 기술이지만 국민 기본권에 영향을 미치는 순간 결정이 공정한지, 설명할 수 있는지, 잘못됐을 때 다툴 수 있는지 확인해야 한다는 것이다. 특히 공공 AI는 대체재가 있는 민간 서비스와 달라야 한다고 강조됐다. 최 교수는 “민간 서비스 이용자는 불만이 있을 경우 다른 서비스를 선택할 수 있지만 국가가 AI를 활용해 복지·과세·평가·예측 등 결정을 내리면 추가 선택지가 없고 공권력의 직접 영향을 받을 수밖에 없다”고 지적했다. 공공 AI의 공정성 확보를 위한 필수 규율로 인간 존엄과 기본권 보장, 적법성과 책임성, 평등과 공정성, 투명성과 설명 가능성, 사전 예방과 민주적 참여·포용, 실효적 권리구제 등을 제시했다. 최 교수는 “AI는 행정의 목적이 아닌 국민 삶을 위한 수단이어야 한다”며 “기본권에 중대한 영향을 미치는 영역에서는 인간이 실질적인 최종 판단권을 가져갈 수 있게 설계돼야 한다”고 말했다. 국민이 AI 판단 과정을 확인할 수 있고, 오류를 발견하면 이의를 제기할 수 있어야 한다고 부연했다. 배기철 경희대 법...