민간 차원 AI기본법 개정방향 나왔다…“개념 구체화·의무 합리화”

학계와 기업 등이 민간 차원에서 인공지능(AI)기본법 개정 방향을 제시했다. 현재 법상 AI 등 개념을 보다 구체화하고 고영향·투명성 등 각종 의무는 합리화하는 방향으로 개선이 필요하다는 의견이다.

한국인공지능법학회는 16일 서울 강남에서 'AI 에이전트 시대의 AI기본법'을 주제로 상반기 학술대회를 개최하고 이같은 내용을 발표했다. 학계·법조계·공공·기업 등 50여명이 참여한 학회 산하 AI기본법 개정연구회의 연구결과를 공유한 것이다. <본지 3월 11일자 3면 참조>

개정연구회는 개념 일원화와 구체화를 제안했다. 현재 법상 AI를 의인화해 정의, 최신 기술 발전 방향이나 지향점과 맞지 않다는 점에서 수정 필요성을 제기했다. 또 AI 정의를 삭제하고 법상 AI시스템 정의로 통일, 법상 혼재된 AI체계도 AI시스템으로 일원화하는 대안도 내놨다.

고영향 AI의 경우 추상적 대상을 규제하는 경향이 있는 만큼 권익 영향과 안전 영향으로 구분해 명확화하는 방안이 나왔다. 법상 생성형 AI 정의 필요성을 검토하고 AI 사업자, 이용사업자, 이용자, 영향 받는 자 등 혼용된 개념도 혼선이 없도록 분명히 할 것도 주문했다.

범정부 거버넌스와 관련해서는 전문성과 독립성을 최대한 보장하는 방향으로 개정 필요성이 제기됐다. 국가 AI 정책 중요성을 고려, 대통령실 직속 국가AI위원회로 운영하되 학회·산업계 추천을 고려해 위원을 선임하고 국가안보·공공이익을 헤치지 않는 선에서 투명한 운영을 위한 조항 마련을 요청했다.

AI 투명성과 권익·안전 등 규제를 합리화해야 한다는 의견도 나왔다. AI 발전 속도가 여느 기술과 비교해도 빠르고 국제표준도 마련 중인 만큼 가변성을 고려해 유연한 규제 운영이 필요하다는 취지다.

박상철 서울대 법학전문대학원 교수는 “기술 발전에 따라 스케일링 법칙은 깨지고 데이터의 양과 질뿐 아니라 추론, AI 에이전트 등이 중요 요소로 떠올랐다”며 “탄력적이고 다양한 기준으로 범용 AI시스템을 결정하고 규제할 수 있게 위임하는 게 맞다”고 강조했다. 또 기업용 AI 서비스 이용자와 같이 실행자는 의무 주체에서 제외하는 것도 검토해야 한다고 덧붙였다.

또 업계가 우려하는 사실조사에 대해서는 일시적인 유예를 제안했다. 신고나 민원만으로도 행정상 강제조사가 가능하다는 점에서 업계 우려는 인정되나 행정법상 법 위반 여부를 확인하기 위한 행정권한인 만큼 조사 필요성은 인정됐다. 다만 글로벌 경쟁이 한창인 상황에서 기업의 운신을 좁힐 수 있다는 점에서 한시적으로 유예가 필요하다고 판단했다.

AI산업 진흥을 위한 규제특례 신설도 주문했다. 과학기술정보통신부의 'ICT 규제샌드박스'를 AI 특화 형태로 발전시키자는 취지다. AI 제품·서비스의 조속한 시장 출시를 위한 규제특례를 법상 신설, 안전성·신뢰성·투명성 등에 관한 실증을 장려하거나 규제 영향을 최소화해 고영향 AI 개발·고도화 등을 가속화할 수 있을 것이라는 아이디어다.

인공지능법학회는 이날 공개한 연구결과를 바탕으로 기업과 소비자단체를 포함한 대내외 의견수렴을 거쳐 8~9월 중에 국회와 정부 등에 AI기본법 개정과 개정안을 건의할 계획이다.

최경진 한국인공지능법학회장(가천대 교수)은 “AI를 활용한 혁신은 물론, 안전·신뢰가 공존해야 AI 시대 지속가능성을 보장할 수 있다”며 “AI기본법은 혁신·안전·신뢰의 근간이자 안정적인 산업 발전을 위한 든든한 버팀목이 돼야 한다는 점에서 합리성과 예측 가능성을 확보하는 게 중요하다”고 말했다.

박종진 기자 truth@etnews.com