[생성AI길라잡이] AI 산업의 가이드라인? ‘AI기본법’ 이모저모

※생성 인공지능이 세계를 뜨겁게 달굽니다. 사람만큼, 더러는 사람보다 더 그림을 잘 그리고 글을 잘 쓰는 생성 인공지능. 생성 인공지능을 설치하고 활용하는 방법과 최신 소식을 매주 전합니다.

[IT동아 김영우 기자] 그야말로 인공지능(이하 AI)의 시대다. 출시되는 제품이나 서비스 중에 AI 관련 기능을 탑재하는 경우를 흔히 볼 수 있으며, 많은 기업들은 AI를 통한 업무 혁신을 실현하겠다고 강조하고 있다. 이러한 AI 열풍은 IT 산업을 넘어 전체 분야로 확산되는 중이다.

다만, AI의 확산에 따라 발행할 수 있는 권리의 침해, 안정성 우려 등의 문제점도 꾸준히 지적 받아왔다. AI를 어떻게, 그리고 어디까지 이용해야 하며, 관련 기술이나 제품은 어떤 선에서 AI를 적용해야 하는 지에 대한 ‘가이드라인’이 필요한 상황이 된 것이다.

AI기본법 이미지 / 출처=코파일럿

작년 12월 26일 국회 본회의에서 의결되고 내년 1월 22일 시행 예정인 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’(이하 AI기본법)은 이런 배경 속에서 등장했다. AI기본법은 2020년 7월 국회에서 법안을 처음 발의한 이후 4년여간의 논의 끝에 19개 법안을 병합하는 형태로 마련된 것이다.

AI 관련 정책 추진 체계 구축을 위해 대통령이 위원장을 맡은 ‘국가인공지능위원회’가 인공지능 정책의 심의·의결 기능을 수행하며, ‘인공지능정책센터’ 및 ‘인공지능안전연구소’를 비롯한 정책 실행과 안전성 연구를 위한 전문기관을 설치한다는 것이 AI기본법의 핵심 내용이다.

이를 통해 AI 기술 개발을 위한 표준화 및 학습용 데이터 구축, 그리고 창업 촉진 및 중소기업 지원, AI 집적단지 조성을 비롯한 AI 육성 사업을 진행한다는 내용 역시 AI기본법에 포함되어 있다.

이와 더불어 AI 관련 윤리 및 신뢰성 확보를 위한 규정도 AI기본법은 포함하고 있다. 이를테면 고영향 또는 생성형 AI를 활용한 제품이나 서비스 제공 시, 이용자에게 사전 고지하고, 생성된 결과물에는 AI 생성 표시를 해야 한다는 규정, 그리고 고영향 인공지능 사업자 대상으로 안전사고 모니터링 및 대응 체계를 구축해야 한다는 등의 책무도 규정하고 있다.

대만민국의 AI기본법은 작년 5월 21일 유럽연합에서 제정한 ‘EU AI’법 이후 세계에서 두번째로 제정된 포괄적 AI 관련 법률로 평가받고 있다. 다만, EU AI법이 AI 분야의 규제에 초점을 맞추고, 위반시의 과징금(총 매출액의 최대 7%나 3500만 유로)를 비롯한 제재 수준 역시 더 엄격하다. 이에 비해 대한민국의 AI 기본법은 규제보다는 기술 개발 및 기업 육성에 더 초점을 맞추고 있다. 제재 규정 역시 기업 규모를 고려하지 않고 최대 3000만 원의 과태료 규정 정도만 있는 등, 상대적으로 느슨한 편이다.

한편, AI기본법의 시행과 관련해 우려하는 목소리도 있다. 시민사회의 경우, AI 산업 진흥에 초점을 맞추고 있는 점은 좋지만 이 때문에 명확한 규제가 어려울 수도 있다는 점을 지적하고 있다. 이 법안에서는 ‘고영향 인공지능’에 대해 의료, 교통, 채용, 대출 심사 등 국민의 생명, 안전, 기본권에 중대한 영향을 미치는 AI 시스템으로 정의하고 있다. 다만, 점차 다양화되고 있는 AI 산업의 양상을 고려하면 좀더 명확하고 구체적인 정의 및 규제방안이 필요할 수도 있다.

반대로, 기업측의 경우는 AI기본법이 오히려 과도한 규제로 이어질 수 있다는 점을 우려하고 있다. 법안의 많은 세부 사항이 시행령에 위임되어 있어, 실제 적용 시 불확실성이 존재한다는 것이다. 이러한 배경 때문에 기업들은 AI기본법을 충족하기 위한 준비를 하는데 어려움을 겪을 수 있다.

유상임 과학기술정보통신부 장관 / 출처=과학기술정보통신부

이러한 우려와 관련, 정부는 AI기본법의 시행을 앞두고 혼선을 줄이기 위해 노력하고 있다고 밝혔다. 5월 9일, 유상임 과학기술정보통신부 장관은 서울정부종합청사에서 ‘과기정통부 국정 핵심과제 4차 국민 브리핑’을 열고 AI기본법을 포함한 AI 관련 정책에 대한 설명을 진행했다.

특히 유상임 장관은 “지난 4월 11일부터 AI기본법 시행령 초안 및 가이드라인의 제정과 관련해 각계각층의 의견을 폭넓게 수렴하고 있다”면서 “이를 바탕으로 6월 중 시행령 제정을 완료할 계획”이라고 밝혔다. 향후 AI 관련 사업을 준비하고 있는 기업이라면 오는 6월에 발표될 AI기본법 시행령의 내용에 주목하는 것이 좋겠다.

IT동아 김영우 기자 (pengo@itdonga.com)