"생성형AI 산출물 '워터마크' 표시"⋯정부, AI기본법 하위법령 초안 공개

1 month ago 13

서효빈 기자 입력 2025.09.17 17:35

과기정통부, 시행령·고시·가이드라인 초안 마련…투명성·안전성 확보와 산업 진흥 균형 추구

[아이뉴스24 서효빈 기자] 내년부터 시행되는 AI 기본법은 생성형 AI와 고영향 AI가 만들어낸 산출물에 반드시 '워터마크'를 표시하도록 규정했다. AI 기본법 위반 시 부과되는 최대 3000만원의 과태료 규정은 최소 1년 이상 유예될 전망이다.

김경만 과학기술정보통신부 인공지능기반정책관이 17일 서울 중구 상연재 별관에서 설명회를 열고 AI 기본법의 하위법령 초안에 대해 소개하고 있다. [사진=서효빈 기자]

과학기술정보통신부가 17일 2026년 1월 시행 예정인 'AI기본법'에 앞서 하위법령 초안을 공개하고 업계 의견 수렴에 착수했다. 이번 하위법령은 AI 산업 진흥과 함께 국민의 생명·신체·기본권 보호를 위한 최소한의 규제체계를 마련하는 데 초점이 맞춰졌다.

고영향AI 명확히 정의…생명·기본권 침해 가능성 기준

하위법령은 '고영향AI'를 사람의 생명·신체·기본권에 중대한 영향을 미치거나 그 위험이 있는 인공지능 시스템으로 정의했다. 에너지·보건의료·교통·교육 등 국민 생활과 밀접한 분야에서 사용되는 AI가 해당된다. 이는 사용 영역, 기본권에 대한 영향의 중대성·빈도, 분야별 특수성을 기준으로 판단된다.

고영향AI로 분류될 경우, 사업자는 △위험관리체계 마련 △설명방안 수립·이행 △이용자 보호 △사람 개입 기준 마련 △문서 작성·보관 등 5가지 의무를 이행해야 한다. 개발사업자가 의무를 이행하면 이용사업자의 책임은 면제된다.

생성형AI는 사전 고지와 결과물 표시 의무

생성형AI와 고영향AI를 포함한 일부 AI시스템에 대해선 사전 고지와 결과물 표시 의무가 부과된다. 텍스트·이미지·음성 등 생성 결과물에는 시각적 또는 기계 판독 가능한 워터마크를 표시해야 하며, 약관·UI·설명서 등을 통한 고지 방식도 가능하다.

딥페이크 콘텐츠의 경우, 이용자의 연령·신체 조건을 고려해 별도 고지 방식이 적용된다. 내부 업무용 콘텐츠나 생성 여부가 명확한 콘텐츠 등은 예외 대상이다. 투명성 가이드라인에는 워터마크 표기 위치, 콘텐츠 유형별 표시 방식, 글로벌 표준(C2PA 등) 사례도 포함됐다.

고성능AI 기준은 '누적연산량 10의 26승 이상'…안전성 확보 필수

안전성 확보 고시는 고성능AI 기준을 '누적연산량 10의 26승 이상'으로 설정했다. 여기에 사람의 생명·신체·기본권에 중대한 영향을 줄 가능성이 있는 시스템만을 대상으로 한다.

해당 AI는 개발부터 운영·배포·폐기까지 전 과정에서 기능 오류, 데이터 편향, 악용 가능성 등 위험 요소를 사전에 식별하고 평가·완화해야 한다. 최초 확인일로부터 3개월 이내 조치 결과를 문서화해 제출해야 하며, 시스템 변경 시 1개월, 중대한 사고 발생 시 7일 이내 보고해야 한다.