'고영향·안전성 의무' 고시 행정예고 끝…AI기본법 체계 완성

인공지능(AI) 안전성 의무 확보 대상이 되는 사업자의 누적연산량은 AI 학습 과정에서 기록된 데이터와 시스템 로그 등 객관적 지표를 활용해 산출한다.

데이터 전처리·미세조정(파인튜닝) 등 모든 학습 관련 연산량을 포괄적으로 반영하되 AI 능력 향상에 실질적 기여가 없는 연산은 누적연산량에서 제외할 수 있다.

이같은 내용을 골자로 하는 과학기술정보통신부 'AI 안전성 확보 의무의 이행방법 등에 관한 고시' 제정안 행정예고가 지난 20일 종료됐다. AI기본법 시행령상 안전성 의무 대상 사업자를 판별하는 '학습 누적연산량 10의 26승 플롭스' 기준을 보다 구체화해 산업계 불확실성을 해소한 것으로 평가된다.

누적연산량 산정방식도 구체화, 국내외 기업 혼선을 방지했다. △AI 설계 정보·구조를 바탕으로 연산량을 추정하는 수학 이론적 방식 △관찰된 경험 수치에 기반해 일부 지표로 연산량을 계산하는 경험·통계 방식 △하드웨어 자원 실제 사용량 기반 연산량을 계산하는 방식을 활용하기로 했다.

기업이 정부·공공에서 산정한 누적연산량에 대해 문제 제기할 경우를 대비, 이의신청을 가능하게 했다. 사업자가 제출한 누적연산량 관련 자료 검증을 AI 사업자 동의를 받아 전문기관에 의뢰할 수 있도록 해 제도 운영 공신력을 높이는 근거도 마련했다.

이외에도 AI 수명주기 전반에 걸친 위험의 식별·평가·완화 이행방식, AI 관련 안전사고를 모니터링·대응하기 위한 위험관리체계 관련 구체적 내용이 담겼다.

AI안전연구소는 국제 공조를 통해 학습 누적연산량을 확인·검증하는 등 안전성 의무 사업자 판별을 지원한다. 국내외 기업에 동일한 원칙 적용으로 학습량을 엄격하게 확인, 꼭 필요한 규제 대상만 선별할 예정이다.

과기정통부는 또 고영향 AI 관련 사업자의 책무 고시 제정안을 공개했다. 해당 고시는 생명·신체 등 안전과 기본권 침해에 직결될 수 있는 10개 분야 고영향 AI 사업자 의무를 구체화했다. 위험을 식별·분석·평가하고 안전한 활용이 가능하도록 위험 관리방안을 수립하고 운영할 것을 명시했다.

이용자 보호방안도 명료화했다. 안전하고 적법한 데이터 수집과 관리, 적대적 공격 등에 대응하기 위한 안전한 설계와 개발, 위험에 대한 지속적 시험과 평가 수행 등을 하도록 했다. 의무 사업자는 위험 지속 탐지, 이용자 의견 수렴과 권리 보장, 지속 개선 등을 포함해 이용자 보호방안을 수립해야 한다.

고영향 AI에 따른 문제를 즉각 해결하기 위한 근거도 포함됐다. 사람이 AI 동작에 개입할 수 있는 기준을 확립하고, 긴급 정지 기능 등 사람이 즉각 AI를 정지하거나 작동을 변경할 수 있는 개입 방법을 마련하도록 했다.

이러한 고영향·안전성 규제 관련 고시가 제정되면 지난달 22일 시행된 AI기본법 체계는 완성된다. 우리나라가 AI기본법 운영 경험을 토대로 세계 AI 규범을 선도할 수 있는 기반을 확보한 것으로 평가된다.

과기정통부는 지난 2주간 행정예고 기간 수렴된 의견을 바탕으로 고시 제정안을 최종 확정, 조만간 공포할 계획이다.

박종진 기자 truth@etnews.com