투명성부터 안전성까지…'공공 AI 윤리원칙' 마련

정부가 인공지능(AI) 기술을 통한 행정혁신을 촉진하면서 AI 사용에 대한 국민 신뢰를 확보하도록 '공공부문 인공지능 윤리원칙'을 마련했다.

행정안전부는 공공부문 AI 활용이 국민 생활에 직접적인 영향을 미치는 만큼, 민간과는 차별화된 윤리원칙 마련의 필요성을 인식, 이 같은 내용을 담은 윤리원칙을 3일 공유했다.

행안부 마련한 공공부문 AI 윤리원칙은 행정혁신 촉진과 국민신뢰 구축을 목표로 마련됐다.

이는 사회 구성원 모두를 대상으로 하지 않고 중앙행정기관, 지방정부, 공공기관 및 지방공사·공단 등 공공부문 종사자를 대상으로 한정하며 지침 성격을 갖는다.

구체적으로 국민, 행정, 기술 관점에서 공공성, 투명성, 안전성, 형평성, 책임성, 프라이버시보호 6대 원칙으로 구성했다.

예를 들어 '투명성'의 경우 공공 AI 도입과 활용에 대한 과정을 투명하게 공개해야 한다. '안전성'은 공공 AI 시스템이 국민에게 피해를 주지 않도록 안전한 방식으로 운영됨을 원칙으로 한다. '형평성'은 공공 AI 서비스가 모든 국민에게 공정하고 차별 없이 제공돼야 함을 명시한다. '프라이버시 보호'는 공공 AI 시스템이 개인정보와 사생활 등을 침해하지 않도록 보호장치를 마련해야 함을 규정한다.

행안부는 이와 함께 공공부문 종사자가 실무적으로 점검하도록 6대 원칙에 따른 90여 개 세부 점검사항을 체크리스트 형식으로 제시했다.

이번 공공부문 AI 윤리원칙이 선언적 가치에 그치지 않고, 세부 점검표를 통해 자체 점검하고 그 점검 결과를 조정·환류할 수 있는 체계를 둘 계획이다.

또 90여 개 점검항목이 일선 현장에서 실질적으로 작동할 수 있도록 AI 윤리원칙의 실천에 대한 교육 프로그램도 마련해 실행력을 높여나갈 예정이다.

향후 중앙행정기관 등 공공부문 종사자 외 학계 등 전문가의 의견도 폭넓게 수렴해 최종 윤리원칙을 확정할 방침이다.

윤호중 행안부 장관은 “공공부문에서 빠르게 발전하는 AI를 안전하게 사용하면서도 정부 효율성과 생산성을 높이기 위해서는 '윤리원칙'이 필수”라며 “AI 윤리원칙이 개인의 인권 침해 등 다양한 위험요소에 대비하고 국민의 기본권을 지키는 행동기준이 될 수 있도록 하겠다”고 말했다.

최근 AI가 급속히 발전하면서 다양한 곳에서 쓰이게 되고, 영향력도 급격히 확대되면서 편향성 문제 등의 부작용도 나타나고 있는 실정이다.

일본(총무성 주도)은 'AI 활용원칙', 영국은 '공공부문 AI 활용 지침(가이드라인)' 등을 통해 AI 윤리적 가치를 제시했다. 우리나라도 각 부처 특성에 맞춰 과학기술정보통신부, 교육부 등에서 윤리지침(가이드라인)을 운영하고 있다.

김지선 기자 river@etnews.com