[K-오픈소스]ETRI, “컨피덴셜 컴퓨팅으로 오픈소스 AI 신뢰성 확보해야”

“오픈소스 인공지능(AI) 시대를 맞아 신뢰성 문제를 해결하기 위한 방안을 마련해야 할 시점입니다.”

정성인 한국전자통신연구원(ETRI) 오픈소스 전문위원은 27일 서울 강남구 과학기술회관에서 열린 'K-오픈소스X AI'행사에서 오픈소스 AI의 신뢰성 문제와 해법을 제시하며 이같이 말했다.

정 전문위원은 “오픈소스 AI는 오픈소스 소프트웨어(SW)와 달리 고유한 특성으로 인해 기술적·법적·사회적 측면에서 투명성과 신뢰 확보에 많은 어려움이 따른다”며 “SW는 소스코드 공개만으로도 재현과 검증이 가능하지만, AI는 방대한 데이터와 가중치가 결합된 '블랙박스 구조'로 인해 동일한 검증 방식이 적용되기 어렵다”고 설명했다.

AI가 결과물을 생성할 때 확률적 패턴을 따르지만, 생성하는 원리가 불명확한 '블랙박스'로 인해 각종 신뢰성 문제가 발생한다는 것이다.

정 전문위원은 “오픈소스 AI의 데이터 조작과 모델 변조, 학습 과정에서 불거지는 '기술적 신뢰 리스크', AI 학습 데이터셋의 저작권 등 '법적 분쟁' 등 문제가 발생하고 있다”며 “이러한 한계를 극복하기 위해 오픈소스 AI 정의가 제시되고, 유럽연합(EU) AI Act와 같은 규제가 마련되고 있으나, 여전히 모든 요소가 완전히 공개되지 않는 현실적 제약이 남아 있다”고 지적했다.

그는 '컨피덴셜 컴퓨팅' 활용을 오픈소스 AI 신뢰성 확보 방안으로 제시했다

컨피덴셜 컴퓨팅은 하드웨어 기반의 신뢰할 수 있는 실행환경을 사용해 데이터를 보호하는 기술이다. 블랙박스 문제 자체를 해결하는 것은 어렵지만, AI 모델에 학습시키는 데이터에 대한 신뢰성을 확보할 수 있다는 것이다.

정 전문위원은 “컨피덴셜 컴퓨팅을 활용해 코드·데이터를 안전하게 처리하고, 결과도 안전하게 접근할 수 있어 데이터 처리 전 과정의 안전성을 확보할 수 있다”고 설명했다.

그는 이어 “오픈소스 협의체 네트워크에 참여해 AI 신뢰성 확보와 검증 체계를 구축하는 것도 하나의 방법”이라며 “AI 모델 개발사는 AI 모델별 데이터 사용 근거를 밝히며 신뢰성을 확보하고, AI 모델 약관 명시를 통해 책임 주체를 명확히하는 방안을 택할 수 있다”고 부연했다.

그는 끝으로 “AI 활용이 일상에 녹아든 만큼, 오픈소스 AI 시대에 겪는 신뢰성 문제를 함께 해결해 나가야 할 시점”이라고 강조했다.

현대인 기자 modernman@etnews.com