SAS “韓 기업, AI 안전성 신뢰 높아져…감독 강화 효과”

SAS '데이터 및 AI 영향력 보고서: 새로운 신뢰의 경제학' 내용 중 발췌. ⓒSAS SAS가 한국 기업의 AI에 대한 신뢰와 실제 관리 역량 사이의 격차가 1년 만에 크게 줄었다는 연구 결과를 발표했다. SAS가 IDC 리서치 인사이트를 바탕으로 분석한 '데이터 및 AI 영향력 보고서: 새로운 신뢰의 경제학'에 공개된 내용이다. 우리나라 AI '신뢰 격차'는 지난해 28.9점에서 올해 1.5점으로 27.4점 줄었다. 기업이 AI를 얼마나 신뢰하는지 '체감 신뢰'와 실제 AI 시스템이 얼마나 안전하게 작동하는지 '실제 관리 역량' 간 차이를 나타내는 지표로, 점수가 낮을수록 안전한 AI 활용에 대한 높은 신뢰를 의미한다. 한국은 지난 1년간 AI에 대한 과도한 기대가 걷히며 체감 신뢰는 낮아지고(73.9점→58.6점), 실제 관리 체계는 발전하면서(45점→57.1점) 두 지표가 거의 일치하게 됐다. 격차가 줄어든 큰 이유 중 하나로 한국 기업들이 AI 관리·감독 체계를 빠르게 강화한 결과로 나타났다. 실제 한국의 '모델 거버넌스와 감독' 점수는 55.8점으로 전년 대비 9.3점 올라 조사 항목 중 개선을 보였다. 다만 AI 핵심 토대는 여전히 약한 것으로 드러났다. AI 판단 기준을 쉽게 보여주는 '설명 가능성과 공정성'(54.6점)과 기본 원천인 '데이터 품질 및 거버넌스'(53.9점)는 1년 전과 비교해 소폭 상승하는 데 그쳤다. '책임 있는 AI 정책'(59.5점)은 점수 변화 없이 제자리에 머물렀다. 모델 거버넌스와 감사 체계는 빠르게 강화된 반면, 모든 프로젝트에 데이터 품질 관리 절차를 의무 적용하는 한국 기업은 1.9%에 불과했다. 또 한국 기업의 향후 최우선 과제로 '데이터 품질'과 '설명 가능성'을 꼽았다. 스스로 판단하고 행동하는 '에이전틱 AI'를 도입한 한국 기업 비율이 42.6%에 달하기 때문이다. AI가 사람 대신 자율적으로 일을 처리하는 비중이 늘어나는 만큼 AI가 결정을 내린 경위를 설명하지 못하거나 잘못된 데이터를 학습하면 심각한 비즈니스 리스크를 초래할 수 있다고 지적했다. 실제 사용자가 AI 추천을 무시하거나 직접 수정하는 큰 이유로 'AI가 판단 근거를 설명하지 못한다는 점'이 꼽혔다. 보고서는 AI에 대한 기대와 실제 관리 역량을 일치시키고 안정적인 데이터와 관리 체계를 구축하는 것은 단순한 리스크 예방을 넘어 기업의 실질적 사업 성과와 직결된다고 강조했다. 글로벌 조사...