타운센드 SAS 부사장 “위험 평가 기반해 AI 활용 관리해야”

“SAS가 3분기 출시할 'AI 내비게이터'는 기업 내 인공지능(AI) 활용 현황 개요를 관리하도록 제공합니다. 금융 등 특정 산업에 특화된 'AI 거버넌스' 대비 심층 기능을 제공할 것입니다.”

레지 타운센드 SAS AI윤리·거버넌스·사회영향 부문 부사장은 지난주 미국 텍사스 그레이프바인에서 열린 'SAS 이노베이트 2026' 기간 전자신문과 인터뷰에서 “AI 기술 발전이 사회에 미치는 영향, 정보 접근성과 개인 잠재력 발휘 가능성 등 전반적 상황과 업무별 위험 정도를 평가하고 관리 여부를 고려해야 한다”며 이같이 밝혔다.

SAS는 AI 내비게이터를 통해 에이전틱 AI의 의사결정 방식, 모델·데이터 사용 등에 대한 실시간 관리와 현황 문서화 등으로 AI 위험 관리 전반을 지원할 계획이다. 기업의 자체 AX(AI 전환) 관리, AI 사용사례 등록, AI 종류 파악과 거버넌스 수립에 유용하다.

기업 내 안전한 AI 활용을 위해 개발·서비스 과정에서 AI가 사람 대신 결정하는 게 적절한지, 어떤 데이터가 사용됐는지, 불공정한 결과가 발생하지 않게 관리되는지를 확인하겠다는 것이다.

특히 AI 활용 상황을 상시 점검, 완전히 검증되지 않은 AI를 도입했거나 기업에서 채택하지 않은 AI 서비스 사적 활용 등 '섀도 AI' 위험을 최소화하는 데 특화됐다. 실시간 AI 활용 관리와 가드레일(안전장치) 작동이 가능하지만 개인정보나 사생활 침해 이슈는 없는 것으로 확인됐다.

타운센드 부사장은 “AI 내비게이터로 관리·점검하는 영역에 대해 전사 고지가 선행될 것”이라며 “기술적으로 모든 업무를 모니터링할 수 있다고 해도 모든 일상 업무가 관리 대상이 되는 것은 아니고, 업무에 중요한 영향을 미칠 고위험 사용사례 등에 집중한 활용이 일반적이 될 것”이라고 설명했다.

또 AI가 일자리를 빠르게 대체하기는 쉽지 않을 것이라고 전망했다. 특정 상황이나 분야의 생산성은 빠르게 대체할 수 있다고 해도 기존에 인간이 하던 일 전체를 AI가 대신하기는 쉽지 않은 데다 전문가 양성을 위해 고용이 지속될 것이라는 취지다. 특히 피지컬 AI 적용이 필요한 제조업 등을 지목했다.

타운센드 부사장은 “현재 많은 기업에서 AI를 활용해 갓 졸업한 대학생이나 인턴 등이 하던 가장 낮은 수준의 업무를 대체하고 있다”며 “하지만 이런 일이 매년 반복되면 해당 분야에서는 몇 년간 경험 있는 전문가를 양성하지 못하는 상황이 될 것이고, 기업 역시도 이러한 상황을 고려할 것”이라고 내다봤다.

안전하게 AI를 활용할 수 있는 방법으로는 개인이 사용하는 AI를 본인 소유라고 생각하지 않을 것을 제안했다. 타운센드 부사장은 “직원 AI 리터러시 향상이 가장 시급하다”며 “개인 AI 활용 능력은 물론, 조직 내 AI 활용에 대한 이해와 관리도 이뤄져야 한다”고 강조했다.

그레이프바인=

박종진 기자 truth@etnews.com