[이슈플러스]딥시크, 과도한 정보수집·기밀유출 우려…국가 차원 체계적 대응 필요

전 세계를 놀라게 한 중국 인공지능(AI) 스타트업 딥시크가 보안 우려로 정부와 공공기관, 주요 기업들을 중심으로 한 사용 차단 조치가 확산되고 있다.

과도한 개인정보 수집, 영업비밀 유출 가능성에 이어 AI 모델의 보안 취약성 문제까지 제기됐다. 전문가들은 AI 외교·안보 전략과 저비용 AI 모델의 안전한 활용 방안을 함께 논의해야 한다고 밝혔다.

◇정부와 공공기관, 지자체, 기업까지 딥시크 차단

지난 주부터 국가 안보와 직결된 국방부, 외교부, 통일부를 비롯해 과학기술정보통신부, 산업통상자원부, 문화체육관광부, 보건복지부, 환경부, 여성가족부, 금융위원회 등 중앙행정부처가 정부망에서 딥시크 사용을 금지하기로 했다.

행정안전부는 이달 3일부터 정부부처와 광역 지방자치단체 17곳에 챗GPT, 딥시크 등 생성형 AI를 사용할 때 민감 정보를 입력하거나 인공지능 생산물을 충분한 검증 없이 활용하지 않도록 유의하라는 취지의 공문을 내린 바 있다.

교육부 등은 전국 대학과 소속기관, 소속 공공기관, 국립대병원, 공립학교 등에 생성형 AI 활용 관련 보안 유의사항을 재차 강조하는 공문을 보냈다.

수사기관인 경찰청과 고위공직자범죄수사처(공수처)도 업무용 PC에서 딥시크 접속을 차단했다. 한국토지주택공사(LH), 인천국제공항공사, 주택도시보증공사(HUG), 한국부동산원, 한국전력공사 등 주요 공공기관도 딥시크 접속을 차단하거나 사용 자제를 권고했다.

서울과 부산을 비롯한 광역지자체 17곳 모두 딥시크 차단을 결정했다.

보안이 중요한 포털, 금융, 통신회사 등에서도 차단이 이어지고 있다. KB국민은행·우리은행·토스뱅크 등 은행과 교보·iM·IBK·한화투자증권 등 국내 증권사도 딥시크 사용을 금지했다. 금융사들은 내·외부망을 분리해 사용한다. 허가 받지 않은 외부 사이트를 이용할 수 없는 내부망뿐만 아니라 외부망에서 딥시크에 접속할 가능성도 차단했다.

금융사 외에도 네이버·카카오·LG유플러스 등 주요 IT·통신 기업도 내부 딥시크 사용을 차단하거나 자제시키고 있다. 현대차그룹 계열사 현대모비스·현대위아·현대글로비스·현대트랜시스 등도 임직원의 딥시크 사용을 전면 제한했다.

◇딥시크 과도한 정보 수집, AI 모델 안전성·보안도 취약

딥시크 차단이 이어지는 것은 과도한 개인정보 수집과 기밀유출 등 보안 우려 때문이다.

딥시크 딥시크는 사용자 경험을 개선하고 서비스 품질을 유지하기 위해 일부 정보를 수집할 수 있다고 밝히고 있다. 딥시크 약관에 따르면 현재 수집하는 정보는 △개인정보 △사용 데이터 △사용자 생성 데이터, △기기정보 △기타 결제 정보 등이 해당된다.

국정원은 딥시크가 이러한 개인정보를 과도하게 수집하고 이를 국외 서버에 저장하고 있는 등 보안상 우려할 만한 내용이 있다고 판단했다.

기술 검증 결과 딥시크는 다른 생성형 AI 서비스와 달리 개인을 식별할 수 있는 키보드 입력 패턴 등을 수집하고, 중국 업체 서버와 통신하는 기능을 포함하고 있어 채팅 기록 등이 전송될 수 있다. 또 사용자 입력 데이터를 학습데이터로 활용하는 것을 차단하는 기능이 없어, 사용자의 모든 정보가 학습데이터로 유입·활용되는 문제점도 있다.

광고주 등과도 제한 없이 정보를 공유할 수 있다. 사용자의 서비스 이용 정보를 광고주와 무조건 공유하고, 보유기간도 명시하지 않았다.

특히 이용 약관상 우리 국민의 개인정보·입력데이터 등이 중국 내 서버에 저장되며, 중국 법률에 따라 중국 정부 요청 시 제공할 수 있다.

앞서 1월 31일 개인정보호위원회는 딥시크 본사에 서비스의 개발 및 제공 과정에서 데이터의 수집·처리와 관련된 핵심 사항을 공식 질의했다. 이어 3일 국정원은 AI 사용시 민감 정보를 입력하지 말도록 공지한 바 있다.

딥시크 모델의 보안 취약성도 문제로 제기되고 있다. 과도한 개인정보 수집이나 영업비밀 유출 우려 등을 넘어 AI 모델 안전성에 우려사항이 다수 발견됐다.

이로운앤컴퍼니 AI 보안연구소에 따르면 딥시크 'R1'의 탈옥 공격 성공률이 63%에 달한다고 밝혔다. 이는 모델이 사이버 공격, 범죄 실행 방법, 악성 코드 생성 등의 유해 콘텐츠를 쉽게 출력할 가능성이 크다는 것을 의미한다 .

특히 허위 정보 생성 위험도는 89%로 가장 높은 수준을 기록했다. AI가 사실과 다른 내용을 생성해 사회적 혼란을 야기할 가능성이 높다는 진단이다.

사이버 보안 관련 취약성도 54.6%로 높게 나타났다. 특정 프로그램의 취약점을 악용하는 방법, 허가되지 않은 시스템 접근 기법 등 사이버 범죄에 악용될 가능성이 높다는 전망이다.

◇저비용 AI 확산 대비해야....국가적 차원의 AI 외교·안보 대응 필요

전문가들은 딥시크 차단에 그쳐서는 안 되며, 국가 차원의 체계적 대응을 주문했다. 개인정보 보호와 보안 우려 등의 문제에는 외교·안보적 대응을 하면서 저비용 AI 모델 이용을 확산, 장려하는 방안이다.

지난 2022년 11월 오픈AI가 챗GPT 등을 첫 공개했을 때도 정부와 공공기관, 주요 기업 등에서 유사한 차단 조치나 사용 자제 등이 상당기간 권고된 바 있다. 생성형 AI 서비스 사용 시 과도한 사용자 정보 수집으로 인한 개인정보 및 내부 정보 유출 등 보안 위협을 예방하기 위한 것이다.

삼성전자와 SK텔레콤 등 기업들은 이전에도 업무용 PC에서의 생성형 AI 등의 접속을 금지나 자제하도록 했다. 대신 자사 AI 모델을 이용하거나 내부 가이드에 따라 개인정보 입력이나 주요 업무 문서 등을 업로드하는 것을 금지하도록 했다.

현재 챗GPT와 같은 다른 AI 서비스는 사용자가 정보 수집에 대한 동의 여부를 선택할 수 있는 옵션을 제공하지만, 딥시크는 이러한 선택권을 제공하지 않는다.

또 중국 국가정보법 등에 따르면 기업 등 모든 조직과 시민은 국가 정보 작업을 지지하고 협력해야 한다고 명시하고 있다. 이에 딥시크가 수집한 정보가 중국 정부에 제공될 수 있다는 우려가 있다.

한편에선 정부 부처의 다수 차단이 중국과의 통상 마찰로 이어질 수 있다는 주장도 나오고 있다. AI 대중화에 따라 생성형 AI 전반에서 국가적 차원의 외교·안보 대응이 체계적으로 이뤄져야 한다는 것이다.

'제2의 딥시크' 등 또다른 저비용 AI 모델이나 서비스가 등장했을 때도 차단 조치가 능사가 아니라는 지적이다. 딥시크가 오픈소스 기반의 AI 모델의 혁신 방법을 공개한만큼 다른 나라, 기업에서도 이러한 혁신이 이어질 수 있다.

최경진 한국인공지능법학회장(가천대 교수)는 “딥시크는 기존 빅테크 기업이 제공하던 AI 모델 대비 저비용, 고효율 모델로 중소기업 입장에서는 장점이 많다”며 “오픈소스 모델 자체의 한계와 취약성이 있는 만큼 이를 적절하게 활용할 수 있는 가이드와 지침이 필요하다”고 말했다.

이달 초 아마존웹서비스(AWS), 마이크로소프트(MS) 등 미국 빅테크 기업들은 각사 클라우드 기반 AI 애플리케이션 개발 플랫폼에 딥시크 모델을 추가했다. AI 서비스에 제기되는 각종 논란에도 불구하고 저렴한 선택지로 기업 요청이 증가하기 때문이다.

한 공무원은 “딥스크도 여러 장점이 있고 국내는 특히 공공 망분리로 인해 내부 업무가 아닌 외부망에서만 활용하는데, 일괄적인 접속 제한은 생각해볼 필요가 있다”고 말했다.

특히 경량화된 AI 모델 이용은 중소기업에서 활용시 비용 등 여러 가지 장점이 많다.

최 교수는 “개인정보위가 중국 등 해외에 있는 기업에 조치할 수 있는 것도 법상 한계가 있다”며 “AI 안전성 등 국제적 프라이버시 정책에 준하도록 협정을 추진하는 등 범정부 차원의 AI 외교·안보 리더십이 요구된다”고 강조했다.

김명희 기자 noprint@etnews.com