개인정보위, 카카오와 AI 비서 '카나나' 개인정보 보호 조치 마련

개인정보위원회가 카카오와 인공지능(AI) 비서 서비스 '카나나'의 개인정보보호법 준수 방안을 마련했다.

개인정보위는 지난 12일 서울 종로구 정부서울청사에서 전체회의를 열고, 카나나에 대한 사전적정성 검토 결과를 심의·의결했다.

사전적정성 검토제는 AI 등 신기술·신서비스 개발을 기획하는 단계에서 개인정보보호법 저촉 여부가 모호한 사업자가 개인정보위와 협력해 개인정보보호법 준수 방안을 마련하고, 사업자가 이를 이행하면 사후에 불이익한 처분을 부과하지 않는 제도다.

카나나는 대화의 맥락을 파악해 답변을 제시하는 AI 메이트(친구) 서비스다. 여러 이용자가 참여하는 단체방 대화를 기반으로 이용자 질문에 답하는 '카나', 이용자와 단둘이 주고받았던 대화를 기반으로 이용자 질문에 대답하는 '나나'로 구성된다. 카나나 서비스는 카카오가 자체 개발한 거대언어모델(LLM)을 주로 활용하지만, 오픈AI의 챗GPT 모델 또한 보완적으로 활용하게 된다.

카카오는 지난해 12월 10일 개인정보위에 카나나에 대한 사전적정성 검토를 신청했다. 카카오는 안전장치(가드레일) 역할의 AI 모델을 탑재해, 악의적인 이용자가 타인의 개인정보를 캐내기 위해 유도 질문을 하면 차단하거나, 언어모델이 생성하는 답변을 통해 타인의 개인정보가 노출되는 일이 없도록 자동 검수할 계획이라고 설명했다.

카카오는 개인정보위와 사전적정성 검토 과정을 통해 암호화 등 기술적 보안 조치 강화, 외부모델 처리데이터 보호 강화, 내부 학습에 이용 시 별도 추가 안전조치 운영, 내부 관리체계 강화 등 안전조치를 마련하기로 했다.

개인정보위는 카나나 서비스가 출시되면 카카오가 이러한 안전조치를 실제 이행하고 있는지를 점검할 예정이다.

전승재 개인정보위 조사3팀장은 “사전적정성 검토제를 더욱 활성화해 데이터 경제 시대 급변하는 현장과 긴밀히 소통하겠다”며 “AI를 비롯한 신기술·신서비스의 법적 불확실성이 해소될 수 있도록, 정보주체의 권익이 보호될 수 있도록 계속 노력해 나갈 것”이라고 말했다.

한편, 개인정보위는 이번 전체회의에서 개인정보 보호 법규를 위반한 모두투어네트워크에 대해 총 7억4700만원의 과징금과 1020만원의 과태료를 부과하고 공표명령 및 개선권고하기로 의결했다. 온·오프라인 여행 중개 서비스 '모두투어' 운영사인 모두투어네트워크는 해커 공격을 받아 306만여명의 개인정보를 유출했다. 조사결과 안전조치 의무와 개인정보 파기 및 유출 통지 의무를 소홀히 한 사실이 확인됐다.

조재학 기자 2jh@etnews.com