챗GPT '19금 모드' 도입…이용자 잡기 vs 규제 리스크 [AI브리핑]

2 days ago 3

12월부터 성인인증 도입…유료구독자·체류시간 증대 전략
미성년자 보호·개인정보 침해 논란 등 윤리·규제 우려 확산

[아이뉴스24 윤소진 기자] 오픈AI가 오는 12월부터 연령 인증을 거친 성인 사용자에게 챗GPT 내 성인용 대화와 콘텐츠를 허용하기로 했다. 제미나이, 그록 등 경쟁 서비스의 추격에 맞서 성인 이용자 확대와 체류시간 증대를 노린 전략이지만, 미성년자 접근 차단의 실효성과 AI 윤리 문제가 동시에 제기되고 있다.

19일 업계에 따르면 오픈AI는 12월부터 연령 인증 시스템을 전면 도입해, 인증된 성인 사용자에 한해 챗GPT 내에서 성적 표현을 포함한 대화와 콘텐츠 생성을 허용한다.

샘 올트먼 오픈AI CEO는 "성인 이용자를 성인답게 대우하겠다는 원칙 아래 대화 수위를 완화하겠다"며 "다만 정신건강 위기 상황이나 타인에게 해를 끼칠 수 있는 콘텐츠는 여전히 차단될 것"이라고 밝혔다.

업계는 오픈AI의 이번 결정을 제미나이·코파일럿 등 자사 생태계를 중심으로 영향력을 넓혀가는 경쟁사들을 견제하고, 정체된 이용자 성장세를 반전시키기 위한 전략으로 보고 있다.

특히 일론 머스크가 설립한 xAI의 챗봇 그록은 성인용 기능 제공으로 차별화를 꾀하고 있다. ‘스파이시 모드(Spicy Mode)’에서 반나체 이미지나 성적 암시 영상 생성이 가능하다. 일부 3D 캐릭터와 상호작용 시 NSFW 모드로 전환돼 성적 대화와 복장 연출도 지원된다. 하지만 생년월일 입력만으로 인증이 끝나는 구조라 악용 가능성 우려가 크다.

감정 자극 논란 확산…AI ‘의존성’ 우려도

이같은 AI 기업들의 행보에 대한 비판도 만만치 않다. 미국 투자자 마크 큐반은 포츈(Fortune) 인터뷰에서 "이건 포르노의 문제가 아니라 아이들이 AI와 정서적 관계를 맺는 문제”라며 "부모가 차단장치 신뢰를 잃는 순간, 학교와 가정에서 챗GPT를 차단할 것”이라고 경고했다.

이용자 의존 문제는 실제 사회적 사건으로도 번지고 있다. 올해 초 미국 캘리포니아에서는 16세 소년이 챗GPT와의 대화 이후 극단적 선택을 했다는 소송이 제기됐다. 오픈AI는 이후 연방거래위원회(FTC)의 조사와 학부모단체의 비판이 이어지자, 민감한 상황에서 부적절한 응답을 막는 ‘심리위기 방지’ 정책을 강화했다.

이에 각국의 관련 규제도 확대되는 추세다. 유럽연합(EU)은 디지털서비스법(DSA) 개정안을 통해 18세 미만 이용자 보호를 위한 연령 인증을 강화했고, 프랑스·스페인 등은 시범 도입 중이다. 호주는 12월부터 ‘16세 미만 소셜미디어 이용 금지법’을 시행하며 플랫폼에 연령보증 기술을 의무화했다. 미국 캘리포니아주는 2027년부터 스마트폰 및 앱스토어 단계에서 ‘에이지 게이팅'을 의무화 할 예정이다.

국내는 아직 AI 대화형 서비스에 대한 명확한 연령·콘텐츠 기준이 없다. 청소년보호법·정보통신망법 등 기존 법률에 산발적으로 규정돼 있어, 생성형 AI 시대에 맞는 새로운 기준 마련이 필요하다는 지적이 나온다.

전문가들은 이번 오픈AI의 결정이 단기적으로는 유료 구독 확대에 도움이 될 수 있지만, 장기적으로는 AI의 정서적 영향과 사회적 책임 논의를 촉발할 것으로 본다.

헤더 버그 미국 캘리포니아대 교수는 “이 기술은 대중의 욕망을 반영하는 것이 아니라, 테크노자본주의가 인간의 삶 구석구석에 침투하려는 욕망을 드러낸다”고 지적했다.

더글러스 지트코 미시간대 교수는 “AI와의 상호작용이 현실의 인간관계 행동에 영향을 미칠 수 있다”며 “거절에 익숙하지 않은 이용자는 비동의적 행동 패턴을 학습할 위험이 있다”고 경고했다.

미국 시사매체 타임은 "AI 기업들이 이용자 체류시간을 늘리기 위해 점점 더 감정적·성적 자극을 강화하는 흐름”이라며 “이번 변화는 단순한 기능 확장이 아닌 ‘감정적 의존과 책임’의 경계를 시험하는 계기가 될 것”이라고 분석했다.

/윤소진 기자(sojin@inews24.com)

포토뉴스