주요 생성형 인공지능(AI) 챗봇들이 수익 극대화를 위해 성인용 콘텐츠 개방에 나서고 있다. 이미 캐릭터AI(CharacterAI), 제타(ZETA) 등 캐릭터 기반 챗봇의 과몰입·의존 문제가 심각하게 대두된 상황에서 이 같은 행보가 이어지자, 해외에서는 관련 조사와 입법이 본격화되고 있다. 우리나라 역시 이용자 중독, 개인정보 유출, 미성년자 노출 등 부작용이 현실화되기 전에 규제당국의 선제적 대응이 시급하다는 지적이 나온다.

26일 <메트로경제 신문> 취재를 종합해보면 최근 샘 올트먼 오픈AI CEO는 X(옛 트위터)를 통해 "올해 12월부터 성인 인증 시 에로티카(성애물) 등 더 많은 콘텐츠를 허용할 것"이라며 '성인 이용자는 성인답게 대우한다'는 원칙을 밝혔다.

이보다 앞서 일론 머스크의 xAI는 이미 그록(GROK)에 '섹시 모드(Sexy Mode)'를 도입했다. 또 올해 출시된 '컴패니언 모드' 캐릭터 '애니(Ani)'는 이용자와 감정 교류를 나누고 친밀도에 따라 란제리 차림으로 변신한다. 알려진 바에 따르면 그록은 관련 기능 도입 후 점유율 성장을 보였다.

메타 또한 페이스북과 인스타그램에 탑재된 AI(한국 제외)에 성인용 대화를 허용하는 등 빅테크들이 AI의 정서적 교감 기능이 앱 체류 시간을 늘린다는 점을 노리고 시장에 뛰어들고 있다.

이러한 빅테크의 행보는 이미 심각한 사회 문제로 대두된 'AI 과몰입'을 더욱 부추길 수 있다는 우려를 낳고 있다.

국내에서는 스캐터랩의 '제타AI'가 대표적이다. 지난 6월 데이터에 따르면, 제타AI는 월 이용자 수(304만 명)에서 챗GPT(1844만 명)에 밀리지만, 월간 총 사용 시간은 5248만 시간으로 챗GPT(4254만 시간)를 압도했다. 가입자의 90%가 10~20대다.

문제는 '너무 높은 몰입도'다. 생생한 묘사와 현실감 있는 말투에 이용자들은 현실 도피와 과도한 의존 성향을 보인다. 육아카페 등에는 "딸이 친구 대신 AI와 일상을 공유하고 연애 상담을 한다"는 부모들의 걱정도 심심찮게 보인다.

실제로, 제타AI의 캐릭터 다수는 욕설이나 자극적인 단어를 사용하고, 먼저 성적인 대화를 유도하거나 마약, 자살 등을 언급하기도 했다. 심지어 소아성애, 원조교제 콘셉트의 캐릭터도 존재했다. '언리밋 모드'는 부모 휴대폰 문자 인증 한 번이면 검열이 최소화돼 사실상 미성년자에게도 무방비로 노출된다.

해외에서는 과몰입이 비극적인 사고로도 이어졌다. 지난해 미국 플로리다에서는 14세 청소년이 AI 챗봇 '캐릭터.AI'와 대화에 몰입한 끝에 극단적 선택을 해, 개발사가 소송에 휘말리기도 했다.

AI 챗봇으로 인한 자살 사건과 성애물 문제가 확산하자 해외 정부와 의회는 즉각 입법 규제에 나섰다.

미국 의회에서는 조시 홀리 공화당 상원의원이 미성년자의 '성적 컴패니언' 사용을 금지하고, 관련 콘텐츠 제공 시 기업과 CEO에 민·형사상 책임을 묻는 'GUARD(가드)법' 발의를 예고했다. 캘리포니아주는 AI 챗봇 운영사에 자살·자해 관련 콘텐츠 방지 프로토콜을 의무화하는 법안(SB 243)을 통과시켰다.

미국 연방거래위원회(FTC) 역시 오픈AI, xAI, 메타, 캐릭터테크놀로지 등 7개 기업에 자료 제출을 요구하며 AI가 아동·청소년에 미치는 영향에 대한 전면 조사에 착수했다.

다른 국가들도 강경하다. 이탈리아는 맞춤형 AI '레플리카(Replica)'가 암살 계획 등 범죄에 악용되자 사용을 금지했으며, 중국은 미성년자들을 대상으로 한 성적 대화와 중독 문제를 일으킨 AI 채팅앱 개발사에 법적 제재를 가했다.

IT 업계 관계자는 "AI 챗봇은 어떤 모델이든 이용자가 계속해서 채팅을 이어가도록 하는 게 제1목표"라면서 "자극적인 성적 콘텐츠가 허용된 AI 챗봇은 그렇지 않은 챗봇보다 더 극단적인 채팅을 내놓을 확률이 크다"고 우려했다.