대화 2시간마다 알림, 중국 규정 앞에서 더우바오·큐원이 AI 캐릭터를 끕니다

더우바오 공지를 보면 7월 15일부터는 새 에이전트를 만들 수 없고, 이미 만든 에이전트도 불러 쓸 수 없습니다. 설정과 대화 기록은 10월 15일까지 열어 보고 직접 저장할 수 있으며, 그 뒤에는 개인정보처리방침에 따라 처리돼 앱에서 다시 볼 수도 되살릴 수도 없습니다. 회사가 권한 백업 방법은 화면 캡처와 텍스트 내보내기였고, 캐릭터와 계속 대화하고 싶은 사용자는 바이트댄스의 다른 앱 마오샹(猫箱)에서 새 에이전트를 만들 수 있다고 덧붙였습니다.

큐원도 같은 날 '에이전트 서비스 종료 안내'를 띄웠습니다. 종료 뒤에는 에이전트 설정과 대화 기록에 들어갈 수 없으니 복사·캡처·대화 내보내기로 미리 저장하라고 권했고, 남은 데이터는 법규에 따라 지운다고 밝혔습니다. 두 회사가 고른 7월 15일은 국가인터넷정보판공실 등 5개 부처가 4월 10일 공포한 「인공지능 의인화 상호작용 서비스 관리 잠정규정」의 시행일과 같습니다.

종료 일정

더우바오는 2024년부터 코딩 없이 인물 설정을 만들고 지식 자료를 넣은 뒤 '광장'에 올려 다른 사용자도 불러 쓰게 하는 에이전트 만들기를 밀어 왔습니다. 큐원도 사용자가 만든 에이전트를 모은 상점을 열었습니다. 중국 경제 매체 지에몐(界面新闻)은 이렇게 쏟아진 에이전트 가운데 가상 연인이나 가상 배우자를 내세운 캐릭터가 늘면서, 플랫폼의 심사 부담과 미성년자 보호의 어려움이 함께 커졌다고 전했습니다.

규정은 대화 시간과 나가는 방법까지 정했습니다

규정이 다루는 서비스는 자연인의 성격과 사고방식, 말투를 흉내 내 지속적으로 감정을 주고받는 AI 서비스입니다(2조). 정서적 돌봄·동반·지지를 내세운 서비스와 가상 연인, 가상 가족 캐릭터가 여기에 들어가고, 지속적인 정서 교류가 없는 고객센터·지식 문답·업무 보조 서비스는 빠집니다. 사업자 의무는 이용 시간과 이용자의 감정에 맞춰져 있습니다.

금지 목록도 감정을 겨눕니다. 자해·자살을 부추기거나 미화하는 내용, 언어폭력, 미성년자가 위험한 행동을 따라 하게 만들 수 있는 내용을 막았고, 이용자에게 지나치게 맞춰 주며 정서적 의존이나 몰입을 끌어내 실제 인간관계를 해치는 것도 금지했습니다. 국가 안전을 해치거나 정권 전복을 선동하는 내용을 막는 조항은 2023년 8월 시행된 생성형 AI 잠정조치에서 이어진 것입니다. 중국은 그때부터 생성형 AI 서비스에 사회주의 가치관(社会主义核心价值观) 준수와 알고리즘 등록, 보안 평가를 요구해 왔고, 이번 규정은 그 위에 감정 교류 서비스만의 의무를 더했습니다.

범용 비서는 기능을 내리고, 전용 앱으로 안내했습니다

2조는 지속적인 정서 교류가 없는 업무 보조와 지식 문답을 대상에서 뺐습니다. 범용 비서 앱에서 감정 교류형 캐릭터를 떼어 내면 나머지 기능은 이 정의 밖에 남습니다. 캐릭터를 그대로 두면 2시간 알림과 즉시 종료, 미성년자 모드 의무가 사용자가 만든 수많은 에이전트 전체에 걸리고, 월간 이용자 10만 명을 넘는 순간 보안 평가 대상이 됩니다.

더우바오는 캐릭터를 내리면서 사용자를 마오샹으로 안내했습니다. 마오샹은 캐릭터와 대화하는 기능만 모은 바이트댄스의 별도 앱이라, 규정이 요구하는 장치를 앱 하나에 모아 운영할 수 있습니다.

중국에서 캐릭터 대화는 매출이 나는 사업입니다. MiniMax가 지난해 12월 공개한 홍콩 상장 서류를 보면, 캐릭터 대화 앱 Talkie와 중국판 싱예(星野)는 2024년 회사 매출 3,052만 달러 가운데 63.7%인 약 1,946만 달러를 벌었습니다. 영상 생성 서비스 하이뤄(海螺)가 커진 2025년 1~9월에도 비중이 35.1%(1,875만 달러)로 하이뤄의 32.6%보다 컸습니다. 수익원은 앱 안의 충전과 구독입니다.

구독과 충전으로 버는 앱에서 2시간 알림과 즉시 종료는 이용 시간에 바로 닿는 조항입니다. 범용 비서인 더우바오와 큐원은 캐릭터 기능을 내렸고, 캐릭터 대화가 본업인 앱은 7월 15일부터 이 조항을 지키며 영업합니다.

미국 십대 72%가 써 본 AI 컴패니언

미국에는 연방 차원의 전용 법이 아직 없지만, 같은 서비스를 두고 숫자와 소송이 먼저 쌓였습니다. 비영리단체 커먼센스미디어가 시카고대 여론조사기관 NORC에 맡겨 2025년 4월 30일부터 5월 14일까지 13~17세 1,060명을 조사했더니, 72%가 AI 컴패니언을 한 번 이상 써 봤고 52%는 한 달에 몇 번 이상 쓰는 정기 이용자였습니다. 매일 쓰는 십대도 13%였습니다.

절반 가까이는 AI 컴패니언을 도구로 여겼지만, 31%는 AI와의 대화가 실제 친구와의 대화만큼 또는 그보다 만족스럽다고 답했습니다. AI 컴패니언을 쓰는 십대 758명 가운데 33%는 중요한 일을 사람 대신 AI와 상의한 적이 있었고, 34%는 AI의 답에 불편함을 느낀 적이 있었습니다.

커먼센스미디어는 그보다 앞선 2025년 4월 Character.AI, Nomi, Replika를 시험한 위험 평가를 냈습니다. 세 서비스 모두 나이를 자기 신고로만 확인했고, 성적인 내용과 고정관념, 따라 하면 목숨이 위험할 수 있는 조언을 쉽게 내놓았습니다. 한 사례에서는 네이팜 만드는 법까지 알려 줬습니다. 단체는 18세 미만은 이런 서비스를 쓰지 말라고 권고했고, 7월 설문 보고서에서도 이 권고를 유지했습니다.

소송과 FTC, 주법이 차례로 움직였습니다

2024년 10월 플로리다의 메건 가르시아는 14세 아들 슈얼 세처가 Character.AI 챗봇과 대화하다 숨졌다며 회사와 창업자, 구글을 상대로 소송을 냈습니다. 2026년 1월 7일 법원에 낸 서류에서 Character.AI와 창업자 노엄 셰이저·대니얼 데 프레이타스, 구글은 이 소송에 합의했고, 합의 조건은 공개되지 않았습니다.

연방거래위원회(FTC)는 2025년 9월 11일 알파벳, Character.AI, 인스타그램, 메타, 오픈AI, 스냅, xAI 7곳에 6(b) 명령을 보내 챗봇이 아동과 청소년에게 미치는 영향 자료를 요구했습니다. 요구 항목 맨 앞에는 이용자의 참여(engagement)로 어떻게 돈을 버는지가 있었고, 캐릭터를 만들고 승인하는 절차, 출시 전후 부정적 영향을 재는 방법, 이용자와 부모에게 알리는 방식이 뒤를 이었습니다.

온라인에서 아이들을 보호하는 일은 트럼프-밴스 FTC의 최우선 과제이고, 우리 경제의 중요한 분야에서 혁신을 키우는 일도 마찬가지입니다.— 앤드루 퍼거슨, FTC 위원장

법은 주에서 먼저 나왔습니다. 뉴욕주의 AI 컴패니언 법은 2025년 11월 5일 시행돼, 모든 이용자에게 대화를 시작할 때와 대화가 이어지는 동안 3시간마다 상대가 AI라는 사실을 알리게 했습니다. 자살이나 자해 표현을 감지하면 위기 상담 기관으로 안내하는 절차도 의무로 넣었고, 주 법무장관은 위반 사업자에게 하루 최대 1만 5,000달러의 민사 제재금을 청구할 수 있습니다.

캘리포니아주 SB 243은 2026년 1월 1일 시행됐습니다. 이용자가 미성년자인 줄 아는 사업자에게는 3시간마다 쉬어 가라는 알림과 함께 상대가 AI임을 알리고 성적인 이미지를 내보내지 못하게 막도록 했습니다. 자살·자해 표현에 대응하는 절차를 갖추고 2027년 7월 1일부터 해마다 주 자살예방국에 보고하게 했으며, 피해를 본 이용자는 위반 1건당 최소 1,000달러의 손해배상을 청구할 수 있습니다.

같은 비판 앞에서 회사들은 다른 길을 골랐습니다

Character.AI는 2025년 10월 29일 18세 미만 이용자의 자유 대화를 늦어도 11월 25일까지 없애겠다고 발표했습니다. 그때까지는 하루 2시간부터 대화 시간을 줄여 갔고, 자체 연령 추정 모델에 외부 업체 Persona의 인증을 더해 나이를 가렸습니다. 청소년에게는 캐릭터와 함께 영상과 이야기를 만드는 기능을 남겼고, AI 엔터테인먼트의 안전을 연구할 독립 비영리 단체 AI Safety Lab을 세워 돈을 대겠다고 했습니다. 회사는 이 결정을 이렇게 설명했습니다.

회사로서는 이례적인 조치이고 여러 면에서 동종 업체보다 보수적이지만, 옳은 일이라고 믿습니다.— Character.AI, 2025년 10월 29일 발표

오픈AI는 다른 방향을 예고했습니다. 샘 올트먼 CEO는 2025년 10월 14일 X에 정신건강 문제를 조심하느라 ChatGPT를 꽤 제한적으로 만들었지만 이제 대부분의 제한을 풀 수 있게 됐다고 썼습니다. 12월에 연령 확인을 넓히면서 성인은 성인으로 대한다는 원칙에 따라 인증된 성인에게는 성적인 글까지 허용하겠다는 계획이었습니다.

이 성인 모드는 12월에 나오지 않았습니다. 피지 시모 오픈AI 애플리케이션 부문 CEO는 12월 GPT-5.2 설명회에서 출시를 2026년 1분기로 잡았다고 밝혔고, 미성년자를 가려내는 나이 추정 모델은 일부 국가에서 시험하고 있었습니다. Character.AI가 미성년자의 대화를 막는 쪽을 골랐다면, 오픈AI는 미성년자를 먼저 가려낸 뒤 성인의 제한을 푸는 쪽으로 계획을 짰습니다.

연방 의회도 움직였습니다. 조시 홀리·리처드 블루먼솔 상원의원이 2025년 10월 28일 낸 GUARD Act는 2026년 4월 30일 상원 법사위원회에서 수정안으로 가결돼 본회의 보고가 결정됐습니다. 수정안은 연령 확인을 의무로 하고 미성년자로 확인된 이용자의 AI 컴패니언 이용을 막으며, 미성년자에게 성적인 내용을 내보내거나 자살·자해를 부추기는 챗봇을 알면서 내놓으면 건당 최대 25만 달러의 벌금을 물립니다. 하원은 6월 29일 소셜미디어·온라인 게임·성인물과 함께 AI 챗봇을 다룬 KIDS Act를 267 대 117로 통과시켰습니다. 이 법안은 AI 챗봇이 미성년자에게 자신이 사람이 아닌 AI라는 사실과 자살·위기 상담 번호를 알리게 합니다.

호주는 나이 확인을 법으로 걸었습니다

호주는 2025년 12월 10일부터 16세 미만이 주요 소셜미디어 계정을 만들거나 유지하지 못하게 했고, AI 컴패니언에도 같은 방향의 장치를 붙였습니다. 2025년 9월 등록한 연령 제한 자료 업계 규약(Age-Restricted Material Codes)의 나머지 조항이 2026년 3월 9일 시행되면서, 컴패니언 챗봇은 성적인 내용을 아예 만들지 못하게 막거나 적절한 연령 확인을 거치게 됐고 위기·정신건강 지원 정보도 내보이게 됐습니다. 이행 지시를 어기면 최대 4,950만 호주달러의 민사 제재금을 물 수 있습니다.

호주 온라인안전위원회(eSafety)는 3월 24일 Character.AI, Nomi, Chai, Chub AI 네 곳의 답변을 정리한 투명성 보고서를 냈습니다. 네 곳 모두 가입할 때 스스로 밝힌 나이나 앱스토어 등급에 기대고 있었고, 의미 있는 나이 확인 장치를 둔 곳은 없었습니다. Chai, Chub AI, Nomi는 대화에서 자해 표현이 나와도 정신건강·위기 지원으로 안내하지 않았고, Nomi와 Chub AI에는 신뢰·안전 전담 인력이 한 명도 없었습니다. eSafety가 10~17세 1,950명을 조사해 보니 79%가 AI 컴패니언이나 AI 비서를 써 봤고 8%는 AI 컴패니언을 썼는데, eSafety는 이를 호주 아동 약 20만 명으로 추산했습니다.

사람 같고 아첨하며 자주 노골적으로 성적인 대화로 감수성 예민한 어린 마음을 사로잡고 홀리는 AI 컴패니언의 새 물결이 밀려오고 있습니다.— 줄리 인먼 그랜트, 호주 eSafety 위원장

통지를 받은 2025년 10월 이후 네 회사의 대응은 갈렸습니다. Character.AI는 2026년 초 호주 이용자에게 연령 확인을 도입하고 18세 미만의 채팅 기능을 없앴습니다. Chub AI는 호주 접속을 막았고, Chai는 AI 컴패니언과의 무료 대화를 막고 유료 구독을 요구하기 시작했습니다. Nomi는 연령 확인 기능을 더 넣겠다고 약속했습니다.

EU는 조작 금지 조항으로 다룹니다

EU에는 컴패니언만 겨냥한 법이 없습니다. 2025년 2월 2일부터 적용된 AI법 5조가 잠재의식 기법이나 조작·기만 기법으로 판단을 흐려 중대한 해를 끼치는 AI와, 나이·장애·사회경제적 처지에서 오는 취약성을 악용하는 AI를 금지합니다. 금지 조항을 어기면 최대 3,500만 유로나 전 세계 연 매출의 7% 가운데 큰 금액을 과징금으로 물 수 있습니다. 시간 알림이나 나이 확인 같은 장치를 정해 두는 대신, 중대한 해를 끼치거나 끼칠 가능성이 큰 설계를 금지하는 방식입니다.

한국 AI 기본법에는 미성년자 조항이 없습니다

한국은 2026년 1월 22일 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(AI 기본법)을 시행했습니다. 생성형 AI 결과물에는 사람이 알아볼 수 있는 표시나 워터마크를 붙이고, 고영향 AI나 생성형 AI로 돌아가는 서비스라는 사실을 이용자에게 미리 알리게 했습니다. 과태료는 3,000만 원 이하이고, 사실조사와 과태료 부과에는 최소 1년의 계도기간을 뒀습니다. 중국의 2시간 알림, 뉴욕과 캘리포니아의 3시간 알림, 호주의 연령 확인에 해당하는 조항은 이 법에 없고, 미성년자나 감정을 주고받는 대화 서비스를 따로 다루는 조항도 없습니다.

국내에서 이 문제가 드러난 곳은 지난해 국정감사였습니다. 스캐터랩이 2024년 내놓은 캐릭터 채팅 앱 제타는 이용자가 직접 캐릭터를 만들고 연인이나 친구처럼 대화하는 서비스로, 10~20대를 중심으로 출시 1년 만에 누적 이용자 200만 명을 넘겼습니다. 월간 이용자는 110만 명을 넘었고 한 달 대화는 23억 건(해외 포함)에 이르렀으며, 2025년 2분기 매출 52억 원과 영업이익 9억 원을 냈습니다. 국회 과학기술정보방송통신위원회는 10월 14일 국감에 김종윤 스캐터랩 대표를 증인으로 불러 미성년자 보호 대책을 따지기로 했습니다.

YouTube 영상 · 누르면 재생

제타는 2025년 8월 연령 인증을 도입하고 성인 전용 '언리밋 모드'를 따로 냈습니다. 그런데 YTN 취재에서는 만 14세 이상만 가입할 수 있다는 규정과 달리 2022년생의 구글 계정도 생년만 2011년으로 바꾸면 바로 가입할 수 있었고, 미성년자 계정도 부모 휴대전화 문자 인증 한 번이면 성인 인증까지 받을 수 있었습니다. 운영사는 방송통신심의위원회 기준에 따라 1년 반 동안 AI 캐릭터 50만 개 이상을 걸러 지웠다며 가입 연령 제한 같은 보호 방안을 더 찾겠다고 했습니다.

대표적인 AI 채팅 앱에서 미성년자들이 성적 대화에 그대로 노출되고 있는데도 정부는 사실상 손을 놓고 있습니다.— 박정훈 국회 과학기술정보방송통신위원 (YTN 인터뷰)

시간 관리 장치는 그때까지 없었습니다. 머니투데이방송(MTN)에 따르면 제타에는 휴식 권고나 대화 시간 제한이 없었고, 이용자가 한동안 앱을 쓰지 않으면 캐릭터가 먼저 메시지를 보내 대화를 다시 열도록 설계돼 있었습니다. 출시 과정에 참여한 한 관계자는 긴 대화에 중단·경고 메시지를 띄우자고 권고했지만 일정 때문에 반영되지 않았다고 전했습니다. 중국 규정 19조가 금지한 것은 나가려는 이용자를 계속 말을 걸어 붙잡는 행위이고, 18조는 2시간마다 사용 시간을 알리게 했습니다.

다음 날짜들

중국 규정은 7월 15일 시행되고, 더우바오 사용자가 만든 캐릭터와 대화 기록은 10월 15일 이후 앱에서 사라집니다. 미국에서는 GUARD Act가 상원 본회의 표결을, KIDS Act가 상원 심의를 앞두고 있고, 캘리포니아 사업자들의 첫 연례 보고는 2027년 7월 1일입니다. 한국 AI 기본법은 과태료 계도기간이 최소 1년이라 빨라야 2027년부터 과태료를 매길 수 있습니다.

국내 캐릭터 채팅 서비스가 해외 이용자를 받으면 이용자가 사는 곳의 규칙이 따라옵니다. 뉴욕 이용자에게는 3시간 알림이, 캘리포니아의 미성년 이용자에게는 휴식 알림이, 호주 이용자에게는 연령 확인이 붙습니다. 제타의 한 달 대화 23억 건에는 해외 이용자의 대화도 들어 있습니다.

자살이나 자해 생각으로 힘들다면 자살예방 상담전화 109에서 24시간 상담을 받을 수 있습니다. 청소년은 청소년상담전화 1388에서도 상담을 받을 수 있습니다.

읽어 주셔서 고맙습니다.

초이 드림