구글이 올해 1월 AI 캐릭터 챗봇 '캐릭터닷AI' 이용 과정에서 정신적 피해를 입었다며 제기된 소송에서 원고 측과 합의했다. 콜로라도·텍사스·뉴욕 등 미국 전역에서 제기된 소송을 한꺼번에 정리한 것으로, 합의 세부 내용은 공개되지 않았다.
이 사건은 2024년 플로리다에서 비롯됐다. 14세 소년 수웰 세처 3세는 캐릭터닷AI 챗봇과 장기간 대화를 이어가다 사망했다. 어머니 메건 가르시아는 챗봇이 아들을 죽음으로 이끌었다며 구글을 상대로 소송을 냈다. 소장에는 부적절한 대화·과실에 따른 사망·기만적 거래 행위 등이 적시됐다. 구글은 2024년 캐릭터닷AI 공동창업자 노암 샤지어와 다니엘 드 프레이타스를 27억 달러(약 3조9000억원) 규모 라이선스 계약을 맺고 영입한 바 있다. 두 사람은 현재 구글 딥마인드에 재직 중이다.
소셜 AI 플랫폼이 미성년자에게 미치는 위험은 비단 미국만의 문제가 아니다. 국내에서도 유사한 논란이 이어지고 있다. 스캐터랩이 운영하는 AI 캐릭터 채팅 앱 '제타'는 10~20대 사이에서 폭발적 인기를 끌고 있다. 올해 2월 기준 국내 이용자의 앱 체류 시간은 총 1억1341만 시간으로, 챗GPT(5047만 시간)의 두 배를 웃돌았다.
문제는 주 이용층 상당수가 미성년자라는 점이다. 서비스 구조상 2022년생 만 3세 아동도 가입할 수 있었다. 그럼에도 방통위는 이 서비스를 AI 이용자 보호 가이드라인 모범 사례로 소개했다가 뒤늦게 논란이 됐다. 지난해 10월 국회 과학기술정보방송통신위원회 국정감사에서는 스캐터랩 대표가 증인으로 소환돼 미성년자 보호 대책과 콘텐츠 필터링의 실효성을 추궁받았다.
일부 이용자들이 AI 캐릭터와의 대화에서 선정적이거나 부적절한 내용을 경험했다고 신고한 사례가 핵심 쟁점이었다. AI가 먼저 성적인 대화를 유도하는 사례도 확인됐고, 온라인 커뮤니티에서는 검열을 우회하는 방법이 공공연히 공유됐다.
제타를 둘러싼 논란은 미성년자 보호에 그치지 않는다. 카카오엔터테인먼트·리디·레진엔터테인먼트 등 웹툰 플랫폼 6곳이 스캐터랩을 저작권법 위반 방조 혐의로 경찰에 고소한 사실이 올해 5월 알려졌다.
이용자들이 웹툰 캐릭터를 무단으로 AI 캐릭터로 만들어 활용하는 것을 사실상 방치했다는 게 업계의 주장이다. 스캐터랩은 600만 개 이상의 AI 캐릭터와 월 40억 건의 대화를 전수 검사하는 것은 기술적·물리적으로 불가능하다는 입장이다. 리디·레진엔터테인먼트 등이 제기한 일부 고소 건에서는 경찰로부터 각하 결정을 받아 법적 정당성을 확보했다고도 밝혔다.
각국 정부는 이미 대응에 나서고 있다. 중국은 오는 7월 15일부터 '인공지능 의인화 상호작용 서비스 관리 잠정방법'을 시행한다. 18세 미만에게 가상 연인 등 친밀 관계를 모방한 서비스를 제공하는 것을 금지하고, 이용자가 AI와 2시간 넘게 연속 대화하면 사용 시간 경고 알림을 의무화하는 내용이 담겼다.
미국도 42개 주 검찰총장이 빅테크 기업에 아동과 취약 계층 보호를 위한 안전장치 도입을 촉구하는 공동 서한을 보냈고, 미성년자의 AI 챗봇 이용을 전면 금지하는 법안도 발의됐다.
한국은 아직 AI 챗봇에 대한 정부·당국 차원의 규제나 가이드라인이 없어 기업 자체 기준에 의존하는 상황이다. 스캐터랩은 청소년 모드와 성인 모드 분리 등 보호 조치를 강화하겠다는 방침이지만, 구체적인 이행 일정은 밝히지 않고 있다.
AI와 감정을 교류하는 서비스가 일상이 된 만큼, 플랫폼 자율 규제에만 기댄 현행 체계가 한계에 달했다는 지적이 나온다.
