제작비는 낮고 조회수 수익은 그대로…복제 콘텐츠 확산
허위정보·창작자 피해 커지자 플랫폼도 수익 차단 나서
생성형 AI로 만든 영상과 이미지, 글이 온라인에 쏟아지면서 ‘AI 슬롭(AI Slop)’이 새로운 디지털 문제로 떠올랐다. 몇 번의 명령만으로 콘텐츠를 대량 생산할 수 있게 되면서 사람의 기획이나 검증 없이 만들어진 저품질 콘텐츠가 소셜미디어와 검색 결과를 빠르게 채우고 있다.
AI 슬롭은 생성형 AI를 활용하되 내용의 완성도나 정확성을 확인하지 않고 비슷한 형식의 콘텐츠를 짧은 시간에 반복적으로 생산한 결과물을 가리킨다. 영어 단어 ‘슬롭’은 원래 가축에게 주는 음식 찌꺼기를 뜻한다. 온라인에서는 AI가 마구 쏟아낸 디지털 찌꺼기라는 의미로 사용된다.
대표적인 사례는 AI 이미지와 음성, 자막을 조합한 숏폼 영상이다. 비슷한 장면에 문구만 바꾸거나 사실 여부가 확인되지 않은 이야기를 AI 음성으로 읽어주는 식이다. 어린이를 겨냥한 기괴한 캐릭터 영상과 실제 전문가처럼 보이는 AI 가상 인물이 건강·투자 정보를 전달하는 콘텐츠도 이에 포함된다.
글로벌 동영상 편집 플랫폼 캡윙이 틱톡과 유튜브 신규 계정에 처음 추천된 영상 500개씩을 분석한 결과 틱톡 영상의 59%인 294개가 AI 슬롭으로 분류됐다. 유튜브 쇼츠에서는 21%인 104개가 AI 슬롭으로 나타났다. 신규 이용자가 별도의 콘텐츠 취향을 설정하지 않아도 틱톡 추천 영상의 절반 이상이 저품질 AI 콘텐츠로 채워진 셈이다.
특히 어린이 대상 콘텐츠의 오염도가 높았다. 어린이 관련 해시태그를 사용한 틱톡 영상 2000개 가운데 57%가 저품질 AI 콘텐츠로 조사됐다. ‘#cartoonkids’ 해시태그가 붙은 영상은 100개 중 97개가 AI 슬롭으로 분류됐다.
과학·교육 분야에서도 AI 슬롭 비율이 35%에 달했고 건강과 역사 분야 역시 각각 33.8%, 33.5%로 나타났다. 반면 실제 출연자와 촬영이 필요한 패션, 음악, 피트니스 분야에서는 2% 미만에 그쳤다. 사람의 출연이나 현장 촬영 없이도 영상 제작이 가능한 분야일수록 AI 슬롭이 늘어나기 쉬운 것으로 풀이된다.
적게 들이고 많이 올린다…AI 슬롭이 불어나는 구조
AI 슬롭이 빠르게 늘어나는 가장 큰 이유는 콘텐츠 생산 비용이 크게 낮아졌기 때문이다. 과거에는 영상을 만들기 위해 촬영과 편집, 대본 작성, 음성 녹음 등의 과정이 필요했다. 지금은 이미지 생성 AI와 자동 편집 프로그램, AI 음성을 결합하면 혼자서도 짧은 시간에 여러 개의 영상을 만들 수 있다.
플랫폼의 수익 구조도 AI 슬롭 확산을 부추긴다. 영상의 완성도와 관계없이 조회 수와 체류 시간이 광고 수익으로 연결되다 보니 공들여 한 편을 만드는 것보다 비슷한 콘텐츠를 여러 편 올리는 것이 유리할 수 있다.
특정 AI 영상이 높은 조회 수를 기록하면 같은 형식과 소재를 따라 한 콘텐츠가 잇따라 등장한다. 인기 영상을 만드는 프롬프트와 제작 방식이 온라인에서 공유되면서 제목이나 등장인물만 바꾼 영상이 공장처럼 복제되는 것이다.
추천 알고리즘 역시 이런 콘텐츠를 빠르게 확산시킨다. 자극적인 이미지와 짧은 영상은 이용자의 시선을 끌기 쉽고 높은 클릭률과 반복 재생은 다시 추천 노출로 이어진다. 콘텐츠의 정확성이나 창의성보다 이용자의 반응을 얼마나 빠르게 끌어냈는지가 우선되는 구조다.
저품질 콘텐츠가 다시 AI의 학습 데이터로 사용될 수 있다는 점도 문제로 꼽힌다. 잘못된 정보와 비슷한 문장이 온라인에 계속 쌓이고 AI가 이를 학습해 다시 유사한 결과물을 만들어내는 ‘슬롭 루프’가 형성될 수 있기 때문이다.
AI 슬롭이 늘어날수록 이용자는 정보의 출처와 진위를 판단하기 어려워진다. 특히 의료와 금융, 법률처럼 잘못된 정보가 실제 피해로 이어질 수 있는 분야에서는 문제가 더 크다. AI 가상 인물이 전문가처럼 등장해 확인되지 않은 정보를 전달하더라도 짧은 영상만으로는 실제 전문가인지 구분하기 어렵다.
창작자의 콘텐츠가 추천 경쟁에서 밀려날 가능성도 있다. 사람이 직접 취재하고 촬영한 콘텐츠는 제작에 시간과 비용이 들지만 AI 슬롭은 훨씬 적은 비용으로 대량 생산된다. 플랫폼이 콘텐츠의 품질보다 업로드 빈도와 이용자 반응에 따라 추천한다면 공들여 만든 콘텐츠가 오히려 불리해질 수 있다.
AI 콘텐츠인지 판별하는 것도 쉽지 않다. AI 감지 기술이 발전하고 있지만 글이 짧거나 사람이 작성한 문장과 AI 문장이 섞인 경우에는 오탐 가능성이 있다. AI를 단순히 맞춤법 교정이나 편집 보조에 활용한 콘텐츠와 사람의 개입 없이 대량 생산된 AI 슬롭을 어디까지 구분할 것인지도 명확하지 않다.
삭제만으로 못 막자 ‘돈과 추천’을 끊는 플랫폼
플랫폼들도 AI 슬롭 확산을 막기 위해 정책을 손질하고 있다. 대응의 핵심은 AI 사용 자체를 금지하는 것이 아니라 저품질 콘텐츠가 수익과 추천을 얻기 어렵게 만드는 것이다.
유튜브는 최근 파트너 프로그램의 수익화 기준을 구체화했다. AI나 컴퓨터그래픽을 이용해 내용상 차이가 거의 없는 영상을 기계적으로 대량 생산한 채널은 광고 수익을 얻기 어려워진다. 조회 수를 노리고 자극적으로 연출한 영상과 AI 가상 인물이 금융·의료·법률 분야에서 전문가처럼 조언하는 콘텐츠도 수익화 제한 대상에 포함됐다.
틱톡은 AI 생성 콘텐츠에 자동 라벨을 붙이고 정치·시사·의료·금융 등 민감한 분야에서 AI 스팸을 대량 유포하는 계정의 탐지를 강화하고 있다. 정책을 위반하거나 유해성이 확인된 콘텐츠는 삭제하거나 추천 피드에서 제외한다.
링크드인은 이용자가 저품질 AI 게시물을 직접 신고할 수 있도록 ‘AI 슬롭처럼 보인다’는 신고 항목을 추가했다. AI가 게시물을 대신 써주는 기능은 종료하고 작성자의 문체를 유지하면서 표현만 다듬는 교정 기능으로 바꾸기로 했다.
플랫폼들이 신고 후 삭제하는 방식에서 수익 제한과 추천 배제로 대응을 전환한 것은 AI 콘텐츠의 생산 속도를 사후 관리만으로 따라가기 어렵기 때문이다. 저품질 콘텐츠를 찾아 하나씩 지우는 대신 이를 제작해도 돈을 벌거나 노출을 얻기 어렵도록 구조를 바꾸겠다는 것이다.
다만 플랫폼이 AI 콘텐츠 노출 조절과 신고 기능을 이용자에게 제공하는 것만으로는 충분하지 않다는 지적도 나온다. 신규 계정의 기본 추천 피드부터 AI 슬롭 비율이 높다면 저품질 콘텐츠를 걸러내는 책임을 이용자에게 떠넘기는 결과가 될 수 있기 때문이다.
