검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'슬롭'통합검색 결과 입니다. (5건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

AI 콘텐츠 홍수 시대…플랫폼 새 고민은 'AI 슬롭'

생성형 인공지능(AI)이 콘텐츠 제작 문턱을 크게 낮추면서 글로벌 플랫폼들이 새로운 과제에 직면했다. 누구나 손쉽게 이미지와 영상, 음성을 만들 수 있게 된 반면, 반복적이고 완성도가 낮은 이른바 'AI 슬롭'(AI로 만든 디지털 쓰레기)과 AI 스팸 콘텐츠도 빠르게 늘고 있기 때문이다. 22일 관련 업계에 따르면 유튜브와 틱톡 등 글로벌 플랫폼들은 최근 AI 슬롭과 AI 스팸 확산에 대응하기 위해 콘텐츠 관리 정책을 잇달아 손질하고 있다. AI가 만든 '슬롭'…플랫폼의 새 골칫거리 유튜브는 최근 크리에이터 대상 공식 채널 '크리에이터 인사이더'를 통해 '비진정성 콘텐츠' 정책을 구체적으로 설명하고, 저품질·대량 생산 콘텐츠에 대한 수익 창출 기준을 명확히 했다. 유튜브는 반복적이고 획일적인 콘텐츠와 이용자의 감정을 과도하게 자극하는 콘텐츠, AI 페르소나를 활용한 콘텐츠 등에 대한 관리 방침을 제시했다. AI를 제작에 사용했다는 이유만으로 제재하는 것이 아니라, 서사나 창의성이 부족한 콘텐츠를 빠르게 대량 생산하는 이른바 '콘텐츠 팜'을 겨냥한 조치다. 매트 할프린 유튜브 신뢰·안전 담당 부사장은 "AI는 더 많은 고품질 콘텐츠를 만들도록 돕는 훌륭한 도구"라면서도 "같은 기술이 창의성 없는 영상을 대량 생산하는 콘텐츠 생산 방식에도 활용될 수 있다. 우리가 원하지 않는 것은 그런 콘텐츠"라고 밝혔다. 유튜브는 자극적인 콘텐츠에 대해서도 수익 창출 여부를 엄격하게 판단한다. 동물 구조 영상의 경우 구조 행위보다 동물이 고통받는 장면을 부각하는 데 초점을 맞췄다면 광고 수익 창출이 제한될 수 있다는 설명이다. 틱톡도 최근 AI 생성 콘텐츠의 투명성을 높이고 AI 스팸 단속을 강화하는 정책을 내놨다. 틱톡은 AI 생성 콘텐츠에 대한 라벨링과 C2PA 기반 콘텐츠 출처 표시를 확대하고, 정치·시사·의료·금융 등 민감한 분야에서 AI를 활용해 스팸성 콘텐츠를 대량 유포하는 계정에 대한 탐지와 조치를 강화하기로 했다. AI 생성 사실이 확인된 콘텐츠에는 자동 라벨을 부착하고, 유해하거나 플랫폼 정책을 위반한 AI 콘텐츠는 삭제하거나 추천 피드에서 제외한다. 이용자가 콘텐츠의 생성 방식을 확인할 수 있도록 AI 리터러시 관련 안내와 교육도 확대하고 있다. AI 콘텐츠 급증…"플랫폼도 자정 나설 수밖에" 플랫폼들이 잇달아 정책을 손질하는 배경에는 AI 콘텐츠의 급증이 있다. 기즈모도가 인용한 최근 연구에 따르면 유튜브가 신규 이용자에게 추천하는 영상 가운데 약 20%는 저품질 AI 생성 콘텐츠인 것으로 나타났다. 쇼츠에서는 AI로 제작된 영상의 비중이 최대 절반에 달하는 것으로 조사됐다. 다만 플랫폼들도 서비스 내 AI 콘텐츠의 정확한 규모를 모두 파악하기는 쉽지 않은 상황이다. 업계 관계자는 “AI를 활용한 콘텐츠가 얼마나 되는지 정확한 비중을 집계하기는 어렵지만, 최근 생성형 AI 활용이 크게 늘면서 AI 기반 콘텐츠도 자연스럽게 증가하고 있다”며 “관련 법과 제도가 마련되기까지 시간이 걸리는 만큼 플랫폼들이 먼저 자체적인 자정 활동에 나서며 정책을 계속 보완하고 있다”고 말했다. 이어 “저품질 AI 콘텐츠와 AI 스팸이 많아지면 이용자 경험이 나빠지고 결국 이용자가 플랫폼을 떠날 수 있다”며 “플랫폼들도 AI 활용 자체를 막기보다는 양질의 콘텐츠가 더 많이 유통되도록 관리 기준을 지속적으로 고도화할 것으로 보인다”고 설명했다.

2026.07.23 10:58안희정 기자

틱톡 새 이용자 추천 영상 10개 중 6개 '저품질 AI 콘텐츠'

틱톡이 신규 이용자에게 추천하는 영상 10개 가운데 약 6개가 이른바 'AI 슬롭(AI slop)'으로 불리는 저품질 생성형 인공지능(AI) 콘텐츠라는 조사 결과가 나왔다. 특히 어린이를 대상으로 한 콘텐츠에서 AI 생성 영상 비중이 가장 높아 허위 정보 확산과 교육적 악영향에 대한 우려가 커지고 있다. 21일(현지시간) IT 전문매체 더넥스트웹은 동영상 편집 플랫폼 캡윙의 연구를 인용해 새로 만든 틱톡 계정에 노출된 추천 영상 500개 가운데 294개(59%)가 AI 슬롭으로 분류됐다고 보도했다. 캡윙은 AI 슬롭을 AI가 생성한 영상이나 AI 대본·음성을 활용해 제작된 저품질 콘텐츠로 정의했다. 연구진은 총 20개 인기 카테고리에서 1만742개의 틱톡 영상을 분석한 뒤 신규 계정 추천 피드도 별도로 조사했다. 이번 조사에서 틱톡의 AI 슬롭 비중은 같은 방식으로 조사한 유튜브 쇼츠(약 21%)보다 약 3배 높은 것으로 나타났다. 가장 심각한 분야는 어린이 콘텐츠였다. 어린이 카테고리 영상의 57%가 AI 슬롭으로 분류됐으며, 과학·교육(35%), 건강(34%), 역사(34%) 등 정확성이 중요한 분야에서도 AI 생성 콘텐츠 비중이 높았다. 특히 '#CartoonKids' 해시태그에서는 조사 대상 100개 영상 가운데 97개가 AI 생성 콘텐츠였다. '#cartoons'와 '#babysong'은 각각 83%, '#forkids'는 79%를 기록했다. 이들 영상은 인기 캐릭터를 비현실적인 상황에 등장시키거나 사실과 다른 교육 내용을 전달하고, AI 음성과 어색한 애니메이션을 사용하는 것이 특징이다. 숫자를 잘못 가르치는 학습 영상처럼 어린아이들이 오류를 인지하기 어려운 사례도 적지 않은 것으로 조사됐다. 반면 피트니스, 음악, 패션 분야에서는 AI 생성 콘텐츠 비중이 2% 미만으로 상대적으로 낮았다. 연구진은 틱톡 추천 알고리즘이 이용자의 시청 시간과 '좋아요', 팔로우 등을 학습하기 전에는 행동 데이터가 부족해 AI 생성 콘텐츠가 기본적으로 많이 노출되는 것으로 분석했다. 틱톡은 지난해 11월 이용자가 AI 생성 콘텐츠 노출량을 조절할 수 있는 기능을 도입하고 AI 리터러시 강화 정책도 시행했지만, 신규 이용자에게 노출되는 AI 콘텐츠 비중은 여전히 높은 것으로 나타났다. 이와 함께 외신은 틱톡이 최근 아동 보호 문제로도 규제 압박을 받고 있다고 보도했다. 미국 플로리다주는 이달 초 아동 대상 소셜미디어 관련 법률 위반 혐의로 틱톡을 제소했다. 이번 연구는 미성년자가 플랫폼에서 접하는 콘텐츠의 상당수가 AI 생성 저품질 영상이라는 점을 추가적인 문제로 지적했다. 다만 이번 연구는 캡윙이 직접 수행한 조사라는 점에서 한계도 있다. AI 슬롭 분류는 자동 탐지가 아닌 연구진의 수작업 검토를 기반으로 이뤄졌으며, AI 콘텐츠의 정의에도 주관적 판단이 일부 반영됐다고 외신은 전했다. 그럼에도 연구진은 1만여 개 이상의 영상과 신규 계정 추천 영상 500개를 분석한 이번 조사가 현재까지 틱톡 내 AI 콘텐츠 밀도를 가장 폭넓게 분석한 사례 중 하나라고 평가했다.

2026.06.22 14:00안희정 기자

오픈AI, 동영상 생성앱 '소라' 서비스 종료

오픈AI가 비디오 생성 앱 '소라' 서비스를 종료한다. 24일(현지시간) CNN 등에 따르면, 이날 오픈AI는 다른 우선순위에 집중하기 위해 독립형 앱인 '소라'를 종료한다고 발표했다. 오픈AI 대변인은 성명에서 "컴퓨팅 수요가 증가하고 우리가 집중해야 할 분야가 늘어남에 따라, 소라 연구팀은 사람들이 현실적 문제를 해결하는 데 도움이 될 로봇 공학을 발전시키기 위한 시뮬레이션 연구에 계속 집중하고 있다"고 밝혔다. 월스트리트저널(WSJ)에 따르면, 이번 결정은 소비자용 제품에서 기업 고객용 제품으로 개발 방향을 전환하는 오픈AI의 전략이 반영된 처사다. 챗GPT를 개발한 오픈AI는 2024년 2월 소라를 출시했다. 소라는 빠른 동영상 생성 기능으로 칭송받았지만, 허위 정보 유포와 'AI 슬롭' 확산에 일조한다는 비판도 받아왔다. 이후 디즈니와 계약을 체결해 소라의 이용자 제작 AI 영상에 디즈니 캐릭터를 활용할 수 있도록 했으나, CNN은 오픈AI의 이번 발표로 오픈 AI와 디즈니의 계약은 실제로 진행되지 않을 것이라고 보도했다. 디즈니 대변인은 CNN에 보낸 성명에서 "오픈AI가 영상 콘텐츠 제작 사업에서 철수하고 다른 분야에 우선순위를 두기로 한 결정을 존중한다"며 "디즈니는 앞으로도 AI 플랫폼과 협력해 새로운 방법을 모색하는 동시에, 지적 재산권과 창작자 권리를 존중하는 방식으로 새로운 기술을 책임감 있게 도입할 것"이라고 밝혔다.

2026.03.25 09:52홍지후 기자

올해의 단어 '슬롭'…AI로 만든 '황당 영상·가짜뉴스'

최고 전통을 자랑하는 미국 사전업체 메리엄-웹스터가 올해의 단어로 '슬롭(slop)'을 선정했다고 CNBC를 비롯한 외신들이 15일(현지시간) 보도했다. '슬롭'은 원래 '싸구려 음식'이나 '사료용 잔반' 같은 의미로 사용됐다. 하지만 최근 들어선 '저품질 인공지능(AI) 콘텐츠'라는 뜻으로 주로 쓰이고 있다. 웹스터 사전은 슬롭을 “저품질의 디지털 콘텐츠로 주로 AI 기술을 활용해 대량 생산한 것”이라고 규정하고 있다. 최근 메타와 오픈AI 등이 연이어 AI 이미지 생성 프로그램을 선보였다. 메타는 지난 9월 바이브를 내놨으며, 며칠 뒤 오픈AI도 동영상 전용인 소라를 출시했다. 틱톡, 유튜브 같은 기존 플랫폼에 소라와 바이브 등 생성형 AI 전용 동영상 생성 프로그램이 가세하면서 '슬롭'이 폭발적으로 증가했다. 스트리밍 플랫폼 스포티파이는 지난 9월 자사 플랫폼에 올라온 AI 생성 곡 7천500만 개를 제거했다고 밝히기도 했다. 웹스터는 '슬롭'이란 단어가 "흥미롭긴 하지만 다소 우스꽝스러울 뿐 아니라 짜증난다고 느끼는 현상을 담고 있다"고 설명했다. 또 '슬롭'의 사례로는 ▲황당한 영상이나 이상한 광고 이미지 ▲진짜처럼 보이는 가짜 뉴스 ▲AI로 만든 엉성한 전자책 등을 꼽았다.

2025.12.16 08:57김익현 미디어연구소장

AI로 만든 가짜 콘텐츠 범람...'브랜드 세이프티' 기술 주목

전세계가 생성형 AI 기반의 저품질 콘텐츠, 이른바 'AI 슬롭(AI Slop)' 확산이라는 새로운 위협에 직면해 있다. 식별이 어렵도록 정교하게 생성된 가짜 재난 영상, 정치인 딥페이크, 자극적으로 클릭을 유도하는 콘텐츠가 기승을 부리고 있다. 실제 한국은 국가별 '크리에이터 집중도'(인구 대비 크리에이터 비율)가 34%로 전세계 중 가장 높은 비중을 차지하는 브라질에 이어 2위 수준이다. 즉, 매우 활발한 콘텐츠 생산이 이뤄지고 있는 만큼 AI 슬롭에서 안전하다고만 낙관할 수 없다. AI 저작권 등에서 이슈가 됐던 지브리가 속한 일본의 경우도 예외는 아니다. 총무성 조사에 따르면 일본 광고주의 30.1%가 브랜드 세이프티 관련 피해를 경험했다고 밝혔다. 이런 상황 속에서 일본 총무성은 2025년 6월 '디지털 광고의 적절하고 효과적인 운용을 위한 광고주 대상 가이드라인'을 발표했다. 해당 가이드라인은 2026년 본격 시행을 앞두고 있으며 ▲브랜드 가치 훼손 ▲광고 사기(Ad fraud) ▲디지털 생태계 불건전화 등 핵심 문제를 지적한다. 가이드라인에 따르면 91.8%에 달하는 이용자가 가짜 정보에 노출된 광고는 부정적 인상을 받는다고 응답했다. 하지만 고도화된 영상 분석 기술 없이는 브랜드 세이프티 확보가 사실상 불가능하다는 것이 업계 시각이다. 현 시점 영상 콘텐츠는 전세계 브랜드와 크리에이터들이 집중하는 영역이다. 실제로 구글은 유튜브 20주년을 기념한 리포트에서 하루에 약 2천만 건의 영상이 업로드된다는 통계를 보고했다. 이에 글로벌 플랫폼들도 AI 슬롭 대응에 나섰다. 유튜브는 기능상 허점을 노린 반복 콘텐츠의 수익 창출을 제한하고, 메타는 저품질 콘텐츠 확산 방지를 위한 정책을 도입했다. 핀터레스트는 AI 생성 이미지에 대한 별도 표기 기능을 제공하며, 위키피디아는 AI 생성 콘텐츠에 대해 '신속 삭제' 정책을 도입했다. 플랫폼들이 자율 규제로 대응하는 가운데, 일본은 국가 차원의 접근을 택했다. 품질 관리에 엄격한 일본 특유의 풍조에 따라, 총무성은 시장의 변화에 부응하는 가이드라인을 제시했다. 이에 일본 내 광고회사들도 적극적인 대응을 취하는 모양새다. 현지 최대 규모의 광고사인 '덴츠'는 자사 광고 솔루션에 'Web/App Unsafe List' 블록리스트를 적용하며 위험 콘텐츠 차단을 강화하고 있다. '하쿠호도'는 일본디지털광고품질기구(JICDAQ) 인증 취득과 함께 광고 검증(ad verification) 도구의 활용 방안을 강조했다. 그러나 업계에서는 여전히 AI와 영상 이해에 기반한 콘텐츠 선별에 특화된 기술적 해법이 부재하다는 우려가 제기된다. 기존의 도메인 차단 방식은 텍스트나 이미지 기반 콘텐츠에는 어느 정도 효과를 발휘했지만, 용량과 길이, 변형 가능성이 높은 AI 영상 콘텐츠에는 사실상 무력하다는 지적이다. 실제로 광고주는 수만 개에서 수천만 개에 이르는 영상에 광고를 게재하면서도, 이들 각각의 맥락과 위험 요소를 확인할 수 있는 수단이 전무한 실정이다. 이런 구조적 문제를 해결하기 위한 기술적 접근이 업계 전반에서 논의되는 가운데, 트러스트 앤드 세이프티(Trust & Safety) 분야의 혁신이 주목받고 있다. 현재 T&S 시장을 선도하는 더블베리파이(DoubleVerify)와 IAS는 도메인 차단과 텍스트 기반 필터링으로 디지털 광고의 안전성을 크게 향상시켰다. 하지만 하루 2천만개씩 업로드되는 영상 콘텐츠 시대에는 새로운 접근이 필요하다는 목소리가 커지고 있다. 이런 인식은 T&S 분야의 대표 행사인 'TrustCon 2025'에서도 확인됐다. AI Slop 판별과 차단을 위한 기술적 해법이 시급하다는 공감대가 형성된 가운데, 영상 이해 AI 기술을 소개한 한국의 스타트업 '파일러(Pyler)'도 현장에서 큰 주목을 받았다. 파일러는 시각·음성·텍스트 데이터를 통합 분석해 영상의 맥락을 이해하는 기술을 소개했다. 영상을 학습한 AI가 시각·음성·텍스트를 통합 분석해 실시간으로 콘텐츠의 안전성을 판단해 광고주의 기준에 맞는 안전한 콘텐츠 환경을 운영하는 것이 특징이다. 삼성전자·현대자동차·LG 전자 등 25개 글로벌 기업이 기술을 도입했으며, 엔비디아 인셉션 프로그램을 통한 미공개 기술과 인프라 지원도 받고 있다. 기술 적용의 목소리가 커지는 가운데, 광고업계가 기존 인프라를 활용하면서도 새로운 영상 분석 기술을 어떻게 적용해나갈지가 전세계 Trust & Safety를 대응해나가는 관점에 시사점을 제시하게 될 전망이다. 업계 관계자는 "브랜드 세이프티 확보는 단순한 마케팅 전략이 아니라 기업의 신뢰와 지속 가능성을 좌우하는 핵심 요소"라면서 "특히 영상 콘텐츠가 주류가 되는 시대에 Trust & Safety 관점의 기술적 접근이 브랜드 가치 보호의 핵심 요소로 자리잡을 것으로 보인다"고 말했다.

2025.08.27 09:58백봉삼 기자