AI로 만든 가짜 콘텐츠 범람...'브랜드 세이프티' 기술 주목
전세계가 생성형 AI 기반의 저품질 콘텐츠, 이른바 'AI 슬롭(AI Slop)' 확산이라는 새로운 위협에 직면해 있다. 식별이 어렵도록 정교하게 생성된 가짜 재난 영상, 정치인 딥페이크, 자극적으로 클릭을 유도하는 콘텐츠가 기승을 부리고 있다. 실제 한국은 국가별 '크리에이터 집중도'(인구 대비 크리에이터 비율)가 34%로 전세계 중 가장 높은 비중을 차지하는 브라질에 이어 2위 수준이다. 즉, 매우 활발한 콘텐츠 생산이 이뤄지고 있는 만큼 AI 슬롭에서 안전하다고만 낙관할 수 없다. AI 저작권 등에서 이슈가 됐던 지브리가 속한 일본의 경우도 예외는 아니다. 총무성 조사에 따르면 일본 광고주의 30.1%가 브랜드 세이프티 관련 피해를 경험했다고 밝혔다. 이런 상황 속에서 일본 총무성은 2025년 6월 '디지털 광고의 적절하고 효과적인 운용을 위한 광고주 대상 가이드라인'을 발표했다. 해당 가이드라인은 2026년 본격 시행을 앞두고 있으며 ▲브랜드 가치 훼손 ▲광고 사기(Ad fraud) ▲디지털 생태계 불건전화 등 핵심 문제를 지적한다. 가이드라인에 따르면 91.8%에 달하는 이용자가 가짜 정보에 노출된 광고는 부정적 인상을 받는다고 응답했다. 하지만 고도화된 영상 분석 기술 없이는 브랜드 세이프티 확보가 사실상 불가능하다는 것이 업계 시각이다. 현 시점 영상 콘텐츠는 전세계 브랜드와 크리에이터들이 집중하는 영역이다. 실제로 구글은 유튜브 20주년을 기념한 리포트에서 하루에 약 2천만 건의 영상이 업로드된다는 통계를 보고했다. 이에 글로벌 플랫폼들도 AI 슬롭 대응에 나섰다. 유튜브는 기능상 허점을 노린 반복 콘텐츠의 수익 창출을 제한하고, 메타는 저품질 콘텐츠 확산 방지를 위한 정책을 도입했다. 핀터레스트는 AI 생성 이미지에 대한 별도 표기 기능을 제공하며, 위키피디아는 AI 생성 콘텐츠에 대해 '신속 삭제' 정책을 도입했다. 플랫폼들이 자율 규제로 대응하는 가운데, 일본은 국가 차원의 접근을 택했다. 품질 관리에 엄격한 일본 특유의 풍조에 따라, 총무성은 시장의 변화에 부응하는 가이드라인을 제시했다. 이에 일본 내 광고회사들도 적극적인 대응을 취하는 모양새다. 현지 최대 규모의 광고사인 '덴츠'는 자사 광고 솔루션에 'Web/App Unsafe List' 블록리스트를 적용하며 위험 콘텐츠 차단을 강화하고 있다. '하쿠호도'는 일본디지털광고품질기구(JICDAQ) 인증 취득과 함께 광고 검증(ad verification) 도구의 활용 방안을 강조했다. 그러나 업계에서는 여전히 AI와 영상 이해에 기반한 콘텐츠 선별에 특화된 기술적 해법이 부재하다는 우려가 제기된다. 기존의 도메인 차단 방식은 텍스트나 이미지 기반 콘텐츠에는 어느 정도 효과를 발휘했지만, 용량과 길이, 변형 가능성이 높은 AI 영상 콘텐츠에는 사실상 무력하다는 지적이다. 실제로 광고주는 수만 개에서 수천만 개에 이르는 영상에 광고를 게재하면서도, 이들 각각의 맥락과 위험 요소를 확인할 수 있는 수단이 전무한 실정이다. 이런 구조적 문제를 해결하기 위한 기술적 접근이 업계 전반에서 논의되는 가운데, 트러스트 앤드 세이프티(Trust & Safety) 분야의 혁신이 주목받고 있다. 현재 T&S 시장을 선도하는 더블베리파이(DoubleVerify)와 IAS는 도메인 차단과 텍스트 기반 필터링으로 디지털 광고의 안전성을 크게 향상시켰다. 하지만 하루 2천만개씩 업로드되는 영상 콘텐츠 시대에는 새로운 접근이 필요하다는 목소리가 커지고 있다. 이런 인식은 T&S 분야의 대표 행사인 'TrustCon 2025'에서도 확인됐다. AI Slop 판별과 차단을 위한 기술적 해법이 시급하다는 공감대가 형성된 가운데, 영상 이해 AI 기술을 소개한 한국의 스타트업 '파일러(Pyler)'도 현장에서 큰 주목을 받았다. 파일러는 시각·음성·텍스트 데이터를 통합 분석해 영상의 맥락을 이해하는 기술을 소개했다. 영상을 학습한 AI가 시각·음성·텍스트를 통합 분석해 실시간으로 콘텐츠의 안전성을 판단해 광고주의 기준에 맞는 안전한 콘텐츠 환경을 운영하는 것이 특징이다. 삼성전자·현대자동차·LG 전자 등 25개 글로벌 기업이 기술을 도입했으며, 엔비디아 인셉션 프로그램을 통한 미공개 기술과 인프라 지원도 받고 있다. 기술 적용의 목소리가 커지는 가운데, 광고업계가 기존 인프라를 활용하면서도 새로운 영상 분석 기술을 어떻게 적용해나갈지가 전세계 Trust & Safety를 대응해나가는 관점에 시사점을 제시하게 될 전망이다. 업계 관계자는 "브랜드 세이프티 확보는 단순한 마케팅 전략이 아니라 기업의 신뢰와 지속 가능성을 좌우하는 핵심 요소"라면서 "특히 영상 콘텐츠가 주류가 되는 시대에 Trust & Safety 관점의 기술적 접근이 브랜드 가치 보호의 핵심 요소로 자리잡을 것으로 보인다"고 말했다.
