• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 인터뷰
  • 인사•부음
  • 글로벌뉴스
창간특집
인공지능
배터리
컨퍼런스
칼럼•연재
포토•영상

ZDNet 검색 페이지

'포르노'통합검색 결과 입니다. (3건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

"해킹도 아닌데"...인기 유튜브 채널이 포르노 채널로 바뀐 '뜻밖의' 이유

인기 유튜브 채널이 하루 아침에 포르노 썸네일과 대문으로 바뀐 뒤, 갑자기 삭제되는 황당한 경우가 발생하고 있다. 동영상 내용은 그대로인데 썸네일과 채널 아트워크만 포르노 이미지로 바뀌는 건데, 알고 봤더니 저작권 침해로 인한 수익화 불이익을 피하기 위한 꼼수였던 것으로 드러났다. 저작권 침해로 채널 삭제 조치가 이뤄지면 광고 계정까지 막히지만, 성인물 콘텐츠로 채널이 삭제되면 패널티가 주어지지 않는 유튜브 정책의 허점을 악용한 것이다. 저작권 침해로 인해 채널 삭제 조치가 예상됐을 때, 썸네일이나 채널 아트워크를 포르노 이미지로 바꿔 채널은 삭제되더라도 수익화는 가능하도록 하는 방법이 쓰이는 것. 토렌토프리크·기가진 등 외신에 따르면 유튜브에는 저작권 보호 콘텐츠 검출 시스템이 있다. 이에 해적판 콘텐츠를 업로드해 여러 차례 경고가 누적되면 채널 삭제 조치가 이뤄진다. 그러나 최근에는 썸네일이나 채널 아트워크를 포르노 이미지로 바꿔 저작권 침해가 아닌 형태로 계정을 정지시키고 수익을 확보하려는 채널이 등장했다. 유튜브는 저작권 소유자로부터 송신된 음성 파일과 영상 파일의 데이터베이스를 기반으로 저작권 보호 콘텐츠를 자동으로 특정하는 '콘텐츠 ID' 시스템이 도입돼 있다. 과거에는 유튜브 영상 중에 흘러나온 '세탁기 벨소리'가 저작권 침해로 간주돼 수익화가 정지된 사례도 있었다. 유튜브가 공개한 위반 경고 시스템 설명 영상에 따르면, 98%의 사용자는 유튜브의 커뮤니티 가이드라인이나 저작권 관리 규정을 지키고 있다. 규칙에 위배된 경우도 의도적인 것은 매우 적다고. 유튜브는 '삼진 아웃제'를 도입해 가이드라인을 위반한 동영상이 삭제되는 경우, 우선 1회성의 '주의'를 주고, 1주일간 동영상 업로드나 라이브 방송을 제한한다. 또 1차 경고 후 90일 이내에 2차 경고를 받으면 2주간 새 동영상을 업로드할 수 없게 된다. 2차 경고 후에도 90일 이내에 3차 경고를 받으면 계정이 자동으로 영구 삭제된다. 단, 악질적인 부정행위는 사전 경고 없이 채널 정지가 될 수 있다. 그런데 유튜브의 저작권 침해 대책 시스템을 회피하기 위해 노골적으로 포르노 이미지를 사용하는 사례가 보도됐다. 'MrTech'라는 유튜브 채널은 16만 명 이상의 구독자를 보유하고 있으며, 인기 동영상의 경우 수백만 조회수를 기록했다. 그러나 이달 초 채널 아트워크와 동영상 썸네일이 포르노 이미지로 변경되더니 채널이 삭제됐다. 이는 채널 관리자가 저작권 침해 경고를 연속적으로 받아 채널이 자동으로 영구 삭제되기 전, 스스로 삭제를 유발한 것으로 추정된다. 저작권 침해 때문이든, 포르노 콘텐츠 때문이든 채널이 삭제되는 것은 동일하다. 하지만 수익을 얻기 위해 유튜브 채널과 연결된 구글 애드센스 계정에는 차이가 있다. 저작권 침해로 채널이 삭제되면 구글 애드센스 계정도 영구 정지돼 새로운 채널을 만들어 수익을 얻거나 다른 서비스에서 구글 애드센스를 계속 사용하는 것이 어려워진다. 그러나 포르노 콘텐츠로 채널이 삭제되면 구글 애드센스에 대한 패널티는 발생하지 않는다. 이에 외신은 "유튜브에 문의한 결과 MrTech는 누드·성적 콘텐츠에 관한 정책으로 정지됐다. 저작권 침해에 대처하기 위한 다른 프로그램이 있다는 원론적인 답변만 했다"고 밝혔다. 이어 “유튜브 가이드라인 허점에 대해서는 답하지 않았다”고 덧붙였다.

2024.11.20 15:56백봉삼

이미지 AI 발전 가속…전문가들 "포르노·가짜 뉴스 남용 막아야"

생성 인공지능(AI)의 그림이 정교해지고 이미지 편집 기능이 추가돼 실제 사진과 구분이 점점 어려워지고 있다. 이를 남용하는 사례가 늘면서 윤리적 해결책과 법제화의 필요성이 커지고 있다. 19일 미국의 테크 전문지 벤처비트에 따르면 구글은 최근 미국 시장에서 '이마젠3'를 출시했다. 이는 지난 5월 구글이 해당 모델을 최초로 발표한 후 3개월 만이다. 이에 따라 '이마젠' 사용자들은 텍스트를 입력해 그림을 마음껏 그릴 수 있게 됐다. 업계는 이를 오픈AI의 이미지 생성 모델인 '달리'에 대항하려는 움직임으로 보고 있다. 구글보다 앞서 지난해 10월 오픈AI는 '챗GPT'에 '달리3'를 통합한 멀티모달 모델을 도입했다. 이는 지금까지 유료 이용자들에게만 제공됐던 모델이었지만 지난 15일부터 무료 사용자에게도 하루 최대 2건씩 제공되고 있다. 일론 머스크 엑스(X) 대표의 챗봇 '그록'도 이에 가세했다. 지난 13일 X는 프리미엄 사용자들에게 '그록-2'의 베타 버전을 제공하기 시작했고, 여기에는 이미지 생성 기능도 포함돼 있다. 이들 이미지가 점점 실제와 구분이 안 되는 수준으로 진화하고 있다는 것이 업계 전문가들의 의견이다. 실제로 루르 대학교가 올해 5월 실시한 조사에 따르면 3천명의 연구 참가자 대부분이 AI가 생성한 이미지를 실제 사진으로 착각한 것으로 나타났다. 이제 생성 AI가 단순히 그림을 생성하는 것뿐만 아니라 편집까지 할 수 있어 더 많은 우려를 낳고 있다. 샌프란시스코에 위치한 그림 AI 스타트업인 미드저니는 지난 15일 웹브라우저 이미지 편집기를 공개했는데 이 서비스는 이미지 일부를 다시 칠하거나 경계를 늘리는 등의 아웃페인팅 및 캔버스 확장 기능을 지원한다. 이렇게 이미지 생성 및 편집 AI가 급속도로 발전하면서 가짜 이미지 남용 가능성에 대한 우려가 커지고 있다. 실제로 머스크의 '그록'은 '이마젠'이나 '달리'와 달리 크게 검열되지 않고 있다. 머스크 X 대표가 '세상에서 가장 재미있는 AI'라고 표현한 그록은 프롬프트에 따라 대부분의 이미지를 생성할 수 있다. 외신에 따르면 '그록'은 프롬프트를 따라 테일러 스위프트· 카멀라 해리스 후보의 노골적 성적 대상화 이미지와 911 테러를 저지르는 트럼프 전 대통령의 사진 등을 생성한 바 있다. 전문가들은 검열되지 않는 이미지에 편집 기능까지 더해지면 문제가 더 심각해질 수 있다고 분석한다. AI는 아직도 영어를 제외한 글자들을 제대로 표시하지 못하고 사람의 손가락 같은 복잡한 형태를 그리지 못하지만 기술이 발전할수록 이러한 문제도 해결될 전망이기 때문이다. 이미 유사 기술인 딥페이크의 경우 기술이 고도화되면서 여러 문제가 발생했다. 지난 15일 샌프란시스코시 변호국은 딥페이크 포르노를 생성할 수 있는 사이트들의 폐쇄 조치를 요구하는 소송을 제기했다. 이 사이트들은 오픈소스 생성 AI를 사용해 피해자들의 동의 없이 얼굴을 포르노 영상과 합성하는 등의 문제를 초래했다. 이는 딥페이크 기술이 극도로 고도화되고 상용화가 가능한 수준에 이르렀음에도 관련 규제가 따라오지 못했음을 보여준다. 전문가들은 딥페이크와 마찬가지로 점점 고도화되고 있는 이미지 생성 및 편집 AI에도 신속히 규제를 마련해야 한다고 입을 모은다. 이미지 AI들이 고도의 편집 기능을 통해 성적 대상화 및 가짜뉴스 이미지를 대량생산할 가능성이 크기 때문이다. 이러한 폐해를 방지하기 위해 규제뿐만 아니라 기업들의 기술 개발도 필요하다고 전문가들은 분석한다. 하디 살만 오픈AI 연구원은 "기업들은 AI 도구의 잠재적 위협에 대한 방어 수단을 구축하는 데 투자해야 한다"며 "이를 위해 모델 개발자, 정책 입안자, 소셜미디어 플랫폼 간의 적극적 협력이 필요하다"고 강조했다.

2024.08.19 17:52조이환

"딥페이크 포르노는 혁신 아닌 학대"...美, 16개 웹사이트 제소

"딥페이크 포르노는 혁신 아닌 성적 학대다. 이 문제는 최대한 빨리 해결해야 한다." 생성AI 기술을 이용한 성적 이미지인 '딥페이크 포르노'에 대한 사회적 문제가 커지고 있다. 이에 샌프란시스코 시 변호국은 딥페이크 포르노를 생성할 수 있는 인기 웹사이트 16곳에 대해 폐쇄 조치와 손해배상을 요구하는 소송을 제기했다. 지난 15일(현지시간) 시티 어터니 오브 샌프란시스코(CITY ATTORNEY OF SAN FRANCISCO)와 블룸버그, 기가진 등에 따르면 샌프란시스코 시 법률 대리인 데이비드 치우 변호사는 합의하지 않은 AI로 포르노를 제작하고 배포하는 세계 최대 규모 웹사이트들을 상대로 처음 소송을 제기했다고 발표했다. 이 소송은 샌프란시스코 고등 법원에 제기됐다. 샌프란시스코 시 변호국은 올 상반기에만 총 2억회나 접속한 16곳의 웹사이트에서 이용자가 여성을 누드화할 수 있도록 하는 오픈소스 AI 이미지 생성 모델이 악용됐다고 지적했다. 또 AI가 생성한 딥페이크 포르노 피해자는 심각한 심리적, 경제적 피해를 입고, 인터넷상에 이미지가 확산됨으로써 명예적 피해를 받을 수있다고 우려했다. 이번에 소송을 당한 웹사이트 중 한 곳은 “그녀를 데이트에 데려가는 데 시간을 낭비한다고 상상해 보세요. 그냥 웹사이트에서 알몸(누드)을 구하세요”라고 광고한 것으로 알려졌다. 이 사이트들은 이미지를 생성하기 위해 사용자한테 구독료를 받았는데, 일부 사이트에서는 무료 체험 버전을 제공한 것으로 확인됐다. 그 결과 연간 수백만 개의 딥페이크 포르노가 생성됐고, 대부분은 여성을 대상으로 한 것으로 나타났다. 데이비드 치우 변호사는 “딥페이크 포르노는 혁신이 아니라 성적 학대라는 것을 분명히 해야 한다”면서 “이 문제는 우리가 가능한 빨리 해결할 필요가 있는 중요한 문제”라고 강조했다. 샌프란시스코 시 변호국은 이들 사이트 운영자 약 50명에게 “피해자 동의 없이 딥페이크 포르노를 생성함으로써 주법 및 연방법을 위반하고 있다”면서 웹사이트 폐쇄와 손해배상 지불을 청구했다. 카룬 틸락 부 변호사는 “현시점에서는 이들 웹사이트가 어떤 이미지 생성AI를 사용하고 있는지 명확히 판단할 수 없다”면서도 “그러나 영국의 AI 스타트업인 스터빌러티AI(Stability AI)의 오픈소스 이미지 생성AI인 스테이블 디퓨전의 초기 버전은 이런 딥페이크 포르노 악용에 취약하다”고 설명했다. 치우 변호사는 “우리는 모두 AI를 악용해 어린이를 포함한 실존 인물을 착취하고 학대하는 악질적인 인물을 단속하기 위해 각자의 역할을 다해야 할 의무가 있다”고 밝혔다. 소송의 대상이 된 웹사이트 운영자들은 이번 소송에 대해 별다른 언급이 없었던 것으로 전해졌다.

2024.08.18 09:58백봉삼

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

폴더블 아이폰, 펀치홀 카메라 탑재 유력

배민·요기요, 먹통 뒤 정상화..."금요일 밤 비 내린 탓"

과학자들, 납으로 금 만들었다…'연금술사의 꿈' 실현되나

"북한 해커, 위장취업해 北 송금"…메일 1천개 적발

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현