• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
AI페스타
배터리
양자컴퓨팅
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'페이크'통합검색 결과 입니다. (123건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

국내 정치·연예계도 '딥페이크' 몸살…퇴출 만만찮네

인공지능(AI) 기술로 제작된 딥페이크 영상과 이미지가 국내외 정치계와 연예계에서도 기승을 부리고 있다. 해외에선 AI로 만든 콘텐츠에 꼬리표를 붙이는 등 퇴치를 위해 노력하고 있지만 여전히 마땅한 해결책이 보이지 않고 있다. 22일 서울경찰청은 윤석열 대통령 모습을 담은 딥페이크 영상을 발견했다고 밝혔다. 현재 방송통신심의위원회에 페이스북과 틱톡에 업로드된 '가상으로 꾸며본 윤 대통령 양심 고백 연설' 딥페이크 콘텐츠 삭제를 요청한 상태다. 경찰청은 "인스타그램을 비롯한 페이스북, 틱톡 사용자가 해당 딥페이크 영상을 동일한 링크 주소로 퍼뜨린 것을 확인했다"며 "현재 삭제·차단을 요청한 상태다"고 설명했다. 방심위는 내일 통신심의소위원회를 개최하고 해당 안건을 심의함으로써 콘텐츠를 삭제·차단할 예정이다. 정부는 1월 29일부터 AI 기반 딥페이크를 활용한 선거운동을 전면 금지했다. 그럼에도 딥페이크 활용 정치 콘텐츠가 연이어 등장하고 있다. 중앙선거관리위원회 발표에 따르면, 지난달 29일부터 이달 16일 사이 딥페이크를 활용한 선거 운동 행위로 공직선거법을 위반한 사례는 129건이다. 딥페이크는 정치계뿐 아니라 연예계까지 강타하고 있다. 유명 연예인의 얼굴과 음성을 조작해 영상을 제작하는 식이다. 이를 활용해 투자를 권유하는 사기 범죄가 발생하는 추세다. 올해 초 조인성, 송혜교 얼굴과 음성으로 딥페이크를 만들어 투자를 권유하는 사기 범죄가 발생하기도 했다. 영상 속 두 연예인은 행사 개최에 대한 인사말을 남기고 투자를 권유하는 멘트를 했다. 그러나 해당 영상은 가짜 영상인 것으로 드러났다. 제작자는 이를 활용해 투자자들에 접근했고, 유명 연예인이 자신의 투자 프로젝트에 참여하고 있다고 거짓말을 한 셈이다. 현재 경찰이 해당 사건을 수사 중이다. 경찰 측 설명에 따르면 가짜 영상을 믿고 돈을 투자하다가 피해 본 사례가 점차 느는 추세다. 해외서 딥페이크 규제 위한 공개 서한 시작…벤지오 교수 포함 해외 전문가들은 딥페이크가 민주주의의 최대 위협 요소라며 위기의식을 가져야 한다고 목소리를 높이고 있다. 외신들에 따르면 AI 석학 요슈아 벤지오 캐나다 몬트리올대 교수 등 600명 넘는 전문가와 일반 시민들이 딥페이크에 강력한 규제가 적용돼야 한다는 서한에 서명했다. AI 기술로 만든 콘텐츠가 인간을 속임으로써 사회적 혼란을 심각히 야기하고 있다는 이유에서다. 서한 명단에는 벤지오 교수를 비롯해 뉴욕대 게리 마커스 뉴욕대 명예교수, 하버드대 스티븐 핑거 심리학 교수가 포함됐다. 오픈AI와 구글 딥마인드 연구원도 서명했다. 이들은 딥페이크가 사회적인 위협을 일으킬 것이기 때문에 이를 막기 위해 공급망 전반에 강력한 의무를 부과해야 한다고 주장했다. 모든 딥페이크 아동음란물을 불법으로 규정하고, 딥페이크를 특정 의도로 온라인에 퍼뜨릴 경우 처벌을 받도록 해 달라는 요청도 담겼다. 이런 움직임이 일고 있는 것은 지난해부터 딥페이크가 해외 정치계와 연예계에 급속히 퍼졌기 때문이다. 특히 올해 대선을 앞둔 미국이 딥페이크로 몸살을 앓고 있다. AI 기반 가짜 영상이 급속히 온라인에 퍼지면서 미국 여론에 치명타를 입혔다. 미국 팝가수 테일러 스위프트의 딥페이크 가짜 광고를 비롯한 조 바이든 대통령의 딥페이크 음성, 수갑 찬 트럼프 전 미국 대통령의 가짜 이미지가 연달아 확산됐다. 현재까지 딥페이크를 명확히 차단할 방안은 마련되지 않았다. 글로벌 빅테크가 딥페이크를 차단하기 위해 AI로 만든 영상과 이미지에 특정 꼬리표를 붙이는 방식이 전부다. 다만 어떤 이미지와 영상에 해당 꼬리표를 붙여야 하는지 명확한 기준은 없다. 꼬리표를 기술적으로 지울 수 있을뿐더러 기업마다 적용하려는 꼬리표 유형, 부착 방식, 적용 기술 모두 달라 실효성 우려가 나오고 있다.

2024.02.22 17:32김미정

20개 빅테크 "선거 망치는 딥페이크 공동 대응"

마이크로소포트, 메타, 구글을 비롯한 20개 기술 기업들이 딥페이크를 비롯한 인공지능(AI)을 활용 허위 정보에 공동 대응하기로 했다. 협약에 참여한 기업들은 자신들의 플랫폼에서 유포되는 허위정보를 탐지해 '꼬리표'를 붙이고, 다른 기업들과 모범 사례를 공유하기로 했다. CNBC를 비롯한 외신들에 따르면 주요 20개 기술 기업들은 16일(현지시간) 독일에서 개막된 뮌헨안보회의(MSC)에서 이 같은 내용의 합의문을 발표했다. 이번 협약에는 마이크로소프트, 메타, 구글을 비롯해 아마존, IBM, 어도비, ARM 등이 참여했다. 챗GPT로 유명한 오픈AI와 스태빌러티AI 등 AI 분야 신흥 강자들뿐 아니라 틱톡, 스냅, X도 이번 서명에 동참했다. 이번 협약에 참여한 기업들은 초거대 AI 모델의 위험성을 산정하고, 자신들의 플랫폼에서 유포되는 각종 허위 정보를 탐지하는 등의 대책을 마련하기로 했다. 특히 이들은 자신들의 플랫폼에서 허위정보를 탐지해 '꼬리표'를 붙이는 등의 방법을 동원하기로 했다. 이와 함께 협약에 참여한 다른 기업들과 모범 사례를 공유하기로 했다. CNBC에 따르면 켄트 워커 구글 국제 관계담당 사장은 “안전한 선거는 민주주의의 기반이다”면서 “이번 협약은 AI를 활용한 선거 허위정보로 신뢰를 무너뜨리는 행위에 함께 대응하기 위한 것이다”고 강조했다. 이들은 특히 딥페이크에 주목했다. '딥러닝'과 '가짜(fake)'의 합성어인 딥페이크는 AI 기술을 기반으로 한 이미지 합성 기술을 의미한다. 실제로 미국에선 지난 해 바이든 대통령이나 도널드 트럼프 전 대통령의 영상을 이용한 교묘한 딥페이크 때문에 논란이 일기도 했다. 특히 선거 국면에서 딥페이크를 이용해 상대 후보를 비방하는 등의 행위를 할 경우 선거에 치명적인 영향을 미칠 가능성이 있어 대책 마련이 시급한 상황이다. 하지만 이번 협약은 합의 내용이 모호할 뿐 아니라 구속력이 없기 때문에 실제 선거 국면에서 얼마나 효과를 발휘할 지 의문이라는 비판도 만만치 않다고 외신들이 전했다.

2024.02.17 09:09김익현

에버스핀, 피플펀드에 악성앱 피싱방지 솔루션 '페이크파인더' 공급

인공지능(AI) 보안기업 에버스핀(대표 하영빈)은 온투업 전문기업 피플펀드(대표 이수환)에 악성앱 피싱방지 솔루션 '페이크파인더'를 공급한다고 15일 밝혔다. 피플펀드는 2015년 창립 이래 대출-투자 연계로 약 1조9천억원을 취급했다. AI 리스크 관리 기술, 100% 비대면 주택담보대출 프로세스 등 지난 8년 간 수백억을 미래 금융 기술에 집중 투자했다. 지난해부터는 AI 신용평가기술력을 기반으로 AI 리스크 관리 솔루션 '에어팩'을 업계 최초로 개발, B2B 영역으로 사업을 확장하고 있다. 롯데카드·전북은행 등 국내 대형금융사 7곳에 솔루션 공급 계약을 체결한 데 이어 해외 진출 기회도 모색하고 있다. 앞으로 페이크파인더를 탑재한 피플펀드앱을 사용자가 실행하면 해당 사용자 스마트폰에 악성 앱이 있는지 확인하고, 악성앱이 발견되면 피플펀드 앱에서 악성 앱 종류와 위험을 안내메시지로 알리고 삭제를 돕는 프로세스로 운영된다. 에버스핀 관계자는 “최근 예측하기 어려운 보이스피싱과 스미싱 범죄를 원천 차단하기 위해 온투업 리딩기업 피플펀드에서 선제적으로 페이크파인더를 도입했다”며 “온투업 서비스를 이용하고 있는 앱 사용자에게 금융기관 못지않은 금융거래 환경을 제공한 사례라 할 수 있다”고 전했다. 페이크파인더는 국내 점유율 1위 악성앱 피싱 방지 솔루션으로 KB국민은행·카카오뱅크·현대카드·한화생명·삼성화재·한국투자증권·SBI저축은행 등 국내 45개 금융 기업이 도입한 솔루션이다. 에버스핀 관계자는 “페이크파인더는 월간 순 이용자수(MAU)가 4천300만명에 이른다”며 “이는 국내 금융 인구 대다수가 금융거래를 할 때 적어도 한 번씩은 페이크파인더로 보호를 받고 있다고 해도 과언이 아니다”고 밝혔다. 한편, 에버스핀은 2014년 설립 이래로 세계 최초 다이나믹 보안기술을 통해 전방위 엔드포인트 보안 솔루션을 제공하고 있다. 2018년에는 보안 업계 최초 200억원대 해외투자를 유치했다. 현재는 국내 뿐 아닌 일본·인도네시아 등 현지 대기업과 협력해 세계 시장으로 점유율을 확대해 나가고 있다.

2024.01.15 15:28주문정

  Prev 1 2 3 4 5 6 7 Next  

지금 뜨는 기사

이시각 헤드라인

트럼프 "11월부터 중국에 100% 추가관세 적용"

"호요버스 IP 총출동"… 킨텍스 뒤덮은 '호요랜드 2025'의 열기

국정감사에 통신사 CEO 줄소환...빅테크 인사도 상당수

'트럼프 관세폭탄'에 나스닥 3.6% 하락…4월 이후 최악

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.