검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'딥 체인지 2.0'통합검색 결과 입니다. (230건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

올 상반기 딥페이크 범죄 726건…노드VPN, 개인정보 보호 강조

#. 최근 부산의 한 중학교에서 남학생들이 같은 학교 여학생과 교사들에 대한 딥페이크 불법 합성물 80장 이상 제작해 인터넷에 유포했다. 이같은 딥페이크 범죄 사례는 올해 들어 국내에서 빈번히 발생하고 있다. 여성가족부에 따르면 올해 상반기 동안 발생한 딥페이크 성범죄 피해 접수 건수는 총 726건으로, 이 중 53%가 해외로 유포된 것으로 알려졌다. AI 기술을 활용한 범죄가 늘고 있는 가운데 노드VPN이 개인 정보 보호와 사전 예방의 중요성을 강조했다. 11일 노드VPN에 따르면 딥페이크와 음성 복제 기술을 활용한 범죄는 국내 뿐 아니라 전 세계적에서 확산되고 있다. 특히 소셜 미디어에 노출된 개인 정보가 범죄에 활용되고 있어 주의가 요구된다. 딥페이크 기술은 AI를 활용해 실제처럼 조작된 영상과 이미지를 생성한다. 이 기술이 금융 사기나 성착취물 제작에 이용되는 사례가 점점 증가하고 있다. 범죄자들은 유명인뿐만 아니라 일반인의 얼굴과 목소리를 복제해 사기 행위를 벌이는 중이다. 음성 복제 기술 역시 가족이나 친구를 사칭하는 사기 수법으로 악용되고 있다. 범죄자들은 AI를 통해 피해자의 목소리를 복제한 뒤 금융 정보를 요구하는 방식으로 피해를 유도한다. 이러한 AI 범죄는 기술 발전에 따라 점점 정교해지고 있으며 일반인들이 진위를 구분하기 어렵다는 점에서 문제가 심각하다. 특히 피해자들이 자신도 모르게 범죄에 휘말리는 경우가 많아 주의가 필요하다. 노드VPN은 딥페이크 범죄를 예방하기 위해 의심스러운 전화는 즉시 끊고 출처가 불분명한 링크는 클릭하지 않을 것을 권장했다. 또 검증되지 않은 앱은 다운로드하지 말 것을 권고했다. 이외에도 소셜 미디어에 공개된 개인 정보를 신중하게 관리할 것을 당부했다. 아드리아누스 바르멘호벤 노드VPN 사이버 보안 고문은 "기술이 빠르게 발전하면서 사후 대응보다 예방이 중요해졌다"며 "개인 정보 보호에 대한 경각심을 가져야 피해를 줄일 수 있다"고 강조했다.

2024.09.11 11:11조이환

유튜브, AI가 만든 딥페이크 목소리·얼굴 잡는다

우리나라뿐만 아니라 전 세계적으로 딥페이크 기술을 활용한 악성 콘텐츠 제작과 유포가 사회적 문제로 떠오르고 있는 가운데, 유튜브가 크리에이터와 파트너들을 보호하기 위해 이를 막는 기술을 선보인다. 최근 유튜브는 자사 블로그를 통해 AI로 합성된 목소리나 유명인의 얼굴 등 딥페이크 기술이 악용되는 사례를 막는 도구를 개발했다고 알렸다. 먼저 유튜브는 합성된 노래를 식별할 수 있는 기술을 개발했다. 이를 통해 유튜브 파트너들은 유튜브 상에서 자신의 노래 목소리를 모방하는 AI 생성 콘텐츠를 자동으로 감지하고 관리할 수 있다. 회사는 현재 파트너들과 이 기술을 개선 중이며, 내년 초에는 파일럿 프로그램을 선보일 수 있을 전망이다. 또 크리에이터나 배우, 음악가, 운동선수까지 다양한 분양의 유명인들이 유튜브에서 자신의 얼굴을 딥페이크 한 AI 생성 콘텐츠를 감지하고 관리할 수 있는 기술을 개발 중이다. 회사는 "이 기술은 최근 회사가 선보인 개인정보보호 업데이트와 함께 AI가 유튜브에서 사람을 묘사하는 데 사용되는 방식을 관리하는 강력한 도구가 될 것으로 보인다"고 평가했다. 아울러 유튜브는 허용되지 않은 접근을 탐지하고 방지하는 시스템에 투자를 지속하면서, 무단으로 스크래핑 등 콘텐츠를 활용하는 이들의 접근을 차단하는 조치를 이어나가겠다고도 했다. 유튜브는 "크리에이터에게 제3자가 유튜브 플랫폼에서 자신의 콘텐츠를 사용하는 방법에 대한 선택권을 제공하는 새로운 방법을 개발하고 있다"며 "연말에 더 많은 내용을 공유할 예정"이라고 말했다.

2024.09.08 13:30안희정

유튜브, 딥페이크 콘텐츠 탐지 기술 개발

유튜브가 영상과 음성을 AI로 제작하는 딥페이크 논란에 맞서기 위해 이를 탐지하는 기술을 개발하고 있다는 소식이다. 우선 음성 딥페이크 방지 기술은 내년 초에 내놓겠다는 계획이다. 이를 통해 크리에이터와 아티스트를 보호하면서 책임감 있는 AI를 구현한다는 목표다. 7일(현지시간) 폰아레나에 따르면, 유튜브의 암자드 하니프 크리에이터프로덕트 담당 부사장은 합성된 노래를 식별할 수 있는 기술 개발을 마쳤고 유튜브에서 자신의 노래를 모방하는 AI 생성 콘텐츠를 감지할 수 있다고 밝혔다. 이같은 기술은 파일럿 형태로 내년 초에 선보인다는 계획이다. 가짜 음성 인식과 함께 얼굴 모습을 베낀 AI 영상을 탐지하는 기술 개발을 진행하고 있다. 크리에이터들의 콘텐츠 저작권 보호를 위해 시작된 생성 AI 콘텐츠 탐지 기술이 최근 국내서 벌어지고 있는 딥페이크 디지털성범죄 피해 방지에 쓰일 수 있게 된 것으로 풀이된다. 암자드 하니프 부사장은 “AI가 진화하면서 인간의 창의성을 대체할 것이 아니라 향상시켜야 한다고 믿는다”며 “책임감 있는 혁신이 번성하는 환경을 조성하는 데 집중하겠다”고 밝혔다.

2024.09.08 08:17박수형

여당, 딥페이크 디지털성범죄 대응 특위 구성...위원장에 안철수 의원

국민의힘이 딥페이크에 대응하기 위한 별도 조직을 꾸렸다. 국민의힘은 6일 원내대책회의에서 정책위원회 산하에 '딥페이크 디지털 성범죄 대응 특별위원회'를 구성했다고 밝혔다. 특위는 국회 여성가족위원회, 행정안전위원회, 과학기술방송통신위원회 소속 의원들이 주로 참여했다. 위원장은 4선 안철수 의원이 맡았다. 이인선 여가위원장을 수석부위원장으로 부위원장은 김승수, 유상범, 조은희, 최형두 의원이 참여한다. 또 위원으로 김장겸, 박충권, 서지영, 이달희, 최수진 의원과 이수정 경기대 교수가 참여할 예정이다. 추경호 원내대표는 원내대책회의에서 “국민의힘은 심각한 사회적 문제인 디지털 성범죄에 적극 대처하고자 딥페이크 디지털 성범죄 대응 특별위원회를 구성하겠다”며 “특위 구성은 경기 성남 분당갑의 4선 의원인 안철수 의원을 위원장으로 하고 관련 국회 상임위 위원과 전문가 등을 포함해 총 12명으로 구성하고자 한다”고 말했다.

2024.09.06 11:24박수형

"텔레그램 채널 딥페이크 유통, 현행법 규제 적용 검토"

딥페이크 논란을 두고 방송통신위원회가 텔레그램에서 유통되는 디지털성범죄물을 현행법으로 삭제 차단하는 방안을 검토한다. 신영규 방통위 방송통신이용자정책국장은 5일 국회서 열린 딥페이크 관련 정책토론회에 패널로 참석해 “텔래그램의 채널 서비스는 카카오톡 오픈채팅과 비슷한 서비스로 사실상 불특정 다수에 (디지털성범죄물을) 유통한 것으로 볼 여지가 있어 전기통신사업법으로 규제할 수 있는지 검토하고 있다”고 밝혔다. 현행 전기통신사업법 22조5항에 따르면 정보통신망을 통해 일반에 공개돼 유통되는 정보에서 불법촬영물 등은 방통위가 해당 플랫폼 사업자에 삭제를 명령할 수 있다. 그간 텔레그램은 사적 대화방으로 여겨지며 법 적용에서 배제되곤 했는데, 딥페이크 논란과 관련해서는 그간의 대화 방식이 아니라 '채널' 형태로 전기통신사업법의 규제 요건에 해당된다고 볼 수 있다는 뜻이다. 신영규 국장은 “(텔레그램에 대해) 규제집행력을 확보하는 것이 문제인데 방송통신심위원회와 연락이 닿아 사과도 받았고 삭제 조치도 이뤄졌다”며 “소통 창구가 확보됐으니 향후 어떻게 규제할 것인지 계기를 마련하게 됐다”고 설명했다. 그는 또 “딥페이크 제작물의 유통도 문제지만 피해자의 신상정보가 함께 유통되고 있는데 2차, 3차 피해를 차단하기 위해 방통위설치법을 개정해 방심위가 신속심의에 나설 수 있도록 하는 방안을 검토하고 있다”고 밝혔다. 이어, “생성형 AI에 대한 저작물에 워터마크를 표시하는 방안도 있고, 서비스를 이용하는 문제도 있지만 기술을 제공하는 사업자 입장에서 이 부분에 대해 인공지능의 위험을 관리할 필요성도 크다”며 “AI의 위험성과 부작용으로부터 이용자를 보호하기 위해 AI이용자보호법을 준비하고 있다”고 강조했다. 부가통신사업자의 불법촬영물등 유통방지를 위한 기술‧관리적 조치 이행점검을 방통위 예산으로 진행하고 있는데 관련 예산을 증액해 디지털성범죄 모니터링으로 방심위에 신고하고 사업자에 삭제 요청으로 차단하는 방안도 주요 방법으로 꼽혔다. 신 국장은 “방통위 차원에서 할 수 있는 일과 별도로 정부 전체 차원에서 범정부 대응이 총리실을 중심으로 TF가 운영되고 있는데, 여기서 종합적인 대책방안이 만들어지면 신속한 조치를 취하겠다”고 말했다. 한편 이날 국회 과학기술정보방송통신위원회는 딥페이크 논란과 관련해 성범죄영상물을 근절해야 한다는데 여야가 뜻을 모아 긴급 정책 토론회를 열었다.

2024.09.05 18:19박수형

"피해자 절반이 韓 여성"…샌즈랩, 딥페이크 범죄 막기 위해 앞장섰다

최근 딥페이크를 활용한 범죄가 급증하며 사회적으로 큰 문제가 되고 있는 가운데 샌즈랩이 국민들의 불안감을 잠재우기 위해 이를 탐지하는 서비스를 무료로 제공한다. 샌즈랩은 생성형 인공지능(AI) 역기능 중 하나인 딥페이크를 탐지하는 서비스 '페이크체크'를 출시했다고 4일 밝혔다. 페이크체크는 사용자가 직접 웹사이트에 접속해 딥페이크가 의심되는 이미지를 업로드하면 수 초 내로 위조 진위 여부를 분석해 판별 결과를 알려준다. 남녀노소 누구나 쉽게 서비스를 이용할 수 있도록 회원가입이나 인증 등 번거로운 절차들을 없애고 순수한 기능에 집중했다. 이 서비스는 무료로 제공되며 누구나 이용 가능하다. 샌즈랩은 현재 국민들이 직면한 사회적 이슈에 조금이나마 도움을 보태기 위해 해당 서비스를 자체 구축하고 유지하는데 드는 클라우드 서비스 등의 모든 비용을 사회 공헌 차원에서 직접 부담하기로 했다. 당장의 서비스 수익보다 딥페이크로 인한 2·3차 피해 확산 방지가 우선이라는 판단에서다. 실제 우리나라는 딥페이크 피해에 취약한 상태다. 미국의 사이버보안 업체 시큐리티 히어로가 최근 발표한 '2023 딥페이크 현황 보고서'에 따르면, 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트 게시물 9만5천820건을 분석한 결과 피해자의 53%가 한국인이었다. 대부분 가수와 배우 등 연예인이었고, 가장 큰 피해를 본 것은 한국인 가수로 나타났다. 이들은 딥페이크 성착취물 1천595건에 등장했고 총 조회수는 561만 회였다. 이에 샌즈랩은 디지털 범죄 근절과 국민 불안을 불식시키기 위한 사회적 기업 차원에서의 책임감에 따른 노력의 일환으로 서비스를 민간에 개방했다. 이곳은 당초 생성형 AI 역기능 탐지 및 대응 기술에 대한 연구개발을 통해 페이크체크와 같은 기능의 국민 체감형 플랫폼을 구축하는 국가 과제를 수행하고 있었다. 그러나 착수 이후 반년도 채 지나지 않은 시점에서 AI 역기능이 사회적 문제로 심화되자 이처럼 결정했다. 페이크체크는 다양한 AI 모델을 활용해 사람의 얼굴 이미지의 위·변조 여부 판별이 가능하도록 개발됐다. 범죄 예방 목적의 서비스다 보니 사람 얼굴 외 동물이나 사물의 딥페이크 이미지는 판별하지 않는다. 샌즈랩 관계자는 "다만 완전히 개발이 완료된 서비스가 아닌 일종의 오픈 베타 테스트 버전 형태로 출시됐다"며 "이 때문에 지속적인 의견 수렴과 업데이트를 통해 탐지 대상 확대나 탐지율 향상은 물론 영상의 위·변조 여부 판별까지 추후 지원할 것"이라고 설명했다. 김기홍 샌즈랩 대표는 "페이크체크 서비스는 딥페이크 침해 사고에 대한 대응책이 필요한 사회적 기대에 부응하기 위해 임직원들이 한마음 한뜻으로 만들어낸 실질적인 대안 확보 사례"라며 "이번 서비스 출시로 수행 중인 과기정통부 정보통신기획평가원의 정보보호핵심원천기술개발사업인 생성형 AI 역기능 억제를 위한 국민 체감형 플랫폼 구축 토대를 견고히 다져 미래 사이버 보안을 위한 AI 기술 개발로 사회에 이바지할 수 있도록 앞장서겠다"고 밝혔다.

2024.09.04 17:00장유미

방심위 "텔레그램에 요청한 디지털성범죄물 25건 삭제"

방송통신심의위원회는 최근 텔레그램 측에 삭제 요청한 25건의 디지털성범죄영상물이 삭제됐다는 통보를 받았다고 3일 밝혔다. 방심위에 따르면 텔레그램은 이날 이메일을 보내 "최근 한국 당국이 저희 플램폼에서 불법 콘텐츠를 다루는데 어려움을 겪고 있다는 언론보도를 알게 됐다"며 "그동안 한국 당국으로부터 접수된 신고를 성실 하게 처리하고 있었기에 현재와 같은 상황 전개는 매우 안타깝게 생각한다. 오해의 소지가 있었다면 사과 한다”고 밝혔다. 또 “한국 사용자들에게 텔레그램을 더욱 안전하게 만들기 위해 방심위와 신뢰관계 구축을 희망한다”고 덧붙였다. 텔레그램 측은 새로운 전용 이메일을 공개하기도 했다. 방심위 측은 "텔레그램 측의 전향적인 입장 표명에 대해 환영하고, 이번에 열린 전용 이메일을 시작으로 핫라인을 구축하여, 본격적 현안 해결은 물론, 디지털성범죄영상의 궁극적 퇴출을 위한 공고한 협력관계를 다져나가기를 기대한다"고 말했다.

2024.09.03 17:17안희정

"성착취물로 협박하면 5년이상 징역"…이달희, 아동·청소년 성보호 법 개정안 발의

국회 여성가족위원회 소속 국민의힘 이달희 의원은 강화된 처벌 규정을 담은 아동·청소년의 성보호에 관한 법률 개정안을 대표발의 했다고 3일 밝혔다. 이 개정안은 최근 딥페이크 성범죄 피해가 심각해지면서 아동·청소년 성착취물을 이용해 사람을 협박한 자는 5년 이상의 유기징역에 처하도록 하는 등의 내용을 담았다. 경찰청에서 제출한 자료에 따르면, 10대 피의자는 2021년 51명에서 2023년 91명으로 증가했고, 같은 기간 10대 피해자는 2021년 53명에서 2023년 181명으로 3배 이상 증가했다. 또한 여성가족부의 '2023년 아동·청소년 대상 성범죄 발생추세 및 동향 분석 자료 '에 따르면, 가해자가 어떠한 방식으로 피해 아동·청소년의 성적 이미지를 유포하겠다고 협박한 사건의 비율은 2019년 8.5%에서 2022년 20.8%로 크게 증가했다. 그러나 현행법에는 아동·청소년 성착취물을 이용한 협박·강요에 대한 처벌 규정을 별도로 두고 있지 않아, 현재 발생하고 있는 딥페이크를 이용해 제작된 아동·청소년 성착취물로 사람을 협박한 경우 '성폭력범죄의 처벌 등에 관한 특별법'에 따른 처벌만이 가능한 상황이다. 이 의원은 "특히 판단력이 취약한 아동과 청소년을 대상으로 성착취물을 이용해 사람을 협박하는 행위는 성인을 대상으로 하는 행위에 비해 더 죄질이 중하다”며, “아동·청소년 성착취물을 이용해 사람을 협박한 자는 5년 이상의 유기징역에 처하도록 하는 등 강화된 처벌규정을 신설했다"고 설명했다. 이어 "성착취물을 비롯한 아동·청소년 성착취물 이용 범죄에서 아동과 청소년을 더욱 강하게 보호하고, 앞으로도 아동·청소년 대상 성범죄의 법적 사각지대 해소 위해 노력할 것"이라고 재차 강조했다.

2024.09.03 16:19안희정

딥페이크 성범죄물로 초·중·고 다 초토화…"벌금 아닌 '징역'으로"

"딥페이크 성범죄물로 초·중·고가 다 초토화됐다. 교사들까지 교단이 서지 못하겠다고 한다. 카카오톡 프로필에 사진도 못 올린다. 해외 사례를 참고해 수사력과 형량을 강화해야 한다." 최근 딥페이크 기술을 활용해 지인이나 유명인의 사진으로 성착취영상물을 만들어 공유하는 범죄가 큰 논란이 되고 있다. 그러자 허위 성착취물 제작뿐 아니라 유포도 성인 성착취물이나 아동·청소년 성착취물 제작 유포와 동일한 수준으로 형량이 강화돼야 한다는 주장이 나왔다. 또 위장수사 제도를 개관해 수사력을 강화해야 한다는 대책도 제시됐다. "소지만 해도 처벌…해외 사례 참고해 형량·수사력 강화해야" 3일 오전 조은희 국민의힘 의원과 한국여성인권진흥원 주최로 국회에서 열린 '딥페이크 디지털성범죄 예상과 대응책 마련을 위한 정책 토론회' 발제를 맡은 이수정 경기대학교 범죄심리학과 교수는 "여성가족부가 여러 채팅앱을 모니터링하고 있는데, 여기서 디지털성범죄 현황을 쉽게 발견할 수 있다"며 "다만 모니터링 업무를 한 다음 플랫폼에 권고를 하는 정도의 한계가 있다. 텔레그램과 같은 해외에 서버를 둔 플랫폼들은 국내법으로 어떻게 할 수가 없다"고 토로했다. 이 교수에 따르면 영상채팅앱에서 디지털성범죄가 발생하고 있고, 몇 분 이상 영상채팅을 할 경우 여성 이용자에게 코인이나 하트 등 포인트가 지급된다. 받은 포인트는 일정 수준 이상 모았을 때 수수료를 떼고 현금이나 기프티콘으로 환전을 할 수 있는데, 여기서 10대들의 얼굴이나 신체 사진이 노출되면서 딥페이크 성착취물 제작에 이용될 수 있다. 이 교수는 "텔레그램 문제만이 아니다. 이미 딥페이크 성착취물을 본 22만명 중 의도를 갖고 있는 가해자들은 토르라는 다크웹으로 옮겨가고 있다"면서 "N번방 때부터 예견된 일이었는데, 계속해서 전 세계적으로 유례없는 많은 피해자들이 양산되고 있다. 해외 사례를 보며 형량 강화와 플랫폼 규제를 강화해야한다"고 강조했다. 이 교수는 허위영상물도 실제 성착취물과 동일한 수준으로 형량을 강화해야 한다고 강조했다. 허위영상물 유포 절반이 집행유예 수준인데, 형량을 강화하는 데 그치는 것이 아니라 실효성 있는 처분으로 이어지도록 할 필요가 있다는 설명이다. 이 교수는 "실제 성착취물처럼 소지나 구입, 저장, 시청도 처벌해야한다"며 "다수 피해자를 만들거나 재범인 경우 징역 이상의 형벌을 내려야 한다"고 단언했다. 또한 해외 사례를 참고해서 온라인 플랫폼 책임을 강화하는 것이 중요하다고도 덧붙였다. 예를 들어 미국의 경우 '딥페이크 책임법'이 지난해 만들어져 성 관련 콘텐츠를 통해 모멸감이나 수치심을 주는 경우, 벌금형 또는 5년 이하의 징역형을 내린다. 캘리포니아주 민법을 보면 디지털 기술로 기만적인 영향 등을 제작·공개·유포 시 최대 3만 달러(약 4천만원), 악의적 불법행위는 15만 달러(약 2억원)까지 손해배상을 청구할 수 있게 돼있다. 이 교수는 "현행법상 딥페이크 성착취물은 '성폭력처벌법' 제14조의2 및 아동·청소년 성보호법 제11조로 처벌 가능하지만, 성폭력처벌법의 경우 딥페이크 성착취물을 반포 목적으로 제작·배포한 경우만 처벌하고 시청하거나 소지한 경우는 처벌할 기준이 없다"며 "처벌을 강화해야 한다"고 강조했다. 그러면서 "해외 사례와 같이 플랫폼 규제를 통해 딥페이크 허위 영상물에 대한 규제 및 예방이 필요하다"면서 "AI와 같은 급진적으로 발전하는 기술에 대한 교육이 필요하다"고 덧붙였다. 이 교수는 "딥페이크 통제는 국가의 미래가 달린 일이다. 불안한 상태면 사람들은 사회적인 접촉을 끊고 이는 저출산과도 밀접한 연관이 있다"며 "처벌 강화는 당연한 것이고, 수사력을 강화해 위장수사를 성인 성착취물과 허위영상물로 확대하고, 피해자 수사 지원도 확대해야 한다"고 역설했다. 사후승인제도 신설하고 피해자보호 지원·관련 교육도 필요 함영욱 경찰청 사이버범죄수사과 과장 또한 위장수사 4년 차를 맞아 이를 더 활성화하고 수사과정에서 나타나는 공백을 보완하기 위한 제도 개선이 필요하다고 말했다. 함 과장은 "피해자가 성인인 경우에도 선제적, 적극적 위장수사가 가능하도록 성폭력처벌법을 개정해서 대상범죄 범위를 확대할 필요가 있다"면서 "야간이나 공휴일에도 긴급한 경우 사전 승인을 받지 않더라도 신속히 신분비공개수사가 개시될 수 있도록 개선해야 한다"고 주장했다. 예를 들어 공휴일에 성착취물을 유포하는 텔레그램방을 발견했음에도 신분비공개수사 사전승인을 받고자 대기하다가 해당 방이 없어지는 불상사가 일어나는 것을 막기 위해서다. 지금은 아동과 청소년 대상으로 하는 디지털 성범죄에 한정하고, 범의유발형 함정수사는 허용되지 않는다는 한계를 극복해야 한다는 취지다. 이 밖에도 함 과장은 학생과 학부모를 대상으로 딥페이크 성범죄 예방교육·홍보활동· 신종유형 범죄에 대한 첩보를 수집하고, 삭제나 차단 요청과 심리상담 지원 등 피해자보호 지원도 실시한다고 강조했다. 함 과장은 "이번 기회에 전 국민이 공분할 수 있는 범죄에 대해서는 대책 마련에 강하게 드라이브 걸고, 추진하도록 하겠다"고 말했다. 정진권 서울시교육청 민주시민생활교육과 과장은 학교뿐만 아니라 가정에서도 이와 관련해 관심을 갖고 디지털윤리나 디지털리터러시 교육에 힘써야 한다고 밝혔다. 정 과장은 "학교에서도 성착취물과 관련한 교육을 진행하지만, 공교육에 대한 신뢰와 권위가 낮아지며 제대로 된 교육 효과가 쉽게 나타나지 않고 있다"며 "학교와 교사에 대한 신뢰 확보와 부모의 관심이 필요하다"고 조언했다. 이수정 교수 또한 "초등학교 때 코딩 교육, 봇기술 등을 아이들이 습득하는데, 우리나라 교육에서는 현재 기술만 전달하지 이같은 기술의 발달로 발생할 수 있는 최악의 결과물을 공유하지 않는다"며 "교육부에서도 교육이 기본적인 목적을 고민해봐야 한다. 국가적인 과제다"라고 강조했다.

2024.09.03 15:08안희정

잡코리아, AI가 개인에 딱 맞는 공고 추천해준다

잡코리아는 딥러닝 모델 기반의 더 편리하고 고도화된 'AI 추천' 서비스를 선보인다고 3일 밝혔다. AI 추천 서비스는 AI 알고리즘 기반으로 구직자 대상 이력서, 행동패턴을 수집해 최적화된 맞춤형 채용 공고를 제공하는 서비스다. 재직 중인 회사의 직무, 지역, 근무 조건과 경력사항 등을 반영한 '개인화 추천', 구직자들이 관심있는 공고의 행동패턴을 활용한 '유사공고 추천' 등 다양한 정보를 제공한다. 이번 서비스 개선은 잡코리아가 보유한 2천400만 건 이상의 구직자 데이터를 학습한 딥러닝 기술이 적용돼 개인별 요구에 적합한 맞춤형 서비스를 제공하는 것에 중점을 뒀다. 검색이력이나 이력서 등 기존 데이터 기록이 없는 신규 회원에게도 성향, 기업·직무 선호도 등을 추정해 개인 유형에 맞는 공고를 추천해준다. 딥러닝을 도입해 양질의 데이터의 양, 다양성 및 속도를 대폭 개선해 합격률이 높은 공고를 추천한다. 또 AI 추천 공고의 노출 영역을 확대하여 서비스 메인 화면뿐만 아니라 공고 뷰, 마이페이지, 입사지원 현황 등 다양한 영역에서 볼 수 있게 했다. 추천 리스트에는 '합격축하금' 카테고리가 추가돼 합격축하금이 지원되는 원픽 공고를 한눈에 볼 수 있어 편리하다. AI 추천 서비스는 잡코리아 패밀리 브랜드인 알바몬에서도 이용 가능하다. AI가 추천하는 활동내역을 분석하여 추천 공고를 제안하는 '활동내역매칭', 이력서에 따른 맞춤 알바를 추천하는 '프로필매칭' 등 편의 서비스를 제공한다. 잡코리아 관계자는 "구직자와 구인기업간 매칭 성공률을 높이기 위해 AI 추천 서비스를 개선했다"며 "앞으로도 AI 활용 기술을 지속 강화해 정교한 매칭 서비스를 제공하기 위해 계속 노력하겠다"고 말했다.

2024.09.03 10:45백봉삼

고동진, 포괄적 딥페이크 방지 및 처벌법 국회 제출…"소지만 해도 처벌"

국회 산업통상자원중소벤처기업위원회 소속 국민의힘 고동진 국회의원은 '포괄적 딥페이크 방지 및 처벌법(형법 개정안)'을 2일 국회에 제출했다고 3일 밝혔다. 개정안은 딥페이크 제작물을 유포 목적이 아니더라도 당사자의 의사에 반해 제작(판매, 유포 및 이용 포함)하거나, 해당 제작물을 소지, 구입, 시청해 당사자의 명예를 훼손한 자를 처벌할 수 있게 하는 내용을 골자로 한다. 최근 인공지능(AI) 기술을 악용한 딥페이크 범죄가 무분별하게 확산되고 있는 가운데, 지난달 미국 캘리포니아 주의회가 AI를 활용해 딥페이크 아동 성착취물을 제작, 배포, 소지하는 행위를 불법으로 규정한 법안을 통과시켰고, 영국의 경우 올해 4월 영상물이나 이미지를 유포할 의사가 없었다 해도 당사자의 동의 없이 딥페이크 영상물 등을 제작하는 경우 처벌할 수 있도록 법을 개정하는 등 세계 각국이 '딥페이크 방지 및 처벌'을 위한 입법을 신속히 추진하고 있다. 하지만 국내법의 경우 '폭력범죄의 처벌 등에 관한 특례법'에서는 유포할 목적에 한정하여 처벌할 수 있도록 해 유포했다는 사실이 제대로 입증되지 않은 경우 처벌할 수가 없고, 이를 소지, 구입, 시청한 경우에는 처벌할 수 있는 근거 자체가 없는 상황이다. 또한, 딥페이크가 성범죄 외 음성 등 AI보이스 피싱 사례에 악용될 수 있지만, 이를 예방 및 방지할 수 있는 법률적 근거가 미약한 실정이다. 향후 정치인들과 선거에 딥페이크 기술을 악용할 여지까지 차단해야 한다는게 고동진 의원의 지적이다. 이에 고동진 의원은 ▲AI 기술을 이용한 딥페이크 제작물을 유포 목적이 아니더라도 당사자의 의사에 반해 제작(판매, 유포 및 이용 포함)하거나, ▲해당 제작물을 소지, 구입, 시청해 당사자의 명예를 훼손한 자에 대한 처벌 근거를 마련함과 동시에, ▲성범죄의 영상물뿐만 아니라 선거 등 타 분야, AI보이스 피싱 등 음성과 사진에 대한 딥페이크 규제 및 처벌 규정을 신설해 '포괄적인 딥페이크 방지 및 처벌'이 가능하도록 하는 형법 개정안을 대표발의했다. 해당 위법사실의 경우 5년 이하의 징역 또는 5천만원 이하의 벌금에 처한다. 고동진 의원은 “딥페이크 기술이 실제와 구분이 어려울 정도로 정교해지고 있어 이를 효과적으로 방지하고 엄격히 처벌할 수 있는 법적 근거 마련이 시급하다”며 “신속한 입법을 통해 딥페이크 범죄의 사각지대 문제를 해결하겠다”고 말했다.

2024.09.03 00:45안희정

방심위, 딥페이크 성범죄영상물 ARS 신고·상담 '패스트트랙' 도입

방송통신심의위원회는 최근 텔레그램 등을 통해 유포되고 있는 딥페이크 성범죄영상물 피해의 신속한 구제를 위해 2일 오전 9시부터 ARS 신고/상담 'FAST TRACK'을 도입・시행했다고 3일 밝혔다. 1377 ARS의 경우, 단계별・유형별 안내멘트 청취 후 상담 직원을 연결하는 과정을 합리적으로 단축해 피해자 친화형 서비스인, 이른바 'FAST TRACK(패스트트랙)'으로 전환했다. 구체적으로는, 1377 연결 후 안내멘트를 최소화하여 바로 전용 신고/상담 서비스(3번)를 선택할 수 있도록 했다. '패스트트랙' 도입을 통해, 상담 직원 연결까지 약 2분이 단축되는 등 365일, 24시간 '원스톱 올인원(One stop All-in-one) 서비스'를 신속하게 제공받을 수 있게 됐다. 스마트폰을 이용해 전자민원 창구에 접속하는 신고자를 위해서는 한 화면 내에서 필수적인 안내사항 확인은 물론, 모든 신고를 원스톱으로 할 수 있도록 모바일 연동형 홈페이지 이용 환경을 최적화했다. 방심위 측은 "향후에도 신고자의 의견을 적극 수렴하고, 그 눈높이에 맞춰 민원 서비스 전반을 지속적으로 개선해 나갈 계획"이라고 말했다.

2024.09.03 00:34안희정

딥페이크 성범죄 기승..."처벌도 규제도 깜깜"

최근 텔레그램에서 발생한 딥페이크 성범죄에 대해 실질적 처벌이 어려울 것으로 전망되고 있다. 해외 플랫폼은 국내 사법권의 영역에 해당하지 않아 적극적인 수사 협조를 기대하기 어려운 탓이다. 이에 플랫폼 사업자가 불법 콘텐츠를 감시·감독할 수 있도록 플랫폼에 책임을 부여하는 것이 가장 실효성 있는 방안이라는 주장이 나오고 있다. 반면 규제가 국내 플랫폼에 만 편중돼 해외 기업과의 역차별이 발생할 수 있다는 우려도 적지 않다. 텔레그램 딥페이크 성범죄 가해자, 처벌 어려워 최근 딥페이크 성범죄가 기승을 부리며 가해자 처벌에 대한 요구가 커지고 있다. 김현수 부산대 법학전문대학원 교수는 "범죄자를 처벌해서 향후 범죄 발생을 예방하는 것이 기본적 이야기"라며 "절도를 하면 처벌받는다는 것을 다 알듯, 딥페이크 성범죄를 저지르면 처벌이 따른다는 것을 모두 알 수 있도록 해야 한다"고 말했다. 그러나 가해자에 대한 빠른 검거와 처벌은 쉽지 않을 것이라는 의견이 다수다. 성폭력범죄처벌에대한특례법 제14조의2 등 딥페이크 성범죄를 처벌할 법규는 존재하나, 해외 플랫폼에서 벌어진 범죄에 대해 가해자를 특정하기가 쉽지 않은 탓이다. 법무법인 로하스 강현구 변호사는 "수사기관에서 범인을 추적하려면 계정 명의자들에 대한 압수수색을 통한 IP 추적 등이 필요하다"며 "그런데 텔레그램은 외국에 서버를 두고 있기 때문에 국내 수시기관의 요구에 응할 의무가 없어 범인 추적이 쉽지 않다"고 설명했다. 이어 "가해자가 자기 주변 사람을 대상으로 딥페이크 영상을 만든 경우 촬영 장소 등 단서를 통해 가해자를 특정할 수도 있겠지만, 피해자가 공인인 경우 영상에서 가해자에 대한 단서를 찾을 수 없어 검거가 더욱 어렵다"고 덧붙였다. 지난 29일 방송통신심의위원회는 파벨 두로프 텔레그램 최고경영자(CEO)를 수사 중인 프랑스 당국에 긴급 공조 요청을 보냈다. 프랑스 수사당국과의 접촉 채널을 확보해 텔레그램 문제에 적극 대응하겠다는 의지를 보인 것이다. 그러나 국가 간 수사 공조에 딥페이크 성범죄 가해자 처벌과 관련해 큰 기대를 걸기는 어려운 상황이다. 국가 간 수사 공조는 통상적으로 시간이 오래 걸릴 뿐더러, 정부의 외교적 역량에 따라 변수가 존재하기 때문이다. 이상직 법무법인 태평양 변호사는 "과거 정부에서 도박사이트를 제재할 때도 해외에 서버를 둔 사이트 단속의 경우 해외와의 공조가 신속하게 되지 않았다"며 "사법에 대해 국제적·외교적 통로를 거치는 것은 보통 시간이 많이 걸린다"고 설명했다. 이어 "나라마다 법 체계도 다르고 국가 간 이해관계가 영향을 미치는 등 공조여부는 외교적인 역량에 달린 부분도 많다"고 덧붙였다. 플랫폼 사업자 책임 강화가 가장 현실적이나...국내 플랫폼 역차별 우려 딥페이크 성범죄 재발 방지를 위해 플랫폼 사업자의 감시·감독 의무를 강화하는 것이 가장 현실적인 대안이라는 목소리도 있다. 이준호 동아대 미디어커뮤니케이션학과 교수는 "딥페이크가 부정적 결과로 이어질 경우 그것을 유통한 플랫폼도 일정 정도의 책임을 져야 한다"고 말했다. 이 교수는 "지금은 플랫폼에 대한 자율규제가 아주 느슨하기 때문에 플랫폼에게 무거운 책임을 요구하기 애매한 상태"라면서 "플랫폼이 딥페이크 성범죄를 자율적으로 규제하도록 자체 규정을 만들도록 하고 이것을 규제기관에서 모니터링하는 방안이 필요하다"고 밝혔다. 강현구 변호사는 "플랫폼 사업자에 대해 의무를 부과하는 것이 그나마 실효성 있는 방안"이라며 "불법 딥페이크 영상이 플랫폼을 통해서 유포되는 것이니, 플랫폼 운영자들에게 차단 조치를 취하도록 하는 수밖에 없다"고 했다. 다만 플랫폼에 대한 규제를 마련한다고 해도, 이를 해외 플랫폼에 적용하기에는 한계가 있다는 게 문제다. 강현구 변호사는 "국내에서 많이 사용하는 X, 인스타그램, 페이스북 등 플랫폼은 국내 사법권이 닫지 않는 영역"이라고 말했다. 김현수 교수는 "규제가 국내에만 적용된다고 하면 국내 플랫폼에 대한 역차별이 될 수 있다"고 우려했다. 실제로 국내 플랫폼 업계에서는 플랫폼에 대한 규제 강화 시 국내 플랫폼에 대한 역차별이 발생할 것을 우려하고 있다. 익명을 요구한 업계관계자는 "사실 딥페이크 등 범죄가 발생하는 곳은 주로 해외 플랫폼"이라면서 "국내 플랫폼에도 규제를 강화하는 것은 적절한 대안이 아니라고 생각하며, 근본적 해결책이 될 수 없다고 본다"고 강조했다.

2024.09.02 20:50조수민

"딥페이크 등 디지털범죄 막아야"…조국혁신당, 법안 준비

텔레그램 단체대화방 딥페이크 성범죄 사건이 전 국민의 공분을 사고 있는 가운데, 조국혁신당이 딥페이크 성범죄물을 막기 위한 입법을 준비 중이라고 밝혔다. 조국혁신당 여성위원회 소속인 이해민 의원, 신장식 의원, 김준형 의원, 김재원 의원, 김선민 의원, 강경숙 의원, 정춘생 의원은 2일 오후 국회 소통관에서 기자회견을 열고 디지털 범죄로부터 국민을 보호하기 위해 입법뿐만 아니라 정책 마련에도 힘쓰겠다고 강조했다. 딥페이크 성범죄물 제작이 이루어진 텔레그램 대화방이 초·중·고등학교, 대학교, 군대 등을 비롯한 다양한 집단에서 확인되고 있고, 불특정다수가 모인 대화방 한 곳에는 22만명이 넘는 참가자가 있었다고 알려졌다. 경찰청에 따르면 지난해 딥페이크 영상물 성범죄 피의자의 75.8%가 10대였다. 조국혁신당은 "N번방 사건과 관련 2021년 법무부는 디지털성범죄대응전문위원회를 만들었고, 서지현 전 검사 등이 적극적인 활동을 벌여 60개가 넘는 법률개정안을 권고하는 성과를 냈지만 윤석열 정부는 취임 직후 전문위원회를 강제 해산시켰다"며 "경찰의 '텔레그램이라 잡기 어렵다', '탈퇴계정이라 잡기 어렵다', '우회IP라 잡기 어렵다'는 변명은, 윤석열 정부가 모두의 노력을 물거품으로 만들어버렸다는 방증"이라고 비판했다. 그러면서 "디지털성범죄대응전문위원회가 활동을 이어갔더라면, 디지털성범죄가 이렇게 들불처럼 청소년에게까지 번지지는 않았을 것"이라며 "성평등 가치를 확산시켜 성범죄를 예방하고 관련 피해자 보호에 앞장서야 할 여성가족부는 존폐 기로에 서 있고 대통령 후보 시절, 여성가족부 폐지를 공약했던 윤석열 대통령은 여가부를 해체하겠다는 사람들을 장관에 임명했다"고 꼬집었다. 조국혁신당은 방송통신심의위원회가 디지털 성범죄를 끝내겠다고 강조했던 '불법 영상물에 대한 공공 DNA DB 구축 및 필터링 사업'에 대해서도 지적했다. 이들은 "방심위는 현재까지 아무런 결과도 내놓지 못했다"라며 "방심위는 이제라도 책임을 지고 사업자들과 디지털성범죄 생성과 유통 예방을 위한 규제방안을 마련해야 한다"고 말했다. 아울러 과학기술정보통신부에도 디지털 권리장전 선언만이 아니라, 구체적인 실행계획을 내놓아야 하며, 딥페이크 성범죄 영상에 대한 신속한 차단 조치와 영상물을 통제하고 식별하는 기술적 보완은 물론, 피해자 보호를 위한 기술적 제도 보완을 함께 만들어야 한다고 조언했다. 또한 철저한 수사를 통한 범죄자 처벌, 현실적인 피해자 지원 및 보호 정책을 마련해야 한다고도 덧붙였다. 조국혁신당은 "딥페이크 문제를 비롯한 모든 디지털 범죄로부터 국민을 보호하기 위한 입법을 준비하고 있다"며 "나아가 사회적 약자가 차별받거나 소외되지 않도록 평등의 가치를 확산하기 위한 정책을 마련하는 데에 총력을 기울일 것"이라고 말했다.

2024.09.02 16:22안희정

[현장] '99년생' 딥마인드 前 연구원 "AI 시대, 창작자 보호 없으면 미래도 없다"

"인공지능(AI) 기술이 발전함에 따라 창작자들의 지적재산권(IP)이 끊임없이 위협받고 있습니다. 기존 법률 시스템만으로는 이 문제를 효과적으로 해결하기 어렵습니다. 이 문제를 해결하고자 스토리 프로토콜(Story Protocol)을 공동창업했습니다. 이번 행사도 창작자 보호와 공정한 보상을 위해 마련됐습니다." 제이슨 자오 스토리 최고 프로토콜 책임자(CPO)는 2일 성동스페이스 에스원에서 개최된 '프로그래머블한 지적재산권(PIP) 서울' 행사에 참가한 후 기자와 만나 이같은 포부를 밝혔다. 스토리는 창작자들이 자신의 작품을 보호하고 수익을 내도록 돕는 웹3(Web3) 기반 플랫폼이다. 지난 2022년 옥스포드 대학 출신의 이승윤 대표가 웹소설 플랫폼 '래디시(Radish)'를 약 5천억원에 카카오엔터테인먼트에 매각한 다음 창업한 이 플랫폼은 창작물의 소유권과 사용 기록을 투명하게 관리한다. 스토리 공동창업자로서 이번 행사의 전반적 기획과 운영을 총괄한 자오 CPO는 1999년생으로, 지난 4년간 AI 업계의 최전선에서 프로젝트들을 주도해왔다. 스탠포드 대학교 시절 컴퓨터 비전 선구자인 페이페이 리 교수의 랩에서 연구했으며 이후 딥마인드에서 거대언어모델(LLM) 개발에 앞장섰다. 자오 CPO는 딥마인드에서의 경험이 창업의 주요 원인이 됐다고 밝혔다. 초창기 LLM을 연구하며 AI가 IP에 미칠 수 있는 심각한 파급력을 목격한 것이 영향을 줬다. 생성 AI가 그림을 그리거나 텍스트를 창작하는 것을 보며 그는 이 기술이 창작자의 권리를 위협할 수 있다는 점을 가장 빠르게 인지했다. 그는 "기술이 창작업계에 미칠 엄청난 파급력에도 불구하고 당시 딥마인드에서는 이 문제에 크게 주목하지 않았던 것으로 기억한다"며 "이 때 느낀 문제의식으로 창작자들을 보호할 방법에 대해 고민하게 됐다"고 밝혔다. 그의 걱정은 선견지명이었다. 지난 2022년 11월 '챗GPT'가 출시되고 이후 그림·영상 생성 AI가 등장하면서 많은 창작업계 종사자들이 실질적인 두려움을 느끼기 시작했기 때문이다. 실제로 지난해 할리우드에서 벌어진 대규모 파업은 AI 기술의 창작물을 무단 사용에 대한 항의에 의해 촉발됐다. 상황의 심각성에도 이러한 문제는 기존의 법률적 접근만으로 해결하기 어렵다는 것이 점점 명확해졌다. 법적 절차가 디지털 시대의 빠른 정보 확산 속도를 따라가지 못했기 때문이다. 자오 CPO는 "트럼프 후보의 암살 시도 사진은 단 1초 만에 찍혔지만 삽시간에 인터넷으로 퍼져나가 밈, 뉴스, 심지어는 티셔츠 로고가 됐다"며 "이런 시대에 변호사가 한 명이 아니라 1천 명이 붙는다고 해도 기존의 법률적 방식만으로는 재빠른 IP 확산에 대응하기 힘들다"고 설명했다. 디지털 시대의 정보 확산 속도와 복잡성에 대응하기 위한 방안으로 블록체인 기술을 꼽았다. 이 기술은 자동화된 권리 집행과 투명한 기록을 제공하기 때문이다. 자오 CPO는 "기술과 법률을 통합해 창작자들이 자신의 IP를 주도적으로 관리하고 수익을 창출하도록 하는 것이 목적"이라며 "다양한 플랫폼과 협력해 창작자들이 더 쉽게 IP를 보호하고 수익을 극대화하도록 지원하겠다"고 밝혔다. 이번 행사도 이러한 기조를 따라 마련됐다. 'PIP 서울' 행사에는 에마드 모스타크 스테이블 디퓨전 창업자 외에도 오픈소스 운영체제 개발사인 아나콘다의 피터 왕 대표와 아카시 산지 월드코인 제품 총괄 등 저명한 AI·IP 업계 인사들이 참석해 탈중앙화된 AI 생태계와 창작자 보호를 위한 방안을 논의했다. 자오 CPO는 "이번 행사에 참여한 AI 기업들은 오픈 소스와 같은 열린 방식의 생태계를 지향하며 창작자 보호와 공정한 보상을 추구하고 있다"고 밝혔다. 그러면서 "물론 구글과 오픈AI와 같은 폐쇄형 생성 AI 기업들과 경쟁하는 것은 쉽지 않은 과제"라면서도 "창작자 보호의 중요성이 부각되고 이를 위한 기반이 형성된다면 결국 빅테크에게도 도움이 되는 공생형 생태계가 구축될 것"이라고 강조했다.

2024.09.02 16:12조이환

시청자미디어재단, 딥페이크 예방 미디어교육 확대

시청자미디어재단은 전국 초중고 100개교에서 운영하고 있는 미디어교육 프로그램에 딥페이크 범죄 예방 교육을 의무적으로 시행한다고 밝혔다. 이 교육은 딥페이크 기술의 이해, 딥페이크 범죄 유형 대과응 방법, 인공지능의 윤리적 활용 등을 다루며 총 2시간 이내로 구성될 예정이다. 최근 미국의 사이버보안 회사인 시큐리티히어로가 발표한 '2023 딥페이크 보고서'에 따르면 한국은 딥페이크 범죄에 가장 취약한 국가로 지목됐다. 보고서는 지난해 상위 10개의 포르노 웹사이트와 85개의 유튜브 채널에 게시된 딥페이크 콘텐츠를 분석한 결과, 해당 콘텐츠에 등장하는 인물 중 53%가 한국 국적의 인물인 것으로 나타났다. 특히 SNS를 활발히 이용하는 10대 청소년들이 주요 피해자로 떠오르면서 이에 대한 대응책 마련이 시급한 상황이다. 미디어교육은 청소년들이 딥페이크의 위험성을 인식하고 이를 예방하는 데 핵심적인 역할을 할 수 있다. 재단은 딥페이크 범죄를 비롯한 미디어 역기능에 대한 예방 및 대응 교육의 필요성을 깊이 인식하고, 이를 반영한 대책을 마련했다. 최철호 이사장은 "딥페이크 범죄는 기술적 발전과 함께 점차 고도화되고 있어, 이에 대한 사회적 대응이 시급하다"며 "국민 스스로가 미디어 역량을 강화하고, 인공지능 기술의 윤리적 활용을 숙지하는 것이 중요하다"고 말했다. 재단은 딥페이크 범죄의 실태와 문제점을 담은 온라인 교육 콘텐츠를 제작하고, 시청자권익보호플랫폼 미디인을 통해 딥페이크 피해 관련 상담 사례를 제공하는 등 전방위적인 교육 활동을 지원할 계획이다.

2024.09.02 14:29박수형

경찰, 텔레그램 법인 내사 착수

경찰이 텔레그램 법인에 대한 내사에 착수했다. 딥페이크를 활용한 성범죄물 방조 혐의를 적용했다. 2일 우종수 경찰청 국사수사본부장은 정례 기자간담회에서 "텔레그램 법인에 대해서 성폭력처벌법 위반(허위영상물 편집·반포) 방조 혐의로 입건 전 조사(내사)를 진행 중"이라고 밝혔다. 텔레그램 법인을 직접 수사한 전례는 지금까지 없었다. 경찰은 또한 지난 한 주 동안 딥페이크 피해 88건이 접수됐고, 이 중 특정된 피의자는 24명이라고 설명했다. 그러면서 "올해 1~7월 접수된 피해신고는 297건으로 주당 평균 10건이 안 됐는데, 지난주에만 88건이 접수됐으니 거의 10배 수준으로 증가한 것"이라고 덧붙였다. 올해 7월까지 특정된 피해자는 총 51명이다. 우 본부장은 "텔레그램이 계정정보 등 수사 자료를 우리뿐만 아니라 미국 등 다른 국가 수사기관에도 잘 주지 않는다"며 "텔레그램을 이용한 범죄를 지금까지 전혀 검거하지 못한 것은 아니다. 저희 나름의 수사기법이 있어 최선을 다해 수사하는 중"이라고 말했다. 이어 "프랑스 수사당국이나 각종 국제기구 등과 공조해 이번 기회에 텔레그램 수사를 할 수 있는 방법을 찾아보겠다"고 강조했다.

2024.09.02 14:13안희정

美서도 딥페이크 범죄에 '시끌'…캘리포니아, AI 악용 막기 위한 새 법안 제정 임박

미국 캘리포니아 주가 인공지능(AI) 범죄에 칼을 빼 들었다. 미성년자 딥페이크 성범죄·선거 허위 정보 확산 등에 AI가 쓰이는 문제를 최대한 막기 위해서다. 2일 AP통신 등 외신에 따르면 미 캘리포니아 주 하원 의회는 AI 안전 대책 법안 투표를 완료해 오는 9월 말 주지사의 승인을 기다리고 있다. 하원의원들은 그간 딥페이크 법안 제정에 공을 기울였다. 이 법안에는 미성년자 딥페이크 성범죄에 대해 AI로 아동 성적 학대 이미지와 비디오 제작하는 행위 자체를 금지한다는 내용이 포함됐다. 현행 캘리포니아주 법은 AI가 만든 이미지·비디오가 사람을 묘사했단 걸 검사가 증명하지 못할 시 관련 미성년자 음란물 소유·배포자 추적이 어렵다. 선거와 관련된 딥페이크도 법 제정의 대상이다. 캘리포니아 주 의회는 이번 법 승인으로 메타 등 대규모 소셜 미디어 플랫폼에 선거일 기준 120일 전부터 60일 후까지 선거 관련 딥페이크 자료를 삭제하도록 요구할 수 있다. 또 각 후보 캠프는 AI로 생성·변경한 내용이 있는 광고를 게재할 시 공개적으로 표기해야 한다. 이 외에도 ▲콜센터 근로자 대체 ▲사망자 디지털 복제 ▲성우 및 오디오북 담당자 저작권 무단 도용 등 이슈에 AI가 사용되는 것이 금지된다. 캘리포니아 주에선 법안에 대해 치열한 논쟁이 벌어지고 있다. 앤트로픽과 일론 머스크는 법안 제정에 찬성하며 법 제정의 이익이 비용보다 클 것으로 전망했다. 반면 오픈AI, 구글 등 빅테크도 법안이 AI를 악용하는 사람들보단 개발자를 향해 있다며 비판했다. 외신들은 법안은 모델 훈련에 1억 달러 이상의 데이터가 필요한 시스템을 대상으로 하고 있지만 현재 AI 모델 중 이 기준에 도달한 시스템은 전무하다고 보도했다. 전문가 및 의원들은 각기 다른 의견을 선보였다. 미국 진보를 위한 회의 토드 오 보일 수석 기술 정책 책임자는 AI의 이론적 시나리오 때문에 캘리포니아의 주요 경제 부분을 억제하면 안 된다고 주장했다. 또 낸시 펠로시 전 캘리포니아 주 하원 의장은 "이번 법 제정이 선의인 것은 알지만 관련한 정보가 부족해 보인다"고 우려했다. 반면 미국 공화당 데본 매시스 의원은 "해당 법안을 지지한다"며 "빅테크는 이제 어떤 종류의 규칙을 따라야 할 필요가 있다"고 말했다.

2024.09.02 10:13양정민

방심위, 딥페이크 성범죄영상물 유포 '텔레그램' 대응 글로벌 협의체 구축 나서

방송통신심의위원회는, 최근 급속 유포되고 있는 텔레그램 딥페이크 성범죄영상물 대응과 관련해 글로벌 협의체 구축에 나섰다. 방심위는 29일 글로벌 온라인 안전 규제기관 네트워크(GOSRN, Global Online Safety Regulators Network) 회원 기관 간 회의에서, ▲텔레그램 딥페이크 성범죄영상물로 인해 최근 한국에서 벌어지고 있는 심각한 사회적 피해에 대해 설명하면서, ▲글로벌 공동대응 협의 채널 구축을 통한 국제공조를 공식 제안했다고 30일 밝혔다. 이에 대해, ▲호주 등 주요국들도 텔레그램에 대한 개별 국가 단위의 대응에 한계가 있음을 지적하고, 한국과 유사한 상황에 자신들도 직면해 있다고 확인하면서, ▲방통심의위가 제안한 글로벌 공동대응 필요성에 적극 동의했다. 특히, 호주 온라인안전국은 네트워크 회원기관 간 공동성명서 채택 등을 통해, 텔레그램에게 아동·청소년 보호를 위한 사회적 책무를 다할 것을 강력히 권고하자는 의견도 추가 제안했다. 또한, 회원 기관들은 9월 24일 고위급회의에서 이 문제를 공식 의제로 채택해 집중논의하기로 의견을 모았다. 방심위는 GOSRN뿐만 아니라, 그동안 구축해온 모든 국제 네트워크들에도, 협의체 구축을 제안하며, 실무협의 등을 통해 구체화해 나갈 계획이다. 이와 함께, 다른 해외 유관기관 및 국제기구들에 대해서도 함께 연대해서 협의체 구축에 나서줄 것을 제안하는 위원장 명의의 서한을 일제히 보내, 공조를 요청했다. 디지털 플랫폼 거버넌스 관련 국제 네트워크 간 협업을 추진 중인 유네스코에 대해서는, 이러한 글로벌 대응 협의체 구축에 중심이 돼 줄 것을 요청했다. 현재 방심위가 텔레그램 관련 협의체 구축을 위해 접촉하고 있는 기관은, INHOPE 등 국제기구와, 호주 온라인안전국, 프랑스 Point de Contact, 대만 국가방송통신위원회 등으로 약 30여개에 이른다. INHOPE는 아동성착취물을 신속하게 식별하고 삭제해 아동·청소년을 보호하기 위해 1999년 설립된 국제핫라인기구로, 2024년 현재 50개국 54개 기관이 회원으로 참여하고 있다.

2024.08.30 22:24안희정

[유미's 픽] "여친이 음란물에?"…딥페이크 범죄 온상된 韓, '이 기업'에 돈 몰린다

최근 딥페이크 성범죄가 확산되면서 이를 탐지·대응하는 기술이 주목 받고 있는 가운데 정보보안 업체들이 집중 조명받고 있다. 아직까지 국내에서 딥페이크 범죄를 완벽하게 막을 수 있는 기술은 없지만, 사회적으로 크게 문제가 되자 관련 기업들의 움직임에 대한 시장의 기대감이 높아지는 분위기다. 30일 업계에 따르면 라온시큐어는 오는 10월께 개인이 쉽게 딥페이크 여부를 체크할 수 있는 탑지 서비스를 자사 개인용 모바일 백신 애플리케이션에 탑재할 계획이다. 이 기술은 합성된 얼굴과 정상 얼굴을 각각 학습해 이를 비교 분류할 수 있도록 인공지능(AI)을 학습시키는 방식이다. 라온시큐어는 지난 5월 설립한 AI 연구센터를 통해 이 기술을 개발했다. 딥페이크 감지 안면인식 기술, AI가 생성한 콘텐츠 탐지 기술 등을 향후 기업이나 기관이 이용 할 수 있도록 API 형태로도 제공할 예정이다. 라온시큐어 관계자는 "AI가 작성한 콘텐츠를 탐지하는 부분도 연구하고 있다"며 "이를 통해 사람이 직접 생성한 데이터인지 여부를 탐지하는 서비스로 확장할 계획"이라고 밝혔다. 샌즈랩도 딥페이크 대응 기술을 가진 기업으로 분류되고 있다. 이곳은 지난해 4월부터 정부의 생성형 AI 역기능 억제 기술 개발 공동 사업에 참여하고 있다. 샌즈랩 외에도 LG유플러스, 포티투마루, 로그프레소, 카이스트 등이 함께 사업에 뛰어 들었다. 이 프로젝트는 딥페이크, 보이스피싱, 음성 합성 등 AI 역기능 방지 기술과 사이버보안 특화 온프레미스용 소형언어모델(sLLM)을 개발하는 것을 목적으로 한다. 샌즈랩은 딥페이크 영상과 이미지를 보다 정확하고 정밀하게 찾아내기 위한 기술 개발에 집중하고 있다. 이를 위해 심층 학습 기반의 알고리즘과 멀티모달 데이터 분석 기법을 개발 중이다. 플랜티넷은 국내 최초로 텔레그램 등 소셜미디어서비스(SNS)를 비롯한 인터넷망을 통한 유해 콘텐츠 차단 서비스를 제공해왔다는 점에서 시장이 주목하고 있다. 이곳은 지난 2021년도부터 정부기관(ETRI)과 함께 디지털 범죄 방지를 위한 연구에 지속 참여해왔다. 해당 연구과제들은 '딥페이크 성범죄'에 이용된 영상물의 유해성 판별 및 SNS 유포 방지를 위해 필요한 것으로 평가된다. 또 플랜티넷은 올해 초 AI 전문 연구개발 인력으로 구성된 AI테크랩을 신설해 AI 기술을 활용한 불법영상물 차단 및 판별 정확도 향상에도 집중하고 있다. 여기에 스미싱·보이스피싱 같은 전자금융사기 탐지 및 차단을 위한 기술 개발도 진행 중이란 점에서 향후 실적에 대한 기대감이 크다. 플랜티넷 관계자는 "과제가 종료되는 내년부터는 딥페이크 음란물 필터링, 보이스피싱 및 스미싱 차단 등 준비된 기능들을 기존 서비스에 고도화해 반영하고 상용화에 집중할 계획"이라며 "2026년부터는 이러한 협력과 사업이 회사의 주요 성장동력으로 자리 잡아 가시적인 성과를 나타낼 것으로 기대하고 있다"고 말했다. 이 같은 기술 덕분에 각 기업들의 주가는 '딥페이크 테마주'로 묶이며 최근 상한가를 기록하고 있다. 라온시큐어의 주가는 지난 26일 종가 기준 1천877원이었으나, 이날 종가는 2천390원으로 27.3%나 올랐다. 플랜티넷도 지난 27일부터 주가가 상승세를 보였는데 당시 주가는 전 거래일 대비 18.29% 오른 2천425원에 마감된 데 이어 ▲28일 2천425원 ▲29일 3천225원 ▲30일 3천255원을 기록했다. 이틀 전에 7천950원을 기록했던 샌즈랩 주가도 이날 9천660원에 마감됐다. 이는 정부가 딥페이크 대책 마련에 나선 것이 주효했다. 최근 한 대학 단체 대화방에서 여학생 얼굴을 음란물에 합성한 딥페이크 영상물이 유포되는 사건이 알려지며 사회적 파장이 커졌기 때문이다. 이후 중고등학교와 군대에서도 유사한 범죄가 확인돼 더 충격을 줬다. 이에 방송통신심의위원회는 긴급 전체 회의를 열고 음란물의 유통 경로인 텔레그램 등 글로벌 온라인 플랫폼 사업자들과 협의체를 구성하기로 했다. 또 여야는 물론 윤석열 대통령까지 나서 딥페이크 대책 마련을 주문하면서 이들 테마주의 주가 상승폭이 커졌다. 딥페이크 성범죄 영상물을 조기에 색출해 차단하는 과정에서 관련 기업들의 기술이 적용될 것이란 기대감이 반영된 탓이다. 다만 일각에선 딥페이크 방지 기술과 관련이 없는 정보보안 기업들의 주가도 함께 상승해 투자자들이 주의할 필요가 있다고 지적했다. A사의 경우 딥페이크 테마주로 묶이며 주가가 하루 새 15% 넘게 뛰자 내부적으로 당황스러워 하기도 했다. A사는 데이터 보안 분야에서 주목 받고 있는 곳으로, 딥페이크와는 크게 관련이 없는 것으로 알려졌다. 업계 관계자는 "보안 기술과 관련해 연관성이 있어도 실제 사업 성과로 이어지기 어려운 경우가 많고, 아직 딥페이크 방지 관련 법안도 제대로 갖춰지지 않은 상황"이라며 "딥페이크 기술을 원천적으로 막는 보안 프로그램을 강제로 판매하지 않는 이상 실제 매출로 이어지기도 쉽지 않다"고 말했다. 그러면서 "워터마크 표식 등을 남겨 딥페이크를 구별하는 방법들이 대안으로 얘기되고 있지만 사실상 이를 활용할 범죄를 완전히 막을 수 있는 방법은 없다"며 "딥페이크가 무조건 나쁜 기술이라고는 볼 수 없지만, 이를 악용할 시 강력하게 처벌하는 방안에 대해선 깊게 고민해 봐야 할 것"이라고 덧붙였다.

2024.08.30 18:17장유미

Prev 1 2 3 4 5 6 7 8 9 10 Next