검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'페이크'통합검색 결과 입니다. (111건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

"디지털성범죄 늘고 있는데...올해 방심위 수사의뢰는 24건"

올해 딥페이크 성범죄영상물 등 디지털성범죄정보의 광범위한 확산으로 심각한 사회문제가 발생했지만 이를 심의하는 규제기관인 방송통신심의위원회의 경찰청 수사의뢰 요청 건수는 단 24건에 불과한 것으로 나타났다. 국회 과학기술정보방송통신위원회 소속 이훈기 의원(더불어민주당)이 방심위로부터 제출받은 최근 5년간 디지털성범죄정보 수사의뢰 요청 현황자료에 따르면, 2020년부터 올해 8월까지 방심위는 총 1천894건의 디지털성범죄 정보를 경찰청에 수사 의뢰했는데 올해는 단 24건만을 의뢰했다. 최근 5년간 방심위가 디지털성범죄정보 사업자 자율규제 요청(삭제)을 한 것은 총 5만3천930건으로, 매해 삭제 대상이 2배 가까이 증가한 것으로 나타났다. 특히 올해는 8월까지 9천971건으로 올해 디지털성범죄정보 삭제 대상 건수는 지난해 1만1천611건을 초과할 것으로 보인다. 이훈기 의원은 “디지털성범죄정보는 늘어가는 데 예외적인 수치의 2022년을 제외하면 수사 의뢰 건수는 오히려 줄거나 답보하고 있는 셈”이라며 “디지털성범죄정보의 확산 방지를 위한 신속한 삭제조치는 타당하지만, 디지털성범죄정보가 매해 배로 증가하는 것을 고려해 적극적인 대응이 필요하다”고 말했다. 한편, 방심위가 딥페이크 성범죄 영상물 등 디지털성범죄정보 24시간 홈페이지와 1377(전화)신고 전화 접수를 통한 상담이 올해 벌써 1천215건을 넘어선 것으로 나타났다. 하지만, 24시간 4조 2교대로 해당 업무를 하는 직원은 단 12명에 불과해 적극적 대응 인력이 부족한 상화이다. 이훈기 의원은 “방심위는 우리나라 디지털 성범죄 대응 1차 기관이지만, 정작 상담 인력도 확충하지 않고, 사업자 자율규제 요청 수준의 소극적 대응에 나서고 있는 것은 문제가 있다”며 “국정감사를 통해 방심위의 디지털성범죄 대응 정책개선 사항을 지적할 것”이라고 강조했다.

2024.09.29 17:34박수형

"딥페이크 통한 보험금 사기 청구 예방시스템 갖춰야"

딥페이크(인공지능을 이용한 인간 이미지 합성 기술)를 이용한 금융 사기 피해가 증가할 것으로 예측되는 가운데, 보험업도 보험금 사기 청구 예방 시스템을 갖춰야 한다는 제언이 나왔다. 28일 보험연구원은 '미국 딥페이크 관련 법안 동향과 보험회사의 대응' 보고서를 통해 미국을 시작으로 딥페이크 사기 및 명예훼손에 대한 법적 제재가 강화되고 있는 만큼, 딥페이크를 통한 새로운 사기 위협에 대한 보험산업이 대응이 요구된다고 진단했다. 보고서는 딜로이트 자료를 인용해 딥페이크 관련 금융 사기는 2023년 123억 달러에서 2027년 400억 달러로 연평균 32% 증가할 것이라고 보며, 최근 최고경영자(CEO) 음성이 딥페이크로 조작돼 큰 액수의 금전적 손실이 발생한 사례도 나오고 있다고 밝혔다. 보험사의 경우 보험 청구 디지털화로 인해 딥페이크를 이용한 보험사기에 노출될 가능성이 높다. 2025년까지 보험 청구의 70%가 비대면 자동처리로 이뤄진다고 연구원은 관측하고 있다. 일부 보험사에서는 허위 청구, 보험 사기 식별을 위한 인공지능(AI) 기반 딥페이크 탐지 기술을 도입하거나, 문서·영상·음성에서 비정상적인 패턴이나 합성된 흔적을 감지하는 시스템을 개발 중이다. 알리안츠는 머신러닝을 통해 허위 데이터를 감지하는 식별 시스템을 구축해 170만파운드(약 31억원)의 피해를 막았으며 취리히보험사는 룰 베이스와 AI 기반 ㅇ네진을 결합해 비정상 행동을 감지하는 보험사기 시스템을 가동하고 있다. 한편, 미국은 딥페이크 범죄 피해자를 위한 민사 구제책을 담은 법안을 8월 통과시켰으며 현재까지 40개 주 이상에서 딥페이크 관련 법안이 발의된 상태다. 40개 중 9개 주에서는 형사 처벌 규정을 두고 있다.

2024.09.28 08:00손희연

"텔레그램 성범죄 활개치는데...n번방 후속조치도 이행되지 않아"

최근 디지털성범죄피해자지원센터의 디지털성범죄피해와 관련해 지원을 받은 피해자 수는 총 8천983명, 피해 영상물 삭제 지원 건수도 총 27만5천520 건에 달하고 있으나 텔레그램에 대한 방송통신위원회의 개선방안은 제대로 이행되지 않고 있다는 지적이 제기됐다. 국회 과학기술정보방송통신위원회 소속 최수진 의원(국민의힘)은 방통위가 그동안 발표한 해외 메신저 플랫폼 조치 개선방안이 제대로 이뤄지지 않고 있다고 밝혔다. 텔레그램을 통한 딥페이크 디지털 성범죄 사건이 늘고 있는 가운데 지난 2022년 방통위가 국회에 제출한 n번방 사건 제도개선안이 이행되지 않았다는 것이다. 방통위는 21대 국회 과방위에 '해외사업자에 대한 디지털성범죄물 유통방지 강화 검토방안'을 제출하면서 ▲국내외 사전조치의무사업자 88 개사를 선정해 불법촬영물 등 기술적 관리적 조치에 대한 현장점검 실시 ▲법무부, 여가부, 검경 등 관계 기관과 매달 협의회를 열어 텔레그램에서의 성범죄 제작 유통에 대응 ▲해외에 본사를 둔 플랫폼 사업자에 대해 국내대리인 지정제도를 활성화 등을 제시했다. 특히 국내대리인 지정제도 활성화 방안과 관련해 제도의 실효성을 높이기 위해 정기 실태점검을 시행하겠다고 했으나 텔레그램에 이용자 등에 공개한 신고처리 메일로 세 차례 협조 공문을 보낸 게 전부였다는 지적이다. 최수진 의원은 “n번방 사건 발생 이후 텔레그램을 비롯한 해외사업자에 대한 대책 마련을 촉구하고 있지만 디지털 성범죄로부터 우리 국민을 신속하게 보호하지 못하고 있다”면서 “국정감사를 통해 방통위가 국내대리인 지정제도를 신속하게 활성화하고 디지털 성범죄 제작 및 유통에 적극적이고 엄중하게 대응해 줄 것을 촉구하겠다”고 말했다.

2024.09.26 19:03박수형

딥페이크 성 착취물, 소지만 해도 징역형 처벌 받는다

딥페이크 성 착취물을 소지하거나 시청만 해도 징역형에 처하는 성폭력범죄처벌특례법이 26일 국회 본회의를 통과했다. 국회는 이날 오후 본회의를 열고 이같은 내용의 성폭력처벌법 개정안을 재석의원 249명 중 찬성 241명, 반대 0명, 기권 8명으로 의결했다. 법안은 딥페이크 성 착취물 영상물의 소지, 구입, 저장, 시청할 경우 3년 이하의 징역 또는 3천만원 이하의 벌금에 처할 수 있도록 규정하고 있다. 또 유포 목적이 입증되지 않더라도 제작자를 처벌할 수 있게 했다. 앞서 전날 법제사법위원회는 딥페이크 성 착취물임을 '알면서'도 이같은 행위를 저지른 경우 처벌 대상으로 하는 법안을 의결했으나, 야권은 본회의에 앞서 '알면서'라는 단서를 삭제하고 법안을 제출해 의결했다. '알면서' 문구와 관련해 일각에서는 의도하지 않게 소유한 경우 처벌 받거나 수사 기관의 계속된 수사를 받을 수 있어 선량한 피해자가 생길 수 있다고 지적하기도 했다. 다만 '알면서' 단서가 포함되면 현행 법체계를 흔들 수 있다는 주장에 따라 본회의에서는 관련 문구를 삭제한 수정안이 의결됐다.

2024.09.26 18:50박수형

황정아 의원 "텔레그램도 딥페이크 성범죄물 책임져야"…법안 발의

황정아 더불어민주당 의원은 해외 플랫폼의 딥페이크 등 디지털성범죄 유통 관리 책임 (정보통신망법 개정안)과 허위영상물 성범죄 처벌(성폭력처벌법 개정안)을 강화하는 내용의 '딥페이크·디지털성범죄 방지법'을 대표발의했다고 23일 밝혔다. 현행 정보통신망법은 정보통신서비스 제공자에게 딥페이크를 포함한 디지털 성범죄 정보 등의 유통방지를 위한 삭제 및 접속차단 의무를 갖는 불법촬영물 등 유통방지 책임자를 지정하도록 하고 있다. 하지만 현행법에서 책임자 등을 지정해야 하는 정보통신서비스 제공자에는 우리나라에 부가통신사업을 신고하는 등의 요건을 갖춰야 해 '텔레그램' 등 해외플랫폼이 적용되기 어렵다는 비판이 지속돼 왔다. 이에 황정아 의원은 정보통신망법 개정안을 통해 이용자가 5만명 이상이거나 매출액 5억원 이상인 정보통신서비스 제공자의 불법촬영물 등 유통방지 책임자를 지정하도록 했다. 또한 딥페이크를 포함한 불법촬영물 등의 유통 가능성이 높은 실시간 대화 서비스 제공자의 경우에도 대통령령으로 정한 요건에 부합할 경우 유통방지 책임자 지정 의무를 부과했다. 이를 통해 규제의 사각지대로 지적돼 왔던 해외 플랫폼 사업자를 포함해 플랫폼의 규모와 관계없이 디지털성범죄 정보 유통 가능성이 높은 플랫폼은 딥페이크 등 불법촬영물 유통 방지 책임자를 지정할 의무를 갖도록 해 플랫폼 사업자의 책임을 강화하겠다는 취지이다. 또한 황정아 의원은 성폭력 처벌법 개정안을 통해 기존 '반포할 목적'이 입증돼야만 딥페이크 범죄를 처벌할 수 있었던 문제도 개선한다. '반포할 목적'이라는 조건을 삭제해 단순 제작 등도 처벌할 수 있도록 하겠다는 것이다. 이에 더해 딥페이크 등 허위 성범죄 영상물을 제작하거나 반포할 경우 기존 징역 5년, 벌금 5천만원에서 최대 7년 이하의 징역 또는 7천만원 이하의 벌금에 처할 수 있도록 형량을 강화했다. 허위 성범죄 영상물 소지·구입·저장 및 시청죄도 신설한다. 이에 따라 허위 성범죄 영상물을 소지·구입·저장 또는 시청한 자는 3년 이하의 징역 또는 3천만원 이하의 벌금에 처하게 된다. 황정아 의원은 "몇 번의 클릭으로 단 2초면 딥페이크 범죄를 저지를 수 있지만, 한 번 온라인 공간에 업로드된 디지털 성범죄 정보는 단시간에 수백 수천 개로 복제되고 확산되는 매우 악질적인 성범죄"라며 "딥페이크 범죄의 처벌 강화는 물론 해외플랫폼 등 플랫폼들에 대한 의무를 강화해 디지털 성범죄를 예방해야 한다"고 강조했다.

2024.09.23 16:24안희정

딥페이크 범죄 '급증'…글로벌 테크 기업 대응 나섰다

최근 딥페이크 성범죄와 허위 뉴스 영상 제작이 급격히 증가하면서 이를 탐지·대응하는 기술이 주목받고 있다. 국내외에서 딥페이크 범죄가 사회적 문제로 떠오르자 관련 기업들의 움직임에 대한 시장 기대감이 높아지고 있다. 19일 업계에 따르면 경찰은 올해 500건 넘는 딥페이크 사건을 수사 중이며 특히 10대들이 연루된 사례가 급증하고 있다. 국내외 가해자들은 텔레그램 등 익명성이 보장된 플랫폼을 통해 음란물을 유포하고 있으며 주로 여성인 피해자들이 심각한 피해를 입고 있다. 해외에서도 상황은 심각하다. 유로뉴스에 따르면 유럽에서 제작된 딥페이크 영상 96%가 여성과 청소년을 대상으로 한 음란물이다. 미국에서는 최근 스칼렛 요한슨과 테일러 스위프트 등 유명인들이 딥페이크 포르노의 피해자가 되기도 했다. 딥페이크 음란물뿐만 아니라 가짜뉴스로 인한 문제도 부각되고 있다. 정치인이나 공공 인물의 발언을 조작하거나 허위 정보를 담은 영상을 제작해 유포하는 사례가 증가하고 있기 때문이다. 지난 2022년 국내 지방 선거 당시 윤석열 대통령이 특정 후보를 지지하는 딥페이크 영상이 퍼져 큰 논란이 된 바 있다. 이와 관련해 딥페이크 선거 사용 방지법이 지난 1월 통과됐지만 해외에서는 딥페이크를 통한 가짜뉴스 남용이 여전히 큰 문제가 되고 있다. 이런 상황에서 딥페이크 탐지 기술에 대한 수요가 급증하고 있다. 글로벌 시장조사업체 마켓앤마켓에 따르면 글로벌 딥페이크 탐지 시장은 지난 2022년 5억 달러(한화 6천500억원)였지만 오는 2027년에는 18억 달러(한화 2조3천400억원) 규모로 성장할 것으로 예상된다. 이미 마이크로소프트는 지난 2020년 AI와 머신러닝을 결합한 '비디오 인증기(Video Authenticator)'를 공개한 바 있다. 이 도구는 사진이나 비디오를 분석해 미디어가 조작되었을 가능성을 백분율로 나타내는 신뢰도 점수를 제공한다. 특히 실시간으로 동영상을 프레임 단위로 분석해 각 프레임에서 조작 가능성을 보여준다. 미국뿐 아니라 유럽 스타트업들도 이에 가세했다. 그 중 에스토니아의 센티넬 AI는 클라우드 기반 솔루션을 통한 실시간 딥페이크 탐지를 제공하는 것으로 알려졌다. 이 회사는 얼굴 랜드마크 분석과 시간적 일관성 등을 활용해 딥페이크를 식별한다. 특히 최근 딥페이크 탐지 경연대회에서 135만 달러의 상금을 획득하며 기술력을 인정받았다. 요하네스 타메캔드 센티넬 AI 대표는 자사 제품을 소개하며 "우리는 잘못된 디지털 기술의 활용이 민주주의에 가장 큰 위협 중 하나라는 것을 잘 알고 있다"며 "사회가 잘못된 정보에 빠지는 것을 막기 위해 최선을 다할 것"이라고 밝혔다. 네덜란드의 센시티 AI도 실시간 딥페이크 탐지 플랫폼을 제공하고 있다. 이 회사는 얼굴 조작, 음성 합성, 전신 조작 등 다양한 유형의 딥페이크를 식별하며 인공지능(AI) 기반 분석으로 조작된 미디어의 출처를 추적한다. 조르지오 파트리니 센시티 AI 대표는 "딥페이크 기술의 발전 속도가 매우 빠르기 때문에 우리의 탐지 시스템도 지속적으로 진화해야 한다"며 "디지털 미디어 생태계의 신뢰성을 유지하는 것이 우리의 목표"라고 말했다. 이렇게 유럽에서 딥페이크 탐지 기술이 발전한 것은 민주주의와 인권이 딥페이크 위협에 직접적으로 노출되었기 때문이라고 전문가들은 지적한다. 개인정보 보호를 중요시하는 유럽의 규제 환경이 딥페이크 기술 오용에 대한 경각심을 높였다는 것이 이들의 분석이다. 국내에서도 다양한 테크 기업들이 딥페이크의 폐해를 예방하기 위해 노력을 기울이고 있다. 특히 라온시큐어는 올 하반기에 개인이 쉽게 딥페이크 여부를 체크할 수 있는 탐지 서비스를 자사의 개인용 모바일 백신 애플리케이션에 탑재할 계획이다. 라온시큐어의 딥페이크 탐지 기술은 합성된 얼굴과 정상 얼굴을 각각 학습해 이를 상호 비교 분류할 수 있도록 AI를 학습시킨다. 이미지부터 동영상, 안면 추출, 주파수 계열 변환 등 다양한 기술을 적용해 생성형 AI의 특징을 탐지한다. 이때 딥페이크 탐지 정확도를 높이기 위해 여러 모델을 동시에 사용한다. 특정 학습 유형에 맞춰 설계된 각각의 모델이 따로 존재하기 때문에 한 가지 모델에 의존했을 때 발생하는 탐지 정확도 저하를 방지할 수 있다. 이를 통해 얼굴의 부자연스러운 형태· 움직임·오디오 등을 종합적으로 분석해 더욱 정교한 탐지가 가능할 것으로 전망된다. 박현우 라온시큐어 AI연구센터장은 "딥페이크가 보편 기술이 돼 이를 악용한 범죄가 퍼지는 와중에 간편하게 딥페이크 여부를 탐지할 수 있는 기술도 보편화돼야 한다"며 "자사 보안 앱인 '라온 모바일 시큐리티'에 딥페이크 탐지 기능을 탑재하는 등 모든 개인들을 위한 잠재적 피해 예방에 매진하겠다"고 강조했다. 딥브레인AI도 '딥페이크 탐지 솔루션'을 개발해 주목받고 있다. '딥페이크 탐지 솔루션'은 사진의 경우 12분, 짧은 영상은 57분 내에 딥페이크 여부를 판별할 수 있다. 이미지와 비디오를 픽셀 단위로 분석하고 음성은 주파수, 시간, 노이즈 등 다양한 요소를 종합적으로 고려해 탐지하는 것으로 알려졌다. 이렇게 국내 기업들이 약진하는 가운데 딥페이크 방지 기술의 개발만으로 실제 범죄를 완전히 막기에는 한계가 있다는 지적도 나온다. AI 기술이 기하급수적으로 발전하고 있기 때문이다. 익명을 요청한 국내 AI 기업 관계자는 "딥페이크 기술은 계속해서 발전하고 있어 탐지 기술만으로는 완벽한 대응이 어렵다"며 "기술의 오용을 막기 위한 사회적 합의와 강력한 처벌 등이 병행돼야 한다"고 강조했다.

2024.09.19 17:40조이환

"딥페이크 행위 따라 차등 규제 필요...투명성 의무 확보 중요"

국회가 딥페이크 허위영상물에 대한 성범죄에 대응하기 위해 여러 법안을 쏟아내고 있는 가운데, 딥페이크를 활용한 행위에 대해 차등 규제가 필요하다는 전문가의 주장이 거듭 제기됐다. 딥페이크를 통한 행위들을 단 하나의 범주로 볼 수 없고, 이에 대한 규제 논의가 AI 전체에 대한 규제로 번져 일반화의 오류를 범할 수 있다는 우려에 따른 것이다. 최경진 가천대 교수는 19일 정청래 법제사법위원장이 주최한 국회 정책토론회에 발제를 맡아 “명확한 규제 범위가 필요하다”며 “AI애 대한 일반규제를 지양하고 행위에 대해 차등화된 형태로 규제를 도입해야 한다”고 말했다. 딥페이크가 본격적인 사회적 문제로 떠오른 시점은 국내에 앞서 지난 미국 대통령 선거 과정이다. 당시 트럼프, 바이든 양측 후보의 허위조작 영상물이 선거에 영향을 미칠 수 있다는 경각심을 일깨웠다. 그로부터 4년이 지나 국내에서 딥페이크를 활용한 지인의 성적 허위영상물을 비밀 메신저에 유통하고 있는 행위가 만연하단 것이 드러나며 수십여 건의 법안이 발의되고 범정부 차원의 대응 방안이 쏟아지는 사회적인 문제로 부상했다. 이처럼 민주주의의 꽃인 선거에 영향을 미치는 행위와 피해자의 인격을 완전히 파괴하는 신종 성범죄 행위가 모두 딥페이크가 남용된 사례로 꼽힌다. 아직 빈번하게 발생한 사례는 아니지만 딥페이크가 쓰인 피싱이 만연해지면 신종 사기범죄로 국민의 경제에 파괴적인 문제가 될 수도 있다. 예컨대 음성통화로 수사기관을 사칭하는 수준의 보이스피싱을 넘어 가족의 얼굴이 합성된 영상통화가 피해자를 겨냥한다면 현재 우리 사회가 겪는 문제가 극단적으로 확대될 가능성이 크다. 최 교수는 “딥페이크가 남용되는 영역은 다양하고, 각 영역마다 규제 필요성의 정도가 다를 수 있다”며 “일반적인 딥페이크 영상은 초상권이나 개인정보 침해 정도지만 가짜뉴스로 선거에 활용된다면 강력한 처벌이 필요할 것”이라고 말했다. 이어, “나아가 딥페이크 음란물로 인격을 파괴하는 수준까지 가고 있는데, 이에 대해서는 예방과 경고 차원에서 처벌 수위를 높일 필요가 있다고 생각한다”고 강조했다. 행위에 대한 규제 차등화와 함께 투명성 의무를 확보하는 게 중요한 과제로 꼽혔다. 최 교수는 “딥페이크 음란물을 추적하려면 이 영상이 딥페이크인지 확인할 수 있어야 하고, 이에 따른 기술적 장치를 해야 하는데 워터마킹이 방법이 될 수 있다”며 “또 다른 투명성 의무로 표시 의무가 있는데 AI로 생성된 콘텐츠에 자동적으로 표시가 이뤄지게 하는 것으로 서비스 약관 등 사업자 자율규제로 가능한 부분”이라고 설명했다. 이밖에 딥페이크 성범죄가 한국서 빈번하게 나타났지만, 세계적인 문제인 만큼 국제 공조와 협력적 규제체계가 필요하다는 의견도 강조됐다. 최 교수는 “규제 논의에 앞서 리터러시 확대가 매우 중요하다”며 “딥페이크 음란물을 장난으로 만드는 사람이 많은데 매우 심각한 문제라는 것을 스스로 알게 해야 하기 때문에 교육과 리터러시도 강화하는 방안으로 가는 것이 바람직하다”고 말했다.

2024.09.19 17:33박수형

팝스타 테일러 스위프트, 해리스 지지 선언

팝스타 테일러 스위프트가 미국 대통령 선거에서 카멀라 해리스 부통령 지지를 선언했다. 스위프트는 또 자신이 도널드 트럼프 전 대통령을 지지하는 것처럼 보이는 사진은 딥페이크로 제작된 것이라고 해명했다. 테크크런치 등 외신에 따르면, 스위프트는 11일(현지시간) 자신의 SNS에 "이번 대선에서 해리스와 팀 월즈 부통령 후보(민주당)에게 투표할 예정"이라며 "해리스는 권리와 대의를 위해 싸우고, 그러한 권리들을 옹호할 전사가 필요하기 때문"이라고 적었다. 테일러의 이번 지지 선언은 자신이 도널드 트럼프 전 대통령을 지지한다는 내용의 딥페이크 사진을 바로잡기 위한 것이다. 트럼프 전 대통령은 최근 자신의 트루스 소셜에 스위프트가 자신을 지지하는 것처럼 보이는 딥페이크 사진을 게재한 바 있다. 해당 사진에는 '엉클샘'(미국을 상징하는 캐릭터) 복장을 한 스위프트의 모습이 담겨 있고, '테일러는 여러분이 트럼프에게 투표하길 바란다'는 문구가 적혀 있었다. 스위프트는 "최근 내가 도널드 트럼프의 대선 출마를 지지한다는 내용의 딥페이크 사진이 트럼프 전 대통령의 SNS에 게재된 사실을 알게 됐다"며 "이 사실은 인공지능(AI)과 허위 정보 유포의 위험을 생각하게 만들었다"고 밝혔다. 이어 "유권자로서 이번 선거에 대한 생각을 투명하게 공개해야겠다는 결론에 도달했다"며 "잘못된 정보에 맞서는 가장 간단한 방법은 진실을 말하는 것"이라고 덧붙였다. 최근 미국은 대선을 앞두고 정치권의 딥페이크 악용으로 몸살을 앓고 있다. 지난 1월에는 뉴햄프셔 프라이머리(예비경선)를 하루 앞두고 민주당 당원들에게 조 바이든 대통령의 가짜 목소리를 담은 전화가 걸려오기도 했다. "예비선거에 투표하지 마라"고 당부하는 바이든 대통령의 목소리는 딥페이크로 제작된 것이었다. 미국 내에서는 딥페이크로 제작된 가짜뉴스가 대선 결과를 좌우할 수 있다는 우려가 확대되고 있다. 이에 따라 지난달 캘리포니아 주의회는 선거 관련 딥페이크 제작을 금지하고 소셜미디어 기업에 대해 선거 120일 전부터 딥페이크 선거 콘텐츠 규제하도록 의무화하는 법안을 처리했다. 다만 아직 연방법에서는 딥페이크 성착취물을 명시한 법적 조항이 없어, 딥페이크로 인한 혼란은 계속될 것으로 보인다.

2024.09.12 10:38조수민

방심위, 텔레그램 만난다

방송통신심의위원회는 텔레그램과 조만간 양자 실무협의를 가질 예정이라고 11일 밝혔다. 방심위는 3일 텔레그램과 구축한 핫라인 채널을 통해 5일부터 텔레그램 측에 본격 요청하기 시작한 딥페이크 등 디지털성범죄영상을 텔레그램 측이 100% 삭제하고 그 결과를 즉각 회신하고 있다고 설명했다. 텔레그램은 핫라인 개설 이틀 후인 지난 5일부터 지금까지 방심위가 요청한 딥페이크 성범죄 영상을 포함해, 75건의 디지털성범죄정보를 100% 삭제해왔다. 텔레그램은 또, 지난 3일 핫라인 개설 때 약속한 대로, 방심위 삭제 요청에 대한 결과를 즉시 회신하는 중이다. 방심위는 이같은 텔레그램과의 양방향 소통을 통해, 지속적으로 실무 논의를 해왔으며, 조만간 신속히 양자간 대면회의를 개최한다는 데 합의했다고 밝혔다. 해당 회의에서는 ▲현안인 딥페이크 영상 뿐 아니라, 보다 포괄적 공조 방안을 논의하고, ▲경찰 등 유관기관과 협의 가능성 등도 타진할 수 있을 것으로 기대된다. 방심위 측은 "양측간 초기 소통과정에서, 텔레그램 측이 방심위를 방송통신위원회로 혼동하는 등 다소 혼선도 있었다면서, 핫라인 구축 이래 지난 일주일여 간 지속적인 소통을 통해, 이같은 신속한 합의에 이를 수 있게 됐다"고 말했다.

2024.09.11 18:21안희정

딥페이크 허위영상물은 죄가 가볍나

딥페이크 성범죄의 처벌 규정과 법정형을 정비하고 양형기준을 규범적으로 조정하는 방안을 검토할 필요가 있다는 의견이 제기됐다. 사람의 신체를 직접 촬영한 영상물과 비교해 딥페이크 허위영상물은 법정형이 낮게 규정됐다는 이유다. 아울러 반포의 목적이 없는 편집, 합성, 가공은 처벌대상에서 제외됐고 소지하거나 수입, 저장, 시청하는 행위에 대한 처벌규정도 마련되지 않았다는 지적에 따른 것이다. 국회 입법조사처가 발간한 딥페이크 성범죄 수사처벌 개선방안 보고서에 따르면, 최근 텔레그램을 통해 음란합성물을 제작 유포하는 딥페이크 성범죄에 대한 논란에 대응체계를 개선해야 한다는 의견이 힘을 얻고 있다. 성폭렬처벌법에 따르면 피해자 동의없는 영상 촬영물을 성적 수치심을 유발할 수 잇는 형태로 반포한 경우 5년 이하 징역과 5천만원 이하의 벌금에 처하도록 하고 있다. 또 영리를 목적으로 정보통신망을 이용해 반포한 경우에는 7년 이하의 징역, 상습법의 경우에는 2분의 1 가중 처벌한다. 다만 딥페이크 영상물의 편집, 합성, 가공 행위는 사람의 신체를 직접 촬영하는 행위보다 법정형이 낮게 규정됐다. 영상물을 소지, 구입, 저장, 시청한 경우 사람 대상의 촬영물은 처벌규정이 있지만 딥페이크 영상물은 처벌규정이 없다. 아울러 딥페이크 영상물의 동의없는 편집, 합성, 가공은 반포 목적이 인정되어야만 처벌할 수 있다. 유포할 목적이 없다면 재미삼아 타인의 사진으로 수치심을 유발할 수 있도록 편집하거나 가공하는 행위는 처벌대상이 아니라는 뜻이다. 입법조사처는 이에 대해 “디지털 성범죄가 심각한 성폭력범죄로 인식될 수 있도록 엄격한 법적 기준 마련이 시급하다”면서 “고도화된 디지털 시대에 딥페이크를 이용한 허위영상물이 유포되는 경우 실제 자신을 촬영한 영상물 유포보다 피해자가 겪는 고통이 적다고 보기 어렵다”고 꼬집었다. 이어, “기술 발달로 함성물인지 식별하기 어려운 지경이며 한번 온라인사상에 오르면 유포와 재유포로 이어져 피해 회복이 쉽지 않다”고 강조했다. 그러면서 현행 형법과 정보통신망법에서 허위사실 적시 명예훼손에 대해 사실적시 명예훼손 또는 오프라인에서 명예훼손에 비해 가중 처벌하고 있다는 점을 참고할 내용으로 꼽았다.

2024.09.11 17:25박수형

올 상반기 딥페이크 범죄 726건…노드VPN, 개인정보 보호 강조

#. 최근 부산의 한 중학교에서 남학생들이 같은 학교 여학생과 교사들에 대한 딥페이크 불법 합성물 80장 이상 제작해 인터넷에 유포했다. 이같은 딥페이크 범죄 사례는 올해 들어 국내에서 빈번히 발생하고 있다. 여성가족부에 따르면 올해 상반기 동안 발생한 딥페이크 성범죄 피해 접수 건수는 총 726건으로, 이 중 53%가 해외로 유포된 것으로 알려졌다. AI 기술을 활용한 범죄가 늘고 있는 가운데 노드VPN이 개인 정보 보호와 사전 예방의 중요성을 강조했다. 11일 노드VPN에 따르면 딥페이크와 음성 복제 기술을 활용한 범죄는 국내 뿐 아니라 전 세계적에서 확산되고 있다. 특히 소셜 미디어에 노출된 개인 정보가 범죄에 활용되고 있어 주의가 요구된다. 딥페이크 기술은 AI를 활용해 실제처럼 조작된 영상과 이미지를 생성한다. 이 기술이 금융 사기나 성착취물 제작에 이용되는 사례가 점점 증가하고 있다. 범죄자들은 유명인뿐만 아니라 일반인의 얼굴과 목소리를 복제해 사기 행위를 벌이는 중이다. 음성 복제 기술 역시 가족이나 친구를 사칭하는 사기 수법으로 악용되고 있다. 범죄자들은 AI를 통해 피해자의 목소리를 복제한 뒤 금융 정보를 요구하는 방식으로 피해를 유도한다. 이러한 AI 범죄는 기술 발전에 따라 점점 정교해지고 있으며 일반인들이 진위를 구분하기 어렵다는 점에서 문제가 심각하다. 특히 피해자들이 자신도 모르게 범죄에 휘말리는 경우가 많아 주의가 필요하다. 노드VPN은 딥페이크 범죄를 예방하기 위해 의심스러운 전화는 즉시 끊고 출처가 불분명한 링크는 클릭하지 않을 것을 권장했다. 또 검증되지 않은 앱은 다운로드하지 말 것을 권고했다. 이외에도 소셜 미디어에 공개된 개인 정보를 신중하게 관리할 것을 당부했다. 아드리아누스 바르멘호벤 노드VPN 사이버 보안 고문은 "기술이 빠르게 발전하면서 사후 대응보다 예방이 중요해졌다"며 "개인 정보 보호에 대한 경각심을 가져야 피해를 줄일 수 있다"고 강조했다.

2024.09.11 11:11조이환

에버스핀 페이크파인더, 보험사 저변 확대…DB손해보험 등 8곳 도입

에버스핀의 피싱방시솔루션 페이크파인더가 보험업계에서 점유율을 확대하고 있다. 인공지능(AI) 보안기업 에버스핀(대표 하영빈)은 악성앱으로 인한 피싱을 방지하는 페이크파인더를 DB손해보험에 공급했다고 10일 밝혔다. 에버스핀에 따르면 페이크파인더를 도입한 보험사는 DB손해보험 외에 삼성화재·삼성생명·교보생명·한화생명·한화손해보험 등 8곳에 이른다. 이들 8개 보험사 고객은 앱을 실행하면 페이크파인더가 자동으로 실행돼 악성앱을 탐지·차단해 피싱피해를 예방한다. 에버스핀 관계자는 “최근 사이버 금융피해 사건 관련해 금융사 보상책임이 있다는 법원의 1심 판결이 있었는데, 이 역시 악성앱 설치로 인한 사건”이라며 “범죄집단은 피해자 단말에 악성앱을 설치하고 개인정보를 탈취한 후 피해자 명의를 도용해 보험대출·대출 등 6천여 만원의 피해를 보게 했다”고 설명했다. 페이크파인더는 이미 사고를 일으킨 악성앱 위주로 탐지하는 블랙리스트와 달리 완전히 새롭게 제작된 악성앱까지 탐지하고 차단할 수 있는 화이트리스트 방식 피싱방지솔루션이다. 지금까지 KB국민은행·카카오뱅크·NH농협은행·케이뱅크 등에 공급, 금융권 점유율 1위로 성능을 입증했다 월간 보호하는 월간활성이용자수(MAU)는 총 4천300만에 이른다. 한편, 페이크파인더의 방대한 앱 데이터는 명의도용범죄를 예방하는데도 활용된다. 국내 1위 신용평가사인 나이스평가정보와 합작한 명의도용방지 서비스 아이디펜더는 국내 최초 명의도용방지 서비스로 업계 호응을 얻으며 점유율을 확대하고 있다.

2024.09.10 09:55주문정

유튜브, AI가 만든 딥페이크 목소리·얼굴 잡는다

우리나라뿐만 아니라 전 세계적으로 딥페이크 기술을 활용한 악성 콘텐츠 제작과 유포가 사회적 문제로 떠오르고 있는 가운데, 유튜브가 크리에이터와 파트너들을 보호하기 위해 이를 막는 기술을 선보인다. 최근 유튜브는 자사 블로그를 통해 AI로 합성된 목소리나 유명인의 얼굴 등 딥페이크 기술이 악용되는 사례를 막는 도구를 개발했다고 알렸다. 먼저 유튜브는 합성된 노래를 식별할 수 있는 기술을 개발했다. 이를 통해 유튜브 파트너들은 유튜브 상에서 자신의 노래 목소리를 모방하는 AI 생성 콘텐츠를 자동으로 감지하고 관리할 수 있다. 회사는 현재 파트너들과 이 기술을 개선 중이며, 내년 초에는 파일럿 프로그램을 선보일 수 있을 전망이다. 또 크리에이터나 배우, 음악가, 운동선수까지 다양한 분양의 유명인들이 유튜브에서 자신의 얼굴을 딥페이크 한 AI 생성 콘텐츠를 감지하고 관리할 수 있는 기술을 개발 중이다. 회사는 "이 기술은 최근 회사가 선보인 개인정보보호 업데이트와 함께 AI가 유튜브에서 사람을 묘사하는 데 사용되는 방식을 관리하는 강력한 도구가 될 것으로 보인다"고 평가했다. 아울러 유튜브는 허용되지 않은 접근을 탐지하고 방지하는 시스템에 투자를 지속하면서, 무단으로 스크래핑 등 콘텐츠를 활용하는 이들의 접근을 차단하는 조치를 이어나가겠다고도 했다. 유튜브는 "크리에이터에게 제3자가 유튜브 플랫폼에서 자신의 콘텐츠를 사용하는 방법에 대한 선택권을 제공하는 새로운 방법을 개발하고 있다"며 "연말에 더 많은 내용을 공유할 예정"이라고 말했다.

2024.09.08 13:30안희정

유튜브, 딥페이크 콘텐츠 탐지 기술 개발

유튜브가 영상과 음성을 AI로 제작하는 딥페이크 논란에 맞서기 위해 이를 탐지하는 기술을 개발하고 있다는 소식이다. 우선 음성 딥페이크 방지 기술은 내년 초에 내놓겠다는 계획이다. 이를 통해 크리에이터와 아티스트를 보호하면서 책임감 있는 AI를 구현한다는 목표다. 7일(현지시간) 폰아레나에 따르면, 유튜브의 암자드 하니프 크리에이터프로덕트 담당 부사장은 합성된 노래를 식별할 수 있는 기술 개발을 마쳤고 유튜브에서 자신의 노래를 모방하는 AI 생성 콘텐츠를 감지할 수 있다고 밝혔다. 이같은 기술은 파일럿 형태로 내년 초에 선보인다는 계획이다. 가짜 음성 인식과 함께 얼굴 모습을 베낀 AI 영상을 탐지하는 기술 개발을 진행하고 있다. 크리에이터들의 콘텐츠 저작권 보호를 위해 시작된 생성 AI 콘텐츠 탐지 기술이 최근 국내서 벌어지고 있는 딥페이크 디지털성범죄 피해 방지에 쓰일 수 있게 된 것으로 풀이된다. 암자드 하니프 부사장은 “AI가 진화하면서 인간의 창의성을 대체할 것이 아니라 향상시켜야 한다고 믿는다”며 “책임감 있는 혁신이 번성하는 환경을 조성하는 데 집중하겠다”고 밝혔다.

2024.09.08 08:17박수형

여당, 딥페이크 디지털성범죄 대응 특위 구성...위원장에 안철수 의원

국민의힘이 딥페이크에 대응하기 위한 별도 조직을 꾸렸다. 국민의힘은 6일 원내대책회의에서 정책위원회 산하에 '딥페이크 디지털 성범죄 대응 특별위원회'를 구성했다고 밝혔다. 특위는 국회 여성가족위원회, 행정안전위원회, 과학기술방송통신위원회 소속 의원들이 주로 참여했다. 위원장은 4선 안철수 의원이 맡았다. 이인선 여가위원장을 수석부위원장으로 부위원장은 김승수, 유상범, 조은희, 최형두 의원이 참여한다. 또 위원으로 김장겸, 박충권, 서지영, 이달희, 최수진 의원과 이수정 경기대 교수가 참여할 예정이다. 추경호 원내대표는 원내대책회의에서 “국민의힘은 심각한 사회적 문제인 디지털 성범죄에 적극 대처하고자 딥페이크 디지털 성범죄 대응 특별위원회를 구성하겠다”며 “특위 구성은 경기 성남 분당갑의 4선 의원인 안철수 의원을 위원장으로 하고 관련 국회 상임위 위원과 전문가 등을 포함해 총 12명으로 구성하고자 한다”고 말했다.

2024.09.06 11:24박수형

"텔레그램 채널 딥페이크 유통, 현행법 규제 적용 검토"

딥페이크 논란을 두고 방송통신위원회가 텔레그램에서 유통되는 디지털성범죄물을 현행법으로 삭제 차단하는 방안을 검토한다. 신영규 방통위 방송통신이용자정책국장은 5일 국회서 열린 딥페이크 관련 정책토론회에 패널로 참석해 “텔래그램의 채널 서비스는 카카오톡 오픈채팅과 비슷한 서비스로 사실상 불특정 다수에 (디지털성범죄물을) 유통한 것으로 볼 여지가 있어 전기통신사업법으로 규제할 수 있는지 검토하고 있다”고 밝혔다. 현행 전기통신사업법 22조5항에 따르면 정보통신망을 통해 일반에 공개돼 유통되는 정보에서 불법촬영물 등은 방통위가 해당 플랫폼 사업자에 삭제를 명령할 수 있다. 그간 텔레그램은 사적 대화방으로 여겨지며 법 적용에서 배제되곤 했는데, 딥페이크 논란과 관련해서는 그간의 대화 방식이 아니라 '채널' 형태로 전기통신사업법의 규제 요건에 해당된다고 볼 수 있다는 뜻이다. 신영규 국장은 “(텔레그램에 대해) 규제집행력을 확보하는 것이 문제인데 방송통신심위원회와 연락이 닿아 사과도 받았고 삭제 조치도 이뤄졌다”며 “소통 창구가 확보됐으니 향후 어떻게 규제할 것인지 계기를 마련하게 됐다”고 설명했다. 그는 또 “딥페이크 제작물의 유통도 문제지만 피해자의 신상정보가 함께 유통되고 있는데 2차, 3차 피해를 차단하기 위해 방통위설치법을 개정해 방심위가 신속심의에 나설 수 있도록 하는 방안을 검토하고 있다”고 밝혔다. 이어, “생성형 AI에 대한 저작물에 워터마크를 표시하는 방안도 있고, 서비스를 이용하는 문제도 있지만 기술을 제공하는 사업자 입장에서 이 부분에 대해 인공지능의 위험을 관리할 필요성도 크다”며 “AI의 위험성과 부작용으로부터 이용자를 보호하기 위해 AI이용자보호법을 준비하고 있다”고 강조했다. 부가통신사업자의 불법촬영물등 유통방지를 위한 기술‧관리적 조치 이행점검을 방통위 예산으로 진행하고 있는데 관련 예산을 증액해 디지털성범죄 모니터링으로 방심위에 신고하고 사업자에 삭제 요청으로 차단하는 방안도 주요 방법으로 꼽혔다. 신 국장은 “방통위 차원에서 할 수 있는 일과 별도로 정부 전체 차원에서 범정부 대응이 총리실을 중심으로 TF가 운영되고 있는데, 여기서 종합적인 대책방안이 만들어지면 신속한 조치를 취하겠다”고 말했다. 한편 이날 국회 과학기술정보방송통신위원회는 딥페이크 논란과 관련해 성범죄영상물을 근절해야 한다는데 여야가 뜻을 모아 긴급 정책 토론회를 열었다.

2024.09.05 18:19박수형

"피해자 절반이 韓 여성"…샌즈랩, 딥페이크 범죄 막기 위해 앞장섰다

최근 딥페이크를 활용한 범죄가 급증하며 사회적으로 큰 문제가 되고 있는 가운데 샌즈랩이 국민들의 불안감을 잠재우기 위해 이를 탐지하는 서비스를 무료로 제공한다. 샌즈랩은 생성형 인공지능(AI) 역기능 중 하나인 딥페이크를 탐지하는 서비스 '페이크체크'를 출시했다고 4일 밝혔다. 페이크체크는 사용자가 직접 웹사이트에 접속해 딥페이크가 의심되는 이미지를 업로드하면 수 초 내로 위조 진위 여부를 분석해 판별 결과를 알려준다. 남녀노소 누구나 쉽게 서비스를 이용할 수 있도록 회원가입이나 인증 등 번거로운 절차들을 없애고 순수한 기능에 집중했다. 이 서비스는 무료로 제공되며 누구나 이용 가능하다. 샌즈랩은 현재 국민들이 직면한 사회적 이슈에 조금이나마 도움을 보태기 위해 해당 서비스를 자체 구축하고 유지하는데 드는 클라우드 서비스 등의 모든 비용을 사회 공헌 차원에서 직접 부담하기로 했다. 당장의 서비스 수익보다 딥페이크로 인한 2·3차 피해 확산 방지가 우선이라는 판단에서다. 실제 우리나라는 딥페이크 피해에 취약한 상태다. 미국의 사이버보안 업체 시큐리티 히어로가 최근 발표한 '2023 딥페이크 현황 보고서'에 따르면, 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트 게시물 9만5천820건을 분석한 결과 피해자의 53%가 한국인이었다. 대부분 가수와 배우 등 연예인이었고, 가장 큰 피해를 본 것은 한국인 가수로 나타났다. 이들은 딥페이크 성착취물 1천595건에 등장했고 총 조회수는 561만 회였다. 이에 샌즈랩은 디지털 범죄 근절과 국민 불안을 불식시키기 위한 사회적 기업 차원에서의 책임감에 따른 노력의 일환으로 서비스를 민간에 개방했다. 이곳은 당초 생성형 AI 역기능 탐지 및 대응 기술에 대한 연구개발을 통해 페이크체크와 같은 기능의 국민 체감형 플랫폼을 구축하는 국가 과제를 수행하고 있었다. 그러나 착수 이후 반년도 채 지나지 않은 시점에서 AI 역기능이 사회적 문제로 심화되자 이처럼 결정했다. 페이크체크는 다양한 AI 모델을 활용해 사람의 얼굴 이미지의 위·변조 여부 판별이 가능하도록 개발됐다. 범죄 예방 목적의 서비스다 보니 사람 얼굴 외 동물이나 사물의 딥페이크 이미지는 판별하지 않는다. 샌즈랩 관계자는 "다만 완전히 개발이 완료된 서비스가 아닌 일종의 오픈 베타 테스트 버전 형태로 출시됐다"며 "이 때문에 지속적인 의견 수렴과 업데이트를 통해 탐지 대상 확대나 탐지율 향상은 물론 영상의 위·변조 여부 판별까지 추후 지원할 것"이라고 설명했다. 김기홍 샌즈랩 대표는 "페이크체크 서비스는 딥페이크 침해 사고에 대한 대응책이 필요한 사회적 기대에 부응하기 위해 임직원들이 한마음 한뜻으로 만들어낸 실질적인 대안 확보 사례"라며 "이번 서비스 출시로 수행 중인 과기정통부 정보통신기획평가원의 정보보호핵심원천기술개발사업인 생성형 AI 역기능 억제를 위한 국민 체감형 플랫폼 구축 토대를 견고히 다져 미래 사이버 보안을 위한 AI 기술 개발로 사회에 이바지할 수 있도록 앞장서겠다"고 밝혔다.

2024.09.04 17:00장유미

방심위 "텔레그램에 요청한 디지털성범죄물 25건 삭제"

방송통신심의위원회는 최근 텔레그램 측에 삭제 요청한 25건의 디지털성범죄영상물이 삭제됐다는 통보를 받았다고 3일 밝혔다. 방심위에 따르면 텔레그램은 이날 이메일을 보내 "최근 한국 당국이 저희 플램폼에서 불법 콘텐츠를 다루는데 어려움을 겪고 있다는 언론보도를 알게 됐다"며 "그동안 한국 당국으로부터 접수된 신고를 성실 하게 처리하고 있었기에 현재와 같은 상황 전개는 매우 안타깝게 생각한다. 오해의 소지가 있었다면 사과 한다”고 밝혔다. 또 “한국 사용자들에게 텔레그램을 더욱 안전하게 만들기 위해 방심위와 신뢰관계 구축을 희망한다”고 덧붙였다. 텔레그램 측은 새로운 전용 이메일을 공개하기도 했다. 방심위 측은 "텔레그램 측의 전향적인 입장 표명에 대해 환영하고, 이번에 열린 전용 이메일을 시작으로 핫라인을 구축하여, 본격적 현안 해결은 물론, 디지털성범죄영상의 궁극적 퇴출을 위한 공고한 협력관계를 다져나가기를 기대한다"고 말했다.

2024.09.03 17:17안희정

"성착취물로 협박하면 5년이상 징역"…이달희, 아동·청소년 성보호 법 개정안 발의

국회 여성가족위원회 소속 국민의힘 이달희 의원은 강화된 처벌 규정을 담은 아동·청소년의 성보호에 관한 법률 개정안을 대표발의 했다고 3일 밝혔다. 이 개정안은 최근 딥페이크 성범죄 피해가 심각해지면서 아동·청소년 성착취물을 이용해 사람을 협박한 자는 5년 이상의 유기징역에 처하도록 하는 등의 내용을 담았다. 경찰청에서 제출한 자료에 따르면, 10대 피의자는 2021년 51명에서 2023년 91명으로 증가했고, 같은 기간 10대 피해자는 2021년 53명에서 2023년 181명으로 3배 이상 증가했다. 또한 여성가족부의 '2023년 아동·청소년 대상 성범죄 발생추세 및 동향 분석 자료 '에 따르면, 가해자가 어떠한 방식으로 피해 아동·청소년의 성적 이미지를 유포하겠다고 협박한 사건의 비율은 2019년 8.5%에서 2022년 20.8%로 크게 증가했다. 그러나 현행법에는 아동·청소년 성착취물을 이용한 협박·강요에 대한 처벌 규정을 별도로 두고 있지 않아, 현재 발생하고 있는 딥페이크를 이용해 제작된 아동·청소년 성착취물로 사람을 협박한 경우 '성폭력범죄의 처벌 등에 관한 특별법'에 따른 처벌만이 가능한 상황이다. 이 의원은 "특히 판단력이 취약한 아동과 청소년을 대상으로 성착취물을 이용해 사람을 협박하는 행위는 성인을 대상으로 하는 행위에 비해 더 죄질이 중하다”며, “아동·청소년 성착취물을 이용해 사람을 협박한 자는 5년 이상의 유기징역에 처하도록 하는 등 강화된 처벌규정을 신설했다"고 설명했다. 이어 "성착취물을 비롯한 아동·청소년 성착취물 이용 범죄에서 아동과 청소년을 더욱 강하게 보호하고, 앞으로도 아동·청소년 대상 성범죄의 법적 사각지대 해소 위해 노력할 것"이라고 재차 강조했다.

2024.09.03 16:19안희정

딥페이크 성범죄물로 초·중·고 다 초토화…"벌금 아닌 '징역'으로"

"딥페이크 성범죄물로 초·중·고가 다 초토화됐다. 교사들까지 교단이 서지 못하겠다고 한다. 카카오톡 프로필에 사진도 못 올린다. 해외 사례를 참고해 수사력과 형량을 강화해야 한다." 최근 딥페이크 기술을 활용해 지인이나 유명인의 사진으로 성착취영상물을 만들어 공유하는 범죄가 큰 논란이 되고 있다. 그러자 허위 성착취물 제작뿐 아니라 유포도 성인 성착취물이나 아동·청소년 성착취물 제작 유포와 동일한 수준으로 형량이 강화돼야 한다는 주장이 나왔다. 또 위장수사 제도를 개관해 수사력을 강화해야 한다는 대책도 제시됐다. "소지만 해도 처벌…해외 사례 참고해 형량·수사력 강화해야" 3일 오전 조은희 국민의힘 의원과 한국여성인권진흥원 주최로 국회에서 열린 '딥페이크 디지털성범죄 예상과 대응책 마련을 위한 정책 토론회' 발제를 맡은 이수정 경기대학교 범죄심리학과 교수는 "여성가족부가 여러 채팅앱을 모니터링하고 있는데, 여기서 디지털성범죄 현황을 쉽게 발견할 수 있다"며 "다만 모니터링 업무를 한 다음 플랫폼에 권고를 하는 정도의 한계가 있다. 텔레그램과 같은 해외에 서버를 둔 플랫폼들은 국내법으로 어떻게 할 수가 없다"고 토로했다. 이 교수에 따르면 영상채팅앱에서 디지털성범죄가 발생하고 있고, 몇 분 이상 영상채팅을 할 경우 여성 이용자에게 코인이나 하트 등 포인트가 지급된다. 받은 포인트는 일정 수준 이상 모았을 때 수수료를 떼고 현금이나 기프티콘으로 환전을 할 수 있는데, 여기서 10대들의 얼굴이나 신체 사진이 노출되면서 딥페이크 성착취물 제작에 이용될 수 있다. 이 교수는 "텔레그램 문제만이 아니다. 이미 딥페이크 성착취물을 본 22만명 중 의도를 갖고 있는 가해자들은 토르라는 다크웹으로 옮겨가고 있다"면서 "N번방 때부터 예견된 일이었는데, 계속해서 전 세계적으로 유례없는 많은 피해자들이 양산되고 있다. 해외 사례를 보며 형량 강화와 플랫폼 규제를 강화해야한다"고 강조했다. 이 교수는 허위영상물도 실제 성착취물과 동일한 수준으로 형량을 강화해야 한다고 강조했다. 허위영상물 유포 절반이 집행유예 수준인데, 형량을 강화하는 데 그치는 것이 아니라 실효성 있는 처분으로 이어지도록 할 필요가 있다는 설명이다. 이 교수는 "실제 성착취물처럼 소지나 구입, 저장, 시청도 처벌해야한다"며 "다수 피해자를 만들거나 재범인 경우 징역 이상의 형벌을 내려야 한다"고 단언했다. 또한 해외 사례를 참고해서 온라인 플랫폼 책임을 강화하는 것이 중요하다고도 덧붙였다. 예를 들어 미국의 경우 '딥페이크 책임법'이 지난해 만들어져 성 관련 콘텐츠를 통해 모멸감이나 수치심을 주는 경우, 벌금형 또는 5년 이하의 징역형을 내린다. 캘리포니아주 민법을 보면 디지털 기술로 기만적인 영향 등을 제작·공개·유포 시 최대 3만 달러(약 4천만원), 악의적 불법행위는 15만 달러(약 2억원)까지 손해배상을 청구할 수 있게 돼있다. 이 교수는 "현행법상 딥페이크 성착취물은 '성폭력처벌법' 제14조의2 및 아동·청소년 성보호법 제11조로 처벌 가능하지만, 성폭력처벌법의 경우 딥페이크 성착취물을 반포 목적으로 제작·배포한 경우만 처벌하고 시청하거나 소지한 경우는 처벌할 기준이 없다"며 "처벌을 강화해야 한다"고 강조했다. 그러면서 "해외 사례와 같이 플랫폼 규제를 통해 딥페이크 허위 영상물에 대한 규제 및 예방이 필요하다"면서 "AI와 같은 급진적으로 발전하는 기술에 대한 교육이 필요하다"고 덧붙였다. 이 교수는 "딥페이크 통제는 국가의 미래가 달린 일이다. 불안한 상태면 사람들은 사회적인 접촉을 끊고 이는 저출산과도 밀접한 연관이 있다"며 "처벌 강화는 당연한 것이고, 수사력을 강화해 위장수사를 성인 성착취물과 허위영상물로 확대하고, 피해자 수사 지원도 확대해야 한다"고 역설했다. 사후승인제도 신설하고 피해자보호 지원·관련 교육도 필요 함영욱 경찰청 사이버범죄수사과 과장 또한 위장수사 4년 차를 맞아 이를 더 활성화하고 수사과정에서 나타나는 공백을 보완하기 위한 제도 개선이 필요하다고 말했다. 함 과장은 "피해자가 성인인 경우에도 선제적, 적극적 위장수사가 가능하도록 성폭력처벌법을 개정해서 대상범죄 범위를 확대할 필요가 있다"면서 "야간이나 공휴일에도 긴급한 경우 사전 승인을 받지 않더라도 신속히 신분비공개수사가 개시될 수 있도록 개선해야 한다"고 주장했다. 예를 들어 공휴일에 성착취물을 유포하는 텔레그램방을 발견했음에도 신분비공개수사 사전승인을 받고자 대기하다가 해당 방이 없어지는 불상사가 일어나는 것을 막기 위해서다. 지금은 아동과 청소년 대상으로 하는 디지털 성범죄에 한정하고, 범의유발형 함정수사는 허용되지 않는다는 한계를 극복해야 한다는 취지다. 이 밖에도 함 과장은 학생과 학부모를 대상으로 딥페이크 성범죄 예방교육·홍보활동· 신종유형 범죄에 대한 첩보를 수집하고, 삭제나 차단 요청과 심리상담 지원 등 피해자보호 지원도 실시한다고 강조했다. 함 과장은 "이번 기회에 전 국민이 공분할 수 있는 범죄에 대해서는 대책 마련에 강하게 드라이브 걸고, 추진하도록 하겠다"고 말했다. 정진권 서울시교육청 민주시민생활교육과 과장은 학교뿐만 아니라 가정에서도 이와 관련해 관심을 갖고 디지털윤리나 디지털리터러시 교육에 힘써야 한다고 밝혔다. 정 과장은 "학교에서도 성착취물과 관련한 교육을 진행하지만, 공교육에 대한 신뢰와 권위가 낮아지며 제대로 된 교육 효과가 쉽게 나타나지 않고 있다"며 "학교와 교사에 대한 신뢰 확보와 부모의 관심이 필요하다"고 조언했다. 이수정 교수 또한 "초등학교 때 코딩 교육, 봇기술 등을 아이들이 습득하는데, 우리나라 교육에서는 현재 기술만 전달하지 이같은 기술의 발달로 발생할 수 있는 최악의 결과물을 공유하지 않는다"며 "교육부에서도 교육이 기본적인 목적을 고민해봐야 한다. 국가적인 과제다"라고 강조했다.

2024.09.03 15:08안희정

Prev 1 2 3 4 5 6 Next