ZDNet 검색 페이지

'디지털 범죄'통합검색 결과 입니다. (13건)

"디지털 범죄 대응 새 지평"…라바웨이브, 피해자 위한 '솔루션 데모' 공개

라바웨이브가 피해자의 심리적 안정을 위해 디지털 성범죄 대응 솔루션 작동 원리를 체험할 수 있는 기술 서비스를 공개했다. 라바웨이브는 자사의 핵심 기술을 누구나 체험할 수 있는 '솔루션 데모' 서비스를 공식 홈페이지를 통해 오픈했다고 27일 밝혔다. 이 서비스는 몸캠피싱 및 딥페이크 등 디지털 성범죄 대응 솔루션의 신뢰성을 강화하기 위해 개발됐다. 기존 디지털 성범죄 대응 방식은 솔루션의 작동 원리를 구두로 설명하는 데 그쳤다. 이로 인해 피해자는 긴급 상황에서도 충분히 기술을 신뢰하지 못한 채 솔루션을 의뢰해야 하는 어려움이 있었다. 새롭게 공개된 '솔루션 데모'는 데이터인젝션, 더미데이터, 하이퍼 디텍트 등 라바웨이브의 3가지 핵심 기술로 구성돼 있다. 이 기술들은 데이터 보호 및 불법 콘텐츠 유포 방지를 위한 독자적인 특허를 바탕으로 개발됐다. 특히 하이퍼 디텍트는 AI 기반 모니터링 기술을 활용해 불법 콘텐츠를 신속히 탐지할 수 있다. 이는 몸캠피싱이나 딥페이크 같은 디지털 성범죄에 대한 피해자의 불안을 해소하고 초기 대응력을 강화하는 데 효과적이다. '솔루션 데모'는 다양한 연령대의 피해자를 고려해 사용자 친화적으로 설계됐다. 특히 미성년자와 중·노년층 피해자가 쉽게 이해할 수 있도록 단계별 안내와 간단한 메시지 구조를 제공한다. 이미 라바웨이브는 지방경찰청과의 공조 수사 및 카이스트와의 기술 협력으로 디지털 범죄 예방을 위한 연구를 지속하고 있다. 지난 11월에는 국회 기획재정위원장 표창을 수상하며 기술력을 인정받았다. 라바웨이브 관계자는 "피해자가 직접 솔루션을 체험할 수 있게 함으로써 심리적 안정과 신뢰를 제공할 수 있다"며 "디지털 범죄 근절이라는 목표를 이루기 위해 지속적으로 기술을 발전시키겠다"고 밝혔다.

2024.12.27 09:46조이환

방심위 "IP캠 해킹 중점 모니터링...디지털성범죄 영상물 강력 대응"

방송통신심의위원회는 가정・사무실・노래방 등 일상 공간에서 촬영된 성행위 영상과 탈의 영상 등 'IP캠 해킹' 디지털성범죄 영상물이 해외 불법·음란사이트를 통해 대거 유포되고 있다는 점을 확인해 '접속차단'을 의결했다고 29일 밝혔다. 방심위는 최근 보안에 취약한 중국산 'IP캠 제품'들이 해킹되는 사례가 많아 사회적인 문제로 대두됨에 따라 중점 모니터링을실시하고, 28일 디지털성범죄심의소위원회를 개최해 'IP캠 해킹' 디지털성범죄 영상물 260건에 대해 시정요구를 결정했다. 방심위 측은 “피해자가 'IP캠 해킹' 여부를 알기 어려운 상황으로, 피해 확산을 방지하기 위해 해외 불법·음란사이트를 앞으로도 지속적으로 모니터링할 것”이라며 "'IP캠 해킹' 피해를 예방하기 위해 개별 사용자들도 아이디와 비밀번호를 주기적으로 변경하고, 보안 인증 제품을 사용하는 등 예방 조치를 강화해야 한다”고 강조했다. 방심위는 사용자들의 개별 보안설정만으로는 한계가 있다는 점을 고려해 이번에 적발한 해외 불법・음란사이트에 대해 경찰에 수사의뢰 조치하는 등 유관 기관과의 협력을 통해 근본적인 대책 마련에 힘쓸 계획이라고 설명했다.

2024.10.29 16:38안희정

"女교사 치마 속 찰칵"…학교 '몰카' 늘어나는데 예방책은 '잠잠'

#. 인천에 사는 A군은 지난 23일 부평경찰서에서 성폭력범죄의 처벌 등에 관한 특례법상 카메라 등 이용촬영 혐의로 불구속 입건됐다. 지난달 자신이 다니던 고등학교 교실에서 여성 교사 B씨의 치마 속 다리 등 신체 일부를 스마트폰으로 몰래 촬영한 사실이 발각돼서다. B씨의 고소장을 접수한 경찰은 A군의 휴대전화를 압수해 디지털 포렌식을 하자 불법 촬영 사진들이 쏟아져 나왔다. 경찰은 A군의 친구인 다른 고교생 3명도 범행 가담 여부를 조사하고 나섰다. 이처럼 최근 전국적으로 학생들의 불법촬영 범죄가 빗발치고 있지만 마땅한 대책이 없어 교육업계의 우려가 깊어지고 있다. 불법촬영으로 인한 2차 피해 문제도 심각한 만큼 사전 예방책 마련이 절실하다는 지적이 나온다. 28일 서지영 국민의힘 의원이 교육부로부터 제출 받은 자료에 따르면 초·중·고 학교 안에서 불법촬영 범죄 건수는 지난 2020년 81건에서 지난해 249건으로 3년 새 3배가량 늘었다. 올해는 그 수가 더 빠르게 증가하는 모습을 보였다. 실제 지난 1월부터 8월까지 244일 중 196건이 발생, 일주일에 5.6건 꼴로 불법촬영 범죄가 일어났던 것으로 파악됐다. 대학교에서도 불법촬영 범죄는 빈번했다. 같은 기간 동안 무려 55개 대학에서 불법촬영 범죄가 발생했는데 서울에서만 11개 대학에서 발각된 것이다. 해당 대학교는 건국대, 경희대, 삼육보건대, 상명대, 서울과학대, 성균관대, 서울대, 세종대, 숭실대, 한양대, 홍익대 등이다. 다른 지역에서도 마찬가지다. ▲경기·인천에서는 경기대, 대림대, 수원대, 용인예술과학대, 인천대, 인하대, 협성대 등 7개 대학 ▲강원에서는 가톨릭관동대, 강원대, 경동대, 상지대, 연세대(미래), 한림대 등 6개 대학 ▲충청권에서는 건양대, 고려대(세종), 공주교대, 남서울대, 대전대, 목원대, 충북대, 한국과학기술원, 한국교통대, 한밭대, 홍익대(세종) 등 11개 대학 ▲제주·호남권에서는 목포대, 전남대, 제주한라대 등 3개 대학 ▲대구·경북에서는 경북대, 계명대, 금오공과대, 대구보건대, 동국대(WISE), 영남대, 포항대, 한동대 등 8개 대학 ▲부산·울산·경남에서는 경상국립대, 동명대, 동서대, 동의과학대, 부산교대, 부산대. 울산과학기술원, 울산대, 인제대 등 9개 대학에서 불법촬영 범죄가 발생했다. 교내 디지털 성범죄도 급증하는 추세다. 국회 교육위원회 조국혁신당 강경숙 의원이 16개 시도교육청(세종 제외)에서 제출 받은 자료에 따르면 2021년부터 올해 8월까지 전국 초·중·고 학교폭력대책심의위원회에서 디지털 성범죄로 처벌한 건수는 총 1천727건에 달했다. 10건 중 4건 이상은 심각한 사안이라 전학 등 '중대 조치'를 받은 것으로 파악됐다. 디지털 성범죄는 가해 학생이 피해 학생을 상대로 허위 영상물을 제작해 유포 또는 협박하거나, 불법 촬영을 하는 방식으로 이뤄졌다. 딥페이크 합성을 의뢰하기도 했고 SNS나 인터넷 커뮤니티에 불법 촬영 및 합성물을 유포하기도 했다. 페이스북 메신저로 성희롱, 음란 문자를 전송한 경우도 있었다. 이처럼 학교에서 불법촬영, 디지털 성범죄가 갈수록 심각해지고 있지만 업계에선 뚜렷한 대책이 없어 답답해 하고 있다. 특히 학교 안에서 몰래카메라를 숨겨 놓고 찍는 설치형 범죄의 경우 대부분 교사, 학생 등 내부자 소행이 많아 매년 1~2회 정도 진행하는 공식 방문 점검으로는 적발이 불가능하다는 의견도 나오고 있다. 첨단 보안 기술들이 속속 나오고 있지만 비용 부담이 커 교내에 적용하기 쉽지 않다는 점도 아쉬운 요소다. 현재 지슨, 유니유니, 이너트론 등이 불법촬영 탐지와 관련한 기술들을 선보이고 있는데, 이 중 지슨이 가장 안정적인 시스템으로 평가 받고 있다. 지슨은 전자기기인 불법촬영 장비에서 나오는 열을 잡아내는 방식으로 작동하는 상시형 탐지 시스템 '알파(Alpha)-C'를 선보이고 있다. 업계 관계자는 "현재 점검 방식은 인력이 수동적으로 개입해야 해서 적발하기 쉽지 않다"며 "기술적인 측면에 대한 고민도 해야겠지만 교내에서 이 같은 범죄가 발생하지 않도록 정책적인 개선을 하루 빨리 이뤄나가야 할 것"이라고 말했다.

2024.10.28 16:02장유미

[기고] AI 진흥과 규제의 경계

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. 익히 아는 것처럼 노벨상은 알프레드 노벨의 기일인 오는 12월 10일에 시상식이 개최된다. 시상식 날로부터 두 달 전인 10월의 첫 번째 월요일부터 하루에 한 분야씩 수상자가 공식 발표된다. 올해는 토론토 대학의 제프리 힌튼 교수와 프린스터 대하의 존 홉필드 교수가 노벨 물리학상 수상자로 발표됐고 알파고로 유명한 데이비드 허사비스 구글 딥마인드 대표가 노벨 화학상의 수상자 중 하나로 발표됐다. 수상자를 발표하는 스웨덴 한림원도 수상 과정을 설명하면서 인공지능(AI) 기술이 인류에 얼마나 공헌해 왔는지를 설명했다. 이제는 AI 기술이 IT 기술의 영역이 아니라 인류의 일상 생활에 깊이 들어왔다는 점을 다시 한번 느끼게 된다. AI 기술에 대한 국가적 관심은 우리나라도 다름이 없다. 최근 대통령을 위원장으로 하는 국가AI위원회를 출범시키면서 글로벌 3대 AI 강국의 반열에 들겠다는 목표로 '국가총력전'을 선포했다. 다소 구시대적이고 식상한 느낌이 들기도 하지만 AI 산업 분야에 정부가 관심을 가지고 연구 개발과 산업화가 잘 이루어질 수 있도록 지원한다는 것이니 굳이 색안경을 끼고 부정적으로만 볼 것은 아니다. AI 기술이 향후 우리가 주목해야할 먹거리라는 점에 대해서는 큰 틀에서는 긍정적인 논의의 줄기가 잡히는 것 같다. 그럼에도 세부적으로 들어가면 쉽지 않은 이슈들이 산적해 있다. 당장 AI 기술이 가짜 뉴스, 딥페이크 기반 허위 영상물 등의 제작과 배포를 손쉽게 해 사회적으로 허용하기 어려운 수준의 범법 행위들이 널리 이루어질 수 있다는 점이 문제가 되고 있다. 과거 인터넷 기술이 그러했던 것처럼 AI 기술은 말 그대로 도구이자 기술일 뿐이라는 점에 대해서는 누구나 공감한다. 그럼에도 그로 인해 발생할 수 있는 피해를 예방하기 위해서 '직접' 규제를 하게 되면 결국에는 기술 자체에 부정적인 전후방 효과가 발생할 수밖에 없다. 전폭적인 지원 정책으로도 그 수준을 올리기 어려운 치열한 글로벌 기술 경쟁 상황에서 브레이크로 작동할 가능성이 높다는 우려도 제기되고 있다. 최근 국회는 아동 청소년 딥페이크 처벌 강화법이라는 내용으로 디지털 성범죄에 대한 처벌 강화를 위한 소위 아청법과 성폭법 개정안을 의결했다. '아동, 청소년의 성보호에 관한 법률'은 성착취물을 이용한 아동, 청소년 대상 협박 강요 범죄의 처벌 규정을 신설해 처벌을 강화했다. 또 딥페이크 등 디지털 성범죄의 긴급 신분 비공개 수사를 허용해 피해자의 긴급한 구조가 가능하도록 하는 내용을 담았다. '성폭력방지 및 피해자 보호 등에 관한 법률'은 그 자체로는 딥페이크 기술을 이용한 불법 촬영물에 관한 새로운 내용이 포함된 것은 아니다. 그럼에도 불구하고 법안의 개정은 관련 업무를 국가의 책무로 명시하고 디지털 성범죄 피해자 지원 센터 운영의 근거 규정을 신설해 피해자 보호 등의 사업을 할 수 있도록 했다. 이러한 내용들은 충분히 국가가 AI 기술 확산으로 인한 부작용을 방지하기 위해 미리 준비해야 할 영역임에는 틀림이 없다. 개정안에는 딥페이크 기술을 활용한 불법 촬영물은 소지하는 것만으로 형사처벌을 하겠다는 내용이 포함돼 있는데 최근 해당 기술을 활용한 사례들이 사회적으로 문제가 되고 있는 점을 고려해 보면 충분히 이해 가능한 부분이기도 하다. 그럼에도 불구하고 기술의 부작용을 미리 염려해 실시된 각종 규제들이 기술 발전에 예상치 못한 방해물로 작용해 왔다는 사실은 이미 오랜 기간 동안 선례로 쌓여 왔다. 인터넷 부작용을 우려해 콘텐츠에 대한 제재를 엄격하게 했다면 현재처럼 우리나라가 인터넷 강국의 지위에 오를 수 있었을런지 의문이다. 게시글의 악영향을 차단하기 위해 실명제를 도입한 이후 국내 콘텐츠 사업자들이 크게 영향을 받을 수밖에 없었던 사건은 그리 오래되지도 않았다. 최근 유럽연합(EU)은 유럽 인공지능법(EU AI법) 제정을 통해 AI에 대한 포괄적인 규제를 시도하고 있다. 그럼에도 이 법이 EU 내 AI 기술 발전에 어떠한 영향을 미칠 것인지 여전히 설왕설래가 오가고 있다. 최근 미국 캘리포니아에 제안된 AI 안전법안(Safe and Secure Innovation for Frontier Artificial Intelligence Models Act) 역시 마찬가지다. 이 법안이 AI 모델의 규모만 고려할 뿐 그 활용 맥락은 고려하지 않고 일률적인 규제를 하는 것이 적절한지에 대하여 논란이 있기 때문이다. 바로 이 점을 들면서 주지사가 법안에 대한 거부권을 행사했다는 점 역시 AI 기술에 대한 포괄적인 규제가 가져올 부정적인 영향을 무시하기 어려운 사정이 있기 때문이라는 평가들이 존재한다. 이와 반대로 연구 개발과 발전이 진행 중인 과학기술 분야에서 일정한 기준 또는 규제가 존재해서 예측가능성을 부여하고 안정적인 개발과 운영이 이루어진 사례들도 매우 많다. 다소 이른 수준의 규제라고 모두 관료제의 병폐인 적기 조례(Red flag act)가 되는 것은 아니다. 그럼에도 그 규제가 이른 것인지 아니면 이미 늦었는지 사전적으로는 매우 판단하기 어렵다. 또 해외 사례가 반드시 정답인 것도 아니다. 결국 입장이 다른 이해관계자들이 머리를 맞대고 각자의 선의를 모아 최선의 결론을 내릴 수밖에 없다. 비록 아무 것도 하지 않는다는 것이 그 결론일지라도 말이다. 의사 결정 과정에서 정부의 적극적인 의지와 입장 표명이 중요한 점은 두말할 나위도 없다. 큰 눈으로 이슈를 바라보고 저 멀리까지 바라볼 수 있는 넓은 시야가 요구되는 시점이다.

2024.10.11 15:30법무법인 태평양 강태욱

다가오는 개보위 국정감사…주요 안건은

디지털 시대의 개인정보 보호가 그 어느 때보다 중요해진 가운데 개인정보보호위원회(개보위)가 해결해야 할 주요 문제들이 다각도로 점검될 예정이다. 5일 업계에 따르면 국회는 오는 8일 정부세종청사에서 개보위에 대한 국정감사를 진행한다. 이번 국정감사는 국민권익위원회(권익위)에 대한 감사와 동시에 이뤄지며 개인정보 보호와 관련된 다양한 현안들이 집중적으로 논의될 것으로 예상된다. 개보위는 지난 2020년 출범한 중앙행정기관으로, 개인정보 보호법을 통해 개인정보 침해를 예방하고 침해 발생 시 조사·제재하는 역할을 맡고 있다. 국정감사는 국회가 정부의 국정 전반을 감사해 잘못된 부분을 적발·시정하고 입법 활동에 도움을 주기 위해 매년 실시된다. 올해는 오는 7일부터 25일까지 개보위를 포함한 주요 부처를 대상으로 진행될 예정이다. 개보위 측은 아직 국회로부터 구체적인 질의 사항을 전달받지 못한 상태다. 통상적으로 국정감사 질의 내용은 전날 늦은 밤이나 당일 아침에 공유되는 경우가 많아 준비에 어려움을 겪고 있는 것으로 알려졌다. 개보위 관계자는 "국정감사에서 어떤 의원이 어떤 질문을 할지 아직 알 수 없어 대비하는 데 어려움이 있다"면서도 "최선을 다해 준비하고 있다"고 밝혔다. 이번 국정감사가 권익위와 동시에 진행됨에 따라 권익위 중심으로 전개될 가능성이 있다는 관측도 있다. 그럼에도 불구하고 최근 딥페이크 기술을 악용한 디지털 성범죄와 개인정보 유출 증가 등 개인정보 보호에 대한 국민적 관심이 높은 만큼 개보위에 대한 논의도 활발할 것으로 전망된다. 국정감사에서는 딥페이크 성범죄에 대한 개보위의 대응이 우선적으로 다뤄질 것으로 예상된다. 지난 5년간 디지털 성범죄 피해 발생 건수가 5.5배 증가했으며 특히 편집·합성된 이미지와 영상이 범죄에 이용되는 경우가 크게 늘었기 때문이다. 이수정 경기대 범죄심리학과 교수는 최근 "딥페이크 성범죄는 피해자에게 심각한 정신적 고통을 주는 범죄"라며 "엄격한 처벌과 예방적 조치가 시급하다"고 지적했다. 이에 개보위는 딥페이크 관련 문제에 대응하기 위해 디지털 성범죄 방지와 아동·청소년의 '디지털 잊힐 권리' 실현 등을 추진하고 있다. 특히 피해자의 동의 없이 온라인에 유포된 개인정보나 이미지 등을 삭제해주는 지원을 제공하고 있는 것으로 알려졌다. 그럼에도 불구하고 개보위의 딥페이크 방지 노력은 차질을 빚고 있다. 김용만 더불어민주당 의원실에 따르면 올해 10억원이었던 '디지털 잊힐권리 실현' 사업 예산이 내년에는 6억5천만원으로 삭감됐기 때문이다. 아동 대상 딥페이크 성착취 문제가 심각한 와중에 관련 예산이 35% 삭감됨에 따라 국정감사에서도 예산 삭감의 이유와 대책에 대한 질의가 있을 것으로 예상된다. 공공기관의 개인정보 유출 사례 급증과 이에 대한 투명성 부족도 주요 이슈로 떠오를 전망이다. 최근 들어 공무원 조직을 통해 개인정보가 유출됨에도 불구하고 국민이 이에 대해 인지하고 있지 못하기 때문이다. 실제로 강명구 국민의힘 의원은 지난 3일 "지난해 공공기관의 개인정보보호법 위반 건수가 전년 대비 2.7배 증가한 87건을 기록했다"며 "그럼에도 국민에게 위반 사실을 알리는 공표 처분은 17건에 그쳐 투명성이 부족하다"고 지적했다. 공공기관의 법 위반 사실을 감추는 것은 국민의 알 권리를 침해하는 것이라는 강 의원의 주장에 따라 이번 국정감사에서는 공공기관의 개인정보 관리 소홀에 대한 대책 마련과 투명성 강화 방안이 논의될 것으로 예상된다. 인공지능(AI) 기술의 발전에 따른 개인정보 보호 이슈도 국정감사에서 다뤄질 것으로 보인다. 개보위는 지난 7월 '인공지능(AI) 개발·서비스를 위한 공개된 개인정보 처리 안내서'를 발표한 바 있지만 업계에서는 기준의 모호성으로 인해 기술 개발에 어려움을 겪고 있다고 호소하고 있기 때문이다. 한 AI 업계 관계자는 "명확한 사용 기준이 없어 혼란이 가중되고 있다"며 "이는 AI 기술을 개발하는 스타트업들의 작은 규모와 적은 예산을 감안할 때 거대한 방해물이 되고 있다"고 토로했다. 이러한 업계의 지적에 대해 개보위는 '안내서'가 적법한 개념을 사용하고 있으며 기업들이 법적 침해 요소를 해소하고 데이터를 안전하게 활용하도록 지속적으로 지원하겠다고 해명한 바 있다. 이에 이번 국정감사에서는 AI 시대 개인정보 보호 정책과 업계와의 소통 강화 방안에 대해서도 논의될 것으로 예상된다. 지난해 국정감사에서 지적된 해외 기업의 개인정보 침해 문제에 대응해 개보위는 알리익스프레스, 테무 등 해외 직구 업체들의 개인정보 수집 및 처리 방식에 대한 조사를 진행 중이다. 국정감사에서는 이 조사의 진행 상황을 다시 한번 점검하고 해외 기업들의 개인정보 처리 방식에 대한 대응이 적절한지 확인하는 논의가 이루어질 것으로 보인다. 또 구글, 메타 등 글로벌 기업과 국내 기업 간의 개인정보 규제 차이에 대한 개보위의 대처에 대해서도 확인 차원의 질의가 이어질 것으로 예상된다. 이 문제는 국내 기업들의 형평성 문제와도 연결돼 있어 심도 있는 논의가 있을 것으로 전망된다. 이번 국정감사는 개보위가 해결해야 할 다양한 현안들에 대한 해법을 모색하는 자리가 될 것으로 관측된다. 개인정보 유출 대응, 디지털 성범죄 방지, AI 시대의 개인정보 보호 등 국민의 일상과 직결된 문제들이 논의될 예정인 만큼 개보위의 역할과 책임에 대한 평가가 더욱 중요해질 것으로 보인다. 한 AI 업계 관계자는 "AI로 빠르게 전환되는 시대인 만큼 데이터 역시 그 어느 때보다 중요하다"며 "이번 국정감사에서 AI 기업들이 성장할 수 있는 환경을 마련하면서도 국민의 데이터를 보호할 수 있는 균형 잡힌 논의가 이루어지길 기대한다"고 말했다.

2024.10.05 07:54조이환

올해 스팸 피해신고 2억건 넘었지만…"적절한 대응책 없어"

"올해 8월까지 신고·탐지된 스팸 사례가 2억7천만건입니다. 보이스피싱 피해액은 지난해 전체 통틀어 1천965억원 규모입니다. 국민이 불법 스팸과 피싱 등으로 심각한 고통을 받고 있다는 근거입니다. 법안을 신속히 마련해 안전한 디지털 생활 환경을 조성해야 합니다." 4일 국회 과학기술정보방송통신위원회 위원장 최민희 의원(더불어민주당)은 여의도 국회의원회관에서 열린 '스팸·피싱 디지털 민생 범죄 대응을 위한 국회 토론회'에서 디지털 범죄 피해를 억제할 법안 필요성을 강조했다. 최근 스팸메일·문자 피해와 스미싱 범죄가 날로 교묘해지고 있다. 올해 잘못된 클릭 한번에 4억원이 증발되는 사례까지 등장했다. 보이스피싱 피해가 극단적 선택으로 이어졌다는 소식까지 나왔다. 최민희 의원은 디지털 범죄 대응을 위한 법안을 발의했다고 밝혔다. 우선 문자 재판매사업자에 대한 '전송자격인증제' 법적 근거를 마련했다고 설명했다. 관련 인증 절차와 기준을 엄격히 하고자 '전기통신사업법 일부개정법률안'을 발의했다. 최 의원은 '정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정법률안'도 지난달 5일 발의했다. 불법 스팸 전송자에게 과징금을 부과하기 위해서다. 그는 "해당 법안에 반대하는 자는 국민 디지털 피해를 외면하는 것과 같다"며 "이보다 더 좋은 방법이 있다면 제시해 달라"고 말했다. KISA "스팸 예방법 미완성…다각적 접근 논의해야" 이날 한국인터넷진흥원(KISA)도 이날 토론회에서 스팸·스미싱 등 디지털 피해 예방을 위한 과제를 제시했다. KISA 정원기 개인정보안전활용본부 단장은 "올해 불법 스팸 대책안이 나올 것으로 기대했지만 아직 발표되지 않았다"며 "스팸 현황과 과제만 분석할 수 있는 상황"이라고 설명했다. 정원기 단장 발표에 따르면 지난해 하반기 신고·탐지된 스팸 건수는 2억6백만건이다. 앞서 최민희 의원이 제시한 올해 상반기 수치와 비슷하다. 불법 스팸 대응 개선이 제대로 이뤄지지 않았다는 근거다. 정 단장은 스팸 주요 경로로 대량 문자서비스를 지목했다. 해당 서비스를 통해 전송되는 스팸이 약 80%를 차지한다고 설명했다. 그는 대량 문자서비스 시장 관리·통제가 어렵다고 지적했다. 정 단장은 "현재 국내 약 1천200개 서비스 업체가 등록됐다"며 "이는 5년 전과 비교해 큰 폭으로 증가한 수치"라고 했다. 그러면서 "많은 사업자가 난입하면서 시장 건전성이 훼손됐다"고 덧붙였다. 정 단장은 시장 건전성 훼손 원인으로 낮은 시장 진입 장벽을 꼽았다. 업체가 서비스 공급자로 등록하기만 하면 시장에 진입할 수 있어서다. 그는 "시장에 진입한 사업자들 간 복잡한 계약 관계가 형성됐다"며 "상위 사업자가 하위 사업자를 관리·감독하기 어려운 실정"이라고 지적했다. 앞서 방송통신위원회가 시장 진입 규제 강화와 불건전한 사업자 퇴출을 위한 가이드라인을 제시한 바 있다. 전송자격인증제를 올해 6월부터 자율 규제로 시행했다. 그러나 인증제가 강제성을 띄지 않았다는 평가를 받고 있다. 최민희 의원도 인증 강화를 위해 법안을 발의한 셈이다. 정 단장도 "심사 요건 강화 등 과제가 여전히 남아있다"고 주장했다. 정 단장은 규제 회피를 위해 해외에서 국내로 스팸을 전송하는 사례가 늘었다는 점도 지적했다. 그는 "국내의 경우 문자 전송 사업자를 통해 전송자 정보와 내역을 확인할 수 있지만, 해외발 스팸 정보를 밝히기 어려운 실정"이라고 설명했다. 그렇다고 국내 스팸 발신자 신원 확인이 쉬운 것도 아니다. 법적 처벌을 피하고자 다른 사람 명의를 도용하거나 번호를 사용하는 경우가 늘어서다. 정 단장은 "과거에는 명의 도용법이 단순했지만, 현재 더 복잡해졌다"고 말했다. 정 단장은 인공지능(AI)을 통한 스팸 차단 시스템도 완벽한 해결책이 아니라고 했다. 그는 "AI가 스팸·스미싱이 아닌 정상적인 문자를 차단할 수도 있다"며 "통신사들이 적극적으로 AI 기술을 도입하지 못하고 있다"고 설명했다. 정 단장은 "스팸 급증 이후 다양한 대책을 마련하고 있지만, 완전히 근절하려면 다각적인 접근이 필요하다"며 "현재 대응 체계 문제점을 극복하기 위한 방안을 산학연이 함께 논의해야 한다고 강조했다.

2024.10.04 13:56김미정

"디지털성범죄 늘고 있는데...올해 방심위 수사의뢰는 24건"

올해 딥페이크 성범죄영상물 등 디지털성범죄정보의 광범위한 확산으로 심각한 사회문제가 발생했지만 이를 심의하는 규제기관인 방송통신심의위원회의 경찰청 수사의뢰 요청 건수는 단 24건에 불과한 것으로 나타났다. 국회 과학기술정보방송통신위원회 소속 이훈기 의원(더불어민주당)이 방심위로부터 제출받은 최근 5년간 디지털성범죄정보 수사의뢰 요청 현황자료에 따르면, 2020년부터 올해 8월까지 방심위는 총 1천894건의 디지털성범죄 정보를 경찰청에 수사 의뢰했는데 올해는 단 24건만을 의뢰했다. 최근 5년간 방심위가 디지털성범죄정보 사업자 자율규제 요청(삭제)을 한 것은 총 5만3천930건으로, 매해 삭제 대상이 2배 가까이 증가한 것으로 나타났다. 특히 올해는 8월까지 9천971건으로 올해 디지털성범죄정보 삭제 대상 건수는 지난해 1만1천611건을 초과할 것으로 보인다. 이훈기 의원은 “디지털성범죄정보는 늘어가는 데 예외적인 수치의 2022년을 제외하면 수사 의뢰 건수는 오히려 줄거나 답보하고 있는 셈”이라며 “디지털성범죄정보의 확산 방지를 위한 신속한 삭제조치는 타당하지만, 디지털성범죄정보가 매해 배로 증가하는 것을 고려해 적극적인 대응이 필요하다”고 말했다. 한편, 방심위가 딥페이크 성범죄 영상물 등 디지털성범죄정보 24시간 홈페이지와 1377(전화)신고 전화 접수를 통한 상담이 올해 벌써 1천215건을 넘어선 것으로 나타났다. 하지만, 24시간 4조 2교대로 해당 업무를 하는 직원은 단 12명에 불과해 적극적 대응 인력이 부족한 상화이다. 이훈기 의원은 “방심위는 우리나라 디지털 성범죄 대응 1차 기관이지만, 정작 상담 인력도 확충하지 않고, 사업자 자율규제 요청 수준의 소극적 대응에 나서고 있는 것은 문제가 있다”며 “국정감사를 통해 방심위의 디지털성범죄 대응 정책개선 사항을 지적할 것”이라고 강조했다.

2024.09.29 17:34박수형

여당, 딥페이크 디지털성범죄 대응 특위 구성...위원장에 안철수 의원

국민의힘이 딥페이크에 대응하기 위한 별도 조직을 꾸렸다. 국민의힘은 6일 원내대책회의에서 정책위원회 산하에 '딥페이크 디지털 성범죄 대응 특별위원회'를 구성했다고 밝혔다. 특위는 국회 여성가족위원회, 행정안전위원회, 과학기술방송통신위원회 소속 의원들이 주로 참여했다. 위원장은 4선 안철수 의원이 맡았다. 이인선 여가위원장을 수석부위원장으로 부위원장은 김승수, 유상범, 조은희, 최형두 의원이 참여한다. 또 위원으로 김장겸, 박충권, 서지영, 이달희, 최수진 의원과 이수정 경기대 교수가 참여할 예정이다. 추경호 원내대표는 원내대책회의에서 “국민의힘은 심각한 사회적 문제인 디지털 성범죄에 적극 대처하고자 딥페이크 디지털 성범죄 대응 특별위원회를 구성하겠다”며 “특위 구성은 경기 성남 분당갑의 4선 의원인 안철수 의원을 위원장으로 하고 관련 국회 상임위 위원과 전문가 등을 포함해 총 12명으로 구성하고자 한다”고 말했다.

2024.09.06 11:24박수형

딥페이크 성범죄물로 초·중·고 다 초토화…"벌금 아닌 '징역'으로"

"딥페이크 성범죄물로 초·중·고가 다 초토화됐다. 교사들까지 교단이 서지 못하겠다고 한다. 카카오톡 프로필에 사진도 못 올린다. 해외 사례를 참고해 수사력과 형량을 강화해야 한다." 최근 딥페이크 기술을 활용해 지인이나 유명인의 사진으로 성착취영상물을 만들어 공유하는 범죄가 큰 논란이 되고 있다. 그러자 허위 성착취물 제작뿐 아니라 유포도 성인 성착취물이나 아동·청소년 성착취물 제작 유포와 동일한 수준으로 형량이 강화돼야 한다는 주장이 나왔다. 또 위장수사 제도를 개관해 수사력을 강화해야 한다는 대책도 제시됐다. "소지만 해도 처벌…해외 사례 참고해 형량·수사력 강화해야" 3일 오전 조은희 국민의힘 의원과 한국여성인권진흥원 주최로 국회에서 열린 '딥페이크 디지털성범죄 예상과 대응책 마련을 위한 정책 토론회' 발제를 맡은 이수정 경기대학교 범죄심리학과 교수는 "여성가족부가 여러 채팅앱을 모니터링하고 있는데, 여기서 디지털성범죄 현황을 쉽게 발견할 수 있다"며 "다만 모니터링 업무를 한 다음 플랫폼에 권고를 하는 정도의 한계가 있다. 텔레그램과 같은 해외에 서버를 둔 플랫폼들은 국내법으로 어떻게 할 수가 없다"고 토로했다. 이 교수에 따르면 영상채팅앱에서 디지털성범죄가 발생하고 있고, 몇 분 이상 영상채팅을 할 경우 여성 이용자에게 코인이나 하트 등 포인트가 지급된다. 받은 포인트는 일정 수준 이상 모았을 때 수수료를 떼고 현금이나 기프티콘으로 환전을 할 수 있는데, 여기서 10대들의 얼굴이나 신체 사진이 노출되면서 딥페이크 성착취물 제작에 이용될 수 있다. 이 교수는 "텔레그램 문제만이 아니다. 이미 딥페이크 성착취물을 본 22만명 중 의도를 갖고 있는 가해자들은 토르라는 다크웹으로 옮겨가고 있다"면서 "N번방 때부터 예견된 일이었는데, 계속해서 전 세계적으로 유례없는 많은 피해자들이 양산되고 있다. 해외 사례를 보며 형량 강화와 플랫폼 규제를 강화해야한다"고 강조했다. 이 교수는 허위영상물도 실제 성착취물과 동일한 수준으로 형량을 강화해야 한다고 강조했다. 허위영상물 유포 절반이 집행유예 수준인데, 형량을 강화하는 데 그치는 것이 아니라 실효성 있는 처분으로 이어지도록 할 필요가 있다는 설명이다. 이 교수는 "실제 성착취물처럼 소지나 구입, 저장, 시청도 처벌해야한다"며 "다수 피해자를 만들거나 재범인 경우 징역 이상의 형벌을 내려야 한다"고 단언했다. 또한 해외 사례를 참고해서 온라인 플랫폼 책임을 강화하는 것이 중요하다고도 덧붙였다. 예를 들어 미국의 경우 '딥페이크 책임법'이 지난해 만들어져 성 관련 콘텐츠를 통해 모멸감이나 수치심을 주는 경우, 벌금형 또는 5년 이하의 징역형을 내린다. 캘리포니아주 민법을 보면 디지털 기술로 기만적인 영향 등을 제작·공개·유포 시 최대 3만 달러(약 4천만원), 악의적 불법행위는 15만 달러(약 2억원)까지 손해배상을 청구할 수 있게 돼있다. 이 교수는 "현행법상 딥페이크 성착취물은 '성폭력처벌법' 제14조의2 및 아동·청소년 성보호법 제11조로 처벌 가능하지만, 성폭력처벌법의 경우 딥페이크 성착취물을 반포 목적으로 제작·배포한 경우만 처벌하고 시청하거나 소지한 경우는 처벌할 기준이 없다"며 "처벌을 강화해야 한다"고 강조했다. 그러면서 "해외 사례와 같이 플랫폼 규제를 통해 딥페이크 허위 영상물에 대한 규제 및 예방이 필요하다"면서 "AI와 같은 급진적으로 발전하는 기술에 대한 교육이 필요하다"고 덧붙였다. 이 교수는 "딥페이크 통제는 국가의 미래가 달린 일이다. 불안한 상태면 사람들은 사회적인 접촉을 끊고 이는 저출산과도 밀접한 연관이 있다"며 "처벌 강화는 당연한 것이고, 수사력을 강화해 위장수사를 성인 성착취물과 허위영상물로 확대하고, 피해자 수사 지원도 확대해야 한다"고 역설했다. 사후승인제도 신설하고 피해자보호 지원·관련 교육도 필요 함영욱 경찰청 사이버범죄수사과 과장 또한 위장수사 4년 차를 맞아 이를 더 활성화하고 수사과정에서 나타나는 공백을 보완하기 위한 제도 개선이 필요하다고 말했다. 함 과장은 "피해자가 성인인 경우에도 선제적, 적극적 위장수사가 가능하도록 성폭력처벌법을 개정해서 대상범죄 범위를 확대할 필요가 있다"면서 "야간이나 공휴일에도 긴급한 경우 사전 승인을 받지 않더라도 신속히 신분비공개수사가 개시될 수 있도록 개선해야 한다"고 주장했다. 예를 들어 공휴일에 성착취물을 유포하는 텔레그램방을 발견했음에도 신분비공개수사 사전승인을 받고자 대기하다가 해당 방이 없어지는 불상사가 일어나는 것을 막기 위해서다. 지금은 아동과 청소년 대상으로 하는 디지털 성범죄에 한정하고, 범의유발형 함정수사는 허용되지 않는다는 한계를 극복해야 한다는 취지다. 이 밖에도 함 과장은 학생과 학부모를 대상으로 딥페이크 성범죄 예방교육·홍보활동· 신종유형 범죄에 대한 첩보를 수집하고, 삭제나 차단 요청과 심리상담 지원 등 피해자보호 지원도 실시한다고 강조했다. 함 과장은 "이번 기회에 전 국민이 공분할 수 있는 범죄에 대해서는 대책 마련에 강하게 드라이브 걸고, 추진하도록 하겠다"고 말했다. 정진권 서울시교육청 민주시민생활교육과 과장은 학교뿐만 아니라 가정에서도 이와 관련해 관심을 갖고 디지털윤리나 디지털리터러시 교육에 힘써야 한다고 밝혔다. 정 과장은 "학교에서도 성착취물과 관련한 교육을 진행하지만, 공교육에 대한 신뢰와 권위가 낮아지며 제대로 된 교육 효과가 쉽게 나타나지 않고 있다"며 "학교와 교사에 대한 신뢰 확보와 부모의 관심이 필요하다"고 조언했다. 이수정 교수 또한 "초등학교 때 코딩 교육, 봇기술 등을 아이들이 습득하는데, 우리나라 교육에서는 현재 기술만 전달하지 이같은 기술의 발달로 발생할 수 있는 최악의 결과물을 공유하지 않는다"며 "교육부에서도 교육이 기본적인 목적을 고민해봐야 한다. 국가적인 과제다"라고 강조했다.

2024.09.03 15:08안희정

딥페이크 방심위 대책에 "새로울 게 없다" 지적

딥페이크 기술을 활용한 성범죄영상물 제작과 공유로 많은 피해자가 발생하자 방송통신심의위원회가 대책 마련에 나섰다. 그러자 "이미 시행하고 있는 방안을 강조한 것뿐"이라는 전문가 지적이 나왔다. 시행 중인 대책들에 대한 실효성 여부를 점검·분석해 보완하고, 디지털성범죄 피해자들을 보호하고 예방할 수 있는 방법을 강구해나가는 게 먼저라는 조언이다. 30일 관련업계에 따르면 방심위는 지난 28일 긴급 전체회의를 열고 '딥페이크 성범죄영상물 종합대책'을 발표했다. 방심위가 제시한 대응방안의 주요내용을 살펴보면 ▲텔레그램 딥페이크 피해 신고 본격 접수 ▲텔레그램 등 주요 유통경로 '집중화 모니터링' 실시 ▲딥페이크 성범죄영상물 대상 '강화된 3단계 조치' 시행 ▲텔레그램과 핫라인 확보 위한 단계적 조치 추진 ▲시정요청 협력 대상 관리 강화 ▲디지털성범죄 취약 계층 대응 정보 제공 및 현장 교육 추진 ▲국내 유관기관 및 민간기업 등과 공조 강화 ▲해외 유관기관 협력회의 등을 통한 국제적 여론 형성 ▲국내 전문가 그룹과 지속적 협업 및 대응전략 모색 ▲딥페이크 성범죄영상물 전담 인력 증원 추진 등이다. 다만 여기에 포함된 주요 내용이 이미 시행하고 있는 방안이고, 일부는 구색 갖추기에 불과하다는 비판이 제기됐다. 안정상 중앙대 커뮤니케이션대학원 겸임교수는 "이미 방심위는 2020년에 'n번방', '박사방' 사건 이후 텔레그램 및 디스코드 등에 대한 중점 모니터링을 실시하고 있다"며 "새로운 내용이 아니"라고 꼬집었다. 안 교수에 따르면, 방심위는 사업자 자율규제(삭제)를 유도해 성착취 영상의 유통 확산에 대처하고, 아동‧청소년 성착취 영상 판매정보에 대해서는 경찰청에 수사의뢰하는 동시에, 국제인터넷핫라인협회(INHOPE)를 통해 해당 영상의 삭제를 요청하는 등 강력 대응을 해왔다. 특히 정연주 위원장 체제였던 제5기 방심위에서는 2021년 8월 9일 출범 이후, 디지털성범죄심의소위원회가 24시간 상시 심의체계를 가동한 바 있다. 이미 제4기 방심위 시절인 2019년부터 INHOPE, NCMEC(실종학대아동방지센터) 등 해외 유관기관 및 구글 등 해외 사업자와 협력도 강화했다. 2021년 1월 '국제공조점검단' 출범 이후에는 해외 사업자 대상으로 불법·유해정보에 대한 자율규제를 적극 요청하기도 했다. 이를 통해 사업자 스스로 원(源) 정보 삭제 등의 조치를 할 수 있도록 하는 등 해외 불법‧유해정보의 유통 및 피해자의 피해 확산을 최대한 방지하기 위한 노력을 기울여 왔다. 아울러 2021년부터 디지털성범죄 정보에 대해 ▲사업자 협력 등 자율규제 유도 ▲해외 사업자 및 유관기관 협력 ▲중점 모니터링과 상시심의 등을 강화하고 ▲표준화된 '공공 DNA DB'를 제공함으로써 한 번 등록된 영상이 복제·재유통되는 것을 방지하는 시스템을 강화하며 ▲인력에 의존하는 방식의 기존 모니터링의 한계를 보완하는 24시간 상시 자동화 모니터링까지 도입했다. 안정상 교수는 "긴급 전체회의까지 자청하면서 '종합대책'이라고 거창하게 발표했지만 기존의 정책을 재탕한 속빈 강정에 불과했다"며 "핵심 대책은 대부분이 현재 시행중인데도 마치 새로운 대책인 양 발표하는 것은 국민을 호도하는 행위"라고 말했다. 그러면서 "지금은 기존의 대책보다 진일보한 국민공감형 대책을 강구하기 위해 범정부적 차원에서 실효성 있는 대책을 수립하고 부처 간 협력체계를 구축해 신속·정확하게 디지털성범죄 피해자들을 보호하고 나아가 예방할 수 있도록 하는 것이 중요하다"고 강조했다. 이어 "성급하게 국민 앞에 그럴싸하게 포장한 대책을 내고 국민의 비판을 받기보다는 기존의 시행 중인 대책들에 대한 실효성 여부를 점검, 분석해 정책적·법적 미비 사항을 제대로 보완해 철저한 대책이라고 평가받는 방안을 마련하는 것이 필요하다"고 역설했다.

2024.08.30 10:38안희정

"피해자 절반 한국인"…女 차별 여전한 韓, '딥페이크' 성범죄로 해외서 망신

최근 여성의 얼굴에 음란물을 합성·유포하는 '딥페이크(인공지능 기반 이미지 합성)' 음란 영상물이 확산되며 피해가 속출하고 있는 가운데, 전 세계 피해자의 절반 이상이 한국인, 99%가 여성이라는 충격적인 조사 결과가 나왔다. 30일 미국 사이버보안 업체 시큐리티 히어로에 따르면 지난해 7~8월 딥페이크 음란물 사이트 10곳과 유튜브·비메오·데일리모션 등 동영상 공유 플랫폼의 딥페이크 채널 85개에 게재된 영상물 9만5천820건을 분석한 결과, 한국이 딥페이크 음란물에 가장 취약한 국가로 조사됐다. 딥페이크 음란물에 등장하는 개인 중 53%가 한국인으로 가장 많았고, 두 번째로 많은 미국인(20%)과 두 배 이상 차이가 났다. 일본인(10%), 영국인(6%), 중국인(3%), 인도인(2%), 대만인(2%), 이스라엘인(1%)도 피해를 입은 것으로 나타났다. 시큐리티 히어로는 "한국은 딥페이크 음란물에서 가장 많이 표적이 되는 국가"라며 "딥페이크는 엔터테인먼트·정치·허위조작정보 등 다양한 목적으로 이용되지만 어떤 국가에서는 특정한 형태의 딥페이크 콘텐츠, 특히 노골적인 콘텐츠에 더 취약하다"고 지적했다. 한국인 딥페이크 피해자 대부분은 가수, 배우 등 연예인이었다. 딥페이크 음란물의 최다 표적이 된 개인 10인 중 8명은 한국인 가수였다. 1∼7위와 9위가 한국 가수였고 8위는 태국 가수, 10위는 영국인 배우였다. 보고서는 사안의 민감성을 고려해 피해자의 이름은 밝히지 않았다. 가장 큰 피해를 본 한국인 가수는 딥페이크 성착취물 1천595건에 등장했으며 총 조회수는 561만 회에 달했다. 또 다른 한국 가수는 성착취물 1천238건의 표적이 됐고 조회수는 386만5천 회였다. 이번에 분석한 딥페이크 영상물의 98%는 음란물이었다. 2022년 3천725건이던 딥페이크 음란물은 2023년 2만1천19건으로 464% 급증했다. 딥페이크 음란물 피해자 99%는 여성이었고, 94%는 연예계 종사자였다. 일반 딥페이크 영상물에서 여성의 비율은 77%였다. 시큐리티 히어로는 "딥페이크 음란물은 일정 그룹의 개인이 조작적이고 종종 악의적인 목적에 따른 표적이 된다는 것이 특징"이라며 "유명 인사인 경우가 많다"고 말했다. 미국 월스트리트저널(WSJ)은 시큐리티 히어로의 조사 결과와 함께 한국 정부의 딥페이크 음란물 단속 강화 움직임을 전하면서 "가짜 음란물을 생성·유포하는 텔레그램 기반 네트워크 적발은 한국이 전 세계적 문제의 진앙임을 시사한다"고 강조했다. 영국 BBC 방송은 딥페이크 문제와 함께 지난 2019년 발생한 텔레그램 N번방 사건을 언급하며 한국이 디지털 성범죄에 심각한 문제를 가지고 있음을 지적했다. 또 BBC는 한국 내 온라인 딥페이크 성범죄가 급증하고 있다는 점을 꼬집으며 올 상반기 동안 한국 경찰에 접수된 딥페이크 성범죄가 297건에 달한다고 전했다. 이는 지난해 전체(180건), 2021년(160건)보다 크게 증가한 수치다. BBC 방송은 "최근 한국에서 미성년자를 포함해 성적으로 노골적인 딥페이크 이미지를 제작하고 공유하는 채팅 그룹이 다수 발견됐다"며 "윤석열 대통령은 '디지털 성범죄를 철저히 조사하고 해결해 근절하라'고 지시했다"고 국내 분위기를 전했다. 이어 "지난 3년 동안 한국 딥페이크 범죄의 3분의 2 이상을 10대 청소년이 저질렀다"며 "한국은 디지털 성범죄에 대한 어두운 역사를 가지고 있다"고 덧붙였다. BBC 방송은 한국에서 몰카나 딥페이크 성범죄가 급증하는 배경으로 '성별 격차'를 들었다. 한국 기업이 여전히 여성에게 우호적이지 않다는 점을 수치로도 제시했다. BBC 방송은 "한국 상장 기업의 임원직 중 여성은 5.8%에 불과하며 한국 여성은 남성보다 평균 3분의 1 정도의 임금을 받고 있다"며 "세계 부국 중 성별 임금 격차가 가장 심하다"고 지적했다. 이어 "급성장하는 기술 산업에 만연한 성희롱 문화가 더해져 디지털 성범죄가 폭발적으로 증가하고 있다"고 덧붙였다. 영국 일간 가디언은 "한국은 비밀리에 촬영된 성적 영상물인 '몰래카메라'를 근절하려 오랜 기간 분투해 왔다"며 "최근에는 딥페이크 이미지의 물결과도 전투를 벌이고 있다"고 말했다. 외신들의 이 같은 우려 속에 정부 부처들은 딥페이크를 막기 위한 방안 마련에 속속 도입했다. 먼저 서울경찰청 사이버수사대는 태스크포스(TF)를 조직, 딥페이크 성착취 허위영상물 집중 대응에 나섰다고 밝혔다. TF는 총괄팀장인 서울경찰청 사이버수사과장을 필두로 3개 전담수사팀, 사이버프로파일링팀·디지털포렌식팀·지원부서팀까지 총 6개 팀으로 구성됐으며 내년 3월 31일까지 7개월간 운영된다. 방송통신심의위원회는 텔레그램은 물론 페이스북·엑스(X)·인스타그램·유튜브 등 글로벌 온라인 플랫폼 사업자들과 딥페이크 방지를 위한 협의체를 구성했다. 또 네이버와 카카오 등 국내 플랫폼에 대해서는 방심위 전용 신고 배너 팝업 설치를, 공영방송사들에는 관련 캠페인 영상 제작 및 송출 등 협조를 구할 예정이다. 교육부도 청소년을 중심으로 딥페이크 문제가 심각하다고 보고 TF를 운영하며 강력 대응에 나설 것을 시사했다. 딥페이크를 제작, 유포할 경우 퇴학 등을 고려한다는 방침이다. 과학기술정보통신부와 여성가족부 역시 딥페이크 대응에 협력하기로 했다. 업계 관계자는 "AI 생성물 '워터마크(표식)' 의무화나 핀셋규제 필요성이 필요하다"며 "AI 기술과 함께 등장한 비교적 새로운 유형의 성범죄인 탓에 처벌 사례가 아직 많지 않고, 처벌도 여전히 솜방망이 수준"이라고 지적했다.

2024.08.30 09:34장유미

딥페이크 '성적 허위영상물' 시정요구 84% 급증

'딥페이크' 기술을 악용해 사람의 얼굴을 음란한 이미지나 영상물과 합성해 유포하는 '성적 허위영상물'에 대한 올해 상반기 시정요구 건수(6천71건)가 전년도 총 시정요구 건수(7천187건) 대비 84% 수준까지 급증한 것으로 집계됐다. 방송통신심의위원회는 올해 상반기 불법촬영물 등 디지털성범죄정보에 대해 총 3만5천737건을 시정요구 결정했다고 18일 밝혔다. 딥페이크 악용 '성적 허위영상물'의 시정요구는 2021년 이후 매년 두배 가까이 증가하고 있는 추세로, 올해는 상반기에만 6천71건에 달하는 등 전년도 수치를 넘어설 것으로 예상된다. 딥페이크 기술의 발전으로 일반인들도 손쉽게 해당 기술을 이용할 수 있게 됨에 따라 유명 연예인뿐만 아니라 일반인을 대상으로 한 '성적 허위영상물'도 확인되는 상황이다. 올해 상반기 디지털성범죄 시정요구 역시 전년 동기 대비 18% 증가한 가운데 위반내용별로는 '불법촬영물' 2만9천560건, '성적 허위영상물' 6천71건, '성 관련 초상권' 61건, '피해자 신원공개' 45건으로 집계됐다. 연인간 성적 영상을 헤어진 후 유포한 '보복성 성착취물', 화장실, 탈의실 등 공공장소에서 타인의 신체를 몰래 촬영한 영상 등과 같은 '불법촬영물'에 대한 시정요구가 82%로 가장 큰 비중을 차지했다. 방심위는 “최근 청소년을 대상으로 한 딥페이크 합성물 유포 사건이 다수 발생하는 등 성적 허위영상물의 피해범위가 확장되고 있어 우려스럽다”며, “SNS 등에 대한 중점 모니터링을 지속적으로 실시하여, 성적 허위영상물로 인한 피해를 최소화하는데 주력 하겠다”고 밝혔다. 방심위는 24시간 365일 운영되는 상황실을 통해 피해자와 지원기관 으로부터 직접 피해를 접수하고 모니터링하고 있으며, 매일 전자심의를 개최하여 24시간 이내에 디지털성범죄정보를 시정요구 조치하고 있다. 디지털성범죄 피해 관련 문의나 상담은 '디지털성범죄 원스톱 신고 ARS(국번없이 1377 누르고 3번)' 서비스를 이용하면 빠르고 효율적인 피해구제 조치를 받을 수 있다.

2024.07.18 16:05안희정

작년 한해 국내서 디지털성범죄영상물 8만여건 삭제·접속차단

지난해 국내 인터넷 사업자가 이용자와 대리신고, 삭제 기관 단체로부터 불법촬영물과 성적 허위영상물, 아동 청소년 성착취물 14만4천813건을 신고받아 8만1천578건을 삭제 또는 접속 차단했다. 방송통신위원회는 주요 인터넷 사업자와 웹하드 사업자가 제출한 2023년도 불법촬영물등의 처리에 관한 투명성보고서를 28일 홈페이지를 통해 공개했다. 투명성보고서 제출 대상 사업자는 정보통신망법에 따른 특수유형부가통신사업자(웹하드사업자) 및 일정 규모 이상의 부가통신사업자다. 2023년도 대상 사업자에는 네이버, 카카오, 구글, 메타, 트위터 등 총 90개 국내외 주요 인터넷사업자들이 포함됐다. 인터넷사업자들이 제출한 투명성 보고서에는 불법촬영물등 유통방지를 위한 신고 기능, 검색 제한, 사전 비교식별 및 게재 제한, 사전 경고 등 기술 ‧관리적 조치 현황을 포함해 사업자들이 실시한 다양한 노력이 기술됐다. 박동주 방송통신이용자정책국장은 “디지털성범죄영상물 유통은 피해자에게 회복불가의 피해를 입히는 범죄로, 이를 막기 위한 우리 사회 모두의 노력이 절실하다”며 “지난 1년 간 인터넷사업자들이 관련 기술적 관리적 조치를 취하는 등 디지털성범죄영상물 유통 방지를 위해 노력했듯이, 앞으로도 피해자들에게 N차 피해가 발생하지 않도록 사회적 책무를 성실히 이행해 주시길 바란다”고 말했다. 방통위는 디지털성범죄물 유통방지를 위해 국내외 사업자들을 대상으로 불법촬영물등 유통방지 책임자 교육, 기술적 관리적 조치 이행여부 현장점검 등을 지속적으로 실시할 계획이다.

2024.06.28 09:15박수형

지금 뜨는 기사

이시각 헤드라인

"계정 공유 시대 끝"…OTT '공유 제한' 전면 확대

美 관세 최대 타격 '자동차'…"중고차로 상쇄해야"

'주 4.5일 근무' 이상-현실 사이...HR 전문가 생각은?

격동의 완성차 시장, 리더십 교체 봇물

ZDNet Power Center