• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 인터뷰
  • 인사•부음
  • 글로벌뉴스
창간특집
인공지능
배터리
컨퍼런스
칼럼•연재
포토•영상

ZDNet 검색 페이지

'성범죄'통합검색 결과 입니다. (11건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

프로파일러AI챗봇, 범죄자와 대화하고 잠복수사

“부모님이 집에 계시니? 아니면 혼자 놀고 있니?” 어떤 어른이 꼬마에게 문자 메시지를 보냈다. 이 어른은 소아성애자다. 사춘기에 접어들지 않은 어린이에게 강한 성적 욕망을 느끼는 성인을 소아성애자라 한다. “저 혼자 게임하고 있어요. 엄마와 아빠는 모두 일하러 나갔어요.” 꼬마가 답했다. 이 꼬마는 진짜 사람이 아니다. 아동 인신 매매범을 잡으려고 만든 인공지능(AI) 챗봇이다. AI 챗봇 프로필에는 소년 사진이 있다. 꼬마는 미국인 초등학생으로 설정됐다. 외동아이다. 2개 국어를 할 줄 안다. 게임하길 즐긴다. 수줍은 성격이라 여자아이를 사귈 때 특히 힘들어한다. 꼬마의 부모는 자식이 소셜미디어(SNS)를 못쓰게 한다. 부모는 에콰도르에서 이민 왔다. 부모 역시 가상 인물이다. 미국 잡지 와이어드는 17일(현지시간) 미국 경찰이 범인을 잡고자 AI 챗봇으로 범죄자와 대화한다고 정보기술(IT) 매체 404미디어를 인용해 보도했다. 미국 매시브블루라는 회사가 이 AI 챗봇 '오버워치(Overwatch)'를 경찰서에 판매하고 있다. 마이크 맥그로 매시브블루 공동창업자는 “인신 매매 피해자를 돕는 동시에 범죄자를 법의 심판대에 세우는 게 우리 목표”라고 말했다. 미국 경찰은 “오버워치로 체포한 사람은 아직 없다”면서도 “AI 챗봇은 수사를 돕는 도구”라고 평가했다. 그러면서 “인신 매매범과 마약 밀매범을 잡으려면 다양하게 접근해야 한다”고 설명했다. 매시브블루에 따르면 오버워치는 SNS를 살펴보다 용의자를 추적한다. 미국 3개 도시 댈러스·휴스턴·오스틴에서 24시간 활동해 인신 매매범 3천266명을 찾았다. 4분의 1은 인신 매매 대형 조직에 속했고, 15%는 청소년을 사고팔려는 것으로 나타났다. 매시브블루는 어떻게 식별했는지와 그들의 개인정보는 밝히지 않았다.

2025.04.19 08:00유혜진

클럽·축제 약물 범죄 막아줄 '마법 막대' 나온다

클럽이나 축제에서 남몰래 술이나 음료에 약물을 섞는 범죄가 사회면을 종종 장식한다. 그 동안 이런 사고를 방지하기 위한 다양한 개인 예방책이 나왔지만 실효성은 높지 않았다. 이런 가운데 캐나다 대학 연구팀이 마치 마법처럼 음료에 섞인 약물을 쉽고 빠르게 검출할 수 있는 검사기구를 개발해 주목받고 있다. 캐나디언프레스뉴스 등 외신에 따르면, 최근 캐나다 브리티시컬럼비아대학 연구팀은 음료에 혼입된 약물을 30초 내에 검출할 수 있는 머들러(음료를 휘저을 때 쓰는 막대) 형태의 검사기구 '스파이클리스'(Spikeless)를 개발했다. 이 기구는 음료에 혼입 약물을 검출하면 색이 변하는 구조로 돼 있어, 여성이나 성적 소수자의 성폭행 피해를 막아줄 것으로 기대된다. 스파이클리스는 2011년 UBC 화학생물공학 부교수 요한 포스터(Dr. Johan Foster)와 그의 형제 앤드류가 처음 아이디어를 냈다. 그 후 최근 3년간 포스터 박사와 유세피, 그리고 여러 러협업자들이 프로토타입을 개발해 왔다. 현재는 실제 사용 테스트를 준비 중이며, 대량 생산을 위한 스타트업도 설립하고 있다. 스파이클리스는 바이오플라스틱제 끝부분에 특수한 화학물질을 코팅한 것으로, 케타민이나 감마-하이드록시부티레이트(GHB) 등의 약품이 혼입된 액체를 휘저으면 스틱의 색상이 변하게 된다. GHB는 원래 의학적 용도로 사용되던 약물이었지만, 현재는 마약으로 악용되면서 문제가 되고 있는 물질이다. GHB이나 케타민은 맛과 냄새가 없어 일반적인 방법으로는 감지하기 어렵다. 이 스틱은 일회용으로, 알코올 음료와 비알코올 음료에 모두 사용할 수 있다. 바, 펍, 레스토랑, 축제 등 공공장소에서의 대규모 사용을 염두에 두고 개발 중이다. 음료에 약물을 섞는 것은 가해나 성폭행을 목적으로 비밀리에 이뤄지는 경우가 많다는 게 연구팀의 설명이다. 최근 연구에서는 여성이나 성적 소수자의 약 10%, 이성애 남성의 약 4%가 약물이 섞인 음료를 경험했다는 결과가 나왔다. 스파이클리스 공동 개발자인 사민 유세피 UBC 화학생물공학 석사과정 학생은 “이 제품은 일반 컵이나 컵받침, 빨대, 매니큐어 등 다른 검출 방법과 비교해 더 눈에 띄지 않고 음료를 오염시키지도 않는다”고 설명했다. 연구팀은 개인이 음료를 직접 감시해야 하는 기존 방식 대신, 바나 펍 같은 시설 측에서 능동적으로 스파이클리스를 도입해 안전을 보장하는 방향으로 변화하길 기대하고 있다. 공중보건·교육·폭력 예방 분야에서 20년 넘게 활동한 전문가 사샤 산토스(Sasha Santos)는 “그동안 예방은 주로 개인에게 맡겨졌지만, 연구와 지역사회 보건 실천은 이런 접근법이 효과적이지 않다는 걸 보여준다”고 지적했다. 연구팀이 접대업계 관계자들로부터 받은 스파이클리스 초기 반응은 긍정적이다. 실제로 이 막대를 사용하는 모습을 본 많은 이들은 “바나 레스토랑에서 기본 제공하는 필수 아이템이 될 수 있다”고 평가했다. 포스터 박사는 “사람들이 스파이클리스를 제공하는 장소에서 더 안전하다고 느낀다면 그것은 분명 경쟁력이 된다”고 강조했다.

2025.04.13 08:59백봉삼

법무법인 대륜, 딥페이크 성범죄 대응 '사이버범죄팀' 출범

법무법인 대륜의 형사그룹이 사이버성범죄에 대응하기 위해 사이버범죄팀을 출범했다고 19일 밝혔다. 사이버범죄팀은 소속 디지털포렌식센터와 협력해 딥페이크 영상 관련 증거 수집을 적극 조력할 계획이다. 딥페이크 성범죄 대응 체계 강화를 위해 관련 경험이 풍부한 전문 변호사들이 대거 투입됐다. 서울북부지방검찰청 부장검사 출신의 김인원 형사그룹장을 비롯해 서울고검 부장검사와 경찰간부 출신 박성동 변호사, 광주고검 부장검사 출신 안승진 변호사, 인천지검 검사출신 박지영 변호사 등 평균 20년 이상 법조 경력을 가진 전문변호사들이 진두지휘한다. 형사, 성범죄사건에 특화된 신용훈 변호사, 조성근 변호사도 함께한다. 김 그룹장은 부장검사 시절 성범죄 관련 사건을 다수 맡았으며 강간, 준강간, 강제추행, 성착취물 소지 등 사건에서 높은 승소율을 기록하고 있는 성범죄전문변호사다. 박 변호사는 서울경찰청 수사부, 정보외사부를 거친 경찰 출신으로 경찰과 검찰의 수사 절차를 모두 경험한 변호사다. 안 변호사 역시 성폭력, 마약 등 강력사건에 특화됐으며 검찰총장 표창까지 받은 능력자다. 딥페이크와 같은 사이버성범죄는 성폭력범죄의 처벌 등에 관한 특례법에 의거해 5년 이하의 징역 또는 5천만 원 이하의 벌금형에 처해질 수 있는 중범죄다. 특히 영리를 목적으로 제작·반포했을 시 가중처벌되며 취업제한, 신상정보 공개 등 보안처분도 함께 부과될 수 있다. 사이버성범죄 사건은 증거 수집이 관건이다. 폐쇄적인 유통경로로 인해 추적이 불가능한 경우가 많기 때문이다. 이에 대륜 사이버범죄팀은 관련 증거수집에 전문 인력을 투입한다. 수집된 데이터 중 수사기관에 제출할 수 있는 데이터를 선별하고, 민감정보를 삭제·변환하는 등 전반적인 조력을 제공할 예정이다. 또 기존 모의조사, 법정 시스템 역시 적극 활용한다. 경찰수사 단계부터 공판까지 모든 절차에 밀착 변호를 제공한다는 방침이다. 김 그룹장은 “대륜의 전문변호사가 의뢰인에게 조사·재판 절차에 대한 전반적인 조언을 드리고 있다”며 “시뮬레이션을 통해 실제 상황에서 당황하지 않고 자신의 의견을 피력할 수 있도록 돕는다”고 말했다.

2024.11.19 15:20박수형

[기고] AI 진흥과 규제의 경계

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. 익히 아는 것처럼 노벨상은 알프레드 노벨의 기일인 오는 12월 10일에 시상식이 개최된다. 시상식 날로부터 두 달 전인 10월의 첫 번째 월요일부터 하루에 한 분야씩 수상자가 공식 발표된다. 올해는 토론토 대학의 제프리 힌튼 교수와 프린스터 대하의 존 홉필드 교수가 노벨 물리학상 수상자로 발표됐고 알파고로 유명한 데이비드 허사비스 구글 딥마인드 대표가 노벨 화학상의 수상자 중 하나로 발표됐다. 수상자를 발표하는 스웨덴 한림원도 수상 과정을 설명하면서 인공지능(AI) 기술이 인류에 얼마나 공헌해 왔는지를 설명했다. 이제는 AI 기술이 IT 기술의 영역이 아니라 인류의 일상 생활에 깊이 들어왔다는 점을 다시 한번 느끼게 된다. AI 기술에 대한 국가적 관심은 우리나라도 다름이 없다. 최근 대통령을 위원장으로 하는 국가AI위원회를 출범시키면서 글로벌 3대 AI 강국의 반열에 들겠다는 목표로 '국가총력전'을 선포했다. 다소 구시대적이고 식상한 느낌이 들기도 하지만 AI 산업 분야에 정부가 관심을 가지고 연구 개발과 산업화가 잘 이루어질 수 있도록 지원한다는 것이니 굳이 색안경을 끼고 부정적으로만 볼 것은 아니다. AI 기술이 향후 우리가 주목해야할 먹거리라는 점에 대해서는 큰 틀에서는 긍정적인 논의의 줄기가 잡히는 것 같다. 그럼에도 세부적으로 들어가면 쉽지 않은 이슈들이 산적해 있다. 당장 AI 기술이 가짜 뉴스, 딥페이크 기반 허위 영상물 등의 제작과 배포를 손쉽게 해 사회적으로 허용하기 어려운 수준의 범법 행위들이 널리 이루어질 수 있다는 점이 문제가 되고 있다. 과거 인터넷 기술이 그러했던 것처럼 AI 기술은 말 그대로 도구이자 기술일 뿐이라는 점에 대해서는 누구나 공감한다. 그럼에도 그로 인해 발생할 수 있는 피해를 예방하기 위해서 '직접' 규제를 하게 되면 결국에는 기술 자체에 부정적인 전후방 효과가 발생할 수밖에 없다. 전폭적인 지원 정책으로도 그 수준을 올리기 어려운 치열한 글로벌 기술 경쟁 상황에서 브레이크로 작동할 가능성이 높다는 우려도 제기되고 있다. 최근 국회는 아동 청소년 딥페이크 처벌 강화법이라는 내용으로 디지털 성범죄에 대한 처벌 강화를 위한 소위 아청법과 성폭법 개정안을 의결했다. '아동, 청소년의 성보호에 관한 법률'은 성착취물을 이용한 아동, 청소년 대상 협박 강요 범죄의 처벌 규정을 신설해 처벌을 강화했다. 또 딥페이크 등 디지털 성범죄의 긴급 신분 비공개 수사를 허용해 피해자의 긴급한 구조가 가능하도록 하는 내용을 담았다. '성폭력방지 및 피해자 보호 등에 관한 법률'은 그 자체로는 딥페이크 기술을 이용한 불법 촬영물에 관한 새로운 내용이 포함된 것은 아니다. 그럼에도 불구하고 법안의 개정은 관련 업무를 국가의 책무로 명시하고 디지털 성범죄 피해자 지원 센터 운영의 근거 규정을 신설해 피해자 보호 등의 사업을 할 수 있도록 했다. 이러한 내용들은 충분히 국가가 AI 기술 확산으로 인한 부작용을 방지하기 위해 미리 준비해야 할 영역임에는 틀림이 없다. 개정안에는 딥페이크 기술을 활용한 불법 촬영물은 소지하는 것만으로 형사처벌을 하겠다는 내용이 포함돼 있는데 최근 해당 기술을 활용한 사례들이 사회적으로 문제가 되고 있는 점을 고려해 보면 충분히 이해 가능한 부분이기도 하다. 그럼에도 불구하고 기술의 부작용을 미리 염려해 실시된 각종 규제들이 기술 발전에 예상치 못한 방해물로 작용해 왔다는 사실은 이미 오랜 기간 동안 선례로 쌓여 왔다. 인터넷 부작용을 우려해 콘텐츠에 대한 제재를 엄격하게 했다면 현재처럼 우리나라가 인터넷 강국의 지위에 오를 수 있었을런지 의문이다. 게시글의 악영향을 차단하기 위해 실명제를 도입한 이후 국내 콘텐츠 사업자들이 크게 영향을 받을 수밖에 없었던 사건은 그리 오래되지도 않았다. 최근 유럽연합(EU)은 유럽 인공지능법(EU AI법) 제정을 통해 AI에 대한 포괄적인 규제를 시도하고 있다. 그럼에도 이 법이 EU 내 AI 기술 발전에 어떠한 영향을 미칠 것인지 여전히 설왕설래가 오가고 있다. 최근 미국 캘리포니아에 제안된 AI 안전법안(Safe and Secure Innovation for Frontier Artificial Intelligence Models Act) 역시 마찬가지다. 이 법안이 AI 모델의 규모만 고려할 뿐 그 활용 맥락은 고려하지 않고 일률적인 규제를 하는 것이 적절한지에 대하여 논란이 있기 때문이다. 바로 이 점을 들면서 주지사가 법안에 대한 거부권을 행사했다는 점 역시 AI 기술에 대한 포괄적인 규제가 가져올 부정적인 영향을 무시하기 어려운 사정이 있기 때문이라는 평가들이 존재한다. 이와 반대로 연구 개발과 발전이 진행 중인 과학기술 분야에서 일정한 기준 또는 규제가 존재해서 예측가능성을 부여하고 안정적인 개발과 운영이 이루어진 사례들도 매우 많다. 다소 이른 수준의 규제라고 모두 관료제의 병폐인 적기 조례(Red flag act)가 되는 것은 아니다. 그럼에도 그 규제가 이른 것인지 아니면 이미 늦었는지 사전적으로는 매우 판단하기 어렵다. 또 해외 사례가 반드시 정답인 것도 아니다. 결국 입장이 다른 이해관계자들이 머리를 맞대고 각자의 선의를 모아 최선의 결론을 내릴 수밖에 없다. 비록 아무 것도 하지 않는다는 것이 그 결론일지라도 말이다. 의사 결정 과정에서 정부의 적극적인 의지와 입장 표명이 중요한 점은 두말할 나위도 없다. 큰 눈으로 이슈를 바라보고 저 멀리까지 바라볼 수 있는 넓은 시야가 요구되는 시점이다.

2024.10.11 15:30법무법인 태평양 강태욱

다가오는 개보위 국정감사…주요 안건은

디지털 시대의 개인정보 보호가 그 어느 때보다 중요해진 가운데 개인정보보호위원회(개보위)가 해결해야 할 주요 문제들이 다각도로 점검될 예정이다. 5일 업계에 따르면 국회는 오는 8일 정부세종청사에서 개보위에 대한 국정감사를 진행한다. 이번 국정감사는 국민권익위원회(권익위)에 대한 감사와 동시에 이뤄지며 개인정보 보호와 관련된 다양한 현안들이 집중적으로 논의될 것으로 예상된다. 개보위는 지난 2020년 출범한 중앙행정기관으로, 개인정보 보호법을 통해 개인정보 침해를 예방하고 침해 발생 시 조사·제재하는 역할을 맡고 있다. 국정감사는 국회가 정부의 국정 전반을 감사해 잘못된 부분을 적발·시정하고 입법 활동에 도움을 주기 위해 매년 실시된다. 올해는 오는 7일부터 25일까지 개보위를 포함한 주요 부처를 대상으로 진행될 예정이다. 개보위 측은 아직 국회로부터 구체적인 질의 사항을 전달받지 못한 상태다. 통상적으로 국정감사 질의 내용은 전날 늦은 밤이나 당일 아침에 공유되는 경우가 많아 준비에 어려움을 겪고 있는 것으로 알려졌다. 개보위 관계자는 "국정감사에서 어떤 의원이 어떤 질문을 할지 아직 알 수 없어 대비하는 데 어려움이 있다"면서도 "최선을 다해 준비하고 있다"고 밝혔다. 이번 국정감사가 권익위와 동시에 진행됨에 따라 권익위 중심으로 전개될 가능성이 있다는 관측도 있다. 그럼에도 불구하고 최근 딥페이크 기술을 악용한 디지털 성범죄와 개인정보 유출 증가 등 개인정보 보호에 대한 국민적 관심이 높은 만큼 개보위에 대한 논의도 활발할 것으로 전망된다. 국정감사에서는 딥페이크 성범죄에 대한 개보위의 대응이 우선적으로 다뤄질 것으로 예상된다. 지난 5년간 디지털 성범죄 피해 발생 건수가 5.5배 증가했으며 특히 편집·합성된 이미지와 영상이 범죄에 이용되는 경우가 크게 늘었기 때문이다. 이수정 경기대 범죄심리학과 교수는 최근 "딥페이크 성범죄는 피해자에게 심각한 정신적 고통을 주는 범죄"라며 "엄격한 처벌과 예방적 조치가 시급하다"고 지적했다. 이에 개보위는 딥페이크 관련 문제에 대응하기 위해 디지털 성범죄 방지와 아동·청소년의 '디지털 잊힐 권리' 실현 등을 추진하고 있다. 특히 피해자의 동의 없이 온라인에 유포된 개인정보나 이미지 등을 삭제해주는 지원을 제공하고 있는 것으로 알려졌다. 그럼에도 불구하고 개보위의 딥페이크 방지 노력은 차질을 빚고 있다. 김용만 더불어민주당 의원실에 따르면 올해 10억원이었던 '디지털 잊힐권리 실현' 사업 예산이 내년에는 6억5천만원으로 삭감됐기 때문이다. 아동 대상 딥페이크 성착취 문제가 심각한 와중에 관련 예산이 35% 삭감됨에 따라 국정감사에서도 예산 삭감의 이유와 대책에 대한 질의가 있을 것으로 예상된다. 공공기관의 개인정보 유출 사례 급증과 이에 대한 투명성 부족도 주요 이슈로 떠오를 전망이다. 최근 들어 공무원 조직을 통해 개인정보가 유출됨에도 불구하고 국민이 이에 대해 인지하고 있지 못하기 때문이다. 실제로 강명구 국민의힘 의원은 지난 3일 "지난해 공공기관의 개인정보보호법 위반 건수가 전년 대비 2.7배 증가한 87건을 기록했다"며 "그럼에도 국민에게 위반 사실을 알리는 공표 처분은 17건에 그쳐 투명성이 부족하다"고 지적했다. 공공기관의 법 위반 사실을 감추는 것은 국민의 알 권리를 침해하는 것이라는 강 의원의 주장에 따라 이번 국정감사에서는 공공기관의 개인정보 관리 소홀에 대한 대책 마련과 투명성 강화 방안이 논의될 것으로 예상된다. 인공지능(AI) 기술의 발전에 따른 개인정보 보호 이슈도 국정감사에서 다뤄질 것으로 보인다. 개보위는 지난 7월 '인공지능(AI) 개발·서비스를 위한 공개된 개인정보 처리 안내서'를 발표한 바 있지만 업계에서는 기준의 모호성으로 인해 기술 개발에 어려움을 겪고 있다고 호소하고 있기 때문이다. 한 AI 업계 관계자는 "명확한 사용 기준이 없어 혼란이 가중되고 있다"며 "이는 AI 기술을 개발하는 스타트업들의 작은 규모와 적은 예산을 감안할 때 거대한 방해물이 되고 있다"고 토로했다. 이러한 업계의 지적에 대해 개보위는 '안내서'가 적법한 개념을 사용하고 있으며 기업들이 법적 침해 요소를 해소하고 데이터를 안전하게 활용하도록 지속적으로 지원하겠다고 해명한 바 있다. 이에 이번 국정감사에서는 AI 시대 개인정보 보호 정책과 업계와의 소통 강화 방안에 대해서도 논의될 것으로 예상된다. 지난해 국정감사에서 지적된 해외 기업의 개인정보 침해 문제에 대응해 개보위는 알리익스프레스, 테무 등 해외 직구 업체들의 개인정보 수집 및 처리 방식에 대한 조사를 진행 중이다. 국정감사에서는 이 조사의 진행 상황을 다시 한번 점검하고 해외 기업들의 개인정보 처리 방식에 대한 대응이 적절한지 확인하는 논의가 이루어질 것으로 보인다. 또 구글, 메타 등 글로벌 기업과 국내 기업 간의 개인정보 규제 차이에 대한 개보위의 대처에 대해서도 확인 차원의 질의가 이어질 것으로 예상된다. 이 문제는 국내 기업들의 형평성 문제와도 연결돼 있어 심도 있는 논의가 있을 것으로 전망된다. 이번 국정감사는 개보위가 해결해야 할 다양한 현안들에 대한 해법을 모색하는 자리가 될 것으로 관측된다. 개인정보 유출 대응, 디지털 성범죄 방지, AI 시대의 개인정보 보호 등 국민의 일상과 직결된 문제들이 논의될 예정인 만큼 개보위의 역할과 책임에 대한 평가가 더욱 중요해질 것으로 보인다. 한 AI 업계 관계자는 "AI로 빠르게 전환되는 시대인 만큼 데이터 역시 그 어느 때보다 중요하다"며 "이번 국정감사에서 AI 기업들이 성장할 수 있는 환경을 마련하면서도 국민의 데이터를 보호할 수 있는 균형 잡힌 논의가 이루어지길 기대한다"고 말했다.

2024.10.05 07:54조이환

황정아 의원 "텔레그램도 딥페이크 성범죄물 책임져야"…법안 발의

황정아 더불어민주당 의원은 해외 플랫폼의 딥페이크 등 디지털성범죄 유통 관리 책임 (정보통신망법 개정안)과 허위영상물 성범죄 처벌(성폭력처벌법 개정안)을 강화하는 내용의 '딥페이크·디지털성범죄 방지법'을 대표발의했다고 23일 밝혔다. 현행 정보통신망법은 정보통신서비스 제공자에게 딥페이크를 포함한 디지털 성범죄 정보 등의 유통방지를 위한 삭제 및 접속차단 의무를 갖는 불법촬영물 등 유통방지 책임자를 지정하도록 하고 있다. 하지만 현행법에서 책임자 등을 지정해야 하는 정보통신서비스 제공자에는 우리나라에 부가통신사업을 신고하는 등의 요건을 갖춰야 해 '텔레그램' 등 해외플랫폼이 적용되기 어렵다는 비판이 지속돼 왔다. 이에 황정아 의원은 정보통신망법 개정안을 통해 이용자가 5만명 이상이거나 매출액 5억원 이상인 정보통신서비스 제공자의 불법촬영물 등 유통방지 책임자를 지정하도록 했다. 또한 딥페이크를 포함한 불법촬영물 등의 유통 가능성이 높은 실시간 대화 서비스 제공자의 경우에도 대통령령으로 정한 요건에 부합할 경우 유통방지 책임자 지정 의무를 부과했다. 이를 통해 규제의 사각지대로 지적돼 왔던 해외 플랫폼 사업자를 포함해 플랫폼의 규모와 관계없이 디지털성범죄 정보 유통 가능성이 높은 플랫폼은 딥페이크 등 불법촬영물 유통 방지 책임자를 지정할 의무를 갖도록 해 플랫폼 사업자의 책임을 강화하겠다는 취지이다. 또한 황정아 의원은 성폭력 처벌법 개정안을 통해 기존 '반포할 목적'이 입증돼야만 딥페이크 범죄를 처벌할 수 있었던 문제도 개선한다. '반포할 목적'이라는 조건을 삭제해 단순 제작 등도 처벌할 수 있도록 하겠다는 것이다. 이에 더해 딥페이크 등 허위 성범죄 영상물을 제작하거나 반포할 경우 기존 징역 5년, 벌금 5천만원에서 최대 7년 이하의 징역 또는 7천만원 이하의 벌금에 처할 수 있도록 형량을 강화했다. 허위 성범죄 영상물 소지·구입·저장 및 시청죄도 신설한다. 이에 따라 허위 성범죄 영상물을 소지·구입·저장 또는 시청한 자는 3년 이하의 징역 또는 3천만원 이하의 벌금에 처하게 된다. 황정아 의원은 "몇 번의 클릭으로 단 2초면 딥페이크 범죄를 저지를 수 있지만, 한 번 온라인 공간에 업로드된 디지털 성범죄 정보는 단시간에 수백 수천 개로 복제되고 확산되는 매우 악질적인 성범죄"라며 "딥페이크 범죄의 처벌 강화는 물론 해외플랫폼 등 플랫폼들에 대한 의무를 강화해 디지털 성범죄를 예방해야 한다"고 강조했다.

2024.09.23 16:24안희정

"성착취물로 협박하면 5년이상 징역"…이달희, 아동·청소년 성보호 법 개정안 발의

국회 여성가족위원회 소속 국민의힘 이달희 의원은 강화된 처벌 규정을 담은 아동·청소년의 성보호에 관한 법률 개정안을 대표발의 했다고 3일 밝혔다. 이 개정안은 최근 딥페이크 성범죄 피해가 심각해지면서 아동·청소년 성착취물을 이용해 사람을 협박한 자는 5년 이상의 유기징역에 처하도록 하는 등의 내용을 담았다. 경찰청에서 제출한 자료에 따르면, 10대 피의자는 2021년 51명에서 2023년 91명으로 증가했고, 같은 기간 10대 피해자는 2021년 53명에서 2023년 181명으로 3배 이상 증가했다. 또한 여성가족부의 '2023년 아동·청소년 대상 성범죄 발생추세 및 동향 분석 자료 '에 따르면, 가해자가 어떠한 방식으로 피해 아동·청소년의 성적 이미지를 유포하겠다고 협박한 사건의 비율은 2019년 8.5%에서 2022년 20.8%로 크게 증가했다. 그러나 현행법에는 아동·청소년 성착취물을 이용한 협박·강요에 대한 처벌 규정을 별도로 두고 있지 않아, 현재 발생하고 있는 딥페이크를 이용해 제작된 아동·청소년 성착취물로 사람을 협박한 경우 '성폭력범죄의 처벌 등에 관한 특별법'에 따른 처벌만이 가능한 상황이다. 이 의원은 "특히 판단력이 취약한 아동과 청소년을 대상으로 성착취물을 이용해 사람을 협박하는 행위는 성인을 대상으로 하는 행위에 비해 더 죄질이 중하다”며, “아동·청소년 성착취물을 이용해 사람을 협박한 자는 5년 이상의 유기징역에 처하도록 하는 등 강화된 처벌규정을 신설했다"고 설명했다. 이어 "성착취물을 비롯한 아동·청소년 성착취물 이용 범죄에서 아동과 청소년을 더욱 강하게 보호하고, 앞으로도 아동·청소년 대상 성범죄의 법적 사각지대 해소 위해 노력할 것"이라고 재차 강조했다.

2024.09.03 16:19안희정

딥페이크 성범죄 기승..."처벌도 규제도 깜깜"

최근 텔레그램에서 발생한 딥페이크 성범죄에 대해 실질적 처벌이 어려울 것으로 전망되고 있다. 해외 플랫폼은 국내 사법권의 영역에 해당하지 않아 적극적인 수사 협조를 기대하기 어려운 탓이다. 이에 플랫폼 사업자가 불법 콘텐츠를 감시·감독할 수 있도록 플랫폼에 책임을 부여하는 것이 가장 실효성 있는 방안이라는 주장이 나오고 있다. 반면 규제가 국내 플랫폼에 만 편중돼 해외 기업과의 역차별이 발생할 수 있다는 우려도 적지 않다. 텔레그램 딥페이크 성범죄 가해자, 처벌 어려워 최근 딥페이크 성범죄가 기승을 부리며 가해자 처벌에 대한 요구가 커지고 있다. 김현수 부산대 법학전문대학원 교수는 "범죄자를 처벌해서 향후 범죄 발생을 예방하는 것이 기본적 이야기"라며 "절도를 하면 처벌받는다는 것을 다 알듯, 딥페이크 성범죄를 저지르면 처벌이 따른다는 것을 모두 알 수 있도록 해야 한다"고 말했다. 그러나 가해자에 대한 빠른 검거와 처벌은 쉽지 않을 것이라는 의견이 다수다. 성폭력범죄처벌에대한특례법 제14조의2 등 딥페이크 성범죄를 처벌할 법규는 존재하나, 해외 플랫폼에서 벌어진 범죄에 대해 가해자를 특정하기가 쉽지 않은 탓이다. 법무법인 로하스 강현구 변호사는 "수사기관에서 범인을 추적하려면 계정 명의자들에 대한 압수수색을 통한 IP 추적 등이 필요하다"며 "그런데 텔레그램은 외국에 서버를 두고 있기 때문에 국내 수시기관의 요구에 응할 의무가 없어 범인 추적이 쉽지 않다"고 설명했다. 이어 "가해자가 자기 주변 사람을 대상으로 딥페이크 영상을 만든 경우 촬영 장소 등 단서를 통해 가해자를 특정할 수도 있겠지만, 피해자가 공인인 경우 영상에서 가해자에 대한 단서를 찾을 수 없어 검거가 더욱 어렵다"고 덧붙였다. 지난 29일 방송통신심의위원회는 파벨 두로프 텔레그램 최고경영자(CEO)를 수사 중인 프랑스 당국에 긴급 공조 요청을 보냈다. 프랑스 수사당국과의 접촉 채널을 확보해 텔레그램 문제에 적극 대응하겠다는 의지를 보인 것이다. 그러나 국가 간 수사 공조에 딥페이크 성범죄 가해자 처벌과 관련해 큰 기대를 걸기는 어려운 상황이다. 국가 간 수사 공조는 통상적으로 시간이 오래 걸릴 뿐더러, 정부의 외교적 역량에 따라 변수가 존재하기 때문이다. 이상직 법무법인 태평양 변호사는 "과거 정부에서 도박사이트를 제재할 때도 해외에 서버를 둔 사이트 단속의 경우 해외와의 공조가 신속하게 되지 않았다"며 "사법에 대해 국제적·외교적 통로를 거치는 것은 보통 시간이 많이 걸린다"고 설명했다. 이어 "나라마다 법 체계도 다르고 국가 간 이해관계가 영향을 미치는 등 공조여부는 외교적인 역량에 달린 부분도 많다"고 덧붙였다. 플랫폼 사업자 책임 강화가 가장 현실적이나...국내 플랫폼 역차별 우려 딥페이크 성범죄 재발 방지를 위해 플랫폼 사업자의 감시·감독 의무를 강화하는 것이 가장 현실적인 대안이라는 목소리도 있다. 이준호 동아대 미디어커뮤니케이션학과 교수는 "딥페이크가 부정적 결과로 이어질 경우 그것을 유통한 플랫폼도 일정 정도의 책임을 져야 한다"고 말했다. 이 교수는 "지금은 플랫폼에 대한 자율규제가 아주 느슨하기 때문에 플랫폼에게 무거운 책임을 요구하기 애매한 상태"라면서 "플랫폼이 딥페이크 성범죄를 자율적으로 규제하도록 자체 규정을 만들도록 하고 이것을 규제기관에서 모니터링하는 방안이 필요하다"고 밝혔다. 강현구 변호사는 "플랫폼 사업자에 대해 의무를 부과하는 것이 그나마 실효성 있는 방안"이라며 "불법 딥페이크 영상이 플랫폼을 통해서 유포되는 것이니, 플랫폼 운영자들에게 차단 조치를 취하도록 하는 수밖에 없다"고 했다. 다만 플랫폼에 대한 규제를 마련한다고 해도, 이를 해외 플랫폼에 적용하기에는 한계가 있다는 게 문제다. 강현구 변호사는 "국내에서 많이 사용하는 X, 인스타그램, 페이스북 등 플랫폼은 국내 사법권이 닫지 않는 영역"이라고 말했다. 김현수 교수는 "규제가 국내에만 적용된다고 하면 국내 플랫폼에 대한 역차별이 될 수 있다"고 우려했다. 실제로 국내 플랫폼 업계에서는 플랫폼에 대한 규제 강화 시 국내 플랫폼에 대한 역차별이 발생할 것을 우려하고 있다. 익명을 요구한 업계관계자는 "사실 딥페이크 등 범죄가 발생하는 곳은 주로 해외 플랫폼"이라면서 "국내 플랫폼에도 규제를 강화하는 것은 적절한 대안이 아니라고 생각하며, 근본적 해결책이 될 수 없다고 본다"고 강조했다.

2024.09.02 20:50조수민

"피해자 절반 한국인"…女 차별 여전한 韓, '딥페이크' 성범죄로 해외서 망신

최근 여성의 얼굴에 음란물을 합성·유포하는 '딥페이크(인공지능 기반 이미지 합성)' 음란 영상물이 확산되며 피해가 속출하고 있는 가운데, 전 세계 피해자의 절반 이상이 한국인, 99%가 여성이라는 충격적인 조사 결과가 나왔다. 30일 미국 사이버보안 업체 시큐리티 히어로에 따르면 지난해 7~8월 딥페이크 음란물 사이트 10곳과 유튜브·비메오·데일리모션 등 동영상 공유 플랫폼의 딥페이크 채널 85개에 게재된 영상물 9만5천820건을 분석한 결과, 한국이 딥페이크 음란물에 가장 취약한 국가로 조사됐다. 딥페이크 음란물에 등장하는 개인 중 53%가 한국인으로 가장 많았고, 두 번째로 많은 미국인(20%)과 두 배 이상 차이가 났다. 일본인(10%), 영국인(6%), 중국인(3%), 인도인(2%), 대만인(2%), 이스라엘인(1%)도 피해를 입은 것으로 나타났다. 시큐리티 히어로는 "한국은 딥페이크 음란물에서 가장 많이 표적이 되는 국가"라며 "딥페이크는 엔터테인먼트·정치·허위조작정보 등 다양한 목적으로 이용되지만 어떤 국가에서는 특정한 형태의 딥페이크 콘텐츠, 특히 노골적인 콘텐츠에 더 취약하다"고 지적했다. 한국인 딥페이크 피해자 대부분은 가수, 배우 등 연예인이었다. 딥페이크 음란물의 최다 표적이 된 개인 10인 중 8명은 한국인 가수였다. 1∼7위와 9위가 한국 가수였고 8위는 태국 가수, 10위는 영국인 배우였다. 보고서는 사안의 민감성을 고려해 피해자의 이름은 밝히지 않았다. 가장 큰 피해를 본 한국인 가수는 딥페이크 성착취물 1천595건에 등장했으며 총 조회수는 561만 회에 달했다. 또 다른 한국 가수는 성착취물 1천238건의 표적이 됐고 조회수는 386만5천 회였다. 이번에 분석한 딥페이크 영상물의 98%는 음란물이었다. 2022년 3천725건이던 딥페이크 음란물은 2023년 2만1천19건으로 464% 급증했다. 딥페이크 음란물 피해자 99%는 여성이었고, 94%는 연예계 종사자였다. 일반 딥페이크 영상물에서 여성의 비율은 77%였다. 시큐리티 히어로는 "딥페이크 음란물은 일정 그룹의 개인이 조작적이고 종종 악의적인 목적에 따른 표적이 된다는 것이 특징"이라며 "유명 인사인 경우가 많다"고 말했다. 미국 월스트리트저널(WSJ)은 시큐리티 히어로의 조사 결과와 함께 한국 정부의 딥페이크 음란물 단속 강화 움직임을 전하면서 "가짜 음란물을 생성·유포하는 텔레그램 기반 네트워크 적발은 한국이 전 세계적 문제의 진앙임을 시사한다"고 강조했다. 영국 BBC 방송은 딥페이크 문제와 함께 지난 2019년 발생한 텔레그램 N번방 사건을 언급하며 한국이 디지털 성범죄에 심각한 문제를 가지고 있음을 지적했다. 또 BBC는 한국 내 온라인 딥페이크 성범죄가 급증하고 있다는 점을 꼬집으며 올 상반기 동안 한국 경찰에 접수된 딥페이크 성범죄가 297건에 달한다고 전했다. 이는 지난해 전체(180건), 2021년(160건)보다 크게 증가한 수치다. BBC 방송은 "최근 한국에서 미성년자를 포함해 성적으로 노골적인 딥페이크 이미지를 제작하고 공유하는 채팅 그룹이 다수 발견됐다"며 "윤석열 대통령은 '디지털 성범죄를 철저히 조사하고 해결해 근절하라'고 지시했다"고 국내 분위기를 전했다. 이어 "지난 3년 동안 한국 딥페이크 범죄의 3분의 2 이상을 10대 청소년이 저질렀다"며 "한국은 디지털 성범죄에 대한 어두운 역사를 가지고 있다"고 덧붙였다. BBC 방송은 한국에서 몰카나 딥페이크 성범죄가 급증하는 배경으로 '성별 격차'를 들었다. 한국 기업이 여전히 여성에게 우호적이지 않다는 점을 수치로도 제시했다. BBC 방송은 "한국 상장 기업의 임원직 중 여성은 5.8%에 불과하며 한국 여성은 남성보다 평균 3분의 1 정도의 임금을 받고 있다"며 "세계 부국 중 성별 임금 격차가 가장 심하다"고 지적했다. 이어 "급성장하는 기술 산업에 만연한 성희롱 문화가 더해져 디지털 성범죄가 폭발적으로 증가하고 있다"고 덧붙였다. 영국 일간 가디언은 "한국은 비밀리에 촬영된 성적 영상물인 '몰래카메라'를 근절하려 오랜 기간 분투해 왔다"며 "최근에는 딥페이크 이미지의 물결과도 전투를 벌이고 있다"고 말했다. 외신들의 이 같은 우려 속에 정부 부처들은 딥페이크를 막기 위한 방안 마련에 속속 도입했다. 먼저 서울경찰청 사이버수사대는 태스크포스(TF)를 조직, 딥페이크 성착취 허위영상물 집중 대응에 나섰다고 밝혔다. TF는 총괄팀장인 서울경찰청 사이버수사과장을 필두로 3개 전담수사팀, 사이버프로파일링팀·디지털포렌식팀·지원부서팀까지 총 6개 팀으로 구성됐으며 내년 3월 31일까지 7개월간 운영된다. 방송통신심의위원회는 텔레그램은 물론 페이스북·엑스(X)·인스타그램·유튜브 등 글로벌 온라인 플랫폼 사업자들과 딥페이크 방지를 위한 협의체를 구성했다. 또 네이버와 카카오 등 국내 플랫폼에 대해서는 방심위 전용 신고 배너 팝업 설치를, 공영방송사들에는 관련 캠페인 영상 제작 및 송출 등 협조를 구할 예정이다. 교육부도 청소년을 중심으로 딥페이크 문제가 심각하다고 보고 TF를 운영하며 강력 대응에 나설 것을 시사했다. 딥페이크를 제작, 유포할 경우 퇴학 등을 고려한다는 방침이다. 과학기술정보통신부와 여성가족부 역시 딥페이크 대응에 협력하기로 했다. 업계 관계자는 "AI 생성물 '워터마크(표식)' 의무화나 핀셋규제 필요성이 필요하다"며 "AI 기술과 함께 등장한 비교적 새로운 유형의 성범죄인 탓에 처벌 사례가 아직 많지 않고, 처벌도 여전히 솜방망이 수준"이라고 지적했다.

2024.08.30 09:34장유미

"딥페이크 범죄 신속 대응…플랫폼 사업자들과 협의체 구성"

방송통신심의위원회가 딥페이크 기술로 제작된 성범죄영상물을 신속하게 차단하기 위해 전자심의를 강화한다. 또한 글로벌 온라인 플랫폼 사업자들과 협의체를 구성해 차단 조치와 자율 규제를 요청할 계획이다. 방심위는 28일 오전 긴급 전체회의를 열고 딥페이크 합성 기술을 악용한 디지털 성범죄 영상에 대한 대책 방안을 의결했다. 먼저 방심위는 27일부터 홈페이지에 전용 배너를 별도로 설치하고 성범죄영상물 신고를 쉽게 접수할 수 있도록 했다. 온라인 신고와 함께 방심위 디지털 성범죄 신고 전화인 1377의 기능도 강화했다. 딥페이크 성범죄 영상물 신고를 상담원이 직접 24시간 365일 접수하고 상담케 했다. 또한 딥페이크 성범죄영상물의 주요 유포경로인 텔레그램 등 주요 SNS에 대한 자체 모니터 인원을 2배 이상 늘려 집중 모니터링을 통해 불법 성범죄 영상물을 신속 적발하겠다고 했다. 방심위 측은 "향후 디지털 성범죄 전담 인력을 늘려나갈 예정"이라고 밝혔다. 아울러 삭제 차단 조치와 관련해 전자심의를 강화해 24시간 이내 삭제차단이 될 수 있도록 시정을 요구하고, 악성 유포자는 즉각 경찰에 수사의뢰하도록 했다. 이를 위해 국내 포털 사이트와 텔레그렘, 페이스북, 엑스, 인스타그램, 유튜브 등 글로벌 온라인 플랫폼 사업자들과도 협의체를 구성해 신속 삭제 차단 조치와 함께 자율적 규제를 요청할 계획이다. 류희림 방심위원장은 이날 "딥페이크 기술을 악용한 성범죄 영상은 우리 사회를 정조준해 위협하는 상황이 됐다"며 "보완 입법을 관계 기관에 건의하고, 관련 전문가들과 협력해 보완 입법 이전에 할 수 있는 최대한의 심의 규정 보완도 강구하겠다"고 강조했다.

2024.08.28 11:48안희정

"여동생·지인 나체 사진 드려요"…韓, 딥페이크 성범죄↑

생성형 인공지능(AI) 기술을 악용한 딥페이크 성범죄가 늘고 있다. 딥페이크 범죄를 처벌할 수 있는 법적 세부 기준이 마련되지 않아 피해 사례는 더욱 증가할 전망이다. 26일 정보기술(IT) 업계에 따르면 100개 이상 국내 대학과 중·고등학교에서 텔레그램 딥페이크 성범죄가 만연한 것으로 드러났다. 이들은 생성형 AI 기술로 지인 사진과 나체 사진·영상을 합성해 텔레그램 방에 공유한 것으로 전해졌다. 딥페이크는 딥러닝(Deep learning)과 가짜를 뜻하는 페이크(fake)를 합친 용어다. 생성형 AI 기술 등으로 여러 사진을 조합해 가짜 인물이나 영상을 사실처럼 만들 수 있는 기술이다. 그동안 연예인이나 정치인, 인플루언서 이미지와 음란물을 합성해 유포하는 범죄가 다수였다. 이제 누구나 생성형 AI로 딥페이크 사진과 영상을 생성할 수 있게 됐다. 이에 일반인 피해 사례가 우후죽순으로 늘고 있다. 최근 학생들 사이에서 일반 사진을 나체 사진으로 변형해 주는 생성형 AI 챗봇이 활성화하고 있다. 예를 들어 사용자가 여성 사진을 올리면 생성형 AI가 이를 나체사진으로 바꿔주는 식이다. 서울경찰청에 따르면 학생들은 딥페이크로 제작된 나체사진을 텔레그램 방에 공유한 것으로 전해졌다. 또 다른 텔레그램 방에서는 여동생이나 여군, 지인 사진을 자체 사진으로 변형해 공유하는 행위도 드러났다. 가족뿐 아니라 친구 사진까지 딥페이크 성범죄 대상물이 된 셈이다. 관련 범죄로 경찰에 붙잡힌 10대 청소년이 서울에서만 올해 10명인 점도 전해졌다. 서울경찰청 관계자는 "올해 1~7월 청소년 10명이 딥페이크 범죄로 검거됐다"고 밝힌 바 있다. 현재 딥페이크 성범죄 처벌법이 마련됐긴 했다. 딥페이크 음란물 대상자가 아동일 경우, 아동·청소년 성 보호에 관한 법률(11조)에 따라 처벌받는다. 대상자가 성인일 경우 성폭력 범죄 처벌 등에 관한 특례법(14조)에 의해 처벌받을 수 있다. 다만 딥페이크로 인한 성범죄가 기존보다 다양해지면서 세부적인 법적 기준 필요성이 제기되고 있다. 김봉식 서울경찰청장은 "학생들에게 성범죄 전력 심각성을 가르치겠다"며 "범죄가 사회활동에 지장을 초래할 수 있다는 점을 알리는 교육을 강화할 것"이라고 강조했다.

2024.08.26 18:04김미정

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

"요금 올리거나, 무료 풀거나"…OTT, 전략 분화

"책 대신 '아이패드'로 수업을"…디지털이 바꾼 교실 풍경은

과학자들, 납으로 금 만들었다…'연금술사의 꿈' 실현되나

SKT 유심교체 누적 193만...교체 예약 대기 686만

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현