검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'딥페이크'통합검색 결과 입니다. (89건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

[기고] AI 진흥과 규제의 경계

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. 익히 아는 것처럼 노벨상은 알프레드 노벨의 기일인 오는 12월 10일에 시상식이 개최된다. 시상식 날로부터 두 달 전인 10월의 첫 번째 월요일부터 하루에 한 분야씩 수상자가 공식 발표된다. 올해는 토론토 대학의 제프리 힌튼 교수와 프린스터 대하의 존 홉필드 교수가 노벨 물리학상 수상자로 발표됐고 알파고로 유명한 데이비드 허사비스 구글 딥마인드 대표가 노벨 화학상의 수상자 중 하나로 발표됐다. 수상자를 발표하는 스웨덴 한림원도 수상 과정을 설명하면서 인공지능(AI) 기술이 인류에 얼마나 공헌해 왔는지를 설명했다. 이제는 AI 기술이 IT 기술의 영역이 아니라 인류의 일상 생활에 깊이 들어왔다는 점을 다시 한번 느끼게 된다. AI 기술에 대한 국가적 관심은 우리나라도 다름이 없다. 최근 대통령을 위원장으로 하는 국가AI위원회를 출범시키면서 글로벌 3대 AI 강국의 반열에 들겠다는 목표로 '국가총력전'을 선포했다. 다소 구시대적이고 식상한 느낌이 들기도 하지만 AI 산업 분야에 정부가 관심을 가지고 연구 개발과 산업화가 잘 이루어질 수 있도록 지원한다는 것이니 굳이 색안경을 끼고 부정적으로만 볼 것은 아니다. AI 기술이 향후 우리가 주목해야할 먹거리라는 점에 대해서는 큰 틀에서는 긍정적인 논의의 줄기가 잡히는 것 같다. 그럼에도 세부적으로 들어가면 쉽지 않은 이슈들이 산적해 있다. 당장 AI 기술이 가짜 뉴스, 딥페이크 기반 허위 영상물 등의 제작과 배포를 손쉽게 해 사회적으로 허용하기 어려운 수준의 범법 행위들이 널리 이루어질 수 있다는 점이 문제가 되고 있다. 과거 인터넷 기술이 그러했던 것처럼 AI 기술은 말 그대로 도구이자 기술일 뿐이라는 점에 대해서는 누구나 공감한다. 그럼에도 그로 인해 발생할 수 있는 피해를 예방하기 위해서 '직접' 규제를 하게 되면 결국에는 기술 자체에 부정적인 전후방 효과가 발생할 수밖에 없다. 전폭적인 지원 정책으로도 그 수준을 올리기 어려운 치열한 글로벌 기술 경쟁 상황에서 브레이크로 작동할 가능성이 높다는 우려도 제기되고 있다. 최근 국회는 아동 청소년 딥페이크 처벌 강화법이라는 내용으로 디지털 성범죄에 대한 처벌 강화를 위한 소위 아청법과 성폭법 개정안을 의결했다. '아동, 청소년의 성보호에 관한 법률'은 성착취물을 이용한 아동, 청소년 대상 협박 강요 범죄의 처벌 규정을 신설해 처벌을 강화했다. 또 딥페이크 등 디지털 성범죄의 긴급 신분 비공개 수사를 허용해 피해자의 긴급한 구조가 가능하도록 하는 내용을 담았다. '성폭력방지 및 피해자 보호 등에 관한 법률'은 그 자체로는 딥페이크 기술을 이용한 불법 촬영물에 관한 새로운 내용이 포함된 것은 아니다. 그럼에도 불구하고 법안의 개정은 관련 업무를 국가의 책무로 명시하고 디지털 성범죄 피해자 지원 센터 운영의 근거 규정을 신설해 피해자 보호 등의 사업을 할 수 있도록 했다. 이러한 내용들은 충분히 국가가 AI 기술 확산으로 인한 부작용을 방지하기 위해 미리 준비해야 할 영역임에는 틀림이 없다. 개정안에는 딥페이크 기술을 활용한 불법 촬영물은 소지하는 것만으로 형사처벌을 하겠다는 내용이 포함돼 있는데 최근 해당 기술을 활용한 사례들이 사회적으로 문제가 되고 있는 점을 고려해 보면 충분히 이해 가능한 부분이기도 하다. 그럼에도 불구하고 기술의 부작용을 미리 염려해 실시된 각종 규제들이 기술 발전에 예상치 못한 방해물로 작용해 왔다는 사실은 이미 오랜 기간 동안 선례로 쌓여 왔다. 인터넷 부작용을 우려해 콘텐츠에 대한 제재를 엄격하게 했다면 현재처럼 우리나라가 인터넷 강국의 지위에 오를 수 있었을런지 의문이다. 게시글의 악영향을 차단하기 위해 실명제를 도입한 이후 국내 콘텐츠 사업자들이 크게 영향을 받을 수밖에 없었던 사건은 그리 오래되지도 않았다. 최근 유럽연합(EU)은 유럽 인공지능법(EU AI법) 제정을 통해 AI에 대한 포괄적인 규제를 시도하고 있다. 그럼에도 이 법이 EU 내 AI 기술 발전에 어떠한 영향을 미칠 것인지 여전히 설왕설래가 오가고 있다. 최근 미국 캘리포니아에 제안된 AI 안전법안(Safe and Secure Innovation for Frontier Artificial Intelligence Models Act) 역시 마찬가지다. 이 법안이 AI 모델의 규모만 고려할 뿐 그 활용 맥락은 고려하지 않고 일률적인 규제를 하는 것이 적절한지에 대하여 논란이 있기 때문이다. 바로 이 점을 들면서 주지사가 법안에 대한 거부권을 행사했다는 점 역시 AI 기술에 대한 포괄적인 규제가 가져올 부정적인 영향을 무시하기 어려운 사정이 있기 때문이라는 평가들이 존재한다. 이와 반대로 연구 개발과 발전이 진행 중인 과학기술 분야에서 일정한 기준 또는 규제가 존재해서 예측가능성을 부여하고 안정적인 개발과 운영이 이루어진 사례들도 매우 많다. 다소 이른 수준의 규제라고 모두 관료제의 병폐인 적기 조례(Red flag act)가 되는 것은 아니다. 그럼에도 그 규제가 이른 것인지 아니면 이미 늦었는지 사전적으로는 매우 판단하기 어렵다. 또 해외 사례가 반드시 정답인 것도 아니다. 결국 입장이 다른 이해관계자들이 머리를 맞대고 각자의 선의를 모아 최선의 결론을 내릴 수밖에 없다. 비록 아무 것도 하지 않는다는 것이 그 결론일지라도 말이다. 의사 결정 과정에서 정부의 적극적인 의지와 입장 표명이 중요한 점은 두말할 나위도 없다. 큰 눈으로 이슈를 바라보고 저 멀리까지 바라볼 수 있는 넓은 시야가 요구되는 시점이다.

2024.10.11 15:30법무법인 태평양 강태욱

"살해 협박까지?"…美 볼티모어 고교 교장, '딥페이크' 음성에 당했다

미국 메릴랜드주 볼티모어 지역의 한 고등학교 교장이 인공지능(AI)으로 조작된 음성으로 인해 살해 협박까지 받는 일이 발생했다. 흑인·유대인을 비하하는 내용이 담겨 있었기 때문이다. 7일 BBC 등 외신에 따르면 에릭 아이스워트 볼티모어 파이크스빌 고등학교 교장은 지난 1월 인종차별 발언이 담긴 AI 조작 음성 파일로 인해 심각한 명예 훼손을 당했다. 아이스워트 교장은 조작된 음성파일로 인해 재직 학교를 옮겨야 했으며 소셜네트워크서비스(SNS) 상에서도 수십 개의 혐오·살해 위협 메시지를 받은 것으로 확인됐다. 외신들은 볼티모어 주민들이 조작된 음성을 진짜라고 믿었던 이유로 실제 사람들이 겪을 만한 사례를 중심으로 음성이 만들어졌기 때문이라고 분석했다. 또 영상이 오디오로만 이뤄져 AI로 조작된 영상이란 걸 눈치챌 수 있는 시각적 단서가 없었고 교장의 목소리로 교내 행정 용어와 학교 직원들을 언급하며 사실과 구분하기 힘든 파일이 만들어졌다고 보도했다. 그러나 볼티모어 거주 흑인인 알피 말론은 "교장이 흑인 학생들을 게으르다고 묘사하는 걸 듣자마자 학교와 직장에서 접했던 모욕과 차별이 생각났다"며 "흑인으로서 겪었던 인종차별 경험이 생각나 불쾌한 감정이 앞섰다"고 밝혔다. 당시 음성에는 지역 사회 흑인 아이들과 유대인들에 대한 비난이 섞여 있던 것으로 확인됐다. 볼티모어는 미국 내에서도 빈민층 흑인과 히스패닉이 많이 살고 총기 사건 등 강력범죄 발생 비율이 매우 높은 지역으로 꼽힌다. 로버트 맥컬러브 볼티모어 경찰서장은 지난 4월 녹음이 가짜라는 결정적인 증거를 확보하고 교장을 음해·스토킹한 혐의로 고등학교 운동부장인 다존 다리엔 교사를 기소했다. 다리엔은 딥페이크 음성으로 교장의 신뢰를 떨어트려 해고하려는 목적으로 해당 음성을 조작한 것으로 밝혀졌다. 볼티모어 경찰은 다리엔이 학교에서 약 1천916달러를 훔쳐 교장으로부터 조사를 받고 있던 사실도 찾아 절도 혐의를 추가했다. 볼티모어 교사 노조는 조작된 음성 파일로 인해 교장이 끝내 학교를 떠나야 했다는 점을 두고 안타까움을 드러냈다. 볼티모어 경찰 측은 "원본 음성을 보내는 데 사용된 이메일이 다리엔에게 연결된 것을 확인해 이를 바탕으로 추적했다"며 "그가 볼티모어 카운티 공립학교의 컴퓨터 네트워크를 사용해 AI 도구에 접근했고 올해 12월 재판을 받을 예정"이라고 말했다.

2024.10.07 15:22양정민

"딥페이크 멈춰"…딥브레인AI, 美서 혁신적 AI 솔루션 공개

딥브레인AI가 실리콘밸리에서 인공지능(AI) 기반 솔루션을 선보였다. 딥브레인AI는 지난달 25일부터 이틀간 미국 캘리포니아주 샌프란시스코에서 LG전자 북미이노베이션센터(LG NOVA)가 개최한 '이노베이션 페스티벌'에 참가했다고 7일 밝혔다. 이 행사는 글로벌 혁신 스타트업을 발굴하고 협력하기 위해 스타트업 관계자·투자자·기업가가 한자리에 모이는 교류의 장이다. 올해 행사의 주제는 '혁신의 등불을 밝히다'로, AI·클린테크·헬스케어 스타트업을 발굴하는 데 초점이 맞춰졌다. 딥브레인AI는 마련된 부스에서 ▲딥페이크 탐지 솔루션 ▲AI스튜디오스 ▲커스텀 아바타 ▲대화형 AI 아바타를 전시했다. 행사 기간 열린 스타트업 피칭 대회에서는 부스에서 전시한 네 가지 솔루션을 발표하기도 했다. 딥브레인AI의 딥페이크 탐지 솔루션은 원본과 변조된 픽셀 차이로 딥페이크 여부를 판별해내며 공공기관을 대상으로 상용화에 성공한 바 있다. 또 AI 휴먼 기술력과 데이터셋을 바탕으로 기술의 악용을 막기 위한 딥페이크 검출 기술 연구에 심혈을 기울이고 있다. 'AI 스튜디오스'는 '텍스트 투 비디오(Text-to-Video)' 기술을 기반으로 하는 가상인간 영상 편집 플랫폼이다. 키워드만 입력하면 주제에 맞는 영상을 생성하며 웹사이트 링크·기사·보고서 등 다양한 문서도 영상으로 제작할 수 있다. 30초 촬영만으로 즉시 아바타가 생성되는 커스텀 아바타 기술도 선보여 관람객 사이에서 큰 인기를 끌었다. '대화형 AI 아바타'는 고객의 목소리를 귀담아듣고 올바른 답변을 제공하는 서비스다. AI 챗봇과 연계해 사전 학습되지 않은 질문에 대해서도 막힘없는 대화를 이어갈 수 있다. 금융 상담, 교육, 키오스크 등 다양한 서비스를 시간에 구애받지 않고 이용 가능하다는 장점도 있다. 장세영 딥브레인AI 대표는 "각계각층의 사람들과 혁신적인 아이디어를 공유하는 이노베이션 페스티벌에 참가해 제품을 소개할 수 있어 뜻깊은 시간이었다"며 "앞으로도 AI 기술로 글로벌 시장에서 선한 영향력을 펼치기 위해 노력할 것"이라고 강조했다.

2024.10.07 10:28조이환

다가오는 개보위 국정감사…주요 안건은

디지털 시대의 개인정보 보호가 그 어느 때보다 중요해진 가운데 개인정보보호위원회(개보위)가 해결해야 할 주요 문제들이 다각도로 점검될 예정이다. 5일 업계에 따르면 국회는 오는 8일 정부세종청사에서 개보위에 대한 국정감사를 진행한다. 이번 국정감사는 국민권익위원회(권익위)에 대한 감사와 동시에 이뤄지며 개인정보 보호와 관련된 다양한 현안들이 집중적으로 논의될 것으로 예상된다. 개보위는 지난 2020년 출범한 중앙행정기관으로, 개인정보 보호법을 통해 개인정보 침해를 예방하고 침해 발생 시 조사·제재하는 역할을 맡고 있다. 국정감사는 국회가 정부의 국정 전반을 감사해 잘못된 부분을 적발·시정하고 입법 활동에 도움을 주기 위해 매년 실시된다. 올해는 오는 7일부터 25일까지 개보위를 포함한 주요 부처를 대상으로 진행될 예정이다. 개보위 측은 아직 국회로부터 구체적인 질의 사항을 전달받지 못한 상태다. 통상적으로 국정감사 질의 내용은 전날 늦은 밤이나 당일 아침에 공유되는 경우가 많아 준비에 어려움을 겪고 있는 것으로 알려졌다. 개보위 관계자는 "국정감사에서 어떤 의원이 어떤 질문을 할지 아직 알 수 없어 대비하는 데 어려움이 있다"면서도 "최선을 다해 준비하고 있다"고 밝혔다. 이번 국정감사가 권익위와 동시에 진행됨에 따라 권익위 중심으로 전개될 가능성이 있다는 관측도 있다. 그럼에도 불구하고 최근 딥페이크 기술을 악용한 디지털 성범죄와 개인정보 유출 증가 등 개인정보 보호에 대한 국민적 관심이 높은 만큼 개보위에 대한 논의도 활발할 것으로 전망된다. 국정감사에서는 딥페이크 성범죄에 대한 개보위의 대응이 우선적으로 다뤄질 것으로 예상된다. 지난 5년간 디지털 성범죄 피해 발생 건수가 5.5배 증가했으며 특히 편집·합성된 이미지와 영상이 범죄에 이용되는 경우가 크게 늘었기 때문이다. 이수정 경기대 범죄심리학과 교수는 최근 "딥페이크 성범죄는 피해자에게 심각한 정신적 고통을 주는 범죄"라며 "엄격한 처벌과 예방적 조치가 시급하다"고 지적했다. 이에 개보위는 딥페이크 관련 문제에 대응하기 위해 디지털 성범죄 방지와 아동·청소년의 '디지털 잊힐 권리' 실현 등을 추진하고 있다. 특히 피해자의 동의 없이 온라인에 유포된 개인정보나 이미지 등을 삭제해주는 지원을 제공하고 있는 것으로 알려졌다. 그럼에도 불구하고 개보위의 딥페이크 방지 노력은 차질을 빚고 있다. 김용만 더불어민주당 의원실에 따르면 올해 10억원이었던 '디지털 잊힐권리 실현' 사업 예산이 내년에는 6억5천만원으로 삭감됐기 때문이다. 아동 대상 딥페이크 성착취 문제가 심각한 와중에 관련 예산이 35% 삭감됨에 따라 국정감사에서도 예산 삭감의 이유와 대책에 대한 질의가 있을 것으로 예상된다. 공공기관의 개인정보 유출 사례 급증과 이에 대한 투명성 부족도 주요 이슈로 떠오를 전망이다. 최근 들어 공무원 조직을 통해 개인정보가 유출됨에도 불구하고 국민이 이에 대해 인지하고 있지 못하기 때문이다. 실제로 강명구 국민의힘 의원은 지난 3일 "지난해 공공기관의 개인정보보호법 위반 건수가 전년 대비 2.7배 증가한 87건을 기록했다"며 "그럼에도 국민에게 위반 사실을 알리는 공표 처분은 17건에 그쳐 투명성이 부족하다"고 지적했다. 공공기관의 법 위반 사실을 감추는 것은 국민의 알 권리를 침해하는 것이라는 강 의원의 주장에 따라 이번 국정감사에서는 공공기관의 개인정보 관리 소홀에 대한 대책 마련과 투명성 강화 방안이 논의될 것으로 예상된다. 인공지능(AI) 기술의 발전에 따른 개인정보 보호 이슈도 국정감사에서 다뤄질 것으로 보인다. 개보위는 지난 7월 '인공지능(AI) 개발·서비스를 위한 공개된 개인정보 처리 안내서'를 발표한 바 있지만 업계에서는 기준의 모호성으로 인해 기술 개발에 어려움을 겪고 있다고 호소하고 있기 때문이다. 한 AI 업계 관계자는 "명확한 사용 기준이 없어 혼란이 가중되고 있다"며 "이는 AI 기술을 개발하는 스타트업들의 작은 규모와 적은 예산을 감안할 때 거대한 방해물이 되고 있다"고 토로했다. 이러한 업계의 지적에 대해 개보위는 '안내서'가 적법한 개념을 사용하고 있으며 기업들이 법적 침해 요소를 해소하고 데이터를 안전하게 활용하도록 지속적으로 지원하겠다고 해명한 바 있다. 이에 이번 국정감사에서는 AI 시대 개인정보 보호 정책과 업계와의 소통 강화 방안에 대해서도 논의될 것으로 예상된다. 지난해 국정감사에서 지적된 해외 기업의 개인정보 침해 문제에 대응해 개보위는 알리익스프레스, 테무 등 해외 직구 업체들의 개인정보 수집 및 처리 방식에 대한 조사를 진행 중이다. 국정감사에서는 이 조사의 진행 상황을 다시 한번 점검하고 해외 기업들의 개인정보 처리 방식에 대한 대응이 적절한지 확인하는 논의가 이루어질 것으로 보인다. 또 구글, 메타 등 글로벌 기업과 국내 기업 간의 개인정보 규제 차이에 대한 개보위의 대처에 대해서도 확인 차원의 질의가 이어질 것으로 예상된다. 이 문제는 국내 기업들의 형평성 문제와도 연결돼 있어 심도 있는 논의가 있을 것으로 전망된다. 이번 국정감사는 개보위가 해결해야 할 다양한 현안들에 대한 해법을 모색하는 자리가 될 것으로 관측된다. 개인정보 유출 대응, 디지털 성범죄 방지, AI 시대의 개인정보 보호 등 국민의 일상과 직결된 문제들이 논의될 예정인 만큼 개보위의 역할과 책임에 대한 평가가 더욱 중요해질 것으로 보인다. 한 AI 업계 관계자는 "AI로 빠르게 전환되는 시대인 만큼 데이터 역시 그 어느 때보다 중요하다"며 "이번 국정감사에서 AI 기업들이 성장할 수 있는 환경을 마련하면서도 국민의 데이터를 보호할 수 있는 균형 잡힌 논의가 이루어지길 기대한다"고 말했다.

2024.10.05 07:54조이환

"텔레그램, 불법정보 무관용 원칙 적용 약속"

텔레그램이 앞으로 딥페이크 등 기술을 악용한 불법정보에 대해서는 무관용 원칙을 적용하겠다고 방송통신심의위원회에 밝혔다. 방심위는 27일 오후 텔레그램 측과 첫 대면 실무 협의에서 텔레그램 측이 “딥페이크 성범죄 등이 사회적으로 문제가 되고 있는 한국의 상황을 깊이 이해한다”면서 이와 같은 입장을 밝혀왔다고 30일 설명했다. 텔레그램 측은 이 같은 원칙에 따라, ▲디지털성범죄 외에도 음란·성매매, 마약, 도박 등 불법정보에 대해서도 다각적으로 협력하기로 약속하며, ▲불법성 판단 등 내용심의에 전속적 권한을 가진 방통심의위 요청 시 이를 적극 수용하여 자사 플랫폼 내 불법 정보를 조치하겠다고 밝혔다. 텔레그램 측은 또한 실무적인 업무 협력을 위해, ▲한국 경찰청과 방송통신위원회와 전향적으로 협의해 나가겠다고 답했다. 텔레그램 측은 앞으로, ▲기존에 구축된 핫라인 외에 전담 직원과 상시 연락이 가능한 별도의 추가 핫라인을 개설하고, ▲실무자 협의를 정례화하기로 하는 등 방통심의위와 지속적인 업무 협력을 강화하기로 약속했다. 방심위는 28일까지 이어진 두 차례의 회의에서, ▲한국의 사용자들이 보다 안전하고 건전하게 텔레그램을 이용할 수 있도록 유관기관과도 적극적으로 협조해 줄 것을 텔레그램 측에 다시 한 번 요청했다. 방심위는 "텔레그램과의 실질적인 업무 협력을 이끌어낸 이번 1차 협력회의 결과를 매우 긍정적으로 평가한다"며 "이를 계기로 앞으로 텔레그램 내의 불법정보들이 더욱 신속하게 차단, 삭제 조치가 될 것으로 기대하고 텔레그램과의 협력채널을 더욱 강화해 나가겠다"고 밝혔다.

2024.09.30 13:47안희정

"디지털성범죄 늘고 있는데...올해 방심위 수사의뢰는 24건"

올해 딥페이크 성범죄영상물 등 디지털성범죄정보의 광범위한 확산으로 심각한 사회문제가 발생했지만 이를 심의하는 규제기관인 방송통신심의위원회의 경찰청 수사의뢰 요청 건수는 단 24건에 불과한 것으로 나타났다. 국회 과학기술정보방송통신위원회 소속 이훈기 의원(더불어민주당)이 방심위로부터 제출받은 최근 5년간 디지털성범죄정보 수사의뢰 요청 현황자료에 따르면, 2020년부터 올해 8월까지 방심위는 총 1천894건의 디지털성범죄 정보를 경찰청에 수사 의뢰했는데 올해는 단 24건만을 의뢰했다. 최근 5년간 방심위가 디지털성범죄정보 사업자 자율규제 요청(삭제)을 한 것은 총 5만3천930건으로, 매해 삭제 대상이 2배 가까이 증가한 것으로 나타났다. 특히 올해는 8월까지 9천971건으로 올해 디지털성범죄정보 삭제 대상 건수는 지난해 1만1천611건을 초과할 것으로 보인다. 이훈기 의원은 “디지털성범죄정보는 늘어가는 데 예외적인 수치의 2022년을 제외하면 수사 의뢰 건수는 오히려 줄거나 답보하고 있는 셈”이라며 “디지털성범죄정보의 확산 방지를 위한 신속한 삭제조치는 타당하지만, 디지털성범죄정보가 매해 배로 증가하는 것을 고려해 적극적인 대응이 필요하다”고 말했다. 한편, 방심위가 딥페이크 성범죄 영상물 등 디지털성범죄정보 24시간 홈페이지와 1377(전화)신고 전화 접수를 통한 상담이 올해 벌써 1천215건을 넘어선 것으로 나타났다. 하지만, 24시간 4조 2교대로 해당 업무를 하는 직원은 단 12명에 불과해 적극적 대응 인력이 부족한 상화이다. 이훈기 의원은 “방심위는 우리나라 디지털 성범죄 대응 1차 기관이지만, 정작 상담 인력도 확충하지 않고, 사업자 자율규제 요청 수준의 소극적 대응에 나서고 있는 것은 문제가 있다”며 “국정감사를 통해 방심위의 디지털성범죄 대응 정책개선 사항을 지적할 것”이라고 강조했다.

2024.09.29 17:34박수형

"딥페이크 통한 보험금 사기 청구 예방시스템 갖춰야"

딥페이크(인공지능을 이용한 인간 이미지 합성 기술)를 이용한 금융 사기 피해가 증가할 것으로 예측되는 가운데, 보험업도 보험금 사기 청구 예방 시스템을 갖춰야 한다는 제언이 나왔다. 28일 보험연구원은 '미국 딥페이크 관련 법안 동향과 보험회사의 대응' 보고서를 통해 미국을 시작으로 딥페이크 사기 및 명예훼손에 대한 법적 제재가 강화되고 있는 만큼, 딥페이크를 통한 새로운 사기 위협에 대한 보험산업이 대응이 요구된다고 진단했다. 보고서는 딜로이트 자료를 인용해 딥페이크 관련 금융 사기는 2023년 123억 달러에서 2027년 400억 달러로 연평균 32% 증가할 것이라고 보며, 최근 최고경영자(CEO) 음성이 딥페이크로 조작돼 큰 액수의 금전적 손실이 발생한 사례도 나오고 있다고 밝혔다. 보험사의 경우 보험 청구 디지털화로 인해 딥페이크를 이용한 보험사기에 노출될 가능성이 높다. 2025년까지 보험 청구의 70%가 비대면 자동처리로 이뤄진다고 연구원은 관측하고 있다. 일부 보험사에서는 허위 청구, 보험 사기 식별을 위한 인공지능(AI) 기반 딥페이크 탐지 기술을 도입하거나, 문서·영상·음성에서 비정상적인 패턴이나 합성된 흔적을 감지하는 시스템을 개발 중이다. 알리안츠는 머신러닝을 통해 허위 데이터를 감지하는 식별 시스템을 구축해 170만파운드(약 31억원)의 피해를 막았으며 취리히보험사는 룰 베이스와 AI 기반 ㅇ네진을 결합해 비정상 행동을 감지하는 보험사기 시스템을 가동하고 있다. 한편, 미국은 딥페이크 범죄 피해자를 위한 민사 구제책을 담은 법안을 8월 통과시켰으며 현재까지 40개 주 이상에서 딥페이크 관련 법안이 발의된 상태다. 40개 중 9개 주에서는 형사 처벌 규정을 두고 있다.

2024.09.28 08:00손희연

"텔레그램 성범죄 활개치는데...n번방 후속조치도 이행되지 않아"

최근 디지털성범죄피해자지원센터의 디지털성범죄피해와 관련해 지원을 받은 피해자 수는 총 8천983명, 피해 영상물 삭제 지원 건수도 총 27만5천520 건에 달하고 있으나 텔레그램에 대한 방송통신위원회의 개선방안은 제대로 이행되지 않고 있다는 지적이 제기됐다. 국회 과학기술정보방송통신위원회 소속 최수진 의원(국민의힘)은 방통위가 그동안 발표한 해외 메신저 플랫폼 조치 개선방안이 제대로 이뤄지지 않고 있다고 밝혔다. 텔레그램을 통한 딥페이크 디지털 성범죄 사건이 늘고 있는 가운데 지난 2022년 방통위가 국회에 제출한 n번방 사건 제도개선안이 이행되지 않았다는 것이다. 방통위는 21대 국회 과방위에 '해외사업자에 대한 디지털성범죄물 유통방지 강화 검토방안'을 제출하면서 ▲국내외 사전조치의무사업자 88 개사를 선정해 불법촬영물 등 기술적 관리적 조치에 대한 현장점검 실시 ▲법무부, 여가부, 검경 등 관계 기관과 매달 협의회를 열어 텔레그램에서의 성범죄 제작 유통에 대응 ▲해외에 본사를 둔 플랫폼 사업자에 대해 국내대리인 지정제도를 활성화 등을 제시했다. 특히 국내대리인 지정제도 활성화 방안과 관련해 제도의 실효성을 높이기 위해 정기 실태점검을 시행하겠다고 했으나 텔레그램에 이용자 등에 공개한 신고처리 메일로 세 차례 협조 공문을 보낸 게 전부였다는 지적이다. 최수진 의원은 “n번방 사건 발생 이후 텔레그램을 비롯한 해외사업자에 대한 대책 마련을 촉구하고 있지만 디지털 성범죄로부터 우리 국민을 신속하게 보호하지 못하고 있다”면서 “국정감사를 통해 방통위가 국내대리인 지정제도를 신속하게 활성화하고 디지털 성범죄 제작 및 유통에 적극적이고 엄중하게 대응해 줄 것을 촉구하겠다”고 말했다.

2024.09.26 19:03박수형

딥페이크 성 착취물, 소지만 해도 징역형 처벌 받는다

딥페이크 성 착취물을 소지하거나 시청만 해도 징역형에 처하는 성폭력범죄처벌특례법이 26일 국회 본회의를 통과했다. 국회는 이날 오후 본회의를 열고 이같은 내용의 성폭력처벌법 개정안을 재석의원 249명 중 찬성 241명, 반대 0명, 기권 8명으로 의결했다. 법안은 딥페이크 성 착취물 영상물의 소지, 구입, 저장, 시청할 경우 3년 이하의 징역 또는 3천만원 이하의 벌금에 처할 수 있도록 규정하고 있다. 또 유포 목적이 입증되지 않더라도 제작자를 처벌할 수 있게 했다. 앞서 전날 법제사법위원회는 딥페이크 성 착취물임을 '알면서'도 이같은 행위를 저지른 경우 처벌 대상으로 하는 법안을 의결했으나, 야권은 본회의에 앞서 '알면서'라는 단서를 삭제하고 법안을 제출해 의결했다. '알면서' 문구와 관련해 일각에서는 의도하지 않게 소유한 경우 처벌 받거나 수사 기관의 계속된 수사를 받을 수 있어 선량한 피해자가 생길 수 있다고 지적하기도 했다. 다만 '알면서' 단서가 포함되면 현행 법체계를 흔들 수 있다는 주장에 따라 본회의에서는 관련 문구를 삭제한 수정안이 의결됐다.

2024.09.26 18:50박수형

황정아 의원 "텔레그램도 딥페이크 성범죄물 책임져야"…법안 발의

황정아 더불어민주당 의원은 해외 플랫폼의 딥페이크 등 디지털성범죄 유통 관리 책임 (정보통신망법 개정안)과 허위영상물 성범죄 처벌(성폭력처벌법 개정안)을 강화하는 내용의 '딥페이크·디지털성범죄 방지법'을 대표발의했다고 23일 밝혔다. 현행 정보통신망법은 정보통신서비스 제공자에게 딥페이크를 포함한 디지털 성범죄 정보 등의 유통방지를 위한 삭제 및 접속차단 의무를 갖는 불법촬영물 등 유통방지 책임자를 지정하도록 하고 있다. 하지만 현행법에서 책임자 등을 지정해야 하는 정보통신서비스 제공자에는 우리나라에 부가통신사업을 신고하는 등의 요건을 갖춰야 해 '텔레그램' 등 해외플랫폼이 적용되기 어렵다는 비판이 지속돼 왔다. 이에 황정아 의원은 정보통신망법 개정안을 통해 이용자가 5만명 이상이거나 매출액 5억원 이상인 정보통신서비스 제공자의 불법촬영물 등 유통방지 책임자를 지정하도록 했다. 또한 딥페이크를 포함한 불법촬영물 등의 유통 가능성이 높은 실시간 대화 서비스 제공자의 경우에도 대통령령으로 정한 요건에 부합할 경우 유통방지 책임자 지정 의무를 부과했다. 이를 통해 규제의 사각지대로 지적돼 왔던 해외 플랫폼 사업자를 포함해 플랫폼의 규모와 관계없이 디지털성범죄 정보 유통 가능성이 높은 플랫폼은 딥페이크 등 불법촬영물 유통 방지 책임자를 지정할 의무를 갖도록 해 플랫폼 사업자의 책임을 강화하겠다는 취지이다. 또한 황정아 의원은 성폭력 처벌법 개정안을 통해 기존 '반포할 목적'이 입증돼야만 딥페이크 범죄를 처벌할 수 있었던 문제도 개선한다. '반포할 목적'이라는 조건을 삭제해 단순 제작 등도 처벌할 수 있도록 하겠다는 것이다. 이에 더해 딥페이크 등 허위 성범죄 영상물을 제작하거나 반포할 경우 기존 징역 5년, 벌금 5천만원에서 최대 7년 이하의 징역 또는 7천만원 이하의 벌금에 처할 수 있도록 형량을 강화했다. 허위 성범죄 영상물 소지·구입·저장 및 시청죄도 신설한다. 이에 따라 허위 성범죄 영상물을 소지·구입·저장 또는 시청한 자는 3년 이하의 징역 또는 3천만원 이하의 벌금에 처하게 된다. 황정아 의원은 "몇 번의 클릭으로 단 2초면 딥페이크 범죄를 저지를 수 있지만, 한 번 온라인 공간에 업로드된 디지털 성범죄 정보는 단시간에 수백 수천 개로 복제되고 확산되는 매우 악질적인 성범죄"라며 "딥페이크 범죄의 처벌 강화는 물론 해외플랫폼 등 플랫폼들에 대한 의무를 강화해 디지털 성범죄를 예방해야 한다"고 강조했다.

2024.09.23 16:24안희정

딥페이크 범죄 '급증'…글로벌 테크 기업 대응 나섰다

최근 딥페이크 성범죄와 허위 뉴스 영상 제작이 급격히 증가하면서 이를 탐지·대응하는 기술이 주목받고 있다. 국내외에서 딥페이크 범죄가 사회적 문제로 떠오르자 관련 기업들의 움직임에 대한 시장 기대감이 높아지고 있다. 19일 업계에 따르면 경찰은 올해 500건 넘는 딥페이크 사건을 수사 중이며 특히 10대들이 연루된 사례가 급증하고 있다. 국내외 가해자들은 텔레그램 등 익명성이 보장된 플랫폼을 통해 음란물을 유포하고 있으며 주로 여성인 피해자들이 심각한 피해를 입고 있다. 해외에서도 상황은 심각하다. 유로뉴스에 따르면 유럽에서 제작된 딥페이크 영상 96%가 여성과 청소년을 대상으로 한 음란물이다. 미국에서는 최근 스칼렛 요한슨과 테일러 스위프트 등 유명인들이 딥페이크 포르노의 피해자가 되기도 했다. 딥페이크 음란물뿐만 아니라 가짜뉴스로 인한 문제도 부각되고 있다. 정치인이나 공공 인물의 발언을 조작하거나 허위 정보를 담은 영상을 제작해 유포하는 사례가 증가하고 있기 때문이다. 지난 2022년 국내 지방 선거 당시 윤석열 대통령이 특정 후보를 지지하는 딥페이크 영상이 퍼져 큰 논란이 된 바 있다. 이와 관련해 딥페이크 선거 사용 방지법이 지난 1월 통과됐지만 해외에서는 딥페이크를 통한 가짜뉴스 남용이 여전히 큰 문제가 되고 있다. 이런 상황에서 딥페이크 탐지 기술에 대한 수요가 급증하고 있다. 글로벌 시장조사업체 마켓앤마켓에 따르면 글로벌 딥페이크 탐지 시장은 지난 2022년 5억 달러(한화 6천500억원)였지만 오는 2027년에는 18억 달러(한화 2조3천400억원) 규모로 성장할 것으로 예상된다. 이미 마이크로소프트는 지난 2020년 AI와 머신러닝을 결합한 '비디오 인증기(Video Authenticator)'를 공개한 바 있다. 이 도구는 사진이나 비디오를 분석해 미디어가 조작되었을 가능성을 백분율로 나타내는 신뢰도 점수를 제공한다. 특히 실시간으로 동영상을 프레임 단위로 분석해 각 프레임에서 조작 가능성을 보여준다. 미국뿐 아니라 유럽 스타트업들도 이에 가세했다. 그 중 에스토니아의 센티넬 AI는 클라우드 기반 솔루션을 통한 실시간 딥페이크 탐지를 제공하는 것으로 알려졌다. 이 회사는 얼굴 랜드마크 분석과 시간적 일관성 등을 활용해 딥페이크를 식별한다. 특히 최근 딥페이크 탐지 경연대회에서 135만 달러의 상금을 획득하며 기술력을 인정받았다. 요하네스 타메캔드 센티넬 AI 대표는 자사 제품을 소개하며 "우리는 잘못된 디지털 기술의 활용이 민주주의에 가장 큰 위협 중 하나라는 것을 잘 알고 있다"며 "사회가 잘못된 정보에 빠지는 것을 막기 위해 최선을 다할 것"이라고 밝혔다. 네덜란드의 센시티 AI도 실시간 딥페이크 탐지 플랫폼을 제공하고 있다. 이 회사는 얼굴 조작, 음성 합성, 전신 조작 등 다양한 유형의 딥페이크를 식별하며 인공지능(AI) 기반 분석으로 조작된 미디어의 출처를 추적한다. 조르지오 파트리니 센시티 AI 대표는 "딥페이크 기술의 발전 속도가 매우 빠르기 때문에 우리의 탐지 시스템도 지속적으로 진화해야 한다"며 "디지털 미디어 생태계의 신뢰성을 유지하는 것이 우리의 목표"라고 말했다. 이렇게 유럽에서 딥페이크 탐지 기술이 발전한 것은 민주주의와 인권이 딥페이크 위협에 직접적으로 노출되었기 때문이라고 전문가들은 지적한다. 개인정보 보호를 중요시하는 유럽의 규제 환경이 딥페이크 기술 오용에 대한 경각심을 높였다는 것이 이들의 분석이다. 국내에서도 다양한 테크 기업들이 딥페이크의 폐해를 예방하기 위해 노력을 기울이고 있다. 특히 라온시큐어는 올 하반기에 개인이 쉽게 딥페이크 여부를 체크할 수 있는 탐지 서비스를 자사의 개인용 모바일 백신 애플리케이션에 탑재할 계획이다. 라온시큐어의 딥페이크 탐지 기술은 합성된 얼굴과 정상 얼굴을 각각 학습해 이를 상호 비교 분류할 수 있도록 AI를 학습시킨다. 이미지부터 동영상, 안면 추출, 주파수 계열 변환 등 다양한 기술을 적용해 생성형 AI의 특징을 탐지한다. 이때 딥페이크 탐지 정확도를 높이기 위해 여러 모델을 동시에 사용한다. 특정 학습 유형에 맞춰 설계된 각각의 모델이 따로 존재하기 때문에 한 가지 모델에 의존했을 때 발생하는 탐지 정확도 저하를 방지할 수 있다. 이를 통해 얼굴의 부자연스러운 형태· 움직임·오디오 등을 종합적으로 분석해 더욱 정교한 탐지가 가능할 것으로 전망된다. 박현우 라온시큐어 AI연구센터장은 "딥페이크가 보편 기술이 돼 이를 악용한 범죄가 퍼지는 와중에 간편하게 딥페이크 여부를 탐지할 수 있는 기술도 보편화돼야 한다"며 "자사 보안 앱인 '라온 모바일 시큐리티'에 딥페이크 탐지 기능을 탑재하는 등 모든 개인들을 위한 잠재적 피해 예방에 매진하겠다"고 강조했다. 딥브레인AI도 '딥페이크 탐지 솔루션'을 개발해 주목받고 있다. '딥페이크 탐지 솔루션'은 사진의 경우 12분, 짧은 영상은 57분 내에 딥페이크 여부를 판별할 수 있다. 이미지와 비디오를 픽셀 단위로 분석하고 음성은 주파수, 시간, 노이즈 등 다양한 요소를 종합적으로 고려해 탐지하는 것으로 알려졌다. 이렇게 국내 기업들이 약진하는 가운데 딥페이크 방지 기술의 개발만으로 실제 범죄를 완전히 막기에는 한계가 있다는 지적도 나온다. AI 기술이 기하급수적으로 발전하고 있기 때문이다. 익명을 요청한 국내 AI 기업 관계자는 "딥페이크 기술은 계속해서 발전하고 있어 탐지 기술만으로는 완벽한 대응이 어렵다"며 "기술의 오용을 막기 위한 사회적 합의와 강력한 처벌 등이 병행돼야 한다"고 강조했다.

2024.09.19 17:40조이환

"딥페이크 행위 따라 차등 규제 필요...투명성 의무 확보 중요"

국회가 딥페이크 허위영상물에 대한 성범죄에 대응하기 위해 여러 법안을 쏟아내고 있는 가운데, 딥페이크를 활용한 행위에 대해 차등 규제가 필요하다는 전문가의 주장이 거듭 제기됐다. 딥페이크를 통한 행위들을 단 하나의 범주로 볼 수 없고, 이에 대한 규제 논의가 AI 전체에 대한 규제로 번져 일반화의 오류를 범할 수 있다는 우려에 따른 것이다. 최경진 가천대 교수는 19일 정청래 법제사법위원장이 주최한 국회 정책토론회에 발제를 맡아 “명확한 규제 범위가 필요하다”며 “AI애 대한 일반규제를 지양하고 행위에 대해 차등화된 형태로 규제를 도입해야 한다”고 말했다. 딥페이크가 본격적인 사회적 문제로 떠오른 시점은 국내에 앞서 지난 미국 대통령 선거 과정이다. 당시 트럼프, 바이든 양측 후보의 허위조작 영상물이 선거에 영향을 미칠 수 있다는 경각심을 일깨웠다. 그로부터 4년이 지나 국내에서 딥페이크를 활용한 지인의 성적 허위영상물을 비밀 메신저에 유통하고 있는 행위가 만연하단 것이 드러나며 수십여 건의 법안이 발의되고 범정부 차원의 대응 방안이 쏟아지는 사회적인 문제로 부상했다. 이처럼 민주주의의 꽃인 선거에 영향을 미치는 행위와 피해자의 인격을 완전히 파괴하는 신종 성범죄 행위가 모두 딥페이크가 남용된 사례로 꼽힌다. 아직 빈번하게 발생한 사례는 아니지만 딥페이크가 쓰인 피싱이 만연해지면 신종 사기범죄로 국민의 경제에 파괴적인 문제가 될 수도 있다. 예컨대 음성통화로 수사기관을 사칭하는 수준의 보이스피싱을 넘어 가족의 얼굴이 합성된 영상통화가 피해자를 겨냥한다면 현재 우리 사회가 겪는 문제가 극단적으로 확대될 가능성이 크다. 최 교수는 “딥페이크가 남용되는 영역은 다양하고, 각 영역마다 규제 필요성의 정도가 다를 수 있다”며 “일반적인 딥페이크 영상은 초상권이나 개인정보 침해 정도지만 가짜뉴스로 선거에 활용된다면 강력한 처벌이 필요할 것”이라고 말했다. 이어, “나아가 딥페이크 음란물로 인격을 파괴하는 수준까지 가고 있는데, 이에 대해서는 예방과 경고 차원에서 처벌 수위를 높일 필요가 있다고 생각한다”고 강조했다. 행위에 대한 규제 차등화와 함께 투명성 의무를 확보하는 게 중요한 과제로 꼽혔다. 최 교수는 “딥페이크 음란물을 추적하려면 이 영상이 딥페이크인지 확인할 수 있어야 하고, 이에 따른 기술적 장치를 해야 하는데 워터마킹이 방법이 될 수 있다”며 “또 다른 투명성 의무로 표시 의무가 있는데 AI로 생성된 콘텐츠에 자동적으로 표시가 이뤄지게 하는 것으로 서비스 약관 등 사업자 자율규제로 가능한 부분”이라고 설명했다. 이밖에 딥페이크 성범죄가 한국서 빈번하게 나타났지만, 세계적인 문제인 만큼 국제 공조와 협력적 규제체계가 필요하다는 의견도 강조됐다. 최 교수는 “규제 논의에 앞서 리터러시 확대가 매우 중요하다”며 “딥페이크 음란물을 장난으로 만드는 사람이 많은데 매우 심각한 문제라는 것을 스스로 알게 해야 하기 때문에 교육과 리터러시도 강화하는 방안으로 가는 것이 바람직하다”고 말했다.

2024.09.19 17:33박수형

팝스타 테일러 스위프트, 해리스 지지 선언

팝스타 테일러 스위프트가 미국 대통령 선거에서 카멀라 해리스 부통령 지지를 선언했다. 스위프트는 또 자신이 도널드 트럼프 전 대통령을 지지하는 것처럼 보이는 사진은 딥페이크로 제작된 것이라고 해명했다. 테크크런치 등 외신에 따르면, 스위프트는 11일(현지시간) 자신의 SNS에 "이번 대선에서 해리스와 팀 월즈 부통령 후보(민주당)에게 투표할 예정"이라며 "해리스는 권리와 대의를 위해 싸우고, 그러한 권리들을 옹호할 전사가 필요하기 때문"이라고 적었다. 테일러의 이번 지지 선언은 자신이 도널드 트럼프 전 대통령을 지지한다는 내용의 딥페이크 사진을 바로잡기 위한 것이다. 트럼프 전 대통령은 최근 자신의 트루스 소셜에 스위프트가 자신을 지지하는 것처럼 보이는 딥페이크 사진을 게재한 바 있다. 해당 사진에는 '엉클샘'(미국을 상징하는 캐릭터) 복장을 한 스위프트의 모습이 담겨 있고, '테일러는 여러분이 트럼프에게 투표하길 바란다'는 문구가 적혀 있었다. 스위프트는 "최근 내가 도널드 트럼프의 대선 출마를 지지한다는 내용의 딥페이크 사진이 트럼프 전 대통령의 SNS에 게재된 사실을 알게 됐다"며 "이 사실은 인공지능(AI)과 허위 정보 유포의 위험을 생각하게 만들었다"고 밝혔다. 이어 "유권자로서 이번 선거에 대한 생각을 투명하게 공개해야겠다는 결론에 도달했다"며 "잘못된 정보에 맞서는 가장 간단한 방법은 진실을 말하는 것"이라고 덧붙였다. 최근 미국은 대선을 앞두고 정치권의 딥페이크 악용으로 몸살을 앓고 있다. 지난 1월에는 뉴햄프셔 프라이머리(예비경선)를 하루 앞두고 민주당 당원들에게 조 바이든 대통령의 가짜 목소리를 담은 전화가 걸려오기도 했다. "예비선거에 투표하지 마라"고 당부하는 바이든 대통령의 목소리는 딥페이크로 제작된 것이었다. 미국 내에서는 딥페이크로 제작된 가짜뉴스가 대선 결과를 좌우할 수 있다는 우려가 확대되고 있다. 이에 따라 지난달 캘리포니아 주의회는 선거 관련 딥페이크 제작을 금지하고 소셜미디어 기업에 대해 선거 120일 전부터 딥페이크 선거 콘텐츠 규제하도록 의무화하는 법안을 처리했다. 다만 아직 연방법에서는 딥페이크 성착취물을 명시한 법적 조항이 없어, 딥페이크로 인한 혼란은 계속될 것으로 보인다.

2024.09.12 10:38조수민

방심위, 텔레그램 만난다

방송통신심의위원회는 텔레그램과 조만간 양자 실무협의를 가질 예정이라고 11일 밝혔다. 방심위는 3일 텔레그램과 구축한 핫라인 채널을 통해 5일부터 텔레그램 측에 본격 요청하기 시작한 딥페이크 등 디지털성범죄영상을 텔레그램 측이 100% 삭제하고 그 결과를 즉각 회신하고 있다고 설명했다. 텔레그램은 핫라인 개설 이틀 후인 지난 5일부터 지금까지 방심위가 요청한 딥페이크 성범죄 영상을 포함해, 75건의 디지털성범죄정보를 100% 삭제해왔다. 텔레그램은 또, 지난 3일 핫라인 개설 때 약속한 대로, 방심위 삭제 요청에 대한 결과를 즉시 회신하는 중이다. 방심위는 이같은 텔레그램과의 양방향 소통을 통해, 지속적으로 실무 논의를 해왔으며, 조만간 신속히 양자간 대면회의를 개최한다는 데 합의했다고 밝혔다. 해당 회의에서는 ▲현안인 딥페이크 영상 뿐 아니라, 보다 포괄적 공조 방안을 논의하고, ▲경찰 등 유관기관과 협의 가능성 등도 타진할 수 있을 것으로 기대된다. 방심위 측은 "양측간 초기 소통과정에서, 텔레그램 측이 방심위를 방송통신위원회로 혼동하는 등 다소 혼선도 있었다면서, 핫라인 구축 이래 지난 일주일여 간 지속적인 소통을 통해, 이같은 신속한 합의에 이를 수 있게 됐다"고 말했다.

2024.09.11 18:21안희정

딥페이크 허위영상물은 죄가 가볍나

딥페이크 성범죄의 처벌 규정과 법정형을 정비하고 양형기준을 규범적으로 조정하는 방안을 검토할 필요가 있다는 의견이 제기됐다. 사람의 신체를 직접 촬영한 영상물과 비교해 딥페이크 허위영상물은 법정형이 낮게 규정됐다는 이유다. 아울러 반포의 목적이 없는 편집, 합성, 가공은 처벌대상에서 제외됐고 소지하거나 수입, 저장, 시청하는 행위에 대한 처벌규정도 마련되지 않았다는 지적에 따른 것이다. 국회 입법조사처가 발간한 딥페이크 성범죄 수사처벌 개선방안 보고서에 따르면, 최근 텔레그램을 통해 음란합성물을 제작 유포하는 딥페이크 성범죄에 대한 논란에 대응체계를 개선해야 한다는 의견이 힘을 얻고 있다. 성폭렬처벌법에 따르면 피해자 동의없는 영상 촬영물을 성적 수치심을 유발할 수 잇는 형태로 반포한 경우 5년 이하 징역과 5천만원 이하의 벌금에 처하도록 하고 있다. 또 영리를 목적으로 정보통신망을 이용해 반포한 경우에는 7년 이하의 징역, 상습법의 경우에는 2분의 1 가중 처벌한다. 다만 딥페이크 영상물의 편집, 합성, 가공 행위는 사람의 신체를 직접 촬영하는 행위보다 법정형이 낮게 규정됐다. 영상물을 소지, 구입, 저장, 시청한 경우 사람 대상의 촬영물은 처벌규정이 있지만 딥페이크 영상물은 처벌규정이 없다. 아울러 딥페이크 영상물의 동의없는 편집, 합성, 가공은 반포 목적이 인정되어야만 처벌할 수 있다. 유포할 목적이 없다면 재미삼아 타인의 사진으로 수치심을 유발할 수 있도록 편집하거나 가공하는 행위는 처벌대상이 아니라는 뜻이다. 입법조사처는 이에 대해 “디지털 성범죄가 심각한 성폭력범죄로 인식될 수 있도록 엄격한 법적 기준 마련이 시급하다”면서 “고도화된 디지털 시대에 딥페이크를 이용한 허위영상물이 유포되는 경우 실제 자신을 촬영한 영상물 유포보다 피해자가 겪는 고통이 적다고 보기 어렵다”고 꼬집었다. 이어, “기술 발달로 함성물인지 식별하기 어려운 지경이며 한번 온라인사상에 오르면 유포와 재유포로 이어져 피해 회복이 쉽지 않다”고 강조했다. 그러면서 현행 형법과 정보통신망법에서 허위사실 적시 명예훼손에 대해 사실적시 명예훼손 또는 오프라인에서 명예훼손에 비해 가중 처벌하고 있다는 점을 참고할 내용으로 꼽았다.

2024.09.11 17:25박수형

올 상반기 딥페이크 범죄 726건…노드VPN, 개인정보 보호 강조

#. 최근 부산의 한 중학교에서 남학생들이 같은 학교 여학생과 교사들에 대한 딥페이크 불법 합성물 80장 이상 제작해 인터넷에 유포했다. 이같은 딥페이크 범죄 사례는 올해 들어 국내에서 빈번히 발생하고 있다. 여성가족부에 따르면 올해 상반기 동안 발생한 딥페이크 성범죄 피해 접수 건수는 총 726건으로, 이 중 53%가 해외로 유포된 것으로 알려졌다. AI 기술을 활용한 범죄가 늘고 있는 가운데 노드VPN이 개인 정보 보호와 사전 예방의 중요성을 강조했다. 11일 노드VPN에 따르면 딥페이크와 음성 복제 기술을 활용한 범죄는 국내 뿐 아니라 전 세계적에서 확산되고 있다. 특히 소셜 미디어에 노출된 개인 정보가 범죄에 활용되고 있어 주의가 요구된다. 딥페이크 기술은 AI를 활용해 실제처럼 조작된 영상과 이미지를 생성한다. 이 기술이 금융 사기나 성착취물 제작에 이용되는 사례가 점점 증가하고 있다. 범죄자들은 유명인뿐만 아니라 일반인의 얼굴과 목소리를 복제해 사기 행위를 벌이는 중이다. 음성 복제 기술 역시 가족이나 친구를 사칭하는 사기 수법으로 악용되고 있다. 범죄자들은 AI를 통해 피해자의 목소리를 복제한 뒤 금융 정보를 요구하는 방식으로 피해를 유도한다. 이러한 AI 범죄는 기술 발전에 따라 점점 정교해지고 있으며 일반인들이 진위를 구분하기 어렵다는 점에서 문제가 심각하다. 특히 피해자들이 자신도 모르게 범죄에 휘말리는 경우가 많아 주의가 필요하다. 노드VPN은 딥페이크 범죄를 예방하기 위해 의심스러운 전화는 즉시 끊고 출처가 불분명한 링크는 클릭하지 않을 것을 권장했다. 또 검증되지 않은 앱은 다운로드하지 말 것을 권고했다. 이외에도 소셜 미디어에 공개된 개인 정보를 신중하게 관리할 것을 당부했다. 아드리아누스 바르멘호벤 노드VPN 사이버 보안 고문은 "기술이 빠르게 발전하면서 사후 대응보다 예방이 중요해졌다"며 "개인 정보 보호에 대한 경각심을 가져야 피해를 줄일 수 있다"고 강조했다.

2024.09.11 11:11조이환

유튜브, AI가 만든 딥페이크 목소리·얼굴 잡는다

우리나라뿐만 아니라 전 세계적으로 딥페이크 기술을 활용한 악성 콘텐츠 제작과 유포가 사회적 문제로 떠오르고 있는 가운데, 유튜브가 크리에이터와 파트너들을 보호하기 위해 이를 막는 기술을 선보인다. 최근 유튜브는 자사 블로그를 통해 AI로 합성된 목소리나 유명인의 얼굴 등 딥페이크 기술이 악용되는 사례를 막는 도구를 개발했다고 알렸다. 먼저 유튜브는 합성된 노래를 식별할 수 있는 기술을 개발했다. 이를 통해 유튜브 파트너들은 유튜브 상에서 자신의 노래 목소리를 모방하는 AI 생성 콘텐츠를 자동으로 감지하고 관리할 수 있다. 회사는 현재 파트너들과 이 기술을 개선 중이며, 내년 초에는 파일럿 프로그램을 선보일 수 있을 전망이다. 또 크리에이터나 배우, 음악가, 운동선수까지 다양한 분양의 유명인들이 유튜브에서 자신의 얼굴을 딥페이크 한 AI 생성 콘텐츠를 감지하고 관리할 수 있는 기술을 개발 중이다. 회사는 "이 기술은 최근 회사가 선보인 개인정보보호 업데이트와 함께 AI가 유튜브에서 사람을 묘사하는 데 사용되는 방식을 관리하는 강력한 도구가 될 것으로 보인다"고 평가했다. 아울러 유튜브는 허용되지 않은 접근을 탐지하고 방지하는 시스템에 투자를 지속하면서, 무단으로 스크래핑 등 콘텐츠를 활용하는 이들의 접근을 차단하는 조치를 이어나가겠다고도 했다. 유튜브는 "크리에이터에게 제3자가 유튜브 플랫폼에서 자신의 콘텐츠를 사용하는 방법에 대한 선택권을 제공하는 새로운 방법을 개발하고 있다"며 "연말에 더 많은 내용을 공유할 예정"이라고 말했다.

2024.09.08 13:30안희정

유튜브, 딥페이크 콘텐츠 탐지 기술 개발

유튜브가 영상과 음성을 AI로 제작하는 딥페이크 논란에 맞서기 위해 이를 탐지하는 기술을 개발하고 있다는 소식이다. 우선 음성 딥페이크 방지 기술은 내년 초에 내놓겠다는 계획이다. 이를 통해 크리에이터와 아티스트를 보호하면서 책임감 있는 AI를 구현한다는 목표다. 7일(현지시간) 폰아레나에 따르면, 유튜브의 암자드 하니프 크리에이터프로덕트 담당 부사장은 합성된 노래를 식별할 수 있는 기술 개발을 마쳤고 유튜브에서 자신의 노래를 모방하는 AI 생성 콘텐츠를 감지할 수 있다고 밝혔다. 이같은 기술은 파일럿 형태로 내년 초에 선보인다는 계획이다. 가짜 음성 인식과 함께 얼굴 모습을 베낀 AI 영상을 탐지하는 기술 개발을 진행하고 있다. 크리에이터들의 콘텐츠 저작권 보호를 위해 시작된 생성 AI 콘텐츠 탐지 기술이 최근 국내서 벌어지고 있는 딥페이크 디지털성범죄 피해 방지에 쓰일 수 있게 된 것으로 풀이된다. 암자드 하니프 부사장은 “AI가 진화하면서 인간의 창의성을 대체할 것이 아니라 향상시켜야 한다고 믿는다”며 “책임감 있는 혁신이 번성하는 환경을 조성하는 데 집중하겠다”고 밝혔다.

2024.09.08 08:17박수형

여당, 딥페이크 디지털성범죄 대응 특위 구성...위원장에 안철수 의원

국민의힘이 딥페이크에 대응하기 위한 별도 조직을 꾸렸다. 국민의힘은 6일 원내대책회의에서 정책위원회 산하에 '딥페이크 디지털 성범죄 대응 특별위원회'를 구성했다고 밝혔다. 특위는 국회 여성가족위원회, 행정안전위원회, 과학기술방송통신위원회 소속 의원들이 주로 참여했다. 위원장은 4선 안철수 의원이 맡았다. 이인선 여가위원장을 수석부위원장으로 부위원장은 김승수, 유상범, 조은희, 최형두 의원이 참여한다. 또 위원으로 김장겸, 박충권, 서지영, 이달희, 최수진 의원과 이수정 경기대 교수가 참여할 예정이다. 추경호 원내대표는 원내대책회의에서 “국민의힘은 심각한 사회적 문제인 디지털 성범죄에 적극 대처하고자 딥페이크 디지털 성범죄 대응 특별위원회를 구성하겠다”며 “특위 구성은 경기 성남 분당갑의 4선 의원인 안철수 의원을 위원장으로 하고 관련 국회 상임위 위원과 전문가 등을 포함해 총 12명으로 구성하고자 한다”고 말했다.

2024.09.06 11:24박수형

"텔레그램 채널 딥페이크 유통, 현행법 규제 적용 검토"

딥페이크 논란을 두고 방송통신위원회가 텔레그램에서 유통되는 디지털성범죄물을 현행법으로 삭제 차단하는 방안을 검토한다. 신영규 방통위 방송통신이용자정책국장은 5일 국회서 열린 딥페이크 관련 정책토론회에 패널로 참석해 “텔래그램의 채널 서비스는 카카오톡 오픈채팅과 비슷한 서비스로 사실상 불특정 다수에 (디지털성범죄물을) 유통한 것으로 볼 여지가 있어 전기통신사업법으로 규제할 수 있는지 검토하고 있다”고 밝혔다. 현행 전기통신사업법 22조5항에 따르면 정보통신망을 통해 일반에 공개돼 유통되는 정보에서 불법촬영물 등은 방통위가 해당 플랫폼 사업자에 삭제를 명령할 수 있다. 그간 텔레그램은 사적 대화방으로 여겨지며 법 적용에서 배제되곤 했는데, 딥페이크 논란과 관련해서는 그간의 대화 방식이 아니라 '채널' 형태로 전기통신사업법의 규제 요건에 해당된다고 볼 수 있다는 뜻이다. 신영규 국장은 “(텔레그램에 대해) 규제집행력을 확보하는 것이 문제인데 방송통신심위원회와 연락이 닿아 사과도 받았고 삭제 조치도 이뤄졌다”며 “소통 창구가 확보됐으니 향후 어떻게 규제할 것인지 계기를 마련하게 됐다”고 설명했다. 그는 또 “딥페이크 제작물의 유통도 문제지만 피해자의 신상정보가 함께 유통되고 있는데 2차, 3차 피해를 차단하기 위해 방통위설치법을 개정해 방심위가 신속심의에 나설 수 있도록 하는 방안을 검토하고 있다”고 밝혔다. 이어, “생성형 AI에 대한 저작물에 워터마크를 표시하는 방안도 있고, 서비스를 이용하는 문제도 있지만 기술을 제공하는 사업자 입장에서 이 부분에 대해 인공지능의 위험을 관리할 필요성도 크다”며 “AI의 위험성과 부작용으로부터 이용자를 보호하기 위해 AI이용자보호법을 준비하고 있다”고 강조했다. 부가통신사업자의 불법촬영물등 유통방지를 위한 기술‧관리적 조치 이행점검을 방통위 예산으로 진행하고 있는데 관련 예산을 증액해 디지털성범죄 모니터링으로 방심위에 신고하고 사업자에 삭제 요청으로 차단하는 방안도 주요 방법으로 꼽혔다. 신 국장은 “방통위 차원에서 할 수 있는 일과 별도로 정부 전체 차원에서 범정부 대응이 총리실을 중심으로 TF가 운영되고 있는데, 여기서 종합적인 대책방안이 만들어지면 신속한 조치를 취하겠다”고 말했다. 한편 이날 국회 과학기술정보방송통신위원회는 딥페이크 논란과 관련해 성범죄영상물을 근절해야 한다는데 여야가 뜻을 모아 긴급 정책 토론회를 열었다.

2024.09.05 18:19박수형

Prev 1 2 3 4 5 Next