검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'딥페이크'통합검색 결과 입니다. (98건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

해킹·랜섬웨어 '활개'…새해 공격관리·신원인증 산업 뜬다

밀키트는 손질된 식재료와 양념을 알맞게 담은 간편식입니다. 누구나 밀키트만 있으면 별도 과정 없이 편리하게 맛있는 식사를 할 수 있습니다. [김미정의 SW키트]도 마찬가지입니다. 누구나 매일 쏟아지는 소프트웨어(SW) 기사를 [김미정의 SW키트]로 한눈에 볼 수 있습니다. SW 분야에서 가장 주목받는 인공지능(AI)과 보안 이야기를 이해하기 쉽고 맛있게 보도하겠습니다. [편집자주] 생성형 인공지능(AI) 등 신기술을 악용한 해킹, 랜섬웨어 급증으로 국내 기업과 기관이 큰 피해를 본 가운데 이에 대응하기 위한 기술 산업·정책이 활성화될 전망이다. 특히 기업 데이터를 보호하는 신원인증과 사이버 공격을 모니터링하는 공격표면관리(ASM) 산업 전망이 밝다는 평가가 이어지고 있다. 정책적으로는 망분리 완화 후 클라우드 보안을 위한 제로트러스트 가이드라인 중요성이 높아지고 소프트웨어자재명세서(SBOM) 의무화 추진도 본격화할 것으로 예측된다. AI 등 신기술 늘었지만…예측 불가 공격 이어져 지난해 생성형 AI 등 신기술 성장으로 인해 비즈니스 활성화가 이뤄졌지만 그만큼 새로운 사이버 공격도 증가한 것으로 나타났다. AI 악용 기술과 랜섬웨어, 딥페이크 확산으로 정보 유출 등 피해 사례가 늘어서다. 또 기업의 IT 복잡성 증가로 예측 불가형 보안 이슈가 발생하기도 했다. 이에 빅테크는 사이버 보안 강화에 나섰다. 마이크로소프트는 지난 7월 크라우드스트라이크 업데이트 오류로 인한 IT 대란 사태를 겪은 후 클라우드 보안 강화를 본격화했다. 지난해 처음 자사 핵심성과지표(KPI)에 보안을 최우선 과제로 설정했다. 구글은 사이버 공격 예방을 위해 보안 스타트업 인트리그를 인수했다. 지난해 국내 정부는 개인정보 보호 대책 마련에 힘썼다. 우선 개인정보보호위원회는 메타와 구글, 카카오 등 빅테크와의 개인정보 관련 소송을 위해 법률 전문가를 몰색하고 있다. 이르면 올 초 빅테크 소송을 전담하는 팀을 꾸릴 예정이다. "신원인증 산업 커질 것"…클라우드 ID 성장도 업계에서는 국내 정부와 기업이 개인정보 보호 강화에 나서면서 이를 위한 신원인증 산업이 성장할 것으로 봤다. 실제 미국을 비롯한 유럽연합(EU)이 개인정보 보호 강화 제도에 시동을 걸면서 신원인증 산업이 성장하고 있다. 앞서 지난 5월 유럽연합(EU)에서 발의한 전자신원 및 신뢰서비스에 관한 법률에 따르면 2026년까지 모든 EU 회원국은 시민에게 디지털 신원 지갑을 제공해야 한다. 2030년까지 EU 시민 전원이 디지털 신원을 갖는 것을 목표로 한 법안이다. 한 보안업계 관계자는 "미국과 EU의 디지털 신원인증 활성화 움직임은 곧 국내에 영향 미칠 것"이라며 "국내 정부·기업도 이에 맞는 신원인증 기술이나 제도 필요성을 느낄 것"이라고 내다봤다. 국내 기업의 서비스형 소프트웨어(SaaS) 제품 수요가 늘면서 클라우드 내 정보보호를 위한 클라우드 ID 산업도 활성화할 것이란 예측도 나왔다. 국내 기업이 SaaS를 활발히 사용하면서 클라우드 ID 채택률도 증가할 것이란 전망이다. 전 세계적으로 GDPR 등 정보보호법이 활성화하면서 기업은 데이터 접근 기록 관리와 보안 조치 강화를 위해 클라우드 ID 기술에 투자를 늘릴 것이란 설명이다. 이를 통해 기업은 데이터를 클라우드 내 안전히 보관하고 데이터 규제까지 준수할 수 있다. 올해 망분리 완화…"제로트러스트·SBOM 중요도 커져" 올해 망분리 완화 정책이 본격화하면서 클라우드·SW 시스템 보안 강화를 위해 제로트러스트 가이드라인 중요성과 SBOM 의무화 목소리가 커질 전망이다. 망분리 완화로 인한 클라우드 내 데이터 유출이나 해킹에 취약할 가능성이 높아질 수 있다는 분위기 때문이다. 이에 발맞춰 정부는 제로트러스트 모델을 한층 구체화한 '제로트러스트 가이드라인 2.0'을 이달 발표했다. 새 가이드라인에는 기업이 제로트러스트 모델을 솔루션에 도입할 때 적용하는 단계를 하나 더 넣었다. '성숙도 모델'을 추가해 기존 3단계에서 4단계로 구체화했다. 또 관련 세부역량 52가지를 새로 제시해 모델에 구체화를 더했다. 망분리 완화 후 클라우드에 들어가는 SW 복잡성이 증가하면서 이를 투명하게 확인할 수 있는 정책 마련 필요성도 제기될 전망이다. 미국처럼 국내 정부도 SBOM 의무화에 속도를 낼 가능성이 높다는 평가다. 정부는 지난해 5월 SBOM 가이드라인을 발표했지만 이를 의무화하지 않은 상태다. 순천향대 염흥열 명예교수는 지난 11월 서울 강남 섬유센터에서 열린 한 보안 컨퍼런스에서 "미국과 유럽 등 선진국들은 이미 SBOM을 통해 SW 구성 요소 취약점을 신속히 식별해 전체적인 사이버 보안을 강화하고 있다"며 "이에 발맞춰 국내 정부도 SBOM 의무화를 적극 추진해야 한다"고 강조했다. "해킹 어디서든 발생"…공격표면관리(ASM) 산업 활성화 해외 보안 업계처럼 국내서도 사이버 공격을 기존보다 넓은 범위에서 예측할 수 있는 ASM 산업이 확장할 전망이다. 최근 기업에서 클라우드뿐 아니라 원격 근무, 생성형 AI 도입 등으로 인해 공격 가능한 보안 취약점이 빠르게 늘고 복잡해졌기 때문이다. ASM은 해커가 침투할 가능성이 있는 모든 IT 경로를 미리 파악하고, 이를 체계적으로 관리해 사이버 위협을 줄일 수 있는 보안 전략·도구다. 공격 발생 후 대응하는 것에 주력하는 기존 보안 시스템과 다른 방식이다. 앞서 해외는 이미 ASM을 통해 시스템 위험 식별 구축을 진행하고 있다. 빅테크 중심으로 ASM 생태계가 확장하는 추세다. 구글은 자회사 맨디언트를 통해 ASM 스타트업 인트리그를 인수한 바 있다. 마이크로소프트도 사이버보안 포트폴리오 강화를 위해 리스크아이뷰 인수했다. 팔로알토 네트웍스도 최근 ASM 시장 진입을 위해 익스펜스네트웍스를 인수했다. 현재 한국 보안 업계에서 ASM은 극초기 단계라는 평가가 이어지고 있다. 관련 솔루션을 운영하는 기업도 AI스페라가 유일하다. 업계 관계자는 "최근 국내 기업 시스템이 인식하지 못할 수 있는 인터넷 연결 자산과 시스템에서 오는 위험 식별 필요성이 높아졌다"며 "미국 보안 추세에 맞춰 ASM 산업을 눈여겨볼 만하다"고 밝혔다.

2025.01.02 11:09김미정

"디지털 범죄 대응 새 지평"…라바웨이브, 피해자 위한 '솔루션 데모' 공개

라바웨이브가 피해자의 심리적 안정을 위해 디지털 성범죄 대응 솔루션 작동 원리를 체험할 수 있는 기술 서비스를 공개했다. 라바웨이브는 자사의 핵심 기술을 누구나 체험할 수 있는 '솔루션 데모' 서비스를 공식 홈페이지를 통해 오픈했다고 27일 밝혔다. 이 서비스는 몸캠피싱 및 딥페이크 등 디지털 성범죄 대응 솔루션의 신뢰성을 강화하기 위해 개발됐다. 기존 디지털 성범죄 대응 방식은 솔루션의 작동 원리를 구두로 설명하는 데 그쳤다. 이로 인해 피해자는 긴급 상황에서도 충분히 기술을 신뢰하지 못한 채 솔루션을 의뢰해야 하는 어려움이 있었다. 새롭게 공개된 '솔루션 데모'는 데이터인젝션, 더미데이터, 하이퍼 디텍트 등 라바웨이브의 3가지 핵심 기술로 구성돼 있다. 이 기술들은 데이터 보호 및 불법 콘텐츠 유포 방지를 위한 독자적인 특허를 바탕으로 개발됐다. 특히 하이퍼 디텍트는 AI 기반 모니터링 기술을 활용해 불법 콘텐츠를 신속히 탐지할 수 있다. 이는 몸캠피싱이나 딥페이크 같은 디지털 성범죄에 대한 피해자의 불안을 해소하고 초기 대응력을 강화하는 데 효과적이다. '솔루션 데모'는 다양한 연령대의 피해자를 고려해 사용자 친화적으로 설계됐다. 특히 미성년자와 중·노년층 피해자가 쉽게 이해할 수 있도록 단계별 안내와 간단한 메시지 구조를 제공한다. 이미 라바웨이브는 지방경찰청과의 공조 수사 및 카이스트와의 기술 협력으로 디지털 범죄 예방을 위한 연구를 지속하고 있다. 지난 11월에는 국회 기획재정위원장 표창을 수상하며 기술력을 인정받았다. 라바웨이브 관계자는 "피해자가 직접 솔루션을 체험할 수 있게 함으로써 심리적 안정과 신뢰를 제공할 수 있다"며 "디지털 범죄 근절이라는 목표를 이루기 위해 지속적으로 기술을 발전시키겠다"고 밝혔다.

2024.12.27 09:46조이환

국민 10명 중 4명 "딥페이크 가짜뉴스 판별 어렵다”

과학기술정보통신부가 딥페이크 가짜뉴스 대응을 주제로 대국민 설문조사를 진행한 결과 응답자의 41.9%가 “판별하기 어렵다”고 답했다. 9일 과기정통부에 따르면 지난 10월10일부터 약 한달간 597명이 참여한 대국민 설문조사에서 응답다의 94.5%가 가짜뉴스는 개인과 사회에 미치는 영향이 심각하다고 응답했다. 매우 심각하다고 응답한 이들이 55.9%, 심각하다고 응답한 이들이 38.5%다. 특히 딥페이크를 활용한 가짜뉴스가 일반적인 가짜뉴스보다 부정적 영향이 더 심각하다고 답한 응답자는 84.9%에 달했다. 딥페이크 가짜뉴스를 접해본 응답자는 39%였으며, 딥페이크 가짜뉴스의 악영향으로 가장 우려되는 점은 인격적 피해가 48.2%로 가장 높았다. 응답자 41.9%는 딥페이크 가짜뉴스를 판별할 수 없다고 밝혔으며, 이들은 딥페이크 확산 원인으로 법제도 미비(36.5%)를 지적했다. 피해 예방을 위한 효과적 방법으로 강력한 입법과 정책(57.6%), 정부의 정책으로 '범죄자에 대한 처벌강화(36.9%)'를 요구하는 목소리가 많았다. 송상훈 정보통신정책실장은 “딥페이크 가짜뉴스가 개인과 사회에 미치는 부정적 파급효과가 크고, 기술 발전에 따라 사실과 구별하기 어려워지고 있다는 것에 국민들이 공감하고 있다”며 “신속히 법제도를 정비할 수 있도록 방송통신위원회와 적극 협력하겠다”라고 말했다.

2024.12.09 12:00박수형

[현장] AI 악용한 사이버 공격 급증… SK쉴더스, 선제적 방어 전략 제시

"인공지능(AI) 기술의 발전으로 보안 위협도 고도화되고 있습니다. 그럼에도 불구하고 이는 선제적인 대응 전략으로 충분히 극복할 수 있습니다." 이재우 SK쉴더스 전무는 3일 서울 코엑스에서 열린 '2024 SK쉴더스 사이버 시큐리티 미디어 데이'에서 이같이 말했다. 이번 행사는 올해의 보안 트렌드를 돌아보고 내년도 주요 위협과 대응 방안을 공유하기 위해 마련됐다. SK쉴더스는 올해 가장 두드러진 보안 트렌드로 AI를 활용한 공격의 증가를 꼽았다. 딥페이크·보이스 기술이 악용돼 온라인 범죄와 허위 정보 유포가 확산됐기 때문이다. 실제로 200여 개의 학교와 공공기관이 피해를 입었다. 또 랜섬웨어의 협박 전략이 다면적으로 진화해 데이터 암호화뿐만 아니라 유출과 디도스 공격까지 병행하는 사례가 늘었다. 이호석 이큐스트 랩(EQST Lab) 팀장은 "올해 보안 사고를 보면 AI 기술이 공격의 핵심 도구로 사용되고 있다"며 "이러한 변화에 대비해야 한다"고 강조했다. SK쉴더스는 AI 보안 위협의 확대를 내년도의 가장 큰 위험 요소로 지목했다. 딥페이크와 딥보이스뿐만 아니라 거대 언어 모델(LLM)을 악용한 데이터 조작과 노출 시도가 증가할 것이라는 분석이다. 또 망분리 규제 완화로 인해 클라우드 환경에서의 권한 관리 시스템(IAM)에 대한 공격이 늘어나며 하이브리드 클라우드 환경에서의 보안 취약점이 커질 것으로 전망했다. 협력사를 노린 공급망 공격도 주요 위협으로 지적됐다. 보안 수준이 낮은 협력사를 경유한 공격이 증가하면서 원청사까지 연쇄적인 피해를 입는 사례가 많아지고 있다. 이와 함께 암호화폐 가치 상승에 따라 거래소와 개인 지갑을 대상으로 한 해킹 시도도 더욱 활발해질 것으로 보인다. SK쉴더스는 이러한 위협에 대응하기 위해 여러 선제적인 예비 방안을 제시했다. 특히 AI 특화 모의해킹 서비스를 통해 딥페이크 및 LLM 기반 공격을 사전에 시뮬레이션하고 취약점을 점검할 계획이다. 또 모니터링, 탐지 및 대응(MDR) 서비스를 통해 랜섬웨어와 같은 고도화된 공격을 실시간으로 탐지하고 초동 대응을 제공할 예정이다. 제로 트러스트 모델의 도입으로 검증된 사용자만 시스템에 접근할 수 있도록 해 IAM 권한 탈취와 클라우드 환경 위협에 대비한다는 전략이다. 이재우 전무는 "AI는 공격뿐만 아니라 방어에도 강력한 도구"라며 "핵심은 이를 어떻게 활용해 더 안전한 보안 환경을 만드는가에 달려 있다"고 밝혔다.

2024.12.03 12:14조이환

딥페이크 가짜뉴스 콜로키움 열려

과학기술정보통신부는 20일 온드림소사이어티 커뮤니티 스페이스에서 '이미지 합성 기술(딥페이크) 바로보다'라는 주제로 제3회 디지털 심화쟁점 콜로키움을 개최했다. 이 자리에서 이독실 과학평론가가 딥페이크 기술에 대한 이해와 올바른 활용방안을 위주로 '딥페이크는 우리 삶을 어떻게 바꿀 것인가'에 대해 강연했다. 이어서 표창원 범죄과학연구소장은 범죄 심리학적 관점에서 딥페이크 범죄의 문제 원인과 대응 방안을 제시한 '딥페이크 가짜뉴스의 범죄심리와 대책'을 강연했다. 정부는 그간 딥페이크 범죄 대응을 위해 민관 협력 대응 체계를 구축하고, 지난 5월 국무회의에서 보고된 범부처 '새로운 디지털 질서 정립 추진계획'에 포함된 핵심 정책과제 중 하나로 이미지 딥페이크 가짜뉴스 근절을 위해 부처 간 협업을 이어왔다. 과기정통부는 관계부처와 협력해 지난 6~7월 인공지능 안전, 신뢰, 윤리 확보를 시작으로 디지털 접근성 제고, 딥페이크를 활용한 가짜뉴스 대응, 비대면 진료의 안정적 시행 순으로 한 주제씩 집중해 공론화를 추진하고 있다. 엄열 정보통신정책관은 “올해는 전 세계 인구 절반이 투표하는 '슈퍼 선거의 해'인 만큼 딥페이크 가짜뉴스가 심각한 사회문제로 대두괬으며, 이번 콜로키움에서는 딥페이크 가짜뉴스에 대한 국민들의 이해를 돕고 디지털 역기능 대응 방안에 대한 의견을 수렴하기 위해 마련한 행사”라며 “국민들의 의견을 반영해 안전한 디지털 사회를 만들어 나가겠다”라고 밝혔다.

2024.11.20 14:00박수형

'매크로' 공격에 국내 대학 보안 '취약'…"딥페이크·보이스피싱 위험 ↑"

국내 대학들이 매크로 공격 위험에 상시적으로 노출돼 있는 것으로 확인됐다. 수강신청 기간 중 인기 과목을 선점하려는 용도뿐 아니라 비수강신청 기간에도 사용자 계정과 개인정보 탈취를 노린 것으로 보이는 매크로 공격이 일상적으로 이뤄지는 것으로 나타났다. 20일 에스티씨랩이 매크로 탐지 솔루션 '엠버스터(Mbuster)'를 통해 올해 1학기 11개 대학교, 2학기 9개 대학교의 수강신청 중 서버 접속 현황을 분석한 결과 전체 트래픽의 절반 가까운 44.29%가 매크로인 것으로 조사됐다. 특히 매크로 탐지 비율 상위 5개 대학의 경우 전체 트래픽의 94.95%가 매크로 접속인 것으로 밝혀졌다. 수강신청 기간 외에도 매크로 공격이 끊이지 않는다는 사실도 확인됐다. 서울 시내 A 대학의 경우 에스티씨랩이 지난달 말부터 이달 초까지 학교 홈페이지 포털 사이트에 엠버스터를 적용해 매크로 현황을 점검한 결과 전체 접속 46만5천 건 중 24.86%인 11만6천 건이 매크로 접속이었다. 매크로가 수강신청 등 특정 이벤트 기간에만 문제가 되는 것이 아니라 상시적인 위협으로 존재한다는 것을 의미한다. 매크로 봇은 무작위적인 크롤링이나 데이터 스크래핑에 사용되며 특히 사용자 계정 탈취 및 신원 도용으로 딥페이크, 보이스 피싱 등 각종 범죄에 악용될 수 있다. 실제로 지난 8월 서울시교육청에서는 559명의 개인정보가 크롤링을 통해 유출됐다. 올해는 이미 여러 대학에서 수십만 명의 개인정보 유출 사건이 발생했다. 박형준 에스티씨랩 대표는 "매크로 악용은 공정성을 해칠 뿐만 아니라 딥페이크와 같은 다양한 범죄 및 금융사고로 이어질 수 있다"며 "뿐만 아니라 인프라 리소스를 잠식해 서비스 운영 효율을 저해하고 불필요한 비용을 증가시킨다"고 강조했다. 이어 "매크로를 이용한 정보 유출이 심각한 범죄로 악용되는 것을 막기 위해서는 교육부 등의 기관에서 매크로 실태 점검과 신속한 대응 방안을 마련하는 것이 시급하다"며 "학생들이 범죄에 노출되지 않도록 매크로라는 근본적인 위협을 차단해야 한다"고 덧붙였다.

2024.11.20 09:48장유미

법무법인 대륜, 딥페이크 성범죄 대응 '사이버범죄팀' 출범

법무법인 대륜의 형사그룹이 사이버성범죄에 대응하기 위해 사이버범죄팀을 출범했다고 19일 밝혔다. 사이버범죄팀은 소속 디지털포렌식센터와 협력해 딥페이크 영상 관련 증거 수집을 적극 조력할 계획이다. 딥페이크 성범죄 대응 체계 강화를 위해 관련 경험이 풍부한 전문 변호사들이 대거 투입됐다. 서울북부지방검찰청 부장검사 출신의 김인원 형사그룹장을 비롯해 서울고검 부장검사와 경찰간부 출신 박성동 변호사, 광주고검 부장검사 출신 안승진 변호사, 인천지검 검사출신 박지영 변호사 등 평균 20년 이상 법조 경력을 가진 전문변호사들이 진두지휘한다. 형사, 성범죄사건에 특화된 신용훈 변호사, 조성근 변호사도 함께한다. 김 그룹장은 부장검사 시절 성범죄 관련 사건을 다수 맡았으며 강간, 준강간, 강제추행, 성착취물 소지 등 사건에서 높은 승소율을 기록하고 있는 성범죄전문변호사다. 박 변호사는 서울경찰청 수사부, 정보외사부를 거친 경찰 출신으로 경찰과 검찰의 수사 절차를 모두 경험한 변호사다. 안 변호사 역시 성폭력, 마약 등 강력사건에 특화됐으며 검찰총장 표창까지 받은 능력자다. 딥페이크와 같은 사이버성범죄는 성폭력범죄의 처벌 등에 관한 특례법에 의거해 5년 이하의 징역 또는 5천만 원 이하의 벌금형에 처해질 수 있는 중범죄다. 특히 영리를 목적으로 제작·반포했을 시 가중처벌되며 취업제한, 신상정보 공개 등 보안처분도 함께 부과될 수 있다. 사이버성범죄 사건은 증거 수집이 관건이다. 폐쇄적인 유통경로로 인해 추적이 불가능한 경우가 많기 때문이다. 이에 대륜 사이버범죄팀은 관련 증거수집에 전문 인력을 투입한다. 수집된 데이터 중 수사기관에 제출할 수 있는 데이터를 선별하고, 민감정보를 삭제·변환하는 등 전반적인 조력을 제공할 예정이다. 또 기존 모의조사, 법정 시스템 역시 적극 활용한다. 경찰수사 단계부터 공판까지 모든 절차에 밀착 변호를 제공한다는 방침이다. 김 그룹장은 “대륜의 전문변호사가 의뢰인에게 조사·재판 절차에 대한 전반적인 조언을 드리고 있다”며 “시뮬레이션을 통해 실제 상황에서 당황하지 않고 자신의 의견을 피력할 수 있도록 돕는다”고 말했다.

2024.11.19 15:20박수형

정부 "딥페이크 합동 대응…위장-비공개 수사로 성범죄자 뿌리 뽑을 것"

정부가 딥페이크 활용 성범죄를 막기 위해 대안 마련에 나섰다. 국민의힘 딥페이크 성범죄 대응 특위는 정부기관들끼리 모여 아동·청소년 성착취물 제작 및 유포자에 대한 원칙적으로 구속 수사를 시행하는 등 엄정한 대책을 세웠다고 6일 밝혔다. 정부는 딥페이크 성범죄 대응을 위해 범정부 TF를 구성하고 관련 법안의 국회 통과와 행정 조치를 추진해 왔다. 주요 조치에는 허위 영상물 제작·유포 형량 상향, 소지·시청 처벌 신설, 디지털 성범죄 피해자 지원 센터 법적 근거 마련 등이 포함됐다. 특히 이번 대응 방안은 크게 처벌 강화, 플랫폼 관리, 피해자 보호, 예방 교육이라는 네 가지 분야로 구분된다. 처벌 강화에는 위장 수사 확대 및 국제 공조 강화가 포함되며 플랫폼 관리 부문에서는 사업자의 책임을 강화하고 해외 사업자와의 협력 체계를 마련했다. 또 피해자 보호 강화를 위해 삭제 지원 서비스를 확대하고 디지털 성범죄 피해자 지원 센터를 통해 원스톱 서비스를 제공한다. 피해 예방과 탐지를 위한 R&D도 병행할 예정이며 교육 프로그램은 각 대상에 맞춘 맞춤형으로 구성된다. 김종문 국무1차장은 "이번 대책이 실질적으로 적용되기 위해 딥페이크 성범죄 대응 TF가 지속적으로 운영될 것"이라며 "법안 통과, 예산 확보 등 후속 조치가 면밀히 점검될 예정"이라고 밝혔다.

2024.11.06 15:00조이환

"딥페이크 식별 위해 AI 생성물 표시 의무 해야"

딥페이크와 실제 사실을 구분하지 못해서 발생하는 위험으로부터 이용자를 보호하고 사회적 혼란을 줄이기 위해서 인공지능(AI)으로 생성되거나 조작된 정보는 별도로 표시하도록 의무화하는 방안이 필요하다는 제언이 나왔다. 딥페이크는 인공지능(AI)으로 만든 가상의 정보이지만 실제 사실처럼 정교해서 사람들이 가짜임을 구분하기가 어렵다. 현실감 넘치는 콘텐츠 제작에 유용하게 사용되기도 하지만, 타인 사칭 범죄나 합성음란물에 악용되어 사회적 혼란과 개인의 피해를 초래하기도 한다. 국회입법조사처의 '이슈와 논점' 보고서에 따르면 AI로 만든 정보임을 표시하여 사람들이 딥페이크를 쉽게 식별하고 위험을 예방하게 할 필요가 있다. 분야별 딥페이크 규제와 AI 관점의 일반 규제가 서로 맞물리는 '이중 안전장치'를 갖춰야 한다는 지적이다. 현재 유럽연합은 '인공지능법'을 시행하고 있다. 이 법은 AI 시스템 제공자와 배포자에게 AI 생성물임을 표시하는 의무를 부과해 사람들이 딥페이크를 쉽게 식별하는 기반을 만들었다. 다만 범죄 수사나 순수한 예술·표현 등에 사용되는 딥페이크에 대해서는 공개 의무가 적용되지 않는다. 또 초대형 온라인 플랫폼 사업자가 실존 인물, 물체, 장소 등과 상당히 유사하고 진실인 것처럼 보이도록 생성 또는 조작된 콘텐츠를 온라인에 게시하려면 그것이 조작된 것임을 눈에 잘 띄게 표시하는 의무를 부과한다. 미국에는 연방 차원의 AI 규제법은 없다. 대신 정부공공기관에 AI 관련 의무를 부과하기 위해 2023년 12월 바이든 대통령의 행정명령이 시행 중이다. 미국은 딥페이크를 합성콘텐츠로 규정하고 정부에 합성콘텐츠의 진위와 출처를 확인하는 방안을 마련하도록 했다. 이에 따라 정부는 상무부장관이 중심이 돼 콘텐츠 진위 여부를 확인하고 출처를 추적하는 방법, 합성콘텐츠임을 표시하는 방법, 합성콘텐츠를 탐지하는 방법 등 AI로 생성한 정보를 식별하는 기술을 개발해야 한다. 연방의회에는 AI 생성물임을 표시하도록 의무화하는 법률안이 다수 발의되어 있다. 딥페이크 제작자를 공개하고 딥페이크 탐지 기술을 적용하도록 규정한 '딥페이크 책임법안', AI 개발자와 이용자 등에게 AI로 만든 콘텐츠임을 표시하는 의무를 부과하는 '인공지능 표시법안', 생성형 AI 서비스 제공자에게 가상 정보를 생성한 애플리케이션의 이름, 콘텐츠를 생성하거나 수정한 날짜와 시간 등의 메타데이터를 제공하도록 의무화한 '기만적인 AI로부터의 소비자 보호법안' 등이다. 국내도 AI법안을 논의중이다. 제22대 국회에는 1건의 인공지능법안이 발의돼 있고, 이 중에서 5건 법안이 생성형 AI로 만든 콘텐츠는 해당 사실을 표시하도록 규정한다. 생성형 AI를 이용하여 제품 또는 서비스를 제공하려는 자는 해당 제품 또는 서비스의 결과물이 생성형 AI에 의하여 생성됐다는 사실을 표시해야 한다. 또 '정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정법률안'에도 AI 생성물임을 표시하는 법률안이 존재한다. 국회입법조사처는 현재 시행 중인 유럽연합 '인공지능법'과 미국 '인공지능 행정명령', 국내에 발의된 다수의 인공지능법안 내용을 기반으로 AI로 만든 정보임을 표시하도록 하는 입법 방안을 모색해야 한다고 밝혔다. 먼저 표시 의무 적용 범위는 'AI로 생성한 콘텐츠'로 설정해 명확성을 높이고, 대신 피해 가능성이 낮은 분야는 예외로 설정하는 것이 적절하다고 제안했다. '실제와 구분하기 어려운' 등의 요건을 추가할 경우 판단 과정에 주관성이 개입되어 법률 집행의 혼란이 발생할 우려가 있다. 또한 AI 모델을 개발, 판매하는 자에게는 기계 판독 가능한 메타정보 제공과 같은 식별가능성 확보 의무를 부과하고, AI 모델을 자신의 제품・서비스에 활용하는 자에게는 AI로 생성된 정보임을 표시하는 의무를 부과하여 딥페이크의 대량생산에 대응해야 한다. 이용자가 직접 오픈소스 등으로 AI를 만들어 생성한 콘텐츠는 타인에게 공개・제공될 때 표시하도록 규정할 수 있다. 이에 딥페이크 콘텐츠를 유통하는 온라인 플랫폼은 적법한 표시 의무를 이행하지 않은 콘텐츠에 대한 처리 방침을 명확히 공개하고, 부적절한 표시가 되었다고 신고된 콘텐츠에 대해서는 삭제 또는 임시조치하도록 할 필요가 있다는 설명이다. 마지막으로 제도 정착을 위한 정부의 지원도 필요하다. 정부는 AI 생성물 표시 제도의 정착을 위해 관련 기술의 개발, 긴밀한 국제협력, 국민의 디지털 리터러시 함양을 지원해야 한다. 보고서는 "AI 발전 속도를 고려한다면 앞으로 딥페이크는 더욱 증가하고 정교해질 것이다. 지금처럼 피해자의 신고에 의존하거나 규제기관의 모니터링으로 차단하는 방식은 한계에 직면할 수 밖에 없다"며 "딥페이크가 만들어지고 유통되는 단계에서 적절하게 표시될 수 있도록 의무화하는 것이 필요하다"고 밝혔다.

2024.10.18 15:10최지연

[기고] AI 진흥과 규제의 경계

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. 익히 아는 것처럼 노벨상은 알프레드 노벨의 기일인 오는 12월 10일에 시상식이 개최된다. 시상식 날로부터 두 달 전인 10월의 첫 번째 월요일부터 하루에 한 분야씩 수상자가 공식 발표된다. 올해는 토론토 대학의 제프리 힌튼 교수와 프린스터 대하의 존 홉필드 교수가 노벨 물리학상 수상자로 발표됐고 알파고로 유명한 데이비드 허사비스 구글 딥마인드 대표가 노벨 화학상의 수상자 중 하나로 발표됐다. 수상자를 발표하는 스웨덴 한림원도 수상 과정을 설명하면서 인공지능(AI) 기술이 인류에 얼마나 공헌해 왔는지를 설명했다. 이제는 AI 기술이 IT 기술의 영역이 아니라 인류의 일상 생활에 깊이 들어왔다는 점을 다시 한번 느끼게 된다. AI 기술에 대한 국가적 관심은 우리나라도 다름이 없다. 최근 대통령을 위원장으로 하는 국가AI위원회를 출범시키면서 글로벌 3대 AI 강국의 반열에 들겠다는 목표로 '국가총력전'을 선포했다. 다소 구시대적이고 식상한 느낌이 들기도 하지만 AI 산업 분야에 정부가 관심을 가지고 연구 개발과 산업화가 잘 이루어질 수 있도록 지원한다는 것이니 굳이 색안경을 끼고 부정적으로만 볼 것은 아니다. AI 기술이 향후 우리가 주목해야할 먹거리라는 점에 대해서는 큰 틀에서는 긍정적인 논의의 줄기가 잡히는 것 같다. 그럼에도 세부적으로 들어가면 쉽지 않은 이슈들이 산적해 있다. 당장 AI 기술이 가짜 뉴스, 딥페이크 기반 허위 영상물 등의 제작과 배포를 손쉽게 해 사회적으로 허용하기 어려운 수준의 범법 행위들이 널리 이루어질 수 있다는 점이 문제가 되고 있다. 과거 인터넷 기술이 그러했던 것처럼 AI 기술은 말 그대로 도구이자 기술일 뿐이라는 점에 대해서는 누구나 공감한다. 그럼에도 그로 인해 발생할 수 있는 피해를 예방하기 위해서 '직접' 규제를 하게 되면 결국에는 기술 자체에 부정적인 전후방 효과가 발생할 수밖에 없다. 전폭적인 지원 정책으로도 그 수준을 올리기 어려운 치열한 글로벌 기술 경쟁 상황에서 브레이크로 작동할 가능성이 높다는 우려도 제기되고 있다. 최근 국회는 아동 청소년 딥페이크 처벌 강화법이라는 내용으로 디지털 성범죄에 대한 처벌 강화를 위한 소위 아청법과 성폭법 개정안을 의결했다. '아동, 청소년의 성보호에 관한 법률'은 성착취물을 이용한 아동, 청소년 대상 협박 강요 범죄의 처벌 규정을 신설해 처벌을 강화했다. 또 딥페이크 등 디지털 성범죄의 긴급 신분 비공개 수사를 허용해 피해자의 긴급한 구조가 가능하도록 하는 내용을 담았다. '성폭력방지 및 피해자 보호 등에 관한 법률'은 그 자체로는 딥페이크 기술을 이용한 불법 촬영물에 관한 새로운 내용이 포함된 것은 아니다. 그럼에도 불구하고 법안의 개정은 관련 업무를 국가의 책무로 명시하고 디지털 성범죄 피해자 지원 센터 운영의 근거 규정을 신설해 피해자 보호 등의 사업을 할 수 있도록 했다. 이러한 내용들은 충분히 국가가 AI 기술 확산으로 인한 부작용을 방지하기 위해 미리 준비해야 할 영역임에는 틀림이 없다. 개정안에는 딥페이크 기술을 활용한 불법 촬영물은 소지하는 것만으로 형사처벌을 하겠다는 내용이 포함돼 있는데 최근 해당 기술을 활용한 사례들이 사회적으로 문제가 되고 있는 점을 고려해 보면 충분히 이해 가능한 부분이기도 하다. 그럼에도 불구하고 기술의 부작용을 미리 염려해 실시된 각종 규제들이 기술 발전에 예상치 못한 방해물로 작용해 왔다는 사실은 이미 오랜 기간 동안 선례로 쌓여 왔다. 인터넷 부작용을 우려해 콘텐츠에 대한 제재를 엄격하게 했다면 현재처럼 우리나라가 인터넷 강국의 지위에 오를 수 있었을런지 의문이다. 게시글의 악영향을 차단하기 위해 실명제를 도입한 이후 국내 콘텐츠 사업자들이 크게 영향을 받을 수밖에 없었던 사건은 그리 오래되지도 않았다. 최근 유럽연합(EU)은 유럽 인공지능법(EU AI법) 제정을 통해 AI에 대한 포괄적인 규제를 시도하고 있다. 그럼에도 이 법이 EU 내 AI 기술 발전에 어떠한 영향을 미칠 것인지 여전히 설왕설래가 오가고 있다. 최근 미국 캘리포니아에 제안된 AI 안전법안(Safe and Secure Innovation for Frontier Artificial Intelligence Models Act) 역시 마찬가지다. 이 법안이 AI 모델의 규모만 고려할 뿐 그 활용 맥락은 고려하지 않고 일률적인 규제를 하는 것이 적절한지에 대하여 논란이 있기 때문이다. 바로 이 점을 들면서 주지사가 법안에 대한 거부권을 행사했다는 점 역시 AI 기술에 대한 포괄적인 규제가 가져올 부정적인 영향을 무시하기 어려운 사정이 있기 때문이라는 평가들이 존재한다. 이와 반대로 연구 개발과 발전이 진행 중인 과학기술 분야에서 일정한 기준 또는 규제가 존재해서 예측가능성을 부여하고 안정적인 개발과 운영이 이루어진 사례들도 매우 많다. 다소 이른 수준의 규제라고 모두 관료제의 병폐인 적기 조례(Red flag act)가 되는 것은 아니다. 그럼에도 그 규제가 이른 것인지 아니면 이미 늦었는지 사전적으로는 매우 판단하기 어렵다. 또 해외 사례가 반드시 정답인 것도 아니다. 결국 입장이 다른 이해관계자들이 머리를 맞대고 각자의 선의를 모아 최선의 결론을 내릴 수밖에 없다. 비록 아무 것도 하지 않는다는 것이 그 결론일지라도 말이다. 의사 결정 과정에서 정부의 적극적인 의지와 입장 표명이 중요한 점은 두말할 나위도 없다. 큰 눈으로 이슈를 바라보고 저 멀리까지 바라볼 수 있는 넓은 시야가 요구되는 시점이다.

2024.10.11 15:30법무법인 태평양 강태욱

"살해 협박까지?"…美 볼티모어 고교 교장, '딥페이크' 음성에 당했다

미국 메릴랜드주 볼티모어 지역의 한 고등학교 교장이 인공지능(AI)으로 조작된 음성으로 인해 살해 협박까지 받는 일이 발생했다. 흑인·유대인을 비하하는 내용이 담겨 있었기 때문이다. 7일 BBC 등 외신에 따르면 에릭 아이스워트 볼티모어 파이크스빌 고등학교 교장은 지난 1월 인종차별 발언이 담긴 AI 조작 음성 파일로 인해 심각한 명예 훼손을 당했다. 아이스워트 교장은 조작된 음성파일로 인해 재직 학교를 옮겨야 했으며 소셜네트워크서비스(SNS) 상에서도 수십 개의 혐오·살해 위협 메시지를 받은 것으로 확인됐다. 외신들은 볼티모어 주민들이 조작된 음성을 진짜라고 믿었던 이유로 실제 사람들이 겪을 만한 사례를 중심으로 음성이 만들어졌기 때문이라고 분석했다. 또 영상이 오디오로만 이뤄져 AI로 조작된 영상이란 걸 눈치챌 수 있는 시각적 단서가 없었고 교장의 목소리로 교내 행정 용어와 학교 직원들을 언급하며 사실과 구분하기 힘든 파일이 만들어졌다고 보도했다. 그러나 볼티모어 거주 흑인인 알피 말론은 "교장이 흑인 학생들을 게으르다고 묘사하는 걸 듣자마자 학교와 직장에서 접했던 모욕과 차별이 생각났다"며 "흑인으로서 겪었던 인종차별 경험이 생각나 불쾌한 감정이 앞섰다"고 밝혔다. 당시 음성에는 지역 사회 흑인 아이들과 유대인들에 대한 비난이 섞여 있던 것으로 확인됐다. 볼티모어는 미국 내에서도 빈민층 흑인과 히스패닉이 많이 살고 총기 사건 등 강력범죄 발생 비율이 매우 높은 지역으로 꼽힌다. 로버트 맥컬러브 볼티모어 경찰서장은 지난 4월 녹음이 가짜라는 결정적인 증거를 확보하고 교장을 음해·스토킹한 혐의로 고등학교 운동부장인 다존 다리엔 교사를 기소했다. 다리엔은 딥페이크 음성으로 교장의 신뢰를 떨어트려 해고하려는 목적으로 해당 음성을 조작한 것으로 밝혀졌다. 볼티모어 경찰은 다리엔이 학교에서 약 1천916달러를 훔쳐 교장으로부터 조사를 받고 있던 사실도 찾아 절도 혐의를 추가했다. 볼티모어 교사 노조는 조작된 음성 파일로 인해 교장이 끝내 학교를 떠나야 했다는 점을 두고 안타까움을 드러냈다. 볼티모어 경찰 측은 "원본 음성을 보내는 데 사용된 이메일이 다리엔에게 연결된 것을 확인해 이를 바탕으로 추적했다"며 "그가 볼티모어 카운티 공립학교의 컴퓨터 네트워크를 사용해 AI 도구에 접근했고 올해 12월 재판을 받을 예정"이라고 말했다.

2024.10.07 15:22양정민

"딥페이크 멈춰"…딥브레인AI, 美서 혁신적 AI 솔루션 공개

딥브레인AI가 실리콘밸리에서 인공지능(AI) 기반 솔루션을 선보였다. 딥브레인AI는 지난달 25일부터 이틀간 미국 캘리포니아주 샌프란시스코에서 LG전자 북미이노베이션센터(LG NOVA)가 개최한 '이노베이션 페스티벌'에 참가했다고 7일 밝혔다. 이 행사는 글로벌 혁신 스타트업을 발굴하고 협력하기 위해 스타트업 관계자·투자자·기업가가 한자리에 모이는 교류의 장이다. 올해 행사의 주제는 '혁신의 등불을 밝히다'로, AI·클린테크·헬스케어 스타트업을 발굴하는 데 초점이 맞춰졌다. 딥브레인AI는 마련된 부스에서 ▲딥페이크 탐지 솔루션 ▲AI스튜디오스 ▲커스텀 아바타 ▲대화형 AI 아바타를 전시했다. 행사 기간 열린 스타트업 피칭 대회에서는 부스에서 전시한 네 가지 솔루션을 발표하기도 했다. 딥브레인AI의 딥페이크 탐지 솔루션은 원본과 변조된 픽셀 차이로 딥페이크 여부를 판별해내며 공공기관을 대상으로 상용화에 성공한 바 있다. 또 AI 휴먼 기술력과 데이터셋을 바탕으로 기술의 악용을 막기 위한 딥페이크 검출 기술 연구에 심혈을 기울이고 있다. 'AI 스튜디오스'는 '텍스트 투 비디오(Text-to-Video)' 기술을 기반으로 하는 가상인간 영상 편집 플랫폼이다. 키워드만 입력하면 주제에 맞는 영상을 생성하며 웹사이트 링크·기사·보고서 등 다양한 문서도 영상으로 제작할 수 있다. 30초 촬영만으로 즉시 아바타가 생성되는 커스텀 아바타 기술도 선보여 관람객 사이에서 큰 인기를 끌었다. '대화형 AI 아바타'는 고객의 목소리를 귀담아듣고 올바른 답변을 제공하는 서비스다. AI 챗봇과 연계해 사전 학습되지 않은 질문에 대해서도 막힘없는 대화를 이어갈 수 있다. 금융 상담, 교육, 키오스크 등 다양한 서비스를 시간에 구애받지 않고 이용 가능하다는 장점도 있다. 장세영 딥브레인AI 대표는 "각계각층의 사람들과 혁신적인 아이디어를 공유하는 이노베이션 페스티벌에 참가해 제품을 소개할 수 있어 뜻깊은 시간이었다"며 "앞으로도 AI 기술로 글로벌 시장에서 선한 영향력을 펼치기 위해 노력할 것"이라고 강조했다.

2024.10.07 10:28조이환

다가오는 개보위 국정감사…주요 안건은

디지털 시대의 개인정보 보호가 그 어느 때보다 중요해진 가운데 개인정보보호위원회(개보위)가 해결해야 할 주요 문제들이 다각도로 점검될 예정이다. 5일 업계에 따르면 국회는 오는 8일 정부세종청사에서 개보위에 대한 국정감사를 진행한다. 이번 국정감사는 국민권익위원회(권익위)에 대한 감사와 동시에 이뤄지며 개인정보 보호와 관련된 다양한 현안들이 집중적으로 논의될 것으로 예상된다. 개보위는 지난 2020년 출범한 중앙행정기관으로, 개인정보 보호법을 통해 개인정보 침해를 예방하고 침해 발생 시 조사·제재하는 역할을 맡고 있다. 국정감사는 국회가 정부의 국정 전반을 감사해 잘못된 부분을 적발·시정하고 입법 활동에 도움을 주기 위해 매년 실시된다. 올해는 오는 7일부터 25일까지 개보위를 포함한 주요 부처를 대상으로 진행될 예정이다. 개보위 측은 아직 국회로부터 구체적인 질의 사항을 전달받지 못한 상태다. 통상적으로 국정감사 질의 내용은 전날 늦은 밤이나 당일 아침에 공유되는 경우가 많아 준비에 어려움을 겪고 있는 것으로 알려졌다. 개보위 관계자는 "국정감사에서 어떤 의원이 어떤 질문을 할지 아직 알 수 없어 대비하는 데 어려움이 있다"면서도 "최선을 다해 준비하고 있다"고 밝혔다. 이번 국정감사가 권익위와 동시에 진행됨에 따라 권익위 중심으로 전개될 가능성이 있다는 관측도 있다. 그럼에도 불구하고 최근 딥페이크 기술을 악용한 디지털 성범죄와 개인정보 유출 증가 등 개인정보 보호에 대한 국민적 관심이 높은 만큼 개보위에 대한 논의도 활발할 것으로 전망된다. 국정감사에서는 딥페이크 성범죄에 대한 개보위의 대응이 우선적으로 다뤄질 것으로 예상된다. 지난 5년간 디지털 성범죄 피해 발생 건수가 5.5배 증가했으며 특히 편집·합성된 이미지와 영상이 범죄에 이용되는 경우가 크게 늘었기 때문이다. 이수정 경기대 범죄심리학과 교수는 최근 "딥페이크 성범죄는 피해자에게 심각한 정신적 고통을 주는 범죄"라며 "엄격한 처벌과 예방적 조치가 시급하다"고 지적했다. 이에 개보위는 딥페이크 관련 문제에 대응하기 위해 디지털 성범죄 방지와 아동·청소년의 '디지털 잊힐 권리' 실현 등을 추진하고 있다. 특히 피해자의 동의 없이 온라인에 유포된 개인정보나 이미지 등을 삭제해주는 지원을 제공하고 있는 것으로 알려졌다. 그럼에도 불구하고 개보위의 딥페이크 방지 노력은 차질을 빚고 있다. 김용만 더불어민주당 의원실에 따르면 올해 10억원이었던 '디지털 잊힐권리 실현' 사업 예산이 내년에는 6억5천만원으로 삭감됐기 때문이다. 아동 대상 딥페이크 성착취 문제가 심각한 와중에 관련 예산이 35% 삭감됨에 따라 국정감사에서도 예산 삭감의 이유와 대책에 대한 질의가 있을 것으로 예상된다. 공공기관의 개인정보 유출 사례 급증과 이에 대한 투명성 부족도 주요 이슈로 떠오를 전망이다. 최근 들어 공무원 조직을 통해 개인정보가 유출됨에도 불구하고 국민이 이에 대해 인지하고 있지 못하기 때문이다. 실제로 강명구 국민의힘 의원은 지난 3일 "지난해 공공기관의 개인정보보호법 위반 건수가 전년 대비 2.7배 증가한 87건을 기록했다"며 "그럼에도 국민에게 위반 사실을 알리는 공표 처분은 17건에 그쳐 투명성이 부족하다"고 지적했다. 공공기관의 법 위반 사실을 감추는 것은 국민의 알 권리를 침해하는 것이라는 강 의원의 주장에 따라 이번 국정감사에서는 공공기관의 개인정보 관리 소홀에 대한 대책 마련과 투명성 강화 방안이 논의될 것으로 예상된다. 인공지능(AI) 기술의 발전에 따른 개인정보 보호 이슈도 국정감사에서 다뤄질 것으로 보인다. 개보위는 지난 7월 '인공지능(AI) 개발·서비스를 위한 공개된 개인정보 처리 안내서'를 발표한 바 있지만 업계에서는 기준의 모호성으로 인해 기술 개발에 어려움을 겪고 있다고 호소하고 있기 때문이다. 한 AI 업계 관계자는 "명확한 사용 기준이 없어 혼란이 가중되고 있다"며 "이는 AI 기술을 개발하는 스타트업들의 작은 규모와 적은 예산을 감안할 때 거대한 방해물이 되고 있다"고 토로했다. 이러한 업계의 지적에 대해 개보위는 '안내서'가 적법한 개념을 사용하고 있으며 기업들이 법적 침해 요소를 해소하고 데이터를 안전하게 활용하도록 지속적으로 지원하겠다고 해명한 바 있다. 이에 이번 국정감사에서는 AI 시대 개인정보 보호 정책과 업계와의 소통 강화 방안에 대해서도 논의될 것으로 예상된다. 지난해 국정감사에서 지적된 해외 기업의 개인정보 침해 문제에 대응해 개보위는 알리익스프레스, 테무 등 해외 직구 업체들의 개인정보 수집 및 처리 방식에 대한 조사를 진행 중이다. 국정감사에서는 이 조사의 진행 상황을 다시 한번 점검하고 해외 기업들의 개인정보 처리 방식에 대한 대응이 적절한지 확인하는 논의가 이루어질 것으로 보인다. 또 구글, 메타 등 글로벌 기업과 국내 기업 간의 개인정보 규제 차이에 대한 개보위의 대처에 대해서도 확인 차원의 질의가 이어질 것으로 예상된다. 이 문제는 국내 기업들의 형평성 문제와도 연결돼 있어 심도 있는 논의가 있을 것으로 전망된다. 이번 국정감사는 개보위가 해결해야 할 다양한 현안들에 대한 해법을 모색하는 자리가 될 것으로 관측된다. 개인정보 유출 대응, 디지털 성범죄 방지, AI 시대의 개인정보 보호 등 국민의 일상과 직결된 문제들이 논의될 예정인 만큼 개보위의 역할과 책임에 대한 평가가 더욱 중요해질 것으로 보인다. 한 AI 업계 관계자는 "AI로 빠르게 전환되는 시대인 만큼 데이터 역시 그 어느 때보다 중요하다"며 "이번 국정감사에서 AI 기업들이 성장할 수 있는 환경을 마련하면서도 국민의 데이터를 보호할 수 있는 균형 잡힌 논의가 이루어지길 기대한다"고 말했다.

2024.10.05 07:54조이환

"텔레그램, 불법정보 무관용 원칙 적용 약속"

텔레그램이 앞으로 딥페이크 등 기술을 악용한 불법정보에 대해서는 무관용 원칙을 적용하겠다고 방송통신심의위원회에 밝혔다. 방심위는 27일 오후 텔레그램 측과 첫 대면 실무 협의에서 텔레그램 측이 “딥페이크 성범죄 등이 사회적으로 문제가 되고 있는 한국의 상황을 깊이 이해한다”면서 이와 같은 입장을 밝혀왔다고 30일 설명했다. 텔레그램 측은 이 같은 원칙에 따라, ▲디지털성범죄 외에도 음란·성매매, 마약, 도박 등 불법정보에 대해서도 다각적으로 협력하기로 약속하며, ▲불법성 판단 등 내용심의에 전속적 권한을 가진 방통심의위 요청 시 이를 적극 수용하여 자사 플랫폼 내 불법 정보를 조치하겠다고 밝혔다. 텔레그램 측은 또한 실무적인 업무 협력을 위해, ▲한국 경찰청과 방송통신위원회와 전향적으로 협의해 나가겠다고 답했다. 텔레그램 측은 앞으로, ▲기존에 구축된 핫라인 외에 전담 직원과 상시 연락이 가능한 별도의 추가 핫라인을 개설하고, ▲실무자 협의를 정례화하기로 하는 등 방통심의위와 지속적인 업무 협력을 강화하기로 약속했다. 방심위는 28일까지 이어진 두 차례의 회의에서, ▲한국의 사용자들이 보다 안전하고 건전하게 텔레그램을 이용할 수 있도록 유관기관과도 적극적으로 협조해 줄 것을 텔레그램 측에 다시 한 번 요청했다. 방심위는 "텔레그램과의 실질적인 업무 협력을 이끌어낸 이번 1차 협력회의 결과를 매우 긍정적으로 평가한다"며 "이를 계기로 앞으로 텔레그램 내의 불법정보들이 더욱 신속하게 차단, 삭제 조치가 될 것으로 기대하고 텔레그램과의 협력채널을 더욱 강화해 나가겠다"고 밝혔다.

2024.09.30 13:47안희정

"디지털성범죄 늘고 있는데...올해 방심위 수사의뢰는 24건"

올해 딥페이크 성범죄영상물 등 디지털성범죄정보의 광범위한 확산으로 심각한 사회문제가 발생했지만 이를 심의하는 규제기관인 방송통신심의위원회의 경찰청 수사의뢰 요청 건수는 단 24건에 불과한 것으로 나타났다. 국회 과학기술정보방송통신위원회 소속 이훈기 의원(더불어민주당)이 방심위로부터 제출받은 최근 5년간 디지털성범죄정보 수사의뢰 요청 현황자료에 따르면, 2020년부터 올해 8월까지 방심위는 총 1천894건의 디지털성범죄 정보를 경찰청에 수사 의뢰했는데 올해는 단 24건만을 의뢰했다. 최근 5년간 방심위가 디지털성범죄정보 사업자 자율규제 요청(삭제)을 한 것은 총 5만3천930건으로, 매해 삭제 대상이 2배 가까이 증가한 것으로 나타났다. 특히 올해는 8월까지 9천971건으로 올해 디지털성범죄정보 삭제 대상 건수는 지난해 1만1천611건을 초과할 것으로 보인다. 이훈기 의원은 “디지털성범죄정보는 늘어가는 데 예외적인 수치의 2022년을 제외하면 수사 의뢰 건수는 오히려 줄거나 답보하고 있는 셈”이라며 “디지털성범죄정보의 확산 방지를 위한 신속한 삭제조치는 타당하지만, 디지털성범죄정보가 매해 배로 증가하는 것을 고려해 적극적인 대응이 필요하다”고 말했다. 한편, 방심위가 딥페이크 성범죄 영상물 등 디지털성범죄정보 24시간 홈페이지와 1377(전화)신고 전화 접수를 통한 상담이 올해 벌써 1천215건을 넘어선 것으로 나타났다. 하지만, 24시간 4조 2교대로 해당 업무를 하는 직원은 단 12명에 불과해 적극적 대응 인력이 부족한 상화이다. 이훈기 의원은 “방심위는 우리나라 디지털 성범죄 대응 1차 기관이지만, 정작 상담 인력도 확충하지 않고, 사업자 자율규제 요청 수준의 소극적 대응에 나서고 있는 것은 문제가 있다”며 “국정감사를 통해 방심위의 디지털성범죄 대응 정책개선 사항을 지적할 것”이라고 강조했다.

2024.09.29 17:34박수형

"딥페이크 통한 보험금 사기 청구 예방시스템 갖춰야"

딥페이크(인공지능을 이용한 인간 이미지 합성 기술)를 이용한 금융 사기 피해가 증가할 것으로 예측되는 가운데, 보험업도 보험금 사기 청구 예방 시스템을 갖춰야 한다는 제언이 나왔다. 28일 보험연구원은 '미국 딥페이크 관련 법안 동향과 보험회사의 대응' 보고서를 통해 미국을 시작으로 딥페이크 사기 및 명예훼손에 대한 법적 제재가 강화되고 있는 만큼, 딥페이크를 통한 새로운 사기 위협에 대한 보험산업이 대응이 요구된다고 진단했다. 보고서는 딜로이트 자료를 인용해 딥페이크 관련 금융 사기는 2023년 123억 달러에서 2027년 400억 달러로 연평균 32% 증가할 것이라고 보며, 최근 최고경영자(CEO) 음성이 딥페이크로 조작돼 큰 액수의 금전적 손실이 발생한 사례도 나오고 있다고 밝혔다. 보험사의 경우 보험 청구 디지털화로 인해 딥페이크를 이용한 보험사기에 노출될 가능성이 높다. 2025년까지 보험 청구의 70%가 비대면 자동처리로 이뤄진다고 연구원은 관측하고 있다. 일부 보험사에서는 허위 청구, 보험 사기 식별을 위한 인공지능(AI) 기반 딥페이크 탐지 기술을 도입하거나, 문서·영상·음성에서 비정상적인 패턴이나 합성된 흔적을 감지하는 시스템을 개발 중이다. 알리안츠는 머신러닝을 통해 허위 데이터를 감지하는 식별 시스템을 구축해 170만파운드(약 31억원)의 피해를 막았으며 취리히보험사는 룰 베이스와 AI 기반 ㅇ네진을 결합해 비정상 행동을 감지하는 보험사기 시스템을 가동하고 있다. 한편, 미국은 딥페이크 범죄 피해자를 위한 민사 구제책을 담은 법안을 8월 통과시켰으며 현재까지 40개 주 이상에서 딥페이크 관련 법안이 발의된 상태다. 40개 중 9개 주에서는 형사 처벌 규정을 두고 있다.

2024.09.28 08:00손희연

"텔레그램 성범죄 활개치는데...n번방 후속조치도 이행되지 않아"

최근 디지털성범죄피해자지원센터의 디지털성범죄피해와 관련해 지원을 받은 피해자 수는 총 8천983명, 피해 영상물 삭제 지원 건수도 총 27만5천520 건에 달하고 있으나 텔레그램에 대한 방송통신위원회의 개선방안은 제대로 이행되지 않고 있다는 지적이 제기됐다. 국회 과학기술정보방송통신위원회 소속 최수진 의원(국민의힘)은 방통위가 그동안 발표한 해외 메신저 플랫폼 조치 개선방안이 제대로 이뤄지지 않고 있다고 밝혔다. 텔레그램을 통한 딥페이크 디지털 성범죄 사건이 늘고 있는 가운데 지난 2022년 방통위가 국회에 제출한 n번방 사건 제도개선안이 이행되지 않았다는 것이다. 방통위는 21대 국회 과방위에 '해외사업자에 대한 디지털성범죄물 유통방지 강화 검토방안'을 제출하면서 ▲국내외 사전조치의무사업자 88 개사를 선정해 불법촬영물 등 기술적 관리적 조치에 대한 현장점검 실시 ▲법무부, 여가부, 검경 등 관계 기관과 매달 협의회를 열어 텔레그램에서의 성범죄 제작 유통에 대응 ▲해외에 본사를 둔 플랫폼 사업자에 대해 국내대리인 지정제도를 활성화 등을 제시했다. 특히 국내대리인 지정제도 활성화 방안과 관련해 제도의 실효성을 높이기 위해 정기 실태점검을 시행하겠다고 했으나 텔레그램에 이용자 등에 공개한 신고처리 메일로 세 차례 협조 공문을 보낸 게 전부였다는 지적이다. 최수진 의원은 “n번방 사건 발생 이후 텔레그램을 비롯한 해외사업자에 대한 대책 마련을 촉구하고 있지만 디지털 성범죄로부터 우리 국민을 신속하게 보호하지 못하고 있다”면서 “국정감사를 통해 방통위가 국내대리인 지정제도를 신속하게 활성화하고 디지털 성범죄 제작 및 유통에 적극적이고 엄중하게 대응해 줄 것을 촉구하겠다”고 말했다.

2024.09.26 19:03박수형

딥페이크 성 착취물, 소지만 해도 징역형 처벌 받는다

딥페이크 성 착취물을 소지하거나 시청만 해도 징역형에 처하는 성폭력범죄처벌특례법이 26일 국회 본회의를 통과했다. 국회는 이날 오후 본회의를 열고 이같은 내용의 성폭력처벌법 개정안을 재석의원 249명 중 찬성 241명, 반대 0명, 기권 8명으로 의결했다. 법안은 딥페이크 성 착취물 영상물의 소지, 구입, 저장, 시청할 경우 3년 이하의 징역 또는 3천만원 이하의 벌금에 처할 수 있도록 규정하고 있다. 또 유포 목적이 입증되지 않더라도 제작자를 처벌할 수 있게 했다. 앞서 전날 법제사법위원회는 딥페이크 성 착취물임을 '알면서'도 이같은 행위를 저지른 경우 처벌 대상으로 하는 법안을 의결했으나, 야권은 본회의에 앞서 '알면서'라는 단서를 삭제하고 법안을 제출해 의결했다. '알면서' 문구와 관련해 일각에서는 의도하지 않게 소유한 경우 처벌 받거나 수사 기관의 계속된 수사를 받을 수 있어 선량한 피해자가 생길 수 있다고 지적하기도 했다. 다만 '알면서' 단서가 포함되면 현행 법체계를 흔들 수 있다는 주장에 따라 본회의에서는 관련 문구를 삭제한 수정안이 의결됐다.

2024.09.26 18:50박수형

황정아 의원 "텔레그램도 딥페이크 성범죄물 책임져야"…법안 발의

황정아 더불어민주당 의원은 해외 플랫폼의 딥페이크 등 디지털성범죄 유통 관리 책임 (정보통신망법 개정안)과 허위영상물 성범죄 처벌(성폭력처벌법 개정안)을 강화하는 내용의 '딥페이크·디지털성범죄 방지법'을 대표발의했다고 23일 밝혔다. 현행 정보통신망법은 정보통신서비스 제공자에게 딥페이크를 포함한 디지털 성범죄 정보 등의 유통방지를 위한 삭제 및 접속차단 의무를 갖는 불법촬영물 등 유통방지 책임자를 지정하도록 하고 있다. 하지만 현행법에서 책임자 등을 지정해야 하는 정보통신서비스 제공자에는 우리나라에 부가통신사업을 신고하는 등의 요건을 갖춰야 해 '텔레그램' 등 해외플랫폼이 적용되기 어렵다는 비판이 지속돼 왔다. 이에 황정아 의원은 정보통신망법 개정안을 통해 이용자가 5만명 이상이거나 매출액 5억원 이상인 정보통신서비스 제공자의 불법촬영물 등 유통방지 책임자를 지정하도록 했다. 또한 딥페이크를 포함한 불법촬영물 등의 유통 가능성이 높은 실시간 대화 서비스 제공자의 경우에도 대통령령으로 정한 요건에 부합할 경우 유통방지 책임자 지정 의무를 부과했다. 이를 통해 규제의 사각지대로 지적돼 왔던 해외 플랫폼 사업자를 포함해 플랫폼의 규모와 관계없이 디지털성범죄 정보 유통 가능성이 높은 플랫폼은 딥페이크 등 불법촬영물 유통 방지 책임자를 지정할 의무를 갖도록 해 플랫폼 사업자의 책임을 강화하겠다는 취지이다. 또한 황정아 의원은 성폭력 처벌법 개정안을 통해 기존 '반포할 목적'이 입증돼야만 딥페이크 범죄를 처벌할 수 있었던 문제도 개선한다. '반포할 목적'이라는 조건을 삭제해 단순 제작 등도 처벌할 수 있도록 하겠다는 것이다. 이에 더해 딥페이크 등 허위 성범죄 영상물을 제작하거나 반포할 경우 기존 징역 5년, 벌금 5천만원에서 최대 7년 이하의 징역 또는 7천만원 이하의 벌금에 처할 수 있도록 형량을 강화했다. 허위 성범죄 영상물 소지·구입·저장 및 시청죄도 신설한다. 이에 따라 허위 성범죄 영상물을 소지·구입·저장 또는 시청한 자는 3년 이하의 징역 또는 3천만원 이하의 벌금에 처하게 된다. 황정아 의원은 "몇 번의 클릭으로 단 2초면 딥페이크 범죄를 저지를 수 있지만, 한 번 온라인 공간에 업로드된 디지털 성범죄 정보는 단시간에 수백 수천 개로 복제되고 확산되는 매우 악질적인 성범죄"라며 "딥페이크 범죄의 처벌 강화는 물론 해외플랫폼 등 플랫폼들에 대한 의무를 강화해 디지털 성범죄를 예방해야 한다"고 강조했다.

2024.09.23 16:24안희정

딥페이크 범죄 '급증'…글로벌 테크 기업 대응 나섰다

최근 딥페이크 성범죄와 허위 뉴스 영상 제작이 급격히 증가하면서 이를 탐지·대응하는 기술이 주목받고 있다. 국내외에서 딥페이크 범죄가 사회적 문제로 떠오르자 관련 기업들의 움직임에 대한 시장 기대감이 높아지고 있다. 19일 업계에 따르면 경찰은 올해 500건 넘는 딥페이크 사건을 수사 중이며 특히 10대들이 연루된 사례가 급증하고 있다. 국내외 가해자들은 텔레그램 등 익명성이 보장된 플랫폼을 통해 음란물을 유포하고 있으며 주로 여성인 피해자들이 심각한 피해를 입고 있다. 해외에서도 상황은 심각하다. 유로뉴스에 따르면 유럽에서 제작된 딥페이크 영상 96%가 여성과 청소년을 대상으로 한 음란물이다. 미국에서는 최근 스칼렛 요한슨과 테일러 스위프트 등 유명인들이 딥페이크 포르노의 피해자가 되기도 했다. 딥페이크 음란물뿐만 아니라 가짜뉴스로 인한 문제도 부각되고 있다. 정치인이나 공공 인물의 발언을 조작하거나 허위 정보를 담은 영상을 제작해 유포하는 사례가 증가하고 있기 때문이다. 지난 2022년 국내 지방 선거 당시 윤석열 대통령이 특정 후보를 지지하는 딥페이크 영상이 퍼져 큰 논란이 된 바 있다. 이와 관련해 딥페이크 선거 사용 방지법이 지난 1월 통과됐지만 해외에서는 딥페이크를 통한 가짜뉴스 남용이 여전히 큰 문제가 되고 있다. 이런 상황에서 딥페이크 탐지 기술에 대한 수요가 급증하고 있다. 글로벌 시장조사업체 마켓앤마켓에 따르면 글로벌 딥페이크 탐지 시장은 지난 2022년 5억 달러(한화 6천500억원)였지만 오는 2027년에는 18억 달러(한화 2조3천400억원) 규모로 성장할 것으로 예상된다. 이미 마이크로소프트는 지난 2020년 AI와 머신러닝을 결합한 '비디오 인증기(Video Authenticator)'를 공개한 바 있다. 이 도구는 사진이나 비디오를 분석해 미디어가 조작되었을 가능성을 백분율로 나타내는 신뢰도 점수를 제공한다. 특히 실시간으로 동영상을 프레임 단위로 분석해 각 프레임에서 조작 가능성을 보여준다. 미국뿐 아니라 유럽 스타트업들도 이에 가세했다. 그 중 에스토니아의 센티넬 AI는 클라우드 기반 솔루션을 통한 실시간 딥페이크 탐지를 제공하는 것으로 알려졌다. 이 회사는 얼굴 랜드마크 분석과 시간적 일관성 등을 활용해 딥페이크를 식별한다. 특히 최근 딥페이크 탐지 경연대회에서 135만 달러의 상금을 획득하며 기술력을 인정받았다. 요하네스 타메캔드 센티넬 AI 대표는 자사 제품을 소개하며 "우리는 잘못된 디지털 기술의 활용이 민주주의에 가장 큰 위협 중 하나라는 것을 잘 알고 있다"며 "사회가 잘못된 정보에 빠지는 것을 막기 위해 최선을 다할 것"이라고 밝혔다. 네덜란드의 센시티 AI도 실시간 딥페이크 탐지 플랫폼을 제공하고 있다. 이 회사는 얼굴 조작, 음성 합성, 전신 조작 등 다양한 유형의 딥페이크를 식별하며 인공지능(AI) 기반 분석으로 조작된 미디어의 출처를 추적한다. 조르지오 파트리니 센시티 AI 대표는 "딥페이크 기술의 발전 속도가 매우 빠르기 때문에 우리의 탐지 시스템도 지속적으로 진화해야 한다"며 "디지털 미디어 생태계의 신뢰성을 유지하는 것이 우리의 목표"라고 말했다. 이렇게 유럽에서 딥페이크 탐지 기술이 발전한 것은 민주주의와 인권이 딥페이크 위협에 직접적으로 노출되었기 때문이라고 전문가들은 지적한다. 개인정보 보호를 중요시하는 유럽의 규제 환경이 딥페이크 기술 오용에 대한 경각심을 높였다는 것이 이들의 분석이다. 국내에서도 다양한 테크 기업들이 딥페이크의 폐해를 예방하기 위해 노력을 기울이고 있다. 특히 라온시큐어는 올 하반기에 개인이 쉽게 딥페이크 여부를 체크할 수 있는 탐지 서비스를 자사의 개인용 모바일 백신 애플리케이션에 탑재할 계획이다. 라온시큐어의 딥페이크 탐지 기술은 합성된 얼굴과 정상 얼굴을 각각 학습해 이를 상호 비교 분류할 수 있도록 AI를 학습시킨다. 이미지부터 동영상, 안면 추출, 주파수 계열 변환 등 다양한 기술을 적용해 생성형 AI의 특징을 탐지한다. 이때 딥페이크 탐지 정확도를 높이기 위해 여러 모델을 동시에 사용한다. 특정 학습 유형에 맞춰 설계된 각각의 모델이 따로 존재하기 때문에 한 가지 모델에 의존했을 때 발생하는 탐지 정확도 저하를 방지할 수 있다. 이를 통해 얼굴의 부자연스러운 형태· 움직임·오디오 등을 종합적으로 분석해 더욱 정교한 탐지가 가능할 것으로 전망된다. 박현우 라온시큐어 AI연구센터장은 "딥페이크가 보편 기술이 돼 이를 악용한 범죄가 퍼지는 와중에 간편하게 딥페이크 여부를 탐지할 수 있는 기술도 보편화돼야 한다"며 "자사 보안 앱인 '라온 모바일 시큐리티'에 딥페이크 탐지 기능을 탑재하는 등 모든 개인들을 위한 잠재적 피해 예방에 매진하겠다"고 강조했다. 딥브레인AI도 '딥페이크 탐지 솔루션'을 개발해 주목받고 있다. '딥페이크 탐지 솔루션'은 사진의 경우 12분, 짧은 영상은 57분 내에 딥페이크 여부를 판별할 수 있다. 이미지와 비디오를 픽셀 단위로 분석하고 음성은 주파수, 시간, 노이즈 등 다양한 요소를 종합적으로 고려해 탐지하는 것으로 알려졌다. 이렇게 국내 기업들이 약진하는 가운데 딥페이크 방지 기술의 개발만으로 실제 범죄를 완전히 막기에는 한계가 있다는 지적도 나온다. AI 기술이 기하급수적으로 발전하고 있기 때문이다. 익명을 요청한 국내 AI 기업 관계자는 "딥페이크 기술은 계속해서 발전하고 있어 탐지 기술만으로는 완벽한 대응이 어렵다"며 "기술의 오용을 막기 위한 사회적 합의와 강력한 처벌 등이 병행돼야 한다"고 강조했다.

2024.09.19 17:40조이환

Prev 1 2 3 4 5 Next