검색 - IT세상을 바꾸는 힘 지디넷코리아

이재명 선대위 "딥페이크로 후보자 비방, 고발장 접수"

이재명 더불어민주당 대선 예비후보 선거대책위원회는 16일 이 예비후보 얼굴을 합성한 딥페이크 영상물 유포자를 상대로 고발 등 법적 대응을 진행한다고 밝혔다. 선대위는 이날 서면 공지를 통해 “최근 일부 유튜브, 커뮤니티, SNS, 포털, 메신저를 통해 딥페이크 영상 등 허위조작정보를 유포한 자에 대해 강력한 법적 책임을 묻겠다”고 전했다. 이어, “지난주 딥페이크 등 허위조작정보 유포행위에 대해 강력하게 경고했지만 악의적인 의도로 제작한 딥페이크 영상에 후보자를 비방하는 내용을 담은 허위조작정보 등이 지속적으로 유포되는 것을 확인했다”며 “해당 영상들은 딥페이크 기술을 악용해 이 예비후보에게 친중 반미 프레임을 덧씌우고, 악마화하는 내용을 담고 있다”고 지적했다. 그러면서 “이러한 콘텐츠는 후보자의 명예를 심각하게 훼손하고 있다”며 “이와 관련해 딥페이크 영상 유포자 김모씨 및 허위 사실을 유포한 성창경 등 17명(9건)에 대해 법적 조치를 진행한다”고 밝혔다. 선대위는 또 “이 외에도 허위조작정보를 담은 영상, 블로그 게시글 작성자 및 퍼나른 자를 공직선거법 위반으로 수사기관에 고발하겠다”며 “즉각적인 소환조사를 수사당국에 강력하게 촉구한다. 철저한 모니터링을 통해 딥페이크 등 허위조작정보 유포자에 대한 법적 책임을 엄중하게 물어나갈 것”이라고 강조했다.

2025.04.16 13:05박수형

경찰, 딥페이크 범죄자 검거…하이브 "안봐줘"

하이브 뮤직그룹 아티스트를 대상으로 딥페이크 영상을 제작·유포한 피의자들이 경찰에 붙잡혔다. 하이브와 경찰의 수사 공조를 통해 이뤄낸 성과다. 11일 경기북부경찰청(이하 경기북부청)에 따르면 하이브 아티스트를 대상으로 딥페이크 허위영상물 제작하거나 유포한 피의자 총 8명이 검거됐다. 이 중 텔레그램 대화방 등을 만들어 허위영상물을 제작 및 유포한 운영자 6명은 구속됐다. 이번 수사 성과는 하이브와 경기북부청 간 딥페이크 범죄 관련 핫라인을 구축하며 긴밀하게 협력한 결과다. 앞서 하이브와 경기북부청은 지난 2월 25일 딥페이크 범죄 근절을 위한 업무협약(MOU)을 체결했다. 최근 아티스트를 대상으로 한 딥페이크 범죄가 확산됨에 따라, 피해 방지와 신속한 대응을 위해 경기북부청과 공조체계를 구축한 것이다. 하이브는 소속 아티스트들의 얼굴을 합성한 불법 영상에 대해 경찰에 수사를 의뢰하고, 피의자 추적과 검거를 위한 정보를 제공했다. 디지털 범죄에 전문성을 보유한 경기북부청은 하이브가 제공한 정보를 바탕으로 신속하게 피의자를 추적하고, 신원을 특정해 검거에 성공했다. 팬들의 제보도 딥페이크 범죄 피의자 검거에 기여했다. 하이브는 지난해 9월부터 아티스트 권익 보호를 위한 '하이브 아티스트 권익 침해 제보 센터'를 운영해왔다. 하이브는 아티스트의 명예를 훼손하는 합성 게시물에 대한 팬들의 제보를 받아 범죄 사실을 신속하게 인지할 수 있었다. 하이브는 앞으로도 수사기관과 지속적으로 협력해 아티스트 보호 시스템을 보다 고도화할 계획이다. 김호승 경기북부청장은 “피해사실을 스스로 알리기 어려운 연예인의 약점을 악용한 딥페이크 범죄가 기승을 부리고 있다. 딥페이크는 피해자들의 일상을 무너뜨리는 심각한 범죄며, 유명인을 대상으로 한 범죄도 결코 예외가 될 수 없다. 경기북부청은 관련자들을 지속적으로 추적해 검거를 이어나갈 방침”이라고 말했다. 이재상 하이브 대표는 “아티스트의 초상권과 명예를 침해하는 범죄에 대해 무관용, 무합의 원칙으로 강경 대응할 것이다. 유사 사례 근절을 위해 지속적인 감시와 법적 대응을 이어갈 계획”이라고 밝혔다.

2025.04.11 16:44안희정

이재명 욕설 딥페이크 영상 제보에…"모든 법적 수단 동원" 경고

더불어민주당 이재명 대통령선거 예비후보 선거대책위원회는 11일, 이재명 후보를 음해하는 내용의 딥페이크 영상과 관련해 “허위조작정보를 절대 용납하지 않겠다”며 강경 대응 방침을 밝혔다. 박수현 선대위 공보단장은 이날 기자회견을 통해 “이재명 예비후보가 김혜경 여사에게 욕을 하는 내용의 딥페이크 영상을 제작·유포하려는 시도에 대한 제보가 접수됐다”며 “이는 국민의 올바른 선택을 방해하는 민주주의의 적”이라고 강조했다. 선대위는 해당 영상이 과거 공개된 이 후보의 음성을 다른 영상과 합성해, 마치 김 여사에게 험한 말을 하는 것처럼 꾸며졌다고 설명했다. 선대위는 "수사기관 조사 후 귀가한 김 여사를 이 후보가 험악한 호칭으로 나무라는 상황으로 설정됐다"고 밝혔다. 선대위는 "이 같은 딥페이크 영상이 실제로 유포될 경우, 즉시 유포중지 가처분 신청과 고발 조치 등 모든 법적 수단을 동원하겠다"며 "허위조작정보에 대해 끝까지 법적 책임을 묻겠다"고 경고했다. 이어 "지금부터 시작되는 진짜 대한민국에는 어떤 허위조작정보도 용납되지 않는다"며 "신속하고 엄정한 대응으로 민주주의 질서를 훼손하는 행위를 막겠다"고 강조했다.

2025.04.11 16:36최이담

AI 생성물 투명성 표준 나온다...딥페이크 범죄 방지

한국정보통신기술협회는 인공지능(AI) 생성물의 오남용으로 인한 디지털 범죄 등 사회적 혼란을 막기 위해, 인공지능 기반 합성 콘텐츠 인공지능 기반 합성 콘텐츠의 투명성 확보를 위한 요구사항 표준화를 추진한다고 밝혔다. 최근 경찰청 통계자료에 따르면 AI 기술을 악용한 허위 영상물(딥페이크) 제작 및 유포 등의 디지털 성범죄는 2024년 812건으로 2023년 168건과 비교했을 때 약 5배 증가했다. 이런 범죄가 폭증하고 있는 배경에는 생성형 AI 기술 발전에 따라 누구나 쉽게 '현실보다 더 현실 같은' 콘텐츠를 생성할 수 있게 되면서 특정 콘텐츠가 사람이 직접 창작한 생성물인지 AI를 통한 생성물인지 출처를 식별하기 어렵다는 점도 한몫을 하고 있다. 정부는 올해 제정된 AI기본법을 내년부터 시행할 예정으로 생성형 AI가 만든 생성물에는 인공지능이 생성한 결과물임을 표기하는 'AI 표시 의무제'를 도입하기로 했다. 협회는 AI 생성물의 투명성 연구를 지속적으로 진행해왔으며, 지난 1월 '인공지능(AI) 워터마크 기술 동향 보고서'를 발간했다. 또한 AI 생성물의 무분별한 악용을 방지하고자 '인공지능 기반 합성 콘텐츠' 표준화를 추진한다. 이를 통해 TTA는 인공지능 생성물 투명성 인공지능 생성물 투명성 관련 메타데이터, 워터마크 방식 등 투명성 정보 표시 기술, 인공지능 생성물 정의, 각 생명 주기별 이해관계자 및 요구사항 등을 제공할 예정이다. 손승현 협회장은 “인공지능 생성물 활용 범위가 사회 전반으로 확대되고 있는 만큼, 사회 전체의 안전한 정보 유통에 있어 인공지능 생성물에 대한 투명성은 보다 중요해지고 있다.”며, “이번 표준화를 통해 인공지능 생성물 활용성 확대와 신뢰할 수 있는 정보 유통 환경 조성에 기여할 수 있을 것”이라고 밝혔다.

2025.04.08 11:36박수형

"AI 콘텐츠 표시 안 하면 벌금"…스페인, AI 규제 강화

스페인 정부가 인공지능(AI)으로 생성된 콘텐츠를 표시하지 않고 사용하는 기업에 벌금을 부과한다. 12일 테크크런치 등 외신에 따르면 스페인 정부가 딥페이크 등 생성형 AI 악용 확산 방지를 위해 이같은 법안을 승인했다. 현재 하원 승인을 기다리리고 있는 상태다. 법이 최종 승인되면 유럽연합(EU) 국가 중 처음으로 스페인이 해당 법을 시행하는 국가가 된다. 법안 내용에 따르면 AI로 생성된 콘텐츠를 적절히 표시하지 않는 행위는 '중대한 위반'으로 분류된다. 위반 시 최대 3천500만 유로(약 555억825만원) 또는 전 세계 연간 매출 7%에 해당하는 벌금이 부과된다. 이 법안은 취약한 집단을 조종하는데 사용될 수 있는 '서브리미널 기술' 사용을 금지한다. 서브리미널 기술은 인지할 수 없는 소리나 이미지를 통해 사람을 은밀하게 조종하는 방식이다. 도박을 유도하는 챗봇이나 어린이들에게 위험한 행동을 하도록 부추기는 이미지가 대표 예시다. 스페인 정부는 AI로 행동이나 특성 기준으로 사람을 분류하거나 혜택 제공 여부를 결정, 범죄 위험성을 평가하는 행위를 금지하는 것도 법안에 포함했다. 다만 국가 안보를 위해 필요한 경우 공공장소에서 실시간으로 생체 정보를 인식하고 감시하는 것은 당국의 허가를 받은 경우에만 예외적으로 허용된다. 법안 시행은 스페인 AI 감독 기관인 AESIA가 주관한다. 개인정보 보호와 범죄, 선거, 신용평가, 보험, 자본시장과 관련된 사항은 각 분야 전문 감독 기관이 관할할 예정이다. 오스카 로페즈 스페인 디지털전환부 장관은 "이 법안은 고위험 AI 시스템에 대한 엄격한 투명성 의무를 부과하기 위한 것"이라고 밝혔다.

2025.03.12 09:04김미정

"AI가 만든 가짜 내 목소리, AI가 잡아냅니다"

[바르셀로나(스페인)=박수형 기자] 딥페이크는 AI 발전에 따른 대표적인 사회 부작용 사례로 꼽힌다. 딥페이크로 생성된 영상물은 성범죄 논란을 일으켰고, 최근 딥페이크로 감쪽같이 속인 지인의 목소리에 보이스피싱 범죄가 문제로 떠올랐다. 딥페이크 음성, 즉 딥보이스는 결국 사람이 감별할 수 없는 가짜 사람 목소리가 문제인 셈인데 AI로 만들어진 역기능을 AI로 해결하려는 시도가 이목을 끈다. MWC25에 '안심 지능'을 주제로 전시관을 꾸린 LG유플러스는 안티딥보이스 체험 부스를 마련했다. 전시 담당자 설명에 따라 “제안서 최종본은 이메일로 보내드리겠습니다”고 읽으니 AI가 목소리를 분석한 뒤 곧장 “사람입니다”고 답한다. 반면 기계가 읽어낸 문장은 곧장 붉은 경고등이 켜지며 “주의하세요, AI로 생성된 음성입니다”고 통화 종료를 유도한다. 크게 대단한 기술처럼 보이지 않더라도 휴대폰 화면에 퍼지는 붉은 화면과 경고음 하나로 한 개인의 상실감은 물론 경제적 피해를 막을 수 있는 효과적인 방법이다. LG유플러스의 익시오 기반으로 기계음과 사람 목소리를 구분하는 것인데, 전시 담당자는 “합성된 음성에서 발생하는 주파수의 노이즈를 찾아내며 가짜 목소리를 감별하는 것”이라고 설명했다. 그는 또 “TTS로 생성되는 발화가 발전하더라도 이를 감지하는 기술은 데이터 학습에 따라 더욱 고도화될 것”이라며 “현재 기계 목소리 인지율은 최소 95% 이상이며 더욱 높아질 수 있다”고 덧붙였다.

2025.03.04 01:12박수형

딥브레인AI, 딥페이크 탐지 솔루션 GS인증 1등급

딥브레인AI가 자사 소프트웨어(SW)로 국가인증을 받았다. 딥브레인AI는 딥페이크 탐지 솔루션으로 굿소프트웨어(GS) 1등급을 획득했다고 19일 밝혔다. GS인증은 국내 SW 품질 경쟁력 향상과 유통 활성화를 위해 도입된 국가 공인 인증 제도다. 실제 운영 환경을 모사한 테스트 환경에서 기능적합성, 호환성, 사용성, 신뢰성, 보안성 등 9개 항목을 종합적으로 평가한다. 딥브레인AI의 딥페이크 탐지 솔루션은 ▲영상 탐지 ▲이미지 탐지 ▲음성 탐지를 바탕으로 페이스 제너레이션, 페이스 스왑, 립싱크 합성 등 다양한 유형의 조작된 합성 콘텐츠를 탐지한다. API로 타 플랫폼과 연동 가능하다. 이에 대량의 데이터도 쉽게 탐지할 수 있다. 픽셀 차이로 딥페이크 여부를 판별하는 기술력과 레퍼런스 기반으로 국내서 처음 관공서 대상 상용화를 진행한 바 있다. 딥브레인AI은 지난해 11월에 딥페이크 자동 탐지 솔루션을 서비스형 소프트웨어(SaaS)로 공개하기도 했다. 사용자가 찾고자 하는 인물의 특징이나 키워드 등 정보를 입력하면, 유튜브와 틱톡, 엑스, 텔레그램 등 다양한 플랫폼을 자동으로 탐지한다. 불법 성인 영상물의 경우 2차 피해 방지를 위해 노출된 부분을 블러 처리하는 등 윤리적인 기준까지 강화했다. 장세영 딥브레인AI 대표는 "딥페이크 관련 범죄 확산 방지에 보탬이 되고자 지난해는 기업, 관공서 등을 대상으로 딥페이크 탐지 솔루션을 무료 지원한 바 있다"며 "이번 인증을 계기로 인공지능(AI) 순기능을 위한 기술 개발에 더욱 힘쓰겠다"고 말했다.

2025.02.19 10:29김미정

작년 딥페이크 성범죄영상물 시정요구 3배 이상 늘었다

방송통신심의위원회가 지난해 시정요구를 내린 딥페이크 성범죄영상물이 전년 대비 3.2배 가량 늘어난 2만3천건에 달하는 것으로 나타났다. 방통심의위는 이를 두고 텔레그램과의 핫라인을 구축하는 등 생성형AI 기술을 악용한 딥페이크 성범죄영상물의 유통을 조기에 차단하기 위해 적극 대응한 결과라고 설명했다. 전체 디지털성범죄정보에 대한 시정요구 건수도 9만4천185건으로 전년 대비 약 41% 증가했다. 방통심의위는 “생성형AI 기술을 악용한 딥페이크 성범죄영상물 유포와 불법촬영을 통한 아동청소년 성착취 사례 등이 지속적으로 발생할 우려가 있다”며 “향후에도 다각적 조치를 통해 유사한 피해가 재발되지 않도록 적극 대응할 예정”이라고 밝혔다.

2025.02.12 14:48박수형

네이버·카톡이라 믿었는데…'레드' 적힌 URL서 중고거래 했다가 '발등'

최근 중고거래 사기 조직이 새로운 방식으로 피해자를 속이는 사례가 급증하고 있는 것으로 나타났다. 기존에는 방치된 카페에 허위 게시글을 올려 피해자를 유인하던 단순한 수법이 주를 이뤘으나, 최근에는 사기 조직이 직접 허위 카페를 개설해 정교한 방식으로 범행을 저지르는 정황이 확인됐다. 27일 업계에 따르면 중고거래 사기 조직은 우선 중고거래 카페를 개설한 뒤 정상적인 중고거래를 가장한 허위 게시글을 게시한다. 피해자가 해당 카페에 가입해 거래 관련 문의를 하면 "현재 바쁘다"는 핑계로 카카오톡 등 메신저로의 추가 연락을 유도한다. 이후 피해자에게 네이버 안전거래 시스템을 위장한 가짜 결제 사이트 링크를 전송한다. 가짜 결제 사이트에 접속한 피해자는 이름, 전화번호, 주소 등의 개인정보를 입력하게 되고, 사기 조직이 제공한 계좌로 계좌이체를 요구받는다. 중고거래 사기 조직은 피해자에게 특정 시간까지 입금을 유도하며 입금 후 연락을 끊는다. 또 "계좌 번호가 잘못됐다", "추가 세금을 납부해야 한다" 등의 이유를 대며 추가 송금을 요구하는 방식으로도 피해를 확대시키고 있다. 디지털 범죄 대응 전문기업 라바웨이브에 따르면 대부분의 허위 중고거래 카페는 '레드(red)', '블루(blue)', '그린(green)' 등과 같은 영어 색상 단어와 5자리 영문 및 숫자 조합으로 구성된 URL을 사용하는 공통점이 있다. 아울러 대부분의 허위 중고거래 카페는 2024년 12월에 개설된 것이 특징이다. 카페 이름에는 '중고', '명품' 등 거래와 관련된 주요 키워드가 포함되는 경우가 많다. 하지만 일부 카페는 이러한 규칙을 따르지 않거나, 오래전에 개설된 카페를 재활용해 사기 범죄에 활용하는 경우도 있다. 이는 중고거래 사기 조직이 점점 더 교묘하고 다양화된 방식으로 운영되고 있음을 시사한다. 라바웨이브는 신종 중고거래 사기 수법 피해 예방을 위해 ▲2024년 12월 개설된 카페 또는 URL에 영어 색상 단어가 포함된 카페 주의 ▲의심스러운 링크 클릭 및 접속 자제 ▲거래 시 반드시 공식 채널을 통해 결제 ▲거래 전 판매자 및 거래 플랫폼의 신뢰성 확인을 제시했다. 라바웨이브 관계자는 "중고거래 사기 수법은 계속 진화하고 있다"며 "특히 해외에 거점을 둔 범죄 조직이 중고거래 사기뿐만 아니라 몸캠피싱, 보이스피싱, 딥페이크 사기, 큐싱 등 다양한 디지털 범죄를 동시에 자행하고 있어 각별한 주의가 필요하다"고 설명했다. 이어 "자사 24시간 모니터링, 카이스트(KAIST)와의 공동 기술 개발, 수사기관 협업 등을 통해 진화하는 디지털 범죄에 대응하고 피해를 방지하는 데 주력하고 있다"고 강조했다.

2025.01.27 09:00장유미

라온시큐어, 모바일 앱으로 딥페이크 탐지 문턱 낮춘다

라온시큐어가 누구나 쉽게 인공지능(AI) 기술로 딥페이크 탐지할 수 있는 기술을 공개했다. 라온시큐어는 딥페이크 동영상이나 이미지를 탐지할 수 있는 기능을 자사 개인용 모바일 백신 앱인 '라온 모바일 시큐리티'에 탑재했다고 20일 밝혔다. 라온 모바일 시큐리티는 AI 기반 스미싱 탐지와 악성앱 탐지, 해킹 방지 등을 제공하는 개인용 모바일 백신 앱이다. 라온시큐어는 이 앱에 자체 개발한 AI 기반 딥페이크 탐지 기능을 추가했다. 앱 사용자는 라온 모바일 시큐리티로 스마트폰에 저장된 동영상이나 이미지, 유튜브 링크 등을 올리면 해당 콘텐츠가 생성형 AI로 조작된 딥페이크일 가능성이 얼마나 높은지 몇 초 만에 알 수 있다. 해당 딥페이크 탐지 기술은 합성 얼굴과 실제 얼굴을 비교·분류하는 AI로 작동한다. 이 AI가 안면 추출, 주파수 계열 변환 등의 기술로 얼굴 형태와 눈, 입 모양의 부자연스러움을 찾아내는 여러 모델을 사용해 딥페이크 가능성을 계산한다. 라온시큐어는 추후 실시간 딥페이크 탐지 서비스도 라온 모바일 시큐리티에 추가할 계획이다. 이를 통해 영상통화 시에도 상대방이 조작된 얼굴로 지인을 사칭하는지 실시간으로 탐지할 수 있게 된다. 현재 라온 모바일 시큐리티는 딥페이크 탐지 기능을 포함해 무료로 제공하고 있다. 향후 유료 딥페이크 탐지 기능도 제공할 예정이다. 라온시큐어는 자사 딥페이크 탐지 기술을 기업용 애플리케이션 프로그래밍 인터페이스(API) 서비스로도 제공한다. 목소리로 타인을 사칭하는 딥보이스 탐지 기술도 개발하고 있다. 향후 금융기관, 공공기관, 이동통신사를 비롯해 다양한 기업에 딥페이크와 딥보이스 기술을 제공해 임직원이나 고객 사칭으로 인한 기업의 피해와 고객의 피해를 방지할 수 있도록 할 방침이다. 또 기업들이 라온시큐어 기술로 딥페이크 생성물을 구별해 내 AI 생성물 표시 의무화 규정을 지킬 수 있게 할 계획이다. 라온시큐어는 생성형 AI 기술이 점차 고도화되고 쉽게 접할 수 있는 만큼 심각한 문제로 받아들여지고 있는 딥페이크 범죄 근절에 동참하고자 딥페이크 탐지 기술을 개발했다. 실제 지난해 1~11월까지 경찰청에 접수된 딥페이크 성범죄 신고 건수는 1천여 건에 육박했다. 이에 정부에서는 딥페이크 범죄 예방책 등을 담은 AI 기본법 제정에 속도를 내고 있다. 이정아 라온시큐어 대표는 "최근 정보자산과 고객보호가 절실한 고객사 요구에 부응하기 위해 딥페이크 탐지 기술을 개발했다"며 "라온 모바일 시큐리티를 통한 딥페이크 탐지 기술 제공을 시작으로 딥보이스 탐지, 실시간 탐지 등 기술 고도화를 지속해 범죄 예방에 기여하겠다"고 강조했다.

2025.01.20 10:16김미정

방심위 "딥페이크 성범죄물 대책 발표 이후 시정요구 2.5배↑"

방송통신심의위원회는 지난 8월 28일 '딥페이크 성범죄영상물 종합대책' 발표 이후 후속조치로 시정요구 건수가 큰 폭으로 증가했다고 7일 밝혔다. ▲피해 신고 본격 접수 ▲주요 유통경로 '집중화 모니터링' ▲'강화된 3단계 조치'에 따라, 딥페이크 성범죄영상물 월평균 시정요구 건수는 8월(1천519건) 대비 약 2.5배(3천789건) 수준까지 증가했다. 방심위는 급증하는 딥페이크 성범죄영상물에 대한 신속한 조치가 무엇보다도 중요하다고 강조하며, '25년에도 상시 대응체계를 유지하기 위해 관련 대책을 계속 시행할 방침이라고 말했다. 또한 방심위는 딥페이크 성범죄영상물 유통 및 확산 방지를 위한 추가 대책들의 진행 경과에 대해서도, ▲텔레그램과의 핫라인 구축 및 시정요청 협력 대상 플랫폼 등재, ▲피해자 지원기관 및 교육청 등 협력체계 구축, ▲민간기업 등을 통한 '피해구제' 기능 홍보, ▲딥페이크 성범죄 국제사회 핵심 의제화, ▲정책 토론회, 글로벌 플랫폼 사업자 협력회의를 계획대로 완료했다고 설명했다. 아울러, 올해에는 ▲청소년 대상 디지털성범죄 예방 교육 콘텐츠를 제작할 예정이라고 밝히며, ▲디지털성범죄특별위원회 신설 및 전문 인력 증원 등에 필요한 민생 예산 추가 지원을 다시 한 번 요청했다.

2025.01.07 11:32안희정

해킹·랜섬웨어 '활개'…새해 공격관리·신원인증 산업 뜬다

밀키트는 손질된 식재료와 양념을 알맞게 담은 간편식입니다. 누구나 밀키트만 있으면 별도 과정 없이 편리하게 맛있는 식사를 할 수 있습니다. [김미정의 SW키트]도 마찬가지입니다. 누구나 매일 쏟아지는 소프트웨어(SW) 기사를 [김미정의 SW키트]로 한눈에 볼 수 있습니다. SW 분야에서 가장 주목받는 인공지능(AI)과 보안 이야기를 이해하기 쉽고 맛있게 보도하겠습니다. [편집자주] 생성형 인공지능(AI) 등 신기술을 악용한 해킹, 랜섬웨어 급증으로 국내 기업과 기관이 큰 피해를 본 가운데 이에 대응하기 위한 기술 산업·정책이 활성화될 전망이다. 특히 기업 데이터를 보호하는 신원인증과 사이버 공격을 모니터링하는 공격표면관리(ASM) 산업 전망이 밝다는 평가가 이어지고 있다. 정책적으로는 망분리 완화 후 클라우드 보안을 위한 제로트러스트 가이드라인 중요성이 높아지고 소프트웨어자재명세서(SBOM) 의무화 추진도 본격화할 것으로 예측된다. AI 등 신기술 늘었지만…예측 불가 공격 이어져 지난해 생성형 AI 등 신기술 성장으로 인해 비즈니스 활성화가 이뤄졌지만 그만큼 새로운 사이버 공격도 증가한 것으로 나타났다. AI 악용 기술과 랜섬웨어, 딥페이크 확산으로 정보 유출 등 피해 사례가 늘어서다. 또 기업의 IT 복잡성 증가로 예측 불가형 보안 이슈가 발생하기도 했다. 이에 빅테크는 사이버 보안 강화에 나섰다. 마이크로소프트는 지난 7월 크라우드스트라이크 업데이트 오류로 인한 IT 대란 사태를 겪은 후 클라우드 보안 강화를 본격화했다. 지난해 처음 자사 핵심성과지표(KPI)에 보안을 최우선 과제로 설정했다. 구글은 사이버 공격 예방을 위해 보안 스타트업 인트리그를 인수했다. 지난해 국내 정부는 개인정보 보호 대책 마련에 힘썼다. 우선 개인정보보호위원회는 메타와 구글, 카카오 등 빅테크와의 개인정보 관련 소송을 위해 법률 전문가를 몰색하고 있다. 이르면 올 초 빅테크 소송을 전담하는 팀을 꾸릴 예정이다. "신원인증 산업 커질 것"…클라우드 ID 성장도 업계에서는 국내 정부와 기업이 개인정보 보호 강화에 나서면서 이를 위한 신원인증 산업이 성장할 것으로 봤다. 실제 미국을 비롯한 유럽연합(EU)이 개인정보 보호 강화 제도에 시동을 걸면서 신원인증 산업이 성장하고 있다. 앞서 지난 5월 유럽연합(EU)에서 발의한 전자신원 및 신뢰서비스에 관한 법률에 따르면 2026년까지 모든 EU 회원국은 시민에게 디지털 신원 지갑을 제공해야 한다. 2030년까지 EU 시민 전원이 디지털 신원을 갖는 것을 목표로 한 법안이다. 한 보안업계 관계자는 "미국과 EU의 디지털 신원인증 활성화 움직임은 곧 국내에 영향 미칠 것"이라며 "국내 정부·기업도 이에 맞는 신원인증 기술이나 제도 필요성을 느낄 것"이라고 내다봤다. 국내 기업의 서비스형 소프트웨어(SaaS) 제품 수요가 늘면서 클라우드 내 정보보호를 위한 클라우드 ID 산업도 활성화할 것이란 예측도 나왔다. 국내 기업이 SaaS를 활발히 사용하면서 클라우드 ID 채택률도 증가할 것이란 전망이다. 전 세계적으로 GDPR 등 정보보호법이 활성화하면서 기업은 데이터 접근 기록 관리와 보안 조치 강화를 위해 클라우드 ID 기술에 투자를 늘릴 것이란 설명이다. 이를 통해 기업은 데이터를 클라우드 내 안전히 보관하고 데이터 규제까지 준수할 수 있다. 올해 망분리 완화…"제로트러스트·SBOM 중요도 커져" 올해 망분리 완화 정책이 본격화하면서 클라우드·SW 시스템 보안 강화를 위해 제로트러스트 가이드라인 중요성과 SBOM 의무화 목소리가 커질 전망이다. 망분리 완화로 인한 클라우드 내 데이터 유출이나 해킹에 취약할 가능성이 높아질 수 있다는 분위기 때문이다. 이에 발맞춰 정부는 제로트러스트 모델을 한층 구체화한 '제로트러스트 가이드라인 2.0'을 이달 발표했다. 새 가이드라인에는 기업이 제로트러스트 모델을 솔루션에 도입할 때 적용하는 단계를 하나 더 넣었다. '성숙도 모델'을 추가해 기존 3단계에서 4단계로 구체화했다. 또 관련 세부역량 52가지를 새로 제시해 모델에 구체화를 더했다. 망분리 완화 후 클라우드에 들어가는 SW 복잡성이 증가하면서 이를 투명하게 확인할 수 있는 정책 마련 필요성도 제기될 전망이다. 미국처럼 국내 정부도 SBOM 의무화에 속도를 낼 가능성이 높다는 평가다. 정부는 지난해 5월 SBOM 가이드라인을 발표했지만 이를 의무화하지 않은 상태다. 순천향대 염흥열 명예교수는 지난 11월 서울 강남 섬유센터에서 열린 한 보안 컨퍼런스에서 "미국과 유럽 등 선진국들은 이미 SBOM을 통해 SW 구성 요소 취약점을 신속히 식별해 전체적인 사이버 보안을 강화하고 있다"며 "이에 발맞춰 국내 정부도 SBOM 의무화를 적극 추진해야 한다"고 강조했다. "해킹 어디서든 발생"…공격표면관리(ASM) 산업 활성화 해외 보안 업계처럼 국내서도 사이버 공격을 기존보다 넓은 범위에서 예측할 수 있는 ASM 산업이 확장할 전망이다. 최근 기업에서 클라우드뿐 아니라 원격 근무, 생성형 AI 도입 등으로 인해 공격 가능한 보안 취약점이 빠르게 늘고 복잡해졌기 때문이다. ASM은 해커가 침투할 가능성이 있는 모든 IT 경로를 미리 파악하고, 이를 체계적으로 관리해 사이버 위협을 줄일 수 있는 보안 전략·도구다. 공격 발생 후 대응하는 것에 주력하는 기존 보안 시스템과 다른 방식이다. 앞서 해외는 이미 ASM을 통해 시스템 위험 식별 구축을 진행하고 있다. 빅테크 중심으로 ASM 생태계가 확장하는 추세다. 구글은 자회사 맨디언트를 통해 ASM 스타트업 인트리그를 인수한 바 있다. 마이크로소프트도 사이버보안 포트폴리오 강화를 위해 리스크아이뷰 인수했다. 팔로알토 네트웍스도 최근 ASM 시장 진입을 위해 익스펜스네트웍스를 인수했다. 현재 한국 보안 업계에서 ASM은 극초기 단계라는 평가가 이어지고 있다. 관련 솔루션을 운영하는 기업도 AI스페라가 유일하다. 업계 관계자는 "최근 국내 기업 시스템이 인식하지 못할 수 있는 인터넷 연결 자산과 시스템에서 오는 위험 식별 필요성이 높아졌다"며 "미국 보안 추세에 맞춰 ASM 산업을 눈여겨볼 만하다"고 밝혔다.

2025.01.02 11:09김미정

"디지털 범죄 대응 새 지평"…라바웨이브, 피해자 위한 '솔루션 데모' 공개

라바웨이브가 피해자의 심리적 안정을 위해 디지털 성범죄 대응 솔루션 작동 원리를 체험할 수 있는 기술 서비스를 공개했다. 라바웨이브는 자사의 핵심 기술을 누구나 체험할 수 있는 '솔루션 데모' 서비스를 공식 홈페이지를 통해 오픈했다고 27일 밝혔다. 이 서비스는 몸캠피싱 및 딥페이크 등 디지털 성범죄 대응 솔루션의 신뢰성을 강화하기 위해 개발됐다. 기존 디지털 성범죄 대응 방식은 솔루션의 작동 원리를 구두로 설명하는 데 그쳤다. 이로 인해 피해자는 긴급 상황에서도 충분히 기술을 신뢰하지 못한 채 솔루션을 의뢰해야 하는 어려움이 있었다. 새롭게 공개된 '솔루션 데모'는 데이터인젝션, 더미데이터, 하이퍼 디텍트 등 라바웨이브의 3가지 핵심 기술로 구성돼 있다. 이 기술들은 데이터 보호 및 불법 콘텐츠 유포 방지를 위한 독자적인 특허를 바탕으로 개발됐다. 특히 하이퍼 디텍트는 AI 기반 모니터링 기술을 활용해 불법 콘텐츠를 신속히 탐지할 수 있다. 이는 몸캠피싱이나 딥페이크 같은 디지털 성범죄에 대한 피해자의 불안을 해소하고 초기 대응력을 강화하는 데 효과적이다. '솔루션 데모'는 다양한 연령대의 피해자를 고려해 사용자 친화적으로 설계됐다. 특히 미성년자와 중·노년층 피해자가 쉽게 이해할 수 있도록 단계별 안내와 간단한 메시지 구조를 제공한다. 이미 라바웨이브는 지방경찰청과의 공조 수사 및 카이스트와의 기술 협력으로 디지털 범죄 예방을 위한 연구를 지속하고 있다. 지난 11월에는 국회 기획재정위원장 표창을 수상하며 기술력을 인정받았다. 라바웨이브 관계자는 "피해자가 직접 솔루션을 체험할 수 있게 함으로써 심리적 안정과 신뢰를 제공할 수 있다"며 "디지털 범죄 근절이라는 목표를 이루기 위해 지속적으로 기술을 발전시키겠다"고 밝혔다.

2024.12.27 09:46조이환

국민 10명 중 4명 "딥페이크 가짜뉴스 판별 어렵다”

과학기술정보통신부가 딥페이크 가짜뉴스 대응을 주제로 대국민 설문조사를 진행한 결과 응답자의 41.9%가 “판별하기 어렵다”고 답했다. 9일 과기정통부에 따르면 지난 10월10일부터 약 한달간 597명이 참여한 대국민 설문조사에서 응답다의 94.5%가 가짜뉴스는 개인과 사회에 미치는 영향이 심각하다고 응답했다. 매우 심각하다고 응답한 이들이 55.9%, 심각하다고 응답한 이들이 38.5%다. 특히 딥페이크를 활용한 가짜뉴스가 일반적인 가짜뉴스보다 부정적 영향이 더 심각하다고 답한 응답자는 84.9%에 달했다. 딥페이크 가짜뉴스를 접해본 응답자는 39%였으며, 딥페이크 가짜뉴스의 악영향으로 가장 우려되는 점은 인격적 피해가 48.2%로 가장 높았다. 응답자 41.9%는 딥페이크 가짜뉴스를 판별할 수 없다고 밝혔으며, 이들은 딥페이크 확산 원인으로 법제도 미비(36.5%)를 지적했다. 피해 예방을 위한 효과적 방법으로 강력한 입법과 정책(57.6%), 정부의 정책으로 '범죄자에 대한 처벌강화(36.9%)'를 요구하는 목소리가 많았다. 송상훈 정보통신정책실장은 “딥페이크 가짜뉴스가 개인과 사회에 미치는 부정적 파급효과가 크고, 기술 발전에 따라 사실과 구별하기 어려워지고 있다는 것에 국민들이 공감하고 있다”며 “신속히 법제도를 정비할 수 있도록 방송통신위원회와 적극 협력하겠다”라고 말했다.

2024.12.09 12:00박수형

[현장] AI 악용한 사이버 공격 급증… SK쉴더스, 선제적 방어 전략 제시

"인공지능(AI) 기술의 발전으로 보안 위협도 고도화되고 있습니다. 그럼에도 불구하고 이는 선제적인 대응 전략으로 충분히 극복할 수 있습니다." 이재우 SK쉴더스 전무는 3일 서울 코엑스에서 열린 '2024 SK쉴더스 사이버 시큐리티 미디어 데이'에서 이같이 말했다. 이번 행사는 올해의 보안 트렌드를 돌아보고 내년도 주요 위협과 대응 방안을 공유하기 위해 마련됐다. SK쉴더스는 올해 가장 두드러진 보안 트렌드로 AI를 활용한 공격의 증가를 꼽았다. 딥페이크·보이스 기술이 악용돼 온라인 범죄와 허위 정보 유포가 확산됐기 때문이다. 실제로 200여 개의 학교와 공공기관이 피해를 입었다. 또 랜섬웨어의 협박 전략이 다면적으로 진화해 데이터 암호화뿐만 아니라 유출과 디도스 공격까지 병행하는 사례가 늘었다. 이호석 이큐스트 랩(EQST Lab) 팀장은 "올해 보안 사고를 보면 AI 기술이 공격의 핵심 도구로 사용되고 있다"며 "이러한 변화에 대비해야 한다"고 강조했다. SK쉴더스는 AI 보안 위협의 확대를 내년도의 가장 큰 위험 요소로 지목했다. 딥페이크와 딥보이스뿐만 아니라 거대 언어 모델(LLM)을 악용한 데이터 조작과 노출 시도가 증가할 것이라는 분석이다. 또 망분리 규제 완화로 인해 클라우드 환경에서의 권한 관리 시스템(IAM)에 대한 공격이 늘어나며 하이브리드 클라우드 환경에서의 보안 취약점이 커질 것으로 전망했다. 협력사를 노린 공급망 공격도 주요 위협으로 지적됐다. 보안 수준이 낮은 협력사를 경유한 공격이 증가하면서 원청사까지 연쇄적인 피해를 입는 사례가 많아지고 있다. 이와 함께 암호화폐 가치 상승에 따라 거래소와 개인 지갑을 대상으로 한 해킹 시도도 더욱 활발해질 것으로 보인다. SK쉴더스는 이러한 위협에 대응하기 위해 여러 선제적인 예비 방안을 제시했다. 특히 AI 특화 모의해킹 서비스를 통해 딥페이크 및 LLM 기반 공격을 사전에 시뮬레이션하고 취약점을 점검할 계획이다. 또 모니터링, 탐지 및 대응(MDR) 서비스를 통해 랜섬웨어와 같은 고도화된 공격을 실시간으로 탐지하고 초동 대응을 제공할 예정이다. 제로 트러스트 모델의 도입으로 검증된 사용자만 시스템에 접근할 수 있도록 해 IAM 권한 탈취와 클라우드 환경 위협에 대비한다는 전략이다. 이재우 전무는 "AI는 공격뿐만 아니라 방어에도 강력한 도구"라며 "핵심은 이를 어떻게 활용해 더 안전한 보안 환경을 만드는가에 달려 있다"고 밝혔다.

2024.12.03 12:14조이환

딥페이크 가짜뉴스 콜로키움 열려

과학기술정보통신부는 20일 온드림소사이어티 커뮤니티 스페이스에서 '이미지 합성 기술(딥페이크) 바로보다'라는 주제로 제3회 디지털 심화쟁점 콜로키움을 개최했다. 이 자리에서 이독실 과학평론가가 딥페이크 기술에 대한 이해와 올바른 활용방안을 위주로 '딥페이크는 우리 삶을 어떻게 바꿀 것인가'에 대해 강연했다. 이어서 표창원 범죄과학연구소장은 범죄 심리학적 관점에서 딥페이크 범죄의 문제 원인과 대응 방안을 제시한 '딥페이크 가짜뉴스의 범죄심리와 대책'을 강연했다. 정부는 그간 딥페이크 범죄 대응을 위해 민관 협력 대응 체계를 구축하고, 지난 5월 국무회의에서 보고된 범부처 '새로운 디지털 질서 정립 추진계획'에 포함된 핵심 정책과제 중 하나로 이미지 딥페이크 가짜뉴스 근절을 위해 부처 간 협업을 이어왔다. 과기정통부는 관계부처와 협력해 지난 6~7월 인공지능 안전, 신뢰, 윤리 확보를 시작으로 디지털 접근성 제고, 딥페이크를 활용한 가짜뉴스 대응, 비대면 진료의 안정적 시행 순으로 한 주제씩 집중해 공론화를 추진하고 있다. 엄열 정보통신정책관은 “올해는 전 세계 인구 절반이 투표하는 '슈퍼 선거의 해'인 만큼 딥페이크 가짜뉴스가 심각한 사회문제로 대두괬으며, 이번 콜로키움에서는 딥페이크 가짜뉴스에 대한 국민들의 이해를 돕고 디지털 역기능 대응 방안에 대한 의견을 수렴하기 위해 마련한 행사”라며 “국민들의 의견을 반영해 안전한 디지털 사회를 만들어 나가겠다”라고 밝혔다.

2024.11.20 14:00박수형

'매크로' 공격에 국내 대학 보안 '취약'…"딥페이크·보이스피싱 위험 ↑"

국내 대학들이 매크로 공격 위험에 상시적으로 노출돼 있는 것으로 확인됐다. 수강신청 기간 중 인기 과목을 선점하려는 용도뿐 아니라 비수강신청 기간에도 사용자 계정과 개인정보 탈취를 노린 것으로 보이는 매크로 공격이 일상적으로 이뤄지는 것으로 나타났다. 20일 에스티씨랩이 매크로 탐지 솔루션 '엠버스터(Mbuster)'를 통해 올해 1학기 11개 대학교, 2학기 9개 대학교의 수강신청 중 서버 접속 현황을 분석한 결과 전체 트래픽의 절반 가까운 44.29%가 매크로인 것으로 조사됐다. 특히 매크로 탐지 비율 상위 5개 대학의 경우 전체 트래픽의 94.95%가 매크로 접속인 것으로 밝혀졌다. 수강신청 기간 외에도 매크로 공격이 끊이지 않는다는 사실도 확인됐다. 서울 시내 A 대학의 경우 에스티씨랩이 지난달 말부터 이달 초까지 학교 홈페이지 포털 사이트에 엠버스터를 적용해 매크로 현황을 점검한 결과 전체 접속 46만5천 건 중 24.86%인 11만6천 건이 매크로 접속이었다. 매크로가 수강신청 등 특정 이벤트 기간에만 문제가 되는 것이 아니라 상시적인 위협으로 존재한다는 것을 의미한다. 매크로 봇은 무작위적인 크롤링이나 데이터 스크래핑에 사용되며 특히 사용자 계정 탈취 및 신원 도용으로 딥페이크, 보이스 피싱 등 각종 범죄에 악용될 수 있다. 실제로 지난 8월 서울시교육청에서는 559명의 개인정보가 크롤링을 통해 유출됐다. 올해는 이미 여러 대학에서 수십만 명의 개인정보 유출 사건이 발생했다. 박형준 에스티씨랩 대표는 "매크로 악용은 공정성을 해칠 뿐만 아니라 딥페이크와 같은 다양한 범죄 및 금융사고로 이어질 수 있다"며 "뿐만 아니라 인프라 리소스를 잠식해 서비스 운영 효율을 저해하고 불필요한 비용을 증가시킨다"고 강조했다. 이어 "매크로를 이용한 정보 유출이 심각한 범죄로 악용되는 것을 막기 위해서는 교육부 등의 기관에서 매크로 실태 점검과 신속한 대응 방안을 마련하는 것이 시급하다"며 "학생들이 범죄에 노출되지 않도록 매크로라는 근본적인 위협을 차단해야 한다"고 덧붙였다.

2024.11.20 09:48장유미

법무법인 대륜, 딥페이크 성범죄 대응 '사이버범죄팀' 출범

법무법인 대륜의 형사그룹이 사이버성범죄에 대응하기 위해 사이버범죄팀을 출범했다고 19일 밝혔다. 사이버범죄팀은 소속 디지털포렌식센터와 협력해 딥페이크 영상 관련 증거 수집을 적극 조력할 계획이다. 딥페이크 성범죄 대응 체계 강화를 위해 관련 경험이 풍부한 전문 변호사들이 대거 투입됐다. 서울북부지방검찰청 부장검사 출신의 김인원 형사그룹장을 비롯해 서울고검 부장검사와 경찰간부 출신 박성동 변호사, 광주고검 부장검사 출신 안승진 변호사, 인천지검 검사출신 박지영 변호사 등 평균 20년 이상 법조 경력을 가진 전문변호사들이 진두지휘한다. 형사, 성범죄사건에 특화된 신용훈 변호사, 조성근 변호사도 함께한다. 김 그룹장은 부장검사 시절 성범죄 관련 사건을 다수 맡았으며 강간, 준강간, 강제추행, 성착취물 소지 등 사건에서 높은 승소율을 기록하고 있는 성범죄전문변호사다. 박 변호사는 서울경찰청 수사부, 정보외사부를 거친 경찰 출신으로 경찰과 검찰의 수사 절차를 모두 경험한 변호사다. 안 변호사 역시 성폭력, 마약 등 강력사건에 특화됐으며 검찰총장 표창까지 받은 능력자다. 딥페이크와 같은 사이버성범죄는 성폭력범죄의 처벌 등에 관한 특례법에 의거해 5년 이하의 징역 또는 5천만 원 이하의 벌금형에 처해질 수 있는 중범죄다. 특히 영리를 목적으로 제작·반포했을 시 가중처벌되며 취업제한, 신상정보 공개 등 보안처분도 함께 부과될 수 있다. 사이버성범죄 사건은 증거 수집이 관건이다. 폐쇄적인 유통경로로 인해 추적이 불가능한 경우가 많기 때문이다. 이에 대륜 사이버범죄팀은 관련 증거수집에 전문 인력을 투입한다. 수집된 데이터 중 수사기관에 제출할 수 있는 데이터를 선별하고, 민감정보를 삭제·변환하는 등 전반적인 조력을 제공할 예정이다. 또 기존 모의조사, 법정 시스템 역시 적극 활용한다. 경찰수사 단계부터 공판까지 모든 절차에 밀착 변호를 제공한다는 방침이다. 김 그룹장은 “대륜의 전문변호사가 의뢰인에게 조사·재판 절차에 대한 전반적인 조언을 드리고 있다”며 “시뮬레이션을 통해 실제 상황에서 당황하지 않고 자신의 의견을 피력할 수 있도록 돕는다”고 말했다.

2024.11.19 15:20박수형

정부 "딥페이크 합동 대응…위장-비공개 수사로 성범죄자 뿌리 뽑을 것"

정부가 딥페이크 활용 성범죄를 막기 위해 대안 마련에 나섰다. 국민의힘 딥페이크 성범죄 대응 특위는 정부기관들끼리 모여 아동·청소년 성착취물 제작 및 유포자에 대한 원칙적으로 구속 수사를 시행하는 등 엄정한 대책을 세웠다고 6일 밝혔다. 정부는 딥페이크 성범죄 대응을 위해 범정부 TF를 구성하고 관련 법안의 국회 통과와 행정 조치를 추진해 왔다. 주요 조치에는 허위 영상물 제작·유포 형량 상향, 소지·시청 처벌 신설, 디지털 성범죄 피해자 지원 센터 법적 근거 마련 등이 포함됐다. 특히 이번 대응 방안은 크게 처벌 강화, 플랫폼 관리, 피해자 보호, 예방 교육이라는 네 가지 분야로 구분된다. 처벌 강화에는 위장 수사 확대 및 국제 공조 강화가 포함되며 플랫폼 관리 부문에서는 사업자의 책임을 강화하고 해외 사업자와의 협력 체계를 마련했다. 또 피해자 보호 강화를 위해 삭제 지원 서비스를 확대하고 디지털 성범죄 피해자 지원 센터를 통해 원스톱 서비스를 제공한다. 피해 예방과 탐지를 위한 R&D도 병행할 예정이며 교육 프로그램은 각 대상에 맞춘 맞춤형으로 구성된다. 김종문 국무1차장은 "이번 대책이 실질적으로 적용되기 위해 딥페이크 성범죄 대응 TF가 지속적으로 운영될 것"이라며 "법안 통과, 예산 확보 등 후속 조치가 면밀히 점검될 예정"이라고 밝혔다.

2024.11.06 15:00조이환

"딥페이크 식별 위해 AI 생성물 표시 의무 해야"

딥페이크와 실제 사실을 구분하지 못해서 발생하는 위험으로부터 이용자를 보호하고 사회적 혼란을 줄이기 위해서 인공지능(AI)으로 생성되거나 조작된 정보는 별도로 표시하도록 의무화하는 방안이 필요하다는 제언이 나왔다. 딥페이크는 인공지능(AI)으로 만든 가상의 정보이지만 실제 사실처럼 정교해서 사람들이 가짜임을 구분하기가 어렵다. 현실감 넘치는 콘텐츠 제작에 유용하게 사용되기도 하지만, 타인 사칭 범죄나 합성음란물에 악용되어 사회적 혼란과 개인의 피해를 초래하기도 한다. 국회입법조사처의 '이슈와 논점' 보고서에 따르면 AI로 만든 정보임을 표시하여 사람들이 딥페이크를 쉽게 식별하고 위험을 예방하게 할 필요가 있다. 분야별 딥페이크 규제와 AI 관점의 일반 규제가 서로 맞물리는 '이중 안전장치'를 갖춰야 한다는 지적이다. 현재 유럽연합은 '인공지능법'을 시행하고 있다. 이 법은 AI 시스템 제공자와 배포자에게 AI 생성물임을 표시하는 의무를 부과해 사람들이 딥페이크를 쉽게 식별하는 기반을 만들었다. 다만 범죄 수사나 순수한 예술·표현 등에 사용되는 딥페이크에 대해서는 공개 의무가 적용되지 않는다. 또 초대형 온라인 플랫폼 사업자가 실존 인물, 물체, 장소 등과 상당히 유사하고 진실인 것처럼 보이도록 생성 또는 조작된 콘텐츠를 온라인에 게시하려면 그것이 조작된 것임을 눈에 잘 띄게 표시하는 의무를 부과한다. 미국에는 연방 차원의 AI 규제법은 없다. 대신 정부공공기관에 AI 관련 의무를 부과하기 위해 2023년 12월 바이든 대통령의 행정명령이 시행 중이다. 미국은 딥페이크를 합성콘텐츠로 규정하고 정부에 합성콘텐츠의 진위와 출처를 확인하는 방안을 마련하도록 했다. 이에 따라 정부는 상무부장관이 중심이 돼 콘텐츠 진위 여부를 확인하고 출처를 추적하는 방법, 합성콘텐츠임을 표시하는 방법, 합성콘텐츠를 탐지하는 방법 등 AI로 생성한 정보를 식별하는 기술을 개발해야 한다. 연방의회에는 AI 생성물임을 표시하도록 의무화하는 법률안이 다수 발의되어 있다. 딥페이크 제작자를 공개하고 딥페이크 탐지 기술을 적용하도록 규정한 '딥페이크 책임법안', AI 개발자와 이용자 등에게 AI로 만든 콘텐츠임을 표시하는 의무를 부과하는 '인공지능 표시법안', 생성형 AI 서비스 제공자에게 가상 정보를 생성한 애플리케이션의 이름, 콘텐츠를 생성하거나 수정한 날짜와 시간 등의 메타데이터를 제공하도록 의무화한 '기만적인 AI로부터의 소비자 보호법안' 등이다. 국내도 AI법안을 논의중이다. 제22대 국회에는 1건의 인공지능법안이 발의돼 있고, 이 중에서 5건 법안이 생성형 AI로 만든 콘텐츠는 해당 사실을 표시하도록 규정한다. 생성형 AI를 이용하여 제품 또는 서비스를 제공하려는 자는 해당 제품 또는 서비스의 결과물이 생성형 AI에 의하여 생성됐다는 사실을 표시해야 한다. 또 '정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정법률안'에도 AI 생성물임을 표시하는 법률안이 존재한다. 국회입법조사처는 현재 시행 중인 유럽연합 '인공지능법'과 미국 '인공지능 행정명령', 국내에 발의된 다수의 인공지능법안 내용을 기반으로 AI로 만든 정보임을 표시하도록 하는 입법 방안을 모색해야 한다고 밝혔다. 먼저 표시 의무 적용 범위는 'AI로 생성한 콘텐츠'로 설정해 명확성을 높이고, 대신 피해 가능성이 낮은 분야는 예외로 설정하는 것이 적절하다고 제안했다. '실제와 구분하기 어려운' 등의 요건을 추가할 경우 판단 과정에 주관성이 개입되어 법률 집행의 혼란이 발생할 우려가 있다. 또한 AI 모델을 개발, 판매하는 자에게는 기계 판독 가능한 메타정보 제공과 같은 식별가능성 확보 의무를 부과하고, AI 모델을 자신의 제품・서비스에 활용하는 자에게는 AI로 생성된 정보임을 표시하는 의무를 부과하여 딥페이크의 대량생산에 대응해야 한다. 이용자가 직접 오픈소스 등으로 AI를 만들어 생성한 콘텐츠는 타인에게 공개・제공될 때 표시하도록 규정할 수 있다. 이에 딥페이크 콘텐츠를 유통하는 온라인 플랫폼은 적법한 표시 의무를 이행하지 않은 콘텐츠에 대한 처리 방침을 명확히 공개하고, 부적절한 표시가 되었다고 신고된 콘텐츠에 대해서는 삭제 또는 임시조치하도록 할 필요가 있다는 설명이다. 마지막으로 제도 정착을 위한 정부의 지원도 필요하다. 정부는 AI 생성물 표시 제도의 정착을 위해 관련 기술의 개발, 긴밀한 국제협력, 국민의 디지털 리터러시 함양을 지원해야 한다. 보고서는 "AI 발전 속도를 고려한다면 앞으로 딥페이크는 더욱 증가하고 정교해질 것이다. 지금처럼 피해자의 신고에 의존하거나 규제기관의 모니터링으로 차단하는 방식은 한계에 직면할 수 밖에 없다"며 "딥페이크가 만들어지고 유통되는 단계에서 적절하게 표시될 수 있도록 의무화하는 것이 필요하다"고 밝혔다.

2024.10.18 15:10최지연

ZDNet 검색 페이지

'딥페이크'통합검색 결과 입니다. (89건)