검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'딥 페이크'통합검색 결과 입니다. (94건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

딥페이크, AI가 잡았다…AI 과학수사 나선 정부, 성과 '굿'

행정안전부가 국립과학수사연구원과 함께 인공지능(AI) 기술을 접목해 딥페이크 의심 이미지·영상·음성의 진위를 판별하는 'AI 딥페이크 분석모델'을 4월까지 개발·검증하고 딥페이크 범죄 수사에 약 두 달간 활용해 성과를 거뒀다. 행안부와 국과수는 AI 딥페이크 분석모델이 경찰청 등 일선 수사기관의 감정 의뢰를 받아 올해 5~6월 두 달간 증거물 60종, 총 15건의 딥페이크 감정을 성공적으로 수행했다고 30일 밝혔다. 특히 제21대 대통령 선거 기간 중 중앙선거관리위원회에 분석모델을 공유해 유튜브 등 온라인 공간의 불법 딥페이크 선거물 1만여 건을 탐지·삭제하는 데에 기여했다. 이번 모델 개발은 과거 기술적 한계로 수행하지 못했던 딥페이크 감정을 국내 최초로 공식화하고 과학적 증거에 기반한 수사 체계를 마련한 것으로 평가된다. 행안부와 국과수는 분석모델을 딥페이크 증거물 감정 업무에 본격 투입함으로써 딥페이크 범죄 수사에 획기적인 전환점이 마련될 것으로 기대하고 있다. AI 딥페이크 분석모델은 최근 AI 기술을 악용해 특정인의 얼굴 등을 합성한 딥페이크 범죄가 폭발적으로 증가하며 심각한 사회 문제가 됨에도 판별 기술이 부족해 수사기관이 관련 증거물 분석에 어려움을 겪는 상황을 극복하기 위해 개발됐다. 모델 개발 과정에서는 공개 데이터셋, 자체 제작 콘텐츠 등 약 231만 건에 달하는 딥페이크 데이터가 활용됐다. 이후 최신 딥러닝 알고리즘에 방대한 데이터를 학습시키고 지속적인 피드백과 성능 개선 작업을 거쳐 딥페이크 탐지 성능을 획기적으로 향상시켰다. 이렇게 개발된 AI 딥페이크 분석모델은 딥페이크 흔적을 자동으로 탐지하며 변조 의심 파일에 대해 합성 확률 및 시간별 변조율을 예측해 딥페이크 여부를 신속하게 판단할 수 있도록 돕는다. 특히 얼굴의 눈·코·입과 같은 특정 부위별 변조 탐지 능력과 함께 반복된 업로드·다운로드로 인해 일부 데이터가 손실되거나 음질이 저하된 증거물에 대해서도 분석 능력을 갖춰 실질적인 수사 환경에서 효과를 발휘할 수 있도록 설계됐다. 행안부와 국과수는 이번 AI 딥페이크 분석모델의 성과를 2023년 개발한 '보이스피싱 음성 분석모델'과 연계해 더욱 강력한 시너지를 낼 수 있도록 할 계획이다. 두 모델을 함께 활용하면 딥페이크 여부를 판별하고 해당 딥페이크가 특정 정치인 등의 음성을 모방·합성해 제작됐는지까지 입증할 수 있을 것으로 예상된다. 행안부와 국과수는 앞으로 AI 딥페이크 분석모델의 활용 범위를 더욱 확대해 나갈 계획이다. 우선 국과수 내부적으로는 현재 독립형 방식으로 운영 중인 모델을 향후 디지털증거물인증시스템(DAS)에 통합해 업무 효율성을 더욱 높일 예정이다. 또 딥페이크 문제로 어려움을 겪고 있는 여성가족부·방송통신위원회 등 다른 기관에도 모델을 단계적으로 확산해 각 기관의 딥페이크 콘텐츠 탐지 및 대응 역량 강화를 적극 지원할 예정이다. 이봉우 국과수 원장은 "AI 기술 기반의 과학수사 역량 강화를 통해 감정의 신속성과 정확성을 높이는 데 최선을 다하겠다"며 "빠르게 변화하는 첨단 기술 환경에 선제적으로 대응해 국민이 신뢰할 수 있는 과학수사 체계를 구축하겠다"고 강조했다. 행안부 이용석 디지털정부혁신실장은 "AI 딥페이크 분석모델은 AI 기술을 사회 문제 해결에 적극적으로 활용한 사례"라며 "앞으로도 AI와 데이터 분석을 국민의 안전과 민생 안정을 위한 행정 분야에 적극적으로 도입해 나갈 것"이라고 밝혔다.

2025.07.30 15:12한정호

딥페이크 사기, 상반기 피해만 4억 달러…인증 체계 뚫렸다

딥페이크 기술이 실제 음성·영상·이미지를 정교하게 조작하는 단계로 진화하면서 이를 악용한 사기 수법이 대규모 금전 피해를 초래했다는 조사 결과가 나왔다. 9일 서프샤크에 따르면 올해 상반기 딥페이크 기반 사기로 발생한 피해는 총 4억1천만 달러(한화 약 5천600억원)로 집계됐다. 이는 지난해 전체 피해액인 3억5천900만 달러(한화 약 4천900억원)를 초과하는 수치로, 지난 2019년부터 5년간 누적 피해액인 1억2천800만 달러(한화 약 1천760억원)의 세 배를 넘는다. 가장 피해가 컸던 사기 유형은 유명인을 사칭해 투자 사기를 유도하는 방식이다. 그 다음으로는 기업 임원을 음성이나 영상으로 사칭해 자금을 이체하게 만든 수법이 뒤를 이었다. 생체인증 시스템을 우회한 대출과 연애 감정을 이용한 로맨스 스캠 피해도 주요 유형으로 나타났다. 전체 피해 가운데 기업은 약 40%, 개인은 약 60%의 피해를 입었다. 인도네시아에서는 인공지능(AI) 생성 이미지를 활용해 수많은 가짜 계좌가 개설됐고 허위 대출 신청도 시도돼 국가 단위 피해 우려가 제기됐다. 홍콩에서는 은행 지점장이 임원을 사칭한 AI 음성 통화에 속아 거액을 이체하는 사고가 발생하기도 했다. 개인을 겨냥한 수법도 한층 정교해졌다. 딥페이크 기술로 외모를 조작한 인물을 통해 연애 관계를 맺은 뒤 가상화폐 투자로 유도한 사기 사건으로 인해 수십 명이 체포됐다. 조지아 트빌리시에서는 유명인 딥페이크 광고와 조작된 투자 플랫폼을 결합해 수천 명이 피해를 입는 대형 사건이 보고됐다. 전체 딥페이크 사건을 유형별로 보면 사기 목적이 31%로 가장 많고 음란 콘텐츠 생성이 23%, 정치 목적 활용은 22%였다. 사건 발생 건수는 올해 상반기 기준 580건으로, 지난해 전체 대비 약 4배 증가했다. 서프샤크는 "딥페이크 기술이 상업화되고 접근성이 높아졌기 때문에 실제 피해 규모가 통계 수치보다 훨씬 클 가능성도 있다"며 "정부와 민간 모두의 대응체계가 시급하다"고 밝혔다.

2025.07.09 16:09조이환

"고객 보호 최우선"...LGU+, 안티딥보이스로 보안 강화

LG유플러스가 AI 보안 강화를 통해 보이스피싱 범죄를 예방하고, '보안에 가장 진심인 통신사'가 되겠다고 선언했다. AI를 활용한 범죄에 대응하기 위해서는 그에 준하거나, 보다 뛰어난 기술력이 필요한 만큼 지속적이며 많은 투자가 필요하다. 이러한 상황에도 LG유플러스는 통신사로서의 보안은 기본적인 의무라며 유료화할 계획이 없다고 일축했다. 당장의 수익보다 고객 가치를 우선시하는 장기적인 방향성으로 풀이된다. 경찰청에 따르면 2024년 한 해 동안 발생한 보이스피싱 피해 금액은 8천545억원에 달한다. 이는 지난해(4천472억원)보다 약 2배 증가한 셈이다. 인당 평균 피해 금액의 경우에는 4억1천만원으로 전년 대비 1억원 이상 증가했다. AI 보안 지속 개발할 것…돈보다 고객 가치 LG유플러스는 현재도 AI 통화 에이전트 서비스 '익시오'를 통해 수많은 보이스피싱을 탐지하며 범죄를 예방하고 있다고 밝혔다. 이석영 LG유플러스 모바일에이전트트라이브 담당은 “익시오는 통화 중 보이스피싱 탐지 서비스를 통해 월 약 2천건의 보이스피싱 의심 통화를 차단하고 있다”며 “이러한 통화들이 실제 피해로 이어졌다면 월간 약 800억원 수준의 피해가 발생했을 수도 있다”고 말했다. 이어 “앱스토어 리뷰나 고객 후기를 보면 익시오를 통해 실제로 보이스피싱 범죄를 예방했다는 후기도 확인할 수 있다”며 이러한 범죄를 예방하는 것이 통신 사업자로서의 기본적인 의무라고 덧붙였다. LG유플러스는 익시오 유료화 계획은 없다고 선을 그었다. 최윤호 AI 에이전트 추진그룹장은 “LG유플러스를 선택하는 데 익시오가 핵심적인 요소가 될 수 있도록 하는 것이 우선”이라며 “향후 더 좋은 기능들이 추가되고, 이 기능이 고객에게 지불 가치가 있다고 판단된다면 검토할 것“이라고 밝혔다. AI 보안 서비스 고도화…딥보이스부터 딥페이크까지 LG유플러스는 갈수록 발전하는 보이스피싱 범죄에 대응하기 위해 익시오 보안 서비스를 고도화한다. 익시오는 오는 30일 온디바이스 기반의 '안티딥보이스' 기능을 세계 최초로 도입할 계획이다. 이 기술은 AI가 만들어낸 기계음에서 나타나는 비정상적인 고주파 노이즈, 음성, 발음, 패턴 등을 파악해 실제 음성과 위조 음성을 판별한다. 목소리에 이어 얼굴을 위변조하는 범죄를 예방하고자 '안티딥페이크'도 개발하고 있다. 사진이나 영상을 픽셀 단위로 비정상 패턴을 분석해서 진위를 구별하는 기술이다. 사람이 놓칠 수 있는 미세한 왜곡이나 노이즈를 AI 기술로 판별하는 원리다. '안티딥페이크' 기술은 실시간 변조와 탐지가 가능한 수준이지만, 온디바이스에 탑재할 수 있도록 경량화·최적화 중이다. 서버를 통해 실시간으로 데이터를 분석하는 것은 감청 또는 감시와 같기 때문이다. LG유플러스는 익시오 가입자가 올해 안에 100만명, 3년 이내에 600만명을 목표로 하고 있다. 전병기 LG유플러스 AX기술그룹장은 “LG유플러스는 AI 기술과 익시오의 지속적인 고도화 전략을 통해 가장 안전한 AI를 보유하고 있으며 보안에 가장 진심인 통신사로 자리매김할 것”이라고 말했다.

2025.06.26 15:02진성우

LGU+ "위변조 목소리, AI로 잡아낸다"

LG유플러스가 보이스피싱 피해로부터 안전한 서비스를 제공하기 위해 AI 보안 강화에 앞장선다. 보안에 특화된 AI 개발을 지속해 '일상의 디지털 안전망'을 제공한다는 전략이다. LG유플러스는 26일 LG서울역빌딩에서 '안티딥보이스' 설명회를 열어 위변조 목소리 탐지 기능을 30일부터 상용화한다고 밝혔다. 지난 3월 MWC에서 공개한 안티딥보이스는 AI가 위변조한 목소리를 판별하는 기술이다. 오는 30일 AI 통화 에이전트 서비스 '익시오'에 탑재해 상용화할 계획이며, 온디바이스 형태로 상용화하는 것은 LG유플러스가 세계 최초다. 안티딥보이스가 탑재되는 '익시오'는 LG AI 연구원의 LLM인 '엑사원'을 기반으로 통신 데이터를 확보해 자체 개발한 sLLM '익시젠' 기반의 서비스다. LG유플러스와 LG AI 연구원은 익시오 개발 당시부터 AI 생태계 고도화를 위해 긴밀히 협력하고 있으며, 특히 온디바이스 AI 영역에서 협업을 확대하고 있다. LG유플러스는 안티딥보이스 기술을 개발하기 위해 AI 엔진에 약 3천시간, 통화 건수로 약 200만건에 달하는 분량의 통화 데이터를 학습시켰다. 이 기술은 위조된 목소리의 부자연스러운 발음을 찾아내거나 음성 주파수의 비정상적인 패턴을 탐지하는 등 과정을 통해 진위를 판별한다. 안티딥보이스는 LG유플러스가 자체 개발한 VAD(Voice Activity Detection), STT, 안티스푸핑(Anti-spoofing) 등 기술로 구현됐다. 이 기술들은 통화 중 실제 음성 구간을 탐지하고, 탐지된 음성을 텍스트로 변환한 후, 해당 음성의 위변조 여부를 분석하는 역할을 한다. 상용화를 위해 경량화 작업도 진행했다. 익시오가 고객의 정보를 통신사 서버에 저장하지 않고 자신의 스마트폰에만 저장하는 '온디바이스 AI' 방식으로 구현되기 때문에 경량화는 안티딥보이스 상용화에 핵심적인 역할을 한다. 익시오에 탑재된 안티딥보이스를 통해 고객은 개인정보 유출 우려 없이 AI 서비스를 이용할 수 있다. 안티딥보이스 기술은 익시오를 통해 통화 중인 상대방의 목소리가 위변조됐다는 사실을 즉각적으로 판별한다. 목소리 위변조 여부를 판단하는 데 필요한 통화 데이터는 약 5초 정도다. 통화 상대방의 목소리가 위변조된 경우, 익시오는 팝업 알림을 통해 고객에게 위험을 전달한다. 이를 통해 익시오 고객은 보이스피싱 위험으로부터 한층 보호받을 수 있을 것으로 기대된다. LG유플러스는 AI가 합성한 얼굴까지 분석하는 '안티딥페이크' 기술도 확보했다. 이 기술은 영상이나 이미지를 분석해, 합성된 영상에 남아있는 비자연적인 흔적을 탐지해 합성 여부를 판별한다. 픽셀 단위의 질감이나 사람의 눈에는 보이지 않지만 흔적으로는 남는 패턴의 불균형, 프레임 간 일관성이 떨어지는 현상 등을 분석해 합성 여부를 탐지하는 것이 핵심이다. 현재 온디바이스 환경에서도 원활히 작동할 수 있도록 AI 모델을 최적화하고 있다. 향후 LG유플러스는 안티딥페이크 기술을 활용해 영상을 이용한 피싱 범죄를 차단하고, 위변조된 유해 콘텐츠를 신속히 식별하는 등 고객의 안전 보호에 집중할 계획이다. 이와 함께, AI 전략 4A의 첫 단계인 '안심 지능'을 구현하기 위한 보안 기술을 지속적으로 확보하고 있다. 보안 기술 브랜드인 '익시 가디언'을 중심으로 기술 경쟁력을 강화해 고객의 안전과 안심을 최우선하는 사업자로 자리매김하겠다는 계획이다. LG유플러스는 익시오를 통해 통화 전·중·후 모든 과정에서 발생할 수 있는 보이스피싱 위험을 차단하기 위해 다양한 기술을 추가로 확보할 방침이다. 익시오 고도화를 위해 LG유플러스는 '통화 전 AI 보이스피싱 탐지 시스템' 도입을 준비하고 있다. 이 기술은 보이스피싱으로 신고된 전화번호의 통화 패턴 등을 AI가 학습한 뒤, 통화 시작 전에 보이스피싱 가능성이 높은 번호를 자동으로 탐지한다. 고객은 전화를 받기 전에 위험 여부를 실시간으로 확인할 수 있어 피해를 사전에 예방할 수 있다. 통화 중 보이스피싱 범죄자의 목소리를 탐지하는 '범죄자 목소리 탐지 시스템'도 개발하고 있다. 국립과학수사연구원과 협력해 개발 중인 이 기술은 보이스피싱범의 목소리(성문)를 AI로 실시간 비교·분석해 일치 가능성이 높을 경우 경고 알림을 제공하는 기술이다. LG유플러스는 본격적인 기술 개발을 위해 과학기술정보통신부의 규제 샌드박스 실증 특례를 진행 중이다. 이 외에도 LG유플러스는 금융권과 협업해 AI 기반의 보이스피싱 위험 징후 탐지 및 실시간 경고 기술 개발도 추진하고 있다. 향후 LG유플러스는 익시오를 통해 보이스피싱 예방은 물론, 개인의 일상과 감정까지 보호해 나갈 방침이다. 통화 중 위험 알림을 넘어 디지털 스토킹, 언어 폭력, 허위 정보 유포 등 현대 사회의 다양한 통신 기반 위협 요소를 탐지·차단하는 기능을 탑재한다는 계획이다. 이를 통해 LG유플러스는 익시오를 'AI 안심 에이전트'로 발전시켜 나갈 예정이다. 전병기 LG유플러스 AX기술그룹장은 “차별화된 보안 기술을 통해 '가장 안전한 AI를 보유한, 보안에 가장 진심인 통신사'로 자리매김할 것”이라며 ”AI가 고객의 삶을 더 안전하게 만들 수 있도록 실질적인 가치를 제공해 LG유플러스가 달성하고자 하는 '밝은 세상'을 구현하겠다”고 말했다.

2025.06.26 10:22진성우

"딥페이크·가짜뉴스 한 번에 잡는다"…한컴위드, 통합 탐지 시스템 개발 착수

한컴위드가 사이버 범죄 예방을 위해 딥페이크·딥보이스·가짜뉴스 통합 탐지 시스템 개발에 나선다. 한컴위드는 숭실대를 주관기관으로 연세대·성균관대와 함께 경찰청의 '허위조작 콘텐츠 진위 판별 시스템 개발' 프로젝트에 국내 연구기관으로 참여하게 됐다고 5일 밝혔다. 이번 사업은 2027년까지 앞으로 3년간 허위조작 콘텐츠 탐지를 위한 데이터세트 구축 및 통합 탐지 시스템을 개발하는 것이 주요 골자다. 해당 시스템은 허위 정보를 식별해 사이버 범죄를 예방하고 사회적 혼란을 줄이는 것을 목표로 한다. 초기 단계인 올해는 탐지를 위한 데이터세트 구축과 탐지 모델의 고도화에 집중하며 내년부터는 머신러닝 기반 자동화 관리 시스템(MLOps)을 적용한 통합 탐지 시스템의 성능 향상과 실증 테스트를 본격적으로 추진할 예정이다. 핵심 기술 연구는 숭실대를 중심으로 성균관대, 연세대, 독일 부퍼탈대, 한컴위드가 함께 수행한다. 숭실대는 딥페이크 음성 탐지 모델을, 성균관대는 딥페이크 영상 및 가짜뉴스 탐지 모델을, 연세대는 표준화된 데이터세트 구축을 각각 담당한다. 부퍼탈대는 다국어 데이터세트 수집과 글로벌 협력 연구를 맡으며 한컴위드는 다양한 탐지 기술을 통합한 ML옵스 기반 시스템의 개발과 실증을 진행한다. 통합 탐지 시스템은 딥페이크 범죄 수사, 비대면 인증 및 심사 과정에서의 진위 판별, 가짜뉴스 유통 추적 등 다양한 분야에 적용될 수 있다. 이를 통해 국가 및 공공기관은 물론 민간 산업 전반의 허위조작 콘텐츠 대응 역량을 강화한다는 목표다. 특히 이번 프로젝트는 경찰청이 주관한 최초의 국제 공동연구 사례로, 독일 기관과 공동으로 연구·개발한다. 딥페이크 탐지 시스템은 언어 차이나 인종의 외형 특성에 따라 성능이 크게 달라질 수 있어 단일 국가나 특정 기관의 탐지 기술만으로는 한계가 있다. 따라서 신뢰할 수 있는 탐지 시스템을 구축하려면 다각도의 협력과 기술 공유가 필수적이다. 송상엽 한컴위드 대표는 "AI 기술 발전으로 딥페이크 및 딥보이스 기반의 사이버 범죄가 급증하고 있다"며 "각 기관의 전문성을 바탕으로 고객 요구에 최적화된 맞춤형 솔루션을 개발하고 상용화에 성공하겠다"고 밝혔다.

2025.06.05 10:52한정호

이재명 선대위 "딥페이크로 후보자 비방, 고발장 접수"

이재명 더불어민주당 대선 예비후보 선거대책위원회는 16일 이 예비후보 얼굴을 합성한 딥페이크 영상물 유포자를 상대로 고발 등 법적 대응을 진행한다고 밝혔다. 선대위는 이날 서면 공지를 통해 “최근 일부 유튜브, 커뮤니티, SNS, 포털, 메신저를 통해 딥페이크 영상 등 허위조작정보를 유포한 자에 대해 강력한 법적 책임을 묻겠다”고 전했다. 이어, “지난주 딥페이크 등 허위조작정보 유포행위에 대해 강력하게 경고했지만 악의적인 의도로 제작한 딥페이크 영상에 후보자를 비방하는 내용을 담은 허위조작정보 등이 지속적으로 유포되는 것을 확인했다”며 “해당 영상들은 딥페이크 기술을 악용해 이 예비후보에게 친중 반미 프레임을 덧씌우고, 악마화하는 내용을 담고 있다”고 지적했다. 그러면서 “이러한 콘텐츠는 후보자의 명예를 심각하게 훼손하고 있다”며 “이와 관련해 딥페이크 영상 유포자 김모씨 및 허위 사실을 유포한 성창경 등 17명(9건)에 대해 법적 조치를 진행한다”고 밝혔다. 선대위는 또 “이 외에도 허위조작정보를 담은 영상, 블로그 게시글 작성자 및 퍼나른 자를 공직선거법 위반으로 수사기관에 고발하겠다”며 “즉각적인 소환조사를 수사당국에 강력하게 촉구한다. 철저한 모니터링을 통해 딥페이크 등 허위조작정보 유포자에 대한 법적 책임을 엄중하게 물어나갈 것”이라고 강조했다.

2025.04.16 13:05박수형

경찰, 딥페이크 범죄자 검거…하이브 "안봐줘"

하이브 뮤직그룹 아티스트를 대상으로 딥페이크 영상을 제작·유포한 피의자들이 경찰에 붙잡혔다. 하이브와 경찰의 수사 공조를 통해 이뤄낸 성과다. 11일 경기북부경찰청(이하 경기북부청)에 따르면 하이브 아티스트를 대상으로 딥페이크 허위영상물 제작하거나 유포한 피의자 총 8명이 검거됐다. 이 중 텔레그램 대화방 등을 만들어 허위영상물을 제작 및 유포한 운영자 6명은 구속됐다. 이번 수사 성과는 하이브와 경기북부청 간 딥페이크 범죄 관련 핫라인을 구축하며 긴밀하게 협력한 결과다. 앞서 하이브와 경기북부청은 지난 2월 25일 딥페이크 범죄 근절을 위한 업무협약(MOU)을 체결했다. 최근 아티스트를 대상으로 한 딥페이크 범죄가 확산됨에 따라, 피해 방지와 신속한 대응을 위해 경기북부청과 공조체계를 구축한 것이다. 하이브는 소속 아티스트들의 얼굴을 합성한 불법 영상에 대해 경찰에 수사를 의뢰하고, 피의자 추적과 검거를 위한 정보를 제공했다. 디지털 범죄에 전문성을 보유한 경기북부청은 하이브가 제공한 정보를 바탕으로 신속하게 피의자를 추적하고, 신원을 특정해 검거에 성공했다. 팬들의 제보도 딥페이크 범죄 피의자 검거에 기여했다. 하이브는 지난해 9월부터 아티스트 권익 보호를 위한 '하이브 아티스트 권익 침해 제보 센터'를 운영해왔다. 하이브는 아티스트의 명예를 훼손하는 합성 게시물에 대한 팬들의 제보를 받아 범죄 사실을 신속하게 인지할 수 있었다. 하이브는 앞으로도 수사기관과 지속적으로 협력해 아티스트 보호 시스템을 보다 고도화할 계획이다. 김호승 경기북부청장은 “피해사실을 스스로 알리기 어려운 연예인의 약점을 악용한 딥페이크 범죄가 기승을 부리고 있다. 딥페이크는 피해자들의 일상을 무너뜨리는 심각한 범죄며, 유명인을 대상으로 한 범죄도 결코 예외가 될 수 없다. 경기북부청은 관련자들을 지속적으로 추적해 검거를 이어나갈 방침”이라고 말했다. 이재상 하이브 대표는 “아티스트의 초상권과 명예를 침해하는 범죄에 대해 무관용, 무합의 원칙으로 강경 대응할 것이다. 유사 사례 근절을 위해 지속적인 감시와 법적 대응을 이어갈 계획”이라고 밝혔다.

2025.04.11 16:44안희정

이재명 욕설 딥페이크 영상 제보에…"모든 법적 수단 동원" 경고

더불어민주당 이재명 대통령선거 예비후보 선거대책위원회는 11일, 이재명 후보를 음해하는 내용의 딥페이크 영상과 관련해 “허위조작정보를 절대 용납하지 않겠다”며 강경 대응 방침을 밝혔다. 박수현 선대위 공보단장은 이날 기자회견을 통해 “이재명 예비후보가 김혜경 여사에게 욕을 하는 내용의 딥페이크 영상을 제작·유포하려는 시도에 대한 제보가 접수됐다”며 “이는 국민의 올바른 선택을 방해하는 민주주의의 적”이라고 강조했다. 선대위는 해당 영상이 과거 공개된 이 후보의 음성을 다른 영상과 합성해, 마치 김 여사에게 험한 말을 하는 것처럼 꾸며졌다고 설명했다. 선대위는 "수사기관 조사 후 귀가한 김 여사를 이 후보가 험악한 호칭으로 나무라는 상황으로 설정됐다"고 밝혔다. 선대위는 "이 같은 딥페이크 영상이 실제로 유포될 경우, 즉시 유포중지 가처분 신청과 고발 조치 등 모든 법적 수단을 동원하겠다"며 "허위조작정보에 대해 끝까지 법적 책임을 묻겠다"고 경고했다. 이어 "지금부터 시작되는 진짜 대한민국에는 어떤 허위조작정보도 용납되지 않는다"며 "신속하고 엄정한 대응으로 민주주의 질서를 훼손하는 행위를 막겠다"고 강조했다.

2025.04.11 16:36최이담

AI 생성물 투명성 표준 나온다...딥페이크 범죄 방지

한국정보통신기술협회는 인공지능(AI) 생성물의 오남용으로 인한 디지털 범죄 등 사회적 혼란을 막기 위해, 인공지능 기반 합성 콘텐츠 인공지능 기반 합성 콘텐츠의 투명성 확보를 위한 요구사항 표준화를 추진한다고 밝혔다. 최근 경찰청 통계자료에 따르면 AI 기술을 악용한 허위 영상물(딥페이크) 제작 및 유포 등의 디지털 성범죄는 2024년 812건으로 2023년 168건과 비교했을 때 약 5배 증가했다. 이런 범죄가 폭증하고 있는 배경에는 생성형 AI 기술 발전에 따라 누구나 쉽게 '현실보다 더 현실 같은' 콘텐츠를 생성할 수 있게 되면서 특정 콘텐츠가 사람이 직접 창작한 생성물인지 AI를 통한 생성물인지 출처를 식별하기 어렵다는 점도 한몫을 하고 있다. 정부는 올해 제정된 AI기본법을 내년부터 시행할 예정으로 생성형 AI가 만든 생성물에는 인공지능이 생성한 결과물임을 표기하는 'AI 표시 의무제'를 도입하기로 했다. 협회는 AI 생성물의 투명성 연구를 지속적으로 진행해왔으며, 지난 1월 '인공지능(AI) 워터마크 기술 동향 보고서'를 발간했다. 또한 AI 생성물의 무분별한 악용을 방지하고자 '인공지능 기반 합성 콘텐츠' 표준화를 추진한다. 이를 통해 TTA는 인공지능 생성물 투명성 인공지능 생성물 투명성 관련 메타데이터, 워터마크 방식 등 투명성 정보 표시 기술, 인공지능 생성물 정의, 각 생명 주기별 이해관계자 및 요구사항 등을 제공할 예정이다. 손승현 협회장은 “인공지능 생성물 활용 범위가 사회 전반으로 확대되고 있는 만큼, 사회 전체의 안전한 정보 유통에 있어 인공지능 생성물에 대한 투명성은 보다 중요해지고 있다.”며, “이번 표준화를 통해 인공지능 생성물 활용성 확대와 신뢰할 수 있는 정보 유통 환경 조성에 기여할 수 있을 것”이라고 밝혔다.

2025.04.08 11:36박수형

"AI 콘텐츠 표시 안 하면 벌금"…스페인, AI 규제 강화

스페인 정부가 인공지능(AI)으로 생성된 콘텐츠를 표시하지 않고 사용하는 기업에 벌금을 부과한다. 12일 테크크런치 등 외신에 따르면 스페인 정부가 딥페이크 등 생성형 AI 악용 확산 방지를 위해 이같은 법안을 승인했다. 현재 하원 승인을 기다리리고 있는 상태다. 법이 최종 승인되면 유럽연합(EU) 국가 중 처음으로 스페인이 해당 법을 시행하는 국가가 된다. 법안 내용에 따르면 AI로 생성된 콘텐츠를 적절히 표시하지 않는 행위는 '중대한 위반'으로 분류된다. 위반 시 최대 3천500만 유로(약 555억825만원) 또는 전 세계 연간 매출 7%에 해당하는 벌금이 부과된다. 이 법안은 취약한 집단을 조종하는데 사용될 수 있는 '서브리미널 기술' 사용을 금지한다. 서브리미널 기술은 인지할 수 없는 소리나 이미지를 통해 사람을 은밀하게 조종하는 방식이다. 도박을 유도하는 챗봇이나 어린이들에게 위험한 행동을 하도록 부추기는 이미지가 대표 예시다. 스페인 정부는 AI로 행동이나 특성 기준으로 사람을 분류하거나 혜택 제공 여부를 결정, 범죄 위험성을 평가하는 행위를 금지하는 것도 법안에 포함했다. 다만 국가 안보를 위해 필요한 경우 공공장소에서 실시간으로 생체 정보를 인식하고 감시하는 것은 당국의 허가를 받은 경우에만 예외적으로 허용된다. 법안 시행은 스페인 AI 감독 기관인 AESIA가 주관한다. 개인정보 보호와 범죄, 선거, 신용평가, 보험, 자본시장과 관련된 사항은 각 분야 전문 감독 기관이 관할할 예정이다. 오스카 로페즈 스페인 디지털전환부 장관은 "이 법안은 고위험 AI 시스템에 대한 엄격한 투명성 의무를 부과하기 위한 것"이라고 밝혔다.

2025.03.12 09:04김미정

"AI가 만든 가짜 내 목소리, AI가 잡아냅니다"

[바르셀로나(스페인)=박수형 기자] 딥페이크는 AI 발전에 따른 대표적인 사회 부작용 사례로 꼽힌다. 딥페이크로 생성된 영상물은 성범죄 논란을 일으켰고, 최근 딥페이크로 감쪽같이 속인 지인의 목소리에 보이스피싱 범죄가 문제로 떠올랐다. 딥페이크 음성, 즉 딥보이스는 결국 사람이 감별할 수 없는 가짜 사람 목소리가 문제인 셈인데 AI로 만들어진 역기능을 AI로 해결하려는 시도가 이목을 끈다. MWC25에 '안심 지능'을 주제로 전시관을 꾸린 LG유플러스는 안티딥보이스 체험 부스를 마련했다. 전시 담당자 설명에 따라 “제안서 최종본은 이메일로 보내드리겠습니다”고 읽으니 AI가 목소리를 분석한 뒤 곧장 “사람입니다”고 답한다. 반면 기계가 읽어낸 문장은 곧장 붉은 경고등이 켜지며 “주의하세요, AI로 생성된 음성입니다”고 통화 종료를 유도한다. 크게 대단한 기술처럼 보이지 않더라도 휴대폰 화면에 퍼지는 붉은 화면과 경고음 하나로 한 개인의 상실감은 물론 경제적 피해를 막을 수 있는 효과적인 방법이다. LG유플러스의 익시오 기반으로 기계음과 사람 목소리를 구분하는 것인데, 전시 담당자는 “합성된 음성에서 발생하는 주파수의 노이즈를 찾아내며 가짜 목소리를 감별하는 것”이라고 설명했다. 그는 또 “TTS로 생성되는 발화가 발전하더라도 이를 감지하는 기술은 데이터 학습에 따라 더욱 고도화될 것”이라며 “현재 기계 목소리 인지율은 최소 95% 이상이며 더욱 높아질 수 있다”고 덧붙였다.

2025.03.04 01:12박수형

딥브레인AI, 딥페이크 탐지 솔루션 GS인증 1등급

딥브레인AI가 자사 소프트웨어(SW)로 국가인증을 받았다. 딥브레인AI는 딥페이크 탐지 솔루션으로 굿소프트웨어(GS) 1등급을 획득했다고 19일 밝혔다. GS인증은 국내 SW 품질 경쟁력 향상과 유통 활성화를 위해 도입된 국가 공인 인증 제도다. 실제 운영 환경을 모사한 테스트 환경에서 기능적합성, 호환성, 사용성, 신뢰성, 보안성 등 9개 항목을 종합적으로 평가한다. 딥브레인AI의 딥페이크 탐지 솔루션은 ▲영상 탐지 ▲이미지 탐지 ▲음성 탐지를 바탕으로 페이스 제너레이션, 페이스 스왑, 립싱크 합성 등 다양한 유형의 조작된 합성 콘텐츠를 탐지한다. API로 타 플랫폼과 연동 가능하다. 이에 대량의 데이터도 쉽게 탐지할 수 있다. 픽셀 차이로 딥페이크 여부를 판별하는 기술력과 레퍼런스 기반으로 국내서 처음 관공서 대상 상용화를 진행한 바 있다. 딥브레인AI은 지난해 11월에 딥페이크 자동 탐지 솔루션을 서비스형 소프트웨어(SaaS)로 공개하기도 했다. 사용자가 찾고자 하는 인물의 특징이나 키워드 등 정보를 입력하면, 유튜브와 틱톡, 엑스, 텔레그램 등 다양한 플랫폼을 자동으로 탐지한다. 불법 성인 영상물의 경우 2차 피해 방지를 위해 노출된 부분을 블러 처리하는 등 윤리적인 기준까지 강화했다. 장세영 딥브레인AI 대표는 "딥페이크 관련 범죄 확산 방지에 보탬이 되고자 지난해는 기업, 관공서 등을 대상으로 딥페이크 탐지 솔루션을 무료 지원한 바 있다"며 "이번 인증을 계기로 인공지능(AI) 순기능을 위한 기술 개발에 더욱 힘쓰겠다"고 말했다.

2025.02.19 10:29김미정

작년 딥페이크 성범죄영상물 시정요구 3배 이상 늘었다

방송통신심의위원회가 지난해 시정요구를 내린 딥페이크 성범죄영상물이 전년 대비 3.2배 가량 늘어난 2만3천건에 달하는 것으로 나타났다. 방통심의위는 이를 두고 텔레그램과의 핫라인을 구축하는 등 생성형AI 기술을 악용한 딥페이크 성범죄영상물의 유통을 조기에 차단하기 위해 적극 대응한 결과라고 설명했다. 전체 디지털성범죄정보에 대한 시정요구 건수도 9만4천185건으로 전년 대비 약 41% 증가했다. 방통심의위는 “생성형AI 기술을 악용한 딥페이크 성범죄영상물 유포와 불법촬영을 통한 아동청소년 성착취 사례 등이 지속적으로 발생할 우려가 있다”며 “향후에도 다각적 조치를 통해 유사한 피해가 재발되지 않도록 적극 대응할 예정”이라고 밝혔다.

2025.02.12 14:48박수형

네이버·카톡이라 믿었는데…'레드' 적힌 URL서 중고거래 했다가 '발등'

최근 중고거래 사기 조직이 새로운 방식으로 피해자를 속이는 사례가 급증하고 있는 것으로 나타났다. 기존에는 방치된 카페에 허위 게시글을 올려 피해자를 유인하던 단순한 수법이 주를 이뤘으나, 최근에는 사기 조직이 직접 허위 카페를 개설해 정교한 방식으로 범행을 저지르는 정황이 확인됐다. 27일 업계에 따르면 중고거래 사기 조직은 우선 중고거래 카페를 개설한 뒤 정상적인 중고거래를 가장한 허위 게시글을 게시한다. 피해자가 해당 카페에 가입해 거래 관련 문의를 하면 "현재 바쁘다"는 핑계로 카카오톡 등 메신저로의 추가 연락을 유도한다. 이후 피해자에게 네이버 안전거래 시스템을 위장한 가짜 결제 사이트 링크를 전송한다. 가짜 결제 사이트에 접속한 피해자는 이름, 전화번호, 주소 등의 개인정보를 입력하게 되고, 사기 조직이 제공한 계좌로 계좌이체를 요구받는다. 중고거래 사기 조직은 피해자에게 특정 시간까지 입금을 유도하며 입금 후 연락을 끊는다. 또 "계좌 번호가 잘못됐다", "추가 세금을 납부해야 한다" 등의 이유를 대며 추가 송금을 요구하는 방식으로도 피해를 확대시키고 있다. 디지털 범죄 대응 전문기업 라바웨이브에 따르면 대부분의 허위 중고거래 카페는 '레드(red)', '블루(blue)', '그린(green)' 등과 같은 영어 색상 단어와 5자리 영문 및 숫자 조합으로 구성된 URL을 사용하는 공통점이 있다. 아울러 대부분의 허위 중고거래 카페는 2024년 12월에 개설된 것이 특징이다. 카페 이름에는 '중고', '명품' 등 거래와 관련된 주요 키워드가 포함되는 경우가 많다. 하지만 일부 카페는 이러한 규칙을 따르지 않거나, 오래전에 개설된 카페를 재활용해 사기 범죄에 활용하는 경우도 있다. 이는 중고거래 사기 조직이 점점 더 교묘하고 다양화된 방식으로 운영되고 있음을 시사한다. 라바웨이브는 신종 중고거래 사기 수법 피해 예방을 위해 ▲2024년 12월 개설된 카페 또는 URL에 영어 색상 단어가 포함된 카페 주의 ▲의심스러운 링크 클릭 및 접속 자제 ▲거래 시 반드시 공식 채널을 통해 결제 ▲거래 전 판매자 및 거래 플랫폼의 신뢰성 확인을 제시했다. 라바웨이브 관계자는 "중고거래 사기 수법은 계속 진화하고 있다"며 "특히 해외에 거점을 둔 범죄 조직이 중고거래 사기뿐만 아니라 몸캠피싱, 보이스피싱, 딥페이크 사기, 큐싱 등 다양한 디지털 범죄를 동시에 자행하고 있어 각별한 주의가 필요하다"고 설명했다. 이어 "자사 24시간 모니터링, 카이스트(KAIST)와의 공동 기술 개발, 수사기관 협업 등을 통해 진화하는 디지털 범죄에 대응하고 피해를 방지하는 데 주력하고 있다"고 강조했다.

2025.01.27 09:00장유미

라온시큐어, 모바일 앱으로 딥페이크 탐지 문턱 낮춘다

라온시큐어가 누구나 쉽게 인공지능(AI) 기술로 딥페이크 탐지할 수 있는 기술을 공개했다. 라온시큐어는 딥페이크 동영상이나 이미지를 탐지할 수 있는 기능을 자사 개인용 모바일 백신 앱인 '라온 모바일 시큐리티'에 탑재했다고 20일 밝혔다. 라온 모바일 시큐리티는 AI 기반 스미싱 탐지와 악성앱 탐지, 해킹 방지 등을 제공하는 개인용 모바일 백신 앱이다. 라온시큐어는 이 앱에 자체 개발한 AI 기반 딥페이크 탐지 기능을 추가했다. 앱 사용자는 라온 모바일 시큐리티로 스마트폰에 저장된 동영상이나 이미지, 유튜브 링크 등을 올리면 해당 콘텐츠가 생성형 AI로 조작된 딥페이크일 가능성이 얼마나 높은지 몇 초 만에 알 수 있다. 해당 딥페이크 탐지 기술은 합성 얼굴과 실제 얼굴을 비교·분류하는 AI로 작동한다. 이 AI가 안면 추출, 주파수 계열 변환 등의 기술로 얼굴 형태와 눈, 입 모양의 부자연스러움을 찾아내는 여러 모델을 사용해 딥페이크 가능성을 계산한다. 라온시큐어는 추후 실시간 딥페이크 탐지 서비스도 라온 모바일 시큐리티에 추가할 계획이다. 이를 통해 영상통화 시에도 상대방이 조작된 얼굴로 지인을 사칭하는지 실시간으로 탐지할 수 있게 된다. 현재 라온 모바일 시큐리티는 딥페이크 탐지 기능을 포함해 무료로 제공하고 있다. 향후 유료 딥페이크 탐지 기능도 제공할 예정이다. 라온시큐어는 자사 딥페이크 탐지 기술을 기업용 애플리케이션 프로그래밍 인터페이스(API) 서비스로도 제공한다. 목소리로 타인을 사칭하는 딥보이스 탐지 기술도 개발하고 있다. 향후 금융기관, 공공기관, 이동통신사를 비롯해 다양한 기업에 딥페이크와 딥보이스 기술을 제공해 임직원이나 고객 사칭으로 인한 기업의 피해와 고객의 피해를 방지할 수 있도록 할 방침이다. 또 기업들이 라온시큐어 기술로 딥페이크 생성물을 구별해 내 AI 생성물 표시 의무화 규정을 지킬 수 있게 할 계획이다. 라온시큐어는 생성형 AI 기술이 점차 고도화되고 쉽게 접할 수 있는 만큼 심각한 문제로 받아들여지고 있는 딥페이크 범죄 근절에 동참하고자 딥페이크 탐지 기술을 개발했다. 실제 지난해 1~11월까지 경찰청에 접수된 딥페이크 성범죄 신고 건수는 1천여 건에 육박했다. 이에 정부에서는 딥페이크 범죄 예방책 등을 담은 AI 기본법 제정에 속도를 내고 있다. 이정아 라온시큐어 대표는 "최근 정보자산과 고객보호가 절실한 고객사 요구에 부응하기 위해 딥페이크 탐지 기술을 개발했다"며 "라온 모바일 시큐리티를 통한 딥페이크 탐지 기술 제공을 시작으로 딥보이스 탐지, 실시간 탐지 등 기술 고도화를 지속해 범죄 예방에 기여하겠다"고 강조했다.

2025.01.20 10:16김미정

방심위 "딥페이크 성범죄물 대책 발표 이후 시정요구 2.5배↑"

방송통신심의위원회는 지난 8월 28일 '딥페이크 성범죄영상물 종합대책' 발표 이후 후속조치로 시정요구 건수가 큰 폭으로 증가했다고 7일 밝혔다. ▲피해 신고 본격 접수 ▲주요 유통경로 '집중화 모니터링' ▲'강화된 3단계 조치'에 따라, 딥페이크 성범죄영상물 월평균 시정요구 건수는 8월(1천519건) 대비 약 2.5배(3천789건) 수준까지 증가했다. 방심위는 급증하는 딥페이크 성범죄영상물에 대한 신속한 조치가 무엇보다도 중요하다고 강조하며, '25년에도 상시 대응체계를 유지하기 위해 관련 대책을 계속 시행할 방침이라고 말했다. 또한 방심위는 딥페이크 성범죄영상물 유통 및 확산 방지를 위한 추가 대책들의 진행 경과에 대해서도, ▲텔레그램과의 핫라인 구축 및 시정요청 협력 대상 플랫폼 등재, ▲피해자 지원기관 및 교육청 등 협력체계 구축, ▲민간기업 등을 통한 '피해구제' 기능 홍보, ▲딥페이크 성범죄 국제사회 핵심 의제화, ▲정책 토론회, 글로벌 플랫폼 사업자 협력회의를 계획대로 완료했다고 설명했다. 아울러, 올해에는 ▲청소년 대상 디지털성범죄 예방 교육 콘텐츠를 제작할 예정이라고 밝히며, ▲디지털성범죄특별위원회 신설 및 전문 인력 증원 등에 필요한 민생 예산 추가 지원을 다시 한 번 요청했다.

2025.01.07 11:32안희정

해킹·랜섬웨어 '활개'…새해 공격관리·신원인증 산업 뜬다

밀키트는 손질된 식재료와 양념을 알맞게 담은 간편식입니다. 누구나 밀키트만 있으면 별도 과정 없이 편리하게 맛있는 식사를 할 수 있습니다. [김미정의 SW키트]도 마찬가지입니다. 누구나 매일 쏟아지는 소프트웨어(SW) 기사를 [김미정의 SW키트]로 한눈에 볼 수 있습니다. SW 분야에서 가장 주목받는 인공지능(AI)과 보안 이야기를 이해하기 쉽고 맛있게 보도하겠습니다. [편집자주] 생성형 인공지능(AI) 등 신기술을 악용한 해킹, 랜섬웨어 급증으로 국내 기업과 기관이 큰 피해를 본 가운데 이에 대응하기 위한 기술 산업·정책이 활성화될 전망이다. 특히 기업 데이터를 보호하는 신원인증과 사이버 공격을 모니터링하는 공격표면관리(ASM) 산업 전망이 밝다는 평가가 이어지고 있다. 정책적으로는 망분리 완화 후 클라우드 보안을 위한 제로트러스트 가이드라인 중요성이 높아지고 소프트웨어자재명세서(SBOM) 의무화 추진도 본격화할 것으로 예측된다. AI 등 신기술 늘었지만…예측 불가 공격 이어져 지난해 생성형 AI 등 신기술 성장으로 인해 비즈니스 활성화가 이뤄졌지만 그만큼 새로운 사이버 공격도 증가한 것으로 나타났다. AI 악용 기술과 랜섬웨어, 딥페이크 확산으로 정보 유출 등 피해 사례가 늘어서다. 또 기업의 IT 복잡성 증가로 예측 불가형 보안 이슈가 발생하기도 했다. 이에 빅테크는 사이버 보안 강화에 나섰다. 마이크로소프트는 지난 7월 크라우드스트라이크 업데이트 오류로 인한 IT 대란 사태를 겪은 후 클라우드 보안 강화를 본격화했다. 지난해 처음 자사 핵심성과지표(KPI)에 보안을 최우선 과제로 설정했다. 구글은 사이버 공격 예방을 위해 보안 스타트업 인트리그를 인수했다. 지난해 국내 정부는 개인정보 보호 대책 마련에 힘썼다. 우선 개인정보보호위원회는 메타와 구글, 카카오 등 빅테크와의 개인정보 관련 소송을 위해 법률 전문가를 몰색하고 있다. 이르면 올 초 빅테크 소송을 전담하는 팀을 꾸릴 예정이다. "신원인증 산업 커질 것"…클라우드 ID 성장도 업계에서는 국내 정부와 기업이 개인정보 보호 강화에 나서면서 이를 위한 신원인증 산업이 성장할 것으로 봤다. 실제 미국을 비롯한 유럽연합(EU)이 개인정보 보호 강화 제도에 시동을 걸면서 신원인증 산업이 성장하고 있다. 앞서 지난 5월 유럽연합(EU)에서 발의한 전자신원 및 신뢰서비스에 관한 법률에 따르면 2026년까지 모든 EU 회원국은 시민에게 디지털 신원 지갑을 제공해야 한다. 2030년까지 EU 시민 전원이 디지털 신원을 갖는 것을 목표로 한 법안이다. 한 보안업계 관계자는 "미국과 EU의 디지털 신원인증 활성화 움직임은 곧 국내에 영향 미칠 것"이라며 "국내 정부·기업도 이에 맞는 신원인증 기술이나 제도 필요성을 느낄 것"이라고 내다봤다. 국내 기업의 서비스형 소프트웨어(SaaS) 제품 수요가 늘면서 클라우드 내 정보보호를 위한 클라우드 ID 산업도 활성화할 것이란 예측도 나왔다. 국내 기업이 SaaS를 활발히 사용하면서 클라우드 ID 채택률도 증가할 것이란 전망이다. 전 세계적으로 GDPR 등 정보보호법이 활성화하면서 기업은 데이터 접근 기록 관리와 보안 조치 강화를 위해 클라우드 ID 기술에 투자를 늘릴 것이란 설명이다. 이를 통해 기업은 데이터를 클라우드 내 안전히 보관하고 데이터 규제까지 준수할 수 있다. 올해 망분리 완화…"제로트러스트·SBOM 중요도 커져" 올해 망분리 완화 정책이 본격화하면서 클라우드·SW 시스템 보안 강화를 위해 제로트러스트 가이드라인 중요성과 SBOM 의무화 목소리가 커질 전망이다. 망분리 완화로 인한 클라우드 내 데이터 유출이나 해킹에 취약할 가능성이 높아질 수 있다는 분위기 때문이다. 이에 발맞춰 정부는 제로트러스트 모델을 한층 구체화한 '제로트러스트 가이드라인 2.0'을 이달 발표했다. 새 가이드라인에는 기업이 제로트러스트 모델을 솔루션에 도입할 때 적용하는 단계를 하나 더 넣었다. '성숙도 모델'을 추가해 기존 3단계에서 4단계로 구체화했다. 또 관련 세부역량 52가지를 새로 제시해 모델에 구체화를 더했다. 망분리 완화 후 클라우드에 들어가는 SW 복잡성이 증가하면서 이를 투명하게 확인할 수 있는 정책 마련 필요성도 제기될 전망이다. 미국처럼 국내 정부도 SBOM 의무화에 속도를 낼 가능성이 높다는 평가다. 정부는 지난해 5월 SBOM 가이드라인을 발표했지만 이를 의무화하지 않은 상태다. 순천향대 염흥열 명예교수는 지난 11월 서울 강남 섬유센터에서 열린 한 보안 컨퍼런스에서 "미국과 유럽 등 선진국들은 이미 SBOM을 통해 SW 구성 요소 취약점을 신속히 식별해 전체적인 사이버 보안을 강화하고 있다"며 "이에 발맞춰 국내 정부도 SBOM 의무화를 적극 추진해야 한다"고 강조했다. "해킹 어디서든 발생"…공격표면관리(ASM) 산업 활성화 해외 보안 업계처럼 국내서도 사이버 공격을 기존보다 넓은 범위에서 예측할 수 있는 ASM 산업이 확장할 전망이다. 최근 기업에서 클라우드뿐 아니라 원격 근무, 생성형 AI 도입 등으로 인해 공격 가능한 보안 취약점이 빠르게 늘고 복잡해졌기 때문이다. ASM은 해커가 침투할 가능성이 있는 모든 IT 경로를 미리 파악하고, 이를 체계적으로 관리해 사이버 위협을 줄일 수 있는 보안 전략·도구다. 공격 발생 후 대응하는 것에 주력하는 기존 보안 시스템과 다른 방식이다. 앞서 해외는 이미 ASM을 통해 시스템 위험 식별 구축을 진행하고 있다. 빅테크 중심으로 ASM 생태계가 확장하는 추세다. 구글은 자회사 맨디언트를 통해 ASM 스타트업 인트리그를 인수한 바 있다. 마이크로소프트도 사이버보안 포트폴리오 강화를 위해 리스크아이뷰 인수했다. 팔로알토 네트웍스도 최근 ASM 시장 진입을 위해 익스펜스네트웍스를 인수했다. 현재 한국 보안 업계에서 ASM은 극초기 단계라는 평가가 이어지고 있다. 관련 솔루션을 운영하는 기업도 AI스페라가 유일하다. 업계 관계자는 "최근 국내 기업 시스템이 인식하지 못할 수 있는 인터넷 연결 자산과 시스템에서 오는 위험 식별 필요성이 높아졌다"며 "미국 보안 추세에 맞춰 ASM 산업을 눈여겨볼 만하다"고 밝혔다.

2025.01.02 11:09김미정

"디지털 범죄 대응 새 지평"…라바웨이브, 피해자 위한 '솔루션 데모' 공개

라바웨이브가 피해자의 심리적 안정을 위해 디지털 성범죄 대응 솔루션 작동 원리를 체험할 수 있는 기술 서비스를 공개했다. 라바웨이브는 자사의 핵심 기술을 누구나 체험할 수 있는 '솔루션 데모' 서비스를 공식 홈페이지를 통해 오픈했다고 27일 밝혔다. 이 서비스는 몸캠피싱 및 딥페이크 등 디지털 성범죄 대응 솔루션의 신뢰성을 강화하기 위해 개발됐다. 기존 디지털 성범죄 대응 방식은 솔루션의 작동 원리를 구두로 설명하는 데 그쳤다. 이로 인해 피해자는 긴급 상황에서도 충분히 기술을 신뢰하지 못한 채 솔루션을 의뢰해야 하는 어려움이 있었다. 새롭게 공개된 '솔루션 데모'는 데이터인젝션, 더미데이터, 하이퍼 디텍트 등 라바웨이브의 3가지 핵심 기술로 구성돼 있다. 이 기술들은 데이터 보호 및 불법 콘텐츠 유포 방지를 위한 독자적인 특허를 바탕으로 개발됐다. 특히 하이퍼 디텍트는 AI 기반 모니터링 기술을 활용해 불법 콘텐츠를 신속히 탐지할 수 있다. 이는 몸캠피싱이나 딥페이크 같은 디지털 성범죄에 대한 피해자의 불안을 해소하고 초기 대응력을 강화하는 데 효과적이다. '솔루션 데모'는 다양한 연령대의 피해자를 고려해 사용자 친화적으로 설계됐다. 특히 미성년자와 중·노년층 피해자가 쉽게 이해할 수 있도록 단계별 안내와 간단한 메시지 구조를 제공한다. 이미 라바웨이브는 지방경찰청과의 공조 수사 및 카이스트와의 기술 협력으로 디지털 범죄 예방을 위한 연구를 지속하고 있다. 지난 11월에는 국회 기획재정위원장 표창을 수상하며 기술력을 인정받았다. 라바웨이브 관계자는 "피해자가 직접 솔루션을 체험할 수 있게 함으로써 심리적 안정과 신뢰를 제공할 수 있다"며 "디지털 범죄 근절이라는 목표를 이루기 위해 지속적으로 기술을 발전시키겠다"고 밝혔다.

2024.12.27 09:46조이환

국민 10명 중 4명 "딥페이크 가짜뉴스 판별 어렵다”

과학기술정보통신부가 딥페이크 가짜뉴스 대응을 주제로 대국민 설문조사를 진행한 결과 응답자의 41.9%가 “판별하기 어렵다”고 답했다. 9일 과기정통부에 따르면 지난 10월10일부터 약 한달간 597명이 참여한 대국민 설문조사에서 응답다의 94.5%가 가짜뉴스는 개인과 사회에 미치는 영향이 심각하다고 응답했다. 매우 심각하다고 응답한 이들이 55.9%, 심각하다고 응답한 이들이 38.5%다. 특히 딥페이크를 활용한 가짜뉴스가 일반적인 가짜뉴스보다 부정적 영향이 더 심각하다고 답한 응답자는 84.9%에 달했다. 딥페이크 가짜뉴스를 접해본 응답자는 39%였으며, 딥페이크 가짜뉴스의 악영향으로 가장 우려되는 점은 인격적 피해가 48.2%로 가장 높았다. 응답자 41.9%는 딥페이크 가짜뉴스를 판별할 수 없다고 밝혔으며, 이들은 딥페이크 확산 원인으로 법제도 미비(36.5%)를 지적했다. 피해 예방을 위한 효과적 방법으로 강력한 입법과 정책(57.6%), 정부의 정책으로 '범죄자에 대한 처벌강화(36.9%)'를 요구하는 목소리가 많았다. 송상훈 정보통신정책실장은 “딥페이크 가짜뉴스가 개인과 사회에 미치는 부정적 파급효과가 크고, 기술 발전에 따라 사실과 구별하기 어려워지고 있다는 것에 국민들이 공감하고 있다”며 “신속히 법제도를 정비할 수 있도록 방송통신위원회와 적극 협력하겠다”라고 말했다.

2024.12.09 12:00박수형

[현장] AI 악용한 사이버 공격 급증… SK쉴더스, 선제적 방어 전략 제시

"인공지능(AI) 기술의 발전으로 보안 위협도 고도화되고 있습니다. 그럼에도 불구하고 이는 선제적인 대응 전략으로 충분히 극복할 수 있습니다." 이재우 SK쉴더스 전무는 3일 서울 코엑스에서 열린 '2024 SK쉴더스 사이버 시큐리티 미디어 데이'에서 이같이 말했다. 이번 행사는 올해의 보안 트렌드를 돌아보고 내년도 주요 위협과 대응 방안을 공유하기 위해 마련됐다. SK쉴더스는 올해 가장 두드러진 보안 트렌드로 AI를 활용한 공격의 증가를 꼽았다. 딥페이크·보이스 기술이 악용돼 온라인 범죄와 허위 정보 유포가 확산됐기 때문이다. 실제로 200여 개의 학교와 공공기관이 피해를 입었다. 또 랜섬웨어의 협박 전략이 다면적으로 진화해 데이터 암호화뿐만 아니라 유출과 디도스 공격까지 병행하는 사례가 늘었다. 이호석 이큐스트 랩(EQST Lab) 팀장은 "올해 보안 사고를 보면 AI 기술이 공격의 핵심 도구로 사용되고 있다"며 "이러한 변화에 대비해야 한다"고 강조했다. SK쉴더스는 AI 보안 위협의 확대를 내년도의 가장 큰 위험 요소로 지목했다. 딥페이크와 딥보이스뿐만 아니라 거대 언어 모델(LLM)을 악용한 데이터 조작과 노출 시도가 증가할 것이라는 분석이다. 또 망분리 규제 완화로 인해 클라우드 환경에서의 권한 관리 시스템(IAM)에 대한 공격이 늘어나며 하이브리드 클라우드 환경에서의 보안 취약점이 커질 것으로 전망했다. 협력사를 노린 공급망 공격도 주요 위협으로 지적됐다. 보안 수준이 낮은 협력사를 경유한 공격이 증가하면서 원청사까지 연쇄적인 피해를 입는 사례가 많아지고 있다. 이와 함께 암호화폐 가치 상승에 따라 거래소와 개인 지갑을 대상으로 한 해킹 시도도 더욱 활발해질 것으로 보인다. SK쉴더스는 이러한 위협에 대응하기 위해 여러 선제적인 예비 방안을 제시했다. 특히 AI 특화 모의해킹 서비스를 통해 딥페이크 및 LLM 기반 공격을 사전에 시뮬레이션하고 취약점을 점검할 계획이다. 또 모니터링, 탐지 및 대응(MDR) 서비스를 통해 랜섬웨어와 같은 고도화된 공격을 실시간으로 탐지하고 초동 대응을 제공할 예정이다. 제로 트러스트 모델의 도입으로 검증된 사용자만 시스템에 접근할 수 있도록 해 IAM 권한 탈취와 클라우드 환경 위협에 대비한다는 전략이다. 이재우 전무는 "AI는 공격뿐만 아니라 방어에도 강력한 도구"라며 "핵심은 이를 어떻게 활용해 더 안전한 보안 환경을 만드는가에 달려 있다"고 밝혔다.

2024.12.03 12:14조이환

Prev 1 2 3 4 5 Next