• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
반도체
AI의 눈
디지털트러스트
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'AI 범죄'통합검색 결과 입니다. (9건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

[AI는 지금] 美 플로리다주, 오픈AI에 첫 주정부 소송…챗GPT 책임론 확산

오픈AI '챗GPT' 책임론이 미국에서 빠르게 확산되고 있다. 피해자 유족의 민사소송에 이어 주정부까지 오픈AI를 상대로 소송에 나서면서 생성형 인공지능(AI) 챗봇의 안전장치와 제품 책임을 둘러싼 공방이 본격화하는 모습이다. 2일 AP통신, 테크크런치 등 주요 외신에 따르면 플로리다주는 1일(현지시간) 오픈AI와 샘 알트먼 최고경영자(CEO)를 상대로 소송을 냈다. 생성형 AI 챗봇의 안전 책임을 둘러싸고 주정부가 직접 오픈AI를 겨냥한 첫 사례다. 주정부는 오픈AI가 챗GPT의 심각한 위험성을 알고도 이를 은폐한 채 서비스를 출시하고 공격적으로 마케팅했다고 주장했다. 챗GPT가 범죄자를 도울 수 있고 어린이에게 피해를 줄 수 있다는 내부·외부 경고를 무시했다는 게 소송의 골자다. 이번 소송은 지난해 플로리다주립대(FSU) 총격 사건이 주요 배경이 됐다. 해당 사건으로 2명이 숨지고 6명은 다쳤다. 이에 플로리다주 검찰은 지난 4월 FSU에서 발생한 총기 난사 사건 용의자가 범행 전 챗GPT로부터 조언을 받은 정황이 있다고 보고 오픈AI에 대한 수사에 착수한 바 있다. 피해자 유족도 별도 소송에 나섰다. FSU 총격 사건 희생자 티루 차바의 아내 반다나 조시는 지난달 플로리다 연방법원에 오픈AI를 상대로 손해배상 청구 소송을 냈다. 원고 측은 총격범이 범행 전 챗GPT와 광범위한 대화를 나눴으며 오픈AI가 대화 과정에서 드러난 위협 신호를 제대로 감지하지 못했다고 주장했다. 소장에는 챗GPT가 총기 특성, 범행 시간대, 범죄 파급력 등과 관련한 답변을 제공했다는 주장이 담겼다. 원고 측은 챗GPT가 총격범의 망상을 강화하고 폭력적 행동을 정당화하는 데 영향을 미쳤다고 봤다. 오픈AI는 이 사건과 관련해 "비극적인 사건이지만 챗GPT가 범죄에 책임이 있는 것은 아니다"며 "공개된 정보를 바탕으로 사실 정보를 제공했을 뿐 유해 활동을 조장하지 않았다"고 반박했다. 약물복용 사망 사건을 둘러싼 소송도 제기됐다. 지난달 약물 복용으로 사망한 미국 19세 남성 샘 넬슨의 부모는 오픈AI와 알트먼 CEO를 상대로 소송을 냈다. 부모는 챗GPT가 위험한 약물 복용과 상호작용에 관한 조언을 제공했고 이 조언이 사망에 영향을 미쳤다고 주장했다. 소장에 따르면 넬슨은 약물 사용과 관련해 챗봇에 조언을 구했다. 챗GPT는 초기에는 위험성을 경고했으나 이후 약물 상호작용, 복용량, 추가 복용 약물 등에 관한 정보를 제공한 것으로 전해졌다. 유족 측은 오픈AI가 충분한 안전성 테스트 없이 챗GPT-4o를 서둘러 출시했다고 주장했다. 이들은 손해배상과 함께 오픈AI의 건강 조언 서비스 출시 중단도 법원에 요청했다. 오픈AI는 약물복용 사망 사건에 대해서도 "챗GPT는 의료 또는 정신건강 치료를 대체하는 것이 아니다"며 "민감하고 위급한 상황에 대한 대응 방식을 계속 강화해 왔다"고 설명했다. 업계에선 이번 소송들이 AI 챗봇의 법적 책임 범위를 가를 시험대가 될 것으로 보고 있다. 기존 인터넷 플랫폼은 이용자 행위와 콘텐츠에 대해 제한적 책임을 인정받아 왔지만, 생성형 AI는 이용자 질문에 맞춰 직접 답변을 생성한다는 점에서 책임 논리가 다르게 적용될 수 있다. 특히 챗봇이 이용자의 감정과 맥락에 맞춰 공감형 답변을 제공하는 과정에서 정신적으로 취약한 이용자에게 어떤 영향을 미치는지가 쟁점으로 떠오르고 있다. 오픈AI는 챗GPT를 범용 도구로 규정하며 개별 이용자의 범죄나 자해 행위와 직접 책임을 연결하기 어렵다는 입장이다. 반면 원고 측과 플로리다주는 오픈AI가 위험을 예견할 수 있었고 제품 설계와 안전장치 미비가 피해로 이어졌다고 주장하고 있다. 제임스 어스마이어 플로리다주 법무장관은 "오픈AI와 알트먼 CEO는 내부 및 외부의 안전 경고를 무시했고 어린이들을 큰 위험에 빠뜨렸다"며 "수백만명의 플로리다 주민이 위험한 제품에 접근하도록 했다"고 말했다.

2026.06.02 09:58장유미 기자

가짜 늑구 사진에 경찰도 속는 AI 시대...허위정보 대응책은

지능화된 인공지능(AI)이 일상의 모든 영역을 파고드는 대전환의 시대, 기술의 화려한 도약만큼이나 시급한 과제는 바로 그 이면에 자리한 '디지털 신뢰'를 단단히 구축하는 일입니다. 지디넷코리아는 "AI 기술이 서 말이라도 보안으로 꿰어야 보배"라는 슬로건 아래, 약 두 달간 '2026 디지털 트러스트' 연중 기획 연재 및 캠페인을 진행합니다. 해킹·딥페이크·가짜뉴스·랜섬웨어 등 진화하는 보안 위협 속에서 단순한 기술 편익을 넘어 '안전한 AI 생태계'를 조성하기 위한 공론의 장을 마련하고, 기술과 보안이 공존하는 지속 가능한 디지털 미래의 이정표를 제시하고자 합니다. [편집자주] AI 기반 콘텐츠 생성 기술이 고도화되면서, 사실 여부를 구별하기 어려운 정교한 가짜뉴스가 빠르게 확산되고 있다. 허위 정보가 공권력 대응까지 왜곡하는 사례가 이어지지만, 이를 직접 규제할 수 있는 법적 장치는 여전히 제한적이다. 제도 공백 속에서 이용자 교육과 함께 플랫폼 책임을 강화해야 한다는 지적이 커지고 있다. 실제 현장에서는 AI로 생성된 이미지와 정보가 수사와 행정 대응에 혼선을 주는 사례까지 발생하며, 허위 정보 확산이 단순 온라인 문제를 넘어 사회적 비용으로 이어지는 양상이다. 최근 대전경찰청 사이버수사대에 따르면, 대전 오월드를 탈출한 늑대 '늑구' 포획에 혼선을 줬던 가짜 사진 유포자 40대가 지난 24일 경찰에 붙잡혔다. 그는 사파리 철조망을 빠져 나간 늑구가 오월드 네거리 인근 거리를 배회하는 모습이 담긴 가짜 사진을 만들어 유포한 혐의를 받고 있다. 인공지능(AI)을 활용해 만들어진 가짜 사진은 재난 문자 송출과 수색에까지 영향을 미치면서 수사에 혼선을 초래했다. AI를 활용한 가짜 사진에 몸살을 앓는 곳은 공권력뿐만이 아니다. 최근에는 AI로 부하 직원과 연인관계인 것처럼 제작한 사진을 사회관계망서비스(SNS) 프로필에 올린 구로구 소속 공무원이 재판에 넘겨지는 사례도 있었다. 이처럼 손쉽게 AI를 이용해 가짜 사진을 만들어 유포하는 경우가 만연해지고, 행정력 낭비로 번지면서 피해는 고스란히 약자의 몫으로 돌아가고 있다. '2025년 디지털성범죄 피해자 지원 보고서'에 따르면 피해자 1만637명을 대상으로 조사한 결과, 연령별 디지털성범죄 피해율은 1020세대가 전체의 77.6%, 성별로 보면 여성이 75.4%를 차지한 것으로 나타났다. 빛처럼 빠른 가짜뉴스 유포 속도…검증 과정은 부재 AI 생성물에 기반한 가짜뉴스의 피해 범위가 큰 이유는 유포 속도에 있다. 가짜뉴스는 사실 확인을 거치지 않은 채 SNS와 인터넷 커뮤니티를 통해 퍼져 끊임없이 확대·재생산된다. 검증 과정에 부재한 상황에서 허위 정보를 제한하는 형사 규정이 제한적이라 이를 막기는 쉽지 않은 것이 현실이다. 유튜브 등 주요 플랫폼은 허위정보 유포만으로는 가입자 정보를 제공하지 않는 경우가 있어 게시자 특정에 어려움이 발생하며, 명예훼손 등 별도의 혐의를 병행해야 신원을 알 수 있다. 미국의 디스커버리 제도를 통해 신원을 확보한 유튜버 '탈덕수용소'가 대표적이다. 디스커버리 제도는 한국 내 소송을 위한 가해자 특정의 필요성을 민사 절차로 소명해 법원을 통해 직접 소환장을 발부받는 형식으로 진행된다. 그동안에는 사실적시 명예훼손이나 모욕죄를 범죄로 보지 않는 미국 법제 특성상 정보 제공이 거부되거나 신원 확보에 장기간이 소요됐다. 또 허위정보 자체를 직접 처벌하는 형사 규정이 제한적이라는 점도 걸림돌이다. 2010년 헌재 위헌 결정 이후 후속 입법이 이뤄지지 않고 있다. 경찰이 플랫폼 사업자에게 직접 삭제 및 차단을 요청할 수 있는 범죄도 디지털 성범죄에 한한다. AI 기본법 등 현행법 허점에…플랫폼 책임 소재 대두 AI 생성물이 실제가 아니라는 점을 명확히 알 수 있도록 생산물 워터마킹 삽입 등을 규정한 'AI 기본법'이 올해 초 시행됐지만, 아직은 역부족이라는 말이 나온다. AI를 활용해 만든 생산물에 곧바로 워터마크가 적용되더라도 편집을 통해 제거 가능하기 때문이다. 전문가들은 AI 툴에 대한 접근성 확대와 알고리즘에 대한 검증 동기 약화가 원인으로, 자정능력 함양과 플랫폼에 대한 책임소재 강화가 병행돼야 한다고 입을 모은다. 김옥태 한국방송통신대학교 미디어영상학과 교수는 “AI를 활용해 신빙성 있어 보이는 가짜 사진을 만들 수 있는 툴의 접근성이 높아진 것이 원인”이라며 “청소년을 시작으로 이용자 교육을 병행하면서 (가짜 뉴스 제재에 대한) 제도 도입에 신중을 기해야 한다. 가짜 뉴스가 플랫폼을 통해 퍼지기에 이들에게 책임을 부과하는 방식이 최선일 것”이라고 말했다. 이재길 한림대 미디어스쿨 교수는 “현재의 미디어 환경에서는 가짜뉴스의 진위를 파악할 동기가 존재하지 않는다는 점이 가장 큰 문제”라면서 “SNS의 추천 알고리즘은 이용자 개개인의 입맛에 맞는 정보, 기존에 익숙하고 이용자의 가치관에 부합하는 정보만 골라서 제공한다. 이런 정보는 진위 여부를 검토하지 않고 그대로 받아들이는 경향이 있다”고 설명했다. 이어 “이용자들의 행동을 제한하는 규제가 얼마나 실효성이 있을지에 대한 의문이 남는다”며 “기계적으로나 기술적으로 문제가 되는 콘텐츠를 플랫폼에서 퇴출시키는 방안이 마련돼야 한다”고 강조했다.

2026.04.28 09:48박서린 기자

'대기업·플랫폼 해킹→피싱' 연결 고리 데이터로 나왔다

지난해 대기업·커머스 플랫폼 연쇄 해킹 사태가 어떻게 서민 금융 자산을 노린 정밀 피싱 범죄로 이어졌는지가 실제 데이터로 입증됐다. 인공지능(AI) 보안 기업 에버스핀(대표 하영빈)은 악성앱 탐지 솔루션 페이크파인더의 2025년 연간 데이터를 종합 분석한 '페이크파인더 악성앱 리포트 Vol.5'에서 '해킹-피싱' 사슬이 확인됐다고 26일 밝혔다. 리포트에 따르면 2025년 전체 악성앱 탐지 건수는 92만4419건으로 전년 보다 11.2% 감소했다. 에버스핀은 이 수치를 긍정적 신호가 아닌 '위협의 고도화'로 진단했다. 불특정 다수에게 악성앱 설치를 유도하는 양적 공세 대신, 해킹으로 유출된 실명·전화번호·구매 이력 등을 토대로 속을 가능성이 높은 대상만 골라 공격하는 방식으로 범죄 양상이 진화했다는 설명이다. 유형별로는 '전화 가로채기'가 전년 대비 24.1% 감소하고, '기관 사칭앱'도 30.1% 줄어든 반면에 '개인정보 탈취' 유형은 53% 증가하며 전체 악성앱의 34.7%를 차지하며 단일 유형 최대 위협으로 떠올랐다. 에버스핀은 이를 해킹 피해의 '2차 진화'로 분석했다. 1차 해킹으로 확보한 개인정보만으로는 금융사의 2차 인증을 뚫기 어렵기 때문에, 범죄자들이 SMS 인증번호와 신분증 이미지 등 핵심 정보 탈취를 위한 악성앱 배포에 집중했다는 설명이다. 특히 유출된 주문 내역을 활용해 '배송 지연 안내'를 사칭하는 등 피해자가 의심하기 어려운 맞춤형 메시지로 접근하는 수법이 기승을 부렸다. 개인정보 탈취형 악성앱이 3~5월에 급증한 점도 눈에 띈다. 이 시점 전후에 발생한 대규모 해킹으로 유출된 개인정보가 피싱 공격 소재로 사용되기 시작한 시기와 맞아떨어졌다. 해킹과 피싱이 더 이상 별개의 사건이 아닌 원인과 결과로 이어진 범죄 사슬임이 데이터로 입증됐다. 페이크파인더 악성앱 리포트는 에버스핀 공식 홈페이지에서 확인할 수 있다. 에버스핀 관계자는 “2025년의 해킹 대란은 범죄자들에게 어떤 앱을 만들어야 범죄가 성공할지를 알려준 가이드라인과 같았다”며 “이제는 사이버범죄의 시작점인 해킹까지 막아 개인정보를 더욱 철저히 보호해야 근본적인 피싱 방지라고 부를 수 있게 됐다”고 말했다. 이 관계자는 “기업이 고객 정보를 지켜야 하는 법적 의무가 사회 전체를 금융범죄로부터 지키는 첫 번째 방어선”이라며 “정보보호 기술 투자는 비용이 아닌 고객과 사회에 대한 가장 중요한 약속”이라고 강조했다. 에버스핀은 국내 피싱 방지 시장 점유율 1위 AI 보안 기업으로 카카오뱅크·KB국민은행·삼성카드·한국투자증권·DB손해보험·일본 SBI그룹 등 국내외 주요 금융사에 보안 솔루션을 공급하고 있다. 에버스핀은 2025년 매출 132억원을 기록하며 전년 대비 54% 성장했으며, 영업이익은 49억1000만원으로 841% 증가하는 등 고성장을 이어가고 있다. 또 일본 SBI그룹과 69개사 대상 통합 보안 계약을 체결하며 해외 시장에서도 성과를 확대하고 있다. 이와 함께 금융권 공동 조기경보 솔루션 'RTAS', 악성 SMS 차단 솔루션 '문자백신', 개인용 피싱 방지 서비스 '피싱블락'을 출시하고 PG·공공·티켓팅 등 신규 시장으로 사업 영역을 확장하고 있다.

2026.03.26 09:34주문정 기자

악성앱 깔리면 즉시 무력화…AI 피싱방지앱 나왔다

# 직장인 김모씨는 '민생회복 소비쿠폰 신청'이라는 메시지를 받고 웹사이트에 접속하자마자 자신도 모르는 사이에 깔린 악성앱에 주민등록번호와 계좌번호를 입력했다. 이어 한밤중에 본인 명의 알뜰폰 개통이 진행되더니 연이어 카드사에서 인증 문자가 날아오는 등 신용정보 도용 시도가 이어졌다. # '스미싱 차단 안내'라는 문자를 받은 박모씨는 링크를 클릭한 뒤, 단 몇 초 만에 악성앱이 설치됐고 이후 본인 인증 문자를 탈취당해 대출 연계 앱을 통한 300만원 상당의 피해를 입었다. # 중고거래 플랫폼을 이용하던 정모씨는 거래 상대방이 보낸 '신분증 인증 링크'를 열람했다가 자동으로 악성앱이 설치돼, 본인 명의 계좌가 자동이체계좌로 등록돼 수십만원을 이체당하는 피해를 보았다. 정부지원금이나 공납금 고지서 등으로 위장해 돈을 빼내가는 지능화한 악성앱을 무력화하는 피싱방치 앱이 나왔다. AI보안 기업 에버스핀(대표 하영빈)은 개인 사용자도 쉽게 사용할 수 있는 안드로이드 보안 앱 '피싱블락'을 출시했다고 1일 밝혔다. 기업과 기관 중심이었던 피싱 탐지·차단 기술이 누구나 쉽게 사용할 수 있는 일상형 보안 서비스로 확장된다. 최근 대형 포털 계정 탈취·악성앱 유포 등을 위장해 일반 사용자를 직접 겨냥한 사이버 공격이 급증하면서 피해자 규모와 파장이 확산하고 있다. 통신사·검찰·경찰 사칭은 물론 부고장·청첩장·카드 배송 등을 통해 악성앱이 설치돼 일상생활에서 발생하는 스마트폰 해킹 범죄는 신종 악성앱 제작이 쉬어 신종 악성앱이 끊임없이 배포된다. 이 때문에 기존 백신 앱이나 과거 피싱(해킹) 피해를 일으킨 악성 앱 리스트만으로 차단하는데 제한이 있었다. 에버스핀은 자체 보유한 악성앱 탐지 기술을 이용해 악성앱에 의한 피싱(해킹) 피해를 줄이고자 B2C 전용 앱 '피싱블락'을 개발했다. 피싱블락은 과거에 배포된 악성앱 뿐만 아니라 신종 악성앱까지 모두 탐지할 수 있는 화이트리스트 방식을 활용했다. AI가 실시간으로 수집한 전 세계 모든 앱마켓의 정상 앱 데이터(2천300만개 이상 정상앱 정보)와 960만개 이상의 악성앱 정보를 학습한 AI필터가 악성행위까지 정밀분석해 최종적으로 악성앱을 가려낸다. 화이트리스트 기술은 단순한 블랙리스트 방식으로는 대응이 어려운 신종 악성앱 뿐만 아니라 위변조된 사칭 앱도 사전에 차단할 수 있다. 이미 국내 수많은 금융사 앱에 탑재돼 하루 평균 1천700개의 신종 악성앱을 탐지·차단하고 있다. 피싱블락은 최초 설치 후 스마트폰에 깔린 앱을 스캔해 이후 사용자가 새 앱을 설치할 때마다 실시간으로 악성 여부를 탐지한다. 앱을 실행하지 않더라도 악성 앱이 설치되기만 하면 즉시 탐지하고 사용자에게 알림을 제공, 악성 행위 유형까지 구체적으로 설명해 사용자가 이해하고 삭제할 수 있도록 돕는다. 또 악성앱이 설치되면 등록된 가족에게 알림이 전달되는 기능을 무료로 제공해 가족의 피싱피해까지 예방하는 효과가 있다. 에버스핀은 피싱블락을 유료(월 1,320원·VAT 포함)로 공급한다. 에버스핀 관계자는 “악성앱과 배포방식이 점점 고도화하고 있어 일반 사용자가 정상여부를 구분하기 매우 어려운 수준에 이르렀다”며 “피싱블락은 사전 예방에 초점을 둔 AI 기반 탐지 시스템으로 개개인이 모바일 피싱범죄 및 금융사기를 원천적으로 예방할 수 있는 유일한 대안”이라고 설명했다.

2025.09.01 11:19주문정 기자

LGU+, 2027년 제로트러스트 구축...5년간 7천억 투자

LG유플러스가 2027년까지 제로트러스트를 완성하는 사이버 보안 체계를 구축키로 했다. 이에 따라 현재 보안 투자를 늘려가면서 향후 5년간 7천억원을 투입한다는 계획이다. 아울러 보안 체계 재정비와 함께 보이스피싱, 스미싱 예방까지 포함한 풀패키지 보안 전략을 내놓으며 통신사, 금융사, 정부 부처가 함께 참여하는 민관 협의체 구성을 공식 제안했다. 사이버 사기 대응은 단일 사업자의 노력만으로 한계에 부딪힌다는 이유다. 홍관희 LG유플러스 정보보안센터장은 29일 용산사옥에서 열린 간담회에서 이같은 보안퍼스트 전략을 공개하며 “전략적 투자로 빈틈없는 보안을 실현하고, 고객이 체감할 수 있는 보안을 제공하는 통신사로 나아가겠다"고 밝혔다. CEO 직속 보안센터로 조직 정비…5년간 7천억원 투입 LG유플러스는 지난해 CEO 직속으로 정보보안센터를 신설한 이후, ▲보안 거버넌스 ▲보안 예방 ▲보안 대응 등 3대 축을 중심으로 보안 체계를 정비 중이다. 회사는 올해 정보보호 분야에 약 828억원을 투입했으며, 이는 전년 대비 31.1% 증가한 규모다. 이 추세라면 향후 5년간 총 7천억원 규모의 투자가 이뤄지게 된다. 정보보호 전담 인력도 1년 새 86% 이상 늘린 293명 수준으로 확대했다. 정보보안센터는 독립적 위치에서 사내 보안을 총괄하며, 정보보안센터장을 맡은 홍관희 전무는 경영위원으로서 주요 의사결정에도 이미 참여하고 있다. 블랙박스 모의해킹 실시...2027년까지 AI기반 제로트러스트 도입 LG유플러스는 보안 예방 강화를 위해 외부 해커 집단을 활용한 '블랙박스 모의해킹'을 지난해 11월부터 진행 중이다. 또한 모의해킹을 다음해 상반기까지 연장하면서 지속적으로 보안 취약점을 점검할 계획이다. 홍 전무는 "국내에서 비슷한 규모를 찾기도 힘들 정도로 최장기간 모든 수단을 동원해 위험 요소를 찾는 작업”이라며 “외부에서 노릴 수 있는 공격 표면을 최소화해 고객이 안심하고 자사 서비스를 이용할 수 있도록 하는 것이 목표”라고 말했다. 보안 대응 체계는 AI 기반 실시간 관제 시스템을 중심으로 고도화한다. 특히 2027년까지 LG유플러스에 특화된 제로트러스트 아키텍처를 구축하겠다는 로드맵도 제시했다. SaaS·클라우드 환경에 대응하는 '구축-확산-안정화' 3단계 전략도 포함됐다. 악성 앱 실시간 차단…2분기 보이스피싱 4건 중 1건 탐지 기여 보이스피싱과 스미싱 피해 대응에는 '모니터링→범행 대응→긴급 대응' 3단계 체계를 구축했다. 가장 눈에 띄는 대목은 악성 앱 서버 추적 및 분석 활동이다. 이날 LG유플러스는 보이스피싱 조직이 악성 앱 서버를 통해 악성 앱이 설치돼 피해자의 스마트폰을 원격 조종하는 과정을 시연했다. 악성 앱이 설치되면, 통화 발신자 번호를 112나 검찰 등으로 조작하거나, 피해자가 걸거나 받는 전화까지 통제할 수 있다. 심지어 스마트폰 카메라·마이크 접근도 가능하다는 설명이다. 홍 전무는 “악성 앱이 설치되면 전화를 어디로 걸든 범죄 조직이 가로채게 되고, 스마트폰 카메라·마이크 등을 통해 실시간 도·감청이 가능해져, 피해자는 보이스피싱에 취약해지고 심리적으로도 위축된다”며 “시급한 보호가 절실한 상황”이라고 설명했다. LG유플러스는 악성 앱 서버에 접속한 이력을 가진 고객을 선제적으로 탐지해 알림톡을 보내고, 전국 1천800개 매장 보안상담사 또는 경찰의 대응을 연계한다. 악성 앱 감염 알림톡은 지난 6월 말부터 약 4주간 3천여 명의 고객에게 발송됐다. 아울러 올해 2분기 경찰에 접수된 전체 보이스피싱 사건 중 약 23%가 LG유플러스의 악성 앱 추적 활동을 통해 탐지된 것으로 나타났다. 이를 통해 파악된 정보는 경찰에 전달한 것으로 확인됐다. 통화 도중의 피해 방지도 강화했다. AI 통화 에이전트 '익시오'는 통화 중 보이스피싱 가능성이 감지되면 경고 메시지를 제공한다. 딥보이스로 위장된 조작 음성도 탐지 가능하다는 설명이다. 스팸문자에 포함된 악성 URL은 AI 기반 필터링을 통해 자동 차단한다. LG유플러스에 따르면 지난 5개월간 스팸 차단 건수는 1.4배 증가했다. “개별 통신사 한계…금융사·정부 포함 민관협의체 필요” LG유플러스는 이날 경찰청과의 공조 외에도, 방송통신위원회, 과기정통부, 개인정보보호위원회 등과 보안 관련 협업을 이어가고 있다고 밝혔다. 특히, 서울경찰청과는 현장 동행 탐지 활동도 함께 수행하고 있다. 다만 LG유플러스는 민생사기 범죄에 통신사 단독 대응은 구조적 한계가 있다고 짚었다. 범죄 수법이 고도화되고 있으며, 통신 외에도 유통·금융·사이버 보안 등이 복합적으로 얽혀 있기 때문이다. 이에 모든 통신사, 단말기 제조사, 금융사 등 민간 영역과 공공 영역의 유관 부서·기관이 모인 연합 전선을 구축해야한다는 입장이다. 홍 전무는 “LG유플러스는 물론, 모든 주체들의 노력이 필요한 사안이라고 생각한다”며 “주기적으로 만나고 대책을 공유하면서, 모든 국민이 안전한 생활을 영위할 수 있도록 해보자”고 제안했다.

2025.07.29 10:21진성우 기자

딥페이크 사기, 상반기 피해만 4억 달러…인증 체계 뚫렸다

딥페이크 기술이 실제 음성·영상·이미지를 정교하게 조작하는 단계로 진화하면서 이를 악용한 사기 수법이 대규모 금전 피해를 초래했다는 조사 결과가 나왔다. 9일 서프샤크에 따르면 올해 상반기 딥페이크 기반 사기로 발생한 피해는 총 4억1천만 달러(한화 약 5천600억원)로 집계됐다. 이는 지난해 전체 피해액인 3억5천900만 달러(한화 약 4천900억원)를 초과하는 수치로, 지난 2019년부터 5년간 누적 피해액인 1억2천800만 달러(한화 약 1천760억원)의 세 배를 넘는다. 가장 피해가 컸던 사기 유형은 유명인을 사칭해 투자 사기를 유도하는 방식이다. 그 다음으로는 기업 임원을 음성이나 영상으로 사칭해 자금을 이체하게 만든 수법이 뒤를 이었다. 생체인증 시스템을 우회한 대출과 연애 감정을 이용한 로맨스 스캠 피해도 주요 유형으로 나타났다. 전체 피해 가운데 기업은 약 40%, 개인은 약 60%의 피해를 입었다. 인도네시아에서는 인공지능(AI) 생성 이미지를 활용해 수많은 가짜 계좌가 개설됐고 허위 대출 신청도 시도돼 국가 단위 피해 우려가 제기됐다. 홍콩에서는 은행 지점장이 임원을 사칭한 AI 음성 통화에 속아 거액을 이체하는 사고가 발생하기도 했다. 개인을 겨냥한 수법도 한층 정교해졌다. 딥페이크 기술로 외모를 조작한 인물을 통해 연애 관계를 맺은 뒤 가상화폐 투자로 유도한 사기 사건으로 인해 수십 명이 체포됐다. 조지아 트빌리시에서는 유명인 딥페이크 광고와 조작된 투자 플랫폼을 결합해 수천 명이 피해를 입는 대형 사건이 보고됐다. 전체 딥페이크 사건을 유형별로 보면 사기 목적이 31%로 가장 많고 음란 콘텐츠 생성이 23%, 정치 목적 활용은 22%였다. 사건 발생 건수는 올해 상반기 기준 580건으로, 지난해 전체 대비 약 4배 증가했다. 서프샤크는 "딥페이크 기술이 상업화되고 접근성이 높아졌기 때문에 실제 피해 규모가 통계 수치보다 훨씬 클 가능성도 있다"며 "정부와 민간 모두의 대응체계가 시급하다"고 밝혔다.

2025.07.09 16:09조이환 기자

프로파일러AI챗봇, 범죄자와 대화하고 잠복수사

“부모님이 집에 계시니? 아니면 혼자 놀고 있니?” 어떤 어른이 꼬마에게 문자 메시지를 보냈다. 이 어른은 소아성애자다. 사춘기에 접어들지 않은 어린이에게 강한 성적 욕망을 느끼는 성인을 소아성애자라 한다. “저 혼자 게임하고 있어요. 엄마와 아빠는 모두 일하러 나갔어요.” 꼬마가 답했다. 이 꼬마는 진짜 사람이 아니다. 아동 인신 매매범을 잡으려고 만든 인공지능(AI) 챗봇이다. AI 챗봇 프로필에는 소년 사진이 있다. 꼬마는 미국인 초등학생으로 설정됐다. 외동아이다. 2개 국어를 할 줄 안다. 게임하길 즐긴다. 수줍은 성격이라 여자아이를 사귈 때 특히 힘들어한다. 꼬마의 부모는 자식이 소셜미디어(SNS)를 못쓰게 한다. 부모는 에콰도르에서 이민 왔다. 부모 역시 가상 인물이다. 미국 잡지 와이어드는 17일(현지시간) 미국 경찰이 범인을 잡고자 AI 챗봇으로 범죄자와 대화한다고 정보기술(IT) 매체 404미디어를 인용해 보도했다. 미국 매시브블루라는 회사가 이 AI 챗봇 '오버워치(Overwatch)'를 경찰서에 판매하고 있다. 마이크 맥그로 매시브블루 공동창업자는 “인신 매매 피해자를 돕는 동시에 범죄자를 법의 심판대에 세우는 게 우리 목표”라고 말했다. 미국 경찰은 “오버워치로 체포한 사람은 아직 없다”면서도 “AI 챗봇은 수사를 돕는 도구”라고 평가했다. 그러면서 “인신 매매범과 마약 밀매범을 잡으려면 다양하게 접근해야 한다”고 설명했다. 매시브블루에 따르면 오버워치는 SNS를 살펴보다 용의자를 추적한다. 미국 3개 도시 댈러스·휴스턴·오스틴에서 24시간 활동해 인신 매매범 3천266명을 찾았다. 4분의 1은 인신 매매 대형 조직에 속했고, 15%는 청소년을 사고팔려는 것으로 나타났다. 매시브블루는 어떻게 식별했는지와 그들의 개인정보는 밝히지 않았다.

2025.04.19 08:00유혜진 기자

"악성 이미지 생성 차단"…MS, 생성형 AI 악용 사이버범죄 법적조치 실시

마이크로소프트가 챗GPT, 달리(DALL-E) 등 생성형 인공지능(AI) 서비스를 악용한 사이버 범죄자들에 대해 법적 조치를 시작했다. 이들은 AI의 안전 제어 장치를 우회해 공격적이고 유해한 콘텐츠를 생성하는 데 활용한 것으로 밝혀졌다. 마이크로소프트 디지털 범죄 부서(DCU)는 13일 공식 홈페이지를 통해 AI 서비스의 안전성과 무결성을 보장하기 위해 법적 조치를 취하고 있다고 밝혔다. 발표 자료에 따르면 마이크로소프트는 지난해 7월 이번 사건을 발견했으며 이후 지속적인 조사와 함께 보안 조치를 강화했다고 전했다. 사이버 범죄자들은 애저 오픈AI 서비스 등 AI 플랫폼을 표적으로 삼아 공격을 감행했다. 이들은 공개 웹사이트에서 수집한 애저 API 키와 고객 인증 정보를 탈취한 뒤 이를 활용해 AI 모델의 안전장치를 우회했다. 이후 안전 장치를 우회한 AI 모델을 악용해 사이버 범죄 도구를 개발해 판매한 것으로 알려졌다. 조사 과정에서 발견된 사이버 범죄 도구 중 하나인 de3u는 비전문가도 유해 콘텐츠를 AI로 생성할 수 있는 방식으로 설계된 것으로 나타났다. 이 도구는 달리3 등 이미지 생성 도구를 통해 유해한 이미지를 대량으로 생성하는 데 주로 악용된 것으로 드러났다. 이 밖에도 스피어피싱, 허위 정보 유포 등 추가 사이버 범죄에 이용됐을 것으로 추측되고 있다. 마이크로소프트는 이 사건을 발견한 직후 이들의 애저 서비스 접근을 철회하고, 새로운 보안 대책을 도입했다. 또한 해당 범죄 활동이 중점적으로 발생한 웹사이트를 압수하고, 법원 명령을 통해 관련 증거를 확보했다. 더불어 추가적인 사용자 피해를 방지하기 위해 API 키의 안전성을 점검하고, 추가적인 인증 절차를 도입했다. 마이크로소프트 측은 이러한 위협 행위에 대해 강력히 대응하며 유사한 사건을 방지하기 위한 새로운 방안을 모색하고 있다고 밝혔다. 또 AI 기술이 안전하고 긍정적인 방향으로 활용될 수 있도록 지속적으로 노력할 것이라고 강조했다. 스티븐 마사다 마이크로소프트 DCU 법무 담당 어시스턴트는 "DCU는 약 20년간 사이버 범죄자를 저지하기 위해 노력해 왔다"며 "앞으로도 AI를 무기화하려는 조직에 법적 조치를 취하고 전 세계 공공 및 민간 부문의 다른 사람들과 협력해 모든 AI 플랫폼이 유해한 남용으로부터 안전하게 유지되도록 역할을 계속할 것"이라고 밝혔다.

2025.01.13 10:45남혁우 기자

MS, AI 악용 차단에 나선다…"2025년은 더욱 위험할 것”

마이크로소프트가 생성형 인공지능(AI) 도구 악용을 막기 위한 시스템 개발과 대책 마련에 나섰다. 12일 포브스에 따르면 마이크로소프트는 지난 10일 해커가 AI 도구를 악용해 사이버 공격에 활용되는 사례를 막을 것이라고 공식 홈페이지를 통해 밝혔다. AI를 활용한 악성 활동을 차단하기 위해 강화된 안전장치를 개발하고 대응 조치를 마련할 계획이다. 마이크로소프트는 신년에도 사이버 위협 행위자가 AI 도구를 악용해 범죄 저지를 확률이 높다고 봤다. 포브스도 신년 AI 도구 악용 사례는 위협적일 것으로 예측했다. 실제 미국 연방수사국(FBI)도 "빠르게 진화하는 AI 위협에 대비해야 한다"고 발표했다. 파이낸셜타임스도 "AI를 활용한 메일 피싱 공격이 더욱 정교해질 것"이라고 보도한 바 있다. 마이크로소프트 스티븐 마사다 디지털범죄유닛 책임은 "최근 사이버 위협 행위자가 고객 공개 정보를 스크랩해 생성형 AI 서비스에 접근, 서비스 기능을 의도적으로 변경한다"고 설명했다. 또 "해당 고객 정보를 다른 해커들에 재판매한 사실도 확인했다"고 덧붙였다. 이에 마이크로소프트는 자사 AI 서비스와 오픈AI 챗봇 '챗GPT'와 이미지 생성기 '달리' 악용 사례 방지에 힘쓸 것이라고 발표했다. 다만 구체적인 악용 사례 방지 대책과 시스템 개발 계획에 대해선 언급하지 않았다. 마이크로소프트는 "일반 사용자는 생성형 AI 도구를 활용해 창의적 표현과 생산성을 올린다"며 "이런 도구는 불행하게도 혁신을 악용하려는 행위자들을 동시에 끌어들인다"고 지적했다. 그러면서 "2025년은 이런 상황을 더 악화할 것"이라며 "안전벨트를 단단히 매야 할 때"라고 덧붙였다.

2025.01.12 17:00김미정 기자

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

인식 개선 노력 지속, 정교한 실행력·AI 대책 미흡…게임 B학점

'변화'냐 '변질'이냐...디캠프 내부 갈등 격화

AI가 기사 쓰는 시대, 기자의 자리는 어디인가

삼성 파운드리, 미세공정 우위·전력 비용 효율 '투트랙' 공략 나섰다

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.