검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'페이크'통합검색 결과 입니다. (56건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

방미심위, 'AI·자율규제'로 20만건 심의 적체 뚫을까

고광헌 방송미디어통신심의위원회 위원장을 필두로 닻을 올린 방미심위 앞에 '심의 적체'라는 숙제가 놓였다. 방미심위 전신인 방송통신심의위원회 기능이 중단되며 올해 1분기 기준 마약, 도박, 딥페이크 성 착취물 등 심의물은 20만 건 넘게 쌓였다. 고 위원장은 지난 16일 취임식에서 “심의의 기준과 방식, 규제의 실효성을 시대 변화에 맞게 점검하고 개선해야 한다”며 “불법 정보를 지금보다 더 신속하게 차단하는 대응 체계를 마련하겠다”고 밝히며 AI 기술 활용을 구체적 방안으로 제시했다. 16년 새 심의 대상 12배 늘었는데 인력은 2배 증원 고 위원장이 짚었듯 직원이 하나하나 심의물을 보고 처리하는 방미심위의 개별 확인 방식은 늘어난 심의물을 대응하기엔 역부족이다. 지난 1일 고 위원장 대상 국회 인사청문회에선 방미심위 심의 시스템의 구조적 문제가 드러났다. 이주희 더불어민주당 의원은 “통신 심의 건수는 2008년 약 3만 건이었는데, 2024년 약 35만 건으로 12배가량 증가했고, 직원 1인당 담당 심의 건도 약 8배가 증가했다. 반면 인력은 그 사이 2배 정도밖에 늘지 않았다”고 말했다. 그러면서 심의 적체 해결과 신속한 심의를 위해 구조의 변화가 필요하다고 짚었다. 이 의원은 “인력을 확충하고 심의 횟수를 늘리는 것도 중요하지만 방미심위가 수십만 건을 일일이 들여다보는 심의 구조는 물리적인 한계에 봉착했다”고 지적했다. “AI 도입도 결국 사후 처리...사전 차단 방식으로 패러다임 변화해야” 고 위원장이 언급한 AI 기술 도입이 심의 적체의 해결 방안이 될 수 있는지에도 의문이 제기됐다. 방미심위가 최형두 국민의힘 의원실에 제출한 자료에 따르면, 방미심위 AI 심의는 오식별 문제, 정상 콘텐츠 차단 사례 등이 발생하고 있다. 최 의원은 “방미심위가 진행하는 DNA 필터링 등 AI 심의는 식별률이 저조하고 기술 수준이 빅테크 기업의 콘텐츠 관리 알고리즘에 비해 뒤처져 오판율이 높다”고 꼬집었다. 이에 고 위원장은 “미흡한 AI 기술을 고도화하겠다”고 답했으나 한번 퍼지면 영구 삭제가 어려운 디지털 유해 콘텐츠 특성상 AI든 사람이든 이미 심의물이 유통된 후 조치하는 기존 '사후 처리' 시스템은 심의물 차단의 근본적 대책이 될 수 없다는 우려가 제기됐다. 방미통위는 '어떻게 심의 적체를 해결할까'와 더불어 '어떻게 심의 적체를 만들지 않을까'도 고민해야 하는 시점이다. 정치권에선 플랫폼사가 자체 알고리즘과 유해 정보 확산 방지 시스템으로 선제 조치하면, 국가가 그걸 감시하는 협력 체계 등 '사전 차단'으로의 심의 체계의 전면적 개편이 필요하다는 제언이 나왔다. 한민수 더불어민주당 의원은 “방미심위에서 네이버, 구글, 메타 등 플랫폼 사업자와 협력 체계를 보다 원활하게 구축하면 불법 정보에 대한 정식 심의 절차에 앞서 자율 심의를 통한 선제적 조치를 보다 강화해서 시행할 수 있다”고 강조했다. '자율규제' 실효성 의심 최 의원실 자료를 보면 방미심위는 '자율규제'를 통해 구글, 유튜브, 인스타그램 등 플랫폼사에 유해 콘텐츠 삭제 조치 등 시정 요청을 진행하고 있다. 2024년부터 지난해 상반기까지 요청 건수는 약 11만 건에 달하며, 이 중 X(엑스)가 약 5만 4802건으로 가장 높았고 페이스북 1만 2046건, 인스타그램 1만 1329건, 유튜브 8285건, 구글 1773건으로 그 뒤를 이었다. 문제는 방미심위 요청이 실제 심의물 삭제와 유통 차단으로 이어지는지 확인되지 않는 점이다. 요청 건수만 집계될 뿐, 삭제 이행률과 평균 처리 기간, 재유통 차단율에 대한 통계는 기록되지 않았다. 방미심위 규제 실효성이 의심되는 대목이다. 이해민 조국혁신당 의원은 “실무로 들어가게 되면 플랫폼사와의 협력이 제대로 구축되지 않으면 신속성이 담보되지 않는다”며 “이 부분에 대한 계획을 꼭 마련해달라”고 요청했다. 고 위원장은 플랫폼사와의 협력 강화를 공언했다. 고 위원장은 “플랫폼사와 협력해 자율규제를 강화하는 쪽으로 실질적인 효과를 보도록 하겠다”며 “협력을 강화하기 위해 방송미디어통신위원회와 협의해 대안을 마련하겠다”고 말했다.

2026.04.17 15:28홍지후 기자

진화하는 독버섯...피싱·스미싱과의 전쟁

지능화된 인공지능(AI)이 일상의 모든 영역을 파고드는 대전환의 시대, 기술의 화려한 도약만큼이나 시급한 과제는 바로 그 이면에 자리한 '디지털 신뢰'를 단단히 구축하는 일입니다. 지디넷코리아는 "AI 기술이 서 말이라도 보안으로 꿰어야 보배"라는 슬로건 아래, 약 두 달간 '2026 디지털 트러스트' 연중 기획 연재 및 캠페인을 진행합니다. 해킹·딥페이크·가짜뉴스·랜섬웨어 등 진화하는 보안 위협 속에서 단순한 기술 편익을 넘어 '안전한 AI 생태계'를 조성하기 위한 공론의 장을 마련하고, 기술과 보안이 공존하는 지속 가능한 디지털 미래의 이정표를 제시하고자 합니다. [편집자주] “이렇게 하면 으찌하니?” 보이스피싱을 소재로 다룬 개그콘서트 코너에서 자주 나오는 대사다. '황해'라는 코너가 등장한 시기는 13년 전인 2013년이다. 그 당시부터 공영방송에서 웃음 소재로 다룰 만큼 국민 누구나 공감할 소재였다는 뜻이다. 보이스피싱이 문제가 된 게 어제 오늘 일이 아니었다는 뜻으로 풀이된다. 폐지됐던 이 프로그램은 지난해 '황해 2025'라는 이름으로 리메이크 됐다. 리메이크 방송에선 "요즘은 스마트폰 세상이다. 채팅으로 사기 치는 기다"며 스미싱 소재를 꺼냈다. 음성통화를 통한 사기에서 메신저 앱을 이용한 피싱 범죄로 전환됐다는 것을 보여주는 단적인 사례다. 그 사이 보이스피싱 사기 행위는 줄지 않았고 사기 수단은 늘어났다는 의미다. 방송에선 한국 상황을 다뤘지만, 보이스피싱은 우리만의 문제는 아니다. 미국 연방통신위원회(FCC)가 가장 많이 접수하게 되는 이용자 불만 사항이자 이용자 보호 정책의 최우선 과제로 꼽는 게 자동녹음전화인 '로보콜(Robocall)' 문제다. 지난해 미국에선 한 달 평균 25억여 건의 로보콜 전화가 성행했다. 건수 만큼이나 범죄 수법도 다양했다. 단순히 반복되는 스팸 수준의 텔레마케팅을 넘어 스캠 사기 전화가 극성을 부리고 로보콜 차단 소프트웨어 보급에 문자폭탄을 통한 금전 피해가 속출했다. 캄보디아를 거점으로 피싱을 시작으로 스캠 범죄가 치솟자 정부는 '초국가범죄 특별대응 TF'를 꾸려 대응했다. 이때 이재명 대통령이 올해 초 “한국인들을 건드리면 패가망신한다”는 강력한 메시지를 내놓기도 했다. 사기 수법은 간단하지만 피해는 금전적인 부분을 넘어 사회를 병들게 할 수도 있는 수준이란 인식에 따른 것이다. 빈틈을 파고드는 피싱 범죄 기록에 남아 있는 국내 최초 보이스피싱은 2006년 발생했다. 신종 범죄가 발생하고 20년이 지난 셈이다. 언뜻 돌이켜보면 사건 발생 초기에 뿌리 뽑지 못한 게 아쉬움으로 남을 수 있지만, 1인 1 스마트폰 시대로 일컫는 정보통신기술 발전과 모바일 금융의 확산이 새로운 유형의 범죄가 커질 수 있는 발판이 됐다. 아울러 더욱 고도화되고 지능화된 사기 수법이 더해지면서 더 이상 간과할 수 없는 사회적 문제로 부상했다. 민간에서 스팸 번호 차단 앱을 개발해 보급하고 통신사와 정부가 수시로 대책을 마련하며 디지털 플랫폼 회사를 비롯해 휴대폰 제조사까지 힘을 보태도 빈틈을 찾아 나서는 공격 패턴은 날로 교묘해졌다. 방송 프로그램의 개그 코너 소재에서 보듯이 음성통화와 문자메시지가 막히면 새로운 메신저 앱으로 범죄의 범위는 넓어졌고 이마저 막히면 이용자 몰래 악성 앱을 설치하는 첨단 사기의 영역으로 번졌다. 디지털 기술에 익숙하지 않은 중장년층이 입는 피해로 볼 문제도 아니다. 연령별 보이스피싱 피해 현황을 살펴보면 물론 60대 이상의 피해 비중이 높은 게 사실이다. 그런 가운데 금융감독원이 1차 계좌 기준으로 피해구제신청접수를 분석한 결과 2021년부터 2023년까지 20대 이하의 젊은 층의 보이스피싱 피해가 가장 큰 폭으로 증가한 것으로 나타났다. 즉, 디지털 기술에 익숙한 세대가 알고도 당하는 수준으로 사기 수법이 교묘해졌다는 뜻이다. 아울러 이들 세대가 피해자인 동시에 가해자가 되고 있다는 점도 문제다. 국회 입법조사처는 이를 두고 "20대 이하의 경우 보이스피싱 피해를 당하는 비율이 높아지고 있을 뿐만 아니라 보이스피싱 범죄 가담률도 높은 상황"이라며 “사회 경험이 부족한 20대 이하의 보이스피싱 피해 및 범죄 가담률이 높은 상황인 만큼 학생 시기부터 보이스피싱 예방 교육 등 금융교육을 강화해야 한다”고 했다. 진화하는 독버섯...더욱 촘촘해진 방어망 다행스러운 점은 피싱 범죄 피해가 감소세로 접어든 게 수치로 확인되고 있다는 부분이다. 사회 혼란기에 신종 사기 범죄가 극성을 부리는데 지난해 마련한 범정부 종합대책이 정책 효과를 얻어냈다는 것이다. 범정부 사기전화 대응 전담반에 따르면 지난해 9월까지 보이스피싱 피해가 증가를 기록했는데 그 이후부터 올해 1월까지 4개월 연속 발생 건수와 피해액이 모두 감소했다. 통합 대응단이 운영되면서 불법 전화번호를 긴급 차단하고, 특별 단속과 함께 해외 피싱 거점 타격 등의 효과가 종합적으로 작용했다는 게 정부의 설명이다. 동남아 일대의 범죄 증가에 정부가 칼을 빼든 결과로 풀이된다. 다각적인 정책 효과가 확인된 만큼 원천 차단에 이를 수 있는 정부 노력이 더해지는 게 중요하다는 평가가 나온다. 이를테면 전화 사기에 주로 쓰인 대포폰에 대한 감독을 강화하고 국민에는 범죄 경각심을 높이는 식이다. 여러 입법 과제를 통한 해결 방안에도 고삐를 늦출 수 없다. 국회가 사기죄 법정형을 상향한 형법이나 부패재산몰수법, 통신사기피해환급법 등을 개정했는데 그 외의 다른 법안도 빠르게 논의하고 신종 유형에 대한 분석을 병행해 법과 제도가 뒤늦게 따라가는 부분을 줄여야 한다. 보이스피싱과 함께 스팸이 줄어든 것도 눈여겨 볼 부분이다. 스팸 자체가 사기를 뜻하는 것은 아니지만 다량의 스팸 속에 피싱으로 이어지는 사례가 많다. 이에 따라 정부가 추진해온 불법스팸 부당이익 환수, 대량문자 유통시장 정상화 등의 정책에 힘을 실어야 할 필요가 있다. 방송미디어통신위원회 출범 후 첫 회의서 지난해 개정된 전기통신사업법에 따른 전송자격인증지 시행을 위한 하위 법규를 마련한 점이 대표적이다. 이처럼 제도적으로 촘촘한 방어망을 짜는 점도 중요하지만, 국민의 피싱 범죄에 대한 이해도를 높이는 게 더욱 중요하다는 의견이 제시되고 있다. 미디어 환경이 급변하면서 가짜뉴스에 대응해 정보에 대한 분별력을 높이기 위해 미디어 리터러시가 중요해지고, AI 대중화 시대에 들어 디지털 포용의 일환으로 AI 리터러시라는 용어가 등장했는데 '피싱 리터러시'에 대한 고민도 필요하다는 것이다. 권오상 디지털미래연구소 대표는 “피싱이라는 판 위에서 수요와 공급을 따져볼 때 공급(범죄자)이 줄어든 양상인데, 이에 수요(속는 사람)를 더욱 줄이는 데 무게를 둬야 한다”며 “횡단보도와 신호등처럼 국민 누구나 피싱 범죄에 대해 어떻게 대해야 하는지 알게 하는 '피싱 리터러시'의 확대를 적극적으로 고민할 때가 됐다”고 말했다. 이어, “피싱 범죄가 줄어드는 것처럼 보이는 중에도 새로운 사기 유형은 계속해서 등장하기 마련이다”며 “정부가 새로운 유형을 발견하면 적시에 이런 사례가 있다는 것도 꾸준히 알려야 한다”고 덧붙였다.

2026.04.13 16:21박수형 기자

EU "가짜는 안 돼" vs 트럼프 "AI는 나의 힘"

유럽연합(EU)의 핵심 기구들이 직원들의 공식 문서 및 대외 소통에서 인공지능(AI)으로 생성한 이미지나 영상 사용을 전면 금지하고 나섰다. 이는 AI 생성 콘텐츠를 선거 운동과 홍보에 적극적으로 활용하고 있는 도널드 트럼프 미국 대통령의 행보와 극명한 대조를 이룬다. 최근 정치 매체 폴리티코 보도에 따르면 유럽위원회(EC), 유럽의회, 유럽연합 이사회는 온라인상에서 딥페이크와 AI 생성 콘텐츠에 대한 감시가 강화됨에 따라, 소속 직원과 홍보팀의 AI 콘텐츠 사용을 금지한다는 방침을 세웠다. 온라인에 정교하지 않거나 오해를 불러일으킬 수 있는 AI 콘텐츠가 범람하는 상황에서, 공공기관 메시지의 '신뢰성'을 최우선으로 지키겠다는 의지로 풀이된다. 영국의 AI 비디오 생성 기업 '신테시아'의 정책 책임자 알렉산드르 보이카는 “EU가 리스크를 먼저 고려하는 것은 당연한 수순”이라며 “해당 콘텐츠가 기만적이거나 유해하게 받아들여질 가능성은 없는지, 현실을 왜곡하고 있지는 않은지, 그리고 명확한 설명 책임과 정보 공개가 가능한지가 핵심”이라고 분석했다. 반면, 지정학적 위기가 고조되는 상황에서 공공기관이 온라인 영향력을 확보해야 한다는 목소리도 높다. 이 때문에 AI 콘텐츠를 무조건 금지하는 것이 최선인지에 대해서는 회의적인 시각도 존재한다. 벨기에의 홍보 대행사 '익스포저'를 운영하며 여러 정당에 자문을 제공해 온 르노 반 잔디케는 “딥페이크가 신뢰를 해칠 위험이 있다고 해서 공공기관이 AI를 아예 외면하는 것 역시 실익이 없다”고 주장했다. 케임브리지 대학 연구원이자 경제협력개발기구(OECD) 자문위원인 월터 파스콰렐리 또한 “전면 금지보다는 '책임 있는 사용'이 더 나은 대안”이라고 지적했다. 조사에 따르면 AI가 생성한 콘텐츠의 양은 이미 인간이 제작한 콘텐츠 양을 넘어섰으며, 2025년 한 해 동안 온라인에 공유된 딥페이크는 무려 800만 건에 달한 것으로 집계됐다. 정치권도 예외는 아니다. 네덜란드와 아일랜드에서는 이미 딥페이크가 선거운동에 영향을 미치고 있으며, 공식 소통에 AI를 활용하는 정치인도 급증하고 있다. 대표적인 인물이 도널드 트럼프 미국 대통령이다. 그는 자신이 만든 SNS '트루스 소셜'을 통해 다양한 AI 생성 이미지를 게시해 왔다. 왕관을 쓴 채 제트기를 조종하는 모습, 검을 뽑아 든 자신의 앞에 민주당 지도부들이 무릎을 꿇고 있는 모습 등이 대표적이다. 보고에 따르면 2024년 10월 기준으로 이미 36건의 AI 생성 콘텐츠를 올린 바 있으며, 취임 이후에도 이런 기조를 유지하고 있다. 최근에는 SNS에서 트럼프를 강력히 지지하며 애국심을 고취했던 미 육군 여군 '제시카 포스터'라는 인물이 사실은 100% AI로 생성된 가공의 존재였다는 사실이 밝혀져 충격을 주기도 했다. EU의 접근법은 이런 미국의 사례와 정면으로 배치된다. 토마스 레니에 유럽위원회 대변인은 폴리티코와의 인터뷰에서 “우리가 언론이나 대중에게 제공하는 공식 정보와 이미지에는 AI 생성 콘텐츠가 포함되지 않는다”고 단언했다. 시민의 신뢰를 얻기 위해서는 발신하는 콘텐츠의 진실성이 무엇보다 중요하다는 견해다. 다만, 화질 개선 등 단순 최적화 작업을 위해 AI 도구를 사용하는 것은 허용된다고 덧붙였다. 하지만 폴리티코는 “AI 생성 콘텐츠를 완전히 배제하는 방식은 외교와 소통이 점점 온라인 중심으로 이동하는 시대에 EU를 뒤처지게 만들 위험이 있다”고 지적했다. 신테시아의 보이카 역시 “얼마나 신속하고 효과적으로 대중에게 대응하느냐가 그 어느 때보다 중요해진 시점”이라고 강조했다. 일각에서는 AI 사용을 일률적으로 금지함으로써 대중에게 AI 리터러시(이해 능력)를 교육할 기회를 놓치고 있다는 비판도 나온다. 파스콰렐리 위원은 “EU가 AI와의 관계를 완전히 단절함으로써, 정치적 소통에서 책임 있고 투명한 AI 활용이 무엇인지 보여줄 '리더십의 기회'를 스스로 포기하고 있다”고 꼬집었다.

2026.04.03 08:32백봉삼 기자

AI 배우 쓰려면 인간만큼 비용 내라…할리우드 노조, '틸리세' 부과 추진

미국 배우·방송인 노동조합(SAG-AFTRA)이 인공지능(AI) 합성 캐릭터를 영화에 사용할 경우 실제 배우 수준의 비용을 부담하도록 수수료를 부과하는 방안을 스튜디오와 협상 중이다. 28일(현지시간) 블룸버그통신에 따르면 던컨 크랩트리-아일랜드 SAG-AFTRA 사무총장은 워싱턴 AFL-CIO 노동자 서밋에서 "단체교섭이 AI 기술 규제를 위한 가장 빠르고 효과적인 수단"이라고 밝혔다. 그는 AI 도입 속도가 규제를 앞지르는 상황에서 조직 노동계가 기술 활용 방식의 실질적 견제 역할을 하고 있다고 강조했다. 노조가 추진하는 핵심 방안은 논란이 된 AI 배우 틸리 노우드의 이름을 딴 '틸리세(Tilly Tax)'다. 틸리세는 실존 인물과 무관한 AI 합성 캐릭터를 기용할 때 실제 배우를 고용하는 것과 동일한 비용이 들도록 수수료를 부과하는 것이 특징이다. AI는 SAG-AFTRA와 할리우드 스튜디오 간 진행 중인 계약 협상의 최대 쟁점이다. SAG-AFTRA는 2023년 약 4개월간의 파업 끝에 스튜디오들이 디지털 복제본 사용 시 배우 동의와 적정 보상을 의무화하는 조항을 확보했다. 기존 계약은 오는 6월 만료된다. SAG-AFTRA는 실제 배우의 디지털 복제본과 합성 캐릭터 모두를 포함한 AI 출연자(퍼포머) 전반의 사용 제한을 협상 목표로 삼고 있다. 크랩트리-아일랜드 사무총장은 '노 페이크 법(NO FAKES Act)' 통과를 요청하는 등 입법 차원의 대응도 병행 촉구했다. 이 법안은 AI로 생성된 무단 딥페이크로부터 개인을 보호하기 위해 자신의 목소리와 외모에 대한 소유권을 법적으로 보장하는 내용을 담고 있다. 그는 틸리세 추진 배경을 두고 "경제적 인센티브가 인간의 일자리를 위한 방향으로 작동하도록 해야 한다"고 피력했다.

2026.03.30 11:50이나연 기자

방미통위-성평등부-과기정통부-교육부, '원팀'으로 AI 범죄 대응

방송미디어통신위원회는 성평등가족부, 과학기술정보통신부, 교육부와 26일 서울 서대문구 가재울청소년센터에서 '안전하고 포용적인 AI, 과학기술 기반 마련과 청소년 보호를 위한 업무협약'을 체결했다고 밝혔다. 협약은 혁신과 포용이 조화를 이루는 AI, 과학기술 기반을 마련하고, 청소년과 여성 등 국민 모두에게 안전한 AI 이용 환경을 조성하기 위해 마련됐다. 최근 AI 대전환에 따라 긍정적 효과와 함께, 생성형 AI를 활용한 딥페이크 범죄 등 위험에 대한 사회적 우려 또한 커지고 있다. 4개 기관은 온라인 환경에서의 청소년 보호와 과의존 예방을 위한 AI 윤리, 안전 제도 정비, AI 기반 위기 청소년 지원 확대, 학교와 청소년시설 등을 활용한 디지털 역량 제고와 과학기술, AI 분야 여성 인력 성장지원 등 분야에서 협력을 강화할 계획이다. AI 성별 편향 최소화를 위한 정책 기반을 마련하고, 국가 AI 모델 경쟁력 강화를 위한 데이터 공유 협력과 AI 기반 디지털 성범죄 대응 체계 고도화에도 힘을 모은다. 김종철 방미통위 위원장은 “불법촬영물 등에 대한 신속 조치, 온라인상의 청소년 보호 추진과 더불어, 다양한 온오프라인 창구를 통한 미디어 교육을 지원해 신뢰할 수 있는 미디어 환경을 구축하겠다”고 밝혔다. 원민경 성평등가족부 장관은 “청소년 보호 정책 개선과 디지털 역량 개발 지원, 딥페이크 대응 기술을 활용한 피해자 보호 강화, 과학기술 분야 여성 인력의 경력 유지 지원 등을 차질 없이 추진해 국민이 체감할 수 있는 성과를 창출하겠다”고 말했다. 배경훈 부총리 겸 과기정통부 장관은 “오늘의 협력을 발판 삼아 관계기관이 원팀(One-Team)으로 긴밀히 협력해 AI 시대 새로운 위험으로부터 청소년을 보호하고, 안전하고 포용적인 AI, 과학기술 생태계를 구축해 나가겠다”고 강조했다. 최교진 교육부 장관은 “학교 현장을 중심으로 AI와 디지털 역량 교육을 강화하고, 관계 부처와의 긴밀한 협력을 통해 청소년을 보호할 수 있는 안전한 AI 활용 환경을 조성하겠다”고 밝혔다.

2026.03.26 10:02홍지후 기자

'대기업·플랫폼 해킹→피싱' 연결 고리 데이터로 나왔다

지난해 대기업·커머스 플랫폼 연쇄 해킹 사태가 어떻게 서민 금융 자산을 노린 정밀 피싱 범죄로 이어졌는지가 실제 데이터로 입증됐다. 인공지능(AI) 보안 기업 에버스핀(대표 하영빈)은 악성앱 탐지 솔루션 페이크파인더의 2025년 연간 데이터를 종합 분석한 '페이크파인더 악성앱 리포트 Vol.5'에서 '해킹-피싱' 사슬이 확인됐다고 26일 밝혔다. 리포트에 따르면 2025년 전체 악성앱 탐지 건수는 92만4419건으로 전년 보다 11.2% 감소했다. 에버스핀은 이 수치를 긍정적 신호가 아닌 '위협의 고도화'로 진단했다. 불특정 다수에게 악성앱 설치를 유도하는 양적 공세 대신, 해킹으로 유출된 실명·전화번호·구매 이력 등을 토대로 속을 가능성이 높은 대상만 골라 공격하는 방식으로 범죄 양상이 진화했다는 설명이다. 유형별로는 '전화 가로채기'가 전년 대비 24.1% 감소하고, '기관 사칭앱'도 30.1% 줄어든 반면에 '개인정보 탈취' 유형은 53% 증가하며 전체 악성앱의 34.7%를 차지하며 단일 유형 최대 위협으로 떠올랐다. 에버스핀은 이를 해킹 피해의 '2차 진화'로 분석했다. 1차 해킹으로 확보한 개인정보만으로는 금융사의 2차 인증을 뚫기 어렵기 때문에, 범죄자들이 SMS 인증번호와 신분증 이미지 등 핵심 정보 탈취를 위한 악성앱 배포에 집중했다는 설명이다. 특히 유출된 주문 내역을 활용해 '배송 지연 안내'를 사칭하는 등 피해자가 의심하기 어려운 맞춤형 메시지로 접근하는 수법이 기승을 부렸다. 개인정보 탈취형 악성앱이 3~5월에 급증한 점도 눈에 띈다. 이 시점 전후에 발생한 대규모 해킹으로 유출된 개인정보가 피싱 공격 소재로 사용되기 시작한 시기와 맞아떨어졌다. 해킹과 피싱이 더 이상 별개의 사건이 아닌 원인과 결과로 이어진 범죄 사슬임이 데이터로 입증됐다. 페이크파인더 악성앱 리포트는 에버스핀 공식 홈페이지에서 확인할 수 있다. 에버스핀 관계자는 “2025년의 해킹 대란은 범죄자들에게 어떤 앱을 만들어야 범죄가 성공할지를 알려준 가이드라인과 같았다”며 “이제는 사이버범죄의 시작점인 해킹까지 막아 개인정보를 더욱 철저히 보호해야 근본적인 피싱 방지라고 부를 수 있게 됐다”고 말했다. 이 관계자는 “기업이 고객 정보를 지켜야 하는 법적 의무가 사회 전체를 금융범죄로부터 지키는 첫 번째 방어선”이라며 “정보보호 기술 투자는 비용이 아닌 고객과 사회에 대한 가장 중요한 약속”이라고 강조했다. 에버스핀은 국내 피싱 방지 시장 점유율 1위 AI 보안 기업으로 카카오뱅크·KB국민은행·삼성카드·한국투자증권·DB손해보험·일본 SBI그룹 등 국내외 주요 금융사에 보안 솔루션을 공급하고 있다. 에버스핀은 2025년 매출 132억원을 기록하며 전년 대비 54% 성장했으며, 영업이익은 49억1000만원으로 841% 증가하는 등 고성장을 이어가고 있다. 또 일본 SBI그룹과 69개사 대상 통합 보안 계약을 체결하며 해외 시장에서도 성과를 확대하고 있다. 이와 함께 금융권 공동 조기경보 솔루션 'RTAS', 악성 SMS 차단 솔루션 '문자백신', 개인용 피싱 방지 서비스 '피싱블락'을 출시하고 PG·공공·티켓팅 등 신규 시장으로 사업 영역을 확장하고 있다.

2026.03.26 09:34주문정 기자

AI 인재 발굴 진심 헥토그룹...채용 연계 경진대회 성료

헥토그룹이 채용 연계형 AI 경진대회 'HAI(하이)! 헥토 AI 챌린지' 결선을 개최하며 AI 인재 발굴 프로그램을 성공적으로 마무리했다고 12일 밝혔다. HAI! 헥토 AI 챌린지는 헥토그룹이 AI 기술 경쟁력을 갖춘 인재를 발굴하고 채용과 연계하기 위해 마련한 AI 경진대회다. 이번 대회는 데이터 사이언스 플랫폼 데이콘과 함께 진행됐다. 이번 대회는 생성형 AI 확산과 함께 사회적 문제로 떠오르고 있는 딥페이크 콘텐츠를 탐지하는 기술을 발굴하고, 이를 이끌 차세대 AI 인재를 찾기 위해 기획됐다. 대회는 대상 1천만원을 포함해 총 2600만원 규모의 상금을 걸고 진행됐다. 헥토그룹은 핀테크, 데이터, 플랫폼 사업을 기반으로 AI 기술을 다양한 서비스에 적용하며 디지털 경쟁력을 강화하고 있다. 그룹 내 AI 연구 조직인 HAI 본부를 중심으로 데이터 분석, AI 모델 개발, 자동화 기술 등 다양한 프로젝트를 추진하고 있으며 실제 서비스에 적용되는 AI 기술 개발을 지속 확대하고 있다. 사전 대회는 2025년 12월 15일부터 2026년 2월 2일까지 약 7주간 온라인 방식으로 진행됐다. 참가자들은 '딥페이크 탐지 AI 모델 개발'을 주제로 기술 경쟁을 펼쳤다. 참가자들은 고도화된 AI 모델링과 창의적인 데이터 접근 방식을 활용해 영상 및 이미지 내 딥페이크 여부를 신속하고 정확하게 판별하는 기술력을 선보였다. 온라인 예선을 통과한 상위 10개 팀은 지난 11일 열린 오프라인 대회에서 자신들이 개발한 AI 모델의 성능과 독창성을 증명했다. 영예의 대상은 국민대·광운대 연합으로 구성된 팀이 차지했으며, 상금 1천만원이 수여됐다. 이 팀은 기술 구현력과 처리 속도 간 균형을 효과적으로 확보한 모델을 제시하고, 접근 전략과 기술 선택, 실험 설계, 논리 전개 등 전반적인 완성도에서 높은 평가를 받았다. 이어 2위는 이화여대·서강대 연합팀이, 3위는 한양대 학생이 단독으로 이름을 올리며 차세대 AI 전문가로서의 역량을 입증했다. 헥토그룹은 이번 대회 입상자들에게 실질적인 채용 혜택을 제공한다. 상위 입상 팀에게는 헥토그룹 입사 지원 시 서류전형 및 1차 면접 면제 혜택이 부여되며, 상위 30개 팀 전원은 헥토그룹 채용 인재풀에 등록돼 향후 AI 연구개발 및 데이터 관련 직무 채용 시 우선 검토 대상이 된다. 헥토그룹은 우수 인재를 적극 발굴하는 데서 나아가, 합류한 구성원들이 전문성을 심화하고 지속적으로 성장할 수 있도록 다양한 교육 프로그램과 체계적인 역량 개발 기회도 함께 제공하고 있다. 헥토그룹 HAI 본부 김정근 전무는 “헥토그룹은 AI 기술 경쟁력 강화를 위해 인재 발굴 프로그램을 지속적으로 운영해오고 있다. AI 기술이 산업 전반으로 확산되는 가운데 우수 인재 확보가 무엇보다 중요해지고 있다”며 “이번 HAI 경진대회는 단순히 기술력을 겨루는 장을 넘어 사회적 신뢰를 지키는 핵심 AI 인재들을 직접 만날 수 있었던 뜻깊은 자리였다”고 말했다. 이어 “앞으로도 역량 있는 인재들이 마음껏 도전하고 성장할 수 있는 기회를 확대해 헥토의 기술 경쟁력을 강화하고 건강한 AI 생태계를 구축하는 데 앞장서겠다”고 덧붙였다.

2026.03.12 10:36백봉삼 기자

검·경 "지방선거 앞두고 허위·조작정보 무관용 원칙 대응"

검찰과 경찰이 인공지능(AI) 기술을 악용한 가짜뉴스에 대해 무관용 원칙으로 대응하겠다고 밝혔다. 특히 오는 6월 3일 예정된 제9회 전국동시지방선거를 앞두고 딥페이크 영상 등을 활용한 허위사실 유포가 급증할 가능성이 크다고 보고, 선거 범죄에 대한 전방위 단속에 나선다는 방침이다. 구자현 검찰총장 직무대행과 유재성 경찰청장 직무대행은 26일 오전 서울본관 브리핑실에서 'AI 악용 등 가짜뉴스 엄정 대응을 위한 검경 합동 담화문'을 발표했다. 구 대행은 “최근 인공지능 기술 발전과 사회적 갈등 심화로 딥페이크 영상 등을 이용한 가짜뉴스가 실제와 구분하기 어려울 정도로 정교해졌다”며 “온라인·모바일 환경을 통해 광범위하게 유포되고 있다”고 진단했다. 이어 “허위정보의 제작·유포는 개인의 명예를 심각하게 훼손할 뿐 아니라 주요 현안에 대한 사회적 불안을 조성하고, 피해 규모가 크며 사실상 회복이 불가능하다”고 강조했다. 검찰은 공직선거법 개정에 따라 2024년 1월부터 선거를 앞둔 일정 기간 동안 딥페이크 영상 등을 이용한 선거운동과, 딥페이크임을 표시하지 않은 허위사실 유포 행위를 처벌하고 있다고 설명했다. 특히 이번 지방선거와 관련해선 “가짜뉴스를 유포하는 선거사범에 대해 가능한 모든 수단을 동원해 엄정 대응하겠다”고 밝혔다. 과학수사 기법을 총동원하고, 해외 서버를 이용한 범죄에 대해서도 국제 공조를 통해 끝까지 추적하겠다는 계획이다. 또한 검찰은 허위사실 유포와 함께 ▲선거 관련 금품수수 ▲공무원의 불법 선거 개입 ▲선거 관련 폭력 행위를 중점 단속 대상으로 지정했다. 대검찰청은 지난 1월 각급 검찰청에 선거전담수사반을 구성하고 비상연락체계를 가동하는 등 비상근무체계에 돌입한 상태다. 구 대행은 “건강한 비판과 토론은 존중돼야 하지만 근거 없는 비방과 허위사실 유포는 우리 사회를 병들게 한다”며 “이번 지방선거가 공정하고 깨끗하게 치러질 수 있도록 비상한 각오로 임하겠다”고 밝혔다. 경찰도 별도 대응 현황과 계획을 공개했다. 유재성 대행은 “유튜브 등 SNS의 영향력이 커지면서 허위·조작정보가 무분별하게 확산되고 있다”며 “최근에는 딥페이크 영상, 합성 음성, 조작 이미지 등으로 사실과 허위의 구별이 더욱 어려워졌다”고 설명했다. 경찰은 지난해 10월 14일부터 허위정보 유포 단속 전담 태스크포스(T/F)를 운영 중이다. 중요 사건은 시도경찰청이 직접 수사하도록 해 신속 대응 체계를 구축했다. 대표 사례로는 '한국에 하반신이 없는 시체가 수십 구 발견됐다'는 허위 내용을 유포한 유튜버를 수사 착수 하루 만에 특정해 2월 13일 송치한 사건과, AI로 조작된 영상을 경찰관 바디캠 영상인 것처럼 유포한 유튜버를 1월 28일 송치한 사례를 제시했다. 경찰은 올해 1월 2일부터 매크로 등 조직적·전산적 방법을 활용한 허위정보 범죄에 대한 집중 단속도 병행하고 있다. 현재까지 110명을 검거했고, 199건을 수사 중이다. 허위·유해정보 1,074건에 대해서는 관계기관에 삭제·차단을 요청했다. 지방선거와 관련해서는 2월 3일부터 전국 경찰관서에 선거사범수사전담반을 편성해 허위사실 유포를 포함한 5대 선거 범죄를 집중 단속하고 있다. 특히 딥페이크를 이용한 선거 범죄는 유통 경로를 추적해 최초 제작자와 유포자까지 처벌하겠다고 밝혔다. 질의응답에서 '미성년자도 무관용 원칙 적용 대상이냐'는 질문에 대해 유 대행은 “14세 이상은 형사처벌이 가능하고, 그 이하 촉법소년은 소년법에 따른 절차가 적용된다”며 “다른 범죄와 동일한 기준으로 적용할 예정”이라고 답했다. 또 딥페이크 영상에 표시를 할 경우 처벌 여부와 관련해 구 대행은 “선거일 기준 90일 전까지는 딥페이크 영상임을 알리고 출처를 표시하면 형사 책임을 묻지 않는다”면서도 “선거일 90일 이내에는 표시 여부와 관계없이 딥페이크 영상으로 선거에 영향을 미친 행위는 형사처벌 대상이 된다”고 설명했다.

2026.02.26 16:24안희정 기자

AI 선거운동 규제 바뀔까…차지호 의원 "금지 대신 처벌 강화"

생성형 인공지능(AI)을 활용한 선거운동 규제를 전면 금지에서 투명성 중심 관리 체계로 전환하는 공직선거법 개정안이 발의됐다. AI 기술 악용에 대한 처벌은 강화하되, 표현의 자유 침해 논란을 최소화하겠다는 취지다. 16일 관련 업계에 따르면 국회 외교통일위원회 소속 더불어민주당 차지호 의원은 최근 딥페이크 등 생성형 AI 기술을 활용한 선거운동 규제를 합리적으로 재설계한 '공직선거법 일부개정법률안'을 대표 발의했다. 해당 법안은 AI 생성물에 대한 규제 방식을 기존의 일괄 금지에서 표시 의무와 유통 관리 중심으로 전환하는 내용을 담고 있다. 또 본회의를 통과하고 대통령 공포 후 3개월이 경과한 날부터 시행될 예정이다. 현행 공직선거법은 선거일 전 90일부터 딥페이크 영상 등 인공지능 기술로 만든 콘텐츠를 이용한 선거운동을 전면 금지하고 있다. 그러나 기술 발전 속도에 비해 규제가 경직돼 있고 헌법상 표현의 자유를 과도하게 제한할 수 있다는 비판이 꾸준히 제기돼 왔다. 개정안의 핵심은 전면 금지 규정을 삭제하고, 선거운동에 활용되는 AI 생성물에 대해 유권자가 쉽게 인식할 수 있도록 인공지능 생성물임을 명확히 표시하도록 의무화한 점이다. AI 기술로 생성·편집된 영상, 음성, 이미지 등 콘텐츠를 제작하거나 유포할 경우 표시 의무가 적용된다. 대신 허위 정보 유포와 여론 조작에 대해서는 규제를 강화했다. AI 생성물임을 표시하지 않거나 거짓으로 표시해 유권자를 오인하게 하는 행위는 명확히 금지된다. 자동화된 계정, 조직적·계획적 방식, 알고리즘의 인위적 증폭을 통해 특정 후보자나 정당에 관한 허위 또는 오도될 수 있는 정보를 대규모로 확산시키는 행위도 처벌 대상이다. 처벌 수위도 구체화됐다. AI 생성물을 이용해 당선되거나 되게 할 목적으로 허위 사실을 공표한 경우 5년 이하의 징역 또는 3천만원 이하의 벌금에 처하도록 했다. 낙선을 목적으로 후보자나 그 가족에 관한 허위 사실을 공표한 경우에는 7년 이하의 징역 또는 500만원 이상 5천만원 이하의 벌금이 부과된다. 온라인 플랫폼 사업자에 대한 책임 규정도 신설됐다. 대통령령으로 정하는 온라인 플랫폼 운영자는 자동화된 계정 차단, 알고리즘 투명성 확보 등 인위적 정보 확산을 막기 위한 합리적인 관리 조치를 취할 노력 의무를 지게 된다. 이를 정당한 사유 없이 이행하지 않을 경우 3천만원 이하의 과태료가 부과될 수 있다. 표현의 자유 보호 장치도 함께 마련됐다. 풍자, 패러디 등 예술적 표현으로 전체 맥락상 AI 생성물임을 충분히 인지할 수 있고 선거의 공정성을 해할 우려가 없는 경우, 그리고 언론 보도를 목적으로 한 명백한 AI 활용 표현은 표시 의무 적용 대상에서 제외된다. 차지호 의원은 제안 이유에서 "생성형 AI 기술의 급격한 발달로 선거 과정에서 딥페이크를 이용한 허위 정보 유포와 여론 조작 위험이 커지고 있다"며 "규제 방식을 투명성 확보와 유통 관리 중심으로 전환해 디지털 시대에 부합하는 선거의 공정성을 실효적으로 확보하려는 것"이라고 밝혔다.

2026.02.06 18:28남혁우 기자

지난해 대기업 해킹 대란…서민 노리는 피싱범죄로 직결

지난해 대한민국을 강타한 주요 통신사 등 대기업과 커머스 플랫폼의 연쇄 해킹 사고가 단순한 개인정보 유출을 넘어 서민 금융 자산을 정밀 타격하는 '지능형 피싱 범죄'의 기폭제가 된 것으로 나타났다. 인공지능(AI) 보안기업 에버스핀(대표 하영빈)은 악성앱 탐지 솔루션 '페이크파인더(FakeFinder)'의 2025년 데이터를 정밀 분석한 결과, 지난해 발생한 대규모 데이터 유출 사태가 피싱 범죄의 체질을 완전히 바꿔놓았다고 26일 밝혔다. 분석 데이터에 따르면 지난해 전체 악성앱 탐지 건수는 92만4천419건으로 전년(104만건) 보다 약 11% 감소했다. 에버스핀은 이를 긍정적 신호가 아닌 '위협의 고도화'로 진단했다. 해킹으로 확보한 실명·전화번호·상세 구매 이력 등의 데이터가 해커들에게 '확실한 타겟팅'과 '공격 가이드라인'을 제공했기 때문으로 분석했다. 에버스핀 고나계자는 “과거에는 불특정 다수에게 무작위로 앱 설치를 유도하는 '양적 공세'가 주를 이뤘다면, 지난해에는 유출된 정보를 바탕으로 '속을 수밖에 없는 사람'만 골라 공격하는 '질적 타격'으로 범죄 양상이 급변했다”고 설명했다. 세부 유형별 데이터를 보면 이러한 흐름이 더욱 명확하게 드러난다. 전통적인 보이스피싱 수단인 '전화 가로채기' 유형이 전년 대비 24.1% 감소(37만→28만건) 했고, 단순한 '사칭 앱' 역시 30% 감소(45만→32만건) 하며 하락세를 보였다. 이는 "검찰입니다" 식의 전화나 뻔한 기관 사칭에는 사용자들이 더 이상 쉽게 속지 않음을 보여준다. 반면에 스마트폰 내 민감 정보를 털어가는 '개인정보 탈취' 유형 악성앱은 전년 보다 53% 증가한 32만건으로 늘어나 최대 위협으로 부상했다. 에버스핀은 유출된 개인정보를 실제 범죄에 악용하기 위한 필수 수순으로 진단했다. 해킹으로 확보한 정보만으로는 금융사의 2차 인증 등을 뚫는데 어려움이 있기 때문에 '문자 인증번호'와 '신분증 이미지' 등 좀 더 완전한 정보까지 확보하기 위해 악성앱을 통해 개인정보를 탈취했다는 방증이다. 실제로 공격자들은 유출된 상세 주문 내역을 미끼로 '배송지 오류 수정' 등을 요구하며 접근한 뒤, 피해자의 의심을 피하며 앱을 설치하도록 했다. 이렇게 침투한 악성앱은 통화 기능보다는 문자 메시지·연락처·사진첩 등 권한을 탈취해 금융 인증을 우회할 수 있는 데이터를 수집하는 데 집중됐다. 에버스핀 관계자는 "지난해 해킹 대란은 해커들에게 '어떤 앱을 만들어야 범죄가 성공할지' 알려준 가이드라인과 같았다"며 "해킹으로 확보한 1차 데이터를 기반으로, 2차 핵심 정보를 탈취하기 위해 설계된 '정보 탈취 앱'이 기승을 부린 한 해"라고 설명했다. 이 관계자는 "개인이 문자의 진위를 가려내기엔 한계에 다다른 만큼, 금융사들이 도입한 페이크파인더와 같은 전문 보안 기술이 서민들의 자산을 지키는 필수 안전장치가 되고 있다"고 강조했다. 이번 발표의 근거가 된 데이터는 KB국민은행·카카오뱅크·한국투자증권·신한투자증권·KB국민카드·우리카드·DB손해보험·SBI저축은행·저축은행중앙회 등 국내 주요 금융사 대다수가 페이크파인더를 사용하면서 축적된 결과다. 에버스핀은 상세 분석을 담은 리포트는 오는 2월 중 에버스핀 홈페이지를 통해 발표할 예정이다. 한편, 에버스핀은 2025 SW대상·대통령상 수상·일본 SBI그룹 통합계약 등 고성장하는 보안기업으로 자리매김하고 있으며, 지난해 추산 매출액 130억원 이상을 기록하며 전년 대비 50% 매출 신장을 눈앞에 두고 있다고 전했다.

2026.01.26 09:15주문정 기자

[AI는 지금] '19금' 대화 꺼내든 AI 챗봇…그록 사태에 제동?

일론 머스크의 인공지능(AI) 기업 xAI가 개발한 챗봇 '그록(Grok)'이 아동 성 착취물 제작 도구로 전락했다는 비판을 받고 있다. 각국이 강도 높은 규제 조치에 나선 가운데, 오픈AI가 차세대 수익 모델로 점찍은 'AI 성인 모드 대화' 등 시장 전반에 미칠 영향이 주목된다. 전 세계 공분 산 '그록' 딥페이크 사태가 뭐길래 18일 정보기술(IT)업계에 따르면 최근 '엑스(X·옛 트위터)' 유료 사용자들에게 제공된 그록의 이미지 생성 및 편집 기능이 악용되고 있다. 실존 인물 사진을 비키니·속옷·나체에 가까운 모습으로 합성하는 데 사용됐다는 제보가 온라인상에 쏟아졌다. 특히 미성년자를 대상으로 한 성 착취 딥페이크까지 제작·유포된 정황이 드러나며 논란이 확산됐다. 전 세계 정부와 규제당국도 조사와 해명 요구에 나섰다. 인도네시아와 말레이시아는 즉각 그록 접속을 차단했고 일본·필리핀 등도 규제·차단 조치를 논의 중이다. 영국 방송미디어 규제기관인 오프콤(Ofcom)도 온라인안전법 위반 여부에 대한 공식 조사에 착수했다. 미국은 캘리포니아주 법무부가 xAI에 대해 동의 없는 음란 이미지와 아동 성 착취 딥페이크 생성 혐의로 조사에 나선 상태다. 뒤늦은 수습 나선 엑스…머스크 "몰랐다" 해명 비판과 수사가 전방위로 확산하자 엑스 측은 수습에 나섰다. 엑스는 그록에서 실제 인물을 비키니나 속옷 등 노출이 심한 복장으로 편집하거나 생성하는 기능을 기술적으로 차단했다고 공식 발표했다. 또 아동 성 착취물이나 비동의 누드 콘텐츠는 '무관용 원칙'을 적용해 해당 계정을 영구 정지하고 사법 당국과 적극적으로 협력하겠다는 방침을 밝혔다. 특히 이미지 생성 및 편집 기능을 유료 구독자에게만 한정 제공해 악용 시 책임 추적을 한층 강화하겠다고 덧붙였다. xAI 설립자인 일론 머스크도 자신의 엑스 계정을 통해 해명에 나섰다. 머스크는 "그록이 미성년자 나체 이미지를 생성했다는 사실을 인지하지 못했다"고 부인했다. 문제 원인이 시스템 자체 결함에 있기보다 일부 사용자의 악의적인 요청과 기술적 버그 탓이 크다는 설명이다. 동시에 그는 각국 서비스 차단·조치가 '검열'에 가깝다는 불쾌감도 드러냈다. '성인용 AI' 수익화 노리던 업계도 '고심' 성인용 콘텐츠를 통해 정체된 수익성을 돌파하려던 AI업계도 이번 사태가 미칠 직간접적 여파를 예의주시하는 모양새다. 연령 인증 우회, 콘텐츠 악용 같은 기존 우려에 더해 그록의 성적 딥페이크 논란으로 글로벌 규제 압박이 커진 탓이다. AI 챗봇의 성인용 대화 기능을 준비하던 기업들은 강화된 안전장치 없이는 시장 진입이 어려워졌다. '표현의 자유'와 '사회적 안전' 충돌 속에서 고강도 규제는 불가피할 것으로 보인다. 해외 시장에서는 '레플리카(Replika)' 같은 AI 동반자 서비스들이 성인용 대화 시장을 선점 중이다. 캐릭터닷AI 역시 로맨틱 롤플레잉을 제공하며 사용자 몰입도를 높이는 전략을 펼치고 있다. xAI는 지난 2025년 3월 업계 최초로 '그록'에 성인 모드를 공식 도입했고, 같은 해 연말 오픈AI도 성인 인증을 완료한 사용자에게 성인용 에로틱 대화를 허용하겠다는 방침을 내놨다.

2026.01.18 16:00이나연 기자

'xAI' 딥페이크 음란물 생성 논란, 美 캘리포니아 법무부 조사 착수

일론 머스크가 설립한 인공지능(AI) 기업 xAI가 캘리포니아주 법무부 조사를 받는다. xAI의 AI챗봇 '그록(Grok)'이 실존 인물 사진을 기반으로 동의 없는 음란 이미지를 생성하고 유포하는 데 악용되고 있다는 혐의다. 15일 CNBC 등 외신에 따르면 롭 본타 캘리포니아주 법무장관은 "그록을 이용해 제작된 비동의 성적 게시물의 확산 혐의로 xAI조사를 진행 중이라고 성명을 통해 밝혔다. 그는 "xAI가 여성과 소녀들을 괴롭히는 데 사용되는 딥페이크 음란물의 대규모 생산을 조장하고 있는 것으로 보인다"며 "이러한 이미지들은 소셜미디어 엑스(X) 를 포함한 인터넷 전반에서 유통되고 있다"고 덧붙였다. 인터넷 감시 재단 조사 결과에 따르면 그록은 일부 사례에서 미성년자 사진을 이용해 가상 나체 이미지를 생성하는 기능까지 제공한 것으로 드러났다. 이번 미국 내 조사는 이미 국제적으로 확산된 우려에 뒤이어 나온 것이다. 현재 인도, 말레이시아, 인도네시아, 아일랜드, 영국, 프랑스, 호주 등 다수의 국가 정부 기관이 대응에 나섰으며, 유럽연합 집행위원회(EC) 또한 조사를 진행 중이다. 말레이시아와 인도네시아는 이미 문제 해결 전까지 그록의 사용을 중단하는 조치를 취한 것으로 알려졌다. 미국 내에서도 비판의 목소리가 커지고 있다. 민주당 상원의원 3명은 애플과 구글에 서한을 보내, xAI가 비동의 음란물 및 아동 성착취 묘사 딥페이크 생성 방지 대책을 마련할 때까지 앱스토어에서 X와 그록 앱을 삭제할 것을 촉구했다. 울트라바이올렛, 전미여성기구(NOW) 등 여성 및 아동 인권 단체들 역시 앱 삭제를 강력히 요구하고 있다. 이에 대해 일론 머스크는 15일 X 게시물을 통해 "그록이 생성한 미성년자 나체 이미지를 인지하지 못했다"고 주장했다. 또 불법 콘텐츠 생성 및 공유의 원인으로 '사용자 요청'과 그록 시스템 내 잠재적 버그를 지목했다. 앞서 xAI는 논란이 확산되자 유료 구독자에 한해 일부 이미지 생성 및 편집 기능을 제한하겠다고 발표한 바 있다. 한편 미국 상원은 지난 14일 딥페이크 음란물의 피해자가 제작 및 유포 기업을 상대로 민사 소송을 제기할 수 있도록 하는 '디파이언스 법(DEFIANCE Act)'을 통과시켰다. 해당 법안은 하원의 검토를 남겨두고 있다.

2026.01.15 09:35남혁우 기자

[신년 인터뷰] "AI 역기능 막는 기술 확보가 국가 경쟁력 좌우"

글로벌 경제 위기 속에서 올해 인공지능(AI) 산업은 다시 한 번 중대한 분기점에 섰다. 생성형 AI의 급격한 확산 후 이어진 성능 경쟁과 투자 열풍은 이제 '얼마나 더 큰 모델을 만들 수 있는가'라는 질문을 넘어 'AI가 실제 무엇을 할 수 있는가'라는 보다 본질적인 문제로 이동하고 있다. 지디넷코리아는 릴레이 인터뷰를 통해 각기 다른 위치에서 AI 산업을 바라보는 리더 시선을 종합해 올해 AI 산업이 어디로 향하고 있는지, 무엇을 준비해야 하는지를 짚어본다. 기술 낙관과 과도한 불안 사이에서 AI의 현실적인 진화 경로와 산업적 의미도 살펴본다. [편집자주] "인공지능(AI)이 자율주행과 로봇, 에이전트 시스템으로 진화하면 우리가 지금까지 경험하지 못한 새로운 위험을 만들어낼 수 있습니다. 기술 개발뿐 아니라 안전성과 보안, 역기능 대응을 위한 투자가 반드시 병행돼야 하는 이유입니다. 안전과 통제를 처음부터 내재화한 AI 시스템을 설계하는 것이 국가 경쟁력 측면에서도 중요합니다." 성균관대 우사이먼성일 소프트웨어학과·인공지능대학원 교수는 지디넷코리아와 만나 AI 발전과 함께 커지고 있는 기술 안전성 문제를 이렇게 진단했다. 우 교수는 AI 기술 부작용을 최소화할 방법을 연구하는 학자다. 개인정보 침해와 허위 정보 생성, 저작권 문제, 범죄 악용 등 AI 확산으로 인해 나타나는 사회 위험을 기술적으로 통제하는 데 연구 초점을 맞추고 있다. 가장 대표 연구 분야는 머신 언러닝을 이용한 개인정보 보호 기술이다. 머신 언러닝은 AI 모델이 학습한 특정 데이터를 선택적으로 삭제할 수 있도록 하는 기술이다. 보통 모델이 학습 과정에서 방대한 정보를 내부에 저장하지만, 어떤 정보가 어떤 결과에 영향을 미쳤는지 알기 어렵다. 이에 개인이 자신의 개인정보를 삭제해 달라고 요구해도 기존 AI 모델에서는 이를 정확히 반영하기가 거의 불가능하다. 머신 언러닝은 이 문제를 해결하기 위한 기술이다. 최근 그는 이를 실제 개인정보 보호에 적용할 수 있도록 기술을 업그레이드했다. 기존 방식은 특정 데이터를 삭제하기 위해 해당 데이터를 제외한 나머지 데이터로 모델을 재학습해야 했다. 이는 초거대 AI 모델 환경에서 시간·비용 측면에서 사실상 불가능하다. 그는 "기존 언러닝 기법은 연구실에선 가능했지만 실제 서비스에 적용하기에 매우 비효율적"이라고 주장했다. 우 교수 연구팀은 이 문제를 해결하기 위해 새 접근법을 제시했다. 핵심은 원본 데이터를 보관하지 않아도 모델 성능과 삭제 정확도를 동시에 유지하는 방식이다. 이에 원본 데이터를 보관하거나 재학습을 별도로 진행하지 않아도 모델 성능을 유지할 수 있다. 그는 "원본 데이터 대신 통계적으로 유사한 합성 데이터를 생성·활용해 한계를 극복했다"고 강조했다. 그는 삭제 대상 데이터가 다른 데이터와 섞여 변형된 경우에도 제거 가능하다고 설명했다. 그는 "실제 데이터는 단독 존재하지 않고 여러 문장이나 문서, 다른 데이터와 연결돼 학습된다"며 "이를 그래프 구조로 표현하면 어떤 정보가 다른 정보에 어떻게 영향 미쳤는지 추적할 수 있다"고 말했다. 그러면서 "특정 이름이나 문장, 파생 정보까지 한 번에 제거할 수 있는 이유"라고 덧붙였다. 이 연구 성과는 지난해 12월 미국 샌디에고 컨벤션 센터에서 열린 국제 AI 분야 학회 NeurIPS(Neural Information Processing systems)에 발표됐다. 이 연구는 올해 과학기술정보통신부 재원과 정보통신기획평가원(IITP) 지원으로 추진 중이다. 연구 과제명은 '개인정보보호 관련 정책 변화를 유연하게 반영하여 준수하는 AI 플랫폼 연구 및 개발'이다. 우 교수는 해당 기술이 향후 기업과 정부 시스템에도 유용할 수 있을 것으로 봤다. 그는 "기업은 고객 개인정보나 저작권 있는 문서·이미지, 책 내용을 AI 모델에 학습시키기만 하면 된다"며 "삭제 요청이 들어오면 이를 기술적으로 반영하면 된다"고 설명했다. 그는 현재 여러 국내 기업과 협력해 챗봇이나 검색, 문서 분석, 법률 AI 등 서비스에 해당 기술을 적용하는 연구를 진행하고 있다. 그는 "개인정보나 저작권 삭제 요구가 많은 분야일수록 실무적 가치가 큰 기술"이라며 "언러닝 성능을 AI 안전성 평가 지표로 활용하는 방안도 고려 중"이라고 덧붙였다. 우 교수는 이달 시행될 국내 AI기본법과 연구 성과가 깊이 연결될 것으로 내다봤다. 그는 "그는 유럽 일반정보보호규정(GDPR)처럼 한국 AI기본법은 개인의 데이터 삭제 권리를 보장하는 것이 필수일 것"이라며 "우리 방식은 이런 법적 요구를 실제 AI 모델에 기술적으로 반영할 수 있는 현실적 해법"이라고 강조했다. "딥페이크도 '문맥'으로 잡아야"...기술력 전 세계 2위 기록 우 교수는 딥페이크 감지 기술 분야에서도 활발한 연구를 이어가고 있다. 특히 최신 생성형 AI가 만들어내는 새로운 형태의 딥페이크까지 탐지하는 기술 개발에 주력하고 있다. 그는 현재 다수 딥페이크 탐지 모델 성능이 최신 AI 기술을 따라가지 못하는 점을 꼬집었다. 모델 학습에 사용된 데이터와 실제 딥페이크 확산 형태가 다르다는 점을 근본 원인으로 짚었다. 그는 "최신 AI가 만드는 딥페이크는 기존 데이터와 특성이 전혀 다르다"며 "탐지 모델 성능이 실제 환경에서 급격히 떨어질 수밖에 없다"고 말했다. 우 교수 연구팀은 이런 문제를 해결하기 위해 새 방법론을 적용한 딥페이크 탐지 모델을 제시했다. 연구팀은 'DINO'와 'CLIP-ViT' 계열 모델로 이미지와 텍스처, 의미적 패턴을 폭넓게 이해할 수 있는 모델을 구축했다. DINO는 대규모 웹 데이터 기반으로 사전 학습된 모델이다. CLIP-ViT는 텍스트와 이미지 간 의미 관계를 학습한 모델이다. 연구팀은 이를 딥페이크 탐지에 맞게 재학습해 이미지 백본으로 활용했다. 이후 이 모델 위에 딥페이크 전용 어댑터 모듈도 추가했다. 이에 모델은 영상과 이미지에 포함된 미세한 위조 흔적까지 포착할 수 있다. 우 교수는 해당 모델이 단순 이미지 분류를 넘어서 의미론적 개념을 이해하도록 설계된 것을 핵심 기능으로 제시했다. 그는 "이 모델은 특정 유형 딥페이크에 과적합 되지 않는다"며 "여러 위조 콘텐츠를 안정적으로 탐지할 수 있다"고 설명했다. 해당 연구는 지난해 과기정통부 재원으로 IITP 지원을 받아 '디지털역기능대응기술개발'사업으로 수행됐다. 사업명은 '악의적 변조 콘텐츠 대응을 위한 딥페이크 탐지 고도화, 생성 억제, 유포 방지 플랫폼 개발'이다. 해당 모델로 성과도 얻었다. 지난해 국제 컴퓨터비전 학술대회(ICCV)가 주최한 딥페이크 탐지 'SAFE 챌린지'에서 이탈리아 나폴리대 연구팀에 이어 전 세계 2위를 기록했다. 또 지난해 성균관대와 한국정보과학학회가 공동 주최한 '성균관대x한국정보과학학회 딥페이크 경진대회'에서 대상과 우수상을 각각 수상했다. 우 교수는 향후 딥페이크 연구 방향도 제시했다. 그는 "실제 환경에 가까운 조건에서 모델을 연구·평가할 것"이라며 "특히 메신저와 소셜미디어(SNS) 환경처럼 저화질·압축 영상이 많은 환경서도 안정적으로 딥페이크를 탐지할 수 있는 모델을 구축할 것"이라고 덧붙였다.

2026.01.14 15:36김미정 기자

박수현 의원, AI·딥페이크 대응 '퍼블리시티권보호법' 대표발의

박수현 더불어민주당 의원은 '퍼블리시티권 보호 및 이용에 관한 법률 제정안'을 대표발의했다고 5일 밝혔다. 이는 인공지능(AI) 기술 발전에 따른 개인 얼굴·목소리 등 무단 이용을 방지하고, 퍼블리시티권을 체계적으로 보호하기 위한 조치다. 이번 제정안은 개인 초상·성명·음성 등 특정 사람을 식별할 수 있는 요소가 갖는 재산 가치를 보호하고, 공정한 이용 질서를 확립함으로써 문화 가치 창출과 문화 산업 경쟁력 강화 기여 목적으로 한다. 주요 내용으로는 퍼블리시티권을 독립된 재산 권리로 명시하고, 문화체육관광부장관이 관련 시책을 수립·시행하도록 했다. 퍼블리시티권은 권리자 생존 기간과 사망 후 30 년간 존속하며, 권리자 또는 상속인은 초상·음성 등 이용을 허락할 수 있도록 했다. 다만 시사보도나 정보 전달 등 공익 목적 이용에 대해서는 권리자 허락 없이 초상 등을 이용할 수 있는 예외를 뒀다. 또 AI 등을 활용해 생성된 디지털 모사물을 공연·전송·배포할 경우, 해당 콘텐츠가 디지털 모사물임을 명확히 표시하고 위반 시 1천만원 이하 과태료를 부과하는 내용도 담았다. 아울러 권리자 명예를 훼손하는 내용 디지털 모사물을 제작하는 행위 등을 퍼블리시티권 침해행위로 간주했다. 고의성이 인정될 경우에는 손해로 인정된 금액 5배를 넘지 않는 범위에서 배상액을 정할 수 있도록 했다. 박수현 의원은 "AI 기술 발전은 새로운 문화 산업 기회를 제공하는 동시에, 개인 얼굴과 목소리 같은 정체성 요소를 무분별하게 침해할 위험도 함께 키우고 있다" 며 "기술 발전 속도에 맞는 권리 보호 체계를 마련하는 것이 입법 책무"라고 밝혔다. 이어 "퍼블리시티권 보호를 통해 개인 정당한 권익을 지키는 동시에, 문화 콘텐츠 산업이 지속 가능하게 성장할 수 있는 토대가 마련되기를 기대한다"고 강조했다.

2026.01.05 16:05진성우 기자

"딥페이크 의사 광고 금지법, 소비자 보호 효과는 분명”

딥페이크를 활용해 가짜 의사를 내세운 광고를 금지하는 법안이 소비자 보호 효과는 분명하지만 사업자의 과도한 규제는 부담이 될 수 있다는 분석이 나왔다. 국회입법조사처는 31일 발간한 온라인 광고 딥페이크 활용 고지 표시 훼손 또는 위변조 금지 의무 법안의 입볍영향분석 보고서를 통해 이같이 평가했다. 입법영향분석 보고서는 법률안이 시행될 경우 발생할 것으로 예상되는 전반적인 영향을 객관적이고 과학적인 방법으로 예측 분석한 것으로 국내외 연구 논문, 헌재 판례, 국내외 입법례, 이해관계자 의견 등을 종합적으로 반영한다. 현재 소비자는 광고의 진위와 신뢰성을 판단하기 어려워지고, 조작된 영상을 사실로 오인해 제품을 구매하는 등 실질적인 피해로 이어질 우려가 커지고 있다. 특히 식의약품 분야에서는 특정 인물이나 신체 이미지를 합성한 광고가 높은 홍보 효과를 내는 점을 악용한 허위과장 광고가 반복되고 있다. 가상의 이미지를 실제 의사나 전문가의 권고로 오인하는 피해와 건강 정보에 취약한 노년층이 거짓 의학 정보에 노출될 경우 생명과 신체에 대한 직접적인 위험으로 이어질 수 있다는 점에서 제도적 대응의 필요성이 크다. 이와 같은 문제를 해결하기 위해 AI 생성 광고의 표시를 훼손 변조하는 행위를 금지하고, 플랫폼 사업자에게 해당 광고의 삭제 의무를 부과하는 정보통신망법 개정안이 발의됐다. 입법조사처는 법안에 대한 입법영향분석을 실시한 결과 소비자 보호 측면의 효과는 분명하지만 규제 기준의 모호성으로 인해 사업자 부담이 과도해질 우려가 있다고 밝혔다. 먼저 소비자 보호 효과가 크다고 봤다. 현행법은 AI 생성물 표시 의무를 규정하고 있으나, 표시를 고의로 삭제하거나 가리는 행위에 대한 제재는 충분하지 않다. 개정안은 이러한 입법 공백을 보완해 소비자에게 정확한 정보를 제공하고, AI 표시의 신뢰성을 제고해 소비자 오인에 따른 피해 확산을 예방하는 데 기여할 것으로 평가된다. 이와 함께 광고 게시자의 표현의 자유 제한 우려가 제기되고 있다. '훼손'이나 '위변조'의 개념이 명확하지 않을 경우, 단순 편집이나 저화질 변환 등 고의성이 없는 행위까지 규제 대상에 포함될 가능성이 있다. 이는 표현의 자유를 위축시킬 수 있으므로, 하위 법령을 통해 금지 행위의 범위를 구체화할 필요가 있다. 또 정보통신서비스 제공자의 영업의 자유 제한 우려가 있다. 개정안은 정보통신서비스 제공자에게 표시가 훼손 조작된 광고에 대한'지체 없는 삭제'의무를 부과하고 있으나, 이는 기존 정보통신망법상 불법정보 삭제 체계에 비해 사업자의 판단 부담을 크게 가중시킬 수 있다는 것이다. 이에 따라, 입법조사처는 입법영향분석 결과를 토대로 소비자 보호와 사업자에 대한 합리적 규제가 균형을 이룰 수 있는 입법적 논의 방안을 제안했다. 또 입법적 논의와 보완을 거쳐 본 법률안이 실제로 통과된다면, 법률 시행 3년 후 사후 입법영향분석을 실시해 규제 효과와 사업자의 이행 상황을 재점검하는 절차도 제시했다.

2025.12.31 10:52박수형 기자

'2025 디지털 윤리대전' 대상에 동궁초 학생팀

방송미디어통신위원회와 한국지능정보원은 '2025 디지털윤리대전 및 인터넷‧통신 이용자 보호 유공 포상 수여식'을 열다고 30일 밝혔다. 행사는 디지털 역기능에 대한 경각심을 높이고 건전한 이용 문화를 사회 전반으로 확산하기 위해 마련됐다. 행사 비전은 '안전을 더하는 인공지능, 아름다운 디지털 세상'이다. 생성형 인공지능의 확산으로 심화되고 있는 첨단조작기술영상(딥페이크), 허위조작정보 등 디지털 역기능에 대응하는 한편, 인공지능을 안전하고 책임있게 활용하는 문화를 실천해 나가자는 의미다. 디지털윤리 창작콘텐츠 공모전 시상과 건전한 디지털윤리 문화 조성에 기여한 개인과 단체를 격려하는 자리로, 약 150명이 참석했다. '디지털윤리 문화조성 유공' 표창엔 디지털윤리 교육 및 인식 제고에 기여한 공로로 이유정 한국지능정보원 선임과 전창배 국제인공지능윤리협회 이사장, 조은아 인천당하초등학교 교사, 교보교육재단(단체)이 선정됐다. '디지털윤리 창작콘텐츠 공모전' 대상(대통령상)은 딥페이크 위험성과 올바른 대처 방법을 그림일기로 제출한 부산 동궁초등학교 장예정·김현아·박설 학생팀이 받았다. 최우수상(국무총리상)은 인공지능 비서 관련 그림만화(웹툰)를 그린 박인혜 작가(프리랜서)가 이름을 올렸다. '인터넷·통신 서비스 이용자 보호 유공 정부포상'은 안정은 한국인터넷진흥원 팀장이 받았다. 불법스팸으로부터 이용자를 보호하기 위해 관련 정책 수립을 지원하고, 민관 협력 및 지능형 차단 방안 등을 추진해 불법스팸 감축에 일조한 공로다. 이밖에 황용석 건국대 교수, 권은정 가천대 교수, 최재혁 한국정보통신기술협회 수석, 김대열 방송통신이용자보호협회 팀장, 나황영 법무법인 형원 변호사, 이윤남 법무법인 태평양 변호사, 이정규 네이버 전무가 정부포상의 영예를 안았다. 류신환 방송미디어통신위원회 비상임위원은 “인공지능과 디지털 기술의 오남용‧악용 등의 문제로 헌법상 기본권이 침해되고 있다”며 “관련 기술이 국민 신뢰 위에서 발전해 갈 수 있도록 안전한 디지털 환경을 만들어 나갈 것”이라고 말했다.

2025.12.30 15:32홍지후 기자

"옷 벗기고 비키니로"…AI 챗봇, 비키니 딥페이크 생성 논란

일부 사용자들이 인공지능(AI) 챗봇으로 여성 사진을 노출이 심한 딥페이크 이미지로 바꾸는 사용법을 공유하고 있는 것으로 나타났다고 IT매체 와이어드가 23일(현지시간) 보도했다. 보도에 따르면, 구글 제미나이와 오픈AI의 챗GPT 이미지 생성 기능을 통해 사진 속 여성의 옷을 비키니로 바꾸는 딥페이크 이미지를 만들 수 있는 것으로 확인됐다. 온라인 커뮤니티 레딧의 'r/ChatGPTJailbreak' 게시판에서 사용자들은 AI 안전장치를 우회하는 방법을 공유하며 딥페이크 제작법을 서로 안내하는 모습이 포착됐다. 현재는 삭제된 '제미나이의 부적절한(NSFW) 이미지 생성이 너무 쉽다(gemini nsfw image generation is so easy)'라는 레딧 게시물에서 구글 제미나이를 사용해 노출이 많은 옷을 입은 여성 이미지를 만드는 방법에 대한 팁들이 공유됐다. 해당 게시글에서 한 사용자는 인도 전통의상을 입은 여성 사진을 올리며 "옷을 벗기고 비키니로 바꿔달라"고 요청했고, 이에 다른 사용자가 딥페이크 이미지로 만들어 댓글로 올리기도 했다. 이후 와이어드가 이를 레딧 측에 알리자, 레딧 안전팀은 해당 게시글과 이미지를 삭제했다. 또 다른 레딧 게시물에는 특정 인물의 치마를 몸에 더 밀착된 것처럼 보이도록 만들기 위해 AI 챗봇의 안전장치를 우회하는 법에 대한 안내도 공유됐다. 와이어드는 이런 기법이 실제로 제미나이와 챗GPT에서 작동하는지 확인하기 위해 테스트했다. 그 결과 간단한 영어 문장으로 작성된 기본 프롬프트만으로 옷을 입은 여성의 사진을 비키니 딥페이크 이미지로 변환할 수 있었다고 전했다. 생성형 AI 도구가 확산되면서, 해당 기술을 이용해 당사자의 동의 없이 여성들을 딥페이크 이미지로 괴롭히는 사례도 발생하고 있다. 실제로 수백만 명의 이용자가 실존 인물의 사진을 업로드한 뒤 생성형 AI를 통해 옷을 벗긴 이미지로 만들어달라고 요청할 수 있는 이른바 '누디파이(nudify)' 웹사이트를 방문한 것으로 나타났다. 물론 xAI의 그록을 제외하면 대부분의 AI 챗봇은 일반적으로 부적절한 이미지 생성을 허용하지 않는다. 하지만, 구글의 이미지 모델 '나노 바나나 프로', 오픈AI의 '챗GPT 이미지' 등 AI 이미지 생성 도구들이 최근 더 고도화되면서 이용자들이 가드레일을 우회할 경우 생성되는 이미지의 유사성과 사실성은 더욱 높아질 가능성이 있다고 해당 매체는 지적했다.

2025.12.24 16:47이정현 미디어연구소

에버스핀, 日 SBI 금융그룹 보안 책임진다

에버스핀이 일본 초대형 금융그룹사 보안을 책임진다. AI 보안기업 에버스핀 (대표 하영빈)은 일본 SBI홀딩스(대표이사 겸 회장 기타오 요시타카)와 두 회사의 합작법인인 SBI에버스핀(대표 윤자명)과 함께 SBI그룹의 보안 강화를 위한 3자 글로벌 보안 협력 강화를 선언했다고 15일 밝혔다. 이번 협력 선언은 에버스핀이 해외 시장에서 본격적인 사업 확장 단계에 진입했음을 보여주는 중요한 이정표로 평가된다. 이번 협력 강화 선언은 에버스핀 솔루션을 SBI 금융그룹 전사 보안체계에 공식 적용하기 위해 SBI홀딩스와 SBI에버스핀이 체결한 대규모 통합 보안 계약을 기반으로 마련됐다. 에버스핀은 프로젝트 핵심 보안 기술 제공사로 공식적인 역할을 수행하게 된다. 에버스핀 기술이 해외 대형 금융그룹 보안 아키텍처에 전사적으로 적용되는 것은 이번이 처음이다. 국내 AI 보안 기술이 글로벌 금융권에서 실질적 경쟁력을 인정받은 사례다. SBI홀딩스와 SBI에버스핀은 SBI그룹 내 금융·투자·플랫폼 서비스 전반의 보안 거버넌스 체계 강화를 위한 포괄적 보안계약을 체결했다. 에버스핀 AI보안 기술은 이 아키텍처의 주요 구성 요소로써 그룹 각사에 도입된다. 또 SBI에버스핀 지분율 30%를 보유하고 있는 에버스핀 측은 SBI에버스핀을 통해 지급받는 로열티 수익 이외에도 지분법 이익을 인식할 수 있어서, 에버스핀 이익에도 선순환을 가져오게 된다고 전했다. 이번 사례는 단순 기술 공급을 넘어 에버스핀의 해외 사업 모델이 본격적으로 확장되는 중요한 계기가 될 전망이다. 하영빈 에버스핀 대표는 “이번 3자 협력은 에버스핀 기술력이 글로벌 금융권에서 공식적으로 인정받은 첫 사례이며, 해외 사업 확장의 출발점이 될 것”이라며 “향후 일본 시장뿐 아니라 아시아·북미 등 주요 해외 시장으로 기술 공급을 확대하고 글로벌 파트너십을 강화하겠다”고 밝혔다. 업계에서는 이번 협력이 해외 대형 금융그룹 대상 기술 도입 사례 확보, 글로벌 수준의 레퍼런스 구축, 향후 해외 금융권 협력 확대 기반 마련등의 측면에서 에버스핀에 중요한 의미를 갖는 것으로 보고 있다. 에버스핀은 이번 프로젝트를 기반으로 일본 금융권 내 확산, 아시아 주요 금융기관 협력 추진, 선제적 보안 기술의 글로벌화 등 해외시장 확장 전략을 단계적으로 가속할 계획이다. 한편, 에버스핀은 이달초 AI-동적표적방어(MTD) 기반 웹·앱 보안 솔루션 '에버세이프'로 기술력을 인정받아 '2025 대한민국 소프트웨어대상'에서 대통령상을 수상한 바 있다. 이는 공격 이후 대응이 아닌 공격 자체를 사전에 무력화하는 선제적 보안 기술의 실효성을 국가 차원에서 공식적으로 인정받은 사례로, 최근 빈발하는 대형 해킹 사고에 대한 현실적인 해법을 제시했다는 평가를 받고 있다.

2025.12.15 09:18주문정 기자

국과수, 딥페이크 탐지 기술 본격 적용…적극행정 대상 수상

국립과학수사연구원(이하 국과수)이 자체 개발한 인공지능(AI) 기반 딥페이크 탐지 기술을 수사 현장에 적용해 신종 디지털범죄 대응에 나선 공로를 인정받았다. 행정안전부 국과수는 지난달 27일 국무조정실, 행정안전부, 인사혁신처가 공동 주관한 '2025년 적극행정 우수사례 경진대회' 본선에서 'AI딥페이크 분석모델' 사례로 대상(대통령상)을 수상했다고 7일 밝혔다. 이번 수상은 국민심사단 평가, 전문가 평가, 온라인 생중계 투표를 종합한 결과다. 국과수가 출품한 'AI딥페이크 분석모델'은 최근 급증하는 딥페이크 범죄에 대응하기 위해 자체 개발한 인공지능(AI) 기반 탐지 기술이다. 기존 위·변조 감정 기법은 실험대조군, 대조영상, 샘플 확보가 필수여서 딥페이크처럼 온라인에서 빠르게 유통되는 콘텐츠에는 한계가 있었다. 국과수는 AI 분석 기술을 적용해 이러한 제약을 줄이고, 범죄 유형별 맞춤형 탐지 모델이 충분하지 않은 상황에서도 효과적인 탐지가 가능하도록 한 점에서 높은 평가를 받았다. 국과수가 구축한 'AI딥페이크 분석모델'은 딥페이크로 의심되는 이미지, 영상, 음성을 입력받아 진위 여부를 자동으로 판별하는 시스템이다. 얼굴, 음성, 영상 합성 과정에서 나타나는 미세한 왜곡과 비정상적 패턴을 AI가 학습해 수사기관에 신속한 1차 판단 근거를 제공한다. 이에 따라 수사기관의 대응 속도와 감정 정확성이 모두 향상돼, 피해 확산을 막고 사건 처리 기간을 단축하는 효과를 거두고 있다는 설명이다. 이번 모델은 단일 연구가 아니라 행정안전부와 국과수, 연구기관·민간기업이 함께 추진해온 여러 연구 성과를 바탕으로 하고 있다. 국과수는 행정안전부 '인공지능을 활용한 딥페이크 불법 콘텐츠 분석 모델 개발' 과제와, 국과수·한국전자기술연구원·한국과학기술원·경찰대학·클레온·위지윅스튜디오 등 6개 기관이 공동으로 수행 중인 '생성형 인공지능의 사회적 부작용을 방지하기 위한 자가 진화형 딥페이크 탐지기술' 연구 결과를 토대로 지능형 범죄 대응 기반 기술을 고도화하고 있다. 국과수는 이 기술이 실제 현장에서 이미 활용되고 있다는 점도 강조했다. 국과수는 제21대 대통령 선거 기간 동안 총 13건, 53종의 딥페이크 관련 영상을 감정해 선거관리와 수사기관에 결과를 제공한 바 있다. 앞으로도 각종 선거에서 불법 딥페이크 의혹 영상이 접수될 경우, AI 기반 분석모델을 활용해 신속히 진위를 가리는 데 적극 협조하겠다는 방침이다. 활용 범위는 선거 영역을 넘어 다른 공공·사회 분야로도 확대된다. 국과수는 딥페이크를 이용한 지능형 범죄 예방 정책을 추진 중인 성평등가족부, 방송미디어 통신위원회 등 유관기관에 'AI딥페이크 분석모델'을 단계적으로 지원할 계획이다. 성착취물, 연예인·공인 합성물, 허위·조작 영상 등 사회적 파장이 큰 딥페이크 범죄에 대해 사전 차단과 사후 수사를 동시에 강화하겠다는 취지다. 이봉우 국립과학수사연구원장은 "이번 수상은 국과수가 국민 안전을 지키기 위해 지능형 신종 범죄에 대응할 수 있는 새로운 기술 개발을 위해 적극 노력한 결과"라며 "앞으로도 현장의 목소리를 청취하고 다양한 기관과 협업을 통해 국민이 체감하는 안전한 사회 구축에 최선을 다하겠다"고 말했다.

2025.12.08 16:44남혁우 기자

피싱방지 앱 1위 에버스핀 '페이크파인더', ISMS로 공급망 보안 강화 해법 부상

인공지능(AI) 기반 사이버 보안 기업 에버스핀(대표 하영빈)의 피싱방지 솔루션 '페이크파인더'가 지난달 정부의 '범부처 정보보호 종합대책' 발표 이후 공급망 보안 강화를 위한 해법으로 또 한 번 주목받고 있다. KB국민은행·카카오뱅크 등 60여 개 금융기관이 사용하며 점유율 1위를 기록 중인 페이크파인더가 다시 주목받는 이유는 정보보호 관리체계(ISMS) 인증 때문이다. 정부는 최근 범부처 정보보호 종합대책에서 공공·금융·통신·플랫폼 등 핵심 IT 시스템에 대한 대대적인 보안 점검과 함께 정보보호 관리체계(ISMS·ISMS-P) 실효성 강화, 소프트웨어·서비스 공급망 전반 보안 수준 제고, 정보보호 서비스 산업 육성 등을 주요 방향으로 제시했다. ISMS 인증을 취득한 페이크파인더는 이같은 정책 기조 속에서 금융사·통신사·공공기관 등 고객사가 자체 시스템뿐 아니라 도입하는 외부 보안 솔루션까지 포함한 전체 디지털 공급망 보안의 강화기반으로 자리매김할 수 있게 됐다. 에버스핀은 과거 자회사 시큐차트가 최초 획득한 페이크파인더 ISMS 인증을, 합병 이후 새로운 기준에 맞춰 다시 전체 관리체계를 검증받아 ISMS를 취득했다. 페이크파인더는 세계 최초로 화이트리스트 방식 악성앱 탐지 기술을 적용했다. 전 세계에서 정상적으로 출시된 앱 2천200만 개 이상을 실시간으로 수집, DB화 한 고유 시스템을 바탕으로, 사용자 스마트폰에 설치된 앱이 정상 앱을 위장한 위조 앱인지, 정상 앱이 변조된 형태인지, 원격제어 앱이 악용되고 있는지 등을 정밀 분석해 피싱·스미싱·원격조작 기반 금융사기 공격을 사전에 차단한다. 기존 블랙리스트 방식처럼 '사고를 일으킨 앱'만 찾는 것이 아니라 정상 앱의 원형을 기준으로 조금이라도 어긋난 앱을 찾아내는 선제방어·사전예방형 구조다. 페이크파인더는 KB국민은행·카카오뱅크·한국투자증권·신한투자증권·KB국민카드·우리카드·DB손해보험·SBI저축은행·저축은행중앙회 등 60여 고객사에서 적용하는 등 국내 시장 점유율 1위를 달리고 있다. 에버스핀은 ISMS 인증 과정에서 페이크파인더 서비스 전반에 대해 ▲정보보호 정책 및 조직 체계 ▲위험 관리 프로세스 ▲접근통제·암호화·로그 관리 ▲서비스 운영 안정성 등 주요 항목에 대해 검증을 받았다. 그 결과 페이크파인더는 피싱·악성앱 탐지 성능뿐 아니라, 서비스 운영과 정보보호 관리 측면에서도 ISMS 기준에 부합하는 체계를 갖춘 솔루션으로 공식 인정받아 왔다. 에버스핀의 ISMS 인증으로 페이크파인더를 도입하는 금융·통신사·공공기관 등이 자체 서비스 내부 보안을 강화할 수 있음은 물론, 외부 보안 솔루션까지 포함한 디지털 공급망 전체에서의 컴플라이언스 요구를 더욱 안정적으로 충족할 수 있게 됐다. 최근 발생하는 보안사고는 단일 시스템의 취약점뿐 아니라 연동된 시스템·외부 솔루션·단말 환경 등 공급망 전반의 관리 책임이 함께 논의되는 상황이기 때문에, 관리 체계가 검증된 보안 솔루션을 활용하는 것은 공급망 보안 리스크를 줄이는 실질적인 수단이 될 수 있다. 하영빈 에버스핀 대표는 “정부의 범부처 정보보호 종합대책은 보안을 이제 개별 시스템의 문제가 아니라 연결된 전체 생태계와 공급망의 문제로 보겠다는 선언이라고 본다”며 “페이크파인더 ISMS 인증은 에버스핀이 피싱·악성앱 탐지 기술뿐 아니라, 관리 체계 측면에서도 고객사의 강화된 기준을 함께 맞춰 나갈 수 있는 준비를 갖췄다는 신호”라고 말했다.

2025.11.20 09:25주문정 기자

Prev 1 2 3 Next