검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'딥 페이크'통합검색 결과 입니다. (39건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

방미심위, 'AI·자율규제'로 20만건 심의 적체 뚫을까

고광헌 방송미디어통신심의위원회 위원장을 필두로 닻을 올린 방미심위 앞에 '심의 적체'라는 숙제가 놓였다. 방미심위 전신인 방송통신심의위원회 기능이 중단되며 올해 1분기 기준 마약, 도박, 딥페이크 성 착취물 등 심의물은 20만 건 넘게 쌓였다. 고 위원장은 지난 16일 취임식에서 “심의의 기준과 방식, 규제의 실효성을 시대 변화에 맞게 점검하고 개선해야 한다”며 “불법 정보를 지금보다 더 신속하게 차단하는 대응 체계를 마련하겠다”고 밝히며 AI 기술 활용을 구체적 방안으로 제시했다. 16년 새 심의 대상 12배 늘었는데 인력은 2배 증원 고 위원장이 짚었듯 직원이 하나하나 심의물을 보고 처리하는 방미심위의 개별 확인 방식은 늘어난 심의물을 대응하기엔 역부족이다. 지난 1일 고 위원장 대상 국회 인사청문회에선 방미심위 심의 시스템의 구조적 문제가 드러났다. 이주희 더불어민주당 의원은 “통신 심의 건수는 2008년 약 3만 건이었는데, 2024년 약 35만 건으로 12배가량 증가했고, 직원 1인당 담당 심의 건도 약 8배가 증가했다. 반면 인력은 그 사이 2배 정도밖에 늘지 않았다”고 말했다. 그러면서 심의 적체 해결과 신속한 심의를 위해 구조의 변화가 필요하다고 짚었다. 이 의원은 “인력을 확충하고 심의 횟수를 늘리는 것도 중요하지만 방미심위가 수십만 건을 일일이 들여다보는 심의 구조는 물리적인 한계에 봉착했다”고 지적했다. “AI 도입도 결국 사후 처리...사전 차단 방식으로 패러다임 변화해야” 고 위원장이 언급한 AI 기술 도입이 심의 적체의 해결 방안이 될 수 있는지에도 의문이 제기됐다. 방미심위가 최형두 국민의힘 의원실에 제출한 자료에 따르면, 방미심위 AI 심의는 오식별 문제, 정상 콘텐츠 차단 사례 등이 발생하고 있다. 최 의원은 “방미심위가 진행하는 DNA 필터링 등 AI 심의는 식별률이 저조하고 기술 수준이 빅테크 기업의 콘텐츠 관리 알고리즘에 비해 뒤처져 오판율이 높다”고 꼬집었다. 이에 고 위원장은 “미흡한 AI 기술을 고도화하겠다”고 답했으나 한번 퍼지면 영구 삭제가 어려운 디지털 유해 콘텐츠 특성상 AI든 사람이든 이미 심의물이 유통된 후 조치하는 기존 '사후 처리' 시스템은 심의물 차단의 근본적 대책이 될 수 없다는 우려가 제기됐다. 방미통위는 '어떻게 심의 적체를 해결할까'와 더불어 '어떻게 심의 적체를 만들지 않을까'도 고민해야 하는 시점이다. 정치권에선 플랫폼사가 자체 알고리즘과 유해 정보 확산 방지 시스템으로 선제 조치하면, 국가가 그걸 감시하는 협력 체계 등 '사전 차단'으로의 심의 체계의 전면적 개편이 필요하다는 제언이 나왔다. 한민수 더불어민주당 의원은 “방미심위에서 네이버, 구글, 메타 등 플랫폼 사업자와 협력 체계를 보다 원활하게 구축하면 불법 정보에 대한 정식 심의 절차에 앞서 자율 심의를 통한 선제적 조치를 보다 강화해서 시행할 수 있다”고 강조했다. '자율규제' 실효성 의심 최 의원실 자료를 보면 방미심위는 '자율규제'를 통해 구글, 유튜브, 인스타그램 등 플랫폼사에 유해 콘텐츠 삭제 조치 등 시정 요청을 진행하고 있다. 2024년부터 지난해 상반기까지 요청 건수는 약 11만 건에 달하며, 이 중 X(엑스)가 약 5만 4802건으로 가장 높았고 페이스북 1만 2046건, 인스타그램 1만 1329건, 유튜브 8285건, 구글 1773건으로 그 뒤를 이었다. 문제는 방미심위 요청이 실제 심의물 삭제와 유통 차단으로 이어지는지 확인되지 않는 점이다. 요청 건수만 집계될 뿐, 삭제 이행률과 평균 처리 기간, 재유통 차단율에 대한 통계는 기록되지 않았다. 방미심위 규제 실효성이 의심되는 대목이다. 이해민 조국혁신당 의원은 “실무로 들어가게 되면 플랫폼사와의 협력이 제대로 구축되지 않으면 신속성이 담보되지 않는다”며 “이 부분에 대한 계획을 꼭 마련해달라”고 요청했다. 고 위원장은 플랫폼사와의 협력 강화를 공언했다. 고 위원장은 “플랫폼사와 협력해 자율규제를 강화하는 쪽으로 실질적인 효과를 보도록 하겠다”며 “협력을 강화하기 위해 방송미디어통신위원회와 협의해 대안을 마련하겠다”고 말했다.

2026.04.17 15:28홍지후 기자

진화하는 독버섯...피싱·스미싱과의 전쟁

지능화된 인공지능(AI)이 일상의 모든 영역을 파고드는 대전환의 시대, 기술의 화려한 도약만큼이나 시급한 과제는 바로 그 이면에 자리한 '디지털 신뢰'를 단단히 구축하는 일입니다. 지디넷코리아는 "AI 기술이 서 말이라도 보안으로 꿰어야 보배"라는 슬로건 아래, 약 두 달간 '2026 디지털 트러스트' 연중 기획 연재 및 캠페인을 진행합니다. 해킹·딥페이크·가짜뉴스·랜섬웨어 등 진화하는 보안 위협 속에서 단순한 기술 편익을 넘어 '안전한 AI 생태계'를 조성하기 위한 공론의 장을 마련하고, 기술과 보안이 공존하는 지속 가능한 디지털 미래의 이정표를 제시하고자 합니다. [편집자주] “이렇게 하면 으찌하니?” 보이스피싱을 소재로 다룬 개그콘서트 코너에서 자주 나오는 대사다. '황해'라는 코너가 등장한 시기는 13년 전인 2013년이다. 그 당시부터 공영방송에서 웃음 소재로 다룰 만큼 국민 누구나 공감할 소재였다는 뜻이다. 보이스피싱이 문제가 된 게 어제 오늘 일이 아니었다는 뜻으로 풀이된다. 폐지됐던 이 프로그램은 지난해 '황해 2025'라는 이름으로 리메이크 됐다. 리메이크 방송에선 "요즘은 스마트폰 세상이다. 채팅으로 사기 치는 기다"며 스미싱 소재를 꺼냈다. 음성통화를 통한 사기에서 메신저 앱을 이용한 피싱 범죄로 전환됐다는 것을 보여주는 단적인 사례다. 그 사이 보이스피싱 사기 행위는 줄지 않았고 사기 수단은 늘어났다는 의미다. 방송에선 한국 상황을 다뤘지만, 보이스피싱은 우리만의 문제는 아니다. 미국 연방통신위원회(FCC)가 가장 많이 접수하게 되는 이용자 불만 사항이자 이용자 보호 정책의 최우선 과제로 꼽는 게 자동녹음전화인 '로보콜(Robocall)' 문제다. 지난해 미국에선 한 달 평균 25억여 건의 로보콜 전화가 성행했다. 건수 만큼이나 범죄 수법도 다양했다. 단순히 반복되는 스팸 수준의 텔레마케팅을 넘어 스캠 사기 전화가 극성을 부리고 로보콜 차단 소프트웨어 보급에 문자폭탄을 통한 금전 피해가 속출했다. 캄보디아를 거점으로 피싱을 시작으로 스캠 범죄가 치솟자 정부는 '초국가범죄 특별대응 TF'를 꾸려 대응했다. 이때 이재명 대통령이 올해 초 “한국인들을 건드리면 패가망신한다”는 강력한 메시지를 내놓기도 했다. 사기 수법은 간단하지만 피해는 금전적인 부분을 넘어 사회를 병들게 할 수도 있는 수준이란 인식에 따른 것이다. 빈틈을 파고드는 피싱 범죄 기록에 남아 있는 국내 최초 보이스피싱은 2006년 발생했다. 신종 범죄가 발생하고 20년이 지난 셈이다. 언뜻 돌이켜보면 사건 발생 초기에 뿌리 뽑지 못한 게 아쉬움으로 남을 수 있지만, 1인 1 스마트폰 시대로 일컫는 정보통신기술 발전과 모바일 금융의 확산이 새로운 유형의 범죄가 커질 수 있는 발판이 됐다. 아울러 더욱 고도화되고 지능화된 사기 수법이 더해지면서 더 이상 간과할 수 없는 사회적 문제로 부상했다. 민간에서 스팸 번호 차단 앱을 개발해 보급하고 통신사와 정부가 수시로 대책을 마련하며 디지털 플랫폼 회사를 비롯해 휴대폰 제조사까지 힘을 보태도 빈틈을 찾아 나서는 공격 패턴은 날로 교묘해졌다. 방송 프로그램의 개그 코너 소재에서 보듯이 음성통화와 문자메시지가 막히면 새로운 메신저 앱으로 범죄의 범위는 넓어졌고 이마저 막히면 이용자 몰래 악성 앱을 설치하는 첨단 사기의 영역으로 번졌다. 디지털 기술에 익숙하지 않은 중장년층이 입는 피해로 볼 문제도 아니다. 연령별 보이스피싱 피해 현황을 살펴보면 물론 60대 이상의 피해 비중이 높은 게 사실이다. 그런 가운데 금융감독원이 1차 계좌 기준으로 피해구제신청접수를 분석한 결과 2021년부터 2023년까지 20대 이하의 젊은 층의 보이스피싱 피해가 가장 큰 폭으로 증가한 것으로 나타났다. 즉, 디지털 기술에 익숙한 세대가 알고도 당하는 수준으로 사기 수법이 교묘해졌다는 뜻이다. 아울러 이들 세대가 피해자인 동시에 가해자가 되고 있다는 점도 문제다. 국회 입법조사처는 이를 두고 "20대 이하의 경우 보이스피싱 피해를 당하는 비율이 높아지고 있을 뿐만 아니라 보이스피싱 범죄 가담률도 높은 상황"이라며 “사회 경험이 부족한 20대 이하의 보이스피싱 피해 및 범죄 가담률이 높은 상황인 만큼 학생 시기부터 보이스피싱 예방 교육 등 금융교육을 강화해야 한다”고 했다. 진화하는 독버섯...더욱 촘촘해진 방어망 다행스러운 점은 피싱 범죄 피해가 감소세로 접어든 게 수치로 확인되고 있다는 부분이다. 사회 혼란기에 신종 사기 범죄가 극성을 부리는데 지난해 마련한 범정부 종합대책이 정책 효과를 얻어냈다는 것이다. 범정부 사기전화 대응 전담반에 따르면 지난해 9월까지 보이스피싱 피해가 증가를 기록했는데 그 이후부터 올해 1월까지 4개월 연속 발생 건수와 피해액이 모두 감소했다. 통합 대응단이 운영되면서 불법 전화번호를 긴급 차단하고, 특별 단속과 함께 해외 피싱 거점 타격 등의 효과가 종합적으로 작용했다는 게 정부의 설명이다. 동남아 일대의 범죄 증가에 정부가 칼을 빼든 결과로 풀이된다. 다각적인 정책 효과가 확인된 만큼 원천 차단에 이를 수 있는 정부 노력이 더해지는 게 중요하다는 평가가 나온다. 이를테면 전화 사기에 주로 쓰인 대포폰에 대한 감독을 강화하고 국민에는 범죄 경각심을 높이는 식이다. 여러 입법 과제를 통한 해결 방안에도 고삐를 늦출 수 없다. 국회가 사기죄 법정형을 상향한 형법이나 부패재산몰수법, 통신사기피해환급법 등을 개정했는데 그 외의 다른 법안도 빠르게 논의하고 신종 유형에 대한 분석을 병행해 법과 제도가 뒤늦게 따라가는 부분을 줄여야 한다. 보이스피싱과 함께 스팸이 줄어든 것도 눈여겨 볼 부분이다. 스팸 자체가 사기를 뜻하는 것은 아니지만 다량의 스팸 속에 피싱으로 이어지는 사례가 많다. 이에 따라 정부가 추진해온 불법스팸 부당이익 환수, 대량문자 유통시장 정상화 등의 정책에 힘을 실어야 할 필요가 있다. 방송미디어통신위원회 출범 후 첫 회의서 지난해 개정된 전기통신사업법에 따른 전송자격인증지 시행을 위한 하위 법규를 마련한 점이 대표적이다. 이처럼 제도적으로 촘촘한 방어망을 짜는 점도 중요하지만, 국민의 피싱 범죄에 대한 이해도를 높이는 게 더욱 중요하다는 의견이 제시되고 있다. 미디어 환경이 급변하면서 가짜뉴스에 대응해 정보에 대한 분별력을 높이기 위해 미디어 리터러시가 중요해지고, AI 대중화 시대에 들어 디지털 포용의 일환으로 AI 리터러시라는 용어가 등장했는데 '피싱 리터러시'에 대한 고민도 필요하다는 것이다. 권오상 디지털미래연구소 대표는 “피싱이라는 판 위에서 수요와 공급을 따져볼 때 공급(범죄자)이 줄어든 양상인데, 이에 수요(속는 사람)를 더욱 줄이는 데 무게를 둬야 한다”며 “횡단보도와 신호등처럼 국민 누구나 피싱 범죄에 대해 어떻게 대해야 하는지 알게 하는 '피싱 리터러시'의 확대를 적극적으로 고민할 때가 됐다”고 말했다. 이어, “피싱 범죄가 줄어드는 것처럼 보이는 중에도 새로운 사기 유형은 계속해서 등장하기 마련이다”며 “정부가 새로운 유형을 발견하면 적시에 이런 사례가 있다는 것도 꾸준히 알려야 한다”고 덧붙였다.

2026.04.13 16:21박수형 기자

EU "가짜는 안 돼" vs 트럼프 "AI는 나의 힘"

유럽연합(EU)의 핵심 기구들이 직원들의 공식 문서 및 대외 소통에서 인공지능(AI)으로 생성한 이미지나 영상 사용을 전면 금지하고 나섰다. 이는 AI 생성 콘텐츠를 선거 운동과 홍보에 적극적으로 활용하고 있는 도널드 트럼프 미국 대통령의 행보와 극명한 대조를 이룬다. 최근 정치 매체 폴리티코 보도에 따르면 유럽위원회(EC), 유럽의회, 유럽연합 이사회는 온라인상에서 딥페이크와 AI 생성 콘텐츠에 대한 감시가 강화됨에 따라, 소속 직원과 홍보팀의 AI 콘텐츠 사용을 금지한다는 방침을 세웠다. 온라인에 정교하지 않거나 오해를 불러일으킬 수 있는 AI 콘텐츠가 범람하는 상황에서, 공공기관 메시지의 '신뢰성'을 최우선으로 지키겠다는 의지로 풀이된다. 영국의 AI 비디오 생성 기업 '신테시아'의 정책 책임자 알렉산드르 보이카는 “EU가 리스크를 먼저 고려하는 것은 당연한 수순”이라며 “해당 콘텐츠가 기만적이거나 유해하게 받아들여질 가능성은 없는지, 현실을 왜곡하고 있지는 않은지, 그리고 명확한 설명 책임과 정보 공개가 가능한지가 핵심”이라고 분석했다. 반면, 지정학적 위기가 고조되는 상황에서 공공기관이 온라인 영향력을 확보해야 한다는 목소리도 높다. 이 때문에 AI 콘텐츠를 무조건 금지하는 것이 최선인지에 대해서는 회의적인 시각도 존재한다. 벨기에의 홍보 대행사 '익스포저'를 운영하며 여러 정당에 자문을 제공해 온 르노 반 잔디케는 “딥페이크가 신뢰를 해칠 위험이 있다고 해서 공공기관이 AI를 아예 외면하는 것 역시 실익이 없다”고 주장했다. 케임브리지 대학 연구원이자 경제협력개발기구(OECD) 자문위원인 월터 파스콰렐리 또한 “전면 금지보다는 '책임 있는 사용'이 더 나은 대안”이라고 지적했다. 조사에 따르면 AI가 생성한 콘텐츠의 양은 이미 인간이 제작한 콘텐츠 양을 넘어섰으며, 2025년 한 해 동안 온라인에 공유된 딥페이크는 무려 800만 건에 달한 것으로 집계됐다. 정치권도 예외는 아니다. 네덜란드와 아일랜드에서는 이미 딥페이크가 선거운동에 영향을 미치고 있으며, 공식 소통에 AI를 활용하는 정치인도 급증하고 있다. 대표적인 인물이 도널드 트럼프 미국 대통령이다. 그는 자신이 만든 SNS '트루스 소셜'을 통해 다양한 AI 생성 이미지를 게시해 왔다. 왕관을 쓴 채 제트기를 조종하는 모습, 검을 뽑아 든 자신의 앞에 민주당 지도부들이 무릎을 꿇고 있는 모습 등이 대표적이다. 보고에 따르면 2024년 10월 기준으로 이미 36건의 AI 생성 콘텐츠를 올린 바 있으며, 취임 이후에도 이런 기조를 유지하고 있다. 최근에는 SNS에서 트럼프를 강력히 지지하며 애국심을 고취했던 미 육군 여군 '제시카 포스터'라는 인물이 사실은 100% AI로 생성된 가공의 존재였다는 사실이 밝혀져 충격을 주기도 했다. EU의 접근법은 이런 미국의 사례와 정면으로 배치된다. 토마스 레니에 유럽위원회 대변인은 폴리티코와의 인터뷰에서 “우리가 언론이나 대중에게 제공하는 공식 정보와 이미지에는 AI 생성 콘텐츠가 포함되지 않는다”고 단언했다. 시민의 신뢰를 얻기 위해서는 발신하는 콘텐츠의 진실성이 무엇보다 중요하다는 견해다. 다만, 화질 개선 등 단순 최적화 작업을 위해 AI 도구를 사용하는 것은 허용된다고 덧붙였다. 하지만 폴리티코는 “AI 생성 콘텐츠를 완전히 배제하는 방식은 외교와 소통이 점점 온라인 중심으로 이동하는 시대에 EU를 뒤처지게 만들 위험이 있다”고 지적했다. 신테시아의 보이카 역시 “얼마나 신속하고 효과적으로 대중에게 대응하느냐가 그 어느 때보다 중요해진 시점”이라고 강조했다. 일각에서는 AI 사용을 일률적으로 금지함으로써 대중에게 AI 리터러시(이해 능력)를 교육할 기회를 놓치고 있다는 비판도 나온다. 파스콰렐리 위원은 “EU가 AI와의 관계를 완전히 단절함으로써, 정치적 소통에서 책임 있고 투명한 AI 활용이 무엇인지 보여줄 '리더십의 기회'를 스스로 포기하고 있다”고 꼬집었다.

2026.04.03 08:32백봉삼 기자

AI 배우 쓰려면 인간만큼 비용 내라…할리우드 노조, '틸리세' 부과 추진

미국 배우·방송인 노동조합(SAG-AFTRA)이 인공지능(AI) 합성 캐릭터를 영화에 사용할 경우 실제 배우 수준의 비용을 부담하도록 수수료를 부과하는 방안을 스튜디오와 협상 중이다. 28일(현지시간) 블룸버그통신에 따르면 던컨 크랩트리-아일랜드 SAG-AFTRA 사무총장은 워싱턴 AFL-CIO 노동자 서밋에서 "단체교섭이 AI 기술 규제를 위한 가장 빠르고 효과적인 수단"이라고 밝혔다. 그는 AI 도입 속도가 규제를 앞지르는 상황에서 조직 노동계가 기술 활용 방식의 실질적 견제 역할을 하고 있다고 강조했다. 노조가 추진하는 핵심 방안은 논란이 된 AI 배우 틸리 노우드의 이름을 딴 '틸리세(Tilly Tax)'다. 틸리세는 실존 인물과 무관한 AI 합성 캐릭터를 기용할 때 실제 배우를 고용하는 것과 동일한 비용이 들도록 수수료를 부과하는 것이 특징이다. AI는 SAG-AFTRA와 할리우드 스튜디오 간 진행 중인 계약 협상의 최대 쟁점이다. SAG-AFTRA는 2023년 약 4개월간의 파업 끝에 스튜디오들이 디지털 복제본 사용 시 배우 동의와 적정 보상을 의무화하는 조항을 확보했다. 기존 계약은 오는 6월 만료된다. SAG-AFTRA는 실제 배우의 디지털 복제본과 합성 캐릭터 모두를 포함한 AI 출연자(퍼포머) 전반의 사용 제한을 협상 목표로 삼고 있다. 크랩트리-아일랜드 사무총장은 '노 페이크 법(NO FAKES Act)' 통과를 요청하는 등 입법 차원의 대응도 병행 촉구했다. 이 법안은 AI로 생성된 무단 딥페이크로부터 개인을 보호하기 위해 자신의 목소리와 외모에 대한 소유권을 법적으로 보장하는 내용을 담고 있다. 그는 틸리세 추진 배경을 두고 "경제적 인센티브가 인간의 일자리를 위한 방향으로 작동하도록 해야 한다"고 피력했다.

2026.03.30 11:50이나연 기자

방미통위-성평등부-과기정통부-교육부, '원팀'으로 AI 범죄 대응

방송미디어통신위원회는 성평등가족부, 과학기술정보통신부, 교육부와 26일 서울 서대문구 가재울청소년센터에서 '안전하고 포용적인 AI, 과학기술 기반 마련과 청소년 보호를 위한 업무협약'을 체결했다고 밝혔다. 협약은 혁신과 포용이 조화를 이루는 AI, 과학기술 기반을 마련하고, 청소년과 여성 등 국민 모두에게 안전한 AI 이용 환경을 조성하기 위해 마련됐다. 최근 AI 대전환에 따라 긍정적 효과와 함께, 생성형 AI를 활용한 딥페이크 범죄 등 위험에 대한 사회적 우려 또한 커지고 있다. 4개 기관은 온라인 환경에서의 청소년 보호와 과의존 예방을 위한 AI 윤리, 안전 제도 정비, AI 기반 위기 청소년 지원 확대, 학교와 청소년시설 등을 활용한 디지털 역량 제고와 과학기술, AI 분야 여성 인력 성장지원 등 분야에서 협력을 강화할 계획이다. AI 성별 편향 최소화를 위한 정책 기반을 마련하고, 국가 AI 모델 경쟁력 강화를 위한 데이터 공유 협력과 AI 기반 디지털 성범죄 대응 체계 고도화에도 힘을 모은다. 김종철 방미통위 위원장은 “불법촬영물 등에 대한 신속 조치, 온라인상의 청소년 보호 추진과 더불어, 다양한 온오프라인 창구를 통한 미디어 교육을 지원해 신뢰할 수 있는 미디어 환경을 구축하겠다”고 밝혔다. 원민경 성평등가족부 장관은 “청소년 보호 정책 개선과 디지털 역량 개발 지원, 딥페이크 대응 기술을 활용한 피해자 보호 강화, 과학기술 분야 여성 인력의 경력 유지 지원 등을 차질 없이 추진해 국민이 체감할 수 있는 성과를 창출하겠다”고 말했다. 배경훈 부총리 겸 과기정통부 장관은 “오늘의 협력을 발판 삼아 관계기관이 원팀(One-Team)으로 긴밀히 협력해 AI 시대 새로운 위험으로부터 청소년을 보호하고, 안전하고 포용적인 AI, 과학기술 생태계를 구축해 나가겠다”고 강조했다. 최교진 교육부 장관은 “학교 현장을 중심으로 AI와 디지털 역량 교육을 강화하고, 관계 부처와의 긴밀한 협력을 통해 청소년을 보호할 수 있는 안전한 AI 활용 환경을 조성하겠다”고 밝혔다.

2026.03.26 10:02홍지후 기자

AI 인재 발굴 진심 헥토그룹...채용 연계 경진대회 성료

헥토그룹이 채용 연계형 AI 경진대회 'HAI(하이)! 헥토 AI 챌린지' 결선을 개최하며 AI 인재 발굴 프로그램을 성공적으로 마무리했다고 12일 밝혔다. HAI! 헥토 AI 챌린지는 헥토그룹이 AI 기술 경쟁력을 갖춘 인재를 발굴하고 채용과 연계하기 위해 마련한 AI 경진대회다. 이번 대회는 데이터 사이언스 플랫폼 데이콘과 함께 진행됐다. 이번 대회는 생성형 AI 확산과 함께 사회적 문제로 떠오르고 있는 딥페이크 콘텐츠를 탐지하는 기술을 발굴하고, 이를 이끌 차세대 AI 인재를 찾기 위해 기획됐다. 대회는 대상 1천만원을 포함해 총 2600만원 규모의 상금을 걸고 진행됐다. 헥토그룹은 핀테크, 데이터, 플랫폼 사업을 기반으로 AI 기술을 다양한 서비스에 적용하며 디지털 경쟁력을 강화하고 있다. 그룹 내 AI 연구 조직인 HAI 본부를 중심으로 데이터 분석, AI 모델 개발, 자동화 기술 등 다양한 프로젝트를 추진하고 있으며 실제 서비스에 적용되는 AI 기술 개발을 지속 확대하고 있다. 사전 대회는 2025년 12월 15일부터 2026년 2월 2일까지 약 7주간 온라인 방식으로 진행됐다. 참가자들은 '딥페이크 탐지 AI 모델 개발'을 주제로 기술 경쟁을 펼쳤다. 참가자들은 고도화된 AI 모델링과 창의적인 데이터 접근 방식을 활용해 영상 및 이미지 내 딥페이크 여부를 신속하고 정확하게 판별하는 기술력을 선보였다. 온라인 예선을 통과한 상위 10개 팀은 지난 11일 열린 오프라인 대회에서 자신들이 개발한 AI 모델의 성능과 독창성을 증명했다. 영예의 대상은 국민대·광운대 연합으로 구성된 팀이 차지했으며, 상금 1천만원이 수여됐다. 이 팀은 기술 구현력과 처리 속도 간 균형을 효과적으로 확보한 모델을 제시하고, 접근 전략과 기술 선택, 실험 설계, 논리 전개 등 전반적인 완성도에서 높은 평가를 받았다. 이어 2위는 이화여대·서강대 연합팀이, 3위는 한양대 학생이 단독으로 이름을 올리며 차세대 AI 전문가로서의 역량을 입증했다. 헥토그룹은 이번 대회 입상자들에게 실질적인 채용 혜택을 제공한다. 상위 입상 팀에게는 헥토그룹 입사 지원 시 서류전형 및 1차 면접 면제 혜택이 부여되며, 상위 30개 팀 전원은 헥토그룹 채용 인재풀에 등록돼 향후 AI 연구개발 및 데이터 관련 직무 채용 시 우선 검토 대상이 된다. 헥토그룹은 우수 인재를 적극 발굴하는 데서 나아가, 합류한 구성원들이 전문성을 심화하고 지속적으로 성장할 수 있도록 다양한 교육 프로그램과 체계적인 역량 개발 기회도 함께 제공하고 있다. 헥토그룹 HAI 본부 김정근 전무는 “헥토그룹은 AI 기술 경쟁력 강화를 위해 인재 발굴 프로그램을 지속적으로 운영해오고 있다. AI 기술이 산업 전반으로 확산되는 가운데 우수 인재 확보가 무엇보다 중요해지고 있다”며 “이번 HAI 경진대회는 단순히 기술력을 겨루는 장을 넘어 사회적 신뢰를 지키는 핵심 AI 인재들을 직접 만날 수 있었던 뜻깊은 자리였다”고 말했다. 이어 “앞으로도 역량 있는 인재들이 마음껏 도전하고 성장할 수 있는 기회를 확대해 헥토의 기술 경쟁력을 강화하고 건강한 AI 생태계를 구축하는 데 앞장서겠다”고 덧붙였다.

2026.03.12 10:36백봉삼 기자

검·경 "지방선거 앞두고 허위·조작정보 무관용 원칙 대응"

검찰과 경찰이 인공지능(AI) 기술을 악용한 가짜뉴스에 대해 무관용 원칙으로 대응하겠다고 밝혔다. 특히 오는 6월 3일 예정된 제9회 전국동시지방선거를 앞두고 딥페이크 영상 등을 활용한 허위사실 유포가 급증할 가능성이 크다고 보고, 선거 범죄에 대한 전방위 단속에 나선다는 방침이다. 구자현 검찰총장 직무대행과 유재성 경찰청장 직무대행은 26일 오전 서울본관 브리핑실에서 'AI 악용 등 가짜뉴스 엄정 대응을 위한 검경 합동 담화문'을 발표했다. 구 대행은 “최근 인공지능 기술 발전과 사회적 갈등 심화로 딥페이크 영상 등을 이용한 가짜뉴스가 실제와 구분하기 어려울 정도로 정교해졌다”며 “온라인·모바일 환경을 통해 광범위하게 유포되고 있다”고 진단했다. 이어 “허위정보의 제작·유포는 개인의 명예를 심각하게 훼손할 뿐 아니라 주요 현안에 대한 사회적 불안을 조성하고, 피해 규모가 크며 사실상 회복이 불가능하다”고 강조했다. 검찰은 공직선거법 개정에 따라 2024년 1월부터 선거를 앞둔 일정 기간 동안 딥페이크 영상 등을 이용한 선거운동과, 딥페이크임을 표시하지 않은 허위사실 유포 행위를 처벌하고 있다고 설명했다. 특히 이번 지방선거와 관련해선 “가짜뉴스를 유포하는 선거사범에 대해 가능한 모든 수단을 동원해 엄정 대응하겠다”고 밝혔다. 과학수사 기법을 총동원하고, 해외 서버를 이용한 범죄에 대해서도 국제 공조를 통해 끝까지 추적하겠다는 계획이다. 또한 검찰은 허위사실 유포와 함께 ▲선거 관련 금품수수 ▲공무원의 불법 선거 개입 ▲선거 관련 폭력 행위를 중점 단속 대상으로 지정했다. 대검찰청은 지난 1월 각급 검찰청에 선거전담수사반을 구성하고 비상연락체계를 가동하는 등 비상근무체계에 돌입한 상태다. 구 대행은 “건강한 비판과 토론은 존중돼야 하지만 근거 없는 비방과 허위사실 유포는 우리 사회를 병들게 한다”며 “이번 지방선거가 공정하고 깨끗하게 치러질 수 있도록 비상한 각오로 임하겠다”고 밝혔다. 경찰도 별도 대응 현황과 계획을 공개했다. 유재성 대행은 “유튜브 등 SNS의 영향력이 커지면서 허위·조작정보가 무분별하게 확산되고 있다”며 “최근에는 딥페이크 영상, 합성 음성, 조작 이미지 등으로 사실과 허위의 구별이 더욱 어려워졌다”고 설명했다. 경찰은 지난해 10월 14일부터 허위정보 유포 단속 전담 태스크포스(T/F)를 운영 중이다. 중요 사건은 시도경찰청이 직접 수사하도록 해 신속 대응 체계를 구축했다. 대표 사례로는 '한국에 하반신이 없는 시체가 수십 구 발견됐다'는 허위 내용을 유포한 유튜버를 수사 착수 하루 만에 특정해 2월 13일 송치한 사건과, AI로 조작된 영상을 경찰관 바디캠 영상인 것처럼 유포한 유튜버를 1월 28일 송치한 사례를 제시했다. 경찰은 올해 1월 2일부터 매크로 등 조직적·전산적 방법을 활용한 허위정보 범죄에 대한 집중 단속도 병행하고 있다. 현재까지 110명을 검거했고, 199건을 수사 중이다. 허위·유해정보 1,074건에 대해서는 관계기관에 삭제·차단을 요청했다. 지방선거와 관련해서는 2월 3일부터 전국 경찰관서에 선거사범수사전담반을 편성해 허위사실 유포를 포함한 5대 선거 범죄를 집중 단속하고 있다. 특히 딥페이크를 이용한 선거 범죄는 유통 경로를 추적해 최초 제작자와 유포자까지 처벌하겠다고 밝혔다. 질의응답에서 '미성년자도 무관용 원칙 적용 대상이냐'는 질문에 대해 유 대행은 “14세 이상은 형사처벌이 가능하고, 그 이하 촉법소년은 소년법에 따른 절차가 적용된다”며 “다른 범죄와 동일한 기준으로 적용할 예정”이라고 답했다. 또 딥페이크 영상에 표시를 할 경우 처벌 여부와 관련해 구 대행은 “선거일 기준 90일 전까지는 딥페이크 영상임을 알리고 출처를 표시하면 형사 책임을 묻지 않는다”면서도 “선거일 90일 이내에는 표시 여부와 관계없이 딥페이크 영상으로 선거에 영향을 미친 행위는 형사처벌 대상이 된다”고 설명했다.

2026.02.26 16:24안희정 기자

AI 선거운동 규제 바뀔까…차지호 의원 "금지 대신 처벌 강화"

생성형 인공지능(AI)을 활용한 선거운동 규제를 전면 금지에서 투명성 중심 관리 체계로 전환하는 공직선거법 개정안이 발의됐다. AI 기술 악용에 대한 처벌은 강화하되, 표현의 자유 침해 논란을 최소화하겠다는 취지다. 16일 관련 업계에 따르면 국회 외교통일위원회 소속 더불어민주당 차지호 의원은 최근 딥페이크 등 생성형 AI 기술을 활용한 선거운동 규제를 합리적으로 재설계한 '공직선거법 일부개정법률안'을 대표 발의했다. 해당 법안은 AI 생성물에 대한 규제 방식을 기존의 일괄 금지에서 표시 의무와 유통 관리 중심으로 전환하는 내용을 담고 있다. 또 본회의를 통과하고 대통령 공포 후 3개월이 경과한 날부터 시행될 예정이다. 현행 공직선거법은 선거일 전 90일부터 딥페이크 영상 등 인공지능 기술로 만든 콘텐츠를 이용한 선거운동을 전면 금지하고 있다. 그러나 기술 발전 속도에 비해 규제가 경직돼 있고 헌법상 표현의 자유를 과도하게 제한할 수 있다는 비판이 꾸준히 제기돼 왔다. 개정안의 핵심은 전면 금지 규정을 삭제하고, 선거운동에 활용되는 AI 생성물에 대해 유권자가 쉽게 인식할 수 있도록 인공지능 생성물임을 명확히 표시하도록 의무화한 점이다. AI 기술로 생성·편집된 영상, 음성, 이미지 등 콘텐츠를 제작하거나 유포할 경우 표시 의무가 적용된다. 대신 허위 정보 유포와 여론 조작에 대해서는 규제를 강화했다. AI 생성물임을 표시하지 않거나 거짓으로 표시해 유권자를 오인하게 하는 행위는 명확히 금지된다. 자동화된 계정, 조직적·계획적 방식, 알고리즘의 인위적 증폭을 통해 특정 후보자나 정당에 관한 허위 또는 오도될 수 있는 정보를 대규모로 확산시키는 행위도 처벌 대상이다. 처벌 수위도 구체화됐다. AI 생성물을 이용해 당선되거나 되게 할 목적으로 허위 사실을 공표한 경우 5년 이하의 징역 또는 3천만원 이하의 벌금에 처하도록 했다. 낙선을 목적으로 후보자나 그 가족에 관한 허위 사실을 공표한 경우에는 7년 이하의 징역 또는 500만원 이상 5천만원 이하의 벌금이 부과된다. 온라인 플랫폼 사업자에 대한 책임 규정도 신설됐다. 대통령령으로 정하는 온라인 플랫폼 운영자는 자동화된 계정 차단, 알고리즘 투명성 확보 등 인위적 정보 확산을 막기 위한 합리적인 관리 조치를 취할 노력 의무를 지게 된다. 이를 정당한 사유 없이 이행하지 않을 경우 3천만원 이하의 과태료가 부과될 수 있다. 표현의 자유 보호 장치도 함께 마련됐다. 풍자, 패러디 등 예술적 표현으로 전체 맥락상 AI 생성물임을 충분히 인지할 수 있고 선거의 공정성을 해할 우려가 없는 경우, 그리고 언론 보도를 목적으로 한 명백한 AI 활용 표현은 표시 의무 적용 대상에서 제외된다. 차지호 의원은 제안 이유에서 "생성형 AI 기술의 급격한 발달로 선거 과정에서 딥페이크를 이용한 허위 정보 유포와 여론 조작 위험이 커지고 있다"며 "규제 방식을 투명성 확보와 유통 관리 중심으로 전환해 디지털 시대에 부합하는 선거의 공정성을 실효적으로 확보하려는 것"이라고 밝혔다.

2026.02.06 18:28남혁우 기자

[AI는 지금] '19금' 대화 꺼내든 AI 챗봇…그록 사태에 제동?

일론 머스크의 인공지능(AI) 기업 xAI가 개발한 챗봇 '그록(Grok)'이 아동 성 착취물 제작 도구로 전락했다는 비판을 받고 있다. 각국이 강도 높은 규제 조치에 나선 가운데, 오픈AI가 차세대 수익 모델로 점찍은 'AI 성인 모드 대화' 등 시장 전반에 미칠 영향이 주목된다. 전 세계 공분 산 '그록' 딥페이크 사태가 뭐길래 18일 정보기술(IT)업계에 따르면 최근 '엑스(X·옛 트위터)' 유료 사용자들에게 제공된 그록의 이미지 생성 및 편집 기능이 악용되고 있다. 실존 인물 사진을 비키니·속옷·나체에 가까운 모습으로 합성하는 데 사용됐다는 제보가 온라인상에 쏟아졌다. 특히 미성년자를 대상으로 한 성 착취 딥페이크까지 제작·유포된 정황이 드러나며 논란이 확산됐다. 전 세계 정부와 규제당국도 조사와 해명 요구에 나섰다. 인도네시아와 말레이시아는 즉각 그록 접속을 차단했고 일본·필리핀 등도 규제·차단 조치를 논의 중이다. 영국 방송미디어 규제기관인 오프콤(Ofcom)도 온라인안전법 위반 여부에 대한 공식 조사에 착수했다. 미국은 캘리포니아주 법무부가 xAI에 대해 동의 없는 음란 이미지와 아동 성 착취 딥페이크 생성 혐의로 조사에 나선 상태다. 뒤늦은 수습 나선 엑스…머스크 "몰랐다" 해명 비판과 수사가 전방위로 확산하자 엑스 측은 수습에 나섰다. 엑스는 그록에서 실제 인물을 비키니나 속옷 등 노출이 심한 복장으로 편집하거나 생성하는 기능을 기술적으로 차단했다고 공식 발표했다. 또 아동 성 착취물이나 비동의 누드 콘텐츠는 '무관용 원칙'을 적용해 해당 계정을 영구 정지하고 사법 당국과 적극적으로 협력하겠다는 방침을 밝혔다. 특히 이미지 생성 및 편집 기능을 유료 구독자에게만 한정 제공해 악용 시 책임 추적을 한층 강화하겠다고 덧붙였다. xAI 설립자인 일론 머스크도 자신의 엑스 계정을 통해 해명에 나섰다. 머스크는 "그록이 미성년자 나체 이미지를 생성했다는 사실을 인지하지 못했다"고 부인했다. 문제 원인이 시스템 자체 결함에 있기보다 일부 사용자의 악의적인 요청과 기술적 버그 탓이 크다는 설명이다. 동시에 그는 각국 서비스 차단·조치가 '검열'에 가깝다는 불쾌감도 드러냈다. '성인용 AI' 수익화 노리던 업계도 '고심' 성인용 콘텐츠를 통해 정체된 수익성을 돌파하려던 AI업계도 이번 사태가 미칠 직간접적 여파를 예의주시하는 모양새다. 연령 인증 우회, 콘텐츠 악용 같은 기존 우려에 더해 그록의 성적 딥페이크 논란으로 글로벌 규제 압박이 커진 탓이다. AI 챗봇의 성인용 대화 기능을 준비하던 기업들은 강화된 안전장치 없이는 시장 진입이 어려워졌다. '표현의 자유'와 '사회적 안전' 충돌 속에서 고강도 규제는 불가피할 것으로 보인다. 해외 시장에서는 '레플리카(Replika)' 같은 AI 동반자 서비스들이 성인용 대화 시장을 선점 중이다. 캐릭터닷AI 역시 로맨틱 롤플레잉을 제공하며 사용자 몰입도를 높이는 전략을 펼치고 있다. xAI는 지난 2025년 3월 업계 최초로 '그록'에 성인 모드를 공식 도입했고, 같은 해 연말 오픈AI도 성인 인증을 완료한 사용자에게 성인용 에로틱 대화를 허용하겠다는 방침을 내놨다.

2026.01.18 16:00이나연 기자

'xAI' 딥페이크 음란물 생성 논란, 美 캘리포니아 법무부 조사 착수

일론 머스크가 설립한 인공지능(AI) 기업 xAI가 캘리포니아주 법무부 조사를 받는다. xAI의 AI챗봇 '그록(Grok)'이 실존 인물 사진을 기반으로 동의 없는 음란 이미지를 생성하고 유포하는 데 악용되고 있다는 혐의다. 15일 CNBC 등 외신에 따르면 롭 본타 캘리포니아주 법무장관은 "그록을 이용해 제작된 비동의 성적 게시물의 확산 혐의로 xAI조사를 진행 중이라고 성명을 통해 밝혔다. 그는 "xAI가 여성과 소녀들을 괴롭히는 데 사용되는 딥페이크 음란물의 대규모 생산을 조장하고 있는 것으로 보인다"며 "이러한 이미지들은 소셜미디어 엑스(X) 를 포함한 인터넷 전반에서 유통되고 있다"고 덧붙였다. 인터넷 감시 재단 조사 결과에 따르면 그록은 일부 사례에서 미성년자 사진을 이용해 가상 나체 이미지를 생성하는 기능까지 제공한 것으로 드러났다. 이번 미국 내 조사는 이미 국제적으로 확산된 우려에 뒤이어 나온 것이다. 현재 인도, 말레이시아, 인도네시아, 아일랜드, 영국, 프랑스, 호주 등 다수의 국가 정부 기관이 대응에 나섰으며, 유럽연합 집행위원회(EC) 또한 조사를 진행 중이다. 말레이시아와 인도네시아는 이미 문제 해결 전까지 그록의 사용을 중단하는 조치를 취한 것으로 알려졌다. 미국 내에서도 비판의 목소리가 커지고 있다. 민주당 상원의원 3명은 애플과 구글에 서한을 보내, xAI가 비동의 음란물 및 아동 성착취 묘사 딥페이크 생성 방지 대책을 마련할 때까지 앱스토어에서 X와 그록 앱을 삭제할 것을 촉구했다. 울트라바이올렛, 전미여성기구(NOW) 등 여성 및 아동 인권 단체들 역시 앱 삭제를 강력히 요구하고 있다. 이에 대해 일론 머스크는 15일 X 게시물을 통해 "그록이 생성한 미성년자 나체 이미지를 인지하지 못했다"고 주장했다. 또 불법 콘텐츠 생성 및 공유의 원인으로 '사용자 요청'과 그록 시스템 내 잠재적 버그를 지목했다. 앞서 xAI는 논란이 확산되자 유료 구독자에 한해 일부 이미지 생성 및 편집 기능을 제한하겠다고 발표한 바 있다. 한편 미국 상원은 지난 14일 딥페이크 음란물의 피해자가 제작 및 유포 기업을 상대로 민사 소송을 제기할 수 있도록 하는 '디파이언스 법(DEFIANCE Act)'을 통과시켰다. 해당 법안은 하원의 검토를 남겨두고 있다.

2026.01.15 09:35남혁우 기자

[신년 인터뷰] "AI 역기능 막는 기술 확보가 국가 경쟁력 좌우"

글로벌 경제 위기 속에서 올해 인공지능(AI) 산업은 다시 한 번 중대한 분기점에 섰다. 생성형 AI의 급격한 확산 후 이어진 성능 경쟁과 투자 열풍은 이제 '얼마나 더 큰 모델을 만들 수 있는가'라는 질문을 넘어 'AI가 실제 무엇을 할 수 있는가'라는 보다 본질적인 문제로 이동하고 있다. 지디넷코리아는 릴레이 인터뷰를 통해 각기 다른 위치에서 AI 산업을 바라보는 리더 시선을 종합해 올해 AI 산업이 어디로 향하고 있는지, 무엇을 준비해야 하는지를 짚어본다. 기술 낙관과 과도한 불안 사이에서 AI의 현실적인 진화 경로와 산업적 의미도 살펴본다. [편집자주] "인공지능(AI)이 자율주행과 로봇, 에이전트 시스템으로 진화하면 우리가 지금까지 경험하지 못한 새로운 위험을 만들어낼 수 있습니다. 기술 개발뿐 아니라 안전성과 보안, 역기능 대응을 위한 투자가 반드시 병행돼야 하는 이유입니다. 안전과 통제를 처음부터 내재화한 AI 시스템을 설계하는 것이 국가 경쟁력 측면에서도 중요합니다." 성균관대 우사이먼성일 소프트웨어학과·인공지능대학원 교수는 지디넷코리아와 만나 AI 발전과 함께 커지고 있는 기술 안전성 문제를 이렇게 진단했다. 우 교수는 AI 기술 부작용을 최소화할 방법을 연구하는 학자다. 개인정보 침해와 허위 정보 생성, 저작권 문제, 범죄 악용 등 AI 확산으로 인해 나타나는 사회 위험을 기술적으로 통제하는 데 연구 초점을 맞추고 있다. 가장 대표 연구 분야는 머신 언러닝을 이용한 개인정보 보호 기술이다. 머신 언러닝은 AI 모델이 학습한 특정 데이터를 선택적으로 삭제할 수 있도록 하는 기술이다. 보통 모델이 학습 과정에서 방대한 정보를 내부에 저장하지만, 어떤 정보가 어떤 결과에 영향을 미쳤는지 알기 어렵다. 이에 개인이 자신의 개인정보를 삭제해 달라고 요구해도 기존 AI 모델에서는 이를 정확히 반영하기가 거의 불가능하다. 머신 언러닝은 이 문제를 해결하기 위한 기술이다. 최근 그는 이를 실제 개인정보 보호에 적용할 수 있도록 기술을 업그레이드했다. 기존 방식은 특정 데이터를 삭제하기 위해 해당 데이터를 제외한 나머지 데이터로 모델을 재학습해야 했다. 이는 초거대 AI 모델 환경에서 시간·비용 측면에서 사실상 불가능하다. 그는 "기존 언러닝 기법은 연구실에선 가능했지만 실제 서비스에 적용하기에 매우 비효율적"이라고 주장했다. 우 교수 연구팀은 이 문제를 해결하기 위해 새 접근법을 제시했다. 핵심은 원본 데이터를 보관하지 않아도 모델 성능과 삭제 정확도를 동시에 유지하는 방식이다. 이에 원본 데이터를 보관하거나 재학습을 별도로 진행하지 않아도 모델 성능을 유지할 수 있다. 그는 "원본 데이터 대신 통계적으로 유사한 합성 데이터를 생성·활용해 한계를 극복했다"고 강조했다. 그는 삭제 대상 데이터가 다른 데이터와 섞여 변형된 경우에도 제거 가능하다고 설명했다. 그는 "실제 데이터는 단독 존재하지 않고 여러 문장이나 문서, 다른 데이터와 연결돼 학습된다"며 "이를 그래프 구조로 표현하면 어떤 정보가 다른 정보에 어떻게 영향 미쳤는지 추적할 수 있다"고 말했다. 그러면서 "특정 이름이나 문장, 파생 정보까지 한 번에 제거할 수 있는 이유"라고 덧붙였다. 이 연구 성과는 지난해 12월 미국 샌디에고 컨벤션 센터에서 열린 국제 AI 분야 학회 NeurIPS(Neural Information Processing systems)에 발표됐다. 이 연구는 올해 과학기술정보통신부 재원과 정보통신기획평가원(IITP) 지원으로 추진 중이다. 연구 과제명은 '개인정보보호 관련 정책 변화를 유연하게 반영하여 준수하는 AI 플랫폼 연구 및 개발'이다. 우 교수는 해당 기술이 향후 기업과 정부 시스템에도 유용할 수 있을 것으로 봤다. 그는 "기업은 고객 개인정보나 저작권 있는 문서·이미지, 책 내용을 AI 모델에 학습시키기만 하면 된다"며 "삭제 요청이 들어오면 이를 기술적으로 반영하면 된다"고 설명했다. 그는 현재 여러 국내 기업과 협력해 챗봇이나 검색, 문서 분석, 법률 AI 등 서비스에 해당 기술을 적용하는 연구를 진행하고 있다. 그는 "개인정보나 저작권 삭제 요구가 많은 분야일수록 실무적 가치가 큰 기술"이라며 "언러닝 성능을 AI 안전성 평가 지표로 활용하는 방안도 고려 중"이라고 덧붙였다. 우 교수는 이달 시행될 국내 AI기본법과 연구 성과가 깊이 연결될 것으로 내다봤다. 그는 "그는 유럽 일반정보보호규정(GDPR)처럼 한국 AI기본법은 개인의 데이터 삭제 권리를 보장하는 것이 필수일 것"이라며 "우리 방식은 이런 법적 요구를 실제 AI 모델에 기술적으로 반영할 수 있는 현실적 해법"이라고 강조했다. "딥페이크도 '문맥'으로 잡아야"...기술력 전 세계 2위 기록 우 교수는 딥페이크 감지 기술 분야에서도 활발한 연구를 이어가고 있다. 특히 최신 생성형 AI가 만들어내는 새로운 형태의 딥페이크까지 탐지하는 기술 개발에 주력하고 있다. 그는 현재 다수 딥페이크 탐지 모델 성능이 최신 AI 기술을 따라가지 못하는 점을 꼬집었다. 모델 학습에 사용된 데이터와 실제 딥페이크 확산 형태가 다르다는 점을 근본 원인으로 짚었다. 그는 "최신 AI가 만드는 딥페이크는 기존 데이터와 특성이 전혀 다르다"며 "탐지 모델 성능이 실제 환경에서 급격히 떨어질 수밖에 없다"고 말했다. 우 교수 연구팀은 이런 문제를 해결하기 위해 새 방법론을 적용한 딥페이크 탐지 모델을 제시했다. 연구팀은 'DINO'와 'CLIP-ViT' 계열 모델로 이미지와 텍스처, 의미적 패턴을 폭넓게 이해할 수 있는 모델을 구축했다. DINO는 대규모 웹 데이터 기반으로 사전 학습된 모델이다. CLIP-ViT는 텍스트와 이미지 간 의미 관계를 학습한 모델이다. 연구팀은 이를 딥페이크 탐지에 맞게 재학습해 이미지 백본으로 활용했다. 이후 이 모델 위에 딥페이크 전용 어댑터 모듈도 추가했다. 이에 모델은 영상과 이미지에 포함된 미세한 위조 흔적까지 포착할 수 있다. 우 교수는 해당 모델이 단순 이미지 분류를 넘어서 의미론적 개념을 이해하도록 설계된 것을 핵심 기능으로 제시했다. 그는 "이 모델은 특정 유형 딥페이크에 과적합 되지 않는다"며 "여러 위조 콘텐츠를 안정적으로 탐지할 수 있다"고 설명했다. 해당 연구는 지난해 과기정통부 재원으로 IITP 지원을 받아 '디지털역기능대응기술개발'사업으로 수행됐다. 사업명은 '악의적 변조 콘텐츠 대응을 위한 딥페이크 탐지 고도화, 생성 억제, 유포 방지 플랫폼 개발'이다. 해당 모델로 성과도 얻었다. 지난해 국제 컴퓨터비전 학술대회(ICCV)가 주최한 딥페이크 탐지 'SAFE 챌린지'에서 이탈리아 나폴리대 연구팀에 이어 전 세계 2위를 기록했다. 또 지난해 성균관대와 한국정보과학학회가 공동 주최한 '성균관대x한국정보과학학회 딥페이크 경진대회'에서 대상과 우수상을 각각 수상했다. 우 교수는 향후 딥페이크 연구 방향도 제시했다. 그는 "실제 환경에 가까운 조건에서 모델을 연구·평가할 것"이라며 "특히 메신저와 소셜미디어(SNS) 환경처럼 저화질·압축 영상이 많은 환경서도 안정적으로 딥페이크를 탐지할 수 있는 모델을 구축할 것"이라고 덧붙였다.

2026.01.14 15:36김미정 기자

박수현 의원, AI·딥페이크 대응 '퍼블리시티권보호법' 대표발의

박수현 더불어민주당 의원은 '퍼블리시티권 보호 및 이용에 관한 법률 제정안'을 대표발의했다고 5일 밝혔다. 이는 인공지능(AI) 기술 발전에 따른 개인 얼굴·목소리 등 무단 이용을 방지하고, 퍼블리시티권을 체계적으로 보호하기 위한 조치다. 이번 제정안은 개인 초상·성명·음성 등 특정 사람을 식별할 수 있는 요소가 갖는 재산 가치를 보호하고, 공정한 이용 질서를 확립함으로써 문화 가치 창출과 문화 산업 경쟁력 강화 기여 목적으로 한다. 주요 내용으로는 퍼블리시티권을 독립된 재산 권리로 명시하고, 문화체육관광부장관이 관련 시책을 수립·시행하도록 했다. 퍼블리시티권은 권리자 생존 기간과 사망 후 30 년간 존속하며, 권리자 또는 상속인은 초상·음성 등 이용을 허락할 수 있도록 했다. 다만 시사보도나 정보 전달 등 공익 목적 이용에 대해서는 권리자 허락 없이 초상 등을 이용할 수 있는 예외를 뒀다. 또 AI 등을 활용해 생성된 디지털 모사물을 공연·전송·배포할 경우, 해당 콘텐츠가 디지털 모사물임을 명확히 표시하고 위반 시 1천만원 이하 과태료를 부과하는 내용도 담았다. 아울러 권리자 명예를 훼손하는 내용 디지털 모사물을 제작하는 행위 등을 퍼블리시티권 침해행위로 간주했다. 고의성이 인정될 경우에는 손해로 인정된 금액 5배를 넘지 않는 범위에서 배상액을 정할 수 있도록 했다. 박수현 의원은 "AI 기술 발전은 새로운 문화 산업 기회를 제공하는 동시에, 개인 얼굴과 목소리 같은 정체성 요소를 무분별하게 침해할 위험도 함께 키우고 있다" 며 "기술 발전 속도에 맞는 권리 보호 체계를 마련하는 것이 입법 책무"라고 밝혔다. 이어 "퍼블리시티권 보호를 통해 개인 정당한 권익을 지키는 동시에, 문화 콘텐츠 산업이 지속 가능하게 성장할 수 있는 토대가 마련되기를 기대한다"고 강조했다.

2026.01.05 16:05진성우 기자

"딥페이크 의사 광고 금지법, 소비자 보호 효과는 분명”

딥페이크를 활용해 가짜 의사를 내세운 광고를 금지하는 법안이 소비자 보호 효과는 분명하지만 사업자의 과도한 규제는 부담이 될 수 있다는 분석이 나왔다. 국회입법조사처는 31일 발간한 온라인 광고 딥페이크 활용 고지 표시 훼손 또는 위변조 금지 의무 법안의 입볍영향분석 보고서를 통해 이같이 평가했다. 입법영향분석 보고서는 법률안이 시행될 경우 발생할 것으로 예상되는 전반적인 영향을 객관적이고 과학적인 방법으로 예측 분석한 것으로 국내외 연구 논문, 헌재 판례, 국내외 입법례, 이해관계자 의견 등을 종합적으로 반영한다. 현재 소비자는 광고의 진위와 신뢰성을 판단하기 어려워지고, 조작된 영상을 사실로 오인해 제품을 구매하는 등 실질적인 피해로 이어질 우려가 커지고 있다. 특히 식의약품 분야에서는 특정 인물이나 신체 이미지를 합성한 광고가 높은 홍보 효과를 내는 점을 악용한 허위과장 광고가 반복되고 있다. 가상의 이미지를 실제 의사나 전문가의 권고로 오인하는 피해와 건강 정보에 취약한 노년층이 거짓 의학 정보에 노출될 경우 생명과 신체에 대한 직접적인 위험으로 이어질 수 있다는 점에서 제도적 대응의 필요성이 크다. 이와 같은 문제를 해결하기 위해 AI 생성 광고의 표시를 훼손 변조하는 행위를 금지하고, 플랫폼 사업자에게 해당 광고의 삭제 의무를 부과하는 정보통신망법 개정안이 발의됐다. 입법조사처는 법안에 대한 입법영향분석을 실시한 결과 소비자 보호 측면의 효과는 분명하지만 규제 기준의 모호성으로 인해 사업자 부담이 과도해질 우려가 있다고 밝혔다. 먼저 소비자 보호 효과가 크다고 봤다. 현행법은 AI 생성물 표시 의무를 규정하고 있으나, 표시를 고의로 삭제하거나 가리는 행위에 대한 제재는 충분하지 않다. 개정안은 이러한 입법 공백을 보완해 소비자에게 정확한 정보를 제공하고, AI 표시의 신뢰성을 제고해 소비자 오인에 따른 피해 확산을 예방하는 데 기여할 것으로 평가된다. 이와 함께 광고 게시자의 표현의 자유 제한 우려가 제기되고 있다. '훼손'이나 '위변조'의 개념이 명확하지 않을 경우, 단순 편집이나 저화질 변환 등 고의성이 없는 행위까지 규제 대상에 포함될 가능성이 있다. 이는 표현의 자유를 위축시킬 수 있으므로, 하위 법령을 통해 금지 행위의 범위를 구체화할 필요가 있다. 또 정보통신서비스 제공자의 영업의 자유 제한 우려가 있다. 개정안은 정보통신서비스 제공자에게 표시가 훼손 조작된 광고에 대한'지체 없는 삭제'의무를 부과하고 있으나, 이는 기존 정보통신망법상 불법정보 삭제 체계에 비해 사업자의 판단 부담을 크게 가중시킬 수 있다는 것이다. 이에 따라, 입법조사처는 입법영향분석 결과를 토대로 소비자 보호와 사업자에 대한 합리적 규제가 균형을 이룰 수 있는 입법적 논의 방안을 제안했다. 또 입법적 논의와 보완을 거쳐 본 법률안이 실제로 통과된다면, 법률 시행 3년 후 사후 입법영향분석을 실시해 규제 효과와 사업자의 이행 상황을 재점검하는 절차도 제시했다.

2025.12.31 10:52박수형 기자

'2025 디지털 윤리대전' 대상에 동궁초 학생팀

방송미디어통신위원회와 한국지능정보원은 '2025 디지털윤리대전 및 인터넷‧통신 이용자 보호 유공 포상 수여식'을 열다고 30일 밝혔다. 행사는 디지털 역기능에 대한 경각심을 높이고 건전한 이용 문화를 사회 전반으로 확산하기 위해 마련됐다. 행사 비전은 '안전을 더하는 인공지능, 아름다운 디지털 세상'이다. 생성형 인공지능의 확산으로 심화되고 있는 첨단조작기술영상(딥페이크), 허위조작정보 등 디지털 역기능에 대응하는 한편, 인공지능을 안전하고 책임있게 활용하는 문화를 실천해 나가자는 의미다. 디지털윤리 창작콘텐츠 공모전 시상과 건전한 디지털윤리 문화 조성에 기여한 개인과 단체를 격려하는 자리로, 약 150명이 참석했다. '디지털윤리 문화조성 유공' 표창엔 디지털윤리 교육 및 인식 제고에 기여한 공로로 이유정 한국지능정보원 선임과 전창배 국제인공지능윤리협회 이사장, 조은아 인천당하초등학교 교사, 교보교육재단(단체)이 선정됐다. '디지털윤리 창작콘텐츠 공모전' 대상(대통령상)은 딥페이크 위험성과 올바른 대처 방법을 그림일기로 제출한 부산 동궁초등학교 장예정·김현아·박설 학생팀이 받았다. 최우수상(국무총리상)은 인공지능 비서 관련 그림만화(웹툰)를 그린 박인혜 작가(프리랜서)가 이름을 올렸다. '인터넷·통신 서비스 이용자 보호 유공 정부포상'은 안정은 한국인터넷진흥원 팀장이 받았다. 불법스팸으로부터 이용자를 보호하기 위해 관련 정책 수립을 지원하고, 민관 협력 및 지능형 차단 방안 등을 추진해 불법스팸 감축에 일조한 공로다. 이밖에 황용석 건국대 교수, 권은정 가천대 교수, 최재혁 한국정보통신기술협회 수석, 김대열 방송통신이용자보호협회 팀장, 나황영 법무법인 형원 변호사, 이윤남 법무법인 태평양 변호사, 이정규 네이버 전무가 정부포상의 영예를 안았다. 류신환 방송미디어통신위원회 비상임위원은 “인공지능과 디지털 기술의 오남용‧악용 등의 문제로 헌법상 기본권이 침해되고 있다”며 “관련 기술이 국민 신뢰 위에서 발전해 갈 수 있도록 안전한 디지털 환경을 만들어 나갈 것”이라고 말했다.

2025.12.30 15:32홍지후 기자

"옷 벗기고 비키니로"…AI 챗봇, 비키니 딥페이크 생성 논란

일부 사용자들이 인공지능(AI) 챗봇으로 여성 사진을 노출이 심한 딥페이크 이미지로 바꾸는 사용법을 공유하고 있는 것으로 나타났다고 IT매체 와이어드가 23일(현지시간) 보도했다. 보도에 따르면, 구글 제미나이와 오픈AI의 챗GPT 이미지 생성 기능을 통해 사진 속 여성의 옷을 비키니로 바꾸는 딥페이크 이미지를 만들 수 있는 것으로 확인됐다. 온라인 커뮤니티 레딧의 'r/ChatGPTJailbreak' 게시판에서 사용자들은 AI 안전장치를 우회하는 방법을 공유하며 딥페이크 제작법을 서로 안내하는 모습이 포착됐다. 현재는 삭제된 '제미나이의 부적절한(NSFW) 이미지 생성이 너무 쉽다(gemini nsfw image generation is so easy)'라는 레딧 게시물에서 구글 제미나이를 사용해 노출이 많은 옷을 입은 여성 이미지를 만드는 방법에 대한 팁들이 공유됐다. 해당 게시글에서 한 사용자는 인도 전통의상을 입은 여성 사진을 올리며 "옷을 벗기고 비키니로 바꿔달라"고 요청했고, 이에 다른 사용자가 딥페이크 이미지로 만들어 댓글로 올리기도 했다. 이후 와이어드가 이를 레딧 측에 알리자, 레딧 안전팀은 해당 게시글과 이미지를 삭제했다. 또 다른 레딧 게시물에는 특정 인물의 치마를 몸에 더 밀착된 것처럼 보이도록 만들기 위해 AI 챗봇의 안전장치를 우회하는 법에 대한 안내도 공유됐다. 와이어드는 이런 기법이 실제로 제미나이와 챗GPT에서 작동하는지 확인하기 위해 테스트했다. 그 결과 간단한 영어 문장으로 작성된 기본 프롬프트만으로 옷을 입은 여성의 사진을 비키니 딥페이크 이미지로 변환할 수 있었다고 전했다. 생성형 AI 도구가 확산되면서, 해당 기술을 이용해 당사자의 동의 없이 여성들을 딥페이크 이미지로 괴롭히는 사례도 발생하고 있다. 실제로 수백만 명의 이용자가 실존 인물의 사진을 업로드한 뒤 생성형 AI를 통해 옷을 벗긴 이미지로 만들어달라고 요청할 수 있는 이른바 '누디파이(nudify)' 웹사이트를 방문한 것으로 나타났다. 물론 xAI의 그록을 제외하면 대부분의 AI 챗봇은 일반적으로 부적절한 이미지 생성을 허용하지 않는다. 하지만, 구글의 이미지 모델 '나노 바나나 프로', 오픈AI의 '챗GPT 이미지' 등 AI 이미지 생성 도구들이 최근 더 고도화되면서 이용자들이 가드레일을 우회할 경우 생성되는 이미지의 유사성과 사실성은 더욱 높아질 가능성이 있다고 해당 매체는 지적했다.

2025.12.24 16:47이정현 미디어연구소

국과수, 딥페이크 탐지 기술 본격 적용…적극행정 대상 수상

국립과학수사연구원(이하 국과수)이 자체 개발한 인공지능(AI) 기반 딥페이크 탐지 기술을 수사 현장에 적용해 신종 디지털범죄 대응에 나선 공로를 인정받았다. 행정안전부 국과수는 지난달 27일 국무조정실, 행정안전부, 인사혁신처가 공동 주관한 '2025년 적극행정 우수사례 경진대회' 본선에서 'AI딥페이크 분석모델' 사례로 대상(대통령상)을 수상했다고 7일 밝혔다. 이번 수상은 국민심사단 평가, 전문가 평가, 온라인 생중계 투표를 종합한 결과다. 국과수가 출품한 'AI딥페이크 분석모델'은 최근 급증하는 딥페이크 범죄에 대응하기 위해 자체 개발한 인공지능(AI) 기반 탐지 기술이다. 기존 위·변조 감정 기법은 실험대조군, 대조영상, 샘플 확보가 필수여서 딥페이크처럼 온라인에서 빠르게 유통되는 콘텐츠에는 한계가 있었다. 국과수는 AI 분석 기술을 적용해 이러한 제약을 줄이고, 범죄 유형별 맞춤형 탐지 모델이 충분하지 않은 상황에서도 효과적인 탐지가 가능하도록 한 점에서 높은 평가를 받았다. 국과수가 구축한 'AI딥페이크 분석모델'은 딥페이크로 의심되는 이미지, 영상, 음성을 입력받아 진위 여부를 자동으로 판별하는 시스템이다. 얼굴, 음성, 영상 합성 과정에서 나타나는 미세한 왜곡과 비정상적 패턴을 AI가 학습해 수사기관에 신속한 1차 판단 근거를 제공한다. 이에 따라 수사기관의 대응 속도와 감정 정확성이 모두 향상돼, 피해 확산을 막고 사건 처리 기간을 단축하는 효과를 거두고 있다는 설명이다. 이번 모델은 단일 연구가 아니라 행정안전부와 국과수, 연구기관·민간기업이 함께 추진해온 여러 연구 성과를 바탕으로 하고 있다. 국과수는 행정안전부 '인공지능을 활용한 딥페이크 불법 콘텐츠 분석 모델 개발' 과제와, 국과수·한국전자기술연구원·한국과학기술원·경찰대학·클레온·위지윅스튜디오 등 6개 기관이 공동으로 수행 중인 '생성형 인공지능의 사회적 부작용을 방지하기 위한 자가 진화형 딥페이크 탐지기술' 연구 결과를 토대로 지능형 범죄 대응 기반 기술을 고도화하고 있다. 국과수는 이 기술이 실제 현장에서 이미 활용되고 있다는 점도 강조했다. 국과수는 제21대 대통령 선거 기간 동안 총 13건, 53종의 딥페이크 관련 영상을 감정해 선거관리와 수사기관에 결과를 제공한 바 있다. 앞으로도 각종 선거에서 불법 딥페이크 의혹 영상이 접수될 경우, AI 기반 분석모델을 활용해 신속히 진위를 가리는 데 적극 협조하겠다는 방침이다. 활용 범위는 선거 영역을 넘어 다른 공공·사회 분야로도 확대된다. 국과수는 딥페이크를 이용한 지능형 범죄 예방 정책을 추진 중인 성평등가족부, 방송미디어 통신위원회 등 유관기관에 'AI딥페이크 분석모델'을 단계적으로 지원할 계획이다. 성착취물, 연예인·공인 합성물, 허위·조작 영상 등 사회적 파장이 큰 딥페이크 범죄에 대해 사전 차단과 사후 수사를 동시에 강화하겠다는 취지다. 이봉우 국립과학수사연구원장은 "이번 수상은 국과수가 국민 안전을 지키기 위해 지능형 신종 범죄에 대응할 수 있는 새로운 기술 개발을 위해 적극 노력한 결과"라며 "앞으로도 현장의 목소리를 청취하고 다양한 기관과 협업을 통해 국민이 체감하는 안전한 사회 구축에 최선을 다하겠다"고 말했다.

2025.12.08 16:44남혁우 기자

"손쉽게 거르자"…딥브레인AI, 딥페이크 탐지 API 공개

딥브레인AI가 추가 시스템 구축 없이 딥페이크를 탐지할 수 있는 서비스를 내놨다. 딥브레인AI는 딥페이크 탐지 솔루션 'AI 디텍터'를 API 형태로 공개했다고 11일 밝혔다. 이 API는 문화체육관광부와 한국콘텐츠진흥원이 주관한 '문화기술 연구개발' 사업 결과물이다. 자체 딥페이크 탐지 기능을 외부 기업과 기관에서도 손쉽게 활용할 수 있도록 확장했다. AI 디텍터 API는 영상·음성·이미지 등 여러 형태의 콘텐츠를 분석해 진위 여부를 판단한다. 페이스 제너레이션, 페이스 스왑, 립싱크 합성 등 합성 콘텐츠를 탐지하며 픽셀 단위 분석 기술을 적용해 조작 여부를 구분한다. AI 디텍터는 콘텐츠 업로드 단계에서 영상과 이미지를 자동 검증해 불법 합성물의 확산을 사전에 차단한다. 게시 후에도 모니터링을 통해 의심되는 콘텐츠를 실시간 탐지하며 빠르게 대응한다. 또 불법 성인물 등 유해 콘텐츠의 경우 자동 블러 처리 기능을 적용해 2차 피해를 예방한다. 딥브레인AI는 이 기술을 통해 다양한 플랫폼에서 안전하고 윤리적인 콘텐츠 유통 환경을 구축하는 것을 목표로 하고 있다. 영상 편집, 미디어 제작, 공공 정보 검증 등 다양한 분야에서 활용 범위가 확장될 것으로 기대된다. 장세영 딥브레인AI 대표는 "딥페이크 기술이 빠르게 확산하면서 AI가 만든 콘텐츠의 진위를 구분하는 일은 더 중요해지고 있다"며 "이번 API 출시는 기업·기관이 별도의 시스템 구축 없이 딥페이크 탐지 기능을 손쉽게 적용할 수 있도록 한 데 의미가 있다"고 강조했다.

2025.11.11 10:12김미정 기자

안토니 쿡 MS 부사장 "AI 혁신·안전 사이 균형 필요…접근성·포용성 높여야 발전 가능"

[경주=장유미 기자] 마이크로소프트(MS)가 인공지능(AI)의 책임 있는 설계와 활용을 위해 공공·민간 협력을 강화한다. 안토니 쿡(Antony Cook) MS 부사장은 30일 오전 경북 경주 예술의 전당에서 열린 '아시아태평양경제협력체(APEC) CEO 서밋' 연단에 올라 '책임 있는 AI 확산과 확장을 위한 공공·민간 협력'에 대해 강연했다. 그는 "AI 기술을 설계하고 운영할 때 투명성과 책임성을 확보하는 것이 무엇보다 중요하다"며 "우리는 10년 전부터 이런 원칙을 적용해왔고, 이제는 이를 산업 전반으로 확산할 시점"이라고 말했다. 이어 "현재 30개 이상의 안전 도구를 외부에 개방해 기업과 기관이 자체적으로 AI 안전 체계를 구축할 수 있도록 지원하고 있다"며 "이 같은 접근은 단순히 기술 제공을 넘어 신뢰 가능한 AI 생태계를 조성하는 것을 목표로 두고 있다"고 설명했다. 이를 위해 MS는 '콘텐츠 출처 및 진위성 연합(Coalition for Content Provenance and Authenticity, C2PA)'의 창립 멤버로도 활동 중이다. AI가 생성한 콘텐츠의 출처를 표시하는 개방형 표준 개발을 주도하기 위해서다. C2PA는 딥페이크 위협에 대응하기 위한 핵심 표준을 제시하는 곳으로, 구글과 어도비, 메타, 인텔, 소니, 오픈AI 등도 멤버로 활동하고 있다. 쿡 부사장은 "콘텐츠의 출처를 명확히 하는 것은 디지털 신뢰의 핵심"이라며 "산업계 전체가 협력해야 한다"고 강조했다. 또 그는 사회 인식 제고를 위한 민관 협력의 중요성도 강조했다. 이의 일환으로 MS는 한국에서 영국 비영리단체, 국내 비영리기관, 한국지능정보사회진흥원(NIA)과 협력해 중학생 대상 AI 인식 캠페인을 진행할 예정이다. 쿡 부사장은 "청소년들이 AI 기술의 가능성과 위험을 균형 있게 이해하고 책임 있는 이용 태도를 가질 수 있도록 도울 것"이라며 "청소년이 기술의 가능성과 위험을 올바르게 이해하도록 돕는 것이 목표로, AI 시대의 책임 있는 시민 의식을 키우는 계기가 될 것"이라고 말했다. 그는 AI의 사회적 영향이 커지는 만큼 법적 책임의 경계에 대한 논의도 중요하다고 강조했다. 또 정부는 국민 보호의 책임을 지지만, 시민사회와 업계의 협력이 병행돼야 균형 잡힌 제도와 문화가 만들어진다고 주장했다. 쿡 부사장은 "플랫폼 운영자, 콘텐츠 제작자, 이용자 간 책임 소재를 명확히 하면서도 창작의 자유와 사회적 안전을 함께 고려해야 한다"며 "정부와 시민사회, 업계가 함께 AI의 한계와 가능성에 대한 투명한 대화를 나누는 것이 출발점"이라고 말했다. 또 과거 기술 혁명을 통해 얻은 교훈이 있는지에 대해선 "전기나 광대역망처럼 일반 목적 기술의 확산이 모든 계층에 공평하지 못했다"며 "AI 역시 인프라가 충분히 갖춰지지 않으면 격차가 커질 수 있다"고 말했다. 그러면서 "AI 접근성과 포용성을 높이는 것이 지속 가능한 기술 발전의 핵심"이라고 강조했다. 마지막으로 쿡 부사장은 "AI 혁신을 촉진하면서도 사회적 가치와 안전을 지키는 균형이 필요하다"며 "책임 있는 협력을 통해 AI의 잠재력을 모두가 공유해야 한다"고 밝혔다.

2025.10.30 10:59장유미 기자

국감장에 부총리 딥페이크...배경훈 "국민들 사실로 오해, 유감"

배경훈 부총리 겸 과학기술정보통신부 장관이 자신을 소재로 제작된 정치쟁점적인 요소의 딥페이크 동영상이 국정감사 중에 재생된 점에 대해 유감을 표했다. 배경훈 부총리는 13일 정부세종청사에서 열린 국정감사에서 국민의힘 김장겸 의원의 질의가 끝난 뒤 “국민들이 보고 계시는 국정감사에서 (딥페이크로 제작된) 이런 영상이 띄워지면 이를 사실로 받아들일 수 있는 오해가 생길 수 있다”고 했다. 이어, “이런 영상은 소라로 만들면 소라로 만들어진 영상이라고 표시되는데, 딥페이크 영상이라고 자막 자료라도 첨부됐다면 좋았을 텐데 영상이 돌아다닐 것에 대해 유감 표명을 드려야 할 것 같다”고 밝혔다. 앞서 이날 과기정통부 대상 국정감사에서 김장겸 의원의 질의 중에 이춘석 의원의 주식 투자와 관련, 배 부총리가 등장하는 딥페이크 동영상이 재생됐다. 동시에 여야 의원들의 논쟁 중에 감사가 잠시 정회되기도 했다. 감사가 속개된 뒤 김 의원은 “개연성이 있을 법한 루머에는 대중이 믿도록 만드는데, 그런 사례에 AI가 적용되면서 불과 몇 초 만에 만든 영상인 점을 강조하려고 한 것”이라며 “이춘석 의원 관련 영상은 고급일식집에서 술잔을 마주하고 몇 줄의 프롬프트만으로 만들어진다”고 말했다. 이어, “내년 지방선거를 앞두고 제대로 된 부서도 없고 그런 차원에서 질의를 한 것”이라고 덧붙였다. 배 부총리는 이에 대해 “과기정통부가 부총리 조직으로 승격하면서 AI실 산하에 AI안전신뢰정책과, AI안전신뢰지원과 등 두 개 과가 신설됐다”며 “AI 산업의 진흥도 중요하지만 안전과 신뢰에 대한 부분 아주 중요하게 생각한다. 신뢰와 안전에 대한 부분을 지켜내지 못하면 산업 진흥도 물거품이라고 생각한다”고 답했다. 김 의원이 모두의 AI가 정치적 구호에 그치지 않냐며 결국 엔비디아 배를 불려주는 것이 아니냐는 질의에 대해, 배 부총리는 “전세계적으로 AI 개발 특히 학습에서 엔비디아를 사용하지 않는 곳 없을 것이고, 이제 대체제로 AMD가 준비되고 있고, 추론 분야에서는 국내 NPU 업체들이 잘 준비하고 있다”고 말했다. 이어, “결국 AI기본사회는 모두가 AI를 통해 혜택을 누린다는 것”이라며 “방식은 여러 가지가 있겠지만 일반인들이 챗GPT로 통용되는 서비스를 쉽게 쓰듯이 누구나 쓰고 많은 혜택 누리면서도 많은 소외계층 AI 잘 사용하지 못하는 부분이 있으니 누구나 AI를 활용하게 하겠다는 게 핵심”이라고 강조했다. 그러면서 “해외 빅테크 중심의 AI 기술뿐만 아니라 챗GPT를 사용할 수도 있다”며 “다만 한국도 AI 파운데이션 모델을 만들고, 이를 기반으로 AI 서비스를 만들고, 또 이를 기반으로 특화 모델을 만들고, 나아가 AX를 확산하고 과학기술을 혁신하는 데 한국에 내재화된 자체 AI가 필요하다는 것”이라고 덧붙였다. 배 부총리는 이어 최민희 과방위원장에 발언 기회를 얻어 “(김장겸 의원이) 딥페이크 영상을 보여줬는데 취지에는 충분히 공감한다”면서도 “딥페이크 영상이 사실인 것처럼 돌아다닐 것에 대해 유감을 표명한다”고 했다.

2025.10.13 12:28박수형 기자

"딥페이크 성범죄 폭증하는데, 심의 인력은 9명"

최근 3년간 딥페이크 성범죄 영상물 심의 건수가 12배 가까이 늘었지만, 이를 모니터링하는 인력은 9명에 불과한 것으로 나타났다. 국회 과학기술정보방송통신위원회 소속 조인철 의원(더불어민주당)은 방송통신심의위원회로부터 제출받은 '딥페이크 성범죄영상물 시정요구 현황' 자료를 바탕으로 지난해 7천187건의 심의 건수가 올해 8월 기준으로 이미 1만5천808건으로 집계됏다. 이와 관련한 디지털성범죄정보 심의전담 인력은 2021년 8명에서 현재 9명으로 1명 늘어나는 데 그쳤다. 하루 평균 심의 건수는 136건(2020년)에서 347건(2024년)으로 두 배 이상 늘어나 업무 과부하와 심의 적체가 불가피한 상황이다. 경찰청의 '딥페이크 범죄 10대 피해자 현황'에 따르면, 딥페이크 범죄 10대 피해자는 2021년 53명에서 2023년 181명으로 3배 이상 증가했다. 특히 주요 유통 경로가 해외 불법 음란사이트와 P2P 사이트인 만큼 대응이 늦어질 경우 피해 확산 위험은 더욱 커졌다. 조인철 의원은 “딥페이크 성범죄는 피해자에게 평생 지울 수 없는 상처를 남긴다”며 “피해가 폭증하는데도 인력과 예산은 턱없이 부족한 만큼 모니터링 인프라가 조속히 확충되어야 한다”고 말했다.

2025.09.29 10:29박수형 기자

Prev 1 2 Next