• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
AI의 눈
HR컨퍼런스
스테이블코인
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'가짜'통합검색 결과 입니다. (22건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

EU "가짜는 안 돼" vs 트럼프 "AI는 나의 힘"

유럽연합(EU)의 핵심 기구들이 직원들의 공식 문서 및 대외 소통에서 인공지능(AI)으로 생성한 이미지나 영상 사용을 전면 금지하고 나섰다. 이는 AI 생성 콘텐츠를 선거 운동과 홍보에 적극적으로 활용하고 있는 도널드 트럼프 미국 대통령의 행보와 극명한 대조를 이룬다. 최근 정치 매체 폴리티코 보도에 따르면 유럽위원회(EC), 유럽의회, 유럽연합 이사회는 온라인상에서 딥페이크와 AI 생성 콘텐츠에 대한 감시가 강화됨에 따라, 소속 직원과 홍보팀의 AI 콘텐츠 사용을 금지한다는 방침을 세웠다. 온라인에 정교하지 않거나 오해를 불러일으킬 수 있는 AI 콘텐츠가 범람하는 상황에서, 공공기관 메시지의 '신뢰성'을 최우선으로 지키겠다는 의지로 풀이된다. 영국의 AI 비디오 생성 기업 '신테시아'의 정책 책임자 알렉산드르 보이카는 “EU가 리스크를 먼저 고려하는 것은 당연한 수순”이라며 “해당 콘텐츠가 기만적이거나 유해하게 받아들여질 가능성은 없는지, 현실을 왜곡하고 있지는 않은지, 그리고 명확한 설명 책임과 정보 공개가 가능한지가 핵심”이라고 분석했다. 반면, 지정학적 위기가 고조되는 상황에서 공공기관이 온라인 영향력을 확보해야 한다는 목소리도 높다. 이 때문에 AI 콘텐츠를 무조건 금지하는 것이 최선인지에 대해서는 회의적인 시각도 존재한다. 벨기에의 홍보 대행사 '익스포저'를 운영하며 여러 정당에 자문을 제공해 온 르노 반 잔디케는 “딥페이크가 신뢰를 해칠 위험이 있다고 해서 공공기관이 AI를 아예 외면하는 것 역시 실익이 없다”고 주장했다. 케임브리지 대학 연구원이자 경제협력개발기구(OECD) 자문위원인 월터 파스콰렐리 또한 “전면 금지보다는 '책임 있는 사용'이 더 나은 대안”이라고 지적했다. 조사에 따르면 AI가 생성한 콘텐츠의 양은 이미 인간이 제작한 콘텐츠 양을 넘어섰으며, 2025년 한 해 동안 온라인에 공유된 딥페이크는 무려 800만 건에 달한 것으로 집계됐다. 정치권도 예외는 아니다. 네덜란드와 아일랜드에서는 이미 딥페이크가 선거운동에 영향을 미치고 있으며, 공식 소통에 AI를 활용하는 정치인도 급증하고 있다. 대표적인 인물이 도널드 트럼프 미국 대통령이다. 그는 자신이 만든 SNS '트루스 소셜'을 통해 다양한 AI 생성 이미지를 게시해 왔다. 왕관을 쓴 채 제트기를 조종하는 모습, 검을 뽑아 든 자신의 앞에 민주당 지도부들이 무릎을 꿇고 있는 모습 등이 대표적이다. 보고에 따르면 2024년 10월 기준으로 이미 36건의 AI 생성 콘텐츠를 올린 바 있으며, 취임 이후에도 이런 기조를 유지하고 있다. 최근에는 SNS에서 트럼프를 강력히 지지하며 애국심을 고취했던 미 육군 여군 '제시카 포스터'라는 인물이 사실은 100% AI로 생성된 가공의 존재였다는 사실이 밝혀져 충격을 주기도 했다. EU의 접근법은 이런 미국의 사례와 정면으로 배치된다. 토마스 레니에 유럽위원회 대변인은 폴리티코와의 인터뷰에서 “우리가 언론이나 대중에게 제공하는 공식 정보와 이미지에는 AI 생성 콘텐츠가 포함되지 않는다”고 단언했다. 시민의 신뢰를 얻기 위해서는 발신하는 콘텐츠의 진실성이 무엇보다 중요하다는 견해다. 다만, 화질 개선 등 단순 최적화 작업을 위해 AI 도구를 사용하는 것은 허용된다고 덧붙였다. 하지만 폴리티코는 “AI 생성 콘텐츠를 완전히 배제하는 방식은 외교와 소통이 점점 온라인 중심으로 이동하는 시대에 EU를 뒤처지게 만들 위험이 있다”고 지적했다. 신테시아의 보이카 역시 “얼마나 신속하고 효과적으로 대중에게 대응하느냐가 그 어느 때보다 중요해진 시점”이라고 강조했다. 일각에서는 AI 사용을 일률적으로 금지함으로써 대중에게 AI 리터러시(이해 능력)를 교육할 기회를 놓치고 있다는 비판도 나온다. 파스콰렐리 위원은 “EU가 AI와의 관계를 완전히 단절함으로써, 정치적 소통에서 책임 있고 투명한 AI 활용이 무엇인지 보여줄 '리더십의 기회'를 스스로 포기하고 있다”고 꼬집었다.

2026.04.03 08:32백봉삼 기자

英, 저스트잇 등 5개 플랫폼 허위 리뷰 조사 착수

영국 경쟁당국이 온라인 허위·오해 소지가 있는 리뷰에 대한 조사에 착수하면서 음식 배달 기업 저스트잇과 자동차 거래 플랫폼 오토트레이더 등 5개 기업이 조사 대상에 올랐다. 29일(현지시간) BBC 등 외신에 따르면 영국 경쟁시장청(CMA)는 장례 서비스 업체 디그니티, 리뷰 사이트 피포, 생파스타 브랜드 파스타 에반젤리스트도 함께 조사하고 있으며 이들이 소비자 보호법을 위반했는지 여부를 들여다보고 있다. 이번 조사는 기업들이 리뷰를 어떻게 수집하고, 검열하며 소비자에게 어떻게 보여주는지를 중심으로 진행된다. 5개 기업 모두 “CMA 조사에 협조하고 있다”고 말했다. 온라인 리뷰는 소비에 영향을 미치지만, 많은 소비자들이 온라인 콘텐츠의 신뢰성에 대해 우려하고 있다. 사라 카델 CMA 최고경영자(CEO)는 “가짜 리뷰는 소비자 신뢰의 근간을 흔든다”며 “생활비 부담이 커진 상황에서 소비자들은 조작된 별점이나 리뷰가 아닌 실제 정보를 기반으로 선택할 수 있어야 한다”고 강조했다. CMA는 피포와 오토트레이더가 일부 부정적인 리뷰를 포함하지 않아 소비자에게 균형 잡힌 정보를 제공하지 않았는지 여부를 조사하고 있다. 또 저스트잇에 대해서는 특정 음식점과 식료품 업체의 별점을 부풀렸는지에 대해 들여다보고 있다. 디그니티의 경우 직원들이 화장 서비스에 대한 긍정적인 리뷰 작성을 요청해 고객 평가를 왜곡했는지 여부를 조사 중이다. 파스타 에반젤리스트는 배송 앱에서 5점 리뷰를 남기는 대가로 할인을 제공하면서 이를 공개하지 않았는지 여부를 보고 있다. 저스트잇은 현재 리뷰가 “명확하고 투명하며 사용하기 쉬운 형태가 되도록 CMA와 협력 중”이라고 말했고, 피포는 “공정하고 투명한 검토 시스템을 입증하기 위해 당국과 협의하고 있다”고 설명했다. 오토트레이더는 조사에 “전적으로 협조하겠다”고 덧붙였으며, 파스타 에반젤리스트는 “소비자 법을 준수하기 위해 노력하고 있다”고 답했다. 디그니티도 CMA의 우려를 “매우 엄중히 받아들이고 있다”고 했다. CMA는 현재 조사 단계로 아직 소비자법 위반 여부에 대한 결론은 내리지 않았다. 지난해 4월 이후 CMA는 법원을 거치지 않고도 소비자법 위반 기업에 직접 벌금을 부과할 수 있는 새로운 권한을 갖게 됐다. 시장조사업체 트루스엔진의 최근 자료에 따르면 온라인 리뷰의 약 50%가 가짜일 수도 있는 것으로 나타났다. 가짜 리뷰 문제는 온라인 쇼핑에만 국한되지 않는다. 2024년 영국에서는 한 소규모 레스토랑 체인이 돈을 지불하지 않으면 허위 1점 리뷰를 다량으로 올리겠다는 협박을 받는 사건도 발생했다. 수 데이비스 소비자 단체 위치 소비자권리 정책 책임자는 “조사는 좋은 시작이지만 실제 제재가 핵심”이라며 “규제당국이 강력한 권한을 활용해 위반 기업에 대해 엄중한 벌금을 부과해야 한다”고 당부했다.

2026.03.30 10:37박서린 기자

산업부, 원유 자원안보 위기경보 '주의' 단계 격상

산업통상부는 최근 중동 상황의 장기화 가능성이 높아지고 국제유가 급등, 원유 수송 여건 악화, 공급망·무역·산업 전반에 걸쳐 불확실성이 커짐에 따라 18일 오후 3시부로 원유 자원안보 위기 경보를 기존 '관심'에서 '주의' 단계로 격상하기로 했다. 천연가스는 저장량·가스 수요 감소 등 수급 여건을 감안해 현행 '관심' 단계를 우선 유지하고 단계 변경 여부를 지속 검토해 나가기로 했다. 자원안보 위기경보는 '관심-주의-경계-심각' 4단계로 운용된다. '국가자원안보특별법' 제23조에 따라 위기 상황의 심각성, 국민생활·국가경제 파급력 등을 종합적으로 고려해 발령한다. 산업부는 지난달 28일 상황 발생 직후 '긴급대책반'을 구성, 장·차관 주재 중동 상황·석유시장 점검회의를 네 차례 개최하고, 지난 3일 차관을 본부장으로 하는 '중동상황 대응본부'를 격상·운영해 원유와 천연가스 수급 상황, 위기 상황 발생 시 컨틴전시 플랜 준비상황과 함께 무역·물류, 석유화학·플랜트·공급망 및 산업 영향, 중소 수출기업 영향과 대응 방안을 일일 단위로 점검해 왔다. 검토 결과, ▲중동 주요 산유국 정세 불안 증가(생산·수송시설 파괴 등 부분적 생산차질·수출제한 발생) ▲호르무즈 해협 봉쇄로 인한 석유 수송경로 불안정 확산 ▲사태 발생 이후 40% 내외 유가 상승(브렌트유 기준, 17일 07시)으로 국제 석유시장 변동성 증가 등 '국가자원안보 확보를 위한 고시'에 따른 '주의' 단계 위기경보 발령 기준이 충족된 것으로 확인됐다. 한편, 가스는 카타르의 불가항력 선언(5일, Force Majeure) 등에 따라 국제가격이 급등해 왔고 이에 따라 발전단가 상승 등 우려는 있으나 저장 재고가 법정 의무수준을 넘어서고 있다. 또 카타르산 가스 도입이 전면 중단되더라도 연말까지 활용 가능한 대체 물량을 확보하고 있고 비중동산 물량도 원활하게 도입되고 있어, 현재의 '관심' 단계 경보를 우선 유지함이 필요하다고 판단했다. 다만, 산업부는 발전 등 천연가스 대용량 수요처·기후부와 협력해 수급상황을 면밀히 모니터링하고, 적기에 필요한 조치를 시행해 나갈 계획이다. 산업부는 원유 '주의' 단계 격상에 맞춰, 공급 확대와 수요 관리 방안을 확대·강화해 나간다. 우선 국제공동비축 우선구매권 행사, 호르무즈 해협을 통항하지 않는 대체 물량 확보, 해외 생산분 도입 등을 적극 추진한다. 특히, IEA 국제공조를 통해 우리나라에 할당된 2246만 배럴의 비축유 방출에 대해서는 우리 여건에 맞는 구체적인 방출계획을 수립하고 있으며 IEA 사무국과도 방출 시기·물량 등에 대해 계속 협의해 나갈 예정이다. 수요 관리도 강화한다. 중동 상황의 장기화에 따라 수급 여건이 조속히 개선되기 어려운 만큼, 기후에너지환경부 등 관계 부처와 협조해 공공분야 '의무적 에너지 절약대책 시행', 민간분야에 대한 자발적 캠페인 및 필요시 의무 수요감축 조치 도입 등 상황에 맞는 석유 수요 절감 방안을 구체화해 나갈 계획이다. 지난 13일 민생 물가 안정을 위해 '석유제품 최고가격제'를 시행한 만큼 제도의 조속한 정착을 위해 '범부처 합동점검단', 석유관리원 오일콜센터를 통해 가짜석유, 정량미달, 불공정거래, 매점매석, 탈세 등 시장 질서 저해 행위를 엄정히 조치할 계획이다. 김정관 산업부 장관은 “정부는 상황 변화에 기민하게 대처하며, 원유수급과 민생 안정이라는 목표를 함께 달성해 나가겠다”며 “국민도 현 상황에 관심을 갖고 위기 극복에 동참해 주기 바란다”고 밝혔다. 한편, 정부는 최근 중동 상황 지속에 따른 원유 수급 불안에 적극 대응하기 위해 강훈식 대통령 비서실장을 특사로 한 아랍에미리트(UAE) 전략경제협력특사단을 UAE에 파견, 추가 원유 1800만 배럴을 긴급 도입하기로 최종 확정했다. 지난 6일 600만 배럴 도입에 이어 UAE로부터 도입하는 원유는 총 2400만 배럴로 늘어났다.

2026.03.19 07:21주문정 기자

"수상한데?"...세계 선거서 '가짜 여론 조성' 허위 계정 확인

온라인 플랫폼이 정치 담론의 주 무대가 되면서, 가짜 계정을 활용해 여론을 조작하려는 시도가 더욱 교묘해지고 있다. 올 6월3일 치러질 전국동시지방선거에서도 한국이 직면할 주요 리스크로 '선거 불복 정서 확산'과 'AI 기반 딥페이크 콘텐츠'가 꼽히고 있다. 18일 이스라엘 데이터 분석기업 사이브라가 발표한 '선거를 흔드는 디지털 정보전'에 따르면, 필리핀·대만·독일 등 세계 9개 국가에서 치러진 선거 국면에서 생성된 가짜 계정은 가유권자 커뮤니티에 깊숙하게 침투해 가짜 분위기를 조성하며 선거판을 흔들었다. 2025년 5월 필리핀 총선은 집권세력인 페르디난드 마르코스 대통령의 연합세력인 '신필리핀 연합' 관련 SNS 여론 중 37%가 가짜 계정에 의해 생성됐고, 가짜 계정은 이메 마르코스 상원의원과 카밀 빌라 상원의원을 집중 공격했다. 가짜 계정이 내보낸 메시지는 후보자의 신뢰성을 흔들고 '이 후보를 지지하는 일은 부끄러운 일'이라는 분위기를 만들며 지지자를 조롱했다. 이러한 활동은 1410만 회의 조회수를 기록하며 선거판을 흔들었다. 반면 야권 연합 세력인 '기밤' 관련 담론에서는 분석 대상 계정 중 가짜 계정 비율은 45%에 달했다. 이들은 '버블리즈 포 키코 팡일리난'(BUBBLIES FOR KIKO PANGILINAN)이라는 캠페인을 통해 마치 젊은 층이 자발적으로 키코 팡일리난 상원의원을 지지하는 팬덤 정치를 하는 것처럼 위장했다. 하지만 동일한 해시태그(#KikoSaSenado2025)를 조직적으로 반복 사용하는 봇 네트워크였다. 이러한 조작된 지지는 무려 5420만 회의 조회수를 기록하며 실제 민심을 왜곡했다. 실제 선거 결과 마르코스 대통령 세력은 12명을 뽑는 상원의원 선거에서 9석을 얻을 것이라는 당초 예상과 달리 6석을 차지하는 데 그쳤다. 반면 키코 팡일리난은 상원의원으로 복귀하는 데 성공하며 필리핀 정가에 영향력을 키웠다. 2025년 2월 독일 연방의회 선거에서 극우 정당 AfD 관련 메시지가 댓글 공간을 중심으로 확산됐다. AfD 공동대표 알리체 바이델 관련 게시물의 잠재 도달 범위는 약 1억 2600만 조회수를 기록했다. 분석 결과 약 33%가 가짜 계정을 통해 확산됐으며, 바이델 대표에게 달린 긍정 댓글 중 23%는 가짜 계정이 작성한 것이었다. 가짜 계정은 바이델 대표가 '독일의 미래를 구할 지도자' '독일을 위한 희망'과 같은 메시지를 반복적으로 확산시켰다. 전체 연방의회 선거에서는 1000여개의 가짜 계정이 선거에 개입했고, 이중 13%가 생성된지 한달이 되지 않았다. 반면 1년 이상 활동한 계정도 47%에 달해 단순히 선거를 위해 급조한 가짜 계정이 아니라 장기간 구축한 네트워크를 기반으로 조직적인 여론 조작을 펼쳤을 가능성도 보여줬다. 2025년 독일 연방의회 선거에서는 AfD가 선거 직전보다 69석이 증가한 152석의 의원을 배출하며 원내 2당으로 올라섰다. 사이브라는 이스라엘의 정보전 및 사이버 보안 전문가들이 설립한 기업으로, AI 기반 오픈소스 인텔리전스(OSINT) 플랫폼을 통해 비정상적 계정을 탐지한다. 사이브라의 기술은 단순히 개별 게시물을 보는 것이 아니라 페이스북이나 X(옛 트위터)와 같은 다양한 소셜미디어 채널을 실시간으로 모니터링하고 프로필간의 연결구조를 시각화해 가짜 계정들이 서로 콘텐츠를 주고받으며 메시지를 증폭시키는 '네트워크 발화' 구조를 찾아낸다. 이후 AI가 생성한 텍스트와 이미지를 식별하고, 온라인 대화의 감정선을 추적해 인위적인 여론 조작 여부를 판별한다. 사이브라 코리아는 2026년 지방선거에서 한국이 직면할 주요 리스크로 '선거 불복 정서 확산'과 'AI 기반 딥페이크 콘텐츠'를 꼽았다. 한국은 인터넷 사용률이 높고 정치적 양극화가 강해 온라인 담론이 실제 정치 정서에 미치는 영향이 매우 크기 때문이다. 특히 투표와 개표 과정에 불복하는 분위기를 조성하거나, 특정 후보의 부적절한 태도를 조작한 딥페이크 영상이 사실 확인 전 급속도로 확산될 우려가 있다. 사이브라는 정보조작이 단순히 사실 하나를 꾸며내는 것을 넘어 '감정과 분위기'를 설계한다는 점을 인지할 필요가 있다고 지적했다. 선거관리 기관과 플랫폼 기업, 분석 전문 기업간 실시간 모니터링 협력 체계를 강화하고, 유권자들은 디지털 정보를 비판적으로 수용할 수 있는 디지털 리터러시 교육 강화가 필수적이라는 것이다. 사이브라 관계자는 “현대 정보전은 무엇이 진실인지 다투는 단계를 넘어, 무엇을 믿을 수 있는지를 흔드는 전쟁으로 변모했다”며 “특히 지방선거는 지역별 현안과 밀착돼 있어 타겟팅된 정보조작에 더욱 취약할 수 있다”고 말했다.

2026.03.18 18:03백봉삼 기자

'AI 가짜 전쟁 영상' 수억 조회수…미·이스라엘-이란 허위정보 확산

미국·이스라엘이 이란을 공격하면서 생성형 인공지능(AI) 기반 허위 전쟁 콘텐츠가 빠르게 확산하고 있다. 7일(현지시간) BBC 보도에 따르면 실제 전쟁 장면처럼 보이는 AI 영상과 이미지가 온라인에서 수억 조회수를 기록하며 정보 왜곡 우려가 커지고 있는 것으로 나타났다. 현재 이스라엘 텔아비브가 미사일 공격을 받는 영상이 소셜네트워킹서비스(SNS)에서 수만 차례 공유됐다. 해당 영상은 300개 넘는 게시물에 사용된 것으로 집계됏다. 두바이 부르즈 할리파가 화염에 휩싸인 영상도 퍼졌다. 해당 영상은 수천만 회 조회됐다. AI가 만든 위성 사진도 등장했다. 바레인 미 해군 제5함대 기지가 크게 파괴된 것처럼 보이는 이미지가 온라인에 퍼졌다. 구글이 신스아이디 워터마크로 탐지한 결과, 해당 이미지는 AI 도구로 생성·편집된 것으로 나타났다. BBC는 AI 기술 발전으로 인해 허위 영상·이미지 확산 현상이 심화되고 있다고 지적했다. 과거에는 전문 영상 제작 기술로 허위 이미지·영상을 배포했지만, 현재 AI 도구로 몇 분 만에 합성 영상을 만들 수 있기 때문이다. 현재 '엑스(X)'는 전쟁 관련 허위 정보를 막기 위한 대응에 나섰다. 무력 충돌과 관련된 AI 생성 영상을 표시 없이 게시할 경우, 해당 창작자를 수익화 프로그램에서 일시적으로 제외하겠다고 밝혔다. 이 수익화 프로그램은 게시물이 조회수와 좋아요 공유 댓글 등을 많이 얻을 경우 창작자에게 금전 보상을 지급하는 방식이다. 티머시 그레이엄 퀸즐랜드공과대 디지털 미디어 강사는 "이번 전쟁은 허위 정보 확산 문제를 더 이상 외면할 수 없게 만들었다"고 밝혔다.

2026.03.07 21:00김미정 기자

김민석 총리 "가짜뉴스로 선거 공정성 저해, 엄정 대응"

김민석 국무총리가 26일 “표현의 자유는 최대한 보장하되, 가짜뉴스를 만들고 유통하거나 선거의 공정성을 저해하는 행위에 대해서는 법과 원칙에 따라 엄정히 대응할 것”이라고 밝혔다. 김 총리는 이날 정부서울청사에서 가짜뉴스 대응 관계장관회의를 열어 “가짜뉴스와 흑색선전의 횡행은 민주주의의 근간을 흔드는 일”이라며 이같이 말했다. 회의는 AI를 활용한 가짜뉴스로 인해 사회적 문제가 심각해지고 상황에서 6.3 지방선거를 앞두고 범정부 차원에서 보다 체계적인 대응 방안을 논의하기 위해 마련됐다. 각 부처들은 보다 적극적인 대응에 나선다는 방침이다. 먼저 방송미디어통신위원회는 AI 악용 등 가짜뉴스 대응을 위한 범정부 컨트롤타워로서 역할을 수행하고, 정보통신서비스 투명성센터 설립 등을 통해 사실확인 단체를 지원하여 허위조작정보 유통 방지를 위해 노력해 나갈 예정이다. 법무부는 상반기 검사 인사 시 각급 검찰청별로 경험과 전문성을 갖춘 검사를 균형 있게 배치하여 선거범죄에 즉각 대응할 수 있는 수사체계를 구축한다. 특히 대검찰청을 통해 ▲AI 악용 가짜뉴스 등을 이용한 흑색선전 ▲공무원 선거개입 등 관권선거 ▲금품 향응 제공 등 금권선거 행위를 중점 단속대상 범죄로 선정해 신속하고 엄정하게 수사할 예정이다. 행정안전부는 지난해 11월 금지광고물 가이드라인 시행에 이어 신속한 금지광고물 정비와 관련 법령 해석을 지원하고 있다. 공정한 지방선거를 위해 불법 광고물 등에 대한 전국 일제점검을 선거일 전 1개월간 집중 추진할 예정이며, 3월5일부터 시도와 함께 합동감찰반을 운영하고 행안부 홈페이지 내익명신고방을 설치해 가짜뉴스를 제작하거나 유포하는 등 공무원의 선거법 위반행위에 엄정히 처벌할 계획이다. 경찰청은 허위정보 확산 방지를 위해 지난해부터 허위정보 유포 등 단속 TF를 운영하고, 올해부터는 매크로 등 조직적 전산적 방법을 이용한 '허위정보 관련 범죄 집중단속'을 하고 있다. 또 지방선거를 앞두고 전국 경찰관서에 선거사범 수사전담반을 편성, 허위사실 유포 포함 '5대 선거범죄'를 집중단속 중이다. 과학기술정보통신부는 딥페이크를 활용한 가짜뉴스 생성 및 확산을 방지하기 위해 딥페이크 탐지 차단 등 전주기 기술개발을 적극 지원하고, 연구 성과의 확산을 위해 관계부처와 협력해 나갈 계획이다. 문화체육관광부는 수용자의 가짜뉴스 분별력 제고를 위해 미디어 문해력 교육 대상을 기존 초‧중‧고등학생 중심에서 성인, 노년층을 포함전 국민으로 확대하고 뉴스 생산자인 언론의 자율심의 기능을 지원해 긴급 중대사안 신고 접수 시 72시간 내 신속 심의하는 등 언론의 사회적 책임을 강화한다. 교육부는 학교 디지털 미디어 문해교육 지원 강화를 위해 전문 강사 파견 및 교과 연계 수업 도움 자료 보급을 통해 학교 현장의 교육 활성화를 지원하고, 학교 디지털 미디어 문해교육 기본계획 수립, 교원 대상 맞춤형 연수 등을 통해 교육 기반과 교원의 전문성을 지속 강화해 나갈 계획이다. 김 총리는 “국민들께서도 가짜뉴스에 대한 경각심을 통해 성숙한 민주사회를 함께 만들어달라”고 당부했다.

2026.02.26 11:30박수형 기자

최태원, 가짜뉴스 논란에 쇄신 단행…대한상의 주관 행사 올스톱

최태원 대한상공회의소 회장이 최근 상속세 관련 보도자료의 통계 신뢰성 논란과 관련해 내부 구성원에게 서한을 보내 사과하고 조직 쇄신을 약속했다. 최태원 대한상의 회장은 12일 대한상의 전 구성원에게 서한을 보내 전면적인 변화와 쇄신을 단행하겠다고 밝혔다. 최 회장은 서한에서 “인용 데이터의 신뢰성에 문제가 제기되었고, 문제점은 우리 스스로도 확인했다”며 “경제현상을 진단하고 정책대안을 제시해야 하는 우리에 대해 근본적인 신뢰 문제가 제기된 것은 뼈아픈 일”이라고 토로했다. 이어 “팩트체크 강화 정도의 재발방지 대책으로는 턱없이 부족하다”며 “법정 경제단체라는 자부심이 매너리즘으로 변질되지 않았는지 냉정하게 되돌아봐야 한다”고 강조했다. 아울러 “각자의 자리에서 스스로를 돌아보고, 조직을 다시 세운다는 비상한 각오로 업무에 임해주기 바란다”고 당부했다. 최 회장이 제시한 쇄신 방안은 ▲조직 문화와 목표 혁신 ▲전문성 강화 ▲법정 경제단체 역할에 대한 성찰 ▲당분간 대한상의 주관 행사 중단 ▲임원진 전원 재신임 절차 등 5가지다. 그는 "건의 건수 같은 외형적 성과보다 지방 균형발전, 양극화 해소, 관세 협상, 청년 일자리, AI 육성 등 국가 과제에 실질적 대안을 제시하는 방향으로 목표를 재설정하겠다"고 밝혔다. 또 "외부 전문인력 영입과 내부 인재 배치·동기 부여 체계 정비를 언급하며, 조직의 역량을 근본적으로 강화하겠다"고 했다. 아울러 “안전 문제 발견 시 작업을 중단하듯, 공익과 진실을 최우선에 두는 경제단체로 다시 설 준비가 될 때까지 잠시 '멈춤'의 시간을 갖겠다”며 상의 주관 행사를 당분간 중단하겠다고 밝혔다. 다만 국가 차원의 행사와 과제에는 책임 있게 참여·지원하겠다고 했다. 최 회장은 “취임 당시의 초심으로 돌아가 회장으로서 모든 책임을 다하겠다”며 “이번 위기를 기회삼아 더욱 신뢰받는 기관으로 거듭나도록 내부 정비를 빠르고 단단하게 마무리하자”고 당부했다. 한편, 이번 논란은 대한상의가 상속세 제도와 연계해 '고액 자산가의 해외 유출이 급증했다'는 취지의 외부 통계를 인용한 보도자료를 배포한 뒤, 통계 산출 근거와 검증 절차를 둘러싸고 '가짜뉴스' 공방으로 번진 데서 촉발됐다. 이재명 대통령이 해당 보도자료를 공개적으로 비판했다.

2026.02.12 14:40류은주 기자

김정관 산업 장관 "국민 눈높이 이상으로 성과 창출·사회적 책임 다해야"

김정관 산업통상부 장관은 12일 “국민 눈높이 이상으로 성과를 창출하고 사회적 책임을 다하자”고 밝혔다. 김 장관은 이날 서울 남대문로 대한상공회의소에서 열린 산업부 산하 산업 및 자원·수출분야 공공기관을 대상으로 한 3·4회차 업무보고에서 “공공기관의 사회적 책임에 대한 국민 눈높이가 더욱 엄격하다"며 이같이 말했다. 김정관 장관은 “공공기관의 기본 책무는 맡은 업무가 무엇인지를 제대로 아는 것에서부터 시작한다”며 “산업부 공공기관 임직원분들은 각 소관 분야에서 최고의 전문가가 돼야 한다”고 강조했다. 산업부 산하 공공기관의 중점추진과제 이행계획 등을 종합 점검한 이날 업무보고에는 장·차관은 물론, 실·국·과장과 담당사무관, 공공기관 임직원까지 약 90여 명이 참석해 공공기관 혁신방안을 허심탄회하게 의견을 나눴다. 특히 민생안정과 경제안보에 직결되는 자원·수출 분야 공공기관 업무보고(4회차)는 KTV 생중계로 공개했다. 3회차 업무보고는 한국산업기술진흥원·한국산업기술기획평가원·한국디자인진흥원·한국세라믹기술원·한국산업단지공단 등 산업 분야 공공기관이 참석했다. 이날 보고에서는 ▲5극3특 기반 지역 성장 엔진 육성 ▲제조업 AI 대전환(AX)을 위한 선도프로젝트 추진 ▲첨단산업 세라믹 소재 기술자립 및 디자인·AI 융합 등 산업 경쟁력 강화를 위한 핵심 과제들이 집중 논의됐다. 같은 날 오후에 열린 4회차 업무보고는 석유공사·광해광업공단·석탄공사·강원랜드 등 자원 분야 공공기관과 대한무역투자진흥공사·무역보험공사 등 수출지원 분야 공공기관을 대상으로 실시됐다. 자원 분야에서는 ▲핵심광물 공급망 안정화 및 자원안보 확립 ▲석유공사 재무건전성 개선 등이 논의됐다. 수출지원 분야에서는 ▲수출 1조 달러 시대 도약을 위한 총력 지원 방안 ▲MASGA 등 대미 프로젝트 중장기 투자지원 방안 등을 토론했다. 김 장관은 “아직 기존 업무를 관행적으로 답습하는 많은 사례가 곳곳에서 보인다”며 “새로운 환경에 맞춰 국민들이 체감할 수 있도록 새로운 시각에서 업무를 재창출해 줄 것”을 당부했다. 김 장관은 또 안전 문제에 관해서는 기관장이 책임을 지고 원점에서 철저히 점검하고, 기관의 주요 성과와 현안을 국민과 국회에 상세히 설명하는 등 소통의 접점을 확대할 것을 주문했다. 아울러, 지방소재 기관은 지방이전 취지에 맞게 지역경제 활성화와 중소·소상공인 상생에 앞장서고, 모든 공공기관이 임직원 복무기강 확립 등 윤리경영에도 만전을 기해줄 것을 강조했다. 김 장관은 “오늘 업무보고는 일회성 계획이 아니라, 국민과의 엄중한 약속”이라며 “가짜일을 덜어내고, 국민이 실질적인 변화를 체감할 수 있는 '진짜 성과'로 공공기관의 역할과 가치를 증명해야 한다”면서 “범정부적으로 추진 중인 '가짜일 줄이기 프로젝트'에도 동참할 것”을 요청했다. 산업부는 이번 업무보고에서 논의된 주요 개선 과제를 관리카드화해 체계적으로 관리하고, 장관 주재 공공기관 정례 간담회 등을 통해 이행 상황을 꼼꼼히 점검해 나갈 예정이다.

2026.01.12 13:30주문정 기자

"딥페이크 의사 광고 금지법, 소비자 보호 효과는 분명”

딥페이크를 활용해 가짜 의사를 내세운 광고를 금지하는 법안이 소비자 보호 효과는 분명하지만 사업자의 과도한 규제는 부담이 될 수 있다는 분석이 나왔다. 국회입법조사처는 31일 발간한 온라인 광고 딥페이크 활용 고지 표시 훼손 또는 위변조 금지 의무 법안의 입볍영향분석 보고서를 통해 이같이 평가했다. 입법영향분석 보고서는 법률안이 시행될 경우 발생할 것으로 예상되는 전반적인 영향을 객관적이고 과학적인 방법으로 예측 분석한 것으로 국내외 연구 논문, 헌재 판례, 국내외 입법례, 이해관계자 의견 등을 종합적으로 반영한다. 현재 소비자는 광고의 진위와 신뢰성을 판단하기 어려워지고, 조작된 영상을 사실로 오인해 제품을 구매하는 등 실질적인 피해로 이어질 우려가 커지고 있다. 특히 식의약품 분야에서는 특정 인물이나 신체 이미지를 합성한 광고가 높은 홍보 효과를 내는 점을 악용한 허위과장 광고가 반복되고 있다. 가상의 이미지를 실제 의사나 전문가의 권고로 오인하는 피해와 건강 정보에 취약한 노년층이 거짓 의학 정보에 노출될 경우 생명과 신체에 대한 직접적인 위험으로 이어질 수 있다는 점에서 제도적 대응의 필요성이 크다. 이와 같은 문제를 해결하기 위해 AI 생성 광고의 표시를 훼손 변조하는 행위를 금지하고, 플랫폼 사업자에게 해당 광고의 삭제 의무를 부과하는 정보통신망법 개정안이 발의됐다. 입법조사처는 법안에 대한 입법영향분석을 실시한 결과 소비자 보호 측면의 효과는 분명하지만 규제 기준의 모호성으로 인해 사업자 부담이 과도해질 우려가 있다고 밝혔다. 먼저 소비자 보호 효과가 크다고 봤다. 현행법은 AI 생성물 표시 의무를 규정하고 있으나, 표시를 고의로 삭제하거나 가리는 행위에 대한 제재는 충분하지 않다. 개정안은 이러한 입법 공백을 보완해 소비자에게 정확한 정보를 제공하고, AI 표시의 신뢰성을 제고해 소비자 오인에 따른 피해 확산을 예방하는 데 기여할 것으로 평가된다. 이와 함께 광고 게시자의 표현의 자유 제한 우려가 제기되고 있다. '훼손'이나 '위변조'의 개념이 명확하지 않을 경우, 단순 편집이나 저화질 변환 등 고의성이 없는 행위까지 규제 대상에 포함될 가능성이 있다. 이는 표현의 자유를 위축시킬 수 있으므로, 하위 법령을 통해 금지 행위의 범위를 구체화할 필요가 있다. 또 정보통신서비스 제공자의 영업의 자유 제한 우려가 있다. 개정안은 정보통신서비스 제공자에게 표시가 훼손 조작된 광고에 대한'지체 없는 삭제'의무를 부과하고 있으나, 이는 기존 정보통신망법상 불법정보 삭제 체계에 비해 사업자의 판단 부담을 크게 가중시킬 수 있다는 것이다. 이에 따라, 입법조사처는 입법영향분석 결과를 토대로 소비자 보호와 사업자에 대한 합리적 규제가 균형을 이룰 수 있는 입법적 논의 방안을 제안했다. 또 입법적 논의와 보완을 거쳐 본 법률안이 실제로 통과된다면, 법률 시행 3년 후 사후 입법영향분석을 실시해 규제 효과와 사업자의 이행 상황을 재점검하는 절차도 제시했다.

2025.12.31 10:52박수형 기자

허위조작정보 근절, 징벌적 손해배상이 답일까

가짜뉴스는 영어 fake news를 옮긴 말이다. fake news는 '언론보도처럼 보이게 만들어 유포하는 거짓 정보'란 뜻이다. 따라서 이 말을 가짜뉴스로 번역하는 건 적절하지 않다. 은연 중에 '언론을 위장한 허위조작정보'로 매도하려는 의도가 담겨 있기 때문이다. 많은 정치인들이 비판 보도를 fake news(혹은 가짜뉴스)라고 공격하는 기저에는 이런 정치적 계산이 깔려 있다고 봐야 한다. 잊고 있던 가짜뉴스란 말을 다시 떠올린 것은 24일 국회 본회의 문턱을 넘은 '허위조작정보 근절법' 때문이다. 국회는 이날 민주당 주도로 '재석 177명, 찬성 170명'으로 정보통신망법 개정안을 통과시켰다. 야당인 국민의힘은 '입틀막법'이라고 강하게 반발하면서 표결에 불참했다. 이번 개정안은 허위조작정보를 유통한 언론과 유튜버에 징벌적 손해배상 책임을 묻는 것이 골자다. 법은 손해액의 5배까지 배상 청구를 할 수 있도록 규정하고 있다. 그래서 '허위조작정보 근절법'이라 불린다. 또 논란이 많았던 사실 적시 명예훼손 조항도 포함됐다. 허위조작정보는 민주사회의 근간을 흔드는 독버섯 같은 존재다. 유튜브나 일부 언론의 도를 넘은 허위조작 보도 행태는 심각한 상황에 이르렀다. 그런 만큼 허위조작정보를 퇴치해야 한다는 당위 명제에 반대할 사람은 별로 없다. 그런데 왜 허위조작정보 근절법에 대한 비판이 끊이지 않고 있는 것일까? 뻔한 얘기지만, 비판 보도의 싹을 자르는 도구로 악용될 가능성이 적지 않기 때문이다. 유네스코의 정보 무질서 현상 진단을 토대로 이 문제를 한번 살펴보자. 유네스코는 몇 년전 '저널리즘, 가짜뉴스 & 허위정보'라는 저널리즘 교재를 출간했다. 이 책은 정보 무질서 현상을 진단하면서 세 가지 개념을 소개했다. 허위조작정보(disinformation), 잘못된 정보(misinformation), 유해 정보(malinformation)가 바로 그것들이다. 이 중 허위조작정보와 잘못된 정보는 '진실이 아닌 정보'이다. 그런데 둘은 결정적인 차이가 있다. 허위조작정보는 유포자가 진실이 아니란 사실을 알면서 고의로 배포하는 것이다. 반면 잘못된 정보는 유포자는 진실이라고 생각했지만 사실은 틀린 정보를 의미하는 말이다. 언론사들이 범하는 '선의의' 오보가 여기에 해당된다. 따라서 허위정보와 잘못된 정보를 가르는 중요한 차이는 '보도 대상을 해치려는 의도' 존재 여부도 있다. (반면 유해 정보는 그 자체로 틀린 정보는 아니다. 하지만 '보도할 공익적 가치가 없는 정보'를 의미한다. 공직자 가족에 대한 (직무와 관련 없는) 과도한 사생활 폭로가 대표적이다.) 이번에 통과된 '허위조작정보 근절법'이 겨냥하는 것은 물론 허위정보이다. '진실이 아니란 사실을 알면서도 고의로 허위정보를 유포하는 행위'가 주된 타깃이다. 이런 기사에는 '보도 대상에게 피해를 입히려는 의도'가 개입된 경우가 많다. 여기까지만 놓고 보면 아무런 문제가 없어 보인다. 고의로 허위 정보를 유포하지 않으면 되기 때문이다. 실제로 국회 과학기술정보방송통신위원회 민주당 간사인 김현 의원은 23일 공개된 미디어오늘 인터뷰에서 “사실로 드러났는데도 불구하고 의혹 제기로 쭉 쓰고 '한편 이렇다'는 식으로 쓰면 안 된다”고 주장했다. 그는 또 “언론도 취재를 잘해서 보도해야 한다”고 강조했다. 김현 의원의 말 자체는 논리적으로 크게 무리 없어 보인다. "사실로 드러났는데도 불구하고” 의혹 제기로 나열하는 사악한 보도 행태는 개선돼야 한다. 김 의원 말대로 “언론도 성역일 수는 없기” 때문이다. 문제는 대부분의 보도가 그렇게 칼로 무 자르듯 명확하지 않다는 점이다. 특히 비판 보도는 대부분 명확한 진실이라고 밝혀지기 전까지 허위 프레임이 씌워질 수 밖에 없다. 따라서 이 법이 발효될 경우 불편한 보도나 비판 보도를 허위·조작 정보로 몰아 민사 소송을 제기할 가능성이 많다. 한국 언론의 대표적인 특종 사례로 2005년 '황우석 줄기 세포 논문조작 보도'를 꼽을 수 있다. 한 때 한국을 대표하는 과학자였던 황우석 씨의 줄기세포 관련 논문이 조작됐다는 것이 보도의 핵심 내용이었다. 당시 황우석 씨의 힘은 막강했다. 20년 전 MBC PD수첩은 그 힘 때문에 보도에 큰 어려움을 겪었다. 취재 기자들은 "보도할 수 없을 지 모른다"는 두려움과 끊임 없이 싸워야만 했다. 꼼꼼한 취재와 유기적인 협력, 그리고 익명의 제보자 덕분에 힘겹게 논문 조작 사실을 입증할 수 있었다. 만약 보도 당시에 '허위조작정보 근절법'이 있었다면 어땠을까? 힘과 권력이 집중됐던 황우석 씨 측이 그 법을 앞세워 소송으로 맞대응했어도 MBC PD 수첩이 제대로 보도할 수 있었을까? 자신 있게 "그렇다"고 답하기 쉽지 않을 것이다. 허위조작정보 근절 소송이 남발되면 건전한 취재 활동이나 비판 보도가 위축될 가능성도 많다. 기자들은 열심히 취재하다보면 오보를 내는 경우도 있다. 가능하면 피해야 하지만, 어쩔 수 없이 오보를 내는 경우도 있다. 비판의 강도가 강할수록 오보 가능성도 더 커진다. 오보 때문에 소송이 벌어지게 되면 “보도 주체가 (오보로 판명될 것이) 잘못된 정보란 사실을 알았으냐, 몰랐느냐”가 핵심 쟁점이 될 것이다. 문제는 “허위정보란 사실을 몰랐다. 선의의 오보였다”는 점을 입증하는 게 말처럼 쉽지 않다는 점이다. 최근 들어 비판 언론을 접한 권력자들은 '오보'라는 중립적인 말 대신 '가짜뉴스'란 정파적 용어를 동원하는 사례가 부쩍 늘었다. 차분하게 대응하기 보다는 “의도를 가진 가짜뉴스”라고 매도함으로써 언론의 신뢰성을 무너뜨리기 위한 행보다. 그런만큼 '허위조작정보 근절법'은 비판 언론을 위협하거나 재갈을 물리는 도구로 악용될 가능성이 매우 커 보인다. 그렇게 되면 표현의 자유가 극도로 위축될 가능성도 배제할 수 없다. 언론이 그 동안 남발했던 “아님 말고” 식의 보도는 근절돼야 한다. 정파적, 혹은 경제적 이해 관계 때문에 특정 상대를 의도적으로 골탕 먹이려는 보도 역시 사라져야 한다. 김현 의원 말대로 '언론은 성역이 아니기' 때문이다. 하지만 징벌적 손해배상을 통해 언론에 재갈을 물리는 '허위조작정보 근절법'은 건전한 언론 활동마저 위협할 우려가 적지 않아 보인다. '고의로 허위정보를 유포하는 행위'만 가려내는 것이 생각보다는 쉽지 않기 때문이다. 특히 민주당은 막판에 '사실적시 명예훼손' 조항을 추가하면서 논란을 더 키웠다. '사실적시 명예훼손'은 형사소송법에서도 대표적인 독소 조항으로 꼽히고 있다. 이 조항은 언론의 권력 비리나 내부 고발 보도를 억누르는 데 악용될 가능성이 많다는 지적을 받고 있다. 이런 부작용의 싹을 잘라 버리기 위해선 형법 307조 1항(일반 사실적시 명예훼손) 개정 문제도 함께 고민해야 할 것 같다. 그래야만 부작용을 최소화할 수 있을 터이기 때문이다. ※ 덧글 세계 최고 야구 선수도 한 시즌 동안 10번 이상 실책을 한다. 특히 수비 범위가 넓은 선수들이 실책을 더 많이 하는 경우가 많다. 그냥 놔두면 안타가 될 타구를 따라가 잡으려다 놓치는 경우도 있기 때문이다. 그래서 감독들은 열심히 수비하다가 실책한 선수를 질책하지는 않는다. 언론들이 범하는 '선의의 오보'도 이와 비슷한 측면이 있다.

2025.12.24 15:35김익현 미디어연구소장

박정훈 의원, 가짜 AI광고 방지법 대표발의

국회 과학기술방송통신위원회 소속 박정훈 의원(국민의힘)이 최근 온라인상에서 급증하고 있는 AI 생성 가짜 광고 문제에 대응하기 위해 '가짜 AI광고 방지법'을 대표발의 했다고 28일 밝혔다. 최근 SNS와 유튜브를 중심으로 AI가 '의사'나 '약사'로 위장해, “이 약만 먹으면 10㎏이 빠진다”, “S대 출신 의사가 보장한다”는 식의 광고가 확산되고 있다. 영상은 마치 전문가의 건강 조언처럼 보이지만 실상은 존재하지도 않는 'AI 합성 의사'가 만든 가짜 콘텐츠로 소비자를 기만하여 피해자가 양산되고 있다. 사람의 얼굴과 목소리를 정교하게 모방한 '딥페이크 광고'는 단순한 해프닝이 아니라 AI 시대의 새로운 사회적 위험으로 부상하고 있다. 이러한 현상에 대해 방송통신심의위원회나 식품의약품안전처 등 관련 기관이 실질적인 대응을 하지 못하고 있다는 점이 문제로 꼽힌다. 박정훈 의원실이 AI 합성 광고 관련 심의 및 시정요구 현황을 요구하는 자료에 대해 방심위는 “관련법의 부재로, AI 합성 인물 광고 건에 대해서는 별도 통계 관리하고 있지 않다”고 답변해왔다. 이에 따라, 박 의원은 AI가 소비자를 속이는 허위 광고를 근절하기 위해 정보통신망법 개정안을 발의했다. 개정안은 ▲인공지능으로 생성된 실제와 구분하기 어려운 영상, 음향, 이미지 등을 활용한 광고의 경우, 반드시 'AI 생성물'임을 명확히 표시하도록 의무화했으며 ▲해당 표시를 훼손하거나 위조 변조하는 행위를 금지하고 ▲정보통신서비스 제공자(플랫폼 사업자)는 표시 의무를 위반한 광고가 게시될 경우 지체 없이 삭제할 책임을 지도록 했다. 박 의원은 “폭발적인 속도로 발전하는 AI 기술을 법제도가 따라가지 못하며 그로 인한 피해가 소비자에게 전가되고 있다”며 “국회 과학기술방송통신위원회 위원으로서 AI 기술 발전을 위해 물심양면 뒷받침하는 동시에 입법공백으로 인해 발생할 수 있는 부작용 또한 면밀히 살피도록 하겠다”고 말했다.

2025.10.28 12:47박수형 기자

AI로 만든 '가짜의사' 약 광고 선제 대응 필요해

인공지능(AI)로 만든 가짜 의료전문가를 활용한 건강기능식품이나 의약품 온라인 광고 근절을 위한 대책 마련이 요구된다. 21일 식품의약품안전처에 대한 국정감사에서 국민의힘 한지아 의원은 “유튜브와 인스타그램에서 AI를 활용한 가짜 의사‧약사 전문가들이 난무하고 있다”라며 “식약처는 이를 허위 과대광고로 분류해서 기존처럼 대응하고 있다”라고 우려했다. AI로 제작된 허위 과대광고의 경우, 별도 분류해 플랫폼 확산 현황부터 구매 소비자 분석 등도 필요하다는 지적이다. 한 의원은 “AI 생성 영상은 오늘 지워도 내일 또 만들어져 또 지워야 할 수 있어 속도전”이라며 “건강기능식품 관련 광고를 사전에 승인받도록 하는 제도도 고민해야 한다”라고 밝혔다. 이에 대해 오유경 식약처장은 “AI 전문가 영상이 소비자 오인 혼동을 유발할 우려가 높인다”라며 “지금까지 기존 법으로 진행을 해 왔지만 앞으로 좀 더 명확하게 이러한 부분에서 제도적 보완할 필요가 있다”라고 동의했다. 아울러 건기식에 대한 기사형 광고에 대해서도 “기사와 광고가 혼동되는 부분들은 문화체육관광부나 자율심의기구 등과 협의를 하겠다”라고 전했다.

2025.10.21 10:46김양균 기자

AI가 '가짜정보' 생성↔학습..."인터넷 파괴될 수도"

인공지능(AI) 기술이 빠르게 발전하면서 인터넷 콘텐츠의 '신뢰성'이 심각한 위기를 맞고 있다. 유튜브 교육 채널 '커지저트(Kurzgesagt)'는 최근 영상을 통해 “AI가 만들어내는 저품질 정보가 결국 인터넷의 신뢰 체계를 무너뜨릴 수 있다”고 경고했다. 이 영상은 게시된 지 약 이틀만에 600만 조회수를 넘어, IT 미디어인 기가진 등 외신을 통해서도 소개됐다. 인터넷의 절반은 '봇'… AI가 만든 콘텐츠 쏟아져 이 외신에 따르면 현재 전 세계 인터넷 트래픽의 절반가량은 인간이 아닌 '봇(bot)'이 만들어내는 것으로 알려졌다. 특히 최근에는 AI가 자동으로 생성한 글, 영상, 심지어 책까지 무분별하게 확산되며, 이른바 'AI 슬럽'(AI Slop, AI가 만든 저품질 콘텐츠) 현상이 심각한 문제로 떠오르고 있다. 이 같은 현상은 검색 엔진의 신뢰도에도 영향을 주고 있다. 대표적으로 구글의 'AI 요약'(AI Overview) 기능은 빠른 응답을 위해 경량화된 모델을 사용하는데, 이 때문에 사실과 다른 정보가 표시되는 사례가 잇따르고 있다. 실제로 자신의 이름을 검색했더니 “10년 전에 사망했다”는 잘못된 문장이 등장하거나, AI가 잘못된 정치 성향을 덧씌운 사례도 보고됐다. "AI가 만들어낸 80%는 맞지만, 나머지 20%는 근거조차 없다" 커지저트 제작진은 학술 콘텐츠를 만들 때 최소 2~3명의 검증 과정을 거쳐 전문가 피드백을 받는 등, 한 편당 100시간 이상을 사실 확인에 투자한다고 밝혔다. 제작팀은 정보 수집 과정에 AI를 도입해 실험을 진행했다. 그 결과, AI가 제공한 정보의 약 80%는 실제 출처가 존재하고 요약도 비교적 정확했지만, 나머지 20%는 출처조차 알 수 없는 허위 정보였다고 한다. 커지저트는 이 현상을 “AI가 우리를 만족시키기 위해 사실을 꾸며냈다”고 지적했다. 즉, AI가 '더 흥미롭게 보이도록' 일부 내용을 창작한 것이다. 문제는 이 '80%의 신뢰할 만한 정보'조차 완전히 안전하지 않다는 점이다. 커지저트 팀이 출처를 다시 추적한 결과, 일부 뉴스 사이트는 AI가 만든 근거 없는 정보를 실제 뉴스처럼 게시하고 있었고, 이후 다른 AI가 이를 학습해 '출처가 있는 정보'로 다시 내보내는 '허위 정보의 순환 구조'가 확인됐다. 실제로 올해 기준, 1천200개 이상의 뉴스·웹사이트가 AI가 만든 가짜 기사나 허위 스토리를 게시한 사실이 드러났다. 즉, AI가 만든 가짜 정보를 실제 언론사 기자가 받아쓰고, 그것을 다시 AI가 학습하는 악순환이 벌어지고 있는 셈이다. 커지저트는 영상 말미에서 “AI의 확산은 인터넷의 신뢰 체계를 되돌릴 수 없게 파괴할 위험을 내포하고 있다”고 경고했다. AI가 생산하는 정보의 양이 폭발적으로 늘어나면서, 진짜와 가짜를 구별하기 점점 어려워지는 상황이 펼쳐지고 있다는 지적이다.

2025.10.10 09:52백봉삼 기자

과방위 국감 핵심 쟁점은..."온라인 가짜뉴스·해킹·인재유출"

온라인 가짜뉴스 대응, SK텔레콤과 한국연구재단 해킹 사고, 인공지능(AI) 육성 자금, 과학기술 인재 유출이 올해 국회 과학기술정보방송통신위원회의 국정감사 핵심 이슈로 떠오를 전망이다. 12일 국회 입법조사처에 따르면 내용을 담은 국정감사 이슈 분석 보고서를 내놨다. 입법조사처는 과거와 달리 국감에서 꼭 다뤄야 할 이슈를 집중적으로 다루면서 과방위에서 중점적으로 다룰 논제로 이처럼 다섯 가지를 꼽았다. 먼저 온라인 가짜뉴스 대응에 대해 방송통신심의위원회의 심의 규정이 모호하고, 표현의 자유를 침해한다는 비판도 동시에 받고 있다고 주목했다. 방송통신위원회가 팩트체크 활성화 사업을 추진하고 있지만 지난 정부에서 원활하게 정책이 집행되지 않은 부분도 문제점으로 꼽혔다. 이에 따라 온라인 가짜뉴스에 대한 방통심의위의 시정 요구 기준과 글로벌 사업자에 대한 대응 방식, 방통위의 정책 집행에 대한 질의가 집중될 것으로 보인다. 사이버 침해사고에 대한 관심은 올해 국감에서 최고조에 달할 전망이다. 입법조사처는 과방위 이슈로 다섯 가지를 꼽으며 한국연구재단과 SK텔레콤의 해킹을 별개 이슈로 삼았다. 아울러 과방위 소관 기관 이외의 공공기관에 대한 해킹 의혹이 제기됐고, 최근 SK텔레콤에 이어 KT도 개인정보 유출 정황이 확인됐다. 실제 과방위는 국감 이전 정기국회 기간에 청문을 여는 방안까지 검토하고 있다. 연구재단의 경우 일반 사업자와 달리 느슨한 정보보호 관리체계에 질의가 집중될 전망이다. SK텔레콤과 KT의 침해사고에 대해서도 정부의 후속 조치를 두고 감사위원들의 질의가 예상된다. 새 정부가 집중하는 AI에 대한 분야도 국감에서 크게 다뤄질 것으로 보인다. 특히 입법조사처는 100조 국민성장펀드에서 차지하는 AI 육성 몫을 집중적으로 살폈다. 인수위원회 역할을 대신한 국정기획위원회의 논의 과정에서 국민성장펀드의 AI 투자가 축소 조정됐는데, 이재명 대통령의 공약이 바뀌었다는 것이다. 또한 별도의 AI 펀드 예산도 마련되는데 각종 투자금의 중복 문제를 살펴야 할 부분으로 봤다. 과학기술인재 유출 문제도 중요 사안으로 꼽혔다. 이는 이전 국감에서도 지적된 문제인데, 이같은 문제는 더욱 심각해지는 가운데 정부 대책이 크게 따라가지 못한다는 지적이 나오고 있다. 과기인재 유입, 유출에 대한 공식적인 통계가 여전히 마련되지 않은 점도 국감에서 다시 논의될 전망이다.

2025.09.12 13:49박수형 기자

AI로 만든 가짜 콘텐츠 범람...'브랜드 세이프티' 기술 주목

전세계가 생성형 AI 기반의 저품질 콘텐츠, 이른바 'AI 슬롭(AI Slop)' 확산이라는 새로운 위협에 직면해 있다. 식별이 어렵도록 정교하게 생성된 가짜 재난 영상, 정치인 딥페이크, 자극적으로 클릭을 유도하는 콘텐츠가 기승을 부리고 있다. 실제 한국은 국가별 '크리에이터 집중도'(인구 대비 크리에이터 비율)가 34%로 전세계 중 가장 높은 비중을 차지하는 브라질에 이어 2위 수준이다. 즉, 매우 활발한 콘텐츠 생산이 이뤄지고 있는 만큼 AI 슬롭에서 안전하다고만 낙관할 수 없다. AI 저작권 등에서 이슈가 됐던 지브리가 속한 일본의 경우도 예외는 아니다. 총무성 조사에 따르면 일본 광고주의 30.1%가 브랜드 세이프티 관련 피해를 경험했다고 밝혔다. 이런 상황 속에서 일본 총무성은 2025년 6월 '디지털 광고의 적절하고 효과적인 운용을 위한 광고주 대상 가이드라인'을 발표했다. 해당 가이드라인은 2026년 본격 시행을 앞두고 있으며 ▲브랜드 가치 훼손 ▲광고 사기(Ad fraud) ▲디지털 생태계 불건전화 등 핵심 문제를 지적한다. 가이드라인에 따르면 91.8%에 달하는 이용자가 가짜 정보에 노출된 광고는 부정적 인상을 받는다고 응답했다. 하지만 고도화된 영상 분석 기술 없이는 브랜드 세이프티 확보가 사실상 불가능하다는 것이 업계 시각이다. 현 시점 영상 콘텐츠는 전세계 브랜드와 크리에이터들이 집중하는 영역이다. 실제로 구글은 유튜브 20주년을 기념한 리포트에서 하루에 약 2천만 건의 영상이 업로드된다는 통계를 보고했다. 이에 글로벌 플랫폼들도 AI 슬롭 대응에 나섰다. 유튜브는 기능상 허점을 노린 반복 콘텐츠의 수익 창출을 제한하고, 메타는 저품질 콘텐츠 확산 방지를 위한 정책을 도입했다. 핀터레스트는 AI 생성 이미지에 대한 별도 표기 기능을 제공하며, 위키피디아는 AI 생성 콘텐츠에 대해 '신속 삭제' 정책을 도입했다. 플랫폼들이 자율 규제로 대응하는 가운데, 일본은 국가 차원의 접근을 택했다. 품질 관리에 엄격한 일본 특유의 풍조에 따라, 총무성은 시장의 변화에 부응하는 가이드라인을 제시했다. 이에 일본 내 광고회사들도 적극적인 대응을 취하는 모양새다. 현지 최대 규모의 광고사인 '덴츠'는 자사 광고 솔루션에 'Web/App Unsafe List' 블록리스트를 적용하며 위험 콘텐츠 차단을 강화하고 있다. '하쿠호도'는 일본디지털광고품질기구(JICDAQ) 인증 취득과 함께 광고 검증(ad verification) 도구의 활용 방안을 강조했다. 그러나 업계에서는 여전히 AI와 영상 이해에 기반한 콘텐츠 선별에 특화된 기술적 해법이 부재하다는 우려가 제기된다. 기존의 도메인 차단 방식은 텍스트나 이미지 기반 콘텐츠에는 어느 정도 효과를 발휘했지만, 용량과 길이, 변형 가능성이 높은 AI 영상 콘텐츠에는 사실상 무력하다는 지적이다. 실제로 광고주는 수만 개에서 수천만 개에 이르는 영상에 광고를 게재하면서도, 이들 각각의 맥락과 위험 요소를 확인할 수 있는 수단이 전무한 실정이다. 이런 구조적 문제를 해결하기 위한 기술적 접근이 업계 전반에서 논의되는 가운데, 트러스트 앤드 세이프티(Trust & Safety) 분야의 혁신이 주목받고 있다. 현재 T&S 시장을 선도하는 더블베리파이(DoubleVerify)와 IAS는 도메인 차단과 텍스트 기반 필터링으로 디지털 광고의 안전성을 크게 향상시켰다. 하지만 하루 2천만개씩 업로드되는 영상 콘텐츠 시대에는 새로운 접근이 필요하다는 목소리가 커지고 있다. 이런 인식은 T&S 분야의 대표 행사인 'TrustCon 2025'에서도 확인됐다. AI Slop 판별과 차단을 위한 기술적 해법이 시급하다는 공감대가 형성된 가운데, 영상 이해 AI 기술을 소개한 한국의 스타트업 '파일러(Pyler)'도 현장에서 큰 주목을 받았다. 파일러는 시각·음성·텍스트 데이터를 통합 분석해 영상의 맥락을 이해하는 기술을 소개했다. 영상을 학습한 AI가 시각·음성·텍스트를 통합 분석해 실시간으로 콘텐츠의 안전성을 판단해 광고주의 기준에 맞는 안전한 콘텐츠 환경을 운영하는 것이 특징이다. 삼성전자·현대자동차·LG 전자 등 25개 글로벌 기업이 기술을 도입했으며, 엔비디아 인셉션 프로그램을 통한 미공개 기술과 인프라 지원도 받고 있다. 기술 적용의 목소리가 커지는 가운데, 광고업계가 기존 인프라를 활용하면서도 새로운 영상 분석 기술을 어떻게 적용해나갈지가 전세계 Trust & Safety를 대응해나가는 관점에 시사점을 제시하게 될 전망이다. 업계 관계자는 "브랜드 세이프티 확보는 단순한 마케팅 전략이 아니라 기업의 신뢰와 지속 가능성을 좌우하는 핵심 요소"라면서 "특히 영상 콘텐츠가 주류가 되는 시대에 Trust & Safety 관점의 기술적 접근이 브랜드 가치 보호의 핵심 요소로 자리잡을 것으로 보인다"고 말했다.

2025.08.27 09:58백봉삼 기자

로봇이 아이 낳는다고?…'가짜 판명' 임신 로봇, 남은 문제는

지난 주 한 중국 과학자가 세계 최초로 첨단 인공 자궁 시스템을 갖춘 '대리 임신 휴머노이드 로봇'을 1만4천 달러(약 2천만원)에 내놓겠다는 소식에 전 세계가 떠들썩했다. 미국 팩트체크 매체 스노프스는 해당 소식이 가짜뉴스라고 보도했다. 화제의 주인공은 카이와 테크놀로지의 창업자 겸 싱가포르 난양이공대 박사로 알려진 장치펑이라는 인물이었다. 하지만 외신들이 난양이공대 측에 확인한 결과 해당 대학 졸업생 중 장치펑이란 이름을 가진 인물은 없는 것으로 나타났다. 인공자궁 시스템을 갖춘 로봇 역시 개발된 적이 없다고 이 매체는 전했다. 대학 측은 “확인 결과 우리 대학에서 그런 '임신 로봇' 연구가 수행된 적은 없다”고 밝혔다. 이 같은 사실이 알려진 직후 홍콩 현지 일부 매체들은 해당 기사를 삭제했고, 장치펑이라고 소개됐던 인물 사진도 여러 매체에서 삭제된 것으로 파악됐다. IT매체 기즈모도는 19일(현지시간) 임신 로봇이 나올 경우 생길 수 있는 문제를 분석한 기사를 게재했다. 가장 심각한 문제는 로봇 자궁이 제대로 작동하지 않을 경우 태아에게 쉽게 손상을 입히거나 사망에 이르게 할 수 있다는 점이다. 아기는 수경 재배가 아니며, 태반에서 나오는 복잡한 영양소와 여러 신호의 혼합물에 의존해 만들어 진다. 인공지능(AI) 태반이 태아의 성장 속도에 맞춰 섬세하게 모든 조건을 태아에게 제공할 가능성은 매우 희박하다. 위스콘신-매디슨 대학 산부인과 의사 푸시 안은 뉴스위크와의 인터뷰에서 "임신은 매우 복잡한 과정이며, 각 단계가 매우 섬세하고 중요하다"고 말했다. 또, "정신 건강 문제는 말할 것도 없고, 다양한 연령대에서 많은 건강 위험이 나타날 것"이라고 덧붙였다. 더 우려스러운 점은 이 신기술을 어떻게 시험할지, 또 해당 기술 발전에 대한 윤리적 검토가 전혀 되지 않았다는 점이다. 현재 인간 생식의 미래와 로봇이 배아나 유사한 방식으로 임신 활동에 관여하거나 이를 통해 출산된 아이와의 관계와 재산권, 상속권 등 각종 소유권에 어떤 영향을 미칠지에 대한 심각한 윤리적 논쟁이 있다. 장점은 없을까? 만약 해당 기술이 진짜이고 윤리적으로 검증될 경우 로봇 자궁은 불임 연구와 인간의 생식 지원에 새로운 지평을 열 수 있다. 아이를 가질 수 없는 사람들은 약 2천만원 정도 비용으로 미국에서 약 10만~20만 달러(약 1억3천~2억8천만원)에 달하는 대리모를 얻을 수 있게 된다. 또 미숙아로 태어난 아기에게 인공 자궁은 뇌 손상이나 폐손상 등 심각한 합병증을 예방하는 데 도움을 줄 수도 있다. 하지만, 로봇에서 인간 태아를 만드는 과정의 각 단계를 누가 소유할 것인지는 철저한 연구와 논의가 필요하며, 대부분 생명윤리 기준에 미치지 못할 가능성이 매우 높다고 기즈모도는 전했다. 또, 그 과정을 누가 감독하고 위반 사항이 있을 경우 규칙을 시행할 것인지는 또 다른 법적, 윤리적 쟁점이라고 덧붙였다. 비판론자들은 인공 자궁이 완전한 생물학적 권리나 도덕적 고려 없이 "인간과 유사한 개체"를 만들어낼 수 있다는 점을 지적하며, 임신 과정의 오용이나 비인간화 가능성을 우려하고 있다.

2025.08.20 13:48이정현 미디어연구소

바다·정주리 사과 '미라클 시드니' 파문…사기 광고 반복 왜

유튜브 채널 '사망여우'를 통해 드러난 '미라클 시드니' 주름크림의 허위 광고 논란이 연예인들의 줄줄이 사과와 백화점 입점 논란으로 번지며 큰 파장을 일으켰다. 제품을 홍보한 연예인들의 잇단 사과로 논란이 일단락 되는 모양새나, 핵심은 이번 사건이 단발성 해프닝이 아니라 유튜브·인스타그램 등 SNS를 이용해 반복되는 사기성 마케팅의 구조적 문제라는 게 전문가들의 지적이다. 호주산? 알고 보니 국내 제조…연예인·방송인까지 이용 미라클 시드니는 '호주산 주름크림'이라는 문구로 소비자 신뢰를 유도하고, 인기 프로그램 출연자와 유명 가수, 개그우먼 등을 모델로 내세웠다. 여성그룹 SES 출신 가수 바다는 “호주에서 봤다, 유명하다”는 멘트를 했고, 개그우먼 정주리도 해당 제품을 소개했다. 그러나 해당 발언은 외부 제작사가 제공한 대본에 따른 것이었고, 실제로 제품은 경기도 김포시의 국내 업체에서 제조된 것으로 드러났다. 나아가 제품 홍보 영상에는 '나는 솔로' 16기 출연자 옥순의 이름과 사진이 무단 사용됐고, 당사자는 법적 대응에 나섰다. 유명인의 신뢰와 이미지를 이용한 광고였지만, 당사자들은 “사전 검증 없이 대본대로 촬영했을 뿐”이라며 허위 의도는 없었다고 해명했다. 아울러 해당 제품은 신세계·롯데·갤러리아 등 국내 주요 백화점 11곳에 입점한 것처럼 홍보됐다. 사실 확인 결과 이는 정식 계약이 아닌 벤더사 유통을 통한 일부 판매였다. 논란이 확산되자 백화점들은 전량 판매 중단과 매장 철수 조치를 취했다. SNS·유튜브 통한 사기 광고, 왜 계속되나 이번 사태의 핵심은 미라클 시드니 논란이 단순한 일회성 해프닝이 아니라는 점이다. 사업자가 상호와 브랜드만 바꿔가며 신제품을 내놓고, 유명인·인플루언서를 앞세운 허위·과장 광고를 반복하는 사례가 끊이지 않는다. 광고 제작 과정에서 유명인의 발언이 대본으로 조작되고, 미라클 시드니 사례처럼 실제 제조지·성분과 무관한 '해외 명품 이미지'가 덧씌워지는 경우도 흔하다. 이런 방식은 적발되더라도 사업자나 대표가 실질적인 처벌을 받지 않거나, 법적 제재가 미약해 사실상 '벌어들이는 수익이 더 큰 구조'로 고착화된 상태다. 광고·소비자 보호 전문가들은 “현행 표시광고법·전자상거래법의 허위광고 규정만으로는 SNS 기반 신종 마케팅에 대응하기 어렵다”며 “플랫폼·광고주·출연자 모두에 대한 사전 검증 의무와 책임 범위를 강화해야 한다”고 강조했다. 나아가 플랫폼 사업자에 대해 허위 광고 콘텐츠 유통 차단 및 재발 방지 조치를 법적으로 의무화하고, 반복 위반 사업자에 대한 강력한 영업 제한이나 형사 처벌도 필요하다는 목소리가 나온다. 정부와 규제당국이 보다 촘촘한 검증 체계와 강력한 제재 방안을 마련하지 않는다면, 미라클 시드니는 이름만 바꾼 채 또다시 소비자들을 눈속임할 수 있다는 지적이다.

2025.08.10 09:35백봉삼 기자

"본사 나서라"...더본코리아 점주협의회, 유튜브 비방 대응 요구

더본코리아가 악성 유튜브 콘텐츠로 인한 가맹점 피해 대응을 위해 이달 중 '긴급 상생위원회'를 소집한다. 8일 회사에 따르면 빽다방·홍콩반점·새마을식당·한신포차·역전우동 점주협의회는 지난 7일 더본코리아에 일부 유튜버와 관련 상생위 개최를 요청했다. 해당 협의회는 최근 '백종원 시리즈'로 불리는 유튜브 콘텐츠가 확인되지 않은 비방성 주장과 자극적인 제목을 반복하고 있다며 본사 대응을 요구했다. 요청서에는 영상 내용에 기반한 허위 댓글과 유언비어가 무분별하게 퍼지고 있으며, 일부 영상 제목에는 '굿바이 백종원'과 같은 표현이 포함돼 명백한 표적 방송으로 판단된다는 내용이 담겼다. 협의회는 영상 내용이 가맹점 매출에 실질적인 악영향을 끼치고 있다고 주장하며, 이재명 정부가 유튜브를 통해 퍼지는 가짜뉴스의 제재 필요성을 언급한 점도 함께 들었다. 더본코리아는 지금까지 유튜브 콘텐츠에 별도 대응을 하지 않아 왔으나, 이번에는 점주 측 요청을 받은 만큼, 철저하고 강력한 대응 조치를 검토하겠다는 입장이다. 회사 관계자는 “근거 없는 허위사실을 반복 유포하는 특정 유튜버로 인해 점주들이 피해를 호소하고 있다”며 “더 이상의 확산을 막기 위한 조치를 마련 중”이라고 설명했다.

2025.08.08 09:54류승현 기자

석유관리원, 주요 관광지 및 지역축제 안전 주유환경 조성에 나서

한국석유관리원(이사장 최춘식) 강원본부는 본격적인 휴가철과 지역축제 시즌을 맞아 강원도 내 주요 축제 현장과 관광지 인근 주유소(충전소)를 대상으로 석유제품 품질·유통질서 합동점검에 나섰다고 24일 밝혔다. 이번 점검은 7월부터 평창·강릉·속초 등 강원도 내 대표 지역축제와 관광지 중심으로 진행되며, 한국석유관리원 강원본부와 강원특별자치도 및 18개 시·군 지자체가 공동으로 참여한다. 특히 관광객 유입이 많은 시기를 활용해 소비자 피해방지 및 안전관리에 총력을 기울일 예정이다. 주요 점검 내용은 ▲휘발유·경유 등 석유제품의 품질적합 여부(폭우로 인한 탱크오염검사 포함) ▲석유제품 정량판매 여부(주유기 조작 여부 등) ▲가짜석유 등 불법 석유제품 유통 여부 ▲유통질서 위반 여부 등이다. 소비자 피해 확산 방지를 위해 품질적합 여부를 당일에 확인 할 수 있는 '패스트트랙'을 운영할 예정이다. 김기호 한국석유관리원 강원본부장은 “여름철 강원도를 찾는 관광객이 안심하고 주유할 수 있도록 품질과 유통 관리를 철저히 하겠다”며 “앞으로도 지자체 등과 협력을 강화해 지역축제와 관광이 활성화되는 시기에 소비자 보호와 공공안전 확보에 기여하겠다”고 밝혔다. 한편, 석유관리원은 모든 국민이 안심하고 석유제품을 이용할 수 있도록 석유제품 신고센터인 오일콜센터를 통해 품질·유통질서 위반 관련 신고를 상시 접수하고 있다.

2025.07.24 10:51주문정 기자

"딥페이크·가짜뉴스 한 번에 잡는다"…한컴위드, 통합 탐지 시스템 개발 착수

한컴위드가 사이버 범죄 예방을 위해 딥페이크·딥보이스·가짜뉴스 통합 탐지 시스템 개발에 나선다. 한컴위드는 숭실대를 주관기관으로 연세대·성균관대와 함께 경찰청의 '허위조작 콘텐츠 진위 판별 시스템 개발' 프로젝트에 국내 연구기관으로 참여하게 됐다고 5일 밝혔다. 이번 사업은 2027년까지 앞으로 3년간 허위조작 콘텐츠 탐지를 위한 데이터세트 구축 및 통합 탐지 시스템을 개발하는 것이 주요 골자다. 해당 시스템은 허위 정보를 식별해 사이버 범죄를 예방하고 사회적 혼란을 줄이는 것을 목표로 한다. 초기 단계인 올해는 탐지를 위한 데이터세트 구축과 탐지 모델의 고도화에 집중하며 내년부터는 머신러닝 기반 자동화 관리 시스템(MLOps)을 적용한 통합 탐지 시스템의 성능 향상과 실증 테스트를 본격적으로 추진할 예정이다. 핵심 기술 연구는 숭실대를 중심으로 성균관대, 연세대, 독일 부퍼탈대, 한컴위드가 함께 수행한다. 숭실대는 딥페이크 음성 탐지 모델을, 성균관대는 딥페이크 영상 및 가짜뉴스 탐지 모델을, 연세대는 표준화된 데이터세트 구축을 각각 담당한다. 부퍼탈대는 다국어 데이터세트 수집과 글로벌 협력 연구를 맡으며 한컴위드는 다양한 탐지 기술을 통합한 ML옵스 기반 시스템의 개발과 실증을 진행한다. 통합 탐지 시스템은 딥페이크 범죄 수사, 비대면 인증 및 심사 과정에서의 진위 판별, 가짜뉴스 유통 추적 등 다양한 분야에 적용될 수 있다. 이를 통해 국가 및 공공기관은 물론 민간 산업 전반의 허위조작 콘텐츠 대응 역량을 강화한다는 목표다. 특히 이번 프로젝트는 경찰청이 주관한 최초의 국제 공동연구 사례로, 독일 기관과 공동으로 연구·개발한다. 딥페이크 탐지 시스템은 언어 차이나 인종의 외형 특성에 따라 성능이 크게 달라질 수 있어 단일 국가나 특정 기관의 탐지 기술만으로는 한계가 있다. 따라서 신뢰할 수 있는 탐지 시스템을 구축하려면 다각도의 협력과 기술 공유가 필수적이다. 송상엽 한컴위드 대표는 "AI 기술 발전으로 딥페이크 및 딥보이스 기반의 사이버 범죄가 급증하고 있다"며 "각 기관의 전문성을 바탕으로 고객 요구에 최적화된 맞춤형 솔루션을 개발하고 상용화에 성공하겠다"고 밝혔다.

2025.06.05 10:52한정호 기자

  Prev 1 2 Next  

지금 뜨는 기사

이시각 헤드라인

[ZD브리핑] 삼성전자 잠정실적 발표...기아 CEO 인베스터 데이 개최

7년전 개발된 '완벽진공' 시스템…"외산장악 반도체 공정 효자될까"

넥슨 '바람의나라', 30년 장기 흥행 비결은?

쇠고기 넘어 GPU·클라우드까지…美, 韓 첨단 디지털 산업 '통상 전선' 확대

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.