• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
반도체
AI의 눈
디지털트러스트
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'가짜'통합검색 결과 입니다. (30건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

AI가 '가짜정보' 생성↔학습..."인터넷 파괴될 수도"

인공지능(AI) 기술이 빠르게 발전하면서 인터넷 콘텐츠의 '신뢰성'이 심각한 위기를 맞고 있다. 유튜브 교육 채널 '커지저트(Kurzgesagt)'는 최근 영상을 통해 “AI가 만들어내는 저품질 정보가 결국 인터넷의 신뢰 체계를 무너뜨릴 수 있다”고 경고했다. 이 영상은 게시된 지 약 이틀만에 600만 조회수를 넘어, IT 미디어인 기가진 등 외신을 통해서도 소개됐다. 인터넷의 절반은 '봇'… AI가 만든 콘텐츠 쏟아져 이 외신에 따르면 현재 전 세계 인터넷 트래픽의 절반가량은 인간이 아닌 '봇(bot)'이 만들어내는 것으로 알려졌다. 특히 최근에는 AI가 자동으로 생성한 글, 영상, 심지어 책까지 무분별하게 확산되며, 이른바 'AI 슬럽'(AI Slop, AI가 만든 저품질 콘텐츠) 현상이 심각한 문제로 떠오르고 있다. 이 같은 현상은 검색 엔진의 신뢰도에도 영향을 주고 있다. 대표적으로 구글의 'AI 요약'(AI Overview) 기능은 빠른 응답을 위해 경량화된 모델을 사용하는데, 이 때문에 사실과 다른 정보가 표시되는 사례가 잇따르고 있다. 실제로 자신의 이름을 검색했더니 “10년 전에 사망했다”는 잘못된 문장이 등장하거나, AI가 잘못된 정치 성향을 덧씌운 사례도 보고됐다. "AI가 만들어낸 80%는 맞지만, 나머지 20%는 근거조차 없다" 커지저트 제작진은 학술 콘텐츠를 만들 때 최소 2~3명의 검증 과정을 거쳐 전문가 피드백을 받는 등, 한 편당 100시간 이상을 사실 확인에 투자한다고 밝혔다. 제작팀은 정보 수집 과정에 AI를 도입해 실험을 진행했다. 그 결과, AI가 제공한 정보의 약 80%는 실제 출처가 존재하고 요약도 비교적 정확했지만, 나머지 20%는 출처조차 알 수 없는 허위 정보였다고 한다. 커지저트는 이 현상을 “AI가 우리를 만족시키기 위해 사실을 꾸며냈다”고 지적했다. 즉, AI가 '더 흥미롭게 보이도록' 일부 내용을 창작한 것이다. 문제는 이 '80%의 신뢰할 만한 정보'조차 완전히 안전하지 않다는 점이다. 커지저트 팀이 출처를 다시 추적한 결과, 일부 뉴스 사이트는 AI가 만든 근거 없는 정보를 실제 뉴스처럼 게시하고 있었고, 이후 다른 AI가 이를 학습해 '출처가 있는 정보'로 다시 내보내는 '허위 정보의 순환 구조'가 확인됐다. 실제로 올해 기준, 1천200개 이상의 뉴스·웹사이트가 AI가 만든 가짜 기사나 허위 스토리를 게시한 사실이 드러났다. 즉, AI가 만든 가짜 정보를 실제 언론사 기자가 받아쓰고, 그것을 다시 AI가 학습하는 악순환이 벌어지고 있는 셈이다. 커지저트는 영상 말미에서 “AI의 확산은 인터넷의 신뢰 체계를 되돌릴 수 없게 파괴할 위험을 내포하고 있다”고 경고했다. AI가 생산하는 정보의 양이 폭발적으로 늘어나면서, 진짜와 가짜를 구별하기 점점 어려워지는 상황이 펼쳐지고 있다는 지적이다.

2025.10.10 09:52백봉삼 기자

과방위 국감 핵심 쟁점은..."온라인 가짜뉴스·해킹·인재유출"

온라인 가짜뉴스 대응, SK텔레콤과 한국연구재단 해킹 사고, 인공지능(AI) 육성 자금, 과학기술 인재 유출이 올해 국회 과학기술정보방송통신위원회의 국정감사 핵심 이슈로 떠오를 전망이다. 12일 국회 입법조사처에 따르면 내용을 담은 국정감사 이슈 분석 보고서를 내놨다. 입법조사처는 과거와 달리 국감에서 꼭 다뤄야 할 이슈를 집중적으로 다루면서 과방위에서 중점적으로 다룰 논제로 이처럼 다섯 가지를 꼽았다. 먼저 온라인 가짜뉴스 대응에 대해 방송통신심의위원회의 심의 규정이 모호하고, 표현의 자유를 침해한다는 비판도 동시에 받고 있다고 주목했다. 방송통신위원회가 팩트체크 활성화 사업을 추진하고 있지만 지난 정부에서 원활하게 정책이 집행되지 않은 부분도 문제점으로 꼽혔다. 이에 따라 온라인 가짜뉴스에 대한 방통심의위의 시정 요구 기준과 글로벌 사업자에 대한 대응 방식, 방통위의 정책 집행에 대한 질의가 집중될 것으로 보인다. 사이버 침해사고에 대한 관심은 올해 국감에서 최고조에 달할 전망이다. 입법조사처는 과방위 이슈로 다섯 가지를 꼽으며 한국연구재단과 SK텔레콤의 해킹을 별개 이슈로 삼았다. 아울러 과방위 소관 기관 이외의 공공기관에 대한 해킹 의혹이 제기됐고, 최근 SK텔레콤에 이어 KT도 개인정보 유출 정황이 확인됐다. 실제 과방위는 국감 이전 정기국회 기간에 청문을 여는 방안까지 검토하고 있다. 연구재단의 경우 일반 사업자와 달리 느슨한 정보보호 관리체계에 질의가 집중될 전망이다. SK텔레콤과 KT의 침해사고에 대해서도 정부의 후속 조치를 두고 감사위원들의 질의가 예상된다. 새 정부가 집중하는 AI에 대한 분야도 국감에서 크게 다뤄질 것으로 보인다. 특히 입법조사처는 100조 국민성장펀드에서 차지하는 AI 육성 몫을 집중적으로 살폈다. 인수위원회 역할을 대신한 국정기획위원회의 논의 과정에서 국민성장펀드의 AI 투자가 축소 조정됐는데, 이재명 대통령의 공약이 바뀌었다는 것이다. 또한 별도의 AI 펀드 예산도 마련되는데 각종 투자금의 중복 문제를 살펴야 할 부분으로 봤다. 과학기술인재 유출 문제도 중요 사안으로 꼽혔다. 이는 이전 국감에서도 지적된 문제인데, 이같은 문제는 더욱 심각해지는 가운데 정부 대책이 크게 따라가지 못한다는 지적이 나오고 있다. 과기인재 유입, 유출에 대한 공식적인 통계가 여전히 마련되지 않은 점도 국감에서 다시 논의될 전망이다.

2025.09.12 13:49박수형 기자

AI로 만든 가짜 콘텐츠 범람...'브랜드 세이프티' 기술 주목

전세계가 생성형 AI 기반의 저품질 콘텐츠, 이른바 'AI 슬롭(AI Slop)' 확산이라는 새로운 위협에 직면해 있다. 식별이 어렵도록 정교하게 생성된 가짜 재난 영상, 정치인 딥페이크, 자극적으로 클릭을 유도하는 콘텐츠가 기승을 부리고 있다. 실제 한국은 국가별 '크리에이터 집중도'(인구 대비 크리에이터 비율)가 34%로 전세계 중 가장 높은 비중을 차지하는 브라질에 이어 2위 수준이다. 즉, 매우 활발한 콘텐츠 생산이 이뤄지고 있는 만큼 AI 슬롭에서 안전하다고만 낙관할 수 없다. AI 저작권 등에서 이슈가 됐던 지브리가 속한 일본의 경우도 예외는 아니다. 총무성 조사에 따르면 일본 광고주의 30.1%가 브랜드 세이프티 관련 피해를 경험했다고 밝혔다. 이런 상황 속에서 일본 총무성은 2025년 6월 '디지털 광고의 적절하고 효과적인 운용을 위한 광고주 대상 가이드라인'을 발표했다. 해당 가이드라인은 2026년 본격 시행을 앞두고 있으며 ▲브랜드 가치 훼손 ▲광고 사기(Ad fraud) ▲디지털 생태계 불건전화 등 핵심 문제를 지적한다. 가이드라인에 따르면 91.8%에 달하는 이용자가 가짜 정보에 노출된 광고는 부정적 인상을 받는다고 응답했다. 하지만 고도화된 영상 분석 기술 없이는 브랜드 세이프티 확보가 사실상 불가능하다는 것이 업계 시각이다. 현 시점 영상 콘텐츠는 전세계 브랜드와 크리에이터들이 집중하는 영역이다. 실제로 구글은 유튜브 20주년을 기념한 리포트에서 하루에 약 2천만 건의 영상이 업로드된다는 통계를 보고했다. 이에 글로벌 플랫폼들도 AI 슬롭 대응에 나섰다. 유튜브는 기능상 허점을 노린 반복 콘텐츠의 수익 창출을 제한하고, 메타는 저품질 콘텐츠 확산 방지를 위한 정책을 도입했다. 핀터레스트는 AI 생성 이미지에 대한 별도 표기 기능을 제공하며, 위키피디아는 AI 생성 콘텐츠에 대해 '신속 삭제' 정책을 도입했다. 플랫폼들이 자율 규제로 대응하는 가운데, 일본은 국가 차원의 접근을 택했다. 품질 관리에 엄격한 일본 특유의 풍조에 따라, 총무성은 시장의 변화에 부응하는 가이드라인을 제시했다. 이에 일본 내 광고회사들도 적극적인 대응을 취하는 모양새다. 현지 최대 규모의 광고사인 '덴츠'는 자사 광고 솔루션에 'Web/App Unsafe List' 블록리스트를 적용하며 위험 콘텐츠 차단을 강화하고 있다. '하쿠호도'는 일본디지털광고품질기구(JICDAQ) 인증 취득과 함께 광고 검증(ad verification) 도구의 활용 방안을 강조했다. 그러나 업계에서는 여전히 AI와 영상 이해에 기반한 콘텐츠 선별에 특화된 기술적 해법이 부재하다는 우려가 제기된다. 기존의 도메인 차단 방식은 텍스트나 이미지 기반 콘텐츠에는 어느 정도 효과를 발휘했지만, 용량과 길이, 변형 가능성이 높은 AI 영상 콘텐츠에는 사실상 무력하다는 지적이다. 실제로 광고주는 수만 개에서 수천만 개에 이르는 영상에 광고를 게재하면서도, 이들 각각의 맥락과 위험 요소를 확인할 수 있는 수단이 전무한 실정이다. 이런 구조적 문제를 해결하기 위한 기술적 접근이 업계 전반에서 논의되는 가운데, 트러스트 앤드 세이프티(Trust & Safety) 분야의 혁신이 주목받고 있다. 현재 T&S 시장을 선도하는 더블베리파이(DoubleVerify)와 IAS는 도메인 차단과 텍스트 기반 필터링으로 디지털 광고의 안전성을 크게 향상시켰다. 하지만 하루 2천만개씩 업로드되는 영상 콘텐츠 시대에는 새로운 접근이 필요하다는 목소리가 커지고 있다. 이런 인식은 T&S 분야의 대표 행사인 'TrustCon 2025'에서도 확인됐다. AI Slop 판별과 차단을 위한 기술적 해법이 시급하다는 공감대가 형성된 가운데, 영상 이해 AI 기술을 소개한 한국의 스타트업 '파일러(Pyler)'도 현장에서 큰 주목을 받았다. 파일러는 시각·음성·텍스트 데이터를 통합 분석해 영상의 맥락을 이해하는 기술을 소개했다. 영상을 학습한 AI가 시각·음성·텍스트를 통합 분석해 실시간으로 콘텐츠의 안전성을 판단해 광고주의 기준에 맞는 안전한 콘텐츠 환경을 운영하는 것이 특징이다. 삼성전자·현대자동차·LG 전자 등 25개 글로벌 기업이 기술을 도입했으며, 엔비디아 인셉션 프로그램을 통한 미공개 기술과 인프라 지원도 받고 있다. 기술 적용의 목소리가 커지는 가운데, 광고업계가 기존 인프라를 활용하면서도 새로운 영상 분석 기술을 어떻게 적용해나갈지가 전세계 Trust & Safety를 대응해나가는 관점에 시사점을 제시하게 될 전망이다. 업계 관계자는 "브랜드 세이프티 확보는 단순한 마케팅 전략이 아니라 기업의 신뢰와 지속 가능성을 좌우하는 핵심 요소"라면서 "특히 영상 콘텐츠가 주류가 되는 시대에 Trust & Safety 관점의 기술적 접근이 브랜드 가치 보호의 핵심 요소로 자리잡을 것으로 보인다"고 말했다.

2025.08.27 09:58백봉삼 기자

로봇이 아이 낳는다고?…'가짜 판명' 임신 로봇, 남은 문제는

지난 주 한 중국 과학자가 세계 최초로 첨단 인공 자궁 시스템을 갖춘 '대리 임신 휴머노이드 로봇'을 1만4천 달러(약 2천만원)에 내놓겠다는 소식에 전 세계가 떠들썩했다. 미국 팩트체크 매체 스노프스는 해당 소식이 가짜뉴스라고 보도했다. 화제의 주인공은 카이와 테크놀로지의 창업자 겸 싱가포르 난양이공대 박사로 알려진 장치펑이라는 인물이었다. 하지만 외신들이 난양이공대 측에 확인한 결과 해당 대학 졸업생 중 장치펑이란 이름을 가진 인물은 없는 것으로 나타났다. 인공자궁 시스템을 갖춘 로봇 역시 개발된 적이 없다고 이 매체는 전했다. 대학 측은 “확인 결과 우리 대학에서 그런 '임신 로봇' 연구가 수행된 적은 없다”고 밝혔다. 이 같은 사실이 알려진 직후 홍콩 현지 일부 매체들은 해당 기사를 삭제했고, 장치펑이라고 소개됐던 인물 사진도 여러 매체에서 삭제된 것으로 파악됐다. IT매체 기즈모도는 19일(현지시간) 임신 로봇이 나올 경우 생길 수 있는 문제를 분석한 기사를 게재했다. 가장 심각한 문제는 로봇 자궁이 제대로 작동하지 않을 경우 태아에게 쉽게 손상을 입히거나 사망에 이르게 할 수 있다는 점이다. 아기는 수경 재배가 아니며, 태반에서 나오는 복잡한 영양소와 여러 신호의 혼합물에 의존해 만들어 진다. 인공지능(AI) 태반이 태아의 성장 속도에 맞춰 섬세하게 모든 조건을 태아에게 제공할 가능성은 매우 희박하다. 위스콘신-매디슨 대학 산부인과 의사 푸시 안은 뉴스위크와의 인터뷰에서 "임신은 매우 복잡한 과정이며, 각 단계가 매우 섬세하고 중요하다"고 말했다. 또, "정신 건강 문제는 말할 것도 없고, 다양한 연령대에서 많은 건강 위험이 나타날 것"이라고 덧붙였다. 더 우려스러운 점은 이 신기술을 어떻게 시험할지, 또 해당 기술 발전에 대한 윤리적 검토가 전혀 되지 않았다는 점이다. 현재 인간 생식의 미래와 로봇이 배아나 유사한 방식으로 임신 활동에 관여하거나 이를 통해 출산된 아이와의 관계와 재산권, 상속권 등 각종 소유권에 어떤 영향을 미칠지에 대한 심각한 윤리적 논쟁이 있다. 장점은 없을까? 만약 해당 기술이 진짜이고 윤리적으로 검증될 경우 로봇 자궁은 불임 연구와 인간의 생식 지원에 새로운 지평을 열 수 있다. 아이를 가질 수 없는 사람들은 약 2천만원 정도 비용으로 미국에서 약 10만~20만 달러(약 1억3천~2억8천만원)에 달하는 대리모를 얻을 수 있게 된다. 또 미숙아로 태어난 아기에게 인공 자궁은 뇌 손상이나 폐손상 등 심각한 합병증을 예방하는 데 도움을 줄 수도 있다. 하지만, 로봇에서 인간 태아를 만드는 과정의 각 단계를 누가 소유할 것인지는 철저한 연구와 논의가 필요하며, 대부분 생명윤리 기준에 미치지 못할 가능성이 매우 높다고 기즈모도는 전했다. 또, 그 과정을 누가 감독하고 위반 사항이 있을 경우 규칙을 시행할 것인지는 또 다른 법적, 윤리적 쟁점이라고 덧붙였다. 비판론자들은 인공 자궁이 완전한 생물학적 권리나 도덕적 고려 없이 "인간과 유사한 개체"를 만들어낼 수 있다는 점을 지적하며, 임신 과정의 오용이나 비인간화 가능성을 우려하고 있다.

2025.08.20 13:48이정현 미디어연구소

바다·정주리 사과 '미라클 시드니' 파문…사기 광고 반복 왜

유튜브 채널 '사망여우'를 통해 드러난 '미라클 시드니' 주름크림의 허위 광고 논란이 연예인들의 줄줄이 사과와 백화점 입점 논란으로 번지며 큰 파장을 일으켰다. 제품을 홍보한 연예인들의 잇단 사과로 논란이 일단락 되는 모양새나, 핵심은 이번 사건이 단발성 해프닝이 아니라 유튜브·인스타그램 등 SNS를 이용해 반복되는 사기성 마케팅의 구조적 문제라는 게 전문가들의 지적이다. 호주산? 알고 보니 국내 제조…연예인·방송인까지 이용 미라클 시드니는 '호주산 주름크림'이라는 문구로 소비자 신뢰를 유도하고, 인기 프로그램 출연자와 유명 가수, 개그우먼 등을 모델로 내세웠다. 여성그룹 SES 출신 가수 바다는 “호주에서 봤다, 유명하다”는 멘트를 했고, 개그우먼 정주리도 해당 제품을 소개했다. 그러나 해당 발언은 외부 제작사가 제공한 대본에 따른 것이었고, 실제로 제품은 경기도 김포시의 국내 업체에서 제조된 것으로 드러났다. 나아가 제품 홍보 영상에는 '나는 솔로' 16기 출연자 옥순의 이름과 사진이 무단 사용됐고, 당사자는 법적 대응에 나섰다. 유명인의 신뢰와 이미지를 이용한 광고였지만, 당사자들은 “사전 검증 없이 대본대로 촬영했을 뿐”이라며 허위 의도는 없었다고 해명했다. 아울러 해당 제품은 신세계·롯데·갤러리아 등 국내 주요 백화점 11곳에 입점한 것처럼 홍보됐다. 사실 확인 결과 이는 정식 계약이 아닌 벤더사 유통을 통한 일부 판매였다. 논란이 확산되자 백화점들은 전량 판매 중단과 매장 철수 조치를 취했다. SNS·유튜브 통한 사기 광고, 왜 계속되나 이번 사태의 핵심은 미라클 시드니 논란이 단순한 일회성 해프닝이 아니라는 점이다. 사업자가 상호와 브랜드만 바꿔가며 신제품을 내놓고, 유명인·인플루언서를 앞세운 허위·과장 광고를 반복하는 사례가 끊이지 않는다. 광고 제작 과정에서 유명인의 발언이 대본으로 조작되고, 미라클 시드니 사례처럼 실제 제조지·성분과 무관한 '해외 명품 이미지'가 덧씌워지는 경우도 흔하다. 이런 방식은 적발되더라도 사업자나 대표가 실질적인 처벌을 받지 않거나, 법적 제재가 미약해 사실상 '벌어들이는 수익이 더 큰 구조'로 고착화된 상태다. 광고·소비자 보호 전문가들은 “현행 표시광고법·전자상거래법의 허위광고 규정만으로는 SNS 기반 신종 마케팅에 대응하기 어렵다”며 “플랫폼·광고주·출연자 모두에 대한 사전 검증 의무와 책임 범위를 강화해야 한다”고 강조했다. 나아가 플랫폼 사업자에 대해 허위 광고 콘텐츠 유통 차단 및 재발 방지 조치를 법적으로 의무화하고, 반복 위반 사업자에 대한 강력한 영업 제한이나 형사 처벌도 필요하다는 목소리가 나온다. 정부와 규제당국이 보다 촘촘한 검증 체계와 강력한 제재 방안을 마련하지 않는다면, 미라클 시드니는 이름만 바꾼 채 또다시 소비자들을 눈속임할 수 있다는 지적이다.

2025.08.10 09:35백봉삼 기자

"본사 나서라"...더본코리아 점주협의회, 유튜브 비방 대응 요구

더본코리아가 악성 유튜브 콘텐츠로 인한 가맹점 피해 대응을 위해 이달 중 '긴급 상생위원회'를 소집한다. 8일 회사에 따르면 빽다방·홍콩반점·새마을식당·한신포차·역전우동 점주협의회는 지난 7일 더본코리아에 일부 유튜버와 관련 상생위 개최를 요청했다. 해당 협의회는 최근 '백종원 시리즈'로 불리는 유튜브 콘텐츠가 확인되지 않은 비방성 주장과 자극적인 제목을 반복하고 있다며 본사 대응을 요구했다. 요청서에는 영상 내용에 기반한 허위 댓글과 유언비어가 무분별하게 퍼지고 있으며, 일부 영상 제목에는 '굿바이 백종원'과 같은 표현이 포함돼 명백한 표적 방송으로 판단된다는 내용이 담겼다. 협의회는 영상 내용이 가맹점 매출에 실질적인 악영향을 끼치고 있다고 주장하며, 이재명 정부가 유튜브를 통해 퍼지는 가짜뉴스의 제재 필요성을 언급한 점도 함께 들었다. 더본코리아는 지금까지 유튜브 콘텐츠에 별도 대응을 하지 않아 왔으나, 이번에는 점주 측 요청을 받은 만큼, 철저하고 강력한 대응 조치를 검토하겠다는 입장이다. 회사 관계자는 “근거 없는 허위사실을 반복 유포하는 특정 유튜버로 인해 점주들이 피해를 호소하고 있다”며 “더 이상의 확산을 막기 위한 조치를 마련 중”이라고 설명했다.

2025.08.08 09:54류승현 기자

석유관리원, 주요 관광지 및 지역축제 안전 주유환경 조성에 나서

한국석유관리원(이사장 최춘식) 강원본부는 본격적인 휴가철과 지역축제 시즌을 맞아 강원도 내 주요 축제 현장과 관광지 인근 주유소(충전소)를 대상으로 석유제품 품질·유통질서 합동점검에 나섰다고 24일 밝혔다. 이번 점검은 7월부터 평창·강릉·속초 등 강원도 내 대표 지역축제와 관광지 중심으로 진행되며, 한국석유관리원 강원본부와 강원특별자치도 및 18개 시·군 지자체가 공동으로 참여한다. 특히 관광객 유입이 많은 시기를 활용해 소비자 피해방지 및 안전관리에 총력을 기울일 예정이다. 주요 점검 내용은 ▲휘발유·경유 등 석유제품의 품질적합 여부(폭우로 인한 탱크오염검사 포함) ▲석유제품 정량판매 여부(주유기 조작 여부 등) ▲가짜석유 등 불법 석유제품 유통 여부 ▲유통질서 위반 여부 등이다. 소비자 피해 확산 방지를 위해 품질적합 여부를 당일에 확인 할 수 있는 '패스트트랙'을 운영할 예정이다. 김기호 한국석유관리원 강원본부장은 “여름철 강원도를 찾는 관광객이 안심하고 주유할 수 있도록 품질과 유통 관리를 철저히 하겠다”며 “앞으로도 지자체 등과 협력을 강화해 지역축제와 관광이 활성화되는 시기에 소비자 보호와 공공안전 확보에 기여하겠다”고 밝혔다. 한편, 석유관리원은 모든 국민이 안심하고 석유제품을 이용할 수 있도록 석유제품 신고센터인 오일콜센터를 통해 품질·유통질서 위반 관련 신고를 상시 접수하고 있다.

2025.07.24 10:51주문정 기자

"딥페이크·가짜뉴스 한 번에 잡는다"…한컴위드, 통합 탐지 시스템 개발 착수

한컴위드가 사이버 범죄 예방을 위해 딥페이크·딥보이스·가짜뉴스 통합 탐지 시스템 개발에 나선다. 한컴위드는 숭실대를 주관기관으로 연세대·성균관대와 함께 경찰청의 '허위조작 콘텐츠 진위 판별 시스템 개발' 프로젝트에 국내 연구기관으로 참여하게 됐다고 5일 밝혔다. 이번 사업은 2027년까지 앞으로 3년간 허위조작 콘텐츠 탐지를 위한 데이터세트 구축 및 통합 탐지 시스템을 개발하는 것이 주요 골자다. 해당 시스템은 허위 정보를 식별해 사이버 범죄를 예방하고 사회적 혼란을 줄이는 것을 목표로 한다. 초기 단계인 올해는 탐지를 위한 데이터세트 구축과 탐지 모델의 고도화에 집중하며 내년부터는 머신러닝 기반 자동화 관리 시스템(MLOps)을 적용한 통합 탐지 시스템의 성능 향상과 실증 테스트를 본격적으로 추진할 예정이다. 핵심 기술 연구는 숭실대를 중심으로 성균관대, 연세대, 독일 부퍼탈대, 한컴위드가 함께 수행한다. 숭실대는 딥페이크 음성 탐지 모델을, 성균관대는 딥페이크 영상 및 가짜뉴스 탐지 모델을, 연세대는 표준화된 데이터세트 구축을 각각 담당한다. 부퍼탈대는 다국어 데이터세트 수집과 글로벌 협력 연구를 맡으며 한컴위드는 다양한 탐지 기술을 통합한 ML옵스 기반 시스템의 개발과 실증을 진행한다. 통합 탐지 시스템은 딥페이크 범죄 수사, 비대면 인증 및 심사 과정에서의 진위 판별, 가짜뉴스 유통 추적 등 다양한 분야에 적용될 수 있다. 이를 통해 국가 및 공공기관은 물론 민간 산업 전반의 허위조작 콘텐츠 대응 역량을 강화한다는 목표다. 특히 이번 프로젝트는 경찰청이 주관한 최초의 국제 공동연구 사례로, 독일 기관과 공동으로 연구·개발한다. 딥페이크 탐지 시스템은 언어 차이나 인종의 외형 특성에 따라 성능이 크게 달라질 수 있어 단일 국가나 특정 기관의 탐지 기술만으로는 한계가 있다. 따라서 신뢰할 수 있는 탐지 시스템을 구축하려면 다각도의 협력과 기술 공유가 필수적이다. 송상엽 한컴위드 대표는 "AI 기술 발전으로 딥페이크 및 딥보이스 기반의 사이버 범죄가 급증하고 있다"며 "각 기관의 전문성을 바탕으로 고객 요구에 최적화된 맞춤형 솔루션을 개발하고 상용화에 성공하겠다"고 밝혔다.

2025.06.05 10:52한정호 기자

"기술이 뚫려도 제도가 막았어야"...유심 해킹 민낯

해킹을 완벽히 막을 수 없다면, 피해 확산을 막는 제도와 기술이 기본값이 돼야 한다. SK텔레콤 유심 해킹 사고는 통신 인프라의 구조적 취약성과 함께, 사후 대응과 이용자 보호 시스템의 한계를 드러냈다. 초기 대응부터 인증 정보 암호화와 정보보호 최고책임자(CISO) 제도도 실효성에 의문이 제기됐다. 즉 기술뿐 아니라 대응과 제도까지 포함한 시스템 전체의 문제를 보여주며 근본적인 재정비가 불가피하다는 지적이다. 유심보호서비스, 왜 처음부터 자동가입 못했나 유심보호서비스는 통신 3사 모두 무료로 제공하는 부가서비스다. 유심 무단 변경을 막는 기능을 갖추고 있지만 이용자 스스로 직접 가입해야 하는 형태다. 해킹에 따른 피해를 사전에 차단하기보다는 사후에 유심 변경을 제한하는 보조적 조치에 가깝다. 침해사고 직후 SK텔레콤은 유심보호서비스 가입을 적극 권장했으나 일시적으로 가입 신청이 몰리며 T월드 앱 서비스의 접속 폭주로 고객 불만이 빗발쳤다. 아울러 로밍 요금제와 동시 가입이 불가능한 탓에 해외 체류자나 여행객의 불안감을 더욱 키웠다. SK텔레콤은 T월드 앱에서 원터치 가입이 가능하도록 개선하고, 이용 약관 개정 신고를 통해 자동가입 절차를 뒤늦게 시행했다. 로밍요금제와 동시 이용이 가능한 업그레이드 버전도 선보였으나 사고 이후 유심보호서비스를 기본값으로 제공하지 않았다는 비판이 거세게 나왔다. 국회 청문 과정에서 "이용자가 알지 못하면 보호받지 못하는 구조"라는 비판과 함께 유심 교체 이후 보호서비스 자동 연동이 이뤄지지 않은 점도 지적을 받았다. 박진호 동국대 컴퓨터•AI학부 교수는 "유심보호서비스는 유심을 사용하는 모든 이용자에게 기본값으로 자동 적용돼야 한다"며 "몇백 원 절감하겠다고 이용자에게 수동 설정을 요구할 게 아니라, 보호 기능을 끄는 선택지만 남기는 구조로 바꿔야 한다"고 강조했다. 정부 차원의 통합 보안 가이드라인 부재도 구조적 허점으로 지목됐다. 더불어민주당의 이정헌 의원은 청문에서 "금융 앱은 생체인증 같은 기본 보안장치를 기본값으로 제공하는데, 유심같이 중요한 영역은 왜 기본 방어체계조차 제공하지 않는지 따져볼 필요가 있다"고 지적했다. 가짜뉴스 방치…"정보 공백이 더 큰 피해 낳았다" 침해사고 직후 일부 온라인 커뮤니티와 SNS에서는 “해킹되면 계좌의 모든 돈이 빠져나간다”는 식의 확인되지 않은 주장과 과장된 정보가 빠르게 확산됐다. 불안에 휩싸인 일부 이용자들은 모바일 뱅킹 앱을 삭제하거나 위약금을 내고 다른 통신사로 번호이동 사례도 나타났다. 이 과정에서 정부나 침해사고 당사자인 SK텔레콤이 국민의 우려를 불식시키는 노력이 부족했다는 지적을 피하기 어렵다. 염흥열 순천향대 정보보호학과 교수는 “유심 정보 유출만으로 금융 피해로 직결되기는 어렵다”며 “복제폰 제작, 금융 앱 접근 정보 탈취 등 여러 단계의 추가 수단이 필요해 현실적으로 가능성은 낮다”고 설명했다. 그는 또 “IMEI 유출 가능성이 제기된 만큼, 초기 단계부터 정보의 위험성과 해명 내용을 명확히 전달했어야 했다”며 “유심 교체 방침을 발표할 당시 수급 상황을 고려하지 않은 점도 문제였다”고 지적했다. 국회 입법조사처는 최근 발표한 '통신사 해킹 사고 사후 대응의 문제점과 입법과제' 보고서에서 "사고 직후 정부와 통신사가 허위 정보 확산에 효과적으로 대응하지 못했고, 이용자에게 신뢰를 줄 수 있는 조기 안내 체계도 부재했다"며 "초기 단계부터 투명한 정보 공개와 허위 정보 대응 매뉴얼을 갖추는 것이 제도적 과제"라고 밝혔다. 박진호 교수는 "SK텔레콤과 같은 대기업이라면 매뉴얼 자체가 없었을 리는 없지만, 디테일이 부족했다"며 "예고된 공격에도 선제 대응이 미흡했고, 사후 조치에서도 홍보·안내 체계가 부족했다"고 지적했다. 이어 "이심(eSIM)은 실물 유심 탈취 위험이 없어 해킹 저항성이 더 높다"며 "통신사는 이심 전환과 관련한 가이드와 보호 옵션 안내를 더욱 명확히 해야 한다"고 덧붙였다. 유심 정보 암호화, 이제는 '의무'로 SK텔레콤의 침해사고 계기로 통신망에 저장되거나 전송되는 유심 관련 인증 정보의 암호화 저장 필요성이 본격적으로 제기됐다. 현재 인증 절차에 사용되는 유심 고유번호, 인증 토큰 등 일부 식별 정보는 통신사 시스템 내에서 평문으로 저장되거나 암호화되지 않은 채 전송되는 구조가 여전히 존재해 해킹 시 탈취 위험이 남아있다는 것이다. 기술적 조치 수준에서도 통신 3사 간 격차가 존재한다. KT는 2021년부터 IMSI 암호화 기능이 적용된 5G USIM을 도입했고, LG유플러스는 PUF(물리적 복제 불가능 함수) 기반의 고보안 유심을 상용화했다. 반면 SK텔레콤은 이번 사고 시점까지 암호화 조치를 적용하지 않았고, 사건 이후에야 관련 체계 강화에 착수했다. 국제 표준도 이와 관련한 최소한의 보안을 요구하고 있다. 5G SA 환경에서는 가입자 식별정보(SUPI)를 암호화된 형태(SUCI)로 전송해야 한다는 규정이 3GPP TS 33.501 표준에 명시돼 있다. 이는 LTE 시절 IMSI가 평문으로 전송되던 보안 취약점을 개선하기 위한 조치다. 국내에서 5G SA 상용화가 아직 이뤄지지 않았고 한국을 포함한 다수 국가에서는 해당 표준이 법제화로 이어지지 않았다. 이에 대해 전문가들은 “기술적으로는 사실상 의무인데, 제도적으로는 방치되고 있는 전형적인 보안 사각지대”라고 지적한다. 염흥열 교수는 “5G SA 환경에서는 전송 구간 암호화는 표준상 필수지만, 저장은 통신사 자율에 맡겨진 상황”이라며 “KT, LG유플러스는 암호화를 적용했지만 SK텔레콤은 하지 않아 업계 기준을 따르지 않은 셈”이라고 밝혔다. 이어 “민감 정보 저장 시 암호화를 의무화하는 법적 규제가 필요하다. 개인정보보호법이나 정보통신망법 개정을 통해 이를 보완해야 한다”고 강조했다. CISO 제도, '명문화'에서 '내실화'로 현행 정보통신망법에 따르면, 매출 1천500억원 이상이거나 일평균 이용자 수 100만 명 이상인 정보통신서비스 사업자는 정보보호최고책임자(CISO)를 지정해 신고해야 한다. 과거 대규모 정보 유출 사건을 계기로, 기업 내 보안 책임자 제도화를 통해 정보보호 역량을 강화하겠다는 취지로 도입됐다. 법적으로 CISO는 정보보호 정책 수립, 보안 예산 및 인력 운영, 사고 대응 총괄 등의 역할을 맡지만, 현실에서는 제도의 명문화와 실질 운영 사이 간극이 크다는 지적이 꾸준히 제기돼 왔다. 많은 기업이 CISO를 CTO, CIO 등과 겸직시키고 있으며, 독립적인 예산 편성과 정책 집행 권한도 제한적인 경우가 많다. 특히 CISO가 CEO에게 직접 보고하지 못하고, IT 부서 산하 실무 조직에 편입되는 경우가 많아, 보안 이슈가 경영 전략이나 예산 결정에서 후순위로 밀리는 구조적 문제가 반복되고 있다. 명목상 직책은 있지만 책임과 권한이 분산돼 실질적 대응력은 떨어질 수밖에 없다. 이번 SK텔레콤 유심 해킹 사고에서도 이러한 한계가 여실히 드러났다. SK텔레콤의 정보보호실은 AT·DT센터 산하 5개 실 중 하나로, 정보보호실장이 CISO를 겸직하고 있다. 정보보호실장은 사내 임원급 인사이지만 등기임원은 아니며, 사업보고서 상 주요 경영진 명단에도 포함돼 있지 않다. 이로 인해 보안 의사결정에서 전략적 독립성과 대응력 확보에 한계가 있었다는 지적이 나온다. 전문가들은 단순히 법령상 CISO를 지정하는 것만으로는 실질적인 보안 책임이 확보되기 어렵다며, 제도의 실효성 강화를 위한 보완이 시급하다고 입을 모은다. SK텔레콤 침해사고에서 CISO 제도가 '형식적으로 존재하는 것'과 '실제 작동하는 것'은 다르다는 점을 분명히 보여줬다는 것이다. 업계 한 관계자는 "많은 기업들이 여전히 CISO를 CTO나 CIO 등과 겸직시키고 있으며, CEO에게 직접 보고하는 체계도 부족해 보안 의사결정에서 배제되기 쉽다"면서 "독립적인 보안 예산과 인력 운영 권한을 부여하고, 사고 발생 시 책임 주체가 명확해지도록 제도적 보완이 필요하다"고 말했다. 다른 관계자는 "사이버 공격 자체를 100% 막을 수는 없다. 하지만 사고 이후 책임 구조가 명확하고, 투명하게 대응할 수 있는 시스템이 구축돼 있었는가가 기업 신뢰의 기준이 된다"며 "다음 사고를 피할 수 없다면, 피해를 줄이는 체계와 책임지는 구조라도 갖춰야 한다"고 강조했다. 염흥열 교수는 "침해사고는 결국 기업 내부에 취약점이 있었다는 의미"라면서 "상시적인 취약점 제거 체계와 함께, 외부 기관에 의한 정기적인 모의 해킹 테스트도 필요하다"고 했다.

2025.05.21 09:24최이담 기자

테슬라 가짜 벽 충돌시험 '후속편' 등장...이번에는 사이버트럭

최근 테슬라의 첨단 운전자 보조 시스템 오토파일럿(Autopilot) 시스템을 활성화한 후 가짜 벽에 충돌시키는 테스트 영상이 화제가 됐다. 이 테스트는 카메라 기반의 테슬라 차량과 라이다(LiDAR) 장착 차량을 비교하기 위해 진행된 것으로 테슬라 차량은 가짜 벽을 인식하지 못하고 충돌했다. 결과가 공개된 후 '테스트 중 오토파일럿이 켜져 있지 않았다', '라이더 업체로부터 협찬을 받았다', '첨단 소프트웨어인 FSD가 아닌 오토파일럿으로 진행됐다'는 등 테스트의 객관성에 대한 의문들이 제기됐다. 자동차매체 인사이드EV는 24일(현지시간) 또 다른 유튜버 카일 폴(Kyle Paul)이 최근 두 대의 테슬라 차량을 가지고 동일한 테스트를 진행한 결과를 보도했다. 해당 테스트는 폐쇄된 코스에서 모두 테슬라의 첨단 주행보조·자율주행 소프트웨어 FSD를 활성화시켜 진행됐다. 첫 번째 테스트는 FSD 버전 12.5.4.2를 실행하는 이전 세대 하드웨어(HW) 3이 탑재된 모델Y 크로스오버 차량으로 이뤄졌다. 테스트 결과 모델Y는 FSD를 활성화 시켰음에도 불구하고 가짜 벽을 인식하지 못했다. 매번 차량이 벽을 감지하지 못해 운전자는 수동으로 브레이크를 밟아야 했다. 두 번째 테스트는 최신 HW4에 최신 FSD 버전 13을 실행하는 픽업트럭 사이버트럭을 가지고 진행했다. HW4가 장착된 차량은 더 많은 디테일을 포착할 수 있는 고급 카메라가 탑재됐고 최신 소프트웨어(SW)는 풀 해상도로 영상을 처리할 수 있다. 사이버트럭 테스트 결과 FSD를 활성화한 상태에서 가짜 벽에 접근하면 장애물이 차량의 터치스크린에 초기 단계부터 표시되고 사람의 개입 없이 차량이 완전히 정지했다. 이 테스트를 여러 번 실행했으나 결과는 같았다. 이에 해당 매체는 이런 상황이 현실에서 일어날 가능성은 극히 낮다며, 테슬라가 최신 HW와 SW로 해당 기능을 크게 개선한 것 같다고 평했다.

2025.03.25 20:50이정현 미디어연구소

  Prev 1 2 Next  

지금 뜨는 기사

이시각 헤드라인

'이미 온' 자율주행 시대...韓 모빌리티 B-학점

야마자키 토모 나이언틱 대표 "韓 이용자, '피크민 블룸' 즐기는 방식 다양해"

李대통령 "일베, 조롱·혐오 방치...사이트 폐쇄 검토 필요"

챗GPT·제미나이·그록 품은 '델 AI 팩토리'…"AI는 온프레미스가 대세"

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.