• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
지스타2025
인공지능
스테이블코인
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'가짜'통합검색 결과 입니다. (27건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

박정훈 의원, 가짜 AI광고 방지법 대표발의

국회 과학기술방송통신위원회 소속 박정훈 의원(국민의힘)이 최근 온라인상에서 급증하고 있는 AI 생성 가짜 광고 문제에 대응하기 위해 '가짜 AI광고 방지법'을 대표발의 했다고 28일 밝혔다. 최근 SNS와 유튜브를 중심으로 AI가 '의사'나 '약사'로 위장해, “이 약만 먹으면 10㎏이 빠진다”, “S대 출신 의사가 보장한다”는 식의 광고가 확산되고 있다. 영상은 마치 전문가의 건강 조언처럼 보이지만 실상은 존재하지도 않는 'AI 합성 의사'가 만든 가짜 콘텐츠로 소비자를 기만하여 피해자가 양산되고 있다. 사람의 얼굴과 목소리를 정교하게 모방한 '딥페이크 광고'는 단순한 해프닝이 아니라 AI 시대의 새로운 사회적 위험으로 부상하고 있다. 이러한 현상에 대해 방송통신심의위원회나 식품의약품안전처 등 관련 기관이 실질적인 대응을 하지 못하고 있다는 점이 문제로 꼽힌다. 박정훈 의원실이 AI 합성 광고 관련 심의 및 시정요구 현황을 요구하는 자료에 대해 방심위는 “관련법의 부재로, AI 합성 인물 광고 건에 대해서는 별도 통계 관리하고 있지 않다”고 답변해왔다. 이에 따라, 박 의원은 AI가 소비자를 속이는 허위 광고를 근절하기 위해 정보통신망법 개정안을 발의했다. 개정안은 ▲인공지능으로 생성된 실제와 구분하기 어려운 영상, 음향, 이미지 등을 활용한 광고의 경우, 반드시 'AI 생성물'임을 명확히 표시하도록 의무화했으며 ▲해당 표시를 훼손하거나 위조 변조하는 행위를 금지하고 ▲정보통신서비스 제공자(플랫폼 사업자)는 표시 의무를 위반한 광고가 게시될 경우 지체 없이 삭제할 책임을 지도록 했다. 박 의원은 “폭발적인 속도로 발전하는 AI 기술을 법제도가 따라가지 못하며 그로 인한 피해가 소비자에게 전가되고 있다”며 “국회 과학기술방송통신위원회 위원으로서 AI 기술 발전을 위해 물심양면 뒷받침하는 동시에 입법공백으로 인해 발생할 수 있는 부작용 또한 면밀히 살피도록 하겠다”고 말했다.

2025.10.28 12:47박수형

AI로 만든 '가짜의사' 약 광고 선제 대응 필요해

인공지능(AI)로 만든 가짜 의료전문가를 활용한 건강기능식품이나 의약품 온라인 광고 근절을 위한 대책 마련이 요구된다. 21일 식품의약품안전처에 대한 국정감사에서 국민의힘 한지아 의원은 “유튜브와 인스타그램에서 AI를 활용한 가짜 의사‧약사 전문가들이 난무하고 있다”라며 “식약처는 이를 허위 과대광고로 분류해서 기존처럼 대응하고 있다”라고 우려했다. AI로 제작된 허위 과대광고의 경우, 별도 분류해 플랫폼 확산 현황부터 구매 소비자 분석 등도 필요하다는 지적이다. 한 의원은 “AI 생성 영상은 오늘 지워도 내일 또 만들어져 또 지워야 할 수 있어 속도전”이라며 “건강기능식품 관련 광고를 사전에 승인받도록 하는 제도도 고민해야 한다”라고 밝혔다. 이에 대해 오유경 식약처장은 “AI 전문가 영상이 소비자 오인 혼동을 유발할 우려가 높인다”라며 “지금까지 기존 법으로 진행을 해 왔지만 앞으로 좀 더 명확하게 이러한 부분에서 제도적 보완할 필요가 있다”라고 동의했다. 아울러 건기식에 대한 기사형 광고에 대해서도 “기사와 광고가 혼동되는 부분들은 문화체육관광부나 자율심의기구 등과 협의를 하겠다”라고 전했다.

2025.10.21 10:46김양균

AI가 '가짜정보' 생성↔학습..."인터넷 파괴될 수도"

인공지능(AI) 기술이 빠르게 발전하면서 인터넷 콘텐츠의 '신뢰성'이 심각한 위기를 맞고 있다. 유튜브 교육 채널 '커지저트(Kurzgesagt)'는 최근 영상을 통해 “AI가 만들어내는 저품질 정보가 결국 인터넷의 신뢰 체계를 무너뜨릴 수 있다”고 경고했다. 이 영상은 게시된 지 약 이틀만에 600만 조회수를 넘어, IT 미디어인 기가진 등 외신을 통해서도 소개됐다. 인터넷의 절반은 '봇'… AI가 만든 콘텐츠 쏟아져 이 외신에 따르면 현재 전 세계 인터넷 트래픽의 절반가량은 인간이 아닌 '봇(bot)'이 만들어내는 것으로 알려졌다. 특히 최근에는 AI가 자동으로 생성한 글, 영상, 심지어 책까지 무분별하게 확산되며, 이른바 'AI 슬럽'(AI Slop, AI가 만든 저품질 콘텐츠) 현상이 심각한 문제로 떠오르고 있다. 이 같은 현상은 검색 엔진의 신뢰도에도 영향을 주고 있다. 대표적으로 구글의 'AI 요약'(AI Overview) 기능은 빠른 응답을 위해 경량화된 모델을 사용하는데, 이 때문에 사실과 다른 정보가 표시되는 사례가 잇따르고 있다. 실제로 자신의 이름을 검색했더니 “10년 전에 사망했다”는 잘못된 문장이 등장하거나, AI가 잘못된 정치 성향을 덧씌운 사례도 보고됐다. "AI가 만들어낸 80%는 맞지만, 나머지 20%는 근거조차 없다" 커지저트 제작진은 학술 콘텐츠를 만들 때 최소 2~3명의 검증 과정을 거쳐 전문가 피드백을 받는 등, 한 편당 100시간 이상을 사실 확인에 투자한다고 밝혔다. 제작팀은 정보 수집 과정에 AI를 도입해 실험을 진행했다. 그 결과, AI가 제공한 정보의 약 80%는 실제 출처가 존재하고 요약도 비교적 정확했지만, 나머지 20%는 출처조차 알 수 없는 허위 정보였다고 한다. 커지저트는 이 현상을 “AI가 우리를 만족시키기 위해 사실을 꾸며냈다”고 지적했다. 즉, AI가 '더 흥미롭게 보이도록' 일부 내용을 창작한 것이다. 문제는 이 '80%의 신뢰할 만한 정보'조차 완전히 안전하지 않다는 점이다. 커지저트 팀이 출처를 다시 추적한 결과, 일부 뉴스 사이트는 AI가 만든 근거 없는 정보를 실제 뉴스처럼 게시하고 있었고, 이후 다른 AI가 이를 학습해 '출처가 있는 정보'로 다시 내보내는 '허위 정보의 순환 구조'가 확인됐다. 실제로 올해 기준, 1천200개 이상의 뉴스·웹사이트가 AI가 만든 가짜 기사나 허위 스토리를 게시한 사실이 드러났다. 즉, AI가 만든 가짜 정보를 실제 언론사 기자가 받아쓰고, 그것을 다시 AI가 학습하는 악순환이 벌어지고 있는 셈이다. 커지저트는 영상 말미에서 “AI의 확산은 인터넷의 신뢰 체계를 되돌릴 수 없게 파괴할 위험을 내포하고 있다”고 경고했다. AI가 생산하는 정보의 양이 폭발적으로 늘어나면서, 진짜와 가짜를 구별하기 점점 어려워지는 상황이 펼쳐지고 있다는 지적이다.

2025.10.10 09:52백봉삼

과방위 국감 핵심 쟁점은..."온라인 가짜뉴스·해킹·인재유출"

온라인 가짜뉴스 대응, SK텔레콤과 한국연구재단 해킹 사고, 인공지능(AI) 육성 자금, 과학기술 인재 유출이 올해 국회 과학기술정보방송통신위원회의 국정감사 핵심 이슈로 떠오를 전망이다. 12일 국회 입법조사처에 따르면 내용을 담은 국정감사 이슈 분석 보고서를 내놨다. 입법조사처는 과거와 달리 국감에서 꼭 다뤄야 할 이슈를 집중적으로 다루면서 과방위에서 중점적으로 다룰 논제로 이처럼 다섯 가지를 꼽았다. 먼저 온라인 가짜뉴스 대응에 대해 방송통신심의위원회의 심의 규정이 모호하고, 표현의 자유를 침해한다는 비판도 동시에 받고 있다고 주목했다. 방송통신위원회가 팩트체크 활성화 사업을 추진하고 있지만 지난 정부에서 원활하게 정책이 집행되지 않은 부분도 문제점으로 꼽혔다. 이에 따라 온라인 가짜뉴스에 대한 방통심의위의 시정 요구 기준과 글로벌 사업자에 대한 대응 방식, 방통위의 정책 집행에 대한 질의가 집중될 것으로 보인다. 사이버 침해사고에 대한 관심은 올해 국감에서 최고조에 달할 전망이다. 입법조사처는 과방위 이슈로 다섯 가지를 꼽으며 한국연구재단과 SK텔레콤의 해킹을 별개 이슈로 삼았다. 아울러 과방위 소관 기관 이외의 공공기관에 대한 해킹 의혹이 제기됐고, 최근 SK텔레콤에 이어 KT도 개인정보 유출 정황이 확인됐다. 실제 과방위는 국감 이전 정기국회 기간에 청문을 여는 방안까지 검토하고 있다. 연구재단의 경우 일반 사업자와 달리 느슨한 정보보호 관리체계에 질의가 집중될 전망이다. SK텔레콤과 KT의 침해사고에 대해서도 정부의 후속 조치를 두고 감사위원들의 질의가 예상된다. 새 정부가 집중하는 AI에 대한 분야도 국감에서 크게 다뤄질 것으로 보인다. 특히 입법조사처는 100조 국민성장펀드에서 차지하는 AI 육성 몫을 집중적으로 살폈다. 인수위원회 역할을 대신한 국정기획위원회의 논의 과정에서 국민성장펀드의 AI 투자가 축소 조정됐는데, 이재명 대통령의 공약이 바뀌었다는 것이다. 또한 별도의 AI 펀드 예산도 마련되는데 각종 투자금의 중복 문제를 살펴야 할 부분으로 봤다. 과학기술인재 유출 문제도 중요 사안으로 꼽혔다. 이는 이전 국감에서도 지적된 문제인데, 이같은 문제는 더욱 심각해지는 가운데 정부 대책이 크게 따라가지 못한다는 지적이 나오고 있다. 과기인재 유입, 유출에 대한 공식적인 통계가 여전히 마련되지 않은 점도 국감에서 다시 논의될 전망이다.

2025.09.12 13:49박수형

AI로 만든 가짜 콘텐츠 범람...'브랜드 세이프티' 기술 주목

전세계가 생성형 AI 기반의 저품질 콘텐츠, 이른바 'AI 슬롭(AI Slop)' 확산이라는 새로운 위협에 직면해 있다. 식별이 어렵도록 정교하게 생성된 가짜 재난 영상, 정치인 딥페이크, 자극적으로 클릭을 유도하는 콘텐츠가 기승을 부리고 있다. 실제 한국은 국가별 '크리에이터 집중도'(인구 대비 크리에이터 비율)가 34%로 전세계 중 가장 높은 비중을 차지하는 브라질에 이어 2위 수준이다. 즉, 매우 활발한 콘텐츠 생산이 이뤄지고 있는 만큼 AI 슬롭에서 안전하다고만 낙관할 수 없다. AI 저작권 등에서 이슈가 됐던 지브리가 속한 일본의 경우도 예외는 아니다. 총무성 조사에 따르면 일본 광고주의 30.1%가 브랜드 세이프티 관련 피해를 경험했다고 밝혔다. 이런 상황 속에서 일본 총무성은 2025년 6월 '디지털 광고의 적절하고 효과적인 운용을 위한 광고주 대상 가이드라인'을 발표했다. 해당 가이드라인은 2026년 본격 시행을 앞두고 있으며 ▲브랜드 가치 훼손 ▲광고 사기(Ad fraud) ▲디지털 생태계 불건전화 등 핵심 문제를 지적한다. 가이드라인에 따르면 91.8%에 달하는 이용자가 가짜 정보에 노출된 광고는 부정적 인상을 받는다고 응답했다. 하지만 고도화된 영상 분석 기술 없이는 브랜드 세이프티 확보가 사실상 불가능하다는 것이 업계 시각이다. 현 시점 영상 콘텐츠는 전세계 브랜드와 크리에이터들이 집중하는 영역이다. 실제로 구글은 유튜브 20주년을 기념한 리포트에서 하루에 약 2천만 건의 영상이 업로드된다는 통계를 보고했다. 이에 글로벌 플랫폼들도 AI 슬롭 대응에 나섰다. 유튜브는 기능상 허점을 노린 반복 콘텐츠의 수익 창출을 제한하고, 메타는 저품질 콘텐츠 확산 방지를 위한 정책을 도입했다. 핀터레스트는 AI 생성 이미지에 대한 별도 표기 기능을 제공하며, 위키피디아는 AI 생성 콘텐츠에 대해 '신속 삭제' 정책을 도입했다. 플랫폼들이 자율 규제로 대응하는 가운데, 일본은 국가 차원의 접근을 택했다. 품질 관리에 엄격한 일본 특유의 풍조에 따라, 총무성은 시장의 변화에 부응하는 가이드라인을 제시했다. 이에 일본 내 광고회사들도 적극적인 대응을 취하는 모양새다. 현지 최대 규모의 광고사인 '덴츠'는 자사 광고 솔루션에 'Web/App Unsafe List' 블록리스트를 적용하며 위험 콘텐츠 차단을 강화하고 있다. '하쿠호도'는 일본디지털광고품질기구(JICDAQ) 인증 취득과 함께 광고 검증(ad verification) 도구의 활용 방안을 강조했다. 그러나 업계에서는 여전히 AI와 영상 이해에 기반한 콘텐츠 선별에 특화된 기술적 해법이 부재하다는 우려가 제기된다. 기존의 도메인 차단 방식은 텍스트나 이미지 기반 콘텐츠에는 어느 정도 효과를 발휘했지만, 용량과 길이, 변형 가능성이 높은 AI 영상 콘텐츠에는 사실상 무력하다는 지적이다. 실제로 광고주는 수만 개에서 수천만 개에 이르는 영상에 광고를 게재하면서도, 이들 각각의 맥락과 위험 요소를 확인할 수 있는 수단이 전무한 실정이다. 이런 구조적 문제를 해결하기 위한 기술적 접근이 업계 전반에서 논의되는 가운데, 트러스트 앤드 세이프티(Trust & Safety) 분야의 혁신이 주목받고 있다. 현재 T&S 시장을 선도하는 더블베리파이(DoubleVerify)와 IAS는 도메인 차단과 텍스트 기반 필터링으로 디지털 광고의 안전성을 크게 향상시켰다. 하지만 하루 2천만개씩 업로드되는 영상 콘텐츠 시대에는 새로운 접근이 필요하다는 목소리가 커지고 있다. 이런 인식은 T&S 분야의 대표 행사인 'TrustCon 2025'에서도 확인됐다. AI Slop 판별과 차단을 위한 기술적 해법이 시급하다는 공감대가 형성된 가운데, 영상 이해 AI 기술을 소개한 한국의 스타트업 '파일러(Pyler)'도 현장에서 큰 주목을 받았다. 파일러는 시각·음성·텍스트 데이터를 통합 분석해 영상의 맥락을 이해하는 기술을 소개했다. 영상을 학습한 AI가 시각·음성·텍스트를 통합 분석해 실시간으로 콘텐츠의 안전성을 판단해 광고주의 기준에 맞는 안전한 콘텐츠 환경을 운영하는 것이 특징이다. 삼성전자·현대자동차·LG 전자 등 25개 글로벌 기업이 기술을 도입했으며, 엔비디아 인셉션 프로그램을 통한 미공개 기술과 인프라 지원도 받고 있다. 기술 적용의 목소리가 커지는 가운데, 광고업계가 기존 인프라를 활용하면서도 새로운 영상 분석 기술을 어떻게 적용해나갈지가 전세계 Trust & Safety를 대응해나가는 관점에 시사점을 제시하게 될 전망이다. 업계 관계자는 "브랜드 세이프티 확보는 단순한 마케팅 전략이 아니라 기업의 신뢰와 지속 가능성을 좌우하는 핵심 요소"라면서 "특히 영상 콘텐츠가 주류가 되는 시대에 Trust & Safety 관점의 기술적 접근이 브랜드 가치 보호의 핵심 요소로 자리잡을 것으로 보인다"고 말했다.

2025.08.27 09:58백봉삼

로봇이 아이 낳는다고?…'가짜 판명' 임신 로봇, 남은 문제는

지난 주 한 중국 과학자가 세계 최초로 첨단 인공 자궁 시스템을 갖춘 '대리 임신 휴머노이드 로봇'을 1만4천 달러(약 2천만원)에 내놓겠다는 소식에 전 세계가 떠들썩했다. 미국 팩트체크 매체 스노프스는 해당 소식이 가짜뉴스라고 보도했다. 화제의 주인공은 카이와 테크놀로지의 창업자 겸 싱가포르 난양이공대 박사로 알려진 장치펑이라는 인물이었다. 하지만 외신들이 난양이공대 측에 확인한 결과 해당 대학 졸업생 중 장치펑이란 이름을 가진 인물은 없는 것으로 나타났다. 인공자궁 시스템을 갖춘 로봇 역시 개발된 적이 없다고 이 매체는 전했다. 대학 측은 “확인 결과 우리 대학에서 그런 '임신 로봇' 연구가 수행된 적은 없다”고 밝혔다. 이 같은 사실이 알려진 직후 홍콩 현지 일부 매체들은 해당 기사를 삭제했고, 장치펑이라고 소개됐던 인물 사진도 여러 매체에서 삭제된 것으로 파악됐다. IT매체 기즈모도는 19일(현지시간) 임신 로봇이 나올 경우 생길 수 있는 문제를 분석한 기사를 게재했다. 가장 심각한 문제는 로봇 자궁이 제대로 작동하지 않을 경우 태아에게 쉽게 손상을 입히거나 사망에 이르게 할 수 있다는 점이다. 아기는 수경 재배가 아니며, 태반에서 나오는 복잡한 영양소와 여러 신호의 혼합물에 의존해 만들어 진다. 인공지능(AI) 태반이 태아의 성장 속도에 맞춰 섬세하게 모든 조건을 태아에게 제공할 가능성은 매우 희박하다. 위스콘신-매디슨 대학 산부인과 의사 푸시 안은 뉴스위크와의 인터뷰에서 "임신은 매우 복잡한 과정이며, 각 단계가 매우 섬세하고 중요하다"고 말했다. 또, "정신 건강 문제는 말할 것도 없고, 다양한 연령대에서 많은 건강 위험이 나타날 것"이라고 덧붙였다. 더 우려스러운 점은 이 신기술을 어떻게 시험할지, 또 해당 기술 발전에 대한 윤리적 검토가 전혀 되지 않았다는 점이다. 현재 인간 생식의 미래와 로봇이 배아나 유사한 방식으로 임신 활동에 관여하거나 이를 통해 출산된 아이와의 관계와 재산권, 상속권 등 각종 소유권에 어떤 영향을 미칠지에 대한 심각한 윤리적 논쟁이 있다. 장점은 없을까? 만약 해당 기술이 진짜이고 윤리적으로 검증될 경우 로봇 자궁은 불임 연구와 인간의 생식 지원에 새로운 지평을 열 수 있다. 아이를 가질 수 없는 사람들은 약 2천만원 정도 비용으로 미국에서 약 10만~20만 달러(약 1억3천~2억8천만원)에 달하는 대리모를 얻을 수 있게 된다. 또 미숙아로 태어난 아기에게 인공 자궁은 뇌 손상이나 폐손상 등 심각한 합병증을 예방하는 데 도움을 줄 수도 있다. 하지만, 로봇에서 인간 태아를 만드는 과정의 각 단계를 누가 소유할 것인지는 철저한 연구와 논의가 필요하며, 대부분 생명윤리 기준에 미치지 못할 가능성이 매우 높다고 기즈모도는 전했다. 또, 그 과정을 누가 감독하고 위반 사항이 있을 경우 규칙을 시행할 것인지는 또 다른 법적, 윤리적 쟁점이라고 덧붙였다. 비판론자들은 인공 자궁이 완전한 생물학적 권리나 도덕적 고려 없이 "인간과 유사한 개체"를 만들어낼 수 있다는 점을 지적하며, 임신 과정의 오용이나 비인간화 가능성을 우려하고 있다.

2025.08.20 13:48이정현

바다·정주리 사과 '미라클 시드니' 파문…사기 광고 반복 왜

유튜브 채널 '사망여우'를 통해 드러난 '미라클 시드니' 주름크림의 허위 광고 논란이 연예인들의 줄줄이 사과와 백화점 입점 논란으로 번지며 큰 파장을 일으켰다. 제품을 홍보한 연예인들의 잇단 사과로 논란이 일단락 되는 모양새나, 핵심은 이번 사건이 단발성 해프닝이 아니라 유튜브·인스타그램 등 SNS를 이용해 반복되는 사기성 마케팅의 구조적 문제라는 게 전문가들의 지적이다. 호주산? 알고 보니 국내 제조…연예인·방송인까지 이용 미라클 시드니는 '호주산 주름크림'이라는 문구로 소비자 신뢰를 유도하고, 인기 프로그램 출연자와 유명 가수, 개그우먼 등을 모델로 내세웠다. 여성그룹 SES 출신 가수 바다는 “호주에서 봤다, 유명하다”는 멘트를 했고, 개그우먼 정주리도 해당 제품을 소개했다. 그러나 해당 발언은 외부 제작사가 제공한 대본에 따른 것이었고, 실제로 제품은 경기도 김포시의 국내 업체에서 제조된 것으로 드러났다. 나아가 제품 홍보 영상에는 '나는 솔로' 16기 출연자 옥순의 이름과 사진이 무단 사용됐고, 당사자는 법적 대응에 나섰다. 유명인의 신뢰와 이미지를 이용한 광고였지만, 당사자들은 “사전 검증 없이 대본대로 촬영했을 뿐”이라며 허위 의도는 없었다고 해명했다. 아울러 해당 제품은 신세계·롯데·갤러리아 등 국내 주요 백화점 11곳에 입점한 것처럼 홍보됐다. 사실 확인 결과 이는 정식 계약이 아닌 벤더사 유통을 통한 일부 판매였다. 논란이 확산되자 백화점들은 전량 판매 중단과 매장 철수 조치를 취했다. SNS·유튜브 통한 사기 광고, 왜 계속되나 이번 사태의 핵심은 미라클 시드니 논란이 단순한 일회성 해프닝이 아니라는 점이다. 사업자가 상호와 브랜드만 바꿔가며 신제품을 내놓고, 유명인·인플루언서를 앞세운 허위·과장 광고를 반복하는 사례가 끊이지 않는다. 광고 제작 과정에서 유명인의 발언이 대본으로 조작되고, 미라클 시드니 사례처럼 실제 제조지·성분과 무관한 '해외 명품 이미지'가 덧씌워지는 경우도 흔하다. 이런 방식은 적발되더라도 사업자나 대표가 실질적인 처벌을 받지 않거나, 법적 제재가 미약해 사실상 '벌어들이는 수익이 더 큰 구조'로 고착화된 상태다. 광고·소비자 보호 전문가들은 “현행 표시광고법·전자상거래법의 허위광고 규정만으로는 SNS 기반 신종 마케팅에 대응하기 어렵다”며 “플랫폼·광고주·출연자 모두에 대한 사전 검증 의무와 책임 범위를 강화해야 한다”고 강조했다. 나아가 플랫폼 사업자에 대해 허위 광고 콘텐츠 유통 차단 및 재발 방지 조치를 법적으로 의무화하고, 반복 위반 사업자에 대한 강력한 영업 제한이나 형사 처벌도 필요하다는 목소리가 나온다. 정부와 규제당국이 보다 촘촘한 검증 체계와 강력한 제재 방안을 마련하지 않는다면, 미라클 시드니는 이름만 바꾼 채 또다시 소비자들을 눈속임할 수 있다는 지적이다.

2025.08.10 09:35백봉삼

"본사 나서라"...더본코리아 점주협의회, 유튜브 비방 대응 요구

더본코리아가 악성 유튜브 콘텐츠로 인한 가맹점 피해 대응을 위해 이달 중 '긴급 상생위원회'를 소집한다. 8일 회사에 따르면 빽다방·홍콩반점·새마을식당·한신포차·역전우동 점주협의회는 지난 7일 더본코리아에 일부 유튜버와 관련 상생위 개최를 요청했다. 해당 협의회는 최근 '백종원 시리즈'로 불리는 유튜브 콘텐츠가 확인되지 않은 비방성 주장과 자극적인 제목을 반복하고 있다며 본사 대응을 요구했다. 요청서에는 영상 내용에 기반한 허위 댓글과 유언비어가 무분별하게 퍼지고 있으며, 일부 영상 제목에는 '굿바이 백종원'과 같은 표현이 포함돼 명백한 표적 방송으로 판단된다는 내용이 담겼다. 협의회는 영상 내용이 가맹점 매출에 실질적인 악영향을 끼치고 있다고 주장하며, 이재명 정부가 유튜브를 통해 퍼지는 가짜뉴스의 제재 필요성을 언급한 점도 함께 들었다. 더본코리아는 지금까지 유튜브 콘텐츠에 별도 대응을 하지 않아 왔으나, 이번에는 점주 측 요청을 받은 만큼, 철저하고 강력한 대응 조치를 검토하겠다는 입장이다. 회사 관계자는 “근거 없는 허위사실을 반복 유포하는 특정 유튜버로 인해 점주들이 피해를 호소하고 있다”며 “더 이상의 확산을 막기 위한 조치를 마련 중”이라고 설명했다.

2025.08.08 09:54류승현

석유관리원, 주요 관광지 및 지역축제 안전 주유환경 조성에 나서

한국석유관리원(이사장 최춘식) 강원본부는 본격적인 휴가철과 지역축제 시즌을 맞아 강원도 내 주요 축제 현장과 관광지 인근 주유소(충전소)를 대상으로 석유제품 품질·유통질서 합동점검에 나섰다고 24일 밝혔다. 이번 점검은 7월부터 평창·강릉·속초 등 강원도 내 대표 지역축제와 관광지 중심으로 진행되며, 한국석유관리원 강원본부와 강원특별자치도 및 18개 시·군 지자체가 공동으로 참여한다. 특히 관광객 유입이 많은 시기를 활용해 소비자 피해방지 및 안전관리에 총력을 기울일 예정이다. 주요 점검 내용은 ▲휘발유·경유 등 석유제품의 품질적합 여부(폭우로 인한 탱크오염검사 포함) ▲석유제품 정량판매 여부(주유기 조작 여부 등) ▲가짜석유 등 불법 석유제품 유통 여부 ▲유통질서 위반 여부 등이다. 소비자 피해 확산 방지를 위해 품질적합 여부를 당일에 확인 할 수 있는 '패스트트랙'을 운영할 예정이다. 김기호 한국석유관리원 강원본부장은 “여름철 강원도를 찾는 관광객이 안심하고 주유할 수 있도록 품질과 유통 관리를 철저히 하겠다”며 “앞으로도 지자체 등과 협력을 강화해 지역축제와 관광이 활성화되는 시기에 소비자 보호와 공공안전 확보에 기여하겠다”고 밝혔다. 한편, 석유관리원은 모든 국민이 안심하고 석유제품을 이용할 수 있도록 석유제품 신고센터인 오일콜센터를 통해 품질·유통질서 위반 관련 신고를 상시 접수하고 있다.

2025.07.24 10:51주문정

"딥페이크·가짜뉴스 한 번에 잡는다"…한컴위드, 통합 탐지 시스템 개발 착수

한컴위드가 사이버 범죄 예방을 위해 딥페이크·딥보이스·가짜뉴스 통합 탐지 시스템 개발에 나선다. 한컴위드는 숭실대를 주관기관으로 연세대·성균관대와 함께 경찰청의 '허위조작 콘텐츠 진위 판별 시스템 개발' 프로젝트에 국내 연구기관으로 참여하게 됐다고 5일 밝혔다. 이번 사업은 2027년까지 앞으로 3년간 허위조작 콘텐츠 탐지를 위한 데이터세트 구축 및 통합 탐지 시스템을 개발하는 것이 주요 골자다. 해당 시스템은 허위 정보를 식별해 사이버 범죄를 예방하고 사회적 혼란을 줄이는 것을 목표로 한다. 초기 단계인 올해는 탐지를 위한 데이터세트 구축과 탐지 모델의 고도화에 집중하며 내년부터는 머신러닝 기반 자동화 관리 시스템(MLOps)을 적용한 통합 탐지 시스템의 성능 향상과 실증 테스트를 본격적으로 추진할 예정이다. 핵심 기술 연구는 숭실대를 중심으로 성균관대, 연세대, 독일 부퍼탈대, 한컴위드가 함께 수행한다. 숭실대는 딥페이크 음성 탐지 모델을, 성균관대는 딥페이크 영상 및 가짜뉴스 탐지 모델을, 연세대는 표준화된 데이터세트 구축을 각각 담당한다. 부퍼탈대는 다국어 데이터세트 수집과 글로벌 협력 연구를 맡으며 한컴위드는 다양한 탐지 기술을 통합한 ML옵스 기반 시스템의 개발과 실증을 진행한다. 통합 탐지 시스템은 딥페이크 범죄 수사, 비대면 인증 및 심사 과정에서의 진위 판별, 가짜뉴스 유통 추적 등 다양한 분야에 적용될 수 있다. 이를 통해 국가 및 공공기관은 물론 민간 산업 전반의 허위조작 콘텐츠 대응 역량을 강화한다는 목표다. 특히 이번 프로젝트는 경찰청이 주관한 최초의 국제 공동연구 사례로, 독일 기관과 공동으로 연구·개발한다. 딥페이크 탐지 시스템은 언어 차이나 인종의 외형 특성에 따라 성능이 크게 달라질 수 있어 단일 국가나 특정 기관의 탐지 기술만으로는 한계가 있다. 따라서 신뢰할 수 있는 탐지 시스템을 구축하려면 다각도의 협력과 기술 공유가 필수적이다. 송상엽 한컴위드 대표는 "AI 기술 발전으로 딥페이크 및 딥보이스 기반의 사이버 범죄가 급증하고 있다"며 "각 기관의 전문성을 바탕으로 고객 요구에 최적화된 맞춤형 솔루션을 개발하고 상용화에 성공하겠다"고 밝혔다.

2025.06.05 10:52한정호

"기술이 뚫려도 제도가 막았어야"...유심 해킹 민낯

해킹을 완벽히 막을 수 없다면, 피해 확산을 막는 제도와 기술이 기본값이 돼야 한다. SK텔레콤 유심 해킹 사고는 통신 인프라의 구조적 취약성과 함께, 사후 대응과 이용자 보호 시스템의 한계를 드러냈다. 초기 대응부터 인증 정보 암호화와 정보보호 최고책임자(CISO) 제도도 실효성에 의문이 제기됐다. 즉 기술뿐 아니라 대응과 제도까지 포함한 시스템 전체의 문제를 보여주며 근본적인 재정비가 불가피하다는 지적이다. 유심보호서비스, 왜 처음부터 자동가입 못했나 유심보호서비스는 통신 3사 모두 무료로 제공하는 부가서비스다. 유심 무단 변경을 막는 기능을 갖추고 있지만 이용자 스스로 직접 가입해야 하는 형태다. 해킹에 따른 피해를 사전에 차단하기보다는 사후에 유심 변경을 제한하는 보조적 조치에 가깝다. 침해사고 직후 SK텔레콤은 유심보호서비스 가입을 적극 권장했으나 일시적으로 가입 신청이 몰리며 T월드 앱 서비스의 접속 폭주로 고객 불만이 빗발쳤다. 아울러 로밍 요금제와 동시 가입이 불가능한 탓에 해외 체류자나 여행객의 불안감을 더욱 키웠다. SK텔레콤은 T월드 앱에서 원터치 가입이 가능하도록 개선하고, 이용 약관 개정 신고를 통해 자동가입 절차를 뒤늦게 시행했다. 로밍요금제와 동시 이용이 가능한 업그레이드 버전도 선보였으나 사고 이후 유심보호서비스를 기본값으로 제공하지 않았다는 비판이 거세게 나왔다. 국회 청문 과정에서 "이용자가 알지 못하면 보호받지 못하는 구조"라는 비판과 함께 유심 교체 이후 보호서비스 자동 연동이 이뤄지지 않은 점도 지적을 받았다. 박진호 동국대 컴퓨터•AI학부 교수는 "유심보호서비스는 유심을 사용하는 모든 이용자에게 기본값으로 자동 적용돼야 한다"며 "몇백 원 절감하겠다고 이용자에게 수동 설정을 요구할 게 아니라, 보호 기능을 끄는 선택지만 남기는 구조로 바꿔야 한다"고 강조했다. 정부 차원의 통합 보안 가이드라인 부재도 구조적 허점으로 지목됐다. 더불어민주당의 이정헌 의원은 청문에서 "금융 앱은 생체인증 같은 기본 보안장치를 기본값으로 제공하는데, 유심같이 중요한 영역은 왜 기본 방어체계조차 제공하지 않는지 따져볼 필요가 있다"고 지적했다. 가짜뉴스 방치…"정보 공백이 더 큰 피해 낳았다" 침해사고 직후 일부 온라인 커뮤니티와 SNS에서는 “해킹되면 계좌의 모든 돈이 빠져나간다”는 식의 확인되지 않은 주장과 과장된 정보가 빠르게 확산됐다. 불안에 휩싸인 일부 이용자들은 모바일 뱅킹 앱을 삭제하거나 위약금을 내고 다른 통신사로 번호이동 사례도 나타났다. 이 과정에서 정부나 침해사고 당사자인 SK텔레콤이 국민의 우려를 불식시키는 노력이 부족했다는 지적을 피하기 어렵다. 염흥열 순천향대 정보보호학과 교수는 “유심 정보 유출만으로 금융 피해로 직결되기는 어렵다”며 “복제폰 제작, 금융 앱 접근 정보 탈취 등 여러 단계의 추가 수단이 필요해 현실적으로 가능성은 낮다”고 설명했다. 그는 또 “IMEI 유출 가능성이 제기된 만큼, 초기 단계부터 정보의 위험성과 해명 내용을 명확히 전달했어야 했다”며 “유심 교체 방침을 발표할 당시 수급 상황을 고려하지 않은 점도 문제였다”고 지적했다. 국회 입법조사처는 최근 발표한 '통신사 해킹 사고 사후 대응의 문제점과 입법과제' 보고서에서 "사고 직후 정부와 통신사가 허위 정보 확산에 효과적으로 대응하지 못했고, 이용자에게 신뢰를 줄 수 있는 조기 안내 체계도 부재했다"며 "초기 단계부터 투명한 정보 공개와 허위 정보 대응 매뉴얼을 갖추는 것이 제도적 과제"라고 밝혔다. 박진호 교수는 "SK텔레콤과 같은 대기업이라면 매뉴얼 자체가 없었을 리는 없지만, 디테일이 부족했다"며 "예고된 공격에도 선제 대응이 미흡했고, 사후 조치에서도 홍보·안내 체계가 부족했다"고 지적했다. 이어 "이심(eSIM)은 실물 유심 탈취 위험이 없어 해킹 저항성이 더 높다"며 "통신사는 이심 전환과 관련한 가이드와 보호 옵션 안내를 더욱 명확히 해야 한다"고 덧붙였다. 유심 정보 암호화, 이제는 '의무'로 SK텔레콤의 침해사고 계기로 통신망에 저장되거나 전송되는 유심 관련 인증 정보의 암호화 저장 필요성이 본격적으로 제기됐다. 현재 인증 절차에 사용되는 유심 고유번호, 인증 토큰 등 일부 식별 정보는 통신사 시스템 내에서 평문으로 저장되거나 암호화되지 않은 채 전송되는 구조가 여전히 존재해 해킹 시 탈취 위험이 남아있다는 것이다. 기술적 조치 수준에서도 통신 3사 간 격차가 존재한다. KT는 2021년부터 IMSI 암호화 기능이 적용된 5G USIM을 도입했고, LG유플러스는 PUF(물리적 복제 불가능 함수) 기반의 고보안 유심을 상용화했다. 반면 SK텔레콤은 이번 사고 시점까지 암호화 조치를 적용하지 않았고, 사건 이후에야 관련 체계 강화에 착수했다. 국제 표준도 이와 관련한 최소한의 보안을 요구하고 있다. 5G SA 환경에서는 가입자 식별정보(SUPI)를 암호화된 형태(SUCI)로 전송해야 한다는 규정이 3GPP TS 33.501 표준에 명시돼 있다. 이는 LTE 시절 IMSI가 평문으로 전송되던 보안 취약점을 개선하기 위한 조치다. 국내에서 5G SA 상용화가 아직 이뤄지지 않았고 한국을 포함한 다수 국가에서는 해당 표준이 법제화로 이어지지 않았다. 이에 대해 전문가들은 “기술적으로는 사실상 의무인데, 제도적으로는 방치되고 있는 전형적인 보안 사각지대”라고 지적한다. 염흥열 교수는 “5G SA 환경에서는 전송 구간 암호화는 표준상 필수지만, 저장은 통신사 자율에 맡겨진 상황”이라며 “KT, LG유플러스는 암호화를 적용했지만 SK텔레콤은 하지 않아 업계 기준을 따르지 않은 셈”이라고 밝혔다. 이어 “민감 정보 저장 시 암호화를 의무화하는 법적 규제가 필요하다. 개인정보보호법이나 정보통신망법 개정을 통해 이를 보완해야 한다”고 강조했다. CISO 제도, '명문화'에서 '내실화'로 현행 정보통신망법에 따르면, 매출 1천500억원 이상이거나 일평균 이용자 수 100만 명 이상인 정보통신서비스 사업자는 정보보호최고책임자(CISO)를 지정해 신고해야 한다. 과거 대규모 정보 유출 사건을 계기로, 기업 내 보안 책임자 제도화를 통해 정보보호 역량을 강화하겠다는 취지로 도입됐다. 법적으로 CISO는 정보보호 정책 수립, 보안 예산 및 인력 운영, 사고 대응 총괄 등의 역할을 맡지만, 현실에서는 제도의 명문화와 실질 운영 사이 간극이 크다는 지적이 꾸준히 제기돼 왔다. 많은 기업이 CISO를 CTO, CIO 등과 겸직시키고 있으며, 독립적인 예산 편성과 정책 집행 권한도 제한적인 경우가 많다. 특히 CISO가 CEO에게 직접 보고하지 못하고, IT 부서 산하 실무 조직에 편입되는 경우가 많아, 보안 이슈가 경영 전략이나 예산 결정에서 후순위로 밀리는 구조적 문제가 반복되고 있다. 명목상 직책은 있지만 책임과 권한이 분산돼 실질적 대응력은 떨어질 수밖에 없다. 이번 SK텔레콤 유심 해킹 사고에서도 이러한 한계가 여실히 드러났다. SK텔레콤의 정보보호실은 AT·DT센터 산하 5개 실 중 하나로, 정보보호실장이 CISO를 겸직하고 있다. 정보보호실장은 사내 임원급 인사이지만 등기임원은 아니며, 사업보고서 상 주요 경영진 명단에도 포함돼 있지 않다. 이로 인해 보안 의사결정에서 전략적 독립성과 대응력 확보에 한계가 있었다는 지적이 나온다. 전문가들은 단순히 법령상 CISO를 지정하는 것만으로는 실질적인 보안 책임이 확보되기 어렵다며, 제도의 실효성 강화를 위한 보완이 시급하다고 입을 모은다. SK텔레콤 침해사고에서 CISO 제도가 '형식적으로 존재하는 것'과 '실제 작동하는 것'은 다르다는 점을 분명히 보여줬다는 것이다. 업계 한 관계자는 "많은 기업들이 여전히 CISO를 CTO나 CIO 등과 겸직시키고 있으며, CEO에게 직접 보고하는 체계도 부족해 보안 의사결정에서 배제되기 쉽다"면서 "독립적인 보안 예산과 인력 운영 권한을 부여하고, 사고 발생 시 책임 주체가 명확해지도록 제도적 보완이 필요하다"고 말했다. 다른 관계자는 "사이버 공격 자체를 100% 막을 수는 없다. 하지만 사고 이후 책임 구조가 명확하고, 투명하게 대응할 수 있는 시스템이 구축돼 있었는가가 기업 신뢰의 기준이 된다"며 "다음 사고를 피할 수 없다면, 피해를 줄이는 체계와 책임지는 구조라도 갖춰야 한다"고 강조했다. 염흥열 교수는 "침해사고는 결국 기업 내부에 취약점이 있었다는 의미"라면서 "상시적인 취약점 제거 체계와 함께, 외부 기관에 의한 정기적인 모의 해킹 테스트도 필요하다"고 했다.

2025.05.21 09:24최이담

테슬라 가짜 벽 충돌시험 '후속편' 등장...이번에는 사이버트럭

최근 테슬라의 첨단 운전자 보조 시스템 오토파일럿(Autopilot) 시스템을 활성화한 후 가짜 벽에 충돌시키는 테스트 영상이 화제가 됐다. 이 테스트는 카메라 기반의 테슬라 차량과 라이다(LiDAR) 장착 차량을 비교하기 위해 진행된 것으로 테슬라 차량은 가짜 벽을 인식하지 못하고 충돌했다. 결과가 공개된 후 '테스트 중 오토파일럿이 켜져 있지 않았다', '라이더 업체로부터 협찬을 받았다', '첨단 소프트웨어인 FSD가 아닌 오토파일럿으로 진행됐다'는 등 테스트의 객관성에 대한 의문들이 제기됐다. 자동차매체 인사이드EV는 24일(현지시간) 또 다른 유튜버 카일 폴(Kyle Paul)이 최근 두 대의 테슬라 차량을 가지고 동일한 테스트를 진행한 결과를 보도했다. 해당 테스트는 폐쇄된 코스에서 모두 테슬라의 첨단 주행보조·자율주행 소프트웨어 FSD를 활성화시켜 진행됐다. 첫 번째 테스트는 FSD 버전 12.5.4.2를 실행하는 이전 세대 하드웨어(HW) 3이 탑재된 모델Y 크로스오버 차량으로 이뤄졌다. 테스트 결과 모델Y는 FSD를 활성화 시켰음에도 불구하고 가짜 벽을 인식하지 못했다. 매번 차량이 벽을 감지하지 못해 운전자는 수동으로 브레이크를 밟아야 했다. 두 번째 테스트는 최신 HW4에 최신 FSD 버전 13을 실행하는 픽업트럭 사이버트럭을 가지고 진행했다. HW4가 장착된 차량은 더 많은 디테일을 포착할 수 있는 고급 카메라가 탑재됐고 최신 소프트웨어(SW)는 풀 해상도로 영상을 처리할 수 있다. 사이버트럭 테스트 결과 FSD를 활성화한 상태에서 가짜 벽에 접근하면 장애물이 차량의 터치스크린에 초기 단계부터 표시되고 사람의 개입 없이 차량이 완전히 정지했다. 이 테스트를 여러 번 실행했으나 결과는 같았다. 이에 해당 매체는 이런 상황이 현실에서 일어날 가능성은 극히 낮다며, 테슬라가 최신 HW와 SW로 해당 기능을 크게 개선한 것 같다고 평했다.

2025.03.25 20:50이정현

국민 10명 중 4명 "딥페이크 가짜뉴스 판별 어렵다”

과학기술정보통신부가 딥페이크 가짜뉴스 대응을 주제로 대국민 설문조사를 진행한 결과 응답자의 41.9%가 “판별하기 어렵다”고 답했다. 9일 과기정통부에 따르면 지난 10월10일부터 약 한달간 597명이 참여한 대국민 설문조사에서 응답다의 94.5%가 가짜뉴스는 개인과 사회에 미치는 영향이 심각하다고 응답했다. 매우 심각하다고 응답한 이들이 55.9%, 심각하다고 응답한 이들이 38.5%다. 특히 딥페이크를 활용한 가짜뉴스가 일반적인 가짜뉴스보다 부정적 영향이 더 심각하다고 답한 응답자는 84.9%에 달했다. 딥페이크 가짜뉴스를 접해본 응답자는 39%였으며, 딥페이크 가짜뉴스의 악영향으로 가장 우려되는 점은 인격적 피해가 48.2%로 가장 높았다. 응답자 41.9%는 딥페이크 가짜뉴스를 판별할 수 없다고 밝혔으며, 이들은 딥페이크 확산 원인으로 법제도 미비(36.5%)를 지적했다. 피해 예방을 위한 효과적 방법으로 강력한 입법과 정책(57.6%), 정부의 정책으로 '범죄자에 대한 처벌강화(36.9%)'를 요구하는 목소리가 많았다. 송상훈 정보통신정책실장은 “딥페이크 가짜뉴스가 개인과 사회에 미치는 부정적 파급효과가 크고, 기술 발전에 따라 사실과 구별하기 어려워지고 있다는 것에 국민들이 공감하고 있다”며 “신속히 법제도를 정비할 수 있도록 방송통신위원회와 적극 협력하겠다”라고 말했다.

2024.12.09 12:00박수형

"통행 불시검문·장갑차 출동" 비상계엄 혼란 노린 가짜 뉴스 주의

윤석열 대통령이 선포한 비상계엄으로 전국적으로 혼란이 일고 있다. 이런 상황을 틈타 시민들의 혼란을 가중시키려는 가짜뉴스와 사진이 배포되고 있어 주의가 요구된다. 3일 밤 윤석열 대통령의 비상계엄 이후 이와 관련된 가짜 뉴스가 온라인에서 확산 중이다. 윤 대통령이 오후 10시 25분 비상계엄을 선포한 이후 윤 대통령이 오후 11시 이후 통행 시 불시검문·체포'를 하겠다는 뉴스 이미지가 공개됐다. 하지만 관련 매체에서는 관련 내용을 보도한 적이 없으며 해당 이미지는 조작된 가짜 뉴스인 것으로 나타났다. 이 밖에도 국회 부근으로 장갑차가 파견됐다며 합성된 이미지가 공유되고 있다. 또한 올해 1월 군수도방위사령부 1경비단에서 진행한 기동 훈련 장면이 국회로 이동 중인 모습으로 알려져 확산되는 상황도 확인됐다. 사회적 혼란을 초래하는 가짜뉴스 배포는 일반적으로 명예훼손죄, 정보통신망법 위반에 해당하며 5년 이하의 징역 또는 1천만원 이하의 벌금형에 처해진다. 하지만 비상계엄 등으로 혼란스러운 상황에서 국가의 존립을 위협하거나 헌법적 질서를 전복하려는 것으로 판단된다면 국가 내란죄 등으로 확대 적용될 가능성도 있다. 이 경우 주도자는 사형, 무기징역 또는 5년 이상의 징역에 처해지며, 참여자도 무기징역 또는 3년 이상의 징역에 처해진다. 또한 이번 계엄령에서도 자유민주주의 체제를 부정하거나, 전복을 기도하는 일체의 행위를 금하고, 가짜뉴스, 여론조작, 허위선동을 금한다는 내용이 계엄사령부 포고령(제1호)에 포함됐다.

2024.12.04 00:39남혁우

"美 대선 토론서 활약"…팩티버스, 허위 정보 AI로 거른다

가짜뉴스·딥페이크 등 온라인 허위 정보가 급속도로 퍼진 가운데 이를 생성형 인공지능(AI)으로 차단하는 기술이 나왔다. 18일 테크크런치 등 외신에 따르면 노르웨이 스타트업 팩티버스가 허위 정보를 걸러낼 수 있는 AI 모델을 공개했다. 이 AI 모델은 텍스트부터 비디오·오디오 기반 콘텐츠 사실 여부를 실시간으로 걸러주는 서비스다. 주로 뉴스 기사나 공공데이터 등 검증받은 정보로 학습한 모델이다. 사실을 확인하는 방식은 간단하다. 예를 들어 한 발언자가 어떤 주장을 펼치면 이 AI 모델은 구글이나 빙 같은 일반 검색엔진과 학술 논문 사이트에 들어가 사실 여부를 확인·출처 수집을 진행한다. 이후 결과와 출처를 사용자에게 보여준다. 마리아 아밀리에 팩티버스 CEO는 "AI는 주제에 대해 신뢰할 만한 정보부터 출처로 제시한다"며 "믿을만한 뉴스 기사나 논문을 우선시한다"고 설명했다. 이어 "AI는 검색 결과·출처가 얼마나 주제와 관련 있는지 확인한다"며 "기사에 인용된 사람이나 논문 저자가 신뢰할 만한지도 평가한다"고 덧붙였다. 팩티버스는 자사 모델이 사실 진위여부 식별 능력 부문에서 오픈AI의 GPT-4o와 미스트랄AI의 미스트랄(70억) 등 114개 모델을 능가했다고 강조했다. 또 최근 미디어·금융 파트너사와 협력도 시작했다. 실제 미국 미디어 기업들은 팩티버스 솔루션으로 지난 2020년 열린 미국 대선 토론에서 후보 주장 진위 판단을 진행한 것으로 전해졌다. 현재 노르웨이 주요 금융 파트너사들도 해당 모델을 이용하기 시작했다. 팩티버스는 내년 시드 라운드 투자를 시작한다. 지금까지 145만 달러(약 20억1천300만원) 프리시드 자금을 유치한 상태다. 아밀리에 CEO는 "AI를 신뢰와 신용 향상에 활용할 수 있는 시대가 왔다"며 "이를 위한 고객과 투자자를 늘리는 것이 내년 목표"라고 말했다.

2024.11.18 10:40김미정

스타벅스 '짝퉁' 텀블러 13만개 제조·유통한 일당 검거

스타벅스 텀블러를 위조해 판매한 일당이 특허청에 체포됐다. 이들이 위조한 제품은 총 13만 점으로, 정품 시가 62억 원에 달한다. 15일 특허청 상표특별사법경찰은 위조 텀블러를 제조·유통한 총책 A씨(53세) 등 일당 9명을 상표법 위반 혐의로 불구속 입건했다고 밝혔다. 이들은 지난 2021년부터 작년까지 위조 스타벅스 텀블러 약 13만 점을 국내에서 제조·유통한 혐의를 받고 있다. 상표경찰은 일당이 수입을 시도한 위조 텀블러 부자재가 세관에서 적발되자 이를 활용한 위조 상품 제조와 유통이 이뤄졌을 것으로 판단하고 수사에 착수했다. 일당은 단속을 피하기 위해 텀블러를 구성품마다 분리해 수입한 뒤 국내에서 결합해 재가공하는 방식으로 위조 텀블러를 만들었다. 상표가 없는 텀블러 본체를 수입해 국내에서 스타벅스 로고를 무단 인쇄해 위조 텀블러 본체를 만들었고, ▲텀블러 뚜껑 ▲고무패드 ▲스티커 등도 해외에서 주문생산한 뒤 국내로 반입하고, 국내에서 포장 상자와 사용설명서 속지 등 인쇄물을 제작해 유통했다. 이들은 위조 텀블러를 병행수입제품인 것처럼 속여 ▲관공서 ▲기업 ▲민간 단체 등에 기념품이나 판촉물 형태로 온·오프라인을 통해 정품 대비 50% 이하 가격으로 판매했다. 또 수사기관의 단속 결과 정보나 온라인 플랫폼 제재 정보 등을 공유하기도 했다. A씨는 과거 단속 사례를 참고해 허위 증명서를 제출하는 방법으로 병행 수입 제품 위장을 시도했으나, 상표경찰의 디지털포렌식 분석 등을 통해 제조 행위를 포함한 범죄 수법이 밝혀졌다. 스타벅스 관계자는 “제품을 판매할 때 택 등 정품 인증 수단을 부착하고 있지만, 이것까지 위조할 가능성이 있다”며 “되도록 매장이나 공식 온라인 스토어 등 정식 판매처에서 구매하는 것이 좋다”고 설명했다.

2024.10.15 16:17류승현

러시아, 美 대선 트럼프 승리 위해 온라인 허위 정보전 펼쳤다

러시아가 온라인에서 가짜 신분과 유령 회사를 이용해 미국 유권자들의 정치적 분열을 조장하고 있다는 의혹이 제기됐다. 국영 미디어 러시아투데이(RT)가 온라인 콘텐츠를 활용해 미국 대선에 영향을 미치기 위한 다양한 수법을 동원한 것으로 드러났다고 로이터가 최근 보도했다. 특히 RT는 정치 뉴스를 조작하고 허위 인물을 생성하며 봇 및 가짜계정을 통해 온라인 허위정보를 유포한 것으로 알려졌다. 이같은 행보는 트럼프 전 대통령에 대한 지지를 강화하려는 시도로 보인다는 해석이다. 미국 정부는 RT의 이러한 활동이 러시아의 은밀한 정보전의 일환으로 파악하고 있다. 미국 내 정치적 혼란을 조장하고 러시아가 선호하는 선거 결과를 유도하려는 전략이라는 것이다. 실제로 미국 법무부는 RT 직원 두 명을 기소했다. 이들은 미국 내 정치적 분열을 증폭시키려는 목적으로 테네시 주의 한 회사에 온라인 콘텐츠 제작을 위탁하고 1천만 달러를 지급한 혐의를 받고 있다. 미국 중앙정보국(CIA) 등 정보기관은 이러한 외국 세력의 사이버 정보작전에 대응하기 위해 경계를 강화하고 있다. 또 러시아 외에도 중국과 이란 등 여러 국가가 미국 내 정치적 영향력을 행사하려는 시도를 지속하고 있다고 경고했다. 전문가들은 "러시아의 이러한 정보전은 단순한 정치 개입이 아니라 장기적인 글로벌 전략의 일환으로 볼 수 있다"며 "사이버보안을 강화해 외부 세력의 개입을 차단하는 것이 필수적"이라고 강조했다.

2024.09.12 14:27조이환

美 FBI, AI로 가짜 밴드·음악 만든 남성 체포

미 연방수사국이 인공지능(AI)을 이용해 가짜 밴드와 음악을 제작해 부당 이익을 챙긴 혐의로 한 남성을 체포했다. 9일 미국 테크 전문지 퓨처리즘에 따르면 노스캐롤라이나 출신의 마이클 스미스는 7년 동안 AI 기술을 악용해 음악 스트리밍 사기를 저지르면서 약 1천만 달러(약 130억원)의 수익을 올린 혐의를 받고 있다. 그와 함께 AI 음악 회사 대표도 공범으로 지목됐다. 스미스는 AI를 활용해 수십만 곡의 가짜 음악을 만들고 이를 스트리밍 플랫폼에 업로드했다. 이 음악들은 소프트웨어가 무작위로 생성해 저품질의 소음에 가까웠다. 그 후 그는 봇을 통해 수십억 회 재생시키는 방식으로 로열티를 챙겼다. 주요 스트리밍 플랫폼으로는 '아마존 뮤직', '애플 뮤직' '스포티파이' 등이 포함됐다. AI 음악 회사 CEO는 매주 수천 곡의 음악을 스미스에게 제공했으며 이들은 랜덤한 파일명과 가짜 밴드 이름을 사용해 플랫폼의 감시를 피하려 한 것으로 밝혀졌다. 곡의 이름과 밴드 이름은 무작위적인 명칭으로 구성됐다. 법무부는 스미스에게 돈세탁 및 전신 사기 혐의로 총 세 건의 기소를 진행하고 있다. 외신에 의하면 스미스는 각 혐의당 최대 20년의 형을 선고받을 수 있는 것으로 알려졌다. 외신은 "AI와 봇 기술을 악용한 사기가 증가하고 있다"며 "전문가들은 음악 산업의 보호와 관련한 새로운 규제가 필요하다고 경고하고 있다"고 분석했다.

2024.09.09 11:37조이환

이미지 AI 발전 가속…전문가들 "포르노·가짜 뉴스 남용 막아야"

생성 인공지능(AI)의 그림이 정교해지고 이미지 편집 기능이 추가돼 실제 사진과 구분이 점점 어려워지고 있다. 이를 남용하는 사례가 늘면서 윤리적 해결책과 법제화의 필요성이 커지고 있다. 19일 미국의 테크 전문지 벤처비트에 따르면 구글은 최근 미국 시장에서 '이마젠3'를 출시했다. 이는 지난 5월 구글이 해당 모델을 최초로 발표한 후 3개월 만이다. 이에 따라 '이마젠' 사용자들은 텍스트를 입력해 그림을 마음껏 그릴 수 있게 됐다. 업계는 이를 오픈AI의 이미지 생성 모델인 '달리'에 대항하려는 움직임으로 보고 있다. 구글보다 앞서 지난해 10월 오픈AI는 '챗GPT'에 '달리3'를 통합한 멀티모달 모델을 도입했다. 이는 지금까지 유료 이용자들에게만 제공됐던 모델이었지만 지난 15일부터 무료 사용자에게도 하루 최대 2건씩 제공되고 있다. 일론 머스크 엑스(X) 대표의 챗봇 '그록'도 이에 가세했다. 지난 13일 X는 프리미엄 사용자들에게 '그록-2'의 베타 버전을 제공하기 시작했고, 여기에는 이미지 생성 기능도 포함돼 있다. 이들 이미지가 점점 실제와 구분이 안 되는 수준으로 진화하고 있다는 것이 업계 전문가들의 의견이다. 실제로 루르 대학교가 올해 5월 실시한 조사에 따르면 3천명의 연구 참가자 대부분이 AI가 생성한 이미지를 실제 사진으로 착각한 것으로 나타났다. 이제 생성 AI가 단순히 그림을 생성하는 것뿐만 아니라 편집까지 할 수 있어 더 많은 우려를 낳고 있다. 샌프란시스코에 위치한 그림 AI 스타트업인 미드저니는 지난 15일 웹브라우저 이미지 편집기를 공개했는데 이 서비스는 이미지 일부를 다시 칠하거나 경계를 늘리는 등의 아웃페인팅 및 캔버스 확장 기능을 지원한다. 이렇게 이미지 생성 및 편집 AI가 급속도로 발전하면서 가짜 이미지 남용 가능성에 대한 우려가 커지고 있다. 실제로 머스크의 '그록'은 '이마젠'이나 '달리'와 달리 크게 검열되지 않고 있다. 머스크 X 대표가 '세상에서 가장 재미있는 AI'라고 표현한 그록은 프롬프트에 따라 대부분의 이미지를 생성할 수 있다. 외신에 따르면 '그록'은 프롬프트를 따라 테일러 스위프트· 카멀라 해리스 후보의 노골적 성적 대상화 이미지와 911 테러를 저지르는 트럼프 전 대통령의 사진 등을 생성한 바 있다. 전문가들은 검열되지 않는 이미지에 편집 기능까지 더해지면 문제가 더 심각해질 수 있다고 분석한다. AI는 아직도 영어를 제외한 글자들을 제대로 표시하지 못하고 사람의 손가락 같은 복잡한 형태를 그리지 못하지만 기술이 발전할수록 이러한 문제도 해결될 전망이기 때문이다. 이미 유사 기술인 딥페이크의 경우 기술이 고도화되면서 여러 문제가 발생했다. 지난 15일 샌프란시스코시 변호국은 딥페이크 포르노를 생성할 수 있는 사이트들의 폐쇄 조치를 요구하는 소송을 제기했다. 이 사이트들은 오픈소스 생성 AI를 사용해 피해자들의 동의 없이 얼굴을 포르노 영상과 합성하는 등의 문제를 초래했다. 이는 딥페이크 기술이 극도로 고도화되고 상용화가 가능한 수준에 이르렀음에도 관련 규제가 따라오지 못했음을 보여준다. 전문가들은 딥페이크와 마찬가지로 점점 고도화되고 있는 이미지 생성 및 편집 AI에도 신속히 규제를 마련해야 한다고 입을 모은다. 이미지 AI들이 고도의 편집 기능을 통해 성적 대상화 및 가짜뉴스 이미지를 대량생산할 가능성이 크기 때문이다. 이러한 폐해를 방지하기 위해 규제뿐만 아니라 기업들의 기술 개발도 필요하다고 전문가들은 분석한다. 하디 살만 오픈AI 연구원은 "기업들은 AI 도구의 잠재적 위협에 대한 방어 수단을 구축하는 데 투자해야 한다"며 "이를 위해 모델 개발자, 정책 입안자, 소셜미디어 플랫폼 간의 적극적 협력이 필요하다"고 강조했다.

2024.08.19 17:52조이환

"가짜뉴스 유통되는 네이버·유튜브 등 플랫폼 규제 필요"

네이버·유튜브 등에서 가짜뉴스 유통이 빈번해지며, 플랫폼 감독 책임을 강화하기 위한 규제가 필요하다는 학계의 주장이 나왔다. 특히 유튜브도 공적 규제의 대상으로 보고, 유튜버들에게도 사회적 책임을 부여해야 한다는 의견도 제기됐다. 미디어미래비전포럼과 국민의힘 미디어특별위원회는 16일 오전 10시 국회의원회관 제3세미나실에서 '가짜뉴스 방치하는 플랫폼! 공적책임 강화 정책토론회'를 개최했다. 토론회를 주관한 김장겸 국민의힘 의원은 "네이버, 유튜브 등 플랫폼을 통해서 무분별하게 유통되는 가짜뉴스가 민주주의를 위협하고 있다고 해도 과언이 아니다"라며 "가짜뉴스가 신속히 걸러질 수 있도록 플랫폼에 사회적 책임을 부여하고, 허위 사실 유포에 대해 엄중한 책임을 물을 수 있도록 법적·제도적 개선 방안을 논의하고자 한다"고 말했다. 한기호 국민의힘 의원은 축사를 통해 "서이초등학교 사건 당시 서이초 옆에 산다는 이유로 검색 순위 1위에 올랐다"고 말했다. 지난해 인터넷에서는 서이초 교사를 극단적 선택으로 몰고 간 학부모의 가족이 한 의원이라는 추측이 퍼진 바 있다. 한 의원은 "그때 황당한 경험을 당해보고 나서 얼마나 무서운 지 깨달았다"며 "허위 정보 유포가 제재가 될 수 있도록 해야 한다"고 강조했다. "네이버, 부실 언론 퇴출해야" 이날 경희대학교 미디어대학원 김용희 교수는 발제에서 가짜뉴스 유통에 대한 네이버의 관리 책임을 강조했다. 김 교수는 "네이버는 많은 소비자가 뉴스를 접하는 경로"라며 "그러나 네이버를 통해 가짜뉴스가 유통되고 있다"고 주장했다. 이어 그 원인에 대해, 일부 언론이 트래픽을 확보해 광고 매출을 증대하고자 가짜뉴스 유포를 일삼기 때문이라고 짚었다. 김 교수는 "일부 인터넷 신문은 가짜뉴스를 공유하며 클릭 장사를 하고 있다"면서 "네이버가 퇴출 조치를 하지 못하는 이유는 해당 언론사의 저항이 크기 때문"이라고 추측했다. 이에 김 교수는 부실 언론에 대한 퇴출 방안이 필요하다고 주장했다. 구체적으로 플랫폼 자체 평가 시스템, 실시간 모니터링 시스템, 부실 언론에 대한 계약 해지 모델 등의 마련을 대안으로 제시했다. 그러면서도 플랫폼이 이런 방안을 만들고자 할 때 근거로 삼을 만한 법적 제도가 먼저 마련돼야 한다고 강조했다. "가짜뉴스 유통 관련 플랫폼 규제 어려워" 동의대학교 미디어커뮤니케이션학과 이준호 교수는 발제에서 방송4법에 대해 "매체 환경 전반을 다 담을 수 없는 상당히 후진적인 법"이라며 "기존 매체와 제도권 언론, 지상파 방송에 대한 책임성만 부여했을 뿐, 새롭게 나타나 파급력이 큰 포털이나 플랫폼 기업에 대한 실질적 규제는 하나도 없다"고 했다. 이 교수는 플랫폼의 감시 의무를 강제하는 규제 마련이 필요하지만, 걸림돌이 많다고 주장했다. 그는 "새로운 규제법을 만들었을 때 규제를 담당할 기관조차 설립하기 어렵다"며 "KBS 사장을 뽑거나 방통위원장을 선출할 때처럼 규제 기구를 만들 때도 큰 문제가 발생할 수 있다"고 말했다. 또 유튜브의 경우 규제 자체가 어려울 것이라 내다봤다. 이 교수는 "유튜브를 소유한 구글을 규제하다가 실패한 나라가 대부분"이라면서 "강력한 사후적 경제 규제, 징벌적 규제 밖에는 방법이 없다"고 밝혔다. "플랫폼 공적 규제 필요해" 이날 토론에서는 플랫폼에 대한 공적 규제가 필요하다는 의견도 나왔다. 이종명 성균관대 글로벌융합학부 교수는 "유튜버들은 자신들은 방송이라는 공공재와 전파라는 공공서비스를 이용하지 않는 사적 기업인데 왜 공공성이라는 키워드로 규제하려고 하냐고 말한다"며 "그러나 소비자들은 유튜브 영상이 MBC, KBS, SBS에서 만든 뉴스인지 유튜브에서 만든 뉴스인지 판별하기 힘들기 때문에 동일 서비스를 제공받는 것과 유사한 형태"라고 설명했다. 이어 "유튜브를 공적 규제의 대상으로, 유튜버들에게도 사회적 책임을 부여해야 한다"고 덧붙였다. 박기완 대한민국언론인총연합회 정책위원장은 "가짜뉴스의 확산 방지를 위해 포털은 가짜뉴스 삭제 및 차단, 신고 접수, 팩트체크 시스템 운영 등을 해야 하고 이것을 법적으로 명시해야 한다"면서 "관련 공적 규제 기구를 정비해야 한다"고 강조했다. 인공지능(AI) 기술을 활용한 팩트체크 시스템 마련이 필요하다는 목소리도 나왔다. 법무법인 주원 김진욱 변호사는 "민간 AI 기술 역량들이 많이 올라와서 AI를 통한 실시간 팩트체크가 가능하다"며 "이런 부분에 대해 공적이 기관이 지원해서 역량을 극대화시키고 이를 공적 영역에서 직접적 도입, 활용 하길 바란다"고 제언했다.

2024.08.16 15:34조수민

  Prev 1 2 Next  

지금 뜨는 기사

이시각 헤드라인

한미 관세 팩트시트 확정…기업들 "불확실성 걷혔다"

웹툰엔터vs픽코마, 3분기 성적·확장 전략 비교해보니

벤츠, 韓에 직판제·亞구매 허브 구축…"세계 최고 고객 경험 선사"

해킹 인질된 핀테크社 "몸값 줄 돈, 보안 연구 기부하겠다"

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.