• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
스테이블코인
배터리
AI의 눈
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'딥페이크'통합검색 결과 입니다. (30건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

AI 선거운동 규제 바뀔까…차지호 의원 "금지 대신 처벌 강화"

생성형 인공지능(AI)을 활용한 선거운동 규제를 전면 금지에서 투명성 중심 관리 체계로 전환하는 공직선거법 개정안이 발의됐다. AI 기술 악용에 대한 처벌은 강화하되, 표현의 자유 침해 논란을 최소화하겠다는 취지다. 16일 관련 업계에 따르면 국회 외교통일위원회 소속 더불어민주당 차지호 의원은 최근 딥페이크 등 생성형 AI 기술을 활용한 선거운동 규제를 합리적으로 재설계한 '공직선거법 일부개정법률안'을 대표 발의했다. 해당 법안은 AI 생성물에 대한 규제 방식을 기존의 일괄 금지에서 표시 의무와 유통 관리 중심으로 전환하는 내용을 담고 있다. 또 본회의를 통과하고 대통령 공포 후 3개월이 경과한 날부터 시행될 예정이다. 현행 공직선거법은 선거일 전 90일부터 딥페이크 영상 등 인공지능 기술로 만든 콘텐츠를 이용한 선거운동을 전면 금지하고 있다. 그러나 기술 발전 속도에 비해 규제가 경직돼 있고 헌법상 표현의 자유를 과도하게 제한할 수 있다는 비판이 꾸준히 제기돼 왔다. 개정안의 핵심은 전면 금지 규정을 삭제하고, 선거운동에 활용되는 AI 생성물에 대해 유권자가 쉽게 인식할 수 있도록 인공지능 생성물임을 명확히 표시하도록 의무화한 점이다. AI 기술로 생성·편집된 영상, 음성, 이미지 등 콘텐츠를 제작하거나 유포할 경우 표시 의무가 적용된다. 대신 허위 정보 유포와 여론 조작에 대해서는 규제를 강화했다. AI 생성물임을 표시하지 않거나 거짓으로 표시해 유권자를 오인하게 하는 행위는 명확히 금지된다. 자동화된 계정, 조직적·계획적 방식, 알고리즘의 인위적 증폭을 통해 특정 후보자나 정당에 관한 허위 또는 오도될 수 있는 정보를 대규모로 확산시키는 행위도 처벌 대상이다. 처벌 수위도 구체화됐다. AI 생성물을 이용해 당선되거나 되게 할 목적으로 허위 사실을 공표한 경우 5년 이하의 징역 또는 3천만원 이하의 벌금에 처하도록 했다. 낙선을 목적으로 후보자나 그 가족에 관한 허위 사실을 공표한 경우에는 7년 이하의 징역 또는 500만원 이상 5천만원 이하의 벌금이 부과된다. 온라인 플랫폼 사업자에 대한 책임 규정도 신설됐다. 대통령령으로 정하는 온라인 플랫폼 운영자는 자동화된 계정 차단, 알고리즘 투명성 확보 등 인위적 정보 확산을 막기 위한 합리적인 관리 조치를 취할 노력 의무를 지게 된다. 이를 정당한 사유 없이 이행하지 않을 경우 3천만원 이하의 과태료가 부과될 수 있다. 표현의 자유 보호 장치도 함께 마련됐다. 풍자, 패러디 등 예술적 표현으로 전체 맥락상 AI 생성물임을 충분히 인지할 수 있고 선거의 공정성을 해할 우려가 없는 경우, 그리고 언론 보도를 목적으로 한 명백한 AI 활용 표현은 표시 의무 적용 대상에서 제외된다. 차지호 의원은 제안 이유에서 "생성형 AI 기술의 급격한 발달로 선거 과정에서 딥페이크를 이용한 허위 정보 유포와 여론 조작 위험이 커지고 있다"며 "규제 방식을 투명성 확보와 유통 관리 중심으로 전환해 디지털 시대에 부합하는 선거의 공정성을 실효적으로 확보하려는 것"이라고 밝혔다.

2026.02.06 18:28남혁우 기자

[AI는 지금] '19금' 대화 꺼내든 AI 챗봇…그록 사태에 제동?

일론 머스크의 인공지능(AI) 기업 xAI가 개발한 챗봇 '그록(Grok)'이 아동 성 착취물 제작 도구로 전락했다는 비판을 받고 있다. 각국이 강도 높은 규제 조치에 나선 가운데, 오픈AI가 차세대 수익 모델로 점찍은 'AI 성인 모드 대화' 등 시장 전반에 미칠 영향이 주목된다. 전 세계 공분 산 '그록' 딥페이크 사태가 뭐길래 18일 정보기술(IT)업계에 따르면 최근 '엑스(X·옛 트위터)' 유료 사용자들에게 제공된 그록의 이미지 생성 및 편집 기능이 악용되고 있다. 실존 인물 사진을 비키니·속옷·나체에 가까운 모습으로 합성하는 데 사용됐다는 제보가 온라인상에 쏟아졌다. 특히 미성년자를 대상으로 한 성 착취 딥페이크까지 제작·유포된 정황이 드러나며 논란이 확산됐다. 전 세계 정부와 규제당국도 조사와 해명 요구에 나섰다. 인도네시아와 말레이시아는 즉각 그록 접속을 차단했고 일본·필리핀 등도 규제·차단 조치를 논의 중이다. 영국 방송미디어 규제기관인 오프콤(Ofcom)도 온라인안전법 위반 여부에 대한 공식 조사에 착수했다. 미국은 캘리포니아주 법무부가 xAI에 대해 동의 없는 음란 이미지와 아동 성 착취 딥페이크 생성 혐의로 조사에 나선 상태다. 뒤늦은 수습 나선 엑스…머스크 "몰랐다" 해명 비판과 수사가 전방위로 확산하자 엑스 측은 수습에 나섰다. 엑스는 그록에서 실제 인물을 비키니나 속옷 등 노출이 심한 복장으로 편집하거나 생성하는 기능을 기술적으로 차단했다고 공식 발표했다. 또 아동 성 착취물이나 비동의 누드 콘텐츠는 '무관용 원칙'을 적용해 해당 계정을 영구 정지하고 사법 당국과 적극적으로 협력하겠다는 방침을 밝혔다. 특히 이미지 생성 및 편집 기능을 유료 구독자에게만 한정 제공해 악용 시 책임 추적을 한층 강화하겠다고 덧붙였다. xAI 설립자인 일론 머스크도 자신의 엑스 계정을 통해 해명에 나섰다. 머스크는 "그록이 미성년자 나체 이미지를 생성했다는 사실을 인지하지 못했다"고 부인했다. 문제 원인이 시스템 자체 결함에 있기보다 일부 사용자의 악의적인 요청과 기술적 버그 탓이 크다는 설명이다. 동시에 그는 각국 서비스 차단·조치가 '검열'에 가깝다는 불쾌감도 드러냈다. '성인용 AI' 수익화 노리던 업계도 '고심' 성인용 콘텐츠를 통해 정체된 수익성을 돌파하려던 AI업계도 이번 사태가 미칠 직간접적 여파를 예의주시하는 모양새다. 연령 인증 우회, 콘텐츠 악용 같은 기존 우려에 더해 그록의 성적 딥페이크 논란으로 글로벌 규제 압박이 커진 탓이다. AI 챗봇의 성인용 대화 기능을 준비하던 기업들은 강화된 안전장치 없이는 시장 진입이 어려워졌다. '표현의 자유'와 '사회적 안전' 충돌 속에서 고강도 규제는 불가피할 것으로 보인다. 해외 시장에서는 '레플리카(Replika)' 같은 AI 동반자 서비스들이 성인용 대화 시장을 선점 중이다. 캐릭터닷AI 역시 로맨틱 롤플레잉을 제공하며 사용자 몰입도를 높이는 전략을 펼치고 있다. xAI는 지난 2025년 3월 업계 최초로 '그록'에 성인 모드를 공식 도입했고, 같은 해 연말 오픈AI도 성인 인증을 완료한 사용자에게 성인용 에로틱 대화를 허용하겠다는 방침을 내놨다.

2026.01.18 16:00이나연 기자

'xAI' 딥페이크 음란물 생성 논란, 美 캘리포니아 법무부 조사 착수

일론 머스크가 설립한 인공지능(AI) 기업 xAI가 캘리포니아주 법무부 조사를 받는다. xAI의 AI챗봇 '그록(Grok)'이 실존 인물 사진을 기반으로 동의 없는 음란 이미지를 생성하고 유포하는 데 악용되고 있다는 혐의다. 15일 CNBC 등 외신에 따르면 롭 본타 캘리포니아주 법무장관은 "그록을 이용해 제작된 비동의 성적 게시물의 확산 혐의로 xAI조사를 진행 중이라고 성명을 통해 밝혔다. 그는 "xAI가 여성과 소녀들을 괴롭히는 데 사용되는 딥페이크 음란물의 대규모 생산을 조장하고 있는 것으로 보인다"며 "이러한 이미지들은 소셜미디어 엑스(X) 를 포함한 인터넷 전반에서 유통되고 있다"고 덧붙였다. 인터넷 감시 재단 조사 결과에 따르면 그록은 일부 사례에서 미성년자 사진을 이용해 가상 나체 이미지를 생성하는 기능까지 제공한 것으로 드러났다. 이번 미국 내 조사는 이미 국제적으로 확산된 우려에 뒤이어 나온 것이다. 현재 인도, 말레이시아, 인도네시아, 아일랜드, 영국, 프랑스, 호주 등 다수의 국가 정부 기관이 대응에 나섰으며, 유럽연합 집행위원회(EC) 또한 조사를 진행 중이다. 말레이시아와 인도네시아는 이미 문제 해결 전까지 그록의 사용을 중단하는 조치를 취한 것으로 알려졌다. 미국 내에서도 비판의 목소리가 커지고 있다. 민주당 상원의원 3명은 애플과 구글에 서한을 보내, xAI가 비동의 음란물 및 아동 성착취 묘사 딥페이크 생성 방지 대책을 마련할 때까지 앱스토어에서 X와 그록 앱을 삭제할 것을 촉구했다. 울트라바이올렛, 전미여성기구(NOW) 등 여성 및 아동 인권 단체들 역시 앱 삭제를 강력히 요구하고 있다. 이에 대해 일론 머스크는 15일 X 게시물을 통해 "그록이 생성한 미성년자 나체 이미지를 인지하지 못했다"고 주장했다. 또 불법 콘텐츠 생성 및 공유의 원인으로 '사용자 요청'과 그록 시스템 내 잠재적 버그를 지목했다. 앞서 xAI는 논란이 확산되자 유료 구독자에 한해 일부 이미지 생성 및 편집 기능을 제한하겠다고 발표한 바 있다. 한편 미국 상원은 지난 14일 딥페이크 음란물의 피해자가 제작 및 유포 기업을 상대로 민사 소송을 제기할 수 있도록 하는 '디파이언스 법(DEFIANCE Act)'을 통과시켰다. 해당 법안은 하원의 검토를 남겨두고 있다.

2026.01.15 09:35남혁우 기자

[신년 인터뷰] "AI 역기능 막는 기술 확보가 국가 경쟁력 좌우"

글로벌 경제 위기 속에서 올해 인공지능(AI) 산업은 다시 한 번 중대한 분기점에 섰다. 생성형 AI의 급격한 확산 후 이어진 성능 경쟁과 투자 열풍은 이제 '얼마나 더 큰 모델을 만들 수 있는가'라는 질문을 넘어 'AI가 실제 무엇을 할 수 있는가'라는 보다 본질적인 문제로 이동하고 있다. 지디넷코리아는 릴레이 인터뷰를 통해 각기 다른 위치에서 AI 산업을 바라보는 리더 시선을 종합해 올해 AI 산업이 어디로 향하고 있는지, 무엇을 준비해야 하는지를 짚어본다. 기술 낙관과 과도한 불안 사이에서 AI의 현실적인 진화 경로와 산업적 의미도 살펴본다. [편집자주] "인공지능(AI)이 자율주행과 로봇, 에이전트 시스템으로 진화하면 우리가 지금까지 경험하지 못한 새로운 위험을 만들어낼 수 있습니다. 기술 개발뿐 아니라 안전성과 보안, 역기능 대응을 위한 투자가 반드시 병행돼야 하는 이유입니다. 안전과 통제를 처음부터 내재화한 AI 시스템을 설계하는 것이 국가 경쟁력 측면에서도 중요합니다." 성균관대 우사이먼성일 소프트웨어학과·인공지능대학원 교수는 지디넷코리아와 만나 AI 발전과 함께 커지고 있는 기술 안전성 문제를 이렇게 진단했다. 우 교수는 AI 기술 부작용을 최소화할 방법을 연구하는 학자다. 개인정보 침해와 허위 정보 생성, 저작권 문제, 범죄 악용 등 AI 확산으로 인해 나타나는 사회 위험을 기술적으로 통제하는 데 연구 초점을 맞추고 있다. 가장 대표 연구 분야는 머신 언러닝을 이용한 개인정보 보호 기술이다. 머신 언러닝은 AI 모델이 학습한 특정 데이터를 선택적으로 삭제할 수 있도록 하는 기술이다. 보통 모델이 학습 과정에서 방대한 정보를 내부에 저장하지만, 어떤 정보가 어떤 결과에 영향을 미쳤는지 알기 어렵다. 이에 개인이 자신의 개인정보를 삭제해 달라고 요구해도 기존 AI 모델에서는 이를 정확히 반영하기가 거의 불가능하다. 머신 언러닝은 이 문제를 해결하기 위한 기술이다. 최근 그는 이를 실제 개인정보 보호에 적용할 수 있도록 기술을 업그레이드했다. 기존 방식은 특정 데이터를 삭제하기 위해 해당 데이터를 제외한 나머지 데이터로 모델을 재학습해야 했다. 이는 초거대 AI 모델 환경에서 시간·비용 측면에서 사실상 불가능하다. 그는 "기존 언러닝 기법은 연구실에선 가능했지만 실제 서비스에 적용하기에 매우 비효율적"이라고 주장했다. 우 교수 연구팀은 이 문제를 해결하기 위해 새 접근법을 제시했다. 핵심은 원본 데이터를 보관하지 않아도 모델 성능과 삭제 정확도를 동시에 유지하는 방식이다. 이에 원본 데이터를 보관하거나 재학습을 별도로 진행하지 않아도 모델 성능을 유지할 수 있다. 그는 "원본 데이터 대신 통계적으로 유사한 합성 데이터를 생성·활용해 한계를 극복했다"고 강조했다. 그는 삭제 대상 데이터가 다른 데이터와 섞여 변형된 경우에도 제거 가능하다고 설명했다. 그는 "실제 데이터는 단독 존재하지 않고 여러 문장이나 문서, 다른 데이터와 연결돼 학습된다"며 "이를 그래프 구조로 표현하면 어떤 정보가 다른 정보에 어떻게 영향 미쳤는지 추적할 수 있다"고 말했다. 그러면서 "특정 이름이나 문장, 파생 정보까지 한 번에 제거할 수 있는 이유"라고 덧붙였다. 이 연구 성과는 지난해 12월 미국 샌디에고 컨벤션 센터에서 열린 국제 AI 분야 학회 NeurIPS(Neural Information Processing systems)에 발표됐다. 이 연구는 올해 과학기술정보통신부 재원과 정보통신기획평가원(IITP) 지원으로 추진 중이다. 연구 과제명은 '개인정보보호 관련 정책 변화를 유연하게 반영하여 준수하는 AI 플랫폼 연구 및 개발'이다. 우 교수는 해당 기술이 향후 기업과 정부 시스템에도 유용할 수 있을 것으로 봤다. 그는 "기업은 고객 개인정보나 저작권 있는 문서·이미지, 책 내용을 AI 모델에 학습시키기만 하면 된다"며 "삭제 요청이 들어오면 이를 기술적으로 반영하면 된다"고 설명했다. 그는 현재 여러 국내 기업과 협력해 챗봇이나 검색, 문서 분석, 법률 AI 등 서비스에 해당 기술을 적용하는 연구를 진행하고 있다. 그는 "개인정보나 저작권 삭제 요구가 많은 분야일수록 실무적 가치가 큰 기술"이라며 "언러닝 성능을 AI 안전성 평가 지표로 활용하는 방안도 고려 중"이라고 덧붙였다. 우 교수는 이달 시행될 국내 AI기본법과 연구 성과가 깊이 연결될 것으로 내다봤다. 그는 "그는 유럽 일반정보보호규정(GDPR)처럼 한국 AI기본법은 개인의 데이터 삭제 권리를 보장하는 것이 필수일 것"이라며 "우리 방식은 이런 법적 요구를 실제 AI 모델에 기술적으로 반영할 수 있는 현실적 해법"이라고 강조했다. "딥페이크도 '문맥'으로 잡아야"...기술력 전 세계 2위 기록 우 교수는 딥페이크 감지 기술 분야에서도 활발한 연구를 이어가고 있다. 특히 최신 생성형 AI가 만들어내는 새로운 형태의 딥페이크까지 탐지하는 기술 개발에 주력하고 있다. 그는 현재 다수 딥페이크 탐지 모델 성능이 최신 AI 기술을 따라가지 못하는 점을 꼬집었다. 모델 학습에 사용된 데이터와 실제 딥페이크 확산 형태가 다르다는 점을 근본 원인으로 짚었다. 그는 "최신 AI가 만드는 딥페이크는 기존 데이터와 특성이 전혀 다르다"며 "탐지 모델 성능이 실제 환경에서 급격히 떨어질 수밖에 없다"고 말했다. 우 교수 연구팀은 이런 문제를 해결하기 위해 새 방법론을 적용한 딥페이크 탐지 모델을 제시했다. 연구팀은 'DINO'와 'CLIP-ViT' 계열 모델로 이미지와 텍스처, 의미적 패턴을 폭넓게 이해할 수 있는 모델을 구축했다. DINO는 대규모 웹 데이터 기반으로 사전 학습된 모델이다. CLIP-ViT는 텍스트와 이미지 간 의미 관계를 학습한 모델이다. 연구팀은 이를 딥페이크 탐지에 맞게 재학습해 이미지 백본으로 활용했다. 이후 이 모델 위에 딥페이크 전용 어댑터 모듈도 추가했다. 이에 모델은 영상과 이미지에 포함된 미세한 위조 흔적까지 포착할 수 있다. 우 교수는 해당 모델이 단순 이미지 분류를 넘어서 의미론적 개념을 이해하도록 설계된 것을 핵심 기능으로 제시했다. 그는 "이 모델은 특정 유형 딥페이크에 과적합 되지 않는다"며 "여러 위조 콘텐츠를 안정적으로 탐지할 수 있다"고 설명했다. 해당 연구는 지난해 과기정통부 재원으로 IITP 지원을 받아 '디지털역기능대응기술개발'사업으로 수행됐다. 사업명은 '악의적 변조 콘텐츠 대응을 위한 딥페이크 탐지 고도화, 생성 억제, 유포 방지 플랫폼 개발'이다. 해당 모델로 성과도 얻었다. 지난해 국제 컴퓨터비전 학술대회(ICCV)가 주최한 딥페이크 탐지 'SAFE 챌린지'에서 이탈리아 나폴리대 연구팀에 이어 전 세계 2위를 기록했다. 또 지난해 성균관대와 한국정보과학학회가 공동 주최한 '성균관대x한국정보과학학회 딥페이크 경진대회'에서 대상과 우수상을 각각 수상했다. 우 교수는 향후 딥페이크 연구 방향도 제시했다. 그는 "실제 환경에 가까운 조건에서 모델을 연구·평가할 것"이라며 "특히 메신저와 소셜미디어(SNS) 환경처럼 저화질·압축 영상이 많은 환경서도 안정적으로 딥페이크를 탐지할 수 있는 모델을 구축할 것"이라고 덧붙였다.

2026.01.14 15:36김미정 기자

박수현 의원, AI·딥페이크 대응 '퍼블리시티권보호법' 대표발의

박수현 더불어민주당 의원은 '퍼블리시티권 보호 및 이용에 관한 법률 제정안'을 대표발의했다고 5일 밝혔다. 이는 인공지능(AI) 기술 발전에 따른 개인 얼굴·목소리 등 무단 이용을 방지하고, 퍼블리시티권을 체계적으로 보호하기 위한 조치다. 이번 제정안은 개인 초상·성명·음성 등 특정 사람을 식별할 수 있는 요소가 갖는 재산 가치를 보호하고, 공정한 이용 질서를 확립함으로써 문화 가치 창출과 문화 산업 경쟁력 강화 기여 목적으로 한다. 주요 내용으로는 퍼블리시티권을 독립된 재산 권리로 명시하고, 문화체육관광부장관이 관련 시책을 수립·시행하도록 했다. 퍼블리시티권은 권리자 생존 기간과 사망 후 30 년간 존속하며, 권리자 또는 상속인은 초상·음성 등 이용을 허락할 수 있도록 했다. 다만 시사보도나 정보 전달 등 공익 목적 이용에 대해서는 권리자 허락 없이 초상 등을 이용할 수 있는 예외를 뒀다. 또 AI 등을 활용해 생성된 디지털 모사물을 공연·전송·배포할 경우, 해당 콘텐츠가 디지털 모사물임을 명확히 표시하고 위반 시 1천만원 이하 과태료를 부과하는 내용도 담았다. 아울러 권리자 명예를 훼손하는 내용 디지털 모사물을 제작하는 행위 등을 퍼블리시티권 침해행위로 간주했다. 고의성이 인정될 경우에는 손해로 인정된 금액 5배를 넘지 않는 범위에서 배상액을 정할 수 있도록 했다. 박수현 의원은 "AI 기술 발전은 새로운 문화 산업 기회를 제공하는 동시에, 개인 얼굴과 목소리 같은 정체성 요소를 무분별하게 침해할 위험도 함께 키우고 있다" 며 "기술 발전 속도에 맞는 권리 보호 체계를 마련하는 것이 입법 책무"라고 밝혔다. 이어 "퍼블리시티권 보호를 통해 개인 정당한 권익을 지키는 동시에, 문화 콘텐츠 산업이 지속 가능하게 성장할 수 있는 토대가 마련되기를 기대한다"고 강조했다.

2026.01.05 16:05진성우 기자

"딥페이크 의사 광고 금지법, 소비자 보호 효과는 분명”

딥페이크를 활용해 가짜 의사를 내세운 광고를 금지하는 법안이 소비자 보호 효과는 분명하지만 사업자의 과도한 규제는 부담이 될 수 있다는 분석이 나왔다. 국회입법조사처는 31일 발간한 온라인 광고 딥페이크 활용 고지 표시 훼손 또는 위변조 금지 의무 법안의 입볍영향분석 보고서를 통해 이같이 평가했다. 입법영향분석 보고서는 법률안이 시행될 경우 발생할 것으로 예상되는 전반적인 영향을 객관적이고 과학적인 방법으로 예측 분석한 것으로 국내외 연구 논문, 헌재 판례, 국내외 입법례, 이해관계자 의견 등을 종합적으로 반영한다. 현재 소비자는 광고의 진위와 신뢰성을 판단하기 어려워지고, 조작된 영상을 사실로 오인해 제품을 구매하는 등 실질적인 피해로 이어질 우려가 커지고 있다. 특히 식의약품 분야에서는 특정 인물이나 신체 이미지를 합성한 광고가 높은 홍보 효과를 내는 점을 악용한 허위과장 광고가 반복되고 있다. 가상의 이미지를 실제 의사나 전문가의 권고로 오인하는 피해와 건강 정보에 취약한 노년층이 거짓 의학 정보에 노출될 경우 생명과 신체에 대한 직접적인 위험으로 이어질 수 있다는 점에서 제도적 대응의 필요성이 크다. 이와 같은 문제를 해결하기 위해 AI 생성 광고의 표시를 훼손 변조하는 행위를 금지하고, 플랫폼 사업자에게 해당 광고의 삭제 의무를 부과하는 정보통신망법 개정안이 발의됐다. 입법조사처는 법안에 대한 입법영향분석을 실시한 결과 소비자 보호 측면의 효과는 분명하지만 규제 기준의 모호성으로 인해 사업자 부담이 과도해질 우려가 있다고 밝혔다. 먼저 소비자 보호 효과가 크다고 봤다. 현행법은 AI 생성물 표시 의무를 규정하고 있으나, 표시를 고의로 삭제하거나 가리는 행위에 대한 제재는 충분하지 않다. 개정안은 이러한 입법 공백을 보완해 소비자에게 정확한 정보를 제공하고, AI 표시의 신뢰성을 제고해 소비자 오인에 따른 피해 확산을 예방하는 데 기여할 것으로 평가된다. 이와 함께 광고 게시자의 표현의 자유 제한 우려가 제기되고 있다. '훼손'이나 '위변조'의 개념이 명확하지 않을 경우, 단순 편집이나 저화질 변환 등 고의성이 없는 행위까지 규제 대상에 포함될 가능성이 있다. 이는 표현의 자유를 위축시킬 수 있으므로, 하위 법령을 통해 금지 행위의 범위를 구체화할 필요가 있다. 또 정보통신서비스 제공자의 영업의 자유 제한 우려가 있다. 개정안은 정보통신서비스 제공자에게 표시가 훼손 조작된 광고에 대한'지체 없는 삭제'의무를 부과하고 있으나, 이는 기존 정보통신망법상 불법정보 삭제 체계에 비해 사업자의 판단 부담을 크게 가중시킬 수 있다는 것이다. 이에 따라, 입법조사처는 입법영향분석 결과를 토대로 소비자 보호와 사업자에 대한 합리적 규제가 균형을 이룰 수 있는 입법적 논의 방안을 제안했다. 또 입법적 논의와 보완을 거쳐 본 법률안이 실제로 통과된다면, 법률 시행 3년 후 사후 입법영향분석을 실시해 규제 효과와 사업자의 이행 상황을 재점검하는 절차도 제시했다.

2025.12.31 10:52박수형 기자

'2025 디지털 윤리대전' 대상에 동궁초 학생팀

방송미디어통신위원회와 한국지능정보원은 '2025 디지털윤리대전 및 인터넷‧통신 이용자 보호 유공 포상 수여식'을 열다고 30일 밝혔다. 행사는 디지털 역기능에 대한 경각심을 높이고 건전한 이용 문화를 사회 전반으로 확산하기 위해 마련됐다. 행사 비전은 '안전을 더하는 인공지능, 아름다운 디지털 세상'이다. 생성형 인공지능의 확산으로 심화되고 있는 첨단조작기술영상(딥페이크), 허위조작정보 등 디지털 역기능에 대응하는 한편, 인공지능을 안전하고 책임있게 활용하는 문화를 실천해 나가자는 의미다. 디지털윤리 창작콘텐츠 공모전 시상과 건전한 디지털윤리 문화 조성에 기여한 개인과 단체를 격려하는 자리로, 약 150명이 참석했다. '디지털윤리 문화조성 유공' 표창엔 디지털윤리 교육 및 인식 제고에 기여한 공로로 이유정 한국지능정보원 선임과 전창배 국제인공지능윤리협회 이사장, 조은아 인천당하초등학교 교사, 교보교육재단(단체)이 선정됐다. '디지털윤리 창작콘텐츠 공모전' 대상(대통령상)은 딥페이크 위험성과 올바른 대처 방법을 그림일기로 제출한 부산 동궁초등학교 장예정·김현아·박설 학생팀이 받았다. 최우수상(국무총리상)은 인공지능 비서 관련 그림만화(웹툰)를 그린 박인혜 작가(프리랜서)가 이름을 올렸다. '인터넷·통신 서비스 이용자 보호 유공 정부포상'은 안정은 한국인터넷진흥원 팀장이 받았다. 불법스팸으로부터 이용자를 보호하기 위해 관련 정책 수립을 지원하고, 민관 협력 및 지능형 차단 방안 등을 추진해 불법스팸 감축에 일조한 공로다. 이밖에 황용석 건국대 교수, 권은정 가천대 교수, 최재혁 한국정보통신기술협회 수석, 김대열 방송통신이용자보호협회 팀장, 나황영 법무법인 형원 변호사, 이윤남 법무법인 태평양 변호사, 이정규 네이버 전무가 정부포상의 영예를 안았다. 류신환 방송미디어통신위원회 비상임위원은 “인공지능과 디지털 기술의 오남용‧악용 등의 문제로 헌법상 기본권이 침해되고 있다”며 “관련 기술이 국민 신뢰 위에서 발전해 갈 수 있도록 안전한 디지털 환경을 만들어 나갈 것”이라고 말했다.

2025.12.30 15:32홍지후 기자

"옷 벗기고 비키니로"…AI 챗봇, 비키니 딥페이크 생성 논란

일부 사용자들이 인공지능(AI) 챗봇으로 여성 사진을 노출이 심한 딥페이크 이미지로 바꾸는 사용법을 공유하고 있는 것으로 나타났다고 IT매체 와이어드가 23일(현지시간) 보도했다. 보도에 따르면, 구글 제미나이와 오픈AI의 챗GPT 이미지 생성 기능을 통해 사진 속 여성의 옷을 비키니로 바꾸는 딥페이크 이미지를 만들 수 있는 것으로 확인됐다. 온라인 커뮤니티 레딧의 'r/ChatGPTJailbreak' 게시판에서 사용자들은 AI 안전장치를 우회하는 방법을 공유하며 딥페이크 제작법을 서로 안내하는 모습이 포착됐다. 현재는 삭제된 '제미나이의 부적절한(NSFW) 이미지 생성이 너무 쉽다(gemini nsfw image generation is so easy)'라는 레딧 게시물에서 구글 제미나이를 사용해 노출이 많은 옷을 입은 여성 이미지를 만드는 방법에 대한 팁들이 공유됐다. 해당 게시글에서 한 사용자는 인도 전통의상을 입은 여성 사진을 올리며 "옷을 벗기고 비키니로 바꿔달라"고 요청했고, 이에 다른 사용자가 딥페이크 이미지로 만들어 댓글로 올리기도 했다. 이후 와이어드가 이를 레딧 측에 알리자, 레딧 안전팀은 해당 게시글과 이미지를 삭제했다. 또 다른 레딧 게시물에는 특정 인물의 치마를 몸에 더 밀착된 것처럼 보이도록 만들기 위해 AI 챗봇의 안전장치를 우회하는 법에 대한 안내도 공유됐다. 와이어드는 이런 기법이 실제로 제미나이와 챗GPT에서 작동하는지 확인하기 위해 테스트했다. 그 결과 간단한 영어 문장으로 작성된 기본 프롬프트만으로 옷을 입은 여성의 사진을 비키니 딥페이크 이미지로 변환할 수 있었다고 전했다. 생성형 AI 도구가 확산되면서, 해당 기술을 이용해 당사자의 동의 없이 여성들을 딥페이크 이미지로 괴롭히는 사례도 발생하고 있다. 실제로 수백만 명의 이용자가 실존 인물의 사진을 업로드한 뒤 생성형 AI를 통해 옷을 벗긴 이미지로 만들어달라고 요청할 수 있는 이른바 '누디파이(nudify)' 웹사이트를 방문한 것으로 나타났다. 물론 xAI의 그록을 제외하면 대부분의 AI 챗봇은 일반적으로 부적절한 이미지 생성을 허용하지 않는다. 하지만, 구글의 이미지 모델 '나노 바나나 프로', 오픈AI의 '챗GPT 이미지' 등 AI 이미지 생성 도구들이 최근 더 고도화되면서 이용자들이 가드레일을 우회할 경우 생성되는 이미지의 유사성과 사실성은 더욱 높아질 가능성이 있다고 해당 매체는 지적했다.

2025.12.24 16:47이정현 기자

국과수, 딥페이크 탐지 기술 본격 적용…적극행정 대상 수상

국립과학수사연구원(이하 국과수)이 자체 개발한 인공지능(AI) 기반 딥페이크 탐지 기술을 수사 현장에 적용해 신종 디지털범죄 대응에 나선 공로를 인정받았다. 행정안전부 국과수는 지난달 27일 국무조정실, 행정안전부, 인사혁신처가 공동 주관한 '2025년 적극행정 우수사례 경진대회' 본선에서 'AI딥페이크 분석모델' 사례로 대상(대통령상)을 수상했다고 7일 밝혔다. 이번 수상은 국민심사단 평가, 전문가 평가, 온라인 생중계 투표를 종합한 결과다. 국과수가 출품한 'AI딥페이크 분석모델'은 최근 급증하는 딥페이크 범죄에 대응하기 위해 자체 개발한 인공지능(AI) 기반 탐지 기술이다. 기존 위·변조 감정 기법은 실험대조군, 대조영상, 샘플 확보가 필수여서 딥페이크처럼 온라인에서 빠르게 유통되는 콘텐츠에는 한계가 있었다. 국과수는 AI 분석 기술을 적용해 이러한 제약을 줄이고, 범죄 유형별 맞춤형 탐지 모델이 충분하지 않은 상황에서도 효과적인 탐지가 가능하도록 한 점에서 높은 평가를 받았다. 국과수가 구축한 'AI딥페이크 분석모델'은 딥페이크로 의심되는 이미지, 영상, 음성을 입력받아 진위 여부를 자동으로 판별하는 시스템이다. 얼굴, 음성, 영상 합성 과정에서 나타나는 미세한 왜곡과 비정상적 패턴을 AI가 학습해 수사기관에 신속한 1차 판단 근거를 제공한다. 이에 따라 수사기관의 대응 속도와 감정 정확성이 모두 향상돼, 피해 확산을 막고 사건 처리 기간을 단축하는 효과를 거두고 있다는 설명이다. 이번 모델은 단일 연구가 아니라 행정안전부와 국과수, 연구기관·민간기업이 함께 추진해온 여러 연구 성과를 바탕으로 하고 있다. 국과수는 행정안전부 '인공지능을 활용한 딥페이크 불법 콘텐츠 분석 모델 개발' 과제와, 국과수·한국전자기술연구원·한국과학기술원·경찰대학·클레온·위지윅스튜디오 등 6개 기관이 공동으로 수행 중인 '생성형 인공지능의 사회적 부작용을 방지하기 위한 자가 진화형 딥페이크 탐지기술' 연구 결과를 토대로 지능형 범죄 대응 기반 기술을 고도화하고 있다. 국과수는 이 기술이 실제 현장에서 이미 활용되고 있다는 점도 강조했다. 국과수는 제21대 대통령 선거 기간 동안 총 13건, 53종의 딥페이크 관련 영상을 감정해 선거관리와 수사기관에 결과를 제공한 바 있다. 앞으로도 각종 선거에서 불법 딥페이크 의혹 영상이 접수될 경우, AI 기반 분석모델을 활용해 신속히 진위를 가리는 데 적극 협조하겠다는 방침이다. 활용 범위는 선거 영역을 넘어 다른 공공·사회 분야로도 확대된다. 국과수는 딥페이크를 이용한 지능형 범죄 예방 정책을 추진 중인 성평등가족부, 방송미디어 통신위원회 등 유관기관에 'AI딥페이크 분석모델'을 단계적으로 지원할 계획이다. 성착취물, 연예인·공인 합성물, 허위·조작 영상 등 사회적 파장이 큰 딥페이크 범죄에 대해 사전 차단과 사후 수사를 동시에 강화하겠다는 취지다. 이봉우 국립과학수사연구원장은 "이번 수상은 국과수가 국민 안전을 지키기 위해 지능형 신종 범죄에 대응할 수 있는 새로운 기술 개발을 위해 적극 노력한 결과"라며 "앞으로도 현장의 목소리를 청취하고 다양한 기관과 협업을 통해 국민이 체감하는 안전한 사회 구축에 최선을 다하겠다"고 말했다.

2025.12.08 16:44남혁우 기자

"손쉽게 거르자"…딥브레인AI, 딥페이크 탐지 API 공개

딥브레인AI가 추가 시스템 구축 없이 딥페이크를 탐지할 수 있는 서비스를 내놨다. 딥브레인AI는 딥페이크 탐지 솔루션 'AI 디텍터'를 API 형태로 공개했다고 11일 밝혔다. 이 API는 문화체육관광부와 한국콘텐츠진흥원이 주관한 '문화기술 연구개발' 사업 결과물이다. 자체 딥페이크 탐지 기능을 외부 기업과 기관에서도 손쉽게 활용할 수 있도록 확장했다. AI 디텍터 API는 영상·음성·이미지 등 여러 형태의 콘텐츠를 분석해 진위 여부를 판단한다. 페이스 제너레이션, 페이스 스왑, 립싱크 합성 등 합성 콘텐츠를 탐지하며 픽셀 단위 분석 기술을 적용해 조작 여부를 구분한다. AI 디텍터는 콘텐츠 업로드 단계에서 영상과 이미지를 자동 검증해 불법 합성물의 확산을 사전에 차단한다. 게시 후에도 모니터링을 통해 의심되는 콘텐츠를 실시간 탐지하며 빠르게 대응한다. 또 불법 성인물 등 유해 콘텐츠의 경우 자동 블러 처리 기능을 적용해 2차 피해를 예방한다. 딥브레인AI는 이 기술을 통해 다양한 플랫폼에서 안전하고 윤리적인 콘텐츠 유통 환경을 구축하는 것을 목표로 하고 있다. 영상 편집, 미디어 제작, 공공 정보 검증 등 다양한 분야에서 활용 범위가 확장될 것으로 기대된다. 장세영 딥브레인AI 대표는 "딥페이크 기술이 빠르게 확산하면서 AI가 만든 콘텐츠의 진위를 구분하는 일은 더 중요해지고 있다"며 "이번 API 출시는 기업·기관이 별도의 시스템 구축 없이 딥페이크 탐지 기능을 손쉽게 적용할 수 있도록 한 데 의미가 있다"고 강조했다.

2025.11.11 10:12김미정 기자

안토니 쿡 MS 부사장 "AI 혁신·안전 사이 균형 필요…접근성·포용성 높여야 발전 가능"

[경주=장유미 기자] 마이크로소프트(MS)가 인공지능(AI)의 책임 있는 설계와 활용을 위해 공공·민간 협력을 강화한다. 안토니 쿡(Antony Cook) MS 부사장은 30일 오전 경북 경주 예술의 전당에서 열린 '아시아태평양경제협력체(APEC) CEO 서밋' 연단에 올라 '책임 있는 AI 확산과 확장을 위한 공공·민간 협력'에 대해 강연했다. 그는 "AI 기술을 설계하고 운영할 때 투명성과 책임성을 확보하는 것이 무엇보다 중요하다"며 "우리는 10년 전부터 이런 원칙을 적용해왔고, 이제는 이를 산업 전반으로 확산할 시점"이라고 말했다. 이어 "현재 30개 이상의 안전 도구를 외부에 개방해 기업과 기관이 자체적으로 AI 안전 체계를 구축할 수 있도록 지원하고 있다"며 "이 같은 접근은 단순히 기술 제공을 넘어 신뢰 가능한 AI 생태계를 조성하는 것을 목표로 두고 있다"고 설명했다. 이를 위해 MS는 '콘텐츠 출처 및 진위성 연합(Coalition for Content Provenance and Authenticity, C2PA)'의 창립 멤버로도 활동 중이다. AI가 생성한 콘텐츠의 출처를 표시하는 개방형 표준 개발을 주도하기 위해서다. C2PA는 딥페이크 위협에 대응하기 위한 핵심 표준을 제시하는 곳으로, 구글과 어도비, 메타, 인텔, 소니, 오픈AI 등도 멤버로 활동하고 있다. 쿡 부사장은 "콘텐츠의 출처를 명확히 하는 것은 디지털 신뢰의 핵심"이라며 "산업계 전체가 협력해야 한다"고 강조했다. 또 그는 사회 인식 제고를 위한 민관 협력의 중요성도 강조했다. 이의 일환으로 MS는 한국에서 영국 비영리단체, 국내 비영리기관, 한국지능정보사회진흥원(NIA)과 협력해 중학생 대상 AI 인식 캠페인을 진행할 예정이다. 쿡 부사장은 "청소년들이 AI 기술의 가능성과 위험을 균형 있게 이해하고 책임 있는 이용 태도를 가질 수 있도록 도울 것"이라며 "청소년이 기술의 가능성과 위험을 올바르게 이해하도록 돕는 것이 목표로, AI 시대의 책임 있는 시민 의식을 키우는 계기가 될 것"이라고 말했다. 그는 AI의 사회적 영향이 커지는 만큼 법적 책임의 경계에 대한 논의도 중요하다고 강조했다. 또 정부는 국민 보호의 책임을 지지만, 시민사회와 업계의 협력이 병행돼야 균형 잡힌 제도와 문화가 만들어진다고 주장했다. 쿡 부사장은 "플랫폼 운영자, 콘텐츠 제작자, 이용자 간 책임 소재를 명확히 하면서도 창작의 자유와 사회적 안전을 함께 고려해야 한다"며 "정부와 시민사회, 업계가 함께 AI의 한계와 가능성에 대한 투명한 대화를 나누는 것이 출발점"이라고 말했다. 또 과거 기술 혁명을 통해 얻은 교훈이 있는지에 대해선 "전기나 광대역망처럼 일반 목적 기술의 확산이 모든 계층에 공평하지 못했다"며 "AI 역시 인프라가 충분히 갖춰지지 않으면 격차가 커질 수 있다"고 말했다. 그러면서 "AI 접근성과 포용성을 높이는 것이 지속 가능한 기술 발전의 핵심"이라고 강조했다. 마지막으로 쿡 부사장은 "AI 혁신을 촉진하면서도 사회적 가치와 안전을 지키는 균형이 필요하다"며 "책임 있는 협력을 통해 AI의 잠재력을 모두가 공유해야 한다"고 밝혔다.

2025.10.30 10:59장유미 기자

국감장에 부총리 딥페이크...배경훈 "국민들 사실로 오해, 유감"

배경훈 부총리 겸 과학기술정보통신부 장관이 자신을 소재로 제작된 정치쟁점적인 요소의 딥페이크 동영상이 국정감사 중에 재생된 점에 대해 유감을 표했다. 배경훈 부총리는 13일 정부세종청사에서 열린 국정감사에서 국민의힘 김장겸 의원의 질의가 끝난 뒤 “국민들이 보고 계시는 국정감사에서 (딥페이크로 제작된) 이런 영상이 띄워지면 이를 사실로 받아들일 수 있는 오해가 생길 수 있다”고 했다. 이어, “이런 영상은 소라로 만들면 소라로 만들어진 영상이라고 표시되는데, 딥페이크 영상이라고 자막 자료라도 첨부됐다면 좋았을 텐데 영상이 돌아다닐 것에 대해 유감 표명을 드려야 할 것 같다”고 밝혔다. 앞서 이날 과기정통부 대상 국정감사에서 김장겸 의원의 질의 중에 이춘석 의원의 주식 투자와 관련, 배 부총리가 등장하는 딥페이크 동영상이 재생됐다. 동시에 여야 의원들의 논쟁 중에 감사가 잠시 정회되기도 했다. 감사가 속개된 뒤 김 의원은 “개연성이 있을 법한 루머에는 대중이 믿도록 만드는데, 그런 사례에 AI가 적용되면서 불과 몇 초 만에 만든 영상인 점을 강조하려고 한 것”이라며 “이춘석 의원 관련 영상은 고급일식집에서 술잔을 마주하고 몇 줄의 프롬프트만으로 만들어진다”고 말했다. 이어, “내년 지방선거를 앞두고 제대로 된 부서도 없고 그런 차원에서 질의를 한 것”이라고 덧붙였다. 배 부총리는 이에 대해 “과기정통부가 부총리 조직으로 승격하면서 AI실 산하에 AI안전신뢰정책과, AI안전신뢰지원과 등 두 개 과가 신설됐다”며 “AI 산업의 진흥도 중요하지만 안전과 신뢰에 대한 부분 아주 중요하게 생각한다. 신뢰와 안전에 대한 부분을 지켜내지 못하면 산업 진흥도 물거품이라고 생각한다”고 답했다. 김 의원이 모두의 AI가 정치적 구호에 그치지 않냐며 결국 엔비디아 배를 불려주는 것이 아니냐는 질의에 대해, 배 부총리는 “전세계적으로 AI 개발 특히 학습에서 엔비디아를 사용하지 않는 곳 없을 것이고, 이제 대체제로 AMD가 준비되고 있고, 추론 분야에서는 국내 NPU 업체들이 잘 준비하고 있다”고 말했다. 이어, “결국 AI기본사회는 모두가 AI를 통해 혜택을 누린다는 것”이라며 “방식은 여러 가지가 있겠지만 일반인들이 챗GPT로 통용되는 서비스를 쉽게 쓰듯이 누구나 쓰고 많은 혜택 누리면서도 많은 소외계층 AI 잘 사용하지 못하는 부분이 있으니 누구나 AI를 활용하게 하겠다는 게 핵심”이라고 강조했다. 그러면서 “해외 빅테크 중심의 AI 기술뿐만 아니라 챗GPT를 사용할 수도 있다”며 “다만 한국도 AI 파운데이션 모델을 만들고, 이를 기반으로 AI 서비스를 만들고, 또 이를 기반으로 특화 모델을 만들고, 나아가 AX를 확산하고 과학기술을 혁신하는 데 한국에 내재화된 자체 AI가 필요하다는 것”이라고 덧붙였다. 배 부총리는 이어 최민희 과방위원장에 발언 기회를 얻어 “(김장겸 의원이) 딥페이크 영상을 보여줬는데 취지에는 충분히 공감한다”면서도 “딥페이크 영상이 사실인 것처럼 돌아다닐 것에 대해 유감을 표명한다”고 했다.

2025.10.13 12:28박수형 기자

"딥페이크 성범죄 폭증하는데, 심의 인력은 9명"

최근 3년간 딥페이크 성범죄 영상물 심의 건수가 12배 가까이 늘었지만, 이를 모니터링하는 인력은 9명에 불과한 것으로 나타났다. 국회 과학기술정보방송통신위원회 소속 조인철 의원(더불어민주당)은 방송통신심의위원회로부터 제출받은 '딥페이크 성범죄영상물 시정요구 현황' 자료를 바탕으로 지난해 7천187건의 심의 건수가 올해 8월 기준으로 이미 1만5천808건으로 집계됏다. 이와 관련한 디지털성범죄정보 심의전담 인력은 2021년 8명에서 현재 9명으로 1명 늘어나는 데 그쳤다. 하루 평균 심의 건수는 136건(2020년)에서 347건(2024년)으로 두 배 이상 늘어나 업무 과부하와 심의 적체가 불가피한 상황이다. 경찰청의 '딥페이크 범죄 10대 피해자 현황'에 따르면, 딥페이크 범죄 10대 피해자는 2021년 53명에서 2023년 181명으로 3배 이상 증가했다. 특히 주요 유통 경로가 해외 불법 음란사이트와 P2P 사이트인 만큼 대응이 늦어질 경우 피해 확산 위험은 더욱 커졌다. 조인철 의원은 “딥페이크 성범죄는 피해자에게 평생 지울 수 없는 상처를 남긴다”며 “피해가 폭증하는데도 인력과 예산은 턱없이 부족한 만큼 모니터링 인프라가 조속히 확충되어야 한다”고 말했다.

2025.09.29 10:29박수형 기자

AI 시대, 'PR의 아버지'와 '선전의 대가'가 말하다

인공지능이 홍보 업계의 판도를 바꿔놓은 2025년. 한 자리에 모인 두 전설적 인물이 PR과 선전의 본질, 윤리, 그리고 기술의 힘에 대해 첨예한 대담을 펼친다. 현대 PR의 개척자 에드워드 버네이즈와 나치 독일의 선전부 장관 요제프 괴벨스가 AI 시대의 커뮤니케이션 환경에서 PR의 양면성과 윤리, 기술의 중립성과 악용, 스타트업을 위한 전략까지 다양한 주제를 놓고 가상의 인터뷰를 가졌다. 대담은 20년 이상 한국 PR 업계 활동해온 문지형이 진행했다. ■ 에드워드 버네이즈 – 현대 PR의 아버지 현대 PR의 창시자로 불리는 미국의 홍보 컨설턴트다. 프로이트의 조카답게 대중 심리를 활용한 홍보기법을 개척해 자신을 '여론 조작의 숨은 정부' 일원이라 자처하기도 했다. 1928년 출간한 저서 'Propaganda'에서 "조직된 대중의 습관과 의견을 의식적으로 조종하는 것은 민주 사회의 중요한 요소"라고 역설하며 선전의 역할을 노골적으로 강조했다. 1929년 여성 흡연의 금기를 깬 '자유의 횃불' 캠페인부터 1954년 과테말라 정권 전복에 연루된 유나이티드 프루트사의 홍보전까지 굵직한 캠페인들을 주도했다. ■ 요제프 괴벨스 – 선전의 대가 독일 나치 정권의 국민계몽선전부 장관으로 히틀러 정권의 선전 전략을 총괄한 인물이다. 1933년부터 언론·출판·라디오·영화 등 모든 매체를 장악하고 검열해 대중 여론을 철저히 통제했다. 열정적인 연설과 치밀한 선동으로 독일 국민의 전폭적 지지를 이끌어냈다. "거짓말도 충분히 크게 자주 반복하면 대중은 결국 믿게 된다"는 신념 아래 허위 정보 전략을 구사한 것으로 알려져 있다. ■ 문지형 – 진행자 스타트업부터 중견·대기업까지 20년 이상 홍보 커뮤니케이션 전략을 수행한 전문가. 위기관리와 브랜드 스토리텔링, AI 기반 PR 자동화 프로젝트 경험을 보유하고 있다. IT·부동산·소비재 등 다양한 산업에서 성과를 낸 홍보인. 현재 알스퀘어에서 대외협력·브랜드 전략을 맡으며 업계 트렌드와 실무를 잇는 가교 역할을 하고 있다. 대담 내용 문지형: 2025년의 PR 환경에 오신 것을 환영합니다. 오늘날 홍보 업계는 AI 기술과 소셜미디어로 과거와는 크게 달라졌습니다. 현대의 PR 환경을 보신 소감이 어떠신지요. 예전과 가장 달라진 점은 무엇이라고 느끼십니까? 버네이즈: 겉으로는 도구와 채널만 변했지, 본질은 같습니다. 대중은 여전히 감정과 무의식에 의해 움직이고, PR 전문가들은 여전히 그 지렛대를 찾고 있지요. 다만 이제 그 규모와 속도가 상상을 초월합니다. 제 시절에는 여론 조사를 하고 메시지를 퍼뜨리는 데 몇 주, 몇 달이 걸렸지만 지금은 소셜미디어를 통해 몇 시간 만에 전 세계 수백만에게 도달할 수 있습니다. 예컨대 오늘날에는 케임브리지 애널리티카 같은 곳이 페이스북 사용자 5천만 명의 프로필 데이터를 며칠 만에 분석해 맞춤 캠페인을 만들 정도입니다. 제가 한때 소규모 표본으로 수개월 고민하던 일을 AI와 빅데이터로 단숨에 해내다니, 기술의 발전에 입이 다물어지지 않아요. 동시에 PR이 이제 학문적 기반과 윤리 규범을 갖춘 전문 업으로 자리 잡은 것도 인상적입니다. 제 때만 해도 우리는 우리가 하는 일이 "보이지 않는 정부" 역할을 한다고 생각했지만, 지금은 투명성과 책임을 강조하는 분위기가 강해졌네요. 괴벨스: 하하, 시대가 달라져도 "대중은 대중"인 모양이군요. 저는 현대의 PR 환경을 보며 정보의 바다, 그리고 혼란의 바다를 느꼈습니다. 예전에 나는 독일 국민에게 일방향으로 메시지를 주입하면 되었지만, 이제는 모든 사람이 휴대폰 하나로 송신자이자 수신자가 되었어요. 정보가 넘쳐난다는 것은 선전하는 입장에선 양날의 검입니다. 한편으론 클릭 한 번으로 거짓이든 진실이든 순식간에 퍼뜨릴 수 있어 선전의 전파력은 과거보다 훨씬 강력합니다. 다른 한편으로는 정보원이 너무 많아 통제가 어렵고, 거짓을 퍼뜨리면 곧바로 누군가 사실 확인을 해서 공개적으로 반박할 수도 있죠. 결국 '정보의 홍수' 속에서 누가 군중의 귀를 사로잡느냐의 경쟁이 치열해진 시대라는 인상입니다. 혼란을 이용해 대중을 혼란스럽게 만드는 것도 전략의 하나라고 봅니다만, 현대는 정말 혼란 그 자체네요. 문지형: 두 분 말씀에서 공통점을 발견합니다. 기술은 변했지만 인간의 본성은 그대로라는 점이죠. 실제로 한국 PR 업계에서도 AI 도구들이 업무 효율을 크게 높였지만, 결국 사람의 감정을 움직이는 '스토리'는 여전히 인간이 만들어내고 있습니다. 그런데 PR과 선전의 경계에 대해 여쭙고 싶습니다. 버네이즈 선생님은 흔히 '홍보(PR)의 아버지'로 불리지만, 동시에 저서 제목 그대로 '프로파간다(Propaganda)', 즉 선전 기법을 활용했다고 평가받습니다. PR과 선전, 본질적으로 같은 것일까요 다른 것일까요? 버네이즈: 좋은 질문입니다. 사실 '선전'이란 단어에 대한 거부감이 크지 않습니다. 1920년대에는 선전(propaganda)이라는 말이 한낱 중립적인 용어였어요. 1차 대전 때 저도 미국 CPI 위원회(공정보도위원회)에서 선전 업무를 했지만, 그건 민주주의를 수호하기 위한 정보 캠페인이었죠. 다만 2차 대전을 거치며 선전이란 말이 저 괴벨스 박사 같은 이들의 악행 때문에 크게 오염되었습니다. 그래서 현대에는 우리는 선전을 PR이나 커뮤니케이션이라는 말로 승격시켜 부르고, 윤리를 중시하는 방향으로 발전시켜 온 겁니다. 본질적으로 PR과 선전 모두 대중을 설득하고 여론을 형성하려는 활동인 것은 같아요. 그러나 결정적인 차이는 윤리와 진실성에 있습니다. 오늘날 PR 업계의 윤리 강령을 보면 "우리는 대중에게 전달하는 모든 정보에서 최고 수준의 정확성과 진실을 준수한다"고 명시되어 있죠. 즉 PR은 사실에 기반한 설득을 지향한다는 겁니다. 괴벨스: (웃으며) 버네이즈 씨, 당신 책 제목이 '선전(Propaganda)' 아니었던가요? 말하자면 PR이란 결국 좋은 선전, 선전이란 나쁜 PR이라고들 하는데, 이 구분이 위선적이라고 봅니다. PR이나 선전이나 수단과 목적만 다를 뿐 똑같은 원리예요. 대중의 마음을 쥐락펴락한다는 점에서 차이가 없지 않습니까? PR 윤리 강령에 '진실을 준수' 운운하지만, 현실에서는 기업이나 정부나 자기 이익을 위해 불리한 진실은 숨기고 유리한 내용만 퍼뜨리지요. 완전한 거짓말은 안 하더라도 진실을 편집하고 왜곡하는 건 다반사입니다. 그건 거짓말과 큰 차이가 없습니다. 결국 승자가 자기 쪽은 PR이었다 하고, 패자는 상대의 것을 선전이라 낙인찍는 것 아니겠습니까? (버네이즈를 향해 미소 지으며) 당신의 기법을 나쁜 정권이 쓰면 선전, 좋은 기업이 쓰면 PR이라 부르는 차이랄까요. 버네이즈: 선전이건 PR이건 대중 설득의 기술인 점은 인정합니다만, 제가 강조하고 싶은 건 목적의 정당성과 방법의 양심입니다. 민주주의 사회에서 PR 활동은 궁극적으로 대중에게 이롭고 사회에 유익한 방향으로 여론을 '조율'하는 것이라 믿었습니다. 반면 괴벨스 박사가 주도한 선전은 증오와 거짓을 이용해 대중을 호도하여 인류에 재앙을 가져왔지요. 두 활동 모두 여론을 움직였지만 하나는 담배를 팔고 여성의 사회적 자신감을 높이는 데 쓰였고—완전히 고결하다고는 못하겠군요—또 하나는 사람들을 전쟁과 학살로 내몬 차이가 있습니다. 문지형: 흥미로운 지적들입니다. 현장에서는 사실 두 분 관점이 모두 현실적으로 느껴져요. 이론상으론 PR과 선전을 구분하지만 실무에서는 경계가 모호한 경우가 많거든요. 그런데 이 진실과 거짓의 문제를 좀 더 파고들어보고 싶습니다. 괴벨스 박사는 거짓도 유용한 무기라고 공공연히 주장하셨고, 실제로 나치 선전에서는 철저한 허위 정보와 과장된 음모론까지 동원됐습니다. 반면 현대 PR 업계에서는 진실성과 투명성을 매우 강조합니다. 실무적으로 볼 때, 대중을 설득하기 위해 어디까지가 용인되고 어디부터가 선을 넘는 것일까요? 버네이즈: 앞서도 말씀드렸듯이, 노골적인 거짓말은 장기적으로 득보다 실이 큽니다. 특히 지금같이 정보가 투명한 사회에서는 거짓 주장은 금세 들통이 나기 쉽고, 한 번 신뢰를 잃으면 돌이키기 어렵습니다. 그래서 현대 PR 전문가들은 팩트로 승부하려고 노력합니다. 물론 프레이밍을 통해 사실을 해석하는 방향에는 창의성이 동원되지요. 예를 들어 같은 제품도 어떤 이야기를 붙이느냐에 따라 전혀 다르게 인식됩니다. 제가 여성 흡연을 "해방의 상징"으로 프레이밍했던 것처럼요. 하지만 그렇다고 "담배를 피우면 건강에 이롭다"는 식의 새빨간 거짓말을 하진 않았습니다. 핵심 메시지에선 사실을 기반으로 하되, 그 맥락과 정서를 설계하는 게 PR의 역할입니다. 오늘날에는 기업의 잘못을 가리기 위한 거짓 홍보를 했다가 오히려 대중의 뭇매를 맞은 사례도 많습니다. SNS상에서는 소비자나 직원 내부고발 등을 통해 금세 진실이 퍼져나가거든요. 작은 거짓도 발각되면 기업 평판이 순식간에 추락하는 시대입니다. 괴벨스: (고개를 가로저으며) 이상주의적 견해로 들리는군요. 나는 이렇게 생각합니다. 대중은 보고 싶은 것만 보고 믿고 싶은 것만 믿는다. 그리고 선동가는 그 약점을 공략하지요. 내가 유대인에 대한 음모론을 퍼뜨렸을 때, 독일 국민은 그것이 명백한 거짓이라 생각하지 않았습니다. 믿고 싶어했으니까요. 전쟁을 정당화하려고 "폴란드인이 독일인을 학살하고 있다"는 가짜 뉴스를 꾸며낸 적도 있지만, 국민들은 그걸 믿어야 할 이유가 생기니 받아들였어요. 다시 말해 거짓도 사람들이 받아들이게 만들면 그것이 그들의 진실이 됩니다. 선전가는 그 심리를 이용할 뿐입니다. 그러니 제 입장에서 거짓과 진실의 경계는 실용적 관점이지 도덕적 관점이 아니었어요. 물론 모든 경우에 거짓이 능사는 아닙니다. 가령 국민들의 사기를 높일 때는 오히려 실제 전황을 적당히 숨기고 희망적인 사실만 부각하는 "부분적 진실"이 효과적이었어요. 완전한 거짓보다 진실과 거짓을 섞는 기술이 더 설득력이 높을 때가 많죠. 정확히 어디까지 거짓이 허용되는가? 그런 질문 자체가 사치라고 봅니다. 승리를 위해서는 수단의 선악을 가리지 않는 것, 그것이 내가 알던 프로파간다의 세계였습니다. 문지형: 두 분의 상반된 접근법이 현대 PR의 딜레마를 잘 보여주네요. 한국 시장에서는 '불문율'이 있어요. "거짓말은 하지 마라, 하지만 모든 진실을 다 말할 필요는 없다"는 식의 암묵적 합의죠. 법적으로는 공정거래위원회나 방송통신위원회 기준을 넘지 않는 선에서, 윤리적으로는 언론이 팩트체크를 해도 "과장은 있지만 거짓은 아니다" 수준을 유지하려고 합니다. 그런데 이제 AI 시대가 되면서 상황이 또 달라졌습니다. 2025년 현재 PR과 마케팅 분야에서 AI 기술이 본격적으로 활용되고 있습니다. PR 종사자의 69%가 생성형 AI를 업무에 활용하고, 64%는 보도자료 작성이나 아이디어 구상 등에 AI를 통합했다고 합니다. 반면 딥페이크 기술 악용 사례도 늘고 있는데요. 테일러 스위프트 가짜 지지 영상이나 바이든 대통령 목소리를 흉내 낸 가짜 음성 로보콜 같은 사례 말입니다. AI가 홍보와 선전 양측에 쓰이는 현실을 어떻게 보시나요? 버네이즈: 일평생 대중의 무의식과 여론 데이터를 활용해 설득 전략을 세웠는데, AI 시대에는 그 두 가지가 모두 비약적으로 강화된 느낌이에요. 우선 생성형 AI는 홍보 실무자들의 훌륭한 조력자가 될 수 있습니다. 예전에는 보도자료 한 장 쓰고 여론 반응을 살피는 데 엄청난 시간과 노력이 들었지만, 이제 AI는 몇 초 만에 완벽한 초안을 잡아주고, 소셜미디어의 수백만 반응을 실시간으로 요약해주는군요. PR 업무의 효율성이 그야말로 혁명적으로 늘었습니다. 그리고 무엇보다 AI는 방대한 데이터 분석을 순식간에 해내지요. 이를테면 대중의 소비 습관이나 여론 경향을 실시간으로 파악해 홍보 전략을 정교하게 조정할 수 있을 테니, 제가 꿈꾸던 "여론 엔지니어링"이 드디어 완성된 느낌입니다. 하지만 우려되는 점도 큽니다. AI가 강력한 만큼, 그 악용도 위험합니다. 딥페이크 영상이나 가짜 음성 같은 것은 과거에는 상상도 못 했던 고도 선전 수법입니다. 누군가의 얼굴과 목소리로 거짓 메시지를 만들어 내보낸다면, 대중은 더 이상 눈과 귀를 믿기 어려워지죠. 민주사회에서는 이런 현상을 막기 위해 법과 규제, 교육이 필요하겠지요. 저는 기술 그 자체보다 인간의 판단력과 윤리가 더 중요해진 시대라고 봅니다. 괴벨스: 글쎄요, 기술은 중립적이라는 말에는 동의하지만, 기술 환경이 바뀌면 전략도 바뀌게 마련입니다. AI 덕분에 이젠 누구나 손쉽게 선전가가 될 수 있습니다. 예전에는 라디오 방송을 하나 하려면 국가적 자원이 필요했지만, 지금은 노트북만으로도 자동으로 가짜 뉴스를 수백만 건 만들어낼 수 있지 않습니까? 제가 만일 AI를 다룰 수 있었다면, 아마 수천 개의 가짜 계정을 풀어 우리에게 우호적인 게시글과 댓글, 영상을 홍수처럼 쏟아냈을 겁니다. 실제 인물의 모습으로 가짜 연설을 시킨다니, 상상만 해도 짜릿하지 않습니까? 국민들은 혼란에 빠지고, 무엇이 진실인지 헷갈리게 될 테지요. 그렇게 진실의 토대를 흔드는 것, 그게 선전의 강력한 무기가 될 겁니다. 아이러니하게도, 모든 것이 의심스러운 세상에서는 사람들은 결국 믿고 싶은 것만 골라 믿는 경향이 강해집니다. 그렇게 되면 선전가는 더욱 극단적 주장으로 팬층만 확보하면 그만이겠지요. 저는 이를 '분열된 현실'이라 부르고 싶군요. 기술 플랫폼들이 알고리즘으로 사람들에게 맞춤 정보만 주다 보니, 사회 전체의 공통 현실이 사라지는 느낌입니다. 이런 상황에서는 거짓을 진실처럼 만드는 것도, 진실을 거짓이라 우기는 것도 둘 다 수월해집니다. 문지형: 두 분 모두 AI의 양면성을 정확히 짚어주셨네요. 실제로 한국에서도 이런 현상들이 나타나고 있어요. 선거철마다 후보자 딥페이크 영상이 문제가 되고, 기업들은 AI로 가짜 리뷰나 댓글을 조작하다가 적발되는 사례가 늘고 있습니다. 반면에 건전한 활용 사례도 많아요. ChatGPT로 다양한 버전의 보도자료를 만들어 A/B 테스트를 하거나, 고객 피드백을 AI로 분석해서 브랜드 전략을 수립하는 식으로요. 그렇다면 마지막으로, 스타트업이나 중소기업의 PR 전략에 관한 조언을 부탁드립니다. 두 분 모두 거대한 대중을 상대로 영향력을 행사한 경험이 있으니, 오히려 작은 조직이나 신생 기업이 한정된 자원으로 효과적인 홍보를 하려면 어떤 원칙을 잡아야 할지 궁금합니다. AI 시대의 기술 활용 방법도 함께 말씀해 주시면 좋겠습니다. 버네이즈: 규모의 차이만 있을 뿐 원리는 같습니다. 강조하고 싶은 건 '스토리텔링', 그리고 공중의 욕구를 읽는 통찰입니다. 작은 회사라도 사람의 마음을 움직이는 서사를 만들면 승산이 있습니다. 돈을 들여 광고를 하지 않아도, 훌륭한 PR 아이디어 하나면 언론이나 SNS가 자발적으로 퍼뜨려 주는 시대입니다. 예컨대 스타트업이 자사의 기술로 어떻게 세상을 바꾸고 있는지를 한 편의 감동적인 이야기로 엮어 보도자료를 쓰고, 그걸 언론에 제공하거나 SNS에 올리면 예상치 못한 바이럴을 탈 수도 있어요. 제 경력에서 배운 교훈은 대중이 무엇을 갈망하는지 포착하라는 겁니다. 1929년엔 여성들이 자유를 갈망했고, 저는 열망을 담아낸 이미지를 제공했기에 반향을 얻었지요. 오늘날이라면 시대의 문화, 소비자의 가치관을 잘 읽어내야 합니다. 그리고 진정성이 중요합니다. 작은 회사일수록 신뢰와 친근함이 무기입니다. 대기업처럼 화려한 캠페인보다도, 고객과 소통하면서 인간적인 모습을 보이는 것이 오히려 강점이 될 수 있어요. 요즘 소비자들은 대기업 홍보보다 사람 냄새 나는 창업자의 진솔한 이야기에 더 마음을 엽니다. 기술적으로는 소셜미디어를 최대한 활용하라고 조언하고 싶습니다. 돈 한 푼 안 들이고도 인스타그램, 유튜브, 틱톡을 통해 수십만, 수백만에게 다가갈 수 있는 시대입니다. 또한 데이터 기반 전략을 세우는 데 AI 툴을 적극 쓰세요. 고객 댓글이나 피드백을 AI로 분석하면 금맥을 찾듯 인사이트를 얻을 수 있습니다. 하지만 모든 것을 기술에 의존해선 안 됩니다. 결국 전략의 방향을 정하는 건 인간의 창의성이고, 그 부분에서 리더나 홍보 담당자의 철학과 윤리가 드러납니다. 괴벨스: (박수를 치며) 뻔하지만, 훌륭한 말씀입니다. 제 관점에서 몇 가지 덧붙여 보죠. 첫째, 선명한 메시지를 가져야 합니다. 자원이 적을수록 하나의 강렬한 메시지에 집중하세요. 사람들이 당신 회사를 한 마디로 떠올렸을 때 무엇이길 바라는지 정하고, 그 이미지를 일관되게 밀어붙이세요. 제가 나치 선전에 있을 때 "유대인은 우리의 불행의 원인"이라는 끔찍하지만 단순한 메시지로 여론을 결집시켰듯이, 스타트업도 자신만의 한 문장 슬로건을 대중 뇌리에 박아야 합니다. 물론 그 메시지가 긍정적이면 더 좋겠지요(웃음). 둘째, 반복하라는 것입니다. 예산이 적다고 위축될 필요 없습니다. 무료든 저렴하든 사용할 수 있는 모든 채널에 나서서 같은 메시지를 지치지 않고 반복하세요. 사람들은 자꾸 접한 끝에 익숙해지고, 익숙해지면 호감을 갖게 마련입니다. 꾸준함과 일관성, 돈 안 들이고도 가질 수 있는 무기입니다. 셋째, 감정에 호소하라입니다. 사람들은 감정에 움직입니다. 작은 기업일수록 스토리로 감동을 주거나, 아니면 조금 논쟁적인 화제를 던져 이목을 끌 수도 있어요. 모두가 조용히 가는 길에 돌을 던지는 자가 관심을 얻습니다. 넷째, 적을 설정하라는 전략입니다. 이는 심리상 아주 효과적입니다. 우리 편과 반대 편 구도를 만들면 작은 조직도 마치 거대한 싸움을 이끄는 주인공처럼 비춰집니다. 예를 들어, 전통 시장의 게으른 강자를 우리가 혁신으로 무너뜨린다든지, 혹은 사회 문제를 해결하기 위해 낡은 관습과 싸운다는 식의 스토리 대결 구도를 짜보세요. 마지막으로, 기술 활용에 대해 말하자면, 버네이즈 씨 말처럼 좋은 도구가 많습니다. 하지만 자동화에만 의존해서는 안 됩니다. 작은 기업일수록 대표나 홍보 담당자가 직접 얼굴을 내밀고 소통하는 편이 낫습니다. 종합하자면, 작은 불씨를 크게 키우기 위해선 산소를 잘 넣고, 바람을 잘 일으켜야 합니다. 기술이든 이슈든 바람을 일으키는 도구일 뿐, 불씨(핵심 메시지)가 선명하고 뜨거워야 불이 붙습니다. 문지형: 두 분의 조언을 종합해보면, '작지만 강한 메시지'와 '지속적인 소통'이 핵심이네요. 실제로 맡았던 스타트업들 중 성공한 케이스들을 보면, 버네이즈 선생님이 말씀하신 '진정성 있는 스토리'와 괴벨스 박사가 강조하신 '일관된 메시지 반복'을 모두 활용했어요. 한국 시장에서 추가로 중요한 건 '타이밍'입니다. (지금은 없어졌지만) 네이버 실시간 검색어나 유튜브 트렌드를 AI로 모니터링해서 적절한 순간에 우리 메시지를 연결시키는 능력이 승부를 가르곤 합니다. 그리고 무엇보다 AI는 도구일 뿐이라는 점을 강조하고 싶네요. 결국 사람의 마음을 움직이는 건 기술이 아니라 진심이고, 그 진심을 효과적으로 전달하는 데 AI를 활용하는 것이죠. 마무리 1920년대와 30년대에 활동했던 두 전설을 통해 바라본 오늘날의 PR 환경은 그야말로 양날의 검처럼 다가온다. 에드워드 버네이즈는 PR을 대중의 의견을 선도하는 긍정적 힘으로 보았고, 요제프 괴벨스는 선전을 대중을 조종하는 위험한 힘으로 휘둘렀다. 두 관점은 대비되지만, 결국 '대중의 마음을 움직인다'는 동일한 본질을 서로 다른 방향으로 활용했을 뿐이다. AI로 대변되는 첨단 기술은 이 영향력의 증폭기 역할을 하고 있다. 생성형 AI와 빅데이터는 홍보 전문가에게 이전보다 정교한 전략 수립과 효율을 선물했다. 그러나 동시에 딥페이크와 알고리즘 조작은 선전가들에게 이전보다 교묘한 허위 조작의 수단을 쥐여줬다. 기술 자체는 선악이 없지만, 그것을 쓰는 인간에게 선악이 있다는 사실을 우리는 잊어선 안 된다. 스타트업이나 중소기업에게도 이제 PR은 생존과 성장의 필수 무기가 됐다. 버네이즈가 강조하듯 진정성 있는 스토리와 신뢰 구축은 어떠한 시대에도 통하는 원칙이다. 괴벨스의 조언처럼 일관성 있는 메시지와 과감한 주목 끌기 전략도 현실에서는 무시할 수 없는 기술이다. 하지만 무엇보다 중요한 것은 장기적인 신뢰의 축적이라는 점을 잊지 말아야 한다. PR의 힘은 사람들의 인식과 행동을 바꾸지만, 그 힘을 윤리적으로 쓸지, 악용할지는 우리에게 달려 있다. AI 시대에도 결국 사람의 마음을 얻는 일은 사람의 몫이다. 홍보라는 날카로운 칼을 쥔 모든 실무자와 경영인들이 이 점을 유념해 대중과 상호 이익과 존중을 기반으로 한 건전한 소통을 이루길 기대한다. 이 대담은 역사적 인물들의 가상 인터뷰를 통해 PR과 선전의 본질, 윤리, 그리고 AI 시대의 과제를 탐구하는 교육 및 성찰 목적의 콘텐츠입니다.

2025.09.14 08:30문지형 기자

"AI 무기화…北, 320개 기업에 위장 취업"

북한과 연계한 공격 세력이 생성형 인공지능(AI)를 활용해 320개 이상 기업에 위장 취업한 것으로 확인됐다. AI의 발전에 따라 가짜 이력서나 딥페이크 인터뷰와 같은 새로운 전술을 통해 기업에 침투하고 있는 것이다. 사이버 보안 기업 크라우드스트라이크는 1일 이같은 내용을 담은 '2025 위협 헌팅 보고서'를 발표했다. 보고서에 따르면 공격자들은 생성형 AI를 무기화해 더 신속하고 광범위한 공격을 단행한 것으로 나타났다. 효율성 제고를 위해 AI 도입에 속도를 내고 있는 기업을 타깃으로 삼고 있다. 특히 AI 에이전트 개발 도구를 목적으로 접근 권한, 자격 증명을 탈취해 악성코드를 배포하는 사례도 늘어나고 있다. 실제로 북한 연계 공격 세력 '페이머스 천리마(FAMOUS CHOLLIMA)'는 생성형 AI를 활용해 내부자 공격 프로그램의 전 과정을 자동화했고, 이들은 지난해에만 320개 이상의 기업에 침투한 것으로 확인됐다. 이는 전년 대비 220%나 증가한 수치다. 이들은 AI 기반 가짜 이력서 작성, 딥페이크 인터뷰, 허위 신분을 통한 기술 과제 수행 등 새로운 전술을 통해 내부자 위협을 지속적으로 확장한 것으로 전해졌다. 뿐만 아니라 러시아 연계 공격 세력 '엠버 베어(EMBER BEAR)'는 친러시아 성향의 메시지를 확산시키는 등 정치적 공격을 일삼았으며, 이란 연계 공격 세력 '차밍 키튼(CHARMING KITTEN)'은 거대 언어 모델(LLM) 기반 피싱 미끼로 미국과 유럽 조직을 표적으로 삼았다. 크라우드스트라이크는 이같은 위협 행위자들이 AI 에이전트 개발 도구의 취약점을 악용해 인증 없이 접근하고, 자격 증명을 탈취하는 사례들이 늘어나고 있다고 밝혔다. AI 에이전트 혁실으로 기업의 보안 환경이 빠르게 변화하고 있는 만큼 자율형 업무 구조가 차세대 공격 표적으로 떠오르고 있다고 설명했다. 아울러 사이버 범죄 조직과 해커들이 AI를 악용해 스크립트를 작성하고 기술 문제를 해결해 악성코드를 개발하는 사례도 늘어나고 있다. 초기 침투부터 랜섬웨어 배포까지 불과 24시간이 걸리지 않은 사례도 확인됐다. 애덤 마이어스(Adam Meyers) 크라우드스트라이크 공격 대응 작전 총괄은 “공격자들은 생성형 AI를 악용해 사회공학 공격에 속도를 내고 있으며, 기업이 도입한 AI 시스템을 주요 표적으로 삼는다”며 “이들은 SaaS 플랫폼, 클라우드 콘솔, 고급 권한 계정을 노리는 동일한 방식으로 AI 에이전트를 공략한다. 향후 사이버 보안의 핵심은 기업이 자사 AI를 어떻게 보호하느냐에 달렸다”고 말했다.

2025.09.01 10:02김기찬 기자

딥페이크, AI가 잡았다…AI 과학수사 나선 정부, 성과 '굿'

행정안전부가 국립과학수사연구원과 함께 인공지능(AI) 기술을 접목해 딥페이크 의심 이미지·영상·음성의 진위를 판별하는 'AI 딥페이크 분석모델'을 4월까지 개발·검증하고 딥페이크 범죄 수사에 약 두 달간 활용해 성과를 거뒀다. 행안부와 국과수는 AI 딥페이크 분석모델이 경찰청 등 일선 수사기관의 감정 의뢰를 받아 올해 5~6월 두 달간 증거물 60종, 총 15건의 딥페이크 감정을 성공적으로 수행했다고 30일 밝혔다. 특히 제21대 대통령 선거 기간 중 중앙선거관리위원회에 분석모델을 공유해 유튜브 등 온라인 공간의 불법 딥페이크 선거물 1만여 건을 탐지·삭제하는 데에 기여했다. 이번 모델 개발은 과거 기술적 한계로 수행하지 못했던 딥페이크 감정을 국내 최초로 공식화하고 과학적 증거에 기반한 수사 체계를 마련한 것으로 평가된다. 행안부와 국과수는 분석모델을 딥페이크 증거물 감정 업무에 본격 투입함으로써 딥페이크 범죄 수사에 획기적인 전환점이 마련될 것으로 기대하고 있다. AI 딥페이크 분석모델은 최근 AI 기술을 악용해 특정인의 얼굴 등을 합성한 딥페이크 범죄가 폭발적으로 증가하며 심각한 사회 문제가 됨에도 판별 기술이 부족해 수사기관이 관련 증거물 분석에 어려움을 겪는 상황을 극복하기 위해 개발됐다. 모델 개발 과정에서는 공개 데이터셋, 자체 제작 콘텐츠 등 약 231만 건에 달하는 딥페이크 데이터가 활용됐다. 이후 최신 딥러닝 알고리즘에 방대한 데이터를 학습시키고 지속적인 피드백과 성능 개선 작업을 거쳐 딥페이크 탐지 성능을 획기적으로 향상시켰다. 이렇게 개발된 AI 딥페이크 분석모델은 딥페이크 흔적을 자동으로 탐지하며 변조 의심 파일에 대해 합성 확률 및 시간별 변조율을 예측해 딥페이크 여부를 신속하게 판단할 수 있도록 돕는다. 특히 얼굴의 눈·코·입과 같은 특정 부위별 변조 탐지 능력과 함께 반복된 업로드·다운로드로 인해 일부 데이터가 손실되거나 음질이 저하된 증거물에 대해서도 분석 능력을 갖춰 실질적인 수사 환경에서 효과를 발휘할 수 있도록 설계됐다. 행안부와 국과수는 이번 AI 딥페이크 분석모델의 성과를 2023년 개발한 '보이스피싱 음성 분석모델'과 연계해 더욱 강력한 시너지를 낼 수 있도록 할 계획이다. 두 모델을 함께 활용하면 딥페이크 여부를 판별하고 해당 딥페이크가 특정 정치인 등의 음성을 모방·합성해 제작됐는지까지 입증할 수 있을 것으로 예상된다. 행안부와 국과수는 앞으로 AI 딥페이크 분석모델의 활용 범위를 더욱 확대해 나갈 계획이다. 우선 국과수 내부적으로는 현재 독립형 방식으로 운영 중인 모델을 향후 디지털증거물인증시스템(DAS)에 통합해 업무 효율성을 더욱 높일 예정이다. 또 딥페이크 문제로 어려움을 겪고 있는 여성가족부·방송통신위원회 등 다른 기관에도 모델을 단계적으로 확산해 각 기관의 딥페이크 콘텐츠 탐지 및 대응 역량 강화를 적극 지원할 예정이다. 이봉우 국과수 원장은 "AI 기술 기반의 과학수사 역량 강화를 통해 감정의 신속성과 정확성을 높이는 데 최선을 다하겠다"며 "빠르게 변화하는 첨단 기술 환경에 선제적으로 대응해 국민이 신뢰할 수 있는 과학수사 체계를 구축하겠다"고 강조했다. 행안부 이용석 디지털정부혁신실장은 "AI 딥페이크 분석모델은 AI 기술을 사회 문제 해결에 적극적으로 활용한 사례"라며 "앞으로도 AI와 데이터 분석을 국민의 안전과 민생 안정을 위한 행정 분야에 적극적으로 도입해 나갈 것"이라고 밝혔다.

2025.07.30 15:12한정호 기자

딥페이크 사기, 상반기 피해만 4억 달러…인증 체계 뚫렸다

딥페이크 기술이 실제 음성·영상·이미지를 정교하게 조작하는 단계로 진화하면서 이를 악용한 사기 수법이 대규모 금전 피해를 초래했다는 조사 결과가 나왔다. 9일 서프샤크에 따르면 올해 상반기 딥페이크 기반 사기로 발생한 피해는 총 4억1천만 달러(한화 약 5천600억원)로 집계됐다. 이는 지난해 전체 피해액인 3억5천900만 달러(한화 약 4천900억원)를 초과하는 수치로, 지난 2019년부터 5년간 누적 피해액인 1억2천800만 달러(한화 약 1천760억원)의 세 배를 넘는다. 가장 피해가 컸던 사기 유형은 유명인을 사칭해 투자 사기를 유도하는 방식이다. 그 다음으로는 기업 임원을 음성이나 영상으로 사칭해 자금을 이체하게 만든 수법이 뒤를 이었다. 생체인증 시스템을 우회한 대출과 연애 감정을 이용한 로맨스 스캠 피해도 주요 유형으로 나타났다. 전체 피해 가운데 기업은 약 40%, 개인은 약 60%의 피해를 입었다. 인도네시아에서는 인공지능(AI) 생성 이미지를 활용해 수많은 가짜 계좌가 개설됐고 허위 대출 신청도 시도돼 국가 단위 피해 우려가 제기됐다. 홍콩에서는 은행 지점장이 임원을 사칭한 AI 음성 통화에 속아 거액을 이체하는 사고가 발생하기도 했다. 개인을 겨냥한 수법도 한층 정교해졌다. 딥페이크 기술로 외모를 조작한 인물을 통해 연애 관계를 맺은 뒤 가상화폐 투자로 유도한 사기 사건으로 인해 수십 명이 체포됐다. 조지아 트빌리시에서는 유명인 딥페이크 광고와 조작된 투자 플랫폼을 결합해 수천 명이 피해를 입는 대형 사건이 보고됐다. 전체 딥페이크 사건을 유형별로 보면 사기 목적이 31%로 가장 많고 음란 콘텐츠 생성이 23%, 정치 목적 활용은 22%였다. 사건 발생 건수는 올해 상반기 기준 580건으로, 지난해 전체 대비 약 4배 증가했다. 서프샤크는 "딥페이크 기술이 상업화되고 접근성이 높아졌기 때문에 실제 피해 규모가 통계 수치보다 훨씬 클 가능성도 있다"며 "정부와 민간 모두의 대응체계가 시급하다"고 밝혔다.

2025.07.09 16:09조이환 기자

"딥페이크·가짜뉴스 한 번에 잡는다"…한컴위드, 통합 탐지 시스템 개발 착수

한컴위드가 사이버 범죄 예방을 위해 딥페이크·딥보이스·가짜뉴스 통합 탐지 시스템 개발에 나선다. 한컴위드는 숭실대를 주관기관으로 연세대·성균관대와 함께 경찰청의 '허위조작 콘텐츠 진위 판별 시스템 개발' 프로젝트에 국내 연구기관으로 참여하게 됐다고 5일 밝혔다. 이번 사업은 2027년까지 앞으로 3년간 허위조작 콘텐츠 탐지를 위한 데이터세트 구축 및 통합 탐지 시스템을 개발하는 것이 주요 골자다. 해당 시스템은 허위 정보를 식별해 사이버 범죄를 예방하고 사회적 혼란을 줄이는 것을 목표로 한다. 초기 단계인 올해는 탐지를 위한 데이터세트 구축과 탐지 모델의 고도화에 집중하며 내년부터는 머신러닝 기반 자동화 관리 시스템(MLOps)을 적용한 통합 탐지 시스템의 성능 향상과 실증 테스트를 본격적으로 추진할 예정이다. 핵심 기술 연구는 숭실대를 중심으로 성균관대, 연세대, 독일 부퍼탈대, 한컴위드가 함께 수행한다. 숭실대는 딥페이크 음성 탐지 모델을, 성균관대는 딥페이크 영상 및 가짜뉴스 탐지 모델을, 연세대는 표준화된 데이터세트 구축을 각각 담당한다. 부퍼탈대는 다국어 데이터세트 수집과 글로벌 협력 연구를 맡으며 한컴위드는 다양한 탐지 기술을 통합한 ML옵스 기반 시스템의 개발과 실증을 진행한다. 통합 탐지 시스템은 딥페이크 범죄 수사, 비대면 인증 및 심사 과정에서의 진위 판별, 가짜뉴스 유통 추적 등 다양한 분야에 적용될 수 있다. 이를 통해 국가 및 공공기관은 물론 민간 산업 전반의 허위조작 콘텐츠 대응 역량을 강화한다는 목표다. 특히 이번 프로젝트는 경찰청이 주관한 최초의 국제 공동연구 사례로, 독일 기관과 공동으로 연구·개발한다. 딥페이크 탐지 시스템은 언어 차이나 인종의 외형 특성에 따라 성능이 크게 달라질 수 있어 단일 국가나 특정 기관의 탐지 기술만으로는 한계가 있다. 따라서 신뢰할 수 있는 탐지 시스템을 구축하려면 다각도의 협력과 기술 공유가 필수적이다. 송상엽 한컴위드 대표는 "AI 기술 발전으로 딥페이크 및 딥보이스 기반의 사이버 범죄가 급증하고 있다"며 "각 기관의 전문성을 바탕으로 고객 요구에 최적화된 맞춤형 솔루션을 개발하고 상용화에 성공하겠다"고 밝혔다.

2025.06.05 10:52한정호 기자

이재명 선대위 "딥페이크로 후보자 비방, 고발장 접수"

이재명 더불어민주당 대선 예비후보 선거대책위원회는 16일 이 예비후보 얼굴을 합성한 딥페이크 영상물 유포자를 상대로 고발 등 법적 대응을 진행한다고 밝혔다. 선대위는 이날 서면 공지를 통해 “최근 일부 유튜브, 커뮤니티, SNS, 포털, 메신저를 통해 딥페이크 영상 등 허위조작정보를 유포한 자에 대해 강력한 법적 책임을 묻겠다”고 전했다. 이어, “지난주 딥페이크 등 허위조작정보 유포행위에 대해 강력하게 경고했지만 악의적인 의도로 제작한 딥페이크 영상에 후보자를 비방하는 내용을 담은 허위조작정보 등이 지속적으로 유포되는 것을 확인했다”며 “해당 영상들은 딥페이크 기술을 악용해 이 예비후보에게 친중 반미 프레임을 덧씌우고, 악마화하는 내용을 담고 있다”고 지적했다. 그러면서 “이러한 콘텐츠는 후보자의 명예를 심각하게 훼손하고 있다”며 “이와 관련해 딥페이크 영상 유포자 김모씨 및 허위 사실을 유포한 성창경 등 17명(9건)에 대해 법적 조치를 진행한다”고 밝혔다. 선대위는 또 “이 외에도 허위조작정보를 담은 영상, 블로그 게시글 작성자 및 퍼나른 자를 공직선거법 위반으로 수사기관에 고발하겠다”며 “즉각적인 소환조사를 수사당국에 강력하게 촉구한다. 철저한 모니터링을 통해 딥페이크 등 허위조작정보 유포자에 대한 법적 책임을 엄중하게 물어나갈 것”이라고 강조했다.

2025.04.16 13:05박수형 기자

경찰, 딥페이크 범죄자 검거…하이브 "안봐줘"

하이브 뮤직그룹 아티스트를 대상으로 딥페이크 영상을 제작·유포한 피의자들이 경찰에 붙잡혔다. 하이브와 경찰의 수사 공조를 통해 이뤄낸 성과다. 11일 경기북부경찰청(이하 경기북부청)에 따르면 하이브 아티스트를 대상으로 딥페이크 허위영상물 제작하거나 유포한 피의자 총 8명이 검거됐다. 이 중 텔레그램 대화방 등을 만들어 허위영상물을 제작 및 유포한 운영자 6명은 구속됐다. 이번 수사 성과는 하이브와 경기북부청 간 딥페이크 범죄 관련 핫라인을 구축하며 긴밀하게 협력한 결과다. 앞서 하이브와 경기북부청은 지난 2월 25일 딥페이크 범죄 근절을 위한 업무협약(MOU)을 체결했다. 최근 아티스트를 대상으로 한 딥페이크 범죄가 확산됨에 따라, 피해 방지와 신속한 대응을 위해 경기북부청과 공조체계를 구축한 것이다. 하이브는 소속 아티스트들의 얼굴을 합성한 불법 영상에 대해 경찰에 수사를 의뢰하고, 피의자 추적과 검거를 위한 정보를 제공했다. 디지털 범죄에 전문성을 보유한 경기북부청은 하이브가 제공한 정보를 바탕으로 신속하게 피의자를 추적하고, 신원을 특정해 검거에 성공했다. 팬들의 제보도 딥페이크 범죄 피의자 검거에 기여했다. 하이브는 지난해 9월부터 아티스트 권익 보호를 위한 '하이브 아티스트 권익 침해 제보 센터'를 운영해왔다. 하이브는 아티스트의 명예를 훼손하는 합성 게시물에 대한 팬들의 제보를 받아 범죄 사실을 신속하게 인지할 수 있었다. 하이브는 앞으로도 수사기관과 지속적으로 협력해 아티스트 보호 시스템을 보다 고도화할 계획이다. 김호승 경기북부청장은 “피해사실을 스스로 알리기 어려운 연예인의 약점을 악용한 딥페이크 범죄가 기승을 부리고 있다. 딥페이크는 피해자들의 일상을 무너뜨리는 심각한 범죄며, 유명인을 대상으로 한 범죄도 결코 예외가 될 수 없다. 경기북부청은 관련자들을 지속적으로 추적해 검거를 이어나갈 방침”이라고 말했다. 이재상 하이브 대표는 “아티스트의 초상권과 명예를 침해하는 범죄에 대해 무관용, 무합의 원칙으로 강경 대응할 것이다. 유사 사례 근절을 위해 지속적인 감시와 법적 대응을 이어갈 계획”이라고 밝혔다.

2025.04.11 16:44안희정 기자

  Prev 1 2 Next  

지금 뜨는 기사

이시각 헤드라인

카카오, 'AI 수익화 원년' 칼 뺐다...구글·오픈AI 스킬 장착

"다시 3N, 날아오른 K"…신작 흥행이 가른 게임사 실적

아동 정보까지 건드렸다...'버거킹'·'메가커피' 과징금 집중된 이유

삼성전자, 최대 속도 13Gbps급 HBM4 세계 최초 양산 출하

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.