• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
인공지능
스테이블코인
배터리
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'페이크'통합검색 결과 입니다. (45건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

'xAI' 딥페이크 음란물 생성 논란, 美 캘리포니아 법무부 조사 착수

일론 머스크가 설립한 인공지능(AI) 기업 xAI가 캘리포니아주 법무부 조사를 받는다. xAI의 AI챗봇 '그록(Grok)'이 실존 인물 사진을 기반으로 동의 없는 음란 이미지를 생성하고 유포하는 데 악용되고 있다는 혐의다. 15일 CNBC 등 외신에 따르면 롭 본타 캘리포니아주 법무장관은 "그록을 이용해 제작된 비동의 성적 게시물의 확산 혐의로 xAI조사를 진행 중이라고 성명을 통해 밝혔다. 그는 "xAI가 여성과 소녀들을 괴롭히는 데 사용되는 딥페이크 음란물의 대규모 생산을 조장하고 있는 것으로 보인다"며 "이러한 이미지들은 소셜미디어 엑스(X) 를 포함한 인터넷 전반에서 유통되고 있다"고 덧붙였다. 인터넷 감시 재단 조사 결과에 따르면 그록은 일부 사례에서 미성년자 사진을 이용해 가상 나체 이미지를 생성하는 기능까지 제공한 것으로 드러났다. 이번 미국 내 조사는 이미 국제적으로 확산된 우려에 뒤이어 나온 것이다. 현재 인도, 말레이시아, 인도네시아, 아일랜드, 영국, 프랑스, 호주 등 다수의 국가 정부 기관이 대응에 나섰으며, 유럽연합 집행위원회(EC) 또한 조사를 진행 중이다. 말레이시아와 인도네시아는 이미 문제 해결 전까지 그록의 사용을 중단하는 조치를 취한 것으로 알려졌다. 미국 내에서도 비판의 목소리가 커지고 있다. 민주당 상원의원 3명은 애플과 구글에 서한을 보내, xAI가 비동의 음란물 및 아동 성착취 묘사 딥페이크 생성 방지 대책을 마련할 때까지 앱스토어에서 X와 그록 앱을 삭제할 것을 촉구했다. 울트라바이올렛, 전미여성기구(NOW) 등 여성 및 아동 인권 단체들 역시 앱 삭제를 강력히 요구하고 있다. 이에 대해 일론 머스크는 15일 X 게시물을 통해 "그록이 생성한 미성년자 나체 이미지를 인지하지 못했다"고 주장했다. 또 불법 콘텐츠 생성 및 공유의 원인으로 '사용자 요청'과 그록 시스템 내 잠재적 버그를 지목했다. 앞서 xAI는 논란이 확산되자 유료 구독자에 한해 일부 이미지 생성 및 편집 기능을 제한하겠다고 발표한 바 있다. 한편 미국 상원은 지난 14일 딥페이크 음란물의 피해자가 제작 및 유포 기업을 상대로 민사 소송을 제기할 수 있도록 하는 '디파이언스 법(DEFIANCE Act)'을 통과시켰다. 해당 법안은 하원의 검토를 남겨두고 있다.

2026.01.15 09:35남혁우

[신년 인터뷰] "AI 역기능 막는 기술 확보가 국가 경쟁력 좌우"

"인공지능(AI)이 자율주행과 로봇, 에이전트 시스템으로 진화하면 우리가 지금까지 경험하지 못한 새로운 위험을 만들어낼 수 있습니다. 기술 개발뿐 아니라 안전성과 보안, 역기능 대응을 위한 투자가 반드시 병행돼야 하는 이유입니다. 안전과 통제를 처음부터 내재화한 AI 시스템을 설계하는 것이 국가 경쟁력 측면에서도 중요합니다." 성균관대 우사이먼성일 소프트웨어학과·인공지능대학원 교수는 지디넷코리아와 만나 AI 발전과 함께 커지고 있는 기술 안전성 문제를 이렇게 진단했다. 우 교수는 AI 기술 부작용을 최소화할 방법을 연구하는 학자다. 개인정보 침해와 허위 정보 생성, 저작권 문제, 범죄 악용 등 AI 확산으로 인해 나타나는 사회 위험을 기술적으로 통제하는 데 연구 초점을 맞추고 있다. 가장 대표 연구 분야는 머신 언러닝을 이용한 개인정보 보호 기술이다. 머신 언러닝은 AI 모델이 학습한 특정 데이터를 선택적으로 삭제할 수 있도록 하는 기술이다. 보통 모델이 학습 과정에서 방대한 정보를 내부에 저장하지만, 어떤 정보가 어떤 결과에 영향을 미쳤는지 알기 어렵다. 이에 개인이 자신의 개인정보를 삭제해 달라고 요구해도 기존 AI 모델에서는 이를 정확히 반영하기가 거의 불가능하다. 머신 언러닝은 이 문제를 해결하기 위한 기술이다. 최근 그는 이를 실제 개인정보 보호에 적용할 수 있도록 기술을 업그레이드했다. 기존 방식은 특정 데이터를 삭제하기 위해 해당 데이터를 제외한 나머지 데이터로 모델을 재학습해야 했다. 이는 초거대 AI 모델 환경에서 시간·비용 측면에서 사실상 불가능하다. 그는 "기존 언러닝 기법은 연구실에선 가능했지만 실제 서비스에 적용하기에 매우 비효율적"이라고 주장했다. 우 교수 연구팀은 이 문제를 해결하기 위해 새 접근법을 제시했다. 핵심은 원본 데이터를 보관하지 않아도 모델 성능과 삭제 정확도를 동시에 유지하는 방식이다. 이에 원본 데이터를 보관하거나 재학습을 별도로 진행하지 않아도 모델 성능을 유지할 수 있다. 그는 "원본 데이터 대신 통계적으로 유사한 합성 데이터를 생성·활용해 한계를 극복했다"고 강조했다. 그는 삭제 대상 데이터가 다른 데이터와 섞여 변형된 경우에도 제거 가능하다고 설명했다. 그는 "실제 데이터는 단독 존재하지 않고 여러 문장이나 문서, 다른 데이터와 연결돼 학습된다"며 "이를 그래프 구조로 표현하면 어떤 정보가 다른 정보에 어떻게 영향 미쳤는지 추적할 수 있다"고 말했다. 그러면서 "특정 이름이나 문장, 파생 정보까지 한 번에 제거할 수 있는 이유"라고 덧붙였다. 이 연구 성과는 지난해 12월 미국 샌디에고 컨벤션 센터에서 열린 국제 AI 분야 학회 NeurIPS(Neural Information Processing systems)에 발표됐다. 이 연구는 올해 과학기술정보통신부 재원과 정보통신기획평가원(IITP) 지원으로 추진 중이다. 연구 과제명은 '개인정보보호 관련 정책 변화를 유연하게 반영하여 준수하는 AI 플랫폼 연구 및 개발'이다. 우 교수는 해당 기술이 향후 기업과 정부 시스템에도 유용할 수 있을 것으로 봤다. 그는 "기업은 고객 개인정보나 저작권 있는 문서·이미지, 책 내용을 AI 모델에 학습시키기만 하면 된다"며 "삭제 요청이 들어오면 이를 기술적으로 반영하면 된다"고 설명했다. 그는 현재 여러 국내 기업과 협력해 챗봇이나 검색, 문서 분석, 법률 AI 등 서비스에 해당 기술을 적용하는 연구를 진행하고 있다. 그는 "개인정보나 저작권 삭제 요구가 많은 분야일수록 실무적 가치가 큰 기술"이라며 "언러닝 성능을 AI 안전성 평가 지표로 활용하는 방안도 고려 중"이라고 덧붙였다. 우 교수는 이달 시행될 국내 AI기본법과 연구 성과가 깊이 연결될 것으로 내다봤다. 그는 "그는 유럽 일반정보보호규정(GDPR)처럼 한국 AI기본법은 개인의 데이터 삭제 권리를 보장하는 것이 필수일 것"이라며 "우리 방식은 이런 법적 요구를 실제 AI 모델에 기술적으로 반영할 수 있는 현실적 해법"이라고 강조했다. "딥페이크도 '문맥'으로 잡아야"...기술력 전 세계 2위 기록 우 교수는 딥페이크 감지 기술 분야에서도 활발한 연구를 이어가고 있다. 특히 최신 생성형 AI가 만들어내는 새로운 형태의 딥페이크까지 탐지하는 기술 개발에 주력하고 있다. 그는 현재 다수 딥페이크 탐지 모델 성능이 최신 AI 기술을 따라가지 못하는 점을 꼬집었다. 모델 학습에 사용된 데이터와 실제 딥페이크 확산 형태가 다르다는 점을 근본 원인으로 짚었다. 그는 "최신 AI가 만드는 딥페이크는 기존 데이터와 특성이 전혀 다르다"며 "탐지 모델 성능이 실제 환경에서 급격히 떨어질 수밖에 없다"고 말했다. 우 교수 연구팀은 이런 문제를 해결하기 위해 새 방법론을 적용한 딥페이크 탐지 모델을 제시했다. 연구팀은 'DINO'와 'CLIP-ViT' 계열 모델로 이미지와 텍스처, 의미적 패턴을 폭넓게 이해할 수 있는 모델을 구축했다. DINO는 대규모 웹 데이터 기반으로 사전 학습된 모델이다. CLIP-ViT는 텍스트와 이미지 간 의미 관계를 학습한 모델이다. 연구팀은 이를 딥페이크 탐지에 맞게 재학습해 이미지 백본으로 활용했다. 이후 이 모델 위에 딥페이크 전용 어댑터 모듈도 추가했다. 이에 모델은 영상과 이미지에 포함된 미세한 위조 흔적까지 포착할 수 있다. 우 교수는 해당 모델이 단순 이미지 분류를 넘어서 의미론적 개념을 이해하도록 설계된 것을 핵심 기능으로 제시했다. 그는 "이 모델은 특정 유형 딥페이크에 과적합 되지 않는다"며 "여러 위조 콘텐츠를 안정적으로 탐지할 수 있다"고 설명했다. 해당 연구는 지난해 과기정통부 재원으로 IITP 지원을 받아 '디지털역기능대응기술개발'사업으로 수행됐다. 사업명은 '악의적 변조 콘텐츠 대응을 위한 딥페이크 탐지 고도화, 생성 억제, 유포 방지 플랫폼 개발'이다. 해당 모델로 성과도 얻었다. 지난해 국제 컴퓨터비전 학술대회(ICCV)가 주최한 딥페이크 탐지 'SAFE 챌린지'에서 이탈리아 나폴리대 연구팀에 이어 전 세계 2위를 기록했다. 또 지난해 성균관대와 한국정보과학학회가 공동 주최한 '성균관대x한국정보과학학회 딥페이크 경진대회'에서 대상과 우수상을 각각 수상했다. 우 교수는 향후 딥페이크 연구 방향도 제시했다. 그는 "실제 환경에 가까운 조건에서 모델을 연구·평가할 것"이라며 "특히 메신저와 소셜미디어(SNS) 환경처럼 저화질·압축 영상이 많은 환경서도 안정적으로 딥페이크를 탐지할 수 있는 모델을 구축할 것"이라고 덧붙였다.

2026.01.14 15:36김미정

박수현 의원, AI·딥페이크 대응 '퍼블리시티권보호법' 대표발의

박수현 더불어민주당 의원은 '퍼블리시티권 보호 및 이용에 관한 법률 제정안'을 대표발의했다고 5일 밝혔다. 이는 인공지능(AI) 기술 발전에 따른 개인 얼굴·목소리 등 무단 이용을 방지하고, 퍼블리시티권을 체계적으로 보호하기 위한 조치다. 이번 제정안은 개인 초상·성명·음성 등 특정 사람을 식별할 수 있는 요소가 갖는 재산 가치를 보호하고, 공정한 이용 질서를 확립함으로써 문화 가치 창출과 문화 산업 경쟁력 강화 기여 목적으로 한다. 주요 내용으로는 퍼블리시티권을 독립된 재산 권리로 명시하고, 문화체육관광부장관이 관련 시책을 수립·시행하도록 했다. 퍼블리시티권은 권리자 생존 기간과 사망 후 30 년간 존속하며, 권리자 또는 상속인은 초상·음성 등 이용을 허락할 수 있도록 했다. 다만 시사보도나 정보 전달 등 공익 목적 이용에 대해서는 권리자 허락 없이 초상 등을 이용할 수 있는 예외를 뒀다. 또 AI 등을 활용해 생성된 디지털 모사물을 공연·전송·배포할 경우, 해당 콘텐츠가 디지털 모사물임을 명확히 표시하고 위반 시 1천만원 이하 과태료를 부과하는 내용도 담았다. 아울러 권리자 명예를 훼손하는 내용 디지털 모사물을 제작하는 행위 등을 퍼블리시티권 침해행위로 간주했다. 고의성이 인정될 경우에는 손해로 인정된 금액 5배를 넘지 않는 범위에서 배상액을 정할 수 있도록 했다. 박수현 의원은 "AI 기술 발전은 새로운 문화 산업 기회를 제공하는 동시에, 개인 얼굴과 목소리 같은 정체성 요소를 무분별하게 침해할 위험도 함께 키우고 있다" 며 "기술 발전 속도에 맞는 권리 보호 체계를 마련하는 것이 입법 책무"라고 밝혔다. 이어 "퍼블리시티권 보호를 통해 개인 정당한 권익을 지키는 동시에, 문화 콘텐츠 산업이 지속 가능하게 성장할 수 있는 토대가 마련되기를 기대한다"고 강조했다.

2026.01.05 16:05진성우

"딥페이크 의사 광고 금지법, 소비자 보호 효과는 분명”

딥페이크를 활용해 가짜 의사를 내세운 광고를 금지하는 법안이 소비자 보호 효과는 분명하지만 사업자의 과도한 규제는 부담이 될 수 있다는 분석이 나왔다. 국회입법조사처는 31일 발간한 온라인 광고 딥페이크 활용 고지 표시 훼손 또는 위변조 금지 의무 법안의 입볍영향분석 보고서를 통해 이같이 평가했다. 입법영향분석 보고서는 법률안이 시행될 경우 발생할 것으로 예상되는 전반적인 영향을 객관적이고 과학적인 방법으로 예측 분석한 것으로 국내외 연구 논문, 헌재 판례, 국내외 입법례, 이해관계자 의견 등을 종합적으로 반영한다. 현재 소비자는 광고의 진위와 신뢰성을 판단하기 어려워지고, 조작된 영상을 사실로 오인해 제품을 구매하는 등 실질적인 피해로 이어질 우려가 커지고 있다. 특히 식의약품 분야에서는 특정 인물이나 신체 이미지를 합성한 광고가 높은 홍보 효과를 내는 점을 악용한 허위과장 광고가 반복되고 있다. 가상의 이미지를 실제 의사나 전문가의 권고로 오인하는 피해와 건강 정보에 취약한 노년층이 거짓 의학 정보에 노출될 경우 생명과 신체에 대한 직접적인 위험으로 이어질 수 있다는 점에서 제도적 대응의 필요성이 크다. 이와 같은 문제를 해결하기 위해 AI 생성 광고의 표시를 훼손 변조하는 행위를 금지하고, 플랫폼 사업자에게 해당 광고의 삭제 의무를 부과하는 정보통신망법 개정안이 발의됐다. 입법조사처는 법안에 대한 입법영향분석을 실시한 결과 소비자 보호 측면의 효과는 분명하지만 규제 기준의 모호성으로 인해 사업자 부담이 과도해질 우려가 있다고 밝혔다. 먼저 소비자 보호 효과가 크다고 봤다. 현행법은 AI 생성물 표시 의무를 규정하고 있으나, 표시를 고의로 삭제하거나 가리는 행위에 대한 제재는 충분하지 않다. 개정안은 이러한 입법 공백을 보완해 소비자에게 정확한 정보를 제공하고, AI 표시의 신뢰성을 제고해 소비자 오인에 따른 피해 확산을 예방하는 데 기여할 것으로 평가된다. 이와 함께 광고 게시자의 표현의 자유 제한 우려가 제기되고 있다. '훼손'이나 '위변조'의 개념이 명확하지 않을 경우, 단순 편집이나 저화질 변환 등 고의성이 없는 행위까지 규제 대상에 포함될 가능성이 있다. 이는 표현의 자유를 위축시킬 수 있으므로, 하위 법령을 통해 금지 행위의 범위를 구체화할 필요가 있다. 또 정보통신서비스 제공자의 영업의 자유 제한 우려가 있다. 개정안은 정보통신서비스 제공자에게 표시가 훼손 조작된 광고에 대한'지체 없는 삭제'의무를 부과하고 있으나, 이는 기존 정보통신망법상 불법정보 삭제 체계에 비해 사업자의 판단 부담을 크게 가중시킬 수 있다는 것이다. 이에 따라, 입법조사처는 입법영향분석 결과를 토대로 소비자 보호와 사업자에 대한 합리적 규제가 균형을 이룰 수 있는 입법적 논의 방안을 제안했다. 또 입법적 논의와 보완을 거쳐 본 법률안이 실제로 통과된다면, 법률 시행 3년 후 사후 입법영향분석을 실시해 규제 효과와 사업자의 이행 상황을 재점검하는 절차도 제시했다.

2025.12.31 10:52박수형

'2025 디지털 윤리대전' 대상에 동궁초 학생팀

방송미디어통신위원회와 한국지능정보원은 '2025 디지털윤리대전 및 인터넷‧통신 이용자 보호 유공 포상 수여식'을 열다고 30일 밝혔다. 행사는 디지털 역기능에 대한 경각심을 높이고 건전한 이용 문화를 사회 전반으로 확산하기 위해 마련됐다. 행사 비전은 '안전을 더하는 인공지능, 아름다운 디지털 세상'이다. 생성형 인공지능의 확산으로 심화되고 있는 첨단조작기술영상(딥페이크), 허위조작정보 등 디지털 역기능에 대응하는 한편, 인공지능을 안전하고 책임있게 활용하는 문화를 실천해 나가자는 의미다. 디지털윤리 창작콘텐츠 공모전 시상과 건전한 디지털윤리 문화 조성에 기여한 개인과 단체를 격려하는 자리로, 약 150명이 참석했다. '디지털윤리 문화조성 유공' 표창엔 디지털윤리 교육 및 인식 제고에 기여한 공로로 이유정 한국지능정보원 선임과 전창배 국제인공지능윤리협회 이사장, 조은아 인천당하초등학교 교사, 교보교육재단(단체)이 선정됐다. '디지털윤리 창작콘텐츠 공모전' 대상(대통령상)은 딥페이크 위험성과 올바른 대처 방법을 그림일기로 제출한 부산 동궁초등학교 장예정·김현아·박설 학생팀이 받았다. 최우수상(국무총리상)은 인공지능 비서 관련 그림만화(웹툰)를 그린 박인혜 작가(프리랜서)가 이름을 올렸다. '인터넷·통신 서비스 이용자 보호 유공 정부포상'은 안정은 한국인터넷진흥원 팀장이 받았다. 불법스팸으로부터 이용자를 보호하기 위해 관련 정책 수립을 지원하고, 민관 협력 및 지능형 차단 방안 등을 추진해 불법스팸 감축에 일조한 공로다. 이밖에 황용석 건국대 교수, 권은정 가천대 교수, 최재혁 한국정보통신기술협회 수석, 김대열 방송통신이용자보호협회 팀장, 나황영 법무법인 형원 변호사, 이윤남 법무법인 태평양 변호사, 이정규 네이버 전무가 정부포상의 영예를 안았다. 류신환 방송미디어통신위원회 비상임위원은 “인공지능과 디지털 기술의 오남용‧악용 등의 문제로 헌법상 기본권이 침해되고 있다”며 “관련 기술이 국민 신뢰 위에서 발전해 갈 수 있도록 안전한 디지털 환경을 만들어 나갈 것”이라고 말했다.

2025.12.30 15:32홍지후

"옷 벗기고 비키니로"…AI 챗봇, 비키니 딥페이크 생성 논란

일부 사용자들이 인공지능(AI) 챗봇으로 여성 사진을 노출이 심한 딥페이크 이미지로 바꾸는 사용법을 공유하고 있는 것으로 나타났다고 IT매체 와이어드가 23일(현지시간) 보도했다. 보도에 따르면, 구글 제미나이와 오픈AI의 챗GPT 이미지 생성 기능을 통해 사진 속 여성의 옷을 비키니로 바꾸는 딥페이크 이미지를 만들 수 있는 것으로 확인됐다. 온라인 커뮤니티 레딧의 'r/ChatGPTJailbreak' 게시판에서 사용자들은 AI 안전장치를 우회하는 방법을 공유하며 딥페이크 제작법을 서로 안내하는 모습이 포착됐다. 현재는 삭제된 '제미나이의 부적절한(NSFW) 이미지 생성이 너무 쉽다(gemini nsfw image generation is so easy)'라는 레딧 게시물에서 구글 제미나이를 사용해 노출이 많은 옷을 입은 여성 이미지를 만드는 방법에 대한 팁들이 공유됐다. 해당 게시글에서 한 사용자는 인도 전통의상을 입은 여성 사진을 올리며 "옷을 벗기고 비키니로 바꿔달라"고 요청했고, 이에 다른 사용자가 딥페이크 이미지로 만들어 댓글로 올리기도 했다. 이후 와이어드가 이를 레딧 측에 알리자, 레딧 안전팀은 해당 게시글과 이미지를 삭제했다. 또 다른 레딧 게시물에는 특정 인물의 치마를 몸에 더 밀착된 것처럼 보이도록 만들기 위해 AI 챗봇의 안전장치를 우회하는 법에 대한 안내도 공유됐다. 와이어드는 이런 기법이 실제로 제미나이와 챗GPT에서 작동하는지 확인하기 위해 테스트했다. 그 결과 간단한 영어 문장으로 작성된 기본 프롬프트만으로 옷을 입은 여성의 사진을 비키니 딥페이크 이미지로 변환할 수 있었다고 전했다. 생성형 AI 도구가 확산되면서, 해당 기술을 이용해 당사자의 동의 없이 여성들을 딥페이크 이미지로 괴롭히는 사례도 발생하고 있다. 실제로 수백만 명의 이용자가 실존 인물의 사진을 업로드한 뒤 생성형 AI를 통해 옷을 벗긴 이미지로 만들어달라고 요청할 수 있는 이른바 '누디파이(nudify)' 웹사이트를 방문한 것으로 나타났다. 물론 xAI의 그록을 제외하면 대부분의 AI 챗봇은 일반적으로 부적절한 이미지 생성을 허용하지 않는다. 하지만, 구글의 이미지 모델 '나노 바나나 프로', 오픈AI의 '챗GPT 이미지' 등 AI 이미지 생성 도구들이 최근 더 고도화되면서 이용자들이 가드레일을 우회할 경우 생성되는 이미지의 유사성과 사실성은 더욱 높아질 가능성이 있다고 해당 매체는 지적했다.

2025.12.24 16:47이정현

에버스핀, 日 SBI 금융그룹 보안 책임진다

에버스핀이 일본 초대형 금융그룹사 보안을 책임진다. AI 보안기업 에버스핀 (대표 하영빈)은 일본 SBI홀딩스(대표이사 겸 회장 기타오 요시타카)와 두 회사의 합작법인인 SBI에버스핀(대표 윤자명)과 함께 SBI그룹의 보안 강화를 위한 3자 글로벌 보안 협력 강화를 선언했다고 15일 밝혔다. 이번 협력 선언은 에버스핀이 해외 시장에서 본격적인 사업 확장 단계에 진입했음을 보여주는 중요한 이정표로 평가된다. 이번 협력 강화 선언은 에버스핀 솔루션을 SBI 금융그룹 전사 보안체계에 공식 적용하기 위해 SBI홀딩스와 SBI에버스핀이 체결한 대규모 통합 보안 계약을 기반으로 마련됐다. 에버스핀은 프로젝트 핵심 보안 기술 제공사로 공식적인 역할을 수행하게 된다. 에버스핀 기술이 해외 대형 금융그룹 보안 아키텍처에 전사적으로 적용되는 것은 이번이 처음이다. 국내 AI 보안 기술이 글로벌 금융권에서 실질적 경쟁력을 인정받은 사례다. SBI홀딩스와 SBI에버스핀은 SBI그룹 내 금융·투자·플랫폼 서비스 전반의 보안 거버넌스 체계 강화를 위한 포괄적 보안계약을 체결했다. 에버스핀 AI보안 기술은 이 아키텍처의 주요 구성 요소로써 그룹 각사에 도입된다. 또 SBI에버스핀 지분율 30%를 보유하고 있는 에버스핀 측은 SBI에버스핀을 통해 지급받는 로열티 수익 이외에도 지분법 이익을 인식할 수 있어서, 에버스핀 이익에도 선순환을 가져오게 된다고 전했다. 이번 사례는 단순 기술 공급을 넘어 에버스핀의 해외 사업 모델이 본격적으로 확장되는 중요한 계기가 될 전망이다. 하영빈 에버스핀 대표는 “이번 3자 협력은 에버스핀 기술력이 글로벌 금융권에서 공식적으로 인정받은 첫 사례이며, 해외 사업 확장의 출발점이 될 것”이라며 “향후 일본 시장뿐 아니라 아시아·북미 등 주요 해외 시장으로 기술 공급을 확대하고 글로벌 파트너십을 강화하겠다”고 밝혔다. 업계에서는 이번 협력이 해외 대형 금융그룹 대상 기술 도입 사례 확보, 글로벌 수준의 레퍼런스 구축, 향후 해외 금융권 협력 확대 기반 마련등의 측면에서 에버스핀에 중요한 의미를 갖는 것으로 보고 있다. 에버스핀은 이번 프로젝트를 기반으로 일본 금융권 내 확산, 아시아 주요 금융기관 협력 추진, 선제적 보안 기술의 글로벌화 등 해외시장 확장 전략을 단계적으로 가속할 계획이다. 한편, 에버스핀은 이달초 AI-동적표적방어(MTD) 기반 웹·앱 보안 솔루션 '에버세이프'로 기술력을 인정받아 '2025 대한민국 소프트웨어대상'에서 대통령상을 수상한 바 있다. 이는 공격 이후 대응이 아닌 공격 자체를 사전에 무력화하는 선제적 보안 기술의 실효성을 국가 차원에서 공식적으로 인정받은 사례로, 최근 빈발하는 대형 해킹 사고에 대한 현실적인 해법을 제시했다는 평가를 받고 있다.

2025.12.15 09:18주문정

국과수, 딥페이크 탐지 기술 본격 적용…적극행정 대상 수상

국립과학수사연구원(이하 국과수)이 자체 개발한 인공지능(AI) 기반 딥페이크 탐지 기술을 수사 현장에 적용해 신종 디지털범죄 대응에 나선 공로를 인정받았다. 행정안전부 국과수는 지난달 27일 국무조정실, 행정안전부, 인사혁신처가 공동 주관한 '2025년 적극행정 우수사례 경진대회' 본선에서 'AI딥페이크 분석모델' 사례로 대상(대통령상)을 수상했다고 7일 밝혔다. 이번 수상은 국민심사단 평가, 전문가 평가, 온라인 생중계 투표를 종합한 결과다. 국과수가 출품한 'AI딥페이크 분석모델'은 최근 급증하는 딥페이크 범죄에 대응하기 위해 자체 개발한 인공지능(AI) 기반 탐지 기술이다. 기존 위·변조 감정 기법은 실험대조군, 대조영상, 샘플 확보가 필수여서 딥페이크처럼 온라인에서 빠르게 유통되는 콘텐츠에는 한계가 있었다. 국과수는 AI 분석 기술을 적용해 이러한 제약을 줄이고, 범죄 유형별 맞춤형 탐지 모델이 충분하지 않은 상황에서도 효과적인 탐지가 가능하도록 한 점에서 높은 평가를 받았다. 국과수가 구축한 'AI딥페이크 분석모델'은 딥페이크로 의심되는 이미지, 영상, 음성을 입력받아 진위 여부를 자동으로 판별하는 시스템이다. 얼굴, 음성, 영상 합성 과정에서 나타나는 미세한 왜곡과 비정상적 패턴을 AI가 학습해 수사기관에 신속한 1차 판단 근거를 제공한다. 이에 따라 수사기관의 대응 속도와 감정 정확성이 모두 향상돼, 피해 확산을 막고 사건 처리 기간을 단축하는 효과를 거두고 있다는 설명이다. 이번 모델은 단일 연구가 아니라 행정안전부와 국과수, 연구기관·민간기업이 함께 추진해온 여러 연구 성과를 바탕으로 하고 있다. 국과수는 행정안전부 '인공지능을 활용한 딥페이크 불법 콘텐츠 분석 모델 개발' 과제와, 국과수·한국전자기술연구원·한국과학기술원·경찰대학·클레온·위지윅스튜디오 등 6개 기관이 공동으로 수행 중인 '생성형 인공지능의 사회적 부작용을 방지하기 위한 자가 진화형 딥페이크 탐지기술' 연구 결과를 토대로 지능형 범죄 대응 기반 기술을 고도화하고 있다. 국과수는 이 기술이 실제 현장에서 이미 활용되고 있다는 점도 강조했다. 국과수는 제21대 대통령 선거 기간 동안 총 13건, 53종의 딥페이크 관련 영상을 감정해 선거관리와 수사기관에 결과를 제공한 바 있다. 앞으로도 각종 선거에서 불법 딥페이크 의혹 영상이 접수될 경우, AI 기반 분석모델을 활용해 신속히 진위를 가리는 데 적극 협조하겠다는 방침이다. 활용 범위는 선거 영역을 넘어 다른 공공·사회 분야로도 확대된다. 국과수는 딥페이크를 이용한 지능형 범죄 예방 정책을 추진 중인 성평등가족부, 방송미디어 통신위원회 등 유관기관에 'AI딥페이크 분석모델'을 단계적으로 지원할 계획이다. 성착취물, 연예인·공인 합성물, 허위·조작 영상 등 사회적 파장이 큰 딥페이크 범죄에 대해 사전 차단과 사후 수사를 동시에 강화하겠다는 취지다. 이봉우 국립과학수사연구원장은 "이번 수상은 국과수가 국민 안전을 지키기 위해 지능형 신종 범죄에 대응할 수 있는 새로운 기술 개발을 위해 적극 노력한 결과"라며 "앞으로도 현장의 목소리를 청취하고 다양한 기관과 협업을 통해 국민이 체감하는 안전한 사회 구축에 최선을 다하겠다"고 말했다.

2025.12.08 16:44남혁우

피싱방지 앱 1위 에버스핀 '페이크파인더', ISMS로 공급망 보안 강화 해법 부상

인공지능(AI) 기반 사이버 보안 기업 에버스핀(대표 하영빈)의 피싱방지 솔루션 '페이크파인더'가 지난달 정부의 '범부처 정보보호 종합대책' 발표 이후 공급망 보안 강화를 위한 해법으로 또 한 번 주목받고 있다. KB국민은행·카카오뱅크 등 60여 개 금융기관이 사용하며 점유율 1위를 기록 중인 페이크파인더가 다시 주목받는 이유는 정보보호 관리체계(ISMS) 인증 때문이다. 정부는 최근 범부처 정보보호 종합대책에서 공공·금융·통신·플랫폼 등 핵심 IT 시스템에 대한 대대적인 보안 점검과 함께 정보보호 관리체계(ISMS·ISMS-P) 실효성 강화, 소프트웨어·서비스 공급망 전반 보안 수준 제고, 정보보호 서비스 산업 육성 등을 주요 방향으로 제시했다. ISMS 인증을 취득한 페이크파인더는 이같은 정책 기조 속에서 금융사·통신사·공공기관 등 고객사가 자체 시스템뿐 아니라 도입하는 외부 보안 솔루션까지 포함한 전체 디지털 공급망 보안의 강화기반으로 자리매김할 수 있게 됐다. 에버스핀은 과거 자회사 시큐차트가 최초 획득한 페이크파인더 ISMS 인증을, 합병 이후 새로운 기준에 맞춰 다시 전체 관리체계를 검증받아 ISMS를 취득했다. 페이크파인더는 세계 최초로 화이트리스트 방식 악성앱 탐지 기술을 적용했다. 전 세계에서 정상적으로 출시된 앱 2천200만 개 이상을 실시간으로 수집, DB화 한 고유 시스템을 바탕으로, 사용자 스마트폰에 설치된 앱이 정상 앱을 위장한 위조 앱인지, 정상 앱이 변조된 형태인지, 원격제어 앱이 악용되고 있는지 등을 정밀 분석해 피싱·스미싱·원격조작 기반 금융사기 공격을 사전에 차단한다. 기존 블랙리스트 방식처럼 '사고를 일으킨 앱'만 찾는 것이 아니라 정상 앱의 원형을 기준으로 조금이라도 어긋난 앱을 찾아내는 선제방어·사전예방형 구조다. 페이크파인더는 KB국민은행·카카오뱅크·한국투자증권·신한투자증권·KB국민카드·우리카드·DB손해보험·SBI저축은행·저축은행중앙회 등 60여 고객사에서 적용하는 등 국내 시장 점유율 1위를 달리고 있다. 에버스핀은 ISMS 인증 과정에서 페이크파인더 서비스 전반에 대해 ▲정보보호 정책 및 조직 체계 ▲위험 관리 프로세스 ▲접근통제·암호화·로그 관리 ▲서비스 운영 안정성 등 주요 항목에 대해 검증을 받았다. 그 결과 페이크파인더는 피싱·악성앱 탐지 성능뿐 아니라, 서비스 운영과 정보보호 관리 측면에서도 ISMS 기준에 부합하는 체계를 갖춘 솔루션으로 공식 인정받아 왔다. 에버스핀의 ISMS 인증으로 페이크파인더를 도입하는 금융·통신사·공공기관 등이 자체 서비스 내부 보안을 강화할 수 있음은 물론, 외부 보안 솔루션까지 포함한 디지털 공급망 전체에서의 컴플라이언스 요구를 더욱 안정적으로 충족할 수 있게 됐다. 최근 발생하는 보안사고는 단일 시스템의 취약점뿐 아니라 연동된 시스템·외부 솔루션·단말 환경 등 공급망 전반의 관리 책임이 함께 논의되는 상황이기 때문에, 관리 체계가 검증된 보안 솔루션을 활용하는 것은 공급망 보안 리스크를 줄이는 실질적인 수단이 될 수 있다. 하영빈 에버스핀 대표는 “정부의 범부처 정보보호 종합대책은 보안을 이제 개별 시스템의 문제가 아니라 연결된 전체 생태계와 공급망의 문제로 보겠다는 선언이라고 본다”며 “페이크파인더 ISMS 인증은 에버스핀이 피싱·악성앱 탐지 기술뿐 아니라, 관리 체계 측면에서도 고객사의 강화된 기준을 함께 맞춰 나갈 수 있는 준비를 갖췄다는 신호”라고 말했다.

2025.11.20 09:25주문정

"손쉽게 거르자"…딥브레인AI, 딥페이크 탐지 API 공개

딥브레인AI가 추가 시스템 구축 없이 딥페이크를 탐지할 수 있는 서비스를 내놨다. 딥브레인AI는 딥페이크 탐지 솔루션 'AI 디텍터'를 API 형태로 공개했다고 11일 밝혔다. 이 API는 문화체육관광부와 한국콘텐츠진흥원이 주관한 '문화기술 연구개발' 사업 결과물이다. 자체 딥페이크 탐지 기능을 외부 기업과 기관에서도 손쉽게 활용할 수 있도록 확장했다. AI 디텍터 API는 영상·음성·이미지 등 여러 형태의 콘텐츠를 분석해 진위 여부를 판단한다. 페이스 제너레이션, 페이스 스왑, 립싱크 합성 등 합성 콘텐츠를 탐지하며 픽셀 단위 분석 기술을 적용해 조작 여부를 구분한다. AI 디텍터는 콘텐츠 업로드 단계에서 영상과 이미지를 자동 검증해 불법 합성물의 확산을 사전에 차단한다. 게시 후에도 모니터링을 통해 의심되는 콘텐츠를 실시간 탐지하며 빠르게 대응한다. 또 불법 성인물 등 유해 콘텐츠의 경우 자동 블러 처리 기능을 적용해 2차 피해를 예방한다. 딥브레인AI는 이 기술을 통해 다양한 플랫폼에서 안전하고 윤리적인 콘텐츠 유통 환경을 구축하는 것을 목표로 하고 있다. 영상 편집, 미디어 제작, 공공 정보 검증 등 다양한 분야에서 활용 범위가 확장될 것으로 기대된다. 장세영 딥브레인AI 대표는 "딥페이크 기술이 빠르게 확산하면서 AI가 만든 콘텐츠의 진위를 구분하는 일은 더 중요해지고 있다"며 "이번 API 출시는 기업·기관이 별도의 시스템 구축 없이 딥페이크 탐지 기능을 손쉽게 적용할 수 있도록 한 데 의미가 있다"고 강조했다.

2025.11.11 10:12김미정

안토니 쿡 MS 부사장 "AI 혁신·안전 사이 균형 필요…접근성·포용성 높여야 발전 가능"

[경주=장유미 기자] 마이크로소프트(MS)가 인공지능(AI)의 책임 있는 설계와 활용을 위해 공공·민간 협력을 강화한다. 안토니 쿡(Antony Cook) MS 부사장은 30일 오전 경북 경주 예술의 전당에서 열린 '아시아태평양경제협력체(APEC) CEO 서밋' 연단에 올라 '책임 있는 AI 확산과 확장을 위한 공공·민간 협력'에 대해 강연했다. 그는 "AI 기술을 설계하고 운영할 때 투명성과 책임성을 확보하는 것이 무엇보다 중요하다"며 "우리는 10년 전부터 이런 원칙을 적용해왔고, 이제는 이를 산업 전반으로 확산할 시점"이라고 말했다. 이어 "현재 30개 이상의 안전 도구를 외부에 개방해 기업과 기관이 자체적으로 AI 안전 체계를 구축할 수 있도록 지원하고 있다"며 "이 같은 접근은 단순히 기술 제공을 넘어 신뢰 가능한 AI 생태계를 조성하는 것을 목표로 두고 있다"고 설명했다. 이를 위해 MS는 '콘텐츠 출처 및 진위성 연합(Coalition for Content Provenance and Authenticity, C2PA)'의 창립 멤버로도 활동 중이다. AI가 생성한 콘텐츠의 출처를 표시하는 개방형 표준 개발을 주도하기 위해서다. C2PA는 딥페이크 위협에 대응하기 위한 핵심 표준을 제시하는 곳으로, 구글과 어도비, 메타, 인텔, 소니, 오픈AI 등도 멤버로 활동하고 있다. 쿡 부사장은 "콘텐츠의 출처를 명확히 하는 것은 디지털 신뢰의 핵심"이라며 "산업계 전체가 협력해야 한다"고 강조했다. 또 그는 사회 인식 제고를 위한 민관 협력의 중요성도 강조했다. 이의 일환으로 MS는 한국에서 영국 비영리단체, 국내 비영리기관, 한국지능정보사회진흥원(NIA)과 협력해 중학생 대상 AI 인식 캠페인을 진행할 예정이다. 쿡 부사장은 "청소년들이 AI 기술의 가능성과 위험을 균형 있게 이해하고 책임 있는 이용 태도를 가질 수 있도록 도울 것"이라며 "청소년이 기술의 가능성과 위험을 올바르게 이해하도록 돕는 것이 목표로, AI 시대의 책임 있는 시민 의식을 키우는 계기가 될 것"이라고 말했다. 그는 AI의 사회적 영향이 커지는 만큼 법적 책임의 경계에 대한 논의도 중요하다고 강조했다. 또 정부는 국민 보호의 책임을 지지만, 시민사회와 업계의 협력이 병행돼야 균형 잡힌 제도와 문화가 만들어진다고 주장했다. 쿡 부사장은 "플랫폼 운영자, 콘텐츠 제작자, 이용자 간 책임 소재를 명확히 하면서도 창작의 자유와 사회적 안전을 함께 고려해야 한다"며 "정부와 시민사회, 업계가 함께 AI의 한계와 가능성에 대한 투명한 대화를 나누는 것이 출발점"이라고 말했다. 또 과거 기술 혁명을 통해 얻은 교훈이 있는지에 대해선 "전기나 광대역망처럼 일반 목적 기술의 확산이 모든 계층에 공평하지 못했다"며 "AI 역시 인프라가 충분히 갖춰지지 않으면 격차가 커질 수 있다"고 말했다. 그러면서 "AI 접근성과 포용성을 높이는 것이 지속 가능한 기술 발전의 핵심"이라고 강조했다. 마지막으로 쿡 부사장은 "AI 혁신을 촉진하면서도 사회적 가치와 안전을 지키는 균형이 필요하다"며 "책임 있는 협력을 통해 AI의 잠재력을 모두가 공유해야 한다"고 밝혔다.

2025.10.30 10:59장유미

국감장에 부총리 딥페이크...배경훈 "국민들 사실로 오해, 유감"

배경훈 부총리 겸 과학기술정보통신부 장관이 자신을 소재로 제작된 정치쟁점적인 요소의 딥페이크 동영상이 국정감사 중에 재생된 점에 대해 유감을 표했다. 배경훈 부총리는 13일 정부세종청사에서 열린 국정감사에서 국민의힘 김장겸 의원의 질의가 끝난 뒤 “국민들이 보고 계시는 국정감사에서 (딥페이크로 제작된) 이런 영상이 띄워지면 이를 사실로 받아들일 수 있는 오해가 생길 수 있다”고 했다. 이어, “이런 영상은 소라로 만들면 소라로 만들어진 영상이라고 표시되는데, 딥페이크 영상이라고 자막 자료라도 첨부됐다면 좋았을 텐데 영상이 돌아다닐 것에 대해 유감 표명을 드려야 할 것 같다”고 밝혔다. 앞서 이날 과기정통부 대상 국정감사에서 김장겸 의원의 질의 중에 이춘석 의원의 주식 투자와 관련, 배 부총리가 등장하는 딥페이크 동영상이 재생됐다. 동시에 여야 의원들의 논쟁 중에 감사가 잠시 정회되기도 했다. 감사가 속개된 뒤 김 의원은 “개연성이 있을 법한 루머에는 대중이 믿도록 만드는데, 그런 사례에 AI가 적용되면서 불과 몇 초 만에 만든 영상인 점을 강조하려고 한 것”이라며 “이춘석 의원 관련 영상은 고급일식집에서 술잔을 마주하고 몇 줄의 프롬프트만으로 만들어진다”고 말했다. 이어, “내년 지방선거를 앞두고 제대로 된 부서도 없고 그런 차원에서 질의를 한 것”이라고 덧붙였다. 배 부총리는 이에 대해 “과기정통부가 부총리 조직으로 승격하면서 AI실 산하에 AI안전신뢰정책과, AI안전신뢰지원과 등 두 개 과가 신설됐다”며 “AI 산업의 진흥도 중요하지만 안전과 신뢰에 대한 부분 아주 중요하게 생각한다. 신뢰와 안전에 대한 부분을 지켜내지 못하면 산업 진흥도 물거품이라고 생각한다”고 답했다. 김 의원이 모두의 AI가 정치적 구호에 그치지 않냐며 결국 엔비디아 배를 불려주는 것이 아니냐는 질의에 대해, 배 부총리는 “전세계적으로 AI 개발 특히 학습에서 엔비디아를 사용하지 않는 곳 없을 것이고, 이제 대체제로 AMD가 준비되고 있고, 추론 분야에서는 국내 NPU 업체들이 잘 준비하고 있다”고 말했다. 이어, “결국 AI기본사회는 모두가 AI를 통해 혜택을 누린다는 것”이라며 “방식은 여러 가지가 있겠지만 일반인들이 챗GPT로 통용되는 서비스를 쉽게 쓰듯이 누구나 쓰고 많은 혜택 누리면서도 많은 소외계층 AI 잘 사용하지 못하는 부분이 있으니 누구나 AI를 활용하게 하겠다는 게 핵심”이라고 강조했다. 그러면서 “해외 빅테크 중심의 AI 기술뿐만 아니라 챗GPT를 사용할 수도 있다”며 “다만 한국도 AI 파운데이션 모델을 만들고, 이를 기반으로 AI 서비스를 만들고, 또 이를 기반으로 특화 모델을 만들고, 나아가 AX를 확산하고 과학기술을 혁신하는 데 한국에 내재화된 자체 AI가 필요하다는 것”이라고 덧붙였다. 배 부총리는 이어 최민희 과방위원장에 발언 기회를 얻어 “(김장겸 의원이) 딥페이크 영상을 보여줬는데 취지에는 충분히 공감한다”면서도 “딥페이크 영상이 사실인 것처럼 돌아다닐 것에 대해 유감을 표명한다”고 했다.

2025.10.13 12:28박수형

AI가 '가짜정보' 생성↔학습..."인터넷 파괴될 수도"

인공지능(AI) 기술이 빠르게 발전하면서 인터넷 콘텐츠의 '신뢰성'이 심각한 위기를 맞고 있다. 유튜브 교육 채널 '커지저트(Kurzgesagt)'는 최근 영상을 통해 “AI가 만들어내는 저품질 정보가 결국 인터넷의 신뢰 체계를 무너뜨릴 수 있다”고 경고했다. 이 영상은 게시된 지 약 이틀만에 600만 조회수를 넘어, IT 미디어인 기가진 등 외신을 통해서도 소개됐다. 인터넷의 절반은 '봇'… AI가 만든 콘텐츠 쏟아져 이 외신에 따르면 현재 전 세계 인터넷 트래픽의 절반가량은 인간이 아닌 '봇(bot)'이 만들어내는 것으로 알려졌다. 특히 최근에는 AI가 자동으로 생성한 글, 영상, 심지어 책까지 무분별하게 확산되며, 이른바 'AI 슬럽'(AI Slop, AI가 만든 저품질 콘텐츠) 현상이 심각한 문제로 떠오르고 있다. 이 같은 현상은 검색 엔진의 신뢰도에도 영향을 주고 있다. 대표적으로 구글의 'AI 요약'(AI Overview) 기능은 빠른 응답을 위해 경량화된 모델을 사용하는데, 이 때문에 사실과 다른 정보가 표시되는 사례가 잇따르고 있다. 실제로 자신의 이름을 검색했더니 “10년 전에 사망했다”는 잘못된 문장이 등장하거나, AI가 잘못된 정치 성향을 덧씌운 사례도 보고됐다. "AI가 만들어낸 80%는 맞지만, 나머지 20%는 근거조차 없다" 커지저트 제작진은 학술 콘텐츠를 만들 때 최소 2~3명의 검증 과정을 거쳐 전문가 피드백을 받는 등, 한 편당 100시간 이상을 사실 확인에 투자한다고 밝혔다. 제작팀은 정보 수집 과정에 AI를 도입해 실험을 진행했다. 그 결과, AI가 제공한 정보의 약 80%는 실제 출처가 존재하고 요약도 비교적 정확했지만, 나머지 20%는 출처조차 알 수 없는 허위 정보였다고 한다. 커지저트는 이 현상을 “AI가 우리를 만족시키기 위해 사실을 꾸며냈다”고 지적했다. 즉, AI가 '더 흥미롭게 보이도록' 일부 내용을 창작한 것이다. 문제는 이 '80%의 신뢰할 만한 정보'조차 완전히 안전하지 않다는 점이다. 커지저트 팀이 출처를 다시 추적한 결과, 일부 뉴스 사이트는 AI가 만든 근거 없는 정보를 실제 뉴스처럼 게시하고 있었고, 이후 다른 AI가 이를 학습해 '출처가 있는 정보'로 다시 내보내는 '허위 정보의 순환 구조'가 확인됐다. 실제로 올해 기준, 1천200개 이상의 뉴스·웹사이트가 AI가 만든 가짜 기사나 허위 스토리를 게시한 사실이 드러났다. 즉, AI가 만든 가짜 정보를 실제 언론사 기자가 받아쓰고, 그것을 다시 AI가 학습하는 악순환이 벌어지고 있는 셈이다. 커지저트는 영상 말미에서 “AI의 확산은 인터넷의 신뢰 체계를 되돌릴 수 없게 파괴할 위험을 내포하고 있다”고 경고했다. AI가 생산하는 정보의 양이 폭발적으로 늘어나면서, 진짜와 가짜를 구별하기 점점 어려워지는 상황이 펼쳐지고 있다는 지적이다.

2025.10.10 09:52백봉삼

"딥페이크 성범죄 폭증하는데, 심의 인력은 9명"

최근 3년간 딥페이크 성범죄 영상물 심의 건수가 12배 가까이 늘었지만, 이를 모니터링하는 인력은 9명에 불과한 것으로 나타났다. 국회 과학기술정보방송통신위원회 소속 조인철 의원(더불어민주당)은 방송통신심의위원회로부터 제출받은 '딥페이크 성범죄영상물 시정요구 현황' 자료를 바탕으로 지난해 7천187건의 심의 건수가 올해 8월 기준으로 이미 1만5천808건으로 집계됏다. 이와 관련한 디지털성범죄정보 심의전담 인력은 2021년 8명에서 현재 9명으로 1명 늘어나는 데 그쳤다. 하루 평균 심의 건수는 136건(2020년)에서 347건(2024년)으로 두 배 이상 늘어나 업무 과부하와 심의 적체가 불가피한 상황이다. 경찰청의 '딥페이크 범죄 10대 피해자 현황'에 따르면, 딥페이크 범죄 10대 피해자는 2021년 53명에서 2023년 181명으로 3배 이상 증가했다. 특히 주요 유통 경로가 해외 불법 음란사이트와 P2P 사이트인 만큼 대응이 늦어질 경우 피해 확산 위험은 더욱 커졌다. 조인철 의원은 “딥페이크 성범죄는 피해자에게 평생 지울 수 없는 상처를 남긴다”며 “피해가 폭증하는데도 인력과 예산은 턱없이 부족한 만큼 모니터링 인프라가 조속히 확충되어야 한다”고 말했다.

2025.09.29 10:29박수형

AI 시대, 'PR의 아버지'와 '선전의 대가'가 말하다

인공지능이 홍보 업계의 판도를 바꿔놓은 2025년. 한 자리에 모인 두 전설적 인물이 PR과 선전의 본질, 윤리, 그리고 기술의 힘에 대해 첨예한 대담을 펼친다. 현대 PR의 개척자 에드워드 버네이즈와 나치 독일의 선전부 장관 요제프 괴벨스가 AI 시대의 커뮤니케이션 환경에서 PR의 양면성과 윤리, 기술의 중립성과 악용, 스타트업을 위한 전략까지 다양한 주제를 놓고 가상의 인터뷰를 가졌다. 대담은 20년 이상 한국 PR 업계 활동해온 문지형이 진행했다. ■ 에드워드 버네이즈 – 현대 PR의 아버지 현대 PR의 창시자로 불리는 미국의 홍보 컨설턴트다. 프로이트의 조카답게 대중 심리를 활용한 홍보기법을 개척해 자신을 '여론 조작의 숨은 정부' 일원이라 자처하기도 했다. 1928년 출간한 저서 'Propaganda'에서 "조직된 대중의 습관과 의견을 의식적으로 조종하는 것은 민주 사회의 중요한 요소"라고 역설하며 선전의 역할을 노골적으로 강조했다. 1929년 여성 흡연의 금기를 깬 '자유의 횃불' 캠페인부터 1954년 과테말라 정권 전복에 연루된 유나이티드 프루트사의 홍보전까지 굵직한 캠페인들을 주도했다. ■ 요제프 괴벨스 – 선전의 대가 독일 나치 정권의 국민계몽선전부 장관으로 히틀러 정권의 선전 전략을 총괄한 인물이다. 1933년부터 언론·출판·라디오·영화 등 모든 매체를 장악하고 검열해 대중 여론을 철저히 통제했다. 열정적인 연설과 치밀한 선동으로 독일 국민의 전폭적 지지를 이끌어냈다. "거짓말도 충분히 크게 자주 반복하면 대중은 결국 믿게 된다"는 신념 아래 허위 정보 전략을 구사한 것으로 알려져 있다. ■ 문지형 – 진행자 스타트업부터 중견·대기업까지 20년 이상 홍보 커뮤니케이션 전략을 수행한 전문가. 위기관리와 브랜드 스토리텔링, AI 기반 PR 자동화 프로젝트 경험을 보유하고 있다. IT·부동산·소비재 등 다양한 산업에서 성과를 낸 홍보인. 현재 알스퀘어에서 대외협력·브랜드 전략을 맡으며 업계 트렌드와 실무를 잇는 가교 역할을 하고 있다. 대담 내용 문지형: 2025년의 PR 환경에 오신 것을 환영합니다. 오늘날 홍보 업계는 AI 기술과 소셜미디어로 과거와는 크게 달라졌습니다. 현대의 PR 환경을 보신 소감이 어떠신지요. 예전과 가장 달라진 점은 무엇이라고 느끼십니까? 버네이즈: 겉으로는 도구와 채널만 변했지, 본질은 같습니다. 대중은 여전히 감정과 무의식에 의해 움직이고, PR 전문가들은 여전히 그 지렛대를 찾고 있지요. 다만 이제 그 규모와 속도가 상상을 초월합니다. 제 시절에는 여론 조사를 하고 메시지를 퍼뜨리는 데 몇 주, 몇 달이 걸렸지만 지금은 소셜미디어를 통해 몇 시간 만에 전 세계 수백만에게 도달할 수 있습니다. 예컨대 오늘날에는 케임브리지 애널리티카 같은 곳이 페이스북 사용자 5천만 명의 프로필 데이터를 며칠 만에 분석해 맞춤 캠페인을 만들 정도입니다. 제가 한때 소규모 표본으로 수개월 고민하던 일을 AI와 빅데이터로 단숨에 해내다니, 기술의 발전에 입이 다물어지지 않아요. 동시에 PR이 이제 학문적 기반과 윤리 규범을 갖춘 전문 업으로 자리 잡은 것도 인상적입니다. 제 때만 해도 우리는 우리가 하는 일이 "보이지 않는 정부" 역할을 한다고 생각했지만, 지금은 투명성과 책임을 강조하는 분위기가 강해졌네요. 괴벨스: 하하, 시대가 달라져도 "대중은 대중"인 모양이군요. 저는 현대의 PR 환경을 보며 정보의 바다, 그리고 혼란의 바다를 느꼈습니다. 예전에 나는 독일 국민에게 일방향으로 메시지를 주입하면 되었지만, 이제는 모든 사람이 휴대폰 하나로 송신자이자 수신자가 되었어요. 정보가 넘쳐난다는 것은 선전하는 입장에선 양날의 검입니다. 한편으론 클릭 한 번으로 거짓이든 진실이든 순식간에 퍼뜨릴 수 있어 선전의 전파력은 과거보다 훨씬 강력합니다. 다른 한편으로는 정보원이 너무 많아 통제가 어렵고, 거짓을 퍼뜨리면 곧바로 누군가 사실 확인을 해서 공개적으로 반박할 수도 있죠. 결국 '정보의 홍수' 속에서 누가 군중의 귀를 사로잡느냐의 경쟁이 치열해진 시대라는 인상입니다. 혼란을 이용해 대중을 혼란스럽게 만드는 것도 전략의 하나라고 봅니다만, 현대는 정말 혼란 그 자체네요. 문지형: 두 분 말씀에서 공통점을 발견합니다. 기술은 변했지만 인간의 본성은 그대로라는 점이죠. 실제로 한국 PR 업계에서도 AI 도구들이 업무 효율을 크게 높였지만, 결국 사람의 감정을 움직이는 '스토리'는 여전히 인간이 만들어내고 있습니다. 그런데 PR과 선전의 경계에 대해 여쭙고 싶습니다. 버네이즈 선생님은 흔히 '홍보(PR)의 아버지'로 불리지만, 동시에 저서 제목 그대로 '프로파간다(Propaganda)', 즉 선전 기법을 활용했다고 평가받습니다. PR과 선전, 본질적으로 같은 것일까요 다른 것일까요? 버네이즈: 좋은 질문입니다. 사실 '선전'이란 단어에 대한 거부감이 크지 않습니다. 1920년대에는 선전(propaganda)이라는 말이 한낱 중립적인 용어였어요. 1차 대전 때 저도 미국 CPI 위원회(공정보도위원회)에서 선전 업무를 했지만, 그건 민주주의를 수호하기 위한 정보 캠페인이었죠. 다만 2차 대전을 거치며 선전이란 말이 저 괴벨스 박사 같은 이들의 악행 때문에 크게 오염되었습니다. 그래서 현대에는 우리는 선전을 PR이나 커뮤니케이션이라는 말로 승격시켜 부르고, 윤리를 중시하는 방향으로 발전시켜 온 겁니다. 본질적으로 PR과 선전 모두 대중을 설득하고 여론을 형성하려는 활동인 것은 같아요. 그러나 결정적인 차이는 윤리와 진실성에 있습니다. 오늘날 PR 업계의 윤리 강령을 보면 "우리는 대중에게 전달하는 모든 정보에서 최고 수준의 정확성과 진실을 준수한다"고 명시되어 있죠. 즉 PR은 사실에 기반한 설득을 지향한다는 겁니다. 괴벨스: (웃으며) 버네이즈 씨, 당신 책 제목이 '선전(Propaganda)' 아니었던가요? 말하자면 PR이란 결국 좋은 선전, 선전이란 나쁜 PR이라고들 하는데, 이 구분이 위선적이라고 봅니다. PR이나 선전이나 수단과 목적만 다를 뿐 똑같은 원리예요. 대중의 마음을 쥐락펴락한다는 점에서 차이가 없지 않습니까? PR 윤리 강령에 '진실을 준수' 운운하지만, 현실에서는 기업이나 정부나 자기 이익을 위해 불리한 진실은 숨기고 유리한 내용만 퍼뜨리지요. 완전한 거짓말은 안 하더라도 진실을 편집하고 왜곡하는 건 다반사입니다. 그건 거짓말과 큰 차이가 없습니다. 결국 승자가 자기 쪽은 PR이었다 하고, 패자는 상대의 것을 선전이라 낙인찍는 것 아니겠습니까? (버네이즈를 향해 미소 지으며) 당신의 기법을 나쁜 정권이 쓰면 선전, 좋은 기업이 쓰면 PR이라 부르는 차이랄까요. 버네이즈: 선전이건 PR이건 대중 설득의 기술인 점은 인정합니다만, 제가 강조하고 싶은 건 목적의 정당성과 방법의 양심입니다. 민주주의 사회에서 PR 활동은 궁극적으로 대중에게 이롭고 사회에 유익한 방향으로 여론을 '조율'하는 것이라 믿었습니다. 반면 괴벨스 박사가 주도한 선전은 증오와 거짓을 이용해 대중을 호도하여 인류에 재앙을 가져왔지요. 두 활동 모두 여론을 움직였지만 하나는 담배를 팔고 여성의 사회적 자신감을 높이는 데 쓰였고—완전히 고결하다고는 못하겠군요—또 하나는 사람들을 전쟁과 학살로 내몬 차이가 있습니다. 문지형: 흥미로운 지적들입니다. 현장에서는 사실 두 분 관점이 모두 현실적으로 느껴져요. 이론상으론 PR과 선전을 구분하지만 실무에서는 경계가 모호한 경우가 많거든요. 그런데 이 진실과 거짓의 문제를 좀 더 파고들어보고 싶습니다. 괴벨스 박사는 거짓도 유용한 무기라고 공공연히 주장하셨고, 실제로 나치 선전에서는 철저한 허위 정보와 과장된 음모론까지 동원됐습니다. 반면 현대 PR 업계에서는 진실성과 투명성을 매우 강조합니다. 실무적으로 볼 때, 대중을 설득하기 위해 어디까지가 용인되고 어디부터가 선을 넘는 것일까요? 버네이즈: 앞서도 말씀드렸듯이, 노골적인 거짓말은 장기적으로 득보다 실이 큽니다. 특히 지금같이 정보가 투명한 사회에서는 거짓 주장은 금세 들통이 나기 쉽고, 한 번 신뢰를 잃으면 돌이키기 어렵습니다. 그래서 현대 PR 전문가들은 팩트로 승부하려고 노력합니다. 물론 프레이밍을 통해 사실을 해석하는 방향에는 창의성이 동원되지요. 예를 들어 같은 제품도 어떤 이야기를 붙이느냐에 따라 전혀 다르게 인식됩니다. 제가 여성 흡연을 "해방의 상징"으로 프레이밍했던 것처럼요. 하지만 그렇다고 "담배를 피우면 건강에 이롭다"는 식의 새빨간 거짓말을 하진 않았습니다. 핵심 메시지에선 사실을 기반으로 하되, 그 맥락과 정서를 설계하는 게 PR의 역할입니다. 오늘날에는 기업의 잘못을 가리기 위한 거짓 홍보를 했다가 오히려 대중의 뭇매를 맞은 사례도 많습니다. SNS상에서는 소비자나 직원 내부고발 등을 통해 금세 진실이 퍼져나가거든요. 작은 거짓도 발각되면 기업 평판이 순식간에 추락하는 시대입니다. 괴벨스: (고개를 가로저으며) 이상주의적 견해로 들리는군요. 나는 이렇게 생각합니다. 대중은 보고 싶은 것만 보고 믿고 싶은 것만 믿는다. 그리고 선동가는 그 약점을 공략하지요. 내가 유대인에 대한 음모론을 퍼뜨렸을 때, 독일 국민은 그것이 명백한 거짓이라 생각하지 않았습니다. 믿고 싶어했으니까요. 전쟁을 정당화하려고 "폴란드인이 독일인을 학살하고 있다"는 가짜 뉴스를 꾸며낸 적도 있지만, 국민들은 그걸 믿어야 할 이유가 생기니 받아들였어요. 다시 말해 거짓도 사람들이 받아들이게 만들면 그것이 그들의 진실이 됩니다. 선전가는 그 심리를 이용할 뿐입니다. 그러니 제 입장에서 거짓과 진실의 경계는 실용적 관점이지 도덕적 관점이 아니었어요. 물론 모든 경우에 거짓이 능사는 아닙니다. 가령 국민들의 사기를 높일 때는 오히려 실제 전황을 적당히 숨기고 희망적인 사실만 부각하는 "부분적 진실"이 효과적이었어요. 완전한 거짓보다 진실과 거짓을 섞는 기술이 더 설득력이 높을 때가 많죠. 정확히 어디까지 거짓이 허용되는가? 그런 질문 자체가 사치라고 봅니다. 승리를 위해서는 수단의 선악을 가리지 않는 것, 그것이 내가 알던 프로파간다의 세계였습니다. 문지형: 두 분의 상반된 접근법이 현대 PR의 딜레마를 잘 보여주네요. 한국 시장에서는 '불문율'이 있어요. "거짓말은 하지 마라, 하지만 모든 진실을 다 말할 필요는 없다"는 식의 암묵적 합의죠. 법적으로는 공정거래위원회나 방송통신위원회 기준을 넘지 않는 선에서, 윤리적으로는 언론이 팩트체크를 해도 "과장은 있지만 거짓은 아니다" 수준을 유지하려고 합니다. 그런데 이제 AI 시대가 되면서 상황이 또 달라졌습니다. 2025년 현재 PR과 마케팅 분야에서 AI 기술이 본격적으로 활용되고 있습니다. PR 종사자의 69%가 생성형 AI를 업무에 활용하고, 64%는 보도자료 작성이나 아이디어 구상 등에 AI를 통합했다고 합니다. 반면 딥페이크 기술 악용 사례도 늘고 있는데요. 테일러 스위프트 가짜 지지 영상이나 바이든 대통령 목소리를 흉내 낸 가짜 음성 로보콜 같은 사례 말입니다. AI가 홍보와 선전 양측에 쓰이는 현실을 어떻게 보시나요? 버네이즈: 일평생 대중의 무의식과 여론 데이터를 활용해 설득 전략을 세웠는데, AI 시대에는 그 두 가지가 모두 비약적으로 강화된 느낌이에요. 우선 생성형 AI는 홍보 실무자들의 훌륭한 조력자가 될 수 있습니다. 예전에는 보도자료 한 장 쓰고 여론 반응을 살피는 데 엄청난 시간과 노력이 들었지만, 이제 AI는 몇 초 만에 완벽한 초안을 잡아주고, 소셜미디어의 수백만 반응을 실시간으로 요약해주는군요. PR 업무의 효율성이 그야말로 혁명적으로 늘었습니다. 그리고 무엇보다 AI는 방대한 데이터 분석을 순식간에 해내지요. 이를테면 대중의 소비 습관이나 여론 경향을 실시간으로 파악해 홍보 전략을 정교하게 조정할 수 있을 테니, 제가 꿈꾸던 "여론 엔지니어링"이 드디어 완성된 느낌입니다. 하지만 우려되는 점도 큽니다. AI가 강력한 만큼, 그 악용도 위험합니다. 딥페이크 영상이나 가짜 음성 같은 것은 과거에는 상상도 못 했던 고도 선전 수법입니다. 누군가의 얼굴과 목소리로 거짓 메시지를 만들어 내보낸다면, 대중은 더 이상 눈과 귀를 믿기 어려워지죠. 민주사회에서는 이런 현상을 막기 위해 법과 규제, 교육이 필요하겠지요. 저는 기술 그 자체보다 인간의 판단력과 윤리가 더 중요해진 시대라고 봅니다. 괴벨스: 글쎄요, 기술은 중립적이라는 말에는 동의하지만, 기술 환경이 바뀌면 전략도 바뀌게 마련입니다. AI 덕분에 이젠 누구나 손쉽게 선전가가 될 수 있습니다. 예전에는 라디오 방송을 하나 하려면 국가적 자원이 필요했지만, 지금은 노트북만으로도 자동으로 가짜 뉴스를 수백만 건 만들어낼 수 있지 않습니까? 제가 만일 AI를 다룰 수 있었다면, 아마 수천 개의 가짜 계정을 풀어 우리에게 우호적인 게시글과 댓글, 영상을 홍수처럼 쏟아냈을 겁니다. 실제 인물의 모습으로 가짜 연설을 시킨다니, 상상만 해도 짜릿하지 않습니까? 국민들은 혼란에 빠지고, 무엇이 진실인지 헷갈리게 될 테지요. 그렇게 진실의 토대를 흔드는 것, 그게 선전의 강력한 무기가 될 겁니다. 아이러니하게도, 모든 것이 의심스러운 세상에서는 사람들은 결국 믿고 싶은 것만 골라 믿는 경향이 강해집니다. 그렇게 되면 선전가는 더욱 극단적 주장으로 팬층만 확보하면 그만이겠지요. 저는 이를 '분열된 현실'이라 부르고 싶군요. 기술 플랫폼들이 알고리즘으로 사람들에게 맞춤 정보만 주다 보니, 사회 전체의 공통 현실이 사라지는 느낌입니다. 이런 상황에서는 거짓을 진실처럼 만드는 것도, 진실을 거짓이라 우기는 것도 둘 다 수월해집니다. 문지형: 두 분 모두 AI의 양면성을 정확히 짚어주셨네요. 실제로 한국에서도 이런 현상들이 나타나고 있어요. 선거철마다 후보자 딥페이크 영상이 문제가 되고, 기업들은 AI로 가짜 리뷰나 댓글을 조작하다가 적발되는 사례가 늘고 있습니다. 반면에 건전한 활용 사례도 많아요. ChatGPT로 다양한 버전의 보도자료를 만들어 A/B 테스트를 하거나, 고객 피드백을 AI로 분석해서 브랜드 전략을 수립하는 식으로요. 그렇다면 마지막으로, 스타트업이나 중소기업의 PR 전략에 관한 조언을 부탁드립니다. 두 분 모두 거대한 대중을 상대로 영향력을 행사한 경험이 있으니, 오히려 작은 조직이나 신생 기업이 한정된 자원으로 효과적인 홍보를 하려면 어떤 원칙을 잡아야 할지 궁금합니다. AI 시대의 기술 활용 방법도 함께 말씀해 주시면 좋겠습니다. 버네이즈: 규모의 차이만 있을 뿐 원리는 같습니다. 강조하고 싶은 건 '스토리텔링', 그리고 공중의 욕구를 읽는 통찰입니다. 작은 회사라도 사람의 마음을 움직이는 서사를 만들면 승산이 있습니다. 돈을 들여 광고를 하지 않아도, 훌륭한 PR 아이디어 하나면 언론이나 SNS가 자발적으로 퍼뜨려 주는 시대입니다. 예컨대 스타트업이 자사의 기술로 어떻게 세상을 바꾸고 있는지를 한 편의 감동적인 이야기로 엮어 보도자료를 쓰고, 그걸 언론에 제공하거나 SNS에 올리면 예상치 못한 바이럴을 탈 수도 있어요. 제 경력에서 배운 교훈은 대중이 무엇을 갈망하는지 포착하라는 겁니다. 1929년엔 여성들이 자유를 갈망했고, 저는 열망을 담아낸 이미지를 제공했기에 반향을 얻었지요. 오늘날이라면 시대의 문화, 소비자의 가치관을 잘 읽어내야 합니다. 그리고 진정성이 중요합니다. 작은 회사일수록 신뢰와 친근함이 무기입니다. 대기업처럼 화려한 캠페인보다도, 고객과 소통하면서 인간적인 모습을 보이는 것이 오히려 강점이 될 수 있어요. 요즘 소비자들은 대기업 홍보보다 사람 냄새 나는 창업자의 진솔한 이야기에 더 마음을 엽니다. 기술적으로는 소셜미디어를 최대한 활용하라고 조언하고 싶습니다. 돈 한 푼 안 들이고도 인스타그램, 유튜브, 틱톡을 통해 수십만, 수백만에게 다가갈 수 있는 시대입니다. 또한 데이터 기반 전략을 세우는 데 AI 툴을 적극 쓰세요. 고객 댓글이나 피드백을 AI로 분석하면 금맥을 찾듯 인사이트를 얻을 수 있습니다. 하지만 모든 것을 기술에 의존해선 안 됩니다. 결국 전략의 방향을 정하는 건 인간의 창의성이고, 그 부분에서 리더나 홍보 담당자의 철학과 윤리가 드러납니다. 괴벨스: (박수를 치며) 뻔하지만, 훌륭한 말씀입니다. 제 관점에서 몇 가지 덧붙여 보죠. 첫째, 선명한 메시지를 가져야 합니다. 자원이 적을수록 하나의 강렬한 메시지에 집중하세요. 사람들이 당신 회사를 한 마디로 떠올렸을 때 무엇이길 바라는지 정하고, 그 이미지를 일관되게 밀어붙이세요. 제가 나치 선전에 있을 때 "유대인은 우리의 불행의 원인"이라는 끔찍하지만 단순한 메시지로 여론을 결집시켰듯이, 스타트업도 자신만의 한 문장 슬로건을 대중 뇌리에 박아야 합니다. 물론 그 메시지가 긍정적이면 더 좋겠지요(웃음). 둘째, 반복하라는 것입니다. 예산이 적다고 위축될 필요 없습니다. 무료든 저렴하든 사용할 수 있는 모든 채널에 나서서 같은 메시지를 지치지 않고 반복하세요. 사람들은 자꾸 접한 끝에 익숙해지고, 익숙해지면 호감을 갖게 마련입니다. 꾸준함과 일관성, 돈 안 들이고도 가질 수 있는 무기입니다. 셋째, 감정에 호소하라입니다. 사람들은 감정에 움직입니다. 작은 기업일수록 스토리로 감동을 주거나, 아니면 조금 논쟁적인 화제를 던져 이목을 끌 수도 있어요. 모두가 조용히 가는 길에 돌을 던지는 자가 관심을 얻습니다. 넷째, 적을 설정하라는 전략입니다. 이는 심리상 아주 효과적입니다. 우리 편과 반대 편 구도를 만들면 작은 조직도 마치 거대한 싸움을 이끄는 주인공처럼 비춰집니다. 예를 들어, 전통 시장의 게으른 강자를 우리가 혁신으로 무너뜨린다든지, 혹은 사회 문제를 해결하기 위해 낡은 관습과 싸운다는 식의 스토리 대결 구도를 짜보세요. 마지막으로, 기술 활용에 대해 말하자면, 버네이즈 씨 말처럼 좋은 도구가 많습니다. 하지만 자동화에만 의존해서는 안 됩니다. 작은 기업일수록 대표나 홍보 담당자가 직접 얼굴을 내밀고 소통하는 편이 낫습니다. 종합하자면, 작은 불씨를 크게 키우기 위해선 산소를 잘 넣고, 바람을 잘 일으켜야 합니다. 기술이든 이슈든 바람을 일으키는 도구일 뿐, 불씨(핵심 메시지)가 선명하고 뜨거워야 불이 붙습니다. 문지형: 두 분의 조언을 종합해보면, '작지만 강한 메시지'와 '지속적인 소통'이 핵심이네요. 실제로 맡았던 스타트업들 중 성공한 케이스들을 보면, 버네이즈 선생님이 말씀하신 '진정성 있는 스토리'와 괴벨스 박사가 강조하신 '일관된 메시지 반복'을 모두 활용했어요. 한국 시장에서 추가로 중요한 건 '타이밍'입니다. (지금은 없어졌지만) 네이버 실시간 검색어나 유튜브 트렌드를 AI로 모니터링해서 적절한 순간에 우리 메시지를 연결시키는 능력이 승부를 가르곤 합니다. 그리고 무엇보다 AI는 도구일 뿐이라는 점을 강조하고 싶네요. 결국 사람의 마음을 움직이는 건 기술이 아니라 진심이고, 그 진심을 효과적으로 전달하는 데 AI를 활용하는 것이죠. 마무리 1920년대와 30년대에 활동했던 두 전설을 통해 바라본 오늘날의 PR 환경은 그야말로 양날의 검처럼 다가온다. 에드워드 버네이즈는 PR을 대중의 의견을 선도하는 긍정적 힘으로 보았고, 요제프 괴벨스는 선전을 대중을 조종하는 위험한 힘으로 휘둘렀다. 두 관점은 대비되지만, 결국 '대중의 마음을 움직인다'는 동일한 본질을 서로 다른 방향으로 활용했을 뿐이다. AI로 대변되는 첨단 기술은 이 영향력의 증폭기 역할을 하고 있다. 생성형 AI와 빅데이터는 홍보 전문가에게 이전보다 정교한 전략 수립과 효율을 선물했다. 그러나 동시에 딥페이크와 알고리즘 조작은 선전가들에게 이전보다 교묘한 허위 조작의 수단을 쥐여줬다. 기술 자체는 선악이 없지만, 그것을 쓰는 인간에게 선악이 있다는 사실을 우리는 잊어선 안 된다. 스타트업이나 중소기업에게도 이제 PR은 생존과 성장의 필수 무기가 됐다. 버네이즈가 강조하듯 진정성 있는 스토리와 신뢰 구축은 어떠한 시대에도 통하는 원칙이다. 괴벨스의 조언처럼 일관성 있는 메시지와 과감한 주목 끌기 전략도 현실에서는 무시할 수 없는 기술이다. 하지만 무엇보다 중요한 것은 장기적인 신뢰의 축적이라는 점을 잊지 말아야 한다. PR의 힘은 사람들의 인식과 행동을 바꾸지만, 그 힘을 윤리적으로 쓸지, 악용할지는 우리에게 달려 있다. AI 시대에도 결국 사람의 마음을 얻는 일은 사람의 몫이다. 홍보라는 날카로운 칼을 쥔 모든 실무자와 경영인들이 이 점을 유념해 대중과 상호 이익과 존중을 기반으로 한 건전한 소통을 이루길 기대한다. 이 대담은 역사적 인물들의 가상 인터뷰를 통해 PR과 선전의 본질, 윤리, 그리고 AI 시대의 과제를 탐구하는 교육 및 성찰 목적의 콘텐츠입니다.

2025.09.14 08:30문지형

페이크파인더, 아이폰 금융보안도 책임진다…iOS대상 피싱 범죄 차단

인공지능(AI) 보안기업 에버스핀(대표 하영빈)은 악성앱 탐지 솔루션 '페이크파인더 iOS'를 SBI저축은행에 적용했다고 9일 밝혔다. SBI저축은행은 페이크파인더 iOS 도입으로 안드로이드와 iOS 양대 운영체제를 아우르는 보안 체계를 갖췄다. SBI저축은행은 또 iOS피싱방지 솔루션을 도입한 업계 첫 사례가 됐다. 페이크파인더는 국내 금융권의 피싱방지 표준화를 이끌고 있는 악성앱 탐지 1위 솔루션이다. 카카오뱅크·NH농협은행·KB국민은행·우리카드·삼성카드 등 60곳 이상의 금융기관이 사용하고 있다. 전 세계 모든 앱을 수집해 구축한 방대한 화이트리스트 데이터베이스(DB)를 기반으로 정상 앱과 악성앱을 정밀하게 구분한다. 이같은 방식은 탐지율을 극대화하고 오탐률을 최소화해 금융사로부터 높은 신뢰를 받아왔다. 에버스핀인 이번에 선보인 페이크파인더 iOS는 아이폰 사용자 환경에 특화한 기능을 대거 탑재했다. 금융거래 중 통화 상태를 탐지하고, 원격제어 앱 실행 여부나 VPN 구동 여부를 확인해 최근 급증하는 아이폰 대상 피싱·원격제어 범죄를 사전에 차단한다. 이용자들은 어떤 단말을 사용하든 안정적인 금융거래 환경을 보장받을 수 있게 됐다. 에버스핀 관계자는 “스마트폰 플랫폼별로 진화하는 보안 위협에 대응하기 위해 금융사 고객 보호 범위를 넓히는 것이 중요하다”며 “페이크파인더 iOS는 아이폰 사용자에게 최적화된 보안 체계를 제공함으로써 금융권 고객 보호 수준의 폭을 크게 넓혔다”고 밝혔다. 에버스핀 측은 SBI저축은행의 iOS 피싱방지 도입은 금융업권 최초로 이뤄진 사례인 만큼 앞으로 iOS 환경에서의 금융 보안 강화가 업계 전반으로 본격화할 것으로 내다봤다. 다수 금융기관이 안드로이드 기반 페이크파인더로 효과를 입증한 만큼, iOS 버전 확산도 빠르게 이어질 것으로 기대했다. 에버스핀 관계자는 “양대 운영체제 전반에 걸친 탐지 기술력을 통해 어떤 단말을 사용하더라도 안전한 금융거래 환경을 보장할 수 있는 유일한 솔루션으로 자리매김해 앞으로도 국내외 금융기관과 협력해 글로벌 표준 보안 체계를 구축해 나가겠다”고 밝혔다.

2025.09.09 10:47주문정

BTS 정국도, 유튜버도 당한 명의도용 피해, '아이디펜더' 하나면 걱정 끝

지난해 BTS 정국이 군 복무 중 명의도용으로 피해를 본 사실이 최근 알려진 데 이어 가상화폐 투자 관련 유튜버 인범TV도 최근 겪은 피해를 영상으로 공개하면서 '명의도용 범죄'의 심각성이 다시 한 번 수면 위로 떠올랐다. 정국 명의도용 사건은 해커가 본인 명의로 증권계좌를 불법 개설하고 하이브 주식 84억 원 규모를 무단으로 이전 당했다. 소속사 빅히트 뮤직이 이상 거래를 신속히 감지해 지급정지 요청을 걸어 실질적인 손실은 최소화할 수 있었다. 인범TV 사건은 통신사 해킹으로 인한 명의도용으로, 본인도 모르는 사이 휴대폰 회선이 추가로 개통돼 은행을 거쳐 빗썸 계정을 활용해 불법 거래 피해로 이어졌다. 에버스핀 관계자는 “정국과 인범TV 사례는 모두 사전에 탐지·차단할 수 있는 범죄였다”며 “이제는 피해 발생 후 수습이 아니라, 도용 시도 단계에서 걸러내는 기술적 대응이 필요하다”고 밝혔다. 에버스핀의 아이디펜더(IDFender)는 '사전 차단'을 가능하게 하는 솔루션이다. 페이크파인더의 이상 탐지 데이터를 기반으로, 국내 최대 신용평가사의 신용정보와 매칭해 '정상적인 본인 이용인지, 명의도용 시도인지'를 실시간으로 판별한다. 금융사나 통신사, 암호화폐 거래소 가입 단계에서 의심 패턴을 빠르게 탐지해, 피해자가 모르는 사이 계좌가 뚫리거나 회선이 개통되는 상황을 원천적으로 막을 수 있다. 에버스핀 측은 아이디펜더가 적용됐다면 정국과 인범TV 사례 모두 '범죄 시도 단계'에서 차단됐을 가능성이 높다고 설명했다. 에버스핀 관계자는 “유명인까지 피해자가 된 지금은 더 이상 미룰 수 없는 사회적 과제”라며 “아이디펜더 같은 선제적 보안 체계 도입이 시급하다”고 전했다.

2025.09.04 10:35주문정

"AI 무기화…北, 320개 기업에 위장 취업"

북한과 연계한 공격 세력이 생성형 인공지능(AI)를 활용해 320개 이상 기업에 위장 취업한 것으로 확인됐다. AI의 발전에 따라 가짜 이력서나 딥페이크 인터뷰와 같은 새로운 전술을 통해 기업에 침투하고 있는 것이다. 사이버 보안 기업 크라우드스트라이크는 1일 이같은 내용을 담은 '2025 위협 헌팅 보고서'를 발표했다. 보고서에 따르면 공격자들은 생성형 AI를 무기화해 더 신속하고 광범위한 공격을 단행한 것으로 나타났다. 효율성 제고를 위해 AI 도입에 속도를 내고 있는 기업을 타깃으로 삼고 있다. 특히 AI 에이전트 개발 도구를 목적으로 접근 권한, 자격 증명을 탈취해 악성코드를 배포하는 사례도 늘어나고 있다. 실제로 북한 연계 공격 세력 '페이머스 천리마(FAMOUS CHOLLIMA)'는 생성형 AI를 활용해 내부자 공격 프로그램의 전 과정을 자동화했고, 이들은 지난해에만 320개 이상의 기업에 침투한 것으로 확인됐다. 이는 전년 대비 220%나 증가한 수치다. 이들은 AI 기반 가짜 이력서 작성, 딥페이크 인터뷰, 허위 신분을 통한 기술 과제 수행 등 새로운 전술을 통해 내부자 위협을 지속적으로 확장한 것으로 전해졌다. 뿐만 아니라 러시아 연계 공격 세력 '엠버 베어(EMBER BEAR)'는 친러시아 성향의 메시지를 확산시키는 등 정치적 공격을 일삼았으며, 이란 연계 공격 세력 '차밍 키튼(CHARMING KITTEN)'은 거대 언어 모델(LLM) 기반 피싱 미끼로 미국과 유럽 조직을 표적으로 삼았다. 크라우드스트라이크는 이같은 위협 행위자들이 AI 에이전트 개발 도구의 취약점을 악용해 인증 없이 접근하고, 자격 증명을 탈취하는 사례들이 늘어나고 있다고 밝혔다. AI 에이전트 혁실으로 기업의 보안 환경이 빠르게 변화하고 있는 만큼 자율형 업무 구조가 차세대 공격 표적으로 떠오르고 있다고 설명했다. 아울러 사이버 범죄 조직과 해커들이 AI를 악용해 스크립트를 작성하고 기술 문제를 해결해 악성코드를 개발하는 사례도 늘어나고 있다. 초기 침투부터 랜섬웨어 배포까지 불과 24시간이 걸리지 않은 사례도 확인됐다. 애덤 마이어스(Adam Meyers) 크라우드스트라이크 공격 대응 작전 총괄은 “공격자들은 생성형 AI를 악용해 사회공학 공격에 속도를 내고 있으며, 기업이 도입한 AI 시스템을 주요 표적으로 삼는다”며 “이들은 SaaS 플랫폼, 클라우드 콘솔, 고급 권한 계정을 노리는 동일한 방식으로 AI 에이전트를 공략한다. 향후 사이버 보안의 핵심은 기업이 자사 AI를 어떻게 보호하느냐에 달렸다”고 말했다.

2025.09.01 10:02김기찬

딥페이크, AI가 잡았다…AI 과학수사 나선 정부, 성과 '굿'

행정안전부가 국립과학수사연구원과 함께 인공지능(AI) 기술을 접목해 딥페이크 의심 이미지·영상·음성의 진위를 판별하는 'AI 딥페이크 분석모델'을 4월까지 개발·검증하고 딥페이크 범죄 수사에 약 두 달간 활용해 성과를 거뒀다. 행안부와 국과수는 AI 딥페이크 분석모델이 경찰청 등 일선 수사기관의 감정 의뢰를 받아 올해 5~6월 두 달간 증거물 60종, 총 15건의 딥페이크 감정을 성공적으로 수행했다고 30일 밝혔다. 특히 제21대 대통령 선거 기간 중 중앙선거관리위원회에 분석모델을 공유해 유튜브 등 온라인 공간의 불법 딥페이크 선거물 1만여 건을 탐지·삭제하는 데에 기여했다. 이번 모델 개발은 과거 기술적 한계로 수행하지 못했던 딥페이크 감정을 국내 최초로 공식화하고 과학적 증거에 기반한 수사 체계를 마련한 것으로 평가된다. 행안부와 국과수는 분석모델을 딥페이크 증거물 감정 업무에 본격 투입함으로써 딥페이크 범죄 수사에 획기적인 전환점이 마련될 것으로 기대하고 있다. AI 딥페이크 분석모델은 최근 AI 기술을 악용해 특정인의 얼굴 등을 합성한 딥페이크 범죄가 폭발적으로 증가하며 심각한 사회 문제가 됨에도 판별 기술이 부족해 수사기관이 관련 증거물 분석에 어려움을 겪는 상황을 극복하기 위해 개발됐다. 모델 개발 과정에서는 공개 데이터셋, 자체 제작 콘텐츠 등 약 231만 건에 달하는 딥페이크 데이터가 활용됐다. 이후 최신 딥러닝 알고리즘에 방대한 데이터를 학습시키고 지속적인 피드백과 성능 개선 작업을 거쳐 딥페이크 탐지 성능을 획기적으로 향상시켰다. 이렇게 개발된 AI 딥페이크 분석모델은 딥페이크 흔적을 자동으로 탐지하며 변조 의심 파일에 대해 합성 확률 및 시간별 변조율을 예측해 딥페이크 여부를 신속하게 판단할 수 있도록 돕는다. 특히 얼굴의 눈·코·입과 같은 특정 부위별 변조 탐지 능력과 함께 반복된 업로드·다운로드로 인해 일부 데이터가 손실되거나 음질이 저하된 증거물에 대해서도 분석 능력을 갖춰 실질적인 수사 환경에서 효과를 발휘할 수 있도록 설계됐다. 행안부와 국과수는 이번 AI 딥페이크 분석모델의 성과를 2023년 개발한 '보이스피싱 음성 분석모델'과 연계해 더욱 강력한 시너지를 낼 수 있도록 할 계획이다. 두 모델을 함께 활용하면 딥페이크 여부를 판별하고 해당 딥페이크가 특정 정치인 등의 음성을 모방·합성해 제작됐는지까지 입증할 수 있을 것으로 예상된다. 행안부와 국과수는 앞으로 AI 딥페이크 분석모델의 활용 범위를 더욱 확대해 나갈 계획이다. 우선 국과수 내부적으로는 현재 독립형 방식으로 운영 중인 모델을 향후 디지털증거물인증시스템(DAS)에 통합해 업무 효율성을 더욱 높일 예정이다. 또 딥페이크 문제로 어려움을 겪고 있는 여성가족부·방송통신위원회 등 다른 기관에도 모델을 단계적으로 확산해 각 기관의 딥페이크 콘텐츠 탐지 및 대응 역량 강화를 적극 지원할 예정이다. 이봉우 국과수 원장은 "AI 기술 기반의 과학수사 역량 강화를 통해 감정의 신속성과 정확성을 높이는 데 최선을 다하겠다"며 "빠르게 변화하는 첨단 기술 환경에 선제적으로 대응해 국민이 신뢰할 수 있는 과학수사 체계를 구축하겠다"고 강조했다. 행안부 이용석 디지털정부혁신실장은 "AI 딥페이크 분석모델은 AI 기술을 사회 문제 해결에 적극적으로 활용한 사례"라며 "앞으로도 AI와 데이터 분석을 국민의 안전과 민생 안정을 위한 행정 분야에 적극적으로 도입해 나갈 것"이라고 밝혔다.

2025.07.30 15:12한정호

딥페이크 사기, 상반기 피해만 4억 달러…인증 체계 뚫렸다

딥페이크 기술이 실제 음성·영상·이미지를 정교하게 조작하는 단계로 진화하면서 이를 악용한 사기 수법이 대규모 금전 피해를 초래했다는 조사 결과가 나왔다. 9일 서프샤크에 따르면 올해 상반기 딥페이크 기반 사기로 발생한 피해는 총 4억1천만 달러(한화 약 5천600억원)로 집계됐다. 이는 지난해 전체 피해액인 3억5천900만 달러(한화 약 4천900억원)를 초과하는 수치로, 지난 2019년부터 5년간 누적 피해액인 1억2천800만 달러(한화 약 1천760억원)의 세 배를 넘는다. 가장 피해가 컸던 사기 유형은 유명인을 사칭해 투자 사기를 유도하는 방식이다. 그 다음으로는 기업 임원을 음성이나 영상으로 사칭해 자금을 이체하게 만든 수법이 뒤를 이었다. 생체인증 시스템을 우회한 대출과 연애 감정을 이용한 로맨스 스캠 피해도 주요 유형으로 나타났다. 전체 피해 가운데 기업은 약 40%, 개인은 약 60%의 피해를 입었다. 인도네시아에서는 인공지능(AI) 생성 이미지를 활용해 수많은 가짜 계좌가 개설됐고 허위 대출 신청도 시도돼 국가 단위 피해 우려가 제기됐다. 홍콩에서는 은행 지점장이 임원을 사칭한 AI 음성 통화에 속아 거액을 이체하는 사고가 발생하기도 했다. 개인을 겨냥한 수법도 한층 정교해졌다. 딥페이크 기술로 외모를 조작한 인물을 통해 연애 관계를 맺은 뒤 가상화폐 투자로 유도한 사기 사건으로 인해 수십 명이 체포됐다. 조지아 트빌리시에서는 유명인 딥페이크 광고와 조작된 투자 플랫폼을 결합해 수천 명이 피해를 입는 대형 사건이 보고됐다. 전체 딥페이크 사건을 유형별로 보면 사기 목적이 31%로 가장 많고 음란 콘텐츠 생성이 23%, 정치 목적 활용은 22%였다. 사건 발생 건수는 올해 상반기 기준 580건으로, 지난해 전체 대비 약 4배 증가했다. 서프샤크는 "딥페이크 기술이 상업화되고 접근성이 높아졌기 때문에 실제 피해 규모가 통계 수치보다 훨씬 클 가능성도 있다"며 "정부와 민간 모두의 대응체계가 시급하다"고 밝혔다.

2025.07.09 16:09조이환

  Prev 1 2 3 Next  

지금 뜨는 기사

이시각 헤드라인

8나노 몰리고, 4나노 안정…탄력받는 삼성 파운드리

로봇용 OLED 시장 노리는 삼성·LG…넘어야 할 2가지 과제

"조선·플랜트 용접 자동화 가속"…제이씨티, 협동로봇 '제품화' 승부수

[AI는 지금] 독파모 '패자부활전' 할까 말까…"혜택 크다" vs "역효과"

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.