라온시큐어, 모바일 앱으로 딥페이크 탐지 문턱 낮춘다

라온시큐어가 누구나 쉽게 인공지능(AI) 기술로 딥페이크 탐지할 수 있는 기술을 공개했다. 라온시큐어는 딥페이크 동영상이나 이미지를 탐지할 수 있는 기능을 자사 개인용 모바일 백신 앱인 '라온 모바일 시큐리티'에 탑재했다고 20일 밝혔다. 라온 모바일 시큐리티는 AI 기반 스미싱 탐지와 악성앱 탐지, 해킹 방지 등을 제공하는 개인용 모바일 백신 앱이다. 라온시큐어는 이 앱에 자체 개발한 AI 기반 딥페이크 탐지 기능을 추가했다. 앱 사용자는 라온 모바일 시큐리티로 스마트폰에 저장된 동영상이나 이미지, 유튜브 링크 등을 올리면 해당 콘텐츠가 생성형 AI로 조작된 딥페이크일 가능성이 얼마나 높은지 몇 초 만에 알 수 있다. 해당 딥페이크 탐지 기술은 합성 얼굴과 실제 얼굴을 비교·분류하는 AI로 작동한다. 이 AI가 안면 추출, 주파수 계열 변환 등의 기술로 얼굴 형태와 눈, 입 모양의 부자연스러움을 찾아내는 여러 모델을 사용해 딥페이크 가능성을 계산한다. 라온시큐어는 추후 실시간 딥페이크 탐지 서비스도 라온 모바일 시큐리티에 추가할 계획이다. 이를 통해 영상통화 시에도 상대방이 조작된 얼굴로 지인을 사칭하는지 실시간으로 탐지할 수 있게 된다. 현재 라온 모바일 시큐리티는 딥페이크 탐지 기능을 포함해 무료로 제공하고 있다. 향후 유료 딥페이크 탐지 기능도 제공할 예정이다. 라온시큐어는 자사 딥페이크 탐지 기술을 기업용 애플리케이션 프로그래밍 인터페이스(API) 서비스로도 제공한다. 목소리로 타인을 사칭하는 딥보이스 탐지 기술도 개발하고 있다. 향후 금융기관, 공공기관, 이동통신사를 비롯해 다양한 기업에 딥페이크와 딥보이스 기술을 제공해 임직원이나 고객 사칭으로 인한 기업의 피해와 고객의 피해를 방지할 수 있도록 할 방침이다. 또 기업들이 라온시큐어 기술로 딥페이크 생성물을 구별해 내 AI 생성물 표시 의무화 규정을 지킬 수 있게 할 계획이다. 라온시큐어는 생성형 AI 기술이 점차 고도화되고 쉽게 접할 수 있는 만큼 심각한 문제로 받아들여지고 있는 딥페이크 범죄 근절에 동참하고자 딥페이크 탐지 기술을 개발했다. 실제 지난해 1~11월까지 경찰청에 접수된 딥페이크 성범죄 신고 건수는 1천여 건에 육박했다. 이에 정부에서는 딥페이크 범죄 예방책 등을 담은 AI 기본법 제정에 속도를 내고 있다. 이정아 라온시큐어 대표는 "최근 정보자산과 고객보호가 절실한 고객사 요구에 부응하기 위해 딥페이크 탐지 기술을 개발했다"며 "라온 모바일 시큐리티를 통한 딥페이크 탐지 기술 제공을 시작으로 딥보이스 탐지, 실시간 탐지 등 기술 고도화를 지속해 범죄 예방에 기여하겠다"고 강조했다.