검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'딥보이스'통합검색 결과 입니다. (3건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

AI 보이스피싱 막는다…한컴위드, 음성 인증 기술 공동 연구

한컴위드가 숭실대학교 AI보안연구센터와 손잡고 딥보이스 탐지 및 음성 인증 기술 공동 연구에 나선다. AI 음성 합성 기술의 발전으로 급증하는 보이스피싱 등 음성 기반 범죄에 대응하고, 차세대 인증 시장 선점을 위한 기술 경쟁력 확보에 박차를 가한다. 한컴그룹 계열사 한컴위드는 숭실대학교 AI보안연구센터(AISRC)와 '딥보이스(Deep Voice) 탐지 및 음성 인증 기술' 공동 연구개발을 위한 산학 협력을 체결했다고 8일 밝혔다. 음성 인증 기술은 사용자의 자유 발화를 기반으로 성문 정보를 추출·저장하고, 이후 통화 시 등록된 정보와 비교해 본인 여부를 확인하는 방식이다. 이는 기존의 질문-답변 방식보다 더 빠르고 편리한 인증을 제공한다. AI 기술의 발전으로 음성이 주요 인터페이스로 자리 잡으며, 금융·공공 등 다양한 분야에서 음성 기반 인증 및 식별 기술의 활용이 확대될 것으로 기대된다. 숭실대 AI보안연구센터가 개발한 딥보이스 탐지 시스템은 음성 파일을 입력받아 고급 딥러닝 기술을 활용해 인간 음성과 합성 음성을 구별한다. 또한 웹, 모바일, PC 등 다양한 환경에서 지원되며, 가짜 음성 데이터 세트(ASVspoof 2021 DF)에서 97% 이상의 탐지 성능, 실제 환경에서 수집된 데이터 세트(In-The-Wild)에서 94%의 탐지 성능을 기록했다. 이는 현재 공개된 최고 수준(SOTA) 모델보다도 뛰어난 성능이다. 딥보이스는 AI 기반 음성 합성 기술로, 적은 양의 목소리 샘플만으로 특정인의 목소리를 정교하게 복제할 수 있다. 최근 기업 CEO, 연예인, 가족 등의 음성을 도용한 보이스피싱 범죄가 증가하며 피해 규모가 확대되고 있다. 이에 따라 딥보이스 탐지 및 음성 인증 기술은 보이스피싱과 같은 범죄에 대한 효과적인 대응책으로 작용하며, 사회·경제적 피해를 줄이는 데 기여할 것으로 예상된다. 송상엽 한컴위드 대표는 "딥보이스 기술이 AI 발전과 함께 더욱 정교해지면서, 진짜와 가짜를 구별할 수 있는 기술의 중요성이 커지고 있다"라며 "높은 보안성과 신뢰성을 갖춘 딥보이스 탐지 및 음성 인증 기술을 통해 보안 시장에서 경쟁력을 확대해 나갈 것"이라고 밝혔다.

2025.04.08 09:45남혁우

[현장] AI 악용한 사이버 공격 급증… SK쉴더스, 선제적 방어 전략 제시

"인공지능(AI) 기술의 발전으로 보안 위협도 고도화되고 있습니다. 그럼에도 불구하고 이는 선제적인 대응 전략으로 충분히 극복할 수 있습니다." 이재우 SK쉴더스 전무는 3일 서울 코엑스에서 열린 '2024 SK쉴더스 사이버 시큐리티 미디어 데이'에서 이같이 말했다. 이번 행사는 올해의 보안 트렌드를 돌아보고 내년도 주요 위협과 대응 방안을 공유하기 위해 마련됐다. SK쉴더스는 올해 가장 두드러진 보안 트렌드로 AI를 활용한 공격의 증가를 꼽았다. 딥페이크·보이스 기술이 악용돼 온라인 범죄와 허위 정보 유포가 확산됐기 때문이다. 실제로 200여 개의 학교와 공공기관이 피해를 입었다. 또 랜섬웨어의 협박 전략이 다면적으로 진화해 데이터 암호화뿐만 아니라 유출과 디도스 공격까지 병행하는 사례가 늘었다. 이호석 이큐스트 랩(EQST Lab) 팀장은 "올해 보안 사고를 보면 AI 기술이 공격의 핵심 도구로 사용되고 있다"며 "이러한 변화에 대비해야 한다"고 강조했다. SK쉴더스는 AI 보안 위협의 확대를 내년도의 가장 큰 위험 요소로 지목했다. 딥페이크와 딥보이스뿐만 아니라 거대 언어 모델(LLM)을 악용한 데이터 조작과 노출 시도가 증가할 것이라는 분석이다. 또 망분리 규제 완화로 인해 클라우드 환경에서의 권한 관리 시스템(IAM)에 대한 공격이 늘어나며 하이브리드 클라우드 환경에서의 보안 취약점이 커질 것으로 전망했다. 협력사를 노린 공급망 공격도 주요 위협으로 지적됐다. 보안 수준이 낮은 협력사를 경유한 공격이 증가하면서 원청사까지 연쇄적인 피해를 입는 사례가 많아지고 있다. 이와 함께 암호화폐 가치 상승에 따라 거래소와 개인 지갑을 대상으로 한 해킹 시도도 더욱 활발해질 것으로 보인다. SK쉴더스는 이러한 위협에 대응하기 위해 여러 선제적인 예비 방안을 제시했다. 특히 AI 특화 모의해킹 서비스를 통해 딥페이크 및 LLM 기반 공격을 사전에 시뮬레이션하고 취약점을 점검할 계획이다. 또 모니터링, 탐지 및 대응(MDR) 서비스를 통해 랜섬웨어와 같은 고도화된 공격을 실시간으로 탐지하고 초동 대응을 제공할 예정이다. 제로 트러스트 모델의 도입으로 검증된 사용자만 시스템에 접근할 수 있도록 해 IAM 권한 탈취와 클라우드 환경 위협에 대비한다는 전략이다. 이재우 전무는 "AI는 공격뿐만 아니라 방어에도 강력한 도구"라며 "핵심은 이를 어떻게 활용해 더 안전한 보안 환경을 만드는가에 달려 있다"고 밝혔다.

2024.12.03 12:14조이환

"내 돈 못 가져가"…보이스피싱 사기꾼 속이는 英 할머니 정체는?

최근 노인을 상대로 금품을 갈취하려는 보이스피싱이 점차 늘어나고 있는 가운데 국내외서 이를 방지하기 위해 인공지능(AI) 기술을 도입하는 사례가 점차 늘어나고 있다. 18일 테크크런치에 따르면 영국 이동 통신사 O2는 지난 14일 전화 사기를 차단하기 위한 AI 모델 '데이지(Daisy)'를 공개했다. '데이지'는 할머니의 목소리를 모방한 AI 모델로, 사기꾼들이 자주 사용하는 번호에서 전화가 걸려오면 사람 대신 AI가 전화를 받도록 고안됐다. 사기꾼들이 은행 정보를 알아내려고 시도할 때 여러 AI 모델을 연동시켜 뜨개질, 가족 등 일상적인 대화를 나누도록 함으로써 실제 사람과 구별하기 어렵도록 한 것이 특징이다. 이를 통해 사기꾼들이 시간을 낭비하게 유도해 다른 사람들의 피해를 줄인다는 복안이다. 데이지는 몇 주간 시범 운영되며 효과를 입증한 것으로 알려졌다. O2는 실험용 전화번호를 사기꾼들이 자주 사용하는 리스트에 일부러 추가한 후 가짜 계좌나 개인정보를 제공했다. 일부 대화는 최대 40분까지 진행됐다. 이번 일은 유명 유튜버이자 소프트웨어 엔지니어인 짐 브라우닝의 아이디어로 시작됐다. 그러나 일반 사용자들이 아직까진 직접 사용할 수 없다. O2는 "전화로 개인정보나 비밀번호를 요청할 경우 의심을 먼저 해야 한다"며 "즉시 전화를 끊은 뒤 경찰 상담 전화나 가족, 친구에게 이를 알려야 한다"고 강조했다. 국내에서도 최근 AI를 활용해 보이스피싱 예방에 나서는 곳들이 점차 늘어나고 있다. 스팸 차단 애플리케이션 '후후'를 서비스하는 브이피는 지능화되는 보이스피싱을 막기 위해 최근 KT AI 기술을 활용한 '보이스피싱 탐지 AI 에이전트' 공동개발을 완료했다. 후후 앱을 설치한 이용자가 전화 통화를 할 때 AI 모델이 해당 통화 내용을 분석, 보이스피싱 의심 여부를 실시간으로 탐지해서 알려주는 방식이다. 이 서비스는 현재 베타 테스트 진행 중으로, 연내 후후 앱에서 상용화해 무료로 이용할 수 있을 전망이다. 또 브이피는 KT가 과학기술정보통신부의 ICT 규제샌드박스 실증특례 승인을 받은 '실시간 통화 보이스피싱 탐지 서비스'를 바탕으로, 실제 보이스피싱 범인의 목소리까지 학습시켜 서비스에 적용하는 등 AI 기술을 활용해 후후 서비스를 지속적으로 고도화해 나갈 계획이다. 업계에선 AI 기술 도입으로 최근 들어 급증하고 있는 보이스피싱 피해가 점차 줄어들 수 있을 지 예의주시하고 있다. FBI에 따르면 60세 이상의 사람들은 지난해 전화 사기를 통해 34억 달러(약 4조7천368억원)의 피해를 당한 것으로 파악됐다. 이는 전년(31억 달러)에서 늘어난 수치다. 국내에서도 노인을 대상으로 한 금융 피해는 증가하는 추세다. 금융감독원의 '2023 보이스피싱 피해 현황 분석'에 따르면 지난해 보이스피싱 피해액 중 60대 이상이 차지하는 비중은 36.4%로 다른 연령대보다 월등히 높았다. 하지만 AI 기술로 오히려 피해가 더 커질 것이란 전망도 있다. AI를 통해 특정 인물의 목소리와 특징을 학습한 후 가짜 음성을 생성하는 '딥보이스' 기술을 활용해 사기 행각을 벌이는 일도 많아지고 있어서다. 현재 보이스피싱 조직은 자녀의 목소리를 복제한 뒤 부모에게 전화해 마치 납치된 것처럼 흐느끼며 살려달라고 한다거나, 급한 일이 있다면서 돈을 빌려달라는 목소리를 들려주는 방식으로 범행한다. 테크크런치는 "생성형 AI와 이를 이용한 음성 사칭이 발전하고 있다"며 "이로 인한 피해는 더 늘어날 것으로 보인다"고 전망했다.

2024.11.18 09:32장유미