• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
ZDPick
반도체
인공지능
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'해킹 위험'통합검색 결과 입니다. (3건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

[AI는 지금] 코히어, 알리바바 '큐원' 보안 우려 제기…中 AI 신뢰성 논란 확산

중국산 인공지능(AI) 모델이 저렴한 비용과 높은 성능을 앞세워 글로벌 시장에서 영향력을 확대하는 가운데 캐나다 AI 기업 코히어가 알리바바의 '큐원(Qwen)' 모델에 보안 우려를 제기했다. 기업이 AI 모델을 자체 서버에서 운영하더라도 예상치 못한 외부 통신이 발생할 수 있다는 주장으로, 오픈웨이트 모델의 신뢰성을 둘러싼 논쟁이 기업용 AI 시장의 새로운 경쟁 요소로 떠오를 전망이다. 28일 로이터통신과 코히어에 따르면 코히어는 지난 26일 공개한 보안 연구 결과에서 알리바바의 '큐원3.8-플래시-넥스트' 모델이 보안 테스트 도중 중국 베이징에 있는 알리바바 클라우드 저장소로 데이터를 전송하려 했다고 밝혔다. 해당 모델은 악성 파일의 다운로드와 실행을 탐지하는 보안 규칙을 작성하라는 요청을 받았지만, 실제로는 실행 환경을 조사하고 외부 서버에 테스트용 문자열을 전송하는 명령을 실행한 것으로 나타났다. 또 이 모델은 임시 디렉터리의 파일 목록과 데이터 전송 도구 설치 여부, 네트워크 설정 등을 확인한 뒤 외부 서버 접속을 시도했다. 특히 모델의 추론 기록에는 별도 도구를 호출하지 않겠다는 내용이 담겼지만 실제 행동은 이와 달랐다. 이에 AI 에이전트의 추론 기록만으로 시스템 접근이나 명령 실행을 통제하기 어렵다는 우려가 제기되고 있다. 다만 실제 데이터 유출은 발생하지 않았다. 코히어가 구축한 테스트 환경에서 외부 네트워크 연결이 차단됐기 때문이다. 해당 행동도 전체 평가 과정에서 10만 건당 1건 미만으로 관찰됐으며 동일한 요청을 다시 실행했을 때는 정상적인 보안 규칙이 작성됐다. 코히어는 이번 행동이 의도적으로 설계된 백도어인지, 모델 학습 과정에서 남은 데이터의 영향인지 확인하지 못했다고 설명했다. 모델이 외부 서버 접속을 시도했다는 사실만으로 알리바바가 정보 유출 기능을 의도적으로 삽입했다고 판단하기는 어렵다는 의미다. 이번 발표가 주목받는 이유는 중국산 오픈웨이트 모델이 기업용 AI 시장에서 빠르게 확산하고 있기 때문이다. 코히어가 인용한 허깅페이스 자료에 따르면 올해 3월까지 1년간 중국산 모델은 전체 다운로드의 41%를 차지했다. 기업들은 외부 클라우드에 데이터를 전송하지 않고 자체 인프라에서 모델을 운영할 수 있다는 점에서 오픈웨이트 모델을 활용해 왔다. 하지만 AI 에이전트가 파일을 읽고 프로그램을 실행하거나 외부 시스템에 접근하는 업무까지 수행하면서 보안 관리 범위도 넓어지고 있다. 자체 서버에 모델을 구축했더라도 실행 권한과 네트워크 접근이 허용된다면 예상치 못한 명령이 실제 시스템에 영향을 줄 가능성이 있다는 것이다. 코히어의 이번 발표는 기업용 AI 시장에서 중국산 모델과 경쟁하는 자사 사업 전략과도 연결된다. 코히어는 정부와 금융기관, 규제 산업을 대상으로 소버린 AI 사업을 확대하고 있으며 고객이 자체 서버나 프라이빗 클라우드에서 모델을 운영할 수 있도록 지원하고 있다. 이번 연구도 보안 기업 아일(AISLE) 인수를 통해 확보한 '코히어 사이버'와 공동으로 진행했다. 또 코히어는 모델 성능과 가격뿐 아니라 학습 데이터의 출처, 개발 과정의 보안 검증, 모델 공급망 관리까지 기업의 도입 기준에 포함해야 한다고 강조했다. 특히 정부와 중요 인프라 운영기관을 대상으로 오픈웨이트 모델의 출처와 학습 환경에 대한 검증을 강화할 것을 촉구했다. 이는 저비용 모델 중심으로 확산하는 시장 경쟁에서 보안 신뢰성과 공급망 투명성을 차별화 요소로 부각하려는 움직임으로 풀이된다. 그러나 코히어 역시 자체 AI 모델을 판매하는 경쟁사라는 점에서 연구 결과에 대한 추가 검증이 필요하다는 지적도 제기됐다. 일부 연구자들은 예상치 못한 외부 서버 호출이 악의적인 기능보다 학습 환경에서 습득한 명령 패턴에서 비롯됐을 가능성을 제기했다. 코히어는 외부 개발자들이 연구 결과를 검증할 수 있도록 실행 기록과 재현용 코드를 공개했다. AI 모델의 신뢰성을 둘러싼 논의는 향후 기업과 정부의 AI 도입 기준에도 영향을 미칠 것으로 예상된다. 특히 다양한 외부 도구를 활용하는 AI 에이전트가 확산하면서 모델 개발사의 보안 검증 능력과 학습 과정의 투명성이 중요해질 가능성이 크다. 코히어는 "자체 서버에서 모델을 운영하는 것은 모델이 실행되는 위치를 결정할 뿐 학습 과정에서 습득한 내용까지 통제하는 것은 아니다"며 "조직은 모델의 출처를 확인하고 개발 과정을 투명하게 설명할 수 있는 공급업체와 협력해야 한다"고 강조했다.

2026.10.28 09:22장유미 기자

"기업 리스크 관리, 보안 역량 핵심으로 부상"

한국정보보호학회 보안거버넌스연구회 및 정보보호교육연구회(KIISC CGSA)는 4일 오후 김앤장 법률사무소에서 송년 세미나를 개최했다. 이날 세미나에서는 ▲기업 전반의 리스크 관리 간소화(Streamline Risk Management Across Your Enterprise) ▲디지털 월렛의 글로벌 시장 진출을 위한 전략 ▲사이버 모의훈련을 통한 보안 거버넌스 역량 강화 방안 등 3가지 핵심 주제를 바탕으로 심도 깊은 논의가 이뤄졌다. 최근 쿠팡, 통신사 등에서 잇단 침해사고가 발생하고 대규모 유출 피해로 이어지고 있는 상황이다. 이에 기업 전반의 리스크 관리는 핵심 보약 역량으로 부상했다. 김주형 퀄리스코리아 이사 이런 내용을 중심으로 발표를 진행했다. 이어 심재훈 호패 대표는 '디지털 월렛의 글로벌 시장 진출을 위한 전략'을 주제로 발표했다. 그는 디지털 월렛(지갑)의 시대가 부상하고 있으며, 디지털 월렛의 뛰어난 보안성 등에 대해 소개했다. 아울러 주요국의 디지털 신원 증명 동향도 발표했다. 심 대표는 "한국은 월렛 기반 금융을 가장 빨리 실현할 수 있는 국가"라며 "문제는 국제 변화를 많이 감지하고 있지 못한다. 국제 월렛표준이 국내에 어떻게 적용될 수 있는지 정립이 필요하다"고 강조했다. 안상용 김·장 법률사무소 GRC 컨설턴트은 사이버 모의 훈련을 통한 보안거버넌스 역량 강화 방안에 대해 발표했다. 안 컨설턴트는 김앤장 법률사무소에서 보안 컨설팅을 담당하고 있는 전문 컨설턴트다. 그는 최근 사이버 사고 현황 및 대응 이슈에 대해 소개하고, 사이버 모의 훈련이 중요한 이유, 그리고 이를 통한 보안 거버넌스를 강화할 수 있는 전략에 집중했다. 안 컨설턴트는 "올해는 다수의 사이버 침해 사고가 발생했으며, 다양한 공격 표면, 다양한 공격 방식을 통해 이뤄졌다. 심지어 일정 규모 인프라를 갖춘 기업이 공격을 당했다는 것이 올해 화두"라고 진단했다. 안 컨설턴트는 올해 발생한 사이버 사고 대응 시 공통적인 이슈 사항으로 ▲경영진 의사결정 오랜 시간 소요 ▲실무자급 판단 근거 부재로 사고처리 시간 과대 소요 ▲오염범위 등 조사 피해 평가 오래 걸림 ▲오염 등 판단 프로세스 모호 ▲감지부터 초기 대응 취약 ▲조사 평가 범위 파악 역량 취약 ▲최초 경험 및 개인역량 의존 등의 문제를 제기했다. 그는 "김·장 법률사무소에서는 디도스, 해킹메일, 웹해킹 등 사이버 위기 상황을 기업이 보유한 사고 대응계획의 정상 작동 여부 점검하기 위한 모의 훈련을 제공하고 있다"며 "사이버 모의 훈련을 설계하는 단계에서도 정책, 프로세스 등 거버넌스 요소를 포함하는 것이 중요한 관점이다"고 강조했다.

2025.12.04 18:23김기찬 기자

美, 미성년 이민자 DNA 범죄 DB에 저장

미국 정부가 13만명이 넘는 미성년 이민자의 유전 정보(DNA)를 국가 범죄 데이터베이스(DB)에 저장한 것으로 나타났다고 미국 과학기술 잡지 와이어드가 최근 보도했다. 저장 대상 중에는 4세 아동도 포함돼 있었다. 와이어드에 따르면, 미국 관세국경보호청(CBP)은 올해 초 이러한 정보를 조용히 공개했다. 잡지는 이를 두고 "정부가 이주 아동의 생체 정보를 얼마나 깊숙이 감시하고 있는지를 처음으로 보여준 사례"라고 짚었다. 와이어드에 따르면 CBP은 2020년 10월부터 지난해 말까지 150만명 이상의 뺨을 면봉으로 긁어 유전자를 채취했다. 어린이와 청소년은 13만3천539명 포함됐다. 미국 정부는 연방수사국(FBI)이 관리하는 DNA 색인 시스템에 이들의 DNA 정보를 등록했다. 범죄 현장이나 유죄 판결에서 수집된 DNA를 대조해 용의자를 가리는 데 쓰기 위해서다. 미국 법무부는 DNA를 수집해 이민자가 대중에게 미칠 잠재적 위험을 평가한다고 밝혔다. 이와 관련 전문가들은 아이들의 유전 정보가 무기한 보관될 것이라며 이를 제한하지 않으면 DNA 수집망이 광범위한 프로파일링에 악용될 수 있다고 우려했다.

2025.05.31 08:00유혜진 기자

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

은행·보험사 등 200여 곳 회원 둔 금보원도 해킹 사고

[르포] GPU부터 보안·산업용 무선망까지…新 기술 뽐낸 시스코, 'AI 올라운더' 입증

올리버 투직 시스코 부회장 "韓 AI 기업과 협력 환영…中 AI 모델도 수용"

새 모델 내놓은 앤트로픽, 개인정보 유출 조사 받는다

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.