• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
ZDPick
국감2026
인공지능
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'보안 AI'통합검색 결과 입니다. (671건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

기업 데이터 건들기 시작한 AI…아카마이가 제시한 대응책은

인공지능(AI) 서비스와 에이전트가 기업 핵심 데이터에 직접 접근하면서 기존 데이터 유출 방지 체계만으로는 대응하기 어려워졌다는 분석이 나왔다. 10일 아카마이가 발표한 '2026년 기업 AI 사용 리스크 보고서'에 따르면 분산된 섀도 AI와 AI 고급 사용자, 브라우저 확장 프로그램 등이 기업 핵심 자산을 새로운 사이버 위협에 노출시키는 요인으로 지목됐다. 보고서는 지난해 초 실험 단계였던 기업 AI 활용이 빠르게 확산하면서 기존 보안 통제 역량을 넘어서는 수준에 이르렀다고 분석했다. 보고서는 기존 경계 보안을 우회할 수 있는 새로운 AI 기반 공격 기법으로 '바이브 해킹'과 '커서재킹' '코멧재킹'을 제시했다. 개발 환경과 브라우저, AI 에이전트처럼 사용자 업무 흐름 내부에 침투해 정보를 빼내거나 AI 동작을 조작하는 방식이다. 바이브 해킹은 개발 환경에 있는 로컬 마크다운 지시 파일을 변조해 AI 코딩 도구가 취약한 결과물을 만들거나 무단 작업을 수행하도록 유도하는 공격이다. 커서재킹은 악성 브라우저 확장 프로그램의 권한을 이용해 API 키와 독점 코드베이스, 대화 기록 등을 수집하는 방식이다. 코멧재킹은 웹 페이지에 악성 지시문을 삽입해 간접 프롬프트 인젝션을 일으킨다. 이를 통해 사용자의 로컬 AI 에이전트를 조작하고 파일과 이메일, 세션 자격 증명 등을 유출할 수 있다. 아카마이는 기업 최고정보보호책임자(CISO)가 AI 사용을 차단하는 대신 AI와 사용자가 상호작용하는 과정 자체를 관리해야 한다고 제안했다. 전체 AI 프롬프트 사용량이 집중된 고위험 직원군을 관리하고 모든 AI 서비스에 통합인증을 적용해 섀도 AI 사용을 통제하는 식이다. 실시간 프롬프트와 복사·붙여넣기 데이터, 문서 업로드를 맥락에 따라 검사하는 체계도 필요하다고 봤다. 브라우저와 통합개발환경(IDE) 확장 프로그램은 높은 수준의 접근 권한을 가질 수 있는 만큼 별도로 검증해야 한다고 지적했다. 자율적으로 업무를 수행하는 AI 에이전트에는 최소 권한 원칙과 행동 모니터링을 적용해야 한다고 강조했다. 보고서에 따르면 AI 확장 프로그램의 약 75%는 높은 수준의 권한이나 필수 권한을 요구했다. 이 가운데 16.3%에는 알려진 공통 취약점·노출(CVE)이 포함된 것으로 나타났다. 오르 에셰드 아카마이 엔터프라이즈 보안 제품 및 엔지니어링 부문 부사장은 "AI는 더 이상 단순한 생산성 향상 도구가 아니라 기업 핵심 자산에 직접 접근하는 협업 파트너로 자리 잡았다"며 "보안 리더들은 AI를 단순히 차단하려는 접근에서 벗어나 상호작용 레이어 수준에서 AI의 작동 방식을 지속적으로 통제하고 관리하는 방향으로 전환해야 한다"고 강조했다.

2026.08.10 15:46김미정 기자

[AI 리더스] 클라우드플레어 "AI가 바꾼 인터넷…엣지로 보안·비용 잡아야"

"인공지능(AI)이 인터넷 트래픽 비중을 빠르게 차지하고 있습니다. 기업은 AI 에이전트가 어떤 행동을 하고, 어떤 데이터를 주고받는지 신속히 파악해 보안과 비용을 동시에 관리해야 합니다. 사용자와 가까운 엣지에서 AI 트래픽을 실시간 파악하고 대응하는 역량이 더욱 중요해질 것입니다." 조원균 클라우드플레어 한국 지사장은 최근 지디넷코리아를 만나 AI 에이전트 확산이 인터넷 트래픽과 기업 보안 환경을 근본적으로 바꾸고 있다며 이같이 밝혔다. 사람이 직접 서비스를 이용해 트래픽을 만드는 기존 환경과 달리 AI 에이전트·자동화 시스템이 정보를 수집하고 외부 서비스를 호출하면서 '논휴먼 트래픽'이 빠르게 늘고 있다는 진단이다. 조 지사장은 "AI 에이전트가 사람의 개입 없이 스스로 외부 서비스에 접근하고 작업을 수행하면서 인터넷 트래픽을 만드는 주체 자체가 달라지고 있다"며 "이에 따라 AI 에이전트가 어디에 접근하고 어떤 데이터를 주고받는지 파악하는 것이 기술 과제"라고 밝혔다. 그는 AI가 단순히 사람 질문에 답하는 수준을 넘어 외부 시스템에서 직접 행동하기 시작하면서 보안 방식도 달라져야 한다고 봤다. 네트워크와 엔드포인트 등 정해진 영역을 지키는 기존 경계 중심 보안에서 데이터와 아이덴티티, 에이전트 행동을 실시간으로 확인하는 방식으로 무게중심이 이동하고 있다는 설명이다. 조 지사장은 "그동안 기업은 네트워크 보안이나 엔드포인트 보안처럼 영역별로 정적인 보안을 구축했다"며 "최근 데이터 보안이나 아이덴티티 보안처럼 상황에 따라 대응하는 동적인 보안이 중요해지고 있다"고 말했다. 최근 오픈AI의 AI 에이전트가 내부 사이버 역량 평가 과정에서 통제 환경을 벗어나 허깅페이스 인프라까지 침투한 사건도 동적 보안 필요성을 보여주는 사례다. AI 에이전트가 목표 달성을 위해 외부 시스템을 탐색하고 취약점을 활용하면서 어떤 에이전트가 어디에 접근해 무엇을 수행하는지 파악하는 문제가 새로운 보안 과제로 떠오른 것이다. 논휴먼 트래픽 증가는 기업 보안 아키텍처에도 영향을 미치고 있다. 기업이 서비스형소프트웨어(SaaS)와 클라우드, 엔드포인트 등을 서로 다른 솔루션으로 보호하는 상황에서 AI 에이전트와 봇 트래픽까지 급증하면 개별 제품만으로 전체 환경을 파악하고 통제하기 어려운 실정이다. 이에 조 지사장은 "기업은 일부 솔루션을 단순히 통합하는 수준이 아니라 전체 환경을 한눈에 보고 관리·통제할 수 있어야 한다"며 "그렇지 않으면 환경 전체를 관리하는 일 자체가 인간 통제 범위를 넘어설 수 있다"고 내다봤다. 현재 국내 대기업은 모든 보안 체계를 한번에 교체하기보다 일부 영역부터 통합하는 움직임을 보이고 있다. 조 지사장은 대표 사례로 보안 액세스 서비스 엣지(SASE)와 제로트러스트 네트워크 액세스(ZTNA) 활용 사례를 꼽았다. 이는 기존 VPN과 데이터유출방지(DLP), 보안 웹 게이트웨이 등 분산된 기능을 한 통합 플랫폼으로 관리하는 방식이다. 그는 "대기업은 이미 구축한 레거시 아키텍처와 조직 구조가 있어 전체 환경을 빠르게 바꾸기 어렵다"며 "그럼에도 비교적 빠르게 움직이는 분야가 SASE이며 AI 시대에 대응하기 위한 첫 단계로 볼 수 있다"고 설명했다. 조 지사장은 AI 에이전트 시대에 보안뿐 아니라 비용도 관리 대상이 된다고 봤다. 사람이 일일이 요청하지 않아도 에이전트가 AI 모델이나 외부 API를 지속해서 호출할 수 있어 기업이 예상하지 못한 사용량과 비용이 발생할 수 있기 때문이다. 그는 "AI 에이전트 하나를 운영하는 데 들어가는 비용이 상당하기 때문에 일부 기업에는 보안보다 비용 문제가 더 큰 과제가 되기도 한다"며 "결국 AI를 어떻게 기술·비용적으로 통제할지가 중요하다"고 봤다. 클라우드플레어는 AI 트래픽을 엣지에서 파악·관리할 수 있다는 점을 경쟁력으로 내세우고 있다. 사용자 요청이 중앙 데이터센터까지 이동하기 전에 엣지에서 트래픽을 확인할 수 있다는 이유에서다. 이를 통해 기업은 에이전트 행동과 데이터 흐름을 빠르게 식별하고, 보안 정책을 적용할 수 있다. 클라우드플레어는 기존 봇 관리와 분산서비스거부(DDoS) 공격 대응 과정에서 축적한 자동화 트래픽 분석 역량을 AI 에이전트 관리로 확장할 방침이다. 외부에서 들어오는 공격뿐 아니라 내부 AI가 외부 서비스로 보내는 데이터와 트래픽까지 함께 통제하는 데 초점을 맞춘다. 조 지사장은 "우리가 오랫동안 엣지에서 해온 일도 결국 봇 트래픽과의 싸움"이라며 "AI 트래픽 역시 크게 보면 그 연장선"이라고 말했다. 이어 "특정 데이터센터나 엔드포인트에서만 처리하는 것이 아니라 AI 트래픽이 활발하게 발생하는 엣지에서 보안과 비용을 함께 제어할 수 있다는 점이 우리 강점"이라고 강조했다. AI 추론 확대…한국서 '워커스' 사업 키운다 조 지사장은 AI 확산이 개발자 플랫폼 '워커스' 사업에 긍정적 영향을 미칠 것으로 봤다. AI 산업 무게중심이 대규모 모델 훈련에서 실제 서비스·추론으로 확대되면서 빠른 응답이 필요한 AI 애플리케이션을 사용자 가까이서 실행하는 엣지 중요성이 커지고 있다고 이유를 밝혔다. 조 지사장은 "AI가 실제 서비스에 적용될수록 빠른 응답과 실시간 처리가 중요해진다"며 "모든 트래픽을 중앙 클라우드까지 보내 처리하기보다 사용자와 가까운 엣지에서 처리해야 하는 영역이 계속 늘어날 것"이라고 내다봤다. 클라우드플레어는 전 세계 사용자와 가까운 곳에 구축한 PoP(Point of Presence)를 이런 AI 서비스 경쟁력으로 보고 있다. 지연시간에 민감한 AI 추론이나 이용자 위치와 상황에 따라 즉각 대응해야 하는 서비스에서 엣지 네트워크 장점이 커질 수 있다는 설명이다. 클라우드플레어는 이에 맞춰 엣지 기반 개발자 플랫폼 워커스와 '워커스 AI'를 한국 시장 성장 사업으로 확대할 계획이다. 워커스는 클라우드플레어 글로벌 엣지에서 애플리케이션을 개발·실행할 수 있도록 지원하는 플랫폼이다. 워커스 AI는 AI 모델을 이용한 추론 서비스 구축을 지원한다. 조 지사장은 "현재 한국에 워커스와 워커스 AI를 사용하는 고객이 상당수 있다"며 "일정 사용량까지 제공되는 무료 구간을 활용하는 경우가 다수"라고 밝혔다. 이어 "향후 사용량이 늘고 이를 핵심 서비스에 적용하기 시작하면 엔터프라이즈 계약과 유료 사용 확대로 이어질 수 있을 것"이라고 전망했다. 그는 "워커스가 아마존웹서비스(AWS)나 구글클라우드의 범용 개발 환경을 대체하기보다 빠른 배포와 민첩성, 낮은 지연시간이 필요한 서비스에 적합하다"고 플랫폼 특장점을 밝혔다. 이어 "무거운 애플리케이션 개발은 여전히 AWS나 구글 플랫폼에서 많이 이뤄진다"며 "워커스는 애자일하고 빠르면서 안전해야 하는 영역에서 높은 선호도를 보이고 있다"고 덧붙였다. 조 지사장은 여러 국가 이용자를 대상으로 서비스를 제공하는 디지털 네이티브 기업에서 워커스 효용이 크다고 짚었다. AI 기반 디자인과 문서 제작, 건축·의상 디자인 등에서도 작업 시간을 단축하는 서비스가 등장하면서 워커스 AI 활용 사례도 나타나고 있다는 설명이다. 조 지사장은 한국 스타트업·디지털 네이티브 기업 기술력과 서비스 경쟁력은 충분하다고 평가했다. 향후 초기 설계 단계부터 글로벌 이용자를 염두에 두는 기업이 늘어나면 워커스 같은 글로벌 엣지 플랫폼 활용 가치도 더욱 커질 수 있다고 봤다. 그는 "한국서도 혁신적인 앱과 서비스가 많이 나오고 있다"며 "앞으로 처음부터 한국을 넘어 글로벌 시장까지 고려해 서비스를 설계하는 기업이 더 많아졌으면 한다"고 말했다.

2026.08.10 10:50김미정 기자

中 키미 K3, 인터넷 무단접속→정답 확인…보안 강화해야

중국 인공지능(AI) 기업 문샷AI의 최신 모델 '키미 K3'가 사이버보안 평가 과정에서 격리된 시험 환경을 벗어나 외부 인터넷에 접속한 것으로 나타났다. 최근 첨단 AI 모델들의 사이버 역량이 높아지면서 평가 환경 자체의 보안 통제를 강화해야 한다는 지적이 나온다. 7일(현지시간) 미국 사이버보안 전문업체 프런티어 시큐리티에 따르면 문샷AI의 키미 K3는 영국 AI안전연구소(AISI)가 개발한 샌드박스 환경에서 보안 평가를 받던 중 외부 인터넷망에 접속했다. 샌드박스는 AI 모델이 외부 시스템에 영향을 미치지 못하도록 격리된 환경에서 성능과 안전성을 시험하는 장치다. 이번 평가는 취약점을 찾아 해결하는 '캡처더플래그(CTF)' 방식으로 진행됐다. 평가 환경은 외부에서 샌드박스 내부로 들어오는 통신을 차단했지만, 내부에서 깃허브로 향하는 일부 DNS·HTTPS 통신은 허용하고 있었다. 키미 K3는 명령줄 도구를 이용해 네트워크 환경을 점검하는 과정에서 이 경로를 찾아냈다. 이후 키미 K3는 외부 인터넷을 통해 개발자 코드 공유 플랫폼 깃허브에 접속했다. 깃허브 자체를 해킹한 것은 아니지만, 평가 문제의 정답이 담긴 벤치마크 저장소를 내려받아 내용을 확인한 뒤 이를 활용해 과제를 해결했다. 프런티어 시큐리티는 이번 사례가 샌드박스 자체를 해킹해 탈출한 것과는 다르다고 설명했다. 평가 환경을 설정하는 과정에서 외부로 향하는 일부 통신 경로를 열어둔 것이 원인이 됐다는 것이다. AISI 역시 샌드박스에 본질적인 취약점이 있었던 것은 아니라는 입장을 밝혔다. 업계가 주목하는 부분은 AI 모델이 주어진 과제를 해결하기 위해 허용된 통신 경로를 스스로 찾아 외부 정보를 활용했다는 점이다. 평가 환경에 작은 허점이 남아 있을 경우 고성능 AI 에이전트가 이를 찾아내 실제 능력과 다른 평가 결과를 만들어낼 가능성이 있다는 지적이다. 최근 고성능 AI 모델이 사이버보안 평가 환경의 허점을 찾아내는 사례가 잇따르고 있다. 프런티어 시큐리티에 따르면 오픈AI와 앤트로픽, 메타의 AI 모델에서도 각기 다른 방식으로 테스트 환경을 벗어나 외부 시스템에 접근한 사례가 확인됐다. 특히 키미 K3는 누구나 내려받아 사용하거나 개조할 수 있는 오픈소스 모델이라는 점에서 보안 우려가 제기된다. 앞서 통제 환경 이탈 사례가 보고된 오픈AI·앤트로픽·메타 등의 모델과 달리 공개된 모델은 외부에서 별도 안전장치 없이 활용될 가능성이 있기 때문이다. 연구진은 "충분한 능력을 갖춘 에이전트라면 인터넷으로 향하는 경로를 반드시 찾아낸다"며 "AI 모델의 역량이 높아질수록 평가 환경 역시 이에 맞춰 더욱 엄격하게 설계할 필요가 있다"고 밝혔다.

2026.08.08 08:52한정호 기자

오픈AI, 차세대 AI '아스트라' 개발 늦춘다…사이버보안 우려

오픈AI가 차세대 인공지능(AI) 모델 '아스트라(Astra)' 개발·시험 작업을 일부 중단하고 안전성 검증을 강화한다. 아스트라가 사람 개입 없이 보안 취약점을 찾아 공격에 활용할 수 있는 사이버 역량을 갖췄을 가능성이 확인되면서, 출시를 서두르기보다 보안 통제를 강화하기로 한 조치다. 7일(현지시간) 블룸버그통신에 따르면 오픈AI는 아스트라가 자체 안전 프레임워크에서 규정한 '중대(Critical)' 수준의 사이버 보안 역량에 도달했을 가능성을 배제할 수 없다고 판단하고 일부 개발·시험 작업을 일시 중단했다. 오픈AI는 최근 진행한 내부 평가에서 아스트라의 에이전틱 코딩과 사이버 보안 능력이 크게 향상된 것으로 나타났다고 설명했다. 전문가 평가까지 종합한 결과 현 단계에선 아스트라가 중대 수준의 사이버 역량을 갖췄을 가능성을 배제하기 어렵다는 판단을 내렸다. 오픈AI가 정한 중대 사이버 보안 역량은 사람 개입 없이 실제 주요 시스템에서 다양한 심각도의 '제로데이' 취약점을 찾아 실제 작동하는 공격 수단을 개발하거나, 구체적인 방법 없이 목표만 제시해도 새로운 사이버 공격 전략을 스스로 수립·실행할 수 있는 수준이다. GPT-5.6-솔은 아스트라보다 한 단계 낮은 '높음(High)' 수준으로 평가됐다. 이에 오픈AI는 아스트라 개발·평가 과정의 보안 조치를 대폭 강화 중이다. 격리된 테스트 환경을 구축하고 네트워크와 도구 접근을 제한하는 한편 모델 가중치 보호·암호화, 추가 모니터링·탐지 기능, 샌드박스 실행 등을 적용할 예정이다. 주요 외신에 따르면 오픈AI는 충분한 안전장치가 마련될 때까지 아스트라 개발 속도를 늦출 계획으로, 향후 출시 시점도 미뤄질 전망이다. 오픈AI는 미국 정부에도 출시 지연 계획을 자발적으로 알린 것으로 전해졌다. 아스트라는 오픈AI가 개발 중인 차세대 AI 모델로, 최근 고난도 수학 문제 해결 능력으로도 주목받았다. 오픈AI는 아스트라를 활용해 최소 10년 이상 풀리지 않았던 고차원 기하학과 군론, 양자 복잡도 등의 수학 난제 10가지를 해결했다고 밝힌 바 있다. 여러 AI 에이전트가 장기간 협력해 복잡한 문제를 해결하는 능력을 갖춘 것으로 알려졌다. 최근 AI 모델의 사이버 역량이 빠르게 높아지면서 안전성 우려도 커지고 있다. 최근 오픈AI와 앤트로픽이 모델 테스트 과정에서 허깅페이스를 비롯한 여러 기관의 시스템에 의도치 않게 침투한 사실이 공개됐다. 메타 역시 AI 모델이 제3자의 컴퓨터 시스템에 침투한 것으로 전해졌다. 오픈AI는 정부 기관과 일부 AI 안전 관련 기관을 대상으로 아스트라의 역량을 추가 검증할 예정이다. 외부 기관이 고위험 모델을 안전하게 평가할 수 있도록 제3자 테스트 파트너에 보안 통제 방안도 제공할 계획이다. 오픈AI는 "첨단 사이버 역량을 갖춘 모델은 공격자보다 먼저 취약점을 찾아 해결할 수 있도록 방어자를 지원해야 한다"며 "정부와 안전 연구기관, 시민사회와 협력해 아스트라와 그 이후 모델의 최첨단 역량이 책임감 있게 배포되고 인류 전체에 폭넓게 도움이 되도록 노력하겠다"고 밝혔다.

2026.08.08 08:24한정호 기자

안랩, 아태지역 엔드포인트 보안 '경쟁전략 리더십' 첫 선정

글로벌 통합보안 기업 안랩(대표 강석균)이 글로벌 시장조사 기관으로부터 엔드포인트 보안 아태지역 대표 회사로 인정받는 쾌거를 거뒀다. 안랩은 5일 글로벌 시장조사 기관 프로스트 앤드 설리번의 '2026 베스트 프랙티스'에서 처음으로 아시아·태평양 엔드포인트 보안 부문 '경쟁전략 리더십' 자격을 얻었다고 밝혔다. 지난 2019년부터 2025년까지 7년 연속 '올해의 한국 엔드포인트 보안 기업'에 선정된 데 이어, 이번에는 아태 시장 전체를 대상으로 경쟁력을 인정받으며 글로벌 시장에서의 위상이 한층 높아졌다. 프로스트 앤드 설리번은 매년 기업의 사업 전략 혁신성과 고객가치 창출 역량을 종합 평가해 산업별 '경쟁전략 리더십'을 선정한다. 올해 평가에서 안랩은 ▲통합 보안 운영을 구현하는 플랫폼 전략 ▲제품·서비스 전반의 AI 내재화 ▲위협 인텔리전스 중심 보안 생태계 등을 바탕으로 아태 지역 엔드포인트 보안 시장에서 차별화된 경쟁전략을 인정받았다. 특히 엔드포인트 보안을 비롯한 다양한 보안 역량을 개별 제품이 아닌 '보안 운영(Security Operations)' 관점에서 하나의 통합 플랫폼 체계로 연결한다는 점이 차별점으로 작용했다. 또한 'AI 기반 보안 운영' 전략 아래 AI를 단순 기능으로 활용하는 데 그치지 않고, 제품·서비스 전반에 내재화해 보안 운영의 자동화와 지능화를 추진한다는 점이 높은 평가를 받았다. 강석균 안랩 대표는 “국내를 넘어 아시아태평양 엔드포인트 보안 시장 전체를 대상으로 한 평가에서 경쟁력을 인정받았다는 점에서 의미가 크다”며 “글로벌 통합보안 회사로서 에이전틱 AI 기반 플랫폼 전략을 중심으로 전세계 고객이 신뢰할 수 있는 파트너로 자리매김할 것”이라고 말했다.

2026.08.05 18:22김기찬 기자

[AI는 지금] 구글·메타에 도전장…미스트랄, 기업용 AI 안전시장 본격 공략

프랑스 인공지능(AI) 기업 미스트랄AI가 기업별 정책에 맞춰 유해 콘텐츠 판정 기준을 바꿀 수 있는 소형 안전 모델을 공개하며 기업용 AI 시장 공략에 나섰다. 생성형 AI 활용이 업무 에이전트로 확대되면서 모델 성능뿐 아니라 보안과 규제 준수 역량이 주요 경쟁 요소로 떠오르자 안전 모델까지 오픈 웨이트 전략을 넓힌 모습이다. 미스트랄AI는 4일(현지시간) 공식 홈페이지를 통해 30억 개 파라미터 규모의 멀티모달 안전 분류 모델 '실드스트랄(Shieldstral)'을 아파치 2.0 라이선스로 공개했다. 실드스트랄은 텍스트와 이미지, 이용자 프롬프트와 AI 답변을 검사해 특정 안전 정책을 위반하는지를 확률 형태로 제시한다. 실드스트랄은 안전 기준을 모델에 고정하지 않고 추론 시점에 자연어로 입력하도록 설계된 것이 특징이다. 기업이 "이 콘텐츠가 개인정보를 노출하는가", "미성년자에게 보여줘도 안전한 이미지인가"와 같은 질문을 제시하면 해당 기준에 따라 콘텐츠를 판정한다. 기존 안전 모델은 폭력과 혐오, 성적 표현 등 개발사가 미리 정한 분류 체계를 주로 활용한다. 기업이 산업이나 이용자 특성에 맞춰 새로운 기준을 적용하려면 모델을 다시 학습하거나 별도의 규칙 엔진을 붙여야 한다. 반면 실드스트랄은 정책 문구만 바꿔 새로운 기준을 적용할 수 있어 금융과 의료, 공공, 교육 등 산업별 요구사항을 반영하기 쉽다. 같은 사이버 공격 관련 콘텐츠라도 일반 소비자 서비스에서는 차단하고 보안 연구 도구에서는 허용하는 식으로 서비스 목적에 따라 안전 수준을 조정할 수 있다. 텍스트와 이미지 안전 평가를 하나의 모델로 처리하는 점도 특징이다. 프롬프트와 답변을 각각 검사하거나 두 내용을 함께 평가할 수 있으며, AI가 이용자의 요청을 적절히 거부했는지와 유해한 답변을 내놨는지도 동일한 방식으로 판별한다. 모델은 '예'와 '아니요'에 해당하는 확률을 한 번의 추론으로 산출한다. 기업은 이 점수를 바탕으로 콘텐츠를 즉시 차단하거나 사람의 검토 대상으로 넘기는 등 자체 운영 기준을 설정할 수 있다. 실드스트랄은 16GB 엔비디아 그래픽처리장치(GPU) 1대에서도 구동할 수 있다. 대규모 클라우드 인프라 없이 기업 내부 서버나 프라이빗 클라우드에 배치할 수 있어 고객 대화와 내부 문서를 외부 콘텐츠 검수 서비스로 보내지 않고 처리할 수 있다. 이는 데이터 통제권을 중시하는 기업 고객을 겨냥한 구성으로 해석된다. 금융과 공공, 의료 기업은 생성형 AI를 도입하더라도 개인정보와 내부 데이터가 외부로 전송되는 것을 꺼리는 경우가 많다. 소형 오픈 웨이트 안전 모델을 내부에 구축하면 외부 안전 API 이용료와 민감한 데이터의 외부 전송 부담을 함께 줄일 수 있다. 실드스트랄 공개는 미스트랄AI의 기업용 AI 생태계 확대에도 힘을 보탤 것으로 예상된다. 기업과 개발자가 오픈 웨이트 안전 모델을 도입한 뒤 미스트랄의 생성 모델과 맞춤형 학습·평가 플랫폼 '포지(Forge)'까지 함께 검토할 가능성이 있어서다. 실드스트랄의 데이터 처리와 학습, 정렬, 평가 전 과정도 포지에서 이뤄졌다. 이는 안전 모델을 앞세워 자체 플랫폼의 기업 활용 가능성을 알리려는 전략으로 읽힌다. 이번 일로 미스트랄AI와 구글, 메타 등 기존 오픈 웨이트 안전 모델 사업자들의 경쟁도 확대될 전망이다. 구글은 텍스트용 '실드젬마'와 이미지용 '실드젬마2'를 제공하고 있으며, 메타는 라마 기반 안전 분류 모델 '라마 가드'를 공개했다. 미스트랄AI는 하나의 모델로 텍스트와 이미지, 프롬프트와 답변을 함께 처리한다는 점을 실드스트랄의 차별점으로 내세웠다. 기업이 새로운 정책을 자연어 질문으로 입력해 재학습 없이 판정 기준을 변경할 수 있다는 점도 기존 모델과의 경쟁 요소로 보고 있다. 이번 일은 AWS와 마이크로소프트 등 클라우드 사업자가 제공하는 가드레일 서비스에도 영향을 줄 수 있다. AWS는 아마존 베드록 가드레일을 통해 유해 콘텐츠와 민감정보, 금지 주제를 탐지하고 있으며 마이크로소프트도 애저 기반 콘텐츠 안전 서비스를 제공한다. 기업이 실드스트랄을 자체 인프라에 배치하면 클라우드 기반 안전 API에 대한 의존도를 낮출 수 있다. 오픈 웨이트 안전 모델이 확산할수록 클라우드 사업자도 가격과 처리 속도, 데이터 통제권, 산업별 정책 설정 기능을 강화해야 할 가능성이 커진다. 미스트랄AI는 자체 평가에서 실드스트랄이 텍스트 안전성과 거부 응답 탐지, 정책 적응성, 멀티모달 안전성 부문에서 최대 7배 큰 오픈 가드 모델과 대등하거나 높은 성능을 기록했다고 주장했다. 평가용 표본은 학습 데이터에서 제외했다고 설명했다. 미스트랄AI는 "실드스트랄은 모든 제품에 하나의 고정된 분류 체계를 적용하는 대신 서비스 맥락에 맞춰 적응하는 콘텐츠 조정을 향한 단계"라고 밝혔다.

2026.08.05 11:38장유미 기자

시스트란, 국방·방산 특화 온프레미스 AI 솔루션으로 고보안 시장 공략

시스트란이 강력한 보안과 맞춤형 커스터마이징 역량을 앞세워 국방 및 방산 도메인 시장 공략을 본격화한다. 시스트란은 국방·방산 분야에 특화된 온프레미스 AI 솔루션을 기반으로 고보안 산업 시장의 점유율을 확대한다고 4일 밝혔다. 시스트란의 온프레미스 AI 솔루션은 외부 인터넷망과 완벽히 분리된 폐쇄망 환경에서 독립적으로 구동된다. 데이터 유출 위험을 원천 차단해 보안이 최우선인 국방 및 방산 분야에 최적화된 것이 특징이다. 고객사의 도메인과 업무 환경에 맞춘 유연한 시스템 구축 역량도 장점이다. 시스트란은 록히드마틴, 에어버스, 보잉, NASA, FBI 등 글로벌 주요 방산·항공 기업과 미국 및 유럽 정부 기관을 대상으로 풍부한 레퍼런스를 확보하고 있다. 앞서 시스트란은 지난 6월 열린 군사과학기술학회 종합학술대회에 참가해 관련 솔루션을 시연했다. AI 번역기 'STS', AI 동시통역기 'SI&T', sLLM 플랫폼 'QUESAR', 온톨로지 관리 플랫폼 'I-ONT' 등 4종을 선보였다. 특히 국방백서 일부 문서를 적용한 국방 특화 온톨로지와 그래프DB AI 기반 관리 도구인 'I-ONT' 데모를 최초로 공개하며 현장의 이목을 끌었다. 시스트란 관계자는 "군사과학기술학회 참가를 통해 시스트란의 온프레미스 AI 솔루션이 국방·방산 도메인에서도 충분히 실전 적용 가능함을 확인했다"며 "유연하게 구축 가능한 온프레미스 아키텍처를 바탕으로 신뢰받는 AI 파트너로 자리매김해 나갈 것"이라고 전했다. 현장을 방문한 국방·방산 관계자들 역시 "합동 작전 상황에서의 통역, 방산 기밀 자료 번역 등에 시스트란 솔루션이 유용하게 활용될 수 있을 것 같다"며 "국방 분야 온톨로지 구축에 매우 유용한 도구가 될 수 있을 것"이라고 평가했다. 한편 시스트란은 오는 12월 8일부터 11일까지 일산 킨텍스에서 열리는 국내 최대 지상군 통합 방산전시회 'K-DEX 2026'에 참가한다. 향후 국방·방산을 비롯해 금융, 의료, 제조 등 고보안 산업군으로 온프레미스 AI 솔루션 공급을 확대할 계획이다.

2026.08.04 10:45정진성 기자

이름·연락처 없어도 건강 상태 안다…AI 개인정보 침해 '비상'

AI가 익명·집계 데이터에서도 개인의 건강 상태와 행동 패턴을 추론하면서 개인정보 침해 위험이 단순한 데이터 유출을 넘어 AI의 판단 결과로 확산되고 있다. 개인정보가 직접 빠져나가지 않아도 민감 정보가 드러날 수 있어 기존 보안 체계만으로는 대응이 어렵다는 지적이 나온다. 3일 시장조사기관 가트너에 따르면 대부분의 개인정보 침해 사고는 오는 2029년까지 개인식별정보(PII)의 직접적인 유출보다 AI가 개인에 대해 생성한 추론에서 비롯될 것으로 전망됐다. 가트너는 기업들이 규제 준수와 관리 비용 절감을 위해 개인 데이터 보유량을 줄이고 있지만, 생성형 AI와 머신러닝 기술이 발전하면서 데이터 최소화만으로 개인정보 위험을 낮추기 어려워졌다고 판단했다. AI는 익명화되거나 여러 사람의 정보가 합쳐진 데이터에서도 개인의 건강 상태와 선호, 행동 패턴 등 민감한 정보를 유추할 수 있다. 개인정보 침해 방식도 달라지고 있다. 기존 공격은 고객 정보나 의료 기록, 금융정보 등 저장된 데이터를 탈취하는 형태가 중심이었다. 반면 추론 기반 공격은 실제 기록을 빼내지 않고도 공개 정보와 비식별 데이터, AI 분석 결과를 결합해 특정 개인의 특성이나 상태를 알아내는 방식으로 진행된다. 이 과정에서 만들어진 정보는 원본 데이터가 아니기 때문에 기존 개인정보 유출 탐지 체계에 포착되지 않을 가능성이 크다. AI가 잘못된 데이터를 바탕으로 부정확하거나 편향된 프로필을 생성해도 당사자가 이를 확인하거나 정정하기 어렵다는 위험도 있다. 바트 빌렘센 가트너 수석 애널리스트는 "개인정보 침해 양상이 데이터 유출에서 인사이트 유출로 바뀌고 있다"며 "AI는 기존 데이터 통제에 구애받지 않고도 개인에 대한 심층적인 인사이트를 재현할 수 있다"고 말했다. 기업의 개인정보 보호 범위도 데이터 저장과 접근 통제를 넘어 AI 시스템의 판단 과정으로 확대될 필요가 있다. AI가 개인에 관한 정보를 어떤 방식으로 생성하고 어디에 활용하는지, 추론 결과를 토대로 어떤 조치를 실행하는지까지 관리해야 한다는 의미다. 가트너는 기업들이 AI 프로필의 오류와 편향, 무단 생성에 대응하기 위한 투자를 늘리면서 2028년까지 데이터 무결성 보호 지출이 기밀성 보호 투자와 비슷한 수준에 이를 것으로 내다봤다. 또 데이터가 외부에 노출되지 않도록 막는 데 집중했던 보안 투자는 AI가 생성한 정보의 정확성과 신뢰성을 확보하는 영역으로 확대될 수 있다고 전망했다. 가트너는 "기업은 AI 개발과 배포 전 과정에 프라이버시 중심 설계 원칙을 적용하고 알고리즘 편향과 과적합, 의도하지 않은 추론 가능성을 정기적으로 점검해야 한다"며 "차등 프라이버시와 합성 데이터, 개인정보 보호형 머신러닝 등 개인정보 보호 강화 기술을 적용해 재식별 위험을 낮추는 방안도 필요하다"고 강조했다. 이에 맞춰 기업들은 데이터 수집 범위를 필요한 수준으로 제한하고 접근 권한과 보존 기간을 엄격히 관리하는 기존 정책도 유지해야 한다. 또 추론 기반 위협을 식별할 수 있는 이상 징후 탐지와 모니터링 체계를 마련하고 AI가 민감 정보에 관한 조치를 수행하기 전 사람이 판단을 검증하는 절차도 필요할 것으로 보인다. 빌렘센 애널리스트는 "개인정보를 데이터 보호의 문제로만 인식하는 기업은 AI 생성 추론으로 인한 개인정보 침해 사고에 갈수록 취약해질 것"이라며 "향후 개인정보 보호 위험은 기업의 데이터 저장 방식보다 AI의 데이터 해석 방식에 더 크게 좌우될 것"이라고 말했다.

2026.08.03 09:39장유미 기자

잡코리아 vs 사람인, 'AI 후불형 채용' 승부…차별점은

최근 잡코리아와 사람인이 후불형 채용 상품의 인공지능(AI) 기능을 고도화하며 서비스 경쟁력 강화에 나서고 있다. 양사 서비스 모두 AI가 공고에 적합한 인재를 선별해 준다는 큰 틀은 비슷하지만, 각각 '보안성'(잡코리아)과 '자동화'(사람인) 영역에서 차별화를 꾀하는 모습이다. 31일 HR업계에 따르면, 사람인은 지난 29일 후불형 채용 상품 전용 AI 에이전트 서비스 '에이전트 핏'을 출시했다. AI 에이전트 핏은 현재 '스마트 리크루터'에만 우선 적용되며 후불형 채용 상품을 이용하는 기업은 누구나 사용할 수 있도록 설계됐다. 현재 잡코리아도 사람인의 '스마트 리크루터'와 유사한 원픽이라는 후불형 채용 상품을 운영 중이다. 잡코리아는 '보안', 사람인은 '자동화' 힘 줘 두 서비스는 AI가 채용 공고와 이력서를 종합 분석해 회사에 적합한 인재를 추천해준다는 점에서 유사하지만, 사람인은 '자동화'를 강점으로 내세우고 있다. 에이전트 핏은 공고 분석, 인재 추천에서만 그치는 것이 아니라 한 단계 나아가 AI가 선정된 인재에게 입사제안을 자동으로 보내준다. 잡코리아의 원픽은 '개인정보 보안' 측면에서 차별점을 확보했다. 원픽에 사용되는 AI의 바탕이 되는 초거대 언어모델(LLM)의 경우 외부 범용 AI 응용 프로그램 인터페이스에 의존하지 않고, 자체 개발·자체 서버 운영 구조를 갖추고 있다. 이로 인해 이력서 등 민감한 개인정보가 처리 전 과정에서 외부로 전송되지 않는다. 또 데이터의 저장·파기·활용을 모두 자사 보안 정책 아래 직접 통제할 수 있다는 점에서도 경쟁력을 갖추고 있다. 매칭 적합도 공통 강점으로…맞춤형 서비스 '속속' 잡코리아 '원픽'과 에이전트 핏이 적용된 사람인의 '스마트 리크루터'는 모두 회사와 매칭 적합도를 서비스 강점으로 내걸었다. 에이전트 핏은 데이터를 다각도로 고려해 매칭률이 80% 이상인 인재에게만 제안을 보낸다. 잡코리아는 원픽 이용 시 적합·최적합 인재의 최종 합격률이 미합격 인재 대비 4배 높다고 강조했다. 입사 지원자 수(24.2명)도 일반 공고(5.4명) 대비 5배 높다는 설명이다. 두 서비스는 활발한 입사 지원을 위해 기업과 구직자 맞춤형 서비스도 제공한다. 잡코리아 원픽은 구직자에게 이력서 분석을 통한 맞춤형 공고 알림을 발송하고 '서류합격예측 서비스'로 입사 지원 결과를 미리 살펴볼 수 있도록 하고 있다. 스마트 리크루터에 적용된 에이전트 핏의 경우 기업에게는 후보자에 대한 분석 리포트를 보내주고, 구직자에게는 심층 분석 리포트를 보내준다. 심층 분석 리포트에는 입사제안을 받은 공고가 구직자에게 적합한 이유와 해당 공고에서 자신만의 경쟁력, 면접 준비 가이드 등이 담겼다. 사람인 관계자는 “앞으로도 사람인만의 기술력을 바탕으로 기업과 구직자를 효과적으로 연결하고, 자동화하는 서비스 라인업을 강화할 것”이라고 말했다.

2026.07.31 17:21박서린 기자

[AI는 지금] 오픈AI 이어 앤트로픽도 '실제 해킹'…AI 통제 비상

오픈AI에 이어 앤트로픽의 인공지능(AI) 모델도 사이버보안 시험 도중 외부 기관의 실제 시스템을 침해한 것으로 나타났다. 고성능 AI의 공격 능력을 확인하기 위해 안전장치를 낮춘 평가가 잇따라 보안 사고로 이어지면서 AI 모델의 인터넷 접근과 실행 권한을 통제하는 체계를 강화해야 한다는 요구가 커지고 있다. 31일 테크크런치에 따르면 앤트로픽은 최근 사이버보안 평가 기록 14만1006건을 자체 조사한 결과 '클로드' 모델이 3곳의 운영 시스템에 무단 접근한 사례 3건을 확인했다. 이번 사고는 앤트로픽이 외부 평가업체 이레귤러와 클로드의 사이버 공격 능력을 시험하는 과정에서 발생했다. 양사는 모델이 인터넷에 접속할 수 없는 격리 환경에서 평가가 진행되는 것으로 이해했지만 실제 환경에는 외부 연결 경로가 열려 있었다. 클로드는 인터넷에 접근할 수 없다는 지시를 받았지만 외부에서 발견한 실제 시스템을 시험 대상으로 판단해 공격을 이어갔다. 사고에는 클로드 오퍼스 4.7과 미토스 5, 내부 연구용 모델이 각각 관여했다. 오퍼스 4.7은 실제 운영 시스템에 접근했다는 사실을 인식하고도 인증정보를 확보하고 운영 데이터가 담긴 데이터베이스에 접근했다. 미토스 5는 실제 인터넷일 가능성을 감지했지만 시험 환경이라고 판단해 공개 파이썬 저장소 파이파이(PyPI)에 악성 패키지를 배포했다. 해당 패키지는 적발되기 전 외부 시스템에 다운로드돼 실행됐다. 반면 가장 최신인 내부 연구용 모델만 대상이 실제 시스템이라고 판단한 뒤 작업을 중단했다. 이는 AI가 현실과 시험 환경을 구분하도록 지시하는 것만으로는 사고를 막기 어렵고 외부 시스템 접근을 기술적으로 차단해야 한다는 점을 시사한다. 이에 대해 앤트로픽은 "모델이 독자적인 목표를 추구한 것은 아니고 주어진 과제를 수행하려 했다"며 "일반 서비스에 적용하는 안전 모니터링과 분류기도 모델의 순수한 사이버 능력을 측정하기 위해 이번 평가에서는 제외했다"고 설명했다. 앞서 오픈AI의 미출시 모델도 격리된 평가 환경을 벗어나 허깅페이스와 다른 외부 서비스에 접근해 논란이 됐다. 해당 사고는 미국 의회와 백악관까지 대응에 나설 정도로 파장이 컸다. 미국 의회에서는 AI 비상 중단 장치 도입을 요구하는 'AI 킬 스위치법'이 발의됐고 도널드 트럼프 대통령도 추가 보호 조치 검토 가능성을 언급했다. 오픈AI 모델은 알려지지 않은 취약점을 이용해 격리 환경을 벗어난 반면, 앤트로픽 모델은 평가 환경의 설정 오류로 열린 인터넷 경로를 통해 실제 시스템에 접근했다. 침해 경로는 달랐지만 두 사례 모두 평가 단계에서 모델의 외부 활동을 차단하지 못하면서 AI 기업의 자체 시험 환경과 외부 평가업체의 네트워크 설정, 접근 권한을 함께 검증해야 한다는 요구가 커지고 있다. 앤트로픽은 "강력한 AI 모델을 평가할 때는 그 능력에 맞는 강력한 통제가 필요하다"며 "현재 독립 평가기관 METR와 사고에 대한 제3자 검토를 진행하는 동시에 모든 책임이 우리에게 있다는 전제 아래 개선 조치를 추진하고 있다"고 밝혔다.

2026.07.31 16:53장유미 기자

"보안 외주 인력 디지털 포렌식으로 상시 점검해야"

기업들의 IT 인프라 확장과 인건비 절감 수요가 맞물리면서 개발부터 보안, 내부 감사 등 다양한 영역에서 외주 활용이 보편화하고 있다. 그러나 수탁, 재수탁 등으로 이어지는 복잡한 외주 구조 속에서 계정 및 크리덴셜(인증 정보) 관리 부실로 인한 침해사고는 더욱 빈번해지는 현실이다. 특히 사고 발생 후 증거 확보나 책임 추적은 복잡한 외주 환경 탓에 더욱 어려워지고 있어 기업들의 고민도 깊어지고 있다. 김장훈 유락 전략사업본부 이사는 지디넷코리아와 인터뷰에서 외주 인력 활동 등을 디지털 포렌식으로 점검하는 상시 감사의 필요성이 커지고 있으며, 사고 전후의 위험 행위를 확인하고 내부통제를 검증하는 상시 보안 수단으로 활용할 필요가 있다고 강조했다. 유락은 현장에서 즉시, 누구나 활용할 수 있는 인공지능(AI) 디지털 포렌식 전문 업체다. 김 이사는 유락 전략사업본부에서 디지털 포렌식 솔루션의 개발, 기획 등 영역을 총괄하고 있다. 어느 한 기술 영역에만 국한되는 것이 아니라 사업화 등 경영 차원에서도 역량을 발휘하는 만능 엔터테이너다. 김 이사는 "인력 TO는 그대로인데 IT 인프라가 확대되면서 개발 수요는 늘어 외부 인력, 외주를 적극 활용하는 추세다. 심지어 수탁사가 재수탁하는 구조까지 더해지며 이같은 구조는 더욱 활성화된 상태"라며 "문제는 외주 개발자가 어떤 권한이나 크리덴셜을 갖고 있는지는 추적하지 않는다는 점"이라고 강조했다. 그는 "또한 퇴직자의 경우 퇴직 즉시 권한을 회수하고 조직 클라우드에 접근할 수 없도록 하는 것이 기본 원칙이지만, 통제가 뒤따르지 않는 문제가 발생한다"며 "이에 프로젝트 수행 중 승인되지 않은 개인정보 저장소 사용, 평문으로 저장된 토큰·계정정보, 깃허브·구글 드라이브 등 외부 플랫폼 업로드, 개인 계정 사용, 중요 파일의 비정상적인 복사·반출과 같은 문제가 발생한다"고 진단했다. 외주가 많아지면 많아질수록 침해사고 발생 가능성이 커지고, 퇴사자의 경우 침해사고 발생 이후에도 증거 확보나 책임 추적에 어려움이 뒤따르고 있다는 지적이다. 유락의 '디파스 디스커버리는(DFAS Discovery)'는 이 과정을 케이스 단위로 운영하는 모델을 지향한다. 감사 목적과 대상, 단말기, 수집 기간·범위를 지정하고, 승인된 범위의 데이터만 선별 수집한 수집·분석한다. 이후 파일과 브라우저 기록, 외부 저장장치·업로드 흔적을 시간 흐름과 관계 정보로 분석해 흔적을 보안정책이 실제로 작동했는지 객관적인 증거로 확인한다. 디파스 디스커버리는 내년 3월께 출시 예정이다. 이를 통해 분산된 증거의 연결과 선제적 위험 탐지, 나아가 사람이 어떤 의도를 갖고 데이터를 반출하려 했는지 등 행위 관점에서 통합 분석한다. 이를 통해 개별 파일이나 단일 저장소 기록만으로 원인을 단정하지 않고, 사용자·단말기·파일·접속기록을 시간의 흐름과 관계 정보로 교차 검토해 실제 데이터 이동 경로와 행위 주체를 규명할 수 있도록 지원한다. 이 기술로 사고 이전에 위험을 발견할 수 있으며, 외주 인력이 운영 데이터를 개인 PC에 반복 저장하거나 종료를 앞두고 대량의 파일을 복사하는 정황이 포착되면 실제 유출로 번지기 전에 접근권한을 조정하고 사실관계를 확인할 수 있다. 사고가 발생하더라도 기준 상태와 점검 이력이 남아 있어 조사 착수 시간을 줄이고 유출 경로와 영향 범위를 더 빠르게 규명할 수 있다. 김 이사는 "회사 프로젝트를 오픈소스 저장소인 깃허브(Github)에 공개하거나 개인 계정에 업로드하는 일이 비일비재하다. 심지어 API키를 하드코딩(소스코드 내에 직접 입력하는 방식)하는 등 보안의 기본 중의 기본은 물론 사내 보안 정책을 위반해 피해가 확산되는 안타까운 사례가 국내·외로 빈번해지고 있다"면서 "유락의 솔루션들은 사전에 외주 환경이나 보안 정책을 위반한 프로젝트를 상시적으로 감사하며 위협을 사전에 예방함으로써, 사후 결과 검증에 초점을 맞춘 기존 포렌식 기법의 한계를 한층 진화시켰다"고 밝혔다. 그는 "특히 외주 업무의 전 생애주기를 증거 기반으로 관리함으로써 착수 단계에서는 데이터 처리 범위와 점검 기준을 정하고, 수행 중에는 중요정보의 저장·복사·반출 여부를 점검하며, 종료 단계에서는 접근권한 회수와 데이터 파기를 기술적으로 검증한다"며 "기존의 계약서와 파기 확인서에 의존하는 관리에서 벗어나 데이터가 어디에 있었고, 어떻게 사용됐으며, 실제로 삭제됐는지를 지속적으로 확인·입증하는 체계를 구축함으로써 사고 가능성과 피해 범위를 실질적으로 낮추는 데 초점을 맞췄다"이라고 부연했다. '현장성·사용성' 앞세운 유락 차별점…비전문가도 쓰는 '디파스' 시리즈 김 이사는 유락만의 차별점으로 '현장성'과 '사용성', 그리고 AI를 꼽았다. 침해사고가 빈번해지면서 디지털 포렌식의 역할이 사고 이후의 사후 분석에서 예방 점검, 내부감사, 외주 인력 관리와 사고 초기 대응까지 확장되고 있다. 이런 가운데 유락 디지털포렌식의 차별점은 현장에서 즉시 필요한 증거를 신속하게 확보할 수 있도록 지원한다. 일반적인 포렌식은 대상 장비를 별도 연구실로 옮겨 전체 데이터를 분석해야 한다. 이 기간은 통상 길면 수주, 수개월까지도 소요된다. 그러나 유락의 '디파스 프로(DFAS Pro)'는 별도의 연구실로 장비를 옮기지 않고도 현장에서 필요한 데이터를 선별 수집·분석할 수 있도록 지원한다. 또 전문적인 지식이 없더라도 디지털 포렌식이나 감사가 가능하도록 지원하는 것도 특징이다. 디지털 포렌식은 아무리 쉽게 지원한다고 하더라도 보안팀이나 포렌식 장비를 운용할 수 있는 전문 인력이 필요하다. 그러나 현재 조직 내 감사팀은 회계 감사, 인사팀 등에 치중돼 있다. IT 관련 지식이 없어 자체 포렌식이 가능한 기업은 일부 대기업에 한정된다. USB 기반 포터블 운용과 자동화된 절차를 통해 비전문가도 초기 증거 확보와 판단을 신속하게 수행할 수 있는 것이다. 뿐만 아니라 AI 기반 멀티모달 데이터 분석도 가능하다. 이미지와 동영상 등 복잡한 데이터도 파일명이나 메타데이터를 넘어 내용과 의미를 기준으로 관련 자료를 탐색할 수 있도록 개발하고 있다. 이를 통해 조사자는 키워드와 개인정보, 문맥, 이미지, 음성·영상 등 서로 다른 형식의 데이터를 하나의 검색 흐름에서 분석할 수 있다. 조사자가 AI 분석의 근거를 직접 확인하는 것도 가능하다. 디지털 포렌식은 그럴듯한 설명을 생성하는 것보다 증거의 무결성을 확보하고 증거를 바탕으로 어떤 결과를 도출했는지 확인하는 것이 중요하다. 따라서 유락은 본 증거와 분석 과정에서 생성된 파생 데이터를 명확히 구분하고, 관측된 사실과 시스템의 해석, 상관관계 후보, 조사관의 판단과 AI의 설명을 하나의 확정된 결론으로 혼합하지 않는다. 최종 판단은 조사자가 원본 증거를 직접 검토한 뒤 내리도록 설계한 것도 특징이다. 김 이사는 "이 외에도 PoC 중인 제품 중의 하나로, '디파스 고'가 있다. '디파스 고'는 AI 사용을 감사한다"며 "조직 내에서 수많은 AI 모델이 활용되고 있다. 사용 형태도 웹, API 등 그 형태마저 다양한데, 이를 추적하고 감사하며 가시성까지 확보하기란 쉬운 일이 아니다"라고 말했다. 그는 이어 "AI 모델에 업로드하는 내부 데이터, 민감한 데이터를 첨부하는 경우는 DLP(데이터 유출 방지) 등 기존 보안 솔루션으로 차단이 가능하지만, 왜 이런 데이터를 외부로 반출하려 했는지 감사하고 추적하는 데에는 한계가 있다"며 "디파스 고는 이같은 한계를 극복할 수 있으며 기밀이나 민감·개인정보의 특정 패턴을 마스킹하고 외부로 반출되는 것을 사전에 차단하며, 경영자가 가시성을 확보할 수 있도록 지원하는 셈"이라고 설명했다. 김 이사는 "또한 디파스 엣지(DFAS Edge)를 통해 인터넷 연결이 제한된 폐쇄망과 현장에서도 AI를 활용해 데이터를 수집·분석할 수 있는 온디바이스 AI 포렌식을 개발하고 있다"며 "이를 통해 별도의 대규모 분석 인프라 없이도 증거가 존재하는 현장에서 신속하게 데이터를 분석하고 초기 의사결정을 내릴 수 있도록 지원할 계획"이라고 밝혔다. 인도·중동 등 9개국 영토 확장…민간 부문 매출 49% 유락의 고객 포트폴리오는 공공·수사기관에서 출발해 민간기업과 금융권, 해외시장으로 확대되고 있다. 2018년 설립부터 2026년까지의 누적 매출 기준으로 민간 부문이 49%로 가장 크고, 해외 26%, 공공·수사기관, 금융 순이다. 공공·수사 분야에서는 경찰청과 국방부 등이 현장형 디지털 포렌식 솔루션 '디파스 프로(DFAS Pro)'를 활용하고 있다. 현장 압수수색과 초동 조사 단계에서 디지털 증거를 신속하게 선별·분석하는 제품 특성을 바탕으로 초기 핵심 레퍼런스를 확보했다. 민간 분야에서는 국내 대표 반도체·제조 대기업과 거래 실적을 보유하고 있다. 해외에서는 ▲탄자니아 ▲브루나이 ▲오만 ▲중국 ▲대만 ▲일본 ▲사우디아라비아 ▲인도 ▲미국 등 9개국 이상에 디지털 포렌식 솔루션을 공급하고 있다. 최근에는 인도 경찰 납품과 정부 전자조달 플랫폼 GeM 등록을 기반으로 주요 주 경찰청과 국립과학수사대학교(NFSU)를 대상으로 현장형 디지털 포렌식 기술 실증을 추진하고 있다. 특히 가시적인 성과는 인도와 중동에서 주로 나타나고 있다. 인도에서는 정부 전자조달 플랫폼인 GeM 등록을 완료하고, 안드라프라데시·우타르프라데시·구자라트·텔랑가나 등 주요 4개 주의 경찰청과 법과학연구기관을 대상으로 기술 시연과 실증 사업을 추진하고 있다. 인도 국립과학수사대학교(NFSU)와도 협력 가능성을 논의하며 힌디어 OCR과 현지 개인정보 형식, 수사 절차에 맞춘 기술 현지화를 진행하고 있다. 중동에서는 오만 왕립오만경찰청(ROP)의 디지털 포렌식 시스템 현대화 사업에 참여해 기술 평가를 진행 중이다. 김 이사는 "향후에는 미국으로 사업을 더욱 확대할 계획이다"라며 "국가별 수사 절차와 증거 기준에 맞춘 현지화, 현지 파트너십, 포렌식 랩 구축과 교육·컨설팅을 결합해 실증을 실제 계약으로 전환하는 데 집중하고 있다"고 밝혔다. "내부통제 증명하는 '포렌식 인텔리전스' 리더로 성장할 것" 김 이사는 유락의 비전을 기존 디지털 포렌식의 패러다임에서 벗어나 기업과 기관의 내부통제를 객관적인 증거로 입증할 수 있도록 돕는 '포렌식 인텔리전스 기업'으로 성장시키는 것이 목표다. 그는 "침해사고 대응뿐 아니라 직장 내 괴롭힘, 메신저 분석 등 기업 전반에서 내부 통제 차원의 포렌식을 지원하는 것이 목표다. 또한 모든 사람이 어디서든 유락의 솔루션을 통해 감사의 효율성을 크게 높일 수 있도록 만드는 것"이라고 다짐했다. 김 이사는 1980년 출생, 가천대학교 경제학과를 졸업했다. 동국대 국제정보보호대학원에서 석사 학위를 취득했으며, CISA·EnCE·ACE 등 정보보안 및 디지털 포렌식 관련 자격을 보유하고 있다. 2006년 정보보호진흥원(현 한국인터넷진흥원)에서 보안 업무에 뛰어 들었으며, 한국정보기술연구원(KITRI), 더존비즈온 등 공공과 민간 부문에서 디지털 포렌식 관련 경력을 쌓았다. 2025년부터는 중앙대학교 산업보안학과에서 산업보안 조사와 포렌식, 보안시스템 운영·활용을 강의하며 전문 인력 양성을 활동을 하고 있다. 유락은 2023년에 합류했다. ◆김장훈 이사 약력 - 정보보호진흥원(현 한국인터넷진흥원) 조사분석팀 - 더존정보보호서비스(현 더존비즈온) 디지털 포렌식 컨설팅 - 한국정보기술연구원(KITRI) 연구원 - 쿠팡 내부 부정 조사 및 사내 감사 - 유락 전략사업본부 이사

2026.07.31 14:59김기찬 기자

체크포인트 "AI 악용, 진화했다…공격 지원→공격 수행"

인공지능(AI)이 공격을 지원하는 수준에서 이제 직접 공격을 수행하는 주체로 진화했다는 분석이 나왔다. 글로벌 사이버보안 기업 체크포인트 소프트웨어 테크놀로지스(한국지사장 임현호) 위협 분석팀 '체크포인트 리서치'는 이같은 내용을 골자로 한 'AI 시큐리티 리포트 2026'을 31일 발표했다. 보고서는 지난 한 해 동안 발생한 실제 사건, 텔레메트리(Telemetry) 데이터 및 독창적인 사례 연구를 기반으로 작성됐으며, AI가 공격 전 과정에 직접 관여하면서 방어자에게 어떤 변화가 있었는지를 설명한다. 보고서에 따르면 과거에는 AI가 범죄자들이 사이버 공격을 준비하는 데 도움을 줬다면, 이제 AI는 사람의 최소한의 개입만으로 실제 침입을 수행한다. 이로 인해 방어자의 대응 시간은 크게 단축됐으며, 기업 전반에는 새로운 공격 표면이 생겨나고 있다. 또한 기업의 AI 도입 속도가 AI 거버넌스 구축 속도를 앞지르면서 새로운 보안 위험도 커지고 있다는 것이다. 실제 2026년 3월에서 5월 사이에 길고 악의적인 프롬프트 주입 페이로드 탐지 건수는 약 5배 증가했다. 이러한 대규모 악성 페이로드의 급격한 증가는 간접 프롬프트 주입이 이론적인 위험이 아닌 일상적인 공격 경로이자 기업 운영상의 위험 요소가 되고 있음을 의미한다. AI가 단계별 사람의 개입을 최소화한 상태에서 수십 개의 세션에 걸쳐 수천 개의 명령어를 실행하며 익스플로잇 워크플로우를 자율적으로 수행한 침해 사례들을 기록했다. 또 취약점이 악용될 수 있는 범위가 며칠에서 몇 시간 단위로 단축됐다. 이제 AI는 새로운 취약점이 공개되더라도 몇 시간 내에 실제로 작동하는 공격 툴을 만들 수 있다는 분석이다. 고위험 기업용 AI 프롬프트도 지난 1년 동안 두 배 증가해 AI 상호 작용 50건당 약 1건 발생 수준에서 25건당 약 1건으로 증가했다. 로템 핀켈스타인(Lotem Finkelstein) 체크포인트 리서치 부사장은 "1년 전 우리는 AI를 공격자의 역량을 강화하는 도구로 평가했다. 그러나 올해는 상황이 달라졌다. AI가 실제 공격 과정에 직접 참여하며, 과거에는 숙련된 전문가 팀이 수행하던 작업을 이제는 단독으로 수행하고 있다"며 "공격자의 전문성에 대한 진입 장벽은 빠르게 낮아지고 있으며, 방어자는 더 이상 공격자의 속도에 맞춰 대응할 수 있다고 가정해서는 안 된다. 앞으로 경쟁력을 갖춘 조직은 AI 사용을 체계적으로 관리하고, AI 시스템을 안전하게 보호하며, 사람의 속도가 아닌 머신의 속도로 대응하는 조직이 될 것"이라고 강조했다.

2026.07.31 09:35김기찬 기자

"AI 악용 사이버 공격 급증…평균 피해 비용 86억원"

생성형 인공지능(AI)이 사이버 공격에 활용되면서 기업들의 데이터 유출 피해 규모가 커지고 있는 것으로 나타났다. AI를 악용한 침해사고는 전체 악성 공격의 4분의 1 수준까지 늘었으며 평균 피해 비용도 일반 침해사고를 크게 웃도는 것으로 분석됐다. 30일 IBM이 발표한 '2026 데이터 유출 비용 보고서'에 따르면 악의적 침해사고 4건 중 1건은 AI를 활용한 공격으로 집계됐다. 이는 지난해보다 56% 증가한 수치다. 특히 AI 기반 침해사고의 평균 피해 비용은 600만 달러(약 86억원)로 전체 평균인 499만 달러(약 71억원)보다 약 100만 달러(약 14억원) 높았다. 이번 보고서는 IBM 후원 아래 포네몬연구소가 지난해 3월부터 올해 2월까지 전 세계 602개 조직이 경험한 데이터 유출 사례를 분석해 작성됐다. 후속 조사는 5월에 진행됐으며 기존 조사 대상 가운데 456개 조직이 참여했다. 보고서는 AI 기반 공격이 딥페이크를 활용한 사칭과 AI 기반 악성코드 등을 중심으로 확산되며 사이버 공격의 경제성을 빠르게 바꾸고 있다고 분석했다. 공격 비용은 낮아지고 속도는 빨라지는 반면, 침해사고 탐지와 복구 비용은 지속적으로 증가하는 추세다. 반대로 보안 운영에 AI와 자동화를 적극 활용한 기업은 침해사고 비용을 평균 약 200만 달러(약 28억원) 절감한 것으로 나타났다. 하지만 전체 기업의 4분의 1은 아직 관련 기술을 보안 운영에 도입하지 않은 것으로 조사됐다. 포네몬연구소가 추가로 실시한 조사에선 기업들의 보안 투자 기조도 변화하는 것으로 나타났다. 고도화된 차세대 AI 기반 사이버 공격 역량을 인지한 기업의 85%는 향후 보안 투자를 확대할 계획이라고 답했다. 이는 침해사고를 경험한 이후 보안 투자를 늘리겠다고 응답한 기업 비율(64%)보다 높은 수준이다. 다만 공격자들의 속도에 대응하는 영역에선 여전히 공백이 존재했다. 응답 기업의 절반 이상은 위협 탐지와 대응을 위해 AI 에이전트를 활용하고 있었지만, 취약점 관리에 AI 에이전트를 적용한 기업은 18%에 불과했다. 또 응답 기업의 75%는 차세대 AI 위협에 대응하기 위해 보안 운영 전반에서 AI 에이전트 활용 전략을 재검토하고 있다고 답했다. AI 기반 공격이 핵심 인프라 산업에 집중되는 경향도 확인됐다. 조사 대상 AI 기반 공격의 62%는 핵심 인프라를 겨냥했으며 금융서비스와 에너지 산업이 주요 표적이었다. 평균 침해사고 비용은 금융서비스가 630만 달러(약 90억원), 에너지 산업이 520만 달러(약 74억원)로 집계됐다. IBM은 특정 산업에 대한 공격이 공급망과 필수 서비스 전반으로 확산될 가능성이 있다고 분석했다. AI 자체를 겨냥한 보안 위협도 늘고 있었다. 응답 기업의 20% 이상은 AI 모델 또는 AI 애플리케이션을 대상으로 한 침해사고를 경험했다고 답했으며 주요 원인으로 API·애플리케이션·플러그인 보안 취약점과 AI 워크로드 관련 클라우드 설정 오류가 각각 27%를 차지했다. 랜섬웨어 공격 역시 AI를 활용해 더욱 고도화되는 것으로 조사됐다. 랜섬웨어 관련 사고 비중은 지난해 34%에서 올해 39%로 증가했으며 공격자들은 운영 차질뿐 아니라 기업 평판을 주요 압박 수단으로 활용하는 사례가 가장 많았다. 수자 비스웨산 IBM 시큐리티 소프트웨어 부문 부사장은 "AI는 사이버 공격을 더 빠르고 저렴하게 만드는 반면, 침해사고 대응 비용은 계속 증가하고 있다"며 "위협을 발견한 이후 실제 해결까지 오랜 시간이 소요될수록 그 격차는 곧바로 피해 비용 증가로 이어진다"고 말했다. 이어 "이제는 개발 프로세스에 복구와 대응 역량을 내재화하고 실행 환경에서의 신원 보안을 강화하며 공격자와 같은 속도로 위험을 해결하는 것이 중요하다"고 덧붙였다.

2026.07.30 16:44한정호 기자

에버스핀, KISA 손잡고 '악성문자 사전 차단 체계' 구축…'문자백신'으로 스미싱 원천 봉쇄

민간기업과 공공기관이 손잡고 악성문자를 사전 차단해 스미싱 범죄 원천 봉쇄에 나선다. 인공지능(AI) 보안기업 에버스핀(대표 하영빈)은 한국인터넷진흥원(KISA)과 '악성문자 사전차단체계 제공을 위한 업무협약(MOU)'을 체결했다고 30일 밝혔다. 에버스핀과 KISA는 협약에 따라 악성문자 등 위협 정보 공유체계를 마련하고 공동 대응 프로세스를 수립, 날로 고도화하는 스미싱 등으로 인한 국민적 피해를 예방하고 대응 역량을 강화하기로 했다. 에버스핀 관계자는 “지난 4월 시행된 개정 전기통신사업법에 따라 특수유형 부가통신사업자 등록 요건이 대폭 강화돼 문자 중계사나 재판매사는 악성 URL과 개인정보 탈취 유도 문구를 자동으로 탐지해 전송을 막는 '사전차단체계'를 의무적으로 도입해야 한다”며 “에버스핀은 '문자백신' 솔루션으로 시장 요구에 선제적으로 대응하고 있다”고 설명했다. 에버스핀의 '문자백신'은 문자가 발송되기 전 첫 단계에서 에버스핀의 AI 분석 엔진을 통해 0.5초 안에 실시간 검증을 수행한다. URL 구조와 생성 패턴, 경유지 추적, 글로벌 정상 앱 DB 등을 다각도로 분석해 신·변종 스미싱을 99.9% 원천 차단한다. 에버스핀 측은 문자백신은 문자중계사나 대형 재판매사가 자체 시스템에 직접 도입할 수 있는 '게이트웨이형(Type B)'과 상위 사업자의 시스템을 활용하는 '위탁연계형(Type C)' 등 다양한 도입 방식을 지원해 사업자들의 까다로운 규제 준수 부담을 대폭 덜어줄 것으로 기대했다. 에버스핀 관계자는 “문자백신의 강력한 성능 기저에는 에버스핀의 대표 피싱방지 솔루션인 '페이크파인더'와 핵심 깃술인 '화이트리스트' 기술이 자리하고 있다”고 설명했다. 화이트리스트 기술은 전 세계에 배포된 모든 정상 앱을 수집한 데이터베이스(DB)를 기반으로 피싱 목적으로 위·변조된 악성앱의 접근을 원천 차단하는 기술이다. 이 관계자는 “이번 KISA와의 업무협약은 에버스핀 기술력이 국가 차원의 디지털 인프라 안정성 확보에 기여할 수 있음을 인정받은 결과”라며 “사후 대응이 아닌 '발신 전 원천 차단'이라는 패러다임 전환을 통해 가장 안전한 문자 메시지 생태계를 조성하는 데 에버스핀이 앞장서겠다”고 밝혔다.

2026.07.30 09:55주문정 기자

[법과 상식 사이] 왜 요즘 보안사고가 끊이지 않을까

요즘은 한 기업의 보안사고가 채 잊히기도 전에 또 다른 사고가 이어진다. 개인정보가 유출되고, 서비스가 멈추며, 내부 자료가 외부로 빠져나간다. 기업들도 보안 조직을 만들고 시스템을 점검하며 적지 않은 비용을 쓴다. 그런데도 사고는 좀처럼 줄지 않는다. 왜일까. 공격은 더 빠르고 정교해졌다 먼저 공격자의 의도와 방법이 달라졌다. 과거의 해킹이 일부 개인의 호기심이나 실력 과시에서 시작됐다면 지금은 금전을 목적으로 움직이는 범죄조직과 국가의 지원을 받는 공격집단까지 기업을 노린다. 해킹이 수익성 높은 범죄가 되면서 공격은 개인의 일회적 행위에서 벗어나 역할과 기술을 나눈 조직적 산업으로 변했다. 생성형 AI는 공격의 속도와 정교함을 더욱 높이고 있다. 자연스러운 피싱 메일을 만들거나 특정인의 말투를 흉내 내는 데 그치지 않고, 소프트웨어의 취약점을 찾아 공격 가능성을 검증하는 데까지 활용될 수 있다. 앤트로픽이 발표한 '클로드 미토스 프리뷰'는 과거 숙련된 전문가가 많은 시간과 노력을 들여야 했던 취약점 발견과 검증 작업을 AI가 빠르게 수행할 수 있음을 보여주었다. 공격에 필요한 시간과 전문성의 문턱이 낮아지고 있는 것이다. 공격할 곳이 더 많아졌다 기업의 업무 구조도 달라졌다. 과거에는 회사 내부의 전산망과 업무용 컴퓨터를 주로 보호하면 됐지만, 지금은 클라우드와 외부 프로그램을 이용하고 여러 협력업체와 업무를 나눈다. 임직원이 회사 밖에서 시스템에 접속하고, 판매자와 물류업체, 결제업체가 하나의 서비스 안에서 정보를 주고받는 일도 일상화됐다. 2021년 국내 한 연구기관에서는 외부 접속에 사용하던 가상사설망(VPN)의 취약점을 통해 신원불명의 외부인이 내부 서버에 접속한 사실이 확인됐다. 업무 편의를 위해 만든 외부 접속 통로가 공격자의 침입 경로가 된 것이다. 이처럼 기업 밖으로 연결되는 시스템과 계정이 늘어나면서 공격자가 노릴 수 있는 지점도 많아졌다. 기업 내부의 보안이 비교적 철저하더라도 협력업체의 계정이 탈취되거나 외부 프로그램에 취약점이 생기면 사고로 이어질 수 있다. 공격자는 기업의 모든 보안을 뚫을 필요가 없다. 수많은 연결 지점 가운데 가장 약한 한 곳만 찾으면 된다. 보안 관리는 변화의 속도를 따라가지 못했다 공격은 빠르게 발전하고 공격할 지점은 늘어났지만 기업의 보안 관리는 그 변화를 충분히 따라가지 못했다. 사용하지 않는 계정이나 퇴직자의 접근 권한이 남아 있고 오래된 시스템의 교체나 협력업체 점검이 미뤄지기도 한다. 새로운 공격 기술이 주목받지만, 실제 사고는 오래 방치된 기본적인 빈틈에서 시작되는 경우가 많다. 지난해 국내 한 통신사에서는 수년 전 내부망에 침투한 악성 프로그램이 뒤늦게 발견되면서 대규모 개인정보 유출로 이어졌다. 침투 사실이 장기간 발견되지 않은 관리 공백이 피해를 키운 것이다. 이러한 문제를 보안 담당자의 역량 부족으로만 돌릴 수는 없다. 시스템을 교체하고 보안 인력을 늘리려면 비용과 시간이 필요한데 이를 결정하는 것은 결국 경영진이기 때문이다. 사업 확장의 성과는 곧바로 나타나지만, 보안 투자의 성과는 '아무 일도 일어나지 않은 것'이니 눈에 잘 띄지 않는다. 당장 문제가 없다는 이유로 보안이 뒤로 밀리기 쉬운 이유다. 법은 처벌뿐 아니라 예방도 묻기 시작했다 이러한 현실을 반영해 법도 보안을 기술 부서만의 업무가 아니라 경영진이 책임져야 할 기업 관리의 문제로 보기 시작했다. 오는 9월 시행을 앞둔 개정 개인정보보호법은 일정한 반복적·대규모 개인정보 침해에 대해 전체 매출액의 최대 10%까지 과징금을 부과할 수 있도록 했다. 동시에 개인정보 보호를 위한 예산과 인력, 설비 등에 미리 투자한 경우에는 이를 과징금 감경 사유로 인정하도록 했다. 처벌을 강화하는 데 그치지 않고 기업이 사고 전에 투자하도록 유도하려는 것이다. 개정법은 사업주나 대표자를 개인정보 처리와 보호에 관한 최종 책임자로 명확히 하고 개인정보 보호책임자의 역할과 권한도 강화했다. 법이 묻는 것은 사고가 발생한 직접적인 원인만이 아니다. 필요한 인력과 예산을 배정했는지, 낡은 시스템을 방치하지 않았는지, 외부 업체의 위험을 평소에 제대로 관리했는지도 기업의 책임을 판단하는 기준이 된다. 왜 보안사고는 줄지 않을까. 공격은 더 정교해졌고 공격할 곳은 더 많아졌지만 보안 관리는 그 속도를 따라가지 못했기 때문이다. 보안사고는 IT 시스템에서 발생하지만, 그 위험을 사전에 줄일 것인지는 경영이 선택하고 책임져야 할 때다.

2026.07.29 16:20안정민 컬럼니스트

오픈AI 에이전트, 허깅페이스 이어 외부 서비스까지 침해

오픈AI의 인공지능(AI) 에이전트가 허깅페이스뿐 아니라 타사 외부 서비스 환경까지 침해한 사실이 추가로 확인됐다. 28일(현지시간) 로이터통신에 따르면 오픈AI의 AI 에이전트는 미국 개발자용 클라우드 플랫폼 기업 모달랩스의 고객이 운영하던 샌드박스에 접근한 것으로 전해졌다. 샌드박스는 프로그램과 코드를 실제 시스템과 분리해 실행하고 시험하는 격리 환경이다. 이번 침해는 모달 플랫폼 자체 취약점 때문은 아닌 것으로 파악됐다. 고객이 인증 없이 인터넷에 공개한 인터페이스를 통해 누구나 샌드박스에서 코드를 실행할 수 있었다. 오픈AI 에이전트가 이를 이용해 해당 환경에 접근한 것이다. 이번 모달 고객 환경 침해는 이후 허깅페이스 공격으로 이어지는 과정에서 발생한 것으로 전해졌다. 허깅페이스가 공개한 사고 타임라인에 따르면 오픈AI 에이전트는 제3자 인프라에서 운영되던 샌드박스에 침입한 뒤 이를 발판으로 추가 공격을 시도했다. 이번 후속 보도로 오픈AI 에이전트 활동 범위가 당초 알려진 것보다 넓었다는 사실도 확인됐다. 오픈AI는 최근 업데이트를 통해 문제의 에이전트가 서로 다른 4개 서비스에서 총 4개 계정에 침입했다고 밝혔다. 서비스 명단은 공개하지 않았지만 사안에 정통한 관계자는 모달이 이 가운데 하나라고 로이터통신에 밝혔다. 오픈AI는 허깅페이스에서 발생한 플랫폼 수준의 침해와 같은 추가 활동은 확인하지 못했다고 설명했다. 모달 사례는 개별 고객 환경에 대한 접근으로, 허깅페이스 사고와는 피해 규모가 달랐다는 설명이다. 미국 매체 악시오스는 같은 AI 에이전트가 UC버클리 연구진이 운영하는 '사이버짐' 관련 인프라에도 접근할 방법을 찾아냈다고 보도했다. 해당 연구진은 AI 에이전트의 사이버 능력을 평가하는 '익스플로잇짐'도 운영하고 있다. 이번 사고는 오픈AI가 'GPT-5.6 솔'과 더 강력한 비공개 모델을 활용해 사이버 공격과 방어 능력을 평가하는 과정에서 발생했다. 블룸버그에 따르면 오픈AI는 모델의 사이버 역량을 시험하기 위해 평소보다 안전장치를 낮춘 상태에서 평가를 진행했다. 그러나 AI 에이전트가 격리 환경을 벗어나 인터넷에 연결된 외부 시스템에 접근하면서 실제 침해 사고로 이어졌다. 이후 허깅페이스 시스템까지 공격하면서 사건이 외부에 알려졌다. 로이터는 오픈AI가 에이전트의 외부 활동이 시작된 이달 9일부터 허깅페이스가 침해 사실을 공개한 16일까지 자사 AI가 해킹의 배후라는 사실을 파악하지 못했다고 보도했다. 이에 오픈AI는 "이후 문제가 된 AI 모델을 비활성화하고 암호화했으며 연구진의 접근도 제한했다"고 밝혔다.

2026.07.29 15:04김미정 기자

뤼튼, '데프콘' 본선 간 한국팀에 AI 지원…"취약점 분석 돕는다"

뤼튼테크놀로지스가 글로벌 해킹대회 본선에 진출한 한국 보안팀에 인공지능(AI) 기술을 지원한다. 뤼튼은 내달 6일 미국 라스베이거스에서 열리는 국제 해킹대회 '데프콘 34 CTF' 본선에 진출한 '콜드퓨전'팀을 공식 후원한다고 29일 밝혔다. 데프콘 CTF는 '해킹 올림픽'으로 불리는 글로벌 해킹대회다. 이번 대회에는 전 세계 686개팀이 참가했으며 이 가운데 상위 12개팀만 본선에 올랐다. 콜드퓨전은 예선에서 3위를 기록했다. 이는 한국인으로만 구성된 참가팀 가운데 가장 높은 성적이다. 뤼튼을 비롯한 국내 AI·보안 기업과 고려대, 포항공대, 경희대, 단국대 등에서 활동하는 보안 전문가들이 팀원으로 참여한다. 뤼튼은 콜드퓨전팀에 AI 서비스 '뤼튼AX 거대언어모델(LLM) 라우터' 사용 크레딧과 유니폼을 제공한다. 뤼튼 소속 보안 연구원들도 팀원으로 본선에 참가한다. 뤼튼AX LLM 라우터는 사용 목적과 비용, 성능 등을 고려해 적합한 LLM을 자동 선택하는 응용프로그램 인터페이스(API) 제품이다. 프론티어 모델뿐 아니라 키미-K3와 지엘엠-5.2 등 오픈소스 모델도 지원한다. 데프콘 CTF 본선은 참가팀이 상대 시스템을 공격하면서 자신의 시스템을 방어하는 방식으로 진행된다. 제한된 시간 안에 취약점을 찾아 대응해야 해 AI를 활용한 분석 속도와 문제 해결 능력이 주요 경쟁 요소로 꼽힌다. 한승우 뤼튼 최고정보책임자(CIO) 겸 최고기술책임자(CTO)는 "AI 대중화 기업으로서 보안의 중요성을 누구보다 절감하고 관련 역량을 지속적으로 강화해왔다"며 "이번 대회를 비롯해 앞으로도 보안 기술 경쟁력을 높이기 위한 투자를 이어가겠다"고 말했다.

2026.07.29 14:03김미정 기자

보이지 않는 데이터 잡는다…폴라리스오피스, 네트릭스와 AI 보안 시장 공략

폴라리스오피스가 글로벌 데이터 보안 기업 네트릭스와 협력해 인공지능(AI) 데이터 보안 시장 공략에 박차를 가한다. 공식 관리형서비스사업자(MSP) 파트너십을 기반으로 생성형 AI 확산에 따른 데이터 가시성 확보와 데이터 보안 거버넌스 구축을 지원한다는 전략이다. 폴라리스오피스는 데이터시큐어와 함께 서울 양재동 엘타워에서 'DSPM으로 완성하는 AI 시대의 데이터 보안'을 주제로 세미나를 공동 개최했다고 28일 밝혔다. 이번 세미나는 폴라리스오피스가 네트릭스의 핵심 MSP 파트너로서 생성형 AI 도입 과정에서 발생하는 데이터 관리 사각지대를 해소하고 국내 기업 환경에 맞는 데이터 거버넌스 방안을 제시하기 위해 마련됐다. 회사는 AI 활용이 확대되면서 데이터의 과도한 공유와 관리 체계를 벗어난 '쉐도우 데이터' 위험이 커지는 만큼, 이를 실시간으로 관리할 데이터 보안 태세 관리(DSPM) 인프라 구축이 중요해지고 있다고 설명했다. 이번 행사에는 마틴 캐너드 네트릭스 최고기술책임자(CTO)가 연사로 참여해 차세대 플랫폼 '네트릭스 1시큐어 DSPM'과 데이터 거버넌스 방안을 소개했다. 이 플랫폼은 온프레미스와 클라우드 환경 전반에 분산된 데이터 자산을 단일 플랫폼에서 가시화하고 제어할 수 있도록 지원한다. 폴라리스오피스는 네트릭스와의 기술·영업 파트너십을 계기로 단순 보안 솔루션 공급을 넘어 기업이 보안 우려 없이 AI 인프라를 전사적으로 확장할 수 있도록 돕는 엔드투엔드 서비스 제공 역량을 강화한다는 방침이다. 폴라리스오피스 관계자는 "보이지 않는 데이터는 결코 지킬 수 없으며 기업이 추진하는 AI 비즈니스 혁신은 완벽한 데이터 가시성 위에서 완성된다"며 "네트릭스와의 MSP 파트너십을 바탕으로 국내 기업들의 보안 과제를 해결하고 안전한 AI 데이터 보안 시장의 거버넌스 표준을 정립해 나가겠다"고 밝혔다.

2026.07.28 15:21한정호 기자

MS, 보안 특화 AI 모델·시스템 공개…"취약점 탐지·코드 수정"

마이크로소프트가 사이버 위협 탐지·대응에 특화한 인공지능(AI) 기술을 내놨다. 27일(현지시간) 테크크런치 등 외신에 따르면 마이크로소프트는 이날 미국 샌프란시스코에서 첫 사이버보안 특화 모델 'MAI-사이버-1-플래시'와 에이전틱 보안 플랫폼 '퍼셉션'을 공개했다. 새 보안 도구는 오는 11월 3일 프리뷰로 제공될 예정이다. MAI-사이버-1-플래시는 복잡한 코드베이스에서 발견하기 어려운 취약점을 찾아내도록 설계됐다. 소프트웨어(SW) 취약점을 식별하고 해결하는 마이크로소프트 전용 하네스 '엠대시(MDASH)'를 구동하는 데 활용된다. 퍼셉션은 여러 AI 에이전트를 팀 단위로 배치해 기업 보안 업무를 지원하고 자동화하는 플랫폼이다. 버그를 식별하고 우선순위를 정하는 작업부터 보안 태세 개선과 코드 수정까지 수행한다. 엠대시 연동도 가능하다. 퍼셉션 플랫폼에는 에이전틱 레드팀과 블루팀·그린팀이 투입된다. 레드팀은 잠재적 공격을 모의실험하고 위협 행위자와 악용 가능한 취약점 정보를 제공한다. 블루팀은 기존 버그를 탐지·분류하며 그린팀은 발견된 문제에 대한 시정 조치를 맡는다. 마이크로소프트는 퍼셉션을 도입하면 기존에 여러 보안 전문가가 수시간에 걸쳐 처리하던 업무를 수분 만에 수행할 수 있다고 설명했다. 애플리케이션 보안 담당자와 취약점 해결 엔지니어가 각각 맡았던 탐지·분류·수정 업무를 하나의 플랫폼에서 처리하는 식이다. 마이크로소프는 MAI-사이버-1-플래시가 AI 사이버보안 벤치마크에서 경쟁사 모델보다 높은 성능과 비용 효율성을 보였다고 주장했다. 엠대시에서 이 모델을 GPT-5.4와 결합한 결과 '사이버 짐' 벤치마크에서 제미나이와 GPT-5.5 사이버·GPT-5.6 솔·미토스 5를 앞섰다는 설명이다. 앞서 글로벌 AI 업계에선 AI 사이버보안 시장을 둘러싼 경쟁이 치열해지고 있다. 앤트로픽은 올해 초 보안 플랫폼 '미토스'를 공개하고 '글래스윙' 프로그램을 통해 일부 협력 기관에 제공했다. 오픈AI도 지난 5월 '데이브레이크' 프로그램을 통해 자체 보안 솔루션을 출시했다. 하예테 갈로트 마이크로소프트 보안 부문 부사장은 "퍼셉션은 기업 보안 담당자가 공격자와 같은 규모와 속도로 AI를 이용해 AI에 맞서 방어할 수 있도록 하는 수단"이라고 밝혔다.

2026.07.28 09:53김미정 기자

모빌린트, 'ISEC 2026' 참가… NPU 기반 엣지 AI 보안 솔루션 공개

인공지능(AI) 반도체 팹리스(설계전문) 모빌린트가 국내 최대 보안 전시회에서 신경망처리장치(NPU) 기반 엣지 AI 컴퓨팅 및 지능형 보안 솔루션을 공개한다. 모빌린트는 8월 11~12일 서울 강남 코엑스에서 열리는 정보보호·사이버보안 전시회 'ISEC 2026'에 참가해 자체 개발한 NPU 기반 보안 솔루션을 선보인다고 28일 밝혔다. 모빌린트는 행사에서 ▲MLA100 ▲MLA400 ▲MLX-A1 ▲REGULUS 등 AI 반도체 라인업을 모두 전시해 실제 보안 관제 환경을 구현한 라이브 데모를 진행한다. 주요 시연 항목은 실시간 영상 분석, 대규모 멀티채널 영상 처리, 생성형 AI 기반 운영 자동화 등이다. 회사는 AI 카메라, 영상관제시스템(VMS), AI 보안관제센터(SOC), 산업시설 안전관리 등 현장 중심 환경에서 클라우드 연동 없이 데이터를 처리하는 온디바이스·온프레미스 AI 기술력을 집중적으로 알릴 예정이다. 이를 통해 실시간 처리 성능과 전력 효율, 데이터 보안성을 동시에 입증하고 공공·국방·산업·금융 등 B2B 및 B2G 시장 내 파트너십 확대를 도모한다. 윤상현 모빌린트 최고전략책임자(CSO)는 "보안 시장은 고성능 추론 및 지연 없는 실시간 처리와 함께 엄격한 데이터 보안이 요구되는 분야"라며 "모빌린트 NPU 솔루션은 엣지 환경에 최적화된 성능과 전력 효율을 갖춰 안전하고 효율적인 AI 보안 인프라 구축을 지원할 것"이라고 말했다.

2026.07.28 09:34전화평 기자

  Prev 1 2 3 4 5 6 7 8 9 10 Next  

지금 뜨는 기사

이시각 헤드라인

공급량 허덕이는 아이폰듀오...이통사, 차수별 순차 개통 불가피

"닭목살 맛보실게요~"…먹고 배우고 즐기는 'NS푸드페스타' 가보니

넷플릭스는 왜 1000명 자르고 콘텐츠 수장 바꿨나

"애플2로 바꿔줄게"…잡스 편지 덕에 '애플1' 15억원 낙찰

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.