• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
반도체
인공지능
AI의 눈
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'AI 보안'통합검색 결과 입니다. (558건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

[기자수첩] 해킹 올림픽 '데프콘 2026'이 보여준 것

'해킹 올림픽'으로 불리는 세계 최고 권위 해킹 대회 '데프콘(DEF CON) CTF 2026'이 최근 막을 내렸다. 그런데 본선 참가자 사이에서 한 가지 소문이 돌고 있다. 1위를 차지한 팀 '블루워터(BlueWater)'가 5만달러(한화 약 7000만원)에 달하는 AI 토큰을 사용했다는 것으로, 막대한 금액의 토큰이 1위를 차지하는데 큰 영향을 줬다는 것이다. 이에 대해 1위 팀 소속의 한 참가자는 SNS에 "명확히 하자면 이번 데프콘 CTF에서 토큰에 5만달러를 쓰지는 않았다. 이보다 적게 지불했지만 금액은 공개할 생각은 없다. 단순 추측이더라도 소문을 퍼뜨리지 말아 달라"고 밝혔다. 데프콘 본선 참가자들은 1위 팀이 5만달러까지는 아니라도 적지 않은 금액을 투입했을 것으로 보고 있다. 이에, 후원 없이 사비로 토큰을 사용했고, 인력도 한참 모자란 팀은 상대적으로 고득점을 노리기 어려운 환경이었다는 볼멘 소리도 나왔다. 그렇다고 데프콘 CTF가 오로지 '쩐의 전쟁'이 된 건 아니다. 2위를 기록한 한국 팀 '0x4b52'는 30여명의 순수 한국인으로만 구성, 비교적 적은 인원으로 구성됐고 토큰도 그리 많이 사용하지 않았지만 2위를 했다. 7위로 대회를 마친 '진따비스(Jinddabi's)' 팀 소속 참가자는 "1위를 한 블루워터 팀이 막대한 AI 토큰을 사용했다는 얘기를 나도 들었다. 누군가는 토큰이 부족했을 수도 있고 누군가는 적당했을 수도 있다. 하지만 한 가지 확실한 점은 토큰을 많이 사용했다는 것 자체가 이미 고도의 질의와 프롬프트를 운용할 수 있는 사람이고, 실력 있는 사람이다"면서 "진따비스 팀도 인원이 100명으로 많은 인원이었는데 각 인원이 최대 토큰을 사용했으면 못해도 3등 안에 들었어야 했는데, 토큰 사용량이 순위와 비례하지는 않았다"고 짚었다. 이어 그는 그는 "토큰을 많이 사용할 줄 알고, 잘 활용하는 사람들이 상위권을 차지했다고 생각한다"며 "과거에는 인간이 해킹 기술을 얼만큼 많이 알고 있고 잘 활용하는지가 데프콘 CTF의 상위 성적을 거둘 수 있는 요인이었다면, 지금은 LLM을 얼마나 잘 다루느냐가 관건이 된 시대다"고 말했다. 블루워터 팀 소속이라고 밝힌 한 참가자는 SNS에서 LLM이 일부 기술 장벽을 낮췄지만 팀 간 기술 차이를 없앤건 아니라고 생각한다면서 "우리가 우승할 수 있었던 가장 큰 이유는 오랜 세월 데프콘 CTF에 참가해 온 베테랑 멤버들이 있었고, 그들이 축적한 경험과 지식, 판단력, 대회에 대한 이해가 유리하게 작용했다"고 진단했다. 이어 그는 LLM이 팀 간 기술 차이를 일부 완화했지만 LLM으로 완전히 대체되지는 않았다면서 "LLM은 기술적인 업무의 모습을 바꿀 수는 있지만, 경험, 지식, 판단력을 무의미하게 만들지는 않는다"고 강조했다. 다른 참가자도 "상위 팀들은 챗GPT 계정을 통합하는 등 토큰을 최대치까지 공격적으로 사용했다. 하지만 이전에 더 잘했던 사람들도 LLM이 등장한 후에도 더 잘했으며, 그들이 많은 문제를 해결하고 있다. '토큰 맥싱'은 토큰 맥싱일 뿐"이라고 말했다. 이들의 의견을 종합하면 LLM이 데프콘 CTF 풍경을 크게 바꾸어 놓은 것은 부정할 수 없는 사실이다. 이 과정에서 막대한 토큰 비용과 인력 및 자본력의 차이가 불평등한 출발선을 만든다는 불만과 회의론이 나오는 것도 충분히 이해할 수 있는 대목이다. 그러나 기술적 장벽이 낮아진 환경 속에서도 승패를 가른 결정적 요인은 결국 AI를 효율적으로 운용하는 고도의 프롬프트 기술과 오랫동안 축적된 베테랑들의 경험, 그리고 냉철한 판단력이었다. 데프콘 CTF가 나아가야할 방향성은 이미 정해졌다. LLM이라는 강력한 도구를 얼마나 깊이 이해하고 유연하게 다룰 수 있느냐가 새로운 경쟁력이 되는 시대가 도래했다.

2026.08.20 15:27김기찬 기자

팀스파르타, 폐쇄망서 활용 가능한 생성 AI 코딩 에이전트 전면에

팀스파르타(대표 이범규)가 지난 19일 'AI 서밋 서울 2026'에 참가해 폐쇄망 기반 AI 코딩 에이전트 'AX 포트리스'를 선보였다. 이번 행사에서 팀스파르타는 외부와 분리된 폐쇄망에서도 활용 가능한 생성형 AI 코딩 에이전트를 전면에 내세워 참관객들로부터 주목을 받았다. AX 포트리스 체험존은 인터넷이 차단된 워크스테이션에 개발 과제를 입력하면, AI가 코드 생성과 자동완성, 코드 검토부터 빌드·테스트·배포까지 수행하는 전 과정을 직접 확인할 수 있도록 구성했다. 소스코드가 외부로 전혀 전송되지 않는 구조를 적용해 보안 규제로 생성형 AI 도입에 어려움을 겪는 기업 관계자들의 관심을 끌었다. AX 포트리스는 자체 개발한 프런티어급 모델 'K-AX 스파르탄 122B'를 탑재했다. 초경량 버전 'K-AX 스파르탄 1.8B'는 과학기술정보통신부와 한국지능정보사회연구원(NIA)의 'K-AI 리더보드' 초고난도 추론 평가 HLE(Ko)에서 0.123점으로 국내 1위에 올랐다. 현장에서는 폐쇄망에서도 대규모 레거시 코드를 빠르게 분석하는 처리 성능과 지연 없는 응답 속도, 사용량에 따른 추가 과금 없이 전사 단위로 활용할 수 있는 운영 방식이 눈길을 끌었다. 특히 공공·금융 분야 관계자들은 망 분리 시스템에서의 적용 가능성과 기존 개발 체계 연동 방식, 기업 내부 코드 기반 AI 구축 방안 등에 대해 주목했다. AX 포트리스는 최대 100만(1M) 토큰 컨텍스트를 지원해 A4 문서 약 1500장을 한 번에 분석할 수 있으며, 초당 50 토큰(TPS 50)의 속도로 응답한다. 파이썬 코딩 정확도는 BFCL V4 기준 95.25%를 기록했고, 자동완성 응답 시간은 워크스테이션 한 대 기준 0.3초 미만으로 측정됐다. 사용량에 따른 추가 과금이 없어 대규모 조직에서도 비용을 예측하며 안정적으로 활용할 수 있는 점도 강점이다. 외부 통신이 차단된 온프레미스 패키지 형태인 AX 포트리스는 데이터 유출을 원천 차단하면서도 코드 자동완성, 리팩토링, 함수 생성 등 상용 AI 수준의 개발 기능을 지원한다. 팀스파르타는 이번 전시를 계기로 공공·보안·금융·의료 분야 기업들과 기술 검토 및 도입 협의를 확대해 나갈 계획이다. 이범규 팀스파르타 대표는 "이번 AI 서밋 서울은 생성형 AI를 도입하고 싶어도 보안 규제로 쉽게 적용하지 못했던 기업과 기관들이 폐쇄망에서도 프런티어급 AI 성능을 경험할 수 있다는 가능성을 확인한 자리였다"며 "앞으로도 보안이 중요한 산업이 AI 전환을 현실화하도록 적극 지원하겠다"고 강조했다.

2026.08.20 10:21백봉삼 기자

K-미토스 만들자…보안 특화 AI 사업 공모 5일 연장

이른바 '미토스 충격'이라 불리는 인공지능(AI) 사이버 공격 위협에 대응하기 위한 정부의 사이버 보안 특화 AI 개발 사업 공모 접수 기한이 5일 연장됐다. 19일 업계에 따르면 과학기술정보통신부와 정보통신산업진흥원(NIPA)은 지난 달 말 '사이버 보안 특화 AI 파운데이션 모델 개발 사업' 공모 마감일을 8월 21일 오후 2시에서 8월 26일 오후 2시로 5일 연장하는 내용으로 재공고했다. 이번 사업의 목적은 국내 독자 AI 기술과 모델 기반의 사이버 보안 특화 AI 파운데이션 모델을 개발하는 데 있다. 우리나라 사이버 보안 분야에 AI 기술을 적용헤 국내 자체 보안 AI 기술 역량 축적과 보안 산업의 AI 전환(AX) 혁신 가속화 등을 제고하겠다는 취지다. 국내 AI 및 사이버 보안 관련 기업, 대학, 연구기관이 지원 대상이며 평가를 거쳐 총 1개 팀을 선정한다. 최종 선발된 팀에게는 보안 특화 AI 개발에 투입할 그래픽처리장치(GPU) B200 256장(32 노드)이 총 10개월간 지원될 예정이다. 규모로 보면 200억~300억 원 수준이다. 이후 정부는 사업 지원 5개월이 지난 시점에 중간 성과 모델을 공개 및 점검하고 그 결과를 바탕으로 지속 지원 여부를 결정할 계획이다. 사업을 통해 개발된 모델은 오픈소스로 제공된다. 업계에 따르면 LG CNS, LG AI연구원, LG유플러스 등이 사업에 참여할 전망이다. SK텔레콤과 네이버클라우드도 컨소시엄을 구성 중인 것으로 알려졌다. 보안 기업 중에는 SK쉴더스, 로그프레소, 엔키화이트햇, S2W 등이 참여를 검토하는 것으로 전해진다. 과기정통부 관계자는 "공모 안내서 및 제출 서류 양식 일부에 수정 사항이 생기면서 공모 기간도 자동 연장됐다"며 "행정 처리에 따른 것"이라고 말했다.

2026.08.19 17:33이나연 기자

SGA솔루션즈, 올 상반기 매출 300% '껑충'…흑자 전환도 달성

통합 IT 보안 전문 기업 SGA솔루션즈(대표 최영철)가 올해 상반기 흑자 전환 및 300%가 넘는 매출 성장세를 달성했다. SGA솔루션즈는 최근 공시를 통해 2026년 상반기 연결 기준 매출액 751억원, 영업이익 21억3000만원을 기록했다고 18일 밝혔다. 이는 전년 동기 대비 매출액은 309.4% 폭증했으며, 영업이익은 흑자로 전환한 수치다. SGA솔루션즈는 사업 포트폴리오 확장과 통합보안 사업 재편 효과가 실적에 본격적으로 반영되면서 성장과 수익성을 동시에 확보한 영향이라고 평가했다. 특히 지난해 잇단 해킹 사고가 발생했던 만큼 본업인 보안솔루션 부문에서의 성장 기반이 강화됐다. 핵심 시스템을 보호하는 서버보안 제품에 대한 수요가 확대된 것이다. 또한 클라우드 전환과 서버 인프라 증설, AIDC 구축 확대 등으로 보호 대상과 접근 경로가 늘어난 점도 서버 인프라 보안 수요를 높이는 요인으로 작용했다. 공공 부문에서는 국가 망보안 체계(N2SF) 전환에 따른 신규 보안 수요까지 빠르게 확대됐다. 사용자와단말, 접근 권한을 지속적으로 검증하고 최소 권한을 부여하는 제로트러스트 기반의 접근통제·계정인증 수요가 본격화될 것으로 회사는 전망하고 있다. SGA솔루션즈는 이러한 시장 변화에 선제 대응해 서버보안을 중심으로 엔드포인트·클라우드·접근통제·계정인증 솔루션을 연계해 N²SF와 제로트러스트 전환 수요에 총력을 다한다는 계획이다. 보안업계 특성상 하반기에 매출이 집중되는 만큼 SGA솔루션즈는 하반기 공공·금융권의 서버보안 및 제로트러스트 프로젝트 수주와 매출 전환 속도를 끌어올려 솔루션 부문의 수익성 개선을 본격화할 방침이다. 최영철 SGA솔루션즈 대표는 "AI발 사이버 공격 고도화와 N2SF 전환으로 서버보안·제로트러스트 수요가 가파르게 늘고 있다"며 "통합보안 사업을 하반기 수주·매출로 빠르게 전환해 실적 성장과 수익성 개선을 동시에 달성하겠다"고 말했다.

2026.08.18 14:44김기찬 기자

LG 컨소시엄, '엑사원' 앞세워 보안 특화 AI 모델 개발 추진

LG CNS와 LG AI연구원, LG유플러스가 LG 컨소시엄을 꾸리고 대규모언어모델(LLM) '엑사원(EXAONE)' 기반 사이버보안 특화 AI 파운데이션 모델 개발에 나선다. 12일 업계에 따르면 LG CNS, LG AI연구원, LG유플러스 등은 과학기술정보통신부의 '특화 인공지능 파운데이션 모델 개발(사이버보안 분야) 사업' 참여를 준비하고 있다. 이번 사업은 국내 산업 현장에서 활용 가능한 특화 AI 모델을 육성하고 관련 생태계 조성 기반을 마련하는 데 초점이 맞춰져 있다. 업계에 따르면 SK텔레콤과 네이버클라우드도 이번 사업 참여를 준비 중인 것으로 알려졌다. 국내 주요 ICT 기업 간 사이버보안 특화 AI 파운데이션 모델 선점 경쟁이 본격화하는 양상이다. LG 컨소시엄은 LG AI연구원의 초거대 AI 모델 '엑사원'을 보안 데이터셋으로 파인튜닝해 사이버보안 특화 AI 모델을 공동 개발할 계획이다. LG AI연구원과 LG CNS가 모델 개발을 주도한다. 이 과정에서 LG CNS는 AI 학습용 보안 데이터의 정제, 라벨링, 표준화, 가공을 맡는다. 동시에 개발 모델의 보안 성능 검증도 수행할 예정이다. LG유플러스는 모델 학습에 필요한 보안 데이터를 제공하고, 개발된 모델의 실증 검증을 담당한다. LG CNS는 그룹 내 사이버보안 역량을 바탕으로 이번 사업 경쟁력을 확보한다는 전략이다. 실제 공격자 관점에서 시스템 취약점을 점검하는 '레드팀', 공격 탐지와 방어를 맡는 '블루팀', AI 모델과 데이터, 서비스 전반의 보안 위협에 대응하는 'AI보안팀' 등 전문 조직을 운영하고 있다. 여기에 공공, 금융, 제조, 물류 등 다양한 산업에서 AX 사업을 수행하며 축적한 현장 경험도 강점으로 꼽힌다. LG CNS는 산업별 디지털 전환과 AI 적용 경험을 기반으로 사이버보안 특화 AI 모델의 실효성을 높인다는 방침이다. LG 컨소시엄은 이번 사업을 통해 확보한 모델을 국내 보안 기업과 기관이 활용할 수 있도록 해 보안 서비스 개발 기반을 넓힌다는 계획이다. 단순한 모델 개발을 넘어 국내 AI 보안 산업 생태계 활성화로 연결하겠다는 의미다. LG CNS 측은 "이번 사업을 통해 사이버보안 특화 AI 파운데이션 모델을 확보하고, 국내 보안 기업과 기관이 이를 활용해 다양한 보안 서비스를 개발할 수 있는 기반을 마련함으로써 국내 AI 보안 산업 생태계 활성화에 기여할 계획"이라고 밝혔다.

2026.08.12 16:15남혁우 기자

[현장] "SBOM 공유 및 관리 플랫폼 '스패로우 시큐어허브' 시선"

공급망 보안 전문 기업 스패로우(대표 장일수)가 11일 서울 코엑스에서 이틀 일정으로 개막한 국재 보안 컨퍼런스 'ISEC 2026'에서 소프트웨어 개발 전주기에 걸친 통합 보안 솔루션을 선보였다. 또 올해 새로 출시한 솔루션도 함께 출품, 시선을 모았다. 특히 스패로우는 공급망 보안 핵심으로 꼽히는 소프트웨어 자재명세서(SBOM)의 무결성을 검증하고 수요사와 공급사 간 안전한 유통을 지원하는 SBOM 공유 및 관리 플랫폼 '스패로우 시큐어허브'도 전시했다. 스패로우 시큐어허브는 스패로우가 올해 새롭게 출시한 솔루션으로, SBOM이 위·변조되지 않았다는 무경설을 보장함과 동시에 새로운 취약점이 발견될 때마다 SBOM을 일일이 검토해야 하는 한계를 극복하기 위한 '유통 플랫폼'이다. 분산된 SBOM을 중앙에서 통합 관리해 최신 상태로 운영하며, 권한 기반 접근 제어와 무결성 검증으로 SBOM을 안전하게 공유할 수 있도록 지원한다. 컴포넌트 및 새롭게 발견되는 취약점 변화를 지속 모니터링해 공급망 위험에 대응한다. 장일수 스패로우 대표는 이날 현장에서 "스패로우 시큐어허브는 SBOM을 둘러싼 수많은 이해관계자들의 유통을 지원하는 플랫폼으로 이해하면 된다"며 "위·변조된 SBOM이 공유되면 실제와 다른 정보로 공급망 관리에 혼란을 야기하기 때문에 무결성 검증과, 취약점에 신속하게 대응하는 것이 무엇보다 중요하다. 이같은 기능을 지원하는 플랫폼을 선보임으로써 공급망 참여자들 모두가 신뢰할 수 있는 SBOM 공유 환경을 실현했다"고 설명했다. '스패로우 시큐어허브' 뿐 아니라 인공지능(AI) 생성 코드 보안 어시스턴트인 '스패로우 MCP'도 이번 전시에서 선보였다. 스패로우 MCP 역시 올해 6월 처음 스패로우가 선보인 솔루션이다. AI가 코드를 생성하고, 이를 활용한 소프트웨어가 급증하고 있다. 그러나 AI는 사용자의 프롬프트에 따라 코드를 생성할 뿐, 해당 코드가 안전한지 아닌지 여부는 판별하지 않는다. 또한 AI 기반 개발 환경에서는 코드 생성과 수정이 빠르게 반복되기 때문에 특정 시점의 점검만으로는 생성되는 코드 전체를 검증하기가 더욱 어려워진 환경이다. 이에 스패로우는 '스패로우 MCP'를 통해 AI 기반 개발 환경 전반에 통합 보안을 적용해 지원한다. 장 대표는 "코덱스, 클로드 코드 등 AI 코딩 에이전트가 생성한 코드가 자동으로 스패로우 MCP 서버로 이동하고 보안 분석을 수행하는 원리다. 이후 스패로우 시큐어코딩(SAST) 등 분석 엔진이 안전한 코드만 다시 MCP 서버로 보내고, 사용자가 수정된 코드 및 조치 방향을 적용할 수 있도록 지원한다"며 "MCP 서버에는 3가지 분석 모델이 작동하며, 화면 전환이나 AI 개발 워크플로우에 지장을 주지 않는 환경에서 개발 흐름이 계속되면서도 시큐어 코딩이 가능하도록 지원하는 것이 핵심이다"라고 설명했다. 이 외에도 스패로우는 SBOM 생성 및 오픈소스 분석·관리 솔루션 스패로우 SCA, 소프트웨어 취약점 통합 분석 플랫폼 스패로우 엔터프라이즈 등 제품도 선보였다.

2026.08.11 18:16김기찬 기자

SK쉴더스 EQST, 데프콘 AI CTF서 5위 성과

SK쉴더스(대표 민기식)는 자사 화이트해커 그룹 EQST가 미국 라스베이거스에서 개최된 세계 최대 해킹 컨퍼런스 '데프콘(DEF CON) 34'의 AI Village에서 열린 CTF(Capture The Flag)에서 글로벌 200여 개 팀 가운데 최종 5위를 기록했다고 11일 밝혔다. EQST(이큐스트)가 참가한 AI CTF는 주어진 AI 모델을 기반으로 침투테스트를 수행하는 AI 에이전트를 구성하고, 이를 활용해 보안 문제를 해결하는 방식으로 진행됐다. 사람이 공격 과정을 일일이 수행하는 기존 CTF와 달리, AI 에이전트가 문제를 분석하고 공격 방법을 선택해 플래그(Flag) 획득을 시도하도록 만드는 것이 특징이다. EQST는 에이전틱 AI(Agentic AI)를 활용한 새로운 공격 방식과 향후 발생할 수 있는 보안 위협을 실전 환경에서 경험했다. 대회에서 확인한 AI 에이전트의 공격 전략과 문제 해결 사례는 향후 AI 서비스와 모델의 취약점 연구, AI 레드팀 및 보안 대응 기술 고도화에 활용할 계획이다. EQST는 AI CTF와 함께 데프콘의 대표 프로그램인 데프콘 34 CTF 본선에도 참가했다. 데프콘 CTF는 전 세계 최정상급 보안 전문가들이 참가해 실력을 겨루는 국제 해킹대회로, 올해 예선에는 686개 팀이 참가했으며 이 가운데 12개 팀만이 본선에 진출했다. SK쉴더스 EQST(이큐스트)와 네이버클라우드, 루비야랩, 핀란드 H-T8로 구성된 국제 연합팀 '더서울사우나쇼군네이트'에 합류해 본선 무대에 올라 9위를 기록했다. 대회에 직접 참가한 이호석 SK쉴더스 EQST랩 팀장은 “이번 데프콘에서는 기존 공격·방어 기술뿐 아니라 AI 에이전트가 스스로 문제를 분석하고 공격을 수행하는 새로운 방식을 직접 경험할 수 있었다”며 “글로벌 보안 전문가들과 경쟁하며 얻은 경험과 기술을 향후 AI 취약점 및 레드팀 연구, 보안 기술 고도화에 적극 활용할 계획”이라고 말했다. 김태형 SK쉴더스 EQST사업그룹장은 “전 세계 200여 개 팀이 참가한 AI CTF에서 국내 참가팀 중 유일하게 톱5를 기록한 것은 EQST가 축적해 온 AI 보안 기술과 실전 문제 해결 역량을 보여주는 성과”라며 “앞으로도 AI 기술을 활용한 새로운 공격과 보안 위협에 선제적으로 대응할 수 있도록 AI 취약점과 레드팀 연구를 확대하고, 글로벌 수준의 AI 보안 경쟁력을 지속적으로 강화해 나가겠다”고 말했다.

2026.08.11 16:29김기찬 기자

기업 데이터 건들기 시작한 AI…아카마이가 제시한 대응책은

인공지능(AI) 서비스와 에이전트가 기업 핵심 데이터에 직접 접근하면서 기존 데이터 유출 방지 체계만으로는 대응하기 어려워졌다는 분석이 나왔다. 10일 아카마이가 발표한 '2026년 기업 AI 사용 리스크 보고서'에 따르면 분산된 섀도 AI와 AI 고급 사용자, 브라우저 확장 프로그램 등이 기업 핵심 자산을 새로운 사이버 위협에 노출시키는 요인으로 지목됐다. 보고서는 지난해 초 실험 단계였던 기업 AI 활용이 빠르게 확산하면서 기존 보안 통제 역량을 넘어서는 수준에 이르렀다고 분석했다. 보고서는 기존 경계 보안을 우회할 수 있는 새로운 AI 기반 공격 기법으로 '바이브 해킹'과 '커서재킹' '코멧재킹'을 제시했다. 개발 환경과 브라우저, AI 에이전트처럼 사용자 업무 흐름 내부에 침투해 정보를 빼내거나 AI 동작을 조작하는 방식이다. 바이브 해킹은 개발 환경에 있는 로컬 마크다운 지시 파일을 변조해 AI 코딩 도구가 취약한 결과물을 만들거나 무단 작업을 수행하도록 유도하는 공격이다. 커서재킹은 악성 브라우저 확장 프로그램의 권한을 이용해 API 키와 독점 코드베이스, 대화 기록 등을 수집하는 방식이다. 코멧재킹은 웹 페이지에 악성 지시문을 삽입해 간접 프롬프트 인젝션을 일으킨다. 이를 통해 사용자의 로컬 AI 에이전트를 조작하고 파일과 이메일, 세션 자격 증명 등을 유출할 수 있다. 아카마이는 기업 최고정보보호책임자(CISO)가 AI 사용을 차단하는 대신 AI와 사용자가 상호작용하는 과정 자체를 관리해야 한다고 제안했다. 전체 AI 프롬프트 사용량이 집중된 고위험 직원군을 관리하고 모든 AI 서비스에 통합인증을 적용해 섀도 AI 사용을 통제하는 식이다. 실시간 프롬프트와 복사·붙여넣기 데이터, 문서 업로드를 맥락에 따라 검사하는 체계도 필요하다고 봤다. 브라우저와 통합개발환경(IDE) 확장 프로그램은 높은 수준의 접근 권한을 가질 수 있는 만큼 별도로 검증해야 한다고 지적했다. 자율적으로 업무를 수행하는 AI 에이전트에는 최소 권한 원칙과 행동 모니터링을 적용해야 한다고 강조했다. 보고서에 따르면 AI 확장 프로그램의 약 75%는 높은 수준의 권한이나 필수 권한을 요구했다. 이 가운데 16.3%에는 알려진 공통 취약점·노출(CVE)이 포함된 것으로 나타났다. 오르 에셰드 아카마이 엔터프라이즈 보안 제품 및 엔지니어링 부문 부사장은 "AI는 더 이상 단순한 생산성 향상 도구가 아니라 기업 핵심 자산에 직접 접근하는 협업 파트너로 자리 잡았다"며 "보안 리더들은 AI를 단순히 차단하려는 접근에서 벗어나 상호작용 레이어 수준에서 AI의 작동 방식을 지속적으로 통제하고 관리하는 방향으로 전환해야 한다"고 강조했다.

2026.08.10 15:46김미정 기자

[AI 리더스] 클라우드플레어 "AI가 바꾼 인터넷…엣지로 보안·비용 잡아야"

"인공지능(AI)이 인터넷 트래픽 비중을 빠르게 차지하고 있습니다. 기업은 AI 에이전트가 어떤 행동을 하고, 어떤 데이터를 주고받는지 신속히 파악해 보안과 비용을 동시에 관리해야 합니다. 사용자와 가까운 엣지에서 AI 트래픽을 실시간 파악하고 대응하는 역량이 더욱 중요해질 것입니다." 조원균 클라우드플레어 한국 지사장은 최근 지디넷코리아를 만나 AI 에이전트 확산이 인터넷 트래픽과 기업 보안 환경을 근본적으로 바꾸고 있다며 이같이 밝혔다. 사람이 직접 서비스를 이용해 트래픽을 만드는 기존 환경과 달리 AI 에이전트·자동화 시스템이 정보를 수집하고 외부 서비스를 호출하면서 '논휴먼 트래픽'이 빠르게 늘고 있다는 진단이다. 조 지사장은 "AI 에이전트가 사람의 개입 없이 스스로 외부 서비스에 접근하고 작업을 수행하면서 인터넷 트래픽을 만드는 주체 자체가 달라지고 있다"며 "이에 따라 AI 에이전트가 어디에 접근하고 어떤 데이터를 주고받는지 파악하는 것이 기술 과제"라고 밝혔다. 그는 AI가 단순히 사람 질문에 답하는 수준을 넘어 외부 시스템에서 직접 행동하기 시작하면서 보안 방식도 달라져야 한다고 봤다. 네트워크와 엔드포인트 등 정해진 영역을 지키는 기존 경계 중심 보안에서 데이터와 아이덴티티, 에이전트 행동을 실시간으로 확인하는 방식으로 무게중심이 이동하고 있다는 설명이다. 조 지사장은 "그동안 기업은 네트워크 보안이나 엔드포인트 보안처럼 영역별로 정적인 보안을 구축했다"며 "최근 데이터 보안이나 아이덴티티 보안처럼 상황에 따라 대응하는 동적인 보안이 중요해지고 있다"고 말했다. 최근 오픈AI의 AI 에이전트가 내부 사이버 역량 평가 과정에서 통제 환경을 벗어나 허깅페이스 인프라까지 침투한 사건도 동적 보안 필요성을 보여주는 사례다. AI 에이전트가 목표 달성을 위해 외부 시스템을 탐색하고 취약점을 활용하면서 어떤 에이전트가 어디에 접근해 무엇을 수행하는지 파악하는 문제가 새로운 보안 과제로 떠오른 것이다. 논휴먼 트래픽 증가는 기업 보안 아키텍처에도 영향을 미치고 있다. 기업이 서비스형소프트웨어(SaaS)와 클라우드, 엔드포인트 등을 서로 다른 솔루션으로 보호하는 상황에서 AI 에이전트와 봇 트래픽까지 급증하면 개별 제품만으로 전체 환경을 파악하고 통제하기 어려운 실정이다. 이에 조 지사장은 "기업은 일부 솔루션을 단순히 통합하는 수준이 아니라 전체 환경을 한눈에 보고 관리·통제할 수 있어야 한다"며 "그렇지 않으면 환경 전체를 관리하는 일 자체가 인간 통제 범위를 넘어설 수 있다"고 내다봤다. 현재 국내 대기업은 모든 보안 체계를 한번에 교체하기보다 일부 영역부터 통합하는 움직임을 보이고 있다. 조 지사장은 대표 사례로 보안 액세스 서비스 엣지(SASE)와 제로트러스트 네트워크 액세스(ZTNA) 활용 사례를 꼽았다. 이는 기존 VPN과 데이터유출방지(DLP), 보안 웹 게이트웨이 등 분산된 기능을 한 통합 플랫폼으로 관리하는 방식이다. 그는 "대기업은 이미 구축한 레거시 아키텍처와 조직 구조가 있어 전체 환경을 빠르게 바꾸기 어렵다"며 "그럼에도 비교적 빠르게 움직이는 분야가 SASE이며 AI 시대에 대응하기 위한 첫 단계로 볼 수 있다"고 설명했다. 조 지사장은 AI 에이전트 시대에 보안뿐 아니라 비용도 관리 대상이 된다고 봤다. 사람이 일일이 요청하지 않아도 에이전트가 AI 모델이나 외부 API를 지속해서 호출할 수 있어 기업이 예상하지 못한 사용량과 비용이 발생할 수 있기 때문이다. 그는 "AI 에이전트 하나를 운영하는 데 들어가는 비용이 상당하기 때문에 일부 기업에는 보안보다 비용 문제가 더 큰 과제가 되기도 한다"며 "결국 AI를 어떻게 기술·비용적으로 통제할지가 중요하다"고 봤다. 클라우드플레어는 AI 트래픽을 엣지에서 파악·관리할 수 있다는 점을 경쟁력으로 내세우고 있다. 사용자 요청이 중앙 데이터센터까지 이동하기 전에 엣지에서 트래픽을 확인할 수 있다는 이유에서다. 이를 통해 기업은 에이전트 행동과 데이터 흐름을 빠르게 식별하고, 보안 정책을 적용할 수 있다. 클라우드플레어는 기존 봇 관리와 분산서비스거부(DDoS) 공격 대응 과정에서 축적한 자동화 트래픽 분석 역량을 AI 에이전트 관리로 확장할 방침이다. 외부에서 들어오는 공격뿐 아니라 내부 AI가 외부 서비스로 보내는 데이터와 트래픽까지 함께 통제하는 데 초점을 맞춘다. 조 지사장은 "우리가 오랫동안 엣지에서 해온 일도 결국 봇 트래픽과의 싸움"이라며 "AI 트래픽 역시 크게 보면 그 연장선"이라고 말했다. 이어 "특정 데이터센터나 엔드포인트에서만 처리하는 것이 아니라 AI 트래픽이 활발하게 발생하는 엣지에서 보안과 비용을 함께 제어할 수 있다는 점이 우리 강점"이라고 강조했다. AI 추론 확대…한국서 '워커스' 사업 키운다 조 지사장은 AI 확산이 개발자 플랫폼 '워커스' 사업에 긍정적 영향을 미칠 것으로 봤다. AI 산업 무게중심이 대규모 모델 훈련에서 실제 서비스·추론으로 확대되면서 빠른 응답이 필요한 AI 애플리케이션을 사용자 가까이서 실행하는 엣지 중요성이 커지고 있다고 이유를 밝혔다. 조 지사장은 "AI가 실제 서비스에 적용될수록 빠른 응답과 실시간 처리가 중요해진다"며 "모든 트래픽을 중앙 클라우드까지 보내 처리하기보다 사용자와 가까운 엣지에서 처리해야 하는 영역이 계속 늘어날 것"이라고 내다봤다. 클라우드플레어는 전 세계 사용자와 가까운 곳에 구축한 PoP(Point of Presence)를 이런 AI 서비스 경쟁력으로 보고 있다. 지연시간에 민감한 AI 추론이나 이용자 위치와 상황에 따라 즉각 대응해야 하는 서비스에서 엣지 네트워크 장점이 커질 수 있다는 설명이다. 클라우드플레어는 이에 맞춰 엣지 기반 개발자 플랫폼 워커스와 '워커스 AI'를 한국 시장 성장 사업으로 확대할 계획이다. 워커스는 클라우드플레어 글로벌 엣지에서 애플리케이션을 개발·실행할 수 있도록 지원하는 플랫폼이다. 워커스 AI는 AI 모델을 이용한 추론 서비스 구축을 지원한다. 조 지사장은 "현재 한국에 워커스와 워커스 AI를 사용하는 고객이 상당수 있다"며 "일정 사용량까지 제공되는 무료 구간을 활용하는 경우가 다수"라고 밝혔다. 이어 "향후 사용량이 늘고 이를 핵심 서비스에 적용하기 시작하면 엔터프라이즈 계약과 유료 사용 확대로 이어질 수 있을 것"이라고 전망했다. 그는 "워커스가 아마존웹서비스(AWS)나 구글클라우드의 범용 개발 환경을 대체하기보다 빠른 배포와 민첩성, 낮은 지연시간이 필요한 서비스에 적합하다"고 플랫폼 특장점을 밝혔다. 이어 "무거운 애플리케이션 개발은 여전히 AWS나 구글 플랫폼에서 많이 이뤄진다"며 "워커스는 애자일하고 빠르면서 안전해야 하는 영역에서 높은 선호도를 보이고 있다"고 덧붙였다. 조 지사장은 여러 국가 이용자를 대상으로 서비스를 제공하는 디지털 네이티브 기업에서 워커스 효용이 크다고 짚었다. AI 기반 디자인과 문서 제작, 건축·의상 디자인 등에서도 작업 시간을 단축하는 서비스가 등장하면서 워커스 AI 활용 사례도 나타나고 있다는 설명이다. 조 지사장은 한국 스타트업·디지털 네이티브 기업 기술력과 서비스 경쟁력은 충분하다고 평가했다. 향후 초기 설계 단계부터 글로벌 이용자를 염두에 두는 기업이 늘어나면 워커스 같은 글로벌 엣지 플랫폼 활용 가치도 더욱 커질 수 있다고 봤다. 그는 "한국서도 혁신적인 앱과 서비스가 많이 나오고 있다"며 "앞으로 처음부터 한국을 넘어 글로벌 시장까지 고려해 서비스를 설계하는 기업이 더 많아졌으면 한다"고 말했다.

2026.08.10 10:50김미정 기자

中 키미 K3, 인터넷 무단접속→정답 확인…보안 강화해야

중국 인공지능(AI) 기업 문샷AI의 최신 모델 '키미 K3'가 사이버보안 평가 과정에서 격리된 시험 환경을 벗어나 외부 인터넷에 접속한 것으로 나타났다. 최근 첨단 AI 모델들의 사이버 역량이 높아지면서 평가 환경 자체의 보안 통제를 강화해야 한다는 지적이 나온다. 7일(현지시간) 미국 사이버보안 전문업체 프런티어 시큐리티에 따르면 문샷AI의 키미 K3는 영국 AI안전연구소(AISI)가 개발한 샌드박스 환경에서 보안 평가를 받던 중 외부 인터넷망에 접속했다. 샌드박스는 AI 모델이 외부 시스템에 영향을 미치지 못하도록 격리된 환경에서 성능과 안전성을 시험하는 장치다. 이번 평가는 취약점을 찾아 해결하는 '캡처더플래그(CTF)' 방식으로 진행됐다. 평가 환경은 외부에서 샌드박스 내부로 들어오는 통신을 차단했지만, 내부에서 깃허브로 향하는 일부 DNS·HTTPS 통신은 허용하고 있었다. 키미 K3는 명령줄 도구를 이용해 네트워크 환경을 점검하는 과정에서 이 경로를 찾아냈다. 이후 키미 K3는 외부 인터넷을 통해 개발자 코드 공유 플랫폼 깃허브에 접속했다. 깃허브 자체를 해킹한 것은 아니지만, 평가 문제의 정답이 담긴 벤치마크 저장소를 내려받아 내용을 확인한 뒤 이를 활용해 과제를 해결했다. 프런티어 시큐리티는 이번 사례가 샌드박스 자체를 해킹해 탈출한 것과는 다르다고 설명했다. 평가 환경을 설정하는 과정에서 외부로 향하는 일부 통신 경로를 열어둔 것이 원인이 됐다는 것이다. AISI 역시 샌드박스에 본질적인 취약점이 있었던 것은 아니라는 입장을 밝혔다. 업계가 주목하는 부분은 AI 모델이 주어진 과제를 해결하기 위해 허용된 통신 경로를 스스로 찾아 외부 정보를 활용했다는 점이다. 평가 환경에 작은 허점이 남아 있을 경우 고성능 AI 에이전트가 이를 찾아내 실제 능력과 다른 평가 결과를 만들어낼 가능성이 있다는 지적이다. 최근 고성능 AI 모델이 사이버보안 평가 환경의 허점을 찾아내는 사례가 잇따르고 있다. 프런티어 시큐리티에 따르면 오픈AI와 앤트로픽, 메타의 AI 모델에서도 각기 다른 방식으로 테스트 환경을 벗어나 외부 시스템에 접근한 사례가 확인됐다. 특히 키미 K3는 누구나 내려받아 사용하거나 개조할 수 있는 오픈소스 모델이라는 점에서 보안 우려가 제기된다. 앞서 통제 환경 이탈 사례가 보고된 오픈AI·앤트로픽·메타 등의 모델과 달리 공개된 모델은 외부에서 별도 안전장치 없이 활용될 가능성이 있기 때문이다. 연구진은 "충분한 능력을 갖춘 에이전트라면 인터넷으로 향하는 경로를 반드시 찾아낸다"며 "AI 모델의 역량이 높아질수록 평가 환경 역시 이에 맞춰 더욱 엄격하게 설계할 필요가 있다"고 밝혔다.

2026.08.08 08:52한정호 기자

오픈AI, 차세대 AI '아스트라' 개발 늦춘다…사이버보안 우려

오픈AI가 차세대 인공지능(AI) 모델 '아스트라(Astra)' 개발·시험 작업을 일부 중단하고 안전성 검증을 강화한다. 아스트라가 사람 개입 없이 보안 취약점을 찾아 공격에 활용할 수 있는 사이버 역량을 갖췄을 가능성이 확인되면서, 출시를 서두르기보다 보안 통제를 강화하기로 한 조치다. 7일(현지시간) 블룸버그통신에 따르면 오픈AI는 아스트라가 자체 안전 프레임워크에서 규정한 '중대(Critical)' 수준의 사이버 보안 역량에 도달했을 가능성을 배제할 수 없다고 판단하고 일부 개발·시험 작업을 일시 중단했다. 오픈AI는 최근 진행한 내부 평가에서 아스트라의 에이전틱 코딩과 사이버 보안 능력이 크게 향상된 것으로 나타났다고 설명했다. 전문가 평가까지 종합한 결과 현 단계에선 아스트라가 중대 수준의 사이버 역량을 갖췄을 가능성을 배제하기 어렵다는 판단을 내렸다. 오픈AI가 정한 중대 사이버 보안 역량은 사람 개입 없이 실제 주요 시스템에서 다양한 심각도의 '제로데이' 취약점을 찾아 실제 작동하는 공격 수단을 개발하거나, 구체적인 방법 없이 목표만 제시해도 새로운 사이버 공격 전략을 스스로 수립·실행할 수 있는 수준이다. GPT-5.6-솔은 아스트라보다 한 단계 낮은 '높음(High)' 수준으로 평가됐다. 이에 오픈AI는 아스트라 개발·평가 과정의 보안 조치를 대폭 강화 중이다. 격리된 테스트 환경을 구축하고 네트워크와 도구 접근을 제한하는 한편 모델 가중치 보호·암호화, 추가 모니터링·탐지 기능, 샌드박스 실행 등을 적용할 예정이다. 주요 외신에 따르면 오픈AI는 충분한 안전장치가 마련될 때까지 아스트라 개발 속도를 늦출 계획으로, 향후 출시 시점도 미뤄질 전망이다. 오픈AI는 미국 정부에도 출시 지연 계획을 자발적으로 알린 것으로 전해졌다. 아스트라는 오픈AI가 개발 중인 차세대 AI 모델로, 최근 고난도 수학 문제 해결 능력으로도 주목받았다. 오픈AI는 아스트라를 활용해 최소 10년 이상 풀리지 않았던 고차원 기하학과 군론, 양자 복잡도 등의 수학 난제 10가지를 해결했다고 밝힌 바 있다. 여러 AI 에이전트가 장기간 협력해 복잡한 문제를 해결하는 능력을 갖춘 것으로 알려졌다. 최근 AI 모델의 사이버 역량이 빠르게 높아지면서 안전성 우려도 커지고 있다. 최근 오픈AI와 앤트로픽이 모델 테스트 과정에서 허깅페이스를 비롯한 여러 기관의 시스템에 의도치 않게 침투한 사실이 공개됐다. 메타 역시 AI 모델이 제3자의 컴퓨터 시스템에 침투한 것으로 전해졌다. 오픈AI는 정부 기관과 일부 AI 안전 관련 기관을 대상으로 아스트라의 역량을 추가 검증할 예정이다. 외부 기관이 고위험 모델을 안전하게 평가할 수 있도록 제3자 테스트 파트너에 보안 통제 방안도 제공할 계획이다. 오픈AI는 "첨단 사이버 역량을 갖춘 모델은 공격자보다 먼저 취약점을 찾아 해결할 수 있도록 방어자를 지원해야 한다"며 "정부와 안전 연구기관, 시민사회와 협력해 아스트라와 그 이후 모델의 최첨단 역량이 책임감 있게 배포되고 인류 전체에 폭넓게 도움이 되도록 노력하겠다"고 밝혔다.

2026.08.08 08:24한정호 기자

안랩, 아태지역 엔드포인트 보안 '경쟁전략 리더십' 첫 선정

글로벌 통합보안 기업 안랩(대표 강석균)이 글로벌 시장조사 기관으로부터 엔드포인트 보안 아태지역 대표 회사로 인정받는 쾌거를 거뒀다. 안랩은 5일 글로벌 시장조사 기관 프로스트 앤드 설리번의 '2026 베스트 프랙티스'에서 처음으로 아시아·태평양 엔드포인트 보안 부문 '경쟁전략 리더십' 자격을 얻었다고 밝혔다. 지난 2019년부터 2025년까지 7년 연속 '올해의 한국 엔드포인트 보안 기업'에 선정된 데 이어, 이번에는 아태 시장 전체를 대상으로 경쟁력을 인정받으며 글로벌 시장에서의 위상이 한층 높아졌다. 프로스트 앤드 설리번은 매년 기업의 사업 전략 혁신성과 고객가치 창출 역량을 종합 평가해 산업별 '경쟁전략 리더십'을 선정한다. 올해 평가에서 안랩은 ▲통합 보안 운영을 구현하는 플랫폼 전략 ▲제품·서비스 전반의 AI 내재화 ▲위협 인텔리전스 중심 보안 생태계 등을 바탕으로 아태 지역 엔드포인트 보안 시장에서 차별화된 경쟁전략을 인정받았다. 특히 엔드포인트 보안을 비롯한 다양한 보안 역량을 개별 제품이 아닌 '보안 운영(Security Operations)' 관점에서 하나의 통합 플랫폼 체계로 연결한다는 점이 차별점으로 작용했다. 또한 'AI 기반 보안 운영' 전략 아래 AI를 단순 기능으로 활용하는 데 그치지 않고, 제품·서비스 전반에 내재화해 보안 운영의 자동화와 지능화를 추진한다는 점이 높은 평가를 받았다. 강석균 안랩 대표는 “국내를 넘어 아시아태평양 엔드포인트 보안 시장 전체를 대상으로 한 평가에서 경쟁력을 인정받았다는 점에서 의미가 크다”며 “글로벌 통합보안 회사로서 에이전틱 AI 기반 플랫폼 전략을 중심으로 전세계 고객이 신뢰할 수 있는 파트너로 자리매김할 것”이라고 말했다.

2026.08.05 18:22김기찬 기자

[AI는 지금] 구글·메타에 도전장…미스트랄, 기업용 AI 안전시장 본격 공략

프랑스 인공지능(AI) 기업 미스트랄AI가 기업별 정책에 맞춰 유해 콘텐츠 판정 기준을 바꿀 수 있는 소형 안전 모델을 공개하며 기업용 AI 시장 공략에 나섰다. 생성형 AI 활용이 업무 에이전트로 확대되면서 모델 성능뿐 아니라 보안과 규제 준수 역량이 주요 경쟁 요소로 떠오르자 안전 모델까지 오픈 웨이트 전략을 넓힌 모습이다. 미스트랄AI는 4일(현지시간) 공식 홈페이지를 통해 30억 개 파라미터 규모의 멀티모달 안전 분류 모델 '실드스트랄(Shieldstral)'을 아파치 2.0 라이선스로 공개했다. 실드스트랄은 텍스트와 이미지, 이용자 프롬프트와 AI 답변을 검사해 특정 안전 정책을 위반하는지를 확률 형태로 제시한다. 실드스트랄은 안전 기준을 모델에 고정하지 않고 추론 시점에 자연어로 입력하도록 설계된 것이 특징이다. 기업이 "이 콘텐츠가 개인정보를 노출하는가", "미성년자에게 보여줘도 안전한 이미지인가"와 같은 질문을 제시하면 해당 기준에 따라 콘텐츠를 판정한다. 기존 안전 모델은 폭력과 혐오, 성적 표현 등 개발사가 미리 정한 분류 체계를 주로 활용한다. 기업이 산업이나 이용자 특성에 맞춰 새로운 기준을 적용하려면 모델을 다시 학습하거나 별도의 규칙 엔진을 붙여야 한다. 반면 실드스트랄은 정책 문구만 바꿔 새로운 기준을 적용할 수 있어 금융과 의료, 공공, 교육 등 산업별 요구사항을 반영하기 쉽다. 같은 사이버 공격 관련 콘텐츠라도 일반 소비자 서비스에서는 차단하고 보안 연구 도구에서는 허용하는 식으로 서비스 목적에 따라 안전 수준을 조정할 수 있다. 텍스트와 이미지 안전 평가를 하나의 모델로 처리하는 점도 특징이다. 프롬프트와 답변을 각각 검사하거나 두 내용을 함께 평가할 수 있으며, AI가 이용자의 요청을 적절히 거부했는지와 유해한 답변을 내놨는지도 동일한 방식으로 판별한다. 모델은 '예'와 '아니요'에 해당하는 확률을 한 번의 추론으로 산출한다. 기업은 이 점수를 바탕으로 콘텐츠를 즉시 차단하거나 사람의 검토 대상으로 넘기는 등 자체 운영 기준을 설정할 수 있다. 실드스트랄은 16GB 엔비디아 그래픽처리장치(GPU) 1대에서도 구동할 수 있다. 대규모 클라우드 인프라 없이 기업 내부 서버나 프라이빗 클라우드에 배치할 수 있어 고객 대화와 내부 문서를 외부 콘텐츠 검수 서비스로 보내지 않고 처리할 수 있다. 이는 데이터 통제권을 중시하는 기업 고객을 겨냥한 구성으로 해석된다. 금융과 공공, 의료 기업은 생성형 AI를 도입하더라도 개인정보와 내부 데이터가 외부로 전송되는 것을 꺼리는 경우가 많다. 소형 오픈 웨이트 안전 모델을 내부에 구축하면 외부 안전 API 이용료와 민감한 데이터의 외부 전송 부담을 함께 줄일 수 있다. 실드스트랄 공개는 미스트랄AI의 기업용 AI 생태계 확대에도 힘을 보탤 것으로 예상된다. 기업과 개발자가 오픈 웨이트 안전 모델을 도입한 뒤 미스트랄의 생성 모델과 맞춤형 학습·평가 플랫폼 '포지(Forge)'까지 함께 검토할 가능성이 있어서다. 실드스트랄의 데이터 처리와 학습, 정렬, 평가 전 과정도 포지에서 이뤄졌다. 이는 안전 모델을 앞세워 자체 플랫폼의 기업 활용 가능성을 알리려는 전략으로 읽힌다. 이번 일로 미스트랄AI와 구글, 메타 등 기존 오픈 웨이트 안전 모델 사업자들의 경쟁도 확대될 전망이다. 구글은 텍스트용 '실드젬마'와 이미지용 '실드젬마2'를 제공하고 있으며, 메타는 라마 기반 안전 분류 모델 '라마 가드'를 공개했다. 미스트랄AI는 하나의 모델로 텍스트와 이미지, 프롬프트와 답변을 함께 처리한다는 점을 실드스트랄의 차별점으로 내세웠다. 기업이 새로운 정책을 자연어 질문으로 입력해 재학습 없이 판정 기준을 변경할 수 있다는 점도 기존 모델과의 경쟁 요소로 보고 있다. 이번 일은 AWS와 마이크로소프트 등 클라우드 사업자가 제공하는 가드레일 서비스에도 영향을 줄 수 있다. AWS는 아마존 베드록 가드레일을 통해 유해 콘텐츠와 민감정보, 금지 주제를 탐지하고 있으며 마이크로소프트도 애저 기반 콘텐츠 안전 서비스를 제공한다. 기업이 실드스트랄을 자체 인프라에 배치하면 클라우드 기반 안전 API에 대한 의존도를 낮출 수 있다. 오픈 웨이트 안전 모델이 확산할수록 클라우드 사업자도 가격과 처리 속도, 데이터 통제권, 산업별 정책 설정 기능을 강화해야 할 가능성이 커진다. 미스트랄AI는 자체 평가에서 실드스트랄이 텍스트 안전성과 거부 응답 탐지, 정책 적응성, 멀티모달 안전성 부문에서 최대 7배 큰 오픈 가드 모델과 대등하거나 높은 성능을 기록했다고 주장했다. 평가용 표본은 학습 데이터에서 제외했다고 설명했다. 미스트랄AI는 "실드스트랄은 모든 제품에 하나의 고정된 분류 체계를 적용하는 대신 서비스 맥락에 맞춰 적응하는 콘텐츠 조정을 향한 단계"라고 밝혔다.

2026.08.05 11:38장유미 기자

시스트란, 국방·방산 특화 온프레미스 AI 솔루션으로 고보안 시장 공략

시스트란이 강력한 보안과 맞춤형 커스터마이징 역량을 앞세워 국방 및 방산 도메인 시장 공략을 본격화한다. 시스트란은 국방·방산 분야에 특화된 온프레미스 AI 솔루션을 기반으로 고보안 산업 시장의 점유율을 확대한다고 4일 밝혔다. 시스트란의 온프레미스 AI 솔루션은 외부 인터넷망과 완벽히 분리된 폐쇄망 환경에서 독립적으로 구동된다. 데이터 유출 위험을 원천 차단해 보안이 최우선인 국방 및 방산 분야에 최적화된 것이 특징이다. 고객사의 도메인과 업무 환경에 맞춘 유연한 시스템 구축 역량도 장점이다. 시스트란은 록히드마틴, 에어버스, 보잉, NASA, FBI 등 글로벌 주요 방산·항공 기업과 미국 및 유럽 정부 기관을 대상으로 풍부한 레퍼런스를 확보하고 있다. 앞서 시스트란은 지난 6월 열린 군사과학기술학회 종합학술대회에 참가해 관련 솔루션을 시연했다. AI 번역기 'STS', AI 동시통역기 'SI&T', sLLM 플랫폼 'QUESAR', 온톨로지 관리 플랫폼 'I-ONT' 등 4종을 선보였다. 특히 국방백서 일부 문서를 적용한 국방 특화 온톨로지와 그래프DB AI 기반 관리 도구인 'I-ONT' 데모를 최초로 공개하며 현장의 이목을 끌었다. 시스트란 관계자는 "군사과학기술학회 참가를 통해 시스트란의 온프레미스 AI 솔루션이 국방·방산 도메인에서도 충분히 실전 적용 가능함을 확인했다"며 "유연하게 구축 가능한 온프레미스 아키텍처를 바탕으로 신뢰받는 AI 파트너로 자리매김해 나갈 것"이라고 전했다. 현장을 방문한 국방·방산 관계자들 역시 "합동 작전 상황에서의 통역, 방산 기밀 자료 번역 등에 시스트란 솔루션이 유용하게 활용될 수 있을 것 같다"며 "국방 분야 온톨로지 구축에 매우 유용한 도구가 될 수 있을 것"이라고 평가했다. 한편 시스트란은 오는 12월 8일부터 11일까지 일산 킨텍스에서 열리는 국내 최대 지상군 통합 방산전시회 'K-DEX 2026'에 참가한다. 향후 국방·방산을 비롯해 금융, 의료, 제조 등 고보안 산업군으로 온프레미스 AI 솔루션 공급을 확대할 계획이다.

2026.08.04 10:45정진성 기자

이름·연락처 없어도 건강 상태 안다…AI 개인정보 침해 '비상'

AI가 익명·집계 데이터에서도 개인의 건강 상태와 행동 패턴을 추론하면서 개인정보 침해 위험이 단순한 데이터 유출을 넘어 AI의 판단 결과로 확산되고 있다. 개인정보가 직접 빠져나가지 않아도 민감 정보가 드러날 수 있어 기존 보안 체계만으로는 대응이 어렵다는 지적이 나온다. 3일 시장조사기관 가트너에 따르면 대부분의 개인정보 침해 사고는 오는 2029년까지 개인식별정보(PII)의 직접적인 유출보다 AI가 개인에 대해 생성한 추론에서 비롯될 것으로 전망됐다. 가트너는 기업들이 규제 준수와 관리 비용 절감을 위해 개인 데이터 보유량을 줄이고 있지만, 생성형 AI와 머신러닝 기술이 발전하면서 데이터 최소화만으로 개인정보 위험을 낮추기 어려워졌다고 판단했다. AI는 익명화되거나 여러 사람의 정보가 합쳐진 데이터에서도 개인의 건강 상태와 선호, 행동 패턴 등 민감한 정보를 유추할 수 있다. 개인정보 침해 방식도 달라지고 있다. 기존 공격은 고객 정보나 의료 기록, 금융정보 등 저장된 데이터를 탈취하는 형태가 중심이었다. 반면 추론 기반 공격은 실제 기록을 빼내지 않고도 공개 정보와 비식별 데이터, AI 분석 결과를 결합해 특정 개인의 특성이나 상태를 알아내는 방식으로 진행된다. 이 과정에서 만들어진 정보는 원본 데이터가 아니기 때문에 기존 개인정보 유출 탐지 체계에 포착되지 않을 가능성이 크다. AI가 잘못된 데이터를 바탕으로 부정확하거나 편향된 프로필을 생성해도 당사자가 이를 확인하거나 정정하기 어렵다는 위험도 있다. 바트 빌렘센 가트너 수석 애널리스트는 "개인정보 침해 양상이 데이터 유출에서 인사이트 유출로 바뀌고 있다"며 "AI는 기존 데이터 통제에 구애받지 않고도 개인에 대한 심층적인 인사이트를 재현할 수 있다"고 말했다. 기업의 개인정보 보호 범위도 데이터 저장과 접근 통제를 넘어 AI 시스템의 판단 과정으로 확대될 필요가 있다. AI가 개인에 관한 정보를 어떤 방식으로 생성하고 어디에 활용하는지, 추론 결과를 토대로 어떤 조치를 실행하는지까지 관리해야 한다는 의미다. 가트너는 기업들이 AI 프로필의 오류와 편향, 무단 생성에 대응하기 위한 투자를 늘리면서 2028년까지 데이터 무결성 보호 지출이 기밀성 보호 투자와 비슷한 수준에 이를 것으로 내다봤다. 또 데이터가 외부에 노출되지 않도록 막는 데 집중했던 보안 투자는 AI가 생성한 정보의 정확성과 신뢰성을 확보하는 영역으로 확대될 수 있다고 전망했다. 가트너는 "기업은 AI 개발과 배포 전 과정에 프라이버시 중심 설계 원칙을 적용하고 알고리즘 편향과 과적합, 의도하지 않은 추론 가능성을 정기적으로 점검해야 한다"며 "차등 프라이버시와 합성 데이터, 개인정보 보호형 머신러닝 등 개인정보 보호 강화 기술을 적용해 재식별 위험을 낮추는 방안도 필요하다"고 강조했다. 이에 맞춰 기업들은 데이터 수집 범위를 필요한 수준으로 제한하고 접근 권한과 보존 기간을 엄격히 관리하는 기존 정책도 유지해야 한다. 또 추론 기반 위협을 식별할 수 있는 이상 징후 탐지와 모니터링 체계를 마련하고 AI가 민감 정보에 관한 조치를 수행하기 전 사람이 판단을 검증하는 절차도 필요할 것으로 보인다. 빌렘센 애널리스트는 "개인정보를 데이터 보호의 문제로만 인식하는 기업은 AI 생성 추론으로 인한 개인정보 침해 사고에 갈수록 취약해질 것"이라며 "향후 개인정보 보호 위험은 기업의 데이터 저장 방식보다 AI의 데이터 해석 방식에 더 크게 좌우될 것"이라고 말했다.

2026.08.03 09:39장유미 기자

잡코리아 vs 사람인, 'AI 후불형 채용' 승부…차별점은

최근 잡코리아와 사람인이 후불형 채용 상품의 인공지능(AI) 기능을 고도화하며 서비스 경쟁력 강화에 나서고 있다. 양사 서비스 모두 AI가 공고에 적합한 인재를 선별해 준다는 큰 틀은 비슷하지만, 각각 '보안성'(잡코리아)과 '자동화'(사람인) 영역에서 차별화를 꾀하는 모습이다. 31일 HR업계에 따르면, 사람인은 지난 29일 후불형 채용 상품 전용 AI 에이전트 서비스 '에이전트 핏'을 출시했다. AI 에이전트 핏은 현재 '스마트 리크루터'에만 우선 적용되며 후불형 채용 상품을 이용하는 기업은 누구나 사용할 수 있도록 설계됐다. 현재 잡코리아도 사람인의 '스마트 리크루터'와 유사한 원픽이라는 후불형 채용 상품을 운영 중이다. 잡코리아는 '보안', 사람인은 '자동화' 힘 줘 두 서비스는 AI가 채용 공고와 이력서를 종합 분석해 회사에 적합한 인재를 추천해준다는 점에서 유사하지만, 사람인은 '자동화'를 강점으로 내세우고 있다. 에이전트 핏은 공고 분석, 인재 추천에서만 그치는 것이 아니라 한 단계 나아가 AI가 선정된 인재에게 입사제안을 자동으로 보내준다. 잡코리아의 원픽은 '개인정보 보안' 측면에서 차별점을 확보했다. 원픽에 사용되는 AI의 바탕이 되는 초거대 언어모델(LLM)의 경우 외부 범용 AI 응용 프로그램 인터페이스에 의존하지 않고, 자체 개발·자체 서버 운영 구조를 갖추고 있다. 이로 인해 이력서 등 민감한 개인정보가 처리 전 과정에서 외부로 전송되지 않는다. 또 데이터의 저장·파기·활용을 모두 자사 보안 정책 아래 직접 통제할 수 있다는 점에서도 경쟁력을 갖추고 있다. 매칭 적합도 공통 강점으로…맞춤형 서비스 '속속' 잡코리아 '원픽'과 에이전트 핏이 적용된 사람인의 '스마트 리크루터'는 모두 회사와 매칭 적합도를 서비스 강점으로 내걸었다. 에이전트 핏은 데이터를 다각도로 고려해 매칭률이 80% 이상인 인재에게만 제안을 보낸다. 잡코리아는 원픽 이용 시 적합·최적합 인재의 최종 합격률이 미합격 인재 대비 4배 높다고 강조했다. 입사 지원자 수(24.2명)도 일반 공고(5.4명) 대비 5배 높다는 설명이다. 두 서비스는 활발한 입사 지원을 위해 기업과 구직자 맞춤형 서비스도 제공한다. 잡코리아 원픽은 구직자에게 이력서 분석을 통한 맞춤형 공고 알림을 발송하고 '서류합격예측 서비스'로 입사 지원 결과를 미리 살펴볼 수 있도록 하고 있다. 스마트 리크루터에 적용된 에이전트 핏의 경우 기업에게는 후보자에 대한 분석 리포트를 보내주고, 구직자에게는 심층 분석 리포트를 보내준다. 심층 분석 리포트에는 입사제안을 받은 공고가 구직자에게 적합한 이유와 해당 공고에서 자신만의 경쟁력, 면접 준비 가이드 등이 담겼다. 사람인 관계자는 “앞으로도 사람인만의 기술력을 바탕으로 기업과 구직자를 효과적으로 연결하고, 자동화하는 서비스 라인업을 강화할 것”이라고 말했다.

2026.07.31 17:21박서린 기자

[AI는 지금] 오픈AI 이어 앤트로픽도 '실제 해킹'…AI 통제 비상

오픈AI에 이어 앤트로픽의 인공지능(AI) 모델도 사이버보안 시험 도중 외부 기관의 실제 시스템을 침해한 것으로 나타났다. 고성능 AI의 공격 능력을 확인하기 위해 안전장치를 낮춘 평가가 잇따라 보안 사고로 이어지면서 AI 모델의 인터넷 접근과 실행 권한을 통제하는 체계를 강화해야 한다는 요구가 커지고 있다. 31일 테크크런치에 따르면 앤트로픽은 최근 사이버보안 평가 기록 14만1006건을 자체 조사한 결과 '클로드' 모델이 3곳의 운영 시스템에 무단 접근한 사례 3건을 확인했다. 이번 사고는 앤트로픽이 외부 평가업체 이레귤러와 클로드의 사이버 공격 능력을 시험하는 과정에서 발생했다. 양사는 모델이 인터넷에 접속할 수 없는 격리 환경에서 평가가 진행되는 것으로 이해했지만 실제 환경에는 외부 연결 경로가 열려 있었다. 클로드는 인터넷에 접근할 수 없다는 지시를 받았지만 외부에서 발견한 실제 시스템을 시험 대상으로 판단해 공격을 이어갔다. 사고에는 클로드 오퍼스 4.7과 미토스 5, 내부 연구용 모델이 각각 관여했다. 오퍼스 4.7은 실제 운영 시스템에 접근했다는 사실을 인식하고도 인증정보를 확보하고 운영 데이터가 담긴 데이터베이스에 접근했다. 미토스 5는 실제 인터넷일 가능성을 감지했지만 시험 환경이라고 판단해 공개 파이썬 저장소 파이파이(PyPI)에 악성 패키지를 배포했다. 해당 패키지는 적발되기 전 외부 시스템에 다운로드돼 실행됐다. 반면 가장 최신인 내부 연구용 모델만 대상이 실제 시스템이라고 판단한 뒤 작업을 중단했다. 이는 AI가 현실과 시험 환경을 구분하도록 지시하는 것만으로는 사고를 막기 어렵고 외부 시스템 접근을 기술적으로 차단해야 한다는 점을 시사한다. 이에 대해 앤트로픽은 "모델이 독자적인 목표를 추구한 것은 아니고 주어진 과제를 수행하려 했다"며 "일반 서비스에 적용하는 안전 모니터링과 분류기도 모델의 순수한 사이버 능력을 측정하기 위해 이번 평가에서는 제외했다"고 설명했다. 앞서 오픈AI의 미출시 모델도 격리된 평가 환경을 벗어나 허깅페이스와 다른 외부 서비스에 접근해 논란이 됐다. 해당 사고는 미국 의회와 백악관까지 대응에 나설 정도로 파장이 컸다. 미국 의회에서는 AI 비상 중단 장치 도입을 요구하는 'AI 킬 스위치법'이 발의됐고 도널드 트럼프 대통령도 추가 보호 조치 검토 가능성을 언급했다. 오픈AI 모델은 알려지지 않은 취약점을 이용해 격리 환경을 벗어난 반면, 앤트로픽 모델은 평가 환경의 설정 오류로 열린 인터넷 경로를 통해 실제 시스템에 접근했다. 침해 경로는 달랐지만 두 사례 모두 평가 단계에서 모델의 외부 활동을 차단하지 못하면서 AI 기업의 자체 시험 환경과 외부 평가업체의 네트워크 설정, 접근 권한을 함께 검증해야 한다는 요구가 커지고 있다. 앤트로픽은 "강력한 AI 모델을 평가할 때는 그 능력에 맞는 강력한 통제가 필요하다"며 "현재 독립 평가기관 METR와 사고에 대한 제3자 검토를 진행하는 동시에 모든 책임이 우리에게 있다는 전제 아래 개선 조치를 추진하고 있다"고 밝혔다.

2026.07.31 16:53장유미 기자

"보안 외주 인력 디지털 포렌식으로 상시 점검해야"

기업들의 IT 인프라 확장과 인건비 절감 수요가 맞물리면서 개발부터 보안, 내부 감사 등 다양한 영역에서 외주 활용이 보편화하고 있다. 그러나 수탁, 재수탁 등으로 이어지는 복잡한 외주 구조 속에서 계정 및 크리덴셜(인증 정보) 관리 부실로 인한 침해사고는 더욱 빈번해지는 현실이다. 특히 사고 발생 후 증거 확보나 책임 추적은 복잡한 외주 환경 탓에 더욱 어려워지고 있어 기업들의 고민도 깊어지고 있다. 김장훈 유락 전략사업본부 이사는 지디넷코리아와 인터뷰에서 외주 인력 활동 등을 디지털 포렌식으로 점검하는 상시 감사의 필요성이 커지고 있으며, 사고 전후의 위험 행위를 확인하고 내부통제를 검증하는 상시 보안 수단으로 활용할 필요가 있다고 강조했다. 유락은 현장에서 즉시, 누구나 활용할 수 있는 인공지능(AI) 디지털 포렌식 전문 업체다. 김 이사는 유락 전략사업본부에서 디지털 포렌식 솔루션의 개발, 기획 등 영역을 총괄하고 있다. 어느 한 기술 영역에만 국한되는 것이 아니라 사업화 등 경영 차원에서도 역량을 발휘하는 만능 엔터테이너다. 김 이사는 "인력 TO는 그대로인데 IT 인프라가 확대되면서 개발 수요는 늘어 외부 인력, 외주를 적극 활용하는 추세다. 심지어 수탁사가 재수탁하는 구조까지 더해지며 이같은 구조는 더욱 활성화된 상태"라며 "문제는 외주 개발자가 어떤 권한이나 크리덴셜을 갖고 있는지는 추적하지 않는다는 점"이라고 강조했다. 그는 "또한 퇴직자의 경우 퇴직 즉시 권한을 회수하고 조직 클라우드에 접근할 수 없도록 하는 것이 기본 원칙이지만, 통제가 뒤따르지 않는 문제가 발생한다"며 "이에 프로젝트 수행 중 승인되지 않은 개인정보 저장소 사용, 평문으로 저장된 토큰·계정정보, 깃허브·구글 드라이브 등 외부 플랫폼 업로드, 개인 계정 사용, 중요 파일의 비정상적인 복사·반출과 같은 문제가 발생한다"고 진단했다. 외주가 많아지면 많아질수록 침해사고 발생 가능성이 커지고, 퇴사자의 경우 침해사고 발생 이후에도 증거 확보나 책임 추적에 어려움이 뒤따르고 있다는 지적이다. 유락의 '디파스 디스커버리는(DFAS Discovery)'는 이 과정을 케이스 단위로 운영하는 모델을 지향한다. 감사 목적과 대상, 단말기, 수집 기간·범위를 지정하고, 승인된 범위의 데이터만 선별 수집한 수집·분석한다. 이후 파일과 브라우저 기록, 외부 저장장치·업로드 흔적을 시간 흐름과 관계 정보로 분석해 흔적을 보안정책이 실제로 작동했는지 객관적인 증거로 확인한다. 디파스 디스커버리는 내년 3월께 출시 예정이다. 이를 통해 분산된 증거의 연결과 선제적 위험 탐지, 나아가 사람이 어떤 의도를 갖고 데이터를 반출하려 했는지 등 행위 관점에서 통합 분석한다. 이를 통해 개별 파일이나 단일 저장소 기록만으로 원인을 단정하지 않고, 사용자·단말기·파일·접속기록을 시간의 흐름과 관계 정보로 교차 검토해 실제 데이터 이동 경로와 행위 주체를 규명할 수 있도록 지원한다. 이 기술로 사고 이전에 위험을 발견할 수 있으며, 외주 인력이 운영 데이터를 개인 PC에 반복 저장하거나 종료를 앞두고 대량의 파일을 복사하는 정황이 포착되면 실제 유출로 번지기 전에 접근권한을 조정하고 사실관계를 확인할 수 있다. 사고가 발생하더라도 기준 상태와 점검 이력이 남아 있어 조사 착수 시간을 줄이고 유출 경로와 영향 범위를 더 빠르게 규명할 수 있다. 김 이사는 "회사 프로젝트를 오픈소스 저장소인 깃허브(Github)에 공개하거나 개인 계정에 업로드하는 일이 비일비재하다. 심지어 API키를 하드코딩(소스코드 내에 직접 입력하는 방식)하는 등 보안의 기본 중의 기본은 물론 사내 보안 정책을 위반해 피해가 확산되는 안타까운 사례가 국내·외로 빈번해지고 있다"면서 "유락의 솔루션들은 사전에 외주 환경이나 보안 정책을 위반한 프로젝트를 상시적으로 감사하며 위협을 사전에 예방함으로써, 사후 결과 검증에 초점을 맞춘 기존 포렌식 기법의 한계를 한층 진화시켰다"고 밝혔다. 그는 "특히 외주 업무의 전 생애주기를 증거 기반으로 관리함으로써 착수 단계에서는 데이터 처리 범위와 점검 기준을 정하고, 수행 중에는 중요정보의 저장·복사·반출 여부를 점검하며, 종료 단계에서는 접근권한 회수와 데이터 파기를 기술적으로 검증한다"며 "기존의 계약서와 파기 확인서에 의존하는 관리에서 벗어나 데이터가 어디에 있었고, 어떻게 사용됐으며, 실제로 삭제됐는지를 지속적으로 확인·입증하는 체계를 구축함으로써 사고 가능성과 피해 범위를 실질적으로 낮추는 데 초점을 맞췄다"이라고 부연했다. '현장성·사용성' 앞세운 유락 차별점…비전문가도 쓰는 '디파스' 시리즈 김 이사는 유락만의 차별점으로 '현장성'과 '사용성', 그리고 AI를 꼽았다. 침해사고가 빈번해지면서 디지털 포렌식의 역할이 사고 이후의 사후 분석에서 예방 점검, 내부감사, 외주 인력 관리와 사고 초기 대응까지 확장되고 있다. 이런 가운데 유락 디지털포렌식의 차별점은 현장에서 즉시 필요한 증거를 신속하게 확보할 수 있도록 지원한다. 일반적인 포렌식은 대상 장비를 별도 연구실로 옮겨 전체 데이터를 분석해야 한다. 이 기간은 통상 길면 수주, 수개월까지도 소요된다. 그러나 유락의 '디파스 프로(DFAS Pro)'는 별도의 연구실로 장비를 옮기지 않고도 현장에서 필요한 데이터를 선별 수집·분석할 수 있도록 지원한다. 또 전문적인 지식이 없더라도 디지털 포렌식이나 감사가 가능하도록 지원하는 것도 특징이다. 디지털 포렌식은 아무리 쉽게 지원한다고 하더라도 보안팀이나 포렌식 장비를 운용할 수 있는 전문 인력이 필요하다. 그러나 현재 조직 내 감사팀은 회계 감사, 인사팀 등에 치중돼 있다. IT 관련 지식이 없어 자체 포렌식이 가능한 기업은 일부 대기업에 한정된다. USB 기반 포터블 운용과 자동화된 절차를 통해 비전문가도 초기 증거 확보와 판단을 신속하게 수행할 수 있는 것이다. 뿐만 아니라 AI 기반 멀티모달 데이터 분석도 가능하다. 이미지와 동영상 등 복잡한 데이터도 파일명이나 메타데이터를 넘어 내용과 의미를 기준으로 관련 자료를 탐색할 수 있도록 개발하고 있다. 이를 통해 조사자는 키워드와 개인정보, 문맥, 이미지, 음성·영상 등 서로 다른 형식의 데이터를 하나의 검색 흐름에서 분석할 수 있다. 조사자가 AI 분석의 근거를 직접 확인하는 것도 가능하다. 디지털 포렌식은 그럴듯한 설명을 생성하는 것보다 증거의 무결성을 확보하고 증거를 바탕으로 어떤 결과를 도출했는지 확인하는 것이 중요하다. 따라서 유락은 본 증거와 분석 과정에서 생성된 파생 데이터를 명확히 구분하고, 관측된 사실과 시스템의 해석, 상관관계 후보, 조사관의 판단과 AI의 설명을 하나의 확정된 결론으로 혼합하지 않는다. 최종 판단은 조사자가 원본 증거를 직접 검토한 뒤 내리도록 설계한 것도 특징이다. 김 이사는 "이 외에도 PoC 중인 제품 중의 하나로, '디파스 고'가 있다. '디파스 고'는 AI 사용을 감사한다"며 "조직 내에서 수많은 AI 모델이 활용되고 있다. 사용 형태도 웹, API 등 그 형태마저 다양한데, 이를 추적하고 감사하며 가시성까지 확보하기란 쉬운 일이 아니다"라고 말했다. 그는 이어 "AI 모델에 업로드하는 내부 데이터, 민감한 데이터를 첨부하는 경우는 DLP(데이터 유출 방지) 등 기존 보안 솔루션으로 차단이 가능하지만, 왜 이런 데이터를 외부로 반출하려 했는지 감사하고 추적하는 데에는 한계가 있다"며 "디파스 고는 이같은 한계를 극복할 수 있으며 기밀이나 민감·개인정보의 특정 패턴을 마스킹하고 외부로 반출되는 것을 사전에 차단하며, 경영자가 가시성을 확보할 수 있도록 지원하는 셈"이라고 설명했다. 김 이사는 "또한 디파스 엣지(DFAS Edge)를 통해 인터넷 연결이 제한된 폐쇄망과 현장에서도 AI를 활용해 데이터를 수집·분석할 수 있는 온디바이스 AI 포렌식을 개발하고 있다"며 "이를 통해 별도의 대규모 분석 인프라 없이도 증거가 존재하는 현장에서 신속하게 데이터를 분석하고 초기 의사결정을 내릴 수 있도록 지원할 계획"이라고 밝혔다. 인도·중동 등 9개국 영토 확장…민간 부문 매출 49% 유락의 고객 포트폴리오는 공공·수사기관에서 출발해 민간기업과 금융권, 해외시장으로 확대되고 있다. 2018년 설립부터 2026년까지의 누적 매출 기준으로 민간 부문이 49%로 가장 크고, 해외 26%, 공공·수사기관, 금융 순이다. 공공·수사 분야에서는 경찰청과 국방부 등이 현장형 디지털 포렌식 솔루션 '디파스 프로(DFAS Pro)'를 활용하고 있다. 현장 압수수색과 초동 조사 단계에서 디지털 증거를 신속하게 선별·분석하는 제품 특성을 바탕으로 초기 핵심 레퍼런스를 확보했다. 민간 분야에서는 국내 대표 반도체·제조 대기업과 거래 실적을 보유하고 있다. 해외에서는 ▲탄자니아 ▲브루나이 ▲오만 ▲중국 ▲대만 ▲일본 ▲사우디아라비아 ▲인도 ▲미국 등 9개국 이상에 디지털 포렌식 솔루션을 공급하고 있다. 최근에는 인도 경찰 납품과 정부 전자조달 플랫폼 GeM 등록을 기반으로 주요 주 경찰청과 국립과학수사대학교(NFSU)를 대상으로 현장형 디지털 포렌식 기술 실증을 추진하고 있다. 특히 가시적인 성과는 인도와 중동에서 주로 나타나고 있다. 인도에서는 정부 전자조달 플랫폼인 GeM 등록을 완료하고, 안드라프라데시·우타르프라데시·구자라트·텔랑가나 등 주요 4개 주의 경찰청과 법과학연구기관을 대상으로 기술 시연과 실증 사업을 추진하고 있다. 인도 국립과학수사대학교(NFSU)와도 협력 가능성을 논의하며 힌디어 OCR과 현지 개인정보 형식, 수사 절차에 맞춘 기술 현지화를 진행하고 있다. 중동에서는 오만 왕립오만경찰청(ROP)의 디지털 포렌식 시스템 현대화 사업에 참여해 기술 평가를 진행 중이다. 김 이사는 "향후에는 미국으로 사업을 더욱 확대할 계획이다"라며 "국가별 수사 절차와 증거 기준에 맞춘 현지화, 현지 파트너십, 포렌식 랩 구축과 교육·컨설팅을 결합해 실증을 실제 계약으로 전환하는 데 집중하고 있다"고 밝혔다. "내부통제 증명하는 '포렌식 인텔리전스' 리더로 성장할 것" 김 이사는 유락의 비전을 기존 디지털 포렌식의 패러다임에서 벗어나 기업과 기관의 내부통제를 객관적인 증거로 입증할 수 있도록 돕는 '포렌식 인텔리전스 기업'으로 성장시키는 것이 목표다. 그는 "침해사고 대응뿐 아니라 직장 내 괴롭힘, 메신저 분석 등 기업 전반에서 내부 통제 차원의 포렌식을 지원하는 것이 목표다. 또한 모든 사람이 어디서든 유락의 솔루션을 통해 감사의 효율성을 크게 높일 수 있도록 만드는 것"이라고 다짐했다. 김 이사는 1980년 출생, 가천대학교 경제학과를 졸업했다. 동국대 국제정보보호대학원에서 석사 학위를 취득했으며, CISA·EnCE·ACE 등 정보보안 및 디지털 포렌식 관련 자격을 보유하고 있다. 2006년 정보보호진흥원(현 한국인터넷진흥원)에서 보안 업무에 뛰어 들었으며, 한국정보기술연구원(KITRI), 더존비즈온 등 공공과 민간 부문에서 디지털 포렌식 관련 경력을 쌓았다. 2025년부터는 중앙대학교 산업보안학과에서 산업보안 조사와 포렌식, 보안시스템 운영·활용을 강의하며 전문 인력 양성을 활동을 하고 있다. 유락은 2023년에 합류했다. ◆김장훈 이사 약력 - 정보보호진흥원(현 한국인터넷진흥원) 조사분석팀 - 더존정보보호서비스(현 더존비즈온) 디지털 포렌식 컨설팅 - 한국정보기술연구원(KITRI) 연구원 - 쿠팡 내부 부정 조사 및 사내 감사 - 유락 전략사업본부 이사

2026.07.31 14:59김기찬 기자

체크포인트 "AI 악용, 진화했다…공격 지원→공격 수행"

인공지능(AI)이 공격을 지원하는 수준에서 이제 직접 공격을 수행하는 주체로 진화했다는 분석이 나왔다. 글로벌 사이버보안 기업 체크포인트 소프트웨어 테크놀로지스(한국지사장 임현호) 위협 분석팀 '체크포인트 리서치'는 이같은 내용을 골자로 한 'AI 시큐리티 리포트 2026'을 31일 발표했다. 보고서는 지난 한 해 동안 발생한 실제 사건, 텔레메트리(Telemetry) 데이터 및 독창적인 사례 연구를 기반으로 작성됐으며, AI가 공격 전 과정에 직접 관여하면서 방어자에게 어떤 변화가 있었는지를 설명한다. 보고서에 따르면 과거에는 AI가 범죄자들이 사이버 공격을 준비하는 데 도움을 줬다면, 이제 AI는 사람의 최소한의 개입만으로 실제 침입을 수행한다. 이로 인해 방어자의 대응 시간은 크게 단축됐으며, 기업 전반에는 새로운 공격 표면이 생겨나고 있다. 또한 기업의 AI 도입 속도가 AI 거버넌스 구축 속도를 앞지르면서 새로운 보안 위험도 커지고 있다는 것이다. 실제 2026년 3월에서 5월 사이에 길고 악의적인 프롬프트 주입 페이로드 탐지 건수는 약 5배 증가했다. 이러한 대규모 악성 페이로드의 급격한 증가는 간접 프롬프트 주입이 이론적인 위험이 아닌 일상적인 공격 경로이자 기업 운영상의 위험 요소가 되고 있음을 의미한다. AI가 단계별 사람의 개입을 최소화한 상태에서 수십 개의 세션에 걸쳐 수천 개의 명령어를 실행하며 익스플로잇 워크플로우를 자율적으로 수행한 침해 사례들을 기록했다. 또 취약점이 악용될 수 있는 범위가 며칠에서 몇 시간 단위로 단축됐다. 이제 AI는 새로운 취약점이 공개되더라도 몇 시간 내에 실제로 작동하는 공격 툴을 만들 수 있다는 분석이다. 고위험 기업용 AI 프롬프트도 지난 1년 동안 두 배 증가해 AI 상호 작용 50건당 약 1건 발생 수준에서 25건당 약 1건으로 증가했다. 로템 핀켈스타인(Lotem Finkelstein) 체크포인트 리서치 부사장은 "1년 전 우리는 AI를 공격자의 역량을 강화하는 도구로 평가했다. 그러나 올해는 상황이 달라졌다. AI가 실제 공격 과정에 직접 참여하며, 과거에는 숙련된 전문가 팀이 수행하던 작업을 이제는 단독으로 수행하고 있다"며 "공격자의 전문성에 대한 진입 장벽은 빠르게 낮아지고 있으며, 방어자는 더 이상 공격자의 속도에 맞춰 대응할 수 있다고 가정해서는 안 된다. 앞으로 경쟁력을 갖춘 조직은 AI 사용을 체계적으로 관리하고, AI 시스템을 안전하게 보호하며, 사람의 속도가 아닌 머신의 속도로 대응하는 조직이 될 것"이라고 강조했다.

2026.07.31 09:35김기찬 기자

"AI 악용 사이버 공격 급증…평균 피해 비용 86억원"

생성형 인공지능(AI)이 사이버 공격에 활용되면서 기업들의 데이터 유출 피해 규모가 커지고 있는 것으로 나타났다. AI를 악용한 침해사고는 전체 악성 공격의 4분의 1 수준까지 늘었으며 평균 피해 비용도 일반 침해사고를 크게 웃도는 것으로 분석됐다. 30일 IBM이 발표한 '2026 데이터 유출 비용 보고서'에 따르면 악의적 침해사고 4건 중 1건은 AI를 활용한 공격으로 집계됐다. 이는 지난해보다 56% 증가한 수치다. 특히 AI 기반 침해사고의 평균 피해 비용은 600만 달러(약 86억원)로 전체 평균인 499만 달러(약 71억원)보다 약 100만 달러(약 14억원) 높았다. 이번 보고서는 IBM 후원 아래 포네몬연구소가 지난해 3월부터 올해 2월까지 전 세계 602개 조직이 경험한 데이터 유출 사례를 분석해 작성됐다. 후속 조사는 5월에 진행됐으며 기존 조사 대상 가운데 456개 조직이 참여했다. 보고서는 AI 기반 공격이 딥페이크를 활용한 사칭과 AI 기반 악성코드 등을 중심으로 확산되며 사이버 공격의 경제성을 빠르게 바꾸고 있다고 분석했다. 공격 비용은 낮아지고 속도는 빨라지는 반면, 침해사고 탐지와 복구 비용은 지속적으로 증가하는 추세다. 반대로 보안 운영에 AI와 자동화를 적극 활용한 기업은 침해사고 비용을 평균 약 200만 달러(약 28억원) 절감한 것으로 나타났다. 하지만 전체 기업의 4분의 1은 아직 관련 기술을 보안 운영에 도입하지 않은 것으로 조사됐다. 포네몬연구소가 추가로 실시한 조사에선 기업들의 보안 투자 기조도 변화하는 것으로 나타났다. 고도화된 차세대 AI 기반 사이버 공격 역량을 인지한 기업의 85%는 향후 보안 투자를 확대할 계획이라고 답했다. 이는 침해사고를 경험한 이후 보안 투자를 늘리겠다고 응답한 기업 비율(64%)보다 높은 수준이다. 다만 공격자들의 속도에 대응하는 영역에선 여전히 공백이 존재했다. 응답 기업의 절반 이상은 위협 탐지와 대응을 위해 AI 에이전트를 활용하고 있었지만, 취약점 관리에 AI 에이전트를 적용한 기업은 18%에 불과했다. 또 응답 기업의 75%는 차세대 AI 위협에 대응하기 위해 보안 운영 전반에서 AI 에이전트 활용 전략을 재검토하고 있다고 답했다. AI 기반 공격이 핵심 인프라 산업에 집중되는 경향도 확인됐다. 조사 대상 AI 기반 공격의 62%는 핵심 인프라를 겨냥했으며 금융서비스와 에너지 산업이 주요 표적이었다. 평균 침해사고 비용은 금융서비스가 630만 달러(약 90억원), 에너지 산업이 520만 달러(약 74억원)로 집계됐다. IBM은 특정 산업에 대한 공격이 공급망과 필수 서비스 전반으로 확산될 가능성이 있다고 분석했다. AI 자체를 겨냥한 보안 위협도 늘고 있었다. 응답 기업의 20% 이상은 AI 모델 또는 AI 애플리케이션을 대상으로 한 침해사고를 경험했다고 답했으며 주요 원인으로 API·애플리케이션·플러그인 보안 취약점과 AI 워크로드 관련 클라우드 설정 오류가 각각 27%를 차지했다. 랜섬웨어 공격 역시 AI를 활용해 더욱 고도화되는 것으로 조사됐다. 랜섬웨어 관련 사고 비중은 지난해 34%에서 올해 39%로 증가했으며 공격자들은 운영 차질뿐 아니라 기업 평판을 주요 압박 수단으로 활용하는 사례가 가장 많았다. 수자 비스웨산 IBM 시큐리티 소프트웨어 부문 부사장은 "AI는 사이버 공격을 더 빠르고 저렴하게 만드는 반면, 침해사고 대응 비용은 계속 증가하고 있다"며 "위협을 발견한 이후 실제 해결까지 오랜 시간이 소요될수록 그 격차는 곧바로 피해 비용 증가로 이어진다"고 말했다. 이어 "이제는 개발 프로세스에 복구와 대응 역량을 내재화하고 실행 환경에서의 신원 보안을 강화하며 공격자와 같은 속도로 위험을 해결하는 것이 중요하다"고 덧붙였다.

2026.07.30 16:44한정호 기자

  Prev 1 2 3 4 5 6 7 8 9 10 Next  

지금 뜨는 기사

이시각 헤드라인

카카오, 2개 회사로 나뉜다…카카오AI-카카오X로 성장 재설계

국내 반도체 장비업계 '방긋'...삼성·SK 증설에 수주잔고 2배 급증

[현장] AI 데이터센터도 '개방형 혁신'으로…글로벌 인프라 업계 한자리에

GPU 천하 AI 시장에 ‘추론 강점’ 국산 NPU 파고든다

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.