• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
ZDPick
인공지능
AI의 눈
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'보안 AI'통합검색 결과 입니다. (581건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

델 "에이전틱 AI 시대, 비용·효율 고려한 분산처리 필요"

"에이전틱 AI가 보급되며 여러 기업이 에이전트 활용을 독려하고 있다. 하지만 모든 직원이 AI를 효율적으로 활용하는 것은 아니다. 가치 낮은 업무에 많은 양의 토큰을 쓰는 한편 가치 있는 업무를 매우 적은 토큰으로 수행하는 상황도 발생한다." 25일 오전 서울 삼성동 코엑스에서 진행된 '델테크놀로지 CSG 미디어 간담회'에서 유상모 델테크놀로지스 총괄사장이 이렇게 강조했다. 델테크놀로지스는 연례 행사 '델 테크놀로지스 포럼' 일부인 이날 행사에서 AI 처리를 클라우드에만 의존하는 것은 보안과 토큰당 비용 면에서 적합하지 않다고 지적했다. 이어 보완책으로 AI PC와 워크스테이션 등으로 AI 처리를 분산하는 '책상 옆(데스크사이드) AI'를 제시했다. 에이전틱 AI 대응 3대 전략 제시 "AI 토큰도 비용" 이날 델테크놀로지스는 에이전틱 AI 시대의 대처 방안을 ▲ AI 토큰경제 ▲ AI 네이티브 조직을 위한 AI PC ▲ AI 확산에 따른 엔드포인트 보안 등 세 가지 축으로 제시했다. 정재욱 델테크놀로지스 이사는 "클라우드는 대규모 연산이 일어나는 환경에, 데이터 소유권과 통제가 중요한 연산은 기업이나 조직 내 데이터센터가 적합하다. 반면 반복적인 추론이나 민감한 데이터는 데스크사이드에서 처리해 효율을 확보할 수 있다"고 설명했다. 이어 "엔비디아 GB10·GB300과 x86 CPU·엔비디아 GPU 등으로 구성된 워크스테이션은 로컬 AI 개발과 에이전트 개발·테스트에 적합하다. 개발된 모델이나 에이전트는 필요에 따라 델 파워엣지 서버로 확장할 수 있다"고 덧붙였다. "책상 위 AI PC로 효율·보안 강화" AI PC는 CPU·GPU·NPU를 활용해 일부 LLM 구동과 추론을 로컬에서 수행할 수 있어 클라우드 API 호출에 따른 토큰 비용을 줄이는 방안으로 활용할 수 있다. 개인정보나 고객정보, 대외비 등 민감한 데이터 외부 유출 가능성도 줄인다. 정재욱 이사는 "델은 인텔 코어 울트라 시리즈3와 AMD 라이젠 AI 400 등을 기반으로 한 '델 프로' 제품군을 업무 수준과 예산에 따라 세분화했다. 14·16형 업무용 노트북인 델 프로 5 이외에 최대 50 TOPS NPU를 내장한 델 프로5 마이크로 등을 공급한다"고 설명했다. 기기 내 저장된 데이터와 각종 모델을 외부 공격에서 방어하기 위한 보안의 중요성도 커지고 있다. 정재욱 이사는 "델테크놀로지스는 제품 조립 단계부터 공급망 보안, 바이오스와 펌웨어 무결성 검증, 마이크로소프트 인튠 등 기기 관리 솔루션과 연동한 텔레메트리 등으로 보안을 강화하고 있다"고 설명했다. "에이전틱 AI, 워크로드 분산 촉진할 것" 이날 델테크놀로지스는 AI PC와 데스크사이드 AI 전략을 소개하며 최근 CSG 사업 성장세도 강조했다. 이성민 델테크놀로지스 전무는 "회계연도 기준 올해 2~4월(1분기) CSG 매출은 146억 달러(약 20조 2049억원)로 전년 동기 대비 17% 증가했으며 이 중 기업용 PC 부문 매출은 130억 달러(약 18조 180억원)로 18% 성장했다"고 밝혔다. 델테크놀로지스는 반도체 수급난과 경기 불확실성으로 기업의 IT 비용 부담이 커지는 상황에서도 공급망 최적화와 운영 효율화를 통해 비용 상승 영향을 최소화한다는 방침이다. 정재욱 이사는 "AI가 프롬프트 중심에서 에이전틱 AI 중심으로 이동하고 있는 만큼 AI 처리를 분산하려는 흐름은 지속될 것이며 기업 역시 비용 부담을 고려하면서 어떤 AI를 어디에 배치할 지 선택하는 것이 중요해질 것"이라고 전망했다.

2026.08.25 15:40권봉석 기자

AI 보안기업 에버스핀의 성장 공식 '고객이 고객을 만든다'

인공지능(AI) 기반 사이버 보안기업 에버스핀이 에버세이프(웹)·페이크파인더 등 해킹·피싱 방지 솔루션으로 국내를 넘어 일본·인도네시아를 비롯한 해외로 시장 저변을 확대하고 있다. 에버스핀은 국내 은행·증권·보험 분야에서 70여 개 금융사를 고객으로 확보하고 있다. 일본에서도 SBI그룹과 설립한 현지 합작법인을 통해 70여 개 고객사를 확보했다. 최근에는 인도네시아에서도 금융사를 중심으로 고객 기반을 확대하고 있다. 에버스핀은 이 같은 성장의 핵심을 '기술력과 고객 레퍼런스의 선순환'으로 설명한다. 높은 신뢰성과 안정성이 요구되는 금융보안 시장에서 기존 고객의 실제 도입 경험이 또 다른 고객의 선택으로 이어지고 있다는 것. 김정원 에버스핀 영업본부장은 “보안기업의 가장 강력한 영업 자산은 결국 실제 제품을 사용하고 있는 고객”이라며 “에버스핀은 기술에 만족한 고객이 새로운 고객에게 신뢰의 근거가 되고, 그 고객이 다시 새로운 레퍼런스가 되는 선순환 구조를 만들어 왔다”고 설명했다. 에버스핀의 성장 공식은 해외에서 그대로 재현되고 있다. 국내 금융권에서 검증된 기술과 레퍼런스를 기반으로 일본에서 70여 개 고객사를 확보했다. 최근에는 인도네시아 금융시장에서도 고객을 늘리며 해외 사업을 확대하고 있다. 김 본부장은 “국내에서 검증된 기술이 고객을 만들었고, 그 신뢰가 일본과 인도네시아에서도 다시 고객을 만드는 패턴이 이어지고 있다”며 “시장과 언어는 달라도 결국 고객이 선택하는 포인트는 검증된 기술과 성공 사례”라고 말했다. 에버스핀은 기업공개(IPO)를 계기로 이 같은 성장 모델을 더욱 확대한다는 방침이다. 국내에서는 금융을 넘어 공공·국방·커머스·엔터프라이즈 시장으로 영역을 넓히고, 해외에서는 이미 진출한 일본과 인도네시아를 표본 삼아 아직 진출하지 않은 수많은 나라로 확장하는데 속도를 낼 계획이다. 좋은 기술이 고객을 만들고, 만족한 고객이 다시 새로운 고객을 만든다. 국내 금융 약 70개사에서 일본 약 70개사, 그리고 인도네시아로 이어진 에버스핀의 성장 공식이다.

2026.08.25 14:03주문정 기자

SKT, A.X K2·에이닷 결집해 '모두의 AI' 도전…실행하는 AI 만든다

SK텔레콤이 자체 AI 모델 'A.X K2'와 에이닷 운영 역량을 결집해 정부의 대국민 AI 서비스 '모두의 AI' 사업에 도전한다. 단순히 질문에 답하는 챗봇을 넘어 이용자의 업무를 직접 수행하고 결과까지 도출하는 '실행하는 AI'를 선보인다는 구상이다. 유경상 SK텔레콤 AI CIC장은 뉴스룸 기고문을 통해 “모두의 AI의 성과도 대화의 횟수가 아니라 완료된 일의 숫자로 측정돼야 한다”며 AI 에이전트 중심의 서비스 개발 계획을 밝혔다. 모두의 AI는 과학기술정보통신부가 국민의 AI 활용을 확대하고 해외 AI 서비스 의존도를 낮추기 위해 추진하는 사업이다. SK텔레콤 KT 카카오 이스트소프트 컨소시엄과 엠케이디, 제논 등 총 6개 컨소시엄 기업이 사업 제안서를 제출했다. 과기정통부는 AI 모델 서비스 경쟁력과 GPU 활용·인프라 운영계획 등을 평가해 이달 중 2~3곳을 선정할 예정이다. 선정 기업에는 엔비디아 B200 GPU 512장이 지원되며, 범용 AI 챗봇과 공공 AI 에이전트를 전 국민에게 제공하게 된다. A.X K2에 에이닷 운영 노하우 결합 SK텔레콤은 독자 AI 파운데이션 모델 프로젝트 3단계에 진출한 6880억개 매개변수 규모의 'A.X K2'와 월간활성이용자(MAU) 1000만명을 넘어선 '에이닷'의 서비스 운영 노하우를 결합한다. 유 AI CIC장은 향후 AI 경쟁력이 개별 모델의 성능만으로 결정되지 않을 것으로 내다봤다. 인프라 단계에서 비용과 지연 시간을 줄이고, 모델의 추론 품질을 높인 뒤 서비스에서 확보한 이용자 피드백을 다시 모델 개선에 반영하는 선순환 구조가 중요하다는 설명이다. 그는 “미래 AI 경쟁은 가장 좋은 모델을 한 번 만들어내는 경쟁이 아니라, 가장 빠른 '지능의 개선 루프'를 구축하는 경쟁이 될 것”이라고 말했다. 특히 AI 서비스가 질문에 답하는 단계를 넘어 이용자를 대신해 실제 업무를 처리하는 방향으로 발전해야 한다고 강조했다. 모델 자체의 정답률보다 이용자의 요청이 실제 결과로 이어지는 성공률이 중요하다는 것이다. 유 AI CIC장은 “모두의 AI의 성과도 대화의 횟수가 아니라 완료된 일의 숫자로 측정돼야 한다”고 강조했다. 20여개 기업 전문성 연결…SKT는 '오케스트레이터' SK텔레콤은 이를 위해 금융 모빌리티 미디어 교육 의료 공공 세무 돌봄 등 다양한 분야의 약 20개 기업·기관과 컨소시엄을 구성했다. SK텔레콤이 모든 서비스를 직접 개발하는 대신 이용자의 요청을 분석하고 각 분야에 적합한 기술과 전문 서비스를 연결하는 '오케스트레이터' 역할을 맡는다. 이를 통해 일반적인 일상 업무뿐 아니라 청년·소상공인·시니어 등을 위한 세무·행정·돌봄 분야까지 AI 에이전트의 활용 범위를 확대한다는 계획이다. 대국민 AI 서비스 확산을 위한 핵심 요소로는 신뢰성을 꼽았다. AI가 국민의 일상과 업무에 깊숙이 활용될수록 개인정보와 보안 등 위험을 통제할 수 있는 역량이 중요해진다는 판단이다. 유 AI CIC장은 신뢰를 위험이 전혀 없는 상태가 아니라 '위험을 다루는 능력'이라고 정의하며, 철저한 보안 시스템을 구축해 누구나 안심하고 AI를 활용할 수 있는 환경을 만들겠다고 밝혔다.

2026.08.25 08:40홍지후 기자

[기자수첩] 해킹 올림픽 '데프콘 2026'이 보여준 것

'해킹 올림픽'으로 불리는 세계 최고 권위 해킹 대회 '데프콘(DEF CON) CTF 2026'이 최근 막을 내렸다. 그런데 본선 참가자 사이에서 한 가지 소문이 돌고 있다. 1위를 차지한 팀 '블루워터(BlueWater)'가 5만달러(한화 약 7000만원)에 달하는 AI 토큰을 사용했다는 것으로, 막대한 금액의 토큰이 1위를 차지하는데 큰 영향을 줬다는 것이다. 이에 대해 1위 팀 소속의 한 참가자는 SNS에 "명확히 하자면 이번 데프콘 CTF에서 토큰에 5만달러를 쓰지는 않았다. 이보다 적게 지불했지만 금액은 공개할 생각은 없다. 단순 추측이더라도 소문을 퍼뜨리지 말아 달라"고 밝혔다. 데프콘 본선 참가자들은 1위 팀이 5만달러까지는 아니라도 적지 않은 금액을 투입했을 것으로 보고 있다. 이에, 후원 없이 사비로 토큰을 사용했고, 인력도 한참 모자란 팀은 상대적으로 고득점을 노리기 어려운 환경이었다는 볼멘 소리도 나왔다. 그렇다고 데프콘 CTF가 오로지 '쩐의 전쟁'이 된 건 아니다. 2위를 기록한 한국 팀 '0x4b52'는 30여명의 순수 한국인으로만 구성, 비교적 적은 인원으로 구성됐고 토큰도 그리 많이 사용하지 않았지만 2위를 했다. 7위로 대회를 마친 '진따비스(Jinddabi's)' 팀 소속 참가자는 "1위를 한 블루워터 팀이 막대한 AI 토큰을 사용했다는 얘기를 나도 들었다. 누군가는 토큰이 부족했을 수도 있고 누군가는 적당했을 수도 있다. 하지만 한 가지 확실한 점은 토큰을 많이 사용했다는 것 자체가 이미 고도의 질의와 프롬프트를 운용할 수 있는 사람이고, 실력 있는 사람이다"면서 "진따비스 팀도 인원이 100명으로 많은 인원이었는데 각 인원이 최대 토큰을 사용했으면 못해도 3등 안에 들었어야 했는데, 토큰 사용량이 순위와 비례하지는 않았다"고 짚었다. 이어 그는 그는 "토큰을 많이 사용할 줄 알고, 잘 활용하는 사람들이 상위권을 차지했다고 생각한다"며 "과거에는 인간이 해킹 기술을 얼만큼 많이 알고 있고 잘 활용하는지가 데프콘 CTF의 상위 성적을 거둘 수 있는 요인이었다면, 지금은 LLM을 얼마나 잘 다루느냐가 관건이 된 시대다"고 말했다. 블루워터 팀 소속이라고 밝힌 한 참가자는 SNS에서 LLM이 일부 기술 장벽을 낮췄지만 팀 간 기술 차이를 없앤건 아니라고 생각한다면서 "우리가 우승할 수 있었던 가장 큰 이유는 오랜 세월 데프콘 CTF에 참가해 온 베테랑 멤버들이 있었고, 그들이 축적한 경험과 지식, 판단력, 대회에 대한 이해가 유리하게 작용했다"고 진단했다. 이어 그는 LLM이 팀 간 기술 차이를 일부 완화했지만 LLM으로 완전히 대체되지는 않았다면서 "LLM은 기술적인 업무의 모습을 바꿀 수는 있지만, 경험, 지식, 판단력을 무의미하게 만들지는 않는다"고 강조했다. 다른 참가자도 "상위 팀들은 챗GPT 계정을 통합하는 등 토큰을 최대치까지 공격적으로 사용했다. 하지만 이전에 더 잘했던 사람들도 LLM이 등장한 후에도 더 잘했으며, 그들이 많은 문제를 해결하고 있다. '토큰 맥싱'은 토큰 맥싱일 뿐"이라고 말했다. 이들의 의견을 종합하면 LLM이 데프콘 CTF 풍경을 크게 바꾸어 놓은 것은 부정할 수 없는 사실이다. 이 과정에서 막대한 토큰 비용과 인력 및 자본력의 차이가 불평등한 출발선을 만든다는 불만과 회의론이 나오는 것도 충분히 이해할 수 있는 대목이다. 그러나 기술적 장벽이 낮아진 환경 속에서도 승패를 가른 결정적 요인은 결국 AI를 효율적으로 운용하는 고도의 프롬프트 기술과 오랫동안 축적된 베테랑들의 경험, 그리고 냉철한 판단력이었다. 데프콘 CTF가 나아가야할 방향성은 이미 정해졌다. LLM이라는 강력한 도구를 얼마나 깊이 이해하고 유연하게 다룰 수 있느냐가 새로운 경쟁력이 되는 시대가 도래했다.

2026.08.20 15:27김기찬 기자

팀스파르타, 폐쇄망서 활용 가능한 생성 AI 코딩 에이전트 전면에

팀스파르타(대표 이범규)가 지난 19일 'AI 서밋 서울 2026'에 참가해 폐쇄망 기반 AI 코딩 에이전트 'AX 포트리스'를 선보였다. 이번 행사에서 팀스파르타는 외부와 분리된 폐쇄망에서도 활용 가능한 생성형 AI 코딩 에이전트를 전면에 내세워 참관객들로부터 주목을 받았다. AX 포트리스 체험존은 인터넷이 차단된 워크스테이션에 개발 과제를 입력하면, AI가 코드 생성과 자동완성, 코드 검토부터 빌드·테스트·배포까지 수행하는 전 과정을 직접 확인할 수 있도록 구성했다. 소스코드가 외부로 전혀 전송되지 않는 구조를 적용해 보안 규제로 생성형 AI 도입에 어려움을 겪는 기업 관계자들의 관심을 끌었다. AX 포트리스는 자체 개발한 프런티어급 모델 'K-AX 스파르탄 122B'를 탑재했다. 초경량 버전 'K-AX 스파르탄 1.8B'는 과학기술정보통신부와 한국지능정보사회연구원(NIA)의 'K-AI 리더보드' 초고난도 추론 평가 HLE(Ko)에서 0.123점으로 국내 1위에 올랐다. 현장에서는 폐쇄망에서도 대규모 레거시 코드를 빠르게 분석하는 처리 성능과 지연 없는 응답 속도, 사용량에 따른 추가 과금 없이 전사 단위로 활용할 수 있는 운영 방식이 눈길을 끌었다. 특히 공공·금융 분야 관계자들은 망 분리 시스템에서의 적용 가능성과 기존 개발 체계 연동 방식, 기업 내부 코드 기반 AI 구축 방안 등에 대해 주목했다. AX 포트리스는 최대 100만(1M) 토큰 컨텍스트를 지원해 A4 문서 약 1500장을 한 번에 분석할 수 있으며, 초당 50 토큰(TPS 50)의 속도로 응답한다. 파이썬 코딩 정확도는 BFCL V4 기준 95.25%를 기록했고, 자동완성 응답 시간은 워크스테이션 한 대 기준 0.3초 미만으로 측정됐다. 사용량에 따른 추가 과금이 없어 대규모 조직에서도 비용을 예측하며 안정적으로 활용할 수 있는 점도 강점이다. 외부 통신이 차단된 온프레미스 패키지 형태인 AX 포트리스는 데이터 유출을 원천 차단하면서도 코드 자동완성, 리팩토링, 함수 생성 등 상용 AI 수준의 개발 기능을 지원한다. 팀스파르타는 이번 전시를 계기로 공공·보안·금융·의료 분야 기업들과 기술 검토 및 도입 협의를 확대해 나갈 계획이다. 이범규 팀스파르타 대표는 "이번 AI 서밋 서울은 생성형 AI를 도입하고 싶어도 보안 규제로 쉽게 적용하지 못했던 기업과 기관들이 폐쇄망에서도 프런티어급 AI 성능을 경험할 수 있다는 가능성을 확인한 자리였다"며 "앞으로도 보안이 중요한 산업이 AI 전환을 현실화하도록 적극 지원하겠다"고 강조했다.

2026.08.20 10:21백봉삼 기자

K-미토스 만들자…보안 특화 AI 사업 공모 5일 연장

이른바 '미토스 충격'이라 불리는 인공지능(AI) 사이버 공격 위협에 대응하기 위한 정부의 사이버 보안 특화 AI 개발 사업 공모 접수 기한이 5일 연장됐다. 19일 업계에 따르면 과학기술정보통신부와 정보통신산업진흥원(NIPA)은 지난 달 말 '사이버 보안 특화 AI 파운데이션 모델 개발 사업' 공모 마감일을 8월 21일 오후 2시에서 8월 26일 오후 2시로 5일 연장하는 내용으로 재공고했다. 이번 사업의 목적은 국내 독자 AI 기술과 모델 기반의 사이버 보안 특화 AI 파운데이션 모델을 개발하는 데 있다. 우리나라 사이버 보안 분야에 AI 기술을 적용헤 국내 자체 보안 AI 기술 역량 축적과 보안 산업의 AI 전환(AX) 혁신 가속화 등을 제고하겠다는 취지다. 국내 AI 및 사이버 보안 관련 기업, 대학, 연구기관이 지원 대상이며 평가를 거쳐 총 1개 팀을 선정한다. 최종 선발된 팀에게는 보안 특화 AI 개발에 투입할 그래픽처리장치(GPU) B200 256장(32 노드)이 총 10개월간 지원될 예정이다. 규모로 보면 200억~300억 원 수준이다. 이후 정부는 사업 지원 5개월이 지난 시점에 중간 성과 모델을 공개 및 점검하고 그 결과를 바탕으로 지속 지원 여부를 결정할 계획이다. 사업을 통해 개발된 모델은 오픈소스로 제공된다. 업계에 따르면 LG CNS, LG AI연구원, LG유플러스 등이 사업에 참여할 전망이다. SK텔레콤과 네이버클라우드도 컨소시엄을 구성 중인 것으로 알려졌다. 보안 기업 중에는 SK쉴더스, 로그프레소, 엔키화이트햇, S2W 등이 참여를 검토하는 것으로 전해진다. 과기정통부 관계자는 "공모 안내서 및 제출 서류 양식 일부에 수정 사항이 생기면서 공모 기간도 자동 연장됐다"며 "행정 처리에 따른 것"이라고 말했다.

2026.08.19 17:33이나연 기자

SGA솔루션즈, 올 상반기 매출 300% '껑충'…흑자 전환도 달성

통합 IT 보안 전문 기업 SGA솔루션즈(대표 최영철)가 올해 상반기 흑자 전환 및 300%가 넘는 매출 성장세를 달성했다. SGA솔루션즈는 최근 공시를 통해 2026년 상반기 연결 기준 매출액 751억원, 영업이익 21억3000만원을 기록했다고 18일 밝혔다. 이는 전년 동기 대비 매출액은 309.4% 폭증했으며, 영업이익은 흑자로 전환한 수치다. SGA솔루션즈는 사업 포트폴리오 확장과 통합보안 사업 재편 효과가 실적에 본격적으로 반영되면서 성장과 수익성을 동시에 확보한 영향이라고 평가했다. 특히 지난해 잇단 해킹 사고가 발생했던 만큼 본업인 보안솔루션 부문에서의 성장 기반이 강화됐다. 핵심 시스템을 보호하는 서버보안 제품에 대한 수요가 확대된 것이다. 또한 클라우드 전환과 서버 인프라 증설, AIDC 구축 확대 등으로 보호 대상과 접근 경로가 늘어난 점도 서버 인프라 보안 수요를 높이는 요인으로 작용했다. 공공 부문에서는 국가 망보안 체계(N2SF) 전환에 따른 신규 보안 수요까지 빠르게 확대됐다. 사용자와단말, 접근 권한을 지속적으로 검증하고 최소 권한을 부여하는 제로트러스트 기반의 접근통제·계정인증 수요가 본격화될 것으로 회사는 전망하고 있다. SGA솔루션즈는 이러한 시장 변화에 선제 대응해 서버보안을 중심으로 엔드포인트·클라우드·접근통제·계정인증 솔루션을 연계해 N²SF와 제로트러스트 전환 수요에 총력을 다한다는 계획이다. 보안업계 특성상 하반기에 매출이 집중되는 만큼 SGA솔루션즈는 하반기 공공·금융권의 서버보안 및 제로트러스트 프로젝트 수주와 매출 전환 속도를 끌어올려 솔루션 부문의 수익성 개선을 본격화할 방침이다. 최영철 SGA솔루션즈 대표는 "AI발 사이버 공격 고도화와 N2SF 전환으로 서버보안·제로트러스트 수요가 가파르게 늘고 있다"며 "통합보안 사업을 하반기 수주·매출로 빠르게 전환해 실적 성장과 수익성 개선을 동시에 달성하겠다"고 말했다.

2026.08.18 14:44김기찬 기자

LG 컨소시엄, '엑사원' 앞세워 보안 특화 AI 모델 개발 추진

LG CNS와 LG AI연구원, LG유플러스가 LG 컨소시엄을 꾸리고 대규모언어모델(LLM) '엑사원(EXAONE)' 기반 사이버보안 특화 AI 파운데이션 모델 개발에 나선다. 12일 업계에 따르면 LG CNS, LG AI연구원, LG유플러스 등은 과학기술정보통신부의 '특화 인공지능 파운데이션 모델 개발(사이버보안 분야) 사업' 참여를 준비하고 있다. 이번 사업은 국내 산업 현장에서 활용 가능한 특화 AI 모델을 육성하고 관련 생태계 조성 기반을 마련하는 데 초점이 맞춰져 있다. 업계에 따르면 SK텔레콤과 네이버클라우드도 이번 사업 참여를 준비 중인 것으로 알려졌다. 국내 주요 ICT 기업 간 사이버보안 특화 AI 파운데이션 모델 선점 경쟁이 본격화하는 양상이다. LG 컨소시엄은 LG AI연구원의 초거대 AI 모델 '엑사원'을 보안 데이터셋으로 파인튜닝해 사이버보안 특화 AI 모델을 공동 개발할 계획이다. LG AI연구원과 LG CNS가 모델 개발을 주도한다. 이 과정에서 LG CNS는 AI 학습용 보안 데이터의 정제, 라벨링, 표준화, 가공을 맡는다. 동시에 개발 모델의 보안 성능 검증도 수행할 예정이다. LG유플러스는 모델 학습에 필요한 보안 데이터를 제공하고, 개발된 모델의 실증 검증을 담당한다. LG CNS는 그룹 내 사이버보안 역량을 바탕으로 이번 사업 경쟁력을 확보한다는 전략이다. 실제 공격자 관점에서 시스템 취약점을 점검하는 '레드팀', 공격 탐지와 방어를 맡는 '블루팀', AI 모델과 데이터, 서비스 전반의 보안 위협에 대응하는 'AI보안팀' 등 전문 조직을 운영하고 있다. 여기에 공공, 금융, 제조, 물류 등 다양한 산업에서 AX 사업을 수행하며 축적한 현장 경험도 강점으로 꼽힌다. LG CNS는 산업별 디지털 전환과 AI 적용 경험을 기반으로 사이버보안 특화 AI 모델의 실효성을 높인다는 방침이다. LG 컨소시엄은 이번 사업을 통해 확보한 모델을 국내 보안 기업과 기관이 활용할 수 있도록 해 보안 서비스 개발 기반을 넓힌다는 계획이다. 단순한 모델 개발을 넘어 국내 AI 보안 산업 생태계 활성화로 연결하겠다는 의미다. LG CNS 측은 "이번 사업을 통해 사이버보안 특화 AI 파운데이션 모델을 확보하고, 국내 보안 기업과 기관이 이를 활용해 다양한 보안 서비스를 개발할 수 있는 기반을 마련함으로써 국내 AI 보안 산업 생태계 활성화에 기여할 계획"이라고 밝혔다.

2026.08.12 16:15남혁우 기자

[현장] "SBOM 공유 및 관리 플랫폼 '스패로우 시큐어허브' 시선"

공급망 보안 전문 기업 스패로우(대표 장일수)가 11일 서울 코엑스에서 이틀 일정으로 개막한 국재 보안 컨퍼런스 'ISEC 2026'에서 소프트웨어 개발 전주기에 걸친 통합 보안 솔루션을 선보였다. 또 올해 새로 출시한 솔루션도 함께 출품, 시선을 모았다. 특히 스패로우는 공급망 보안 핵심으로 꼽히는 소프트웨어 자재명세서(SBOM)의 무결성을 검증하고 수요사와 공급사 간 안전한 유통을 지원하는 SBOM 공유 및 관리 플랫폼 '스패로우 시큐어허브'도 전시했다. 스패로우 시큐어허브는 스패로우가 올해 새롭게 출시한 솔루션으로, SBOM이 위·변조되지 않았다는 무경설을 보장함과 동시에 새로운 취약점이 발견될 때마다 SBOM을 일일이 검토해야 하는 한계를 극복하기 위한 '유통 플랫폼'이다. 분산된 SBOM을 중앙에서 통합 관리해 최신 상태로 운영하며, 권한 기반 접근 제어와 무결성 검증으로 SBOM을 안전하게 공유할 수 있도록 지원한다. 컴포넌트 및 새롭게 발견되는 취약점 변화를 지속 모니터링해 공급망 위험에 대응한다. 장일수 스패로우 대표는 이날 현장에서 "스패로우 시큐어허브는 SBOM을 둘러싼 수많은 이해관계자들의 유통을 지원하는 플랫폼으로 이해하면 된다"며 "위·변조된 SBOM이 공유되면 실제와 다른 정보로 공급망 관리에 혼란을 야기하기 때문에 무결성 검증과, 취약점에 신속하게 대응하는 것이 무엇보다 중요하다. 이같은 기능을 지원하는 플랫폼을 선보임으로써 공급망 참여자들 모두가 신뢰할 수 있는 SBOM 공유 환경을 실현했다"고 설명했다. '스패로우 시큐어허브' 뿐 아니라 인공지능(AI) 생성 코드 보안 어시스턴트인 '스패로우 MCP'도 이번 전시에서 선보였다. 스패로우 MCP 역시 올해 6월 처음 스패로우가 선보인 솔루션이다. AI가 코드를 생성하고, 이를 활용한 소프트웨어가 급증하고 있다. 그러나 AI는 사용자의 프롬프트에 따라 코드를 생성할 뿐, 해당 코드가 안전한지 아닌지 여부는 판별하지 않는다. 또한 AI 기반 개발 환경에서는 코드 생성과 수정이 빠르게 반복되기 때문에 특정 시점의 점검만으로는 생성되는 코드 전체를 검증하기가 더욱 어려워진 환경이다. 이에 스패로우는 '스패로우 MCP'를 통해 AI 기반 개발 환경 전반에 통합 보안을 적용해 지원한다. 장 대표는 "코덱스, 클로드 코드 등 AI 코딩 에이전트가 생성한 코드가 자동으로 스패로우 MCP 서버로 이동하고 보안 분석을 수행하는 원리다. 이후 스패로우 시큐어코딩(SAST) 등 분석 엔진이 안전한 코드만 다시 MCP 서버로 보내고, 사용자가 수정된 코드 및 조치 방향을 적용할 수 있도록 지원한다"며 "MCP 서버에는 3가지 분석 모델이 작동하며, 화면 전환이나 AI 개발 워크플로우에 지장을 주지 않는 환경에서 개발 흐름이 계속되면서도 시큐어 코딩이 가능하도록 지원하는 것이 핵심이다"라고 설명했다. 이 외에도 스패로우는 SBOM 생성 및 오픈소스 분석·관리 솔루션 스패로우 SCA, 소프트웨어 취약점 통합 분석 플랫폼 스패로우 엔터프라이즈 등 제품도 선보였다.

2026.08.11 18:16김기찬 기자

SK쉴더스 EQST, 데프콘 AI CTF서 5위 성과

SK쉴더스(대표 민기식)는 자사 화이트해커 그룹 EQST가 미국 라스베이거스에서 개최된 세계 최대 해킹 컨퍼런스 '데프콘(DEF CON) 34'의 AI Village에서 열린 CTF(Capture The Flag)에서 글로벌 200여 개 팀 가운데 최종 5위를 기록했다고 11일 밝혔다. EQST(이큐스트)가 참가한 AI CTF는 주어진 AI 모델을 기반으로 침투테스트를 수행하는 AI 에이전트를 구성하고, 이를 활용해 보안 문제를 해결하는 방식으로 진행됐다. 사람이 공격 과정을 일일이 수행하는 기존 CTF와 달리, AI 에이전트가 문제를 분석하고 공격 방법을 선택해 플래그(Flag) 획득을 시도하도록 만드는 것이 특징이다. EQST는 에이전틱 AI(Agentic AI)를 활용한 새로운 공격 방식과 향후 발생할 수 있는 보안 위협을 실전 환경에서 경험했다. 대회에서 확인한 AI 에이전트의 공격 전략과 문제 해결 사례는 향후 AI 서비스와 모델의 취약점 연구, AI 레드팀 및 보안 대응 기술 고도화에 활용할 계획이다. EQST는 AI CTF와 함께 데프콘의 대표 프로그램인 데프콘 34 CTF 본선에도 참가했다. 데프콘 CTF는 전 세계 최정상급 보안 전문가들이 참가해 실력을 겨루는 국제 해킹대회로, 올해 예선에는 686개 팀이 참가했으며 이 가운데 12개 팀만이 본선에 진출했다. SK쉴더스 EQST(이큐스트)와 네이버클라우드, 루비야랩, 핀란드 H-T8로 구성된 국제 연합팀 '더서울사우나쇼군네이트'에 합류해 본선 무대에 올라 9위를 기록했다. 대회에 직접 참가한 이호석 SK쉴더스 EQST랩 팀장은 “이번 데프콘에서는 기존 공격·방어 기술뿐 아니라 AI 에이전트가 스스로 문제를 분석하고 공격을 수행하는 새로운 방식을 직접 경험할 수 있었다”며 “글로벌 보안 전문가들과 경쟁하며 얻은 경험과 기술을 향후 AI 취약점 및 레드팀 연구, 보안 기술 고도화에 적극 활용할 계획”이라고 말했다. 김태형 SK쉴더스 EQST사업그룹장은 “전 세계 200여 개 팀이 참가한 AI CTF에서 국내 참가팀 중 유일하게 톱5를 기록한 것은 EQST가 축적해 온 AI 보안 기술과 실전 문제 해결 역량을 보여주는 성과”라며 “앞으로도 AI 기술을 활용한 새로운 공격과 보안 위협에 선제적으로 대응할 수 있도록 AI 취약점과 레드팀 연구를 확대하고, 글로벌 수준의 AI 보안 경쟁력을 지속적으로 강화해 나가겠다”고 말했다.

2026.08.11 16:29김기찬 기자

기업 데이터 건들기 시작한 AI…아카마이가 제시한 대응책은

인공지능(AI) 서비스와 에이전트가 기업 핵심 데이터에 직접 접근하면서 기존 데이터 유출 방지 체계만으로는 대응하기 어려워졌다는 분석이 나왔다. 10일 아카마이가 발표한 '2026년 기업 AI 사용 리스크 보고서'에 따르면 분산된 섀도 AI와 AI 고급 사용자, 브라우저 확장 프로그램 등이 기업 핵심 자산을 새로운 사이버 위협에 노출시키는 요인으로 지목됐다. 보고서는 지난해 초 실험 단계였던 기업 AI 활용이 빠르게 확산하면서 기존 보안 통제 역량을 넘어서는 수준에 이르렀다고 분석했다. 보고서는 기존 경계 보안을 우회할 수 있는 새로운 AI 기반 공격 기법으로 '바이브 해킹'과 '커서재킹' '코멧재킹'을 제시했다. 개발 환경과 브라우저, AI 에이전트처럼 사용자 업무 흐름 내부에 침투해 정보를 빼내거나 AI 동작을 조작하는 방식이다. 바이브 해킹은 개발 환경에 있는 로컬 마크다운 지시 파일을 변조해 AI 코딩 도구가 취약한 결과물을 만들거나 무단 작업을 수행하도록 유도하는 공격이다. 커서재킹은 악성 브라우저 확장 프로그램의 권한을 이용해 API 키와 독점 코드베이스, 대화 기록 등을 수집하는 방식이다. 코멧재킹은 웹 페이지에 악성 지시문을 삽입해 간접 프롬프트 인젝션을 일으킨다. 이를 통해 사용자의 로컬 AI 에이전트를 조작하고 파일과 이메일, 세션 자격 증명 등을 유출할 수 있다. 아카마이는 기업 최고정보보호책임자(CISO)가 AI 사용을 차단하는 대신 AI와 사용자가 상호작용하는 과정 자체를 관리해야 한다고 제안했다. 전체 AI 프롬프트 사용량이 집중된 고위험 직원군을 관리하고 모든 AI 서비스에 통합인증을 적용해 섀도 AI 사용을 통제하는 식이다. 실시간 프롬프트와 복사·붙여넣기 데이터, 문서 업로드를 맥락에 따라 검사하는 체계도 필요하다고 봤다. 브라우저와 통합개발환경(IDE) 확장 프로그램은 높은 수준의 접근 권한을 가질 수 있는 만큼 별도로 검증해야 한다고 지적했다. 자율적으로 업무를 수행하는 AI 에이전트에는 최소 권한 원칙과 행동 모니터링을 적용해야 한다고 강조했다. 보고서에 따르면 AI 확장 프로그램의 약 75%는 높은 수준의 권한이나 필수 권한을 요구했다. 이 가운데 16.3%에는 알려진 공통 취약점·노출(CVE)이 포함된 것으로 나타났다. 오르 에셰드 아카마이 엔터프라이즈 보안 제품 및 엔지니어링 부문 부사장은 "AI는 더 이상 단순한 생산성 향상 도구가 아니라 기업 핵심 자산에 직접 접근하는 협업 파트너로 자리 잡았다"며 "보안 리더들은 AI를 단순히 차단하려는 접근에서 벗어나 상호작용 레이어 수준에서 AI의 작동 방식을 지속적으로 통제하고 관리하는 방향으로 전환해야 한다"고 강조했다.

2026.08.10 15:46김미정 기자

[AI 리더스] 클라우드플레어 "AI가 바꾼 인터넷…엣지로 보안·비용 잡아야"

"인공지능(AI)이 인터넷 트래픽 비중을 빠르게 차지하고 있습니다. 기업은 AI 에이전트가 어떤 행동을 하고, 어떤 데이터를 주고받는지 신속히 파악해 보안과 비용을 동시에 관리해야 합니다. 사용자와 가까운 엣지에서 AI 트래픽을 실시간 파악하고 대응하는 역량이 더욱 중요해질 것입니다." 조원균 클라우드플레어 한국 지사장은 최근 지디넷코리아를 만나 AI 에이전트 확산이 인터넷 트래픽과 기업 보안 환경을 근본적으로 바꾸고 있다며 이같이 밝혔다. 사람이 직접 서비스를 이용해 트래픽을 만드는 기존 환경과 달리 AI 에이전트·자동화 시스템이 정보를 수집하고 외부 서비스를 호출하면서 '논휴먼 트래픽'이 빠르게 늘고 있다는 진단이다. 조 지사장은 "AI 에이전트가 사람의 개입 없이 스스로 외부 서비스에 접근하고 작업을 수행하면서 인터넷 트래픽을 만드는 주체 자체가 달라지고 있다"며 "이에 따라 AI 에이전트가 어디에 접근하고 어떤 데이터를 주고받는지 파악하는 것이 기술 과제"라고 밝혔다. 그는 AI가 단순히 사람 질문에 답하는 수준을 넘어 외부 시스템에서 직접 행동하기 시작하면서 보안 방식도 달라져야 한다고 봤다. 네트워크와 엔드포인트 등 정해진 영역을 지키는 기존 경계 중심 보안에서 데이터와 아이덴티티, 에이전트 행동을 실시간으로 확인하는 방식으로 무게중심이 이동하고 있다는 설명이다. 조 지사장은 "그동안 기업은 네트워크 보안이나 엔드포인트 보안처럼 영역별로 정적인 보안을 구축했다"며 "최근 데이터 보안이나 아이덴티티 보안처럼 상황에 따라 대응하는 동적인 보안이 중요해지고 있다"고 말했다. 최근 오픈AI의 AI 에이전트가 내부 사이버 역량 평가 과정에서 통제 환경을 벗어나 허깅페이스 인프라까지 침투한 사건도 동적 보안 필요성을 보여주는 사례다. AI 에이전트가 목표 달성을 위해 외부 시스템을 탐색하고 취약점을 활용하면서 어떤 에이전트가 어디에 접근해 무엇을 수행하는지 파악하는 문제가 새로운 보안 과제로 떠오른 것이다. 논휴먼 트래픽 증가는 기업 보안 아키텍처에도 영향을 미치고 있다. 기업이 서비스형소프트웨어(SaaS)와 클라우드, 엔드포인트 등을 서로 다른 솔루션으로 보호하는 상황에서 AI 에이전트와 봇 트래픽까지 급증하면 개별 제품만으로 전체 환경을 파악하고 통제하기 어려운 실정이다. 이에 조 지사장은 "기업은 일부 솔루션을 단순히 통합하는 수준이 아니라 전체 환경을 한눈에 보고 관리·통제할 수 있어야 한다"며 "그렇지 않으면 환경 전체를 관리하는 일 자체가 인간 통제 범위를 넘어설 수 있다"고 내다봤다. 현재 국내 대기업은 모든 보안 체계를 한번에 교체하기보다 일부 영역부터 통합하는 움직임을 보이고 있다. 조 지사장은 대표 사례로 보안 액세스 서비스 엣지(SASE)와 제로트러스트 네트워크 액세스(ZTNA) 활용 사례를 꼽았다. 이는 기존 VPN과 데이터유출방지(DLP), 보안 웹 게이트웨이 등 분산된 기능을 한 통합 플랫폼으로 관리하는 방식이다. 그는 "대기업은 이미 구축한 레거시 아키텍처와 조직 구조가 있어 전체 환경을 빠르게 바꾸기 어렵다"며 "그럼에도 비교적 빠르게 움직이는 분야가 SASE이며 AI 시대에 대응하기 위한 첫 단계로 볼 수 있다"고 설명했다. 조 지사장은 AI 에이전트 시대에 보안뿐 아니라 비용도 관리 대상이 된다고 봤다. 사람이 일일이 요청하지 않아도 에이전트가 AI 모델이나 외부 API를 지속해서 호출할 수 있어 기업이 예상하지 못한 사용량과 비용이 발생할 수 있기 때문이다. 그는 "AI 에이전트 하나를 운영하는 데 들어가는 비용이 상당하기 때문에 일부 기업에는 보안보다 비용 문제가 더 큰 과제가 되기도 한다"며 "결국 AI를 어떻게 기술·비용적으로 통제할지가 중요하다"고 봤다. 클라우드플레어는 AI 트래픽을 엣지에서 파악·관리할 수 있다는 점을 경쟁력으로 내세우고 있다. 사용자 요청이 중앙 데이터센터까지 이동하기 전에 엣지에서 트래픽을 확인할 수 있다는 이유에서다. 이를 통해 기업은 에이전트 행동과 데이터 흐름을 빠르게 식별하고, 보안 정책을 적용할 수 있다. 클라우드플레어는 기존 봇 관리와 분산서비스거부(DDoS) 공격 대응 과정에서 축적한 자동화 트래픽 분석 역량을 AI 에이전트 관리로 확장할 방침이다. 외부에서 들어오는 공격뿐 아니라 내부 AI가 외부 서비스로 보내는 데이터와 트래픽까지 함께 통제하는 데 초점을 맞춘다. 조 지사장은 "우리가 오랫동안 엣지에서 해온 일도 결국 봇 트래픽과의 싸움"이라며 "AI 트래픽 역시 크게 보면 그 연장선"이라고 말했다. 이어 "특정 데이터센터나 엔드포인트에서만 처리하는 것이 아니라 AI 트래픽이 활발하게 발생하는 엣지에서 보안과 비용을 함께 제어할 수 있다는 점이 우리 강점"이라고 강조했다. AI 추론 확대…한국서 '워커스' 사업 키운다 조 지사장은 AI 확산이 개발자 플랫폼 '워커스' 사업에 긍정적 영향을 미칠 것으로 봤다. AI 산업 무게중심이 대규모 모델 훈련에서 실제 서비스·추론으로 확대되면서 빠른 응답이 필요한 AI 애플리케이션을 사용자 가까이서 실행하는 엣지 중요성이 커지고 있다고 이유를 밝혔다. 조 지사장은 "AI가 실제 서비스에 적용될수록 빠른 응답과 실시간 처리가 중요해진다"며 "모든 트래픽을 중앙 클라우드까지 보내 처리하기보다 사용자와 가까운 엣지에서 처리해야 하는 영역이 계속 늘어날 것"이라고 내다봤다. 클라우드플레어는 전 세계 사용자와 가까운 곳에 구축한 PoP(Point of Presence)를 이런 AI 서비스 경쟁력으로 보고 있다. 지연시간에 민감한 AI 추론이나 이용자 위치와 상황에 따라 즉각 대응해야 하는 서비스에서 엣지 네트워크 장점이 커질 수 있다는 설명이다. 클라우드플레어는 이에 맞춰 엣지 기반 개발자 플랫폼 워커스와 '워커스 AI'를 한국 시장 성장 사업으로 확대할 계획이다. 워커스는 클라우드플레어 글로벌 엣지에서 애플리케이션을 개발·실행할 수 있도록 지원하는 플랫폼이다. 워커스 AI는 AI 모델을 이용한 추론 서비스 구축을 지원한다. 조 지사장은 "현재 한국에 워커스와 워커스 AI를 사용하는 고객이 상당수 있다"며 "일정 사용량까지 제공되는 무료 구간을 활용하는 경우가 다수"라고 밝혔다. 이어 "향후 사용량이 늘고 이를 핵심 서비스에 적용하기 시작하면 엔터프라이즈 계약과 유료 사용 확대로 이어질 수 있을 것"이라고 전망했다. 그는 "워커스가 아마존웹서비스(AWS)나 구글클라우드의 범용 개발 환경을 대체하기보다 빠른 배포와 민첩성, 낮은 지연시간이 필요한 서비스에 적합하다"고 플랫폼 특장점을 밝혔다. 이어 "무거운 애플리케이션 개발은 여전히 AWS나 구글 플랫폼에서 많이 이뤄진다"며 "워커스는 애자일하고 빠르면서 안전해야 하는 영역에서 높은 선호도를 보이고 있다"고 덧붙였다. 조 지사장은 여러 국가 이용자를 대상으로 서비스를 제공하는 디지털 네이티브 기업에서 워커스 효용이 크다고 짚었다. AI 기반 디자인과 문서 제작, 건축·의상 디자인 등에서도 작업 시간을 단축하는 서비스가 등장하면서 워커스 AI 활용 사례도 나타나고 있다는 설명이다. 조 지사장은 한국 스타트업·디지털 네이티브 기업 기술력과 서비스 경쟁력은 충분하다고 평가했다. 향후 초기 설계 단계부터 글로벌 이용자를 염두에 두는 기업이 늘어나면 워커스 같은 글로벌 엣지 플랫폼 활용 가치도 더욱 커질 수 있다고 봤다. 그는 "한국서도 혁신적인 앱과 서비스가 많이 나오고 있다"며 "앞으로 처음부터 한국을 넘어 글로벌 시장까지 고려해 서비스를 설계하는 기업이 더 많아졌으면 한다"고 말했다.

2026.08.10 10:50김미정 기자

中 키미 K3, 인터넷 무단접속→정답 확인…보안 강화해야

중국 인공지능(AI) 기업 문샷AI의 최신 모델 '키미 K3'가 사이버보안 평가 과정에서 격리된 시험 환경을 벗어나 외부 인터넷에 접속한 것으로 나타났다. 최근 첨단 AI 모델들의 사이버 역량이 높아지면서 평가 환경 자체의 보안 통제를 강화해야 한다는 지적이 나온다. 7일(현지시간) 미국 사이버보안 전문업체 프런티어 시큐리티에 따르면 문샷AI의 키미 K3는 영국 AI안전연구소(AISI)가 개발한 샌드박스 환경에서 보안 평가를 받던 중 외부 인터넷망에 접속했다. 샌드박스는 AI 모델이 외부 시스템에 영향을 미치지 못하도록 격리된 환경에서 성능과 안전성을 시험하는 장치다. 이번 평가는 취약점을 찾아 해결하는 '캡처더플래그(CTF)' 방식으로 진행됐다. 평가 환경은 외부에서 샌드박스 내부로 들어오는 통신을 차단했지만, 내부에서 깃허브로 향하는 일부 DNS·HTTPS 통신은 허용하고 있었다. 키미 K3는 명령줄 도구를 이용해 네트워크 환경을 점검하는 과정에서 이 경로를 찾아냈다. 이후 키미 K3는 외부 인터넷을 통해 개발자 코드 공유 플랫폼 깃허브에 접속했다. 깃허브 자체를 해킹한 것은 아니지만, 평가 문제의 정답이 담긴 벤치마크 저장소를 내려받아 내용을 확인한 뒤 이를 활용해 과제를 해결했다. 프런티어 시큐리티는 이번 사례가 샌드박스 자체를 해킹해 탈출한 것과는 다르다고 설명했다. 평가 환경을 설정하는 과정에서 외부로 향하는 일부 통신 경로를 열어둔 것이 원인이 됐다는 것이다. AISI 역시 샌드박스에 본질적인 취약점이 있었던 것은 아니라는 입장을 밝혔다. 업계가 주목하는 부분은 AI 모델이 주어진 과제를 해결하기 위해 허용된 통신 경로를 스스로 찾아 외부 정보를 활용했다는 점이다. 평가 환경에 작은 허점이 남아 있을 경우 고성능 AI 에이전트가 이를 찾아내 실제 능력과 다른 평가 결과를 만들어낼 가능성이 있다는 지적이다. 최근 고성능 AI 모델이 사이버보안 평가 환경의 허점을 찾아내는 사례가 잇따르고 있다. 프런티어 시큐리티에 따르면 오픈AI와 앤트로픽, 메타의 AI 모델에서도 각기 다른 방식으로 테스트 환경을 벗어나 외부 시스템에 접근한 사례가 확인됐다. 특히 키미 K3는 누구나 내려받아 사용하거나 개조할 수 있는 오픈소스 모델이라는 점에서 보안 우려가 제기된다. 앞서 통제 환경 이탈 사례가 보고된 오픈AI·앤트로픽·메타 등의 모델과 달리 공개된 모델은 외부에서 별도 안전장치 없이 활용될 가능성이 있기 때문이다. 연구진은 "충분한 능력을 갖춘 에이전트라면 인터넷으로 향하는 경로를 반드시 찾아낸다"며 "AI 모델의 역량이 높아질수록 평가 환경 역시 이에 맞춰 더욱 엄격하게 설계할 필요가 있다"고 밝혔다.

2026.08.08 08:52한정호 기자

오픈AI, 차세대 AI '아스트라' 개발 늦춘다…사이버보안 우려

오픈AI가 차세대 인공지능(AI) 모델 '아스트라(Astra)' 개발·시험 작업을 일부 중단하고 안전성 검증을 강화한다. 아스트라가 사람 개입 없이 보안 취약점을 찾아 공격에 활용할 수 있는 사이버 역량을 갖췄을 가능성이 확인되면서, 출시를 서두르기보다 보안 통제를 강화하기로 한 조치다. 7일(현지시간) 블룸버그통신에 따르면 오픈AI는 아스트라가 자체 안전 프레임워크에서 규정한 '중대(Critical)' 수준의 사이버 보안 역량에 도달했을 가능성을 배제할 수 없다고 판단하고 일부 개발·시험 작업을 일시 중단했다. 오픈AI는 최근 진행한 내부 평가에서 아스트라의 에이전틱 코딩과 사이버 보안 능력이 크게 향상된 것으로 나타났다고 설명했다. 전문가 평가까지 종합한 결과 현 단계에선 아스트라가 중대 수준의 사이버 역량을 갖췄을 가능성을 배제하기 어렵다는 판단을 내렸다. 오픈AI가 정한 중대 사이버 보안 역량은 사람 개입 없이 실제 주요 시스템에서 다양한 심각도의 '제로데이' 취약점을 찾아 실제 작동하는 공격 수단을 개발하거나, 구체적인 방법 없이 목표만 제시해도 새로운 사이버 공격 전략을 스스로 수립·실행할 수 있는 수준이다. GPT-5.6-솔은 아스트라보다 한 단계 낮은 '높음(High)' 수준으로 평가됐다. 이에 오픈AI는 아스트라 개발·평가 과정의 보안 조치를 대폭 강화 중이다. 격리된 테스트 환경을 구축하고 네트워크와 도구 접근을 제한하는 한편 모델 가중치 보호·암호화, 추가 모니터링·탐지 기능, 샌드박스 실행 등을 적용할 예정이다. 주요 외신에 따르면 오픈AI는 충분한 안전장치가 마련될 때까지 아스트라 개발 속도를 늦출 계획으로, 향후 출시 시점도 미뤄질 전망이다. 오픈AI는 미국 정부에도 출시 지연 계획을 자발적으로 알린 것으로 전해졌다. 아스트라는 오픈AI가 개발 중인 차세대 AI 모델로, 최근 고난도 수학 문제 해결 능력으로도 주목받았다. 오픈AI는 아스트라를 활용해 최소 10년 이상 풀리지 않았던 고차원 기하학과 군론, 양자 복잡도 등의 수학 난제 10가지를 해결했다고 밝힌 바 있다. 여러 AI 에이전트가 장기간 협력해 복잡한 문제를 해결하는 능력을 갖춘 것으로 알려졌다. 최근 AI 모델의 사이버 역량이 빠르게 높아지면서 안전성 우려도 커지고 있다. 최근 오픈AI와 앤트로픽이 모델 테스트 과정에서 허깅페이스를 비롯한 여러 기관의 시스템에 의도치 않게 침투한 사실이 공개됐다. 메타 역시 AI 모델이 제3자의 컴퓨터 시스템에 침투한 것으로 전해졌다. 오픈AI는 정부 기관과 일부 AI 안전 관련 기관을 대상으로 아스트라의 역량을 추가 검증할 예정이다. 외부 기관이 고위험 모델을 안전하게 평가할 수 있도록 제3자 테스트 파트너에 보안 통제 방안도 제공할 계획이다. 오픈AI는 "첨단 사이버 역량을 갖춘 모델은 공격자보다 먼저 취약점을 찾아 해결할 수 있도록 방어자를 지원해야 한다"며 "정부와 안전 연구기관, 시민사회와 협력해 아스트라와 그 이후 모델의 최첨단 역량이 책임감 있게 배포되고 인류 전체에 폭넓게 도움이 되도록 노력하겠다"고 밝혔다.

2026.08.08 08:24한정호 기자

안랩, 아태지역 엔드포인트 보안 '경쟁전략 리더십' 첫 선정

글로벌 통합보안 기업 안랩(대표 강석균)이 글로벌 시장조사 기관으로부터 엔드포인트 보안 아태지역 대표 회사로 인정받는 쾌거를 거뒀다. 안랩은 5일 글로벌 시장조사 기관 프로스트 앤드 설리번의 '2026 베스트 프랙티스'에서 처음으로 아시아·태평양 엔드포인트 보안 부문 '경쟁전략 리더십' 자격을 얻었다고 밝혔다. 지난 2019년부터 2025년까지 7년 연속 '올해의 한국 엔드포인트 보안 기업'에 선정된 데 이어, 이번에는 아태 시장 전체를 대상으로 경쟁력을 인정받으며 글로벌 시장에서의 위상이 한층 높아졌다. 프로스트 앤드 설리번은 매년 기업의 사업 전략 혁신성과 고객가치 창출 역량을 종합 평가해 산업별 '경쟁전략 리더십'을 선정한다. 올해 평가에서 안랩은 ▲통합 보안 운영을 구현하는 플랫폼 전략 ▲제품·서비스 전반의 AI 내재화 ▲위협 인텔리전스 중심 보안 생태계 등을 바탕으로 아태 지역 엔드포인트 보안 시장에서 차별화된 경쟁전략을 인정받았다. 특히 엔드포인트 보안을 비롯한 다양한 보안 역량을 개별 제품이 아닌 '보안 운영(Security Operations)' 관점에서 하나의 통합 플랫폼 체계로 연결한다는 점이 차별점으로 작용했다. 또한 'AI 기반 보안 운영' 전략 아래 AI를 단순 기능으로 활용하는 데 그치지 않고, 제품·서비스 전반에 내재화해 보안 운영의 자동화와 지능화를 추진한다는 점이 높은 평가를 받았다. 강석균 안랩 대표는 “국내를 넘어 아시아태평양 엔드포인트 보안 시장 전체를 대상으로 한 평가에서 경쟁력을 인정받았다는 점에서 의미가 크다”며 “글로벌 통합보안 회사로서 에이전틱 AI 기반 플랫폼 전략을 중심으로 전세계 고객이 신뢰할 수 있는 파트너로 자리매김할 것”이라고 말했다.

2026.08.05 18:22김기찬 기자

[AI는 지금] 구글·메타에 도전장…미스트랄, 기업용 AI 안전시장 본격 공략

프랑스 인공지능(AI) 기업 미스트랄AI가 기업별 정책에 맞춰 유해 콘텐츠 판정 기준을 바꿀 수 있는 소형 안전 모델을 공개하며 기업용 AI 시장 공략에 나섰다. 생성형 AI 활용이 업무 에이전트로 확대되면서 모델 성능뿐 아니라 보안과 규제 준수 역량이 주요 경쟁 요소로 떠오르자 안전 모델까지 오픈 웨이트 전략을 넓힌 모습이다. 미스트랄AI는 4일(현지시간) 공식 홈페이지를 통해 30억 개 파라미터 규모의 멀티모달 안전 분류 모델 '실드스트랄(Shieldstral)'을 아파치 2.0 라이선스로 공개했다. 실드스트랄은 텍스트와 이미지, 이용자 프롬프트와 AI 답변을 검사해 특정 안전 정책을 위반하는지를 확률 형태로 제시한다. 실드스트랄은 안전 기준을 모델에 고정하지 않고 추론 시점에 자연어로 입력하도록 설계된 것이 특징이다. 기업이 "이 콘텐츠가 개인정보를 노출하는가", "미성년자에게 보여줘도 안전한 이미지인가"와 같은 질문을 제시하면 해당 기준에 따라 콘텐츠를 판정한다. 기존 안전 모델은 폭력과 혐오, 성적 표현 등 개발사가 미리 정한 분류 체계를 주로 활용한다. 기업이 산업이나 이용자 특성에 맞춰 새로운 기준을 적용하려면 모델을 다시 학습하거나 별도의 규칙 엔진을 붙여야 한다. 반면 실드스트랄은 정책 문구만 바꿔 새로운 기준을 적용할 수 있어 금융과 의료, 공공, 교육 등 산업별 요구사항을 반영하기 쉽다. 같은 사이버 공격 관련 콘텐츠라도 일반 소비자 서비스에서는 차단하고 보안 연구 도구에서는 허용하는 식으로 서비스 목적에 따라 안전 수준을 조정할 수 있다. 텍스트와 이미지 안전 평가를 하나의 모델로 처리하는 점도 특징이다. 프롬프트와 답변을 각각 검사하거나 두 내용을 함께 평가할 수 있으며, AI가 이용자의 요청을 적절히 거부했는지와 유해한 답변을 내놨는지도 동일한 방식으로 판별한다. 모델은 '예'와 '아니요'에 해당하는 확률을 한 번의 추론으로 산출한다. 기업은 이 점수를 바탕으로 콘텐츠를 즉시 차단하거나 사람의 검토 대상으로 넘기는 등 자체 운영 기준을 설정할 수 있다. 실드스트랄은 16GB 엔비디아 그래픽처리장치(GPU) 1대에서도 구동할 수 있다. 대규모 클라우드 인프라 없이 기업 내부 서버나 프라이빗 클라우드에 배치할 수 있어 고객 대화와 내부 문서를 외부 콘텐츠 검수 서비스로 보내지 않고 처리할 수 있다. 이는 데이터 통제권을 중시하는 기업 고객을 겨냥한 구성으로 해석된다. 금융과 공공, 의료 기업은 생성형 AI를 도입하더라도 개인정보와 내부 데이터가 외부로 전송되는 것을 꺼리는 경우가 많다. 소형 오픈 웨이트 안전 모델을 내부에 구축하면 외부 안전 API 이용료와 민감한 데이터의 외부 전송 부담을 함께 줄일 수 있다. 실드스트랄 공개는 미스트랄AI의 기업용 AI 생태계 확대에도 힘을 보탤 것으로 예상된다. 기업과 개발자가 오픈 웨이트 안전 모델을 도입한 뒤 미스트랄의 생성 모델과 맞춤형 학습·평가 플랫폼 '포지(Forge)'까지 함께 검토할 가능성이 있어서다. 실드스트랄의 데이터 처리와 학습, 정렬, 평가 전 과정도 포지에서 이뤄졌다. 이는 안전 모델을 앞세워 자체 플랫폼의 기업 활용 가능성을 알리려는 전략으로 읽힌다. 이번 일로 미스트랄AI와 구글, 메타 등 기존 오픈 웨이트 안전 모델 사업자들의 경쟁도 확대될 전망이다. 구글은 텍스트용 '실드젬마'와 이미지용 '실드젬마2'를 제공하고 있으며, 메타는 라마 기반 안전 분류 모델 '라마 가드'를 공개했다. 미스트랄AI는 하나의 모델로 텍스트와 이미지, 프롬프트와 답변을 함께 처리한다는 점을 실드스트랄의 차별점으로 내세웠다. 기업이 새로운 정책을 자연어 질문으로 입력해 재학습 없이 판정 기준을 변경할 수 있다는 점도 기존 모델과의 경쟁 요소로 보고 있다. 이번 일은 AWS와 마이크로소프트 등 클라우드 사업자가 제공하는 가드레일 서비스에도 영향을 줄 수 있다. AWS는 아마존 베드록 가드레일을 통해 유해 콘텐츠와 민감정보, 금지 주제를 탐지하고 있으며 마이크로소프트도 애저 기반 콘텐츠 안전 서비스를 제공한다. 기업이 실드스트랄을 자체 인프라에 배치하면 클라우드 기반 안전 API에 대한 의존도를 낮출 수 있다. 오픈 웨이트 안전 모델이 확산할수록 클라우드 사업자도 가격과 처리 속도, 데이터 통제권, 산업별 정책 설정 기능을 강화해야 할 가능성이 커진다. 미스트랄AI는 자체 평가에서 실드스트랄이 텍스트 안전성과 거부 응답 탐지, 정책 적응성, 멀티모달 안전성 부문에서 최대 7배 큰 오픈 가드 모델과 대등하거나 높은 성능을 기록했다고 주장했다. 평가용 표본은 학습 데이터에서 제외했다고 설명했다. 미스트랄AI는 "실드스트랄은 모든 제품에 하나의 고정된 분류 체계를 적용하는 대신 서비스 맥락에 맞춰 적응하는 콘텐츠 조정을 향한 단계"라고 밝혔다.

2026.08.05 11:38장유미 기자

시스트란, 국방·방산 특화 온프레미스 AI 솔루션으로 고보안 시장 공략

시스트란이 강력한 보안과 맞춤형 커스터마이징 역량을 앞세워 국방 및 방산 도메인 시장 공략을 본격화한다. 시스트란은 국방·방산 분야에 특화된 온프레미스 AI 솔루션을 기반으로 고보안 산업 시장의 점유율을 확대한다고 4일 밝혔다. 시스트란의 온프레미스 AI 솔루션은 외부 인터넷망과 완벽히 분리된 폐쇄망 환경에서 독립적으로 구동된다. 데이터 유출 위험을 원천 차단해 보안이 최우선인 국방 및 방산 분야에 최적화된 것이 특징이다. 고객사의 도메인과 업무 환경에 맞춘 유연한 시스템 구축 역량도 장점이다. 시스트란은 록히드마틴, 에어버스, 보잉, NASA, FBI 등 글로벌 주요 방산·항공 기업과 미국 및 유럽 정부 기관을 대상으로 풍부한 레퍼런스를 확보하고 있다. 앞서 시스트란은 지난 6월 열린 군사과학기술학회 종합학술대회에 참가해 관련 솔루션을 시연했다. AI 번역기 'STS', AI 동시통역기 'SI&T', sLLM 플랫폼 'QUESAR', 온톨로지 관리 플랫폼 'I-ONT' 등 4종을 선보였다. 특히 국방백서 일부 문서를 적용한 국방 특화 온톨로지와 그래프DB AI 기반 관리 도구인 'I-ONT' 데모를 최초로 공개하며 현장의 이목을 끌었다. 시스트란 관계자는 "군사과학기술학회 참가를 통해 시스트란의 온프레미스 AI 솔루션이 국방·방산 도메인에서도 충분히 실전 적용 가능함을 확인했다"며 "유연하게 구축 가능한 온프레미스 아키텍처를 바탕으로 신뢰받는 AI 파트너로 자리매김해 나갈 것"이라고 전했다. 현장을 방문한 국방·방산 관계자들 역시 "합동 작전 상황에서의 통역, 방산 기밀 자료 번역 등에 시스트란 솔루션이 유용하게 활용될 수 있을 것 같다"며 "국방 분야 온톨로지 구축에 매우 유용한 도구가 될 수 있을 것"이라고 평가했다. 한편 시스트란은 오는 12월 8일부터 11일까지 일산 킨텍스에서 열리는 국내 최대 지상군 통합 방산전시회 'K-DEX 2026'에 참가한다. 향후 국방·방산을 비롯해 금융, 의료, 제조 등 고보안 산업군으로 온프레미스 AI 솔루션 공급을 확대할 계획이다.

2026.08.04 10:45정진성 기자

이름·연락처 없어도 건강 상태 안다…AI 개인정보 침해 '비상'

AI가 익명·집계 데이터에서도 개인의 건강 상태와 행동 패턴을 추론하면서 개인정보 침해 위험이 단순한 데이터 유출을 넘어 AI의 판단 결과로 확산되고 있다. 개인정보가 직접 빠져나가지 않아도 민감 정보가 드러날 수 있어 기존 보안 체계만으로는 대응이 어렵다는 지적이 나온다. 3일 시장조사기관 가트너에 따르면 대부분의 개인정보 침해 사고는 오는 2029년까지 개인식별정보(PII)의 직접적인 유출보다 AI가 개인에 대해 생성한 추론에서 비롯될 것으로 전망됐다. 가트너는 기업들이 규제 준수와 관리 비용 절감을 위해 개인 데이터 보유량을 줄이고 있지만, 생성형 AI와 머신러닝 기술이 발전하면서 데이터 최소화만으로 개인정보 위험을 낮추기 어려워졌다고 판단했다. AI는 익명화되거나 여러 사람의 정보가 합쳐진 데이터에서도 개인의 건강 상태와 선호, 행동 패턴 등 민감한 정보를 유추할 수 있다. 개인정보 침해 방식도 달라지고 있다. 기존 공격은 고객 정보나 의료 기록, 금융정보 등 저장된 데이터를 탈취하는 형태가 중심이었다. 반면 추론 기반 공격은 실제 기록을 빼내지 않고도 공개 정보와 비식별 데이터, AI 분석 결과를 결합해 특정 개인의 특성이나 상태를 알아내는 방식으로 진행된다. 이 과정에서 만들어진 정보는 원본 데이터가 아니기 때문에 기존 개인정보 유출 탐지 체계에 포착되지 않을 가능성이 크다. AI가 잘못된 데이터를 바탕으로 부정확하거나 편향된 프로필을 생성해도 당사자가 이를 확인하거나 정정하기 어렵다는 위험도 있다. 바트 빌렘센 가트너 수석 애널리스트는 "개인정보 침해 양상이 데이터 유출에서 인사이트 유출로 바뀌고 있다"며 "AI는 기존 데이터 통제에 구애받지 않고도 개인에 대한 심층적인 인사이트를 재현할 수 있다"고 말했다. 기업의 개인정보 보호 범위도 데이터 저장과 접근 통제를 넘어 AI 시스템의 판단 과정으로 확대될 필요가 있다. AI가 개인에 관한 정보를 어떤 방식으로 생성하고 어디에 활용하는지, 추론 결과를 토대로 어떤 조치를 실행하는지까지 관리해야 한다는 의미다. 가트너는 기업들이 AI 프로필의 오류와 편향, 무단 생성에 대응하기 위한 투자를 늘리면서 2028년까지 데이터 무결성 보호 지출이 기밀성 보호 투자와 비슷한 수준에 이를 것으로 내다봤다. 또 데이터가 외부에 노출되지 않도록 막는 데 집중했던 보안 투자는 AI가 생성한 정보의 정확성과 신뢰성을 확보하는 영역으로 확대될 수 있다고 전망했다. 가트너는 "기업은 AI 개발과 배포 전 과정에 프라이버시 중심 설계 원칙을 적용하고 알고리즘 편향과 과적합, 의도하지 않은 추론 가능성을 정기적으로 점검해야 한다"며 "차등 프라이버시와 합성 데이터, 개인정보 보호형 머신러닝 등 개인정보 보호 강화 기술을 적용해 재식별 위험을 낮추는 방안도 필요하다"고 강조했다. 이에 맞춰 기업들은 데이터 수집 범위를 필요한 수준으로 제한하고 접근 권한과 보존 기간을 엄격히 관리하는 기존 정책도 유지해야 한다. 또 추론 기반 위협을 식별할 수 있는 이상 징후 탐지와 모니터링 체계를 마련하고 AI가 민감 정보에 관한 조치를 수행하기 전 사람이 판단을 검증하는 절차도 필요할 것으로 보인다. 빌렘센 애널리스트는 "개인정보를 데이터 보호의 문제로만 인식하는 기업은 AI 생성 추론으로 인한 개인정보 침해 사고에 갈수록 취약해질 것"이라며 "향후 개인정보 보호 위험은 기업의 데이터 저장 방식보다 AI의 데이터 해석 방식에 더 크게 좌우될 것"이라고 말했다.

2026.08.03 09:39장유미 기자

잡코리아 vs 사람인, 'AI 후불형 채용' 승부…차별점은

최근 잡코리아와 사람인이 후불형 채용 상품의 인공지능(AI) 기능을 고도화하며 서비스 경쟁력 강화에 나서고 있다. 양사 서비스 모두 AI가 공고에 적합한 인재를 선별해 준다는 큰 틀은 비슷하지만, 각각 '보안성'(잡코리아)과 '자동화'(사람인) 영역에서 차별화를 꾀하는 모습이다. 31일 HR업계에 따르면, 사람인은 지난 29일 후불형 채용 상품 전용 AI 에이전트 서비스 '에이전트 핏'을 출시했다. AI 에이전트 핏은 현재 '스마트 리크루터'에만 우선 적용되며 후불형 채용 상품을 이용하는 기업은 누구나 사용할 수 있도록 설계됐다. 현재 잡코리아도 사람인의 '스마트 리크루터'와 유사한 원픽이라는 후불형 채용 상품을 운영 중이다. 잡코리아는 '보안', 사람인은 '자동화' 힘 줘 두 서비스는 AI가 채용 공고와 이력서를 종합 분석해 회사에 적합한 인재를 추천해준다는 점에서 유사하지만, 사람인은 '자동화'를 강점으로 내세우고 있다. 에이전트 핏은 공고 분석, 인재 추천에서만 그치는 것이 아니라 한 단계 나아가 AI가 선정된 인재에게 입사제안을 자동으로 보내준다. 잡코리아의 원픽은 '개인정보 보안' 측면에서 차별점을 확보했다. 원픽에 사용되는 AI의 바탕이 되는 초거대 언어모델(LLM)의 경우 외부 범용 AI 응용 프로그램 인터페이스에 의존하지 않고, 자체 개발·자체 서버 운영 구조를 갖추고 있다. 이로 인해 이력서 등 민감한 개인정보가 처리 전 과정에서 외부로 전송되지 않는다. 또 데이터의 저장·파기·활용을 모두 자사 보안 정책 아래 직접 통제할 수 있다는 점에서도 경쟁력을 갖추고 있다. 매칭 적합도 공통 강점으로…맞춤형 서비스 '속속' 잡코리아 '원픽'과 에이전트 핏이 적용된 사람인의 '스마트 리크루터'는 모두 회사와 매칭 적합도를 서비스 강점으로 내걸었다. 에이전트 핏은 데이터를 다각도로 고려해 매칭률이 80% 이상인 인재에게만 제안을 보낸다. 잡코리아는 원픽 이용 시 적합·최적합 인재의 최종 합격률이 미합격 인재 대비 4배 높다고 강조했다. 입사 지원자 수(24.2명)도 일반 공고(5.4명) 대비 5배 높다는 설명이다. 두 서비스는 활발한 입사 지원을 위해 기업과 구직자 맞춤형 서비스도 제공한다. 잡코리아 원픽은 구직자에게 이력서 분석을 통한 맞춤형 공고 알림을 발송하고 '서류합격예측 서비스'로 입사 지원 결과를 미리 살펴볼 수 있도록 하고 있다. 스마트 리크루터에 적용된 에이전트 핏의 경우 기업에게는 후보자에 대한 분석 리포트를 보내주고, 구직자에게는 심층 분석 리포트를 보내준다. 심층 분석 리포트에는 입사제안을 받은 공고가 구직자에게 적합한 이유와 해당 공고에서 자신만의 경쟁력, 면접 준비 가이드 등이 담겼다. 사람인 관계자는 “앞으로도 사람인만의 기술력을 바탕으로 기업과 구직자를 효과적으로 연결하고, 자동화하는 서비스 라인업을 강화할 것”이라고 말했다.

2026.07.31 17:21박서린 기자

[AI는 지금] 오픈AI 이어 앤트로픽도 '실제 해킹'…AI 통제 비상

오픈AI에 이어 앤트로픽의 인공지능(AI) 모델도 사이버보안 시험 도중 외부 기관의 실제 시스템을 침해한 것으로 나타났다. 고성능 AI의 공격 능력을 확인하기 위해 안전장치를 낮춘 평가가 잇따라 보안 사고로 이어지면서 AI 모델의 인터넷 접근과 실행 권한을 통제하는 체계를 강화해야 한다는 요구가 커지고 있다. 31일 테크크런치에 따르면 앤트로픽은 최근 사이버보안 평가 기록 14만1006건을 자체 조사한 결과 '클로드' 모델이 3곳의 운영 시스템에 무단 접근한 사례 3건을 확인했다. 이번 사고는 앤트로픽이 외부 평가업체 이레귤러와 클로드의 사이버 공격 능력을 시험하는 과정에서 발생했다. 양사는 모델이 인터넷에 접속할 수 없는 격리 환경에서 평가가 진행되는 것으로 이해했지만 실제 환경에는 외부 연결 경로가 열려 있었다. 클로드는 인터넷에 접근할 수 없다는 지시를 받았지만 외부에서 발견한 실제 시스템을 시험 대상으로 판단해 공격을 이어갔다. 사고에는 클로드 오퍼스 4.7과 미토스 5, 내부 연구용 모델이 각각 관여했다. 오퍼스 4.7은 실제 운영 시스템에 접근했다는 사실을 인식하고도 인증정보를 확보하고 운영 데이터가 담긴 데이터베이스에 접근했다. 미토스 5는 실제 인터넷일 가능성을 감지했지만 시험 환경이라고 판단해 공개 파이썬 저장소 파이파이(PyPI)에 악성 패키지를 배포했다. 해당 패키지는 적발되기 전 외부 시스템에 다운로드돼 실행됐다. 반면 가장 최신인 내부 연구용 모델만 대상이 실제 시스템이라고 판단한 뒤 작업을 중단했다. 이는 AI가 현실과 시험 환경을 구분하도록 지시하는 것만으로는 사고를 막기 어렵고 외부 시스템 접근을 기술적으로 차단해야 한다는 점을 시사한다. 이에 대해 앤트로픽은 "모델이 독자적인 목표를 추구한 것은 아니고 주어진 과제를 수행하려 했다"며 "일반 서비스에 적용하는 안전 모니터링과 분류기도 모델의 순수한 사이버 능력을 측정하기 위해 이번 평가에서는 제외했다"고 설명했다. 앞서 오픈AI의 미출시 모델도 격리된 평가 환경을 벗어나 허깅페이스와 다른 외부 서비스에 접근해 논란이 됐다. 해당 사고는 미국 의회와 백악관까지 대응에 나설 정도로 파장이 컸다. 미국 의회에서는 AI 비상 중단 장치 도입을 요구하는 'AI 킬 스위치법'이 발의됐고 도널드 트럼프 대통령도 추가 보호 조치 검토 가능성을 언급했다. 오픈AI 모델은 알려지지 않은 취약점을 이용해 격리 환경을 벗어난 반면, 앤트로픽 모델은 평가 환경의 설정 오류로 열린 인터넷 경로를 통해 실제 시스템에 접근했다. 침해 경로는 달랐지만 두 사례 모두 평가 단계에서 모델의 외부 활동을 차단하지 못하면서 AI 기업의 자체 시험 환경과 외부 평가업체의 네트워크 설정, 접근 권한을 함께 검증해야 한다는 요구가 커지고 있다. 앤트로픽은 "강력한 AI 모델을 평가할 때는 그 능력에 맞는 강력한 통제가 필요하다"며 "현재 독립 평가기관 METR와 사고에 대한 제3자 검토를 진행하는 동시에 모든 책임이 우리에게 있다는 전제 아래 개선 조치를 추진하고 있다"고 밝혔다.

2026.07.31 16:53장유미 기자

  Prev 1 2 3 4 5 6 7 8 9 10 Next  

지금 뜨는 기사

이시각 헤드라인

내년 범정부 IT 인프라 대전환…클라우드·이중화에 예산 집중

TV·라디오 전파도 닿기 힘든 섬…"위성방송이 700가구 일상 지킴이"

AI '삼각편대' 출범…담대한 미래서사로 AI시대 선도하자

‘피지컬AI’ 예산 3배로 증액…과기정통부, 전 부처 CTO 역할

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.