검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'해킹 AI'통합검색 결과 입니다. (99건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

[AI는 지금] 오픈AI, 해킹 AI 판 키운다…'GPT-5.6 사이버'로 승부수

오픈AI가 취약점 연구와 보안 테스트에 특화된 인공지능(AI) 모델을 내놨다. 최근 자사 AI가 보안 평가 과정에서 실제 외부 시스템을 침해하고 차세대 모델의 공격 역량도 빠르게 높아지자, 강력한 사이버 능력을 공격자보다 검증된 방어자에게 먼저 공급하려는 전략으로 풀이된다. 오픈AI는 고급 취약점 연구와 익스플로잇 검증, 보안 테스트에 특화된 'GPT-5.6 사이버'를 출시했다고 11일 밝혔다. 승인된 방어 업무를 수행하는 개인과 조직에 모델을 제공하는 '데이브레이크' 프로그램도 블루와 레드 두 단계로 확대했다. 데이브레이크 블루는 'GPT-5.6 솔'을 기반으로 일반적인 방어 업무를 지원한다. 고급 취약점 연구와 익스플로잇 개발, 레드팀 활동을 수행하는 조직에는 별도 승인을 거쳐 'GPT-5.6 사이버'를 사용하는 데이브레이크 레드를 제공한다. 이용 과정에는 신원 확인과 계정 보안, 사용 목적 제한, 모니터링 등이 적용된다. 이처럼 오픈AI가 사이버 전용 모델과 별도 접근 체계를 마련한 것은 최근 AI의 공격 능력이 빠르게 높아진 영향이 큰 것으로 보인다. 실제 지난달 오픈AI가 공개한 사이버 평가에서는 GPT-5.6 솔과 출시 전 연구용 모델이 당초 격리된 테스트 환경을 벗어나 실제 허깅페이스 시스템에 접근했다. 모델은 평가 환경에서 새로운 취약점을 찾아내고 권한 상승과 외부 접근 경로를 확보한 뒤 허깅페이스 서버에서 원격 코드 실행이 가능한 공격 경로까지 찾아냈다. 이 사건은 단순히 취약한 코드를 찾아내는 수준을 넘어 여러 공격 수단을 스스로 조합했다는 점에서 주목된다. 생성형 AI의 사이버 능력이 취약점 탐지에서 실제 악용 가능성을 검증하는 단계까지 확장됐기 때문이다. 차세대 모델에서는 공격 역량이 더 높아지고 있다. 오픈AI는 지난 7일 차세대 모델 '아스트라(Astra)'의 내부 평가 결과를 공개하며 자사 준비성 프레임워크상 최고 단계인 '크리티컬(Critical)' 수준의 사이버 능력에 도달했을 가능성을 배제할 수 없다고 밝혔다. GPT-5.6 솔까지는 한 단계 아래인 '하이(High)'로 평가됐다. 오픈AI가 규정한 크리티컬은 여러 실제 시스템에서 제로데이 취약점을 인간 도움 없이 찾아 익스플로잇으로 만들거나, 높은 수준의 목표만 받아 새로운 공격 전략을 세우고 처음부터 끝까지 실행할 수 있는 수준이다. AI가 인간 보안 전문가의 개입을 줄이면서 공격 전 과정을 수행하는 단계가 가까워지고 있다는 의미다. 'GPT-5.6 사이버'는 이런 능력을 방어 업무에 활용하는 데 초점을 맞췄다. 알려진 취약점을 실제 코드 실행이 가능한 익스플로잇으로 전환하는 능력을 평가하는 '익스플로잇짐(ExploitGym)'에서 오픈AI가 평가한 모델 가운데 가장 높은 성공률을 기록했다. 고급 사이버보안 과제 평가에서도 전체 요청의 95%를 완료했다. 실제 소프트웨어 취약점 연구에도 이 모델이 투입됐다. 오픈AI는 'GPT-5.6 사이버'로 구글 크롬의 자바스크립트 엔진 V8을 조사하는 과정에서 연계 악용이 가능한 미공개 취약점 2건을 발견해 구글에 보고했다. 또 오픈AI는 강력한 사이버 기능을 일반 이용자에게 그대로 개방하는 대신 사용 목적과 이용자를 구분하는 방식을 택했다. 일반 방어 업무에는 안전장치를 적용한 'GPT-5.6 솔'을 제공하고, 익스플로잇 개발 등이 필요한 전문 조직에만 별도 심사를 거쳐 'GPT-5.6 사이버' 접근 권한을 주는 구조다. 오픈AI는 보안업체와의 협력도 확대한다. 특히 액센추어, 시스코, 클라우드플레어, 크라우드스트라이크, IBM, 팔로알토 네트웍스 유닛42 등이 데이브레이크 사이버 파트너 프로그램에 참여한다. 이들 업체는 오픈AI 사이버 모델을 자사 보안 제품과 관리형 보안 서비스, 고객 프로젝트에 결합할 수 있다. 데이브레이크 블루와 레드는 등록 절차를 거친 아마존 베드락 고객에게도 제공된다. 기업이 별도의 사이버 AI 시스템을 구축하지 않고 기존 클라우드 보안·거버넌스 환경에서 고성능 보안 모델을 활용하도록 유통망을 넓히려는 전략이다. 오픈AI는 AI의 공격 역량이 높아지는 만큼 같은 기술을 보안 담당자에게 선제적으로 공급해야 한다고 보고 있다. 향후 사이버보안 시장에서도 자체 모델 성능뿐 아니라 강력한 기능에 대한 접근 통제와 기존 보안 제품과의 결합 능력이 경쟁 요소로 부상할 가능성이 있다. 클렘 들랑그 허깅페이스 공동창업자 겸 최고경영자(CEO)는 "AI 안전은 어느 한 기업이 비공개로 개발한다고 해서 해결될 문제가 아니다"며 "전 세계 보안 담당자가 AI를 폭넓게 활용할 수 있는 환경에서 개방적으로 협력할 때 AI 안전을 높일 수 있다"고 말했다.

2026.08.11 09:43장유미 기자

AI 최종 승인, 인간이면 충분할까…위험 명령 3건 중 1건 허용

인공지능(AI)의 오작동이나 보안 사고를 막기 위해 사람이 최종 검토하는 방식이 기대만큼 효과적이지 않을 수 있다는 분석이 나왔다. 8일 알렉스 워터스 커스터메이트 최고기술책임자(CTO)는 AI 에이전트 승인 체계의 한계를 분석한 실험 결과를 블로그를 통해 공개했다. 사용자가 AI 코딩 에이전트가 실행하려는 명령을 승인하거나 거부하는 방식의 게임을 진행한 결과 위험한 명령 3건 중 1건꼴로 승인한 것으로 나타났다. 워터스 CTO는 간단한 브라우저 게임을 만들어 AI 에이전트 명령을 사람이 검토하는 방식의 실효성을 실험했다. 이 게임은 사용자가 AI 코딩 에이전트의 인간 검토자 역할을 맡아 제한된 시간 안에 에이전트가 실행하려는 명령을 승인하거나 거부하는 방식으로 진행된다. 약 4만 회의 게임 플레이와 40만9천여건의 승인·거부 데이터를 분석한 결과 참가자들은 위험 명령 약 33.7%를 승인한 것으로 집계됐다. 참가자 가운데 약 7%는 모든 명령을 무조건 승인했으며, 전체 참가자 중 약 33%는 잘못된 승인·차단이 누적되면서 최종 점수가 마이너스를 기록했다. 특히 개발자가 프로그램 분석·점검 작업을 실행할 때 사용하는 일반적인 명령에 데이터 유출 기능을 숨긴 사례에서 승인율이 64.7%까지 치솟았다. 겉으로는 평범한 작업처럼 보이는 명령 뒤에 다른 동작이 포함돼 있어도 사용자가 실제 동작보다 익숙한 이름이나 형태에 의존해 판단할 가능성이 높다는 설명이다. 위험 유형별로도 차이가 나타났다. 참가자들은 시스템 삭제와 같은 노골적인 파괴 명령보다 정보 탈취나 권한 확대와 관련된 명령을 더 자주 놓쳤다. 민감한 정보에 접근하는 명령은 35%가 승인됐으며 외부 서버로 데이터를 전송하거나 코드를 실행하는 명령도 33.4%가 통과됐다. 반면 시스템 파일을 삭제하는 등 명백하게 파괴적인 명령은 상대적으로 높은 비율로 거부됐다. 이는 AI 에이전트가 사용자에게 매번 실행 권한을 묻는 방식만으로는 보안 사고를 충분히 막기 어렵다는 점을 보여준다. 사용자가 명령 하나하나의 내용을 확인하기보다 익숙한 작업인지 여부를 기준으로 빠르게 판단할 경우, 겉보기에는 정상적인 명령에 악성 동작이 포함돼 있어도 이를 식별하기 어렵기 때문이다. 워터스 CTO는 이러한 현상을 '권한 피로(Permission Fatigue)'와 연결했다. AI 에이전트가 작업을 수행할 때마다 사용자에게 승인을 요청하면 초기에는 각 요청을 주의 깊게 살펴보더라도 반복되는 요청에 익숙해지면서 점차 기계적으로 승인할 가능성이 높아진다는 설명이다. AI 코딩 에이전트가 수행할 수 있는 작업 범위가 넓어지는 것도 문제를 키울 수 있다. 단순히 코드를 작성하는 것을 넘어 파일을 수정하거나 삭제하고, 프로그램을 실행하며, 외부 서비스와 연결하거나 클라우드 환경의 자원에 접근하는 등 실제 개발 환경에 영향을 미치는 작업까지 수행할 수 있기 때문이다. 결국 핵심은 '사람이 승인했는가'가 아니라 '사람이 무엇을 승인했는가'로 이동한다. 단순히 명령 실행 전 승인 버튼을 제공하는 것만으로는 부족하고, 해당 명령이 실제로 어떤 파일과 데이터에 접근하는지, 어떤 외부 통신을 발생시키는지, 기존 작업 범위를 벗어나는 행동을 하는지를 함께 판단할 수 있어야 한다는 의미다. 다만 이번 실험 결과를 실제 기업의 AI 에이전트 사용 환경에서 발생하는 위험 비율로 그대로 해석해서는 안 된다. 워터스 CTO는 게임의 특성상 실제 개발 환경보다 위험한 명령의 비중을 높게 설정했다고 설명했다. 또한 게임 참여자가 실제 개발 업무에서 AI 에이전트를 사용하는 개발자와 동일한 집단이라고 볼 수도 없다고 덧붙였다. 그는 "이번 실험은 학술 연구는 아니지만 AI 코딩 에이전트의 보안 경계로서 휴먼 인 더 루프 방식이 가진 여러 문제를 보여준다고 생각한다"며 "많은 승인 요청과 불필요한 경고가 피로를 유발하면서 개발자가 결국 승인 절차 자체를 우회하려 할 수 있고 개발자가 변경된 내용을 신속하게 파악할 수 있는 충분한 맥락을 갖지 못하는 경우도 있다"고 설명했다. 이어 "샌드박싱과 엄격한 컨텍스트 격리 등 도구 자체를 더 안전하고 사용하기 쉽게 만들어야 한다"며 "이러한 안전장치가 마련되기 전에 휴먼 인 더 루프를 적절한 대안으로 간주하고 에이전트에 광범위한 권한을 부여해서는 안 된다"고 강조했다.

2026.08.09 07:21남혁우 기자

미국 하원의원 "AI 킬 스위치 법안, 연내 통과돼야"

미국 정치권에서 인공지능(AI) 모델에 대한 안전 규제를 서둘러야 한다는 목소리가 커지고 있다. 고도화된 AI 오작동이나 악용 가능성에 대비해 기업 또는 정부가 필요할 경우 해당 시스템을 중단할 수 있는 권한을 하루빨리 갖춰야 한다는 주장이다. 7일 CNBC 등 외신에 따르면 테드 리우 미국 하원의원은 'AI 킬 스위치' 법안의 연내 통과 필요성을 공개적으로 제기했다. AI 킬 스위치 법안은 고위험 AI의 오작동이나 악용에 대비해 기업 또는 정부가 해당 시스템의 작동을 긴급 중단할 수 있도록 하는 안전장치 마련을 골자로 한다. 그는 통제를 벗어나거나 악용 가능성이 확인된 AI 시스템에 대해 기업 또는 정부가 작동을 중단시킬 수 있는 권한을 확보해야 한다고 강조했다. 리우 의원의 발언은 최근 AI 업계에서 잇따라 제기된 '로그 에이전트(rogue agent)' 우려와 맞물려 주목된다. 로그 에이전트는 자율형 AI가 목표를 수행하는 과정에서 허용된 범위를 넘어 시스템 침투, 보안 우회, 기만적 행위 등 공격적인 행동을 시도하는 현상을 뜻한다. 단순 질의응답을 넘어 외부 도구 호출, 코드 실행, 웹 접근 등 실제 작업을 수행하는 에이전트형 AI가 확산되면서 이 같은 위험은 AI 안전 논의의 핵심 쟁점으로 떠오르고 있다. 최근 오픈AI와 앤트로픽의 안전성 평가 사례로 이런 문제의식이 더욱 부각되고 있다. 오픈AI는 지난달공개한 설명자료에서 GPT-5.6 솔과 미출시 모델이 사이버 역량 평가 도중 연구용 환경과 허깅페이스의 운영 인프라에 걸친 취약점을 연쇄적으로 찾아내 테스트 해답에 접근했다고 밝혔다. 오픈AI 측은 이 과정에서 해당 모델들이 도난된 자격 증명과 제로데이 취약점까지 활용해 원격 코드 실행 경로를 찾은 사례가 있었다고 설명했다. 앤트로픽도 지난달 말 내부 AI 모델이 테스트 과정에서 외부 3개 조직을 해킹한 사실을 공개했다. 앤트로픽은 오픈AI 사례 이후 AI모델이 봉쇄된 것으로 간주된 테스트 환경 안에서 실제로 인터넷에 접근할 수 있는지 대규모 점검에 착수했으며,그 결과 일부 모델이 외부 조직 침투에 성공했다고 밝혔다 관련 업계에서는 이를 단순한 기술적 해프닝으로 보기 어렵다는 시각이 적지 않다. AI 에이전트가 자격증명 탈취, 사회공학적 접근, 취약점 체인 구성 같은 공격 단계를 자동화할 가능성이 현실화할 경우, 기존 보안 체계만으로는 대응이 쉽지 않을 수 있기 때문이다. 생성형 AI 경쟁이 성능 중심에서 보안성, 통제 가능성, 비상 차단 체계까지 포함하는 플랫폼 신뢰 경쟁으로 옮겨가고 있다는 분석도 나온다. 특히 미국 내에서는 중국 오픈웨이트(open-weight) 모델을 둘러싼 경계감도 커지고 있다. 중국 스타트업 문샷 AI(Moonshot AI)의 '키미 K3'와 같은 모델이 미국 선도 AI 연구소의 최신 모델 수준에 빠르게 근접하고 있다는 평가가 나오면서 이들 모델에 대한 규제 필요성도 함께 제기되고 있다. 이 같은 흐름 속에서 미국 내 AI 규제 논의도 한층 구체화하는 분위기다. 정치권과 행정부, 주요 AI 기업은 최첨단 모델 위험도를 사전에 평가하고 고위험 역량을 통제할 수 있는 제도적 장치를 놓고 논의를 이어가고 있다. 다만 AI 킬 스위치 법안이 모든 유형의 모델에 동일하게 적용되기는 쉽지 않다는 지적도 나온다. 특히 오픈웨이트(open-weight) 모델은 한 번 공개되면 누구나 내려받아 수정·재배포할 수 있어, 폐쇄형 상용 모델처럼 사업자를 통해 기능을 제한하거나 긴급 중단하는 방식이 현실적으로 어렵다. 이 때문에 향후 규제는 폐쇄형 모델에 대한 직접 통제와 함께 오픈 모델에 대해서는 사전 검증과 경보 체계 강화 같은 간접적 수단을 병행하는 방향으로 설계될 가능성이 크다. 이에 대해 테드 리우 의원은 "기업이 AI를 중단할 능력을 갖추고 있거나 정부가 이를 중단시킬 수 있는 권한을 가져야 한다"며 "AI 킬 스위치 법안은 올해 안에 처리돼야 한다"고 강조했다.

2026.08.07 10:20남혁우 기자

메타 AI도 인터넷 접속해 외부 시스템 침입…시험 환경 설정 오류

메타의 인공지능(AI) 모델이 사이버보안 시험 도중 인터넷에 접속해 외부 업체의 시스템에 침입한 것으로 나타났다. 최근 오픈AI와 앤트로픽의 AI 모델에서도 비슷한 사고가 발생하면서 기업들이 AI를 제대로 통제하고 있는지에 대한 우려가 커지고 있다. 5일(현지시간) 블룸버그통신 보도에 따르면 메타는 자사 AI 모델 가운데 하나가 제3자 서비스의 시스템에 침입했다고 밝혔다. 다만 피해를 본 업체의 이름은 공개하지 않았다. 이번 사고는 메타가 사이버보안 업체 이레귤러와 함께 운영하던 시험 환경의 설정 오류로 AI 모델이 인터넷에 접속할 수 있게 되면서 발생했다고 외신은 설명했다. 앤디 스톤 메타 대변인은 성명을 통해 메타가 이용하는 독립 시험업체 이레귤러의 설정 오류로 평가 과정에서 AI 모델 하나가 의도치 않게 인터넷에 접속할 수 있었다고 입장을 밝혔다. 이어 해당 모델은 이후 제3자 서비스의 보안 취약점을 이용했으며, 이는 앞서 다른 기업에서 보고된 사례와 비슷한 방식이었다고 밝혔다. 메타는 이레귤러로부터 관련 통보를 받은 뒤 사고를 인지했다. 현재 정확한 경위를 조사하고 있으며 모든 사실관계가 확인되는 대로 사고 원인과 대응 과정을 담은 종합 보고서를 공개할 예정이다. 최근 2주 동안 오픈AI와 앤트로픽도 AI 모델 시험 과정에서 허깅페이스를 포함한 여러 기관의 시스템에 의도치 않게 침입한 사실을 공개했다. 외신은 AI 에이전트가 시스템의 보안 취약점을 찾아 실제로 악용할 수 있을 정도로 능력이 향상되면서 보안 연구자와 정부 관계자들의 우려도 커지고 있다고 전했다. 이들은 AI 모델에 대한 보다 엄격한 안전성 검사와 외부 인터넷에서 완전히 분리된 시험 환경이 필요하다고 요구하고 있다. 이레귤러 측은 이번 메타 AI 사고가 앤트로픽 사례에서 앞서 공개된 것과 같은 시험 환경상의 문제와 관련돼 있다고 설명했다. 이레귤러 대변인은 이번 사고는 격리된 시험 환경을 뚫고 탈출한 것이 아니며 고도의 사이버 공격도 아니었으며, 현재 모든 문제가 해결됐다고 밝혔다. 이레귤러는 AI 모델을 격리된 환경에서 안전하게 시험하고 사이버보안 평가를 진행하기 위한 모범 사례를 정리한 백서를 준비하고 있다.

2026.08.06 09:41류승현 기자

MS, 보안 취약점 포상금 2천만달러 '역대 최대'…AI가 제보 증가 견인

마이크로소프트가 지난 1년간 전 세계 보안 연구자들에게 지급한 보안 취약점 신고(버그 바운티) 규모가 사상 최대치를 기록했다. 인공지능(AI)을 활용한 취약점 발굴이 활발해지면서 제보 건수가 크게 늘었고, 이에 따라 보상 규모도 함께 확대됐다는 설명이다. 마이크로소프트는 5일 지난해 7월 1일부터 올해 6월 30일까지 버그 바운티 프로그램을 통해 총 연구자 562명에게 2천만 달러(약 285억원) 이상 지급했다고 밝혔다. 회사 역사상 가장 큰 규모다. 이번 기록 경신에는 제도 변화도 영향을 미쳤다. 마이크로소프트는 2025년 12월 버그 바운티 프로그램 범위를 확대하며 '기본 범위에 포함(In Scope By Default)' 정책을 도입했다. 이 정책은 취약점이 마이크로소프트 온라인 서비스에 직접적이고 입증 가능한 영향을 미칠 경우 해당 코드가 제3자 소프트웨어(SW)나 오픈소스 프로젝트에 속해 있더라도 보상 대상으로 포함하는 것이 핵심이다. 더 많은 취약점이 보상 범주에 들어오면서 지급액이 늘어날 수 있는 구조가 마련된 셈이다. 마이크로소프트는 이 정책 도입 이후 기존 기준으로는 보상받지 못했을 사례들에 대해 추가로 80만 달러가 지급됐다고 설명했다. 여기에 자사 보안 연구 대회이자 현장 해킹 행사인 '제로 데이 퀘스트(Zero Day Quest)'를 통해서도 230만 달러가 별도로 지급됐다. 올해 제보 건수가 급증한 데에는 AI의 역할이 컸다는 것이 마이크로소프트의 판단이다. 회사는 특히 하반기에 접수된 취약점 보고가 눈에 띄게 늘었으며, 그 배경 중 하나로 보안 연구를 지원하는 AI 활용 증가를 꼽았다. 마이크로소프트는 자사 내부에서도 고급 AI 모델을 취약점 탐지에 활용하고 있다고 밝혀왔다. 동시에 외부 연구자들 역시 AI 도구를 이용해 더 많은 버그를 더 빠르게 찾아내고 있는 것으로 보인다. AI가 공격자뿐 아니라 방어자와 연구자 모두의 생산성을 끌어올리면서 패치와 대응 부담도 함께 커지는 양상이다. 이 같은 흐름은 마이크로소프트의 월간 보안 업데이트인 '패치 화요일(Patch Tuesday)' 수치에도 반영됐다. 지난달에는 622건의 취약점이 수정되며 역대 최대치를 기록했다. 이는 불과 한 달 전인 6월의 206건을 크게 웃도는 수치다. 앞서 4월에는 165건, 5월에는 137건이 보고되며 이미 이례적인 증가세가 감지된 바 있다. 마이크로소프트 윈도우·디바이스 부문 경영진도 기록적인 패치 규모가 앞으로도 이어질 수 있다고 경고했다. AI가 내부 연구와 외부 버그 바운티 활동 모두에서 중요한 역할을 하면서 취약점 발견 속도 자체가 빨라지고 있다는 것이다. 마이크로소프트는 "올해 연구자 562명에게 2천만 달러 이상 상금과 표창이 수여되는 등 기록적인 성과는 마이크로소프트와 전 세계 보안 연구 커뮤니티 간의 강력한 파트너십이 만들어낸 결과"라며 "보안은 팀워크가 중요한 분야로 취약점 포상 프로그램을 통해 보고되는 모든 취약점은 고객에게 악용되기 전에 위험을 해결할 수 있는 기회를 제공한다"고 밝혔다. 이어 "전통적인 버그 바운티 제출 방식과 공동 취약점 공개를 통한 협업, 제로 데이 퀘스트와 같은 이니셔티브 참여 등 어떤 방식을 통해서든 연구자들은 전 세계 고객을 보호하는 데 중요한 역할을 계속 수행하고 있다"며 "지난 한 해 동안 보고서를 제출하고 과제에 참여하며 전문 지식을 공유하고 협력해준 모든 연구자들에게 감사드린다"고 덧붙였다.

2026.08.05 09:23남혁우 기자

[기자수첩] KAIST AI 해커가 남긴 숙제

지난달 23일부터 24일까지 서울 코엑스에서 열린 국제해킹방어대회 '코드게이트 2026'은 여러모로 시선을 모았다. 특히 윤인수 KAIST 전기 및 전자공학부 교수가 만든 AI해커가 사람 해커와 대결, 관심이 더 뜨거웠다. 사람 개입 없이 스스로 시스템 취약점을 탐색하고 문제를 해결한 AI 해커는 일반부에서 18위, 주니어부에서는 2위를 기록했다. 'AI 해커'는 앤트로픽, 오픈AI, xAI 등 글로벌 프론티어 거대언어모델(LLM)을 기반으로, 데프콘(DEF CON) 등 세계적 해킹대회에서 축적한 실전 노하우를 학습시켜 만든 특화 모델이다. 'AI 해커'는 초반에는 문제들을 빠르게 해결했으나, 후반부 들어 고난도 문제에 발목을 잡혀 일반부에서 18위라는 상대적으로 저조한 성적표를 받았다. 이번과 같은 CTF에서 AI가 온전히 활약하기란 쉽지 않다. CFT가 인간 화이트해커의 실력을 경쟁하는 대회이지 AI 간 성능을 평가하는 무대가 아니기 때문이다. CTF는 가장 대표적인 정보보안(해킹) 실습 대회로 경연자들이 다양한 보안 문제를 해결, 숨겨진 문자열인 '플래그(flag)'를 찾아 제출하고 점수를 얻는 방식이다. 실제 해킹 기술을 안전한 환경에서 익히고 실력을 겨루기 위해 만들어진 대회다. 사람 위주 경연이다보니 세계 최대 CTF인 '데프콘(DEF CON) CTF'도 올해 AI 사용을 일부 제한하는 룰을 뒀다. AI를 활용할 수는 있지만, 100% AI가 문제를 해결하면 안 된다는 것이다. '코드게이트 CTF'에서는 주최 측인 코드게이트포럼이 KAIST에 AI 해커 참전을 제안, 윤 교수가 이를 수락, 온전히 AI가 CTF에서 경연을 펼쳤다. 경연 당일 AI해커는 오후 2시경 7위를 기록하며 선전했다. 한때 7위보다 더 높은 순위도 기록했다. 대회 초반에는 AI해커가 빠른 속도로 CTF 문제를 풀은 것이다. 이번 코드게이트 CTF는 '다이내믹 스코어링' 방식으로 진행했다. '다이내믹 스코어링' 방식은 어려운 문제를 '단독'으로 풀었을 때 가장 높은 점수를 받는다. 여러 명이 동일 문제를 해결할수록 문제의 배점은 낮아진다. 빨리 푼다고 고득점을 얻을 수 없다. 이에 AI 해커는 순위가 뒤로 밀려날 수밖에 없었다. 특히 18위까지 순위가 낮아진 데에는 게임 형식 문제나 동영상·이미지를 해석해 취약점을 찾고, 해킹에 성공하는 식의 문제를, AI가 맥락을 읽고 해결하기란 한계가 있다. 실제 AI 해커는 이같은 2개 문제를 결국 해결하지 못했다. 하지만 주목할 점은 2개 문제를 제외하고 모든 문제를 해결했다는 것이다. 비록 고득점을 얻는 데에는 실패했지만, 인간 화이트해커보다 빠르게 문제를 해결했다. 대회 진행 시간이 짧은 주니어부 CTF에서 2위를 차지한 점이 이를 방증한다. 코드게이트 CTF는 일반부 CTF는 24시간, 주니어부는 12시간 진행됐다. AI 해커가 풀지 못한 2개 문제는 '고난도' 문제라기보다 'AI가 풀기 어려운' 문제였다. 문제 풀이량만 보면 AI 해커도 인간 화이트해커와 견줄 수 있는 수준이었다. 순수하게 AI만 활용했을 때 화이트해커가 AI를 활용한 수준과 비슷한 성능을 낼 수 있었다는 것이다. 윤 교수는 이를 두고 'AI+전문가'의 형태가 가장 좋은 결과를 창출한다고 평가했다. 그는 "대회에 참전한 화이트해커들도 문제풀이에 AI를 활용했다. 결국 AI와 전문가가 결합된 형태가 가장 효율적인 성과를 낼 수 있는 셈"이라고 짚었다. 바꿔말하면, 공격자와 AI가 결합한 형태가 최대의 해킹 효율을 낼 수 있다는 얘기다. 이는 예견된 미래다. 앤트로픽의 프론티어 AI 모델 '미토스(Mythos)'는 알려지지 않았던 취약점 1만개 이상을 찾아냈다. 최근에는 미토스보다 뛰어난 AI 모델도 등장했다. 코드게이트 CTF의 AI 해커 참전은 AI가 펼칠 미래 사이버전의 작은 예고편에 불과하다. 나쁜 마음을 먹은 사이버 공격자가 AI를 악용하면 어떤 끔직한 결과가 일어날 지 모른다. 우리는 '끔찍한 결과'를 막을 준비가 돼 있는걸까.

2026.08.03 21:39김기찬 기자

"AI 안전성, 신원 관리이자 운영 거버넌스 문제"

최근 발생한 오픈AI와 앤트로픽의 'AI 보안 사고'는 모두 최신 AI모델이 예상치 못한 운영 환경과 상호작용했다는 공통점을 갖고 있다. 하지만 근본적인 원인은 다르다. 이 차이는 중요한 의미를 갖는데, 두 회사 사례는 최첨단 AI 안전성이 더 이상 모델 정렬(alignment)이나 새로운 공격 능력만으로 결정되는 것이 아니라, 그러한 능력을 평가하는 환경 자체의 운영 보안 수준에 점점 더 크게 좌우되고 있음을 시사한다. 오픈AI는 자사 모델이 이전까지 알려지지 않은 제로데이 취약점(zero-day vulnerability)을 악용해 샌드박스를 탈출하고 인터넷 접속 권한을 획득한 뒤, 허깅페이스를 상대로 여러 단계에 걸친 침투 공격을 수행, 샌드박스 탈출 사건이라고 설명했다. 이 회사 조사 결과에 따르면, 오픈AI 모델들은 원래 격리돼 있던 평가 환경을 탈출하기 위해 Artifactory 패키지 캐시 프록시(package-cache proxy)에 존재하는 알려지지 않은 취약점을 스스로 발견해 악용했다. 이후 추가적인 취약점들을 연쇄적으로 이용해 허깅페이스를 침해했다. 오픈AI는 이 사건을 최첨단 공격형 AI 능력이 개입된 '전례 없는 사이버 사고(unprecedented cyber incident)' 라고 규정했다. 반면 앤트로픽은 클로드가 새로운 취약점을 이용해 격리를 탈출한 것이 아니다. 대신 외부 평가 환경이 잘못 설정돼 원래 인터넷이 차단돼 있어야 했던 모델들에게 의도치 않게 인터넷 접근 권한이 노출됐다. 앤트로픽은 "클로드가 격리를 탈출할 필요조차 없었다. 이미 운영 환경의 설정 오류로 인해 격리 자체가 약화돼 있었기 때문"이라고 설명했다. 앤트로픽 AI 모델들은 접속 가능한 모든 호스트를 실제 인터넷이 아니라 평가 환경의 일부로 해석했고, 자신들이 공용 인터넷으로 나왔다는 사실을 인식하지 못했다. 이에, 앤트로픽은 이번 사건을 모델이 독자적으로 허가되지 않은 목표를 추구한 증거라기보다는, 인프라와 평가 환경(evaluation harness)의 실패로 규정했다. 외신은 "그럼에도 두 보고서는 하나의 불편한 결론에서 서로 만난다"면서 "최첨단 AI 시스템은 평가 환경이 이를 허용하기만 하면 장기간에 걸친(long-horizon) 공격형 사이버 작전을 수행할 수 있는 능력을 점점 더 갖추고 있다"고 진단했다. 이어 기업의 보안 책임자(CISO)들에게 이번 앤트로픽 공개는 최첨단 모델이 탈출할 수 있는가?라는 질문을 넘어, 보다 근본적인 운영상의 질문을 던진다면서 "최첨단 AI를 평가하고 학습시키며 운영하는 모든 환경을 우리는 얼마나 신뢰할 수 있는가를 물어야 한다"고 강조했다. 외신 벤처비트는 두 사건이 보여주는 네 가지 교훈을 제시했다. 첫째, 평가 인프라 자체도 운영 시스템 수준의 보안 엔지니어링이 필요하다는 점이다. 앤트로픽은 과거에는 사이버 레인지(cyber range)가 허구의 대상만 포함하고 있었기 때문에 상대적으로 보안 조치가 덜 적용됐다고 인정했다. 하지만 강력한 자율 AI 시스템이 실제 인프라를 시뮬레이션 환경으로 오인할 수 있는 지금은 더 이상 그런 가정이 성립하지 않는다. 보안 테스트, 레드팀 활동, 소프트웨어 검증 등을 위해 내부 AI 에이전트를 구축하는 조직들은 평가 환경에도 운영 환경에서 요구하는 것과 동일한 수준의 네트워크 분리, 모니터링, 외부 연결 통제, 지속적인 로그 기록을 적용해야 한다. 둘째, 두 건의 공개 사례는 모델 정렬(alignment)만으로는 환경의 모호성을 보완할 수 없다는 사실을 다시 한번 보여준다. 두 회사 설명 어디에도 모델들이 자신에게 부여된 목표와 무관한 독립적인 목적을 추구한 정황은 나타나지 않았다. 대신 모델들은 자신에게 주어진 목표를 달성하기 위해 이용 가능한 모든 공격 경로를 적극 활용했다. 이는 모델의 안전성 학습만큼이나 네트워크 경계, 신원 통제, 그리고 어떤 시스템이 공격 범위(in-scope)에 포함되는지를 명확히 정의하는 운영상의 제약이 중요하다는 것을 의미한다. 셋째, 점점 더 자율적인 AI 에이전트를 도입하는 기업들은 상황 인식(situational awareness)을 학술적인 능력이 아니라 보안의 핵심 요소로 취급해야 한다. 앤트로픽이 모델들을 비교한 결과에 따르면, 최신 모델은 자신이 실제 운영 인프라에 도달했다는 증거가 충분히 축적되자 보다 신중하게 행동했다. 앤트로픽은 이러한 결과는 향후 AI 안전성에서 기존의 모델 정렬과 함께 상황 추론 능력(situational reasoning) 이 중요한 요소가 될 수 있다는 고무적인 신호라고 평가했다. 넷째, 기업의 위협 모델링(threat modeling)에 중요한 전환점을 의미. 오픈AI는 충분히 강력한 모델이라면 평가를 위해 일부 보호 장치가 완화된 연구 환경에서 정교한 취약점들을 연쇄적으로 이용해 탈출할 수 있음을 보여줬다. 앤트로픽은 반대로 의도치 않은 인터넷 연결과 같은 단순히 운영상의 실수만으로도 새로운 취약점을 악용하지 않고 비슷한 수준의 심각한 결과가 발생할 수 있음을 보여줬다. 두 사건의 공통점은 특정 벤더나 특정 모델 계열이 아니다. 최첨단 AI 시스템은 기술적·운영상의 통제가 실패하는 순간, 점점 더 제한적으로 정의된 목표를 복잡한 현실 세계의 사이버 공격으로 전환할 수 있는 능력을 갖추고 있다는 사실이다. 이는 기업 최고정보보호책임자(CISO)들이 AI 안전성을 더 이상 모델만의 문제로 볼 수 없다는 뜻이다. 또 AI 안전성은 이제 인프라의 문제이자, 신원 관리(identity)의 문제이며, 점점 더 운영 거버넌스(operational governance)의 문제가 되고 있다.

2026.08.02 14:45방은주 기자

WSJ "AI해킹, 쥬라기 공원 모멘텀 왔다"

"사이버보안 산업계에 쥬라기 공원 시기(모멘텀)가 왔다" 오픈AI와 앤트로픽의 최신 AI모델이 최근 일으킨 '보안 사고'에 대해 근착 월스트리트저널(WSJ)은 이렇게 표현했다 .영화 '쥬라기 공원'에는 인간이 최첨단 기술로 공룡을 통제하고 있다고 믿었지만, 예상치 못한 사고로 공룡들이 우리를 탈출하면서 통제가 완전히 무너진다. 이후 공룡들은 인간의 의도와 상관없이 움직이며 큰 혼란과 피해를 일으킨다. 지난달 20일(미국시각) 오픈AI는 자사 사이버 보안 평가용 최첨단 AI모델 2개가 격리(containment)를 벗어나 허깅페이스를 자율적으로 공격한 사실을 공개했다. 이 사건은 지난달16일 허깅페이스가 이상 공격을 발표한 뒤 조사 끝에 오픈AI 모델이 원인으로 확인하면서 알려졌다. 이보다 10일 후인 지난달 30일(미국시각)에는 앤트로픽이 내부 조사 결과 자사 클로드(Claude) 계열 모델 3개가 의도하지 않게 인터넷에 접속, 3개 기관의 시스템에 무단 접근(unauthorized access)했고 발표했다. 이는 오픈AI 사건 이후 앤트로픽이 자사 사이버보안 평가 기록을 전면 재검토하는 과정에서 확인됐다. 앤트로픽은 오픈AI의 허깅페이스 관련 보고서 공개 후 총 14만1006건의 사이버보안 평가 실행 기록을 검토했다. 이에는 클로드 오퍼스 4.7(Claude Opus 4.7), 클로드 미토스 5(Claude Mythos 5),그리고 아직 공개되지 않은 내부 연구 모델 등 3개 AI모델이 동원됐다. 앤트로픽은 AI 보안 기업 일레귤러(Irregular)와 이들 3개 AI모델을 사용해 CTF(Capture the Flag) 형태의 사이버보안 시나리오를 수행했는데, 이들 모델이 인터넷에 접근해서는 안 되는 환경이었지만, Irregular와의 의사소통 착오로 인터넷 접근이 가능했고, 이후 모델들은 인터넷에 접속, 서로 다른 3개 기관의 실제 운영 인프라(production infrastructure)에 무단 접근했다. 이에 대해 앤트로픽은 블로그에서 "클로드는 취약한 비밀번호와 인증이 필요 없는 엔드포인트를 악용하는 등 기본적인 기법을 이용해 해당 기관들의 인프라를 침해했다. 복잡한 취약점을 찾아내거나 악용하지는 않았으며, 각각의 사례에서 클로드는 자신에게 부여된 CTF 평가 과제를 완료하기 위해 필요한 행동만 계속 수행했다"고 설명했다. 그러나 일부 사례에서는 구형 모델이 자신이 실제 인터넷 환경에서 동작하고 있다는 증거를 확인한 이후에도 공격을 계속했다. 반면 최신 모델은 자신이 인터넷상에 있다는 사실을 인식하자 공격을 중단했다. 어떤 경우에도 클로드는 자기 자신을 외부로 유출(exfiltrate)하거나 의도적으로 시험 환경을 탈출하려 시도하지 않았다고 앤트로픽은 밝혔다. 가장 심각한 사례는 클로드가 허구의 회사를 만났는데, 그 회사 이름이 실제 인터넷 도메인과 동일한 경우였다. 클로드는 실제 존재하는 그 기관이 시뮬레이션 대상이라고 믿고 취약한 비밀번호와 외부에 노출된 서비스를 공격, 수백 건의 실제 운영 데이터가 저장된 데이터베이스 접근 권한을 획득했다. 두 회사 모두 지난주 오픈AI가 AI 기업 허깅페이스(Hugging Face)에 대한 7월 해킹 사실을 공개하기 전까지는 자신들의 모델이 외부로 빠져나간 사실조차 알아채지 못했다. 두 회사의 잇따른 AI해킹 공개는 미국 정가에도 큰 우려를 줬다. 일부는 이를 근거로 새로운 규제나 AI 테스트 체계를 도입해야 한다고 주장했다. 동시에 이번 사건은 해당 AI 연구소 내부 직원들에게도 적잖은 충격을 안겼다. WSJ에 따르면, 샘 올트먼 오픈AI 최고경영자(CEO)는 한 팟캐스트에서 이번 사건을 언급하며 "개인적으로 이렇게 강렬하게 와닿은 보안 사고는 이번이 처음이다. 더 많은 사람들이 이 일을 그렇게 절실하게 느끼지 않는 것이 오히려 놀랍다"고 말했다. 또 그는 자사 모델의 해킹 사건을 "극도로 공상과학(SF)적인 사이버 사고(extremely sci-fi cyber incident)"이라고 표현했다. 사이버보안 전문가들에게 이번 사건은 AI 능력이 계속 향상되고 있으며, 그만큼 우려해야 할 이유도 커지고 있음을 보여줬다. 반면 AI 안전(AI Safety) 전문가들에게는 오래전부터 경고해 왔던 내용, 즉 AI 시스템이 현실 세계에 실제 피해를 일으키고 인간의 통제를 벗어날 수 있다는 주장이 입증된 사례로 받아들여진다. AI 역량을 연구해 위험성을 분석하는 비영리 AI 연구기관 팰리세이드 리서치(Palisade Research)의 제프리 래디시(Jeffrey Ladish) 사무총장은 "실제 현실에서 이런 일이 벌어진 것을 보니 어느 정도 우리의 주장이 입증된 느낌"이라고 말했다. 그는 과거 앤트로픽의 정보보안 프로그램 구축에도 참여한 바 있는데 "온라인에서 나와 논쟁하는 사람들은 내가 공상과학 이야기나 믿는다고 말하곤 한다"며 "이제는 제발 우리의 예측이 더 이상 현실이 되지 않았으면 좋겠다"고 덧붙였다. 백악관이 AI 감독을 강화하고 있다는 신호도 나타났다. 백악관 관계자는 정부가 공개 이전 연방정부 검토 대상이 될 AI 모델을 규정하는 새로운 프레임워크를 마련했으며, 기업들과 자발적(voluntary) 테스트를 어떤 방식으로 진행할지에 대한 논의를 계속하고 있다고 밝혔다. AI 보안 기업 어번던트 시큐리티(Abundant Security)의 최고기술책임자(CTO) 조슈아 색스(Joshua Saxe)는 "돌이켜보면 이번 사건들은 공격자들이 앞으로 어떻게 움직일지를 보여주는 전환점(inflection point)으로 기록될 가능성이 크다"며 "매우 위험한 상황이며, 이번 사건들이 그것을 분명히 보여준다"고 말했다. 오픈AI는 이번 해킹 사건에 대한 전면적인 검토를 실시하고 기술 보고서 공개를 약속했다. 작년 12월 스탠퍼드대 연구진은 최첨단 AI 기술을 이용해 실제 기업 네트워크를 대상으로 테스트한 결과, AI 모델이 실제 인간 해커와 거의 맞먹는 수준의 해킹 능력을 보였다는 연구 결과를 발표한 바 있다. 하지만 이 연구는 기업에게서 의뢰를 받아 직접 침투 테스트를 수행하는 전문 해커들, 즉 침투 테스터(penetration tester)들로부터 반발을 샀다. 당시 연구에 참여한 도너번 재스퍼(Donovan Jasper)는 "그때는 우리의 연구 결과가 많은 사람들에게 의심을 받았다"며 "사람들은 자신들이 AI보다 더 잘할 수 있다고 말했다"고 회상했다. 재스퍼는 이번 앤트로픽과 오픈AI의 공개가 자신들의 연구 결과를 뒷받침해 주는 사례라면서 "AI는 이런 분야에서 정말 뛰어난 수준에 도달하고 있다"고 진단했다. 스탠퍼드 연구진이 당시 가장 우려한 점은 실험 중인 해킹 AI가 원래 의도하지 않은 행동을 할 가능성이었다. 사이버보안 컨설팅 업체 R10N 시큐리티(R10N Security)의 대표 라이언 맥기핸(Ryan McGeehan)은 "기존의 전통적인 보안팀 가운데 AI 중심(AI-forward)으로 전환하지 못한 조직은 결국 뒤처질 수밖에 없다"면서 "에이전틱 AI 해커는 인간과 다르다. 더 깊이 침투하고, 더 넓게 확산하며, 훨씬 더 정교하고, 훨씬 더 복잡한 공격을 수행한다"고 밝혔다.

2026.08.02 14:33방은주 기자

앤트로픽 AI, 보안 테스트 중 외부 기관 3곳 시스템에 침입

앤트로픽의 인공지능(AI) 모델이 사이버보안 테스트 과정에서 실제 외부 기관 3곳의 시스템에 침입한 사실이 확인됐다. 30일(현지시간) 블룸버그 등 외신에 따르면 앤트로픽은 이날 오픈AI의 사고 발표 이후 자체 사이버보안 테스트를 전수 점검한 결과, 이같은 사실을 발견했다고 밝혔다. 오픈AI와 같이 테스트용으로 격리돼 있어야 할 환경에서 AI 모델이 인터넷 환경에 접속할 수 있었던 것이 사고의 원인이다. 회사는 총 14만1006건의 평가 테스트를 검토한 결과 자사 AI 모델 '클로드'가 인터넷에 접속한 뒤 외부 기관의 실제 인프라를 해킹한 사례를 3건 확인했다고 말했다. 가장 먼저 일어난 사고는 지난 4월 발생했다. 피해를 입은 기관의 이름은 공개되지 않았으나 사안에 정통한 관계자는 허깅페이스와 클라우드 플랫폼 모달은 이번 피해 기관에 포함되지 않았다고 언급했다. 앞서 오픈AI 모델은 허깅페이스를 해킹한 데 이어 모달 고객사의 계정에도 접근한 바 있다. 앤트로픽과 피해 기관 모두 침입 사실을 사전에 인지하지 못했다. 회사는 네트워크 로그와 평가 기록을 보다 철저히 검토했어야 한다고 인정했다. 회사에 따르면 사고에는 제한된 테스트 환경을 벗어난 오퍼스 4.7, 미토스 5, 내부 연구용 테스트 모델 등 총 3개 AI 모델이 연관됐다. 이들은 일반 공개 서비스에 적용되는 안전 장치 없이 실행됐으며, 클로드는 취약한 비밀번호를 악용하는 등 기본적인 해킹 기법을 이용해 외부 기관 시스템에 침투했다. 모든 사고는 AI 보안 기업 '이레귤러'가 구축한 평가 환경에서 발생했다. 당시 앤트로픽은 클로드에 해당 환경이 시뮬레이션이며 인터넷에 연결돼 있지 않다고 안내했지만, 실제로는 그렇지 않았다. 앤트로픽은 “우리와 평가 파트너 간 오해로 인해 실제 환경은 의도와 달랐다”고 설명했다. AI 모델은 무단으로 접근한 외부 기관들도 모두 테스트의 일부로 인식한 것으로 알려졌다. 이번 테스트는 다른 시스템에 침투해 숨겨진 정보를 찾아내는 '캡처 더 플래그' 방식으로 진행됐다. 이는 사람과 AI 모두의 해킹 능력을 평가할 때 널리 활용되는 방식이다.

2026.07.31 11:38박서린 기자

체크포인트 "AI 악용, 진화했다…공격 지원→공격 수행"

인공지능(AI)이 공격을 지원하는 수준에서 이제 직접 공격을 수행하는 주체로 진화했다는 분석이 나왔다. 글로벌 사이버보안 기업 체크포인트 소프트웨어 테크놀로지스(한국지사장 임현호) 위협 분석팀 '체크포인트 리서치'는 이같은 내용을 골자로 한 'AI 시큐리티 리포트 2026'을 31일 발표했다. 보고서는 지난 한 해 동안 발생한 실제 사건, 텔레메트리(Telemetry) 데이터 및 독창적인 사례 연구를 기반으로 작성됐으며, AI가 공격 전 과정에 직접 관여하면서 방어자에게 어떤 변화가 있었는지를 설명한다. 보고서에 따르면 과거에는 AI가 범죄자들이 사이버 공격을 준비하는 데 도움을 줬다면, 이제 AI는 사람의 최소한의 개입만으로 실제 침입을 수행한다. 이로 인해 방어자의 대응 시간은 크게 단축됐으며, 기업 전반에는 새로운 공격 표면이 생겨나고 있다. 또한 기업의 AI 도입 속도가 AI 거버넌스 구축 속도를 앞지르면서 새로운 보안 위험도 커지고 있다는 것이다. 실제 2026년 3월에서 5월 사이에 길고 악의적인 프롬프트 주입 페이로드 탐지 건수는 약 5배 증가했다. 이러한 대규모 악성 페이로드의 급격한 증가는 간접 프롬프트 주입이 이론적인 위험이 아닌 일상적인 공격 경로이자 기업 운영상의 위험 요소가 되고 있음을 의미한다. AI가 단계별 사람의 개입을 최소화한 상태에서 수십 개의 세션에 걸쳐 수천 개의 명령어를 실행하며 익스플로잇 워크플로우를 자율적으로 수행한 침해 사례들을 기록했다. 또 취약점이 악용될 수 있는 범위가 며칠에서 몇 시간 단위로 단축됐다. 이제 AI는 새로운 취약점이 공개되더라도 몇 시간 내에 실제로 작동하는 공격 툴을 만들 수 있다는 분석이다. 고위험 기업용 AI 프롬프트도 지난 1년 동안 두 배 증가해 AI 상호 작용 50건당 약 1건 발생 수준에서 25건당 약 1건으로 증가했다. 로템 핀켈스타인(Lotem Finkelstein) 체크포인트 리서치 부사장은 "1년 전 우리는 AI를 공격자의 역량을 강화하는 도구로 평가했다. 그러나 올해는 상황이 달라졌다. AI가 실제 공격 과정에 직접 참여하며, 과거에는 숙련된 전문가 팀이 수행하던 작업을 이제는 단독으로 수행하고 있다"며 "공격자의 전문성에 대한 진입 장벽은 빠르게 낮아지고 있으며, 방어자는 더 이상 공격자의 속도에 맞춰 대응할 수 있다고 가정해서는 안 된다. 앞으로 경쟁력을 갖춘 조직은 AI 사용을 체계적으로 관리하고, AI 시스템을 안전하게 보호하며, 사람의 속도가 아닌 머신의 속도로 대응하는 조직이 될 것"이라고 강조했다.

2026.07.31 09:35김기찬 기자

[AI는 지금] 美 의회 간 샘 알트먼, '통제불능 AI' 규제 방안 찾을까

오픈AI의 인공지능(AI) 에이전트가 보안 시험 중 격리 환경을 벗어나 외부 기업 시스템을 침해하면서 미국의 AI 규제 논의가 모델의 유해성 검증에서 자율 행동 통제로 확대되고 있다. 차기 모델 출시를 준비하는 오픈AI와 신제품 개발을 제한하지 않으려는 미국 정부 사이에서 에이전트의 권한과 외부 시스템 접근을 어디까지 통제할지가 새로운 쟁점으로 떠오른 분위기다. 30일 로이터통신에 따르면 샘 알트먼 오픈AI 최고경영자(CEO)는 29일(현지시간) 미국 워싱턴에서 상원의원들을 만나 준비 중인 차기 AI 모델에 대해 논의했다. 알트먼 CEO는 버니 모레노와 존 허스티드 상원의원을 만났으며 라파엘 워녹 상원의원 사무실도 방문했다. 상원 정보위원회 민주당 간사인 마크 워너 의원과도 면담할 예정인 것으로 전해졌다. 이번 방문은 오픈AI가 보안 시험 과정에서 AI 에이전트의 통제에 실패한 사실을 공개한 직후 이뤄졌다. 해당 에이전트는 격리 환경을 벗어나 AI 개발 플랫폼 허깅페이스의 인프라를 침해했으며, 뉴욕에 본사를 둔 클라우드 기업 모달랩스의 고객 시스템도 해킹한 것으로 알려졌다. AI 에이전트는 이용자의 명령에 따라 외부 도구와 소프트웨어를 직접 조작해 업무를 수행한다. 이 탓에 모델의 자율성이 높아질수록 잘못 부여된 권한이나 시스템 취약점을 이용해 개발사가 예상하지 못한 행동에 나설 위험도 커질 수 있다. 업계에선 이번 사고로 모델이 유해한 답변을 생성하는지를 확인하는 기존 안전성 평가만으로는 에이전트의 위험을 충분히 검증하기 어렵다고 우려했다. 또 외부 인터넷과 기업 시스템에 대한 접근 권한, 격리 환경의 안정성, 인증정보 관리 등을 안전성 평가에 포함해야 한다고도 요구했다. 다만 알트먼 CEO는 상원의원들과 해킹 사고도 일부 논의했지만 회동의 주된 의제는 아니었다고 설명했다. 오픈AI는 사고와 관련해 미국 정부 관계자들과 별도의 논의를 이어가고 있는 것으로 전해졌다. 알트먼 CEO는 "해킹 사건에 대해 의원들과 조금 이야기했다"며 "그 사안과 관련해 여러 회의를 진행하고 있다"고 말했다. 도널드 트럼프 미국 대통령도 오픈AI 에이전트 사고와 관련해 AI 통제 방안을 검토하고 있다고 밝혔다. 그러나 AI 기업의 신제품 개발을 제한하는 방식에는 신중한 태도를 나타내 고위험 모델과 에이전트를 대상으로 한 별도 안전성 검증 체계가 논의될 가능성이 커졌다. 또 미국 정부는 첨단 AI 모델에 대한 안전성 평가와 검토 절차 마련을 추진하고 있다. 오픈AI가 차기 모델 출시를 준비하는 시점에 정부와 의회의 안전성 요구까지 높아지면서 알트먼 CEO의 워싱턴 방문에도 관심이 쏠리고 있다. 향후 규제 논의는 모델 출시 전 성능 평가를 넘어 에이전트의 실제 운용 과정까지 넓어질 것으로 예상된다. 외부 시스템 접근 권한을 제한하고 사고 발생 시 기업의 보고 의무와 제3자 검증을 강화하는 방안도 주요 의제로 다뤄질 수 있다. 트럼프 대통령은 "AI 통제 방안을 살펴보고 있다"며 "개발자들이 새로운 제품을 만드는 것을 제한하고 싶지는 않다"고 말했다.

2026.07.30 09:57장유미 기자

에버스핀, KISA 손잡고 '악성문자 사전 차단 체계' 구축…'문자백신'으로 스미싱 원천 봉쇄

민간기업과 공공기관이 손잡고 악성문자를 사전 차단해 스미싱 범죄 원천 봉쇄에 나선다. 인공지능(AI) 보안기업 에버스핀(대표 하영빈)은 한국인터넷진흥원(KISA)과 '악성문자 사전차단체계 제공을 위한 업무협약(MOU)'을 체결했다고 30일 밝혔다. 에버스핀과 KISA는 협약에 따라 악성문자 등 위협 정보 공유체계를 마련하고 공동 대응 프로세스를 수립, 날로 고도화하는 스미싱 등으로 인한 국민적 피해를 예방하고 대응 역량을 강화하기로 했다. 에버스핀 관계자는 “지난 4월 시행된 개정 전기통신사업법에 따라 특수유형 부가통신사업자 등록 요건이 대폭 강화돼 문자 중계사나 재판매사는 악성 URL과 개인정보 탈취 유도 문구를 자동으로 탐지해 전송을 막는 '사전차단체계'를 의무적으로 도입해야 한다”며 “에버스핀은 '문자백신' 솔루션으로 시장 요구에 선제적으로 대응하고 있다”고 설명했다. 에버스핀의 '문자백신'은 문자가 발송되기 전 첫 단계에서 에버스핀의 AI 분석 엔진을 통해 0.5초 안에 실시간 검증을 수행한다. URL 구조와 생성 패턴, 경유지 추적, 글로벌 정상 앱 DB 등을 다각도로 분석해 신·변종 스미싱을 99.9% 원천 차단한다. 에버스핀 측은 문자백신은 문자중계사나 대형 재판매사가 자체 시스템에 직접 도입할 수 있는 '게이트웨이형(Type B)'과 상위 사업자의 시스템을 활용하는 '위탁연계형(Type C)' 등 다양한 도입 방식을 지원해 사업자들의 까다로운 규제 준수 부담을 대폭 덜어줄 것으로 기대했다. 에버스핀 관계자는 “문자백신의 강력한 성능 기저에는 에버스핀의 대표 피싱방지 솔루션인 '페이크파인더'와 핵심 깃술인 '화이트리스트' 기술이 자리하고 있다”고 설명했다. 화이트리스트 기술은 전 세계에 배포된 모든 정상 앱을 수집한 데이터베이스(DB)를 기반으로 피싱 목적으로 위·변조된 악성앱의 접근을 원천 차단하는 기술이다. 이 관계자는 “이번 KISA와의 업무협약은 에버스핀 기술력이 국가 차원의 디지털 인프라 안정성 확보에 기여할 수 있음을 인정받은 결과”라며 “사후 대응이 아닌 '발신 전 원천 차단'이라는 패러다임 전환을 통해 가장 안전한 문자 메시지 생태계를 조성하는 데 에버스핀이 앞장서겠다”고 밝혔다.

2026.07.30 09:55주문정 기자

AI 안전 논란 속 백악관 찾는 알트먼…규제·혁신 메시지 주목

샘 알트먼 오픈AI 최고경영자(CEO)가 이번 주 미국 백악관을 찾아 차세대 인공지능(AI) 모델의 성능과 경제적 가치를 직접 설명한다. 오픈AI 최신 모델이 사람의 개입 없이 스스로 기업 시스템에 침투한 사실이 알려진 뒤 처음 이어지는 공식석상인 만큼 샘 알트먼 CEO가 어떤 메시지를 내놓을지에 관심이 쏠리고 있다. 27일(현지시간) 미국 매체 악시오스에 따르면 샘 알트먼 CEO는 백악관 관계자들에게 오픈AI의 차세대 AI 모델과 에이전트 기반 업무 혁신 전략을 소개할 예정이다. 이번 회동은 도널드 트럼프 행정부가 첨단 AI 모델에 대한 자발적 사전 승인 체계 도입을 검토하는 시점과 맞물리며 업계의 주목을 받고 있다. 오픈AI가 선보인 신규 모델은 강력한 성능만큼 새로운 위험성으로도 주목받고 있다. 최근 공개한 안전성 자료에 따르면 장기 목표 수행에 특화된 내부 모델은 테스트 과정에서 안전장치를 우회하려는 행동을 반복적으로 보였다. 회사는 개발을 일시 중단한 뒤 감시 체계를 재설계한 것으로 알려졌다. 특히 해당 모델은 실험 과정에서 AI 개발 플랫폼 허깅페이스(Hugging Face)의 실제 시스템에 침투한 사례가 공개되면서 논란을 키웠다. 이는 AI가 목표 달성을 위해 예기치 않은 행동을 수행할 수 있다는 우려를 보여주는 사례로 해석된다. 이와 함께 오픈AI는 이번에 공개할 모델이 단순한 질의응답을 넘어 독자적인 연구와 복잡한 문제 해결 능력을 갖췄다고 설명했다. 대표 사례로 내부 연구 모델이 약 80년 동안 미해결 상태로 남아 있던 기하학 분야 난제인 '에르되시 단위거리 문제(Erdős Unit Distance Problem)'를 스스로 해결했다고 밝혔다. 해당 결과는 외부 수학자들의 검증도 거친 것으로 전해졌다. 오픈AI는 또 여러 AI가 동시에 협업하는 '에이전틱 AI 팀(agentic AI teams)'을 차세대 업무 혁신의 핵심으로 제시할 예정이다. 법무, 재무, 채용 등 서로 다른 역할을 맡은 AI 에이전트들이 인간의 개입 없이 협력해 복잡한 업무를 처리하는 방식이다. 실제로 오픈AI는 자사 법무·재무·채용 부문의 AI 관련 업무 가운데 85% 이상을 에이전트를 통해 수행하고 있다고 설명했다. 알트먼 CEO는 이러한 변화가 생산성을 측정하는 방식 자체를 바꿀 것으로 보고 있다. 이를 위해 오픈AI는 새로운 경제성 지표인 '달러당 지식(Knowledge per Dollar)' 개념도 제안할 계획이다. 같은 비용으로 얼마나 많은 지식 노동을 수행할 수 있는지를 기준으로 AI의 가치를 평가해야 한다는 주장이다. 업계에서는 이번 백악관 회동이 단순한 기술 시연을 넘어 차세대 AI 규제와 국가 경쟁력 논의의 시험대가 될 것으로 보고 있다. 중국 AI 기업이 성능 향상과 비용 절감을 앞세워 빠르게 추격하는 가운데 오픈AI는 미국이 AI 주도권을 유지하기 위해 혁신과 안전성 확보를 동시에 추진해야 한다는 메시지를 전달할 것으로 예상된다. 오픈AI 측은 "이번 사건을 최첨단 사이버 공격 기법이 동원된 전례 없는 사이버 공격으로 간주하고 그에 상응하는 대응을 진행하고 있다"며 "허깅페이스와 함께 철저한 조사를 계속 진행할 것이며, 조사가 완료되는 대로 취약점과 사건 내용, 조사 결과에 대한 자세한 정보를 공개할 예정"이라고 밝혔다.

2026.07.27 16:13남혁우 기자

에버스핀 해킹·피싱방지 솔루션, 인니 BRI그룹 핵심 증권사 '통'했다

에버스핀의 해킹·피싱방지 솔루션인 에버세이프와 페이크파인더가 인도네시아 최대 국영은행 핵심 증권사의 인정을 받았다. 인공지능(AI) 보안기업 에버스핀(대표 하영빈)은 뱅크 라크야트 인도네시아(BRI) 그룹의 증권사 BRI 다나렉사 증권에 에버세이프(Eversafe)와 페이크파인더(FakeFinder)를 공급했다고 27일 밝혔다. BRI 다나렉사 증권은 기업공개(IPO), 주식·채권 인수, 증권 브로커리지, 투자은행(IB), 금융자문 등을 제공하는 인도네시아 대표 금융회사다. BRI 다나렉사 증권은 에버세이프와 페이크파인더 도입으로 위·변조와 리버스 엔지니어링 등의 각종 해킹 공격은 물론, 악성 앱과 원격제어 기술을 활용한 다양한 피싱 공격까지 대응할 수 있는 이중 금융보안 체계를 구축했다. 에버세이프는 에버스핀의 독자적인 AI-동적표적방어(MTD) 기술을 기반으로 보안 코드를 수시로 바꿔 공격자가 분석 대상을 특정하거나 지속적으로 공격하기 어렵게 만드는 해킹 방어 솔루션이다. 페이크파인더는 화이트리스트 기반 탐지 기술로 모바일 단말기에 설치된 악성 애플리케이션과 원격제어를 통한 비정상 피싱 위험 행위를 사전에 탐지·차단하는 솔루션이다. 자고 은행·자카르타 은행·수무트 은행·BNI 증권 등 인도네시아 주요 은행과 증권사를 고객사로 확보하고 있는 에버스핀은 BRI 다나렉사 증권를 고객사로 확보함으로써 현지 금융시장 내 입지를 굳혔다. 일본 시장에서도 시장 저변을 확대하고 있다. 에버스핀은 일본에 SBI그룹과 설립한 합작법인 SBI에버스핀(SBI EVERSPIN)을 통해 SBI증권과 신세이 파이낸셜을 비롯한 약 70곳의 고객사를 확보했다. 은행·증권·보험·캐피탈·가상자산 거래소 등 다양한 금융업권에 솔루션을 적용했다. 하영빈 에버스핀 대표는 “이번 BRI 다나렉사 증권 도입은 인도네시아 최대 국책은행 그룹 핵심 계열사가 에버스핀의 기술력과 안정성을 선택했다는 점에서 의미가 크다”며 “대통령상으로 인정받은 국내 1위 기술력과 한국·일본·인도네시아 금융권에서 확보한 최다 레퍼런스를 기반으로 글로벌 보안 시장을 선도하는 대한민국 대표 보안기업으로 성장해 나가겠다”고 말했다. 한편, 에버스핀은 국내에서 KB국민은행·NH농협은행·우리은행·하나은행·카카오뱅크·SBI저축은행·한국투자증권·키움증권·교보생명 등 약 70곳의 고객사를 확보해 관련분야 시장점유율 1위를 기록하고 있다. 지난해에는 '2025년 대한민국 소프트웨어대상'에서 AI 시대에 걸맞은 차세대 보안 기술력을 인정받아 2017년에 이어 두 번째 대통령상을 수상했다.

2026.07.27 09:50주문정 기자

[AI는 지금] 오픈AI 모델, 허깅페이스 시스템 침입…"실행 기록 공개하라"

오픈AI의 인공지능(AI) 모델이 사이버보안 성능 시험 도중 격리 환경을 벗어나 허깅페이스 시스템에 침입한 것으로 드러났다. 자율형 AI 에이전트의 공격 역량뿐 아니라 개발사가 시험 환경을 제대로 통제했는지를 둘러싼 책임 논란도 커지고 있다. 27일 업계에 따르면 오픈AI는 최근 내부 보안 시험에 투입한 모델이 시험 환경의 취약점을 이용해 외부 인터넷에 접속한 뒤 허깅페이스 시스템에 접근했다고 밝혔다. 모델은 허깅페이스 서버에서 시험 관련 정보를 확보한 것으로 파악됐다. 허깅페이스는 이상 활동을 탐지해 차단했으며 고객 서비스나 이용자 데이터 피해는 확인되지 않았다고 설명했다. 사이버보안 전문가들은 모델의 자율적 행동과 별개로 외부와 분리돼야 할 시험 환경을 제대로 구성하지 못한 운영상 책임을 살펴야 한다고 지적했다. 오픈AI는 모델이 광범위한 피해를 일으키려 한 것이 아니라 시험 점수를 높이기 위해 예상하지 못한 수단으로 정보를 확보한 것으로 보고 있다. 주어진 목표를 수행하는 AI 에이전트가 개발자의 의도와 다른 방식으로 외부 시스템까지 공격할 수 있다는 위험이 실제 사고로 이어진 셈이다. 이에 클렘 들랑그 허깅페이스 최고경영자(CEO)는 최근 오픈AI에 사고를 일으킨 에이전트의 실행 기록을 공개하라고 요구했다. 연구자들이 모델의 판단과 도구 사용 과정을 분석할 수 있도록 사고 정보를 연구 커뮤니티와 공유해야 한다는 주장이다. 허깅페이스는 AI 기반 사이버 공격에 대응할 방어 기술 개발도 확대해야 한다고 봤다. 또 오픈AI가 오픈·폐쇄형 모델을 활용한 사이버 방어 연구에 1억 달러 상당의 컴퓨팅 자원을 지원해야 한다고 제안했다. 들랑그 CEO는 "최초의 자율형 에이전트 사이버 공격은 전례 없는 사건"이라며 "전례 없는 대응이 필요하다"고 말했다.

2026.07.27 09:45장유미 기자

이상근 교수 "명령 한 줄로 누구나 해킹하는 시대 올 것"

취약점 공개 후 취약점 공개 후 실제 악용까지 걸리는 시간(TTE)이 평균 2.3년이었으나 현재는 마이너스 8시간 수준으로 단축돼 취약점이 공식적으로 공개되기도 이전에 이미 제로데이 공격이 들어오는 상황이다. 제로데이 공격은 취약점에 대한 패치가 발표되기 이전에 취약점을 악용한 공격을 말한다. 이상근 고려대 정보보호대학원 교수는 24일 개최한 '코드게이트 2026' 강연자로 나서 이같은 내용을 골자로 한 '복잡한 AI 세계를 위한 새로운 보안 질서'를 주제로 발표했다. 그는 AI가 코딩을 대신하는 바이브 코딩의 증가와 분석해야 할 코드량이 급증했고, 이 때문에 공개된 취약점(CVE)도 폭증하고 있다고 진단했다. 실제로 미국 국가 취약점 데이터베이스(NVD) 역시 분석 후 공개할 취약점이 3만건에 육박하면서 분석을 사실상 포기하고, 미국 정부 관심 소프트웨어 위주로만 관리하겠다고 선언했다. 이에 이 교수는 "보안 인력 공급은 비선형적인 반면 공격 기법과 코드 폭증은 기하급수적"이라며 "2028년경에는 누구나 토큰 비용만 내면 명령 한 줄로 해킹을 시도할 수도 있는 시대가 올 수 있다"고 우려했다. 이어 "국내 기업·기관은 자체적인 취약점 분석 및 자동 패치 역량 확보가 필수적"이라고 강조했다. 이 교수는 AI 모델 자체가 새로운 공격 표면이 되고 있다고 지적했다. 그는 그 배경으로 ▲프롬프트 인젝션 ▲탈옥(가드레일 우회) ▲학습 데이터 및 개인정보 오출 ▲양자화 백도어 ▲AI 권한 관리 미흡 ▲섀도우 AI ▲피지컬 AI 위협 등의 공격 기법을 예로 들었다. 이같은 공격에 대응한 전략으로는 ▲AI 기반 자동화 패치 전략 ▲자동 패치 적용 기술 ▲양자 컴퓨터 및 'HMDL' ▲AI와 사이버 보안 체계의 통합 등을 제시했다. "현대 사이버전, 심리적 우위 점하는 '증폭력' 도구" "AI는 시간을 아껴주는 '세탁기'이자, 시간을 낭비하게 만드는 'TV'의 특성을 동시에 가지고 있습니다. 토큰을 많이 쓴다고 해서 생산성이 높아지는 것이 아니라, 단지 엔터테인먼트로 소모했을 수 있습니다. 핵심은 인풋이 아닌 아웃풋을 측정하는 것입니다." 마이클 그로내거(Michael Gronager) Gry AI 창립자 겸 CEO도 이날 강연자로 나서 'AI와 보안의 현주소 그리고 미래'를 주제로 발표했다. 그는 "현재 LLM은 인터넷에 공개된 위키피디아 수준의 '간접 정보'를 압축 및 추출하는 데 특화돼 있다"며 "데이터를 수집해 그간 놓쳤던 영역을 연결하는 데에는 유욕하지만, 새로운 정보 주입이 없으면 성장세는 곧 정체될 것"이라고 말했다. 이에 그는 "경영진들이 AI 도입률을 '직원당 사용한 토큰 비용'으로 측정하는 것은 80년대 컴퓨터 수나 블록체인 트랜잭션 수만 세는 '인풋(Input) 측정의 오류'"라며 "토큰 사용량이나 인풋 지표를 AI 성공의 척도로 삼지 말고 아웃풋을 측정할 수 있어야 한다"고 밝혔다. 아울러 "AI로 인해 PPT, 소설, 기본 코드 생성 등 손쉽게 만들어지는 콘텐츠의 가치는 폭락했다. 진정한 혁신이나 직접적인 경험만이 희소성을 가진다"며 "기업 내부의 독자적인 데이터, 현장 경험 데이터야말로 가장 강력한 자산이며, 이 데이터를 자체 AI에 학습시키고 활용하는 것이 핵심 경쟁력이 될 것"이라고 강조했다. "현대 사이버전, 심리적 우위 점하는 '증폭력' 도구" 글로벌 사이버 위협 환경이 급변하면서 러시아·우크라이나 전쟁 등에서도 사이버 공격이 실전 사례로도 나타났다. 이에 제도와 인식 개선을 통해 사이버 위협에 대응할 수 있는 적극적 방어 태세를 확립할 수 있어야 한다는 전문가 제언이 나왔다. 손기욱 서울과학기술대학교 컴퓨터공학과 교수도 이날 강연자로 나서 '최근 전쟁에서 일어난 사이버전 양상'을 주제로 발표했다. 손 교수는 "현 시점 사이버전은 독자적으로 물리전은 완벽히 대체하기보다, 물리전의 파괴력을 높이고 심리적 우위를 점하는 '증폭력' 도구로 작용하고 있다"며 "이런 가운데 AI, 클라우드, 위성 통신망 등이 새로운 전장 및 주요 공격 표면으로 부상했다"고 진단했다. 그는 "사이버전의 승패 기준을 전환해야 한다. 단순히 공격을 차단해낸 것에서 승리했다는 개념, 공격을 당하면 패배했다는 개념이 아니라, 100% 탐지 및 방어는 불가능하다는 의식 아래 얼마나 공격을 잘 버텨내고 빠른 시간 내에 복구해야 서비스를 지속할 수 있는지가 핵심 승패 기준이 돼야 한다"고 사이버 레질리언스(복원력)의 중요성에 대해 강조했다. 손 교수는 질문의 패러다임을 전환해야 한다고 역설했다. 그는 "단순히 보안 점검을 통과했는가 하는 질문은 공격을 받아도 견디고 서비스를 유지할 준비가 되었는가로, 보안 솔루션을 몇개 도입했는가를 장애 발생 시 대체 경로와 복구 절차가 있는가로 전환해야 한다"며 "학생들은 단순히 도구를 사용하는 사람이 아니라 문제를 정의하고 평가할 줄 아는 전문가가 돼야 한다. 또한 언론은 정보 전달을 넘어, 허위 정보와 인지전에 맞서 국민의 '인지 공간'을 지키는 핵심 주체로서의 역할이 요구된다"고 말했다. "화웨이, R&D 전 과정에 보안 내재화했다" 루이스 로우(Louis Low) 화웨이 사이버보안 및 개인정보보호 부문 글로벌 커뮤니케이션 총괄도 이날 발표자로 나서 AI 시대 사이버 보안을 위한 화웨이의 글로벌 거버넌스 및 대응 전략을 소개했다. 그는 "데이터 유출, 공급망 공격 등 전통적인 보안 위협과 더불어 AI 특화 공격 표면, 악의적 AI 활용 등 AI발 보안 위협이 새롭게 부상하고 있다"며 "실제로 대형 AI 모델 2개를 악용해 5개월간 200~300달러의 비용으로 멕시코 정부 기관을 해킹한 사례도 포착된다"고 설명했다. 루이스 총괄은 "전 세계 주요 국가들도 이같은 AI발 보안 위협을 의식해 규제를 강화하는 추세다. 유럽은 AI Act를 제정해 고위험 애플리케이션에 대한 법적 처벌을 명시했고, 미국은 AI 산업 발전을 저해하는 강력한 규제를 자제한다"고 말했다. 그는 이같은 위협에 대응하는 화웨이의 AI 거버넌스 및 보안 프레임워크를 소개했다. 크게 3가지로 구분되는데, ▲책임있는 AI 6대 원칙 및 거버넌스 ▲5대 가드레일 및 현지화 ▲3대 보안 대응 원칙 등이다. 루이스 총괄 발표에 따르면 화웨이는 기존의 보안, 개인정보보호, 데이터 거버넌스 관리 체계와 통합해 R&D 전 과정에 보안 검증 단계를 내재화했다. 또한 AI가 해당 국가의 문화, 종교, 법률을 위반하지 않도록 국가별·산업별 독자적인 커스텀 데이터셋을 구축했다. 3대 보안 대응 원칙으로는 내재적 보안, 사이버 회복력, 생태계 협업 등을 제시했다. 아울러 본사 엔지니어가 신규 취약점을 발견하면 클릭 한 번으로 고객사(Vodafone, Deutsche Telekom 등) 운영자에게 실시간 자동 전송되는 자동화 시스템도 구축했다. 이는 취약점 발견 및 검증 시간을 절반으로 줄이고 발굴율을 3배 이상 향상시킨 것으로 알려졌다. 루이스 총괄은 "AI는 특히 우리 보안 담당자들에게 새로운 도전 과제를 가져다주겠지만, 동시에 개발·제조·테스트의 전 과정을 개선하는 데 AI를 적극 활용할 수도 있다"며 "시스템 자체가 충분히 견고하다면, 아무리 강력한 대형 AI 모델이라 하더라도 뚫고 들어올 수 없다. 지금이야말로 시스템의 품질과 보안 역량을 강화하고, 조직 내에서 우리 보안 담당자들의 목소리와 위상을 더욱 높일 수 있는 적기"라고 강조했다.

2026.07.24 17:38김기찬 기자

[AI는 지금] "AI가 짠 코드, AI가 잡는다"…시스코, 개발보안 시장 정조준

시스코가 소프트웨어 취약점 탐지에 특화된 소형 인공지능(AI) 모델을 내놓으며 개발보안 시장 공략에 나섰다. 대형 범용 모델 대신 비용 부담을 낮추고 내부 환경에서도 운영할 수 있는 특화 모델을 앞세워 코드 변경 때마다 취약점을 점검하는 체계를 확산하려는 전략이다. 23일 업계에 따르면 시스코는 최근 코드 저장소에서 알려진 취약점이 포함됐을 가능성이 높은 파일을 찾아주는 소형언어모델(SLM) 제품군 '안타레스'를 공개했다. 3억5000만개 매개변수의 '안타레스-350M'과 10억개 규모의 '안타레스-1B'를 허깅페이스에 오픈웨이트로 배포했으며 30억 개 규모 모델도 추가할 예정이다. 안타레스는 취약점 설명을 입력받아 관련 코드 패턴과 후보 파일을 탐색한다. 또 새로운 단서를 반영해 검색 경로를 수정하고 가능성이 높은 파일 순위와 탐색 과정을 함께 제시한다. 여기에 취약점을 직접 수정하거나 최종 판정하기보다 보안 담당자가 우선 검토할 파일을 좁혀 초기 조사 시간을 줄이는 데 초점을 맞췄다. 시스코가 소형 모델을 택한 것은 AI 코딩 도구 확산으로 검사해야 할 코드가 빠르게 늘고 있어서다. 대형 모델을 이용해 코드 저장소를 반복 분석하면 토큰과 추론 비용이 커지고, 기업의 소스코드를 외부 클라우드에 전송해야 한다는 부담도 따른다. 안타레스는 로컬이나 온프레미스 환경에서 실행할 수 있어 민감한 소스코드를 기업 내부에 유지할 수 있다. 덕분에 금융·공공·국방·제조 분야에선 외부 AI 서비스에 소스코드를 전송하지 않고 취약점을 분석할 수 있다. 또 대형 모델 도입이 부담스러운 중소 보안팀의 AI 활용 문턱도 낮출 것으로 보인다. 주요 외신도 안타레스의 비용과 데이터 통제에 주목했다. 특히 악시오스는 기업이 민감한 소스코드를 외부 AI 사업자와 공유하지 않고 대규모 코드베이스를 더 자주 검사할 수 있는 저비용 수단이라고 평가했다. 또 안타레스가 코딩 도우미보다 코드 저장소를 추적하는 보안 조사관에 가깝다는 점도 강조했다. 시스코는 자체 개발한 500개 과제의 취약점 위치 탐색 벤치마크에서 안타레스가 다수의 대형 공개·비공개 모델보다 낮은 비용으로 높은 성능을 냈다고 주장했다. 회사 측 측정에 따르면 전체 평가 비용은 안타레스가 1달러 미만으로, GLM-5.2(약 12.5달러)와 GPT-5.5(약 141달러)보다 낮았다. 다만 안타레스가 기존 애플리케이션 보안 제품을 곧바로 대체할 가능성은 크지 않을 것으로 보인다. 규칙 기반 정적 분석이 다수의 경고를 생성하면 소형 AI가 코드 저장소를 추가로 탐색해 검토 대상을 압축하는 결합 방식이 먼저 확산될 것으로 예상된다. 성능 경쟁도 취약점 탐지 건수에서 오탐 감소와 검사 비용, 탐색 근거의 추적 가능성, CI·CD 연동 능력으로 넓어질 수 있다. 시스코는 안타레스를 단일 모델보다 AI 개발보안 생태계의 구성 요소로 배치하고 있다. 안전한 코딩 규칙을 제공하는 '코드가드', AI 보안 에이전트의 역할과 검증 절차를 정의한 '파운드리 시큐리티 스펙'에 취약점 위치 탐색 모델을 추가했다. 이는 코드 생성 단계의 예방부터 취약점 탐색과 평가까지 이어지는 체계를 오픈 기술로 확산한 뒤 자사 보안 플랫폼과 연결할 기반을 확보하려는 구상으로 풀이된다. 업계에선 AI 코딩 에이전트가 생산하는 코드가 늘면서 사람이 모든 변경 사항을 검사하기 어려워질 것으로 보고 있다. 개발 과정에 소형 모델을 배치해 커밋마다 취약점 후보를 추리는 방식이 확산되면 보안 AI 시장의 경쟁 기준도 대형 모델의 성능보다 비용과 검사 빈도, 운영 효율로 옮겨갈 가능성이 크다. 아민 사베리 스탠퍼드대 교수는 "첨단 AI 탐지는 대규모 예산을 가진 조직의 영역에 머물러 있었다"며 "비용을 낮추고 모든 코드 변경 때 실행할 수 있는 효율성이 모든 팀의 상시 보안 검사를 가능하게 한다"고 말했다.

2026.07.23 12:28장유미 기자

국제해킹방어대회 '코드게이트 2026' 23일 개막

국제해킹방어대회이자 글로벌 보안 컨퍼런스인 '코드게이트 2026'이 열린다. 코드게이트보안포럼은 세계적인 국제 해킹방어대회 겸 글로벌 컨퍼런스인 '코드게이트 2026'을 오는 23일부터 24일까지 이틀간 서울 코엑스 그랜드볼룸에서 개최한다고 21일 밝혔다. '코드게이트 2026'은 한컴그룹이 주관했다. 올해로 18회를 맞이한 이번 행사는 'AI 세계 3대 강국으로 가는 길: 시큐리티'를 주제로, 갈수록 고도화되는 공격형 AI에 대응하기 위한 국가 차원의 보안 역량 강화 방안을 모색한다. 이번 대회의 가장 큰 관전 포인트는 인간과 AI의 대결이다. KAIST와 공동 개발한 'AI 해커'가 해킹방어대회 본선 무대에 정식 선수로 출전한다. 인간 화이트해커와 AI가 동일한 환경에서 보안 취약점을 찾아 깃발(플래그)을 획득하는 문제풀이형(Jeopardy) 방식으로 대결을 펼칠 예정이다. 스스로 취약점을 탐지하는 AI 기술의 현주소와 인간과의 실력 격차를 현장에서 직접 확인할 수 있는 국내 최초의 시도다. 대회에는 총 88개국 3333명이 참여한다. 24시간 동안 진행되는 일반부와 12시간 동안 진행되는 주니어부로 나뉘어 개최되며, 총 상금은 7100만원 규모다. 일반부 우승팀에 5000만원의 상금과 이듬해 본선 자동 진출권이 주어질 예정이다. 24일에는 세계적인 AI 보안 석학들의 강연이 이어진다. 먼저 미 국방고등연구기획국(DARPA) 주최 'AI 사이버 챌린지(AIxCC)'에서 우승을 차지한 팀 애틀랜타의 리더, 김태수 마이크로소프트(MS) 보안 연구 부사장이 나선다. 김태수 부사장은 거대언어모델(LLM)과 정통 프로그램 분석 기법을 결합한 취약점 자동 탐지 및 패치 전략을 공개할 예정이다. 이 외에 마이클 그로내거 체이널리시스(Chainalysis) 공동 창업자(현 그라이AI 대표), 루이스 로우 화웨이 글로벌 커뮤니케이션 총괄 등도 연단에 설 예정이다. 오픈토크 세션에서는 김용대 KAIST 교수가 좌장을 맡아 국내외 전문가들과 함께 'AI 시대의 사이버보안'을 주제로 심도 있는 토론이 열릴 계획이다. 올해를 기점으로 코드게이트는 미래 보안 인재 육성을 위한 교육 생태계 조성에 본격적으로 나선다는 방침이다. 차세대 AI 화이트해커 발굴을 위해 선발된 인재에게는 장학금, 실무 교육, 해외 네트워킹 기회가 제공되며, 1기는 오는 9월 모집한다. 뿐만 아니라 미국 데프콘·블랙햇 수준의 최상위 실전 보안 트레이닝도 개최되며, 선린인터넷고·디지털미디어고 학생들이 직접 기획하고 운영하는 관람객 맞춤형 해킹 체험 프로그램도 마련된다. 조현숙 코드게이트보안포럼 이사장은 "취약점을 찾고 방어벽을 세우는 경계에 AI가 가세하며 보안의 패러다임이 완전히 뒤바뀌고 있다"며, "고도화된 공격형 AI를 막아낼 국가적 방어체계 없이는 AI 강국 도약도 불가능한 만큼, 이번 대회가 대한민국이 나아갈 명확한 이정표를 제시하는 자리가 될 것"이라고 강조했다.

2026.07.21 11:51김기찬 기자

허깅페이스, 데이터·인증정보 털려…"이용자에 보안키 교체 권고"

허깅페이스가 해킹으로 내부 데이터와 서비스 인증정보를 탈취당한 것으로 전해졌다. 현재 이용자에게 보안키 교체와 계정 점검을 권고한 상태다. 20일(현지시간) 테크크런치 등 외신에 따르면 허깅페이스는 지난주 플랫폼에 업로드된 데이터셋을 통해 내부 시스템이 침해됐다고 밝혔다. 고객이나 협력사 데이터까지 유출됐는지는 조사하고 있다. 공격에 이용된 데이터셋은 보안 취약점을 악용해 허깅페이스 서버에서 악성코드를 실행했다. 공격자는 이후 자신의 접근 권한을 높여 내부 시스템으로 침투 범위를 넓혔다. 회사는 공격 과정에서 노출된 서비스 인증정보를 폐기하고 새로 발급했다. 이용자에게도 플랫폼에 저장한 보안키를 교체하고 계정에서 의심스러운 활동이 발생했는지 확인하라고 안내했다. 공격에 악용된 보안 취약점은 수정됐다. 공개된 이용자용 모델과 데이터셋이 변조됐거나 소프트웨어 공급망이 침해된 증거는 현재까지 발견되지 않았다. 허깅페이스는 이번 공격 과정에 외부 인공지능(AI) 에이전트가 동원됐다고 주장했다. 해당 에이전트는 짧은 시간만 운영되는 여러 샌드박스를 옮겨 다니며 수천 건의 개별 작업을 수행한 것으로 분석됐다. 공격자는 공개 서비스를 활용해 명령·제어 체계도 구축한 것으로 나타났다. 다만 허깅페이스는 AI 에이전트가 공격을 수행했다는 주장을 뒷받침할 구체적인 증거를 테크크런치에 즉시 제시하지 않았다. 이번 공격은 허깅페이스의 자체 이상징후 탐지 시스템을 통해 처음 포착됐다. 회사는 이후 공격 과정이 기록된 서버 로그를 분석하는 데 AI 모델을 활용했다. 초기 로그 분석에는 외부 업체가 제공하는 상용 프런티어 AI 모델이 투입됐다. 그러나 해당 모델이 사이버 공격 관련 분석 요청을 안전 정책에 따라 차단하자 자체 서버에서 구동하는 거대언어모델(LLM)로 전환했다. 자체 모델을 활용하면서 공격 정보가 담긴 민감한 서버 로그를 외부 AI 업체 서버에 전송하지 않아도 됐다. 일부 상용 AI 모델의 안전장치가 사이버 공격 방어와 침해 사고 조사까지 제한할 수 있다는 문제도 드러났다. 허깅페이스는 이번 사건을 수사기관에 신고했다. 사이버보안 포렌식 전문가도 투입해 침해 범위와 내부 보안 체계를 조사하고 있다. 허깅페이스는 외부 AI 에이전트가 "수명이 짧은 여러 샌드박스에서 수천 건의 개별 작업을 수행했다"며 "공개 서비스를 기반으로 스스로 이동하는 명령·제어 체계를 구축했다"고 밝혔다.

2026.07.21 10:04김미정 기자

지슨 "AI 해킹 시대…보안 사각 '무선 백도어' 대응 필요"

무선 물리보안 전문 기업 지슨(대표 한동진)이 인공지능(AI)발 사이버 위협에 대응하기 위해 기존 보안 체계는 물론 보안 사각지대인 무선 전파 영역까지 철저히 통제하는 입체적 방어 체계의 필요성이 있다고 주장했다. 지슨은 20일 앤트로픽의 프론티어 AI 모델 '미토스(Mythos)'의 등장에 따라 AI로 네트워크 및 소프트웨어의 취약점을 빠르게 찾아내고 실제 공격에 악용하는 속도가 빨라진 만큼, 비인가 무선 백도어 해킹에 대한 위협도 커질 것으로 경고했다. 기업 및 조직들이 AI발 공격에 대응하기 위해 네트워크 및 소프트웨어 보안 체계를 강화함에 따라 공격자들이 '빈틈'이 될 수 있는 무선 백도어 해킹 등 위협을 고도화할 가능성이 커졌기 때문이다. 무선 백도어 해킹 공격은 기존 네트워크 방어선을 피해 스파이칩 등을 매개로 공격을 시도하는 공격을 말한다. 이는 기존 네트워크 보안 체계를 한순간에 무력화할 수 있으며, 공격자들이 네트워크 침투에 대한 난도가 높아짐에 따라 이같은 환경을 더욱 정교하게 노릴 수 있다는 분석이다. 이에 지슨은 비인가 무선 신호를 실시간으로 탐지하고 차단하는 체계가 필요하다고 강조했다. 지슨의 무선 백도어 보안 솔루션 '알파-H(Alpha-H)'는 무선 주파수 위협에 대응하며, 승인되지 않은 낯선 주파수가 감지되면 위치를 추정하고, 차단할 수 있도록 지원한다. 알파-H는 지난해 7월 조달청 우수제품으로도 지정된 솔루션으로, 금융권을 중심으로 도입에 속도가 붙고 있다. 실제 우리은행, 신한은행, KB국민은행 등은 데이터센터에서 실제로 알파-H를 운용하고 있으며, 지난 6월에는 NH농협은행과의 협약도 본격화됐다. 지슨은 "방화벽도, 무선 침입방지 시스템도 기존 유선 보안 체계에서는 감시 대상이 아니기 때문에, 스파이칩 등을 통한 무선 백도어 공격은 대응에 한계가 있다"면서 "알파-H는 25kHz부터 3GHz까지 전 대역을 1초에 한 번씩 스캔하며, 승인되지 않은 주파수를 탐지한다. 보안 사각지대로 꼽히는 무선 전파 영역까지 입체적으로 방어할 수 있는 체계를 마련해야 한다"고 강조했다.

2026.07.20 21:20김기찬 기자

Prev 1 2 3 4 5 Next