[AI는 지금] '제로데이' 악용한 아스트라…오픈AI, 첫 '크리티컬' 판정

오픈AI가 차세대 인공지능(AI) 모델 '아스트라'의 사이버보안 역량을 자체 안전 기준상 처음으로 최고 위험 단계인 '크리티컬'로 분류하면서 고성능 AI의 보안 통제 필요성이 커지고 있다. AI의 사이버 공격 능력이 사람이 일일이 지시하지 않아도 제로데이 취약점을 찾아 실제 공격까지 수행할 수 있는 수준으로 높아진 탓이다. 오픈AI는 지난 1일 아스트라가 자체 '프리페어드니스 프레임워크'의 사이버보안 크리티컬 기준을 충족했다고 2일 밝혔다. 적절한 도구와 시스템 접근 권한이 주어지면 사람의 개입 없이 보안이 강화된 시스템에서 알려지지 않은 취약점을 찾아 공격 방법까지 개발할 수 있다는 판단이다. '프리페어드니스 프레임워크'는 오픈AI가 개발 중인 첨단 AI의 위험성을 평가하고 통제하는 규정이다. 최고 위험 수준인 '크리티컬' 판정을 받게 되면 안전장치가 마련될 때까지 출시 및 개발을 제한한다. 아스트라는 알려진 취약점을 바탕으로 공격 코드를 개발하는 능력을 평가하는 '익스플로잇벤치'에서 100% 점수를 기록했다. 최근 공개된 고위험 취약점 20개로 구성한 자체 평가에서도 기존 'GPT-5.6 솔'보다 적은 출력 토큰을 사용하면서 더 높은 임의 코드 실행 성공률을 보였다. 평가 과정에선 기존에 알려지지 않은 제로데이 취약점 2개를 직접 발견해 공격 체인에 활용했다. 오픈AI는 해당 취약점을 관련 소프트웨어 개발·관리자에게 알리는 절차를 진행하고 있다. 전문가가 참여한 평가에서도 높은 공격 능력이 확인됐다. 아스트라는 보안이 강화된 브라우저에서 취약점을 찾아 샌드박스를 벗어난 뒤 호스트 시스템에서 명령을 실행하는 공격 체인을 구축했다. 운영체제에서는 여러 취약점을 결합해 일반 사용자에서 최고 관리자 권한인 '루트'까지 권한을 높이는 데 성공했다. 사이버 역량이 높아지면서 오픈AI도 개발과 출시 속도를 조절했다. 오픈AI는 최근 몇 주 동안 아스트라의 일부 개발과 출시를 늦추며 사이버 악용과 승인되지 않은 모델 행동을 막기 위한 안전장치를 강화했다. 허깅페이스 관련 사고 이후에는 아스트라를 포함한 일부 최첨단 모델 훈련을 2주간 중단했으며 지난달 28일 강화된 안전 기준을 적용해 대규모 강화학습 훈련을 재개했다. 오픈AI는 유해한 사이버 요청을 거부하는 능력도 강화했다. 사이버 탈옥 평가에서 아스트라는 허용되지 않은 요청의 91.5%를 거부했다. GPT-5.6 솔의 59%보다 32.5%포인트 높은 수준이다. 오픈AI는 아스트라를 조만간 공개할 계획이지만 고급 사이버보안 기능은 제한적으로 제공하기로 했다. 소수 시험 이용자에게 먼저 개방하고 이후 고급 사이버보안 기능을 방어 목적으로 제한 제공하는 '데이브레이크 블루'를 통해 이용 범위를 확대할 예정이다. 오픈AI는 "모델이 더 중요한 업무를 수행할 수 있게 되면서 정렬과 통제 실패가 미치는 영향도 더 심각해질 수 있다"며 "보호 조치가 충분하지 않을 경우 개발 속도를 늦출 의지도 필요하다"고 밝혔다.