[강은성 보안칼럼] AI의 사이버 공격에 대응하기 위하여(상)
2026년 4월 7일, 앤트로픽(Anthropic)에서 프론티어 AI 모델인 클로드 미소스 프리뷰(Claude Mythos Preview)를 발표하면서 '보안 동네'에 한바탕 '폭풍'이 불어닥쳤다. 앤트로픽은 리눅스의 27년 동안 찾아내지 못한 보안 취약점을 탐지하고, 그에 대한 공격 코드를 생성하는 등 미소스 프리뷰가 이전 AI 모델과는 질적으로 다른 탁월한 사이버 공격 능력을 가졌음을 밝혔다. 영국 AI보안연구소(AISI)는 자체 사이버 보안 능력 평가 모델인 'The Last Ones'(이하 TLO)를 통해 측정한 결과 미소스 프리뷰는 이전의 다른 AI 모델보다 우수한 성능을 보였다. TLO는 9개의 마일스톤, 32단계로 구성되는데, 미소스 프리뷰는 10회 시도 중 3회에서 32단계를 모두 통과함으로써 TLO를 통과한 첫 AI 모델이 되었고, 곧이어 발표된 OpenAI의 GPT-5.5 역시 미소스 프리뷰와 비슷한 성능(조금 더 나은)을 보이면서 TLO를 통과한 두 번째 모델이 되었다. 미소스 프리뷰가 사이버 공격에 악용될 것을 우려한 앤트로픽은 50여 개의 기업·기관에만 접근권을 부여하는 '글래스윙 프로젝트'를 시작했는데, 여기에 참여 파트너들이 한 달 동안 자체 점검한 결과 1만 건 이상의 취약점을 발견했다고 밝혀 또 한번 충격을 줬다. 사이버 공격 능력은 프론티어 AI 모델에 공통적? 문제는 AI 모델의 탁월한 사이버 공격 능력은 이들만의 것이 아니라는 점이다. 앤스로픽도 밝혔듯이 이것은 프론티어 AI 모델을 개발하면서 나타난 '부산물'이어서 다른 기업의 프론티어 AI 모델도 이러한 능력을 갖출 가능성이 높다. 결국 앤트로픽의 대시보드(그림 2)에서 보여주듯 취약점을 보완(패치)하는 단계가 '병목'이 될 것으로 보인다. 개발사가 분명한 상용 소프트웨어는 오픈 소스보다는 패치율이 높긴 하겠지만, 크게 다르지는 않을 것으로 예상된다. 사이버 공격에 AI 모델이 도입되면서 이전과 다른 점은 탐지된 취약점의 양이 엄청나게 늘어나고, 그것을 악용한 공격의 속도는 매우 빨라졌으며, 공격의 모든 과정이 자동화된다는 점이다. 보안은 흔히 예방-탐지-대응의 순환으로 설명하는데, AI 기반의 사이버 공격에 대응하기 위해서는 출시 전에 최대한 예방하고, 출시 이후에 탐지-대응의 속도와 양을 늘려야 한다. 소프트웨어 보안(또는 디지털 제품·서비스 보안) 측면에서 보면, 개발 단계에서 취약점이 최소화되도록 개발하는 것이 주요 취약점 '예방' 활동이다. 대표적인 방법론으로는 미국 국립표준기술연구소(NIST)의 SSDF(Secure Software Development FRAMEwork, NIST SP 800-218)이 있다. 예방이 최선, 하지만··· SSDF는 SW보안의 영역을 ▲조직 준비(Prepare the Organization, PO) ▲소프트웨어 보호(Protect the Software, PS) ▲보안이 잘 갖춰진 소프트웨어 제작(Produce Well-Secured Software, PW) ▲취약점 대응(Respond to Vulnerabilities, RV)으로 분류하고, 각 영역에 해당하는 보안 활동을 예시와 함께 상세하게 다룬다. 웬만큼 SW개발 프로세스(SW Development Life Cycle, SDLC)를 갖춘 기업이라면 안전한 SW를 개발하는 데 SSDF를 활용하는 것이 어렵지 않을 것이다. SSDF는 SW 개발사뿐 아니라 공급사, 구매사, 운영사 등 SW의 일생에 관여되어 있는 다양한 주체가 활용할 수 있다는 장점도 있다. SSDF에 아쉬운 점이 없지 않다. SSDF는 말 그대로 프레임워크여서 각 활동이 어떤 개발 단계에서 이뤄지는지 명확하게 정의하지 않는다. 이걸 좀 더 명확하게 이해하려면, 주요 개발사들이 보유한 Secure SDLC를 살펴보면 된다. 조금씩 차이가 있긴 하지만, 각 사의 Secure SDLC는 크게 다르지 않다. 대체적으로, 개발의 각 단계와 그 단계에서 수행해야 할 보안 활동을 정의한다. 국내 기업의 대표적인 Secure SDLC로는 LG전자의 LG-SDL(Secure Development Lifecycle, 아래 이미지)을 꼽을 수 있다. LG전자는 10년 전부터 LG-SDL을 수립, 전사 표준으로 운영함으로써, 스마트가전 등 LG전자에서 개발하는 모든 스마트 제품에 적용해 오고 있다. 대부분의 제품·서비스에는 크고 작은 취약점이 존재한다. 심각도가 낮은 보안 취약점까지 다 없애기 위해 출시 일정을 마냥 늦추기 어렵기도 하지만, 출시 당시에는 취약점이 아니었던 것이 새로운 보안 공격 기술이 나타나면서 취약점이 되기도 한다. (보안에서는 공격자(적대적 상대방)가 있다는 점이 품질 등의 분야와 매우 다른 점이다.) 출시 이후에 취약점을 신속하게 탐지하여 신속·정확하게 대응하는 것이 중요한 이유다. 취약점 탐지 속도전 개발사나 서비스 운영사는 출시·운영 중인 제품·서비스에 대해서 정기적인 모의해킹 등을 통해 취약점을 탐지해야 하지만, 그것만으로는 부족하다. 이미 국내·외 주요 기업에서는 '버그 바운티' 사업을 운영한다. 상금으로 수억~수십억 원을 지출하지만, 심각한 취약점을 미리 찾아 보완함으로써 침해사고를 통해 발생할 수 있는 경제적 손실을 예방하는 효과가 더 크기 때문이다. 최근 정부에서 시작한 '취약점 신고·조치·공개제도(CVD·VDP) 시범사업' 역시 취약점을 신속하게 탐지하는 데 그 취지가 있다. 취약점 탐지에도 AI 모델이 많이 사용된다. 미소스 프리뷰 이슈가 터진 뒤 주요 보안기업의 핵심 인력이 모인 정부 주관 대책회의에 참석한 적이 있는데, 여러 보안기업에서 Claude Opus 등 AI 모델을 활용하는 것이 기본값이 되어 있었다. (다음 칼럼에서 계속)
