"사람이 AI 공격 못 따라가"…시스코, AI로 AI 막는다

"인공지능(AI)이 만드는 공격과 위험을 사람이 일일이 따라가며 막기는 어렵습니다. 머신 스피드로 움직이는 AI를 통제하려면 방어 역시 AI 속도로 이뤄져야 합니다." 시스코가 AI를 활용해 기존 보안을 강화하는 'AI 포 시큐리티(AI for Security)'와 AI 모델·에이전트 자체를 보호하는 '시큐리티 포 AI(Security for AI)'를 동시에 강화하고 있다. AI가 보안 이벤트 분석과 취약점 탐지를 빠르게 하는 도구로 자리 잡은 동시에 기업 시스템에 접근해 직접 행동하는 AI 에이전트가 새로운 보안 대상으로 떠오르고 있어서다. 20일 서울 삼성동에서 열린 시스코코리아 미디어 테크 세션에서 이승노 시스코코리아 테크놀로지 스트래티지&어드바이저리 그룹(TSAG) 상무는 오픈소스·오픈웨이트 기반 AI 보안 기술을, 김일근 시스코코리아 TSAG 상무는 기업 내부 AI 시스템을 보호하는 전략을 각각 소개했다. 이 상무는 먼저 AI를 활용해 보안 운영과 소프트웨어 개발 과정의 취약점 탐지를 자동화하는 기술을 소개했다. 시스코는 최근 사이버보안에 특화한 80억(8B) 파라미터 오픈웨이트 모델 '파운데이션-섹-8B(Foundation-Sec-8B)'를 공개하고 보안관제센터(SOC) 등 보안 운영 환경에서 활용할 수 있도록 했다. 파운데이션-섹-8B는 메타 '라마 3.1 8B'를 기반으로 위협 인텔리전스와 취약점 데이터베이스, 사고 대응 문서 등 보안 특화 데이터를 추가 학습한 모델이다. 위협 탐지와 취약점 평가, 보안 자동화를 목적으로 설계됐으며 요약과 분류, 개체명 인식, 질의응답, 추론·생성 등을 지원한다. 외부 클라우드로 데이터를 보내기 어려운 기업을 위해 로컬 환경에도 배포할 수 있다. 시스코는 기본 모델 외에 명령어 처리에 최적화한 '파운데이션-섹-8B-인스트럭트(Instruct)'와 다단계 추론을 지원하는 '파운데이션-섹-8B-리즈닝(Reasoning)'도 제공하고 있다. 이 중 리즈닝 모델은 로그와 네트워크 패킷, 엔드포인트탐지대응(EDR) 이벤트 등 대규모 보안 데이터를 함께 분석해 서로 연관된 위협을 찾는 데 초점을 맞췄다. 이 상무는 "금융이나 공공기관처럼 보안 데이터를 외부 클라우드로 보내기 어려운 곳에서는 클라우드 기반 AI 모델을 활용하는 데 제약이 있다"며 "오픈웨이트 모델을 내부에 배포하면 기존 보안 시스템과 연동해 이벤트 요약과 분류, 질의응답, 추론 등에 활용할 수 있다"고 말했다. 실제 소프트뱅크는 SOC에서 의심스러운 소프트웨어를 분류하는 작업에 파운데이션-섹-8B를 적용했다. 기존에는 사람이 직접 분류 작업을 수행했지만 데이터 프라이버시 문제로 외부 클라우드 거대언어모델(LLM) 도입에 제약이 있었다. 시스코에 따르면 소프트뱅크는 파운데이션-섹-8B로 17개 유형을 분류하고 자체 규칙과 가드레일, 전후처리를 결합한 결과 90% 이상의 성능을 확보했다. 시스코는 소프트웨어 개발 과정에서 AI가 만들어낸 코드의 취약점을 찾는 기술도 확대하고 있다. 생성형 AI가 코드 작성에 폭넓게 활용되면서 개발 속도는 빨라졌지만 사람이 모든 코드를 직접 검증하기 어려워졌고, 범용 LLM은 오탐이나 환각 문제가 발생할 수 있다는 이유에서다. 기업의 소스코드를 외부 AI 서비스에 전달하기 어렵다는 점도 별도 보안 모델 수요를 키우고 있다. 이를 위해 시스코는 올해 소형 오픈웨이트 보안 모델 '안타레스(Antares)'를 개발해 공개했다. 현재 3억5000만·10억 파라미터 모델을 활용할 수 있으며 30억 파라미터 모델도 준비하고 있다. 파일이나 코드 저장소를 지정하면 전체 소스코드를 검사해 취약점이 발생한 위치를 찾아내고 수정이 필요한 부분을 제시하는 방식이다. 개발 단계에서 취약한 코드를 걸러내도록 규칙을 적용하는 '코드가드(CodeGuard)'와 여러 보안 에이전트의 역할과 행동 규칙을 정의한 오픈소스 프로젝트도 함께 공개했다. 특정 AI 모델에 종속되지 않아 개발자가 사용하는 AI 코딩 도구에 적용할 수 있도록 설계한 것이 특징이다. 시스코 내부에서도 이 같은 기술을 실제 코드 검증에 활용했다. 이 상무에 따르면 약 18억줄에 달하는 시스코 전체 코드베이스를 AI와 자체 보안 프레임워크로 점검하면서 기존 방식으로 약 8년이 걸릴 것으로 예상했던 작업을 8주로 줄였다. 오탐률도 3% 미만으로 낮췄다. 이 상무는 "아직 실제 도입 사례를 공개할 단계는 아니지만 국내에서도 안타레스에 대한 요청이 많이 들어오고 있어 고객들과 관련 미팅을 진행하고 있다"며 "이런 기술들을 포함한 서비스 오퍼링도 준비하고 있다"고 말했다. AI로 기존 보안을 강화하는 것과 동시에 AI 자체를 어떻게 보호할지도 새로운 과제로 떠올랐다. 김일근 상무는 AI가 단순히 답변을 생성하는 수준을 넘어 기업 시스템과 도구에 접근해 직접 행동하는 에이전트로 발전하면서 기존 보안 체계만으로는 대응하기 어려운 영역이 생기고 있다고 짚었다. 김 상무는 AI가 사용자의 말을 정확하게 이해하는 것과 사용자의 의도와 가치에 맞게 행동하는 것은 다른 문제라고 봤다. 에이전트에 높은 자율성과 광범위한 접근 권한을 부여하면서 안전장치가 충분하지 않으면 사용자가 예상하지 못한 행동으로 이어질 수 있다는 것이다. 김 상무는 "AI가 머신 스피드로 움직이기 시작하면 사람이 하나하나 따라가며 통제하는 방식으로는 한계가 있다"며 "AI가 하는 행동을 AI를 이용해 감시하고 통제하는 구조가 필요하다"고 말했다. 특히 AI 에이전트는 모델뿐 아니라 외부 도구와 메모리, 기업 데이터까지 연결해 작동하기 때문에 보호 대상도 넓어진다. 에이전트가 호출하는 도구 자체에 악성 명령이 숨어 있는 '툴 포이즈닝'이나 에이전트가 저장한 메모리와 맥락을 변조하는 공격까지 고려해야 한다. 이에 시스코는 에이전트의 행동 범위를 통제하는 '하네스'와 맥락 정보를 함께 관리하는 방식으로 대응하고 있다. 이 전략의 중심에는 'AI 디펜스(AI Defense)'가 있다. 시스코는 AI 보안 기업 로버스트 인텔리전스 인수 이후 관련 기술을 토대로 AI 디펜스를 개발했다. AI 모델과 애플리케이션을 도입하기 전 위험을 점검하고, 운영 과정에서 발생하는 이상 행동을 실시간으로 탐지·차단하며 사후 분석까지 지원하는 플랫폼이다. 기존에는 모델 검증이나 레드팀 테스트를 프로젝트 단위로 수행했다면 AI 디펜스는 이를 상시적으로 자동화하는 데 초점을 맞췄다. AI 모델과 에이전트가 빠르게 바뀌는 만큼 특정 시점에 한 차례 점검하는 방식만으로는 위험을 따라가기 어렵기 때문이다. 또 AI 디펜스를 퍼블릭 클라우드뿐 아니라 기업 내부 온프레미스 환경에서도 활용할 수 있도록 했다. 김 상무는 "AI 디펜스는 국내에서도 이미 출시해 제공하고 있다"며 "앞으로 한국 시장에 어떻게 적용할지, 한국어와 국내 문화적 맥락을 어떻게 반영할지에 대한 작업도 현재 진행하고 있다"고 밝혔다. 기업이 승인하지 않은 AI를 직원이 사용하는 '섀도우 AI'도 관리 대상이다. 생성형 AI와 바이브 코딩 도구가 확산되면서 직원이 개인 PC에 오픈소스 모델이나 AI 프레임워크를 설치해 사용하는 사례가 늘고 있어서다. 시스코는 올라마와 랭체인 등 널리 쓰이는 AI 실행·개발 환경을 탐지해 조직 내부에서 어떤 AI가 사용되고 있는지 파악하도록 지원한다. 김 상무는 "최근 고객들은 AI를 아예 못 쓰게 해달라고 하지 않는다"며 "업무에 AI를 적극적으로 활용하되 회사 데이터 유출이나 승인되지 않은 AI 사용 같은 위험은 통제하고 싶어 한다"고 설명했다. 이어 "이제 기업의 질문은 'AI를 막을 것인가'가 아니라 '잘 쓰게 하면서 어떻게 통제할 것인가'로 바뀌고 있다"고 부연했다.