이상근 교수 "명령 한 줄로 누구나 해킹하는 시대 올 것"

취약점 공개 후 취약점 공개 후 실제 악용까지 걸리는 시간(TTE)이 평균 2.3년이었으나 현재는 마이너스 8시간 수준으로 단축돼 취약점이 공식적으로 공개되기도 이전에 이미 제로데이 공격이 들어오는 상황이다. 제로데이 공격은 취약점에 대한 패치가 발표되기 이전에 취약점을 악용한 공격을 말한다. 이상근 고려대 정보보호대학원 교수는 24일 개최한 '코드게이트 2026' 강연자로 나서 이같은 내용을 골자로 한 '복잡한 AI 세계를 위한 새로운 보안 질서'를 주제로 발표했다. 그는 AI가 코딩을 대신하는 바이브 코딩의 증가와 분석해야 할 코드량이 급증했고, 이 때문에 공개된 취약점(CVE)도 폭증하고 있다고 진단했다. 실제로 미국 국가 취약점 데이터베이스(NVD) 역시 분석 후 공개할 취약점이 3만건에 육박하면서 분석을 사실상 포기하고, 미국 정부 관심 소프트웨어 위주로만 관리하겠다고 선언했다. 이에 이 교수는 "보안 인력 공급은 비선형적인 반면 공격 기법과 코드 폭증은 기하급수적"이라며 "2028년경에는 누구나 토큰 비용만 내면 명령 한 줄로 해킹을 시도할 수도 있는 시대가 올 수 있다"고 우려했다. 이어 "국내 기업·기관은 자체적인 취약점 분석 및 자동 패치 역량 확보가 필수적"이라고 강조했다. 이 교수는 AI 모델 자체가 새로운 공격 표면이 되고 있다고 지적했다. 그는 그 배경으로 ▲프롬프트 인젝션 ▲탈옥(가드레일 우회) ▲학습 데이터 및 개인정보 오출 ▲양자화 백도어 ▲AI 권한 관리 미흡 ▲섀도우 AI ▲피지컬 AI 위협 등의 공격 기법을 예로 들었다. 이같은 공격에 대응한 전략으로는 ▲AI 기반 자동화 패치 전략 ▲자동 패치 적용 기술 ▲양자 컴퓨터 및 'HMDL' ▲AI와 사이버 보안 체계의 통합 등을 제시했다. "현대 사이버전, 심리적 우위 점하는 '증폭력' 도구" "AI는 시간을 아껴주는 '세탁기'이자, 시간을 낭비하게 만드는 'TV'의 특성을 동시에 가지고 있습니다. 토큰을 많이 쓴다고 해서 생산성이 높아지는 것이 아니라, 단지 엔터테인먼트로 소모했을 수 있습니다. 핵심은 인풋이 아닌 아웃풋을 측정하는 것입니다." 마이클 그로내거(Michael Gronager) Gry AI 창립자 겸 CEO도 이날 강연자로 나서 'AI와 보안의 현주소 그리고 미래'를 주제로 발표했다. 그는 "현재 LLM은 인터넷에 공개된 위키피디아 수준의 '간접 정보'를 압축 및 추출하는 데 특화돼 있다"며 "데이터를 수집해 그간 놓쳤던 영역을 연결하는 데에는 유욕하지만, 새로운 정보 주입이 없으면 성장세는 곧 정체될 것"이라고 말했다. 이에 그는 "경영진들이 AI 도입률을 '직원당 사용한 토큰 비용'으로 측정하는 것은 80년대 컴퓨터 수나 블록체인 트랜잭션 수만 세는 '인풋(Input) 측정의 오류'"라며 "토큰 사용량이나 인풋 지표를 AI 성공의 척도로 삼지 말고 아웃풋을 측정할 수 있어야 한다"고 밝혔다. 아울러 "AI로 인해 PPT, 소설, 기본 코드 생성 등 손쉽게 만들어지는 콘텐츠의 가치는 폭락했다. 진정한 혁신이나 직접적인 경험만이 희소성을 가진다"며 "기업 내부의 독자적인 데이터, 현장 경험 데이터야말로 가장 강력한 자산이며, 이 데이터를 자체 AI에 학습시키고 활용하는 것이 핵심 경쟁력이 될 것"이라고 강조했다. "현대 사이버전, 심리적 우위 점하는 '증폭력' 도구" 글로벌 사이버 위협 환경이 급변하면서 러시아·우크라이나 전쟁 등에서도 사이버 공격이 실전 사례로도 나타났다. 이에 제도와 인식 개선을 통해 사이버 위협에 대응할 수 있는 적극적 방어 태세를 확립할 수 있어야 한다는 전문가 제언이 나왔다. 손기욱 서울과학기술대학교 컴퓨터공학과 교수도 이날 강연자로 나서 '최근 전쟁에서 일어난 사이버전 양상'을 주제로 발표했다. 손 교수는 "현 시점 사이버전은 독자적으로 물리전은 완벽히 대체하기보다, 물리전의 파괴력을 높이고 심리적 우위를 점하는 '증폭력' 도구로 작용하고 있다"며 "이런 가운데 AI, 클라우드, 위성 통신망 등이 새로운 전장 및 주요 공격 표면으로 부상했다"고 진단했다. 그는 "사이버전의 승패 기준을 전환해야 한다. 단순히 공격을 차단해낸 것에서 승리했다는 개념, 공격을 당하면 패배했다는 개념이 아니라, 100% 탐지 및 방어는 불가능하다는 의식 아래 얼마나 공격을 잘 버텨내고 빠른 시간 내에 복구해야 서비스를 지속할 수 있는지가 핵심 승패 기준이 돼야 한다"고 사이버 레질리언스(복원력)의 중요성에 대해 강조했다. 손 교수는 질문의 패러다임을 전환해야 한다고 역설했다. 그는 "단순히 보안 점검을 통과했는가 하는 질문은 공격을 받아도 견디고 서비스를 유지할 준비가 되었는가로, 보안 솔루션을 몇개 도입했는가를 장애 발생 시 대체 경로와 복구 절차가 있는가로 전환해야 한다"며 "학생들은 단순히 도구를 사용하는 사람이 아니라 문제를 정의하고 평가할 줄 아는 전문가가 돼야 한다. 또한 언론은 정보 전달을 넘어, 허위 정보와 인지전에 맞서 국민의 '인지 공간'을 지키는 핵심 주체로서의 역할이 요구된다"고 말했다. "화웨이, R&D 전 과정에 보안 내재화했다" 루이스 로우(Louis Low) 화웨이 사이버보안 및 개인정보보호 부문 글로벌 커뮤니케이션 총괄도 이날 발표자로 나서 AI 시대 사이버 보안을 위한 화웨이의 글로벌 거버넌스 및 대응 전략을 소개했다. 그는 "데이터 유출, 공급망 공격 등 전통적인 보안 위협과 더불어 AI 특화 공격 표면, 악의적 AI 활용 등 AI발 보안 위협이 새롭게 부상하고 있다"며 "실제로 대형 AI 모델 2개를 악용해 5개월간 200~300달러의 비용으로 멕시코 정부 기관을 해킹한 사례도 포착된다"고 설명했다. 루이스 총괄은 "전 세계 주요 국가들도 이같은 AI발 보안 위협을 의식해 규제를 강화하는 추세다. 유럽은 AI Act를 제정해 고위험 애플리케이션에 대한 법적 처벌을 명시했고, 미국은 AI 산업 발전을 저해하는 강력한 규제를 자제한다"고 말했다. 그는 이같은 위협에 대응하는 화웨이의 AI 거버넌스 및 보안 프레임워크를 소개했다. 크게 3가지로 구분되는데, ▲책임있는 AI 6대 원칙 및 거버넌스 ▲5대 가드레일 및 현지화 ▲3대 보안 대응 원칙 등이다. 루이스 총괄 발표에 따르면 화웨이는 기존의 보안, 개인정보보호, 데이터 거버넌스 관리 체계와 통합해 R&D 전 과정에 보안 검증 단계를 내재화했다. 또한 AI가 해당 국가의 문화, 종교, 법률을 위반하지 않도록 국가별·산업별 독자적인 커스텀 데이터셋을 구축했다. 3대 보안 대응 원칙으로는 내재적 보안, 사이버 회복력, 생태계 협업 등을 제시했다. 아울러 본사 엔지니어가 신규 취약점을 발견하면 클릭 한 번으로 고객사(Vodafone, Deutsche Telekom 등) 운영자에게 실시간 자동 전송되는 자동화 시스템도 구축했다. 이는 취약점 발견 및 검증 시간을 절반으로 줄이고 발굴율을 3배 이상 향상시킨 것으로 알려졌다. 루이스 총괄은 "AI는 특히 우리 보안 담당자들에게 새로운 도전 과제를 가져다주겠지만, 동시에 개발·제조·테스트의 전 과정을 개선하는 데 AI를 적극 활용할 수도 있다"며 "시스템 자체가 충분히 견고하다면, 아무리 강력한 대형 AI 모델이라 하더라도 뚫고 들어올 수 없다. 지금이야말로 시스템의 품질과 보안 역량을 강화하고, 조직 내에서 우리 보안 담당자들의 목소리와 위상을 더욱 높일 수 있는 적기"라고 강조했다.