이원태 "공공AX 확산, 공통 보안기준 없으면 위험"
이원태 국가인공지능전략위원회 보안특별위 위원장이 공공의 AX확산에 대해 보안이 함께 가야 한다고 강조했다. 이 위원장은 30일 페이스북에 'AI 시대, 사이버보안은 '지능생산국가'의 기반이다'는 글에서 최근 'AI 챔피언', 'AI 정부 실험실' 등의 정부 프로젝트 추진과 함께 공무원들이 직접 AI로 코드를 작성하고 에이전트를 통해 외부 데이터와 시스템을 연결하는 AI 기반 행정혁신이 크게 주목받고 있다면서 "그러나 공통된 보안기준과 검증도구 없이 확산된다면 혁신의 속도가 곧 위험의 속도가 될 수 있다"고 우려하며 "개발부터 검증·배포·운영까지 이어지는 공공 AX 보안체계, AI 공급망을 확인하는 AIBOM, 에이전트와 API의 신원·권한을 관리하는 NHI 관리 체계가 필요한 이유"라고 밝혔다. 이어 그는 "중요한 질문은 사고가 발생했을 때 얼마나 빨리 복구할 것인가만이 아니다. 누가 AI에 어떤 권한을 주었는가, 그 판단과 행동을 추적할 수 있는가, 이상행동이 나타났을 때 권한을 회수하고 시스템을 중단할 수 있는가를 물어야 한다"면서 "접근통제에서 행위통제로, 일회성 인증에서 상시 검증으로, 사고 예방에서 사이버복원력으로 보안의 문법을 바꿔야 한다"고 진단했다. 그는 지능생산국가의 경쟁력은 얼마나 좋은 모델을 많이 만드는가만으로 결정되지 않는다고 지적했다. 그러면서 "그 모델이 무엇을 학습했고, 누구의 데이터와 인프라 위에서 작동하며, 어떤 에이전트가 어느 범위까지 행동할 수 있는지를 스스로 통제할 수 있어야 한다. 우리가 생산한 지능을 스스로 설명하고 검증하며, 위험한 순간에는 즉시 멈출 수 있어야 한다"면서 "AI가 행정과 금융, 의료, 국방, 제조 현장으로 들어갈수록 보호해야 할 대상도 달라진다. 과거에는 서버와 개인정보를 지키는 것이 중심이었다. 이제는 AI 모델의 판단, 학습데이터의 무결성, 에이전트 권한, 외부 API와 오픈소스 공급망까지 보호해야 한다. 하나의 계정이 아니라 수많은 비인간 행위자(NHI)가 국가와 기업의 핵심 시스템을 움직이는 시대가 시작됐기 때문"이라고 짚었다. 이 원장은 국가인공지능전략위원회 보안특별위 위원장을 맡기 전 한국인터넷진흥원(KISA) 원장을 3년 지냈다. 사이버보안을 생각하면 흔히 해킹을 막는 기술과 규제를 떠올린다는 그는 "그러나 AI 시대의 사이버보안은 더 이상 사고를 예방하기 위한 방어정책에 머물지 않는다. 대한민국이 AI를 소비하는 나라를 넘어 세계에 지능을 공급하는 '지능생산국가'로 도약하기 위한 핵심 산업정책이자 국가안보 전략"이라면서 "보안이 AI 설계 단계부터 함께 들어가야 한다"고 역설했다. 이를 위해서는 국내 보안기업이 새로운 공격을 발견하고 검증하며 대응하는 역량 역시 지능생산국가의 핵심 생산능력으로 인정받아야 한다면서 "달리 말하면, AI 투자가 늘어나는 만큼 AI 보안 투자도 함께 확대하고, 공공 조달과 실증을 통해 국내 보안기술이 성장할 수 있는 시장을 만들어야 한다"고 전했다. AI 주권은 우리 모델을 갖는 것만으로 완성되지 않는다고 밝힌 그는 "우리가 생산한 지능과 데이터, 에이전트의 권한을 스스로 통제하고 위기 속에서도 핵심 서비스를 지속할 수 있을 때 비로소 완성된다. 지능을 더 많이 생산할수록 그것을 안전하게 통제하고 책임질 능력도 함께 커져야 하는 이치"라면서 "사이버보안은 AI 혁신을 늦추는 비용이나 규제의 문제가 아니다. 우리가 생산한 지능을 국민과 기업이 믿고 사용할 수 있게 하고, 그 지능이 세계 시장에서 신뢰받도록 만드는 핵심 경쟁력"이라고 말했다. AI 성능과 생산 규모만 키우고 이를 통제·보호할 능력을 갖추지 못한다면 지능생산국가의 토대는 작은 사고에도 흔들릴 수 있다고 지적한 그는 "더 빠르고 더 많은 지능을 생산하는 것만큼, 그 지능을 안전하고 책임 있게 작동시키는 역량을 함께 키워야 한다. 결국 사이버보안은 대한민국이 단순한 AI 기술강국을 넘어 세계가 믿고 선택하는 지능생산국가가 되기 위한 가장 중요한 국가 기반"이라고 강조했다.
