"전세계 국방AI 통제 없이 도입…인류에 위협"
"전 세계적으로 국방 분야에서 AI는 통제 없이 도입되고 있습니다. 자율 무기 체계는 통제 체계가 부재해 인류에 위협이 되고 있습니다. 한국은 이제야 RMF(위험관리프레임워크)를 도입하고 있는 만큼 통제 체계를 먼저 만들고, 기술을 마련하기에 너무 늦습니다. 기술과 통제 체계 마련이 함께 가야 합니다." 안상현 육군 수도방위사령부 중령은 지난 29일 한국정보보호학회가 개최한 '2026 KIISC 위험관리 및 보안관리 체계 실무 워크숍' 오전 세션 발표에서 이같이 강조했다. 안 중령은 이날 한국형 RMF(K-RMF)와 Ai RMF가 결합한 '신뢰성 거버넌스 파이프라인'에 대해 제시했다. 그는 "자율 무기체계는 통제체계가 부재해 인류에 위협이 되고 있다"며 "심지어 미군조차도 해답을 찾기 못하고 있다. 미군 150만 명 정도가 AX(AI 전환)을 주도하고 있다고 미군 측이 화려하게 발표했지만, 실상 이들이 사용하고 있는 AI의 비율을 보면 대부분 챗봇 혹은 행정·사무용 AI인 것으로 나타났다"고 AI 통제 체계의 전 세계적 부재에 대해 진단했다. 아울러 안 중령은 "한국 역시 N2SF(국가 망보안 체계), 국방 AI법 발의 등 국방 부문 AI 혁신을 빠르게 추진하고 있다. 이달 초에는 시행령 연구용역까지 발주했다"면서도 "그러나 검증은 아직이다. 핵심 데이터 편향, 오염 검증, 배포 승인 기준 정립 등 거쳐야 할 단계가 많다"고 지적했다. 그는 "이에 'AI 위험 관리 거버넌스 파이프라인 모델을 제시한다"며 "기존 RMF 5단계를 유지하면서도 AI 특성을 반영해 통합 관리할 수 있는 체계이며, AI 위원회의 설치로 위험 등급 설정 및 운영 가능성 판단을 강화했다"고 제시했다. K-RMF 5단계는 분류, 선정, 구현, 평가·운용승인(ATO), 모니터링 등 단계에 맞춰 도입 절차를 밟고 있다. 이 중 안 중령이 제시한 AI RMF 거버넌스는 K-RMF 모든 단계 상위에 ▲AI 위험 수용 여부 결정 ▲위험등급 설정 ▲기관별 역할 구분 ▲감사 체계 등 기능을 갖춘 채 K-RMF 단계별로 AI 리스크를 추적하고, 위험 등급별로 주기적인 관리하는 절차를 더해야 한다는 것이 안 중령 발표의 핵심이다. 안 중령은 "3만2000여개의 표적을 타격해야 한다고 AI가 판단했을 때 3초 만에 인간은 AI의 판단을 승인할 수 있는가?"라고 반문하며 "신뢰할 수 없는 AI는 무기가 아니다. 신뢰성이 곧 전투력"이라고 국방 부문 AI 활용에 있어 신뢰성 확보가 중요하다고 강조했다. "위험 닥쳤을 때 경영진이 못 알아 들으면 무용지물…소통 간극 좁혀야" 이날 워크숍 현장에서는 유재원 아주대 교수가 경영 및 관리 계층의 K-RMF 위험평가 방안도 발표했다. 유 교수는 발표에 앞서 "'대표님, 개인정보가 유출됐습니다. CVSS가 몇점이고, 몇번 포트가 열려 있어서 외부 패킷이 들어오고 있는 상황이여서 이렇게 조치했습니다.'라고 한다면 당신의 경영진은 이 말을 알아듣고 적절한 의사결정을 할 수 있는가?"라고 물으며 "C레벨 경영진이나, 지휘관들은 실무진이 보고하는 이 내용을 무엇인지 알아 들을 수 없다. 기껏해야 '그래. 정보보호팀 고생했어. 너희만 믿고 있으면 되지?'하는 답변만 돌아올 것"고 말했다. 이같은 조직 내 치명적인 소통의 단절은 조직 전체가 수용할 수 있는 비즈니스 위험의 한계치를 인지하지 못하게 만든다. 유 교수는 "위험 파급력의 정량화 실패로 보안 예산 및 자원 낭비를 초래하고, 조직 내에서 위험에 대한 사고의 차이가 발생한다"고 밝혔다. 이에 유 교수는 "실제 위험이 활동하고 있는 상황에서는 기술적인 액션이 들어가더라도 상위 관리자에게 보고할 때에는 경영진이 알아들을 수 있는 용어로 변경하는 작업이 병행돼야 한다"며 "미국 국립표준연구소(NIST)는 평가 준비, 수행, 결과 소통, 유지 및 갱신 이라는 4단계 절차를 두고 있다"고 밝혔다. 그는 우리나라 역시 ▲자산별 위협 시나리오 문서화 및 표준화 필요 ▲자연재해 등 비적대적 위협도 고려한 위협 시나리오 대비 ▲경영진 설득을 위한 리스크 평가 접근법 수용 ▲경영진과 기술자용 위험 평가 도구 구분 등 방안을 제시했다.
