군사용 AI 법적 공백 메운다…국방 AI 안전연구조직 밑그림 본격화

정부가 '국방 인공지능(AI)법' 제정을 추진하는 가운데 국방 AI 안전을 지원·관리할 연구조직 신설 로드맵 수립이 본격화됐다. 20일 업계에 따르면 국방기술품질원은 최근 '국방 AI 안전연구조직 신설 기획 연구' 용역을 발주하고 관련 로드맵 수립에 착수했다. 국방기술품질원은 방위사업청 산하 전문연구기관으로 이번 연구를 통해 법 제정 이전에 조직 설립 청사진을 미리 확보하겠다는 구상이다. 국방 AI법 제정 논의는 이미 입법 절차에 진입한 상태다. 유용원 국민의힘 의원과 부승찬 더불어민주당 의원 등 33명이 '국방 AI법 제정안'을 공동 발의했으며 정부는 올해 2분기 관련 법안 제정을 추진 중이다. AI 생태계를 포괄적으로 규율하는 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)'이 있음에도 국방 부문의 별도 법제화가 추진되는 배경엔 현행법의 적용 한계가 있다. 지난 1월 시행된 AI 기본법은 국방·국가안보 목적 AI를 적용 대상에서 제외하고 있어 군사용·전장용 AI의 개발·운용·안전관리를 전담할 법적 근거가 미비한 상황이다. 이번 연구 과업은 크게 세 축으로 구성된다. AI 안전 개념 정립 및 국내외 동향 조사를 시작으로 안전연구조직 신설 로드맵 수립과 설립 추진기반 마련까지 단계적으로 수행한다. 로드맵엔 조직의 비전·전략·업무 범위 등 기본 방향과 핵심 기능 정의 및 운영모델 설계가 담긴다. AI 안전성 관련 정책·기법 연구·검인증·시험평가 지원 기능을 포괄하며 단기 및 중장기 발전 방안도 함께 제시해야 한다. 국제 흐름도 이번 연구의 배경으로 작용한다. 유엔(UN) AI 안전 결의안 채택과 유럽연합(EU) AI법 제정 등 AI 적용 체계에 대한 안전성 요구가 높아지는 상황 속 국정과제 추진에 따라 감시정찰·지휘결심 지원 등 군 내 AI 도입도 빠르게 확대되고 있다. 대통령 직속 국가AI전략위원회는 국방부·방위사업청 등과 협력해 전담조직 및 관리체계를 위한 별도 법제화를 권고한 상태다. 정부와 여야가 AI 기본법과 국방 AI법의 이중 구조 완성을 목표로 움직이는 상황에서 이번 연구는 그 조직적 기반을 선제적으로 마련하는 작업이 될 전망이다. 국방기술품질원은 "AI의 오작동·편향 등을 사전에 예방해 신뢰할 수 있는 AI 적용 무기체계를 획득하기 위해선 안전성 확보가 필수 요소"라며 "국방 AI 안전연구 기능 조직화 법적 기반 마련에 선제적으로 대응하기 위한 안전연구조직 신설 로드맵 수립이 시급하다"고 말했다.