"인간 노린 AI 무기, 오펜하이머 모멘트"…해외서 규제 논의 본격화
"향후 10년 이내에 자율적으로 인간을 죽이는 로봇 무기가 등장할 것으로 보고 있습니다." 인공지능(AI) 분야 대부로 불리는 제프리 힌턴 캐나다 토론토대 명예교수가 최근 이처럼 경고한 가운데 각국 전문가들이 이를 규제하기 위한 방안 마련을 위해 머리를 맞댔다. 30일 블룸버그 통신에 따르면 최근 100개국 이상의 민간, 군사, 기술 관계자들은 지난 29일 오스트리아 비엔나에서 AI와 군사 기술 결합을 경제적으로 제재할 방안을 마련하기 위해 모였다. 전쟁이 벌어지고 있는 우크라이나와 팔레스타인 가자 지구를 중심으로 최근 자율 무기 시스템이 빠르게 확산되고 있어서다. 실제 우크라이나군은 개전 후 두 달 만에 460대에 달하는 러시아 전차와 2천 대에 육박하는 장갑차를 무인기를 통해 파괴했다. 러시아 역시 AI 시각 식별(AIVI) 기술로 표적을 실시간으로 분류하는 KYB-UAV 등을 통해 우크라이나 군의 기동력을 효과적으로 봉쇄했다. 세계 최초로 AI 기반 완전자율 차량을 실전 배치한 이스라엘은 이미 2016년부터 팔레스타인 가자지구와의 경계 지역에 중형 화기를 탑재한 군용 무인 차량을 투입했다. 또 병사와 로봇 차량으로 이뤄지는 혼성 전투부대도 편성한 바 있다. 업계에선 심각한 병력 수급 문제를 겪고 있는 현 상황에서 군사용 AI의 도입은 효율적인 자원관리와 전투력 강화를 위한 필연적인 선택지라고 봤다. 하지만 각 규제 당국은 AI를 활용한 킬러 로봇의 위험성을 인지하고 통제하려는 움직임을 점차 드러내고 있다. 이번 비엔나 회담에서 알렉산더 샬렌베르크 오스트리아 외무장관은 지난 1945년 원자폭탄 발명을 도운 뒤 핵무기 확산 통제를 주장한 J. 로버트 오펜하이머를 언급하며 "지금이 우리 시대의 오펜하이머 순간"이라고 말했다. 알파벳 AI 플랫폼 '딥마인드'의 초기 투자자인 얀 탈린도 기업들이 AI 사업을 키우기 위해 재정적 지원에 나서는 것과 함께 글로벌 갈등이 확산되면서 '킬러 로봇'을 통제해야 할 필요가 더 커졌다고 경고했다. 앞서 얀 탈린은 "AI는 약간만 발전해도 큰 돈과 연결된다는 특성이 있다"며 "AI 산업의 리더가 경고에 주의를 기울이지 않으면 인류에게 진정한 위험이 될 수 있다"고 주장한 바 있다. 현재 전 세계 정부는 AI 도구를 국방에 통합하는 기업과 협력하기 위한 움직임에 적극 나서는 모습이다. 미국 국방부는 AI 스타트업에 수 백만 달러를 쏟아 붓고 있고, 유럽연합(EU)는 지난주 탈레스 SA에 전장 표적을 평가하는 데 도움이 되는 이미지 데이터베이스를 구축하기 위한 비용을 지불했다. 중국도 적극적인 모습이다. '군민융합전략요강'을 통해 최근 광범위한 빅데이터 분석과 학습능력을 갖춘 첨단 군의 육성계획을 발표해 눈길을 끌었다. AI를 통해 자율무기체계 개발뿐 아니라 미래의 지능전 양상에 선제적으로 대비함으로써 군대조직과 전술·작전 개념까지 혁신한다는 내용이다. 이미 무인 로봇 분야에서 세계 최고 기술을 보유한 일본은 AI 기반 자율화 무기체계에도 상당한 지식을 축적하고 있는 것으로 평가 받고 있다. 특히 지난 2019~2023년 일본 중기방위력정비계획 기간에는 함선용 무인기를 도입해 주목 받았다. 러시아는 당면한 병력 및 고가장비의 부족 문제를 가성비가 뛰어난 자율무기체계로 극복하기 위해 나서고 있다. 최근 투입한 자폭형 드론이나 무인전투기, 무인잠수정, AI 자율 어뢰가 대표적이다. 우리나라는 다른 나라에 비해 아직 움직임이 다소 더디다. 지난 2020년 국방스마트플랫폼 및 무인화·지능화 기술의 국가별 수준 조사에 따르면, 미국 국방 기술 발전 수준을 100으로 볼 때 유럽은 90, 일본은 85, 중국 84, 한국은 75 수준인 것으로 평가됐다. 얀 탈린은 "자율 무기를 쉽게 구할 수 있게 되면서 소수만이 군비 경쟁에 참여할 수 있었던 제한이 사라졌다"며 "이제 3D 프린터와 기본적인 프로그래밍 지식을 갖춘 학생들도 대규모 사상자를 발생시킬 수 있는 드론을 만들 수 있게 됐다"고 말했다. 이어 "자율 무기 시스템은 국제 안정의 개념을 완전히 바꿔놓았다"고 덧붙였다. 제프리 힌턴 명예교수는 지난 3월 일본 니혼게이자이신문과의 인터뷰에서 "AI가 자신이 부여받은 하나의 목표를 달성하기 위해 인간에게 좋지 않은 방법을 해결책으로 내놓을 수 있다"며 "AI가 인류 파멸을 가져올 수 있다"고 경고한 바 있다. 또 그는 "제1차 세계대전에서의 참화로 화학무기가 전 세계적으로 금지됐듯 AI 로봇무기도 조만간 규제할 수 있을 것"이라면서도 "하지만 (규제 시점이) 인류가 (AI 킬러로봇의) 비참함을 인식한 후가 될지 모른다"고 규제에 속도를 내야 한다고 강조했다.
