"AI가 핵무기 통제하는 건 시간 문제"
핵 전문가들과 노벨상 수상자들이 모여 인공지능(AI)이 핵 무기를 통제하는 것이 시간 문제라는 의견을 내놨다고 와이어드, 퓨처리즘 등 외신들이 최근 보도했다. 아직까지는 핵무기 발사는 인간에 달려 있으나 향후 핵 무기 발사 시스템의 일부에 AI가 포함되는 것은 시간 문제라는 것이 전문가들의 주장이다. 보도에 따르면, 지난 달 중순 노벨상 수상자들은 시카고 대학에 모여 핵 전문가들과 만나 AI와 세계 종말에 대해 논의하는 자리를 가졌다. 이 행사는 노벨상 수상자들에게 핵무기에 대해 알리고, 이들이 핵 전쟁을 피할 수 있는 방법을 제시하도록 하는 게 목표였다. 이 자리에서 AI는 모두의 관심사였다. 핵·안보 분야 전문가로 유명한 스콧 세이건 스탠퍼드 대학 교수는 회담 종료 후 "우리는 AI와 신기술이 일상생활에 영향을 미치는 새로운 시대로 접어들고 있으며, 동시에 핵 세계에도 영향을 미치고 있다"고 밝혔다. 미 공군 소장 출신이자 미국 핵과학자회보 과학보안위원회 위원인 밥 라티프는 AI에 대해 “이것은 전기와 같다”며, “모든 것에 스며들 것”이라고 말했다. 이 회담에서 긍정적인 내용은 조만간 AI가 핵 코드를 획득할 것이라고 생각하는 사람은 아무도 없었다는 점이다. 미 과학자 연맹 글로벌 리스크 담당 이사이자 과거 오바마 대통령의 특별 보좌관이었던 핵 전문가 존 울프스탈은 핵 전문가들 사이에는 “그 부분에 대해서는 의견이 일치한다”고 말했다. 하지만, 그는 미 권력의 중심부에서 대규모 언어모델(LLM)이 또 다른 우려스러운 용도로 사용된다는 소식을 접했다고 밝혔다. 핵무기 개발을 총괄하는 미군 전략사령관 앤서니 J. 코튼은 작년 한 컨퍼런스에서 AI 도입의 중요성에 대해 연설했다. 그는 핵 전력(nuclear force)를 위해 “인공지능(AI)을 활용한 인간 주도형 의사결정 지원 도구를 개발 중이며, 이는 지도부가 복잡하고 시간에 민감한 시나리오에 잘 대응할 수 있도록 보장하기 위한 것”이라고 말했다. 울프스탈은 걱정되는 점은 AI가 핵전쟁을 일으키는 것이 아니라 "누군가 이 시스템과 그 일부에AI를 도입해 자동화해야 한다고 주장하는 것”이라고 밝혔다. 이렇게 되면 적이 악용할 수 있는 취약점이 생기거나 사람들이 이해할 수 없는 데이터 등이 생성돼 잘못된 결정으로 이어질 수 있다고 지적했다. 핵무기 발사는 한 지도자가 버튼 하나만 누르는 간단한 것이 아니다. 핵 지휘통제체계(NC2 : Nuclear command and control)는 조기 경보 레이더, 위성, 인간이 감시하는 기타 컴퓨터 시스템들이 복잡하게 얽혀 있는 시스템이다. 하지만, 이 과정 중 일부를 AI가 맡게 된다면 문제가 생긴다는 게 그의 설명이다. "핵 공격을 받고 있다는 것을 어떻게 확인할 수 있을까”라며, 핵 공격으로 진짜로 간주되려면 위성과 레이더 시스템 모두에서 확인돼야 하는데 이 중 일부를 AI가 맡게 된다면 안 된다는 게 그의 주장이다. 우리가 많은 AI 시스템이 어떻게 작동하는지 제대로 이해하지 못하고 있기 때문에 AI를 핵 의사결정 과정에 통합하는 것은 좋지 않은 생각이라는 게 전문가들의 주장이다. 밥 라티프는 AI 시스템이 확증 편향을 강화하는 점에 대해 우려를 표했다. "인간이 통제권을 유지한다고 해도, 그 통제가 얼마나 의미 있을지 걱정된다”고 밝혔다.
