"AI, 자가 복제 엄격 제한…살상무기화 금지"

영국과 미국, 캐나다, 중국 등지 인공지능(AI) 전문가들이 베이징에서 'AI 보안 국제 컨센서스'에 합의했다여 중국 언론 텅쉰커지 'AI 웨이라이즈베이'가 18일 보도했다. 이번 국제 합의는 중국 BAAI(Beijing Academy of Artificial Intelligence)가 제안했다. '인공지능 자율 복제 및 진화'에 초점을 맞춘 이번 합의는 인간의 명시적인 승인과 지원없이 인공지능 시스템이 스스로 복제하거나 개선해서는 안된다는 것이 골자다. 인공지능이 자신의 정확한 복사본을 만들고 유사하거나 더 강한 능력을 가진 새로운 시스템을 만드는 것 등이 포함된다. 또 인공지능 시스템이 자신의 힘과 영향력을 부적절하게 증가시키는 조치를 취할 수 없도록 했다. 이뿐 아니라 모든 인공지능 시스템이 사용자의 능력을 향상시켜 대량 살상 무기를 설계하거나 생화학 무기 협약을 위반해서도 안된다고 합의했다. 심각한 금전적 손실이나 그에 상응하는 피해를 초래하는 사이버 공격 분야를 지원해서는 안된다는 합의도 있었다. 여기에 모든 인공지능 시스템이 설계자나 규제 기관이 앞서 언급한 한계선을 넘을 가능성을 계속 오해하도록 유도해서도 안된다고 합의했다. 이날 합의에는 튜링상 수상자인 제프리힌튼 캐나다 토론토대학 교수와 요슈아 벤지오 캐나다 몬트리올대학교 교수, 스튜어트 러셀 영국 컴퓨터 과학자 겸 캘리포니아대학 교수, 로버트 트레이거 옥스퍼드 대학 인공지능 거버넌스에 관한 마틴 이니셔티브 공동 책임자, 토비오드 옥스퍼드대학 선임연구원, 튜링상 수상자인 야오치즈 중국 컴퓨터 과학자, 던송 중국계 미국인 컴퓨터 과학자, 제이드 렁 영국 AI 보안연구소 CTO, 장야친 중국 칭화대 지능형 산업 연구소장, 쉐란 칭화대 슈바르츠만칼리지 학장 등이 참석했다.