"살인자 미리 가려낸다"…英, 살인 예측 AI 도구 개발 논란

영국이 톰 크루즈 주연 영화 '마이너리티 리포트'에 나왔던 것과 같은 범죄 사전 예측 시스템을 개발하고 있다는 사실이 공개돼 논란이 일고 있다. 가디언 등 외신들은 8일(현지시간) 영국 정부가 미래 살인자가 될 가능성이 높은 사람을 골라내주는 인공지능(AI) 예측 도구를 개발 중이라고 보도했다. 보도에 따르면, 영국 법무부가 가동하고 있는 이 프로젝트는 살인을 저지를 위험이 가장 높은 사람들을 파악하기 위한 것이다. 당초 '살인 예측 프로젝트'로 불렸으나 지금은 '위험 평가 개선을 위한 데이터 공유'로 이름을 바꿨다. 비영리 시민단체 스테이트워치(Statewatch)가 정보공개 요청을 통해 얻은 문서를 통해 이 프로젝트 존재 사실이 알려지게 됐다. 스테이트워치는 이 프로젝트에 자해 및 가정폭력 등 개인정보를 포함해 형사 범죄로 유죄 판결을 받지 않은 사람들의 자료까지 사용될 것이라고 밝혔다. 처리되는 정보 유형에는 이름, 생년월일, 성별, 인정과 경찰국 컴퓨터에서 개인을 식별하는 번호가 포함된다. 관계자들은 이를 부인하며 최소한 한 번의 유죄 판결을 받은 사람들의 데이터만 사용됐다고 주장하고 있다. 영국 정부는 이 프로젝트가 아직 연구 단계일 뿐이라고 밝혔으나, 일부에서는 해당 시스템을 사용할 경우 소수 민족과 빈곤층에 대한 예측 편향이 생길 수 있다고 반대 입장을 피력하고 있다. 영국 법무부는 이 계획이 "살인 위험을 높이는 범죄자의 특성을 검토"하고 "살인 위험 평가를 위한 대안적이고 혁신적인 데이터 과학 기술을 탐색할 것”이라고 밝혔다. 또, 이 프로젝트가 "심각한 범죄에 대한 위험 평가를 개선하는 데 증거를 제공하고 궁극적으로 더 나은 분석을 통해 대중을 보호하는 데 기여할 것”이라고 대변인 측은 설명했다. 소피아 라이얼 스테이트워치 연구원은 "법무부의 살인 예측 시스템 구축 시도는 소위 범죄 예측 시스템을 개발하려는 정부의 의도를 보여주는 가장 소름 돋는 디스토피아적 사례"라고 말했다. 그는 이 도구가 "형사 사법 체계를 뒷받침하는 구조적 차별을 강화하고 확대할 것"이라며, "여러 연구에 따르면 범죄를 예측하는 알고리즘 시스템은 본질적으로 결함이 있다. 그런데도 정부는 사람들이 범죄를 저지르기 전에 범죄자로 프로파일링하는 AI 시스템 개발을 추진하고 있다”고 비판했다.