[기고] AI가 만든 증거, 신뢰를 어떻게 지킬 것인가

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] 생성형 AI의 발전은 법률업무의 효율성을 높이는 데 그치지 않는다. 이미지와 영상, 음성, 문서를 정교하게 생성하고 조작할 수 있는 기술은 법정에서 제출되는 증거의 진정성과 신뢰성을 근본적으로 흔들고 있다. AI로 생성한 허위 증거가 진본인 것처럼 법정에 제출되는 한편, 재판에서 불리한 영상이나 음성이 제시되면 'AI가 만든 조작물일 수 있다'고 주장하는 딥페이크 항변이 증거법적 쟁점으로 부상하고 있다. 미국 캘리포니아주 산타클라라카운티 상급법원은 2023년 테슬라 오토파일럿 관련 제조물책임 소송에서 일론 머스크의 과거 발언 녹화물에 대한 테슬라 측 주장을 기각했다. 당시 테슬라는 "독립적으로 진위를 확인할 수 없고 머스크가 유명해 딥페이크의 표적이 될 가능성이 있다"고 주장했다. 지난 2월 뉴욕주 최고법원은 FBI가 해커의 컴퓨터에서 발견한 영상 증거에 대해 4대 3으로 증거 채택이 잘못됐다고 판단했다. 딥페이크가 실제 인물과 배경을 토대로 일부만 조작될 수 있어 영상 속 사람과 집이 실제와 일치한다는 사실만으로 영상 속 행위까지 진짜라고 인증하기에는 부족하다는 것이다. 반대 의견으로는 이러한 판단이 증거 제출자의 부담을 지나치게 높인다는 비판도 있었다. 워싱턴주 킹카운티 상급법원은 2024년 풀로카 사건에서 생성형 AI로 해상도와 선명도를 높인 영상 증거에 대해, 영상 포렌식 분야에서 해당 기술의 검증과 신뢰성·객관성에 대한 일반적 수용이 부족하다는 이유로 증거 채택을 배제했다. 이러한 흐름 속에서 미국 연방사법회의 증거규칙 자문위원회는 연방증거규칙 제901조(c) 신설 작업초안을 마련했다. 이 초안은 2단계 입증구조를 채택하고 있다. 먼저 AI로 증거가 조작됐다고 주장하는 측이 조작을 뒷받침할 수 있는 자료를 제시해야 한다. 이 문턱을 넘으면 증거 제출자가 해당 자료가 진정한 것일 가능성이 그렇지 않을 가능성보다 높다는 점을 법원에 입증해야 한다. 다만 위원회는 이 초안을 즉시 공식 제안하지 않고 추가 검토를 위해 유보했다. 한국에서는 아직 AI가 생성·조작한 증거의 증거능력을 직접 다룬 대법원 판례는 확인되지 않지만 기존 디지털 증거 관련 법리가 출발점이 될 것이다. 대법원은 디지털 증거에 대해 디지털 저장매체와 출력 문건의 동일성, 저장매체가 압수 이후 변경되지 않았다는 무결성, 처리에 사용한 프로그램의 신뢰성 등을 요구한다. AI 증거를 직접 다룬 판결은 아니지만 증거물이 만들어지는 과정을 검증해야 한다는 취지는 AI가 개입한 자료에도 참고할 수 있을 것으로 보인다. 문제는 AI 기술의 발전으로 이러한 전통적인 진정성 검증 체계가 한계에 직면하고 있다는 점이다. 딥페이크 기술은 원본과 거의 구별할 수 없는 수준의 조작물을 만들어낼 수 있고 메타데이터 위변조도 점점 정교해지고 있다. 해시값 비교나 관리연속성 확인은 수집 이후 파일이 변경되었는지를 검증하는 데 중요하지만 내용의 진실성을 보장하지는 않는다. 처음부터 합성된 파일도 변경 없이 보관할 수 있기 때문이다. 파일 보존 상태뿐 아니라 최초 생성 경위와 가공 과정, 다른 자료와의 일치 여부까지 살펴야 한다. 이 위험은 국내에서도 현실화하고 있다. 지난 2월 AI로 위조한 잔고증명서를 법원에 제출한 혐의 등으로 구속기소된 사건이 보도됐다. 실제 잔액은 23원인데 9억 원이 있는 것처럼 만든 자료가 구속 전 피의자심문에 제출됐고, 영장이 기각된 뒤 검찰의 보완수사로 위조 사실이 드러났다. AI가 증거의 진정성을 위협하는 시대에 변호사와 당사자, 법원 모두 새로운 대응 체계를 갖출 필요가 있다. 변호사는 상대방이 제출한 영상·음성·이미지 증거에 대해 AI 조작 가능성을 염두에 두고 메타데이터 분석, 전문가 감정, 원본 확보 등 진정성 탄핵 전략을 준비해야 한다. 동시에 자신이 제출하는 증거도 의뢰인이 전달한 화면 캡처만으로 판단하지 말고 원본 파일과 취득 경위, 생성 시각 등을 확인해야 한다. AI로 가공했다면 사용 도구와 버전, 설정값, 가공 범위를 기록하고 원본과 보정본을 함께 보존해야 한다. 소송 당사자도 자료의 생성·가공·보관 이력을 분쟁에 대비한 증거관리 체계에 포함할 필요가 있다. 법원 차원에서는 미국의 연방증거규칙 제901조 작업초안이 시사하는 바가 크다. 조작을 의심할 구체적 근거에 따라 진정성 심사를 강화하는 접근은 근거 없는 항변의 남용을 막으면서 실질적 의혹을 검증하는 데 도움이 된다. 한국에서도 디지털 증거의 진정성 판단 기준을 AI 시대에 맞게 증거규칙이나 실무준칙의 재정비를 검토할 필요가 있다. AI 기술은 법률업무의 생산성을 높이는 강력한 도구이지만 통제되지 않으면 증거의 신뢰성과 재판의 공정성을 훼손하는 위험이 될 수 있다. AI 시대의 소송에서는 자료를 설득력 있게 제시하는 능력과 함께 그 자료가 어떻게 만들어지고 보관되었는지 설명하는 능력이 요구된다. 그 과정을 검증할 수 있도록 준비하는 것이 사실인정의 토대인 증거에 대한 신뢰를 지키는 시작점이다.