앤트로픽, 바이러스 변이 연구 계정 차단…군사적 악용 우려

앤트로픽이 자사 인공지능(AI) '클로드'를 이용해 위험한 바이러스 연구를 진행하려던 과학자들의 시도를 차단했다. 10일(현지시간) 뉴욕타임스(NYT)에 따르면 앤트로픽은 최근 공개한 AI 악용 사례 보고서에서 클로드가 민감한 생물학 연구에 활용된 사례 5건을 공개했다. 일부 연구자들은 클로드 이용이 제한된 지역에서 우회 접속하거나 실제 연구 목적을 숨겨 안전장치를 피하려 한 것으로 조사됐다. 앤트로픽은 관련 계정을 차단했다. 지난 5월에는 한 과학자가 치쿤구니야 바이러스 연구를 위한 연구비 신청서를 작성하면서 클로드의 도움을 요청했다. 연구는 바이러스의 전파력이나 면역 회피 능력에 영향을 주는 변이를 살펴보는 '기능획득 연구'였다. 기능획득 연구는 바이러스 등 생물체의 특성을 변화시켜 어떤 변화가 나타나는지 살펴보는 연구다. 바이러스가 어떻게 퍼지고 질병을 일으키는지 파악해 백신이나 치료제를 개발하는 데 필요한 정보를 얻을 수 있다. 반대로 연구 결과가 병원체의 전파력이나 유해성을 높이는 데 쓰이면 위험한 바이러스를 만드는 데 악용될 우려도 있다. 이번 치쿤구니야 연구에는 살아있는 동물을 이용해 바이러스의 변화를 살펴보는 실험도 포함돼 있었다. 치쿤구니야는 모기를 통해 전파되며 감염되면 발열과 심한 관절통 등이 나타나고 일부 환자는 통증이 수개월 동안 이어질 수 있다. 앤트로픽이 더 우려한 부분은 연구가 진행될 장소였다. 연구비 신청서상 민간 연구자가 참여하는 것으로 돼 있었지만 실제 실험은 군사 연구기관에서 진행될 예정이었다. 정상적인 백신·치료제 연구일 가능성도 있지만 위험한 병원체 연구 결과가 군사적으로 활용될 가능성까지 배제하기 어렵다고 본 것이다. 다만 앤트로픽은 이 연구가 실제 무기 개발을 목적으로 했다고 단정하지 않았다. 생물학 분야에서는 같은 연구 결과가 질병 예방에도 쓰이고 사람에게 해를 끼치는 데도 이용될 수 있어 연구 내용만으로 의도를 판단하기 어렵기 때문이다. 앤트로픽이 연구자와 기관의 이름이나 소속 국가를 공개하지 않은 것도 이런 불확실성을 고려한 조치다. 치쿤구니야만 문제가 된 것은 아니다. 앤트로픽은 고병원성 조류인플루엔자가 포유류에 적응하는 과정 등을 연구하면서 클로드를 사용한 사례도 확인했다. 국가와 연관된 감염병 연구기관에서 천연두와 같은 계열에 속하는 바이러스를 연구하기 위한 연구비 신청서 작성에 AI를 활용한 사례도 보고서에 포함됐다. AI의 과학 연구 능력이 높아진 점은 이런 문제를 더 복잡하게 만들고 있다. 과거 AI는 전문 연구자가 수행하는 복잡한 생물학 연구에 실질적인 도움을 주기 어려웠지만 최근 모델은 연구 자료를 분석하고 연구 과정에 필요한 작업을 지원하는 능력이 높아졌다. 과학자의 연구를 돕는 능력이 커진 만큼 같은 기능이 위험한 연구에 사용됐을 때 제공할 수 있는 도움도 커졌다는 의미다. 앤트로픽은 이에 따라 생물학 관련 질문을 탐지하고 위험성이 높은 요청을 막는 안전장치를 적용하고 있다. 실제로 최신 모델에는 생물학 관련 요청을 실시간으로 분류해 위험한 정보 제공을 제한하는 장치가 적용됐으며 검증된 연구자에게만 일부 고성능 기능을 제공하는 방식도 운영하고 있다. 이번 보고서에는 생물학 연구 외에도 AI가 무기 개발과 감시 등에 사용된 사례가 담겼다. 러시아 연계 세력은 클로드를 사이버 공격과 선전 활동에 활용했고 중국과 이란 정부 연계 세력은 반체제 인사 등을 감시하는 데 AI를 이용하려 한 것으로 조사됐다. 중국·러시아·예멘에서는 총기와 미사일, 무장 드론 등 재래식 무기 관련 작업에 클로드가 활용된 사례도 확인됐다. 제이컵 클라인 앤트로픽 위협정보 책임자는 "우리가 알지 못하는 것은 이 연구가 무기화를 목적으로 했는지 여부"라며 "군사기관에서 기능획득 연구를 진행한다는 점은 우려스럽다"고 말했다.