오픈AI-펜타곤, 계약에 '공개정보 수집 금지' 생략…무기 조항 논란도

오픈AI가 펜타곤과 체결한 계약 조항에 미국인 공개 정보 수집 금지가 이뤄지지 않은 것으로 확인됐다. 미국 매체 악시오스는 1일(현지시간) 오픈AI가 미국 국방부와 맺은 계약 조항에 민간인 공개정보 수집을 직접적으로 금지하는 문구가 발표 내용에 포함되지 않았다고 보도했다. 시민 사적 정보를 무제한으로 수집하는 것을 제한하는 데만 초점이 맞춰져 있다. 앞서 오픈AI는 AI 기술을 국방부 기밀 네트워크에 배치하는 계약을 맺었다. 계약에는 대규모 국내 감시와 완전 자율무기 지휘, 고위험 자동 의사결정에는 기술을 사용하지 않는다는 제한이 포함됐다. 다만 미국 시민 공개 정보 수집을 명시적으로 금지하는 조항은 포함되지 않았다. 악시오스는 "샘 알트먼 오픈AI 최고경영자(CEO)와 다리오 아모데이 앤트로픽 CEO, 에밀 마이클 펜타곤 AI 협상 책임자 모두 시민 자유를 중시한다고 밝혀왔다"며 "현행법이 AI 활용을 충분히 규율하는지에 대해서는 견해가 갈린다"고 지적했다. 알트먼 CEO는 소셜네트워킹서비스(SNS) '엑스'에서 해당 조항이 없다는 점에 우려를 표했다. 그는 "우리가 일정한 위험에 노출될 수 있다"고 밝혔다. 앞서 앤트로픽은 해당 조항이 AI 기술 발전 속도를 충분히 반영하지 못하고 있다고 주장했다. 이에 국방부와 계약을 맺을 때 미국인 위치정보나 웹 브라우징 기록, 개인 금융정보 같은 공개 데이터를 모으지 못하도록 계약서에 명시하라고 요구했다. 국방부는 이를 받아들이지 않았다. 물론 해당 정보들은 지금도 합법적으로 수집할 수 있다. 다만 앤트로픽은 AI가 이 데이터를 한데 모아 분석하면 특정 개인 삶을 정밀하게 들여다볼 수 있어 사실상 대규모 감시로 이어질 수 있다고 우려했다. 다수 외신은 자율무기 관련 조항도 논란의 소지가 있다고 봤다. 해당 문구가 펜타곤 판단에 따라 바뀔 수 있다는 점 때문이다. 알트먼 CEO는 계약 문구를 정부와 합의했다고 밝혔다. 다만 해석을 둘러싼 의견 차이는 생길 수 있다고 인정했다. 펜타곤은 AI 모델을 모든 합법적 목적에 활용하길 원한다는 입장이다. 에밀 마이클 펜타곤 AI 협상 책임자는 "AI 시스템은 어떤 불법적인 국내 감시에 관여하지 않는다"며 "법과 규정, 헌법이 보장하는 미국인 자유를 항상 엄격히 준수한다"고 밝혔다. 이어 "정부는 모든 무기와 방위 체계 안전과 인간 감독을 항상 믿어 왔다"며 "이에 대해 엄격하고 포괄적인 정책을 갖추고 있다"고 덧붙였다.