세계 AI 기업 안전 성적표…9개 기업 중 'C+'가 최고점
인공지능(AI) 모델의 고도화로 군사·안보 영역에 대한 오남용 위험이 현실화되는 가운데 세계 주요 AI 기업들의 안전성 평가 결과가 나왔다. 앤트로픽이 투명성과 안전 체계에서 가장 높은 'C+' 등급을, xAI·딥시크·미스트랄 3곳은 낙제점인 'F'를 받았다. 퓨처오브라이프 인스티튜트(FLI)는 이러한 내용의 '2026 상반기 AI 안전성 지수'를 8일 공개했다. AI 안전 분야 싱크탱크인 FLI가 발간하는 AI 안전성 지수는 2024년 12월 처음 발표된 이래 반기별로 평가가 이뤄져 왔다. 모델 카드, 연구 논문, 정책 문서 등 공개 자료와 설문으로 각 등급이 매겨진다. 이번 지수에서는 앤트로픽, 오픈AI, 구글 딥마인드, 메타, 지푸(Z.ai), 알리바바 클라우드, xAI, 딥시크, 미스트랄 등 전 세계 AI 기업 9곳이 조사 대상에 올랐다. 몬트리올대, 위스콘신-매디슨대, UC버클리대, 옥스퍼드대, 인민대 등에 소속된 AI·거버넌스 전문가 7명이 평가를 맡아 ▲위험 평가 ▲현재의 피해 ▲안전 프레임워크 ▲인류 생존 차원의 안전 ▲거버넌스 및 책임 ▲정보 공개·소통 등 6개 항목을 살폈다. 조사 결과 앤트로픽(C+)·오픈AI(C)·구글 딥마인드(C)가 상위 3위를 지켰다. 앤트로픽은 6개 부문 중 5개에서 선두를 차지했고 오픈AI는 위험 평가 부문에서 가장 높은 점수를 받았다. 메타는 6위에서 4위로 올라선 반면 xAI는 4위에서 7위로 떨어졌다. 이번 지수에 처음 등장한 유럽 대표 AI 기업 미스트랄은 거의 모든 부문에서 낙제점을 받으며 최하위를 기록했다. 낙제점을 받은 3곳이 미국(xAI)·중국(딥시크)·유럽(미스트랄)에서 각각 나오면서 안전 부실이 특정 지역이 아닌 글로벌 문제라는 점도 드러났다. 평가 위원들은 주요 AI 기업이 안전 약속에서 후퇴하고 있다는 점을 핵심 문제로 지목했다. 이들 기업은 AI 활용 범위를 두고 넘어서는 안 되는 한계선인 '레드라인'에 근접할 경우 개발을 중단하겠다고 대외적으로 약속해 왔다. 그러나 앤트로픽·오픈AI·구글 딥마인드·메타 모두 내부적으로 이를 약화하거나 폐기한 것으로 나타났다. 2024년부터 2026년 사이 군사적 활용을 금지했던 기업들이 잇따라 방침을 뒤집고 방산 협력을 확대한 점도 새로운 위험 요인으로 꼽혔다. 인류 생존 차원의 안전은 업계 전체에서 가장 취약한 부문으로 나타났다. C- 등급을 넘은 기업이 한 곳도 없었으며 대부분 D 이하에 머물렀다. 앤트로픽의 헌법적 분류기, 오픈AI의 거버넌스 기구 설립 제안, 구글 딥마인드의 모니터링 약속 등 일부 시도가 있었지만 갈수록 자율성이 커지는 AI를 통제하기에는 미흡하다는 평가다. 평가 위원들은 AI 내부 작동을 들여다보는 해석 가능성, AI의 사고 과정을 추적하는 생각사슬(CoT) 모니터링 등 업계 주류 안전 연구 패러다임에 대해서도 회의적인 시각을 보였다. 위험을 사후에 탐지하는 기술일 뿐 위험 자체를 사전에 막는 방법은 아니라는 이유에서다. 맥스 테그마크 FLI 회장(MIT 교수)은 "AI 기업들이 초인공지능(ASI)의 위험을 스스로 경고하면서도 정작 그것을 만들기 위한 경쟁은 멈추지 않는다"며 "자발적 약속만으로는 애초에 충분하지 않다"고 분석했다.
