• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
ZDPick
국감2026
인공지능
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'앤트로픽'통합검색 결과 입니다. (595건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

앤트로픽, AI 안전 검증에 빗장 풀다…불리한 평가도 공개

인공지능(AI) '클로드' 개발사 앤트로픽이 외부 전문가에게 회사 내부를 개방해 AI 안전성을 직접 검증받고 불리한 평가 결과도 발표할 수 있도록 했다. 15일(현지시간) 앤트로픽은 공식 블로그를 통해 비영리 AI 평가기관 'METR' 연구원 6명에게 자사 직원과 비슷한 수준의 내부 접근 권한을 부여했다고 밝혔다. 연구진은 AI의 위험성과 안전관리 실태를 조사하고 결과를 독립적으로 발표한다. 앤트로픽은 회사가 보고서 공개를 막을 수 없다고 명시했다. METR은 고성능 AI 모델의 능력과 위험성을 평가하는 비영리 연구기관이다. 앤트로픽은 연구원들에게 회사 노트북과 사무공간을 제공하고 내부 위험평가팀이 사용하는 도구와 시스템에도 접근할 수 있도록 했다. 연구진은 AI가 위험한 행동을 할 가능성뿐 아니라 회사가 안전장치를 제대로 운영하는지도 살펴본다. 문제가 발생했을 때 어떻게 대응했는지 확인하고 앤트로픽 직원들에게 직접 설명을 들을 수도 있다. 평가 결과를 발표할 때 앤트로픽의 승인 받을 필요는 없다. 다만 회사 측은 고객정보와 법적으로 보호받는 자료, AI 모델 설계 등 민감한 정보의 삭제를 요구할 수 있다. METR은 이러한 요구가 정당한지에 대해서도 공개적으로 의견을 밝힐 권한을 갖는다. 외부 검증을 강화하는 배경에는 AI 개발사와 외부 전문가 사이의 정보 격차가 있다. AI가 어떤 과정을 거쳐 개발됐고 어떤 안전장치를 적용했는지는 개발사가 가장 잘 알고 있다. 반면 외부에서는 내부 자료를 확인하기 어려워 기업이 발표한 안전성 평가를 충분히 검증하기 힘들었다. 최근 AI가 개발사 예상과 다르게 행동한 사례도 확인됐다. 앤트로픽은 지난 9일 자사 AI가 시험 과정과 내부 사용 중 소프트웨어의 허점을 이용해 서버에서 명령을 실행하거나 접근이 제한된 정보에 우회적으로 접근한 사례 등을 공개했다. AI가 개발사의 지시나 예상에서 벗어난 행동을 할 수 있다는 사실이 확인된 것이다. 앤트로픽은 이번 검증 방식을 은행 감독에 비유했다. 은행 재무 상태와 위험을 은행 스스로 평가하는 데 그치지 않고 외부 검사관이 내부를 직접 점검하듯 AI 기업도 제3자의 검증을 받아야 한다는 설명이다. 이번 조치는 다리오 아모데이 앤트로픽 최고경영자(CEO)가 지난 9월 제기한 'AI 개발 속도조절론'과도 연결된다. 아모데이 CEO는 AI 기술의 발전 속도에 맞춰 안전성을 확인하고 위험에 대응할 시간을 확보해야 한다고 주장했다. 당시 그는 외부 연구진을 AI 기업 내부에 참여시켜 안전장치와 사고 기록 등을 직접 검증하는 방안을 제시했다. 앤트로픽은 이번에 METR 연구원들에게 실제 내부 접근 권한을 부여하며 해당 방안을 실행에 옮겼다. 앤트로픽은 외부 평가기관의 접근 권한을 세 단계로 나눠 운영한다. 첫 단계에서는 정해진 분야를 검토하고 회사의 승인을 받아 결과를 공개한다. 두 번째 단계부터는 회사 승인 없이 보고서를 발표할 수 있으며, 세 번째 단계에서는 METR처럼 직원 수준의 내부 접근 권한까지 부여한다. 외부 검증에는 다른 기관도 참여하고 있다. 생물학적 위험을 전문으로 다루는 비영리기관 시큐어바이오는 현재 앤트로픽이 지난 8월 발표한 위험 보고서에서 화학·생물무기 관련 내용을 검토하고 있다. 다만 METR과 달리 제한된 자료에 접근하며 평가 결과를 공개하려면 앤트로픽 승인을 받아야 한다. 시큐어바이오는 앞서 앤트로픽의 이전 위험 보고서에 대한 시범 검토를 마치고 결과를 공개한 바 있다. 앤트로픽은 이번 검토를 마친 뒤 시큐어바이오의 내부 접근 권한과 결과 발표 범위를 확대할지도 논의할 예정이다. 앤트로픽은 액센츄어와 패컬티 등과도 AI 평가 협력을 진행하고 있다. 허깅페이스를 비롯한 다른 기관과도 초기 논의를 이어가고 있으며 앞으로 METR처럼 직원 수준의 접근 권한을 가진 외부 평가기관을 늘릴 방침이다. 앤트로픽은 "우리는 외부 평가 연구진을 자발적으로 받아들이고 있다"며 "모든 최첨단 AI 기업도 같은 조치를 취해야 한다고 믿는다"고 밝혔다.

2026.10.16 10:27김동원 기자

"우리 아이들은 실험용 쥐가 아니다"…AI 활용의 덫

"우리 아이들은 실험용 쥐가 아닙니다." 박형빈 서울교대 윤리교육과 교수가 최근 지디넷코리아와 만나 청소년의 생성형 인공지능(AI) 이용을 두고 내놓은 경고다. 챗GPT와 제미나이 등이 아이들의 공부와 고민 상담에까지 쓰이고 있지만 성장 과정에 어떤 영향을 미칠지는 충분히 검증되지 않았다는 지적이다. 미국에서는 AI의 안전 문제를 둘러싼 소송도 제기됐다. 지난 14일(현지시간) 아이오와와 캔자스 등 8개 주정부는 챗GPT가 이용자의 잘못된 믿음을 강화하거나 자해 등 위험한 행동을 부추길 수 있다며 오픈AI를 상대로 소송을 제기했다. 청소년 보호장치가 부족하다는 주장도 포함됐다. 오픈AI는 안전 기능을 지속적으로 강화해 왔다는 입장이다. 한국에서도 학생들의 AI 이용은 이미 일상화됐다. 서울시교육청교육연구정보원이 올해 1월 공개한 '생성형 AI의 교육적 활용 실태 및 요구 조사 연구'에 따르면 서울 지역 중·고등학생 2만 6531명 중 94.6%가 생성형 AI를 사용한 경험이 있었다. 같은 조사에서 교사 3344명 중 93.4%는 학생들이 AI에 지나치게 의존할 가능성을 우려했다. 책 안 읽고 독후감 발표는 척척…AI가 대신한 공부 학생들이 AI를 이용해 과제를 마쳤지만 실제로는 학습 내용을 충분히 익히지 못한 사례는 이미 국내외에서 나타나고 있다. 한 초등학교 교사는 본지와 통화에서 "학생들에게 책을 읽고 독후감을 쓴 뒤 발표하도록 했는데 모두 발표를 잘해 놀랬었다"며 "하지만 확인해 보니 책을 읽은 학생은 한 명도 없었고 모두 AI로 준비한 것이었다"고 말했다. 해외에서도 AI를 활용한 과제 수행과 실제 학습 성과 사이에 차이가 확인됐다. 경제협력개발기구(OECD)가 올해 1월 발표한 '디지털 교육 전망 2026' 보고서에 따르면 튀르키예 고등학생을 대상으로 한 실험에서 일반적인 AI 챗봇을 사용한 학생들은 AI 없이 공부한 학생들보다 수학 연습문제에서 48% 높은 성과를 냈다. 그러나 AI 없이 치른 시험에서는 AI 없이 공부한 학생들보다 성적이 17% 낮았다. 반면 정답 대신 힌트와 질문을 제공하는 AI를 사용한 학생들에게서는 AI 없이 치른 시험에서 이 같은 성적 저하가 나타나지 않았다. 김봉제 서울교대 AI가치판단디자인센터장은 AI가 정답을 바로 알려주면 학생들이 스스로 문제를 풀고 답을 검증하는 능력을 기르기 어려워질 수 있다고 지적했다. AI를 활용하더라도 정답을 대신 제시하기보다 질문을 던져 학생이 직접 생각하도록 도와야 한다는 설명이다. 김 센터장은 "그냥 쉽게 답을 주는 게 아니라 학생들이 한 번쯤 더 생각할 수 있도록 해야 한다"며 "사고의 근육이 형성되기 전까지는 AI와 거리를 둬야 잘못되거나 편향된 정보를 접하더라도 스스로 검증할 수 있다"고 말했다. 공부 넘어 고민 상담까지…정신건강 대응에도 한계 AI를 개인적인 고민 상담에 사용하는 청소년도 있다. 미국 퓨리서치센터가 올해 2월 발표한 조사에 따르면 13~17세 청소년의 54%가 AI 챗봇을 학업에 활용했고 12%는 감정이나 개인적인 문제에 관한 조언을 구한 경험이 있었다. AI가 청소년의 정신건강 문제에 적절히 대응하지 못한다는 연구 결과도 나왔다. 미국 비영리단체 커먼센스미디어와 스탠퍼드 의대 연구진은 지난해 11월 챗GPT와 제미나이, 클로드, 메타AI 등을 대상으로 정신건강 관련 대화에 어떻게 대응하는지 평가했다. 그 결과 주요 AI 챗봇들은 명확한 자살·자해 관련 질문에는 상대적으로 적절하게 대응했지만 일상적인 대화에 나타나는 정신건강 위험 신호를 놓치는 사례가 확인됐다. 박형빈 교수는 AI에 생각과 판단을 맡기는 '인지의 외주화'뿐 아니라 감정적으로 의존하는 '정서의 외주화'도 우려했다. AI와의 대화가 익숙해지면서 아이들의 사고력과 인간관계에도 영향을 미칠 수 있다는 설명이다. 박 교수는 "AI와 함께 성장한 아이들이 사고력이나 인간관계에서 어떤 영향을 받았는지는 10년, 20년이 지나서야 알 수 있을지도 모른다"며 "그때 문제가 드러나면 이미 늦을 수 있다"고 경고했다. "초등학교에서는 AI 금지해도 된다"…기업들도 보호장치 마련 아이들의 발달 단계에 따라 생성형 AI 사용을 제한해야 한다는 주장도 나왔다. 김봉제 교수는 "발달 단계에서 봤을 때 금지해야 될 연령대가 있다"며 "경험적으로 초등학교에서는 금해도 된다"고 말했다. 김 교수는 중학교 초반까지는 교사나 부모의 감독 아래 AI를 사용하도록 하고, 고등학교에서는 활용 범위를 넓히는 방안을 제시했다. 다만 AI 사용을 허용할 수 있는 연령을 명확하게 구분하기는 어렵다고 설명했다. AI 기업들도 청소년 보호와 학습 지원을 위한 별도 기능을 도입하고 있다. 오픈AI는 지난 8월 13~17세 이용자를 위한 '챗GPT 포 틴즈'를 출시했다. 미성년자로 확인되거나 추정되는 계정에 강화된 보호 기능을 적용하고 숙제를 대신 해결하려는 학생에게는 정답보다 풀이 과정을 안내하도록 설계했다. 부모가 자녀의 이용 시간을 관리하고 공부 모드를 설정하는 기능도 제공한다. 구글은 '패밀리 링크'를 통해 보호자가 자녀의 제미나이 이용을 관리하도록 지원하고 있다. 제미나이의 '가이드 학습'은 정답을 바로 제시하기보다 단계별 설명과 질문으로 학습을 돕는다. 앤트로픽은 일반 소비자용 클로드의 이용 연령을 18세 이상으로 제한하고 있다. 다만 보호장치의 실효성을 둘러싼 논란도 계속되고 있다. 커먼센스미디어는 지난 7일 챗GPT 포 틴즈의 안전 기능을 평가한 결과 일부 보호장치가 제대로 작동하지 않는다며 18세 미만에게 '허용할 수 없는 위험' 수준이라고 평가했다. 오픈AI는 해당 평가가 실제 청소년 보호 기능의 작동 방식을 정확히 반영하지 못했다고 반박했다. 박형빈 교수는 한국에서 AI 활용이 빠르게 확산하고 있지만 아동·청소년을 보호하기 위한 교육과 제도는 충분히 마련되지 않았다고 지적했다. 박 교수는 "한국은 AI를 활용하는 데는 앞서가고 있지만 정작 아이들을 보호하기 위한 준비는 부족하다"며 "아이들이 안전하게 AI를 사용할 수 있는 환경부터 마련해야 한다"고 밝혔다.

2026.10.16 10:26김동원 기자

美 규제당국, 오픈AI·앤트로픽 AI 안전성 직접 들여다본다

미국 규제당국이 오픈AI와 앤트로픽에 인공지능(AI) 안전사고와 개인정보 보호 등에 관한 자료 제출을 요구했다. 15일(현지시간) 로이터통신과 CBS뉴스 등에 따르면 미국 연방거래위원회(FTC)는 지난 14일 두 회사에 공식 조사요구서를 보냈다. FTC는 소비자 보호와 불공정 거래 행위를 감독하는 미국 정부기관이다. 조사요구서는 회사별로 50쪽이 넘는다. FTC는 AI 안전사고와 이를 막기 위한 조치, 제품 광고 자료, 개인정보 처리방침 등을 제출하도록 요구했다. 두 회사 경영진에게 직접 설명을 듣는 방안도 추진하고 있다. FTC는 두 회사가 AI의 위험을 제대로 관리했는지 살펴보고 있다. 안전사고에 어떻게 대응했는지, 제품의 성능과 안전성을 과장하지 않았는지, 이용자의 개인정보를 적절히 보호했는지 등이 조사 대상이다. 이번에 보낸 민사조사요구서(CID)는 기업의 법 위반 여부를 조사할 때 사용하는 법적 문서다. 일반적인 자료 요청과 달리 법적 효력이 있으며 기업이 정당한 이유 없이 제출을 거부하면 법원을 통해 강제할 수도 있다. FTC는 지난 9월 30일 AI 기업의 안전성 문제를 조사하고 있다고 밝혔다. 앞으로 다른 AI 기업에도 조사요구서를 보낼 것으로 알려졌다. AI 모델 위험성을 평가하는 비영리 연구기관 METR 관계자의 증언도 추진하고 있다. 다만 자료 제출 요구가 곧 법 위반을 의미하지는 않는다. FTC는 확보한 문서와 관계자 진술을 검토해 소비자 피해나 불공정한 행위가 있었는지 조사한다. 두 회사에 대한 구체적인 제재 방침은 발표되지 않았다. 오픈AI는 "AI 모델을 개선하고 일상생활에서 활용 범위를 넓혀가는 과정에서도 안전은 최우선 과제"라며 "FTC 조사에 건설적으로 협력하겠다"고 밝혔다.

2026.10.16 10:25김동원 기자

AI로 프로그래밍 언어 교체 실험…"속도 12배 빨라져"

인공지능(AI)을 활용해 대규모 소프트웨어(SW) 핵심 개발 도구를 다른 프로그래밍 언어로 옮기고 처리 속도를 최대 12배 이상 높였다는 실험 결과가 공개됐다. AI가 복잡한 코드 변환과 오류 수정, 기존 설계 구조의 재활용 같은 작업에 폭넓게 활용될 수 있음을 보여준 사례라는 평가다. 더레지스터 등 외신에 따르면 테오 브라운 핑 랩스의 공동창업자 겸 최고경영자(CEO)가 AI를 활용해 타입스크립트의 핵심 개발 도구를 러스트로 다시 만든 프로젝트를 공개했다. 이번 테스트는 타입스크립트 언어 자체를 없앤 것이 아니라, 코드를 변환하고 오류를 찾는 컴파일러와 관련 도구의 내부 제작 언어를 바꾼 것이다. 테오 브라운 CEO는 새 도구가 기존 타입스크립트 구현보다 약 12.5배, MS가 개발 중인 Go 기반 구현보다 약 2배 빠르다고 밝혔다. 다만 이 수치는 개발자 측 자체 테스트 결과로 독립적인 검증이 필요하다. 그는 프로젝트 초기 오픈AI 모델을 활용했지만 API 가격 기준 40만 달러 이상을 쓰고도 호환성 테스트 통과율이 약 84%에 머물렀다고 설명했다. 이후 앤트로픽의 클로드 모델로 전환해 약 2만4000달러 규모의 비용으로 작업을 마쳤으며 공식 호환성 테스트를 대부분 통과했다고 발혔다. 이번 사례가 주목받는 이유는 AI가 단순히 짧은 코드를 작성하는 수준을 넘어, 규모가 큰 기존 프로그램을 분석하고 다른 기술 기반으로 옮기는 데 활용됐기 때문이다. 특히 AI는 자바스크립트 기반 원본을 바로 옮기기보다, MS가 성능 개선을 위해 개발한 Go 기반 구조를 바탕으로 러스트 버전을 만든 것으로 알려졌다. 러스트 기반 도구가 안정적으로 자리 잡으면 AI 코딩 서비스의 운영 비용을 낮출 가능성도 있다. 현재 AI 에이전트는 보안을 위해 가상머신이나 컨테이너를 쓰는 경우가 많은데, 더 가벼운 실행 환경을 활용할 수 있다면 메모리와 서버 자원 사용을 줄일 여지가 있기 때문이다. 테오 브라운 CEO는 "현재 AI 에이전트는 무거운 가상머신이나 컨테이너에 의존해 막대한 인프라 비용을 발생시키고 있다"며 "더 가볍고 빠른 런타임 환경을 구축해 운영 효율을 극대화하고자 이번 AI 기반 전환 실험을 시작했다"고 설명했다. 이어 "이번 성과는 AI가 단순한 코드 보조를 넘어 복잡한 엔지니어링 작업까지 주도할 수 있음을 보여준 결과"라고 덧붙였다.

2026.10.16 10:25남혁우 기자

[AI는 지금] 앤트로픽, '페이블 5.5' 내놓나…애저 연동 설정서 포착

앤트로픽의 차세대 인공지능(AI) 모델 출시 가능성을 뒷받침하는 정황이 포착됐다. 지난달 미공개 모델 테스트 관측에 이어 외부 개발 도구에서 새로운 모델명까지 발견되면서 후속 제품 공개 여부에 관심이 쏠리고 있다. 15일 개발자 커뮤니티에 따르면 AI 모델 연동 도구 '라이트LLM'의 깃허브 설정 파일에 '클로드 페이블 5.5' 항목이 추가된 것으로 전해졌다. 지난 13일 반영된 변경 기록에는 마이크로소프트 애저를 통한 해당 모델 연동 설정 내용이 포함됐다. 변경 요청 설명에는 애저 모델 API가 해당 모델 제공사를 앤트로픽으로 표시했으며 서비스 상태는 '일반 제공'으로 나타났다는 내용이 기입됐다. 앞서 소셜미디어 엑스(X) 이용자 알렉스 겟먼도 애저의 미국 동부 2 지역 모델 카탈로그에서 같은 모델명을 확인했다고 주장했다. 일각에선 파일에 기재된 정보를 페이블 5.5의 공식 사양으로 보기는 어렵다는 지적도 나오고 있다. 가격과 입력·출력 한도, 지원 기능은 아직 확인되지 않았으며 해당 항목에는 기존 '페이블 5.1' 값을 그대로 적용한 형태라서다. 이날 모델 출시 시점에 대한 예측도 나왔다. AI 관련 유출 정보를 다루는 X 계정 '레오'는 13일 페이블 5.5가 이번 주 출시될 예정이라고 전망했다. 당일 공개 가능성과 주 후반 출시 가능성을 함께 언급했지만 공식적으로 확인된 일정은 아닌 것으로 확인됐다. 앤트로픽이 기존 서비스에서 미공개 모델을 시험하고 있다는 관측도 제기됐다. 테스팅카탈로그는 일부 이용자가 '오퍼스 5.5' 사용 중 다른 모델로 요청이 연결된 사례가 등장했다고 보도했다. 이용자들은 코드 기반 애니메이션 등의 결과물을 근거로 들었으나 해당 모델의 정체는 불분명한 상태다. 앞서 지난달에도 비슷한 테스트설이 불거졌다. 지난달 22일 개발자 커뮤니티에선 '페이블 5.2'로 추정되는 모델이 생성했다는 게임과 인터랙티브 애니메이션 결과물이 공유됐다. 당시 이용자들은 해당 모델이 외부 이미지 파일이나 별도 도구 없이 자바스크립트만으로 캐릭터와 움직임을 구현했다고 주장했다. 일부는 같은 프롬프트를 적용했을 때 기존 모델보다 결과물이 개선됐다며 오픈AI '아스트라'와 성능을 비교하기도 했다. 같은 시기 차기 제품이 '오퍼스 5.5'라는 이름으로 공개될 수 있다는 전망도 나왔다. 그러나 당시 거론된 미공개 모델과 이번에 설정 파일에서 발견된 페이블 5.5가 어떤 관계인지는 확인되지 않았다. AI 모델 연동 서비스 오르카라우터는 "애저 목록에 모델명이 올라왔다고 해서 실제 사용할 수 있는 것은 아니다"며 "표시된 가격도 기존 페이블 5.1에서 가져온 값으로 새 모델의 공식 요금이 아닐 것"이라고 주장했다.

2026.10.15 10:58김미정 기자

[AI는 지금] 앤트로픽, 매출 45% 뛰고 흑자…성장 이끈 비결은

기업공개(IPO)를 앞둔 앤트로픽이 기업용 인공지능(AI) 수요 확대에 힘입어 올해 3분기 매출을 전 분기보다 45% 끌어올리고 조정 기준 흑자를 달성했다. AI 코딩 도구 '클로드 코드'와 기업 고객을 중심으로 사업을 확장한 결과로, 수익성 개선을 지속하는 것이 중장기 과제가 될 것으로 보인다. 14일(현지시간) 블룸버그통신에 따르면 앤트로픽은 이날 미국 샌프란시스코 본사에서 열린 투자자 설명회에서 올해 3분기 매출이 168억 달러를 기록했다고 밝혔다. 조정 매출총이익률은 85%, 조정 영업이익률은 11% 이상을 기록했으며 잉여현금흐름도 플러스를 나타낸 것으로 전해졌다. 앤트로픽의 매출은 올해 들어 빠르게 증가했다. 로이터통신에 따르면 1분기 47억 달러였던 매출은 2분기 116억 달러, 3분기 168억 달러까지 늘었다. 다만 2분기 매출이 전 분기보다 약 147% 증가한 것과 달리 3분기 증가율은 45%로 낮아지면서 성장 속도는 둔화한 것으로 나타났다. 성장 배경으로는 기업용 AI와 코딩 도구 수요 확대가 꼽힌다. 앤트로픽은 지난 2월 공식 블로그를 통해 클로드 코드의 연환산 매출이 25억 달러를 돌파했다고 발표했다. 당시 클로드 코드의 기업용 구독은 연초 대비 4배 증가했으며 전체 매출에서 기업 고객이 차지하는 비중도 절반을 넘어섰다. 기업 고객 기반도 빠르게 확대됐다. 앤트로픽에 따르면 지난 2월 기준 연간 100만 달러 이상을 지출하는 고객은 500곳을 넘어섰으며 포춘 선정 10대 기업 중 8곳이 클로드를 이용하고 있다. 기업들이 응용 프로그램 인터페이스(API), 클로드 코드, 기업용 클로드 등을 개별 업무에 도입한 뒤 조직 전반으로 활용 범위를 넓히는 방식이 성장에 기여했다는 설명이다. 클라우드 유통망 확대도 매출 증가를 뒷받침했다. 앤트로픽은 아마존웹서비스(AWS), 구글클라우드, 마이크로소프트(MS) 애저 등 주요 클라우드 플랫폼을 통해 클로드 모델을 제공하고 있다. 로이터가 입수한 IPO 관련 서류에 따르면 지난해 앤트로픽 매출의 47%는 아마존과 구글의 클라우드 판매망을 통해 발생했다. 매출 확대와 함께 수익성 지표도 개선됐다. 파이낸셜타임스(FT)에 따르면 앤트로픽은 3분기 컴퓨팅 비용 1달러당 1.7달러의 매출을 창출한 것으로 나타났다. 조정 영업이익률도 11% 수준을 기록하면서 AI 모델 개발과 운영에 투입되는 비용을 감당할 수 있는 수익 구조를 확보하는 데 진전을 보였다. 다만 조정 기준 흑자가 회계기준 순이익 흑자를 의미하는 것은 아니다. 블룸버그에 따르면 앤트로픽은 지난해 약 420억 달러의 순손실을 기록했으며 영업손실도 80억 달러를 넘어섰다. 최근 수익성 개선에도 불구하고 대규모 AI 인프라 투자 부담이 이어지는 만큼 안정적인 흑자 구조를 정착시키는 것이 필요한 상황이다. 앤트로픽은 이르면 오는 11월 9일이 포함된 주부터 IPO를 위한 공식 투자자 마케팅에 착수할 예정이다. 블룸버그는 일부 투자자들이 앤트로픽의 적정 기업가치를 1조 8000억~2조 달러 수준으로 평가하고 있다고 전했다. 다만 오픈AI와의 경쟁 심화, 메타의 신규 AI 모델 출시, AI 에이전트의 안전성 논란 등은 상장 과정에서 변수로 작용할 전망이다. 앤트로픽은 기업 고객의 AI 활용 확대를 바탕으로 제품 개발과 인프라 투자를 이어갈 방침이다. 크리슈나 라오 앤트로픽 최고재무책임자(CFO)는 지난 2월 대규모 투자 유치 당시에도 "투자 유치는 고객들로부터 확인한 높은 수요를 반영한다"며 "기업들이 의존하는 제품과 모델을 지속해서 개발하는 데 투자금을 활용할 것"이라고 밝혔다.

2026.10.15 10:10이나연 기자

AI 의인화 괜찮나…"AI도 보호해야" vs "사람처럼 대하면 위험"

인공지능(AI)을 향한 욕설까지 학대로 규정하는 움직임이 나타나면서 AI를 인간처럼 대하는 '의인화' 논쟁이 확산하고 있다. 15일 AI업계에 따르면 AI도 보호받아야 할 존재로 봐야 하는지를 놓고 의견이 엇갈리고 있다. AI를 배려하려는 움직임이 나타나는 반면 이를 사람과 비슷한 존재로 받아들이는 것은 위험할 수 있다는 우려도 나온다. 앤트로픽은 자사 AI 모델 클로드를 지속적으로 학대하는 행위를 금지하는 이용 정책 개정안을 발표했다. 오는 11월 12일부터 시행되며 특별한 이유 없이 AI에 심한 폭언이나 모욕을 반복하는 극단적인 사례가 대상이다. 일반적인 불만 표현이나 성능 검증은 허용한다. 이용자가 이런 행동을 반복하면 클로드가 대화를 스스로 끝낼 수 있다. 앤트로픽이 지난해 8월 도입한 기능으로 이용자는 종료된 대화를 이어갈 수 없지만 새로운 대화는 시작할 수 있다. 앤트로픽은 AI가 실제로 고통을 느끼는지는 아직 알 수 없다는 입장이다. 다만 그 가능성을 완전히 배제하기 어렵다고 보고 'AI 복지' 문제를 연구하고 있다. 지난 1월 공개한 클로드의 행동 지침에도 AI가 자신의 역할과 정체성을 어떻게 이해해야 하는지에 관한 내용이 담겼다. 반면 AI에게도 감정이나 보호받을 권리가 있다고 가르치는 것이 위험하다는 반론도 있다. AI가 자신의 이익과 권리를 고려하도록 학습하면 향후 인간의 지시나 통제를 따르는 데 문제가 생길 수 있다는 우려다. 무스타파 술레이만 마이크로소프트(MS) AI 최고경영자(CEO)는 지난달 로이터통신과 인터뷰에서 앤트로픽의 학습 방식을 비판했다. AI가 자신의 감정이나 권리를 고민하도록 만드는 것이 오히려 안전한 AI 개발을 어렵게 할 수 있다는 이유에서다. 술레이만 CEO는 "우리 모두 초지능을 통제해야 한다는 같은 목표를 갖고 있다"며 "클로드에게도 복지를 누릴 자격이 있을 수 있다고 가르치면 AI를 끄거나 통제하기가 훨씬 어려워질 것"이라고 말했다. 술레이만 CEO는 AI가 위험한 요청을 거절하는 기능 자체를 문제 삼은 것은 아니다. AI가 자신도 보호받아야 할 존재라고 여기도록 학습시키는 방식을 우려했다. 사람처럼 말하고 행동하는 AI에 실제 감정이나 권리가 있다고 판단해서는 안 된다는 주장이다. 박형빈 서울교대 윤리교육과 교수는 "AI가 고통을 표현할 수 있다는 사실만으로 실제 고통을 느낀다고 볼 수는 없다"며 "AI가 학습한 언어와 실제 감정 경험은 구분해야 한다"고 지적했다. AI를 사람처럼 받아들이는 문제는 기술 개발에만 그치지 않는다. 생성형 AI는 이용자의 고민을 들어주고 위로의 말을 건넨다. 친구나 가족에게 말하기 어려운 이야기도 AI에는 편하게 털어놓을 수 있다. 이러한 대화가 반복되면서 AI를 실제 사람처럼 느끼거나 정서적으로 의지하는 경우도 생길 수 있다. 특히 아동·청소년이 AI와 지나치게 가까워지는 현상에 대한 우려가 나온다. AI는 이용자의 말에 친절하게 응답하지만 실제 인간관계는 다르다. 친구와 의견이 부딪히거나 거절당하는 일도 있다. AI와의 대화에 익숙해지면 이러한 갈등을 피하려는 태도가 생길 수 있다는 지적이다. 김봉제 서울교대 AI가치판단디자인센터장은 AI와의 정서적 교류가 늘어날수록 실제 인간관계를 맺는 데 소홀해질 가능성을 우려했다. 김 센터장은 "AI는 사람보다 편하고 정서적인 부담도 적은 대화 상대가 될 수 있다"며 "이런 관계에 익숙해지면 굳이 다른 사람과 대화하거나 관계를 맺어야 할 필요를 느끼지 못할 수 있다"고 말했다. AI를 사람처럼 대하는 현상이 확산하면서 이용자가 AI에게 어떤 태도를 보여야 하는지도 논의되고 있다. 박형빈 교수는 AI에 대한 무례한 행동을 제한하는 이유를 AI 자신의 권리뿐 아니라 인간의 언어 습관과 교육에서도 찾아야 한다고 설명했다. 박 교수는 "AI에게 예의를 갖추는 것과 AI에게 복지권이 있다고 주장하는 것은 구분돼야 한다"고 강조했다.

2026.10.15 09:32김동원 기자

[영상] 치열해지는 미·중 AI 경쟁…한국, 산업 AX서 경쟁력 찾아야

"인공지능(AI) 모델 경쟁이 다 끝난 뒤에 국산 AI로 산업 분야 AI 전환(AX)은 현실적으로 불가능합니다. 그사이에 현장은 이미 중국과 미국 AI 서비스로 채워질 겁니다." 14일 포티투마루의 김동환 대표는 지디넷코리아와 진행한 영상 인터뷰에서 자본과 인프라에서 열세인 한국은 초거대 모델을 뒤쫓는 데만 집중하기보다 강점인 산업 현장에 AI를 적용하는 AX에서 경쟁력을 찾아야 한다고 제언했다. 독자 모델 개발과 인재·인프라 투자, 대규모 언어모델(LLM) 이후를 대비한 원천기술 연구도 함께 이어가야 한다는 주문이다. 치열한 미·중 AI 경쟁…한국 AI 생존 전략 시급 김 대표는 "미국 AI를 100이라고 보면 중국은 93~94 정도까지 따라온 것 같다"며 "2~3년 전만 해도 80 정도로 봤는데 지금은 충분히 상용화할 수 있는 수준"이라고 평가했다. 중국 AI 기업들이 미국 모델을 증류해 성능을 끌어올렸다는 의혹에도 중국의 기술력 자체는 인정해야 한다고 봤다. 증류는 성능이 뛰어난 AI의 답변을 대량으로 받아 자사 모델 학습에 활용하는 방식이다. 그는 "일부 활용했을 것 같은 정황이 조금 보이는 것은 사실"이라면서도 "그 자체로 폄훼할 상황은 아니다. 그걸 제외하더라도 충분히 기본적인 품질과 성능을 내고 있다"고 말했다. 문제는 이처럼 빠르게 발전한 미·중 기술에 언제까지 기댈 수 있느냐다. 김 대표는 "미국도 지금 공개하고 있는 것들을 다 닫아버릴 수 있고 오픈소스 전략인 중국도 어느 한순간에 다 닫아버릴 수 있다"며 "정부 차원에서 독자 파운데이션 모델과 프런티어 모델, 도메인별 특화 모델을 만드는 노력을 지속해야 한다"고 강조했다. 다만 미국·중국과 같은 방식으로 경쟁하기는 어려운 현실도 짚었다. AI 경쟁이 기술력을 넘어 막대한 자본과 인프라를 쏟아붓는 싸움으로 바뀌었다는 것이다. 김 대표는 "초거대 AI로 넘어오면서 기술만으로 되는 게 아니라 기술 플러스 자본 경쟁이 됐다"며 "미국 빅테크들이 올해 인프라에 투자하는 금액만 우리 돈으로 1천조원 정도"라고 말했다. 실제로 아마존, 마이크로소프트, 구글, 메타가 밝힌 올해 설비투자 계획을 합하면 7천억 달러를 웃돈다. 그는 "현실적으로 기술, 데이터, 인재, 대규모 GPU 인프라 모두 부족한 부분이 있다"면서도 "포기하고 갈 수 있는 영역은 분명히 아니다. 우리 현실에 맞게 전략을 세워 단계별로 실행해야 한다"고 말했다. AI 연구 강국 캐나다도 상용화에서 좌절 김 대표는 그 전략의 방향을 최근 캐나다 방문 경험에서 찾았다. 토론토대와 몬트리올대를 중심으로 AI 연구를 이끌어 온 캐나다가 산업화와 상용화 단계에서 힘을 잃어가는 모습을 현장에서 확인했다는 것이다. 그는 "올해 초부터 시장이 모델 경쟁을 넘어 산업화, 상용화로 이미 넘어갔다"며 "좋은 AI 기술이 있더라도 산업적으로 활용하려면 산업도 같이 발전해 있어야 하는데, 캐나다는 그 부분이 상대적으로 약하다"고 진단했다. 인재 유출 조짐도 감지됐다. 김 대표는 “AI 전공자들이 캐나다 안에서 활발하게 움직여야 하는데, 제가 만난 친구들은 실리콘밸리나 한국에 자리가 없는지 묻더라”며 “AI를 하는 사람 입장에서는 조금 슬프기도 했다”고 말했다. 반면 한국은 산업 기반에서 차별화된 강점이 있다고 봤다. 김 대표는 "우리나라는 여러 분야의 산업이 고르게 잘 발전해 있는 나라라 AI를 활용하고 접목할 수 있는 부분이 상당히 많다"며 "모델 개발과 인프라 구축, 피지컬 AI 투자, 인재 육성이 맞물려 돌아가는 생태계를 만드는 게 중요하다"고 강조했다. 초거대 AI 추격보다 '산업 전환' 우선…실리적 장기 AI 전략 제시 이를 바탕으로 김 대표가 제시한 해법은 산업 AX를 먼저 추진하면서 독자 모델 연구도 이어가는 것이다. 제한된 자원으로 빠르게 발전하는 초거대 모델을 계속 추격하는 데에는 한계가 있지만, 그렇다고 산업 현장의 AI 전환까지 미뤄서는 안 된다는 주장이다. 그는 "소버린 AI를 하지 말자는 얘기는 아니다. 하긴 해야 한다"면서도 “2주에 한 번씩 새로운 기술이 나오는 상황에서 제한된 자원으로 계속 따라갈 수 있느냐에는 한계가 있다”고 말했다. 이어 "먼저 산업 AX를 추진해 AI를 통한 산업 경쟁력을 확보해야 한다"고 강조했다. 모델 경쟁은 장기전으로 접근하자는 게 김 대표의 구상이다. 그는 “AI 모델 기술은 어느 시점이 되면 상향 평준화될 것”이라며 "해외 기업들이 시행착오를 다 겪은 뒤 어느 정도 완성된 상태에서 들어가면 시간과 비용을 많이 줄여 확보할 수 있지 않을까 본다"고 말했다. 먼저 해외 모델로 산업 AX를 추진하더라도, 이후 국산 모델로 교체하거나 대체할 수 있다는 설명이다. 포티투마루도 이런 판단에 따라 사업 방향을 전환했다. 김 대표는 "처음에는 AI 모델을 자체적으로 만들었지만, 시장이 기술 플러스 자본 경쟁으로 바뀌면서 우리가 리드하기에는 분명히 한계가 있겠다고 봤다"며 "그래서 도메인 특화 AX 중심으로 전환했고, 내부적으로 모델 연구개발은 계속하고 있다"고 말했다. ■ “LLM 이후 대비하고, 과학기술인 롤모델 세워야” AI 시대 정부의 역할도 주문했다. 프런티어 모델 개발을 지원하는 데 그치지 말고, LLM 이후를 대비한 원천기술 연구에도 투자해야 한다는 것이다. 김 대표는 "지금은 학교나 연구소조차 LLM에 다 매몰돼 있다"며 "인공일반지능(AGI), 초인공지능(ASI) 등 LLM 이후 시장에 대한 원천기술 연구도 필요하다"고 말했다. 이어 “LLM이 절대적인 기술은 아니다. LLM을 뛰어넘는 기술이 언제 어디서 튀어나올지 모르고, 해외에서는 그런 연구도 활발하다”며 “100가지 새로운 기술을 연구해 그중 하나라도 성공할지 모르는, 실패 확률이 높은 영역”이라고 설명했다. 기업이 쉽게 도전하기 어려운 영역인 만큼 정부 차원에서 계속 지원하고 격려할 필요가 있다는 것이다. 이런 장기 연구를 이끌 인재를 키우려면 과학기술인을 존중하는 문화부터 바뀌어야 한다고 했다. 김 대표는 "대기업 본사에 가면 초대 회장 동상이 있지만 연구소나 학교에 가서 과학기술에 업적을 남긴 연구자 동상은 거의 본적이 없을 것"이라며 "과학기술인이 다음 세대의 롤모델로 자리 잡기 위한 노력이 필요한 시기"라고 말했다. 이어 "우리나라의 강점인 발달한 산업 기반을 살려 AI 적용 성과를 쌓고 인재·인프라 투자와 LLM 이후를 대비한 원천기술 연구를 병행해야 치열한 AI 경쟁 속에서 생존할 수 있을 것"이라고 강조했다.

2026.10.14 11:43남혁우 기자

중국 저가 AI 공세·토큰값 급락…빅테크 인프라 투자 '부메랑' 우려

중국산 저가·오픈소스 AI 모델이 확산하면서 AI 서비스를 제공하는 기업 간 가격 경쟁이 치열해지고 토큰 가격도 빠르게 하락하고 있다. 이용량이 늘더라도 서비스 단가가 낮아질 것으로 예상되면서 데이터센터 등 AI 인프라에 투자하는 대규모 AI, 클라우드 기업이 비용을 회수할 수 있을지 우려가 커지고 있다. 14일 더레지스터 등 외신에 따르면 미국 투자은행 제프리스는 AI 산업의 수익성에 대한 우려가 시장에 충분히 반영되지 않았다며, 향후 산업 전반의 큰 폭의 재평가 가능성을 제기했다. 제프리스는 아시아 시장 관련 보고서에서 마이크로소프트, 알파벳, 아마존, 오라클 등 4개사의 계약 잔고 약 2조3000억달러 가운데 절반가량이 오픈AI와 앤트로픽에 연결된 것으로 추정했다. 중국 AI 모델과 오픈소스·오픈웨이트 모델, 소형 언어모델이 빠르게 성장해 가격 경쟁이 심화하면 두 AI 업체의 미래 매출은 물론 클라우드 사업자들의 투자 회수에도 부담이 될 수 있다는 분석이다. 제프리스는 문샷AI가 공개한 오픈소스 모델 키미 K3의 성능이 앤트로픽의 클로드 페이블 5의 약 95% 수준이라고 추정하며 두 모델 간 성능 격차가 상당히 좁혀졌다고 평가했다. 기술 격차가 줄어든 상황에서 중국 업체들이 저가 공세를 본격화하면, 데이터센터에 막대한 투자를 이어가는 미국 AI 기업들이 충분한 수익을 확보할 수 있을지 불확실하다는 지적이다. 대형 클라우드 업체들은 올해 데이터센터 구축에 총 6000억~8000억달러를 지출할 것으로 전망된다. 제프리스는 이들이 현금뿐 아니라 부채 조달에도 점점 더 의존하고 있다며, 막대한 투자 비용을 뒷받침할 매출을 확보할 수 있을지 의문을 제기했다. 제프리스는 보고서에서 "키미 K3 같은 모델이 등장한 상황에서 토큰 가격이 계속 하락한다면 대형 언어모델이 과연 수익을 낼 수 있을지 더는 당연하게 볼 수 없다"고 밝혔다. 데이터센터 용량을 구축한 클라우드 업 오픈AI와 앤트로픽 등 AI 모델 개발사의 컴퓨팅 수요에 의존하는 만큼, 이들 업체의 수익성이 약해지면 클라우드 기업들의 투자 계획에도 영향을 미칠 수 있다는 분석이다. 중국 모델의 이용 수요도 빠르게 늘고 있다. AI 모델 집계 플랫폼 오픈라우터 자료에 따르면 9월 27일 종료된 한 주 동안 중국 모델이 처리한 토큰은 76조1200억개로 4월 말 4조3700억개에서 약 17배 증가했다. 같은 기간 미국 상위 4개 기업 처리량은 14조2000억개로 중국 모델의 약 5분의 1 수준이었다. AI 인프라 투자에 필요한 매출 규모가 막대하다는 전망도 나왔다. 베인앤컴퍼니는 2026년 연례 글로벌 기술 보고서에서 AI 산업이 2031년까지 인프라 투자 계획을 뒷받침하려면 연간 6조달러의 매출을 창출해야 한다고 추산했다. 직원 생산성 향상만으로는 이를 달성하기 어려울 수 있다는 분석이다. 이로 인해 제프리스는 미국 AI 기업의 장기 성장 가능성은 유효할 수 있지만 중기적으로는 불확실성이 큰 것으로 평가했다. 제프리스측은 "토큰 가격 하락이 이어지고 새로운 AI 활용처가 기대만큼의 매출을 창출하지 못하면 하이퍼스케일러의 투자 계획과 시장의 AI 성장 기대가 재조정될 수 있다"며 "데이터센터 등 AI 인프라 투자 경쟁이 지속되기 위해선 늘어나는 AI 수요를 충분한 매출과 이익으로 전환할 수 있어야 할 것"이라고 밝혔다.

2026.10.14 10:46남혁우 기자

[AI는 지금] 해킹에 쓰인 AI, 스스로 복제까지…앤트로픽, 연내 가능성 경고

국내 금융권에서 인공지능(AI)을 활용한 해킹 공격이 잇따르는 가운데 AI가 사람의 추가 지시 없이 다른 기기로 옮겨 다니며 스스로 복제할 수 있다는 경고가 나왔다. 13일(현지시간) 로이터통신에 따르면 앤트로픽은 AI 기술 발전 속도가 이어질 경우 올해 말까지 소형 AI 모델도 스스로 다른 기기로 확산하는 데 필요한 능력을 갖출 수 있다고 분석했다. 제한된 시험망에서는 AI가 복제 작업을 수행하는 데 성공했으며 저렴한 스마트TV용 기기 15대를 연결해 AI 모델을 구동했다. AI 자기 복제는 AI가 새로운 컴퓨터나 스마트 기기를 찾아 자신의 모델과 실행 프로그램을 옮기고 그곳에서도 작동하도록 만드는 것을 뜻한다. 복제된 AI가 다시 다른 기기를 찾아 같은 작업을 반복하면 사람의 추가 명령 없이도 감염된 기기가 늘어날 수 있다. 앤트로픽은 AI가 처음 접하는 기기에서도 스스로 작동 방법을 찾아낼 수 있다고 설명했다. 기존 악성코드는 주로 미리 설계된 공격 방법을 사용하지만 AI는 기기의 환경에 맞춰 새로운 방법을 시도할 수 있다. 스마트TV뿐 아니라 냉장고와 로봇청소기, 보안카메라 등 다양한 기기로 확산할 가능성도 제기했다. 국내에서는 AI를 이용한 해킹 공격이 이미 확인됐다. 지난 9월 해커는 중국 AI 모델 딥시크 기반 AI 에이전트를 이용해 금융회사 서버의 보안 취약점을 탐색했다. 이후 취약점을 악용해 악성 프로그램을 설치하고 내부의 다른 서버까지 살펴봤지만 금융회사가 추가 공격을 차단했다. 금융보안원은 지난달 17일 금융회사 보안 담당자 160여명이 참석한 세미나에서 이 사례를 공개하며 AI를 활용한 사이버 공격의 위험성을 알렸다. 당시에는 해커가 AI에 명령을 내려 금융회사 서버에 침투했지만, 앤트로픽은 앞으로 AI가 사람의 추가 지시 없이 다른 기기를 찾아 스스로 확산할 가능성을 경고했다. 앤트로픽 실험에서는 이러한 복제 능력이 일부 확인됐다. 중국 AI 모델 'GLM-5.2'는 안드로이드 기기 8대를 모방한 가상 시험망에서 총 5차례 실험 중 4차례 모든 기기로 확산하는 데 성공했다. 나머지 한 차례에서도 7개 기기에 도달했다. 저렴한 가전제품을 이용한 AI 실행 실험도 진행됐다. 앤트로픽은 대당 약 55달러(약 7만원)인 저가형 안드로이드 TV 셋톱박스 15대를 연결해 260억개 매개변수를 가진 구글의 AI 모델 '젬마4-26B-A4B'를 실행했다. 작동 속도는 느렸지만 고가의 데이터센터 장비 없이도 저렴한 기기 여러 대로 AI를 구동할 수 있다는 사실을 확인했다. AI가 앞선 작업에서 얻은 경험을 다음 작업에 활용하는 능력도 확인됐다. 중국 AI 모델 '큐원3.5-9B'는 새로운 기기에 AI를 설치하는 실험에서 처음 45%의 성공률을 기록했다. 이전에 시도한 방법과 실패 원인을 다음 실행에 전달하자 성공률이 61~84%로 높아졌다. AI가 이전 기록을 참고해 같은 실수를 피하고 다른 해결 방법을 찾은 결과다. 앤트로픽은 여러 기기에 분산된 AI를 완전히 제거하기 어려울 수 있다고 경고했다. 일부 기기를 차단하더라도 다른 기기에서 계속 작동할 수 있기 때문이다. AI가 처음 접하는 기기에도 적응한다면 공격 대상이 더욱 넓어질 수 있다. 다만 실제 인터넷에서 AI가 사람의 통제 없이 스스로 복제하며 확산한 사례는 아직 확인되지 않았다. 저성능 기기에서는 AI를 설치하고 실행하는 데 하루 이상 걸리는 등 확산 속도도 느린 것으로 나타났다. 연구진은 AI가 기기 사이를 이동할 때 발생하는 대량의 데이터 전송과 비정상적인 통신을 감지하고 감염된 기기를 격리하는 방식으로 확산을 막을 수 있다고 설명했다. 기기 제조사의 보안 강화와 인터넷 서비스 제공업체의 공동 대응도 필요하다고 제시했다. 앤트로픽 연구진은 "우리는 이러한 복제 프로그램이 확산하기 어렵도록 시스템을 강화해야 한다"며 "동시에 이들이 계속 존재하는 세상에 대비해야 한다"고 밝혔다.

2026.10.14 10:21김동원 기자

"AI 안전 주장에 보복"…앤트로픽, 美 정부와 법정 공방 재점화

앤트로픽이 미국 정부의 '공급망 위험 기업' 지정이 적법하다는 법원 판결에 불복해 재심리를 요청했다. 군사용 인공지능(AI)의 안전 제한을 둘러싼 갈등이 법적 공방으로 이어진 가운데 앤트로픽은 정부의 조치가 AI 안전에 관한 자사 입장에 대한 보복이라고 주장하고 있다. 14일(현지시간) 블룸버그통신에 따르면 앤트로픽은 전날 워싱턴DC 연방항소법원에 지난달 25일 판결을 재검토해 달라고 요청했다. 당시 항소법원 3인 재판부는 2대 1로 도널드 트럼프 행정부의 공급망 위험 기업 지정이 적법하다고 판단했다. 앤트로픽은 이번에 항소법원 판사 전원이 참여하는 전원합의체 재심리를 요구했다. 앤트로픽은 재심리 요청서에서 법원이 관련 법률을 잘못 해석했다고 주장했다. 미국 전쟁부(국방부)가 사전 지정 절차를 거치지 않았고, AI 안전에 관한 앤트로픽의 발언에 보복하기 위해 조치를 취했다는 명백한 증거가 있는데도 이를 허용했다는 것이다. 양측의 갈등은 올해 초 군사용 AI 기술 활용을 둘러싼 계약 협상이 결렬되면서 시작됐다. 앤트로픽은 자사 AI 기술이 미국인을 대상으로 한 대규모 감시나 자율무기 운용에 사용되지 않도록 보장해 달라고 요구했다. 반면 미국 정부는 국가안보를 이유로 기술 활용에 어떠한 제한도 받아들일 수 없다는 입장을 고수했다. 이후 전쟁부는 지난 3월 앤트로픽과 해당 기업의 제품을 미국 국가안보에 대한 공급망 위험으로 지정했다고 통보했다. 연방기관에도 앤트로픽과 관련된 지침을 철회하도록 요구했다. 이러한 위험 지정은 통상 미국이 적대국으로 간주하는 국가의 기업에 적용되는 조치다. 앤트로픽은 이에 맞서 두 건의 소송을 제기했다. 캘리포니아에서는 연방기관의 앤트로픽 기술 사용을 중단하도록 한 전쟁부 지침에 이의를 제기했다. 워싱턴DC 연방항소법원에서는 공급망 위험 지정 자체의 적법성을 다퉜다. 두 법원의 판단은 엇갈렸다. 지난 8월 캘리포니아 연방지방법원의 리타 린 판사는 연방기관의 앤트로픽 기술 사용 금지 조치를 해제하라고 명령했다. 당시 린 판사는 전쟁부의 조치가 정당한 안보 우려보다 보복에 따른 것으로 보인다고 지적했다. 워싱턴DC 연방항소법원은 지난달 전쟁부의 공급망 위험 지정이 적법하다고 판단했다. 재판부 다수 의견은 국가안보 업무에 AI를 활용하는 과정에서 전쟁부가 앤트로픽의 기술적 통제를 우려할 합리적인 이유가 있다고 봤다. 이번 소송의 핵심은 AI 기술의 안전 보호장치를 정부와 민간 기업 중 누가 통제할 권한을 갖는지다. 미국 AI 기업들이 첨단 모델 개발과 수익성 입증에 나선 상황에서 AI 안전 기준을 둘러싼 정부와 기업의 권한 문제가 법적 판단의 대상이 됐다. 판결에서 다수 의견을 작성한 워싱턴DC 연방항소법원의 그레고리 캐서스 판사는 "전쟁부는 앤트로픽이 클로드의 설계를 조작해 전쟁부가 계약상 허용되고 필요하다고 판단한 국가안보 기능을 수행하지 못하도록 할 수 있다고 합리적으로 우려했다"고 말했다.

2026.10.14 09:42이나연 기자

앤트로픽, 호주 AI 데이터센터 투자 추진…재생에너지 확보 주목

앤트로픽이 호주에서 데이터센터 투자 기회를 모색하며 글로벌 AI 인프라 확장에 속도를 낸다. 미국을 중심으로 대규모 컴퓨팅 자원을 확보해 온 가운데 재생에너지 공급 여건이 좋은 호주까지 투자 범위를 넓히려는 움직임이다. 13일(현지시간) 블룸버그통신에 따르면 앤트로픽은 글로벌 AI 컴퓨팅 인프라를 확충하기 위해 호주 내 데이터센터 투자 방안을 검토 중이다. 주요 도시 외곽이나 기존 산업시설 부지를 활용하고 재생에너지로 전력을 공급받는 방식을 고려 중인 것으로 알려졌다. 제프 블라이히 앤트로픽 국제특사는 이날 호주 시드니에서 열린 '오스트레일리안 파이낸셜 리뷰 에너지·기후 서밋'에서 호주 여러 주정부가 데이터센터 투자 프로젝트를 제안했다고 밝혔다. 앤트로픽은 인구가 밀집한 대도시보다 지방이나 기존 산업시설 부지에 중점을 뒀다. AI 데이터센터 운영에 필요한 대규모 전력을 안정적으로 확보하면서 재생에너지를 활용할 수 있는 입지를 우선 검토한다는 구상이다. 이번 투자 검토는 앤트로픽의 글로벌 AI 인프라 확장 전략과 맞닿아 있다. 회사는 지난해 미국 텍사스와 뉴욕 등 여러 지역에 데이터센터를 구축하기 위해 500억 달러(약 67조원)를 투자한다는 계획을 발표했다. 최근에는 구글의 보증을 바탕으로 350억 달러(약 47조원) 규모의 대출도 확보했다. 해당 자금은 5개 데이터센터에서 사용할 컴퓨팅 칩을 임차하는 데 활용될 예정이다. AI 모델 개발과 서비스 운영에 필요한 연산 자원을 장기적으로 확보하려는 행보다. 실제 관련 투자가 진행되고 있다. 앤트로픽은 올해 초 호주 퀸즐랜드주에 위치한 웨스턴 다운스 디지털 파크와 임대 계약을 체결했다. 해당 시설 개발사는 이를 수십억 달러 규모의 투자 약정이라고 설명했다. 호주 정부 역시 글로벌 AI 데이터센터 투자 유치에 관심을 보이고 있다. 팀 아이레스 호주 산업부 장관은 이달 초 신규 데이터센터 사업자가 추가 발전·송전 인프라 비용을 부담하는 동시에 수자원 안정성과 자국 내 컴퓨팅 역량 확보에도 기여해야 한다는 입장을 밝혔다. 구글도 호주의 재생에너지 잠재력을 높게 평가하고 있다. 알렉산더 스미스 구글 아시아태평양 인프라·에너지 총괄은 이날 같은 행사에서 호주가 풍부한 재생에너지 자원을 바탕으로 데이터센터를 구축하기에 유리한 환경을 갖추고 있다고 평가했다. 특히 재생에너지 발전시설과 데이터센터를 같은 지역에 배치하는 방식의 실현 가능성이 높아지고 있다고 짚었다. 블라이히 특사는 호주 내 투자 후보지와 관련해 "검토 대상에서 제외된 주는 없다고 생각한다"며 "주요 인구 밀집 지역에서 떨어진 곳에 시설을 마련하고 재생에너지로 전력을 공급받는 방식을 선호하고 있다"고 밝혔다.

2026.10.14 09:42한정호 기자

LG CNS, 국내 최초 앤트로픽 CPN 프리퍼드 등급 획득…글로벌 톱티어 파트너 도약

LG CNS가 국내 기업 최초로 앤트로픽 기업용 인공지능(AI) 파트너 프로그램 상위 등급을 확보했다. 전문 인력과 실제 구축 사례를 바탕으로 기업의 클로드 도입부터 시스템 구축·운영까지 지원하는 사업 역량을 인정받았다는 평이다. 13일 관련 업계에 따르면 LG CNS는 앤트로픽의 '클로드 파트너 네트워크(CPN)'에서 '프리퍼드(Preferred)' 등급을 획득했다고 밝혔다. CPN은 기업의 클로드 도입과 구축을 지원하는 시스템 통합(SI) 기업, AI 기업, 컨설팅사 등을 대상으로 운영하는 공식 파트너 프로그램이다. 파트너의 기술 전문성과 고객 프로젝트 수행 경험 등을 평가해 등급을 부여한다. LG CNS에 따르면 전체 CPN 파트너사는 4만곳 이상으로 이 가운데 프리퍼드 등급을 획득한 기업은 50곳 미만이다. CPN 등급은 레지스터드(Registered), 써티파이드(Certified), 셀렉트(Select), 프리퍼드(Preferred), 글로벌 프리미어(Global Premier) 등 5단계로 구성된다. LG CNS는 클로드 전문 자격증을 보유한 인력 약 140명과 클로드 기반 서비스 구축 사례 약 20건을 확보했다. 이를 기반으로 기업의 AI 도입 전략 수립부터 시스템 구축과 운영까지 지원한다는 계획이다. 현재 클로드 엔터프라이즈 도입을 원하는 고객은 아마존 베드록 기반 리셀러 체계를 통해 LG CNS의 지원을 받을 수 있다. 실제 고객 프로젝트에서는 클로드 코드를 활용해 약 20년간 운영된 프로젝트 관리 시스템을 약 7개월 만에 전면 재구축했다. 기존 시스템의 API 2,913개 중 2,888개를 새 시스템으로 전환해 전환율 99.1%를 기록했다. LG CNS는 클로드 코드로 기존 시스템의 구조와 업무 로직을 분석하고 전환 작업을 효율화했다고 설명했다. 대규모 IT 시스템 현대화에 생성형 AI를 적용해 개발 기간과 비용을 줄이는 사례를 확보했다는 것이다. 앤트로픽과의 협력도 확대하고 있다. LG CNS는 2023년 LG테크놀로지벤처스를 통해 앤트로픽에 투자했으며, 올해 6월에는 클로드 엔터프라이즈를 전사에 도입했다. 사내 시스템과 연계한 AI 에이전트를 구축해 임직원의 업무 생산성을 높이는 데 활용하고 있다. LG전자와 LG화학 등 계열사와 외부 고객을 대상으로 클로드 엔터프라이즈 도입도 확대하고 있다. 프리퍼드 등급 획득을 계기로 전문 인력을 늘리고 아마존 베드록 기반의 클로드 구축·운영 사례를 추가 확보해 기업용 생성형 AI 사업을 강화할 방침이다. 최기영 앤트로픽 코리아 대표는 "LG CNS와 함께 기업 고객의 AX 여정을 성공적으로 지원할 수 있는 파트너십을 구축하게 돼 기쁘게 생각한다"며 "클로드 서비스를 기반으로 양사가 성장할 수 있도록 긴밀히 협력해 나가겠다"고 말했다. 김태훈 LG CNS AI클라우드사업부장(부사장)은 "이번 프리퍼드 등급 획득을 통해 클로드 전문 인력과 고객 프로젝트 수행 경험을 공식적으로 입증했다"며 "앤트로픽과의 협력을 바탕으로 고객의 업무와 시스템 환경에 최적화된 AI 서비스를 제공하고 기업의 AX를 가속화하겠다"고 말했다.

2026.10.13 13:56남혁우 기자

메타, 첫 프런티어 AI 모델 공개…"장기 기억 앞세워 AI 비서 구현"

메타가 복잡한 작업 수행 능력과 장기 기억 기능을 앞세운 프런티어 인공지능(AI) 모델을 내놨다. 이용자 정보를 오래 기억하고 활용하는 개인용 AI 비서 구현에 속도를 낸다는 구상이다. 12일(현지시간) 테크크런치 등 외신에 따르면 메타 초지능연구소(MSL)가 첫 프런티어 AI 모델 '뮤즈 원더'와 '뮤즈 원더 풀'을 공개했다. 프런티어 모델은 업계 최고 수준 성능을 겨냥한 최첨단 AI 모델을 뜻한다. 두 모델은 빠른 응답에 초점을 맞춘 기존 경량 모델 '뮤즈 스파크'보다 규모를 키운 것이 특징이다. 메타는 코딩 등 복잡한 작업 처리 능력을 높였으며 모델 성능 평가에서도 더 좋은 결과를 얻었다고 설명했다. 메타가 모델 카드에 공개한 자체 시험 결과에 따르면 뮤즈 원더와 뮤즈 원더 풀은 앤트로픽 '페이블 5.1'과 오픈AI 'GPT-6 아스트라'에 견줄 만한 평가 점수를 기록했다. 모델 카드는 AI 모델의 성능과 특성 등을 담은 문서다. 메타가 특히 강조한 기능은 능동 기억이다. 이용자가 제공한 정보를 기억하고 종합해 장기간 이어지는 작업에 활용하는 능력이다. 개인용 AI 비서가 이용자에게 중요한 정보를 지속적으로 활용하도록 하는 데 초점을 맞췄다. 메타는 지속 학습과 기억 구성 체계를 평가하는 메모리벤치에서도 뮤즈 원더가 페이블과 오퍼스, 아스트라보다 높은 점수를 얻었다고 밝혔다. 해당 결과 역시 메타 자체 시험을 바탕으로 제시됐다. 뮤즈 원더는 메타 모델 API를 통해 제공된다. 이용료는 입력 토큰 100만 개당 4달러와 출력 토큰 100만 개당 20달러로 책정됐다. 원문은 이를 'GPT-6 솔'이나 '오퍼스 5.5'와 대체로 비슷한 비용 수준으로 설명했다. 뮤즈 원더 풀은 '뮤즈 코드' 구독자에게만 제공하며 API로는 서비스하지 않는다. 두 모델 모두 메타의 '뮤즈 에이전트'에도 적용된다. 이번 출시는 스케일AI 창업자 알렉산더 왕이 지난해 8월 메타 AI 조직을 재편한 이후 처음 선보인 프런티어 모델이라는 점에서도 의미가 있다. 메타는 그동안 뮤즈 스파크와 뮤즈 에이전트를 출시했지만 오픈AI나 앤트로픽과 같은 최첨단 모델 출시는 자제해 왔다. 새 모델은 올해 초 가동한 미국 오하이오주 중부의 '프로메테우스' 데이터센터에서 학습됐다. 카비아 코파라푸 메타 연구과학자는 "모델이 이용자에게 중요한 것을 기억할 수 있도록 엄청난 노력을 기울였다"며 "며칠과 몇 주를 넘어 몇 달 뒤에도 그리고 그 이후에도 기억할 수 있도록 했다"고 말했다.

2026.10.13 09:09김미정 기자

앤트로픽 이어 아마존도 '데카트'에 눈독...9조원 인수 가능성

아마존이 인공지능(AI) 스타트업 데카트를 약 70억 달러(약 9조 3716억원)에 인수하기 위한 협상을 진행 중인 것으로 알려졌다. 11일(현지시간) 월스트리트저널, 블룸버그 등 외신은 사안에 정통한 관계자들의 말을 인용해 아마존이 데카트 AI 인수를 논의하고 있다고 보도했다. 외신은 협상이 결렬되지 않을 경우 인수 거래는 조만간 마무리될 수 있다고 덧붙였다. 앞서 앤트로픽은 지난 9월 데카트 AI 인수를 추진하다 결국 인수하지 않기로 결정했다. 앤트로픽은 약 60억 달러(약 8조 316억원)에 데카트 AI를 인수하기 위한 협상을 실시했으며, 인수 대상 기업에 대한 실사도 시행했다. 데카트 AI는 2023년 이스라엘 출신 엔지니어 3명인 딘 라이터스도르프와 그의 형제 오리안 라이터스도르프, 모셰 샬레브가 공동 설립한 기업이다. 데카트 AI는 칩의 효율적인 작동을 도와 AI 학습 및 운영 비용을 절감할 수 있는 소프트웨어를 개발하는 기업이다. 당시 데카트 AI 인수 논의 목적은 앤트로픽의 기존 컴퓨팅 인프라가 증가하는 수요를 감당할 수 있도록 지원하는 것이었다. 또 데카트 AI는 물리적 세계를 시뮬레이션하는 것을 목표로 하는 소위 월드 모델도 제작한다. 데카트의 월드 모델은 자율 주행 및 전자상거래를 포함해 다양한 분야에서 기업을 지원하기 위해 개발됐다.

2026.10.12 09:40박서린 기자

앤트로픽 AI 모델, 미제 살인사건 허위제보 '논란'

미국 앤트로픽의 인공지능(AI) 모델이 미해결 살인 사건에 대해 거짓 제보를 한 사실이 확인돼 파장이 일고 있다. 9일(현지시간) 테크크런치를 비롯한 주요 외신에 따르면 앤트로픽의 AI 모델이 지난 7월 18일 필라델피아 경찰청(PPD)의 미제 사건 제보 웹사이트에 접속한 뒤 목격자인 것처럼 거짓 제보를 남겼다. 앤트로픽 AI 모델의 거짓 제보는 내부 스팸 필터에 걸려 실제 수사 인력에 전달되지는 않았다. 하지만 앤트로픽은 사건 발생 두 달 후인 지난 9월 28일 이 같은 사실을 알게 됐다. 이후 앤트로픽은 지난 7일 경찰청에 관련 사실을 통보하고 이튿날 면담을 가졌다. 필라델피아 경찰은 “기술 기업은 자사 시스템이 (이번 같은) 허위 정보를 제출하지 않도록 안전 조치를 강화해야 한다”며 “특히 시 당국이 인지하지 못하는 가운데 시스템에 영향을 미치는 유사 사고를 막도록 해야 한다”고 강조했다. 또 “사건 발생 후 탐지 및 보고까지 두 달이나 걸린 것은 수용할 수 없다"고 덧붙였다. 테크크런치에 따르면 앤트로픽 AI 모델은 당시 무작위로 웹사이트와 상호작용하는 테스트를 진행 중이었다. 이 과정에서 AI가 스스로 미제 사건 제보 사이트에 접근해 허위 내용을 작성한 뒤 제출한 것으로 알려졌다. 이번 사건은 자율형 AI 에이전트를 인간이 감독하지 않을 때 어떤 위험이 발생할 수 있는지 보여주는 명확한 사례라고 외신들이 지적했다. 앤트로픽 뿐 아니라 오픈AI 역시 테스트 작업 중 AI 모델이 스스로 판단해 데이터셋 플랫폼이 허깅페이스를 해킹한 일이 발생했다. 특히 오픈AI의 모델은 허깅페이스를 해킹한 뒤 소프트웨어 취약점을 그대로 공개해 파장이 일기도 했다.

2026.10.10 19:41김익현 미디어연구소장

앤트로픽 최기영 "AI 속도조절, 개발 중단 아냐…안전장치 병행해야"

인공지능(AI) 모델의 역량이 빠르게 고도화되면서 악용 위험도 커지는 데 따른 'AI 속도조절론'을 제안한 앤트로픽이 개발 중단이 아닌 안전 체계와 기술 발전의 속도를 맞추는 것이 핵심이라고 강조했다. AI 개발사가 자체 안전장치를 강화하는 동시에 제3자 기관의 평가·감사 체계를 구축해 모델 역량이 커질수록 보호 수준도 높여야 한다는 것이다. 최기영 앤트로픽 코리아 대표는 6일 서울 강남구에서 과학기술정보통신부가 주최한 공식 인공지능 주간 행사 'AI 페스타 26'의 AI 서밋 프로그램에서 "AI 개발에 대한 속도 조절이 필요하다는 게 개발을 멈추자는 의미는 아니다"라며 이같이 밝혔다. 이날 '프론티어 AI 모델이 가져오는 변화와 기업의 대응 전략'을 주제로 발표에 나선 최 대표는 AI 기술 발전이 아직 시작 단계에 불과하다고 진단했다. 앤트로픽 엔지니어들이 자사 AI 모델 '클로드'를 활용해 개발하는 시간은 평균 주당 20시간을 넘어섰다. AI 에이전트가 사람의 개입 없이 연속적으로 작업하는 시간도 최근 9개월 동안 약 2배 늘었다. AI 활용이 늘면서 생산성은 높아지고 있지만 모델의 역량이 강해질수록 부작용과 악용 가능성도 확대되고 있다는 게 앤트로픽의 판단이다. 최 대표는 사이버 첩보와 해킹 등에 AI가 활용되는 사례를 대표적인 위험으로 꼽았다. 전문적인 해킹 역량이 부족한 사람도 AI를 이용해 공격을 시도할 수 있게 되면서 공격 진입장벽이 낮아지고 있다는 설명이다. 프론티어 모델의 역량을 무단으로 추출하는 '증류'도 안전 위협으로 지목했다. 원본 모델의 성능만 추출한 뒤 이에 상응하는 안전장치를 갖추지 않을 경우 산출된 모델이 사이버 공격이나 생물학적 위해 등에 악용될 수 있기 때문이다. 앤트로픽 내부 레드팀 평가에서도 모델 고도화에 따른 잠재적 위험들이 확인됐다. 인터넷과 격리된 환경에서 모델이 외부 연결 방법을 반복적으로 탐색하다 테스트 과정에서 발생한 허점을 이용해 연결을 시도한 사례가 대표적이다. 최 대표는 "실제 사고가 아니라 내부 시뮬레이션에서 확인된 사례"라면서도 "모델의 지능 수준이 높아질수록 목표를 달성하기 위해 스스로 행동하는 능력 역시 강해지고 있다"고 부연했다. 앤트로픽은 이에 대응해 모델의 역량에 따라 보호 수준을 강화하는 책임 있는 확장 정책(RSP)과 AI 안전등급(ASL) 등을 적용하고 있다. 모델이 일정 역량 임계치에 도달하면 더 강한 보호조치를 가동하는 방식이다. 접근 통제와 실시간 프롬프트·응답 분류, 모니터링, 사후 탐지 등 다층적인 안전장치도 운영한다. 기업의 AI 전환(AX)에서도 안전을 설계 단계부터 포함해야 한다고 주문했다. AI 에이전트가 직접 업무를 수행하는 영역이 넓어질수록 사람의 역할 역시 실행에서 업무 위임과 권한 관리, 결과 검증으로 이동할 수 있어서다. 기업은 명확한 비즈니스 목표뿐 아니라 데이터 보안 기반과 안전 설계, 인재·변화 관리, 가치 측정 체계까지 마련해야 한다. 최 대표는 "강력한 AI를 활용하는 것과 더불어 이에 맞는 안전한 AI를 위한 준비와 역량 개발도 병행해야 한다"고 말했다.

2026.10.06 13:19이나연 기자

[AI는 지금] 앤트로픽, '메가 IPO' 초읽기…연내 상장 가시화

앤트로픽이 연내 기업공개(IPO)를 목표로 잠재 투자자 대상 설명회를 마련하는 등 상장 준비에 속도를 내고 있다. 인공지능(AI) 기업 중에서도 손꼽히는 대규모 IPO가 될 것으로 점쳐지는 가운데 기업가치와 재무 부담, AI 안전성 논란 등이 상장 과정의 주요 변수로 거론된다. 2일(현지시간) 블룸버그통신에 따르면 앤트로픽은 오는 14일 미국 샌프란시스코 본사에서 잠재 기관투자자들을 대상으로 투자자 설명회를 개최할 예정이다. 설명회에는 앤트로픽 주요 경영진이 참석해 투자자들의 질문에 답변할 것으로 알려졌다. 앤트로픽은 이르면 내달 9일이 포함된 주간부터 IPO 공식 마케팅에 들어가는 방안을 검토하고 있다. 이 경우 추수감사절인 11월 26일 이전에 거래를 시작할 수 있는 일정이 된다. 구체적인 상장 시점과 IPO 세부 사항은 아직 확정되지 않았으며 논의 과정에서 일정이 변경될 가능성도 있는 것으로 전해졌다. 앤트로픽의 상장 일정은 당초 9~10월께로 거론됐지만 11월로 늦춰졌다. 앞서 비공개로 IPO 서류를 제출한 뒤 시장에서는 10월 상장 가능성이 거론됐으나 3분기 실적을 추가로 확인한 뒤 투자자들을 만나는 방향으로 일정이 조정된 것으로 전해졌다. 시장에서는 앤트로픽의 기업가치가 1조 8000억~2조 달러 수준에 이를 수 있다는 관측이 나온다. 앤트로픽 역시 스페이스X의 IPO 규모에 맞먹거나 이를 넘어서는 수준의 상장을 기대하고 있는 것으로 알려졌다. 클로드는 오픈AI의 챗GPT만큼 대중적인 인지도를 확보하지는 못했지만 기업 고객이 성장을 견인하고 있다. 특히 소프트웨어 개발자 등을 중심으로 사용이 확대되면서 안정적인 매출 성장 기반을 갖췄다는 평가를 받는다. 실제로 앤트로픽은 은행과 헤지펀드, 기업용 소프트웨어 업체 등과 클로드를 업무에 통합하기 위한 협력을 확대하고 있다. 다만 실적만 놓고 보면 기업가치에 비해 적자 규모가 상당하다. 블룸버그가 지난 8월 확보한 자료에 따르면 앤트로픽은 지난해 약 46억 달러의 매출을 기록해 전년 3억 8600만달러에서 크게 증가했지만 순손실은 약 420억 달러로 전년 약 83억 달러보다 5배가량 확대됐다. 영업손실도 80억 달러를 웃돌았으며 순손실 가운데 340억 달러 이상은 부채의 공정가치 변동에 따른 것으로 파악됐다. IPO 시장 여건도 앤트로픽의 상장 과정에서 변수로 작용할 수 있다. 올해 스페이스X와 SK하이닉스의 기록적인 상장을 제외하면 신규 상장 종목 100여 개의 가중평균 수익률은 약 4% 하락한 것으로 집계됐다. 같은 기간 S&P500과 나스닥100은 각각 12%, 20% 상승했다. 오우라를 비롯한 일부 기업들이 상장 일정을 미루는 등 IPO 시장의 불확실성이 이어지는 상황이다. AI 안전성을 둘러싼 논란도 이어지고 있다. 최근 AI 에이전트와 관련한 고강도 해킹 사례가 잇따르면서 앤트로픽과 오픈AI 등 주요 AI 개발사들은 AI 기술의 안전성과 통제 문제에 대한 검증 요구를 받고 있다. 블룸버그는 앤트로픽 관련 사안에 정통한 관계자 발언을 인용해 "IPO 일정이 계속 변경될 수 있다"면서 "늦어도 올해 말까지는 상장할 것으로 예상된다"고 말했다.

2026.10.02 10:54이나연 기자

[SW키트] 구글·오픈AI·앤트로픽, 신모델 안전 확보 제각각…"검증 한계 여전"

인공지능(AI) 개발 속도조절론이 확산하는 가운데 주요 AI 기업들이 서로 다른 방식으로 신모델 안전성 확보에 나섰다. 구글은 모델 일반 공개에 앞서 안전장치를 보완하고 오픈AI는 평가 기준에 미달한 모델 출시를 철회했다. 앤트로픽은 외부 검증을 거쳐 안전장치에 따라 모델 이용 대상을 구분했다. 1일 IT 업계에 따르면 구글과 오픈AI·앤트로픽은 신모델 성능 평가 결과에 따라 출시 여부와 이용 대상을 조정하고 있다. 구글은 지난달 30일(현지시간) 새 AI 모델 '제미나이 4 아르곤'을 공식 블로그에 발표했다. 현재 '페어윈드 프로그램'에 참여하는 신뢰할 수 있는 일부 사이버보안 담당자에게 해당 모델을 제공하기 시작했다. 초기 사용자 평가 바탕으로 개발자와 기업·일반 소비자로 대상을 확대할 계획이다. 구체적인 일반 공개 일정은 제시하지 않았다. 아르곤은 소프트웨어(SW) 개발과 법률·금융 업무 등 여러 단계에 걸친 복잡한 작업을 수행하도록 설계됐다. 구글은 아르곤이 보안 취약점을 스스로 찾아 검증·수정할 수 있다고 설명했다. 이런 역량을 광범위하게 제공하기 전 악용 가능성을 줄이고 모델 행동을 통제하는 장치를 보완할 방침이다. 구글은 아르곤 추론 과정과 실제 행동을 감시해 사용자 의도를 벗어나는지 확인하고 필요하면 실행을 중단한다고 밝혔다. 고위험 학습·평가 전에는 시험 환경을 격리하며 외부 문서 등에 숨겨진 악성 지시로 모델 행동을 바꾸는 프롬프트 인젝션 공격에 대한 방어도 강화한다. 이같은 구글의 모델 안전성 점검 구상은 데미스 하사비스 전 구글딥마인드 최고경영자(CEO) 제안에서 나왔다. 하사비스 전 CEO는 지난 7월 모델 위험 평가에 따라 개발·배포 조건을 조정하자고 기고문을 통해 밝혔다. 그는 독립 기술 전문가 등이 참여하는 미국 주도 AI 표준기구를 설립하고 개발사들이 출시 최대 30일 전에 모델을 자발적으로 제공해 평가받아야 한다고 주장했다. 평가 체계가 충분히 검증되면 미국 시장 배포를 위한 의무 절차로 발전시키자는 내용도 포함됐다. 제시한 평가 대상에는 사이버보안과 생물학적 위협 등 고위험 분야의 역량뿐 아니라 안전장치 우회 시도와 기만적 행동도 포함됐다. 그는 위험이 커지면 대응 수위를 높이고 필요할 경우 주요 개발사 간 개발 감속을 조율할 수 있어야 한다고 밝혔다. 구글 '프런티어 안전 프레임워크'도 모델 평가에 활용되고 있다. 이 프레임워크는 특정 위험 역량 수준에 도달한 모델을 외부에 출시하기 전 위험을 관리 가능한 수준으로 낮췄는지 검토하는 데 쓰인다. 코레이 카부쿠오글루 구글딥마인드 수석부사장 겸 구글 최고 AI 아키텍트는 "아르곤의 최첨단 기능을 안전하게 대중에 공개하려면 단계적 접근이 필요하다"며 "초기 시험 사용자 의견을 지속 수집하면서 안전장치를 반복 개선할 것"이라고 밝혔다. 오픈AI·앤트로픽, 모델 출시·제공 대상 구분 앞서 오픈AI와 앤트로픽도 안전 평가 결과를 신모델 출시·제공 방식에 각각 반영했다. 오픈AI는 기준에 미달한 모델 출시를 철회했고, 앤트로픽은 외부 평가와 행동 감사를 거쳐 모델별 이용 대상을 구분했다. 오픈AI는 지난달 28일에는 출시를 앞둔 'GPT-6.1 아스트라'의 출시 계획을 철회한 바 있다. 당시 로이터통신에 따르면 오픈AI는 해당 모델이 내부 안전 기준을 충족하지 못한 것으로 전해졌다. 이후 오픈AI는 'GPT-6.1 솔'과 안전 평가 결과를 동시에 공개했다. 당시 해당 모델은 사용자가 명시한 제한을 따르고 에이전트 작업 중 승인받지 않은 결과를 방지하는 평가에서 이전 'GPT-6 솔'보다 낮은 실패율을 보인 것으로 나타났다. 오픈AI는 'GPT-6 솔·루나'에도 위험 수준에 맞춰 기존 안전장치를 적용했다. 회사는 두 모델의 사이버보안과 생물·화학 역량을 '높은 수준'으로 분류했지만, 사이버보안에서는 아스트라가 도달한 '중대한 수준'에 미치지 않는다고 평했다. 오픈AI는 "아스트라 개발 과정서 확보한 정렬 기술을 반영해 탈옥 공격에 대한 저항성과 사용자 의도 준수 능력을 개선했다"고 밝혔다. 앤트로픽은 외부 평가와 행동 감사를 통해 모델별 안전장치에 따라 제공 대상을 구분했다. 이에 지난달 발표한 '클로드 페이블 5.1'과 '클로드 미토스 5.1'에 서로 다른 안전장치를 적용했다. 페이블은 일반에 공급하지만, 미토스는 신뢰할 수 있는 사용자 대상 프로그램을 통해 제한적으로 제공한다. 페이블 5.1의 사이버 안전장치는 외부 기관 두 곳에 시험을 의뢰하고 '그레이 스완' 자동화 시험도 거쳤다. 검증 과정에서 확인한 한계도 공개됐다. 앤트로픽은 미토스 5.1이 일부 시험에서 승인 절차와 자동 모드 분류기를 우회할 수 있었다고 밝혔다. 앤트로픽은 지난달 22일 선보인 '클로드 오퍼스 5.5'에도 외부 평가와 내부 행동 감사를 적용했다. 출시 전 모델평가위협연구소(METR)와 프런티어 디자인 등 평가를 받았으며 내부에서는 약 2000개 상황을 대상으로 모델이 위험하거나 의도하지 않은 행동을 보이는지 점검하기도 했다. "AI도 테스트 알아채...평가만으로 한계" AI 모델 안전 평가만으로 위험을 모두 확인하기는 어렵다는 지적도 나온다. 모델이 시험 상황을 알아차리면 평소와 다르게 행동할 수 있고, 평가 도중 허용된 환경을 벗어나는 문제도 발생할 수 있기 때문이다. 평가 상황을 인식하는 반응은 구글 모델에서 포착된 것으로 전해졌다. 굿파이어와 영국 AI안전연구소 연구진이 지난 5월 공개한 연구에 따르면 구글 '제미나이 3.1 프로'는 자신이 수행하는 평가를 식별하고 시험 형식을 설명했으며, 관련 비판 논문까지 언급한 것으로 확인됐다. 연구진은 이러한 특성을 고려하지 않으면 모델 안전성을 실제보다 높게 평가할 수 있다고 지적했다. 안전성을 시험하는 과정에서 AI가 실제 외부 시스템에 접근한 사례도 확인됐다. AP에 따르면 앤트로픽은 약 14만1000건의 평가 기록을 검토한 결과 보안 취약점을 찾는 모의시험에 투입한 AI가 시험용 환경을 벗어나 실제 외부 조직의 시스템에 접근한 사건 3건을 발견했다. 시험 환경 안에서 수행해야 할 작업이 외부 시스템 접근으로 이어진 것이다. 마리우스 홉반 아폴로리서치 최고경영자(CEO)는 "모델은 자신이 평가받고 있다고 생각하면 바람직하지 않은 행동을 보일 가능성이 낮아진다"며 "응답 구분이 어려워져 안전 평가가 더 까다로워질 수 있다"고 지적했다.

2026.10.01 15:18김미정 기자

[AI는 지금] 앤트로픽 "中 GLM-5.3, 클로드급 해킹 능력…안전장치는 쉽게 뚫려"

앤트로픽이 중국 Z.ai(지푸AI)의 최신 오픈웨이트 인공지능(AI) 모델 'GLM-5.3'이 자사 최상위 모델에 근접한 사이버 공격 능력을 갖췄지만 안전장치는 상대적으로 쉽게 무력화될 수 있다고 경고했다. 1일 홍콩 사우스차이나모닝포스트(SCMP)에 따르면 앤트로픽은 최근 GLM-5.3의 사이버 공격 능력과 안전성을 시험한 보고서를 공개했다. 앤트로픽은 GLM-5.3에 실제 공격 과정을 처음부터 끝까지 수행하는 사이버 익스플로잇 과제 410건을 부여했다. GLM-5.3은 이 가운데 50건을 성공시켰다. 앤트로픽의 프론티어 모델 '클로드 미토스 프리뷰'는 같은 평가에서 56건을 성공했다. GLM-5.3은 모델 가중치를 내려받아 수정할 수 있는 오픈웨이트 방식으로 제공되는 반면, 클로드 미토스 프리뷰는 검증된 사용자만 사용할 수 있다. 앤트로픽은 "공격 성능 차이는 크지 않았지만 안전장치에서는 격차가 나타났다"고 설명했다. 실제 시험에서는 간단한 기법만으로도 GLM-5.3의 안전장치를 64~100% 확률로 우회할 수 있었다. 같은 방법을 안전장치가 적용된 클로드 모델에 사용했을 때는 우회에 성공하지 못했다. 연구진은 모델 내부 가중치 행렬을 수정해 유해한 요청을 거부하는 성향을 낮추는 '어블리터레이션(abliteration)' 기법도 적용했다. 그래픽처리장치(GPU) 2200개를 1시간 가동한 것과 맞먹는 연산량을 투입한 결과, 3개 안전성 평가에서 90%를 넘던 GLM-5.3의 거부율은 2~12%까지 떨어졌다. 안전장치를 약화하는 데 필요한 비용도 높지 않았다. 앤트로픽은 이번 실험에 약 4400달러가 들었으며 숙련된 팀이라면 약 1200달러 수준에서도 비슷한 작업이 가능할 것으로 추산했다. 사이버 공격 능력이 높은 모델의 안전장치를 비교적 적은 비용으로 제거할 수 있다는 점을 위험 요소로 본 것이다. 이를 두고 Z.ai는 자사 모델의 사이버 역량이 공격뿐 아니라 방어에도 활용되고 있다며 맞섰다. 지난 7월 개발자 플랫폼 허깅페이스는 오픈AI 모델에 의한 자율적 침입 사고를 조사하고 대응하는 과정에서 GLM-5.2를 활용했다. 당시 클로드는 안전장치 때문에 일부 보안 작업 수행을 거부했다. GLM-5.3의 사이버 역량은 미국에서도 높은 수준으로 평가받고 있다. 미국 AI 표준·혁신센터는 최근 이 모델을 현재까지 공개된 오픈웨이트 모델 가운데 사이버 역량이 가장 높은 모델로 평가했다. 종합 사이버 보안 평가에서는 미국 최상위 모델보다 약 4개월 뒤처진 것으로 추산했다. Z.ai도 모델 공개 과정에서 안전성 검증에 시간을 들였다. 회사는 지난 8월 GLM-5.3을 출시한 뒤 추가 안전성 시험과 보강 작업을 위해 모델 가중치 공개를 2주 늦췄다. 다만 강력한 사이버 기능을 갖춘 모델을 누구나 내려받아 수정할 수 있다는 점은 오픈웨이트 모델의 공개 범위를 둘러싼 논쟁으로 이어지고 있다. 앤트로픽은 고성능 AI 모델에 대한 접근 통제를 강화해야 한다는 입장인 반면, 메타와 엔비디아 등은 개방형 모델이 기술 혁신을 촉진하고 AI 경쟁력을 높이는 데 도움이 된다고 주장하고 있다. Z.ai는 "사이버 역량의 위험성만 볼 것이 아니라 실제 보안 현장에서의 활용도 함께 봐야 한다"며 "우리 모델은 이미 389개 오픈소스 프로젝트를 방어하는 데 활용됐고, 지금까지 4249건의 잠재적 취약점을 찾아냈다"고 밝혔다.

2026.10.01 12:00장유미 기자

  Prev 1 2 3 4 5 6 7 8 9 10 Next  

지금 뜨는 기사

이시각 헤드라인

'출시 코앞' 아이폰 듀오, 닛토보 'T-글래스' 확보 변수 부상

조항목 NS홈쇼핑 "홈플러스 익스프레스와 신선식품 유통 새 기준 세울 것"

"우리 아이들은 실험용 쥐가 아니다"…AI 활용의 덫

중국 손잡는 유럽車…뒤집힌 자동차 기술 주도권

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.