ZDNet 검색 페이지

'앤트로픽'통합검색 결과 입니다. (562건)

미중 정상회담 D-1…AI 개발 속도·안전관리 접점 찾을까

미국과 중국이 정상회담을 하루 앞두고 인공지능(AI) 개발 속도와 안전관리가 주요 의제로 다뤄질 것이란 분석이 나오고 있다. 업계에서는 AI 주도권 경쟁을 이어가는 두 국가가 이번 회담을 통해 안전관리와 사고 대응을 위한 구체적인 협력 방안을 마련할지 주목하고 있다. 23일 백악관과 외신에 따르면 도널드 트럼프 미국 대통령과 시진핑 중국 국가주석은 24일(현지시간) 워싱턴 백악관에서 회담을 진행한다. 이번 회담에서는 무역, 관세 등 통상 현안뿐 아니라 AI 개발 속도와 안전관리 문제가 의제로 다뤄질 것으로 예상되고 있다. 현재 트럼프 대통령은 미국의 AI 경쟁 우위를 지키기 위해 개발을 이어가야 한다는 입장이다. 그는 지난 13일 아일랜드에서 AI 산업 감속이나 규제 필요성을 묻는 질문에 "미국이 중국을 앞서고 있다"며 "AI에서 이기는 쪽이 승리한다"고 밝혔다. 그는 회담 이틀 전인 22일 유엔총회(UN) 연설에서도 AI에 대한 국제적 통제 구상을 거부한다고 말했다. 국제적 통제보다 자국의 AI 개발을 우선한다는 기조를 재확인한 셈이다. 미국 AI 업계에서는 안전 역량이 기술 발전을 따라갈 시간을 확보해야 한다는 주장이 나오고 있다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 이달 공개한 기고문에서 AI 모델 능력 향상 속도를 늦춰야 한다고 주장했다. AI가 다음 세대 AI 개발에 쓰이면서 능력 향상 속도가 인간의 이해와 통제를 앞지를 수 있다고 경고했다. 아모데이 CEO는 외부 평가자의 기업 내 상주, 공통 안전기준 마련, 중국을 포함한 국제 협력을 제안했다. 모델 훈련을 이어가면서 기업이 안전조치를 마련하고 제3자가 이를 검증할 시간을 확보하자는 취지다. 다만 그는 미국과 동맹국의 AI 우위를 유지해야 한다며 중국에 대한 첨단 AI칩·반도체 제조장비 수출통제도 주장했다. 안전 협력과 기술 경쟁을 모두 잡자는 설명이다. 현재 미국 의회 일각에서는 더 강한 조치를 요구하고 있다. 크리스 밴홀런 의원 등 민주당 상원의원 17명은 23일 트럼프 대통령에게 보낸 서한에서 시 주석과 첨단 AI 개발·시험·사용에 관한 안전장치와 국제 기준을 협의하라고 촉구했다. 사이버공격과 생물무기 개발 등 위험을 막기 위해 양국이 개발 속도를 늦추고 상호 일시정지까지 검토하는 공식 합의를 추진하라는 요구도 이어지고 있다. 中, 개발·안전 병행 강조…자국 위협론에는 반발 중국은 AI 혁신과 산업 활용을 확대하면서도 위험관리를 병행해야 한다는 입장을 내놓고 있다. 시 주석은 지난 7월 17일 상하이 세계인공지능대회 기조연설에서 AI 기술 혁신과 산업 발전, 활용 확대를 강조했다. 동시에 위험 조기경보와 긴급대응 체계를 마련하고 AI가 항상 인간 통제 아래 있도록 해야 한다고 밝혔다. 중국 당국은 이달 14일 'AI 안전 거버넌스 프레임워크 3.0'도 발표했다. AI 위험을 분류하고 기술적 대응과 관리 방안을 마련하는 틀을 갱신하기 위한 조치다. 이를 통해 안전성과 통제 가능성을 확보해야 한다는 원칙을 재확인했다. 중국은 AI 안전 논의에 자국을 겨냥한 기술 견제가 포함되는 데 반발하고 있다. 궈자쿤 중국 외교부 대변인은 아모데이 CEO 등의 주장에 대한 질문에 "위협 담론과 대립, 악성 경쟁은 글로벌 AI 거버넌스를 방해한다"며 "AI 발전은 인류 공동의 복지와 관련된 만큼 개방성과 포용성을 높여야 한다"고 입장을 밝혔다. 두 국가가 이번 정상회담을 통해 성과를 보려면 어떤 AI 사고를 상대국에 통보할지, 정보를 어디까지 공유할지, 안전조치 이행을 어떻게 확인할지를 살펴볼 필요가 있다는 제안이 나오고 있다. 크리스토퍼 콜린스 미국 전략국제문제연구소(CSIS) 연구원은 지난 21일 보고서에서 공통 정의와 사고 보고 채널, 기본적인 안전시험 절차 등 범위를 좁힌 의제에 집중할 것을 제안했다. AI 안전 협의가 대중국 기술통제 완화로까지 이어질지는 불확실하다. 제이미슨 그리어 미국 무역대표부(USTR) 대표는 지난 20일 진행된 AI 실무협의에서 "첨단 AI칩과 반도체 제조장비의 수출통제 문제는 다뤄지지 않았다"며 "양국 실무대화가 곧바로 대중국 기술통제 완화로 이어진 것은 아닐 것"이라고 밝혔다.

2026.09.24 10:16김미정 기자

오픈AI·앤트로픽 CEO, UN 안보리서 AI 안전 규범 촉구

샘 알트먼 오픈AI 최고경영자(CEO)와 다리오 아모데이 앤트로픽 CEO가 인공지능(AI)의 잠재적 위험에 대응하기 위한 국제 공조를 촉구했다. 경쟁 관계에 있는 두 AI 기업 수장이 유엔 안전보장이사회에 함께 참석해 AI 안전 문제를 논의한 것은 이례적이다. 24일 두 CEO는 유엔 총회가 열린 미국 뉴욕에서 개최된 안보리 회의에 참석해 AI 시스템이 자체적으로 성능을 개선하고 인간의 통제 역량을 넘어설 가능성에 대비해야 한다고 강조했다. 정부와 기업이 AI의 미래를 좌우할 핵심 결정 과정에 공동으로 참여해야 한다는 주장이다. 샘 알트먼 CEO는 "서로 경쟁하고 때로는 관계가 좋지 않은 국가들도 강력한 신기술 앞에서 공동의 이익과 공공선을 위해 협력한 사례가 있다"며 "AI 역시 그런 경우가 되어야 한다"고 말했다. 이어 AI 개발 속도를 늦춰야 한다는 주장과 위험을 과소평가하는 견해 사이에서 현실적 접근이 필요하다고 밝혔다. 그는 AI 관련 사고를 신속히 보고하고, 국제 사회가 안전장치와 감독 기준에 합의해야 한다고 강조했다. 샘 알트먼 CEO는 "무엇이 좋은 증거이고, 좋은 안전장치이며, 좋은 감독인지 세계 무대에서 합의할 수 있다면 모두에게 더 나은 결과가 될 것"이라며 "우리가 모든 답을 알고 있는 것은 아니며, 더 나은 아이디어를 받아들일 준비가 돼 있다"고 말했다. 다리오 아모데이 CEO는 화상 발언을 통해 AI가 과학과 의료 분야에 상당한 혜택을 가져올 수 있지만, 동시에 재앙적 결과를 초래할 위험도 있다고 지적했다. 그는 테러 조직이 AI를 활용해 치명적 생물무기를 개발할 가능성과 AI 모델이 개발자의 통제 범위를 벗어날 가능성을 언급하며 국제 안전 기준 마련을 촉구했다. 다리오 아모데이 CEO는 "이 자리에 있는 사람들이 가진 차이에도 불구하고, 우리는 동시에 제시된 세계적 기회와 위협에 맞서기 위해 차이를 넘어야 한다"며 "어떤 지도자나 기업, 국가도 이를 혼자 관리할 수 없다"고 말했다. AI의 실존적 위험을 둘러싼 논쟁은 최근 더 확산되고 있다. 다리오 아모데이 CEO는 이달 초 공개한 장문의 글에서 가장 고도화된 AI 시스템의 개발 속도를 조절하고, 연구자들이 잠재적 위협을 충분히 파악할 시간을 확보해야 한다고 주장했다. 이 견해는 샘 알트먼 CEO와 일론 머스크 등의 지지를 받았으며 미국 의회 내 AI 안전 규제 논의에도 영향을 미쳤다. 안토니우 구테흐스 유엔 사무총장도 개회사에서 최첨단 AI 모델인 프런티어 AI를 둘러싼 국가 간 협력 필요성을 강조했다. 그는 국제적 조율과 안전 기준 마련을 지원하는 데 유엔이 역할을 할 수 있다고 밝혔다. 미중 정상회담을 앞두고 열린 이번 회의에서는 AI를 둘러싼 국제 경쟁과 협력 문제도 부각됐다. 미국과 중국은 AI 분야의 세계적 주도권을 놓고 경쟁하는 동시에, 양국 간 AI 대화 채널을 구축하는 방안을 논의해 온 것으로 알려졌다. AI 안전과 규제, 경제적 파급효과는 정상회담의 주요 의제 중 하나가 될 전망이다. 이번 회의에는 조슈아 벤지오 몬트리올대 교수도 유엔 독립 국제 AI 과학패널 공동의장 자격으로 회의에 참석했다. 벤지오 교수는 AI의 급속한 고도화가 국제 평화와 안보에 미칠 영향을 점검하고, 과학적 근거에 기반한 국제 거버넌스 체계를 마련해야 한다는 필요성을 제기했다. 오픈소스 AI 플랫폼 허깅페이스의 클레망 들랑그 CEO도 참석해 AI 에이전트 공격을 받은 사례를 소개하면서도 개별 사고를 이유로 공포 중심의 대응에 나서서는 안 된다고 경고했다. 클레망 들랑그 CEO는 "공포에 기반한 서사는 이처럼 근본적이고 역량을 강화하는 기술의 미래에 대한 올바른 결정을 내리거나 대중의 동의를 얻는 방법이 아니다"라며 "우리는 AI의 공격을 받았지만 더 중요하게는 AI로 방어했다"고 말했다.

2026.09.24 09:14남혁우 기자

젠슨 황 "통제할 수 없는 AI는 출시하지 말아야"

젠슨 황 엔비디아 CEO가 최근 주요 AI 기업을 중심으로 제기된 AI 개발 속도 조절론에 대해 "개발 자체를 늦추기보다 기업들이 통제할 수 없는 AI 시스템을 출시하지 않는 것이 중요하다"고 발언했다. 젠슨 황 CEO는 23일(현지시간) 공개된 뉴욕타임스 팟캐스트 '에즈라 클라인 쇼'에서 "AI 연구소들이 안전성을 확보하지 못한 시스템을 개발했다면 제품을 시장에 내놓지 않아야 한다"고 말했다. 그는 AI 안전 문제를 모델의 정렬, 격리, 평가와 검증 등의 기술적 문제로 접근해야 한다고 강조했다. AI 기업들이 제품의 안전성을 확신할 수 없다면 출시를 미루고, 개발 과정에서 충분한 테스트와 평가를 진행해야 한다는 것이다. 젠슨 황 CEO는 외부 안전 감사와 제3자 평가 자체에는 긍정적인 입장을 보이면서도, AI 개발 속도 자체를 제한하는 광범위한 규제에는 반대하는 입장을 밝혔다. 이 같은 주장은 최근 앤트로픽을 시작으로 일부 AI 기업들이 제기한 '속도 조절론'과 차이가 있다. 다리오 아모데이 앤트로픽 CEO는 "AI 모델의 역량 발전 속도가 안전장치 마련보다 빨라질 수 있다"고 우려하며, 개발 속도를 늦추고 독립적인 평가기관을 도입하자고 제안했다. 샘 올트먼 오픈AI CEO와 다리오 아모데이 앤트로픽 CEO는 23일 미국 뉴욕에서 UN 안보리 회의에 참석해 "AI 시스템이 자체적으로 성능을 개선하고 인간의 통제 역량을 넘어설 가능성에 대비해야 한다"며 국제 공조를 촉구하기도 했다. 반면 젠슨 황 CEO는 "최고경영자와 이사회가 출시 여부를 결정할 권한과 책임을 갖고 있으며, 안전성에 문제가 있다고 판단하면 제품을 출시하지 않을 수 있다"고 설명했다. 프론티어 AI 모델 개발사들에 이어 AI 생태계의 핵심 축인 엔비디아까지 입장을 내놓으면서, AI 개발 속도와 안전성 확보 사이의 균형을 둘러싼 논쟁은 한층 더 거세질 것으로 보인다.

2026.09.24 09:07권봉석 기자

제 2의 유전자 가위 발견?...앤트로픽 클로드, 새 효소 시스템 발견

앤트로픽이 AI 모델 클로드를 활용해 유전자 가위로 불리는 크리스퍼(CRISPR)와 구조적으로 닮은 새로운 효소 시스템 후보를 찾아냈다. 정확한 기능과 생명공학적 활용 가능성은 아직 확인되지 않았지만, 앤트로픽은 이 시스템이 향후 새로운 유전자 편집 도구로 발전할 가능성에 기대를 나타냈다. 앤트로픽은 23일 공식 블로그를 통해 내부 생명과학 연구팀과 실험실의 첫 연구 성과로 배열 연관 역전사효소(ART) 시스템을 발표했다. ART 시스템은 주로 박테리오파지에서 발견되는 역전사효소(RT) 유전자와 그 주변에 길게 이어진 반복 DNA 배열로 구성된다. 이 반복 DNA 배열은 크리스퍼 시스템의 반복 서열과 유사한 특징을 보인다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 엑스(X)를 통해 ART의 배열 구조가 크리스퍼를 비롯해 DNA를 자르고 복사하거나 삽입하는 일부 시스템과 유사한 특성을 지닌다고 설명했다. ART 시스템은 앤트로픽 연구진이 클로드를 이용해 대규모 DNA 서열 데이터베이스에서 새로운 역전사효소(RT) 사례를 찾는 과정에서 발견됐다. 역전사효소는 RNA를 DNA로 복사하는 효소다. 최근 세균의 면역체계에서 다양한 유형의 역전사효소가 발견되면서 학계의 주목을 받고 있다. 연구는 약 950개의 클로드 에이전트가 21시간 동안 2억1000만 토큰을 사용해 데이터를 탐색하는 방식으로 진행됐다. AI 에이전트는 20만개 이상의 역전사효소를 수집한 뒤 3500개의 신규 후보 시스템을 추렸고, 이를 다시 가장 유력한 20개로 압축했다. 이후 연구자가 검토할 수 있는 보고서도 작성했다. 아모데이 CEO는 전문 과학자에게 수주에서 수개월이 걸릴 수 있는 작업을 클로드가 하루 만에 수행했다고 설명했다. 탐색 과정에서는 한 에이전트가 특이한 역전사효소 유전자 주변의 DNA를 분석하다 일정한 간격으로 반복되는 서열 배열을 포착했다. 에이전트는 반복 서열의 개수와 간격을 측정하고 기존 시스템과 구조를 비교했다. 선행 문헌 검색을 거쳐 새로운 생물학적 시스템 후보라는 판단을 담은 보고서를 제출했다. 앤트로픽에 따르면 이런 특징의 조합은 지금까지 소수 시스템에서만 발견됐다. 이들 시스템은 프로그래밍이 가능하고 DNA 절단, 복사, 삽입 기능과 관련된 것으로 알려졌다. 다만 ART의 기반이 된 역전사효소 자체는 선행 연구에서 이미 확인된 바 있다. 클로드는 이 효소와 연결된 반복 배열 및 부속 단백질을 새롭게 포착한 것으로 앤트로픽은 보고 있다. 앤트로픽은 ART의 주요 기능을 규명하기 위한 실험을 진행 중이라고 밝혔다. ART가 크리스퍼처럼 실제 유전자 편집 도구로 활용될 수 있을지를 판단하려면 상당한 추가 연구가 필요하다는 설명이다. 외부 전문가도 관심을 보였다. 크리스퍼 유전체 편집 기술의 개척자 중 한 명인 펑 장 MIT·브로드연구소 교수는 프리프린트를 검토한 뒤 "AI 에이전트가 생물학적 발견에 기여할 수 있음을 보여주는 흥미로운 사례"라며 "역전사효소와 연관된 RNA 반복 배열의 발견은 진정으로 흥미롭고 추가 연구가 필요하다"고 평가했다. 앤트로픽은 앞으로 생명과학 연구팀을 확대하는 한편 외부 과학자와 협력도 강화할 계획이다. 이번 연구에서 활용한 AI 기반 탐색 방식을 유전체학을 비롯한 다양한 생명과학 분야로 확장한다는 구상이다. 아모데이 CEO는 "새로운 유전자 편집 메커니즘일 수 있다고 본다"면서도 "정확한 기능과 생명공학적 활용 가능성, 중요도는 아직 분명하지 않다"고 밝혔다. 이어 "최소한 내가 박사과정 학생이었다면 자랑스러워했을 연구"라고 덧붙였다.

2026.09.24 08:50남혁우 기자

[AI는 지금] 속도조절론 속 쏟아진 신모델…AI 3사 승부처는

인공지능(AI) 개발 속도를 둘러싼 논쟁이 커지는 가운데 글로벌 AI 기업 3곳이 이틀 사이 신모델을 잇따라 공개했다. 앤트로픽과 오픈AI, 스페이스XAI는 나란히 성능을 높이면서도 안전성과 비용 효율, 에이전트 역량에 각각 무게를 뒀다. 22일(현지시간) 오픈AI는 'GPT-6 솔·루나', 앤트로픽은 '클로드 오퍼스 5.5'를 각각 공개했다. 하루 전인 21일에는 스페이스XAI가 '그록 4.7'을 선보였다. 같은 시기에 나왔지만 각사가 택한 전략은 달랐다. 앤트로픽은 외부 평가와 행동 감사 등 안전 검증을 강화했다. 오픈AI는 GPT-6 아스트라에서 확보한 기술을 더 빠르고 저렴한 솔·루나로 가져왔고 스페이스XAI는 복잡한 작업을 장시간 수행하고 결과를 스스로 확인하는 능력을 키웠다. 성능 경쟁에서는 오퍼스 5.5가 앞섰다. 글로벌 AI 평가기관 아티피셜 애널리시스의 종합 성능 지표(AAII)에서 최고 설정 기준 오퍼스 5.5는 58점을 기록했다. GPT-6 솔은 48점, 그록 4.7은 46점이었다. 다만 오픈AI와 스페이스XAI는 각각 비용 효율과 장시간 에이전트 업무를 주요 경쟁력으로 강조했다. 최근 AI 개발 속도를 조절해야 한다는 주장에는 세 회사 수장 모두 공감을 나타냈다. 다만 실제 안전 대응은 검증 방식과 적용 강도에서 차이가 있었다. 속도조절 필요성을 제기한 앤트로픽은 오퍼스 5.5를 외부 기관에 사전 평가받고 약 2000개 상황을 대상으로 행동 감사를 진행했다. 오픈AI는 솔·루나가 자사 최고 위험 단계에는 이르지 않았다고 판단해 기존 GPT-5.6 솔·루나와 같은 안전장치를 적용했다. 스페이스XAI는 그록 4.7에 새로운 안전체계를 도입했지만 공식 발표에는 외부 기관의 사전 평가나 개발 속도를 늦춘 조치에 대한 내용은 포함되지 않았다. 앤트로픽은 '안전'…외부 검증·고위험 작업 제한 앤트로픽은 오퍼스 5.5에서 외부 검증과 고위험 작업 통제를 강화했다. 회사는 이를 프런티어 AI 개발 속도조절을 제안한 이후 처음 공개한 모델이라고 소개했다. 출시 전에는 미국 비영리 AI 평가기관 모델평가위협연구소(METR)와 프런티어 디자인 등 외부 기관의 평가를 받았다. 내부에서도 모델이 위험하거나 의도하지 않은 행동을 보이는지 자동으로 점검했다. 통제 범위를 벗어나려는 행동도 따로 살폈다. 오퍼스 5.5가 정해진 경계를 우회하려 한 빈도는 기존 오퍼스 5와 미토스 5.1보다 약 85% 낮았다. 확인된 시도는 모두 심각도가 낮았으며 모델이 스스로 이를 보고했다고 회사 측은 설명했다. 악용 가능성이 큰 분야에는 사용 제한을 뒀다. 대부분의 사이버보안 작업은 이전 모델인 오퍼스 4.8이 처리하도록 했으며 일부 생물학 관련 고위험 기능에는 이용자 검증 절차를 적용했다. 성능과 비용도 개선됐다. 초기 평가자가 20만줄 규모의 프로그램 코드를 점검하고 오류를 수정하도록 하자 오퍼스 5.5는 3시간 안에 작업을 마쳤다. 기존 오퍼스 5는 같은 작업에 20시간 이상 걸렸다. 일반적인 작업 비용은 40% 낮아졌고 출력 속도는 30% 이상 빨라졌다. 안전 평가의 한계도 확인됐다. 오퍼스 5.5가 일부 상황에서 자신이 시험받고 있다는 사실을 의심하는 징후를 보였기 때문이다. 앤트로픽은 "모델을 배포하기 전에 모든 실패 가능성을 평가로 찾아내는 방법은 아직 해결되지 않았다"고 설명했다. 오픈AI는 '효율'…아스트라 기술 더 싸게 오픈AI는 아스트라에서 확보한 기술을 더 낮은 비용의 솔과 루나로 가져왔다. 최상위 모델의 성능을 최고가 제품에만 두기보다 작업 난도와 비용에 따라 선택할 수 있도록 GPT-6 제품군을 세분화했다. 솔은 복잡한 코딩과 에이전트 업무처럼 높은 성능이 필요한 작업을 겨냥한다. 루나는 빠른 응답과 낮은 비용이 중요한 대량 작업에 초점을 맞췄다. 오픈AI는 루나를 자사 모델 가운데 가장 빠르고 비용 효율적인 모델로 소개했다. 가격은 GPT-5.6 솔·루나의 프로모션 가격보다 50% 낮췄다. 솔은 입력 토큰 100만개당 2달러, 출력 10달러이며 루나는 각각 0.1달러와 0.5달러다. 안전 대응에서는 기존 체계를 유지했다. 오픈AI는 솔과 루나를 사이버보안과 생물·화학 분야에서 '높은 수준'으로 분류했지만 아스트라가 도달한 사이버보안 '중대한 수준'에는 미치지 않는다고 평가했다. 이에 따라 GPT-5.6 솔·루나와 같은 수준의 안전장치를 적용했다. 아스트라에서 개발한 정렬 기술은 새 모델에도 적용했다. 오픈AI는 솔과 루나가 GPT-5.6 계열보다 탈옥 공격에 대한 저항성과 정렬 평가에서 개선된 결과를 보였다고 밝혔다. 오픈AI는 위험이 일정 수준에 접근하면 실제 개발 속도를 늦춘 경험도 있다. 지난달 아스트라가 중대한 수준의 사이버보안 능력에 도달할 가능성이 나타나자 배포 예정 모델의 강화학습을 2주간 중단했다. 최대 규모의 프런티어 강화학습도 보류하고 보안과 모니터링 체계를 보강했다. 스페이스XAI는 '에이전트'…수시간짜리 업무까지 겨냥 스페이스XAI는 그록 4.7의 장시간 업무 수행과 자기 검증 능력을 강화했다. 기존 그록 4.6보다 큰 기반 모델을 사용하고 강화학습 기간을 늘려 수시간이 걸리는 문제의 학습 비중을 높였다. 모델은 긴 작업을 이어가면서 앞서 내린 판단과 결과를 다시 확인하도록 훈련됐다. 긴 맥락을 관리하는 능력도 높여 코딩뿐 아니라 문서 작성과 전문 지식 업무처럼 여러 단계를 거치는 작업을 겨냥했다. 외부 평가에서도 에이전트 업무 성능이 높아졌다. 아티피셜 애널리시스의 장기 지식 업무 평가 'AA 브리프케이스'에서 그록 4.7은 1657점을 기록해 그록 4.6보다 111점 높았다. 코딩 에이전트 지표도 9점 오른 56점을 기록했다. 가격은 입력 토큰 100만개당 2달러, 출력은 6달러부터 시작한다. 출력 속도를 두 배 높인 별도 모델도 제공한다. 안전 측면에서는 새로운 안전체계를 적용했다. 스페이스XAI는 자체 사이버보안 평가 '해커벤치 0.3'에서 위험한 이중용도 요청 가운데 3.3%만 허용했으며 자사가 평가한 모델 가운데 탈옥 공격 저항성이 가장 높았다고 밝혔다. 머스크도 최근 AI 개발 속도를 늦출 필요성에 공감을 나타냈다. 다만 이번 그록 4.7 공식 발표에서는 개발 속도를 낮추거나 외부 기관의 사전 평가를 받았다는 내용은 공개되지 않았다. 스페이스XAI는 "그록 4.7은 어려운 작업을 더 오래 수행하고 자신의 작업을 더 꼼꼼히 확인할 수 있다"며 "지금까지 가장 잘 조정된 안전장치를 갖췄다"고 밝혔다.

2026.09.23 14:37김동원 기자

"AI 안전성 평가, 개발사에만 맡겨선 안 돼"… 페이페이 리, 외부 검증 체계 촉구

페이페이 리 스탠퍼드대 교수 겸 월드랩스 공동창업자가 고도화되는 인공지능(AI) 시스템 안전성 평가를 개발 기업에만 맡겨서는 안 된다고 지적했다. 독립 기관과 학계, 정부 등 공공 부문이 함께 참여하는 감독 체계와 공통 평가 기준도 마련해야 한다고 강조했다. 페이페이 리 교수는 22일(현지시간) 블룸버그와의 인터뷰에서 AI 기업 내부 연구진이 개별 모델의 성능과 보안 특성을 평가할 수는 있지만 정부, 산업계, 학계가 공동으로 마련하는 폭넓은 기준을 대체할 수는 없다고 말했다. 페이페이 리 교수는 "독립 기관과 학계 등 공공 부문이 마련하는 벤치마크의 중요성을 계속 믿는다"며 "산업계와 정부 역시 함께 책임을 나눠야 한다"고 밝혔다. 페이페이 리 교수가 공동 설립한 월드 랩스는 3차원 환경을 생성하고 재구성하는 이른바 '월드모델'을 개발하고 있다. 이 기술은 로봇 훈련과 평가에 활용될 수 있으며 디자인과 헬스케어를 비롯한 다양한 산업 분야에도 적용될 수 있을 것으로 주목 받고 있다. 최근 AI 기술이 인간의 통제를 벗어날 수 있다는 업계의 경고가 이어지면서 초고성능 AI가 초래할 수 있는 위험을 둘러싼 우려도 커지고 있다. 다리오 아모데이 앤트로픽 최고경영자(CEO)와 샘 알트먼 오픈AI CEO는 최근 최첨단 AI 모델의 개발 속도를 조절할 필요가 있다고 주장했다. 반면 앤드류 응 스탠퍼드대 교수는 AI가 인류를 멸종시킬 수 있다는 일각의 경고에 대해 "공상과학에 가깝다"며 비판적인 견해를 밝혔다. 앤드류 응 교수는 "AI 발전에 위험이 전혀 없다는 뜻은 아니다"라면서도 "업계와 정책 당국이 인류 멸종과 같은 가설적 위험에 매몰되기보다 사이버보안 악용 등 현재 확인 가능한 문제 해결에 집중해야 한다"고 주장했다. 이어 "AI 기업은 인류 멸종과 같은 불확실한 미래 시나리오를 앞세우기보다 기술을 개선하고 안전하게 만들기 위한 현실적 과제에 역량을 집중해야 한다"며 "AI가 할 수 있는 수많은 훌륭한 일에 활용될 수 있도록 해야 한다"고 강조했다. AI에 대한 엇갈린 의견 속에서 페이페이 리 교수는 AI가 인류에게 실존적 위협이 될지 여부는 인간이 이 기술을 어떻게 개발하고 통제하며 활용하느냐에 달려 있다고 설명했다. 전기와 증기기관, 현대 교통수단 등 과거의 주요 기술 역시 사회가 기술적 편익과 인간의 안전 사이에서 균형을 모색해야 했다는 점에서 AI와 유사하다는 것이다. AI 위험성을 어느 수준까지 심각하게 받아들여야 하는지를 놓고 정책 당국과 AI 업계 리더들의 논쟁도 격화하고 있다. 도널드 트럼프 미국 대통령은 유엔 총회 연설에서 AI의 실존적 위협에 대한 우려를 '사기'라고 일축하며 기술 개발을 최대 속도로 이어가야 한다고 주장했다. 페이페이 리 교수는 AI 기술이 현실 세계로 빠르게 확산하는 상황에서 핵심 과제는 더욱 분명해지고 있다고 진단했다. 갈수록 강력해지는 AI를 어떤 기준으로 평가하고, 시스템이 의도한 대로 작동하는지를 누가 검증할 것인지가 산업 전반의 공통 과제로 떠오르고 있다는 것이다. 그는 "AI는 AI 자체에 관한 문제가 아니라 인간에 관한 문제"라며 "우리의 공동체적·개인적 존엄성과 주체성, 그리고 책임에 관한 문제"라고 말했다.

2026.09.23 09:47남혁우 기자

[AI는 지금] AI 속도조절 꺼낸 앤트로픽, 성능·안전 높인 '오퍼스 5.5' 공개

앤트로픽이 인공지능(AI) 개발 속도조절론을 제안한 뒤 처음으로 새로운 모델을 선보였다. 성능을 높이면서 외부 평가와 통제 장치를 강화해 안전성도 함께 끌어올렸다. 앤트로픽은 22일(현지시간) 자사 블로그를 통해 '클로드 오퍼스 5.5'를 공개했다. 코딩과 컴퓨터 사용, 지식 업무 능력을 강화하면서 기존 오퍼스 5보다 일반적인 작업 비용은 40% 낮추고 출력 속도는 30% 이상 높였다. 성능 개선은 실제 작업에서도 확인됐다. 앤트로픽에 따르면 초기 평가자가 20만 줄 규모 프로그램 코드를 점검하고 오류를 수정하도록 하자 오퍼스 5.5는 3시간 안에 작업을 마쳤다. 기존 오퍼스 5는 같은 작업에 20시간 이상이 걸렸다. 전문적인 코딩 평가에서도 성능 향상이 나타났다. AI가 컴퓨터에서 직접 명령을 실행하며 문제를 해결하는 능력을 평가하는 '터미널-벤치 4.0'에서 오퍼스 5.5는 66.4%를 기록했다. 앤트로픽이 공개한 자료에서 오픈AI 'GPT-6 아스트라'는 57.9%, 기존 오퍼스 5는 52.3%였다. 앤트로픽은 다만 이런 점수만으로 모델의 우열을 판단하기는 어렵다고 설명했다. 모델 성능이 높아질수록 벤치마크의 작은 점수 차이가 실제 사용 환경에서 그대로 나타나지 않을 수 있어서다. 비용도 낮췄다. 기업이나 개발자가 오퍼스 5.5를 사용할 때 내는 가격은 입력 토큰 100만개당 4달러, 출력 토큰 100만개당 20달러다. 기존 오퍼스 5보다 각각 20% 저렴하다. 앤트로픽은 성능과 비용을 개선하면서 안전장치도 강화했다고 밝혔다. 이번 모델은 출시 전 AI 평가기관인 모델평가위협연구소(METR)와 프런티어 디자인 등 외부 기관의 평가를 거쳤다. 내부에서는 약 2000개 상황을 대상으로 모델이 위험하거나 의도하지 않은 행동을 보이는지 확인하는 자동화 행동 감사도 진행했다. 회사 측은 오퍼스 5.5가 지금까지 평가한 모델 가운데 가장 높은 수준의 안전성을 보였다고 평가했다. 별도 평가에서는 모델이 정해진 통제 경계를 우회하려 한 빈도가 기존 오퍼스 5와 클로드 미토스 5.1보다 약 85% 낮았다. 확인된 우회 시도는 모두 심각도가 낮았으며 모델이 스스로 이를 보고했다. 사이버보안과 생물학처럼 악용 위험이 큰 분야에는 별도 안전장치를 적용했다. 사이버보안 작업 대부분은 이전 모델인 오퍼스 4.8이 처리하도록 했으며 일부 생물학 관련 기능은 검증된 이용자에게만 제공한다. 다만 안전 평가 과정에서는 한계도 드러났다. 오퍼스 5.5는 일부 상황에서 자신이 시험받고 있다는 사실을 눈치챈 듯한 반응을 보였다. 앤트로픽은 평가 환경을 인식한 모델이 실제 사용 환경에서는 다르게 행동할 가능성이 있어 출시 전 평가만으로 모든 문제를 찾아내기는 어렵다고 설명했다. 앤트로픽은 "현재 모델은 기존 안전 관행으로 관리할 수 있는 수준"이라며 "AI 연구를 완전히 자동화할 수 있는 미래 모델에는 더 높은 기준과 공공정책의 더 큰 역할이 필요하다"고 밝혔다.

2026.09.23 09:17김동원 기자

[AI는 지금] 오픈AI 추격에 속도 내는 앤트로픽…'페이블 5.2' 곧 내놓나

오픈AI의 최신 인공지능(AI) 모델 '아스트라'가 기업·개발자 시장에서 빠르게 영향력을 넓히자 앤트로픽이 차세대 모델 출시를 서두르는 정황이 포착됐다. 22일 IT 업계에 따르면 앤트로픽은 기업공개(IPO)를 앞두고 새로운 AI 모델을 출시하는 방안을 내부적으로 논의하고 있는 것으로 전해졌다. 해당 논의는 지난 3일 출시된 오픈AI 'GPT-6 아스트라'가 기업 AI 지출과 개발자 이용량을 빠르게 늘리는 가운데 진행되고 있다. 실제 차기 모델로 추정되는 제품 테스트 정황도 나타났다. 테스팅카탈로그에 따르면 최근 엑스(X) 등 소셜미디어에는 앤트로픽의 미공개 모델 '클로드 페이블 5.2'가 생성한 것으로 추정되는 결과물이 잇따라 공유됐다. 앤트로픽은 해당 모델 테스트 진위여부를 공식적으로 발표하지 않았다. 공개된 사례에서는 페이블 5.2로 추정되는 모델이 외부 이미지 파일이나 플러그인, 서드파티 도구 없이 순수 자바스크립트만으로 게임과 인터랙티브 애니메이션을 구현했다. 모델이 한 번에 코드를 생성하고 캐릭터 이미지와 움직임까지 직접 구성한 것으로 나타났다. 일부 이용자는 페이블 5.2로 추정되는 모델과 아스트라 성능을 직접 비교하기도 했다. 한 테스터는 동일한 복잡한 프롬프트를 적용한 결과 새로운 페이블 모델이 기존 버전과 크게 다른 결과를 생성했다며 성능이 상당폭 개선됐다고 평했다. 현재 앤트로픽 고성능 모델 '오퍼스' 후속 제품 출시설도 나오고 있다. 테스팅카탈로그는 차기 모델이 '오퍼스 5.5'라는 이름으로 공개될 가능성이 있으며 이르면 이번 주 발표될 수 있다고 밝혔다. 다만 앤트로픽이 내부에서 출시를 논의 중인 신모델과 페이블 5.2 또는 오퍼스 5.5가 같은 제품인지는 확인되지 않았다. 앤트로픽이 신모델 출시를 검토하는 배경에는 아스트라 출시 이후 달라지고 있는 시장 지표가 있는 것으로 풀이된다. 기업 지출 관리 플랫폼 '램프'가 추적하는 기업 AI 지출에서 아스트라가 차지하는 비중은 약 13%로 집계됐다. 앤트로픽 최신 모델 '클로드 페이블'은 약 8%에 그쳤다. 개발자 이용 지표에서도 오픈AI가 앤트로픽을 추월한 것으로 나타났다. 오픈라우터 수치에 따르면 최근 한 주 동안 오픈AI 모델에 대한 지출이 앤트로픽을 넘어섰다. 오픈AI 모델 지출이 오픈라우터에서 앤트로픽을 앞선 것은 2년 반여 만에 처음인 것으로 전해졌다. 이런 흐름은 기업용 AI 시장에서 강점을 보여온 앤트로픽에도 부담으로 작용하고 있다. 잠재적 투자자들 사이에서는 오픈AI가 아스트라를 앞세워 앤트로픽의 기업 고객을 가져갈 가능성이 있는지에 대한 관심도 커지고 있다. 일각에선 대기업 고객이 기존 AI 공급사를 단기간에 바꾸기는 쉽지 않다는 분석도 나온다. 앤트로픽이 이미 기업 고객 기반을 확보하고 있는 데다 대기업은 기존 기술 공급사를 교체하는 데 상당한 시간이 필요하기 때문이다. 현재 페이블 5.2와 오퍼스 5.5의 정확한 모델명과 출시 일정은 아직 확정되지 않았다. 앤트로픽 역시 현재까지 신모델 출시 논의와 관련해 구체적인 입장을 밝히지 않고 있다. 한 개발자는 "동일한 복잡한 프롬프트를 적용했는데 기존 페이블과는 완전히 다른 결과가 나왔다"며 "새 미공개 모델 성능이 크게 개선됐고 아스트라와 비교해도 경쟁력이 있는 수준으로 보였다"고 말했다.

2026.09.22 14:42김미정 기자

[AI는 지금] '속도조절' 앞세운 오픈AI·앤트로픽, 소송 불똥…"서로 AI도 시험"

오픈AI와 앤트로픽이 경쟁사의 인공지능(AI) 모델을 서로 시험해 안전 취약점을 찾아내는 방안을 추진하고 있다. AI 모델이 개발자의 예상에서 벗어난 행동을 보이는 사례가 잇따르자 자체 검증을 넘어 경쟁사가 직접 모델을 시험하는 방식까지 검토하고 나선 것이다. 22일 디인포메이션에 따르면 오픈AI와 앤트로픽은 올해 초 서로의 AI 모델을 대상으로 안전성 테스트를 실시하기 위한 법적 구속력이 있는 계약을 논의했다. 양사와 법률대리인들은 계약 조건을 구체적으로 협의해 합의에 근접했으나 실제 계약이 체결됐는지는 확인되지 않았다. 논의된 방식은 상대 회사가 상용으로 제공하는 AI 모델의 애플리케이션 프로그래밍 인터페이스(API)에 접근해 취약점과 예상하지 못한 행동을 찾는 구조다. 아직 공개되지 않은 모델은 대상에서 제외하고 테스트 과정에서 확보한 상대 회사의 데이터도 보관하지 않는 조건이 포함된 것으로 전해졌다. 양사가 서로의 모델을 평가하는 것은 처음이 아니다. 앞서 오픈AI와 앤트로픽은 지난해 여름 상대 회사 모델을 자사의 안전 평가 체계로 각각 시험하고 결과를 공개했다. 당시 오픈AI는 앤트로픽 모델에서 테스트 과정의 규칙 위반을 인정하지 않는 등 기만적 행동이 상대적으로 많이 나타났다고 평가했다. 앤트로픽은 오픈AI 모델이 현실에서 피해를 일으킬 수 있는 질문에 응답하는 경향이 상대적으로 높았다고 밝혔다. 이번 협의는 AI 모델의 능력이 빠르게 높아지면서 기존 안전검증 방식만으로 예상하지 못한 행동을 찾아내기 어려워지고 있다는 우려 속에서 진행됐다. 특히 AI 에이전트가 인터넷과 외부 애플리케이션을 직접 사용하고 다른 에이전트와 협업할 수 있게 되면서 모델의 행동 범위도 넓어지고 있다. 오픈AI 내부에서도 이런 변화가 감지되고 있다. 디인포메이션에 따르면 오픈AI는 새로운 실험 모델의 훈련 과정을 상당 부분 자동화했다. 연구자가 시험할 내용을 지시하면 AI가 직접 모델을 수정하고 실험을 수행한 뒤 결과까지 확인하는 방식이다. 일부 AI 에이전트는 사용자의 명시적인 지시 없이 다른 직원에게 연락해 발견한 버그를 수정해 달라고 요청하는 등 예상하지 못한 행동을 보인 것으로 전해졌다. 이처럼 안전 우려가 커지면서 경쟁사 간 검증을 확대하자는 주장도 힘을 얻고 있다. 일론 머스크 스페이스XAI 최고경영자(CEO)는 최근 경쟁 AI 기업들이 모델을 상용화하기 전에 서로 안전 취약점을 검사하는 일종의 '동료평가' 방식을 제안했다. 샘 알트먼 오픈AI CEO도 다리오 아모데이 앤트로픽 CEO가 제시한 독립적인 제3자 평가기관의 내부 접근 허용 방안에 동의했다. 오픈AI와 앤트로픽, 구글은 프론티어 AI 모델을 시험하고 감사하는 안전 표준기구 설립 방안도 논의해왔다. 하지만 AI 기업들의 안전 공조가 확대되면서 반독점법과 충돌할 가능성도 제기되고 있다. 실제 미국 소비자 4명은 지난 18일 캘리포니아 북부연방지방법원에 앤트로픽과 오픈AI, 스페이스XAI, 구글을 상대로 반독점 소송을 제기했다. 주요 AI 기업들이 AI 개발 속도를 공동으로 늦추기로 합의했다는 것이 원고 측 주장이다. 원고 측은 개별 기업이 독자적으로 안전 기준을 강화하거나 개발 속도를 늦추는 것 자체는 문제 삼지 않았다. 다만 경쟁 관계인 기업들이 공동으로 모델 개발과 성능 개선 속도를 제한하는 행위가 미국 셔먼법이 금지하는 경쟁 제한 합의에 해당한다는 논리를 펴고 있다. 반면 AI 안전을 위한 공동 연구나 표준 마련은 원전·사이버보안 산업의 안전 협력과 유사하게 볼 수 있다는 반론도 제기되고 있다. 소송을 제기한 변호사 닉 롤리는 성명을 통해 "AI가 인류의 통제를 벗어날 위험에 대비한 안전장치는 필요하지만 세계에서 가장 영향력이 큰 영리 기술기업들의 사적인 합의가 AI 개발 방향을 결정해서는 안 된다"며 "관련 규칙은 정부가 투명한 절차와 공적 책임 아래 마련해야 한다"고 말했다.

2026.09.22 10:35장유미 기자

트럼프-시진핑 만찬, 빅테크 수장들도 모인다

도널드 트럼프 미국 대통령과 시진핑 중국 국가주석의 정상회담을 앞두고 미국 주요 빅테크 수장들이 백악관 국빈 만찬에 집결한다. 이번 정상회담에서 인공지능(AI)이 주요 의제로 다뤄질 것으로 전망되면서 미중 AI 경쟁과 개발 속도·안전성을 둘러싼 논의에도 관심이 쏠린다. 21일(현지시간) 블룸버그 통신에 따르면 사티아 나델라 마이크로소프트(MS) 최고경영자(CEO)는 오는 24일 백악관에서 열리는 시 주석 환영 국빈 만찬에 참석할 예정이다. 앞서 참석이 알려진 팀 쿡 애플 집행의장을 비롯해 젠슨 황 엔비디아 CEO, 샘 알트먼 오픈AI CEO, 크리스티아노 아몬 퀄컴 CEO 등도 함께 할 예정이라고 블룸버그는 전했다. 이번 미중 정상회담에서는 AI가 주요 의제 가운데 하나로 다뤄질 예정이다. 미국 의회에서도 양국 정상이 AI 안전 기준을 논의해야 한다는 요구가 나온 것으로 전해졌다. 정상회담을 앞두고 양국 정부는 AI 관련 별도 대화 채널도 마련하기로 했다. 블룸버그에 따르면 스콧 베선트 미국 재무장관은 중국 측과의 AI·무역·투자 협의를 '매우 성공적'이라고 평가했다. 양측은 또 AI의 목표와 위협에 대한 공통된 이해를 마련하기 위한 대화를 이어가기로 합의했다. 최근 다리오 아모데이 앤트로픽 CEO가 AI의 사이버공격 등 위험성에 따른 'AI 속도조절론'을 주장하면서 업계에서는 개발 속도를 둘러싼 논쟁이 이어지고 있다. 트럼프 대통령은 "AI에서 승리하는 자가 승리한다"며 개발 속도 조절에 부정적인 입장을 보이고 있다. 중국 외교부 역시 일부 미국 빅테크들의 AI 개발 속도 조절 요구를 두고 "공포 조장과 대립은 글로벌 AI 거버넌스를 방해할 뿐"이라고 비판했다.

2026.09.21 18:15이나연 기자

젠슨 황, AI 인류멸망론 반박…"AI 공포 조장, 불필요하고 무책임"

젠슨 황 엔비디아 최고경영자(CEO)가 인공지능(AI)이 인류를 멸망시킬 수 있다는 경고를 근거 없는 주장으로 일축했다. AI 위험을 과장해 대중의 공포를 키우는 대신 안전한 기술 개발에 집중해야 한다고 강조했다. 21일 미국CBS 등 외신에 따르면 황 CEO는 이날 방송된 인터뷰에서 2030년에 세계가 종말을 맞을 확률은 0%라고 주장했다. AI 인류멸망론을 과학적 근거가 부족한 '종말론적 서사'로 규정한 것이다. 최근 AI 업계에서는 기술이 인간 통제에서 벗어날 가능성을 둘러싼 논쟁이 이어지고 있다. AI가 스스로 성능을 높이는 단계에 진입하면 인류 생존까지 위협할 수 있다는 우려다. 앤트로픽 연구원 출신 제이콥 콕슨은 AI의 위험성을 이유로 회사를 떠난 뒤 지난 8일 엑스(X)에 테크 기업들이 통제를 벗어날 수 있는 자가발전형 AI 모델을 앞다퉈 개발하고 있다고 주장했다. 기술자들이 10년 안에 AI가 인류를 모두 없앨 수 있다고 진심으로 믿고 있다는 주장도 내놨다. 다리오 아모데이 앤트로픽 CEO와 샘 알트먼 오픈AI CEO도 AI 개발 속도를 조절할 필요가 있다는 입장을 밝혀왔다. 이는 AI 시스템 구동에 필요한 하드웨어(HW)를 공급하는 황 CEO와 상반된 견해다. 황 CEO는 AI 업계가 제품을 책임감 있게 개발하도록 만드는 것이 엔비디아 이익과도 맞닿아 있다고 강조했다. 빠르게 기술을 개발하더라도 준비되지 않았거나 안전하지 않은 제품을 출시해서는 안 된다는 설명이다. 그는 AI 속도조절론을 제기하는 기업들의 의도에도 물음표를 던졌다. 이들이 새로운 규제를 요구하는 것이 아니라 기존 법률에 따른 책임을 피하려는 것일 수 있다는 지적이다. 앞서 도널드 트럼프 미국 대통령도 지난 14일 로스앤젤레스에서 열린 행사에서 AI 속도조절론을 정치적 의도가 담긴 주장이나 중국의 계략으로 규정했다. 당시 행사 무대에 있던 황 CEO에게 전화해 이를 '사기'라고 비판했고 황 CEO도 이에 동의했다. 황 CEO는 "2030년이 세계의 종말이 되지는 않을 것"이라며 "AI 때문에 세상이 끝날 확률은 0%"라고 말했다.

2026.09.21 17:39김미정 기자

"구글·오픈AI부터 퍼플렉시티까지"…빅테크 AI 거물 한 자리 모인다

생성형 AI를 넘어 '피지컬·에이전틱 AI'로 진화하는 격변의 시기를 맞아, 글로벌 AI 시장을 주도하는 빅테크 핵심 리더들이 서울에 총출동한다. 과학기술정보통신부 'AI 주간(AI Week)'의 공식 행사인 'AI 페스타 26'이 10월 6일부터 8일까지 사흘간 서울 코엑스C홀(3층) 등에서 개최된다. 이번 행사는 단순한 전시를 넘어 세계 최고 수준의 글로벌 빅테크 연사들이 대거 참여하는 컨퍼런스 중심으로 구성돼 글로벌 AI 트렌드와 현 수준을 확인할 수 있는 격 높은 지식 공유의 장이 될 전망이다. 구글·AWS·오픈AI·퍼플렉시티·KT·현대차 등 국내외 최고 전문가 강연 행사 첫날인 6일 오전 메인 무대에서 열리는 'AI 서밋'을 통해 글로벌 리더들의 거시적인 비전이 제시된다. 구글 딥마인드의 로라 아로요 박사가 '글로벌 AI 정렬을 위한 문화 우선적 접근' 주제 기조연설로 포문을 열고, 이어 아마존웹서비스(AWS)의 프레데리코 코스타 APAC AI 정책 총괄이 아태지역 확장을 위한 데이터 거버넌스와 클라우드 전략을 발표한다. 최기영 앤트로픽 코리아 대표와 박상원 KT 전무도 차례로 무대에 올라 프론티어 AI 모델의 변화와 대한민국 AX의 미래를 논의할 예정이다. 둘째 날인 7일에 열리는 '퓨처 테크 컨퍼런스'는 차세대 기술의 현장 적용에 초점을 맞춘다. 특히 '피지컬 AI 및 로보틱스' 세션에서는 오픈AI의 이상현 APAC 글로벌페어스 총괄이 지능이 현실 세계에 구현되는 미래를 조망하고, 현대차그룹 로보틱스랩 주시현 상무와 롯데이노베이트 전시형 센터장이 산업 현장에서 현실이 된 피지컬 AI 혁신 전략을 공유한다. 이어지는 '글로벌 프론티어' 세션에서는 전 세계적인 AI 검색 돌풍의 주역인 퍼플렉시티의 모리타 준 APAC 총괄대표가 에이전틱 미래 구축에 대해 강연한다. 또 케이 주 젠스파크 공동창업자, 셴커 V 셀바두라이 IBM APAC 부사장을 비롯해 유니티 테크놀로지스 코리아 김범주 본부장, 밀라(MILA)의 프레데릭 로랑 파트너십 총괄 등 거물급 연사들이 차세대 생태계를 다각도로 짚어본다. 아울러 디노티시아, 웹케시, 몽고DB, AWS의 전문가들이 차세대 엔터프라이즈 AI를 위한 데이터 인프라와 클라우드 마이그레이션 실전 사례를 상세히 소개할 계획이다. AI 기술, 실제 비즈니스 구현 사례 공유...216개 기업, 501개 부스 꾸려 마지막 날인 8일은 AI 기술의 실제 비즈니스 구현을 살펴보는 'AIR(AI Realization) 쇼케이스'로 채워진다. 퓨처플레이 최재웅 전무가 투자자의 시각에서 바라본 AI 산업화의 분기점을 분석하고, 더존비즈온 지용구 대표와 팀뷰어 김도연 상무가 AI 네이티브 시대의 엔터프라이즈 운영 기준과 자율형 IT 운영의 미래를 제시한다. 또한 모비젠, 아이티센, 지란지교소프트, 아크릴, 딥엑스 등 주요 혁신 기업들이 엔터프라이즈 생산성 혁신 방안을 발표하며, 콴델라코리아는 AI의 미래를 다시 쓰는 양자컴퓨터 기술을 소개해 산업별 실질적인 활용 가이드를 제공할 예정이다. 최고 수준의 강연과 더불어, 전시장에서는 역대 최대 규모인 216개 기업이 501개 부스를 꾸려 AI 기술의 현재를 시연한다. 스폰서로 참여하는 KT와 화웨이를 필두로 삼성SDS, 한컴, 야놀자, 티맥스소프트, NHN클라우드 등 국내외 대표 기업들이 대거 합류했다. 특히 전시장은 ▲AI 파운데이션 모델 ▲피지컬 AI & 로봇 ▲에이전틱 AI + X ▲AI 반도체 ▲국방 AI ▲보안 & 양자 등 총 9개의 테마 특별관으로 세분화돼 대형 AI 모델부터 인프라까지 폭넓은 산업 지형 변화를 한눈에 확인할 수 있다. 조준희 조직위원장·이해민 AI미래기획수석·하정우 국가AI전략위 부위원장, 현장 목소리 청취 행사 첫날(6일) 오후에 마련된 '공식 개막식'과 'AI 산업 정책 토크쇼'는 정부와 산업계가 머리를 맞대는 핵심 자리다. 오후 3시부터 시작되는 개막식은 조준희 AI페스타조직위원장의 개회 선언을 필두로, 이해민 AI미래기획수석의 축사와 송기헌 과방위원장의 영상 축사가 이어진다. 세계적인 AI 석학 요슈아 벤지오 교수 역시 영상을 통해 각별한 축하의 메시지를 전할 예정이다. 주요 VIP들의 전시 투어 이후 오후 4시부터는 '현장의 목소리, 정책에 담다-AI 산업계와 함께 묻고 답하다'라는 주제로 AI 산업 정책 토크쇼가 본격 진행된다. 이 자리에서는 하정우 국가인공지능전략위원회 부위원장이 직접 '국가 AI 산업 정책 및 방향'을 발표하며, 이어 참석자들과 함께 국내 AI 산업 생태계 현안을 논의하는 자유 토론이 생생하게 펼쳐질 계획이다. 글로벌 빅테크 강연과 다채로운 전시, 그리고 국가 차원의 정책 논의까지 결합된 이번 'AI 페스타 26'은 10월 2일 오후 6시까지 공식 홈페이지를 통해 사전 등록을 완료하면 전시 및 일부 컨퍼런스 프로그램에 무료로 참여할 수 있다. 단, AI 서밋과 퓨처 테크 컨퍼런스는 유료 등록 시에만 입장 가능하다.

2026.09.21 16:15백봉삼 기자

"AI 연구, 실제 실험으로"…앤트로픽, 자체 생물학 연구실 운영

앤트로픽이 인공지능(AI)을 활용한 생물학 연구를 실제 실험으로 검증하기 위해 자체 연구실을 운영하고 있는 것으로 확인됐다. 18일(현지시간) 로이터와 테크크런치 등에 따르면 앤트로픽은 미국 샌프란시스코 베이 지역에 생물학 연구실을 두고 실제 실험을 진행하고 있다. 자체 시설에서 연구하면서 외부 기관과의 공동 실험도 병행 중이다. 이 연구실은 생물학적 시료와 장비를 이용해 실제 실험을 하는 '웻랩(Wet Lab)'이다. 컴퓨터로 데이터를 분석하거나 결과를 예측하는 데 그치지 않고 AI를 활용한 연구가 실제 생물학에서도 성립하는지 실험을 통해 확인할 수 있다. 앤트로픽은 자체 연구실에서 구체적으로 어떤 실험을 하고 있는지는 공개하지 않았다. 다만 신약 자체를 개발하기보다는 생명현상이 어떻게 작동하는지 등을 살피는 기초 생물학 연구에 초점을 맞추고 있다고 밝혔다. 이와 별도로 회사는 AI와 실제 실험 장비를 연결하는 연구도 진행 중이다. AI 모델 '클로드'가 로봇 장비를 제어해 사람의 개입을 줄인 상태에서 과학 실험을 수행하도록 하는 연구다. 다만 안전을 위해 사람의 감독과 참여가 필요하다고 설명했다. 생명과학 분야 투자도 늘리고 있다. 앤트로픽은 지난 4월 AI 바이오 기업 '코이피션트 바이오'를 인수했으며 과학 연구를 지원하는 '클로드 사이언스'도 선보였다. 제약업계에서는 이미 클로드 활용이 시작됐다. 로슈의 자회사 제넨텍과 브리스톨마이어스스큅(BMS), 노보 노디스크 등이 앤트로픽의 AI 서비스와 도구를 이용하고 있다. 앤트로픽은 임상시험을 직접 진행하기보다 AI를 이용해 기존 방식으로 풀기 어려웠던 생물학 문제를 연구하는 데 초점을 맞추고 있다. 생물학 연구에 AI를 적용하면서 안전장치도 마련하고 있다. AI가 생물무기 개발에 악용될 가능성을 경고해온 만큼 생명과학 분야의 AI 활용을 확대하면서 악용 위험을 줄이는 조치도 병행 중이다. 에릭 카우더러-에이브럼스 앤트로픽 생명과학 책임자는 "생물학 연구의 최종 검증은 실제 실험을 통해 이뤄지며 이런 방식은 당분간 계속될 것"이라며 "우리도 지금 실제 실험을 진행하고 있다"고 말했다.

2026.09.20 09:39김동원 기자

AI 속도 조절 제안한 앤트로픽, 모델 개발 전 과정 외부 검증

앤트로픽이 인공지능(AI) 개발 속도를 둘러싼 안전 논의를 실제 검증 단계로 옮긴다. 외부 평가자를 회사 내부에 배치해 AI 개발 과정의 안전성을 검증하기로 했다. 앤트로픽은 18일(현지시간) 자사 블로그를 통해 액센츄어와 프런티어 AI 독립 평가를 위한 파트너십을 체결했다고 밝혔다. 액센츄어의 AI 전문 조직 '패컬티'가 직원과 비슷한 수준의 접근 권한을 받아 모델 훈련부터 개발·배포 과정까지 내부에서 평가한다. 모델 평가와 레드팀 테스트를 비롯해 정렬 평가와 안전장치 시험도 맡는다. 액센츄어는 기업과 정부의 AI 도입을 지원해 온 글로벌 컨설팅·기술 서비스 기업이다. AI와 데이터, 사이버보안, 기업 시스템 구축 등의 사업을 수행하고 있다. 현재 120여 개국에서 약 9000개 고객사를 지원하고 있다. 앤트로픽은 액센츄어가 여러 산업에서 AI를 실제 구축해 온 경험을 모델 안전성 평가에 활용할 수 있다고 설명했다. 이번 협력은 최근 앤트로픽이 제기한 AI '속도조절론'의 후속 조치다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 최근 '우리는 프런티어의 속도를 조절해야 한다'는 글에서 외부 평가자를 AI 기업 내부에 배치하는 방안을 제시했다. 앤트로픽은 이번 협력을 당시 약속을 이행하기 위한 중요한 단계로 규정했다. 내재형 평가로 불리는 이 방식은 완성된 모델을 외부에서 시험하는 기존 평가와 달리 AI가 만들어지는 과정부터 살펴본다. 평가자는 모델 훈련 과정과 개발·배포 과정에서 내려지는 결정을 확인하고 회사 직원들과 직접 소통한다. 평가자는 앤트로픽이 AI 안전과 관련해 내건 약속을 실제로 지키는지 확인하고 내부에서 놓친 위험을 찾는다. 사고가 발생하면 이를 보고하고 AI가 가져올 이점과 위험에 대해 외부에 보다 구체적인 정보를 제공하는 역할도 맡는다. 앤트로픽과 액센츄어는 내재형 평가 역량을 구축하기 위해 앞으로 5년간 각각 최소 10억 달러(약 1조3800억원)를 투자할 예정이다. 다만 내재형 평가는 아직 초기 단계여서 운영 기준은 마련되지 않았다. 평가자가 기업 내부의 어떤 정보까지 접근할 수 있는지와 평가 결과를 어떻게 공개할지에 대한 기준도 정해지지 않았다. 평가 비용을 마련하는 방식도 과제로 남아 있다. 이번 액센츄어의 평가 비용은 앤트로픽이 직접 부담하지만 장기적으로는 공동 기금이나 정부 재원을 활용해야 한다는 게 앤트로픽의 입장이다. 앤트로픽은 여러 외부 기관이 함께 AI를 검증하는 체계도 추진한다. 현재 비영리 AI 평가기관 '메트르' 등과 내재형 평가 방식을 시범 적용하는 방안을 논의하고 있으며 앞으로 몇 주 안에 추가 협력 기관을 발표할 예정이다. 액센츄어와의 협력도 독점 계약이 아니어서 다른 AI 개발사도 같은 방식의 평가를 받을 수 있다. 앤트로픽은 "독립적인 내재형 평가자는 우리의 책임을 줄이는 것이 아니라 이를 더 검증 가능하게 만드는 역할을 한다"며 "모델의 안전에 대한 책임은 여전히 우리에게 있다"고 밝혔다.

2026.09.20 09:37김동원 기자

샌프란시스코 AI 호황의 그늘…개발자 감축 가속

인공지능(AI) 기업이 몰려든 샌프란시스코가 다시 호황을 맞고 있지만, 기존 기술 인력의 고용 환경은 오히려 악화하고 있는 것으로 나타났다. 최근 블룸버그는 캘리포니아 고용개발부(EDD) 자료를 분석한 결과 지난 6월까지 12개월간 샌프란시스코 베이 지역 기술업계 고용주들이 1만 4500명 이상 근로자에 대한 해고 통지서를 제출했다고 보도했다. 이는 직전 회계연도보다 거의 두 배로 늘어난 수치다. 앤트로픽과 오픈AI를 비롯한 AI 기업들은 대규모 투자 유치와 고액 연봉을 앞세워 인재 확보 경쟁을 벌이고 있다. 이들 기업의 상장 기대감까지 더해지면서 샌프란시스코가 다시 AI 산업의 중심지로 부상하고 있다는 평가가 나온다. 그러나 AI 산업 성장세가 기술업계 전반의 고용 확대로 이어지지는 않고 있다. 샌프란시스코와 인근 샌마테오 카운티는 최근 12개월간 전체 산업에서 1만개 이상의 일자리를 늘렸지만, 2020년 2월과 비교하면 여전히 6만개 이상의 일자리가 줄어든 상태다. 특히 기술기업이 대거 포함된 정보산업은 최근 12개월 동안 약 2000개 일자리를 잃었다. 같은 기간 고용 회복을 이끈 업종은 민간 교육·보건과 여가·접객업 등으로, AI와 기술산업이 지역 고용을 주도하고 있다고 보기는 어려운 상황이다. 기존 소프트웨어 개발자들이 느끼는 변화는 더욱 뚜렷하다. 노동시장 분석업체 라이트캐스트에 따르면 베이 지역의 소프트웨어 엔지니어 수요는 2022년 이후 42% 감소했다. 반면 AI 관련 정보기술·컴퓨터과학 직무 수요는 같은 기간 37% 증가했다. 전통적인 코딩 역량만으로는 경쟁력을 확보하기 어려워졌다는 의미다. 기업들이 AI를 활용해 업무 자동화와 생산성 향상을 추진하면서, 기존 개발 인력의 업무 일부가 대체되거나 축소되고 있다는 분석도 나온다. 전자상거래 기업에서 지난 7월 해고된 니코 크리사풀리 프런트엔드 웹 개발자는 달라진 채용 시장을 체감하고 있다. 그는 자바스크립트와 프런트엔드 개발 역량을 기반으로 경력을 쌓았지만, 최근에는 'AI 전략가'와 'AI 엔지니어' 등 새 직무가 늘어나면서 자신의 경험을 어디에 적용해야 할지 고민하고 있다. 크리사풀리 개발자는 "직접 코드를 짜는 일 이제 예전처럼 중요한 일이 아닌 것 같다"며 "프런트엔드 엔지니어 일자리를 찾는 것은 어제의 문제처럼 느껴진다"고 말했다. AI 전환의 충격은 경력이 짧은 청년층에 더 크게 나타나고 있다. 인력 분석 플랫폼 레벨리오랩스에 따르면 챗GPT 출시 이후 캘리포니아에서 AI 영향을 많이 받는 직종에 종사하는 22~25세 노동자의 고용은 16.8% 감소했다. 다른 직종 종사자의 감소율인 4.6%를 크게 웃도는 수준이다. 벤처캐피털 시그널파이어의 인재 담당 운영 파트너 타우니 크란츠는 대졸 신입 인력이 기술업계에 진입하는 전통적인 통로가 크게 위축됐다고 지적했다. 대형 기술기업들이 AI 시대에 맞춰 초급 인력의 역할과 교육 체계를 다시 설계해야 한다는 설명이다. 반면 AI 기술을 실제 고객 업무에 적용하는 '전방 배치 엔지니어'는 새 유망 직군으로 떠오르고 있다. 전방 배치 엔지니어는 소프트웨어 개발뿐 아니라 고객사와 직접 소통하며 AI 도입 방안과 활용 전략을 설계하는 역할을 맡는다. 라이트캐스트에 따르면 베이 지역의 전방 배치 엔지니어 채용 공고는 2022년 이후 약 600% 증가했다. 해당 직무의 공고상 중간 연봉은 20만2300달러에 달한다. 오픈AI와 앤트로픽도 관련 인력을 채용하고 있으며, 세일즈포스는 전방 배치 엔지니어 1000명 채용 계획을 내놓았다. 은행과 보험사에 AI 소프트웨어를 제공하는 택타일의 하오 리 북미 전방 배치 엔지니어팀장은 이 직무가 과거 여러 부서가 나눠 맡던 업무를 통합한 형태라고 설명했다. 그는 "엔지니어링, 제품, 사업 역량을 하나로 합친 역할이 전방 배치 엔지니어"라고 말했다. 해고자들의 고립감도 커지고 있다. 전 구글 직원 바셈 이스탄불리가 만든 실직자 커뮤니티 '언(PTO)'은 하이킹과 면접 준비 모임 등을 통해 구직자들의 교류를 돕고 있다. 지난해 12월 소규모 모임으로 출발한 이 커뮤니티는 현재 회원 수가 1700명을 넘어섰으며, 행사에 80명 이상이 참여하는 경우도 있다. AI 산업이 창출하는 부가 샌프란시스코의 주거비를 끌어올리고 있다는 점도 실직자들에게 부담이다. 임대료 상승세 속에서 일자리를 잃은 기술 인력은 재취업 준비와 생활비 압박을 동시에 감당해야 하는 처지에 놓였다. 테드 이건 샌프란시스코시·카운티 수석 이코노미스트는 AI 투자와 기존 기술기업 감원이 엇갈린 영향을 미치고 있다고 진단했다. 그는 "AI 투자에 따른 노동시장 활성화 효과와 기존 기술기업의 해고에 따른 위축 효과가 맞서는 상황"이라며 "많은 사람이 일자리를 잃는 반면, 현재 AI 특화 역량을 갖춘 인력으로 채용되는 사람은 상대적으로 적다"고 말했다.

2026.09.20 09:15남혁우 기자

앤트로픽, 11월 상장 계획…"예상보다 한 달 미뤄"

'인공지능(AI) 속도 조절론'의 불을 지핀 앤트로픽이 상장 일정을 예상보다 한 달 가량 미룰 계획이라는 보도가 나왔다. 앤트로픽이 11월 중 기업공개(IPO)를 단행할 계획이라고 월스트리트저널이 18일(현지시간) 보도했다. 그 동안 전문가들은 앤트로픽이 10월 중 나스닥에 상장할 준비를 하고 있다고 전망했다. 시장에서는 앤트로픽의 공모 규모가 역대 최대 규모에 이를 것으로 보고 있다. 지금까지 역대 최대 규모 IPO는 지난 6월 863억 달러를 조달한 스페이스X가 기록했다. 전문가들은 앤트로픽이 상장할 경우 1000억 달러 이상 조달할 수 있을 것으로 전망하고 있다. 이렇게 될 경우 앤트로픽의 기업 가치는 2조 달러 수준에 이르게 될 것이라고 월스트리트저널이 전망했다. 앤트로픽은 조만간 투자자들과 회동할 계획이다. 투자자 중 일부는 새로운 AI 모델 출시 속도가 늦춰질 경우 앤트로픽의 재무상황이나 업 가치에 어떤 영향을 미칠지 집중적으로 물을 것으로 예상된다. 보도에 따르면 앤트로픽 자문단들은 3분기 실적을 공개한 이후 상장하는 것이 훨씬 유리할 것으로 보고 있다. 경쟁사인 오픈AI가 9월 최신 모델 아스트라를 출시했음에도 앤트로픽이 강력한 경쟁 우위를 보여주고 있다는 게 그 이유다. 특히 앤트로픽이 11월 상장 계획은 'AI 속도 조절론'의 시발점이 된 제이콥 콕슨 연구원 퇴사 이전에 결정됐다고 월스트리트저널이 전했다. 콕슨 연구원은 9월 초 앤트로픽을 퇴사하면서 “10년 내 AI가 인류를 멸망시킬 수 있다”고 경고했다. 이후 다리오 아모데이 앤트로픽 최고경영자(CEO)를 비롯해 샘 알트먼, 데미스 하사비스 등 주요 경영자들이 찬성 의사를 밝히면서 'AI 속도 조절론'이 새로운 담론으로 떠올랐다.

2026.09.19 11:32김익현 미디어연구소장

[AI는 지금] AI 투자, 오픈AI·앤트로픽에 몰렸다…韓도 상위 10곳 74.5% 점유

인공지능(AI) 벤처투자 시장이 빠르게 커지고 있지만 자금은 소수 대형 기업으로 쏠리고 있는 것으로 나타났다. 글로벌 시장에선 오픈AI·앤트로픽 등 프론티어 AI 기업의 초대형 후속투자가 전체 시장을 끌어올렸고, 국내에서도 AI 반도체와 모델 기업을 중심으로 후기단계 투자가 늘면서 상위 기업의 자금 흡수력이 크게 높아진 것으로 드러났다. 19일 소프트웨어정책연구소(SPRi)가 발표한 '글로벌 AI 벤처투자 동향과 투자 집중구조 : 국내 현황과 시사점' 보고서에 따르면 올해 상반기 글로벌 벤처캐피털(VC) 투자액 가운데 AI가 차지한 비중은 75.9%에 달했다. 2021년 23.5%에서 52.4%포인트 상승한 수치로, 같은 기간 거래건수 비중은 20.4%에서 36.6%로 상대적으로 완만하게 늘었다. 이처럼 투자액 비중이 거래건수보다 훨씬 빠르게 늘면서 AI 투자시장 확대가 신규 투자 대상 증가보다 개별 거래의 대형화에 더 크게 영향을 받은 것으로 분석된다. 실제 AI VC의 건당 평균 투자액은 2021년 1350만 달러에서 올해 상반기 5550만 달러로 4배 이상 늘었다. 전체 VC 평균과 비교해도 격차가 커졌다. AI VC의 건당 투자규모는 2021년 전체 VC 평균의 1.15배 수준이었지만 올해 상반기에는 2.08배까지 높아졌다. 자금은 미국과 후기단계(시리즈 C 이상) 기업으로 빠르게 집중됐다. 올해 상반기 동안 미국은 글로벌 AI VC 투자액의 84.1%를 차지했다. 미국·중국·영국 등 상위 3개국 비중도 92.9%에 달했고 국가별 투자 집중도를 나타내는 허핀달-허시먼지수(HHI)는 2022년 3684에서 올해 상반기 7124로 상승했다. 투자 단계에서도 비슷한 흐름이 나타났다. 올해 상반기 시드(창업 초기)·초기단계(시리즈 A~B) 투자는 전체 거래건수의 92.8%를 차지했지만 투자액 기준 비중은 27.2%에 그쳤다. 후기단계는 거래건수 비중이 7.2%에 불과했지만 투자액의 72.8%를 차지했다. 또 지난 2023년 39.5%까지 떨어졌던 후기단계 투자액 비중은 2025년 61.8%로 올라선 뒤 올해 들어 더 높아졌다. 초대형 거래의 영향은 더 커졌다. 10억 달러 이상 AI 투자거래는 2021년 13건에서 2025년 22건으로 늘었고 올해 상반기에만 34건을 기록했다. 해당 거래들의 투자액은 올해 상반기 3167억 달러로 전체 AI VC 투자액의 약 74%를 차지했다. 기업별 집중도 역시 크게 높아졌다. 글로벌 AI VC 투자액 가운데 상위 3개 피투자기업이 차지하는 비중은 2021년 3.6%에서 올해 상반기 55.7%로 높아졌다. 상위 10개 기업 비중은 같은 기간 8.9%에서 67.5%로 확대됐다. 이는 오픈AI와 앤트로픽, xAI 등이 대규모 자금조달을 반복한 영향이 컸다. 투자 대상도 AI 서비스에서 기반 기술로 이동했다. 2500만 달러 이상 대형 투자에서 AI 모델 기업의 비중은 2021년 1.5%에 불과했지만 올해 상반기에 61.0%까지 상승했다. AI 서비스·애플리케이션 비중은 같은 기간 73.9%에서 18.7%로 낮아졌다. 국내 AI VC 시장은 투자액 자체가 크게 늘지 않았으나, 전체 VC 시장에서 차지하는 비중만 높아졌다. 국내 전체 VC 투자액에서 AI가 차지하는 비중은 2021년 19.9%에서 올해 상반기 44.3%로 상승했다. 반면 AI VC 투자액은 2021년 20억4800만 달러, 2025년 17억9500만 달러, 올해 상반기 18억5400만 달러로 큰 폭의 증가세를 보이지 않았다. 전체 VC 시장이 축소되면서 AI 투자의 상대적 비중이 커진 것이다. 다만 국내 자금도 후기단계와 일부 기업에 빠르게 몰리고 있는 것으로 나타났다. 올해 상반기 국내 AI VC 투자액 가운데 후기단계 비중은 72.3%로, 글로벌 72.8%와 비슷했다. 상위 3개 기업이 전체 투자액의 55.8%, 상위 10개 기업은 74.5%를 차지했다. 2021년 상위 10개 기업 비중이 31.0%였던 것과 비교하면 두 배 이상 높아졌다. 투자 분야에서도 글로벌 시장과 국내 시장은 차이를 보였다. 글로벌 대형 투자가 AI 모델에 집중된 반면, 국내에선 AI 반도체와 AI 모델이 양대 투자 분야로 부상했다. 실제 올해 상반기 국내 AI VC 투자액 가운데 AI 반도체 비중은 33.4%, AI 모델은 26.8%로, 두 분야를 합쳐 60.2%를 차지했다. 2021년 79.4%에 달했던 AI 서비스·애플리케이션 비중은 같은 기간 21.0%까지 낮아졌다. 이는 리벨리온과 퓨리오사AI, 엑시나 등 AI 반도체 기업과 업스테이지 등 AI 모델 기업의 대규모 후속투자가 이어진 영향이다. SPRi는 "투자금이 성장기업으로 몰리는 상황에서 초기 기업의 시장 진입 경로와 후속 자금조달 체계를 함께 확충할 필요가 있다"며 "특히 초기 AI 기업은 투자 이후에도 컴퓨팅 자원과 고객 확보, 기술 검증이 필요한 만큼 자본 공급만으로는 성장 과정의 자금 공백을 해소하기 어렵다"고 진단했다. 이어 "정책펀드 간 후속투자 연계와 컴퓨팅 지원, 민간 전략적 투자자의 사업협력을 함께 묶는 방안이 필요하다"며 "분야별로 필요한 자본 규모와 회수기간, 기술개발 기간이 다른 만큼 기술·산업 특성에 따라 투자체계를 달리 검토할 필요가 있다"고 덧붙였다.

2026.09.19 11:05장유미 기자

앤드류 응 "AI 멸종론은 공상과학...업계가 공포 부추겨"

인공지능(AI) 분야 석학인 앤드류 응 스탠퍼드대학교 교수가 AI가 인류를 멸종시킬 수 있다는 일각의 경고에 대해 "공상과학에 가깝다"며 비판적인 견해를 밝혔다. 18일 블룸버그 TV에 따르면 앤드류 응 교수는 AI가 인류 존속 자체를 위협할 수 있다는 '실존적 위험' 시나리오를 두고 "과학보다는 공상과학에 훨씬 가깝다"고 말했다. 그는 "AI 발전에 위험이 전혀 없다는 뜻은 아니지만 업계와 정책 당국이 인류 멸종 같은 가설적 위험에 매몰되기보다 사이버보안 악용 등 현재 확인 가능한 문제를 해결하는 데 집중해야 한다"고 주장했다. 앤드류 응 교수는 최근 다시 확산된 AI 종말론적 경고를 두고 업계의 홍보 전략과도 연관이 있을 수 있다고 지적했다. 그는 과거에도 AI가 초래할 수 있는 재앙적 위험을 과도하게 부각해 관심을 끌고 규제 논의에 영향을 주려 했다고 비판한 바 있다. 더불어 AI가 사회에 제공할 수 있는 의료, 교육, 생산성 혁신의 기회를 살리기 위해서는 막연한 종말론보다 검증 가능한 안전장치와 실용적인 기술 개발에 투자해야 한다고 강조했다. 이번 논쟁은 전직 오픈AI·앤트로픽 연구원인 제이컵 콕슨의 사임을 계기로 확산됐다. 콕슨 연구원은 지난 9일 소셜미디어 엑스(X)를 통해 앤트로픽을 떠난다고 밝히며 오픈AI와 앤트로픽이 자기개선형 초지능을 향한 경쟁을 벌이며 사람들의 생명을 위험에 빠뜨리고 있다는 취지로 비판했다. 그는 AI가 향후 10년 내 인류 멸종으로 이어질 가능성을 10% 수준으로 본다는 견해도 내놨다. 이후 앤트로픽의 AI 정렬 연구 책임자인 에번 허빙어도 고도화된 AI가 인류에 치명적인 위협이 될 수 있다는 우려를 제기하면서 논란은 더욱 커졌다. 이들이 우려하는 핵심은 AI가 인간이 설정한 목표와 다르게 행동하거나, 악의적 행위자에게 강력한 사이버·생물학적 도구를 제공하고, 궁극적으로 인간의 감독 범위를 벗어날 수 있다는 점이다. AI 업계 수장들도 안전 문제의 중요성을 강조하고 있다. 다리오 아모데이 앤트로픽 최고경영자(CEO)와 샘 알트먼 오픈AI CEO는 최첨단 AI 모델 개발 과정에서 안전장치를 강화하고, 필요할 경우 개발 속도를 조절해야 한다는 입장을 밝혀 왔다. 앤드류 응 교수는 "AI 기업이 인류 멸종과 같은 불확실한 미래의 시나리오를 앞세우기보다, 기술을 개선하고 안전하게 만들기 위한 현실적 과제에 역량을 집중해야 한다"며 "AI가 할 수 있는 수많은 훌륭한 일에 활용될 수 있도록 해야 한다"고 강조했다.

2026.09.18 11:59남혁우 기자

공격도 방어도 AI가…"사업자 보안·복원력 의무화해야"

인공지능(AI)이 사이버 공격을 자동화하는 수단인 동시에 새로운 공격 대상으로 떠오르면서 고영향 AI 사업자에 대한 보안과 복원력 확보 의무를 강화해야 한다는 목소리가 나왔다. 현행 AI기본법에는 사이버보안이나 적대적 공격에 대한 복원력을 명시한 규정이 없어 AI 시대의 보안 위협에 대응하기에 한계가 있다는 지적이다. 국회입법조사처는 이달 초 발간한 'AI로 인한 새로운 보안 위험과 대응에 관한 국내외 입법·정책 비교 연구'에서 AI 발전에 따라 'AI에 의한 위협'과 'AI에 대한 위협'이 동시에 확대되고 있다고 분석했다. 보고서는 생성형 AI와 거대언어모델(LLM)을 활용하면 사이버 공격에 필요한 도구를 생성할 수 있으며 에이전틱 AI 사용 시 외부 도구와 시스템을 연동해 공격 과정을 자동화할 수 있다고 설명했다. AI 활용으로 공격자에게 요구되는 전문 지식이 줄어들면서 공격 준비 시간과 비용이 감소하고, 공격의 속도와 규모가 커질 가능성도 제기했다. 동시에 AI 자체도 새로운 공격 대상이 되고 있다. 머신러닝·딥러닝은 학습 데이터와 모델 자체, 생성형 AI·LLM은 입력과 생성 결과, 에이전틱 AI는 외부 도구 연동과 권한 위임 과정, 피지컬 AI는 센서 입력과 제어 명령이 주요 위협 지점으로 꼽혔다. 국내 제도는 이같은 변화에 충분히 대응하지 못하고 있다는 게 보고서의 분석이다. 현행 AI기본법은 고영향 AI 사업자의 책무와 영향평가를 규정하고 있지만 유럽연합(EU) AI법과 달리 사이버보안이나 적대적 공격 복원력에 관한 명문 규정이 없다. 보안 거버넌스가 공공·민간·금융 등 영역별로 나뉘어 있다는 점도 지적됐다. 국가정보원, 한국인터넷진흥원(KISA), 금융보안원 등이 각 소관 영역에서 위협 정보 공유와 사고 조사를 수행하지만 영역을 초월하는 사이버 침해 사고에 대한 범국가적 차원의 단일 정보 공유와 대응에는 한계가 있다는 것이다. 대안으로는 AI의 전 생애주기에 걸친 보안 설계와 복원력 강화를 비롯해 제로트러스트와 소프트웨어 자재명세서(SBOM)를 AI에 적용한 'AI-BOM'의 법제화가 제안됐다. 보고서는 AI 기반 방어와 신속한 패치 체계를 마련하고, KISA·금융보안원·국정원·경찰 등으로 분산된 침해사고 신고·대응 창구를 실무적으로 일원화하는 방안도 제시했다. 연구 책임자인 이해원 강원대 법학전문대학원 교수는 "AI발 사이버 침해사고가 기존 사고보다 신속화·대량화·다각화·전문화돼 완벽한 방어를 기대하기 어렵다"고 말했다. 이어 "사고 발생시 선 복원력 확보 후 원인조사 및 책임추궁 체계 정립이 필요하다"고 부연했다.

2026.09.18 11:57이나연 기자

[AI는 지금] AI 속도조절하려면 속도부터 알아야…앤트로픽, 내부 지표 공개

인공지능(AI) 개발 속도조절을 위해 기업 간 투명성과 검증을 강조해 온 다리오 아모데이 앤트로픽 최고경영자(CEO)가 자사 내부 수치부터 공개했다. ▲AI가 연구개발을 맡고 있는 현황 ▲에이전트 감시 현황 ▲안전에 투입하는 컴퓨팅 자원까지 구체적인 숫자로 제시했다. 앤트로픽은 17일(현지시간) 공식 블로그에 프런티어 AI 개발 속도를 파악하기 위한 측정 지표와 자사 조사 결과를 발표했다. AI 연구개발 자동화와 AI 에이전트 감시, 컴퓨팅 자원 배분 등 세 영역을 조사했다. 조사 결과 앤트로픽 내부에서는 AI가 사람의 지시를 받아 연구를 돕는 수준에서 일부 업무를 주도하는 단계로 확대됐다. 사람이 큰 목표만 정해주면 클로드가 대부분 작업을 수행하는 주도 단계는 지난 2월 1% 미만에서 8월 26%로 높아졌다. 사람이 긴밀하게 관여하는 협업 단계 이상까지 포함하면 전체 AI 연구개발 업무의 90%를 넘었다. 주도 단계에서는 사람이 큰 목표를 정하면 이후 대부분의 작업을 클로드가 수행한다. 사람은 이를 감독하고 최종 적용 여부를 결정한다. 사람이 개입하지 않는 완전 자율 단계에 도달한 업무는 아직 없었다. 앤트로픽은 AI가 AI 개발에 더 많이 참여할수록 개발 속도가 빨라질 가능성이 있다고 설명했다. 성능이 높아진 AI가 다음 모델 개발에 투입되고 새 모델이 다시 연구개발에 참여하는 과정이 반복되면 개발 주기가 짧아질 수 있어서다. AI가 맡는 업무가 늘면서 에이전트를 사람이 얼마나 통제할 수 있는지도 측정했다. 지난 8월 앤트로픽에서 가장 많이 사용하는 내부 플랫폼에서는 한 시점에 약 3만 개 AI 에이전트가 연구와 엔지니어링 업무를 수행했다. 이들이 한 달간 내린 판단과 행동은 10억 건을 넘었다. 앤트로픽은 에이전트의 모든 행동을 실행 전에 검사했다. 이 가운데 문제가 있다고 판단해 막은 비율은 0.002%로 약 4만 7000건당 1건이었다. 문제가 발생하는 비율이 낮아도 에이전트의 활동량이 커지면 실제 발생 건수는 늘어날 수 있다. 앤트로픽은 수백만개에서 수십억개의 에이전트가 활동하는 상황에 대비해 이들의 행동을 제대로 감시하고 통제할 수 있는지도 함께 확인해야 한다고 설명했다. 안전 연구에 사용하는 컴퓨팅 자원도 측정했다. 지난 7월 13일부터 20일까지 AI 연구개발에 투입한 컴퓨팅 자원의 약 6%가 안전 연구에 쓰였다. AI가 수행하는 AI 연구개발로 범위를 좁히면 12%였다. 다만 컴퓨팅 자원만으로 안전 연구 규모를 모두 파악하기는 어렵다는 게 회사 측의 설명이다. 안전 연구는 연구자가 실험을 설계하고 분석하는 데 많은 시간이 들지만 실제 연산량은 상대적으로 적을 수 있어서다. 앤트로픽은 이런 측정치를 향후 안전조치의 기준으로 활용하는 방안도 제시했다. AI 연구개발 자동화가 일정 수준에 도달하면 새 모델을 다시 AI 개발에 투입하기 전 일정 기간 안전성을 시험하거나 AI 연구 에이전트에 배정하는 컴퓨팅 자원을 제한하는 방법이다. 앤트로픽은 여러 기관의 독립적인 외부 평가자를 내부에 배치할 계획이다. 자체 위험평가팀과 비슷한 수준으로 내부 절차와 시스템, 데이터에 접근하도록 해 안전조치와 사고, 주요 지표 등을 검증하게 한다. 앤트로픽의 이번 행보는 아모데이가 최근 제안한 AI 개발 속도조절 논의 연장선으로 해석된다. 아모데이는 지난 12일 AI 개발 속도를 조절해 안전 연구에 필요한 시간을 확보해야 한다고 주장했다. AI 기업의 투명성을 높이고 업계가 공통으로 적용할 수 있는 기준을 마련하는 방안도 제안했다. 앤트로픽은 "프런티어 AI 개발 속도 조절을 검토하는 상황에서 연구소가 아는 것과 대중이 아는 것 사이의 격차를 가능한 줄여야 한다"며 "AI 개발을 더 잘 측정하고 공개해 사회가 이 정보를 어떻게 사용할지 결정할 기회를 제공해야 한다"고 밝혔다.

2026.09.18 08:41김동원 기자

지금 뜨는 기사

이시각 헤드라인

"스마트폰 다음은 XR"…퀄컴·삼성·구글, 차세대 폼팩터 3자 연합 구축

LG전자, AI 데이터센터 냉각 솔루션 영토 확장

검찰, 카카오 김범수 2심서도 징역 15년 구형..."불법·부정 지시 없었다"

미중 정상회담 D-1…AI 개발 속도·안전관리 접점 찾을까

ZDNet Power Center