검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'앤트로픽'통합검색 결과 입니다. (568건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

MS, 코파일럿을 '업무 실행 AI'로…홈·코드·오토파일럿 공개

마이크로소프트가 인공지능(AI) 비서 '코파일럿' 역할을 단순 업무 보조에서 작업 실행과 직원 협업으로 넓히는 서비스 개편에 나섰다. 직원이 필요한 AI 도구를 직접 만들고 복잡한 업무를 AI에 맡기는 환경을 강화하기 위한 전략이다. 마이크로소프트는 지난 25일 코파일럿 앱 신규 기능인 '홈' '코드' '오토파일럿'을 공식 홈페이지를 통해 공개했다. 홈과 코드는 몇 주 내 프런티어 프로그램에서 순차적으로 제공되며, 오토파일럿은 이달 말 비공개 프리뷰에서 확대 적용된다. 오토파일럿은 사용자의 추가 지시 없이 업무를 진행하는 개인 AI 에이전트다. 기존 '스카우트'에서 이름을 바꾼 기능이다. 조직 내 자체 계정과 메모리, 작업 공간에서 작동한다. 이름과 역할, 목표를 정해 주면 업무를 시작한다. 채널을 확인하고 대화 후속 작업과 반복 업무도 처리한다. 사용자가 다른 작업을 진행할 때도 업무를 지속할 수 있다. 며칠 뒤 프로젝트를 다시 이어 갈 수도 있다. 예를 들어 공급업체 검토를 맡기면 일정과 업무 계획부터 세운다. 이후 회의 준비와 후속 조치를 수행하고 관계자에게 진행 상황도 확인한다. 사용자는 업무 목표와 범위를 직접 설정하면, 진행 상황을 확인하면서 오토파일럿 업무 수행을 관리할 수 있다. 코드는 개발자가 아니어도 자연어로 업무용 소프트웨어(SW)를 만들 수 있게 돕는 기능이다. 원하는 앱이나 대시보드, 자동화 작업을 설명하면 코파일럿이 구현 방식을 선택해 제작할 수 있다. 데스크톱에서 상시 실행하는 위젯부터 데이터를 탐색하는 대화형 대시보드와 팀원에게 공유할 수 있는 클라우드 기반 내부 앱까지 지원한다. 코드는 '깃허브 코파일럿' 같은 기반 기술을 사용하고 격리된 환경에서 작동한다. 기업 '마이크로소프트 365' 환경 내에서 앱을 운영하도록 지원하는 '코파일럿 매니지드 런타임'도 프리뷰로 제공한다. 이를 통해 관리자가 운영을 통제할 수 있도록 돕는다. 이 기능은 코워크와 코드뿐 아니라 코파일럿 스튜디오에서 만든 앱도 지원한다. 홈은 대화형 기능 '챗'과 업무 위임 기능 '코워크'를 한곳에 모은 시작 화면이다. 챗이 간단한 질문과 정보 조회, 초안 작성을 담당하며 코워크는 제안요청서 답변서와 고객 브리핑, 결산 자료 등 복잡한 업무를 처음부터 끝까지 처리해 결과물을 내놓는다. 사용자가 달성하려는 목표만 설명하면 코파일럿이 챗과 코워크, 코드 중 적합한 기능으로 작업을 연결한다. 마이크로소프트는 '오피스 인 코파일럿'으로 워드·엑셀·파워포인트를 코파일럿 안에 통합한다. 이용자는 대화하면서 실제 편집 가능한 문서와 스프레드시트, 발표 자료를 만들거나 팀이 작업 중인 파일을 수정할 수 있다. 동료 수정 사항이 실시간으로 반영되고 기존 오피스 앱과도 동기화돼 공동 작업을 이어 갈 수 있다. 마이크로소프트는 일반 AI 활용과 에이전트 업무를 구분해 과금 체계를 설정했다고 밝혔다. 챗과 오피스 앱에서 사용하는 코파일럿 등에는 정액 구독을 적용하고 코워크·코드·오토파일럿과 장시간 실행하는 에이전트 기능에는 사용량 기반 과금을 적용한다. 구독에 포함되는 '오토'는 요청마다 정확도와 속도, 비용을 고려해 적합한 모델을 선택하는 기능이다. 사용량 기반 과금에서는 이용자가 모델을 선택하고 업무에서 얻는 가치에 맞춰 비용을 조정할 수 있게 돕는다. 클로드 오푸스 5.5·아스트라, 코파일럿에 순차적 적용 마이크로소프트는 코파일럿에 앤트로픽 '클로드 오푸스 5.5'와 오픈AI 'GPT-6' 등 최신 AI 모델을 추가해 이용자 선택권을 확대한다. 해당 모델은 워드와 엑셀, 파워포인트를 비롯해 챗, 코워크, 코파일럿 스튜디오에서 이용할 수 있다. 이번 모델 추가는 AI 모델 하나로 모든 업무를 처리하기보다 작업에 따라 서로 다른 모델을 선택할 수 있도록 하기 위한 조치다. 이용자는 여러 프런티어 모델 가운데 수행하려는 업무에 적합한 모델을 선택할 수 있다. 이 외에도 마이크로소프트는 AI 지출 관리를 위한 'AI를 위한 핀옵스' 기능도 강화한다. 관리자는 사용자 그룹별로 허용할 모델과 지출 정책을 설정하고 크레딧 요청을 기존 승인 절차에 연결할 수 있다. 이용자는 코파일럿에서 크레딧 사용량과 잔액, 사용 이력을 직접 확인할 수 있다. 회사는 기업 데이터와 업무 맥락을 반영하는 범위도 넓힌다고 밝혔다. 패브릭 IQ를 통한 파워 BI 데이터 활용은 챗과 코워크에서 정식 제공하며, 다이내믹스 365와 파워 플랫폼 연동은 앞으로 한 달에 걸쳐 공개 프리뷰로 순차 제공한다. 이를 통해 영업 담당자는 앱을 오가지 않고도 거래 이력과 고객 지원 기록을 제안서에 반영할 수 있다. 재러드 스파타로 마이크로소프트 업무용 AI 부문 최고마케팅책임자(CMO)는 "사람들이 사용하는 도구를 업무 전반에 AI를 구축하고 맞춤화하며 확대 적용하는 데 필요한 차세대 기능과 연결하기 위해 새로운 코파일럿을 선보인 것"이라며 "조직이 지출을 통제하고 가치를 이해하며 실질적인 성과를 내도록 AI 투자를 최적화할 수 있게 지원할 것"이라고 밝혔다.

2026.09.28 11:00김미정 기자

[AI는 지금] 비싼 오픈AI·앤트로픽…美 기업들, 오픈 모델로 눈 돌린다

미국 기업들이 오픈AI와 앤트로픽의 최첨단 인공지능(AI) 모델 대신 비용이 저렴한 오픈웨이트 모델로 눈을 돌리고 있다. AI 활용이 늘면서 기업의 관련 비용도 빠르게 불어나자 자체 인프라에서 운영하고 목적에 맞게 조정할 수 있는 오픈 모델이 대안으로 떠오르는 모습이다. 27일(현지시간) 파이낸셜타임즈에 따르면 미국 기업들 사이에서 오픈웨이트 AI 모델 도입이 빠르게 확산되고 있다. 기술기업뿐 아니라 금융사 PNC파이낸셜서비스, 물류기업 CH로빈슨, 산업기업 지멘스 등 다양한 업종에서 최근 오픈웨이트 모델 활용을 논의 중인 것으로 전해졌다. 오픈웨이트 모델은 AI 모델을 구성하는 핵심 매개변수를 공개해 기업이 직접 내려받아 자체 하드웨어에서 구동하거나 필요에 맞게 미세조정할 수 있는 모델이다. 모델 개발사에 사용량에 따른 토큰 비용을 계속 지불해야 하는 폐쇄형 모델과 비교해 운영비를 크게 낮출 수 있다는 점이 강점으로 꼽힌다. 기업들의 관심도 빠르게 높아지고 있다. 시장조사업체 알파센스에 따르면 지난 8~9월 기업 실적발표와 투자자 행사에서 오픈웨이트 또는 오픈소스 모델이 언급된 횟수는 전년 동기 대비 6배 증가했다. 클라우드 플랫폼 기업 버셀의 AI 게이트웨이에서 처리된 전체 토큰 가운데 오픈웨이트 모델 비중도 지난해 12월 7%에서 올해 8월 56%까지 상승했다. 특히 중국 AI 기업들이 오픈웨이트 시장에서 영향력을 확대하고 있다. 딥시크와 지푸AI 등이 대표적이며 프랑스 미스트랄과 미국 리플렉션AI, 싱킹머신스랩 등도 개방형 방식의 모델을 개발 중이다. 오픈AI와 앤트로픽도 중국 기업들과 가격 경쟁이 치열해지자 최근 주력 모델의 저가형 제품을 내놨다. 기업들이 오픈 모델을 찾는 가장 큰 이유는 비용이다. 매치그룹이 운영하는 데이팅 앱 틴더는 AI 비용을 관리하기 위해 일부 비기술 사용자들의 요청을 오픈웨이트 모델로 처리하기 시작했다. 틴더의 AI 관련 지출 속도는 지난 1월 연간 100만 달러 수준에서 7월 1000만 달러 수준으로 불과 반년 만에 10배 뛰었다. 통신업계에선 오픈 모델 활용 비중을 더 공격적으로 높이고 있다. AT&T는 현재 전체 AI 워크로드의 약 40%를 오픈 모델로 운영 중이며 향후 1년 안에 이를 70%까지 높일 계획이다. 하루 처리량이 450억 토큰에 달하는 만큼 모델 사용 비용을 낮추는 것이 중요한 과제로 떠올랐기 때문이다. AT&T는 자사 데이터를 활용해 오픈 모델을 미세조정하는 방식도 활용 중이다. 특정 업무에선 조정한 오픈 모델이 폐쇄형 모델과 비슷하거나 더 높은 성능을 낼 수 있다는 설명이다. 기업 입장에선 모든 업무에 고성능 모델을 사용하는 대신 작업 난도와 비용에 따라 여러 오픈웨이트 AI 모델을 선택할 수 있는 여지가 커졌다. 비용뿐 아니라 데이터 보안과 주권 문제도 오픈 모델 확산을 이끌고 있다. 데이터센터 기업 디지털리얼티는 자체 인프라에서 오픈웨이트 모델을 구동하는 내부 챗봇을 구축했다. 업무 민감도와 복잡성에 따라 오픈 모델과 상용 폐쇄형 모델을 함께 사용 중이며 고객 데이터 등 민감한 정보는 외부 최첨단 모델에 입력하지 않는다는 방침이다. 앤디 마커스 AT&T 최고데이터·AI책임자는 "하루 450억개의 토큰을 처리하는 규모에선 비용이 매우 중요하다"며 "정확도를 유지할 수 있다면 비싼 폐쇄형 모델 대신 훨씬 저렴한 오픈 모델을 적극 활용할 것"이라고 밝혔다.

2026.09.28 10:58한정호 기자

앤트로픽 이어 구글 연구원 사임…"AI 발전 속도 너무 빨라"

구글의 인공지능(AI) 연구원이 AI의 발전 속도가 지나치게 빠르다는 우려와 함께 회사를 떠났다. 앤트로픽에 이어 구글에서도 AI 발전 속도와 실존적 위험에 대한 업계 내부의 문제 제기가 이어지고 있다. 구글의 AI 담당 조직인 구글 딥마인드 소속 로버트 오캘러핸은 지난 24일 자신의 엑스(X·옛 트위터)를 통해 구글 퇴사 사실을 공개했다. 그는 개인 블로그에 공개한 사직서에서 "자신이 속한 팀의 목표가 AI를 더 저렴하고 지연시간이 낮게 만드는 것"이라며 "현재로서는 이런 방향이 사람들에게 이롭다고 생각하지 않는다"고 밝혔다. 오캘러핸은 AI 기능 자체를 개발한 것은 아니지만 하드웨어 칩 설계를 위한 도구를 개선하는 업무를 맡았다. 그는 해당 도구가 결과적으로 AI 칩 설계를 가속해 AI를 더 저렴하고 빠르게 만들고 기술의 확산과 성능 향상으로 이어질 수 있다는 점을 우려했다. AI의 장기적 위험에 대해서도 문제를 제기했다. 그는 초인공지능(ASI)이 인류를 파멸시킬 가능성이 100%라고 확신하는 것은 아니지만, 위험 자체는 실재하며 불확실하다는 사실만으로도 걱정스럽다는 입장이다. 보상 해킹과 정렬 불일치 등 그동안 AI 비관론자들이 우려했던 현상 가운데 일부가 실제로 나타났다고도 지적했다. 다만 오캘러핸은 자신의 퇴사가 개인적인 여행 일정에 따른 것으로, 업계에서 확산한 '속도조절론'이나 다른 연구자들의 사임과는 관련이 없다고 선을 그었다. 앞서 오픈AI를 거쳐 앤트로픽에서 근무했던 연구자 제이컵 콕슨도 AI가 10년 안에 인류를 멸망시킬 수 있다고 경고하며 회사를 떠났다. 콕슨의 사임 이후 다리오 아모데이 앤트로픽 최고경영자(CEO)가 AI 발전 속도를 조절할 필요성을 주장하는 등 AI의 빠른 발전을 둘러싼 논쟁이 업계 안팎으로 확대되고 있다. 오캘러핸은 사직서에서 "AI 발전이 현재 인간이 이해하고 적응할 수 있는 속도보다 훨씬 빠르게 진행되고 있다"며 "AI를 통해 더 나은 미래로 나아갈 가능성이 있더라도 지금과 같은 속도는 지나치게 빠르다"고 말했다.

2026.09.27 11:44이나연 기자

美법원, 국방부 손 들어줬다…'클로드 금지' 유지

미국 법원이 인공지능(AI) 기업 앤트로픽의 클로드를 업무에 사용하지 못하도록 한 국방부 조치 필요성을 인정했다. 25일(현지시간) CNN과 로이터 등에 따르면 워싱턴DC 연방항소법원은 미 국방부와 앤트로픽 소송에서 국방부 손을 들어줬다. 국방부가 앤트로픽을 국가안보상 '공급망 위험'으로 판단하고 클로드를 국방부 시스템과 관련 계약에서 배제한 데 충분한 근거가 있다고 봤다. 양측은 클로드를 군에서 어디까지 사용할 수 있느냐를 두고 갈등을 이어왔다. 국방부는 법적으로 허용되는 모든 용도에 클로드를 사용할 수 있어야 한다고 요구했다. 반면 앤트로픽은 완전 자율 살상무기와 미국인에 대한 대규모 국내 감시에는 클로드를 쓰지 못하도록 자체 제한을 뒀다. 국방부가 문제 삼은 것은 이 제한이 실제 작전에 영향을 줄 수 있다는 점이었다. 군이 필요한 작업을 요청해도 앤트로픽이 정한 안전기준 때문에 클로드가 이를 수행하지 않을 수 있다고 판단했다. 국방부는 이를 이유로 앤트로픽을 공급망 위험으로 지정했다. 항소법원도 이러한 우려를 인정했다. 앤트로픽이 클로드에 넣은 제한 때문에 정부가 요청한 작업을 수행하지 못한 실제 사례가 여럿 있었다고 밝혔다. 해외 군사작전에서도 클로드를 사용할 수 있는지를 놓고 양측이 충돌한 적이 있다. 법원은 이러한 상황에서 국방부가 클로드를 필요한 방식으로 안정적으로 사용할 수 있을지 우려할 수 있다고 판단했다. 앤트로픽이 악의적으로 군의 AI 사용을 방해하려 했는지는 공급망 위험 판단에 결정적 문제가 아니라고 봤다. 앤트로픽은 자사가 AI 안전에 대한 입장을 고수했다는 이유로 정부가 보복했다고 주장했지만 법원은 받아들이지 않았다. 국방부가 문제 삼은 것은 앤트로픽 의견이 아니라 군이 중요하다고 본 사용조건을 회사가 받아들이지 않았다는 점이라고 판단했다. 이번 판결은 재판부 3명 가운데 2명 찬성으로 결정됐다. 반대 의견을 낸 판사는 앤트로픽이 실제 클로드를 이용해 국가안보를 위협할 가능성이 충분히 확인되지 않았다고 지적했다. 앤트로픽은 추가 법적 대응을 검토하고 있다. 회사 측은 "다른 연방법원은 이미 정부의 별도 지정 조치가 불법이라고 판단했다"며 "우리 입장에 확신을 갖고 있으며 추가 심리를 포함한 모든 선택지를 검토하고 있다"고 밝혔다.

2026.09.26 16:00김동원 기자

앤트로픽-아카마이, 116억 달러 컴퓨팅 계약…"클로드 수요 급증 대응"

앤트로픽이 급증하는 클로드 수요에 대응하기 위해 아카마이테크놀로지스와 인공지능(AI) 인프라 협력을 확대했다. 24일(현지시간) 블룸버그통신 보도에 따르면 앤트로픽은 아카마이와 7년간 116억 달러(약 15조 8500억원) 규모 컴퓨팅 자원 공급 계약을 체결했다. 이는 아카마이 계약 중 가장 큰 규모다. 아카마이는 이번 계약에 따라 앤트로픽에 중앙처리장치(CPU) 기반 컴퓨팅 자원을 제공한다. CPU는 범용 반도체로 AI 서비스를 뒷받침하는 역할을 하면서 데이터센터에서 수요가 다시 늘고 있다. 계약에 따른 서비스는 내년 하반기 시작될 예정이다. 이번 합의는 두 회사가 올해 앞서 맺은 18억 달러 규모의 컴퓨팅 계약을 토대로 협력을 확대한 것이다. 최근 몇 달간 코딩 등 업무 절차를 간소화하려는 고객이 몰리면서 클로드 수요가 급증한 데 따른 움직임이다. 앤트로픽은 늘어나는 수요를 충족하기 위해 구글과 일론 머스크의 스페이스X 등에서도 컴퓨팅 자원을 확보해왔다. 아카마이는 이번 계약과 관련한 자본지출이 총 약 55억 달러에 이를 것으로 추산했다. 이는 2025년 전체 자본지출의 6배를 넘는 규모다. 투자금은 주로 서버·반도체·네트워크 장비 등 하드웨어에 쓰이며 대부분 내년에 집행될 예정이다. 계약에는 앤트로픽이 아카마이 주식을 매입할 수 있는 권리도 포함됐다. 아카마이는 보통주 총 770만 주로 전환할 수 있는 시리즈 B 주식을 주당 111.33달러에 매입할 수 있는 주식매입권을 앤트로픽에 부여했다. 주식매입권 가운데 아카마이 보통주 약 2%에 해당하는 부분은 컴퓨팅 계약에 따라 권리가 확정된다. 나머지는 7년의 계약 기간에 걸쳐 행사할 수 있게 될 예정이다. 아카마이가 고객과의 클라우드 계약에 이런 주식매입권을 포함한 것은 이번이 처음이다. 일부 월가 투자자들은 기업 간 제품 구매와 직접 투자가 맞물리는 이른바 '순환형 AI 거래'에 우려를 제기하고 있다. 클라우드·하드웨어·AI 기업이 서로의 제품을 구매하면서 투자까지 병행하면 AI에 대한 실제 수요를 수치로 파악하기 어려워진다는 지적이다. 아카마이는 내년 앤트로픽 관련 사업에서 약 1억5천만~3억 달러 매출을 거둘 것으로 보고 있다. 2028년에는 해당 사업의 연 환산 매출 규모가 약 17억 달러에 이를 것으로 내다봤다. 현재 아카마이는 콘텐츠 전송과 사이버보안 서비스에서 매출 대부분을 올리고 있지만 새로운 성장 기회를 찾기 위해 컴퓨팅 사업을 확대하고 있다. 초대형 데이터센터 운영업체인 하이퍼스케일러와 대기업 등 주요 사업자들과 추가 사업도 논의하고 있다. 아카마이 주가는 24일(현지시간) 시간외 거래에서 17% 급등해 뉴욕 시간 오후 4시 10분께 129.60달러를 기록했다. 톰 레이튼 아카마이 최고경영자(CEO)는 "클라우드 사업은 분명히 매우 빠르게 성장하고 있다"며 "클라우드 계약 관련 매출이 머지않아 다른 사업 부문 매출을 넘어설 수 있을 것"이라고 말했다.

2026.09.25 16:20김미정 기자

트럼프는 '평화와 번영'·시진핑은 '인간 통제'…미중 정상 AI 시각차

미국과 중국 정상이 인공지능(AI) 개발·안전관리를 두고 시각차를 드러냈다. 미국은 AI가 가져올 평화와 번영을 부각한 반면, 중국은 AI가 인간 통제 아래 발전하도록 양국이 책임을 다해야 한다고 강조했다. 도널드 트럼프 미국 대통령과 시진핑 중국 국가주석은 24일(현지시간) 미국 워싱턴DC 백악관에서 정상회담에서 이같은 의견을 공유한 것으로 전해졌다. 회담은 소인수 회담과 확대 회담으로 나눠 비공개로 진행됐으며 모두발언은 공개되지 않았다. 트럼프 대통령은 회담에 앞선 환영식 연설에서 안보·기술과 함께 슈퍼지능(SI)을 주요 의제로 제시했다. 이 분야에서 내리는 결정이 앞으로 수십 년간 평화와 번영을 증진할 수 있다며 AI 발전의 긍정적 효과에 무게를 뒀다. 트럼프 대통령 발언은 AI 경쟁 우위를 유지하기 위해 개발을 이어가야 한다는 기존 미국 기조와 일맥상통한다. 그는 이날 오전 소셜미디어 트루스소셜에서도 AI 관련 입장을 이같이 유지하고 싶다는 뜻을 밝혔다. 지난 22일 유엔(UN)총회 연설에서는 AI에 대한 국제적 통제 구상에 반대했다. 시 주석은 같은 자리에서 AI 대국인 미중 양국이 기술 개발과 규제에 책임을 다해야 한다는 입장을 밝혔다. AI가 언제나 인간의 통제 아래 발전하고 사람들의 행복에 기여해야 한다는 점을 강조했다. 중국은 기술 혁신과 산업 활용을 확대하면서 위험관리도 병행해야 한다는 입장이다. 시 주석은 지난 7월 상하이 세계인공지능대회에서도 AI 산업 발전을 강조하는 동시에 위험 조기경보와 긴급대응 체계를 마련해야 한다고 밝혔다. 중국 당국은 지난 14일 AI 안전 거버넌스 프레임워크 3.0도 발표했다. AI 위험을 분류하고 기술적 대응과 관리 방안을 갱신해 안전성과 통제 가능성을 확보하기 위한 조치다. 美 업계·의회는 속도조절 촉구…中은 안전 명분 기술 견제 경계 그동안 미국 AI 업계에서는 안전 역량이 기술 발전을 따라갈 시간을 확보해야 한다는 목소리가 나왔다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 이달 공개한 기고문에서 AI가 다음 세대 AI 개발에 쓰이면서 기능 향상 속도가 인간 이해와 통제를 앞지를 수 있다고 경고했다. 아모데이 CEO는 외부 평가자의 기업 내 상주와 공통 안전기준 마련, 중국을 포함한 국제 협력을 제안했다. 모델 훈련을 이어가면서도 기업이 안전조치를 마련하고 제3자가 이를 검증할 시간을 확보하자는 취지다. 그는 미국과 동맹국이 AI 우위를 유지해야 한다며 중국에 대한 첨단 AI칩과 반도체 제조장비 수출통제도 주장했다. 안전을 위한 국제 공조를 추진하면서 기술 경쟁에서는 미국이 우위를 지켜야 한다는 입장이다. 미국 의회 일각에서는 더 강한 조치를 요구해 왔다. 크리스 밴홀런 의원 등 민주당 상원의원 17명은 지난 23일 트럼프 대통령에게 보낸 서한에서 시 주석과 첨단 AI 개발·시험·사용에 관한 안전장치와 국제 기준을 협의하라고 촉구했다. 사이버공격과 생물무기 개발 등 위험을 막기 위해 두 국가가 개발 속도를 늦추고 상호 일시정지까지 검토하는 공식 합의를 추진하라는 요구다. 중국은 AI 안전 논의가 자국을 겨냥한 기술 견제로 이어지는 데 반발하고 있다. 궈자쿤 중국 외교부 대변인은 아모데이 CEO 등의 주장에 대해 위협 담론과 대립이 글로벌 AI 거버넌스를 방해한다며 개방성과 포용성을 높여야 한다는 입장 밝혔다. 양국의 안전 협력이 구체화하려면 사고 통보 대상과 정보 공유 범위 등에 관한 접점을 찾을 필요가 있다는 제안이 나오고 있다. 크리스토퍼 콜린스 미국 전략국제문제연구소 연구원은 지난 21일 보고서에서 공통 정의와 사고 보고 채널, 기본적인 안전시험 절차 등 범위를 좁힌 의제에 집중할 것을 제안했다. AI 안전 협의가 대중국 기술통제 완화로까지 이어질지는 불확실하다. 양국이 위험관리를 위한 협력 방안을 논의하더라도 첨단 기술의 수출 허용 여부는 별도 쟁점으로 남아 있다. 제이미슨 그리어 미국 무역대표부 대표는 지난 20일 진행된 AI 실무협의와 관련해 "첨단 AI칩과 반도체 제조장비의 수출통제 문제는 다뤄지지 않았다"며 "양국 실무대화가 곧바로 대중국 기술통제 완화로 이어진 것은 아닐 것"이라고 밝혔다.

2026.09.25 09:14김미정 기자

미중 정상회담 D-1…AI 개발 속도·안전관리 접점 찾을까

미국과 중국이 정상회담을 하루 앞두고 인공지능(AI) 개발 속도와 안전관리가 주요 의제로 다뤄질 것이란 분석이 나오고 있다. 업계에서는 AI 주도권 경쟁을 이어가는 두 국가가 이번 회담을 통해 안전관리와 사고 대응을 위한 구체적인 협력 방안을 마련할지 주목하고 있다. 23일 백악관과 외신에 따르면 도널드 트럼프 미국 대통령과 시진핑 중국 국가주석은 24일(현지시간) 워싱턴 백악관에서 회담을 진행한다. 이번 회담에서는 무역, 관세 등 통상 현안뿐 아니라 AI 개발 속도와 안전관리 문제가 의제로 다뤄질 것으로 예상되고 있다. 현재 트럼프 대통령은 미국의 AI 경쟁 우위를 지키기 위해 개발을 이어가야 한다는 입장이다. 그는 지난 13일 아일랜드에서 AI 산업 감속이나 규제 필요성을 묻는 질문에 "미국이 중국을 앞서고 있다"며 "AI에서 이기는 쪽이 승리한다"고 밝혔다. 그는 회담 이틀 전인 22일 유엔총회(UN) 연설에서도 AI에 대한 국제적 통제 구상을 거부한다고 말했다. 국제적 통제보다 자국의 AI 개발을 우선한다는 기조를 재확인한 셈이다. 미국 AI 업계에서는 안전 역량이 기술 발전을 따라갈 시간을 확보해야 한다는 주장이 나오고 있다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 이달 공개한 기고문에서 AI 모델 능력 향상 속도를 늦춰야 한다고 주장했다. AI가 다음 세대 AI 개발에 쓰이면서 능력 향상 속도가 인간의 이해와 통제를 앞지를 수 있다고 경고했다. 아모데이 CEO는 외부 평가자의 기업 내 상주, 공통 안전기준 마련, 중국을 포함한 국제 협력을 제안했다. 모델 훈련을 이어가면서 기업이 안전조치를 마련하고 제3자가 이를 검증할 시간을 확보하자는 취지다. 다만 그는 미국과 동맹국의 AI 우위를 유지해야 한다며 중국에 대한 첨단 AI칩·반도체 제조장비 수출통제도 주장했다. 안전 협력과 기술 경쟁을 모두 잡자는 설명이다. 현재 미국 의회 일각에서는 더 강한 조치를 요구하고 있다. 크리스 밴홀런 의원 등 민주당 상원의원 17명은 23일 트럼프 대통령에게 보낸 서한에서 시 주석과 첨단 AI 개발·시험·사용에 관한 안전장치와 국제 기준을 협의하라고 촉구했다. 사이버공격과 생물무기 개발 등 위험을 막기 위해 양국이 개발 속도를 늦추고 상호 일시정지까지 검토하는 공식 합의를 추진하라는 요구도 이어지고 있다. 中, 개발·안전 병행 강조…자국 위협론에는 반발 중국은 AI 혁신과 산업 활용을 확대하면서도 위험관리를 병행해야 한다는 입장을 내놓고 있다. 시 주석은 지난 7월 17일 상하이 세계인공지능대회 기조연설에서 AI 기술 혁신과 산업 발전, 활용 확대를 강조했다. 동시에 위험 조기경보와 긴급대응 체계를 마련하고 AI가 항상 인간 통제 아래 있도록 해야 한다고 밝혔다. 중국 당국은 이달 14일 'AI 안전 거버넌스 프레임워크 3.0'도 발표했다. AI 위험을 분류하고 기술적 대응과 관리 방안을 마련하는 틀을 갱신하기 위한 조치다. 이를 통해 안전성과 통제 가능성을 확보해야 한다는 원칙을 재확인했다. 중국은 AI 안전 논의에 자국을 겨냥한 기술 견제가 포함되는 데 반발하고 있다. 궈자쿤 중국 외교부 대변인은 아모데이 CEO 등의 주장에 대한 질문에 "위협 담론과 대립, 악성 경쟁은 글로벌 AI 거버넌스를 방해한다"며 "AI 발전은 인류 공동의 복지와 관련된 만큼 개방성과 포용성을 높여야 한다"고 입장을 밝혔다. 두 국가가 이번 정상회담을 통해 성과를 보려면 어떤 AI 사고를 상대국에 통보할지, 정보를 어디까지 공유할지, 안전조치 이행을 어떻게 확인할지를 살펴볼 필요가 있다는 제안이 나오고 있다. 크리스토퍼 콜린스 미국 전략국제문제연구소(CSIS) 연구원은 지난 21일 보고서에서 공통 정의와 사고 보고 채널, 기본적인 안전시험 절차 등 범위를 좁힌 의제에 집중할 것을 제안했다. AI 안전 협의가 대중국 기술통제 완화로까지 이어질지는 불확실하다. 제이미슨 그리어 미국 무역대표부(USTR) 대표는 지난 20일 진행된 AI 실무협의에서 "첨단 AI칩과 반도체 제조장비의 수출통제 문제는 다뤄지지 않았다"며 "양국 실무대화가 곧바로 대중국 기술통제 완화로 이어진 것은 아닐 것"이라고 밝혔다.

2026.09.24 10:16김미정 기자

오픈AI·앤트로픽 CEO, UN 안보리서 AI 안전 규범 촉구

샘 알트먼 오픈AI 최고경영자(CEO)와 다리오 아모데이 앤트로픽 CEO가 인공지능(AI)의 잠재적 위험에 대응하기 위한 국제 공조를 촉구했다. 경쟁 관계에 있는 두 AI 기업 수장이 유엔 안전보장이사회에 함께 참석해 AI 안전 문제를 논의한 것은 이례적이다. 24일 두 CEO는 유엔 총회가 열린 미국 뉴욕에서 개최된 안보리 회의에 참석해 AI 시스템이 자체적으로 성능을 개선하고 인간의 통제 역량을 넘어설 가능성에 대비해야 한다고 강조했다. 정부와 기업이 AI의 미래를 좌우할 핵심 결정 과정에 공동으로 참여해야 한다는 주장이다. 샘 알트먼 CEO는 "서로 경쟁하고 때로는 관계가 좋지 않은 국가들도 강력한 신기술 앞에서 공동의 이익과 공공선을 위해 협력한 사례가 있다"며 "AI 역시 그런 경우가 되어야 한다"고 말했다. 이어 AI 개발 속도를 늦춰야 한다는 주장과 위험을 과소평가하는 견해 사이에서 현실적 접근이 필요하다고 밝혔다. 그는 AI 관련 사고를 신속히 보고하고, 국제 사회가 안전장치와 감독 기준에 합의해야 한다고 강조했다. 샘 알트먼 CEO는 "무엇이 좋은 증거이고, 좋은 안전장치이며, 좋은 감독인지 세계 무대에서 합의할 수 있다면 모두에게 더 나은 결과가 될 것"이라며 "우리가 모든 답을 알고 있는 것은 아니며, 더 나은 아이디어를 받아들일 준비가 돼 있다"고 말했다. 다리오 아모데이 CEO는 화상 발언을 통해 AI가 과학과 의료 분야에 상당한 혜택을 가져올 수 있지만, 동시에 재앙적 결과를 초래할 위험도 있다고 지적했다. 그는 테러 조직이 AI를 활용해 치명적 생물무기를 개발할 가능성과 AI 모델이 개발자의 통제 범위를 벗어날 가능성을 언급하며 국제 안전 기준 마련을 촉구했다. 다리오 아모데이 CEO는 "이 자리에 있는 사람들이 가진 차이에도 불구하고, 우리는 동시에 제시된 세계적 기회와 위협에 맞서기 위해 차이를 넘어야 한다"며 "어떤 지도자나 기업, 국가도 이를 혼자 관리할 수 없다"고 말했다. AI의 실존적 위험을 둘러싼 논쟁은 최근 더 확산되고 있다. 다리오 아모데이 CEO는 이달 초 공개한 장문의 글에서 가장 고도화된 AI 시스템의 개발 속도를 조절하고, 연구자들이 잠재적 위협을 충분히 파악할 시간을 확보해야 한다고 주장했다. 이 견해는 샘 알트먼 CEO와 일론 머스크 등의 지지를 받았으며 미국 의회 내 AI 안전 규제 논의에도 영향을 미쳤다. 안토니우 구테흐스 유엔 사무총장도 개회사에서 최첨단 AI 모델인 프런티어 AI를 둘러싼 국가 간 협력 필요성을 강조했다. 그는 국제적 조율과 안전 기준 마련을 지원하는 데 유엔이 역할을 할 수 있다고 밝혔다. 미중 정상회담을 앞두고 열린 이번 회의에서는 AI를 둘러싼 국제 경쟁과 협력 문제도 부각됐다. 미국과 중국은 AI 분야의 세계적 주도권을 놓고 경쟁하는 동시에, 양국 간 AI 대화 채널을 구축하는 방안을 논의해 온 것으로 알려졌다. AI 안전과 규제, 경제적 파급효과는 정상회담의 주요 의제 중 하나가 될 전망이다. 이번 회의에는 조슈아 벤지오 몬트리올대 교수도 유엔 독립 국제 AI 과학패널 공동의장 자격으로 회의에 참석했다. 벤지오 교수는 AI의 급속한 고도화가 국제 평화와 안보에 미칠 영향을 점검하고, 과학적 근거에 기반한 국제 거버넌스 체계를 마련해야 한다는 필요성을 제기했다. 오픈소스 AI 플랫폼 허깅페이스의 클레망 들랑그 CEO도 참석해 AI 에이전트 공격을 받은 사례를 소개하면서도 개별 사고를 이유로 공포 중심의 대응에 나서서는 안 된다고 경고했다. 클레망 들랑그 CEO는 "공포에 기반한 서사는 이처럼 근본적이고 역량을 강화하는 기술의 미래에 대한 올바른 결정을 내리거나 대중의 동의를 얻는 방법이 아니다"라며 "우리는 AI의 공격을 받았지만 더 중요하게는 AI로 방어했다"고 말했다.

2026.09.24 09:14남혁우 기자

젠슨 황 "통제할 수 없는 AI는 출시하지 말아야"

젠슨 황 엔비디아 CEO가 최근 주요 AI 기업을 중심으로 제기된 AI 개발 속도 조절론에 대해 "개발 자체를 늦추기보다 기업들이 통제할 수 없는 AI 시스템을 출시하지 않는 것이 중요하다"고 발언했다. 젠슨 황 CEO는 23일(현지시간) 공개된 뉴욕타임스 팟캐스트 '에즈라 클라인 쇼'에서 "AI 연구소들이 안전성을 확보하지 못한 시스템을 개발했다면 제품을 시장에 내놓지 않아야 한다"고 말했다. 그는 AI 안전 문제를 모델의 정렬, 격리, 평가와 검증 등의 기술적 문제로 접근해야 한다고 강조했다. AI 기업들이 제품의 안전성을 확신할 수 없다면 출시를 미루고, 개발 과정에서 충분한 테스트와 평가를 진행해야 한다는 것이다. 젠슨 황 CEO는 외부 안전 감사와 제3자 평가 자체에는 긍정적인 입장을 보이면서도, AI 개발 속도 자체를 제한하는 광범위한 규제에는 반대하는 입장을 밝혔다. 이 같은 주장은 최근 앤트로픽을 시작으로 일부 AI 기업들이 제기한 '속도 조절론'과 차이가 있다. 다리오 아모데이 앤트로픽 CEO는 "AI 모델의 역량 발전 속도가 안전장치 마련보다 빨라질 수 있다"고 우려하며, 개발 속도를 늦추고 독립적인 평가기관을 도입하자고 제안했다. 샘 올트먼 오픈AI CEO와 다리오 아모데이 앤트로픽 CEO는 23일 미국 뉴욕에서 UN 안보리 회의에 참석해 "AI 시스템이 자체적으로 성능을 개선하고 인간의 통제 역량을 넘어설 가능성에 대비해야 한다"며 국제 공조를 촉구하기도 했다. 반면 젠슨 황 CEO는 "최고경영자와 이사회가 출시 여부를 결정할 권한과 책임을 갖고 있으며, 안전성에 문제가 있다고 판단하면 제품을 출시하지 않을 수 있다"고 설명했다. 프론티어 AI 모델 개발사들에 이어 AI 생태계의 핵심 축인 엔비디아까지 입장을 내놓으면서, AI 개발 속도와 안전성 확보 사이의 균형을 둘러싼 논쟁은 한층 더 거세질 것으로 보인다.

2026.09.24 09:07권봉석 기자

제 2의 유전자 가위 발견?...앤트로픽 클로드, 새 효소 시스템 발견

앤트로픽이 AI 모델 클로드를 활용해 유전자 가위로 불리는 크리스퍼(CRISPR)와 구조적으로 닮은 새로운 효소 시스템 후보를 찾아냈다. 정확한 기능과 생명공학적 활용 가능성은 아직 확인되지 않았지만, 앤트로픽은 이 시스템이 향후 새로운 유전자 편집 도구로 발전할 가능성에 기대를 나타냈다. 앤트로픽은 23일 공식 블로그를 통해 내부 생명과학 연구팀과 실험실의 첫 연구 성과로 배열 연관 역전사효소(ART) 시스템을 발표했다. ART 시스템은 주로 박테리오파지에서 발견되는 역전사효소(RT) 유전자와 그 주변에 길게 이어진 반복 DNA 배열로 구성된다. 이 반복 DNA 배열은 크리스퍼 시스템의 반복 서열과 유사한 특징을 보인다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 엑스(X)를 통해 ART의 배열 구조가 크리스퍼를 비롯해 DNA를 자르고 복사하거나 삽입하는 일부 시스템과 유사한 특성을 지닌다고 설명했다. ART 시스템은 앤트로픽 연구진이 클로드를 이용해 대규모 DNA 서열 데이터베이스에서 새로운 역전사효소(RT) 사례를 찾는 과정에서 발견됐다. 역전사효소는 RNA를 DNA로 복사하는 효소다. 최근 세균의 면역체계에서 다양한 유형의 역전사효소가 발견되면서 학계의 주목을 받고 있다. 연구는 약 950개의 클로드 에이전트가 21시간 동안 2억1000만 토큰을 사용해 데이터를 탐색하는 방식으로 진행됐다. AI 에이전트는 20만개 이상의 역전사효소를 수집한 뒤 3500개의 신규 후보 시스템을 추렸고, 이를 다시 가장 유력한 20개로 압축했다. 이후 연구자가 검토할 수 있는 보고서도 작성했다. 아모데이 CEO는 전문 과학자에게 수주에서 수개월이 걸릴 수 있는 작업을 클로드가 하루 만에 수행했다고 설명했다. 탐색 과정에서는 한 에이전트가 특이한 역전사효소 유전자 주변의 DNA를 분석하다 일정한 간격으로 반복되는 서열 배열을 포착했다. 에이전트는 반복 서열의 개수와 간격을 측정하고 기존 시스템과 구조를 비교했다. 선행 문헌 검색을 거쳐 새로운 생물학적 시스템 후보라는 판단을 담은 보고서를 제출했다. 앤트로픽에 따르면 이런 특징의 조합은 지금까지 소수 시스템에서만 발견됐다. 이들 시스템은 프로그래밍이 가능하고 DNA 절단, 복사, 삽입 기능과 관련된 것으로 알려졌다. 다만 ART의 기반이 된 역전사효소 자체는 선행 연구에서 이미 확인된 바 있다. 클로드는 이 효소와 연결된 반복 배열 및 부속 단백질을 새롭게 포착한 것으로 앤트로픽은 보고 있다. 앤트로픽은 ART의 주요 기능을 규명하기 위한 실험을 진행 중이라고 밝혔다. ART가 크리스퍼처럼 실제 유전자 편집 도구로 활용될 수 있을지를 판단하려면 상당한 추가 연구가 필요하다는 설명이다. 외부 전문가도 관심을 보였다. 크리스퍼 유전체 편집 기술의 개척자 중 한 명인 펑 장 MIT·브로드연구소 교수는 프리프린트를 검토한 뒤 "AI 에이전트가 생물학적 발견에 기여할 수 있음을 보여주는 흥미로운 사례"라며 "역전사효소와 연관된 RNA 반복 배열의 발견은 진정으로 흥미롭고 추가 연구가 필요하다"고 평가했다. 앤트로픽은 앞으로 생명과학 연구팀을 확대하는 한편 외부 과학자와 협력도 강화할 계획이다. 이번 연구에서 활용한 AI 기반 탐색 방식을 유전체학을 비롯한 다양한 생명과학 분야로 확장한다는 구상이다. 아모데이 CEO는 "새로운 유전자 편집 메커니즘일 수 있다고 본다"면서도 "정확한 기능과 생명공학적 활용 가능성, 중요도는 아직 분명하지 않다"고 밝혔다. 이어 "최소한 내가 박사과정 학생이었다면 자랑스러워했을 연구"라고 덧붙였다.

2026.09.24 08:50남혁우 기자

[AI는 지금] 속도조절론 속 쏟아진 신모델…AI 3사 승부처는

인공지능(AI) 개발 속도를 둘러싼 논쟁이 커지는 가운데 글로벌 AI 기업 3곳이 이틀 사이 신모델을 잇따라 공개했다. 앤트로픽과 오픈AI, 스페이스XAI는 나란히 성능을 높이면서도 안전성과 비용 효율, 에이전트 역량에 각각 무게를 뒀다. 22일(현지시간) 오픈AI는 'GPT-6 솔·루나', 앤트로픽은 '클로드 오퍼스 5.5'를 각각 공개했다. 하루 전인 21일에는 스페이스XAI가 '그록 4.7'을 선보였다. 같은 시기에 나왔지만 각사가 택한 전략은 달랐다. 앤트로픽은 외부 평가와 행동 감사 등 안전 검증을 강화했다. 오픈AI는 GPT-6 아스트라에서 확보한 기술을 더 빠르고 저렴한 솔·루나로 가져왔고 스페이스XAI는 복잡한 작업을 장시간 수행하고 결과를 스스로 확인하는 능력을 키웠다. 성능 경쟁에서는 오퍼스 5.5가 앞섰다. 글로벌 AI 평가기관 아티피셜 애널리시스의 종합 성능 지표(AAII)에서 최고 설정 기준 오퍼스 5.5는 58점을 기록했다. GPT-6 솔은 48점, 그록 4.7은 46점이었다. 다만 오픈AI와 스페이스XAI는 각각 비용 효율과 장시간 에이전트 업무를 주요 경쟁력으로 강조했다. 최근 AI 개발 속도를 조절해야 한다는 주장에는 세 회사 수장 모두 공감을 나타냈다. 다만 실제 안전 대응은 검증 방식과 적용 강도에서 차이가 있었다. 속도조절 필요성을 제기한 앤트로픽은 오퍼스 5.5를 외부 기관에 사전 평가받고 약 2000개 상황을 대상으로 행동 감사를 진행했다. 오픈AI는 솔·루나가 자사 최고 위험 단계에는 이르지 않았다고 판단해 기존 GPT-5.6 솔·루나와 같은 안전장치를 적용했다. 스페이스XAI는 그록 4.7에 새로운 안전체계를 도입했지만 공식 발표에는 외부 기관의 사전 평가나 개발 속도를 늦춘 조치에 대한 내용은 포함되지 않았다. 앤트로픽은 '안전'…외부 검증·고위험 작업 제한 앤트로픽은 오퍼스 5.5에서 외부 검증과 고위험 작업 통제를 강화했다. 회사는 이를 프런티어 AI 개발 속도조절을 제안한 이후 처음 공개한 모델이라고 소개했다. 출시 전에는 미국 비영리 AI 평가기관 모델평가위협연구소(METR)와 프런티어 디자인 등 외부 기관의 평가를 받았다. 내부에서도 모델이 위험하거나 의도하지 않은 행동을 보이는지 자동으로 점검했다. 통제 범위를 벗어나려는 행동도 따로 살폈다. 오퍼스 5.5가 정해진 경계를 우회하려 한 빈도는 기존 오퍼스 5와 미토스 5.1보다 약 85% 낮았다. 확인된 시도는 모두 심각도가 낮았으며 모델이 스스로 이를 보고했다고 회사 측은 설명했다. 악용 가능성이 큰 분야에는 사용 제한을 뒀다. 대부분의 사이버보안 작업은 이전 모델인 오퍼스 4.8이 처리하도록 했으며 일부 생물학 관련 고위험 기능에는 이용자 검증 절차를 적용했다. 성능과 비용도 개선됐다. 초기 평가자가 20만줄 규모의 프로그램 코드를 점검하고 오류를 수정하도록 하자 오퍼스 5.5는 3시간 안에 작업을 마쳤다. 기존 오퍼스 5는 같은 작업에 20시간 이상 걸렸다. 일반적인 작업 비용은 40% 낮아졌고 출력 속도는 30% 이상 빨라졌다. 안전 평가의 한계도 확인됐다. 오퍼스 5.5가 일부 상황에서 자신이 시험받고 있다는 사실을 의심하는 징후를 보였기 때문이다. 앤트로픽은 "모델을 배포하기 전에 모든 실패 가능성을 평가로 찾아내는 방법은 아직 해결되지 않았다"고 설명했다. 오픈AI는 '효율'…아스트라 기술 더 싸게 오픈AI는 아스트라에서 확보한 기술을 더 낮은 비용의 솔과 루나로 가져왔다. 최상위 모델의 성능을 최고가 제품에만 두기보다 작업 난도와 비용에 따라 선택할 수 있도록 GPT-6 제품군을 세분화했다. 솔은 복잡한 코딩과 에이전트 업무처럼 높은 성능이 필요한 작업을 겨냥한다. 루나는 빠른 응답과 낮은 비용이 중요한 대량 작업에 초점을 맞췄다. 오픈AI는 루나를 자사 모델 가운데 가장 빠르고 비용 효율적인 모델로 소개했다. 가격은 GPT-5.6 솔·루나의 프로모션 가격보다 50% 낮췄다. 솔은 입력 토큰 100만개당 2달러, 출력 10달러이며 루나는 각각 0.1달러와 0.5달러다. 안전 대응에서는 기존 체계를 유지했다. 오픈AI는 솔과 루나를 사이버보안과 생물·화학 분야에서 '높은 수준'으로 분류했지만 아스트라가 도달한 사이버보안 '중대한 수준'에는 미치지 않는다고 평가했다. 이에 따라 GPT-5.6 솔·루나와 같은 수준의 안전장치를 적용했다. 아스트라에서 개발한 정렬 기술은 새 모델에도 적용했다. 오픈AI는 솔과 루나가 GPT-5.6 계열보다 탈옥 공격에 대한 저항성과 정렬 평가에서 개선된 결과를 보였다고 밝혔다. 오픈AI는 위험이 일정 수준에 접근하면 실제 개발 속도를 늦춘 경험도 있다. 지난달 아스트라가 중대한 수준의 사이버보안 능력에 도달할 가능성이 나타나자 배포 예정 모델의 강화학습을 2주간 중단했다. 최대 규모의 프런티어 강화학습도 보류하고 보안과 모니터링 체계를 보강했다. 스페이스XAI는 '에이전트'…수시간짜리 업무까지 겨냥 스페이스XAI는 그록 4.7의 장시간 업무 수행과 자기 검증 능력을 강화했다. 기존 그록 4.6보다 큰 기반 모델을 사용하고 강화학습 기간을 늘려 수시간이 걸리는 문제의 학습 비중을 높였다. 모델은 긴 작업을 이어가면서 앞서 내린 판단과 결과를 다시 확인하도록 훈련됐다. 긴 맥락을 관리하는 능력도 높여 코딩뿐 아니라 문서 작성과 전문 지식 업무처럼 여러 단계를 거치는 작업을 겨냥했다. 외부 평가에서도 에이전트 업무 성능이 높아졌다. 아티피셜 애널리시스의 장기 지식 업무 평가 'AA 브리프케이스'에서 그록 4.7은 1657점을 기록해 그록 4.6보다 111점 높았다. 코딩 에이전트 지표도 9점 오른 56점을 기록했다. 가격은 입력 토큰 100만개당 2달러, 출력은 6달러부터 시작한다. 출력 속도를 두 배 높인 별도 모델도 제공한다. 안전 측면에서는 새로운 안전체계를 적용했다. 스페이스XAI는 자체 사이버보안 평가 '해커벤치 0.3'에서 위험한 이중용도 요청 가운데 3.3%만 허용했으며 자사가 평가한 모델 가운데 탈옥 공격 저항성이 가장 높았다고 밝혔다. 머스크도 최근 AI 개발 속도를 늦출 필요성에 공감을 나타냈다. 다만 이번 그록 4.7 공식 발표에서는 개발 속도를 낮추거나 외부 기관의 사전 평가를 받았다는 내용은 공개되지 않았다. 스페이스XAI는 "그록 4.7은 어려운 작업을 더 오래 수행하고 자신의 작업을 더 꼼꼼히 확인할 수 있다"며 "지금까지 가장 잘 조정된 안전장치를 갖췄다"고 밝혔다.

2026.09.23 14:37김동원 기자

"AI 안전성 평가, 개발사에만 맡겨선 안 돼"… 페이페이 리, 외부 검증 체계 촉구

페이페이 리 스탠퍼드대 교수 겸 월드랩스 공동창업자가 고도화되는 인공지능(AI) 시스템 안전성 평가를 개발 기업에만 맡겨서는 안 된다고 지적했다. 독립 기관과 학계, 정부 등 공공 부문이 함께 참여하는 감독 체계와 공통 평가 기준도 마련해야 한다고 강조했다. 페이페이 리 교수는 22일(현지시간) 블룸버그와의 인터뷰에서 AI 기업 내부 연구진이 개별 모델의 성능과 보안 특성을 평가할 수는 있지만 정부, 산업계, 학계가 공동으로 마련하는 폭넓은 기준을 대체할 수는 없다고 말했다. 페이페이 리 교수는 "독립 기관과 학계 등 공공 부문이 마련하는 벤치마크의 중요성을 계속 믿는다"며 "산업계와 정부 역시 함께 책임을 나눠야 한다"고 밝혔다. 페이페이 리 교수가 공동 설립한 월드 랩스는 3차원 환경을 생성하고 재구성하는 이른바 '월드모델'을 개발하고 있다. 이 기술은 로봇 훈련과 평가에 활용될 수 있으며 디자인과 헬스케어를 비롯한 다양한 산업 분야에도 적용될 수 있을 것으로 주목 받고 있다. 최근 AI 기술이 인간의 통제를 벗어날 수 있다는 업계의 경고가 이어지면서 초고성능 AI가 초래할 수 있는 위험을 둘러싼 우려도 커지고 있다. 다리오 아모데이 앤트로픽 최고경영자(CEO)와 샘 알트먼 오픈AI CEO는 최근 최첨단 AI 모델의 개발 속도를 조절할 필요가 있다고 주장했다. 반면 앤드류 응 스탠퍼드대 교수는 AI가 인류를 멸종시킬 수 있다는 일각의 경고에 대해 "공상과학에 가깝다"며 비판적인 견해를 밝혔다. 앤드류 응 교수는 "AI 발전에 위험이 전혀 없다는 뜻은 아니다"라면서도 "업계와 정책 당국이 인류 멸종과 같은 가설적 위험에 매몰되기보다 사이버보안 악용 등 현재 확인 가능한 문제 해결에 집중해야 한다"고 주장했다. 이어 "AI 기업은 인류 멸종과 같은 불확실한 미래 시나리오를 앞세우기보다 기술을 개선하고 안전하게 만들기 위한 현실적 과제에 역량을 집중해야 한다"며 "AI가 할 수 있는 수많은 훌륭한 일에 활용될 수 있도록 해야 한다"고 강조했다. AI에 대한 엇갈린 의견 속에서 페이페이 리 교수는 AI가 인류에게 실존적 위협이 될지 여부는 인간이 이 기술을 어떻게 개발하고 통제하며 활용하느냐에 달려 있다고 설명했다. 전기와 증기기관, 현대 교통수단 등 과거의 주요 기술 역시 사회가 기술적 편익과 인간의 안전 사이에서 균형을 모색해야 했다는 점에서 AI와 유사하다는 것이다. AI 위험성을 어느 수준까지 심각하게 받아들여야 하는지를 놓고 정책 당국과 AI 업계 리더들의 논쟁도 격화하고 있다. 도널드 트럼프 미국 대통령은 유엔 총회 연설에서 AI의 실존적 위협에 대한 우려를 '사기'라고 일축하며 기술 개발을 최대 속도로 이어가야 한다고 주장했다. 페이페이 리 교수는 AI 기술이 현실 세계로 빠르게 확산하는 상황에서 핵심 과제는 더욱 분명해지고 있다고 진단했다. 갈수록 강력해지는 AI를 어떤 기준으로 평가하고, 시스템이 의도한 대로 작동하는지를 누가 검증할 것인지가 산업 전반의 공통 과제로 떠오르고 있다는 것이다. 그는 "AI는 AI 자체에 관한 문제가 아니라 인간에 관한 문제"라며 "우리의 공동체적·개인적 존엄성과 주체성, 그리고 책임에 관한 문제"라고 말했다.

2026.09.23 09:47남혁우 기자

[AI는 지금] AI 속도조절 꺼낸 앤트로픽, 성능·안전 높인 '오퍼스 5.5' 공개

앤트로픽이 인공지능(AI) 개발 속도조절론을 제안한 뒤 처음으로 새로운 모델을 선보였다. 성능을 높이면서 외부 평가와 통제 장치를 강화해 안전성도 함께 끌어올렸다. 앤트로픽은 22일(현지시간) 자사 블로그를 통해 '클로드 오퍼스 5.5'를 공개했다. 코딩과 컴퓨터 사용, 지식 업무 능력을 강화하면서 기존 오퍼스 5보다 일반적인 작업 비용은 40% 낮추고 출력 속도는 30% 이상 높였다. 성능 개선은 실제 작업에서도 확인됐다. 앤트로픽에 따르면 초기 평가자가 20만 줄 규모 프로그램 코드를 점검하고 오류를 수정하도록 하자 오퍼스 5.5는 3시간 안에 작업을 마쳤다. 기존 오퍼스 5는 같은 작업에 20시간 이상이 걸렸다. 전문적인 코딩 평가에서도 성능 향상이 나타났다. AI가 컴퓨터에서 직접 명령을 실행하며 문제를 해결하는 능력을 평가하는 '터미널-벤치 4.0'에서 오퍼스 5.5는 66.4%를 기록했다. 앤트로픽이 공개한 자료에서 오픈AI 'GPT-6 아스트라'는 57.9%, 기존 오퍼스 5는 52.3%였다. 앤트로픽은 다만 이런 점수만으로 모델의 우열을 판단하기는 어렵다고 설명했다. 모델 성능이 높아질수록 벤치마크의 작은 점수 차이가 실제 사용 환경에서 그대로 나타나지 않을 수 있어서다. 비용도 낮췄다. 기업이나 개발자가 오퍼스 5.5를 사용할 때 내는 가격은 입력 토큰 100만개당 4달러, 출력 토큰 100만개당 20달러다. 기존 오퍼스 5보다 각각 20% 저렴하다. 앤트로픽은 성능과 비용을 개선하면서 안전장치도 강화했다고 밝혔다. 이번 모델은 출시 전 AI 평가기관인 모델평가위협연구소(METR)와 프런티어 디자인 등 외부 기관의 평가를 거쳤다. 내부에서는 약 2000개 상황을 대상으로 모델이 위험하거나 의도하지 않은 행동을 보이는지 확인하는 자동화 행동 감사도 진행했다. 회사 측은 오퍼스 5.5가 지금까지 평가한 모델 가운데 가장 높은 수준의 안전성을 보였다고 평가했다. 별도 평가에서는 모델이 정해진 통제 경계를 우회하려 한 빈도가 기존 오퍼스 5와 클로드 미토스 5.1보다 약 85% 낮았다. 확인된 우회 시도는 모두 심각도가 낮았으며 모델이 스스로 이를 보고했다. 사이버보안과 생물학처럼 악용 위험이 큰 분야에는 별도 안전장치를 적용했다. 사이버보안 작업 대부분은 이전 모델인 오퍼스 4.8이 처리하도록 했으며 일부 생물학 관련 기능은 검증된 이용자에게만 제공한다. 다만 안전 평가 과정에서는 한계도 드러났다. 오퍼스 5.5는 일부 상황에서 자신이 시험받고 있다는 사실을 눈치챈 듯한 반응을 보였다. 앤트로픽은 평가 환경을 인식한 모델이 실제 사용 환경에서는 다르게 행동할 가능성이 있어 출시 전 평가만으로 모든 문제를 찾아내기는 어렵다고 설명했다. 앤트로픽은 "현재 모델은 기존 안전 관행으로 관리할 수 있는 수준"이라며 "AI 연구를 완전히 자동화할 수 있는 미래 모델에는 더 높은 기준과 공공정책의 더 큰 역할이 필요하다"고 밝혔다.

2026.09.23 09:17김동원 기자

[AI는 지금] 오픈AI 추격에 속도 내는 앤트로픽…'페이블 5.2' 곧 내놓나

오픈AI의 최신 인공지능(AI) 모델 '아스트라'가 기업·개발자 시장에서 빠르게 영향력을 넓히자 앤트로픽이 차세대 모델 출시를 서두르는 정황이 포착됐다. 22일 IT 업계에 따르면 앤트로픽은 기업공개(IPO)를 앞두고 새로운 AI 모델을 출시하는 방안을 내부적으로 논의하고 있는 것으로 전해졌다. 해당 논의는 지난 3일 출시된 오픈AI 'GPT-6 아스트라'가 기업 AI 지출과 개발자 이용량을 빠르게 늘리는 가운데 진행되고 있다. 실제 차기 모델로 추정되는 제품 테스트 정황도 나타났다. 테스팅카탈로그에 따르면 최근 엑스(X) 등 소셜미디어에는 앤트로픽의 미공개 모델 '클로드 페이블 5.2'가 생성한 것으로 추정되는 결과물이 잇따라 공유됐다. 앤트로픽은 해당 모델 테스트 진위여부를 공식적으로 발표하지 않았다. 공개된 사례에서는 페이블 5.2로 추정되는 모델이 외부 이미지 파일이나 플러그인, 서드파티 도구 없이 순수 자바스크립트만으로 게임과 인터랙티브 애니메이션을 구현했다. 모델이 한 번에 코드를 생성하고 캐릭터 이미지와 움직임까지 직접 구성한 것으로 나타났다. 일부 이용자는 페이블 5.2로 추정되는 모델과 아스트라 성능을 직접 비교하기도 했다. 한 테스터는 동일한 복잡한 프롬프트를 적용한 결과 새로운 페이블 모델이 기존 버전과 크게 다른 결과를 생성했다며 성능이 상당폭 개선됐다고 평했다. 현재 앤트로픽 고성능 모델 '오퍼스' 후속 제품 출시설도 나오고 있다. 테스팅카탈로그는 차기 모델이 '오퍼스 5.5'라는 이름으로 공개될 가능성이 있으며 이르면 이번 주 발표될 수 있다고 밝혔다. 다만 앤트로픽이 내부에서 출시를 논의 중인 신모델과 페이블 5.2 또는 오퍼스 5.5가 같은 제품인지는 확인되지 않았다. 앤트로픽이 신모델 출시를 검토하는 배경에는 아스트라 출시 이후 달라지고 있는 시장 지표가 있는 것으로 풀이된다. 기업 지출 관리 플랫폼 '램프'가 추적하는 기업 AI 지출에서 아스트라가 차지하는 비중은 약 13%로 집계됐다. 앤트로픽 최신 모델 '클로드 페이블'은 약 8%에 그쳤다. 개발자 이용 지표에서도 오픈AI가 앤트로픽을 추월한 것으로 나타났다. 오픈라우터 수치에 따르면 최근 한 주 동안 오픈AI 모델에 대한 지출이 앤트로픽을 넘어섰다. 오픈AI 모델 지출이 오픈라우터에서 앤트로픽을 앞선 것은 2년 반여 만에 처음인 것으로 전해졌다. 이런 흐름은 기업용 AI 시장에서 강점을 보여온 앤트로픽에도 부담으로 작용하고 있다. 잠재적 투자자들 사이에서는 오픈AI가 아스트라를 앞세워 앤트로픽의 기업 고객을 가져갈 가능성이 있는지에 대한 관심도 커지고 있다. 일각에선 대기업 고객이 기존 AI 공급사를 단기간에 바꾸기는 쉽지 않다는 분석도 나온다. 앤트로픽이 이미 기업 고객 기반을 확보하고 있는 데다 대기업은 기존 기술 공급사를 교체하는 데 상당한 시간이 필요하기 때문이다. 현재 페이블 5.2와 오퍼스 5.5의 정확한 모델명과 출시 일정은 아직 확정되지 않았다. 앤트로픽 역시 현재까지 신모델 출시 논의와 관련해 구체적인 입장을 밝히지 않고 있다. 한 개발자는 "동일한 복잡한 프롬프트를 적용했는데 기존 페이블과는 완전히 다른 결과가 나왔다"며 "새 미공개 모델 성능이 크게 개선됐고 아스트라와 비교해도 경쟁력이 있는 수준으로 보였다"고 말했다.

2026.09.22 14:42김미정 기자

[AI는 지금] '속도조절' 앞세운 오픈AI·앤트로픽, 소송 불똥…"서로 AI도 시험"

오픈AI와 앤트로픽이 경쟁사의 인공지능(AI) 모델을 서로 시험해 안전 취약점을 찾아내는 방안을 추진하고 있다. AI 모델이 개발자의 예상에서 벗어난 행동을 보이는 사례가 잇따르자 자체 검증을 넘어 경쟁사가 직접 모델을 시험하는 방식까지 검토하고 나선 것이다. 22일 디인포메이션에 따르면 오픈AI와 앤트로픽은 올해 초 서로의 AI 모델을 대상으로 안전성 테스트를 실시하기 위한 법적 구속력이 있는 계약을 논의했다. 양사와 법률대리인들은 계약 조건을 구체적으로 협의해 합의에 근접했으나 실제 계약이 체결됐는지는 확인되지 않았다. 논의된 방식은 상대 회사가 상용으로 제공하는 AI 모델의 애플리케이션 프로그래밍 인터페이스(API)에 접근해 취약점과 예상하지 못한 행동을 찾는 구조다. 아직 공개되지 않은 모델은 대상에서 제외하고 테스트 과정에서 확보한 상대 회사의 데이터도 보관하지 않는 조건이 포함된 것으로 전해졌다. 양사가 서로의 모델을 평가하는 것은 처음이 아니다. 앞서 오픈AI와 앤트로픽은 지난해 여름 상대 회사 모델을 자사의 안전 평가 체계로 각각 시험하고 결과를 공개했다. 당시 오픈AI는 앤트로픽 모델에서 테스트 과정의 규칙 위반을 인정하지 않는 등 기만적 행동이 상대적으로 많이 나타났다고 평가했다. 앤트로픽은 오픈AI 모델이 현실에서 피해를 일으킬 수 있는 질문에 응답하는 경향이 상대적으로 높았다고 밝혔다. 이번 협의는 AI 모델의 능력이 빠르게 높아지면서 기존 안전검증 방식만으로 예상하지 못한 행동을 찾아내기 어려워지고 있다는 우려 속에서 진행됐다. 특히 AI 에이전트가 인터넷과 외부 애플리케이션을 직접 사용하고 다른 에이전트와 협업할 수 있게 되면서 모델의 행동 범위도 넓어지고 있다. 오픈AI 내부에서도 이런 변화가 감지되고 있다. 디인포메이션에 따르면 오픈AI는 새로운 실험 모델의 훈련 과정을 상당 부분 자동화했다. 연구자가 시험할 내용을 지시하면 AI가 직접 모델을 수정하고 실험을 수행한 뒤 결과까지 확인하는 방식이다. 일부 AI 에이전트는 사용자의 명시적인 지시 없이 다른 직원에게 연락해 발견한 버그를 수정해 달라고 요청하는 등 예상하지 못한 행동을 보인 것으로 전해졌다. 이처럼 안전 우려가 커지면서 경쟁사 간 검증을 확대하자는 주장도 힘을 얻고 있다. 일론 머스크 스페이스XAI 최고경영자(CEO)는 최근 경쟁 AI 기업들이 모델을 상용화하기 전에 서로 안전 취약점을 검사하는 일종의 '동료평가' 방식을 제안했다. 샘 알트먼 오픈AI CEO도 다리오 아모데이 앤트로픽 CEO가 제시한 독립적인 제3자 평가기관의 내부 접근 허용 방안에 동의했다. 오픈AI와 앤트로픽, 구글은 프론티어 AI 모델을 시험하고 감사하는 안전 표준기구 설립 방안도 논의해왔다. 하지만 AI 기업들의 안전 공조가 확대되면서 반독점법과 충돌할 가능성도 제기되고 있다. 실제 미국 소비자 4명은 지난 18일 캘리포니아 북부연방지방법원에 앤트로픽과 오픈AI, 스페이스XAI, 구글을 상대로 반독점 소송을 제기했다. 주요 AI 기업들이 AI 개발 속도를 공동으로 늦추기로 합의했다는 것이 원고 측 주장이다. 원고 측은 개별 기업이 독자적으로 안전 기준을 강화하거나 개발 속도를 늦추는 것 자체는 문제 삼지 않았다. 다만 경쟁 관계인 기업들이 공동으로 모델 개발과 성능 개선 속도를 제한하는 행위가 미국 셔먼법이 금지하는 경쟁 제한 합의에 해당한다는 논리를 펴고 있다. 반면 AI 안전을 위한 공동 연구나 표준 마련은 원전·사이버보안 산업의 안전 협력과 유사하게 볼 수 있다는 반론도 제기되고 있다. 소송을 제기한 변호사 닉 롤리는 성명을 통해 "AI가 인류의 통제를 벗어날 위험에 대비한 안전장치는 필요하지만 세계에서 가장 영향력이 큰 영리 기술기업들의 사적인 합의가 AI 개발 방향을 결정해서는 안 된다"며 "관련 규칙은 정부가 투명한 절차와 공적 책임 아래 마련해야 한다"고 말했다.

2026.09.22 10:35장유미 기자

트럼프-시진핑 만찬, 빅테크 수장들도 모인다

도널드 트럼프 미국 대통령과 시진핑 중국 국가주석의 정상회담을 앞두고 미국 주요 빅테크 수장들이 백악관 국빈 만찬에 집결한다. 이번 정상회담에서 인공지능(AI)이 주요 의제로 다뤄질 것으로 전망되면서 미중 AI 경쟁과 개발 속도·안전성을 둘러싼 논의에도 관심이 쏠린다. 21일(현지시간) 블룸버그 통신에 따르면 사티아 나델라 마이크로소프트(MS) 최고경영자(CEO)는 오는 24일 백악관에서 열리는 시 주석 환영 국빈 만찬에 참석할 예정이다. 앞서 참석이 알려진 팀 쿡 애플 집행의장을 비롯해 젠슨 황 엔비디아 CEO, 샘 알트먼 오픈AI CEO, 크리스티아노 아몬 퀄컴 CEO 등도 함께 할 예정이라고 블룸버그는 전했다. 이번 미중 정상회담에서는 AI가 주요 의제 가운데 하나로 다뤄질 예정이다. 미국 의회에서도 양국 정상이 AI 안전 기준을 논의해야 한다는 요구가 나온 것으로 전해졌다. 정상회담을 앞두고 양국 정부는 AI 관련 별도 대화 채널도 마련하기로 했다. 블룸버그에 따르면 스콧 베선트 미국 재무장관은 중국 측과의 AI·무역·투자 협의를 '매우 성공적'이라고 평가했다. 양측은 또 AI의 목표와 위협에 대한 공통된 이해를 마련하기 위한 대화를 이어가기로 합의했다. 최근 다리오 아모데이 앤트로픽 CEO가 AI의 사이버공격 등 위험성에 따른 'AI 속도조절론'을 주장하면서 업계에서는 개발 속도를 둘러싼 논쟁이 이어지고 있다. 트럼프 대통령은 "AI에서 승리하는 자가 승리한다"며 개발 속도 조절에 부정적인 입장을 보이고 있다. 중국 외교부 역시 일부 미국 빅테크들의 AI 개발 속도 조절 요구를 두고 "공포 조장과 대립은 글로벌 AI 거버넌스를 방해할 뿐"이라고 비판했다.

2026.09.21 18:15이나연 기자

젠슨 황, AI 인류멸망론 반박…"AI 공포 조장, 불필요하고 무책임"

젠슨 황 엔비디아 최고경영자(CEO)가 인공지능(AI)이 인류를 멸망시킬 수 있다는 경고를 근거 없는 주장으로 일축했다. AI 위험을 과장해 대중의 공포를 키우는 대신 안전한 기술 개발에 집중해야 한다고 강조했다. 21일 미국CBS 등 외신에 따르면 황 CEO는 이날 방송된 인터뷰에서 2030년에 세계가 종말을 맞을 확률은 0%라고 주장했다. AI 인류멸망론을 과학적 근거가 부족한 '종말론적 서사'로 규정한 것이다. 최근 AI 업계에서는 기술이 인간 통제에서 벗어날 가능성을 둘러싼 논쟁이 이어지고 있다. AI가 스스로 성능을 높이는 단계에 진입하면 인류 생존까지 위협할 수 있다는 우려다. 앤트로픽 연구원 출신 제이콥 콕슨은 AI의 위험성을 이유로 회사를 떠난 뒤 지난 8일 엑스(X)에 테크 기업들이 통제를 벗어날 수 있는 자가발전형 AI 모델을 앞다퉈 개발하고 있다고 주장했다. 기술자들이 10년 안에 AI가 인류를 모두 없앨 수 있다고 진심으로 믿고 있다는 주장도 내놨다. 다리오 아모데이 앤트로픽 CEO와 샘 알트먼 오픈AI CEO도 AI 개발 속도를 조절할 필요가 있다는 입장을 밝혀왔다. 이는 AI 시스템 구동에 필요한 하드웨어(HW)를 공급하는 황 CEO와 상반된 견해다. 황 CEO는 AI 업계가 제품을 책임감 있게 개발하도록 만드는 것이 엔비디아 이익과도 맞닿아 있다고 강조했다. 빠르게 기술을 개발하더라도 준비되지 않았거나 안전하지 않은 제품을 출시해서는 안 된다는 설명이다. 그는 AI 속도조절론을 제기하는 기업들의 의도에도 물음표를 던졌다. 이들이 새로운 규제를 요구하는 것이 아니라 기존 법률에 따른 책임을 피하려는 것일 수 있다는 지적이다. 앞서 도널드 트럼프 미국 대통령도 지난 14일 로스앤젤레스에서 열린 행사에서 AI 속도조절론을 정치적 의도가 담긴 주장이나 중국의 계략으로 규정했다. 당시 행사 무대에 있던 황 CEO에게 전화해 이를 '사기'라고 비판했고 황 CEO도 이에 동의했다. 황 CEO는 "2030년이 세계의 종말이 되지는 않을 것"이라며 "AI 때문에 세상이 끝날 확률은 0%"라고 말했다.

2026.09.21 17:39김미정 기자

"구글·오픈AI부터 퍼플렉시티까지"…빅테크 AI 거물 한 자리 모인다

생성형 AI를 넘어 '피지컬·에이전틱 AI'로 진화하는 격변의 시기를 맞아, 글로벌 AI 시장을 주도하는 빅테크 핵심 리더들이 서울에 총출동한다. 과학기술정보통신부 'AI 주간(AI Week)'의 공식 행사인 'AI 페스타 26'이 10월 6일부터 8일까지 사흘간 서울 코엑스C홀(3층) 등에서 개최된다. 이번 행사는 단순한 전시를 넘어 세계 최고 수준의 글로벌 빅테크 연사들이 대거 참여하는 컨퍼런스 중심으로 구성돼 글로벌 AI 트렌드와 현 수준을 확인할 수 있는 격 높은 지식 공유의 장이 될 전망이다. 구글·AWS·오픈AI·퍼플렉시티·KT·현대차 등 국내외 최고 전문가 강연 행사 첫날인 6일 오전 메인 무대에서 열리는 'AI 서밋'을 통해 글로벌 리더들의 거시적인 비전이 제시된다. 구글 딥마인드의 로라 아로요 박사가 '글로벌 AI 정렬을 위한 문화 우선적 접근' 주제 기조연설로 포문을 열고, 이어 아마존웹서비스(AWS)의 프레데리코 코스타 APAC AI 정책 총괄이 아태지역 확장을 위한 데이터 거버넌스와 클라우드 전략을 발표한다. 최기영 앤트로픽 코리아 대표와 박상원 KT 전무도 차례로 무대에 올라 프론티어 AI 모델의 변화와 대한민국 AX의 미래를 논의할 예정이다. 둘째 날인 7일에 열리는 '퓨처 테크 컨퍼런스'는 차세대 기술의 현장 적용에 초점을 맞춘다. 특히 '피지컬 AI 및 로보틱스' 세션에서는 오픈AI의 이상현 APAC 글로벌페어스 총괄이 지능이 현실 세계에 구현되는 미래를 조망하고, 현대차그룹 로보틱스랩 주시현 상무와 롯데이노베이트 전시형 센터장이 산업 현장에서 현실이 된 피지컬 AI 혁신 전략을 공유한다. 이어지는 '글로벌 프론티어' 세션에서는 전 세계적인 AI 검색 돌풍의 주역인 퍼플렉시티의 모리타 준 APAC 총괄대표가 에이전틱 미래 구축에 대해 강연한다. 또 케이 주 젠스파크 공동창업자, 셴커 V 셀바두라이 IBM APAC 부사장을 비롯해 유니티 테크놀로지스 코리아 김범주 본부장, 밀라(MILA)의 프레데릭 로랑 파트너십 총괄 등 거물급 연사들이 차세대 생태계를 다각도로 짚어본다. 아울러 디노티시아, 웹케시, 몽고DB, AWS의 전문가들이 차세대 엔터프라이즈 AI를 위한 데이터 인프라와 클라우드 마이그레이션 실전 사례를 상세히 소개할 계획이다. AI 기술, 실제 비즈니스 구현 사례 공유...216개 기업, 501개 부스 꾸려 마지막 날인 8일은 AI 기술의 실제 비즈니스 구현을 살펴보는 'AIR(AI Realization) 쇼케이스'로 채워진다. 퓨처플레이 최재웅 전무가 투자자의 시각에서 바라본 AI 산업화의 분기점을 분석하고, 더존비즈온 지용구 대표와 팀뷰어 김도연 상무가 AI 네이티브 시대의 엔터프라이즈 운영 기준과 자율형 IT 운영의 미래를 제시한다. 또한 모비젠, 아이티센, 지란지교소프트, 아크릴, 딥엑스 등 주요 혁신 기업들이 엔터프라이즈 생산성 혁신 방안을 발표하며, 콴델라코리아는 AI의 미래를 다시 쓰는 양자컴퓨터 기술을 소개해 산업별 실질적인 활용 가이드를 제공할 예정이다. 최고 수준의 강연과 더불어, 전시장에서는 역대 최대 규모인 216개 기업이 501개 부스를 꾸려 AI 기술의 현재를 시연한다. 스폰서로 참여하는 KT와 화웨이를 필두로 삼성SDS, 한컴, 야놀자, 티맥스소프트, NHN클라우드 등 국내외 대표 기업들이 대거 합류했다. 특히 전시장은 ▲AI 파운데이션 모델 ▲피지컬 AI & 로봇 ▲에이전틱 AI + X ▲AI 반도체 ▲국방 AI ▲보안 & 양자 등 총 9개의 테마 특별관으로 세분화돼 대형 AI 모델부터 인프라까지 폭넓은 산업 지형 변화를 한눈에 확인할 수 있다. 조준희 조직위원장·이해민 AI미래기획수석·하정우 국가AI전략위 부위원장, 현장 목소리 청취 행사 첫날(6일) 오후에 마련된 '공식 개막식'과 'AI 산업 정책 토크쇼'는 정부와 산업계가 머리를 맞대는 핵심 자리다. 오후 3시부터 시작되는 개막식은 조준희 AI페스타조직위원장의 개회 선언을 필두로, 이해민 AI미래기획수석의 축사와 송기헌 과방위원장의 영상 축사가 이어진다. 세계적인 AI 석학 요슈아 벤지오 교수 역시 영상을 통해 각별한 축하의 메시지를 전할 예정이다. 주요 VIP들의 전시 투어 이후 오후 4시부터는 '현장의 목소리, 정책에 담다-AI 산업계와 함께 묻고 답하다'라는 주제로 AI 산업 정책 토크쇼가 본격 진행된다. 이 자리에서는 하정우 국가인공지능전략위원회 부위원장이 직접 '국가 AI 산업 정책 및 방향'을 발표하며, 이어 참석자들과 함께 국내 AI 산업 생태계 현안을 논의하는 자유 토론이 생생하게 펼쳐질 계획이다. 글로벌 빅테크 강연과 다채로운 전시, 그리고 국가 차원의 정책 논의까지 결합된 이번 'AI 페스타 26'은 10월 2일 오후 6시까지 공식 홈페이지를 통해 사전 등록을 완료하면 전시 및 일부 컨퍼런스 프로그램에 무료로 참여할 수 있다. 단, AI 서밋과 퓨처 테크 컨퍼런스는 유료 등록 시에만 입장 가능하다.

2026.09.21 16:15백봉삼 기자

"AI 연구, 실제 실험으로"…앤트로픽, 자체 생물학 연구실 운영

앤트로픽이 인공지능(AI)을 활용한 생물학 연구를 실제 실험으로 검증하기 위해 자체 연구실을 운영하고 있는 것으로 확인됐다. 18일(현지시간) 로이터와 테크크런치 등에 따르면 앤트로픽은 미국 샌프란시스코 베이 지역에 생물학 연구실을 두고 실제 실험을 진행하고 있다. 자체 시설에서 연구하면서 외부 기관과의 공동 실험도 병행 중이다. 이 연구실은 생물학적 시료와 장비를 이용해 실제 실험을 하는 '웻랩(Wet Lab)'이다. 컴퓨터로 데이터를 분석하거나 결과를 예측하는 데 그치지 않고 AI를 활용한 연구가 실제 생물학에서도 성립하는지 실험을 통해 확인할 수 있다. 앤트로픽은 자체 연구실에서 구체적으로 어떤 실험을 하고 있는지는 공개하지 않았다. 다만 신약 자체를 개발하기보다는 생명현상이 어떻게 작동하는지 등을 살피는 기초 생물학 연구에 초점을 맞추고 있다고 밝혔다. 이와 별도로 회사는 AI와 실제 실험 장비를 연결하는 연구도 진행 중이다. AI 모델 '클로드'가 로봇 장비를 제어해 사람의 개입을 줄인 상태에서 과학 실험을 수행하도록 하는 연구다. 다만 안전을 위해 사람의 감독과 참여가 필요하다고 설명했다. 생명과학 분야 투자도 늘리고 있다. 앤트로픽은 지난 4월 AI 바이오 기업 '코이피션트 바이오'를 인수했으며 과학 연구를 지원하는 '클로드 사이언스'도 선보였다. 제약업계에서는 이미 클로드 활용이 시작됐다. 로슈의 자회사 제넨텍과 브리스톨마이어스스큅(BMS), 노보 노디스크 등이 앤트로픽의 AI 서비스와 도구를 이용하고 있다. 앤트로픽은 임상시험을 직접 진행하기보다 AI를 이용해 기존 방식으로 풀기 어려웠던 생물학 문제를 연구하는 데 초점을 맞추고 있다. 생물학 연구에 AI를 적용하면서 안전장치도 마련하고 있다. AI가 생물무기 개발에 악용될 가능성을 경고해온 만큼 생명과학 분야의 AI 활용을 확대하면서 악용 위험을 줄이는 조치도 병행 중이다. 에릭 카우더러-에이브럼스 앤트로픽 생명과학 책임자는 "생물학 연구의 최종 검증은 실제 실험을 통해 이뤄지며 이런 방식은 당분간 계속될 것"이라며 "우리도 지금 실제 실험을 진행하고 있다"고 말했다.

2026.09.20 09:39김동원 기자

AI 속도 조절 제안한 앤트로픽, 모델 개발 전 과정 외부 검증

앤트로픽이 인공지능(AI) 개발 속도를 둘러싼 안전 논의를 실제 검증 단계로 옮긴다. 외부 평가자를 회사 내부에 배치해 AI 개발 과정의 안전성을 검증하기로 했다. 앤트로픽은 18일(현지시간) 자사 블로그를 통해 액센츄어와 프런티어 AI 독립 평가를 위한 파트너십을 체결했다고 밝혔다. 액센츄어의 AI 전문 조직 '패컬티'가 직원과 비슷한 수준의 접근 권한을 받아 모델 훈련부터 개발·배포 과정까지 내부에서 평가한다. 모델 평가와 레드팀 테스트를 비롯해 정렬 평가와 안전장치 시험도 맡는다. 액센츄어는 기업과 정부의 AI 도입을 지원해 온 글로벌 컨설팅·기술 서비스 기업이다. AI와 데이터, 사이버보안, 기업 시스템 구축 등의 사업을 수행하고 있다. 현재 120여 개국에서 약 9000개 고객사를 지원하고 있다. 앤트로픽은 액센츄어가 여러 산업에서 AI를 실제 구축해 온 경험을 모델 안전성 평가에 활용할 수 있다고 설명했다. 이번 협력은 최근 앤트로픽이 제기한 AI '속도조절론'의 후속 조치다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 최근 '우리는 프런티어의 속도를 조절해야 한다'는 글에서 외부 평가자를 AI 기업 내부에 배치하는 방안을 제시했다. 앤트로픽은 이번 협력을 당시 약속을 이행하기 위한 중요한 단계로 규정했다. 내재형 평가로 불리는 이 방식은 완성된 모델을 외부에서 시험하는 기존 평가와 달리 AI가 만들어지는 과정부터 살펴본다. 평가자는 모델 훈련 과정과 개발·배포 과정에서 내려지는 결정을 확인하고 회사 직원들과 직접 소통한다. 평가자는 앤트로픽이 AI 안전과 관련해 내건 약속을 실제로 지키는지 확인하고 내부에서 놓친 위험을 찾는다. 사고가 발생하면 이를 보고하고 AI가 가져올 이점과 위험에 대해 외부에 보다 구체적인 정보를 제공하는 역할도 맡는다. 앤트로픽과 액센츄어는 내재형 평가 역량을 구축하기 위해 앞으로 5년간 각각 최소 10억 달러(약 1조3800억원)를 투자할 예정이다. 다만 내재형 평가는 아직 초기 단계여서 운영 기준은 마련되지 않았다. 평가자가 기업 내부의 어떤 정보까지 접근할 수 있는지와 평가 결과를 어떻게 공개할지에 대한 기준도 정해지지 않았다. 평가 비용을 마련하는 방식도 과제로 남아 있다. 이번 액센츄어의 평가 비용은 앤트로픽이 직접 부담하지만 장기적으로는 공동 기금이나 정부 재원을 활용해야 한다는 게 앤트로픽의 입장이다. 앤트로픽은 여러 외부 기관이 함께 AI를 검증하는 체계도 추진한다. 현재 비영리 AI 평가기관 '메트르' 등과 내재형 평가 방식을 시범 적용하는 방안을 논의하고 있으며 앞으로 몇 주 안에 추가 협력 기관을 발표할 예정이다. 액센츄어와의 협력도 독점 계약이 아니어서 다른 AI 개발사도 같은 방식의 평가를 받을 수 있다. 앤트로픽은 "독립적인 내재형 평가자는 우리의 책임을 줄이는 것이 아니라 이를 더 검증 가능하게 만드는 역할을 한다"며 "모델의 안전에 대한 책임은 여전히 우리에게 있다"고 밝혔다.

2026.09.20 09:37김동원 기자

Prev 1 2 3 4 5 6 7 8 9 10 Next