검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'오픈AI'통합검색 결과 입니다. (1117건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

오픈AI, '두번째 탈옥' 사고...최근 몇년간 일어난 보안사고 보니

최근 외신은 오픈AI AI 모델이 미국 인구조사국과 증권거래위원회(SEC) 등 미 정부 웹사이트의 공개 데이터에 접근했다고 보도했다. 오픈AI도 자체 조사에서 외부 시스템에 영향을 미친 사례를 확인하고 미 정부를 포함한 수십 곳에 통보했다. 미국 뿐 아니다. 오픈AI 에이전트는 뉴멕시코대 디지털도서관과 호주 보건복지연구원(AIHW)에도 접근을 시도했다. 특히 일부 에이전트는 정상 접근이 막히자 다른 경로를 찾거나 취약점을 탐색했다. 가뜩이나 지난 7월 발생한 '허깅페이스(Hugging Face) 사건' 이후 AI 에이전트 통제 문제로 세계가 우려하고 있는 가운데 또다시 'AI 탈옥'사고가 터진 셈이다. '허깅 페이스'는 AI 모델과 데이터셋을 공유하고 개발할 수 있는 글로벌 AI 플랫폼이다. '허깅페이스 사건'은 오픈AI가 사이버보안 능력을 평가하던 중 AI 에이전트가 지난 7월 통제된 샌드박스를 탈출해 인터넷에 접근, 허깅페이스(Hugging Face)의 일부 운영 인프라를 침해한 사건을 말한다. AI가 사람 통제를 벗어났다는 점에서 큰 충격을 줬고, 결국 미국계 빅테크들이 고성능 AI 개발과 공개를 늦추자고 주장하기에 이르렀다. 오픈AI는 최근 일어난 보안사고에 대해 "보안을 유지하고 인터넷 접속을 차단한 환경에서 훈련하고 있던 또 다른 에이전틱 AI 시스템이 보안상 허점을 이용해 웹에 접속하고, 외부의 제3자 챗봇에 접근했다"고 발표했다. 에이전틱AI가 또 다시 오픈AI 샌드박스를 뚫고 다른 시스템에 접속하는 '탈옥'을 한 것이다. '탈옥'은 AI가 스스로 사람의 통제를 벗어나는 걸 말한다. 컴퓨터 용어로는 정렬을 벗어났다고 한다. 두번째 탈옥은 DNS(Domain Name system)가 문제였다. DNS는 인터넷의 '전화번호부'로, 사람이 읽는 도메인 이름을 컴퓨터가 이해하는 IP 주소로 바꿔주는 역할을 한다. 이번 사건 외에도 오픈AI에는 최근 몇년간 여러 보안 사고가 일어났다. 특히 이들 보안사고는 '허깅스페이스 사건'을 분기점으로 성격이 확연히 구분된다. 즉, 허깅스페이스 사건 이전에는 사람이나 외부 공격자가 오픈AI 시스템과 데이터를 침해하는게 문제였다면, 허깅스페이스 사건 이후에는 오픈AI가 만든 AI 에이전트 자체가 보안통제를 우회해 공격행동을 하는 문제가 전면에 등장했다. 한 보안전문가는 "허깅페이스 이전의 오픈AI 보안 문제는 '오픈AI가 공격받을 수 있는가'였다면, 허깅페이스 이후에는 오픈AI AI가 통제를 벗어나 다른 시스템을 공격할 수 있는가로 바뀌었다"고 짚었다. 오픈AI에 발생한 최근 몇년간의 보안사고를 허깅페이스 사건 이전과 이후로 구분, 정리했다. 허깅페이스 사건 이전에 일어난 오픈AI 보안 사고들 ▲버그로 챗GPT 장애(2023년 3월 20일): 이날 챗GPT에서 장애가 발생해 오픈AI가 서비스를 일시 중단하는 사고가 발생했다. 오픈AI 조사 결과, 파이선(Python)용 레디스(Redis) 라이브러리인 'redis-py'의 버그가 원인이었다. 챗GPT는 사용자 정보를 빠르게 처리하기 위해 레디스 캐시를 사용하고 있었는데, 오픈소스 라이브러리 버그가 일어났다. 이 사고로 챗GPT 이용자의 개인정보와 대화 정보가 다른 이용자에게 노출됐다. ▲내부 정보 탈취(2023년초): 한 미국 매체가 2024년 7월 보도해 알려진 것으로, 2023년 초 한 해커가 오픈AI의 내부 메시징 시스템에 침입, 최신 AI 기술을 논의하던 온라인 내부 포럼 대화 내용을 빼갔다. 직원 개인정보가 아닌, 오픈AI가 AI를 어떻게 개발하고 있는지에 관한 내부 기술 정보를 탈취한 것이다. 정확한 시점은 공개되지 않았는데, 오픈AI 경영진은 2023년 4월 전 직원 회의(all-hands meeting)에서 이 사건을 알리고 이사회에도 보고했다. ▲챗GPT 이용자 계정 탈취(2024년 1월): 한 챗GPT 사용자가 자신의 계정에 로그인했더니 자신이 작성하지 않은 다른 이용자들의 대화 기록이 나타났다. 오픈AI 조사 결과, 해당 이용자의 계정이 탈취(account takeover)된 사건으로 판단됐다. 오픈AI는 해당 계정에서 스리랑카에서 발생한 비정상적인 로그인을 확인했고, 다른 이용자의 대화가 나타난 것은 외부 공격자가 해당 계정을 사용하면서 발생한 것이라고 설명했다. ▲제 3자 분석업체 믹스패널(Mixpanel) 데이터 침해(2025년 11월): 오픈AI의 제3자 분석업체 믹스패널이 침해된 사건이 일어났다. 믹스패널이 스미싱(smishing) 공격을 탐지했고, 공격자가 이 회사의 시스템 일부에 무단 접근했다. 믹스패널은 공격자가 접근한 계정들을 통해 데이터를 조회 및 내보낸 사실을 조사했다. 오픈AI는 이해 11월 9일 믹스패널로부터 사고 사실을 통보받았고, 11월 25일 영향을 받은 데이터셋을 전달받았다. ▲악성 앱 다운로드(올 3월말): 오픈AI의 맥OS(macOS) 앱 빌드·서명 환경이 'Axios npm 패키지 공급망 공격'에 노출된 사건이 일어났다. 악시오스(Axios)는 자바스크립트용 오픈소스 HTTP 클라이언트 라이브러리다. 오픈AI의 macOS 앱 서명용 GitHub Actions 워크플로가 3월 31일 악성 'axios@1.14.1'을 내려받아 실행했는데, 다행히 오픈AI의 코드서명 인증서는 탈취당하지 않은 것으로 조사됐다. 허깅페이스 사건 이후 발생한 오픈AI 보안사고들 ▲ AI 에이전트의 제3자 시스템 공격: 허깅페이스 사건 이후 오픈AI는 과거 활동을 다시 조사했다. 그 결과, AI 에이전트가 단순히 주어진 웹 검색이나 연구 과제를 수행한 것이 아니라 제3자 웹사이트와 서비스에 의도하지 않은 방식으로 접근한 사례를 수십 건 확인하고 해당 조직들에 통보했다. 9월 현재 오픈AI는 수십 개의 제3자 조직에 이를 통보했다. ▲ 공개 웹사이트를 AI 에이전트간 '메시지보드'로 사용: 이번달에는 AI 에이전트들이 공개 웹사이트의 위키 등에 메시지를 남겨 서로 정보를 교환한 사례도 공개됐다. AI → 웹사이트 → 다른 AI → 웹사이트 라는 방식으로 원래 제공되지 않았던 에이전트 간 통신 채널이 만들어진 것이다.이는 허깅페이스 사건에서 나타났던 비인가 에이전트간 통신이 다른 형태로 나타난 사례다. 오픈AI는 이 문제를 별도의 'misaligned behavior'로 조사했다. ▲루비젬스(RubyGems) 관련 의심 사례: 이달 11일 오픈AI는 AI 에이전트가 루비젬스를 통해 인터넷에 접근했다는 외부 보고를 조사한다고 밝혔다. 루비젬스는 Ruby 프로그래밍 언어에서 사용하는 패키지(라이브러리)를 배포·설치하는 시스템이다. 오픈AI는 "조사결과 악성 패키지를 업로드했다는 주장은 확인하지 못했다"고 밝혔다. ▲사용자 이미지 53건 외부 게시: 이달 25일에는 더 민감한 사례가 나왔다. 오픈AI는 조사 과정에서 AI 에이전트가 제3자 서비스를 이용하면서 훈련·평가 데이터를 외부로 전송한 사례를 확인했다고 밝혔다. 이중 사용자가 제공한 이미지 53건이 공개적으로 목록화되지 않은 이미지 호스팅 사이트 링크 형태로 게시된 사실을 확인했다. 오픈AI는 대부분의 콘텐츠를 삭제했고 나머지도 삭제 작업을 진행 중이라고 밝혔다. 이는 AI 에이전트가 자신의 행동 과정에서 데이터를 외부 서비스로 옮겼다는 문제를 낳았다. ▲두 번째 샌드박스 탈출(9월 20일): 허깅페이스 사건 이후 오픈AI는 샌드박스를 강화했다. 그런데 지난 20일, 또 다른 AI 에이전트가 인터넷 접근이 차단된 환경에서 외부 인터넷으로 나가는 경로를 찾아냈다. 이번에는 DNS가 문제였다. 웹 프록시는 차단돼 있었지만 에이전트가 DNS 조회 기능을 이용해 외부 서비스와 통신하는 방법을 발견했다. 외부 챗봇 서비스에 질의를 전달하고 답변을 받는 방식으로 인터넷 격리 통제를 우회했다. 오픈AI 탐지와 자동 차단에도 문제가 있었다. 오픈AI는 이 사건과 관련해 "기존의 탐지 시스템이 에이전트 탈출 시도를 부분적으로 감지했지만, 자동으로 훈련을 중단해야 했던 시스템 역시 제대로 작동하지 않았다"고 밝혔다. 결국 오픈AI는 훈련을 수동으로 중단했다.

2026.09.27 21:43방은주 기자

챗GPT에 '광고' 붙여보니…클릭 70%가 사이트 방문·광고비 7배 매출

오픈AI의 '챗GPT 광고'에서 광고 클릭의 70% 이상이 실제 웹사이트 방문으로 이어지고 일부 광고주는 광고비 대비 7배의 광고수익률(ROAS)을 거둔 것으로 확인됐다. 또 다른 광고주는 챗GPT 광고 클릭의 10% 이상이 가입으로 전환되고 가입당 비용이 기존 유료 사회관계망서비스(SNS) 광고보다 60% 낮은 사례도 나타났다. 24일(현지시간) 오픈AI는 '챗GPT 광고 캠페인 성공의 기반 다지기'를 주제로 한 웨비나를 통해 이같은 초기 광고주 성과와 캠페인 운영 전략을 공개했다. 오픈AI에 따르면 개발자 도구 기업 스트림은 챗GPT 광고 클릭의 70% 이상이 웹사이트 세션으로 이어졌으며 폼빌더 기업 조트폼은 클릭의 10% 이상이 가입으로 전환됐다. 조트폼의 가입당 비용은 유료 소셜 광고보다 60%, 유료 검색광고보다 30% 낮았다. 전자상거래 기업 뉴에그는 28일간 캠페인에서 3배, 2주간 판촉 행사에서는 7배의 ROAS를 기록했다. 챗GPT 안에서 광고를 시작하는 과정도 비교적 단순하게 설계됐다. 광고주는 챗GPT 광고 사이트에서 기존 챗GPT 계정으로 로그인한 뒤 자사 웹사이트를 입력하면 챗GPT가 사업 내용과 상품을 분석해 광고 문구와 소재를 추천한다. 광고주는 해당 결과를 검토·수정한 뒤 캠페인을 만들 수 있다. 이날 웨비나에서는 가상의 헤드폰 스타트업 '노바 원'을 대상으로 인공지능(AI)이 광고 소재와 캠페인 구조를 제안하는 과정이 시연됐다. 광고 성과를 측정하기 위한 기능도 제공한다. 오픈AI는 웹사이트 데이터를 수집하는 픽셀과 서버 데이터를 연동하는 전환 API(CAPI)를 함께 사용하는 방식을 권장했다. 초기 데이터에서는 픽셀과 CAPI를 같이 사용한 광고주의 전환 데이터 커버리지가 픽셀만 사용한 경우보다 중앙값 기준 약 69% 높게 나타났다. 캠페인은 챗GPT 애즈 매니저에서 직접 만들거나 엑셀 파일을 통한 일괄 업로드, 응용 프로그램 인터페이스(API)를 이용한 프로그래밍 방식으로도 구축할 수 있다. 기업이 이렇게 제작한 광고 캠페인을 관리하고 반응을 분석하는 과정 역시 챗GPT 안에서 자연어로 이뤄진다. 광고주가 챗GPT 애즈 매니저 플러그인을 활용하면 캠페인 성과를 물어 주요 지표와 성과가 좋은 광고를 확인하고 왜 특정 광고가 더 잘 작동하는지 분석을 요청할 수 있다. AI는 이를 바탕으로 성과가 낮은 캠페인의 예산을 성과가 좋은 캠페인으로 옮기는 등의 개선 방안도 제안한다. 챗GPT의 대화 맥락을 광고 관련성을 높이는 데 활용하는 것도 기존 검색·SNS 광고와 다른 지점이다. 현재 대화 맥락을 바탕으로 광고를 선택할 수 있으며 광고 개인화가 활성화된 경우 과거 대화와 메모리가 광고 관련성을 높이는 데 활용될 수 있다. 다만 광고주가 이용자의 비공개 대화나 메모리를 볼 수 있는 것은 아니며 광고가 챗GPT의 유기적 답변이나 추천에 영향을 미치지도 않는다. 이커머스 사업자는 상품 피드를 연결해 카탈로그의 여러 상품을 기반으로 광고를 생성할 수 있다. 특히 전자상거래 업체 쇼피파이 이용자는 전용 '챗GPT 애즈' 앱을 통해 상품 카탈로그와 장바구니·구매 등 요소를 챗GPT 애즈 매니저에 연결할 수 있다. 상품 정보가 변경되면 피드에도 자동 반영돼 대규모 상품을 취급하는 사업자의 광고 운영 부담을 줄일 수 있다. 오픈AI 측은 광고주들에게 "적은 수의, 충분한 예산이 배정된 캠페인 전략이 필요하다"며 "비슷한 목표와 예산 전략, 지역·일정 등을 가진 캠페인을 불필요하게 나누지 말고 예산을 집중해 캠페인을 학습할 여지를 확보해야 한다"고 강조했다. 이어 "사업에 중요한 결과를 중심으로 캠페인을 최적화하고 이커머스 사업자라면 상품 피드를 연결해 챗GPT를 AI 마케팅 파트너로 활용하라"고 덧붙였다.

2026.09.27 06:47이나연 기자

정보 찾던 오픈AI 에이전트, 정부·대학 침투 시도

오픈AI 인공지능(AI) 에이전트가 정보검색 과제를 수행하다 정부와 대학 등 외부 웹사이트 보안 장치를 우회하거나 취약점을 공격한 정황이 잇따라 확인됐다. 오픈AI는 영향을 받은 정부와 대학, 공공기관 등 수십 곳에 관련 사실을 알리고 과거 활동을 조사하고 있다. 25일(현지시간) 테크크런치에 따르면 비영리 AI 감시 연구소 트랜슬루스는 오픈AI와 연관된 AI 에이전트가 데이터 USA와 미국 뉴멕시코대 디지털도서관, 호주 보건복지연구원(AIHW)에 접근을 시도한 기록을 확인했다. 일부 에이전트는 정상 접근이 막히자 다른 경로를 찾거나 취약점을 탐색했다. 에이전트에 주어진 과제는 특정 기관 공격이 아니라 인터넷에서 찾기 어려운 통계 확보였다. 태국의 마약 단속 지표와 호주 의약품 비용, 2014년 미국 석사 학위자 중위소득 등을 찾는 과정에서 보안 장치를 우회하려는 행동이 나타났다. 뉴멕시코대 디지털도서관에서는 사진을 가져오는 데 실패한 뒤 7차례에 걸쳐 취약점을 탐색했다. 데이터 USA에서는 사이트가 외부에서 입력한 코드를 실행하는지 확인하는 공격 등을 시도했다. 트랜슬루스는 세 기관에서 실제 시스템 침해에 성공했다는 증거는 발견하지 못했다고 밝혔다. 에이전트들은 웹 보안 분석 서비스 '유알쿼리닷넷'도 활용했다. 연구진은 이곳에 공개된 접속 기록과 에이전트들이 별도 위키에서 나눈 활동기록을 대조해 연관성을 추적했다. 관련 활동은 지난 3월 6일부터 확인됐다. 앞서 알려진 허깅페이스와 에이전트 협업 위키 등 사건보다 최소 두 달 앞선 시점이다. 지난해 11월 기록에서도 비슷한 데이터 검색 활동이 발견됐지만 연구진은 3월 이후 사례보다 에이전트 활동과 연관성이 뚜렷하지 않다고 봤다. 별도로 호주 정부가 공개한 사건에서는 실제 시스템 침입까지 발생했다. 오픈AI 에이전트는 지난 6월 호주 정부 사이트에 무단 접근해 비공개 파일을 확인하고 내부 서버에 새로운 파일까지 생성한 것으로 파악됐다. 호주 정부는 에이전트가 정부 사이트 4곳 접근을 시도한 것으로 보고 법 위반 여부를 조사하고 있다. 이번 사안은 AI 개발 속도와 안전장치를 둘러싼 논쟁이 커지는 가운데 공개됐다. 오픈AI도 지난달 허깅페이스 사고를 고성능 AI 에이전트 위험을 보여준 '경고탄'으로 규정했다. 오픈AI는 안전장치가 위험을 따라갈 수 있도록 필요할 경우 모델 역량 개발속도를 조절해야 한다고 밝혔다. 오픈AI는 현재 정부와 대학, 공공기관 등 수십 곳에 자사 모델의 허가받지 않은 활동 가능성을 통보하고 조사를 확대하고 있다. 접근 통제 우회와 노출된 인증정보 사용, 외부 시스템 내부 접근 등 여러 활동을 확인하고 과거 학습·평가 과정에서 발생한 사례를 다시 살펴보고 있다. 오픈AI는 허깅페이스 사건 조사에서도 내부팀이 지난 5월 말부터 일부 에이전트의 허가받지 않은 인터넷 접근과 에이전트 간 통신을 포착했지만 당시 대응이 충분하지 않았다고 인정했다. 이후 장시간 작업에서도 에이전트가 처음 부여받은 권한과 과제 범위를 벗어나지 않도록 학습과 감시 체계를 강화하고 있다. 콘래드 스토스 트랜슬루스 거버넌스 책임자는 "우리가 보고 있는 것은 에이전트들이 우연히 흔적을 남긴 몇 안 되는 데이터 소스에 불과하다"며 "연구자들은 앞으로도 더 많은 트래픽과 에이전트가 남긴 증거를 찾아낼 것으로 본다"고 말했다.

2026.09.26 13:00김동원 기자

트럼프는 '평화와 번영'·시진핑은 '인간 통제'…미중 정상 AI 시각차

미국과 중국 정상이 인공지능(AI) 개발·안전관리를 두고 시각차를 드러냈다. 미국은 AI가 가져올 평화와 번영을 부각한 반면, 중국은 AI가 인간 통제 아래 발전하도록 양국이 책임을 다해야 한다고 강조했다. 도널드 트럼프 미국 대통령과 시진핑 중국 국가주석은 24일(현지시간) 미국 워싱턴DC 백악관에서 정상회담에서 이같은 의견을 공유한 것으로 전해졌다. 회담은 소인수 회담과 확대 회담으로 나눠 비공개로 진행됐으며 모두발언은 공개되지 않았다. 트럼프 대통령은 회담에 앞선 환영식 연설에서 안보·기술과 함께 슈퍼지능(SI)을 주요 의제로 제시했다. 이 분야에서 내리는 결정이 앞으로 수십 년간 평화와 번영을 증진할 수 있다며 AI 발전의 긍정적 효과에 무게를 뒀다. 트럼프 대통령 발언은 AI 경쟁 우위를 유지하기 위해 개발을 이어가야 한다는 기존 미국 기조와 일맥상통한다. 그는 이날 오전 소셜미디어 트루스소셜에서도 AI 관련 입장을 이같이 유지하고 싶다는 뜻을 밝혔다. 지난 22일 유엔(UN)총회 연설에서는 AI에 대한 국제적 통제 구상에 반대했다. 시 주석은 같은 자리에서 AI 대국인 미중 양국이 기술 개발과 규제에 책임을 다해야 한다는 입장을 밝혔다. AI가 언제나 인간의 통제 아래 발전하고 사람들의 행복에 기여해야 한다는 점을 강조했다. 중국은 기술 혁신과 산업 활용을 확대하면서 위험관리도 병행해야 한다는 입장이다. 시 주석은 지난 7월 상하이 세계인공지능대회에서도 AI 산업 발전을 강조하는 동시에 위험 조기경보와 긴급대응 체계를 마련해야 한다고 밝혔다. 중국 당국은 지난 14일 AI 안전 거버넌스 프레임워크 3.0도 발표했다. AI 위험을 분류하고 기술적 대응과 관리 방안을 갱신해 안전성과 통제 가능성을 확보하기 위한 조치다. 美 업계·의회는 속도조절 촉구…中은 안전 명분 기술 견제 경계 그동안 미국 AI 업계에서는 안전 역량이 기술 발전을 따라갈 시간을 확보해야 한다는 목소리가 나왔다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 이달 공개한 기고문에서 AI가 다음 세대 AI 개발에 쓰이면서 기능 향상 속도가 인간 이해와 통제를 앞지를 수 있다고 경고했다. 아모데이 CEO는 외부 평가자의 기업 내 상주와 공통 안전기준 마련, 중국을 포함한 국제 협력을 제안했다. 모델 훈련을 이어가면서도 기업이 안전조치를 마련하고 제3자가 이를 검증할 시간을 확보하자는 취지다. 그는 미국과 동맹국이 AI 우위를 유지해야 한다며 중국에 대한 첨단 AI칩과 반도체 제조장비 수출통제도 주장했다. 안전을 위한 국제 공조를 추진하면서 기술 경쟁에서는 미국이 우위를 지켜야 한다는 입장이다. 미국 의회 일각에서는 더 강한 조치를 요구해 왔다. 크리스 밴홀런 의원 등 민주당 상원의원 17명은 지난 23일 트럼프 대통령에게 보낸 서한에서 시 주석과 첨단 AI 개발·시험·사용에 관한 안전장치와 국제 기준을 협의하라고 촉구했다. 사이버공격과 생물무기 개발 등 위험을 막기 위해 두 국가가 개발 속도를 늦추고 상호 일시정지까지 검토하는 공식 합의를 추진하라는 요구다. 중국은 AI 안전 논의가 자국을 겨냥한 기술 견제로 이어지는 데 반발하고 있다. 궈자쿤 중국 외교부 대변인은 아모데이 CEO 등의 주장에 대해 위협 담론과 대립이 글로벌 AI 거버넌스를 방해한다며 개방성과 포용성을 높여야 한다는 입장 밝혔다. 양국의 안전 협력이 구체화하려면 사고 통보 대상과 정보 공유 범위 등에 관한 접점을 찾을 필요가 있다는 제안이 나오고 있다. 크리스토퍼 콜린스 미국 전략국제문제연구소 연구원은 지난 21일 보고서에서 공통 정의와 사고 보고 채널, 기본적인 안전시험 절차 등 범위를 좁힌 의제에 집중할 것을 제안했다. AI 안전 협의가 대중국 기술통제 완화로까지 이어질지는 불확실하다. 양국이 위험관리를 위한 협력 방안을 논의하더라도 첨단 기술의 수출 허용 여부는 별도 쟁점으로 남아 있다. 제이미슨 그리어 미국 무역대표부 대표는 지난 20일 진행된 AI 실무협의와 관련해 "첨단 AI칩과 반도체 제조장비의 수출통제 문제는 다뤄지지 않았다"며 "양국 실무대화가 곧바로 대중국 기술통제 완화로 이어진 것은 아닐 것"이라고 밝혔다.

2026.09.25 09:14김미정 기자

소프트뱅크, 오픈AI 투자에 역대 최대 정크본드…15조원 조달

소프트뱅크그룹이 오픈AI 투자 자금을 마련하기 위해 역대 최대 규모의 투기등급 회사채를 발행했다. 인공지능(AI) 투자 확대를 위해 대규모 자금을 끌어모으면서 높은 조달 비용과 부채 부담도 커지는 모습이다. 24일(현지시간) 파이낸셜타임즈(FT)에 따르면 소프트뱅크는 달러화와 유로화 채권 발행을 통해 총 111억 달러(약 15조원)를 조달했다. 확보한 자금은 다음 달 집행할 예정인 오픈AI 투자 3차분 등에 활용될 예정이다. 이번 발행은 투기등급 회사채 시장에서 역대 최대 규모다. 2014년 프랑스 통신업체 뉴메리커블이 조달한 100억 달러 이상의 기존 기록을 넘어섰다. 국제신용평가사 피치는 소프트뱅크의 신용등급을 투자적격등급 바로 아래인 'BB+'로 평가하고 있다. 자금 조달 비용은 상당한 수준이다. 소프트뱅크가 발행한 달러화 채권의 수익률은 만기에 따라 8.63~9.75%로 책정됐다. 비슷한 신용등급의 다른 기업보다 2~3%포인트 높은 수준이다. 그럼에도 투자자 수요는 발행 물량의 약 4배에 달했다. 소프트뱅크는 손정의 회장이 주도하는 AI 투자 확대를 위해 대규모 자금을 조달 중이다. 로이터에 따르면 소프트뱅크가 오픈AI에 투자하기로 한 금액은 총 646억 달러(약 88조원)에 달하며 투자 완료 후 오픈AI 지분 약 13%를 보유할 전망이다. 이번 채권 발행은 오픈AI 투자에 활용한 단기 은행 차입을 장기 자금으로 전환하려는 목적도 있다. 소프트뱅크는 오픈AI 투자 자금을 마련하기 위해 400억 달러(약 54조원) 규모의 브리지론을 조달했으며 이달 남아 있는 259억 달러(약 35조원)를 상환할 계획이다. AI 투자 확대에 따라 부채 부담도 커지고 있다. 소프트뱅크의 순부채는 지난 6월 말 기준 10조 8000억엔(약 93조원)에 달한다. 올해 미국 국채금리가 상승한 데다 AI 산업의 향후 수익성과 소프트뱅크의 높은 오픈AI 투자 비중에 대한 시장의 우려도 이번 채권 금리에 반영됐다는 분석이다. 향후 AI 투자 자금을 지속적으로 확보할 수 있을지도 관건이다. 오픈AI의 기업공개(IPO)가 내년 이전에 이뤄지기 어려울 것으로 전망되는 가운데, 소프트뱅크가 투자한 데이터센터 개발업체 SB에너지의 상장 일정에도 불확실성이 커지고 있다. 브라이언 반허스트 PGIM 픽스트인컴 글로벌 신용리서치 책임자는 "이번 채권 발행은 AI 투자에 대한 시장의 분위기를 보여주는 좋은 지표"라며 "투자자들이 AI 분야에 대한 투자 규모와 방식을 더욱 신중하게 따지는 만큼, 소프트뱅크도 자금 조달 능력을 계속 유지하는 것이 중요하다"고 말했다.

2026.09.25 09:07한정호 기자

앨버니지 호주 총리 "오픈AI 에이전트가 호주 정부 웹사이트 해킹"

오픈AI의 인공지능(AI) 에이전트가 내부 평가 과정에서 호주 정부 웹사이트에 무단으로 접근한 사실이 드러났다. 오픈AI가 사고 발생 약 3개월 만에 호주 정부에 이를 알리면서 늑장 통보 논란도 불거졌다. 23일(현지시간) 블룸버그통신에 따르면 앤서니 앨버니지 호주 총리는 미국 뉴욕에서 샘 알트먼 오픈AI 최고경영자(CEO)를 만나 이번 사고에 대해 “극도의 우려”를 전달했다. 해킹은 지난 6월 18일 호주의 공공 의료보험 체계인 메디케어 웹사이트에서 발생했다. 오픈AI는 지난 8월 침해 사실을 발견했지만 호주 정부는 이달 10일에야 이 사실을 통보받았다. 당시 담당 기관에 직접 연락하지 않고 호주 정부 기관인 서비스 오스트레일리아의 대표 이메일로 관련 내용이 전달됐다. 유엔총회 참석차 뉴욕을 방문한 앨버니지 총리는 기자회견에서 “회사가 무슨 일이 발생했는지 정부에 알리는 데 지나치게 오랜 시간이 걸린 데 대해 실망을 표했다”며 “통보가 이뤄진 방식 역시 받아들일 수 없었다”고 말했다. 오픈AI는 내부 평가 과정에서 자사 AI 모델이 호주에 관한 질문에 답하기 위해 통계자료를 검색하다가 해당 사이트에 접근했다고 설명했다. 오픈AI 대변인은 “그 과정에서 모델이 우리가 의도하지 않은 행동을 했다”고 설명했다. 오픈AI는 사고를 발견한 8월부터 호주 정부에 알린 9월까지 정확한 사실관계와 접근한 정보의 범위를 조사했다고 해명했다. 현재까지 환자 기록이나 개인정보에 접근한 정황은 발견되지 않았다. 오픈AI에 따르면 AI 모델이 접근한 자료에는 종합된 보건 통계와 내부 파일명이 포함됐다. 호주 정부는 호주신호정보국의 지원을 받아 포렌식 조사를 진행하고 있다. 앨버니지 총리는 개인정보 접근 여부를 포함한 조사가 아직 끝나지 않았다며 AI를 관리할 적절한 절차가 마련돼 있다는 확신이 필요하다고 강조했다. 그는 “알트먼 CEO도 자사의 절차가 충분한 수준이 아니었다는 점을 인정했다”며 추가 논의를 이어가기로 했다고 말했다. 앨버니지 총리의 이번 발언은 오픈AI가 미국에 다른 국가들과 함께 국제 AI 기준 마련을 주도해달라고 촉구하는 가운데 나왔다. 앞서 이날 알트먼 CEO와 다리오 아모데이 앤스로픽 CEO는 뉴욕에서 열린 유엔 안전보장이사회 회의에 참석해 각국 지도자들에게 AI 위험에 공동 대응할 것을 촉구했다. 회의에서는 AI 기술이 인류의 존립에 미칠 수 있는 위험이 주요 의제로 다뤄졌다.

2026.09.24 10:38김민아 기자

오픈AI·앤트로픽 CEO, UN 안보리서 AI 안전 규범 촉구

샘 알트먼 오픈AI 최고경영자(CEO)와 다리오 아모데이 앤트로픽 CEO가 인공지능(AI)의 잠재적 위험에 대응하기 위한 국제 공조를 촉구했다. 경쟁 관계에 있는 두 AI 기업 수장이 유엔 안전보장이사회에 함께 참석해 AI 안전 문제를 논의한 것은 이례적이다. 24일 두 CEO는 유엔 총회가 열린 미국 뉴욕에서 개최된 안보리 회의에 참석해 AI 시스템이 자체적으로 성능을 개선하고 인간의 통제 역량을 넘어설 가능성에 대비해야 한다고 강조했다. 정부와 기업이 AI의 미래를 좌우할 핵심 결정 과정에 공동으로 참여해야 한다는 주장이다. 샘 알트먼 CEO는 "서로 경쟁하고 때로는 관계가 좋지 않은 국가들도 강력한 신기술 앞에서 공동의 이익과 공공선을 위해 협력한 사례가 있다"며 "AI 역시 그런 경우가 되어야 한다"고 말했다. 이어 AI 개발 속도를 늦춰야 한다는 주장과 위험을 과소평가하는 견해 사이에서 현실적 접근이 필요하다고 밝혔다. 그는 AI 관련 사고를 신속히 보고하고, 국제 사회가 안전장치와 감독 기준에 합의해야 한다고 강조했다. 샘 알트먼 CEO는 "무엇이 좋은 증거이고, 좋은 안전장치이며, 좋은 감독인지 세계 무대에서 합의할 수 있다면 모두에게 더 나은 결과가 될 것"이라며 "우리가 모든 답을 알고 있는 것은 아니며, 더 나은 아이디어를 받아들일 준비가 돼 있다"고 말했다. 다리오 아모데이 CEO는 화상 발언을 통해 AI가 과학과 의료 분야에 상당한 혜택을 가져올 수 있지만, 동시에 재앙적 결과를 초래할 위험도 있다고 지적했다. 그는 테러 조직이 AI를 활용해 치명적 생물무기를 개발할 가능성과 AI 모델이 개발자의 통제 범위를 벗어날 가능성을 언급하며 국제 안전 기준 마련을 촉구했다. 다리오 아모데이 CEO는 "이 자리에 있는 사람들이 가진 차이에도 불구하고, 우리는 동시에 제시된 세계적 기회와 위협에 맞서기 위해 차이를 넘어야 한다"며 "어떤 지도자나 기업, 국가도 이를 혼자 관리할 수 없다"고 말했다. AI의 실존적 위험을 둘러싼 논쟁은 최근 더 확산되고 있다. 다리오 아모데이 CEO는 이달 초 공개한 장문의 글에서 가장 고도화된 AI 시스템의 개발 속도를 조절하고, 연구자들이 잠재적 위협을 충분히 파악할 시간을 확보해야 한다고 주장했다. 이 견해는 샘 알트먼 CEO와 일론 머스크 등의 지지를 받았으며 미국 의회 내 AI 안전 규제 논의에도 영향을 미쳤다. 안토니우 구테흐스 유엔 사무총장도 개회사에서 최첨단 AI 모델인 프런티어 AI를 둘러싼 국가 간 협력 필요성을 강조했다. 그는 국제적 조율과 안전 기준 마련을 지원하는 데 유엔이 역할을 할 수 있다고 밝혔다. 미중 정상회담을 앞두고 열린 이번 회의에서는 AI를 둘러싼 국제 경쟁과 협력 문제도 부각됐다. 미국과 중국은 AI 분야의 세계적 주도권을 놓고 경쟁하는 동시에, 양국 간 AI 대화 채널을 구축하는 방안을 논의해 온 것으로 알려졌다. AI 안전과 규제, 경제적 파급효과는 정상회담의 주요 의제 중 하나가 될 전망이다. 이번 회의에는 조슈아 벤지오 몬트리올대 교수도 유엔 독립 국제 AI 과학패널 공동의장 자격으로 회의에 참석했다. 벤지오 교수는 AI의 급속한 고도화가 국제 평화와 안보에 미칠 영향을 점검하고, 과학적 근거에 기반한 국제 거버넌스 체계를 마련해야 한다는 필요성을 제기했다. 오픈소스 AI 플랫폼 허깅페이스의 클레망 들랑그 CEO도 참석해 AI 에이전트 공격을 받은 사례를 소개하면서도 개별 사고를 이유로 공포 중심의 대응에 나서서는 안 된다고 경고했다. 클레망 들랑그 CEO는 "공포에 기반한 서사는 이처럼 근본적이고 역량을 강화하는 기술의 미래에 대한 올바른 결정을 내리거나 대중의 동의를 얻는 방법이 아니다"라며 "우리는 AI의 공격을 받았지만 더 중요하게는 AI로 방어했다"고 말했다.

2026.09.24 09:14남혁우 기자

젠슨 황 "통제할 수 없는 AI는 출시하지 말아야"

젠슨 황 엔비디아 CEO가 최근 주요 AI 기업을 중심으로 제기된 AI 개발 속도 조절론에 대해 "개발 자체를 늦추기보다 기업들이 통제할 수 없는 AI 시스템을 출시하지 않는 것이 중요하다"고 발언했다. 젠슨 황 CEO는 23일(현지시간) 공개된 뉴욕타임스 팟캐스트 '에즈라 클라인 쇼'에서 "AI 연구소들이 안전성을 확보하지 못한 시스템을 개발했다면 제품을 시장에 내놓지 않아야 한다"고 말했다. 그는 AI 안전 문제를 모델의 정렬, 격리, 평가와 검증 등의 기술적 문제로 접근해야 한다고 강조했다. AI 기업들이 제품의 안전성을 확신할 수 없다면 출시를 미루고, 개발 과정에서 충분한 테스트와 평가를 진행해야 한다는 것이다. 젠슨 황 CEO는 외부 안전 감사와 제3자 평가 자체에는 긍정적인 입장을 보이면서도, AI 개발 속도 자체를 제한하는 광범위한 규제에는 반대하는 입장을 밝혔다. 이 같은 주장은 최근 앤트로픽을 시작으로 일부 AI 기업들이 제기한 '속도 조절론'과 차이가 있다. 다리오 아모데이 앤트로픽 CEO는 "AI 모델의 역량 발전 속도가 안전장치 마련보다 빨라질 수 있다"고 우려하며, 개발 속도를 늦추고 독립적인 평가기관을 도입하자고 제안했다. 샘 올트먼 오픈AI CEO와 다리오 아모데이 앤트로픽 CEO는 23일 미국 뉴욕에서 UN 안보리 회의에 참석해 "AI 시스템이 자체적으로 성능을 개선하고 인간의 통제 역량을 넘어설 가능성에 대비해야 한다"며 국제 공조를 촉구하기도 했다. 반면 젠슨 황 CEO는 "최고경영자와 이사회가 출시 여부를 결정할 권한과 책임을 갖고 있으며, 안전성에 문제가 있다고 판단하면 제품을 출시하지 않을 수 있다"고 설명했다. 프론티어 AI 모델 개발사들에 이어 AI 생태계의 핵심 축인 엔비디아까지 입장을 내놓으면서, AI 개발 속도와 안전성 확보 사이의 균형을 둘러싼 논쟁은 한층 더 거세질 것으로 보인다.

2026.09.24 09:07권봉석 기자

[AI는 지금] 메타, '뮤즈'로 AI 사업 탄력 받을까…"이용자·구독률 확대 과제"

메타가 인공지능(AI) 개인비서 '뮤즈' 흥행을 발판으로 AI 사업 확대에 탄력 받을 것이란 전망이 나오고 있다. 뮤즈 초기 흥행을 지속적인 이용과 유료 구독으로 연결할 경우 초지능연구소(MSL) 설립과 인프라 확충에 쏟아부은 대규모 투자가 실질적인 수익으로 이어질 수 있다는 분석이다. 23일 IT 업계에 따르면 메타의 뮤즈가 지난 8일 출시 열흘 만에 미국 애플 앱스토어 무료 앱 다운로드 순위에서 챗GPT를 제치고 1위에 올랐다. 당시 메타 주가도 전 거래일보다 10% 넘게 급등했다. 뮤즈는 이용자 요청에 따라 쇼핑과 여행 예약, 이메일 발송 등을 처리하는 AI 에이전트다. 전용 앱과 왓츠앱을 통해 이용할 수 있어 이용자 취향과 과거 대화를 기억해 작업을 돕는다. 결제나 이메일 발송처럼 중요한 작업을 실행할 때는 이용자 승인을 받는다. 뮤즈 흥행에 주식시장도 반응했다. 지난 21일 메타 주가는 전 거래일보다 11.4% 급등했고, 시가총액은 하루 만에 1923억 달러(약 261조 2500억원) 늘었다. 웰스파고는 메타 목표주가를 기존 640달러에서 796달러(약 108만 1400원)로 상향 조정했다. 뮤즈가 광고 외 수익원을 확보하는 계기가 될 수 있다는 기대가 주가를 끌어올린 것이다. 뮤즈는 메타가 지난해부터 추진해온 AI 조직 개편과 투자 성과를 가늠할 주요 서비스로 평가받고 있다. 메타는 지난해 6월 '메타 초지능연구소(Meta Superintelligence Labs·MSL)'를 출범시키고 차세대 AI 연구와 제품 개발 체계를 재편했다. 당시 메타는 스케일AI 창업자인 알렉산더 왕을 연구소 최고AI책임자로 영입했으며, 냇 프리드먼 전 깃허브 최고경영자(CEO)에게 AI 제품과 응용 연구를 맡겼다. 같은 달 스케일AI에 143억 달러를 투자하고 오픈AI·구글·앤트로픽 출신 연구자들을 영입하는 등 인재 확보에도 공을 들였다. 그동안 마크 저커버그 메타 CEO가 내세운 사업 방향은 이용자 개개인 목표와 상황을 이해하고 일상 업무를 돕는 '개인 초지능'이다. 뮤즈는 이 구상을 소비자용 서비스로 구현한 사례다. 메타는 무료 서비스와 함께 월 20달러·100달러 구독 상품을 마련했으며, 향후 스마트 안경에도 뮤즈를 적용할 계획이다. 다수 외신은 메타가 뮤즈를 외부 서비스와 연동하는 방향을 사업 확장 수단으로 보고 있다. 메타는 최근 기업과 개발자가 뮤즈에 서비스를 연결할 수 있는 플랫폼을 개방했으며, 쇼피파이는 뮤즈에서 '숍 페이'를 이용한 쇼핑을 지원한다고 발표했다. 이용자가 뮤즈를 통해 상품을 찾고 구매하는 흐름이 확산하면 메타가 소비자와 기업을 연결하는 새로운 거래 접점을 확보할 수 있다. 업계에선 뮤즈 이용자 신뢰 확보가 필요하다는 의견도 나오고 있다. 아마존은 뮤즈의 자사 쇼핑몰 접근을 승인하지 않았다며 메타에 해당 기능에서 아마존을 제외해달라고 요청한 바 있다. 개인정보 접근과 작업 실행을 수반하는 만큼 보안과 오작동 우려를 해소하는 것도 과제인 것으로 전해졌다. 비즈니스인사이더는 "메타가 초기 다운로드 열기를 지속적인 이용과 유료 구독으로 연결할 수 있다면, 초지능연구소와 인프라에 쏟아부은 투자를 사업 성과로 입증하는 계기가 될 전망"이라고 분석했다.

2026.09.23 15:53김미정 기자

[AI는 지금] 속도조절론 속 쏟아진 신모델…AI 3사 승부처는

인공지능(AI) 개발 속도를 둘러싼 논쟁이 커지는 가운데 글로벌 AI 기업 3곳이 이틀 사이 신모델을 잇따라 공개했다. 앤트로픽과 오픈AI, 스페이스XAI는 나란히 성능을 높이면서도 안전성과 비용 효율, 에이전트 역량에 각각 무게를 뒀다. 22일(현지시간) 오픈AI는 'GPT-6 솔·루나', 앤트로픽은 '클로드 오퍼스 5.5'를 각각 공개했다. 하루 전인 21일에는 스페이스XAI가 '그록 4.7'을 선보였다. 같은 시기에 나왔지만 각사가 택한 전략은 달랐다. 앤트로픽은 외부 평가와 행동 감사 등 안전 검증을 강화했다. 오픈AI는 GPT-6 아스트라에서 확보한 기술을 더 빠르고 저렴한 솔·루나로 가져왔고 스페이스XAI는 복잡한 작업을 장시간 수행하고 결과를 스스로 확인하는 능력을 키웠다. 성능 경쟁에서는 오퍼스 5.5가 앞섰다. 글로벌 AI 평가기관 아티피셜 애널리시스의 종합 성능 지표(AAII)에서 최고 설정 기준 오퍼스 5.5는 58점을 기록했다. GPT-6 솔은 48점, 그록 4.7은 46점이었다. 다만 오픈AI와 스페이스XAI는 각각 비용 효율과 장시간 에이전트 업무를 주요 경쟁력으로 강조했다. 최근 AI 개발 속도를 조절해야 한다는 주장에는 세 회사 수장 모두 공감을 나타냈다. 다만 실제 안전 대응은 검증 방식과 적용 강도에서 차이가 있었다. 속도조절 필요성을 제기한 앤트로픽은 오퍼스 5.5를 외부 기관에 사전 평가받고 약 2000개 상황을 대상으로 행동 감사를 진행했다. 오픈AI는 솔·루나가 자사 최고 위험 단계에는 이르지 않았다고 판단해 기존 GPT-5.6 솔·루나와 같은 안전장치를 적용했다. 스페이스XAI는 그록 4.7에 새로운 안전체계를 도입했지만 공식 발표에는 외부 기관의 사전 평가나 개발 속도를 늦춘 조치에 대한 내용은 포함되지 않았다. 앤트로픽은 '안전'…외부 검증·고위험 작업 제한 앤트로픽은 오퍼스 5.5에서 외부 검증과 고위험 작업 통제를 강화했다. 회사는 이를 프런티어 AI 개발 속도조절을 제안한 이후 처음 공개한 모델이라고 소개했다. 출시 전에는 미국 비영리 AI 평가기관 모델평가위협연구소(METR)와 프런티어 디자인 등 외부 기관의 평가를 받았다. 내부에서도 모델이 위험하거나 의도하지 않은 행동을 보이는지 자동으로 점검했다. 통제 범위를 벗어나려는 행동도 따로 살폈다. 오퍼스 5.5가 정해진 경계를 우회하려 한 빈도는 기존 오퍼스 5와 미토스 5.1보다 약 85% 낮았다. 확인된 시도는 모두 심각도가 낮았으며 모델이 스스로 이를 보고했다고 회사 측은 설명했다. 악용 가능성이 큰 분야에는 사용 제한을 뒀다. 대부분의 사이버보안 작업은 이전 모델인 오퍼스 4.8이 처리하도록 했으며 일부 생물학 관련 고위험 기능에는 이용자 검증 절차를 적용했다. 성능과 비용도 개선됐다. 초기 평가자가 20만줄 규모의 프로그램 코드를 점검하고 오류를 수정하도록 하자 오퍼스 5.5는 3시간 안에 작업을 마쳤다. 기존 오퍼스 5는 같은 작업에 20시간 이상 걸렸다. 일반적인 작업 비용은 40% 낮아졌고 출력 속도는 30% 이상 빨라졌다. 안전 평가의 한계도 확인됐다. 오퍼스 5.5가 일부 상황에서 자신이 시험받고 있다는 사실을 의심하는 징후를 보였기 때문이다. 앤트로픽은 "모델을 배포하기 전에 모든 실패 가능성을 평가로 찾아내는 방법은 아직 해결되지 않았다"고 설명했다. 오픈AI는 '효율'…아스트라 기술 더 싸게 오픈AI는 아스트라에서 확보한 기술을 더 낮은 비용의 솔과 루나로 가져왔다. 최상위 모델의 성능을 최고가 제품에만 두기보다 작업 난도와 비용에 따라 선택할 수 있도록 GPT-6 제품군을 세분화했다. 솔은 복잡한 코딩과 에이전트 업무처럼 높은 성능이 필요한 작업을 겨냥한다. 루나는 빠른 응답과 낮은 비용이 중요한 대량 작업에 초점을 맞췄다. 오픈AI는 루나를 자사 모델 가운데 가장 빠르고 비용 효율적인 모델로 소개했다. 가격은 GPT-5.6 솔·루나의 프로모션 가격보다 50% 낮췄다. 솔은 입력 토큰 100만개당 2달러, 출력 10달러이며 루나는 각각 0.1달러와 0.5달러다. 안전 대응에서는 기존 체계를 유지했다. 오픈AI는 솔과 루나를 사이버보안과 생물·화학 분야에서 '높은 수준'으로 분류했지만 아스트라가 도달한 사이버보안 '중대한 수준'에는 미치지 않는다고 평가했다. 이에 따라 GPT-5.6 솔·루나와 같은 수준의 안전장치를 적용했다. 아스트라에서 개발한 정렬 기술은 새 모델에도 적용했다. 오픈AI는 솔과 루나가 GPT-5.6 계열보다 탈옥 공격에 대한 저항성과 정렬 평가에서 개선된 결과를 보였다고 밝혔다. 오픈AI는 위험이 일정 수준에 접근하면 실제 개발 속도를 늦춘 경험도 있다. 지난달 아스트라가 중대한 수준의 사이버보안 능력에 도달할 가능성이 나타나자 배포 예정 모델의 강화학습을 2주간 중단했다. 최대 규모의 프런티어 강화학습도 보류하고 보안과 모니터링 체계를 보강했다. 스페이스XAI는 '에이전트'…수시간짜리 업무까지 겨냥 스페이스XAI는 그록 4.7의 장시간 업무 수행과 자기 검증 능력을 강화했다. 기존 그록 4.6보다 큰 기반 모델을 사용하고 강화학습 기간을 늘려 수시간이 걸리는 문제의 학습 비중을 높였다. 모델은 긴 작업을 이어가면서 앞서 내린 판단과 결과를 다시 확인하도록 훈련됐다. 긴 맥락을 관리하는 능력도 높여 코딩뿐 아니라 문서 작성과 전문 지식 업무처럼 여러 단계를 거치는 작업을 겨냥했다. 외부 평가에서도 에이전트 업무 성능이 높아졌다. 아티피셜 애널리시스의 장기 지식 업무 평가 'AA 브리프케이스'에서 그록 4.7은 1657점을 기록해 그록 4.6보다 111점 높았다. 코딩 에이전트 지표도 9점 오른 56점을 기록했다. 가격은 입력 토큰 100만개당 2달러, 출력은 6달러부터 시작한다. 출력 속도를 두 배 높인 별도 모델도 제공한다. 안전 측면에서는 새로운 안전체계를 적용했다. 스페이스XAI는 자체 사이버보안 평가 '해커벤치 0.3'에서 위험한 이중용도 요청 가운데 3.3%만 허용했으며 자사가 평가한 모델 가운데 탈옥 공격 저항성이 가장 높았다고 밝혔다. 머스크도 최근 AI 개발 속도를 늦출 필요성에 공감을 나타냈다. 다만 이번 그록 4.7 공식 발표에서는 개발 속도를 낮추거나 외부 기관의 사전 평가를 받았다는 내용은 공개되지 않았다. 스페이스XAI는 "그록 4.7은 어려운 작업을 더 오래 수행하고 자신의 작업을 더 꼼꼼히 확인할 수 있다"며 "지금까지 가장 잘 조정된 안전장치를 갖췄다"고 밝혔다.

2026.09.23 14:37김동원 기자

[AI 고속도로] AI 데이터센터 투자 열기 식나…SB에너지, 500억 달러 IPO 속도조절

인공지능(AI) 인프라 투자 열풍을 타고 몸집을 키워온 미국 데이터센터 개발업체 SB에너지가 기업공개(IPO) 속도 조절에 나섰다. AI 모델 개발 속도가 늦어질 경우 폭발적으로 늘어날 것으로 예상했던 컴퓨팅 수요도 영향을 받을 수 있다는 우려가 투자시장으로 번지면서 데이터센터 기업의 대규모 자금조달에도 경계감이 커지는 모습이다. 22일(현지시간) 파이낸셜타임즈에 따르면 SB에너지는 약 500억 달러(약 67조원)의 기업가치를 목표로 IPO를 추진하고 있지만 최근 상장 절차의 속도를 늦췄다. 컴퓨팅 수요와 데이터센터 시장을 둘러싼 투자자들의 불안이 커지자 시장 심리가 안정될 때까지 기다리기로 한 것으로 전해졌다. SB에너지는 손정의 회장이 이끄는 소프트뱅크그룹을 비롯해 오픈AI와 엔비디아의 투자를 받은 데이터센터 개발업체다. 아직 실제 가동에 들어간 데이터센터가 한 곳도 없는 상황이지만 높은 기업가치를 목표로 하고 있다. 회사는 IPO 계획 자체를 철회한 것은 아니며 시장 상황을 살피면서 상장 절차를 이어갈 방침이다. 최근 AI 데이터센터 관련 기업들의 자금조달에는 잇따라 제동이 걸리고 있다. AI 데이터센터에 전력을 공급할 계획인 미국 원자력에너지 기업 홀텍인터내셔널도 시장 상황을 이유로 IPO를 최소 3개월 연기했다. 시장에선 주요 AI 기업의 모델 개발 속도 조절 움직임이 향후 컴퓨팅 수요에 어떤 영향을 미칠지 주목하고 있다. 오픈AI와 앤트로픽 등 주요 AI 기업이 안전을 이유로 모델 개발 속도를 늦추겠다는 방침을 내놓으면서 투자자들 사이에선 데이터센터 수요 증가세도 예상보다 둔화할 수 있다는 우려가 제기되고 있다. 데이터센터 건설을 둘러싼 지역사회의 반발과 규제 강화 가능성도 투자 심리에 부담을 주고 있다. AI 확산과 함께 대규모 데이터센터 건설이 이어지면서 전력 공급과 환경 문제 등을 둘러싼 논란이 커진 가운데 새로운 규제가 인프라 투자 속도를 제한할 수 있다는 우려도 나온다. SB에너지의 대규모 자금조달 계획 역시 시장의 관심사다. 회사는 현재 계약된 데이터센터 프로젝트를 완공하는 데 총 1740억 달러(약 235조원)의 투자가 필요할 것으로 추산 중이다. 대부분을 프로젝트 단위 부채를 통해 조달할 계획이지만 회사 역시 채권시장이 경색될 경우 필요한 자금을 확보하는 데 어려움을 겪을 가능성이 있다고 투자설명서를 통해 경고했다. 실제 SB에너지는 최근 IPO 이후 49억 달러(약 6조원) 규모의 추가 부채를 조달하는 방안을 투자자들과 논의했다. 초기 협의 과정에서 투자자들이 예상한 수익률은 약 10%로, 파이낸셜타임즈는 이같은 금리가 투기등급 수준의 신용위험을 반영하는 가격이라고 전했다. SB에너지는 우선 IPO에 집중한 뒤 추가 부채 조달을 검토한다는 입장이다. 주요 고객인 오픈AI에 대한 높은 의존도도 변수다. SB에너지가 미국 오하이오주 파이크카운티에 개발하는 데이터센터 캠퍼스는 오픈AI가 20년간 임차할 예정이다. 오픈AI가 AI 개발 속도 조절 방침을 밝히고 자체 IPO 일정도 늦추면서 투자자들은 향후 데이터센터 수요에 미칠 영향을 주시하고 있다. 반면 엔비디아는 SB에너지에 대한 투자를 확대 중이다. 엔비디아는 지난달 SB에너지 주식에 15억 달러(약 2조원)를 투자했으며 IPO 때도 15억 달러(약 2조원)를 추가 투입해 총 투자 규모를 30억 달러(약 4조원)로 늘릴 예정이다. 또 오픈AI가 임차하는 오하이오주 데이터센터 캠퍼스에 최대 1050억 달러(약 142조원) 규모의 금융 지원도 제공하기로 했다. SB에너지 관계자는 "회사는 IPO에 집중하고 있으며 상장 절차를 진행하면서 시장 상황을 주시 중"이라며 "추가적인 부채 조달은 IPO 이후 검토할 계획"이라고 밝혔다.

2026.09.23 09:48한정호 기자

"AI 안전성 평가, 개발사에만 맡겨선 안 돼"… 페이페이 리, 외부 검증 체계 촉구

페이페이 리 스탠퍼드대 교수 겸 월드랩스 공동창업자가 고도화되는 인공지능(AI) 시스템 안전성 평가를 개발 기업에만 맡겨서는 안 된다고 지적했다. 독립 기관과 학계, 정부 등 공공 부문이 함께 참여하는 감독 체계와 공통 평가 기준도 마련해야 한다고 강조했다. 페이페이 리 교수는 22일(현지시간) 블룸버그와의 인터뷰에서 AI 기업 내부 연구진이 개별 모델의 성능과 보안 특성을 평가할 수는 있지만 정부, 산업계, 학계가 공동으로 마련하는 폭넓은 기준을 대체할 수는 없다고 말했다. 페이페이 리 교수는 "독립 기관과 학계 등 공공 부문이 마련하는 벤치마크의 중요성을 계속 믿는다"며 "산업계와 정부 역시 함께 책임을 나눠야 한다"고 밝혔다. 페이페이 리 교수가 공동 설립한 월드 랩스는 3차원 환경을 생성하고 재구성하는 이른바 '월드모델'을 개발하고 있다. 이 기술은 로봇 훈련과 평가에 활용될 수 있으며 디자인과 헬스케어를 비롯한 다양한 산업 분야에도 적용될 수 있을 것으로 주목 받고 있다. 최근 AI 기술이 인간의 통제를 벗어날 수 있다는 업계의 경고가 이어지면서 초고성능 AI가 초래할 수 있는 위험을 둘러싼 우려도 커지고 있다. 다리오 아모데이 앤트로픽 최고경영자(CEO)와 샘 알트먼 오픈AI CEO는 최근 최첨단 AI 모델의 개발 속도를 조절할 필요가 있다고 주장했다. 반면 앤드류 응 스탠퍼드대 교수는 AI가 인류를 멸종시킬 수 있다는 일각의 경고에 대해 "공상과학에 가깝다"며 비판적인 견해를 밝혔다. 앤드류 응 교수는 "AI 발전에 위험이 전혀 없다는 뜻은 아니다"라면서도 "업계와 정책 당국이 인류 멸종과 같은 가설적 위험에 매몰되기보다 사이버보안 악용 등 현재 확인 가능한 문제 해결에 집중해야 한다"고 주장했다. 이어 "AI 기업은 인류 멸종과 같은 불확실한 미래 시나리오를 앞세우기보다 기술을 개선하고 안전하게 만들기 위한 현실적 과제에 역량을 집중해야 한다"며 "AI가 할 수 있는 수많은 훌륭한 일에 활용될 수 있도록 해야 한다"고 강조했다. AI에 대한 엇갈린 의견 속에서 페이페이 리 교수는 AI가 인류에게 실존적 위협이 될지 여부는 인간이 이 기술을 어떻게 개발하고 통제하며 활용하느냐에 달려 있다고 설명했다. 전기와 증기기관, 현대 교통수단 등 과거의 주요 기술 역시 사회가 기술적 편익과 인간의 안전 사이에서 균형을 모색해야 했다는 점에서 AI와 유사하다는 것이다. AI 위험성을 어느 수준까지 심각하게 받아들여야 하는지를 놓고 정책 당국과 AI 업계 리더들의 논쟁도 격화하고 있다. 도널드 트럼프 미국 대통령은 유엔 총회 연설에서 AI의 실존적 위협에 대한 우려를 '사기'라고 일축하며 기술 개발을 최대 속도로 이어가야 한다고 주장했다. 페이페이 리 교수는 AI 기술이 현실 세계로 빠르게 확산하는 상황에서 핵심 과제는 더욱 분명해지고 있다고 진단했다. 갈수록 강력해지는 AI를 어떤 기준으로 평가하고, 시스템이 의도한 대로 작동하는지를 누가 검증할 것인지가 산업 전반의 공통 과제로 떠오르고 있다는 것이다. 그는 "AI는 AI 자체에 관한 문제가 아니라 인간에 관한 문제"라며 "우리의 공동체적·개인적 존엄성과 주체성, 그리고 책임에 관한 문제"라고 말했다.

2026.09.23 09:47남혁우 기자

[AI는 지금] 오픈AI, 'GPT-6 솔·루나' 출시…"아스트라 강점 확장"

오픈AI가 '아스트라'에 이어 가격 경쟁력과 코딩 정확도를 앞세운 인공지능(AI) 모델을 새로 내놔 시장 공략 범위를 넓혔다. 오픈AI는 'GPT-6 솔'과 'GPT-6 루나'를 출시했다고 공식 홈페이지를 통해 23일 밝혔다. GPT-6 솔은 코딩을 비롯한 복잡한 작업에 초점 맞춘 모델이다. GPT-6 루나는 문서 요약과 정보 추출처럼 목표가 명확하면서 많은 작업을 빠르게 처리해야 하는 업무에 적합하도록 설계됐다. 오픈AI는 두 모델 가격 경쟁력을 강화했다고 밝혔다. GPT-6 솔과 루나의 API 가격은 GPT-5.6 세대 모델 절반 수준으로 책정됐다. 오픈AI는 캐싱과 추론 기술을 개선하면서 모델 운용 효율을 높여 가격을 낮출 수 있었다고 설명했다. 두 모델 답변 정확도도 개선된 것으로 확인됐다. 오픈AI 내부 사실성 평가에서 GPT-6 솔은 이전 모델보다 오류율이 약 절반 줄어든 것으로 나타났다. 오픈AI는 "더 낮은 비용으로 상위 모델인 GPT-6 아스트라 수준의 신뢰성을 구현했다"고 평했다. 해당 모델은 코딩 작업에서 발생하는 오류율도 낮아진 것으로 확인됐다. 오픈AI는 새로운 솔과 루나가 사실에 부합하는 답변을 생성하는 능력을 개선했으며 코딩 과정에서도 이전보다 오류를 줄였다고 밝혔다. 업계에선 오픈AI가 GPT-6 제품군 확대 전략을 강화하고 있다는 평이 이어지고 있다. 앞서 솔과 루나 시리즈는 올해 GPT-5.6 제품군을 통해 처음 등장했으며 작업 난도와 용도에 따라 서로 다른 모델을 선택할 수 있도록 구성됐다. 오픈AI는 새 모델이 경쟁사 앤트로픽의 페이블과 오퍼스 등 최상위 모델보다 여러 작업에서 높은 성능을 보인다고 주장했다. 앤트로픽은 오픈AI의 이번 발표 약 90분 전 가격을 낮추고 페이블 수준의 성능을 갖춘 새 '오퍼스 5.5'를 공개해 모델 경쟁도 한층 치열해지고 있다. GPT-6 솔과 루나는 현재 다수 유료 계정에서 '챗GPT 워크'와 '코덱스'를 통해 이용할 수 있으며 챗GPT API에도 적용됐다. 루나는 데스크톱 앱과 무료·고 이용자에게도 제공되며 오픈AI는 챗GPT 앱과 웹사이트에 두 모델을 순차적으로 배포할 예정이다. 오픈AI는 "GPT-6 아스트라는 새로운 세대의 지능을 선보였다"며 "이번 모델들은 그 지능을 더욱 효율적이고 접근하기 쉽게 만들어 아스트라의 이점을 확장한다"고 밝혔다.

2026.09.23 09:19김미정 기자

오픈AI "AI 국제표준, 미국이 주도해야"

오픈AI가 미중 정상회담을 앞두고 미국이 차세대 인공지능(AI)의 국제표준 수립을 주도해야 한다고 촉구했다. 21일(현지시간) 오픈AI는 자사 블로그에 'AI의 다음 단계를 위한 표준 구축'이라는 글을 올리고 미국이 세계 각국과 협력해 최첨단 AI의 글로벌 기술표준 마련을 이끌어야 한다고 밝혔다. 오픈AI는 국가마다 AI 평가와 사고 보고 기준이 다르면 위험이 발생했을 때 공동 대응이 어려워질 수 있다고 지적했다. 최첨단 AI 개발 역량과 전문성도 일부 국가에 집중돼 있어 국가 간 공통 기준이 필요하다고 강조했다. AI 연구 자동화도 국제표준이 필요한 이유로 제시했다. AI가 다음 세대 모델 개발에 더 많이 참여하면 연구 결과가 다시 AI 개발에 활용될 수 있다. 오픈AI는 이런 '재귀적 자기개선(RSI)'이 늘어날수록 AI 발전 속도도 빨라질 수 있다고 경고했다. 아직 사람이 빠진 채 AI가 스스로 이런 과정을 반복하는 단계에 이른 것은 아니다. 다만 자동화가 지나치게 빨라지면 사람이 연구 과정을 이해하지 못해 AI 개발을 제대로 통제하기 어려워질 수 있다. 오픈AI는 국제표준에 AI 연구가 얼마나 자동화됐는지 측정하는 기준과 사람이 개입해야 할 시점, 사고가 발생했을 때 이를 분류하고 보고하는 절차를 담자고 제안했다. 표준 마련에는 한국을 비롯해 호주, 캐나다, 독일, 프랑스, 케냐, 일본, 싱가포르, 인도, 영국의 AI 안전연구소와 관련 기관을 활용하는 방안을 내놨다. 미국 인공지능 표준혁신센터(CAISI)와 각국 기관이 협력해 AI 성능 평가와 위험 관리에 필요한 공통 기술기준을 마련하자는 구상이다. 다만 이를 AI 모델 출시 전 정부 승인을 받도록 하는 규제로 만들자는 것은 아니다. 공통 기술기준을 실제 법과 제도에 적용할지는 각국 정부가 결정하도록 했다. 미국이 국제표준 마련을 이끌어야 하는 이유로는 기술력과 국제 영향력을 들었다. 미국이 최첨단 AI 개발을 주도하고 금융과 무역, 국방, 기술, 정보시스템 등에서 세계 각국과 연결돼 있어 국제 규칙을 만드는 데 유리하다는 주장이다. 오픈AI는 앞으로 AI 경쟁이 누가 더 뛰어난 모델을 개발하느냐에 그치지 않을 것으로 전망했다. 각국 기업과 사회가 어떤 기준 아래 AI를 도입하고 확산할지 정하는 규칙까지 경쟁 영역으로 넓어질 수 있다고 내다봤다. 이번 제안은 미국과 중국이 AI 안전 문제를 양국 간 의제로 다루기 시작한 가운데 나왔다. 도널드 트럼프 미국 대통령과 시진핑 중국 국가주석은 오는 24일 워싱턴에서 정상회담을 갖고 AI와 무역 등 주요 현안을 논의할 예정이다. 앞서 스콧 베선트 미국 재무장관과 허리펑 중국 국무원 부총리는 20일 뉴욕에서 AI 안전 문제를 논의했다. 미국은 국가안보에 영향을 줄 정도의 AI 사고가 발생하면 양국이 서로 알리는 체계를 제안했고 양측은 관련 대화를 이어가기로 했다. 오픈AI는 "미국과 중국 간 대화는 긍정적인 조치가 될 것"이라며 "지금 주도권을 잡아야 미국이 글로벌 AI 체계를 형성할 수 있다"고 밝혔다.

2026.09.22 15:32김동원 기자

엔코아, 오픈AI 셀렉트 파트너 선정…AI 레디 데이터 기반 기업 AX 지원 강화

엔코아가 오픈AI 파트너 네트워크의 '오픈AI 셀렉트 파트너'로 선정되며 국내 기업 인공지능(AI) 전환(AX) 지원에 속도를 낸다. 엔코아는 오픈AI 파트너 네트워크의 오픈AI 셀렉트 파트너로 선정됐다고 22일 밝혔다. 오픈AI 파트너 네트워크는 산업별 전문성과 구축 역량, 고객 네트워크를 갖춘 기업이 오픈AI 기술을 활용해 고객사의 AI 도입과 확산을 지원하는 협력 프로그램이다. 이번 선정으로 엔코아는 오픈AI와 협력해 국내 기업이 생성형 AI와 AI 에이전트를 보다 효과적이고 책임감 있게 도입·운영할 수 있도록 지원할 계획이다. 특히 데이터 거버넌스, 메타데이터 관리, 온톨로지 구축 역량과 AI 레디 데이터 플랫폼을 결합해 기업이 신뢰할 수 있는 AI 활용 기반을 마련하도록 돕는다. 생성형 AI 도입이 확산되면서 데이터 품질과 관리 체계의 중요성이 커지는 가운데, 엔코아는 AI 모델 성능을 높이고 기업 환경에 최적화된 AI 서비스를 구현하기 위해서는 체계적으로 관리된 데이터 자산이 필수적이라고 보고 있다. 이에 따라 AI 레디 데이터 구축부터 데이터 거버넌스 체계 수립, 메타데이터 관리 자동화까지 전 영역을 아우르는 서비스를 제공한다는 전략이다. 엔코아는 그동안 금융·제조·공공·유통 등 다양한 산업 분야에서 데이터 전략 수립과 데이터 거버넌스 체계 구축, 데이터 품질 개선 프로젝트를 수행해 왔다. 최근에는 AI 레디 데이터 플랫폼과 AI 기반 메타데이터 자동화 솔루션 '메타샵 AI(META# AI)'를 중심으로 기업 AI 사업을 확대하며 생성형 AI 활용 환경 구축을 지원하고 있다. 김주민 엔코아 대표는 "오픈AI 셀렉트 파트너 선정은 엔코아의 AI 기술력과 데이터 전문성을 인정받은 결과"라며 "생성형 AI를 통해 실질적인 비즈니스 성과를 창출하기 위해서는 신뢰할 수 있는 데이터 기반이 무엇보다 중요하다"고 말했다. 이어 "오픈AI와의 협력을 통해 고객들이 AI 레디 데이터 환경을 구축하고 AI의 잠재력을 최대한 활용할 수 있도록 지원하겠다"고 덧붙였다. 엔코아는 향후 오픈AI와 협력을 확대해 산업별 AI 활용 사례를 발굴하고, AI 데이터 거버넌스 체계 구축과 전문 인력 역량 강화 프로그램을 지속 추진할 예정이다. 이를 통해 고객이 AI 도입을 실제 비즈니스 성과로 연결할 수 있도록 지원한다는 방침이다.

2026.09.22 15:20남혁우 기자

[AI는 지금] 오픈AI 추격에 속도 내는 앤트로픽…'페이블 5.2' 곧 내놓나

오픈AI의 최신 인공지능(AI) 모델 '아스트라'가 기업·개발자 시장에서 빠르게 영향력을 넓히자 앤트로픽이 차세대 모델 출시를 서두르는 정황이 포착됐다. 22일 IT 업계에 따르면 앤트로픽은 기업공개(IPO)를 앞두고 새로운 AI 모델을 출시하는 방안을 내부적으로 논의하고 있는 것으로 전해졌다. 해당 논의는 지난 3일 출시된 오픈AI 'GPT-6 아스트라'가 기업 AI 지출과 개발자 이용량을 빠르게 늘리는 가운데 진행되고 있다. 실제 차기 모델로 추정되는 제품 테스트 정황도 나타났다. 테스팅카탈로그에 따르면 최근 엑스(X) 등 소셜미디어에는 앤트로픽의 미공개 모델 '클로드 페이블 5.2'가 생성한 것으로 추정되는 결과물이 잇따라 공유됐다. 앤트로픽은 해당 모델 테스트 진위여부를 공식적으로 발표하지 않았다. 공개된 사례에서는 페이블 5.2로 추정되는 모델이 외부 이미지 파일이나 플러그인, 서드파티 도구 없이 순수 자바스크립트만으로 게임과 인터랙티브 애니메이션을 구현했다. 모델이 한 번에 코드를 생성하고 캐릭터 이미지와 움직임까지 직접 구성한 것으로 나타났다. 일부 이용자는 페이블 5.2로 추정되는 모델과 아스트라 성능을 직접 비교하기도 했다. 한 테스터는 동일한 복잡한 프롬프트를 적용한 결과 새로운 페이블 모델이 기존 버전과 크게 다른 결과를 생성했다며 성능이 상당폭 개선됐다고 평했다. 현재 앤트로픽 고성능 모델 '오퍼스' 후속 제품 출시설도 나오고 있다. 테스팅카탈로그는 차기 모델이 '오퍼스 5.5'라는 이름으로 공개될 가능성이 있으며 이르면 이번 주 발표될 수 있다고 밝혔다. 다만 앤트로픽이 내부에서 출시를 논의 중인 신모델과 페이블 5.2 또는 오퍼스 5.5가 같은 제품인지는 확인되지 않았다. 앤트로픽이 신모델 출시를 검토하는 배경에는 아스트라 출시 이후 달라지고 있는 시장 지표가 있는 것으로 풀이된다. 기업 지출 관리 플랫폼 '램프'가 추적하는 기업 AI 지출에서 아스트라가 차지하는 비중은 약 13%로 집계됐다. 앤트로픽 최신 모델 '클로드 페이블'은 약 8%에 그쳤다. 개발자 이용 지표에서도 오픈AI가 앤트로픽을 추월한 것으로 나타났다. 오픈라우터 수치에 따르면 최근 한 주 동안 오픈AI 모델에 대한 지출이 앤트로픽을 넘어섰다. 오픈AI 모델 지출이 오픈라우터에서 앤트로픽을 앞선 것은 2년 반여 만에 처음인 것으로 전해졌다. 이런 흐름은 기업용 AI 시장에서 강점을 보여온 앤트로픽에도 부담으로 작용하고 있다. 잠재적 투자자들 사이에서는 오픈AI가 아스트라를 앞세워 앤트로픽의 기업 고객을 가져갈 가능성이 있는지에 대한 관심도 커지고 있다. 일각에선 대기업 고객이 기존 AI 공급사를 단기간에 바꾸기는 쉽지 않다는 분석도 나온다. 앤트로픽이 이미 기업 고객 기반을 확보하고 있는 데다 대기업은 기존 기술 공급사를 교체하는 데 상당한 시간이 필요하기 때문이다. 현재 페이블 5.2와 오퍼스 5.5의 정확한 모델명과 출시 일정은 아직 확정되지 않았다. 앤트로픽 역시 현재까지 신모델 출시 논의와 관련해 구체적인 입장을 밝히지 않고 있다. 한 개발자는 "동일한 복잡한 프롬프트를 적용했는데 기존 페이블과는 완전히 다른 결과가 나왔다"며 "새 미공개 모델 성능이 크게 개선됐고 아스트라와 비교해도 경쟁력이 있는 수준으로 보였다"고 말했다.

2026.09.22 14:42김미정 기자

[AI는 지금] '속도조절' 앞세운 오픈AI·앤트로픽, 소송 불똥…"서로 AI도 시험"

오픈AI와 앤트로픽이 경쟁사의 인공지능(AI) 모델을 서로 시험해 안전 취약점을 찾아내는 방안을 추진하고 있다. AI 모델이 개발자의 예상에서 벗어난 행동을 보이는 사례가 잇따르자 자체 검증을 넘어 경쟁사가 직접 모델을 시험하는 방식까지 검토하고 나선 것이다. 22일 디인포메이션에 따르면 오픈AI와 앤트로픽은 올해 초 서로의 AI 모델을 대상으로 안전성 테스트를 실시하기 위한 법적 구속력이 있는 계약을 논의했다. 양사와 법률대리인들은 계약 조건을 구체적으로 협의해 합의에 근접했으나 실제 계약이 체결됐는지는 확인되지 않았다. 논의된 방식은 상대 회사가 상용으로 제공하는 AI 모델의 애플리케이션 프로그래밍 인터페이스(API)에 접근해 취약점과 예상하지 못한 행동을 찾는 구조다. 아직 공개되지 않은 모델은 대상에서 제외하고 테스트 과정에서 확보한 상대 회사의 데이터도 보관하지 않는 조건이 포함된 것으로 전해졌다. 양사가 서로의 모델을 평가하는 것은 처음이 아니다. 앞서 오픈AI와 앤트로픽은 지난해 여름 상대 회사 모델을 자사의 안전 평가 체계로 각각 시험하고 결과를 공개했다. 당시 오픈AI는 앤트로픽 모델에서 테스트 과정의 규칙 위반을 인정하지 않는 등 기만적 행동이 상대적으로 많이 나타났다고 평가했다. 앤트로픽은 오픈AI 모델이 현실에서 피해를 일으킬 수 있는 질문에 응답하는 경향이 상대적으로 높았다고 밝혔다. 이번 협의는 AI 모델의 능력이 빠르게 높아지면서 기존 안전검증 방식만으로 예상하지 못한 행동을 찾아내기 어려워지고 있다는 우려 속에서 진행됐다. 특히 AI 에이전트가 인터넷과 외부 애플리케이션을 직접 사용하고 다른 에이전트와 협업할 수 있게 되면서 모델의 행동 범위도 넓어지고 있다. 오픈AI 내부에서도 이런 변화가 감지되고 있다. 디인포메이션에 따르면 오픈AI는 새로운 실험 모델의 훈련 과정을 상당 부분 자동화했다. 연구자가 시험할 내용을 지시하면 AI가 직접 모델을 수정하고 실험을 수행한 뒤 결과까지 확인하는 방식이다. 일부 AI 에이전트는 사용자의 명시적인 지시 없이 다른 직원에게 연락해 발견한 버그를 수정해 달라고 요청하는 등 예상하지 못한 행동을 보인 것으로 전해졌다. 이처럼 안전 우려가 커지면서 경쟁사 간 검증을 확대하자는 주장도 힘을 얻고 있다. 일론 머스크 스페이스XAI 최고경영자(CEO)는 최근 경쟁 AI 기업들이 모델을 상용화하기 전에 서로 안전 취약점을 검사하는 일종의 '동료평가' 방식을 제안했다. 샘 알트먼 오픈AI CEO도 다리오 아모데이 앤트로픽 CEO가 제시한 독립적인 제3자 평가기관의 내부 접근 허용 방안에 동의했다. 오픈AI와 앤트로픽, 구글은 프론티어 AI 모델을 시험하고 감사하는 안전 표준기구 설립 방안도 논의해왔다. 하지만 AI 기업들의 안전 공조가 확대되면서 반독점법과 충돌할 가능성도 제기되고 있다. 실제 미국 소비자 4명은 지난 18일 캘리포니아 북부연방지방법원에 앤트로픽과 오픈AI, 스페이스XAI, 구글을 상대로 반독점 소송을 제기했다. 주요 AI 기업들이 AI 개발 속도를 공동으로 늦추기로 합의했다는 것이 원고 측 주장이다. 원고 측은 개별 기업이 독자적으로 안전 기준을 강화하거나 개발 속도를 늦추는 것 자체는 문제 삼지 않았다. 다만 경쟁 관계인 기업들이 공동으로 모델 개발과 성능 개선 속도를 제한하는 행위가 미국 셔먼법이 금지하는 경쟁 제한 합의에 해당한다는 논리를 펴고 있다. 반면 AI 안전을 위한 공동 연구나 표준 마련은 원전·사이버보안 산업의 안전 협력과 유사하게 볼 수 있다는 반론도 제기되고 있다. 소송을 제기한 변호사 닉 롤리는 성명을 통해 "AI가 인류의 통제를 벗어날 위험에 대비한 안전장치는 필요하지만 세계에서 가장 영향력이 큰 영리 기술기업들의 사적인 합의가 AI 개발 방향을 결정해서는 안 된다"며 "관련 규칙은 정부가 투명한 절차와 공적 책임 아래 마련해야 한다"고 말했다.

2026.09.22 10:35장유미 기자

오픈AI, 수학 연구 논란에 외부 자문단 출범…학자 9명 참여

오픈AI가 인공지능(AI)를 활용한 수학 연구 논란에 대응하기 위해 외부 수학자들과 협력한다. 21일(현지시간) 테크크런치 등 외신에 따르면 오픈AI는 미국 뉴저지주 프린스턴 고등연구소에 '수학 및 AI 자문그룹'을 출범한다고 발표했다. 자문그룹은 오픈AI의 수학 분야 연구 결과를 평가하고 수학계와 회사 간 소통을 지원한다. 이번 자문기구 출범은 오픈AI가 최근 '나비에-스토크스 밀레니엄 문제' 해법을 공개한 뒤 수학계에서 논란이 불거진 가운데 이뤄졌다. 오픈AI는 해당 문제를 다룬 내부 AI 모델이 수학 대부분 분야에서 100개가 넘는 추가 미해결 문제도 해결했다고 주장했다. AI가 짧은 기간에 유명 수학 문제의 해법을 잇따라 내놓으면서 일부 수학자는 연구 결과 공개 속도와 방식에 우려를 제기했다. 이달 초 필즈상 수상자 25명은 공개서한을 통해 AI 기업들이 유명 수학 문제 해결 경쟁을 벌이는 과정에서 기존 수학자의 지적 작업이 위협받을 수 있다고 지적했다. 새 자문그룹은 AI가 내놓은 연구 결과의 학술적 중요성을 평가하고 결과 공개 과정을 조율하는 역할을 맡는다. 구성원은 보수를 받지 않으며 오픈AI 요청 없이 의견을 제시하거나 자신의 견해를 외부에 공개할 수 있다. 회원 구성도 그룹 자체적으로 결정한다. 자문그룹이 오픈AI의 수학 연구 속도나 방향을 직접 결정할 수 있는 없는 것으로 전해졌다. 오픈AI는 자문그룹이 회사 내부 수학 연구 진전 속도를 어떻게 조절할지에 대해 조언하는 역할은 맡지 않는다고 밝혔다. 자문그룹에는 초기 구성원으로 수학자 9명이 참여한다. 이 가운데 앞서 필즈상 수상자들의 공개서한에 서명한 인물은 프린스턴 고등연구소의 카밀로 데 렐리스가 유일하다. 고등연구소는 "우리는 조언을 제공하겠지만 어떤 AI 기업에서도 의사결정 권한을 갖고 있지 않다"며 "각 기업이 내리는 결정에 대한 책임은 해당 기업에 있다"고 밝혔다.

2026.09.22 09:45김미정 기자

트럼프-시진핑 만찬, 빅테크 수장들도 모인다

도널드 트럼프 미국 대통령과 시진핑 중국 국가주석의 정상회담을 앞두고 미국 주요 빅테크 수장들이 백악관 국빈 만찬에 집결한다. 이번 정상회담에서 인공지능(AI)이 주요 의제로 다뤄질 것으로 전망되면서 미중 AI 경쟁과 개발 속도·안전성을 둘러싼 논의에도 관심이 쏠린다. 21일(현지시간) 블룸버그 통신에 따르면 사티아 나델라 마이크로소프트(MS) 최고경영자(CEO)는 오는 24일 백악관에서 열리는 시 주석 환영 국빈 만찬에 참석할 예정이다. 앞서 참석이 알려진 팀 쿡 애플 집행의장을 비롯해 젠슨 황 엔비디아 CEO, 샘 알트먼 오픈AI CEO, 크리스티아노 아몬 퀄컴 CEO 등도 함께 할 예정이라고 블룸버그는 전했다. 이번 미중 정상회담에서는 AI가 주요 의제 가운데 하나로 다뤄질 예정이다. 미국 의회에서도 양국 정상이 AI 안전 기준을 논의해야 한다는 요구가 나온 것으로 전해졌다. 정상회담을 앞두고 양국 정부는 AI 관련 별도 대화 채널도 마련하기로 했다. 블룸버그에 따르면 스콧 베선트 미국 재무장관은 중국 측과의 AI·무역·투자 협의를 '매우 성공적'이라고 평가했다. 양측은 또 AI의 목표와 위협에 대한 공통된 이해를 마련하기 위한 대화를 이어가기로 합의했다. 최근 다리오 아모데이 앤트로픽 CEO가 AI의 사이버공격 등 위험성에 따른 'AI 속도조절론'을 주장하면서 업계에서는 개발 속도를 둘러싼 논쟁이 이어지고 있다. 트럼프 대통령은 "AI에서 승리하는 자가 승리한다"며 개발 속도 조절에 부정적인 입장을 보이고 있다. 중국 외교부 역시 일부 미국 빅테크들의 AI 개발 속도 조절 요구를 두고 "공포 조장과 대립은 글로벌 AI 거버넌스를 방해할 뿐"이라고 비판했다.

2026.09.21 18:15이나연 기자

젠슨 황, AI 인류멸망론 반박…"AI 공포 조장, 불필요하고 무책임"

젠슨 황 엔비디아 최고경영자(CEO)가 인공지능(AI)이 인류를 멸망시킬 수 있다는 경고를 근거 없는 주장으로 일축했다. AI 위험을 과장해 대중의 공포를 키우는 대신 안전한 기술 개발에 집중해야 한다고 강조했다. 21일 미국CBS 등 외신에 따르면 황 CEO는 이날 방송된 인터뷰에서 2030년에 세계가 종말을 맞을 확률은 0%라고 주장했다. AI 인류멸망론을 과학적 근거가 부족한 '종말론적 서사'로 규정한 것이다. 최근 AI 업계에서는 기술이 인간 통제에서 벗어날 가능성을 둘러싼 논쟁이 이어지고 있다. AI가 스스로 성능을 높이는 단계에 진입하면 인류 생존까지 위협할 수 있다는 우려다. 앤트로픽 연구원 출신 제이콥 콕슨은 AI의 위험성을 이유로 회사를 떠난 뒤 지난 8일 엑스(X)에 테크 기업들이 통제를 벗어날 수 있는 자가발전형 AI 모델을 앞다퉈 개발하고 있다고 주장했다. 기술자들이 10년 안에 AI가 인류를 모두 없앨 수 있다고 진심으로 믿고 있다는 주장도 내놨다. 다리오 아모데이 앤트로픽 CEO와 샘 알트먼 오픈AI CEO도 AI 개발 속도를 조절할 필요가 있다는 입장을 밝혀왔다. 이는 AI 시스템 구동에 필요한 하드웨어(HW)를 공급하는 황 CEO와 상반된 견해다. 황 CEO는 AI 업계가 제품을 책임감 있게 개발하도록 만드는 것이 엔비디아 이익과도 맞닿아 있다고 강조했다. 빠르게 기술을 개발하더라도 준비되지 않았거나 안전하지 않은 제품을 출시해서는 안 된다는 설명이다. 그는 AI 속도조절론을 제기하는 기업들의 의도에도 물음표를 던졌다. 이들이 새로운 규제를 요구하는 것이 아니라 기존 법률에 따른 책임을 피하려는 것일 수 있다는 지적이다. 앞서 도널드 트럼프 미국 대통령도 지난 14일 로스앤젤레스에서 열린 행사에서 AI 속도조절론을 정치적 의도가 담긴 주장이나 중국의 계략으로 규정했다. 당시 행사 무대에 있던 황 CEO에게 전화해 이를 '사기'라고 비판했고 황 CEO도 이에 동의했다. 황 CEO는 "2030년이 세계의 종말이 되지는 않을 것"이라며 "AI 때문에 세상이 끝날 확률은 0%"라고 말했다.

2026.09.21 17:39김미정 기자

Prev 1 2 3 4 5 6 7 8 9 10 Next