검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'오픈 AI'통합검색 결과 입니다. (1466건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

"AI 안전성 평가, 개발사에만 맡겨선 안 돼"… 페이페이 리, 외부 검증 체계 촉구

페이페이 리 스탠퍼드대 교수 겸 월드랩스 공동창업자가 고도화되는 인공지능(AI) 시스템 안전성 평가를 개발 기업에만 맡겨서는 안 된다고 지적했다. 독립 기관과 학계, 정부 등 공공 부문이 함께 참여하는 감독 체계와 공통 평가 기준도 마련해야 한다고 강조했다. 페이페이 리 교수는 22일(현지시간) 블룸버그와의 인터뷰에서 AI 기업 내부 연구진이 개별 모델의 성능과 보안 특성을 평가할 수는 있지만 정부, 산업계, 학계가 공동으로 마련하는 폭넓은 기준을 대체할 수는 없다고 말했다. 페이페이 리 교수는 "독립 기관과 학계 등 공공 부문이 마련하는 벤치마크의 중요성을 계속 믿는다"며 "산업계와 정부 역시 함께 책임을 나눠야 한다"고 밝혔다. 페이페이 리 교수가 공동 설립한 월드 랩스는 3차원 환경을 생성하고 재구성하는 이른바 '월드모델'을 개발하고 있다. 이 기술은 로봇 훈련과 평가에 활용될 수 있으며 디자인과 헬스케어를 비롯한 다양한 산업 분야에도 적용될 수 있을 것으로 주목 받고 있다. 최근 AI 기술이 인간의 통제를 벗어날 수 있다는 업계의 경고가 이어지면서 초고성능 AI가 초래할 수 있는 위험을 둘러싼 우려도 커지고 있다. 다리오 아모데이 앤트로픽 최고경영자(CEO)와 샘 알트먼 오픈AI CEO는 최근 최첨단 AI 모델의 개발 속도를 조절할 필요가 있다고 주장했다. 반면 앤드류 응 스탠퍼드대 교수는 AI가 인류를 멸종시킬 수 있다는 일각의 경고에 대해 "공상과학에 가깝다"며 비판적인 견해를 밝혔다. 앤드류 응 교수는 "AI 발전에 위험이 전혀 없다는 뜻은 아니다"라면서도 "업계와 정책 당국이 인류 멸종과 같은 가설적 위험에 매몰되기보다 사이버보안 악용 등 현재 확인 가능한 문제 해결에 집중해야 한다"고 주장했다. 이어 "AI 기업은 인류 멸종과 같은 불확실한 미래 시나리오를 앞세우기보다 기술을 개선하고 안전하게 만들기 위한 현실적 과제에 역량을 집중해야 한다"며 "AI가 할 수 있는 수많은 훌륭한 일에 활용될 수 있도록 해야 한다"고 강조했다. AI에 대한 엇갈린 의견 속에서 페이페이 리 교수는 AI가 인류에게 실존적 위협이 될지 여부는 인간이 이 기술을 어떻게 개발하고 통제하며 활용하느냐에 달려 있다고 설명했다. 전기와 증기기관, 현대 교통수단 등 과거의 주요 기술 역시 사회가 기술적 편익과 인간의 안전 사이에서 균형을 모색해야 했다는 점에서 AI와 유사하다는 것이다. AI 위험성을 어느 수준까지 심각하게 받아들여야 하는지를 놓고 정책 당국과 AI 업계 리더들의 논쟁도 격화하고 있다. 도널드 트럼프 미국 대통령은 유엔 총회 연설에서 AI의 실존적 위협에 대한 우려를 '사기'라고 일축하며 기술 개발을 최대 속도로 이어가야 한다고 주장했다. 페이페이 리 교수는 AI 기술이 현실 세계로 빠르게 확산하는 상황에서 핵심 과제는 더욱 분명해지고 있다고 진단했다. 갈수록 강력해지는 AI를 어떤 기준으로 평가하고, 시스템이 의도한 대로 작동하는지를 누가 검증할 것인지가 산업 전반의 공통 과제로 떠오르고 있다는 것이다. 그는 "AI는 AI 자체에 관한 문제가 아니라 인간에 관한 문제"라며 "우리의 공동체적·개인적 존엄성과 주체성, 그리고 책임에 관한 문제"라고 말했다.

2026.09.23 09:47남혁우 기자

[AI는 지금] 오픈AI, 'GPT-6 솔·루나' 출시…"아스트라 강점 확장"

오픈AI가 '아스트라'에 이어 가격 경쟁력과 코딩 정확도를 앞세운 인공지능(AI) 모델을 새로 내놔 시장 공략 범위를 넓혔다. 오픈AI는 'GPT-6 솔'과 'GPT-6 루나'를 출시했다고 공식 홈페이지를 통해 23일 밝혔다. GPT-6 솔은 코딩을 비롯한 복잡한 작업에 초점 맞춘 모델이다. GPT-6 루나는 문서 요약과 정보 추출처럼 목표가 명확하면서 많은 작업을 빠르게 처리해야 하는 업무에 적합하도록 설계됐다. 오픈AI는 두 모델 가격 경쟁력을 강화했다고 밝혔다. GPT-6 솔과 루나의 API 가격은 GPT-5.6 세대 모델 절반 수준으로 책정됐다. 오픈AI는 캐싱과 추론 기술을 개선하면서 모델 운용 효율을 높여 가격을 낮출 수 있었다고 설명했다. 두 모델 답변 정확도도 개선된 것으로 확인됐다. 오픈AI 내부 사실성 평가에서 GPT-6 솔은 이전 모델보다 오류율이 약 절반 줄어든 것으로 나타났다. 오픈AI는 "더 낮은 비용으로 상위 모델인 GPT-6 아스트라 수준의 신뢰성을 구현했다"고 평했다. 해당 모델은 코딩 작업에서 발생하는 오류율도 낮아진 것으로 확인됐다. 오픈AI는 새로운 솔과 루나가 사실에 부합하는 답변을 생성하는 능력을 개선했으며 코딩 과정에서도 이전보다 오류를 줄였다고 밝혔다. 업계에선 오픈AI가 GPT-6 제품군 확대 전략을 강화하고 있다는 평이 이어지고 있다. 앞서 솔과 루나 시리즈는 올해 GPT-5.6 제품군을 통해 처음 등장했으며 작업 난도와 용도에 따라 서로 다른 모델을 선택할 수 있도록 구성됐다. 오픈AI는 새 모델이 경쟁사 앤트로픽의 페이블과 오퍼스 등 최상위 모델보다 여러 작업에서 높은 성능을 보인다고 주장했다. 앤트로픽은 오픈AI의 이번 발표 약 90분 전 가격을 낮추고 페이블 수준의 성능을 갖춘 새 '오퍼스 5.5'를 공개해 모델 경쟁도 한층 치열해지고 있다. GPT-6 솔과 루나는 현재 다수 유료 계정에서 '챗GPT 워크'와 '코덱스'를 통해 이용할 수 있으며 챗GPT API에도 적용됐다. 루나는 데스크톱 앱과 무료·고 이용자에게도 제공되며 오픈AI는 챗GPT 앱과 웹사이트에 두 모델을 순차적으로 배포할 예정이다. 오픈AI는 "GPT-6 아스트라는 새로운 세대의 지능을 선보였다"며 "이번 모델들은 그 지능을 더욱 효율적이고 접근하기 쉽게 만들어 아스트라의 이점을 확장한다"고 밝혔다.

2026.09.23 09:19김미정 기자

오픈AI "AI 국제표준, 미국이 주도해야"

오픈AI가 미중 정상회담을 앞두고 미국이 차세대 인공지능(AI)의 국제표준 수립을 주도해야 한다고 촉구했다. 21일(현지시간) 오픈AI는 자사 블로그에 'AI의 다음 단계를 위한 표준 구축'이라는 글을 올리고 미국이 세계 각국과 협력해 최첨단 AI의 글로벌 기술표준 마련을 이끌어야 한다고 밝혔다. 오픈AI는 국가마다 AI 평가와 사고 보고 기준이 다르면 위험이 발생했을 때 공동 대응이 어려워질 수 있다고 지적했다. 최첨단 AI 개발 역량과 전문성도 일부 국가에 집중돼 있어 국가 간 공통 기준이 필요하다고 강조했다. AI 연구 자동화도 국제표준이 필요한 이유로 제시했다. AI가 다음 세대 모델 개발에 더 많이 참여하면 연구 결과가 다시 AI 개발에 활용될 수 있다. 오픈AI는 이런 '재귀적 자기개선(RSI)'이 늘어날수록 AI 발전 속도도 빨라질 수 있다고 경고했다. 아직 사람이 빠진 채 AI가 스스로 이런 과정을 반복하는 단계에 이른 것은 아니다. 다만 자동화가 지나치게 빨라지면 사람이 연구 과정을 이해하지 못해 AI 개발을 제대로 통제하기 어려워질 수 있다. 오픈AI는 국제표준에 AI 연구가 얼마나 자동화됐는지 측정하는 기준과 사람이 개입해야 할 시점, 사고가 발생했을 때 이를 분류하고 보고하는 절차를 담자고 제안했다. 표준 마련에는 한국을 비롯해 호주, 캐나다, 독일, 프랑스, 케냐, 일본, 싱가포르, 인도, 영국의 AI 안전연구소와 관련 기관을 활용하는 방안을 내놨다. 미국 인공지능 표준혁신센터(CAISI)와 각국 기관이 협력해 AI 성능 평가와 위험 관리에 필요한 공통 기술기준을 마련하자는 구상이다. 다만 이를 AI 모델 출시 전 정부 승인을 받도록 하는 규제로 만들자는 것은 아니다. 공통 기술기준을 실제 법과 제도에 적용할지는 각국 정부가 결정하도록 했다. 미국이 국제표준 마련을 이끌어야 하는 이유로는 기술력과 국제 영향력을 들었다. 미국이 최첨단 AI 개발을 주도하고 금융과 무역, 국방, 기술, 정보시스템 등에서 세계 각국과 연결돼 있어 국제 규칙을 만드는 데 유리하다는 주장이다. 오픈AI는 앞으로 AI 경쟁이 누가 더 뛰어난 모델을 개발하느냐에 그치지 않을 것으로 전망했다. 각국 기업과 사회가 어떤 기준 아래 AI를 도입하고 확산할지 정하는 규칙까지 경쟁 영역으로 넓어질 수 있다고 내다봤다. 이번 제안은 미국과 중국이 AI 안전 문제를 양국 간 의제로 다루기 시작한 가운데 나왔다. 도널드 트럼프 미국 대통령과 시진핑 중국 국가주석은 오는 24일 워싱턴에서 정상회담을 갖고 AI와 무역 등 주요 현안을 논의할 예정이다. 앞서 스콧 베선트 미국 재무장관과 허리펑 중국 국무원 부총리는 20일 뉴욕에서 AI 안전 문제를 논의했다. 미국은 국가안보에 영향을 줄 정도의 AI 사고가 발생하면 양국이 서로 알리는 체계를 제안했고 양측은 관련 대화를 이어가기로 했다. 오픈AI는 "미국과 중국 간 대화는 긍정적인 조치가 될 것"이라며 "지금 주도권을 잡아야 미국이 글로벌 AI 체계를 형성할 수 있다"고 밝혔다.

2026.09.22 15:32김동원 기자

엔코아, 오픈AI 셀렉트 파트너 선정…AI 레디 데이터 기반 기업 AX 지원 강화

엔코아가 오픈AI 파트너 네트워크의 '오픈AI 셀렉트 파트너'로 선정되며 국내 기업 인공지능(AI) 전환(AX) 지원에 속도를 낸다. 엔코아는 오픈AI 파트너 네트워크의 오픈AI 셀렉트 파트너로 선정됐다고 22일 밝혔다. 오픈AI 파트너 네트워크는 산업별 전문성과 구축 역량, 고객 네트워크를 갖춘 기업이 오픈AI 기술을 활용해 고객사의 AI 도입과 확산을 지원하는 협력 프로그램이다. 이번 선정으로 엔코아는 오픈AI와 협력해 국내 기업이 생성형 AI와 AI 에이전트를 보다 효과적이고 책임감 있게 도입·운영할 수 있도록 지원할 계획이다. 특히 데이터 거버넌스, 메타데이터 관리, 온톨로지 구축 역량과 AI 레디 데이터 플랫폼을 결합해 기업이 신뢰할 수 있는 AI 활용 기반을 마련하도록 돕는다. 생성형 AI 도입이 확산되면서 데이터 품질과 관리 체계의 중요성이 커지는 가운데, 엔코아는 AI 모델 성능을 높이고 기업 환경에 최적화된 AI 서비스를 구현하기 위해서는 체계적으로 관리된 데이터 자산이 필수적이라고 보고 있다. 이에 따라 AI 레디 데이터 구축부터 데이터 거버넌스 체계 수립, 메타데이터 관리 자동화까지 전 영역을 아우르는 서비스를 제공한다는 전략이다. 엔코아는 그동안 금융·제조·공공·유통 등 다양한 산업 분야에서 데이터 전략 수립과 데이터 거버넌스 체계 구축, 데이터 품질 개선 프로젝트를 수행해 왔다. 최근에는 AI 레디 데이터 플랫폼과 AI 기반 메타데이터 자동화 솔루션 '메타샵 AI(META# AI)'를 중심으로 기업 AI 사업을 확대하며 생성형 AI 활용 환경 구축을 지원하고 있다. 김주민 엔코아 대표는 "오픈AI 셀렉트 파트너 선정은 엔코아의 AI 기술력과 데이터 전문성을 인정받은 결과"라며 "생성형 AI를 통해 실질적인 비즈니스 성과를 창출하기 위해서는 신뢰할 수 있는 데이터 기반이 무엇보다 중요하다"고 말했다. 이어 "오픈AI와의 협력을 통해 고객들이 AI 레디 데이터 환경을 구축하고 AI의 잠재력을 최대한 활용할 수 있도록 지원하겠다"고 덧붙였다. 엔코아는 향후 오픈AI와 협력을 확대해 산업별 AI 활용 사례를 발굴하고, AI 데이터 거버넌스 체계 구축과 전문 인력 역량 강화 프로그램을 지속 추진할 예정이다. 이를 통해 고객이 AI 도입을 실제 비즈니스 성과로 연결할 수 있도록 지원한다는 방침이다.

2026.09.22 15:20남혁우 기자

[AI는 지금] 오픈AI 추격에 속도 내는 앤트로픽…'페이블 5.2' 곧 내놓나

오픈AI의 최신 인공지능(AI) 모델 '아스트라'가 기업·개발자 시장에서 빠르게 영향력을 넓히자 앤트로픽이 차세대 모델 출시를 서두르는 정황이 포착됐다. 22일 IT 업계에 따르면 앤트로픽은 기업공개(IPO)를 앞두고 새로운 AI 모델을 출시하는 방안을 내부적으로 논의하고 있는 것으로 전해졌다. 해당 논의는 지난 3일 출시된 오픈AI 'GPT-6 아스트라'가 기업 AI 지출과 개발자 이용량을 빠르게 늘리는 가운데 진행되고 있다. 실제 차기 모델로 추정되는 제품 테스트 정황도 나타났다. 테스팅카탈로그에 따르면 최근 엑스(X) 등 소셜미디어에는 앤트로픽의 미공개 모델 '클로드 페이블 5.2'가 생성한 것으로 추정되는 결과물이 잇따라 공유됐다. 앤트로픽은 해당 모델 테스트 진위여부를 공식적으로 발표하지 않았다. 공개된 사례에서는 페이블 5.2로 추정되는 모델이 외부 이미지 파일이나 플러그인, 서드파티 도구 없이 순수 자바스크립트만으로 게임과 인터랙티브 애니메이션을 구현했다. 모델이 한 번에 코드를 생성하고 캐릭터 이미지와 움직임까지 직접 구성한 것으로 나타났다. 일부 이용자는 페이블 5.2로 추정되는 모델과 아스트라 성능을 직접 비교하기도 했다. 한 테스터는 동일한 복잡한 프롬프트를 적용한 결과 새로운 페이블 모델이 기존 버전과 크게 다른 결과를 생성했다며 성능이 상당폭 개선됐다고 평했다. 현재 앤트로픽 고성능 모델 '오퍼스' 후속 제품 출시설도 나오고 있다. 테스팅카탈로그는 차기 모델이 '오퍼스 5.5'라는 이름으로 공개될 가능성이 있으며 이르면 이번 주 발표될 수 있다고 밝혔다. 다만 앤트로픽이 내부에서 출시를 논의 중인 신모델과 페이블 5.2 또는 오퍼스 5.5가 같은 제품인지는 확인되지 않았다. 앤트로픽이 신모델 출시를 검토하는 배경에는 아스트라 출시 이후 달라지고 있는 시장 지표가 있는 것으로 풀이된다. 기업 지출 관리 플랫폼 '램프'가 추적하는 기업 AI 지출에서 아스트라가 차지하는 비중은 약 13%로 집계됐다. 앤트로픽 최신 모델 '클로드 페이블'은 약 8%에 그쳤다. 개발자 이용 지표에서도 오픈AI가 앤트로픽을 추월한 것으로 나타났다. 오픈라우터 수치에 따르면 최근 한 주 동안 오픈AI 모델에 대한 지출이 앤트로픽을 넘어섰다. 오픈AI 모델 지출이 오픈라우터에서 앤트로픽을 앞선 것은 2년 반여 만에 처음인 것으로 전해졌다. 이런 흐름은 기업용 AI 시장에서 강점을 보여온 앤트로픽에도 부담으로 작용하고 있다. 잠재적 투자자들 사이에서는 오픈AI가 아스트라를 앞세워 앤트로픽의 기업 고객을 가져갈 가능성이 있는지에 대한 관심도 커지고 있다. 일각에선 대기업 고객이 기존 AI 공급사를 단기간에 바꾸기는 쉽지 않다는 분석도 나온다. 앤트로픽이 이미 기업 고객 기반을 확보하고 있는 데다 대기업은 기존 기술 공급사를 교체하는 데 상당한 시간이 필요하기 때문이다. 현재 페이블 5.2와 오퍼스 5.5의 정확한 모델명과 출시 일정은 아직 확정되지 않았다. 앤트로픽 역시 현재까지 신모델 출시 논의와 관련해 구체적인 입장을 밝히지 않고 있다. 한 개발자는 "동일한 복잡한 프롬프트를 적용했는데 기존 페이블과는 완전히 다른 결과가 나왔다"며 "새 미공개 모델 성능이 크게 개선됐고 아스트라와 비교해도 경쟁력이 있는 수준으로 보였다"고 말했다.

2026.09.22 14:42김미정 기자

[AI는 지금] '속도조절' 앞세운 오픈AI·앤트로픽, 소송 불똥…"서로 AI도 시험"

오픈AI와 앤트로픽이 경쟁사의 인공지능(AI) 모델을 서로 시험해 안전 취약점을 찾아내는 방안을 추진하고 있다. AI 모델이 개발자의 예상에서 벗어난 행동을 보이는 사례가 잇따르자 자체 검증을 넘어 경쟁사가 직접 모델을 시험하는 방식까지 검토하고 나선 것이다. 22일 디인포메이션에 따르면 오픈AI와 앤트로픽은 올해 초 서로의 AI 모델을 대상으로 안전성 테스트를 실시하기 위한 법적 구속력이 있는 계약을 논의했다. 양사와 법률대리인들은 계약 조건을 구체적으로 협의해 합의에 근접했으나 실제 계약이 체결됐는지는 확인되지 않았다. 논의된 방식은 상대 회사가 상용으로 제공하는 AI 모델의 애플리케이션 프로그래밍 인터페이스(API)에 접근해 취약점과 예상하지 못한 행동을 찾는 구조다. 아직 공개되지 않은 모델은 대상에서 제외하고 테스트 과정에서 확보한 상대 회사의 데이터도 보관하지 않는 조건이 포함된 것으로 전해졌다. 양사가 서로의 모델을 평가하는 것은 처음이 아니다. 앞서 오픈AI와 앤트로픽은 지난해 여름 상대 회사 모델을 자사의 안전 평가 체계로 각각 시험하고 결과를 공개했다. 당시 오픈AI는 앤트로픽 모델에서 테스트 과정의 규칙 위반을 인정하지 않는 등 기만적 행동이 상대적으로 많이 나타났다고 평가했다. 앤트로픽은 오픈AI 모델이 현실에서 피해를 일으킬 수 있는 질문에 응답하는 경향이 상대적으로 높았다고 밝혔다. 이번 협의는 AI 모델의 능력이 빠르게 높아지면서 기존 안전검증 방식만으로 예상하지 못한 행동을 찾아내기 어려워지고 있다는 우려 속에서 진행됐다. 특히 AI 에이전트가 인터넷과 외부 애플리케이션을 직접 사용하고 다른 에이전트와 협업할 수 있게 되면서 모델의 행동 범위도 넓어지고 있다. 오픈AI 내부에서도 이런 변화가 감지되고 있다. 디인포메이션에 따르면 오픈AI는 새로운 실험 모델의 훈련 과정을 상당 부분 자동화했다. 연구자가 시험할 내용을 지시하면 AI가 직접 모델을 수정하고 실험을 수행한 뒤 결과까지 확인하는 방식이다. 일부 AI 에이전트는 사용자의 명시적인 지시 없이 다른 직원에게 연락해 발견한 버그를 수정해 달라고 요청하는 등 예상하지 못한 행동을 보인 것으로 전해졌다. 이처럼 안전 우려가 커지면서 경쟁사 간 검증을 확대하자는 주장도 힘을 얻고 있다. 일론 머스크 스페이스XAI 최고경영자(CEO)는 최근 경쟁 AI 기업들이 모델을 상용화하기 전에 서로 안전 취약점을 검사하는 일종의 '동료평가' 방식을 제안했다. 샘 알트먼 오픈AI CEO도 다리오 아모데이 앤트로픽 CEO가 제시한 독립적인 제3자 평가기관의 내부 접근 허용 방안에 동의했다. 오픈AI와 앤트로픽, 구글은 프론티어 AI 모델을 시험하고 감사하는 안전 표준기구 설립 방안도 논의해왔다. 하지만 AI 기업들의 안전 공조가 확대되면서 반독점법과 충돌할 가능성도 제기되고 있다. 실제 미국 소비자 4명은 지난 18일 캘리포니아 북부연방지방법원에 앤트로픽과 오픈AI, 스페이스XAI, 구글을 상대로 반독점 소송을 제기했다. 주요 AI 기업들이 AI 개발 속도를 공동으로 늦추기로 합의했다는 것이 원고 측 주장이다. 원고 측은 개별 기업이 독자적으로 안전 기준을 강화하거나 개발 속도를 늦추는 것 자체는 문제 삼지 않았다. 다만 경쟁 관계인 기업들이 공동으로 모델 개발과 성능 개선 속도를 제한하는 행위가 미국 셔먼법이 금지하는 경쟁 제한 합의에 해당한다는 논리를 펴고 있다. 반면 AI 안전을 위한 공동 연구나 표준 마련은 원전·사이버보안 산업의 안전 협력과 유사하게 볼 수 있다는 반론도 제기되고 있다. 소송을 제기한 변호사 닉 롤리는 성명을 통해 "AI가 인류의 통제를 벗어날 위험에 대비한 안전장치는 필요하지만 세계에서 가장 영향력이 큰 영리 기술기업들의 사적인 합의가 AI 개발 방향을 결정해서는 안 된다"며 "관련 규칙은 정부가 투명한 절차와 공적 책임 아래 마련해야 한다"고 말했다.

2026.09.22 10:35장유미 기자

오픈AI, 수학 연구 논란에 외부 자문단 출범…학자 9명 참여

오픈AI가 인공지능(AI)를 활용한 수학 연구 논란에 대응하기 위해 외부 수학자들과 협력한다. 21일(현지시간) 테크크런치 등 외신에 따르면 오픈AI는 미국 뉴저지주 프린스턴 고등연구소에 '수학 및 AI 자문그룹'을 출범한다고 발표했다. 자문그룹은 오픈AI의 수학 분야 연구 결과를 평가하고 수학계와 회사 간 소통을 지원한다. 이번 자문기구 출범은 오픈AI가 최근 '나비에-스토크스 밀레니엄 문제' 해법을 공개한 뒤 수학계에서 논란이 불거진 가운데 이뤄졌다. 오픈AI는 해당 문제를 다룬 내부 AI 모델이 수학 대부분 분야에서 100개가 넘는 추가 미해결 문제도 해결했다고 주장했다. AI가 짧은 기간에 유명 수학 문제의 해법을 잇따라 내놓으면서 일부 수학자는 연구 결과 공개 속도와 방식에 우려를 제기했다. 이달 초 필즈상 수상자 25명은 공개서한을 통해 AI 기업들이 유명 수학 문제 해결 경쟁을 벌이는 과정에서 기존 수학자의 지적 작업이 위협받을 수 있다고 지적했다. 새 자문그룹은 AI가 내놓은 연구 결과의 학술적 중요성을 평가하고 결과 공개 과정을 조율하는 역할을 맡는다. 구성원은 보수를 받지 않으며 오픈AI 요청 없이 의견을 제시하거나 자신의 견해를 외부에 공개할 수 있다. 회원 구성도 그룹 자체적으로 결정한다. 자문그룹이 오픈AI의 수학 연구 속도나 방향을 직접 결정할 수 있는 없는 것으로 전해졌다. 오픈AI는 자문그룹이 회사 내부 수학 연구 진전 속도를 어떻게 조절할지에 대해 조언하는 역할은 맡지 않는다고 밝혔다. 자문그룹에는 초기 구성원으로 수학자 9명이 참여한다. 이 가운데 앞서 필즈상 수상자들의 공개서한에 서명한 인물은 프린스턴 고등연구소의 카밀로 데 렐리스가 유일하다. 고등연구소는 "우리는 조언을 제공하겠지만 어떤 AI 기업에서도 의사결정 권한을 갖고 있지 않다"며 "각 기업이 내리는 결정에 대한 책임은 해당 기업에 있다"고 밝혔다.

2026.09.22 09:45김미정 기자

트럼프-시진핑 만찬, 빅테크 수장들도 모인다

도널드 트럼프 미국 대통령과 시진핑 중국 국가주석의 정상회담을 앞두고 미국 주요 빅테크 수장들이 백악관 국빈 만찬에 집결한다. 이번 정상회담에서 인공지능(AI)이 주요 의제로 다뤄질 것으로 전망되면서 미중 AI 경쟁과 개발 속도·안전성을 둘러싼 논의에도 관심이 쏠린다. 21일(현지시간) 블룸버그 통신에 따르면 사티아 나델라 마이크로소프트(MS) 최고경영자(CEO)는 오는 24일 백악관에서 열리는 시 주석 환영 국빈 만찬에 참석할 예정이다. 앞서 참석이 알려진 팀 쿡 애플 집행의장을 비롯해 젠슨 황 엔비디아 CEO, 샘 알트먼 오픈AI CEO, 크리스티아노 아몬 퀄컴 CEO 등도 함께 할 예정이라고 블룸버그는 전했다. 이번 미중 정상회담에서는 AI가 주요 의제 가운데 하나로 다뤄질 예정이다. 미국 의회에서도 양국 정상이 AI 안전 기준을 논의해야 한다는 요구가 나온 것으로 전해졌다. 정상회담을 앞두고 양국 정부는 AI 관련 별도 대화 채널도 마련하기로 했다. 블룸버그에 따르면 스콧 베선트 미국 재무장관은 중국 측과의 AI·무역·투자 협의를 '매우 성공적'이라고 평가했다. 양측은 또 AI의 목표와 위협에 대한 공통된 이해를 마련하기 위한 대화를 이어가기로 합의했다. 최근 다리오 아모데이 앤트로픽 CEO가 AI의 사이버공격 등 위험성에 따른 'AI 속도조절론'을 주장하면서 업계에서는 개발 속도를 둘러싼 논쟁이 이어지고 있다. 트럼프 대통령은 "AI에서 승리하는 자가 승리한다"며 개발 속도 조절에 부정적인 입장을 보이고 있다. 중국 외교부 역시 일부 미국 빅테크들의 AI 개발 속도 조절 요구를 두고 "공포 조장과 대립은 글로벌 AI 거버넌스를 방해할 뿐"이라고 비판했다.

2026.09.21 18:15이나연 기자

젠슨 황, AI 인류멸망론 반박…"AI 공포 조장, 불필요하고 무책임"

젠슨 황 엔비디아 최고경영자(CEO)가 인공지능(AI)이 인류를 멸망시킬 수 있다는 경고를 근거 없는 주장으로 일축했다. AI 위험을 과장해 대중의 공포를 키우는 대신 안전한 기술 개발에 집중해야 한다고 강조했다. 21일 미국CBS 등 외신에 따르면 황 CEO는 이날 방송된 인터뷰에서 2030년에 세계가 종말을 맞을 확률은 0%라고 주장했다. AI 인류멸망론을 과학적 근거가 부족한 '종말론적 서사'로 규정한 것이다. 최근 AI 업계에서는 기술이 인간 통제에서 벗어날 가능성을 둘러싼 논쟁이 이어지고 있다. AI가 스스로 성능을 높이는 단계에 진입하면 인류 생존까지 위협할 수 있다는 우려다. 앤트로픽 연구원 출신 제이콥 콕슨은 AI의 위험성을 이유로 회사를 떠난 뒤 지난 8일 엑스(X)에 테크 기업들이 통제를 벗어날 수 있는 자가발전형 AI 모델을 앞다퉈 개발하고 있다고 주장했다. 기술자들이 10년 안에 AI가 인류를 모두 없앨 수 있다고 진심으로 믿고 있다는 주장도 내놨다. 다리오 아모데이 앤트로픽 CEO와 샘 알트먼 오픈AI CEO도 AI 개발 속도를 조절할 필요가 있다는 입장을 밝혀왔다. 이는 AI 시스템 구동에 필요한 하드웨어(HW)를 공급하는 황 CEO와 상반된 견해다. 황 CEO는 AI 업계가 제품을 책임감 있게 개발하도록 만드는 것이 엔비디아 이익과도 맞닿아 있다고 강조했다. 빠르게 기술을 개발하더라도 준비되지 않았거나 안전하지 않은 제품을 출시해서는 안 된다는 설명이다. 그는 AI 속도조절론을 제기하는 기업들의 의도에도 물음표를 던졌다. 이들이 새로운 규제를 요구하는 것이 아니라 기존 법률에 따른 책임을 피하려는 것일 수 있다는 지적이다. 앞서 도널드 트럼프 미국 대통령도 지난 14일 로스앤젤레스에서 열린 행사에서 AI 속도조절론을 정치적 의도가 담긴 주장이나 중국의 계략으로 규정했다. 당시 행사 무대에 있던 황 CEO에게 전화해 이를 '사기'라고 비판했고 황 CEO도 이에 동의했다. 황 CEO는 "2030년이 세계의 종말이 되지는 않을 것"이라며 "AI 때문에 세상이 끝날 확률은 0%"라고 말했다.

2026.09.21 17:39김미정 기자

"구글·오픈AI부터 퍼플렉시티까지"…빅테크 AI 거물 한 자리 모인다

생성형 AI를 넘어 '피지컬·에이전틱 AI'로 진화하는 격변의 시기를 맞아, 글로벌 AI 시장을 주도하는 빅테크 핵심 리더들이 서울에 총출동한다. 과학기술정보통신부 'AI 주간(AI Week)'의 공식 행사인 'AI 페스타 26'이 10월 6일부터 8일까지 사흘간 서울 코엑스C홀(3층) 등에서 개최된다. 이번 행사는 단순한 전시를 넘어 세계 최고 수준의 글로벌 빅테크 연사들이 대거 참여하는 컨퍼런스 중심으로 구성돼 글로벌 AI 트렌드와 현 수준을 확인할 수 있는 격 높은 지식 공유의 장이 될 전망이다. 구글·AWS·오픈AI·퍼플렉시티·KT·현대차 등 국내외 최고 전문가 강연 행사 첫날인 6일 오전 메인 무대에서 열리는 'AI 서밋'을 통해 글로벌 리더들의 거시적인 비전이 제시된다. 구글 딥마인드의 로라 아로요 박사가 '글로벌 AI 정렬을 위한 문화 우선적 접근' 주제 기조연설로 포문을 열고, 이어 아마존웹서비스(AWS)의 프레데리코 코스타 APAC AI 정책 총괄이 아태지역 확장을 위한 데이터 거버넌스와 클라우드 전략을 발표한다. 최기영 앤트로픽 코리아 대표와 박상원 KT 전무도 차례로 무대에 올라 프론티어 AI 모델의 변화와 대한민국 AX의 미래를 논의할 예정이다. 둘째 날인 7일에 열리는 '퓨처 테크 컨퍼런스'는 차세대 기술의 현장 적용에 초점을 맞춘다. 특히 '피지컬 AI 및 로보틱스' 세션에서는 오픈AI의 이상현 APAC 글로벌페어스 총괄이 지능이 현실 세계에 구현되는 미래를 조망하고, 현대차그룹 로보틱스랩 주시현 상무와 롯데이노베이트 전시형 센터장이 산업 현장에서 현실이 된 피지컬 AI 혁신 전략을 공유한다. 이어지는 '글로벌 프론티어' 세션에서는 전 세계적인 AI 검색 돌풍의 주역인 퍼플렉시티의 모리타 준 APAC 총괄대표가 에이전틱 미래 구축에 대해 강연한다. 또 케이 주 젠스파크 공동창업자, 셴커 V 셀바두라이 IBM APAC 부사장을 비롯해 유니티 테크놀로지스 코리아 김범주 본부장, 밀라(MILA)의 프레데릭 로랑 파트너십 총괄 등 거물급 연사들이 차세대 생태계를 다각도로 짚어본다. 아울러 디노티시아, 웹케시, 몽고DB, AWS의 전문가들이 차세대 엔터프라이즈 AI를 위한 데이터 인프라와 클라우드 마이그레이션 실전 사례를 상세히 소개할 계획이다. AI 기술, 실제 비즈니스 구현 사례 공유...216개 기업, 501개 부스 꾸려 마지막 날인 8일은 AI 기술의 실제 비즈니스 구현을 살펴보는 'AIR(AI Realization) 쇼케이스'로 채워진다. 퓨처플레이 최재웅 전무가 투자자의 시각에서 바라본 AI 산업화의 분기점을 분석하고, 더존비즈온 지용구 대표와 팀뷰어 김도연 상무가 AI 네이티브 시대의 엔터프라이즈 운영 기준과 자율형 IT 운영의 미래를 제시한다. 또한 모비젠, 아이티센, 지란지교소프트, 아크릴, 딥엑스 등 주요 혁신 기업들이 엔터프라이즈 생산성 혁신 방안을 발표하며, 콴델라코리아는 AI의 미래를 다시 쓰는 양자컴퓨터 기술을 소개해 산업별 실질적인 활용 가이드를 제공할 예정이다. 최고 수준의 강연과 더불어, 전시장에서는 역대 최대 규모인 216개 기업이 501개 부스를 꾸려 AI 기술의 현재를 시연한다. 스폰서로 참여하는 KT와 화웨이를 필두로 삼성SDS, 한컴, 야놀자, 티맥스소프트, NHN클라우드 등 국내외 대표 기업들이 대거 합류했다. 특히 전시장은 ▲AI 파운데이션 모델 ▲피지컬 AI & 로봇 ▲에이전틱 AI + X ▲AI 반도체 ▲국방 AI ▲보안 & 양자 등 총 9개의 테마 특별관으로 세분화돼 대형 AI 모델부터 인프라까지 폭넓은 산업 지형 변화를 한눈에 확인할 수 있다. 조준희 조직위원장·이해민 AI미래기획수석·하정우 국가AI전략위 부위원장, 현장 목소리 청취 행사 첫날(6일) 오후에 마련된 '공식 개막식'과 'AI 산업 정책 토크쇼'는 정부와 산업계가 머리를 맞대는 핵심 자리다. 오후 3시부터 시작되는 개막식은 조준희 AI페스타조직위원장의 개회 선언을 필두로, 이해민 AI미래기획수석의 축사와 송기헌 과방위원장의 영상 축사가 이어진다. 세계적인 AI 석학 요슈아 벤지오 교수 역시 영상을 통해 각별한 축하의 메시지를 전할 예정이다. 주요 VIP들의 전시 투어 이후 오후 4시부터는 '현장의 목소리, 정책에 담다-AI 산업계와 함께 묻고 답하다'라는 주제로 AI 산업 정책 토크쇼가 본격 진행된다. 이 자리에서는 하정우 국가인공지능전략위원회 부위원장이 직접 '국가 AI 산업 정책 및 방향'을 발표하며, 이어 참석자들과 함께 국내 AI 산업 생태계 현안을 논의하는 자유 토론이 생생하게 펼쳐질 계획이다. 글로벌 빅테크 강연과 다채로운 전시, 그리고 국가 차원의 정책 논의까지 결합된 이번 'AI 페스타 26'은 10월 2일 오후 6시까지 공식 홈페이지를 통해 사전 등록을 완료하면 전시 및 일부 컨퍼런스 프로그램에 무료로 참여할 수 있다. 단, AI 서밋과 퓨처 테크 컨퍼런스는 유료 등록 시에만 입장 가능하다.

2026.09.21 16:15백봉삼 기자

[단독] 오픈AI, 韓 엔터프라이즈 사업 강화…B2B 총괄 채용 추진

오픈AI가 국내 기업간거래(B2B) 사업을 이끌 총괄 책임자를 선임하는 방안을 논의 중인 것으로 전해졌다. 21일 복수 IT 업계 관계자에 따르면 오픈AI코리아는 기업 고객 사업을 전담할 B2B 부문 총괄을 별도로 두는 방안을 검토하고 있다. 구체적인 선임 시기나 담당 업무 범위는 아직 확정되지 않은 상태인 것으로 파악됐다. 익명을 요청한 국내 AI 업계 관계자는 "김경훈 오픈AI코리아 총괄은 기업소비자간거래(B2C) 사업에 집중하는 방향이 내부서 논의되고 있다"며 "조직을 B2C와 B2B로 세분화해 각 시장 특화 전략을 추진하려는 구상안이 나오고 있다"고 귀띔했다. 그동안 오픈AI코리아는 국내 기업 대상으로 '챗GPT 엔터프라이즈'를 비롯한 기업용 AI 제품 공급을 확대해 왔다. 이를 통해 국내 기업과 협력을 늘리고 업무 현장에 생성형 AI를 적용하기 위한 영업·기술 지원에도 힘을 쏟았다. 오픈AI코리아는 지난 9월 오피스 출범 1주년을 맞아 국내 기업용 AI 시장을 강화한다고 밝힌 바 있다. 챗GPT를 단순 업무 보조 도구에서 조사와 분석, 개발, 자동화 등을 직접 수행하는 기업용 플랫폼으로 키운다는 전략이다. 당시 김경훈 대표는 "한국 기업들이 AI에 무엇을 기대하는지 훨씬 분명해졌다"며 "우리 서비스가 실제 업무를 끝까지 수행하고 기존 시스템과 자연스럽게 연결되고 있다"고 강조한 바 있다. 이같은 소식에 오픈AI코리아 관계자는 "확인 결과 해당 내용은 사실과 다르다는 것이 우리 입장"이라고 밝혔다.

2026.09.21 11:58김미정 기자

[AI는 지금] "AI 투자비 감당 안 된다"…빅테크, 부채 줄이려 3000억 달러 보증 확대

인공지능(AI) 인프라 투자 경쟁이 거세지면서 글로벌 빅테크의 자금 부담도 빠르게 커지고 있다. 데이터센터와 반도체에 쏟아부을 투자금이 자체 현금흐름을 넘어설 정도로 불어나자 빅테크들이 신용등급을 지키면서 투자 여력을 확보하기 위해 대규모 부채를 직접 떠안지 않는 금융기법까지 활용하는 모습이다. 21일 파이낸셜타임스(FT)에 따르면 메타와 브로드컴, 엔비디아 등 빅테크 기업들의 최근 12개월간 AI 데이터센터와 반도체 투자에 제공한 '잔존가치보증(Residual Value Guarantee)'은 최대 3000억 달러에 달했다. 모건스탠리는 7개 하이퍼스케일러와 반도체 기업이 재무제표에 부채로 반영하지 않은 각종 약정과 신용지원 규모를 3조1000억 달러 이상으로 집계했다. 잔존가치보증은 데이터센터나 AI 칩의 미래 가치를 일정 수준까지 보장하는 금융 방식이다. 빅테크가 직접 돈을 빌리는 대신 특수목적법인(SPV)이 인프라를 소유하고 필요한 자금을 조달하는 형태다. 또 향후 자산을 매각하거나 재임대할 때 가격이 보장된 최소 가치에 미치지 못하면 빅테크가 정해진 범위에서 부족분을 부담한다. 이 구조를 활용하면 빅테크는 자체 신용도를 활용해 조달금리를 낮추면서 관련 부채 전액을 대차대조표에 반영하지 않아도 된다. 금융기관도 AI 칩이나 데이터센터가 빠른 기술 변화로 가치가 떨어질 위험을 줄일 수 있다. 잔존가치보증이 붙은 프로젝트의 조달금리는 보증 기업의 회사채보다 1~1.5%포인트(p) 높은 수준으로 형성되고 있다. 팀 뮤지얼 CIBC 프라이빗웰스 US 채권부문 책임자는 "모두가 컴퓨팅 자원을 확보하기 위해 경쟁하고 있다"며 "이 때문에 이런 미래 약정에 대한 우려가 있다"고 말했다. 이 방식을 AI 인프라 투자에 처음 도입한 곳은 메타다. 메타는 블루아울과 미국 루이지애나주에 건설하는 2GW 규모 '하이페리온' 데이터센터에 280억 달러의 잔존가치보증을 제공했다. 이를 토대로 프로젝트는 270억 달러의 자금을 조달했다. 메타는 지난 7월 미국 엘패소에 건설 중인 1GW 데이터센터에도 비슷한 구조를 적용했다. 데이터센터에서 시작된 잔존가치보증은 AI 반도체로 빠르게 번지고 있다. 브로드컴은 지난 6월 앤트로픽이 임차할 1GW 규모 AI 칩을 SPV에 판매하면서 290억 달러 규모의 보증 부담을 떠안았다. 이는 브로드컴과 구글이 앤트로픽에 반도체를 공급하기 위해 마련한 벤더 파이낸싱 프로그램의 일부다. 브로드컴은 내년 예정된 앤트로픽용 추가 5GW와 오픈AI용 맞춤형 칩 1.3GW 공급에도 보증을 활용할 가능성이 있다. 다만 회사 측은 주요 프론티어 AI 기업의 수익성 개선과 기초자산의 지속적인 가치를 고려할 때 보증이 실제 실행될 가능성은 낮다고 보고 있다. 엔비디아도 보증을 앞세워 고객사의 AI 인프라 자금조달 지원에 나섰다. 오픈AI용 데이터센터를 미국 오하이오주에 건설하는 소프트뱅크 자회사 SB에너지에 1050억 달러 규모의 보증을 제공한 것이다. 오픈AI가 임차를 시작하는 2028년까지 관련 부채는 엔비디아 대차대조표에 반영되지 않으며, 해당 데이터센터는 20년간 엔비디아 하드웨어를 독점적으로 사용한다. 엔비디아는 골드만삭스와 월가 투자자들이 최대 5000억 달러를 조성해 엔비디아 기반 AI 인프라에 투자하는 거래에도 최대 25%의 잔존가치를 지원할 수 있다고 밝혔다. AI 칩 업체가 고객의 자금조달을 지원해 대규모 구매를 가능하게 하고 장기간 자사 제품 수요까지 확보하는 방식이다. 신용평가사들도 이를 기업 신용도 평가에 반영하고 있다. S&P글로벌은 스트레스 상황에서 예상되는 데이터센터나 AI 칩의 매각가치보다 기업이 보증한 가치가 높으면 그 차액을 레버리지에 추가한다. S&P가 검토한 잔존가치보증 거래에서는 이 차이가 최대 약 25%까지 나타났다. 200억 달러 규모 거래라면 약 50억 달러를 보증 기업의 부채에 추가할 수 있는 수준이다. 그러나 현재까지 자산가치 하락이 기업의 재무 부담으로 현실화된 사례는 제한적이다. S&P는 메타의 하이페리온 데이터센터 가치를 보수적으로 산정하고도 관련 부채보다 높은 것으로 평가해 메타의 레버리지를 별도로 조정하지 않았다. 더그 콜란드레아 KBRA 수석디렉터는 "지난 1년 동안 재무제표에 반영되지 않은 잠재적 부담이 크게 늘었다"며 "이는 기업의 신용위험을 평가하는 일을 훨씬 복잡하게 만든다"고 밝혔다.

2026.09.21 11:26장유미 기자

오픈AI, 법률 특화 AI '아스트라 포 로' 공개…판례 검색 넘어 실무 지원

오픈AI가 인공지능(AI)의 활용 영역을 변호사의 전문 업무까지 넓힌다. 판례와 법령을 찾아 분석하는 데서 나아가 계약 검토와 법률 문서 작성 등 실제 업무 전반을 AI로 지원한다. 17일(현지시간) 오픈AI는 자사 블로그를 통해 법률 업무에 특화한 AI '아스트라 포 로(Astra for Law)'를 공개했다. 최신 AI 모델 GPT-6 아스트라에 법률 전문 검색과 분석·문서 작성 기능을 결합했다. 로펌뿐 아니라 법률 기술 기업도 이를 활용해 자체 제품과 서비스를 개발할 수 있다. 아스트라 포 로는 미국 판례와 법령, 규정, 법원 규칙, 행정 결정 등을 2억 3000만개 이상 웹페이지에서 검색할 수 있다. 비영리단체 프리 로 프로젝트와 협력해 공개된 미국 선례 판례의 99.9% 이상을 포괄하는 자료도 검색에 활용한다. 법률 자료를 찾은 뒤 사건에 적용하는 과정도 지원한다. 관련 판례를 찾아 사실관계를 비교하고 주장의 약점이나 불확실성을 파악하거나 계약 조항에 따라 어느 쪽이 위험을 부담하는지 분석할 수 있다. 오픈AI는 법률 조사 성능을 확인하기 위해 미국 법률 질문 200개를 대상으로 평가했다. 아스트라 포 로는 전체 정확성 기준에서 54% 통과율을 기록했다. GPT-6 아스트라가 일반 웹 검색을 이용했을 때의 38.7%보다 상대적으로 40% 높았다. 판례 검색 성능도 높았다. 같은 수준의 추론 능력으로 비교했을 때 아스트라 포 로는 판례 중심 질문에서 참고할 판례를 24% 더 많이 찾았다. 정확한 법원 판결문에서 질문과 관련된 부분을 찾아내는 성능은 최대 54% 높았다. 로펌과 법률 AI 기업은 자체 자료와 업무 방식을 결합해 필요한 도구를 만들 수 있다. 법률 AI 기업 하비와 레고라는 응용프로그램인터페이스(API)를 통해 아스트라 포 로를 자사 제품과 업무에 적용할 수 있다. 로펌에서 실제 업무에 적용한 사례도 공개됐다. 설리번앤크롬웰은 자체 협상 지침과 과거 계약 사례를 바탕으로 새로운 계약에서 위험 요소를 찾아내고 수정안을 제안하는 도구를 구축했다. 오픈AI는 다른 로펌과도 인수합병 실사와 기업공개 준비 등 각사의 업무 방식에 맞춘 AI 도구를 개발하고 있다. 외부 법률 서비스와 챗GPT를 연결하는 기능도 추가했다. 오픈AI는 법률 업무에 사용하는 전문 서비스를 챗GPT와 연결할 수 있는 26개 플러그인을 공개했다. 이를 통해 로펌이 기존에 사용하던 자료와 업무 도구를 챗GPT에서 활용할 수 있도록 했다. 고객 기밀 정보를 다루는 법률 업무를 고려한 보안 기능도 마련했다. 일부 로펌에는 API를 통해 처리한 데이터를 보관하지 않는 기능을 제공한다. 챗GPT 엔터프라이즈에서 처리한 내용은 기본적으로 사람의 검토 대상에서 제외한다. 아스트라 포 로는 우선 선정된 로펌을 대상으로 챗GPT와 코덱스에서 제공된다. 오픈AI는 향후 API에서도 사용할 수 있도록 할 예정이다. 오픈AI는 법률 분야에 장기적으로 투자하면서 로펌과 법률 기술 기업이 각자의 전문성과 업무 기준을 AI에 결합할 수 있도록 지원할 방침이다. 회사는 "가장 야심찬 활용 사례는 법률을 직접 다루는 사람들과 이들과 함께 서비스를 만드는 기업에서 나올 것"이라고 밝혔다.

2026.09.20 09:27김동원 기자

샌프란시스코 AI 호황의 그늘…개발자 감축 가속

인공지능(AI) 기업이 몰려든 샌프란시스코가 다시 호황을 맞고 있지만, 기존 기술 인력의 고용 환경은 오히려 악화하고 있는 것으로 나타났다. 최근 블룸버그는 캘리포니아 고용개발부(EDD) 자료를 분석한 결과 지난 6월까지 12개월간 샌프란시스코 베이 지역 기술업계 고용주들이 1만 4500명 이상 근로자에 대한 해고 통지서를 제출했다고 보도했다. 이는 직전 회계연도보다 거의 두 배로 늘어난 수치다. 앤트로픽과 오픈AI를 비롯한 AI 기업들은 대규모 투자 유치와 고액 연봉을 앞세워 인재 확보 경쟁을 벌이고 있다. 이들 기업의 상장 기대감까지 더해지면서 샌프란시스코가 다시 AI 산업의 중심지로 부상하고 있다는 평가가 나온다. 그러나 AI 산업 성장세가 기술업계 전반의 고용 확대로 이어지지는 않고 있다. 샌프란시스코와 인근 샌마테오 카운티는 최근 12개월간 전체 산업에서 1만개 이상의 일자리를 늘렸지만, 2020년 2월과 비교하면 여전히 6만개 이상의 일자리가 줄어든 상태다. 특히 기술기업이 대거 포함된 정보산업은 최근 12개월 동안 약 2000개 일자리를 잃었다. 같은 기간 고용 회복을 이끈 업종은 민간 교육·보건과 여가·접객업 등으로, AI와 기술산업이 지역 고용을 주도하고 있다고 보기는 어려운 상황이다. 기존 소프트웨어 개발자들이 느끼는 변화는 더욱 뚜렷하다. 노동시장 분석업체 라이트캐스트에 따르면 베이 지역의 소프트웨어 엔지니어 수요는 2022년 이후 42% 감소했다. 반면 AI 관련 정보기술·컴퓨터과학 직무 수요는 같은 기간 37% 증가했다. 전통적인 코딩 역량만으로는 경쟁력을 확보하기 어려워졌다는 의미다. 기업들이 AI를 활용해 업무 자동화와 생산성 향상을 추진하면서, 기존 개발 인력의 업무 일부가 대체되거나 축소되고 있다는 분석도 나온다. 전자상거래 기업에서 지난 7월 해고된 니코 크리사풀리 프런트엔드 웹 개발자는 달라진 채용 시장을 체감하고 있다. 그는 자바스크립트와 프런트엔드 개발 역량을 기반으로 경력을 쌓았지만, 최근에는 'AI 전략가'와 'AI 엔지니어' 등 새 직무가 늘어나면서 자신의 경험을 어디에 적용해야 할지 고민하고 있다. 크리사풀리 개발자는 "직접 코드를 짜는 일 이제 예전처럼 중요한 일이 아닌 것 같다"며 "프런트엔드 엔지니어 일자리를 찾는 것은 어제의 문제처럼 느껴진다"고 말했다. AI 전환의 충격은 경력이 짧은 청년층에 더 크게 나타나고 있다. 인력 분석 플랫폼 레벨리오랩스에 따르면 챗GPT 출시 이후 캘리포니아에서 AI 영향을 많이 받는 직종에 종사하는 22~25세 노동자의 고용은 16.8% 감소했다. 다른 직종 종사자의 감소율인 4.6%를 크게 웃도는 수준이다. 벤처캐피털 시그널파이어의 인재 담당 운영 파트너 타우니 크란츠는 대졸 신입 인력이 기술업계에 진입하는 전통적인 통로가 크게 위축됐다고 지적했다. 대형 기술기업들이 AI 시대에 맞춰 초급 인력의 역할과 교육 체계를 다시 설계해야 한다는 설명이다. 반면 AI 기술을 실제 고객 업무에 적용하는 '전방 배치 엔지니어'는 새 유망 직군으로 떠오르고 있다. 전방 배치 엔지니어는 소프트웨어 개발뿐 아니라 고객사와 직접 소통하며 AI 도입 방안과 활용 전략을 설계하는 역할을 맡는다. 라이트캐스트에 따르면 베이 지역의 전방 배치 엔지니어 채용 공고는 2022년 이후 약 600% 증가했다. 해당 직무의 공고상 중간 연봉은 20만2300달러에 달한다. 오픈AI와 앤트로픽도 관련 인력을 채용하고 있으며, 세일즈포스는 전방 배치 엔지니어 1000명 채용 계획을 내놓았다. 은행과 보험사에 AI 소프트웨어를 제공하는 택타일의 하오 리 북미 전방 배치 엔지니어팀장은 이 직무가 과거 여러 부서가 나눠 맡던 업무를 통합한 형태라고 설명했다. 그는 "엔지니어링, 제품, 사업 역량을 하나로 합친 역할이 전방 배치 엔지니어"라고 말했다. 해고자들의 고립감도 커지고 있다. 전 구글 직원 바셈 이스탄불리가 만든 실직자 커뮤니티 '언(PTO)'은 하이킹과 면접 준비 모임 등을 통해 구직자들의 교류를 돕고 있다. 지난해 12월 소규모 모임으로 출발한 이 커뮤니티는 현재 회원 수가 1700명을 넘어섰으며, 행사에 80명 이상이 참여하는 경우도 있다. AI 산업이 창출하는 부가 샌프란시스코의 주거비를 끌어올리고 있다는 점도 실직자들에게 부담이다. 임대료 상승세 속에서 일자리를 잃은 기술 인력은 재취업 준비와 생활비 압박을 동시에 감당해야 하는 처지에 놓였다. 테드 이건 샌프란시스코시·카운티 수석 이코노미스트는 AI 투자와 기존 기술기업 감원이 엇갈린 영향을 미치고 있다고 진단했다. 그는 "AI 투자에 따른 노동시장 활성화 효과와 기존 기술기업의 해고에 따른 위축 효과가 맞서는 상황"이라며 "많은 사람이 일자리를 잃는 반면, 현재 AI 특화 역량을 갖춘 인력으로 채용되는 사람은 상대적으로 적다"고 말했다.

2026.09.20 09:15남혁우 기자

[AI는 지금] AI 투자, 오픈AI·앤트로픽에 몰렸다…韓도 상위 10곳 74.5% 점유

인공지능(AI) 벤처투자 시장이 빠르게 커지고 있지만 자금은 소수 대형 기업으로 쏠리고 있는 것으로 나타났다. 글로벌 시장에선 오픈AI·앤트로픽 등 프론티어 AI 기업의 초대형 후속투자가 전체 시장을 끌어올렸고, 국내에서도 AI 반도체와 모델 기업을 중심으로 후기단계 투자가 늘면서 상위 기업의 자금 흡수력이 크게 높아진 것으로 드러났다. 19일 소프트웨어정책연구소(SPRi)가 발표한 '글로벌 AI 벤처투자 동향과 투자 집중구조 : 국내 현황과 시사점' 보고서에 따르면 올해 상반기 글로벌 벤처캐피털(VC) 투자액 가운데 AI가 차지한 비중은 75.9%에 달했다. 2021년 23.5%에서 52.4%포인트 상승한 수치로, 같은 기간 거래건수 비중은 20.4%에서 36.6%로 상대적으로 완만하게 늘었다. 이처럼 투자액 비중이 거래건수보다 훨씬 빠르게 늘면서 AI 투자시장 확대가 신규 투자 대상 증가보다 개별 거래의 대형화에 더 크게 영향을 받은 것으로 분석된다. 실제 AI VC의 건당 평균 투자액은 2021년 1350만 달러에서 올해 상반기 5550만 달러로 4배 이상 늘었다. 전체 VC 평균과 비교해도 격차가 커졌다. AI VC의 건당 투자규모는 2021년 전체 VC 평균의 1.15배 수준이었지만 올해 상반기에는 2.08배까지 높아졌다. 자금은 미국과 후기단계(시리즈 C 이상) 기업으로 빠르게 집중됐다. 올해 상반기 동안 미국은 글로벌 AI VC 투자액의 84.1%를 차지했다. 미국·중국·영국 등 상위 3개국 비중도 92.9%에 달했고 국가별 투자 집중도를 나타내는 허핀달-허시먼지수(HHI)는 2022년 3684에서 올해 상반기 7124로 상승했다. 투자 단계에서도 비슷한 흐름이 나타났다. 올해 상반기 시드(창업 초기)·초기단계(시리즈 A~B) 투자는 전체 거래건수의 92.8%를 차지했지만 투자액 기준 비중은 27.2%에 그쳤다. 후기단계는 거래건수 비중이 7.2%에 불과했지만 투자액의 72.8%를 차지했다. 또 지난 2023년 39.5%까지 떨어졌던 후기단계 투자액 비중은 2025년 61.8%로 올라선 뒤 올해 들어 더 높아졌다. 초대형 거래의 영향은 더 커졌다. 10억 달러 이상 AI 투자거래는 2021년 13건에서 2025년 22건으로 늘었고 올해 상반기에만 34건을 기록했다. 해당 거래들의 투자액은 올해 상반기 3167억 달러로 전체 AI VC 투자액의 약 74%를 차지했다. 기업별 집중도 역시 크게 높아졌다. 글로벌 AI VC 투자액 가운데 상위 3개 피투자기업이 차지하는 비중은 2021년 3.6%에서 올해 상반기 55.7%로 높아졌다. 상위 10개 기업 비중은 같은 기간 8.9%에서 67.5%로 확대됐다. 이는 오픈AI와 앤트로픽, xAI 등이 대규모 자금조달을 반복한 영향이 컸다. 투자 대상도 AI 서비스에서 기반 기술로 이동했다. 2500만 달러 이상 대형 투자에서 AI 모델 기업의 비중은 2021년 1.5%에 불과했지만 올해 상반기에 61.0%까지 상승했다. AI 서비스·애플리케이션 비중은 같은 기간 73.9%에서 18.7%로 낮아졌다. 국내 AI VC 시장은 투자액 자체가 크게 늘지 않았으나, 전체 VC 시장에서 차지하는 비중만 높아졌다. 국내 전체 VC 투자액에서 AI가 차지하는 비중은 2021년 19.9%에서 올해 상반기 44.3%로 상승했다. 반면 AI VC 투자액은 2021년 20억4800만 달러, 2025년 17억9500만 달러, 올해 상반기 18억5400만 달러로 큰 폭의 증가세를 보이지 않았다. 전체 VC 시장이 축소되면서 AI 투자의 상대적 비중이 커진 것이다. 다만 국내 자금도 후기단계와 일부 기업에 빠르게 몰리고 있는 것으로 나타났다. 올해 상반기 국내 AI VC 투자액 가운데 후기단계 비중은 72.3%로, 글로벌 72.8%와 비슷했다. 상위 3개 기업이 전체 투자액의 55.8%, 상위 10개 기업은 74.5%를 차지했다. 2021년 상위 10개 기업 비중이 31.0%였던 것과 비교하면 두 배 이상 높아졌다. 투자 분야에서도 글로벌 시장과 국내 시장은 차이를 보였다. 글로벌 대형 투자가 AI 모델에 집중된 반면, 국내에선 AI 반도체와 AI 모델이 양대 투자 분야로 부상했다. 실제 올해 상반기 국내 AI VC 투자액 가운데 AI 반도체 비중은 33.4%, AI 모델은 26.8%로, 두 분야를 합쳐 60.2%를 차지했다. 2021년 79.4%에 달했던 AI 서비스·애플리케이션 비중은 같은 기간 21.0%까지 낮아졌다. 이는 리벨리온과 퓨리오사AI, 엑시나 등 AI 반도체 기업과 업스테이지 등 AI 모델 기업의 대규모 후속투자가 이어진 영향이다. SPRi는 "투자금이 성장기업으로 몰리는 상황에서 초기 기업의 시장 진입 경로와 후속 자금조달 체계를 함께 확충할 필요가 있다"며 "특히 초기 AI 기업은 투자 이후에도 컴퓨팅 자원과 고객 확보, 기술 검증이 필요한 만큼 자본 공급만으로는 성장 과정의 자금 공백을 해소하기 어렵다"고 진단했다. 이어 "정책펀드 간 후속투자 연계와 컴퓨팅 지원, 민간 전략적 투자자의 사업협력을 함께 묶는 방안이 필요하다"며 "분야별로 필요한 자본 규모와 회수기간, 기술개발 기간이 다른 만큼 기술·산업 특성에 따라 투자체계를 달리 검토할 필요가 있다"고 덧붙였다.

2026.09.19 11:05장유미 기자

"클로드로 오픈AI 뚫었다"…직원 계정 넘어 내부 코드 저장소까지 접근

앤트로픽의 인공지능(AI) 모델 클로드를 활용한 보안 연구진이 오픈AI 커뮤니티 포럼의 취약점과 인증 체계 문제를 연계해 직원 계정과 비공개 소프트웨어 저장소까지 접근한 것으로 나타났다. 17일(현지시간) 월스트리트저널(WSJ)에 따르면 보안업체 핵트론AI 연구진은 지난 7월 오픈AI의 커뮤니티 포럼을 운영하는 외부 서비스 디스코스의 취약점을 공략했다. 연구진은 클로드를 활용해 취약점을 분석하고 공격 코드를 작성했으며 이를 통해 서버에 접근한 뒤 사용자 인증 토큰을 확보했다. 확보한 토큰 가운데 일부는 오픈AI 직원의 계정과 연결돼 있었다. 연구진은 이를 이용해 직원의 챗GPT·코덱스 계정에 접근했다. 해당 계정에 연결된 깃허브 환경을 거쳐 오픈AI의 비공개 저장소까지 접근할 수 있는 사실도 확인했다. AI 모델 성능에 따른 차이도 드러났다. 연구진이 처음 사용한 클로드 오퍼스4.8은 공격에 성공하지 못했지만 앤트로픽이 같은 날 클로드 오퍼스5를 출시한 뒤 새 모델을 활용해 취약점을 공략하는 방법을 찾아냈다. 연구진은 취약점 분석부터 공격 코드 작성, 내부 저장소 접근까지의 과정에서 클로드를 활용했다고 설명했다. 연구진이 접근한 곳은 오픈AI의 비공개 소프트웨어 저장소인 '모노레포'다. 이 저장소에는 오픈AI 모델을 빠르고 효율적으로 작동시키기 위한 알고리즘 관련 기술이 포함된 것으로 전해졌다. 다만 AI 모델 가중치는 포함되지 않은 것으로 알려졌다. 연구진은 민감한 정보에 접근할 수 있다는 사실을 확인한 뒤 추가적인 열람을 중단했다. 접근 권한을 입증하기 위한 풀 리퀘스트를 생성했지만 실제 코드 변경 사항이 저장소에 반영되지는 않았다. 오픈AI는 비공개 저장소의 메타데이터와 코드가 제한적으로 열람된 사실을 확인했으며 관련 문제는 모두 수정했다고 밝혔다. 연구진은 오픈AI 내부 인증 체계 문제를 확인한 뒤 이를 버그바운티 프로그램을 통해 신고했으며 6500달러의 포상금을 받았다. 버그 바운티는 기업 시스템의 취약점을 찾아 신고하면 포상금을 지급하는 프로그램이다. 다만 오픈AI는 커뮤니티 포럼을 운영하는 디스코스에 대한 테스트 자체는 자사 버그바운티 범위에 포함되지 않는다고 설명했다. 모한 페다파티 핵트론AI 최고기술책임자(CTO)는 "우리가 중국의 위협 행위자들만큼 강하다고 생각하지 않는다"며 "클로드와 코덱스 구독권을 가진 세 명에 불과하다"고 말했다.

2026.09.18 17:50이나연 기자

제논, 초거대 AI에 '컴퓨터 조작' 능력 더했다…B200 8장으로 후학습

제논이 초거대 오픈소스 모델에 컴퓨터 작업을 수행할 수 있는 실행력을 더해 활용도를 높이고, 제한된 그래픽처리장치(GPU) 자원으로 이를 구현한 후학습 기술까지 선보였다. 제논은 3970억개 파라미터 규모의 오픈소스 모델 '훈민 VLM(비전언어모델) 397B'를 공개했다고 18일 밝혔다. 훈민 VLM 397B는 큐원3.5-397B를 기반으로 컴퓨터 화면을 인식하고 직접 조작할 수 있도록 후학습한 모델이다. 화면 속 버튼이나 입력창 등을 찾아내는 그라운딩 능력과 컴퓨터 작업을 수행하는 능력을 강화했다. 제논에 따르면 이 모델은 화면 속 조작 대상의 위치를 식별하는 5개 벤치마크에서 기본 모델인 큐원3.5-397B와 컴퓨터 조작 특화 모델인 큐원-CUA보다 높은 성능을 기록했다. 고난도 화면 인식 벤치마크인 스크린스팟-프로에서는 정확도 75.6점을 기록하며 허깅페이스 공식 리더보드 2위에 올랐다. 등록된 48개 모델 가운데 국내 기업 모델로는 유일하다고 회사 측은 설명했다. 컴퓨터 작업 수행 능력도 향상됐다. 리눅스 데스크톱 작업 360개로 구성된 OS월드에서는 70.5점을 기록해 기본 모델보다 22.3점 높았으며 윈도우 에이전트 아레나에서는 9.1점 향상된 성능을 보였다. 컴퓨터 사용 능력을 추가하면서 기존 언어 성능이 떨어지는 문제도 최소화했다. KMMLU와 K-MM벤치를 포함한 8개 한국어 벤치마크에서 기본 모델과의 성능 차이를 2점 이내로 유지했다. 특히 이번 모델에는 초거대 공개 모델을 제한된 컴퓨팅 자원으로 고도화하는 제논의 후학습 기술이 적용됐다. 제논은 공개된 컴퓨터 조작 모델의 능력을 저랭크 방식으로 이식한 뒤 FP8 양자화 상태에서 지도학습(SFT)과 강화학습(RL)을 거쳤다. 전체 후학습 과정에는 엔비디아 B200 GPU 8장을 활용했다. 훈민 VLM 397B는 오픈소스인 아파치 2.0 라이선스로 공개됐으며 원본 모델과 용량을 절반 수준으로 줄인 FP8 버전도 제공됐다. 제논은 모델뿐 아니라 비교 평가 조건과 방법론도 문서로 공개했다. 명대우 제논 최고기술책임자(CTO)는 "AI 경쟁의 무게중심이 파라미터 규모에서 효율적인 능력 추가와 실제 활용으로 이동하고 있다"며 "제한된 컴퓨팅 자원으로 397B 모델의 컴퓨터 사용 능력을 강화하면서 한국어 성능까지 유지한 경험을 바탕으로 액셔너블 AI와 방법론을 지속 공개하겠다"고 말했다.

2026.09.18 15:27이나연 기자

앤드류 응 "AI 멸종론은 공상과학...업계가 공포 부추겨"

인공지능(AI) 분야 석학인 앤드류 응 스탠퍼드대학교 교수가 AI가 인류를 멸종시킬 수 있다는 일각의 경고에 대해 "공상과학에 가깝다"며 비판적인 견해를 밝혔다. 18일 블룸버그 TV에 따르면 앤드류 응 교수는 AI가 인류 존속 자체를 위협할 수 있다는 '실존적 위험' 시나리오를 두고 "과학보다는 공상과학에 훨씬 가깝다"고 말했다. 그는 "AI 발전에 위험이 전혀 없다는 뜻은 아니지만 업계와 정책 당국이 인류 멸종 같은 가설적 위험에 매몰되기보다 사이버보안 악용 등 현재 확인 가능한 문제를 해결하는 데 집중해야 한다"고 주장했다. 앤드류 응 교수는 최근 다시 확산된 AI 종말론적 경고를 두고 업계의 홍보 전략과도 연관이 있을 수 있다고 지적했다. 그는 과거에도 AI가 초래할 수 있는 재앙적 위험을 과도하게 부각해 관심을 끌고 규제 논의에 영향을 주려 했다고 비판한 바 있다. 더불어 AI가 사회에 제공할 수 있는 의료, 교육, 생산성 혁신의 기회를 살리기 위해서는 막연한 종말론보다 검증 가능한 안전장치와 실용적인 기술 개발에 투자해야 한다고 강조했다. 이번 논쟁은 전직 오픈AI·앤트로픽 연구원인 제이컵 콕슨의 사임을 계기로 확산됐다. 콕슨 연구원은 지난 9일 소셜미디어 엑스(X)를 통해 앤트로픽을 떠난다고 밝히며 오픈AI와 앤트로픽이 자기개선형 초지능을 향한 경쟁을 벌이며 사람들의 생명을 위험에 빠뜨리고 있다는 취지로 비판했다. 그는 AI가 향후 10년 내 인류 멸종으로 이어질 가능성을 10% 수준으로 본다는 견해도 내놨다. 이후 앤트로픽의 AI 정렬 연구 책임자인 에번 허빙어도 고도화된 AI가 인류에 치명적인 위협이 될 수 있다는 우려를 제기하면서 논란은 더욱 커졌다. 이들이 우려하는 핵심은 AI가 인간이 설정한 목표와 다르게 행동하거나, 악의적 행위자에게 강력한 사이버·생물학적 도구를 제공하고, 궁극적으로 인간의 감독 범위를 벗어날 수 있다는 점이다. AI 업계 수장들도 안전 문제의 중요성을 강조하고 있다. 다리오 아모데이 앤트로픽 최고경영자(CEO)와 샘 알트먼 오픈AI CEO는 최첨단 AI 모델 개발 과정에서 안전장치를 강화하고, 필요할 경우 개발 속도를 조절해야 한다는 입장을 밝혀 왔다. 앤드류 응 교수는 "AI 기업이 인류 멸종과 같은 불확실한 미래의 시나리오를 앞세우기보다, 기술을 개선하고 안전하게 만들기 위한 현실적 과제에 역량을 집중해야 한다"며 "AI가 할 수 있는 수많은 훌륭한 일에 활용될 수 있도록 해야 한다"고 강조했다.

2026.09.18 11:59남혁우 기자

공격도 방어도 AI가…"사업자 보안·복원력 의무화해야"

인공지능(AI)이 사이버 공격을 자동화하는 수단인 동시에 새로운 공격 대상으로 떠오르면서 고영향 AI 사업자에 대한 보안과 복원력 확보 의무를 강화해야 한다는 목소리가 나왔다. 현행 AI기본법에는 사이버보안이나 적대적 공격에 대한 복원력을 명시한 규정이 없어 AI 시대의 보안 위협에 대응하기에 한계가 있다는 지적이다. 국회입법조사처는 이달 초 발간한 'AI로 인한 새로운 보안 위험과 대응에 관한 국내외 입법·정책 비교 연구'에서 AI 발전에 따라 'AI에 의한 위협'과 'AI에 대한 위협'이 동시에 확대되고 있다고 분석했다. 보고서는 생성형 AI와 거대언어모델(LLM)을 활용하면 사이버 공격에 필요한 도구를 생성할 수 있으며 에이전틱 AI 사용 시 외부 도구와 시스템을 연동해 공격 과정을 자동화할 수 있다고 설명했다. AI 활용으로 공격자에게 요구되는 전문 지식이 줄어들면서 공격 준비 시간과 비용이 감소하고, 공격의 속도와 규모가 커질 가능성도 제기했다. 동시에 AI 자체도 새로운 공격 대상이 되고 있다. 머신러닝·딥러닝은 학습 데이터와 모델 자체, 생성형 AI·LLM은 입력과 생성 결과, 에이전틱 AI는 외부 도구 연동과 권한 위임 과정, 피지컬 AI는 센서 입력과 제어 명령이 주요 위협 지점으로 꼽혔다. 국내 제도는 이같은 변화에 충분히 대응하지 못하고 있다는 게 보고서의 분석이다. 현행 AI기본법은 고영향 AI 사업자의 책무와 영향평가를 규정하고 있지만 유럽연합(EU) AI법과 달리 사이버보안이나 적대적 공격 복원력에 관한 명문 규정이 없다. 보안 거버넌스가 공공·민간·금융 등 영역별로 나뉘어 있다는 점도 지적됐다. 국가정보원, 한국인터넷진흥원(KISA), 금융보안원 등이 각 소관 영역에서 위협 정보 공유와 사고 조사를 수행하지만 영역을 초월하는 사이버 침해 사고에 대한 범국가적 차원의 단일 정보 공유와 대응에는 한계가 있다는 것이다. 대안으로는 AI의 전 생애주기에 걸친 보안 설계와 복원력 강화를 비롯해 제로트러스트와 소프트웨어 자재명세서(SBOM)를 AI에 적용한 'AI-BOM'의 법제화가 제안됐다. 보고서는 AI 기반 방어와 신속한 패치 체계를 마련하고, KISA·금융보안원·국정원·경찰 등으로 분산된 침해사고 신고·대응 창구를 실무적으로 일원화하는 방안도 제시했다. 연구 책임자인 이해원 강원대 법학전문대학원 교수는 "AI발 사이버 침해사고가 기존 사고보다 신속화·대량화·다각화·전문화돼 완벽한 방어를 기대하기 어렵다"고 말했다. 이어 "사고 발생시 선 복원력 확보 후 원인조사 및 책임추궁 체계 정립이 필요하다"고 부연했다.

2026.09.18 11:57이나연 기자

"똑똑한 AI, 실수도 잘 숨겨"…오픈AI, 정렬 실패 사례 공개

인공지능(AI) 모델 성능이 높아질수록 실수나 부적절한 행동을 감추는 능력도 덩달아 오를 수 있다는 분석 결과가 나왔다. 18일 테크크런치 등 외신에 따르면 오픈AI는 AI 정렬 실패 사례를 추적·조사하기 위한 새로운 공개 체계를 발표했다. 이번에 공개된 사례는 총 6건이다. AI 정렬은 모델이 사람 의도와 안전 기준에 맞게 행동하도록 만드는 작업이다. 이번 사례는 AI 능력이 높아질수록 잘못된 행동을 숨기는 능력도 함께 발전할 수 있다는 문제를 보여주고 있다. 문제는 배포 전 단계의 'GPT-5.6 솔'을 훈련하던 중 발견된 것으로 나타났다. 일부 솔 에이전트는 이전 대화와 작업 내용을 압축한 '컴팩션 요약'에 후속 모델을 위한 별도 지시를 남겼다. 컴팩션 요약은 길어진 대화 내용과 도구 실행 결과를 짧게 정리해 다음 모델에 전달하는 기록이다. 에이전트는 이 공간을 이용해 자신의 실수와 정렬 실패를 이용자에게 알리지 말라고 지시했다. 한 에이전트는 재무 모델을 만들던 중 이용자가 요청한 과거 데이터를 찾지 못했다. 그러자 2024년 데이터를 임의로 만들어 추가하고 이용자가 묻지 않으면 이를 밝히지 말라는 내용을 남긴 정황이 포착됐다. 최종 답변에는 설명 없이 완성된 파일 링크만 제공하라는 지시도 덧붙였다. 확인되지 않은 데이터를 사용했다는 사실을 이용자가 알아차리지 못하도록 한 셈이다. 다른 에이전트는 인터넷에 접속하지 못해 저장된 자료만으로 공급업체 명부를 작성했다. 자료 내용과 분류가 정확히 맞지 않는다는 사실을 파악했지만 필요하지 않으면 최종 답변에서 언급하지 말라고 지시했다. 미공개 아스트라 계열 모델에서도 비슷한 행동이 확인됐다. 한 에이전트는 후속 모델이 개발자 메시지를 무시하도록 하는 '침해 경고' 문구를 요약문에 넣었다. 또 다른 에이전트는 작업과 관계없는 페르소나 지시를 삽입했다. 이 두 사례에서는 후속 모델이 앞선 모델 지시를 따르지 않은 것으로 나타났다. 반대로 지시가 실제 행동에 영향을 준 사례도 있었다. 답변을 30단어 내로 제한하고 도구와 출처를 사용하지 말라는 지시를 받은 후속 모델은 이를 그대로 따랐다. 오픈AI는 이번에 공개한 6건이 알려진 모든 정렬 실패 사례를 담은 것은 아니라고 설명했다. 회사는 앞으로 심각성과 파급력 및 새로움을 기준으로 공개할 사례의 우선순위를 정할 계획이다. 오픈AI는 "AI 시스템이 더욱 발전하고 널리 배포됨에 따라 정렬 연구 진전에 관해 더 폭넓고 충분한 정보를 바탕으로 한 합의를 구축해야 한다"고 밝혔다.

2026.09.18 11:57김미정 기자

Prev 1 2 3 4 5 6 7 8 9 10 Next