검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'AI 속도 조절'통합검색 결과 입니다. (5건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

[AI는 지금] 中 딥시크 개발자 "앤트로픽 AI 독점, 나치 핵무기 선점과 같아"

중국 딥시크 개발자가 앤트로픽의 최첨단 인공지능(AI) 독점 가능성을 제2차 세계대전 당시 나치 독일의 핵무기 선점에 비유하며 공개 비판했다. 앤트로픽이 AI 개발 속도조절을 요구하면서 중국에 대한 첨단 반도체 수출통제는 유지해야 한다고 주장하자, 안전을 앞세워 미국 기업의 기술 우위를 굳히려는 것 아니냐는 반발이 커지고 있다. 16일 홍콩 사우스차이나모닝포스트(SCMP)에 따르면 딥시크 V4.1 모델 개발에 참여한 류성위 엔지니어는 최근 소셜미디어에서 앤트로픽과 오픈AI의 폐쇄형 전략을 비판했다. 소수 미국 기업에 첨단 AI와 컴퓨팅 자원이 집중되면 기술 접근성이 낮아지고 사회적 격차가 커질 수 있다는 이유에서다. 딥시크는 그간 모델 가중치를 공개하는 오픈웨이트 전략으로 개발자와 기업의 접근성을 높여 왔다. 반면 앤트로픽과 오픈AI는 핵심 모델의 구조와 학습 데이터, 가중치를 외부에 공개하지 않고 있다. 류 엔지니어는 "앤트로픽이나 오픈AI가 최첨단 AI를 개방적이고 저렴하게 제공할 것이라고 믿지 않는다"며 "특히 앤트로픽이 가장 앞선 AI나 범용인공지능(AGI)을 장악하는 것을 원하지 않는다"고 말했다. 그러면서 그는 첨단 AI가 폐쇄형 기업에 집중될수록 사회적 계층 이동이 어려워질 수 있다고 우려했다. 포용적이고 개방적인 AI 생태계를 구축해야 한다는 믿음이 딥시크에 남은 이유 중 하나라고도 설명했다. 이번 논쟁은 다리오 아모데이 앤트로픽 최고경영자(CEO)가 최상위 AI 기업들에 개발 속도조절을 촉구하면서 확산됐다. 그는 AI 성능이 안전장치보다 빠르게 발전하고 있다며 외부 평가기관의 검증과 기업 간 공통 안전 기준 도입을 제안했다. 샘 알트먼 오픈AI CEO와 일론 머스크 xAI 창업자도 개발 경쟁을 늦출 필요가 있다는 데 동의했다. 특히 아모데이 CEO는 중국이 AI 분야를 주도하면 미국과 세계에 심각한 위험이 될 수 있다고 주장했다. 미국 정부에는 첨단 반도체와 반도체 제조 장비의 대중국 수출 제한을 유지하라고 요구했다. 이는 미국을 비롯한 민주주의 국가의 선두 기업이 먼저 개발 속도와 안전 기준을 조율하고, 중국의 첨단 연산 자원 접근은 계속 제한하자는 것으로 풀이된다. 아모데이 CEO는 이후 중국을 포함한 글로벌 협력도 제안했지만 검증 가능한 합의에는 한계가 있을 것으로 봤다. 이를 두고 중국에선 공동 안전체계를 마련하기 위한 제안보다 미국 선두 기업 중심으로 AI 개발 규칙을 정하려는 시도로 받아들이고 있다. AI 안전 논쟁도 개발 속도를 넘어 최첨단 모델과 글로벌 규칙의 통제권을 둘러싼 미·중 주도권 경쟁으로 확산되고 있다. 중국의 반도체 접근을 제한한 상태에서 미국 폐쇄형 AI 기업들이 안전 기준까지 주도하면 후발 기업과 오픈소스 진영의 참여 범위가 좁아질 수 있을 것으로 보인다. 중국 독립 연구기관 둥부야차오연구소는 "아모데이 CEO의 발언은 업계 규칙이 완전히 확립되기 전에 더 큰 통제권을 확보하려는 시도일 수 있다"고 밝혔다. 트럼프 대통령도 앤트로픽의 제안에 반대 입장을 드러냈다. 그는 미국의 AI 개발 속도를 제한하면 중국에 경쟁 우위를 넘겨줄 수 있다며 AI 위협론을 '사기'라고 일축했다. 중국 정부는 AI 안전 규칙이 특정 국가나 기업의 기술 우위를 유지하는 수단으로 이용돼서는 안 된다는 취지로 맞섰다. 또 국가 간 대립과 배제가 건전한 글로벌 AI 거버넌스를 저해할 수 있다고도 주장했다. 궈자쿤 중국 외교부 대변인은 "공포 조장과 대립, 악의적인 경쟁은 건전한 글로벌 AI 거버넌스를 구축하려는 노력을 방해할 뿐"이라고 말했다.

2026.09.16 10:24장유미 기자

'AI 속도조절론' 앤트로픽, 트럼프 정부와 안전 문제 논의

다리오 아모데이 앤트로픽 최고경영자(CEO)가 고성능 인공지능(AI) 개발 속도를 늦추고 정부 규제가 필요하다고 주장한 가운데, 도널드 트럼프 미국 행정부 고위 관계자들이 앤트로픽 측과 AI 안전 문제를 논의했다. 블룸버그통신은 16일(현지시간) 소식통을 인용해 에밀 마이클 전쟁부(국방부) 최고기술책임자(CTO)와 하워드 러트닉 상무장관이 전날인 15일(현지시간) 톰 브라운 앤트로픽 최고컴퓨트책임자(CCO)와 화상으로 대화했다고 보도했다. 이번 회동은 아모데이 CEO가 12일(현지시간) 3800단어 분량의 에세이를 통해 AI 안전 문제와 정부 규제 필요성을 제기한 직후 이뤄졌다. 아모데이 CEO는 에세이에서 가장 발전된 AI 시스템의 개발 속도를 조절하고 연구자들이 잠재적 위험을 파악할 수 있도록 정부가 규제해야 한다고 주장했다. 트럼프 대통령은 AI 위험에 대한 우려와 새로운 규제에 반대해왔다. 트럼프 대통령은 최근 사회관계망서비스(SNS) 트루스소셜에 "AI에 필요한 유일한 안전장치는 자신의 대통령직"이라며 "AI 개발을 늦추는 것은 중국에 도움이 될 것"이라고 비판했다. 앤트로픽과 미국 정부는 올해 군사적 AI 활용 범위를 놓고도 충돌했다. 전쟁부와 앤트로픽의 협상이 결렬된 뒤 전쟁부는 앤트로픽을 공급망 위험 기업으로 지정했고 앤트로픽은 이에 반발해 소송을 제기했다. 브라운 CCO는 이후 정부와의 관계 개선 및 고성능 AI 모델 수출 통제 문제를 놓고 협상을 주도했다. 전쟁부 관계자는 블룸버그에 "프론티어(최첨단) AI 기업들과 지속적으로 접촉하고 있다"면서도 "앤트로픽에 대한 우리 입장은 변하지 않았다"고 밝혔다.

2026.09.16 10:01이나연 기자

"혁신 속도 따라갈 안전장치는 사람"…LG가 꺼낸 AI 안전 해법

인공지능(AI) 개발 속도를 늦춰 안전장치가 따라갈 시간을 벌자는 '속도조절론'이 확산하는 가운데 LG가 AI 안전을 높이기 위해 이를 만드는 사람의 역량도 함께 키워야 한다고 강조했다. 16일 AI 업계에 따르면 김유철 LG AI연구원 전략부문장은 사우디아라비아 리야드에서 열린 '제4회 유네스코 AI 윤리 글로벌 포럼' 패널 토론에서 AI 개발자와 정책 담당자를 대상으로 한 윤리 교육 필요성을 제기했다. AI 활용법을 가르치는 교육은 빠르게 늘었지만 AI 시스템을 직접 설계·개발·관리하는 사람을 위한 교육은 부족하다고 진단했다. 'AI 윤리 글로벌 포럼'은 각국 정부와 산업계, 학계, 국제기구 관계자들이 모여 AI 윤리와 거버넌스 방향을 논의하는 국제 행사다. 유네스코와 사우디아라비아가 공동 주최하며 지난 14일부터 오는 17일까지 리야드에서 열린다. 김 부문장은 이번 포럼에서 AI 안전을 기술적인 장치만으로 확보하기 어렵다고 강조했다. 개발자와 정책 담당자가 AI를 만드는 과정에서 위험을 파악하고 대응 방법을 판단할 수 있도록 사람의 역량도 함께 높여야 한다고 주장했다. LG AI연구원은 이를 위해 유네스코와 'AI 윤리 무크(MOOC·온라인 공개강좌)'를 공동 개발했다. 지난해 7월 프로젝트를 시작해 올해 7월 정식 공개한 이 강좌에는 약 두 달 만에 전 세계에서 약 3만명이 등록했다. 교육은 11개 언어로 제공한다. 교육은 AI 활용법보다 개발 과정에서 필요한 윤리적 판단에 초점을 맞춘다. 개발자와 연구자, 정책 담당자, 학생 등이 AI를 설계하고 운영하면서 마주하는 문제를 판단하고 대응하는 데 필요한 내용을 담았다. 교육과정은 유네스코 'AI 윤리 권고'를 토대로 구성했다. 공정성과 포용성, 개인정보와 데이터 거버넌스, 투명성과 책임성, 안전·보안 등을 실제 사례를 중심으로 다룬다. LG AI연구원은 자체 AI 개발 과정에서 쌓은 경험도 교육에 반영했다. 모델과 서비스를 개발할 때 위험 요소를 점검하는 윤리영향평가와 데이터 컴플라이언스 사례 등을 공유했다. 최근 글로벌 AI 업계에서는 AI 개발 속도를 둘러싼 안전 논쟁이 거세졌다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 지난 12일 AI 발전 속도가 이를 이해하고 통제하는 능력을 앞지를 수 있다며 프런티어 AI 모델의 개발 속도를 늦춰야 한다고 주장했다. 아모데이는 AI 개발을 중단하자는 것이 아니라 안전 연구와 평가가 기술 발전을 따라갈 시간을 확보해야 한다고 강조했다. 앤트로픽은 외부 평가기관에 내부 직원에 준하는 접근 권한을 제공하고 AI 기업 간 공동 안전기준과 국제 공조도 추진하겠다는 방안을 내놨다. 반면 도널드 트럼프 미국 대통령은 중국과의 AI 경쟁을 이유로 개발 속도를 늦추는 데 부정적인 입장을 나타냈다. 미국이 중국에 앞선 상황에서 AI 개발을 제한하면 경쟁 우위를 내줄 수 있다는 이유를 들었다. LG AI연구원 역시 AI 모델 개발 경쟁에 뛰어들고 있다. 자체 AI 모델 '엑사원'을 개발하고 정부의 독자 AI 파운데이션 모델 프로젝트에도 참여 중이다. 모델 성능을 끌어올리는 동시에 개발 과정에서는 윤리영향평가와 데이터 컴플라이언스 체계를 운영하고 있다. 김 부문장은 "AI 도구를 사용하는 방법을 가르치는 프로그램은 많지만 AI 시스템을 설계하고 개발하고 관리하는 사람을 위한 교육은 거의 없다"며 "혁신의 속도를 따라갈 만큼 빠른 유일한 안전장치는 사람의 역량이라고 믿는다"고 강조했다.

2026.09.16 09:23김동원 기자

AI 감속론에 복잡해진 한국 전략…속도조절도 '차등 적용'

글로벌 인공지능(AI) 기업들이 AI 개발 속도 조절론을 꺼낸 가운데 국내에서는 기술 개발 자체를 늦추기보다 제품 출시와 활용 단계에 더 강한 안전장치를 둬야 한다는 의견이 나왔다. 15일 본지 취재 결과 국내 AI 업계와 학계는 중국 등 경쟁국이 연구개발을 이어가는 상황에서 기술 경쟁 자체를 늦추는 것은 현실적으로 어렵다고 진단했다. 위험성이 큰 프론티어 AI는 출시 전에 충분한 검증을 거치되 이런 기준을 아직 추격 단계인 국내 기업에 일률적으로 적용하는 것은 경계해야 한다는 지적도 제기됐다. AI 개발 속도조절론에 불씨를 지핀 것은 다리오 아모데이 앤트로픽 최고경영자(CEO)다. 그는 지난 12일 개인 블로그를 통해 프론티어 AI의 발전 속도를 안전 연구와 검증 체계가 따라갈 수 있도록 조절해야 한다고 주장했다. 그가 주목한 것은 AI가 다음 세대 AI 개발에 참여하는 '재귀적 자기개선'이다. 이 단계에 들어서면 기술 발전 속도가 지금보다 더 빨라지고 안전 연구와 통제 기술이 이를 따라가지 못할 가능성이 커진다고 우려했다. 아모데이 CEO는 AI 기업 내부에 외부 평가자를 두고 개발 과정을 검증하는 방안도 제안했다. 민주주의 국가들이 공동 안전 기준을 마련한 뒤 장기적으로 국제적인 공조 체계를 구축하는 구상도 내놨다. "속도 늦추면 중국만 웃는다"…후발주자 '사다리 걷어차기' 우려 국내 업계가 경계한 것은 감속의 대상과 범위다. 최첨단 프론티어 AI에 맞춘 안전 기준을 추격 단계인 국내 기업에 그대로 적용하면 기술 격차를 좁히기 어려워지고 새로운 진입장벽으로 작용할 수 있다는 지적이 나왔다. 한 AI 학과 교수는 "프론티어 AI에 맞춘 높은 수준의 평가와 검증 의무가 국내 기업에까지 적용되면 기술 격차를 좁히는 데 부담이 될 수 있다"며 "이미 기술 우위를 확보한 빅테크가 안전 기준까지 주도할 경우 사실상 '사다리 걷어차기'로 비칠 수 있다"고 말했다. 김동환 포티투마루 대표도 빅테크 중심의 안전 기준이 새로운 견제 장치로 작용할 가능성을 짚었다. 글로벌 차원의 합의가 없는 상황에서는 선도 기업이 만든 평가 방식과 기준이 사실상 국제 표준으로 자리 잡을 가능성이 높다는 판단이다. 김 대표는 "빅테크 입장에서는 기술력을 가진 스타트업과 대규모 자본을 동원할 수 있는 대기업뿐 아니라 중국과 중동 등 후발주자에 대한 견제 장치의 의미도 있을 것"이라며 "후발주자에 대한 사다리 걷어차기가 되지 않도록 기업 규모와 모델 위험도에 따라 기준을 차등 적용할 필요가 있다"고 말했다. 감속론의 현실성에도 의문을 제기했다. AI 개발이 국가 간 경쟁으로 번진 상황에서 일부 기업이나 국가가 합의하더라도 중국 러시아 북한까지 같은 속도로 움직이게 만들기는 어렵다는 이유다. 김 대표는 "기술 발전 속도가 사회적 제도와 윤리적 합의보다 훨씬 빠르다는 점에서 속도 조절의 필요성에는 공감한다"면서도 "AI 개발이 이미 국가대항전 수준의 무한 경쟁에 들어간 만큼 현실적으로 속도를 맞추기는 어렵다"고 말했다. AI 위험에 대한 경고가 지나쳤다는 논란은 과거에도 있었다. 오픈AI는 2019년 GPT-2의 악용 가능성을 우려해 전체 모델 공개를 늦췄지만 이후 과도한 대응이었다는 지적을 받았다. 당시 개발에 참여한 아모데이 CEO는 더 강력한 AI에 대비해 책임 있는 공개 방식을 시험한 조치였다고 설명한 바 있다. "안전장치 없이 달릴 순 없다"…연구는 계속, 출시는 신중 기술 개발을 이어가더라도 AI를 아무런 검증 없이 시장에 내놓아서는 안 된다는 목소리도 존재했다. AI의 자율성이 높아지는 만큼 연구 경쟁과 실제 제품 출시를 구분해 접근해야 한다는 주장이다. 유창동 한국과학기술원(KAIST) 전기및전자공학부 교수는 개발 속도를 인위적으로 늦추려 해도 기업 내부의 연구 경쟁은 계속될 가능성이 크다고 진단했다. 그는 "기업들이 제품 출시는 늦출 수 있겠지만 내부 연구개발은 계속할 것"이라며 "중국도 굉장히 빠른 속도로 개발하고 있어 연구를 멈추지는 않을 것"이라고 말했다. 대신 시장에 내놓는 단계에서는 안전성을 충분히 확인해야 한다고 강조했다. AI 에이전트가 자신의 행동 결과를 확인하고 오류를 다시 수정하는 방향으로 발전하면서 인간의 개입 없이 수행하는 작업도 늘어나고 있어서다. 유 교수는 "개발은 계속하더라도 외부로 출시하는 제품은 안전성을 확인하면서 속도를 조절하는 게 맞다"며 "건물이나 공장의 안전을 점검하듯 AI에도 평가 기준과 벤치마크 데이터셋을 마련해 정기적으로 위험 수준을 확인해야 한다"고 말했다. AI 신뢰성 전문기업 씽크포비엘의 박지환 대표는 기술 성능과 사회에서 허용하는 사용 범위를 구분해야 한다고 강조했다. 그는 "자동차 에어백을 제대로 만들지 못한다면 엔진 속도에는 제한을 걸어야 한다"며 "AI 성능을 높이는 것과 그 기술을 사회에서 어디까지 쓰게 할지는 다른 문제"라고 말했다. 자동차가 더 빠르게 달릴 수 있어도 도로마다 제한속도를 두고 운전자에게 면허를 요구하듯 AI도 위험 수준에 따라 활용 범위와 조건을 달리할 필요가 있다는 주장이다. 김명주 AI안전연구소장은 AI가 무기나 로봇처럼 현실 세계에서 직접 작동하는 영역으로 확대될수록 책임 문제도 커질 수 있다고 짚었다. 그는 "갈수록 AI의 추론 과정을 인간이 따라가기 어려워질 것"이라며 "이런 기술이 무기와 같은 피지컬 AI에 적용되면 책임 규명도 힘들어진다"고 말했다. 이어 "강력한 AI에 대한 우려와 불신이 커지면 결국 산업의 지속가능성까지 위협받을 수 있다"고 경고했다.

2026.09.15 13:40김동원 기자

AI 속도 조절하자는 빅테크 경고에도…트럼프 "중국에 앞서야”

인공지능(AI)이 인류의 존립까지 위협할 수 있다는 경고가 빅테크 수장들 사이에서 잇따르고 있지만 도널드 트럼프 미국 대통령은 AI 개발 속도 조절과 규제 강화 요구에 선을 그었다. 안전장치의 필요성은 인정하면서도 중국과의 AI 패권 경쟁에서 미국이 주도권을 놓쳐서는 안 된다는 이유에서다. 13일(현지시간) 블룸버그 등 외신에 따르면 다리오 아모데이 앤트로픽 CEO, 샘 올트먼 오픈AI CEO, 일론 머스크 스페이스X CEO는 빠르게 발전하는 AI 모델의 역량과 관련해 강도 높은 안전 경고가 이어지자 AI 개발에 보다 신중하게 접근해야 한다고 촉구했다. 그러나 트럼프 대통령은 일부 안전장치를 마련할 수는 있지만, 미국이 AI 분야에서 국제적인 주도권을 유지하는 것이 무엇보다 중요하다고 강조했다. 트럼프 대통령은 취재진을 만나 “우리는 AI 분야에서 중국을 앞서고 있다”며 “나는 이 상태를 유지하고 싶다. AI에서 승리하는 자가 승리자가 되기 때문”이라고 말했다. 이어 “안전장치를 마련할 수 있고 여러 조치를 취할 수도 있다”며 “하지만 이 문제를 제기해서는 안 되는 많은 부정적인 세력이 이를 거론하고 있으며 실제로 일어나지 않은 일들까지 제기하고 있다고 생각한다”고 덧붙였다. 아모데이 CEO는 토요일 공개한 글에서 “(업계가) AI 모델의 역량을 개선하는 속도를 늦춰야 한다”고 언급한 바 있다. 또 제3의 평가기관이 최첨단 AI 기업을 감시하고 업계 차원의 안전 기준을 마련하는 동시에 규제를 국제적으로 조율해야 한다고 강조했다. 올트먼 CEO와 머스크 CEO도 이같은 제안에 지지 의사를 나타냈다. 다만, 트럼프 행정부와 공화당 의원들은 여기에 반대하고 있다. 기업들이 스스로 AI 개발 속도를 조절할 수 있으며, 중국에 경쟁 우위를 넘겨줄 수 있는 과도한 조치까지 도입할 필요는 없다는 주장이다. 트럼프 행정부에서 AI와 가상자산 정책을 담당했던 데이비드 색스는 AI 기업을 향해 “그냥 최첨단 AI 개발 속도를 조절하라. 그 속도를 결정하는 것은 여러분”이라며 “초지능을 만들지 않는 가장 쉬운 방법은 여러분이 그것을 만들지 않기로 합의하는 것”이라고 꼬집었다. 이어 “그 대가로 여러분이 선호하는 규제 체계를 요구한다면 대중과 정치 시스템을 협박하는 것처럼 보일 것”이라고 지적했다. 반면 민주당은 공화당의 대응을 강하게 비판하면서 AI 업계에 대한 신속한 규제 조치를 요구했다. 루벤 가예고 애리조나주 상원의원은 존슨 의장과 트럼프 대통령 모두 AI가 제기하는 위협에 상황에 걸맞게 대응하지 못하고 있다고 비판했다. 민주당 소속 존 오소프 상원의원은 "유능한 대통령이라면 미국 국민을 보호하고 안심시키기 위해 신속하게 움직이고, 최첨단 AI 연구소에 조사관을 급파하며 생물테러에 대한 국가 방어력을 강화해야 한다"고 말했다. 이어 "의회에 입법을 요구하고 전 세계를 이끌어 AI 관련 조약을 마련해야 한다"며 "그러나 대통령과 하원의장은 손을 놓은 채 잘되기만을 바라고 있다"고 비판했다.

2026.09.14 09:28박서린 기자