• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
ZDPick
인공지능
AI의 눈
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'AI 개발 속도'통합검색 결과 입니다. (8건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

[AI는 지금] AI 속도조절하려면 속도부터 알아야…앤트로픽, 내부 지표 공개

인공지능(AI) 개발 속도조절을 위해 기업 간 투명성과 검증을 강조해 온 다리오 아모데이 앤트로픽 최고경영자(CEO)가 자사 내부 수치부터 공개했다. ▲AI가 연구개발을 맡고 있는 현황 ▲에이전트 감시 현황 ▲안전에 투입하는 컴퓨팅 자원까지 구체적인 숫자로 제시했다. 앤트로픽은 17일(현지시간) 공식 블로그에 프런티어 AI 개발 속도를 파악하기 위한 측정 지표와 자사 조사 결과를 발표했다. AI 연구개발 자동화와 AI 에이전트 감시, 컴퓨팅 자원 배분 등 세 영역을 조사했다. 조사 결과 앤트로픽 내부에서는 AI가 사람의 지시를 받아 연구를 돕는 수준에서 일부 업무를 주도하는 단계로 확대됐다. 사람이 큰 목표만 정해주면 클로드가 대부분 작업을 수행하는 주도 단계는 지난 2월 1% 미만에서 8월 26%로 높아졌다. 사람이 긴밀하게 관여하는 협업 단계 이상까지 포함하면 전체 AI 연구개발 업무의 90%를 넘었다. 주도 단계에서는 사람이 큰 목표를 정하면 이후 대부분의 작업을 클로드가 수행한다. 사람은 이를 감독하고 최종 적용 여부를 결정한다. 사람이 개입하지 않는 완전 자율 단계에 도달한 업무는 아직 없었다. 앤트로픽은 AI가 AI 개발에 더 많이 참여할수록 개발 속도가 빨라질 가능성이 있다고 설명했다. 성능이 높아진 AI가 다음 모델 개발에 투입되고 새 모델이 다시 연구개발에 참여하는 과정이 반복되면 개발 주기가 짧아질 수 있어서다. AI가 맡는 업무가 늘면서 에이전트를 사람이 얼마나 통제할 수 있는지도 측정했다. 지난 8월 앤트로픽에서 가장 많이 사용하는 내부 플랫폼에서는 한 시점에 약 3만 개 AI 에이전트가 연구와 엔지니어링 업무를 수행했다. 이들이 한 달간 내린 판단과 행동은 10억 건을 넘었다. 앤트로픽은 에이전트의 모든 행동을 실행 전에 검사했다. 이 가운데 문제가 있다고 판단해 막은 비율은 0.002%로 약 4만 7000건당 1건이었다. 문제가 발생하는 비율이 낮아도 에이전트의 활동량이 커지면 실제 발생 건수는 늘어날 수 있다. 앤트로픽은 수백만개에서 수십억개의 에이전트가 활동하는 상황에 대비해 이들의 행동을 제대로 감시하고 통제할 수 있는지도 함께 확인해야 한다고 설명했다. 안전 연구에 사용하는 컴퓨팅 자원도 측정했다. 지난 7월 13일부터 20일까지 AI 연구개발에 투입한 컴퓨팅 자원의 약 6%가 안전 연구에 쓰였다. AI가 수행하는 AI 연구개발로 범위를 좁히면 12%였다. 다만 컴퓨팅 자원만으로 안전 연구 규모를 모두 파악하기는 어렵다는 게 회사 측의 설명이다. 안전 연구는 연구자가 실험을 설계하고 분석하는 데 많은 시간이 들지만 실제 연산량은 상대적으로 적을 수 있어서다. 앤트로픽은 이런 측정치를 향후 안전조치의 기준으로 활용하는 방안도 제시했다. AI 연구개발 자동화가 일정 수준에 도달하면 새 모델을 다시 AI 개발에 투입하기 전 일정 기간 안전성을 시험하거나 AI 연구 에이전트에 배정하는 컴퓨팅 자원을 제한하는 방법이다. 앤트로픽은 여러 기관의 독립적인 외부 평가자를 내부에 배치할 계획이다. 자체 위험평가팀과 비슷한 수준으로 내부 절차와 시스템, 데이터에 접근하도록 해 안전조치와 사고, 주요 지표 등을 검증하게 한다. 앤트로픽의 이번 행보는 아모데이가 최근 제안한 AI 개발 속도조절 논의 연장선으로 해석된다. 아모데이는 지난 12일 AI 개발 속도를 조절해 안전 연구에 필요한 시간을 확보해야 한다고 주장했다. AI 기업의 투명성을 높이고 업계가 공통으로 적용할 수 있는 기준을 마련하는 방안도 제안했다. 앤트로픽은 "프런티어 AI 개발 속도 조절을 검토하는 상황에서 연구소가 아는 것과 대중이 아는 것 사이의 격차를 가능한 줄여야 한다"며 "AI 개발을 더 잘 측정하고 공개해 사회가 이 정보를 어떻게 사용할지 결정할 기회를 제공해야 한다"고 밝혔다.

2026.09.18 08:41김동원 기자

[AI 속도 논쟁③] "200㎞ 달려도 도로에선 100㎞"…한국 AI, 어디서 브레이크 걸까

글로벌 인공지능(AI) 업계에서 개발 속도를 늦춰야 한다는 주장이 커지면서 한국도 같은 브레이크를 밟아야 하는지가 관심사로 떠올랐다. 국내에서는 연구개발까지 늦추기보다 기술 개발은 이어가되 모델이 시장에 나오고 사람을 대신해 행동하는 단계부터 위험에 맞는 안전장치를 강화해야 한다는 목소리가 나온다. 국내 AI 업계와 학계는 한국이 아직 글로벌 프론티어 AI 선두권을 추격하는 상황에서 개발 속도부터 낮추는 것은 현실적이지 않다고 진단했다. 대신 모델 공개와 서비스 출시, 실제 활용을 구분해 단계별로 다른 안전 기준을 적용할 필요가 있다고 봤다. AI 업계 안팎에서는 AI가 맡는 역할과 권한에 따라 안전 기준도 달라져야 한다고 봤다. 질문에 답하는 AI와 예약·결제 등 실제 행동까지 맡는 AI를 같은 수준으로 볼 수 없다는 지적이다. "200㎞ 달리는 차도 도로에선 적정 속도"…개발과 사용은 따로 박지환 씽크포비엘 대표는 17일 지디넷코리아와의 통화에서 한국이 아직 AI 연구개발 속도를 늦출 단계는 아니라고 짚었다. 글로벌 프론티어 AI를 추격해야 하는 만큼 기술 성능을 높이는 연구는 이어가되 실제 사회에서 어디까지 쓰게 할지는 별도의 기준으로 정해야 한다고 봤다. 박 대표는 이를 자동차에 빗댔다. 자동차는 시속 200㎞가 넘는 속도를 낼 수 있도록 개발돼도 실제 도로에서는 시속 80㎞나 100㎞의 제한속도를 적용한다. 일부 승합차처럼 용도나 위험도에 따라 차량 자체의 최고속도를 제한하기도 한다. 그는 "자동차가 시속 200㎞ 넘게 달릴 수 있다고 해서 모든 도로에서 그 속도로 달리게 하지는 않는다"며 "AI도 성능을 어디까지 높일 것인지와 사회에서 어디까지 사용할 수 있게 할지는 구분해야 한다"고 강조했다. 이어 "200㎞ 이상을 달리는 자동차를 연구하는 것처럼 AI 선행 연구는 계속해야 한다"며 "동시에 그 기술을 사회에서 안전하게 사용할 수 있도록 제도를 갖추는 게 필요하다"고 덧붙였다. AI가 답변에서 '실행'으로 넘어가면서 이런 고민은 실제 서비스 현장으로 옮겨가고 있다. 자체 AI 모델과 대국민 서비스를 함께 개발하는 SK텔레콤은 '모두의 AI'에서 병원 예약 등 이용자를 대신해 업무를 수행하는 실행형 AI 에이전트를 준비 중이다. 김지훈 SK텔레콤 AI사업본부장은 에이전트가 직접 행동하는 범위가 넓어질수록 이용자가 어디까지 권한을 맡길지 기준을 세우는 일이 중요해진다고 봤다. 민원이나 금융처럼 개인정보와 돈이 오가는 업무에서는 이용자 동의와 안전장치도 필요하다고 설명했다. SK텔레콤은 이용자 동의 없이 처리할 수 있는 업무와 별도 승인이 필요한 업무를 구분하는 방안을 검토하고 있다. 보안업체와 레드팀도 꾸려 실행형 에이전트의 취약점을 사전에 점검 중이다. 김 본부장은 "에이전트를 어떻게 설계하고 고객 정보를 처리할지, 어떤 방식으로 권한을 얻을지에 대한 논의가 업계에서 더 많이 이뤄져야 한다"며 "성능은 빠르게 높아지고 있지만 관련 가이드라인과 규칙은 아직 초기 단계"라고 말했다. 연구는 계속, 시장에 나올 땐 검증…위험 따라 달라지는 '브레이크' 유창동 한국과학기술원(KAIST) 전기및전자공학부 교수는 기업 내부의 연구개발까지 인위적으로 늦추기는 어렵다고 내다봤다. 다른 국가와 기업들이 개발을 이어가는 상황에서 연구 경쟁 자체를 멈추기는 쉽지 않다는 이유다. 다만 제품을 외부에 내놓기 전에는 별도의 안전 검증이 필요하다고 선을 그었다. 유 교수는 "개발은 계속하더라도 외부로 출시하는 제품은 안전성을 확인하면서 속도를 조절하는 게 맞다"며 "평가 기준과 벤치마크 데이터셋을 마련해 위험 수준을 점검해야 한다"고 제언했다. 정부도 연구개발 속도 자체를 낮추기보다 기술 발전과 안전장치를 함께 끌어올리는 쪽에 무게를 두고 있다. 배경훈 부총리 겸 과학기술정보통신부 장관은 최근 "이미 앞서 있는 나라가 속도를 조절하는 것과 추격하면서 동시에 새로운 시장을 만들어야 하는 나라가 스스로 속도를 낮추는 것은 전혀 다른 문제"라고 밝혔다. 배 부총리는 이를 '속도책임'이라고 표현했다. 그는 "AI 연구개발과 산업 활용에는 과감하게 가속페달을 밟되 위험에는 제대로 작동하는 브레이크를 갖춰야 한다"며 "속도는 경쟁력이고 안전은 지속가능성"이라고 강조했다. 그러나 안전 우려가 커져도 실제 AI 개발 경쟁이 느려질 가능성은 낮다는 관측도 나온다. 일부 기업이나 국가가 속도를 줄이더라도 다른 개발 주체들이 계속 경쟁하는 상황에서는 모두가 동시에 감속하기 어렵다는 이유다. 신정규 래블업 대표는 "아무도 개발 속도를 늦추지 않을 것"이라며 "AI를 직접 만들어보니 위험하다는 점은 이제 확실하고 개발자와 연구자들 사이에서도 이런 위기감이 상당히 일반화돼 있다"고 진단했다. 더 큰 문제는 개발을 이어가는 동안 마련한 안전장치가 예상하지 못한 위험까지 막아낼 수 있느냐다. 신 대표는 기업들이 사전에 여러 대책을 마련하더라도 모든 사고를 미리 차단하기는 어려울 것으로 내다봤다. 그는 "여러 사전 대책을 만들고 도입하겠다는 회사들이 나오겠지만 결국 그것만으로 막지 못하는 큰 사고가 한 번은 날 것"이라며 "그 사고가 치명적이지 않기만을 바란다"고 말했다.

2026.09.17 16:50김동원 기자

[AI 고속도로] 美 데이터센터 규제 확산…최대 밀집지역도 직격탄

세계 최대 데이터센터 밀집지역인 미국 버지니아주 북부에서 신규 데이터센터 개발을 일시 중단하려는 움직임이 일고 있다. 인공지능(AI) 확산으로 데이터센터 투자가 급증하면서 전력망과 전기요금, 소음 등 지역사회 부담이 커지자 미국 AI 인프라 중심지마저 개발 속도 조절에 나선 모습이다. 16일(현지시간) 블룸버그통신에 따르면 미국 버지니아주 라우던카운티 감독위원회는 신규 데이터센터와 변전소 신청에 대한 심사를 최대 12개월 동안 중단하는 방안을 추진키로 했다. 감독위원 9명 가운데 7명이 해당 방안을 지지했으며 공식 결의안을 마련해 다음 달 표결할 예정이다. 라우던카운티는 세계 최대 데이터센터 밀집지역으로 꼽힌다. 지난 3월 기준 건설됐거나 건설 중인 데이터센터는 233곳에 달한다. 특히 애슈번 일대는 글로벌 인터넷 트래픽과 클라우드 인프라가 집중돼 '데이터센터 앨리'로도 불린다. 데이터센터는 지역 경제에도 상당한 비중을 차지하고 있다. 라우던카운티에선 데이터센터 산업을 통해 직·간접적으로 1만 7000개 이상의 일자리가 만들어졌으며 2027 회계연도 관련 세수는 13억 달러(1조 7890억원)에 이를 것으로 예상된다. 이는 카운티 전체 예산의 약 40%에 해당하는 규모다. 하지만 데이터센터가 빠르게 늘어나면서 주민 반발도 커졌다. 데이터센터에서 발생하는 소음과 주거지역과의 거리뿐 아니라 시설에 전력을 공급하기 위한 변전소와 송전 인프라가 주택가 주변까지 확대되는 점이 주요 문제로 지적되고 있다. 주민들은 데이터센터 개발 속도에 맞춰 토지 이용과 환경 관련 규제를 강화해야 한다고 요구 중이다. 라우던카운티는 이미 지난해부터 데이터센터 개발 규제를 단계적으로 강화해왔다. 지난해 3월에는 데이터센터를 별도 심사 없이 건설할 수 있도록 한 기존 개발 방식을 폐지하고 특별승인 등을 거치도록 제도를 바꿨다. 현재는 데이터센터의 입지와 소음 등 영향을 관리하기 위한 2단계 규제 개편을 진행 중이며 이번 심사 중단도 새로운 기준이 마련될 때까지 추가 개발을 관리하기 위한 조치로 풀이된다. 다만 버지니아주 법률상 지방정부가 일정 기간 데이터센터 개발을 전면 중단하는 조치를 시행하기는 어렵다. 이에 라우던카운티는 개별 사업 신청 자체를 금지하기보다 계획위원회 심사 단계에 들어가기 전 일정 기간 검토를 멈추는 방식으로 제도를 설계 중이다. 새 토지이용·구역 규정이 확정되면 신청 심사를 재개할 방침이다. 줄리 브리스크먼 라우던카운티 감독위원은 이번 사안에 대해 "주민들은 데이터센터 문제로 골머리를 앓고 있다"며 "지역사회는 우리가 이 조치를 취해달라고 계속 요구해왔다"고 밝혔다. 데이터센터를 둘러싼 속도 조절 움직임은 미국 전역으로 확산되는 양상이다. 전력요금 상승과 전력망 증설 비용, 냉각수 사용, 소음 등을 둘러싼 갈등이 커지는 모습이다. 앞서 뉴욕주는 대형 데이터센터 신규 건설을 일정 기간 중단하는 조치를 내놨고 펜실베이니아주는 신규 사업자가 지역사회 승인을 받고 전력 사용 증가에 따른 비용을 부담하도록 인허가 요건을 강화했다. 규제의 초점도 단순한 건설 제한에서 데이터센터가 발생시키는 비용을 누가 부담할지로 이동하고 있다. 미국 하원은 이달 16일 데이터센터 등 대규모 전력 사용자가 시설 운영에 필요한 신규 발전·송전 인프라 비용을 부담하도록 유도하는 내용의 법안을 417대 3으로 통과시켰다. AI 데이터센터 확대로 발생하는 전력망 투자 비용이 일반 가정과 기업의 전기요금으로 전가되는 것을 막겠다는 취지다. 이같은 흐름은 미국 빅테크의 AI 인프라 확장에도 변수가 될 전망이다. 미국 기술기업들이 AI 경쟁력 확보를 위해 대규모 데이터센터와 전력 인프라 확보에 나선 상황에서 지역별 인허가가 강화되고 전력망 비용 부담까지 늘어날 경우 데이터센터 입지 선정과 구축 비용에도 영향을 줄 수 있어서다. 앞서 미국에선 올해 1분기에만 지역사회 반발로 최소 75개 데이터센터 프로젝트가 중단되거나 지연된 것으로 조사됐다. 미국 행정부는 이같은 반대 움직임에도 데이터센터 확대 필요성을 강조하고 있다. 트럼프 대통령은 지난달 31일 데이터센터를 '황금알을 낳는 거위'에 비유하며 "지역사회가 건설을 막을 경우 투자가 다른 지역으로 이동하고 중국과의 AI 경쟁에도 악영향을 줄 수 있다"고 주장했다.

2026.09.17 10:08한정호 기자

[AI는 지금] 中 딥시크 개발자 "앤트로픽 AI 독점, 나치 핵무기 선점과 같아"

중국 딥시크 개발자가 앤트로픽의 최첨단 인공지능(AI) 독점 가능성을 제2차 세계대전 당시 나치 독일의 핵무기 선점에 비유하며 공개 비판했다. 앤트로픽이 AI 개발 속도조절을 요구하면서 중국에 대한 첨단 반도체 수출통제는 유지해야 한다고 주장하자, 안전을 앞세워 미국 기업의 기술 우위를 굳히려는 것 아니냐는 반발이 커지고 있다. 16일 홍콩 사우스차이나모닝포스트(SCMP)에 따르면 딥시크 V4.1 모델 개발에 참여한 류성위 엔지니어는 최근 소셜미디어에서 앤트로픽과 오픈AI의 폐쇄형 전략을 비판했다. 소수 미국 기업에 첨단 AI와 컴퓨팅 자원이 집중되면 기술 접근성이 낮아지고 사회적 격차가 커질 수 있다는 이유에서다. 딥시크는 그간 모델 가중치를 공개하는 오픈웨이트 전략으로 개발자와 기업의 접근성을 높여 왔다. 반면 앤트로픽과 오픈AI는 핵심 모델의 구조와 학습 데이터, 가중치를 외부에 공개하지 않고 있다. 류 엔지니어는 "앤트로픽이나 오픈AI가 최첨단 AI를 개방적이고 저렴하게 제공할 것이라고 믿지 않는다"며 "특히 앤트로픽이 가장 앞선 AI나 범용인공지능(AGI)을 장악하는 것을 원하지 않는다"고 말했다. 그러면서 그는 첨단 AI가 폐쇄형 기업에 집중될수록 사회적 계층 이동이 어려워질 수 있다고 우려했다. 포용적이고 개방적인 AI 생태계를 구축해야 한다는 믿음이 딥시크에 남은 이유 중 하나라고도 설명했다. 이번 논쟁은 다리오 아모데이 앤트로픽 최고경영자(CEO)가 최상위 AI 기업들에 개발 속도조절을 촉구하면서 확산됐다. 그는 AI 성능이 안전장치보다 빠르게 발전하고 있다며 외부 평가기관의 검증과 기업 간 공통 안전 기준 도입을 제안했다. 샘 알트먼 오픈AI CEO와 일론 머스크 xAI 창업자도 개발 경쟁을 늦출 필요가 있다는 데 동의했다. 특히 아모데이 CEO는 중국이 AI 분야를 주도하면 미국과 세계에 심각한 위험이 될 수 있다고 주장했다. 미국 정부에는 첨단 반도체와 반도체 제조 장비의 대중국 수출 제한을 유지하라고 요구했다. 이는 미국을 비롯한 민주주의 국가의 선두 기업이 먼저 개발 속도와 안전 기준을 조율하고, 중국의 첨단 연산 자원 접근은 계속 제한하자는 것으로 풀이된다. 아모데이 CEO는 이후 중국을 포함한 글로벌 협력도 제안했지만 검증 가능한 합의에는 한계가 있을 것으로 봤다. 이를 두고 중국에선 공동 안전체계를 마련하기 위한 제안보다 미국 선두 기업 중심으로 AI 개발 규칙을 정하려는 시도로 받아들이고 있다. AI 안전 논쟁도 개발 속도를 넘어 최첨단 모델과 글로벌 규칙의 통제권을 둘러싼 미·중 주도권 경쟁으로 확산되고 있다. 중국의 반도체 접근을 제한한 상태에서 미국 폐쇄형 AI 기업들이 안전 기준까지 주도하면 후발 기업과 오픈소스 진영의 참여 범위가 좁아질 수 있을 것으로 보인다. 중국 독립 연구기관 둥부야차오연구소는 "아모데이 CEO의 발언은 업계 규칙이 완전히 확립되기 전에 더 큰 통제권을 확보하려는 시도일 수 있다"고 밝혔다. 트럼프 대통령도 앤트로픽의 제안에 반대 입장을 드러냈다. 그는 미국의 AI 개발 속도를 제한하면 중국에 경쟁 우위를 넘겨줄 수 있다며 AI 위협론을 '사기'라고 일축했다. 중국 정부는 AI 안전 규칙이 특정 국가나 기업의 기술 우위를 유지하는 수단으로 이용돼서는 안 된다는 취지로 맞섰다. 또 국가 간 대립과 배제가 건전한 글로벌 AI 거버넌스를 저해할 수 있다고도 주장했다. 궈자쿤 중국 외교부 대변인은 "공포 조장과 대립, 악의적인 경쟁은 건전한 글로벌 AI 거버넌스를 구축하려는 노력을 방해할 뿐"이라고 말했다.

2026.09.16 10:24장유미 기자

AI 감속론에 복잡해진 한국 전략…속도조절도 '차등 적용'

글로벌 인공지능(AI) 기업들이 AI 개발 속도 조절론을 꺼낸 가운데 국내에서는 기술 개발 자체를 늦추기보다 제품 출시와 활용 단계에 더 강한 안전장치를 둬야 한다는 의견이 나왔다. 15일 본지 취재 결과 국내 AI 업계와 학계는 중국 등 경쟁국이 연구개발을 이어가는 상황에서 기술 경쟁 자체를 늦추는 것은 현실적으로 어렵다고 진단했다. 위험성이 큰 프론티어 AI는 출시 전에 충분한 검증을 거치되 이런 기준을 아직 추격 단계인 국내 기업에 일률적으로 적용하는 것은 경계해야 한다는 지적도 제기됐다. AI 개발 속도조절론에 불씨를 지핀 것은 다리오 아모데이 앤트로픽 최고경영자(CEO)다. 그는 지난 12일 개인 블로그를 통해 프론티어 AI의 발전 속도를 안전 연구와 검증 체계가 따라갈 수 있도록 조절해야 한다고 주장했다. 그가 주목한 것은 AI가 다음 세대 AI 개발에 참여하는 '재귀적 자기개선'이다. 이 단계에 들어서면 기술 발전 속도가 지금보다 더 빨라지고 안전 연구와 통제 기술이 이를 따라가지 못할 가능성이 커진다고 우려했다. 아모데이 CEO는 AI 기업 내부에 외부 평가자를 두고 개발 과정을 검증하는 방안도 제안했다. 민주주의 국가들이 공동 안전 기준을 마련한 뒤 장기적으로 국제적인 공조 체계를 구축하는 구상도 내놨다. "속도 늦추면 중국만 웃는다"…후발주자 '사다리 걷어차기' 우려 국내 업계가 경계한 것은 감속의 대상과 범위다. 최첨단 프론티어 AI에 맞춘 안전 기준을 추격 단계인 국내 기업에 그대로 적용하면 기술 격차를 좁히기 어려워지고 새로운 진입장벽으로 작용할 수 있다는 지적이 나왔다. 한 AI 학과 교수는 "프론티어 AI에 맞춘 높은 수준의 평가와 검증 의무가 국내 기업에까지 적용되면 기술 격차를 좁히는 데 부담이 될 수 있다"며 "이미 기술 우위를 확보한 빅테크가 안전 기준까지 주도할 경우 사실상 '사다리 걷어차기'로 비칠 수 있다"고 말했다. 김동환 포티투마루 대표도 빅테크 중심의 안전 기준이 새로운 견제 장치로 작용할 가능성을 짚었다. 글로벌 차원의 합의가 없는 상황에서는 선도 기업이 만든 평가 방식과 기준이 사실상 국제 표준으로 자리 잡을 가능성이 높다는 판단이다. 김 대표는 "빅테크 입장에서는 기술력을 가진 스타트업과 대규모 자본을 동원할 수 있는 대기업뿐 아니라 중국과 중동 등 후발주자에 대한 견제 장치의 의미도 있을 것"이라며 "후발주자에 대한 사다리 걷어차기가 되지 않도록 기업 규모와 모델 위험도에 따라 기준을 차등 적용할 필요가 있다"고 말했다. 감속론의 현실성에도 의문을 제기했다. AI 개발이 국가 간 경쟁으로 번진 상황에서 일부 기업이나 국가가 합의하더라도 중국 러시아 북한까지 같은 속도로 움직이게 만들기는 어렵다는 이유다. 김 대표는 "기술 발전 속도가 사회적 제도와 윤리적 합의보다 훨씬 빠르다는 점에서 속도 조절의 필요성에는 공감한다"면서도 "AI 개발이 이미 국가대항전 수준의 무한 경쟁에 들어간 만큼 현실적으로 속도를 맞추기는 어렵다"고 말했다. AI 위험에 대한 경고가 지나쳤다는 논란은 과거에도 있었다. 오픈AI는 2019년 GPT-2의 악용 가능성을 우려해 전체 모델 공개를 늦췄지만 이후 과도한 대응이었다는 지적을 받았다. 당시 개발에 참여한 아모데이 CEO는 더 강력한 AI에 대비해 책임 있는 공개 방식을 시험한 조치였다고 설명한 바 있다. "안전장치 없이 달릴 순 없다"…연구는 계속, 출시는 신중 기술 개발을 이어가더라도 AI를 아무런 검증 없이 시장에 내놓아서는 안 된다는 목소리도 존재했다. AI의 자율성이 높아지는 만큼 연구 경쟁과 실제 제품 출시를 구분해 접근해야 한다는 주장이다. 유창동 한국과학기술원(KAIST) 전기및전자공학부 교수는 개발 속도를 인위적으로 늦추려 해도 기업 내부의 연구 경쟁은 계속될 가능성이 크다고 진단했다. 그는 "기업들이 제품 출시는 늦출 수 있겠지만 내부 연구개발은 계속할 것"이라며 "중국도 굉장히 빠른 속도로 개발하고 있어 연구를 멈추지는 않을 것"이라고 말했다. 대신 시장에 내놓는 단계에서는 안전성을 충분히 확인해야 한다고 강조했다. AI 에이전트가 자신의 행동 결과를 확인하고 오류를 다시 수정하는 방향으로 발전하면서 인간의 개입 없이 수행하는 작업도 늘어나고 있어서다. 유 교수는 "개발은 계속하더라도 외부로 출시하는 제품은 안전성을 확인하면서 속도를 조절하는 게 맞다"며 "건물이나 공장의 안전을 점검하듯 AI에도 평가 기준과 벤치마크 데이터셋을 마련해 정기적으로 위험 수준을 확인해야 한다"고 말했다. AI 신뢰성 전문기업 씽크포비엘의 박지환 대표는 기술 성능과 사회에서 허용하는 사용 범위를 구분해야 한다고 강조했다. 그는 "자동차 에어백을 제대로 만들지 못한다면 엔진 속도에는 제한을 걸어야 한다"며 "AI 성능을 높이는 것과 그 기술을 사회에서 어디까지 쓰게 할지는 다른 문제"라고 말했다. 자동차가 더 빠르게 달릴 수 있어도 도로마다 제한속도를 두고 운전자에게 면허를 요구하듯 AI도 위험 수준에 따라 활용 범위와 조건을 달리할 필요가 있다는 주장이다. 김명주 AI안전연구소장은 AI가 무기나 로봇처럼 현실 세계에서 직접 작동하는 영역으로 확대될수록 책임 문제도 커질 수 있다고 짚었다. 그는 "갈수록 AI의 추론 과정을 인간이 따라가기 어려워질 것"이라며 "이런 기술이 무기와 같은 피지컬 AI에 적용되면 책임 규명도 힘들어진다"고 말했다. 이어 "강력한 AI에 대한 우려와 불신이 커지면 결국 산업의 지속가능성까지 위협받을 수 있다"고 경고했다.

2026.09.15 13:40김동원 기자

AI 속도 조절하자는 빅테크 경고에도…트럼프 "중국에 앞서야”

인공지능(AI)이 인류의 존립까지 위협할 수 있다는 경고가 빅테크 수장들 사이에서 잇따르고 있지만 도널드 트럼프 미국 대통령은 AI 개발 속도 조절과 규제 강화 요구에 선을 그었다. 안전장치의 필요성은 인정하면서도 중국과의 AI 패권 경쟁에서 미국이 주도권을 놓쳐서는 안 된다는 이유에서다. 13일(현지시간) 블룸버그 등 외신에 따르면 다리오 아모데이 앤트로픽 CEO, 샘 올트먼 오픈AI CEO, 일론 머스크 스페이스X CEO는 빠르게 발전하는 AI 모델의 역량과 관련해 강도 높은 안전 경고가 이어지자 AI 개발에 보다 신중하게 접근해야 한다고 촉구했다. 그러나 트럼프 대통령은 일부 안전장치를 마련할 수는 있지만, 미국이 AI 분야에서 국제적인 주도권을 유지하는 것이 무엇보다 중요하다고 강조했다. 트럼프 대통령은 취재진을 만나 “우리는 AI 분야에서 중국을 앞서고 있다”며 “나는 이 상태를 유지하고 싶다. AI에서 승리하는 자가 승리자가 되기 때문”이라고 말했다. 이어 “안전장치를 마련할 수 있고 여러 조치를 취할 수도 있다”며 “하지만 이 문제를 제기해서는 안 되는 많은 부정적인 세력이 이를 거론하고 있으며 실제로 일어나지 않은 일들까지 제기하고 있다고 생각한다”고 덧붙였다. 아모데이 CEO는 토요일 공개한 글에서 “(업계가) AI 모델의 역량을 개선하는 속도를 늦춰야 한다”고 언급한 바 있다. 또 제3의 평가기관이 최첨단 AI 기업을 감시하고 업계 차원의 안전 기준을 마련하는 동시에 규제를 국제적으로 조율해야 한다고 강조했다. 올트먼 CEO와 머스크 CEO도 이같은 제안에 지지 의사를 나타냈다. 다만, 트럼프 행정부와 공화당 의원들은 여기에 반대하고 있다. 기업들이 스스로 AI 개발 속도를 조절할 수 있으며, 중국에 경쟁 우위를 넘겨줄 수 있는 과도한 조치까지 도입할 필요는 없다는 주장이다. 트럼프 행정부에서 AI와 가상자산 정책을 담당했던 데이비드 색스는 AI 기업을 향해 “그냥 최첨단 AI 개발 속도를 조절하라. 그 속도를 결정하는 것은 여러분”이라며 “초지능을 만들지 않는 가장 쉬운 방법은 여러분이 그것을 만들지 않기로 합의하는 것”이라고 꼬집었다. 이어 “그 대가로 여러분이 선호하는 규제 체계를 요구한다면 대중과 정치 시스템을 협박하는 것처럼 보일 것”이라고 지적했다. 반면 민주당은 공화당의 대응을 강하게 비판하면서 AI 업계에 대한 신속한 규제 조치를 요구했다. 루벤 가예고 애리조나주 상원의원은 존슨 의장과 트럼프 대통령 모두 AI가 제기하는 위협에 상황에 걸맞게 대응하지 못하고 있다고 비판했다. 민주당 소속 존 오소프 상원의원은 "유능한 대통령이라면 미국 국민을 보호하고 안심시키기 위해 신속하게 움직이고, 최첨단 AI 연구소에 조사관을 급파하며 생물테러에 대한 국가 방어력을 강화해야 한다"고 말했다. 이어 "의회에 입법을 요구하고 전 세계를 이끌어 AI 관련 조약을 마련해야 한다"며 "그러나 대통령과 하원의장은 손을 놓은 채 잘되기만을 바라고 있다"고 비판했다.

2026.09.14 09:28박서린 기자

AI가 스스로 개발하는 시대 온다…오픈AI 수석과학자 "속도 늦출 준비해야"

인공지능(AI) 발전 속도를 인간의 통제 능력이 따라가지 못할 수 있다는 경고가 오픈AI 내부에서 나왔다. AI가 스스로 개발하는 단계가 가까워지면서 안전성을 확인하며 개발 속도를 조절해야 한다는 주장이다. 야쿠프 파초키 오픈AI 수석과학자는 6일(현지시간) 회사 블로그에 올린 '낯선 지능'이란 글을 통해 "AI가 스스로 설계하고 강화하는 시점이 다가오고 있다"며 "기계 지능은 상당히 빠르게 발전하고 있지만 어떤 일이 벌어질지 누구도 대비하지 못하고 있다는 점이 문제"라고 주장했다. 그는 AI를 기존 소프트웨어와는 다르게 봐야 한다고 조언했다. 사람이 작동 방식을 하나씩 정하는 소프트웨어와 달리 AI는 막대한 데이터와 컴퓨팅 자원으로 학습하면서 개발자가 직접 설계하지 않은 능력까지 갖출 수 있기 때문이다. 오픈AI는 이미 숙련된 연구자에게도 며칠이 걸리는 과제를 해결하는 'AI 연구 인턴' 수준에 도달했다고 밝혔다. 2028년 3월까지 사람 감독 아래 더 폭넓은 연구를 수행하는 '자동화된 AI 연구자'를 개발하겠다는 목표도 제시했다. AI가 연구 현장에서 차지하는 비중도 커졌다. AI 에이전트의 전체 작업시간은 지난 6월 처음으로 인간 연구자의 노동시간을 앞질렀고 지난달 중순에는 인간 연구자 노동시간의 3배를 웃돌았다. 코드 작성과 실험, 결과 분석 등 연구 업무에 여러 AI 에이전트를 동시에 활용하고 있다. 현재 연구 방향을 정하고 결과를 판단하는 역할은 사람이 맡고 있다. 그러나 연구 자동화가 확대되면 새 모델 개발에 AI가 참여하고 여기서 성능이 높아진 모델이 다시 다음 개발에 투입되는 과정이 반복될 수 있다. 파초키 수석과학자는 이 과정에서 인간의 통제력이 약해질 가능성을 우려했다. AI가 AI 연구에 더 많이 참여할수록 발전 속도가 빨라지고 사람이 그 판단과 행동을 파악하기는 더 어려워질 수 있다는 지적이다. 오픈AI는 현재 AI가 답을 내놓기 전에 거치는 중간 추론 과정인 '사고사슬(CoT)'을 살펴보며 위험한 행동 징후를 확인하고 있다. AI가 어떤 과정을 거쳐 결론을 내렸는지 확인해 이상 행동을 찾아내는 방법이다. 파초키 수석과학자는 이런 감시 방법도 AI가 강력해질수록 약해질 수 있다고 봤다. AI가 다른 AI와 소통하고 여러 도구를 사용해 복잡한 업무를 수행하는 데다 언어로 추론 과정을 드러내지 않고 문제를 해결하는 기술도 발전하고 있기 때문이다. 오픈AI는 인간이 AI에 대한 통제력을 유지할 수 있는지를 향후 개발의 중요한 기준으로 제시했다. 안전 위험을 충분히 관리하기 어렵다고 판단하면 AI 개발이나 배포 속도를 늦출 방침이다. 파초키 수석과학자는 "현재 어떤 AI 연구소도 빠른 기술 발전에 충분히 대비돼 있지 않다"며 "안전을 확신하기 어렵다면 개발 속도를 늦출 준비가 필요하다"고 말했다.

2026.09.07 15:10김동원 기자

[AI 고속도로] 미국 이어 캐나다도 데이터센터 반대 확산…지역사회 '제동'

미국에 이어 캐나다에서도 인공지능(AI) 데이터센터 건설을 둘러싼 지역사회 반대 움직임이 확산되고 있다. AI 인프라 투자를 유치하려는 캐나다 정부의 움직임에도 전력요금 상승과 환경 부담, 지역경제 기여 효과 등을 둘러싼 우려가 커지면서 일부 지방정부가 신규 개발을 중단하거나 사업을 거부하는 분위기다. 6일(현지시간) 블룸버그통신에 따르면 캐나다 온타리오주 오크빌과 앨버타주 로키뷰카운티는 최근 데이터센터 개발을 1년간 중단하는 조치를 도입했다. 매니토바주에선 와브 키뉴 주총리가 위니펙 외곽에 들어설 예정이던 데이터센터 사업에 대해 비용과 부작용이 기대 효과보다 크다며 제동을 걸었다. 대규모 데이터센터 사업을 둘러싼 주민 반발도 이어지고 있다. 캐나다 기업가 케빈 오리어리가 추진하는 7.5기가와트(GW) 규모 데이터센터 프로젝트가 지역사회 반대에 직면했으며 밴쿠버에서도 정부가 지원하는 건설 계획에 대한 반대 시위가 벌어졌다. 캐나다 AI 데이터센터 시장은 아직 초기 단계지만 향후 개발 계획이 늘어나는 추세다. 토론토 요크대 연구에 따르면 현재 캐나다에서 운영 중인 50메가와트(MW) 이상 하이퍼스케일 데이터센터는 5곳에 불과하지만, 건설이 발표됐거나 개발 중인 시설은 159곳에 달한다. 캐나다는 낮은 기온과 풍부한 에너지 자원, 넓은 부지 등을 갖춰 데이터센터 구축에 유리한 지역으로 평가받아 왔다. 하지만 대규모 전력 소비와 환경 부담에 대한 우려가 커지면서 반대 여론도 확산하는 모습이다. 앵거스리드연구소 조사에선 응답자의 68%가 거주지 인근 대형 AI 데이터센터 건설에 반대한다고 답했다. 또 다른 조사에서도 응답자 5명 중 4명이 데이터센터로 인한 전기요금 상승과 환경 영향을 우려하는 것으로 나타났다. 캐나다 하원에 제출된 청원 가운데 서명자가 가장 많은 3건 중 2건도 데이터센터 건설 중단을 요구하는 내용이다. 이에 마크 카니 캐나다 총리는 데이터센터 투자를 이어가면서도 지역사회 우려를 줄이기 위한 대응에 나섰다. 먼저 연방정부는 지난 3일(현지시간) 데이터센터 개발 과정에서 지방정부와 지역사회가 활용할 수 있는 원칙을 공개했다. 데이터센터가 지역사회에 장기적인 이익을 제공하고 환경 영향을 최소화하는 동시에 시설 구축에 따른 전력 비용이 주민에게 전가되지 않도록 하는 것이 골자다. 아마존·메타·앤트로픽 등 주요 미국 기술기업도 해당 원칙에 참여했다. 주정부들도 전력 부담을 줄이기 위한 대책을 마련 중이다. 브리티시컬럼비아주는 데이터센터의 전력망 이용을 제한하고 사업자들이 전력망 접속 권한을 두고 경쟁하도록 했다. 데이터센터 유치에 적극적인 앨버타주 역시 사업자가 필요한 전력을 자체적으로 공급하도록 요구하고 있다. 캐나다 정부는 AI 데이터센터를 자국 디지털 주권을 강화하기 위한 핵심 인프라로도 보고 있다. 이에 맞춰 연방정부는 신규 AI 데이터센터 개발을 청정에너지 확대와 환경 기준, 지역사회에 대한 실질적인 혜택과 연계하겠다는 방침을 제시했다. 데이터센터를 둘러싼 갈등은 앞서 미국에서 거세게 나타났다. 전력요금 상승과 냉각수 사용, 소음과 환경 문제 등을 이유로 지역사회의 반대가 확산하면서 올해 1분기에만 미국에서 최소 75개 데이터센터 프로젝트가 중단되거나 지연됐다. 뉴욕주는 하이퍼스케일 데이터센터 신규 건설을 일정 기간 중단하는 조치를 도입했고 펜실베이니아주도 관련 인허가 요건을 강화했다. 도널드 트럼프 미국 대통령은 이러한 반대 움직임에 직접 맞서 데이터센터 구축 필요성을 강조했다. 트럼프 대통령은 지난달 31일(현지시간) 소셜미디어 트루스소셜을 통해 "미국 전역의 지역사회가 데이터센터를 원하지 않을 유일한 이유는 낙후되고 가난해지기를 바라기 때문"이라며 데이터센터를 '황금알을 낳는 거위'에 비유했다. 이어 미국이 데이터센터 건설을 막을 경우 중국과의 AI 경쟁에도 악영향을 줄 수 있다고 경고했다. 패트릭 설 캐나다 혁신가 협의회(CCI) 최고경영자(CEO)는 "정부와 산업계에선 대중의 우려에 대응하면서 디지털 인프라를 구축할 수 있는 방안을 놓고 활발한 논의가 진행되고 있다"며 "컴퓨팅이 경제·국가안보·경쟁력에 중요해지는 만큼 캐나다도 충분한 인프라와 기술 역량을 자국 내에 확보해야 한다"고 밝혔다.

2026.09.07 11:17한정호 기자

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

아이폰18프로 출시 첫날 ‘가격역전’...228만원 갤Z8폴드가 더 쌌다

[토큰증권 점검④] 블록체인 도입했지만 구조는 그대로…기술과 제도 '엇박자'

곰곰·코멧·탐사 PB상품 총출동…‘쿠팡 온리 페스타’ 가보니

앤트로픽, 11월 상장 계획…"예상보다 한 달 미뤄"

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.