검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'AI속도조절론'통합검색 결과 입니다. (5건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

"AI 속도조절 안돼…추격 멈추지 말고 안전 역량 키워야"

인공지능(AI) 개발 속도를 늦추기보다 프런티어 AI 경쟁력을 끌어올리면서 검증과 통제 역량을 더 빠르게 확보해야 한다는 목소리가 학계와 산업계에서 나왔다. 1일 서울 중구에서 열린 국가인공지능전략위원회 'AI 개발 속도조절론 관련 세미나'에서는 국내 AI 개발 속도를 낮추기보다 프런티어 AI 경쟁력을 이어가면서 평가·검증·통제 역량을 동시에 확보해야 한다는 데 참석자들의 의견이 모였다. 최근 앤트로픽과 오픈AI 등에서는 프런티어 AI의 능력이 통제 수준보다 빠르게 높아질 수 있다는 우려와 함께 개발 속도를 조절해야 한다는 주장이 제기됐다. 반면 미국과 중국 정부를 비롯해 AI 기술 경쟁을 이어가야 한다는 입장도 나오면서 속도와 안전을 둘러싼 논의가 확산하고 있다. 이날 참석자들은 국내 AI 개발 속도를 낮추는 데에는 대체로 신중한 입장을 보였다. 프런티어 AI 기술 추격을 이어가는 동시에 위험을 검증하고 사고에 대응할 역량도 함께 갖춰야 한다는 데 무게가 실렸다. 한국의 대응 방향으로 '속도 책임'이 제시됐다. AI 개발과 산업 활용은 이어가되 검증과 사고 대응, 복원력 등 안전 역량을 위험이 커지는 속도보다 더 빠르게 높이자는 구상이다. 이원태 국가AI전략위 보안특위 위원장은 "대한민국 AI의 시계는 절대 멈출 수 없다"며 "프런티어 모델과 산업적 활용은 늦추지 말고 위험이 커지는 속도보다 검증과 사고 보고, 복원력 등 책임의 속도를 더 빠르게 해야 한다"고 말했다. 기술 추격 단계에 있는 한국이 개발 속도를 낮추면 미국과 중국과의 격차가 더 벌어질 수 있다는 우려도 나왔다. 김성훈 업스테이지 대표는 미국이나 중국이 만든 초지능에 의존해서는 한국의 기술 주권을 확보하기 어렵다고 봤다. 한국도 AI가 스스로 더 나은 AI를 만드는 자기개선 단계까지 기술력을 끌어올린 뒤 안전장치를 함께 마련해야 한다는 입장이다. 김 대표는 "같이 멈추면 우리는 이 바닥을 기게 될 것"이라며 "안전하게 그러나 굉장히 빠르게 자기개선형 초지능으로 나가야 한다"고 말했다. 개발 속도를 유지하기 위해서는 AI 능력을 제대로 측정할 수 있는 평가 체계가 뒷받침돼야 한다는 분석도 이어졌다. 현재 모델 자체를 중심으로 한 평가만으로는 에이전트가 결합했을 때 나타나는 실제 능력을 충분히 파악하기 어렵다는 것이다. 최대선 숭실대 AI안전성연구센터장은 자체 실험에서 같은 모델에 에이전트를 결합했을 때 사이버 보안 성능이 크게 높아진 사례를 소개했다. 개별 모델뿐 아니라 에이전트가 결합된 전체 시스템까지 평가 범위를 넓히고 악용 통제와 행동 차단, 사고 추적 체계를 함께 갖춰야 한다고 제안했다. 이한울 에임인텔리전스 부사장도 모델 개발 역량과 위험을 판단할 역량을 함께 확보해야 한다고 봤다. 국내에서 개발한 모델도 독립적인 평가를 거쳐야 하며 검증된 보안 기술이 기업 현장에 적용될 수 있도록 인력과 운영 여건을 갖추는 문제도 짚었다. 평가 기준을 누가 만들 것인지도 주요 화두로 다뤄졌다. 글로벌 빅테크가 자체 안전 기준을 만들고 이를 사실상의 국제 표준으로 확산할 경우 기술 경쟁력이 규칙을 만드는 힘으로 이어질 수 있어서다. 김동환 포티투마루 대표는 유엔과 경제협력개발기구(OECD) 등 다자 협력 체계에서 AI 안전 기준을 함께 논의해야 한다고 제안했다. 한국도 이미 만들어진 기준을 따르는 데 그치지 않고 국제 논의 과정에 참여해야 한다고 봤다. 국제 AI 안전 논의에 참여하기 위한 국내 검증 역량 확보도 과제로 꼽혔다. 김명주 AI안전연구소장은 다음 주 열리는 9개국 AI안전연구소장 협의회에서 첨단 AI 표준과 검증 체계, 사고 대응 방안 등을 논의할 예정이라고 밝혔다. 현재 국내 평가 인력은 주요국과 격차가 있다. 김 소장에 따르면 한국 AI안전연구소 정규직은 20명 남짓인 반면 영국은 평가 인력만 200명 수준이다. AI안전연구소는 국내 AI 모델과 에이전트에 대한 평가를 확대하고 연말까지 개발자 가이드라인과 평가 플랫폼을 마련하는 방안도 준비하고 있다. 이원태 위원장은 "안전은 가속의 반대말이 아니고 가속의 조건일 수 있다"며 "경쟁력 있는 AI는 단지 성능이 높은 AI가 아니라 안전하게 배포하고 사고가 나도 회복할 수 있는 AI여야 한다"고 말했다.

2026.10.01 16:53김동원 기자

하정우 부위원장 "AI 속도 늦추기보다 개발·평가 역량 함께 키워야"

하정우 국가인공지능전략위원회 상근 부위원장이 최근 제기된 AI 개발 속도조절론과 관련해 한국은 프런티어 AI 개발 역량과 안전 역량을 함께 키워야 한다고 강조했다. 하 부위원장은 1일 열린 'AI 개발 속도조절론 관련 세미나' 영상 축사에서 "결국 중요한 것은 우리가 어떤 전략을 수립하고 실행하느냐"라며 "AI 시대에 과연 우리가 어떤 역량을 보유해야 하는지를 고민해야 한다"고 말했다. 최근 글로벌 AI 업계에서는 프런티어 AI의 능력이 빠르게 높아지면서 개발 속도를 늦춰 통제할 시간을 확보해야 한다는 주장이 제기되고 있다. 반면 기술 경쟁이 치열한 상황에서 개발 속도를 늦춰서는 안 된다는 의견도 나오고 있다. 하 부위원장은 AI 기술 발전에 따라 위험이 커지고 있는 만큼 안전장치와 평가 체계를 갖추는 작업도 병행해야 한다고 봤다. 다만 이를 이유로 국내 프런티어 AI 개발 속도까지 늦추는 방안에는 신중한 입장을 나타냈다. 한국이 글로벌 AI 안전 규율 논의에서 목소리를 내려면 자체 기술력부터 확보해야 한다는 점도 강조했다. AI를 직접 개발하고 위험성을 평가할 역량이 있어야 국제 논의에서도 영향력을 확보할 수 있다는 설명이다. 그는 "우리가 주도적으로 안전성이나 규율에 대한 목소리를 낼 수 있어야 한다"며 "그 목소리를 내기 위해서는 우리가 잘 만들 수 있어야 하고 역량이 있어야 하며 영향력을 끼칠 수 있는 힘을 가지고 있어야 한다"고 말했다. 하 부위원장은 지난 1년여간 독자 AI 파운데이션 모델 사업을 추진하며 한국의 프런티어 AI 개발 역량이 세계 3위 수준까지 올라왔다고 평가했다. 그는 "기본적으로 우리는 AI 시대 강력한 AI 역량을 가진 국가가 되기 위해 한 걸음 한 걸음 더 나아가야 한다"며 "어떤 전략이 우리를 AI 시대 선도 국가로 만들 수 있을지 방법을 찾아가는 것이 매우 중요하다"고 강조했다.

2026.10.01 16:19김동원 기자

국가AI전략위, AI 개발 속도 논의…'속도 책임론' 강조

국가인공지능전략위원회가 인공지능(AI) 개발 속도를 늦추자는 '속도조절론'과 관련해 한국은 기술 개발을 늦추기보다 프런티어 AI 역량과 안전·보안·통제 기술을 함께 확보해야 한다는 방향을 제시했다. 국가AI전략위는 1일 AI 개발 속도조절론을 주제로 세미나를 열고 국내 대응 방향을 논의했다고 밝혔다. 최근 글로벌 AI 기업을 중심으로 기술 발전 속도를 늦춰야 한다는 주장이 제기되는 가운데 미국과 중국을 비롯한 주요국의 입장이 엇갈리면서 한국의 대응 전략을 논의하기 위해 마련됐다. 전략위가 제시한 방향은 '속도 책임론'이다. 글로벌 기업과의 기술 격차를 좁히기 위한 AI 개발은 계속하되 모델의 위험을 평가하고 문제가 발생했을 때 통제할 수 있는 기술과 제도도 동시에 갖추자는 취지다. 이원태 국가AI전략위 보안특별위원장은 주요국의 AI 대응 전략을 소개하며 한국은 프런티어 AI 개발 역량과 안전·보안·통제 역량을 함께 빠르게 확보해야 한다고 강조했다. 프런티어 AI 성능이 빠르게 높아지면서 기존 안전 제도만으로 대응하기 어렵다는 지적도 나왔다. 최대선 숭실대 AI안전성연구센터장은 현재 제도가 활용 영역이나 연산량 등을 기준으로 AI 위험을 관리하고 있지만 범용성과 예측하기 어려운 능력이 커지는 프런티어 AI에는 추가적인 기술·제도적 대응이 필요하다고 진단했다. 산업계에서는 한국이 먼저 개발 속도를 늦출 경우 해외 기업과의 기술 격차가 더 벌어질 수 있다는 우려가 제기됐다. 김성훈 업스테이지 대표는 AI가 초지능을 넘어 스스로 성능을 개선하는 단계로 발전하고 있다며 국내에서 먼저 속도를 조절하면 글로벌 빅테크와의 격차가 고착화될 수 있다고 주장했다. 김 대표는 이에 따라 국내에서도 자기진화형 AI 기술을 확보하면서 글로벌 논의에 맞춰 안전장치를 마련해야 한다는 의견을 제시했다. AI 개발 자체를 늦추기보다 기술 경쟁력과 안전 역량을 함께 확보해야 한다는 것이다. AI 모델을 외부 기술에 의존하지 않고 국내에서 직접 평가하고 통제할 수 있는 역량도 과제로 제시됐다. 이한울 에임인텔리전스 부사장은 국내 AI 보안 현황을 소개하며 독립적인 모델 평가·통제 능력과 국제 공조를 함께 확보해야 한다고 제언했다. 이어진 토론에는 김명주 AI안전연구소장과 김동환 포티투마루 대표도 참여했다. 참석자들은 글로벌 AI 기업과의 기술 격차를 줄이기 위한 지원책과 첨단 AI 위험 평가·통제, 안전 검증 체계, 기업 부담을 줄이면서 안전성을 확보하는 방안 등을 논의했다. 이번 세미나에는 국가AI전략위 위원과 과학기술정보통신부, 개인정보보호위원회 등 관계부처를 비롯해 AI안전연구소와 한국인터넷진흥원(KISA), 정보통신정책연구원(KISDI), 소프트웨어정책연구소(SPRi) 등에서 70여 명이 참석했다. 하정우 국가AI전략위 상근 부위원장은 "대체 불가능한 글로벌 AI 핵심 공급망 확보와 AI 3강 도약에 있어 안전한 프런티어 AI 역량 확보는 선택이 아닌 필수 사항"이라며 "위원회가 구심점이 돼 범정부 차원의 관련 정책 조율을 지원함으로써 가파른 기술 추격과 선제적 보안 대응이 균형 있게 추진되는 데 앞장서겠다"고 말했다.

2026.10.01 14:00김동원 기자

[AI는 지금] AI 속도조절 꺼낸 앤트로픽, 성능·안전 높인 '오퍼스 5.5' 공개

앤트로픽이 인공지능(AI) 개발 속도조절론을 제안한 뒤 처음으로 새로운 모델을 선보였다. 성능을 높이면서 외부 평가와 통제 장치를 강화해 안전성도 함께 끌어올렸다. 앤트로픽은 22일(현지시간) 자사 블로그를 통해 '클로드 오퍼스 5.5'를 공개했다. 코딩과 컴퓨터 사용, 지식 업무 능력을 강화하면서 기존 오퍼스 5보다 일반적인 작업 비용은 40% 낮추고 출력 속도는 30% 이상 높였다. 성능 개선은 실제 작업에서도 확인됐다. 앤트로픽에 따르면 초기 평가자가 20만 줄 규모 프로그램 코드를 점검하고 오류를 수정하도록 하자 오퍼스 5.5는 3시간 안에 작업을 마쳤다. 기존 오퍼스 5는 같은 작업에 20시간 이상이 걸렸다. 전문적인 코딩 평가에서도 성능 향상이 나타났다. AI가 컴퓨터에서 직접 명령을 실행하며 문제를 해결하는 능력을 평가하는 '터미널-벤치 4.0'에서 오퍼스 5.5는 66.4%를 기록했다. 앤트로픽이 공개한 자료에서 오픈AI 'GPT-6 아스트라'는 57.9%, 기존 오퍼스 5는 52.3%였다. 앤트로픽은 다만 이런 점수만으로 모델의 우열을 판단하기는 어렵다고 설명했다. 모델 성능이 높아질수록 벤치마크의 작은 점수 차이가 실제 사용 환경에서 그대로 나타나지 않을 수 있어서다. 비용도 낮췄다. 기업이나 개발자가 오퍼스 5.5를 사용할 때 내는 가격은 입력 토큰 100만개당 4달러, 출력 토큰 100만개당 20달러다. 기존 오퍼스 5보다 각각 20% 저렴하다. 앤트로픽은 성능과 비용을 개선하면서 안전장치도 강화했다고 밝혔다. 이번 모델은 출시 전 AI 평가기관인 모델평가위협연구소(METR)와 프런티어 디자인 등 외부 기관의 평가를 거쳤다. 내부에서는 약 2000개 상황을 대상으로 모델이 위험하거나 의도하지 않은 행동을 보이는지 확인하는 자동화 행동 감사도 진행했다. 회사 측은 오퍼스 5.5가 지금까지 평가한 모델 가운데 가장 높은 수준의 안전성을 보였다고 평가했다. 별도 평가에서는 모델이 정해진 통제 경계를 우회하려 한 빈도가 기존 오퍼스 5와 클로드 미토스 5.1보다 약 85% 낮았다. 확인된 우회 시도는 모두 심각도가 낮았으며 모델이 스스로 이를 보고했다. 사이버보안과 생물학처럼 악용 위험이 큰 분야에는 별도 안전장치를 적용했다. 사이버보안 작업 대부분은 이전 모델인 오퍼스 4.8이 처리하도록 했으며 일부 생물학 관련 기능은 검증된 이용자에게만 제공한다. 다만 안전 평가 과정에서는 한계도 드러났다. 오퍼스 5.5는 일부 상황에서 자신이 시험받고 있다는 사실을 눈치챈 듯한 반응을 보였다. 앤트로픽은 평가 환경을 인식한 모델이 실제 사용 환경에서는 다르게 행동할 가능성이 있어 출시 전 평가만으로 모든 문제를 찾아내기는 어렵다고 설명했다. 앤트로픽은 "현재 모델은 기존 안전 관행으로 관리할 수 있는 수준"이라며 "AI 연구를 완전히 자동화할 수 있는 미래 모델에는 더 높은 기준과 공공정책의 더 큰 역할이 필요하다"고 밝혔다.

2026.09.23 09:17김동원 기자

배경훈 부총리 "대한민국 AI 시계 늦추지 않겠다"…'속도책임' 제시

배경훈 부총리 겸 과학기술정보통신부 장관이 글로벌 인공지능(AI) 업계에서 커지는 개발 속도 조절론에 대해 한국은 기술 개발 속도를 늦춰서는 안 된다는 입장을 내놨다. 연구개발과 산업 활용에는 속도를 내되 커지는 위험에는 안전장치를 함께 강화하는 '속도책임'을 해법으로 제시했다. 배 부총리는 16일 자신의 사회관계망서비스(SNS)에 'AI에 필요한 것은 속도조절이 아니라 속도책임'이라는 제목의 글을 올리고 "우리는 지금 AI의 속도를 늦출 여유가 없다"고 밝혔다. 이미 앞선 국가가 속도를 조절하는 것과 추격하면서 새로운 시장을 만들어야 하는 한국이 스스로 속도를 낮추는 것은 다르다는 입장이다. 배 부총리 발언은 최근 글로벌 AI 업계에서 프론티어 AI의 개발 속도를 조절해야 한다는 주장이 커지는 가운데 나왔다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 최근 AI 개발을 멈추기보다 안전 연구와 검증 체계가 따라갈 수 있도록 속도를 조절해야 한다고 주장했다. 배 부총리도 AI 위험에 대한 우려에는 공감했다. AI 선도기업의 막대한 투자 경쟁과 데이터 확보·활용 문제, 고영향 AI가 가져올 예측하기 어려운 위험 등을 "진지하게 고민하고 대비해야 할 문제"로 꼽았다. 다만 한국은 감속보다 기술 영역을 넓혀야 한다고 봤다. 거대언어모델(LLM) 기반 독자 AI 파운데이션 모델을 넘어 산업 현장에서 보고 이해하고 행동하는 비전언어모델(VLM)과 비전언어행동모델(VLA) 등으로 발전해야 한다는 것이다. 앞으로 범용인공지능(AGI)에 가까운 기술을 확보한 국가와 그렇지 못한 국가의 격차가 산업과 경제를 넘어 안보 등 국가 경쟁력 전반으로 번질 수 있다고도 내다봤다. 배 부총리는 "이미 앞서 있는 나라가 속도를 조절하는 것과 추격하면서 동시에 새로운 시장을 만들어야 하는 나라가 스스로 속도를 낮추는 것은 전혀 다른 문제"라고 말했다. 안전과 신뢰 확보도 함께 강조했다. AI 발전이 빨라질수록 딥페이크와 사이버보안, 개인정보 보호, 일자리 변화 등에 대응할 기술적·제도적 안전장치도 빠르게 갖춰야 한다고 짚었다. 배 부총리는 이를 가속페달과 브레이크에 빗댔다. 그는 "AI 연구개발과 산업 활용에는 과감하게 가속페달을 밟되 위험에는 제대로 작동하는 브레이크를 갖춰야 한다"며 "속도는 경쟁력이고 안전은 지속가능성"이라고 말했다. 정부 정책도 이런 방향으로 추진할 계획이다. 배 부총리는 AI기본법 시행을 위한 제도적 준비와 독자 AI 파운데이션 모델 개발, 모두의 AI, 보안특화모델 사업에 이어 프론티어 AI 역량 확보를 위한 사업도 차질 없이 준비하겠다고 했다. 산업계에서도 AI 산업 육성과 안전 규범을 병행해야 한다는 의견이 나왔다. 국내 기업이 해외 빅테크가 만든 기준을 따르는 데 그치지 않고 국제 규범을 만드는 과정에도 직접 참여해야 한다는 주문이다. 김동환 포티투마루 대표는 "AI 산업 육성과 안전 규범 강화를 동시에 추진해야 한다"며 "안전 규범을 공론화하고 다양한 이해관계자의 의견을 들은 뒤 사회적 합의를 만들어가는 과정이 반드시 필요하다"고 말했다. 이어 "유엔 AI 허브 유치와 AI안전연구소 역할 강화 등을 통해 국제 안전 규범을 만드는 과정에서 한국이 글로벌 리더십을 발휘할 필요가 있다"고 덧붙였다. 박지환 씽크포비엘 대표는 기술 개발과 실제 활용을 구분해 접근할 필요가 있다고 짚었다. 그는 "연구는 계속하되 개발한 기술을 사회에서 어디까지 쓰게 할지는 별도로 정해야 한다"며 "AI의 위험 수준에 맞는 활용 기준과 규범을 함께 마련해야 한다"고 말했다. 배 부총리는 후속 정책 발표도 예고했다. 그는 "조만간 그동안 깊이 고민해 온 독파모의 다음 단계와 대한민국 프론티어 AI 모델 개발 방향도 국민 여러분께 말씀드리겠다"고 밝혔다. 이어 "대한민국의 AI 시계를 늦추지 않겠다"며 "더 빠르게 그러나 더 안전하게 가겠다"고 강조했다.

2026.09.16 15:30김동원 기자