• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 인터뷰
  • 인사•부음
  • 글로벌뉴스
인공지능
배터리
양자컴퓨팅
컨퍼런스
칼럼•연재
포토•영상

ZDNet 검색 페이지

'AGI'통합검색 결과 입니다. (50건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

"초지능 임박했다더니 상업화 혈안"…오픈AI 행보 '물음표'

오픈AI가 '초지능 도달이 머지않았다'고 밝히면서 실제 경영 전략은 상용화와 시장 확대에 집중하고 있어, 기술 커뮤니티를 중심으로 회의적 시선이 나오고 있다. 초지능이 정말 임박했다면 지금처럼 상업화에 집중하는 전략은 택하지 않았을 것이라는 지적이다. 초지능이란 인간의 지능을 뛰어넘는 인공지능을 의미한다. 22일 업계에 따르면 샘 알트먼 오픈AI 최고경영자(CEO)는 최근 블로그에 게시한 '부드러운 특이점(The Gentle Singularity)' 글에서 "인류가 디지털 초지능을 구축하는 데 매우 가까워졌다"고 주장했다. 그러나 레딧 등 해외 커뮤니티에서는 오픈AI가 최근 수개월간 연구 개발보다는 제품 기획, 마케팅, 하드웨어 협업 등 일반적인 기술 스타트업 활동에 더 집중하는 모습이라며 의문을 제기하고 있다. 실제로 회사의 방향성은 상업적 확장이다. 오픈AI는 지난달 애플의 수석 디자이너였던 조니 아이브를 영입해 AI 하드웨어 프로젝트에 수십억 달러를 투자하고 있다. 또 북미의 배달 서비스인 인스타카트 전 최고경영자를 애플리케이션 부문 총괄로 영입해 사업화를 강화하고 있다. 더불어 '챗GPT'의 무료 버전에는 광고 탑재 방안을 검토 중이며 대학과의 제휴를 통해 시험 기간 중 '챗GPT' 플러스를 학생에게 무료 제공하는 등 이용자 확보에도 적극적으로 나서고 있다. 회사 제품을 더 많은 이들이 '먼저 써보게' 하기 위한 전략으로 해석된다. 이러한 경향은 인력 구성에서도 드러난다. 오픈AI가 게시한 채용공고 324건 중 38%는 마케팅, 파트너십, 영업 등 시장 진출 직군이고, 연구 인력은 12%다. 연구 중심 조직이라는 기존 인상과는 다른 구성이다. 이에 온라인 커뮤니티 레딧의 '특이점' 게시판에서는 오픈AI가 실제로 초지능 개발이 임박했다고 믿는다면 대부분의 시간과 자원을 연구에 집중해야 했을 것이라는 주장이 나왔다. 지금처럼 상용 제품 개발과 시장 점유율 확대에 집중하는 모습은 초지능 도달이 가까웠을 때의 전략과는 맞지 않는다는 설명이다. 일부 사용자는 "이들이 정말 초지능 개발에 근접했다면 단기 매출이나 경쟁사 대응이 중요한 문제가 아닐 것"이라며 "오히려 지금의 전략은 AGI 혹은 ASI가 아직 먼 미래라는 신호"라고도 주장했다. 다만 컴퓨팅 자원과 인프라 병목 문제가 반복적으로 언급됐다. 초지능 구현이 단순히 연구력만으로 이뤄지지 않는다는 점에서 하드웨어와 자금 확보에 병행해 움직일 수밖에 없다는 것이다. 이에 제품 매출 확대 자체가 연구 자원 확보를 위한 포석이라는 반론도 나왔다. 실제로 샘 알트먼 오픈AI 최고경영자(CEO)는 최근 Y콤비네이터 강연에서 "모든 것이 잘 진행된다면 10~20년 안에 상상할 수 없는 초지능이 나올 수 있다"고 밝혔다.

2025.06.22 13:28조이환

"AGI 경쟁은 허구…AI 군비 경쟁론, 위험한 질주 부추긴다"

범용 인공지능(AGI) 패권 경쟁이라는 서사가 현실과 동떨어진 허구에 불과하며, 오히려 무모한 기술 개발을 부추길 수 있다는 지적이 나왔다. 최근 케임브리지 대학에서 발표한 '가장 위험한 허구: AI 경쟁 담론과 그 현실(The Most Dangerous Fiction: The Rhetoric and Reality of the AI Race)' 보고서는 AI 패권 경쟁 담론이 정책과 산업계 전반에 과도하게 확산되고 있으며, 이는 AGI 개발을 둘러싼 오해와 위험을 키우고 있다고 주장했다. 보고서를 작성한 션 오헤이가티 케임브리지대 미래인텔리전스센터 책임자는 특히 '결정적 전략적 우위'라는 개념이 사실상 허구임에도 불구하고 미중 양국 모두에서 이를 현실화하는 방향으로 담론이 강화되고 있다고 분석했다. 그는 지난 2017년 이후 본격화된 'AI 경쟁' 서사가 언론, 정책보고서, 기술기업을 통해 구조화됐다고 지적했다. 일론 머스크나 블라디미르 푸틴의 발언이 과도하게 인용됐고 중국의 '차세대 인공지능 발전 계획'은 '지배'라는 단어로 번역되며 오독의 여지를 남겼다는 분석이다. 특히 시진핑 주석이 언급한 "AI 핵심 기술의 고지를 점령"한다는 발언도 군사적 맥락이 아닌 산업 현대화 전략의 일부였다고 반박했다. 오헤이가티 책임자는 거대언어모델(LLM)과 같은 자원 집약형 기술이 등장하면서 AI 개발이 지정학적 이슈로 확산됐다고 봤다. 미국은 중국의 반도체 접근을 차단하는 수출 규제를 강화했고 중국은 희토류 수출 제한으로 맞대응하며 기술전쟁이 가시화됐다. 이 과정에서 오픈AI, 앤트로픽 등 미국 주요 기업들은 규제 완화를 요구하며 '중국은 규제 없이 달리고 있다'는 논리를 반복해왔다. 다만 오헤이가티 책임자에 따르면 중국은 지난 2023년부터 생성형 AI에 강력한 규제를 도입한 상황이다. 대표적으로 바이두의 챗봇 '어니봇'은 관련 심의로 출시가 지연됐고 이는 '무규제 경쟁국'이라는 미국 측 주장과 상반된 현실이다. 그는 AI 규제 논의에서 중국을 단순한 경쟁자로 설정하는 시각이 현실 왜곡을 부추긴다고 지적했다. 현재 AGI 경쟁 담론은 단순한 기술 우위 주장을 넘어 군사적 전략 경쟁으로 확대되고 있다. 미국 내 주요 AI 기업들은 국방 및 안보기관과의 파트너십을 강화하고 있으며 이에 대해 중국을 명분으로 내세우고 있다. 심지어 일부 정책 보고서에서는 경쟁에서 밀릴 경우 CIA식 '암살 작전'도 고려해야 한다는 주장이 제기됐다. 중심 개념인 '결정적 전략적 우위'는 하나의 행위자가 AGI를 먼저 개발하면 타국은 영원히 따라잡을 수 없다는 가정에 기반하고 있다. 이는 기존 기술개발과 달리 '승자독식'의 상전이를 상정하며 오히려 AGI 개발 경쟁을 극단화하는 논리를 제공한다. 오헤이가티는 이 개념이 과학적 불확실성을 과도하게 정치화하고 있다고 지적했다. 중국이 AGI 개발에 총력전을 벌이고 있다는 주장에는 근거가 부족하다는 것이 논문의 핵심 반론이다. 중국 정부는 '통용 인공지능'이라는 표현을 사용하지만 이는 초지능이 아닌 범용형 생성형 AI를 가리키는 용어에 가깝다. 알리바바가 발표한 AI 인프라 투자나 딥시크의 기업 가치도 오픈AI, 마이크로소프트에 비하면 미미한 수준에 그친다. 미국 의회 보고서들은 "중국이 맨해튼 프로젝트 급의 AGI 경쟁을 벌이고 있다"고 주장하지만 오헤이가티 책임자는 이에 상응하는 물적·제도적 증거를 찾기 어렵다고 선을 그었다. 중국 내에서도 'AI 원자폭탄론'이 언급된 바 있지만 이는 과학적 열망이나 자립 강조의 수사적 표현에 가깝다는 해석이다. 중국은 기술 지배보다는 자급자족과 국제 협력을 강조하는 입장을 유지하고 있다는 것이 그의 주장이다. 실제로 중국 외교관인 푸잉은 "미중이 협력한다면 AI를 통제할 수 있지만 대립한다면 기계가 인간보다 우위에 설 수도 있다"고 경고한 바 있다. 이러한 경고는 '상황 인식(Situational Awareness)' 보고서가 제시한 관점과 정면으로 충돌한다. 해당 보고서는 지난해 오픈AI에서 해고된 22살 레오폴드 아셴브레너가 주도 작성한 문건으로, AGI 개발 경쟁에서 서구가 뒤처질 경우 국가 안보에 중대한 위협이 발생할 수 있다는 가정을 바탕으로 한다. 이후 이 보고서는 미국 내 주요 테크기업들이 규제 완화와 정부 파트너십을 정당화하는 근거로 반복적으로 인용돼 왔다. 션 오헤이가티 책임자는 "'상황 인식'에는 참고할 만한 통찰도 있지만 그 프레임이 지나치게 빠르게 확산되고 있는 점이 우려된다"고 밝혔다.

2025.06.22 10:31조이환

오픈AI-MS, AI 주도권 놓고 충돌…6년 동맹 갈라지나

오픈AI와 마이크로소프트(MS)의 갈등이 고조되며 규제당국 제소 가능성까지 제기되고 있다. 오픈AI의 공익법인 재구성을 앞두고 핵심 기술 통제권과 투자 지분을 둘러싼 주도권 다툼이 격화되는 양상이다. 17일 월스트리트저널 등 외신에 따르면 오픈AI는 최근 몇 주간 MS가 파트너십 내에서 반경쟁적 행위를 했다고 보고 연방 규제당국에 제소하는 방안을 논의한 것으로 알려졌다. 보도에 따르면 오픈AI는 협상이 진전되지 않을 경우 언론 등을 통한 공개 비판에 나서는 방안도 고려 중이다. 두 회사는 오픈AI의 공익기업(Public Benefit Corporation) 전환을 둘러싸고 합의에 이르지 못한 상태다. 오픈AI는 연내 전환을 완료하지 못할 경우 약 200억 달러(한화 약 28조원) 규모의 투자금을 잃게 되며 전환을 위해서는 MS의 승인이 필수다. 동시에 MS는 신규 법인에 대한 보다 높은 지분율을 요구하고 있어 충돌이 불가피한 상황이다. 오픈AI는 MS 애저 클라우드 자원과 인공지능(AI) 기술 접근 권한을 제한하려는 시도를 이어오고 있다. 자체 데이터센터 프로젝트 '스타게이트'를 추진한 데 이어 복수의 클라우드 사업자와 협력해 기술 판매 경로를 다변화하려는 움직임도 병행 중이다. 갈등은 윈드서프 인수 건에서 정점에 이르고 있다. 오픈AI는 AI 코딩 스타트업 윈드서프를 약 30억 달러(한화 약 42조원)에 인수할 계획이며 이 과정에서 해당 회사의 지식재산권이 MS로 넘어가는 것을 원치 않고 있는 것으로 알려졌다. 현재 계약에 따라 MS는 오픈AI의 모든 IP에 접근할 수 있는 권한을 보유하고 있다. 더불어 오픈AI와 소비자용 챗봇부터 기업 대상 AI 도구에 이르기까지 직접적인 경쟁 관계에 돌입한 상태다. MS는 오픈AI CEO 샘 알트먼과 경쟁 구도에 있는 인사를 영입해 자체 AI 모델 개발을 위한 조직도 운영 중인 것으로 전해진다. 보다 큰 갈등은 향후 오픈AI가 회사 기술이 범용 인공지능(AGI) 수준에 도달했다고 선언할 경우 발생할 수 있다. 현행 계약상 AGI 선언 시 양사의 협력은 종료되지만 MS는 이후에도 오픈AI 기술에 대한 접근권을 유지하길 원하는 것으로 알려졌다. 월스트리트저널은 "AGI 수준의 도달 여부를 둘러싸고 기술계 내부에서는 의견이 크게 엇갈리고 있다"며 "일부는 가까운 미래에 AGI가 실현 가능하다고 보며 다른 일부는 그것이 아예 불가능하거나 도달하더라도 매우 점진적일 것이라고 본다"고 평가했다.

2025.06.17 12:11조이환

[AI는 지금] 추론 AI 경쟁, 6월부터 뜨겁다…미·중 중심서 유럽·韓까지 '확대'

프랑스 인공지능(AI) 스타트업 미스트랄이 유럽 최초의 AI 추론 모델을 출시하며 미국과 중국이 주도하고 있는 AI 개발 경쟁에 본격 도전장을 내밀었다. 국내 기업들도 이달 중 잇따라 추론 모델 출시를 앞두면서 시장 경쟁이 격화되는 분위기다. 11일 로이터, CNBC 등 주요 외신에 따르면 미스트랄은 첫 번째 AI 추론 모델인 '마지스트랄(Magistral)'을 공개했다. '마지스트랄'은 복잡한 문제를 단계적으로 사고하며 해결하는 기능을 갖춘 고급형 모델로, 수학 계산과 코딩 등 논리적 사고가 필요한 작업에 강점을 가졌다. '체인 오브 소트(chain-of-thought)' 방식으로 중간 추론 과정을 거치는 것이 특징으로, 오픈 소스 형태로 제공되는 '마지스트랄 스몰', 기업 고객을 대상으로 한 '마지스트랄 미디엄' 등 2가지로 구성됐다. 240억 개 매개변수를 갖춘 '마지스트랄 스몰' 모델은 AI 개발 플랫폼 허깅페이스에서 다운로드 할 수 있으며 영어, 프랑스어, 스페인어, 아랍어, 중국어(간체) 등 다양한 언어를 지원한다. '마지스트랄 미디엄'은 미스트랄 챗봇 '르샤'와 API, 클라우드 파트너들을 통해 제공된다. 아르튀르 멍슈 미스트랄 최고경영자(CEO)는 영국 런던에서 열린 '런던 테크 위크' 행사에서 가진 CNBC와의 대담에서 "이번 모델은 수학, 프로그래밍에 매우 뛰어나다"며 "오픈AI의 'o1'이나 딥시크의 'R1'과 견줄 만한 수준"이라고 강조했다. 하지만 자체 벤치마크 결과 '마지스트랄 미디엄'은 물리·수학·과학 테스트에서 구글 '제미나이 2.5 프로'와 앤트로픽 '클로드 오퍼스 4'보다 낮은 점수를 기록했다. 프로그래밍 벤치마크에서도 '제미나이 2.5 프로'를 능가하지 못했다. 반면 미스트랄 측은 '마지스트랄'이 경쟁 모델 대비 10배 빠른 응답 속도를 제공한다고 자신하고 있다. 업계에선 미스트랄이 이번 일로 AI 시장에서 존재감을 키울 수 있을지 주목하고 있다. 유럽 안에선 프랑스 정부의 적극적인 지원에 힘입어 주목 받는 AI 강자로 꼽히지만 시장 점유율, 매출 측면에선 미국, 중국 경쟁사들에 비해 뒤처져 있는 것으로 평가되고 있다. 로이터는 "기존의 거대언어모델(LLM) 방식이 데이터와 컴퓨팅 파워의 한계에 직면하면서 추론 중심으로 산업 트렌드가 이동하고 있다"며 "현재 시점에서 미스트랄에게 이번이 새로운 기회가 될 수 있다"고 짚었다. 하지만 경쟁사들은 일찌감치 추론 모델을 내놓으며 기술력을 한층 더 끌어올리고 있다. 오픈AI는 지난 해 9월 첫 추론 모델인 'o1' 시리즈 출시 후 올해 1월 'o3', 소형 모델인 'o4 미니'까지 출시했다. 특히 'o3'는 이미 지능지수(IQ)가 130을 돌파했다는 주장까지 나오면서 경쟁력도 인정 받은 분위기다. AI 모델들의 IQ 시험 결과를 공개하는 트래킹에이아이닷컴은 최근 오픈AI 'o3'가 멘사 노르웨이 IQ 시험을 본 결과 IQ 132를 기록했다고 밝혔다. 이 시험은 온라인에서 비공식적으로 IQ를 측정하는 방법으로 주로 시각적 패턴 인식 능력을 평가한다. 이에 맞서 구글도 올해 3월 '제미나이 2.5 프로'를 내놨다. 구글은 이 모델이 AI 성능 평가 벤치마크인 LM아레나에서 오픈AI 모델을 상당한 격차로 제치고 1위에 올랐다고 강조한 바 있다. 또 지난 4월에는 '구글 클라우드 넥스트 2025' 행사를 통해 전작 대비 응답지연 시간과 연산비용을 절약한 '제미나이 2.5 플래시'도 공개하며 시장 주도권 잡기에 혈안된 모습을 보였다. 이 외에 앤트로픽의 '클로드 오푸스4'와 딥시크 'R1', 알리바바 '큐원3', 바이두 '어니X1 터보', 샤오미 '미모(MiMo)' 등도 추론형 AI 모델 시장에서 주목 받고 있다. 국내에서도 일부 기업들이 추론형 AI 모델을 속속 내놓으며 경쟁에 나서고 있다. 네이버와 카카오, SK텔레콤, LG AI연구원, 업스테이지 등이 대표적으로, 이 중 LG AI연구원이 가장 선제적으로 나서고 있는 것으로 평가되고 있다. 실제 LG AI연구원은 지난 2월 국내 첫 추론형 AI 모델인 '엑사원 딥'을 공개해 많은 주목을 받았다. '엑사원 딥'은 주어진 데이터를 기반으로 확률이 높은 답을 내놓는 생성형 AI와 달리 스스로 정보를 조합하고 분석한다는 점에서 한층 고도화된 AI로 평가받는다. 최고 모델인 '엑사원 딥' 32B의 파라미터(매개변수)는 중국 AI 스타트업 딥시크의 'R1' 671B 모델의 5% 수준이었음에도 수학과 같은 일부 분야 테스트에서 R1을 앞서는 등 효율적인 모델이란 점도 입증해 업계의 주목을 받았다. 경량 모델 '엑사원 딥' 7.8B는 비슷한 크기의 오픈AI의 'o1 미니'보다 우수한 성적을 기록하기도 했다. 네이버도 이달 말쯤 '하이퍼클로바X 추론 모델을 선보일 예정이다. 네이버 측에 따르면 이 모델은 AI 생성 정보의 사실성을 측정하는 대표적인 벤치마크인 심플QA(영어)에서 90.1점을 기록하며 오픈AI의 4o(90점)급 성능을 나타냈다. 업스테이지 역시 이달 중 추론 모델을 공개하며 경쟁에 불을 지핀다. 기존 AI 모델 '솔라'를 바탕으로 기업 고객에게 AI 서비스를 제공해왔으나, 이번에 선보일 추론형 AI 모델을 통해 학습된 데이터 범위를 넘어 답변을 할 수 있도록 확장을 시도한다는 방침이다. SK텔레콤도 이달 안에 중국 딥시크에 버금가는 추론형 AI 모델 프리뷰 '에이닷엑스(A.X) 4.1'을 선보일 예정이다. 이처럼 주요 기업들이 추론형 AI 경쟁에 뛰어드는 것은 AI가 향후 미래 산업을 주도할 가능성이 높아서다. 고도화된 추론 능력으로 법률·금융·제조·헬스케어 등 전문성이 요구되는 분야에서 생산성을 높일 수 있다는 점에서 수요는 더 커질 것으로 보인다. 업계 관계자는 "추론형 AI는 다양한 지적 과제를 인간처럼 스스로 수행할 수 있는 AGI의 필수 역량으로 꼽힌다"며 "추론형 AI 모델이 고도화되며 AGI 개발 전쟁에도 속도가 붙을 것으로 보인다"고 밝혔다.

2025.06.11 11:13장유미

"제조부터 휴머노이드까지"…민주당 AGI 위원회, '산업 혁신' 예고

더불어민주당 선대위 직능본부 산하 한국 범용인공지능(AGI) 실현 위원회가 국가 핵심 산업을 인공지능(AI)으로 전환하고 미래 기술 주도권 확보를 위한 세부 전략을 내놨다. 한국 AGI 실현 위원회는 이번에 발표된 전략은 'AGI 강국 실현, 대한민국 AI 이니셔티브'의 일환으로 마련됐다고 30일 밝혔다. 제조·건설·농업 등 전통 산업부터 물리 AI와 AI 휴머노이드 같은 신기술 분야까지 총 7개 영역, 24개 정책이 포함됐다. 전략의 한 축은 제조·건설·농업 등 기존 산업의 AI 기반 전환이다. 위원회는 내년까지 제조기업 AI 활용률을 30% 이상, 국산 제조AI 솔루션 도입률을 연평균 15%까지 끌어올리겠다는 목표를 제시했다. 건설 분야에선 설명 가능한 AI 기반 스마트 감리 시스템을 도입해 오는 2027년까지 공공 사회간접자본(SOC) 지하공사에 AI 감리 기술 도입률을 절반까지 늘릴 방침이다. 농업 부문은 스마트팜·지능형 축산 전환을 통해 오는 2029년까지 온실의 35%, 농업 생산의 40%를 스마트화할 계획이다. 기업 생태계 측면에선 유망 AI 기업의 전 주기를 지원하는 'AI 유니콘 팩토리' 전략이 핵심이다. 오는 2030년까지 50개 이상의 AI 유니콘을 육성하고 연간 100조원 규모의 경제 효과를 창출하겠다는 목표가 담겼다. 또 'AGI-X 코리아 이니셔티브'에 따라 스타트업을 위한 전용 펀드 10조 원을 조성하고 기업가치 1천억원 이상 기업 100개를 키운다는 청사진도 포함됐다. AI 기술 확산에 따른 리스크 대응 방안도 병행된다. 위원회는 통합 AI 거버넌스 체계 구축, 오용 방지 기술 연구개발(R&D), 안전성 기준 제도화 등을 통해 기술 신뢰 기반을 다진다는 방침이다. 자율주행 관련해서는 차량-인프라-관제 전반의 안전성 평가체계를 마련하고 단계별 운행 규범 정비로 제도적 신뢰를 확보하는 전략이 추진된다. 미래 신기술 분야에선 물리 AI, AI 휴머노이드, 미래건축이 중점 과제로 제시됐다. 농업·국방·서비스 등 5대 분야에 물리 AI를 적용하고 '물리 AI 육성 및 안전 특별법'을 제정해 글로벌 상위 3개국 진입을 목표로 삼는다. 건축 전 분야에 AI를 투입해 생산성을 세 배로 높이고 탄소배출량을 절반으로 줄이는 'AI 융합 미래건축 2030 전략'도 포함됐다. AI 휴머노이드의 경우 책임 소재를 명확히 하는 특별법 추진으로 사회적 수용성을 끌어올릴 계획이다. 국가 인프라 차원에선 에너지, 교통, 통신 등 5대 핵심 인프라에 AI 기술을 심층적으로 적용해 운영 효율성과 시스템 복원력을 극대화하겠다는 전략도 제시됐다. 이주석 한국 AGI 실현 위원장은 "산업 현장의 AI 도입은 경제 재도약을 이끌 것"이라며 "물리 AI 같은 신기술은 삶의 방식을 바꿀 잠재력을 지니고 있으며 위원회는 이러한 변화가 신뢰 가능한 기반 위에서 이뤄지도록 최선을 다할 것"이라고 말했다.

2025.05.30 16:56조이환

"4조 쏟고 AI 인재 6만명 키운다"…민주당 AGI 위원회, 공공·의료·지역 '전방위 투자'

더불어민주당 선거대책위원회 산하 한국 범용인공지능(AGI) 실현 위원회가 인공지능(AI) 기술을 국민 삶 속에 본격적으로 적용하고 사회 전반의 혁신을 이끌기 위한 공공 활용 및 인재 양성 전략을 확정했다. 한국 AGI 실현 위원회는 이번 전략이 '대한민국 AI 이니셔티브'의 일환으로 마련됐으며 국민 체감형 정책과 인재 6만 명 양성 방안이 포함됐다고 29일 밝혔다. 발표는 직능본부 주관으로 추진됐고 실현 로드맵에는 예산 배분과 제도화 계획도 포함됐다. 공공 분야에서는 국민이 직접 변화를 느낄 수 있는 AI 기반 행정 서비스 혁신과 사회문제 해결 전략이 중심이다. 국제 정세 분석과 위기 대응을 자동화하는 정책 지원 시스템과 시민 누구나 활용 가능한 '공공 에이전트 마켓플레이스' 구축이 핵심 과제로 제시됐다. '공공 에이전트AI 생태계'는 맞춤형 시민 수요 기반 서비스 생산을 목표로 하며 디지털 격차 해소와 포용성 확대를 동시에 겨냥한다. 공공기관, 기업, 시민이 각자 필요에 따라 에이전트를 개발하고 활용하는 구조다. K-바이오와 헬스케어 분야에서는 과학융합 예측형 AI 전략이 도입된다. 난치병 치료 기술과 진단 시장 개척이 핵심으로, 이를 위해 연간 4조원 예산이 투입된다. 생명공학과 인공지능을 결합한 플랫폼이 구축될 예정이다. 도시 설계 단계부터 AI를 내재화하는 'AI 네이티브 도시' 개념도 공식화됐다. 국가 통합 스마트시티 플랫폼(K-시티링크)을 바탕으로 시민 체감형 서비스가 전국으로 확산된다. 해당 전략은 한국형 스마트시티 표준 모델 수립에 초점이 맞춰져 있다. 지역 균형 발전을 위한 AI 생태계 재설계도 병행된다. 수도권 집중 문제를 해소하고 지역 자생형 혁신을 유도하기 위해 지역 문제 해결형 플랫폼과 AI 특화도시 시범사업이 추진된다. 인재 양성 부문에서는 산업 실전형 교육 체계가 도입된다. 'AI-익스트림 프로그래밍(XP) 스쿨'과 반도체 특화 대학원을 통해 고급 연구인력 1만 명을 확보하고 산업 재·전환형 인재 5만 명을 양성하는 계획이 확정됐다. 또 국민 전반의 AI 활용 능력을 끌어올리기 위한 '전국민 AI 리터러시 전략'도 포함됐다. 법제화된 리터러시 프레임워크와 퇴직 전문가 노하우를 집약한 'AI 매뉴얼 키트', 일반인을 위한 AI 리터러시 아카데미가 운영된다. 이주석 한국 AGI 실현 위원회 위원장은 "AI 기술이 아무리 발전해도 이를 활용하고 발전시키는 주체는 결국 사람"이라며 "세계 무대에서 활약할 AI 인재를 키우고 국민 모두가 AI를 능동적으로 받아들이는 기반을 마련하는 것이 이번 전략의 핵심"이라고 밝혔다.

2025.05.29 14:58조이환

더민주 AGI 위원회, AI 백년대계 설계…초거대 모델부터 윤리체계까지 '확정'

더불어민주당 범용인공지능(AGI) 실현 위원회가 차세대 기술 주권 확보를 위한 AI 전략과 제도 혁신안을 확정했다. 더불어민주당 선대위 산하 AGI 실현 위원회는 '대한민국 AI 이니셔티브' 후속 조치로 국가 인공지능(AI) 전략과 정책·거버넌스 분야의 세부 계획을 28일 공개했다. 이번 계획에는 초거대 AI 인프라, AI-양자융합, 데이터 주권, AI 윤리체계 등 전방위 전략이 포함됐다. 위원회는 정부 폐쇄망 기반의 초거대 AI 구축, 범정부 AI 운영 체계 고도화, AI-양자컴퓨팅 기술 융합 등 핵심 기반을 제시하며 AI 기술 리더십 확보와 데이터 주권 강화를 통한 장기 성장 기반 마련에 초점을 맞췄다. AI 전략 부문에서 가장 주목되는 것은 '범정부 초거대 AI 구축'이다. 클라우드 계층 구조 위에 민감 데이터를 활용하는 초거대 모델을 탑재하며 특정 기업에 대한 기술 종속 문제를 해소하고자 한다. 이를 위해 정부는 100조원 규모의 투자 재원 조성도 병행한다. '넥서스 AI 코리아(Nexus AI Korea)' 계획도 구체화됐다. 종로 세운상가 일대를 글로벌 AI 혁신 거점으로 재편해 엔비디아 그래픽처리장치(GPU), 비(非) 엔비디아 GPU, 양자컴퓨팅 퀀텀처리장치(QPU)가 집약된 '올 인 AI 랩'을 구축한다. 이는 세계 최초 하이브리드 AI 인프라 클러스터로 설정된다. 데이터 주권 전략도 포함됐다. 공공 및 산업 데이터를 AI 학습 자산으로 전환하며 고품질 한국어 LLM 말뭉치와 멀티모달 데이터셋 구축을 예고했다. 이는 100만 개의 인간 중심 일자리 창출과 오픈소스 AI 확산을 병행하는 방식으로 추진된다. 또 위원회는 차세대 기술 선도를 위해 AI-양자컴퓨팅 융합 전략을 제시했다. 국내 양자 기술 격차 해소를 위한 연구개발(R&D), 산업 생태계 육성, AI-양자 전문 인재 1천 명 양성 등이 주요 과제로 포함됐다. 기술 목표로는 양자 '탑5(Top5)', AI '탑5' 진입이 설정됐다. 이와 함께 위원회는 AI 윤리 및 법제도 전략도 발표했다. AI 오남용, 편향성, 사회적 불평등에 대응해 '책임 있는 AI'와 '포용적 접근권'을 양대 축으로 하는 윤리 로드맵을 수립한다. 포용사회 구현, 교육·인식 확대, AI 시대에 맞춘 사회계약 재설정도 포함됐다. 법·제도 부문에서는 기존 경직된 규제를 유연하게 전환하는 방향이 강조됐다. AI 기본법 고도화, 규제 샌드박스 운영, 사후 규제 원칙, 알고리즘 투명성 확보, 데이터 프라이버시 강화 등이 핵심 내용으로 제시됐다. 이주석 AGI 실현 위원장은 "견고한 AI 기반 없이는 사상누각에 불과하다"며 "기술 발전과 사회 수용성의 균형을 맞추는 정책·거버넌스 체계가 필수"라고 밝혔다.

2025.05.28 16:07조이환

"韓 전문가 100명 의견 담아"…한국AGI위원회, AI 정책안 제시

국내 위원회가 한국을 글로벌 인공지능(AI) 강국으로 만들기 위해 AI 전문가 의견을 반영한 7대 핵심 분야 정책안을 공개했다. 한국AGI실현위원회는 지난 5월 공식 출범 후 24개 부문위원회와 논의를 거쳐 이같은 정책안을 마련했다고 27일 밝혔다. 국내 AI 산학연 전문가 100명이 논의에 참여했다. 제안된 정책은 국가 AI 전략·기반, 정책·거버넌스·규제, 인력양성·직능혁신, 산업경쟁력·민생투자, 공공·사회적 활용, 안전·보안·신뢰성, AI 기반 미래혁신 기술 등 7대 분야로 나뉜다. 각 부문위원회는 분야별 문제점을 진단하고 구체 실행 목표와 로드맵을 마련했다. 국가 AI 전략·기반 분야에서는 초거대 AI 인프라 구축과 AI 하이브리드 클러스터 조성, 국가 데이터 주권 확립, AI-양자컴퓨팅 융합 전략 등이 포함됐다. 정책·거버넌스·규제 분야에서는 책임 있는 AI 윤리체계 마련과 AGI 시대에 맞는 유연한 법제도 마련 방안이 담겼다. 인력양성·직능혁신 분야는 해외 톱 연구자 유치, 산업 맞춤형 인재 양성, 전국민 AI 리터러시 확산 전략을 제시했다. 산업경쟁력·민생투자 분야에는 제조AI 경쟁력 제고, 공사현장 지능형 감리, AGI 기반 스마트 농업·축산 혁신, AI 스타트업 금융 지원 등이 포함됐다. 공공·사회적 활용 분야에는 국제 정세 분석 및 정책결정 AI 시스템, 공공 에이전트AI 생태계 조성, K-헬스케어 혁신, 스마트시티 구현, 지역 AI 격차 해소 전략이 담겼다. 안전·보안·신뢰성 강화 분야는 국가 보안·안전관리 전략, 자율주행 신뢰성 확보 방안 등을 제안했다. AI 기반 미래혁신 기술 분야에는 피지컬AI 강국 도약, AI 융합 미래건축 실증, AI 휴머노이드 법제 마련, 국가 핵심 인프라 지능화 전략이 포함됐다. 위원회는 100조원 규모 예산 확보 전략까지 포함해 국가적 목표 달성을 위한 구체 실행안을 마련했다고 밝혔다. 위원회 관계자는 "제안된 정책들이 성공적으로 추진되면 한국은 글로벌 AI 선도국가로 발돋움하고 국민들은 AI 발전 혜택을 실질적으로 체감할 것"이라며 "대국민 공청회와 전문가 토론회를 통해 사회적 공감대를 형성해 차기 정부 국정과제에 반영될 수 있도록 노력하겠다"고 밝혔다.

2025.05.27 16:45김미정

'AGI의 시대', 2025년 최우수 과학기술도서 출판상 수상

한빛미디어(공동대표 김태헌·전태호)에서 출간한 'AGI의 시대: 인간을 초월한 인공지능, AGI를 논하다'가 제42회 최우수과학기술도서 출판상을 수상했다고 8일 밝혔다. 이번 수상은 인공지능의 미래와 사회 전반에 미치는 영향을 심도 있게 다룬 점에서 높은 평가를 받아 이뤄졌다. AGI의 시대는 한상기 박사가 집필한 인공일반지능(AGI, Artificial General Intelligence)에 관한 교양서다. 단순히 기술적 설명에 그치지 않고 AGI의 사회적 파장, 윤리적 쟁점, 인간성의 의미까지 폭넓게 성찰한 것이 특징이다. 특히 AGI의 도래가 가져올 변화와 이에 대응해야 할 사회적 준비를 체계적으로 정리해 전문가뿐 아니라 일반 독자들에게도 큰 반향을 일으켰다. 저자는 “AGI라는 다소 무거운 주제를 쉽게 풀어내며 깊은 사유와 구조적 분석을 함께 담아낸 작품”이라며 “인공지능 기술을 바라보는 우리의 시각이 갈수록 중요해지는 가운데, AGI의 시대가 사회적 대화를 여는 시작점이 되길 바란다”고 밝혔다. AGI의 시대는 출간 이후 다양한 학술 모임과 기업, 공공기관에서 참고 도서로 활용되고 있으며, 미래 기술 담론을 이끄는 필독서로 자리매김하고 있다.

2025.05.08 17:35백봉삼

KISTI 박경석 박사 "AI모델 붕괴, 각자 대응 외 답 없나…AI 망치는 건 AI 자신"

"최근 불거진 AI모델 붕괴는 빅테크가 개발한 모형(파운데이션 모델)을 기반으로 각 기업이 보유한 '현실성 있는' 데이터로 튜닝하는 방법이 최선일 것입니다." 한국과학기술정보연구원(KISTI) 충청지원이 주관한 제22차 방위산업지식연구회(회장 이계광) 월례모임에서 주제발표자로 나선 KISTI 슈퍼컴퓨팅기술개발센터 박경석 책임연구원(박사)은 강연 끝자락에 'AI모델 붕괴론'을 언급하며 이 같이 말했다. 박 책임은 "AI가 스스로 반복 학습하며 생성한 데이터가 저품질이거나, 납득이 안되는 결과를 출력하는 모델 붕괴 현상은 데이터 생성량 증가와 밀접하다"며 "AI를 망치는 것은 결국 AI 자신"이라고 말했다. 이에 대한 대안으로 박 책임은 "파운데이션 모델을 만든 빅테크들도 고민은 하겠지만, 현재로서는 개별 기업이 대응하는 것 외에는 없다"며 "파운데이션 모델을 기반으로 각자 튜닝해야 할 것"이라고 덧붙였다. 박 책임은 또 "AI 확산은 산업계를 넘어 국방과 방산 분야에도 큰 변화를 예고한다"며 국방분야에서 AI를 제대로 활용한 사례로 '팔란티어' 모델을 추천했다. '팔란티어'는 AI 기반 데이터 분석 플랫폼을 통해 국방·정보기관의 의사결정을 지원하는 대표적인 국방 AI 활용 모델이다. 박 책임은 “AI 기반 하드웨어 개발이나 기존 시스템의 지능화를 통해, 국방 전반의 서비스 플랫폼을 강화할 것"도 주문했다. 이어 ▲한국건설생활환경시험연구원 박진확 박사는 '방산혁신클러스터 시험장비 및 지원사업 ▲KAIST 융복합연구센터(CRC) 이채석 연구교수는 재난안전을 위한 AI공간정보 혁신기술'에 대해 소개했다. 이 교수는 첨단기술과 주소정보를 융합한 소방관 119 구조 공간 정보와 실시간 실내외 길안내 서비스, 인천공항 주차장 위치 탐색 등을 시연해 관심을 끌었다. 이 교수는 "인간과 흡사한 AGI를 만들기 보다는 초능력을 가진 AGI에 관심이 많다"며 "공간정보는 AI가 모든 환경을 인지하고 있어야 어떤 상황에서도 정확한 길안내가 가능한 인프라 구성원"이라고 강조했다. 한편 이날 폐회 인사말에서 이계광 연구회장은 사우디 경찰청과의 사업 협력 진척에 대해 설명하며 "IMF 때도 그랬듯 급변하는 상황 속에서 오히려 기회가 많이 생기는 것 같다"며 "머리를 맞대고, 더 논의하고 준비하자"고 말했다.

2025.04.11 15:56박희범

"2030년까지 인간 상위 1% AI 등장 가능"…딥마인드, AGI 위협 경고

구글 딥마인드가 향후 10년 안에 인류에게 실존적 위협을 가할 수 있는 범용인공지능(AGI)의 등장 가능성을 경고했다. AGI가 인류 상위 1% 수준의 인지 역량을 확보할 수 있다는 전망 아래 이에 대응할 기술적 안전 전략을 제시하며 위험 최소화에 나선 것이다. 6일 업계에 따르면 딥마인드의 '기술적 AGI 안전과 보안을 위한 접근법(An Approach to Technical AGI Safety and Security)' 보고서는 지난 3일 공개된 직후 업계 안팎에서 큰 주목을 받고 있다. 회사는 145페이지 분량의 이 보고서를 통해 오는 2030년까지 딥러닝 기반의 점진적인 기술 발전을 통해 예외적 능력을 지닌 AGI가 등장할 수 있다고 전망했다. 딥마인드는 AGI를 두고 메타인지 능력을 갖추고 인간보다 뛰어난 문제 해결과 개념 학습 역량을 기반으로 광범위한 비물리적 작업을 수행할 수 있는 AI로 정의했다. 회사는 이를 '숙련된 성인 상위 1% 수준의 능력'으로 규정하고 현 추세대로라면 오는 2030년 전후로 현실화될 수 있다고 내다봤다. 딥마인드는 AGI가 야기할 위험을 네 가지로 분류했다. ▲악의적 사용자의 고의적 오용(Misuse) ▲AI의 자율적 비정렬 행동(Misalignment) ▲비고의적 판단 오류(Mistakes) ▲사회·경제적 구조 변화에 따른 시스템 리스크(Structural Risks) 등이다. 보고서는 이 중에서도 특히 '오용'과 '자율적 비정렬 행동'을 중심 위험 요소로 강조했다. AI가 해킹·바이오테러 등 실질적 해악 수단으로 쓰이거나 스스로 목표를 설정하고 인간의 통제를 벗어날 경우를 우려한 것이다. "AI 오용, 실제 공격 견뎌야 안전"…다층 방어체계 구축 제시 우선 딥마인드는 '오용' 방지를 위해 AGI가 '위험 역량'을 보유하고 있는지를 정량적으로 평가해야 한다고 밝혔다. 공격, 해킹, 무기 설계 등 실제 피해를 유발할 수 있는 능력을 사전에 점검하고 일정 기준을 넘을 경우 즉시 보안 및 접근 통제를 포함한 완화 조치를 시행하는 구조다. AI 모델 자체의 내부 작동 원리와 학습 구조에 직접 개입하는 '모델 단계'에서는 위험하거나 불법적인 요청을 거부하도록 학습하는 '사후 훈련(post-training)'이 적용된다. 단순히 보상을 기반으로 한 학습을 넘어 우회 공격(jailbreak)까지 방어할 수 있는 내성을 갖추도록 설계하는 것이 핵심이다. 이와 함께 '기능 억제(capability suppression)' 전략도 병행된다. 모델이 이미 학습한 위험 기술을 제거하거나 무력화하는 방식으로, 다만 이는 정확도 저하 등 기술적 난제를 동반할 수 있다는 한계도 언급됐다. AI 모델을 포함하고 있는 전체 시스템 구조인 '시스템 단계'에서는 보다 포괄적인 방어 전략이 제시된다. 입력과 출력을 실시간으로 감시하는 모니터링 체계를 통해 AI가 위험 징후를 보일 경우 즉각 경고하거나 출력을 차단하는 식이다. AI 내부의 활성화 패턴까지 들여다보는 방식으로 위협 탐지를 고도화하는 것도 제안됐다. 민감한 모델의 경우 인증된 사용자만 접근할 수 있도록 제한하고 가중치 유출이나 탈취를 막기 위한 하드웨어·소프트웨어 보안도 함께 구축해야 한다는 것이다. 보고서는 이러한 전략들을 단순한 예방 차원이 아니라 실질적인 공격에 대비한 검증 프로세스로 확장한다. 내부와 외부 전문가로 구성된 팀이 실제로 모델을 공격해보는 '레드 팀 테스팅(Red Teaming)'을 실시해 방어 체계의 허점을 실험적으로 점검하고 이를 개선하는 방식이다. 딥마인드는 이를 통해 해당 모델이 위험 역량을 보유하지 않았거나 보유했더라도 실질적인 해를 끼치기 어렵다는 점을 정량·정성적으로 입증할 수 있어야 한다고 명시했다. 회사는 이 과정을 '세이프티 케이스(Safety Case)'라고 정의했다. "AI가 인간 의도 벗어나지 않게"…AGI '정렬+통제+검증' 3중 안전체계 구축 딥마인드는 AGI의 '자율적 비정렬 행동(Misalignment)'에 있어 두 가지 방어선을 설정했다. 1차 방어선은 AI 자체를 '정렬된 상태'로 학습시키는 것이다. 이를 위해서는 '증폭된 감독(Amplified Oversight)' 개념이 제시된다. 사람보다 우월한 판단을 내릴 수 있는 AI에 대해 동일 수준의 AI가 상호 비판적 피드백을 제공하며 문제점을 지적하도록 설계한 구조다. 감시자인 인간의 한계를 AI가 스스로 보완하는 방식이다. 이에 더해 AI가 새로운 상황이나 입력에서도 일관되게 안전하게 행동하도록 '견고한 학습(Robust Training)'이 적용된다. 일부러 AI의 약점을 찌르는 방식으로 학습시키는 '적대적 학습', 모델이 스스로 헷갈리는 데이터를 골라 학습을 요청하는 '액티브 러닝', 배포 이후 '실시간 학습' 등 다양한 방식으로 위험 상황에 대한 내성을 강화하는 구조다. 2차 방어선은 AGI가 정렬되지 않았더라도 시스템 차원에서 해를 억제하는 방식이다. 딥마인드는 AI를 '내부 위협자'로 간주하고 보안 체계 전반을 사람 대신 AI에 맞춰 재설계해야 한다고 봤다. 샌드박싱, 접근권 분리, 로그 기록, 이상 행동 탐지 등을 기반으로 위협 행동 발생 시 신속 대응이 가능하도록 했다. 특히 '계층형 모니터링' 구조는 주목할 만하다. 비용이 적게 드는 기본 감시 시스템이 먼저 이상 행동을 선별하고 더 위험하거나 판단이 어려운 경우 고도화된 감시 시스템이나 인간 판단으로 이관하는 식이다. 이러한 기술을 뒷받침할 보조 연구도 병행된다. '해석가능성(Interpretability)'은 AGI의 내부 추론 과정을 가시화하고 그 판단의 근거를 명확히 분석할 수 있도록 해준다. 이는 AI가 거짓말을 하거나 위험 판단을 은폐하는 상황을 막는 핵심 도구다. 또 '안전 설계 패턴(Safer Design Patterns)'을 도입해 AI가 행동 전 사용자의 재확인을 요청하거나 예외 상황에서 보수적으로 작동하도록 만드는 등 구조적 안전 장치를 설계하는 것도 중요한 과제로 꼽힌다. 딥마인드는 이를 단지 설계 차원이 아닌, 실제로 작동 가능한 신뢰 모델로 검증해야 한다고 보고 있다. '정렬 신뢰도 검증(Alignment Assurance)'을 통해 시스템이 정말 인간 의도대로만 동작하는지를 반복 실험하고 실패 가능성을 최소화하는 과학적 기반을 마련하겠다는 방침이다. 여기에는 ▲AI가 감독 시스템을 우회할 수 있는지 확인하는 '스트레스 테스트' ▲해를 끼치도록 유도된 AI가 어느 수준까지 행동을 실행하는지 점검하는 '컨트롤 평가' 등이 포함된다. 딥마인드는 보고서를 통해 "AGI 개발은 빠르게 진행되고 있으며 위험이 현실화된 뒤에는 늦을 수 있다"며 "단순 훈련이나 필터링을 넘는 시스템 수준 설계와 과학적 검증과 보안 대응을 포함한 포괄적 안전 전략이 필요하다"고 강조했다.

2025.04.06 07:57조이환

"손·발 달린 AI"…엔비디아, 로봇·자율주행 위한 '물리 AI' 본격화

엔비디아가 '피지컬 인공지능(AI)' 기술을 앞세워 로보틱스·자율주행·의료 산업 공략에 나선다. 시뮬레이션과 합성 데이터를 결합함으로써 AI가 물리적 환경에서 직접 행동하는 시대를 대비해 휴머노이드 로봇·의료 로봇·자율주행차를 위한 핵심 기술을 준비하는 모양새다. 엔비디아는 18일(현지시간) 미국 캘리포니아주 새너제이에서 열리는 'GTC 2025'에서 물리 AI 관련 주요 기술을 공개한다. 지난 17일 개최돼 닷새간 진행되는 이 행사에서 회사는 ▲디지털 트윈 기반 시뮬레이션 '옴니버스' ▲AI 물리 세계 모델 '코스모스' ▲로봇 및 자율주행 플랫폼 '아이작' 등 다양한 신기술을 발표할 예정이다. 회사는 물리 AI 개발을 위해 세 가지 핵심 컴퓨팅 인프라인 'DGX', '옴니버스·코스모스', 'AGX'를 기반으로 산업 혁신을 추진한다. AI 학습부터 시뮬레이션, 실제 배포까지 모든 과정에서 최적화된 엔드투엔드 솔루션을 제공하는 것이 목표다. 디지털 트윈 기반의 '옴니버스'는 로봇·자율주행차의 가상 환경 테스트를 지원한다. AI는 현실 세계 데이터를 그대로 학습하기 어려운 경우가 많다. 이를 해결하기 위해 엔비디아는 옴니버스를 활용해 현실과 유사한 가상 공간을 구축하고 AI가 실제 환경에서 작동하기 전에 충분한 시뮬레이션을 거칠 수 있도록 했다. '코스모스'는 AI가 물리 세계를 이해할 수 있도록 돕는 '월드 파운데이션 모델'을 제공한다. '코스모스 예측' 모델은 AI가 시각적 데이터를 분석해 특정 대상의 다음 행동을 예측하도록 지원한다. '코스모스 리즌' 모델은 이미지·영상 속 사물의 속성을 분석하고 맥락을 이해하는 기능을 수행한다. 또 엔비디아는 로봇 개발을 위한 '아이작(Isaac)' 시리즈를 공개한다. 이 시리즈는 휴머노이드 로봇, 물류 로봇, 의료 로봇 등 다양한 분야에 활용할 수 있도록 설계됐다. '아이작 그루트 N1'은 세계 최초의 오픈형 휴머노이드 AI 모델이다. 이 모델은 특정 로봇 제조사에 종속되지 않고 다양한 하드웨어 환경에서 활용할 수 있다. 또 AI가 빠르게 적응하도록 설계된 '듀얼 시스템 아키텍처'를 적용해 직관적이고 정교한 작업 수행이 가능하다. 의료 산업에도 AI 도입이 본격화되고 있다. 엔비디아는 제너럴 일렉트릭 헬스케어와 협력해 '아이작 헬스케어' 플랫폼을 개발했다. 이 플랫폼은 AI를 활용한 의료 영상 분석·로봇 수술·자동화 진단을 지원한다. 특히 초음파·엑스레이 분석에 AI를 도입해 정확도를 높이는 데 초점을 맞췄다. 엔비디아는 자동차를 '운송 로봇'으로 정의하고 자율주행 AI 개발을 위한 투자도 강화하고 있다. 이를 위해 GM·현대차 등과 협력해 AI 팩토리·자율주행 기술을 공동 개발하고 있다. GM과의 협력은 엔비디아가 자동차 산업에서 차지하는 역할을 보여주는 대표적인 사례다. GM은 자율주행차 개발을 위한 클라우드 AI 학습부터 디지털 트윈 활용을 통한 제조까지 엔비디아 기술을 전방위적으로 도입하고 있다. 현대차는 AI 학습 및 시뮬레이션 개발에서 엔비디아와 협력 중이며 향후 자율주행 차량용 AI 시스템 개발로 협력을 확장할 가능성이 크다. 엔비디아는 자율주행의 안전성을 높이기 위해 '할로스(Halos)'라는 풀스택 자동차 안전 시스템도 발표했다. 이 시스템은 차량 설계 단계에서부터 AI 기반 안전 검증을 진행하고 실제 차량 운행 중에도 AI의 위험 감지 능력을 강화하는 역할을 한다. AI 모델을 학습시키려면 방대한 데이터가 필요하나 실제 환경에서 모든 데이터를 수집하는 것은 불가능하다. 이를 해결하기 위해 엔비디아는 AI 학습을 위한 '합성 데이터 블루프린트'를 공개했다. 이 기술을 활용하면 소수의 실제 데이터만으로도 수십만 건 이상의 AI 학습 데이터를 생성할 수 있다. 일례로 기존에는 사람이 직접 촬영하거나 수집해야 했던 로봇 동작 데이터를 시뮬레이션으로 자동 생성해 AI 학습 시간을 크게 단축할 수 있다. 실제로 엔비디아는 150개의 GPU로 단 11시간 만에 78만 개의 휴머노이드 로봇 동작 데이터를 생성했다. 이는 기존 방식 대비 50배 이상의 생산성 향상을 의미한다. 이같이 엔비디아는 이번 GTC 2025에서 AI가 단순한 소프트웨어가 아니라 현실 세계에서 직접 작동하는 '물리 AI'로 확장될 것임을 강조했다. 레브 레바레디언 엔비디아 옴니버스 부문 부사장은 "AI는 단순히 데이터를 분석하는 도구에서 벗어나 실제 환경에서 동작하는 기술로 진화하고 있다"며 "디지털 트윈·합성 데이터·자율주행·로보틱스 기술을 통해 물리 AI 시장을 선도할 것"이라고 말했다. 알리 카니 엔비디아 오토모티브 부문 부사장은 "자율주행 기술의 상용화를 위해 AI의 안전성과 신뢰성이 핵심 과제가 될 것"이라며 "다양한 AI 안전 솔루션을 통해 업계 표준을 만들어가겠다"고 밝혔다.

2025.03.19 05:00조이환

"美 AGI 독점은 위험"…에릭 슈미트, 'AI 맨해튼 프로젝트'에 반기

에릭 슈미트 전 구글 최고경영자(CEO)가 미국 정부에 인공지능(AI) 초지능 개발 독점을 경계해야 한다고 주장했다. 범용인공지능(AGI)를 무리하게 선점하려 하면 중국의 보복을 초래할 수 있다는 이유에서다. 6일 외신에 따르면 슈미트 전 CEO는 알렉산드르 왕 스케일AI CEO, 댄 헨드릭스 AI안전센터 이사와 공동으로 '초지능 전략(Superintelligence Strategy)' 보고서를 발표했다. 보고서는 미국 정부가 'AI 맨해튼 프로젝트' 방식으로 초지능 개발에 나설 경우 국제적 긴장을 초래할 수 있다고 지적했다. 이들은 보고서를 통해 미국이 AGI를 독점하려 하면 중국이 사이버 공격 등으로 대응할 가능성이 높다고 분석했다. 이에 미국이 초지능 개발을 주도하기보다는 경쟁국의 위험한 AI 프로젝트를 차단하는 전략이 필요하다고 제안했다. 트럼프 행정부 들어 미국 정부와 의회는 AGI 개발을 위한 대규모 국가 프로젝트를 검토 중이다. 실제로 미 에너지부 장관은 "미국은 AI 분야에서 새로운 맨해튼 프로젝트를 시작했다"고 언급하며 AGI 개발 경쟁에 대한 강한 의지를 보인 바 있다. 다만 슈미트 전 CEO 등은 이러한 접근이 오히려 국가 안보를 위협할 수 있다고 우려하고 있다. 보고서는 'AI 상호확증파괴(MAIM, Mutual Assured AI Malfunction)' 개념을 제안하며 적대국의 AI 위협을 사전에 무력화하는 전략이 필요하다고 강조했다. AI 개발 경쟁이 핵무기 경쟁과 유사한 형태로 진행될 경우 오히려 군사적 충돌을 유발할 가능성이 크다는 주장이다. 또 보고서는 미국 정부가 AI 칩 수출을 제한하고 오픈소스 AI 모델을 관리하는 등 경쟁국의 AGI 개발을 억제하는 정책을 마련해야 한다고 제안했다. AI 경쟁에서 단순히 앞서나가는 것보다 글로벌 AI 리스크를 줄이는 방향으로 정책을 조정해야 한다는 것이다. 업계 관계자는 "슈미트 전 CEO는 AI 경쟁에서 미국의 우위를 강조해온 인물이고 왕 CEO 역시 지난달 미국 정부에 대중 반도체 무역제한을 촉구하는 공개서한을 보내며 적극적인 입장을 보여왔다"며 "이들이 현재 미국의 AI 패권 전략이 국가적 리스크를 초래할 수 있다고 경고하는 것은 AI의 현실적인 위협이 커졌기 때문으로 보인다"고 분석했다.

2025.03.06 09:24조이환

정부 "GPU 우선 확보…세계 수준 LLM 만든다"

과학기술정보통신부가 인공지능(AI) 컴퓨팅 인프라를 확충하면서 즉시, 단기, 중장기 등 3단계에 걸친 마스터플랜을 가동키로 했다. 20일 열린 국가인공지능위원회 3차 회의에서 과기정통부는 이같은 내용을 담은 'AI컴퓨팅 인프라 확충을 통한 국가 AI역량 강화 방안'을 발표했다. AI컴퓨팅인프라 특별위원회와 당정협의회에서 논의된 내용을 담은 것으로, 새해 경제정책방향에 따라 1분기 내 수립 예정이던 대책을 딥시크 돌풍으로 앞당겨 마련한 방안이다. 내년 상반기까지 GPU 1.8만장 확보...H100 416장 우선 지원 이 방안에 따라, 정부는 인공지능 컴퓨팅 인프라 확충 3단계에 걸친 마스터플랜을 가동한다. 당장 현장에 시급한 AI 컴퓨팅 수요에 대응하기 위해 광주AI데이터센터, 민간 클라우드 등 이미 국내에 보유하고 있는 GPU 자원을 활용해 우선 지원한다. 현재 국내에 있는 엔비디아 H100 880장 가운데 정부가 416장을 확보하고 있는데 이를 지원하겠다는 뜻이다. 이후 2026년 상반기까지 1만8천 장 규모의 첨단 GPU를 확충한다. 그 중 1만 장은 국가 AI컴퓨팅 센터를 중심으로 민관 협력을 통해 연내 확보하고, 나머지 8천여 장도 슈퍼컴퓨터 6호기 구축을 통해 확보할 예정이다. 마지막 중장기 단계로 2030년까지 국가AI컴퓨팅센터 내 국산 AI 반도체 비중을 50%로 끌어올리는 등 저전력 고성능의 국산 AI 반도체 경쟁력 제고도 지원한다. 민간의 AI 컴퓨팅 인프라 투자를 촉진하기 위해 세제지원, 전력 입지 등 제도적 기반도 강화한다. AI를 조세특례제한법 상 국가전략기술로 지정해 첨단 AI R&D 등 우대 공제율 30~50%, AI 통합투자 우대 공제율 15~35% 등에 대한 세제지원을 확대한다. 비수도권에 AI데이터센터 구축 시 전력계통 영향평가 우대를 검토하고, 항만배후단지, 공항지원시설 등으로 입지 다변화, 승강기 미술품 설치 최소기준 적용 등 전력 입지 시설에 관한 제도개선 등도 지속 추진한다. 국산 AI 반도체의 성장도 적극 지원한다. 국산 인공지능 반도체를 토대로 글로벌 수준의 개방형 HW-SW 기술생태계를 조성하여 대규모 고성능 시스템의 최적 운용을 뒷받침한다. 이를 통해 대규모 수요 창출과 동시에 기술개발 성과의 실증과 사업화도 지원한다. WBL 프로젝트 추진...AGI 구현 1조 단위 예타 검토 국가AI컴퓨팅센터 등 인프라 확충을 계기로 독자적 인공지능 모델 경쟁력 확보를 본격 추진한다. AI 국가대표 프로젝트인 가칭 월드베스트LLM(WBL) 프로젝트를 신규 추진할 계획이다. AI 정예팀을 선발하고 단시간에 세계 최고 수준의 대형언어모델을 개발할 수 있도록 필요한 데이터, GPU 등 핵심 인프라를 전폭 지원한다. 또한 AI 분야의 도전적인 문제를 해결하기 위해 국내외 최고 인재가 팀을 이뤄 겨루는 대규모 경진대회인 '글로벌 AI 챌린지'도 개최한다. 세계적인 AI 분야 석학들과 대국민 평가 등을 통해 최고 인재의 참여를 유도하고 입상자에 대해서는 창업 지원이나 WBL 정예팀 기업에 채용을 연계하는 등 파격적인 인센티브를 제공한다. 아울러 장기적으로는 생성형 인공지능을 넘어 범용인공지능(AGI) 구현에 필요한 핵심 원천기술 확보를 위해 1조원 규모에 달하는 기술개발을 추진한다. 고급 AI 인재 양성체계도 고도화한다. 지난해 뉴욕에 개소한 '글로벌 AI 프론티어랩'을 영미권을 넘어 유럽 등으로 확대하는 방안을 추진하여 세계를 선도하는 연구그룹과의 공동연구를 강화한다. 이와 더불어 국내 AI 신진연구자의 창의도전적 연구를 지원하는 프로그램도 신설한다. 기업이 원하는 실전 역량을 갖춘 최고 인재를 양성하기 위해 교사, 교재, 수업 없이 실전형 혁신 교육을 지원하는 '이노베이션 아카데미'를 확대하고, '기업-대학 협력형 AX 대학원' 신설을 추진할 계획이다. 글로벌 우수 인재 유치도 대폭 지원한다. WBL 프로젝트와 연계해 정예팀 기업이 필요로 하는 글로벌 인공지능 핵심 인재를 국내에 유치할 경우 인건비, 연구비, 체재비 등 파격적인 지원방안을 적극 검토할 계획이다. 이밖에 '우리 AI 컴퓨팅 인프라'를 통해 '우리 AI 인재'가 개발한, '우리 AI 모델'로 국가 AI 전환을 가속화한다. 우수한 국산 AI 모델의 초기시장 창출을 위해, 우리의 독자적 특화 데이터를 학습한 생성형 인공지능을 의료(맞춤형 치료 건강관리), 법률(대국민 법률정보 제공), 공공(행정업무 효율화) 등 다양한 분야에 접목하는 부처 협력형 선도 프로젝트를 추진한다. 유상임 과기정통부 장관은 “AI 패권경쟁은 기업 간 대결을 넘어 국가가 전면에 나서는 경쟁으로 변화하고 있다”며 “우리의 대응이 1년 늦어지면 경쟁력은 3년이 뒤처진다는 각오로 AI 컴퓨팅 인프라와 핵심인재 육성 확보에 전폭적이고 속도감 있는 투자를 추진하겠다”고 말했다. 이어, “우리나라가 이미 보유한 잠재력을 최대한 활용하고 부족한 부분은 빠르게 보완하는 등 국가의 인공지능 역량을 강화해 인공지능 3대 강국으로 도약하겠다”고 밝혔다.

2025.02.20 11:30박수형

구글 딥마인드 "딥시크, 기존 AI 섞은 모델일 뿐"

데미스 하사비스 구글 딥마인드 공동 창업자 겸 최고경영자(CEO)가 중국 인공지능(AI) 기업 딥시크 모델이 우수하지만 기술적 혁신은 부족하다고 평가했다. 10일 테크크런치 등 외신에 따르면 하사비스 CEO는 프랑스 파리에서 열린 AI 액션 서밋에 앞서 '딥시크-R1'에 대해 이같이 언급했다. 그는 "딥시크는 분명히 우수한 결과물이지만 과학적으로 혁신을 보여준 것은 아니다"고 지적했다. 이어 "기존 AI 기술을 융합한 모델에 불과하다"고 덧붙였다. 하사비스 CEO는 딥시크 모델에 대해 “지정학적 측면에서 중요한 영향을 미칠 수 있다”고 평가하면서도, “기존에 알려진 AI 기술을 활용한 모델에 불과하다”고 덧붙였다. 딥시크는 지난해 12월 딥시크-V3(DeepSeek-V3) 출시 후 올해 초 딥시크-R1(DeepSeek-R1), 딥시크-R1-제로(DeepSeek-R1-Zero), 딥시크-R1-디스틸(DeepSeek-R1-Distill) 모델을 공개했다. 비전 기반 야누스-프로 7B(Janus-Pro 7B) 모델도 추가 공개했다. 딥시크는 해당 모델들이 기존 대비 90~95% 비용 절감과 비용 효율성을 제공하며, 강화 학습 기법을 적용해 우수한 추론 능력을 갖췄다고 주장하고 있다. 특히 저사양 칩으로도 오픈AI의 GPT-o1 수준 성과를 냈다고 밝히기도 했다. 이후 업계에서 AI 인프라 구축 비용 적절성에 대한 논의가 이어졌다. 엔비디아 등 주요 AI 기업 주가 하락이 이어지기도 했다. 이에 하사비스 CEO는 딥시크의 저비용 모델 주장에 대해 "실제 개발 비용이 공개된 수치보다 높을 수 있다"고 지적했다. 그는 이날 일반인공지능(AGI) 전망에 대한 의견도 밝혔다. 그는 AGI를 인간의 모든 인지 능력을 가진 프로그램이라고 정의했다. 이어 향후 5년 내 AGI 시스템이 등장할 가능성이 크다고 전마했다. 그러면서 "AGI는 사회 전반에 큰 변화를 가져올 것"이라며 "사회가 이에 대비하고, AI 기술 혜택이 모든 사람에게 돌아가게 만들어야 한다"고 당부했다.

2025.02.10 15:32김미정

지역에도 R&D혁신 새바람 불까…5년간 1조 원 투입 확정

지난해 예비타당성조사(예타)가 면제된 '지역혁신선도기업육성사업'(중소벤처기업부)이 사업계획 적정성을 최종 통과했다. 5년간 1조445억 원을 투입한다. 이와 별도로 탄소중립과 AI 분야에서 2건의 사업이 예타 대상으로 선정됐다. 과학기술정보통신부는 24일 류광준 과학기술혁신본부장 주재로 '2025년 제1회 국가연구개발사업평가 총괄위원회'를 열어 이 같이 확정했다. '지역혁신선도기업육성사업'은 지난해 8월 예타 면제사업으로 선정됐던 꼭지다. '지역특화산업육성('13~'19)' 및 '지역특화산업육성+('20~'25)' 사업의 뒤를 잇는 대표적인 지역 중소기업 R&D 사업이다. 올해부터 오는 2029년까지 5년간 1조 445억 원을 투입하기로 했다. 지역 주력 산업 분류 체계를 국가 전략기술에 맞춰 개편하고, 지역 간 경쟁 시스템 도입, 혁신성·성장성이 높은 우수 기업·과제를 차등 지원하는 등 사업구조 고도화에 방점을 찍어놨다. 지역 중소기업 지원에도 수월성 중심 지원체계를 확립하자는 것이다. 당장 오는 31일부터 지역별 주력산업생태계 구축, 지역역량강화 유형 111개 과제(215.6억원, 과제별 4~14억원/2년)를 공고한다. CCU 예타는 2030 정부 온실가스 감축목표와 맞물려 이번 예타 대상에 선정된 2건 가운데 하나인 '탄소포집·활용(CCU) 메가 프로젝트'(과기정통부)는 온실가스를 많이 배출하는 산업에 CCU 기술을 실증·상용화하기 위해 추진한다. 5대 산업별로 선정된 실증부지(발전-충남 보령, 석유화학-충남 서산, 정유화학-전남 여수, 철강-경북 포항, 시멘트-강원 강릉·삼척)를 대상으로 대형 실증설비 구축부터 제품화까지 지원한다는 그림을 그렸다. 과기정통부는 지난해 11월 예타 대상으로 선정된 '한국형 수소환원제철실증기술개발 사업(산업통상자원부, 총사업비 요구액 8천849.6억 원, '26~'30)'에 이어 탄소중립기술 분야 대규모 사업으로 이 사업꼭지를 선정했다. 2030 국가 온실가스 감축목표와 2050 탄소중립 달성을 위한 시급성과 필요성이 적극 고려됐다는 것이 과기정통부 측 설명이다. 총사업비 요구안은 1조 1천392억 원(국고 7,397억 원, 지방 120억 원, 민자 3,875억 원)이다. 사업기간은 오는 2026년부터 2030년까지 5년이다. AGI는 2032까지 세계 최초, 최고수전 달성 이와함께 '실세계 이해와 적용을 위한 범용인공지능(AGI) 핵심 원천 기술개발 사업(과기정통부)'도 예타 대상에 선정됐다. 이는 오는 2032년까지 AGI 2단계 달성을 위한 세계 최초/최고 수준의 핵심 원천기술을 연구·확보하기 위해 마련됐다. AGI는 특정 분야나 목적에만 뛰어난 성능을 보여 활용이 제한되는 기존 인공지능과는 달리, 다양한 분야에 범용적으로 적용이 가능한 인간 수준의 차세대 인공지능이다. AGI 개발의 기초가 되는 인간 수준의 실세계 이해와 적용 능력(인지·표현 AI)이나, 기억과 자율적 지식의 축적 및 성장 능력(기억·성장 AI), 상호작용과 행동을 위한 적응 및 수행 능력(체화·연결 AI)을 구현하기위한 원천기술을 개발할 계획이다. 총 사업비 요구안은 9천313억 원(국고 8천875억 원, 민자 438억 원)이다. 사업기간은 내년부터 오는 2032년까지 7년이다. 류광준 과학기술혁신본부장은 “올해 과학기술혁신본부의 임무는 투자의 확실한 선택과 집중, 그리고 선도형 R&D로의 전환 본격화”라며,"오늘 확정된 사업은 지역균형발전과 경쟁·차등지원이라는 두가지 원칙을 균형있게 이행해 나갈 것"이라고 말했다.

2025.01.24 16:22박희범

MS 발표에 자극 받았나…'돈 보따리' 푼 아마존, AI 주도권 잡기 박차

최근 인공지능(AI) 핵심 인프라인 데이터센터에 대한 미국 빅테크들의 투자가 쏟아지는 가운데 마이크로소프트(MS)에 이어 아마존도 '쩐의 전쟁' 본격화를 선언했다. 챗GPT와 같은 생성형 AI의 등장으로 AI의 학습 데이터가 급증해 데이터센터의 수요도 함께 늘어나고 있어서다. 9일 월스트리트저널(WSJ), 로이터 등 주요 외신에 따르면 아마존웹서비스(AWS)는 미국 조지아주의 데이터센터 확장을 위해 최소 110억 달러(약 15조원)를 투입할 계획이다. 이를 통해 생성형 AI로 인해 증가한 고급 클라우드 인프라와 컴퓨팅 성능에 대한 수요를 충족하는 것이 목표다. AWS는 "이 같은 투자로 앞으로 조지아의 데이터센터에서 AI의 미래를 지원할 것"이라며 "이번 최첨단 AI 인프라 구축이 조지아의 혁신 허브로서의 입지를 강화할 것"이라고 말했다. 아마존은 지난 2010년부터 미국 남동부 지역에 185억 달러를 투자했다. 앞서 지난해 12월에는 미국 오하이오주에 데이터 센터 확장을 위해 2030년까지 230억 달러(약 33조 원)를 지원하겠다고 밝힌 바 있다. 이 외에 AWS는 태국에 50억 달러를 투자해 데이터센터를 기반으로 한 클라우드 인프라 리전도 출범시킬 계획이다. 최근에는 마이크로소프트도 올해 6월까지 데이터센터에 800억 달러(약 118조원)를 투자하겠다고 밝혔다. 비저블 알파의 조사에 따르면 MS의 2025 회계연도 자본 지출은 842억4천만 달러에 이를 것으로 예상된다. 이는 전년보다 42%가 늘어난 것이다. 비용 중 대부분은 그래픽처리장치(GPU) 구매에 사용될 것으로 보인다. 글로벌 시장조사기관 옴디아의 분석가들은 MS가 지난해 엔비디아의 주력 GPU인 '호퍼(Hopper)'를 48만5천개 가량 구매한 것으로 추정하고 있다. 이는 페이스북 모회사 메타(22만4천 개)와 아마존(19만6천 개), 구글(16만9천 개) 등 미국 내 경쟁사들보다 두 배 이상 앞서는 물량이다. 각 23만 개씩 구매한 바이트댄스와 텐센트 등 중국 경쟁사보다도 많은 수다. 일론 머스크 테슬라 최고경영자(CEO) 역시 자신의 AI 회사인 xAI를 위한 자체적인 데이터센터를 미국 전역에 건설하고 있다. 도널드 트럼프 미국 대통령 당선인도 최근 데이터센터 산업에 200억 달러(한화 약 28조원) 규모를 투입할 계획이라고 밝혔다. 이 같은 움직임은 빅테크들이 미국을 중심으로 AI 주도권을 선점하기 위한 것으로 분석된다. 특히 사람과 유사한 지능을 갖춘 인공일반지능(AGI·Artificial General Intelligence)의 활용 여부에 따라 향후 AI 시장을 이끌 수 있을 것으로 보고 이를 구현하기 위한 인프라 투자에 적극 나선 분위기다. 향후 5~10년 내 AGI를 개발하기 위해서는 엄청난 수의 그래픽처리장치(GPU)가 연결된 데이터 센터가 필수다. 특히 MS는 오는 2030년까지 1천억 달러를 오픈AI AGI 개발에 투입하는 '스타게이트' 프로젝트를 진행하며 가장 적극적인 모습을 보이고 있다. 오픈AI와 독점 계약을 맺은 MS는 현재 전체 생성형 AI시장의 약 70%를 장악하고 있는 것으로 추산된다. 로이터는 "글로벌 데이터 센터 투자는 기계와 전기 시스템 조달 및 설치 비용만으로도 오는 2030년까지 2천500억 달러(한화 약 350조원)를 초과할 것으로 전망된다"며 "실제로 기업들은 데이터 센터를 구축하기 위해 지난 한 해 동안 치열한 경쟁을 벌여왔다"고 분석했다.

2025.01.09 09:14장유미

샘 알트먼 "트럼프 임기에 인간 수준 AI 개발…새해 AI 에이전트 직장 도입될 것"

샘 알트먼 오픈AI 대표가 새해를 인공지능(AI) 발전의 전환점으로 선언했다. 그는 조만간 AI 에이전트가 본격적으로 업무에 도입될 것을 예고하는 동시에 트럼프 대통령 임기 중 인간 수준의 AI인 일반인공지능(AGI)이 개발될 것이라고 언급했다. 7일 블룸버그에 따르면 알트먼 대표는 트럼프 행정부 기간 중 AGI 개발 가능성을 시사하며 이를 '중대한 순간'이라고 언급했다. 그는 "AGI 개발은 단순한 기술 발전을 넘어 사회 전체에 심오한 영향을 미칠 것"이라며 AI 연구와 정책적 협력의 중요성을 강조했다. 트럼프 행정부와의 관계에 대해서도 알트먼 대표는 자신의 입장을 분명히 했다. 그는 "어느 대통령과도 협력할 준비가 되어 있다"며 AI 인프라 투자와 규제 완화를 통한 혁신 촉진을 주장했다. 실제로 알트먼 대표는 트럼프 대통령의 취임식에 100만 달러(한화 약 14억원)를 기부하며 협력 의지를 드러낸 바 있다. 그는 이와 관련해 AI 기술 발전은 국가를 초월해 모두의 이익을 위해 이뤄져야 한다는 입장을 재확인했다. 또 그는 AI 발전에 대한 책임의식을 당부하며 오픈AI는 그 잠재력을 고려할 때 단순한 기업이 아닌 사회적 책임을 지닌 독특한 조직으로 운영돼야 한다고 강조했다. 이와 함께 알트먼 대표는 자신의 개인 블로그에 작성한 '회상(Reflection)'이라는 제목의 게시글을 통해 "우리는 이제 전통적으로 이해해 온 AGI 구축 방법에 대해 확신을 가지고 있다"며 "AI 에이전트가 올해 직장에 합류해 기업의 생산성을 크게 변화시킬 것"이라고 밝혔다. 이어 그는 "우리는 이제 진정한 의미에서의 초지능(Superintelligence)을 목표로 삼기 시작했다"며 "초지능 도구들은 과학적 발견과 혁신 속도를 대폭 끌어올려 우리 혼자 힘만으로는 도저히 달성할 수 없는 풍요와 번영을 가져다줄 수 있을 것"이라고 강조했다.

2025.01.07 10:36조이환

[AI는 지금] 인간보다 똑똑한 AI 개발 임박?…오픈AI 주도 'AGI' 시대 열리나

최근 인공지능(AI) 기술이 급속도로 발전하면서 인간처럼 포괄적·종합적·일반적 사고능력을 지닌 '인공일반지능(AGI)'을 넘어 인간을 뛰어넘는 지적 능력을 갖춘 '초인공지능(ASI)' 시대로 직행할 수도 있다는 가능성이 제기됐다. AI 시장을 주도하고 있는 오픈AI가 AGI에 도달했음을 암시하는 발언을 쏟아낸 데 이어 ASI 관련 기술도 조금씩 윤곽을 드러내고 있어서다. 6일 업계에 따르면 로건 킬패트릭 구글 AI 스튜디오 제품 책임자는 최근 자신의 X(옛 트위터)를 통해 ASI 개발이 가속화되고 있다고 언급하며 일리야 수츠케버의 '테스트-타임 컴퓨트 확장' 접근법을 언급했다. 킬패트릭은 오픈AI를 떠나 구글에 합류한 핵심 개발진으로, 현재 '구글 AI 스튜디오'와 '제미나이' API 서비스를 총괄하고 있다. 수츠케버는 오픈AI 공동 창립자이자 수석 과학자로 작년 5월 오픈AI를 떠나 SSI를 설립했다. SSI 설립 목적은 인간의 지능 수준을 크게 뛰어넘는 ASI를 안전한 시스템으로 개발하는 것이다. 킬패트릭은 수츠케버가 ASI 개발 계획을 일찍부터 구체화했다고 평가하며 SSI가 ASI 기술의 새로운 장을 열 가능성이 있다고 강조했다. 업계에서는 AI를 고도화 수준에 따라 '제한적 인공지능(ANI)', 'AGI', 'ASI'로 구분한다. 이 중 AGI는 ANI인 오픈AI '챗GPT'나 구글 '제미나이'와 달리 사전 학습된 데이터와 알고리즘에 의존하지 않고도 새로운 문제를 분석하고 해결책을 제시할 수 있는 AI다. 인간 수준의 일반 지능을 갖추고 논리력과 창의적 추론 능력을 보유한 AI로 설명된다. 추론 능력이 향상된 오픈AI의 최신 모델 'o1', 'o3' 등은 ANI에서 AGI로 이행하는 단계에 있다는 평가를 받는다. 그 다음 단계인 ASI는 인간을 뛰어넘는 지적 능력을 갖춘 AI를 의미한다. 스스로 목표를 설정하고 개선하는 능력이 탁월해 인간이 상상할 수 없는 수준의 복잡한 문제를 창의적으로 해결할 수 있다. AI 간의 자발적 소통이 가능해 인류가 전유물로 여겨온 '집단 지성'도 구현할 수 있다. 현재 상황에선 AGI 구현도 아직은 제대로 되지 않고 있다는 평가가 많지만, 최근 샘 올트먼 오픈AI 최고경영자(CEO)가 자신의 X에 이미 AGI가 만들어졌을 가능성을 시사하는 듯한 수수께끼 같은 발언을 올려 눈길을 끌고 있다. 알트먼 CEO는 지난 4일 X에 "나는 항상 여섯 단어로 된 이야기를 쓰고 싶었다"며 "특이점 근방, 이쪽 편인지 저쪽 편인지는 불확실"이라는 모호한 글을 게재했다. '특이점(Singularity)'이란 1950~1960년대부터 과학·기술·전산 등 분야와 관련한 철학적·사변적 논의에서 종종 등장해온 개념으로, 미국 컴퓨터 과학자이자 미래학자 레이 커즈와일이 알리기 시작했다. AI와 기술 발전이 인간 지능을 초월해 사회와 문명을 근본적으로 변화시키는 시점을 일컫는다. 알트먼의 이번 발언은 AI의 발달이 현재 상황으로 볼 때 AGI의 등장과 밀접히 결부된 개념인 '특이점'에 가까워졌다는 것으로 해석된다. 또 알트먼 CEO는 8분 후 괄호로 둘러친 보충설명 글을 추가로 올려 자신이 올린 '여섯 단어짜리 스토리'가 스스로에게도 중의적으로 느껴진다는 취지로 설명했다. 그는 "(이 글은) 시뮬레이션 가설 또는 실제로 도약에서 결정적 순간이 언제 실제로 일어나는지 알기가 불가능하다는 점 중 하나에 해당하도록 쓰인 것"이라며 "하지만 다른 많은 방식으로도 뜻이 통한다는 점이 마음에 든다"고 말했다. '시뮬레이션 가설'이란 인간이 인식하고 경험하는 물리적 실재가 사실은 고해상도 비디오 게임과 유사한 컴퓨터 시뮬레이션이라는 철학적·사변적 가설을 의미한다. 이 가설에 따르면 인간의 의식은 컴퓨터 게임 속 캐릭터와 마찬가지 존재라고 볼 수 있다. 오픈AI가 AGI에 이미 도달했을 것이라고 볼 만한 발언은 지난해에도 여러 차례 있었다. 특히 일론 머스크는 지난해 2월 미국 캘리포니아주 샌프란시스코 소재 1심 주법원에 알트먼 CEO와 오픈AI 등을 상대로 소송을 제기하면서 오픈AI가 만든 GPT-4가 이미 AGI에 해당한다고 주장한 바 있다. 오픈AI는 당시 GPT-4가 AGI의 능력을 갖추고 있지 않다며 머스크의 주장을 부인했다. 그러나 지난해 말부터 내부에서 AGI에 도달했다는 발언들이 속속 나오며 기대감을 키우고 있다. 실제 알트먼 CEO는 지난해 11월 와이컴비네이터 게리 탠 CEO와의 유튜브 인터뷰에서 2025년에 AGI가 도래할 것이라는 전망을 내놨다. 또 같은 해 12월 4일 뉴욕타임스 '딜북 서밋' 컨퍼런스에선 "AGI는 초지능보다 낮은 단계에 있다"며 "비교적 빠른 시기에 도달할 수 있을 것"이라고 말해 눈길을 끌었다. 미국 IT 전문 매체 퓨처리즘 등 외신에 따르면 오픈AI의 기술 스태프 바히트 카제미도 X를 통해 "우리는 이미 AGI를 달성했다"며 "'o1'을 통해 더욱 분명해졌다"는 입장을 밝혔다. 오픈AI 관계자가 AGI를 달성했다고 직접 언급한 것은 이 때가 처음이다. 이 같은 상황에서 일각에선 오픈AI 주도로 AGI를 달성하는 것에 대해 우려를 표하기도 했다. 오픈AI가 기술 윤리적 측면에서 소극적인 모습을 보이고 있다는 점에서 AGI뿐 아니라 ASI로 빠르게 넘어갈 경우 부정적인 측면이 부각될 가능성이 높아서다. 실제로 오픈AI는 지난해 '슈퍼얼라인먼트', 'AGI 레디니스팀' 등 AI 안전성과 관련한 조직을 잇따라 해체 시켰을 뿐 아니라 안전성을 강조하고 나선 직원들도 대거 퇴사한 상태다. 안전 문제를 강조하며 올트먼을 CEO 자리에서 몰아내는 '쿠데타'까지 일으켰던 일리야 수츠케버는 현재 오픈AI를 떠난 상황이다. 수츠케버와 함께 초정렬팀에 있던 얀 레이케 역시 지난해 5월 오픈AI에서 퇴사하며 자신의 X에 "(오픈AI의) 안전 문화와 절차가 반짝이는 제품 뒷전으로 밀려났다"고 지적한 바 있다. 오픈AI가 지난해 7월 일부 직원들의 폭로를 통해 기술이 인류에게 미칠 수 있는 위험을 규제 당국에 신고하지 못하도록 불법적으로 금지했다는 사실도 드러났다. 워싱턴포스트(WP)에 따르면 오픈AI는 지난해 5월 GPT-4o 출시를 앞두고 안전팀에게 테스트 절차를 빨리 하도록 압박하기도 했다. 여기에 오픈AI 경영진이 AI 기술 설계도 관련 세부 정보가 해킹됐다는 사실을 감췄다는 점도 뒤늦게 알려졌다. 이에 업계에선 오픈AI의 주장이 사실일 경우 기술 발전 속도가 인간의 통제를 벗어나는 상황이 빠른 시일 내에 현실화 될 수 있을 것으로 봤다. 오픈AI가 기술 개발에만 집중한 나머지 윤리적 문제를 소홀히 했다면 위험한 기술로 발전했을 가능성이 높을 것으로 추측했다. 이에 학계에선 AI를 제어하기 위한 영구적인 안전장치가 하루 속히 나와야 한다고 보고 있다. 로만 얌폴스키 루이빌대 사이버보안연구소 교수는 "미래에는 AI가 인간을 반드시 해칠 것"이라며 "개발자가 의도하지 않은 일을 성공적으로 수행하는 LLM은 하나도 없을 것"이라고 말했다. 그러면서 "AGI가 등장하게 되면 문제가 더 커진다"며 "인간보다 더 똑똑한 시스템이 무엇을 할 것인지 예측이 어렵다"고 덧붙였다.

2025.01.06 10:19장유미

노벨상 받은 AI 대부 "30년 내 인류 멸종 가능성 최대 20%"

딥러닝 기술을 발전시킨 업적으로 올해 노벨 물리학상을 수상한 제프리 힌튼 토론토대 교수가 인공지능(AI) 기술이 향후 30년 내 인류를 멸종시킬 수 있다고 경고했다. 그는 AI 발전 속도가 예상보다 빠르다며 정부 차원의 규제 필요성을 강조했다. 29일 테크크런치 등 외신에 따르면 힌튼 교수는 최근 BBC 라디오에 출연해 AI가 인류 멸종을 초래할 확률이 10%에서 20%에 달할 수 있다고 분석했다. 그는 "대다수 전문가들이 앞으로 20년 내 인간보다 더 똑똑한 AI가 개발될 것으로 보고 있다"며 우려했다. 특히 힌튼 교수는 AI 기술이 인간의 통제를 벗어날 수 있는 상황을 지적했다. 그는 지능이 낮은 존재가 자신보다 더 높은 지능을 가진 존재를 통제한 사례는 거의 없다며 인간이 AI에게 있어 세 살배기와 같은 위치에 놓이게 될 것이라고 비유했다. 또 그는 대기업들이 이익 중심의 AI 개발에 치중하고 있어 안전성 연구가 충분히 이뤄지지 않고 있다고 지적했다. 이어서 정부의 강력한 규제 없이는 시장의 '보이지 않는 손'이 우리를 안전하게 지켜줄 수 없다고 강조했다. 힌튼 교수는 AI가 초지능을 갖게 될 경우 악의적인 행위자들에 의해 기술이 남용될 가능성도 우려했다. 그는 "나쁜 행위자들이 AI를 이용해 예측할 수 없는 재앙을 초래할 수 있다"며 현재의 상황이 매우 위험하다고 밝혔다. 테크크런치는 "힌튼 교수의 경고와 달리 AI의 미래에 대해 긍정적으로 보는 시각도 있다"며 "똑같이 'AI의 대부'로 불리는 메타의 얀 르쿤은 AI가 오히려 인류를 멸종에서 구할 수도 있다고 주장했다"고 설명했다.

2024.12.29 10:16조이환

  Prev 1 2 3 Next  

지금 뜨는 기사

이시각 헤드라인

2나노에 묶인 삼성 '엑시노스' 로드맵…최적화가 성패 가른다

서로 닮아가는 채용 플랫폼…데이팅·사주로 차별화 꾀하기도

작고 강하게…한국형 '로봇 손' 주도권 놓고 각축전

"따로 또 같이"...글로벌 서비스 ‘라인’은 현지화+기술통합 어떻게 하나

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.