검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'AGI'통합검색 결과 입니다. (59건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

[신간] AI 뉴리더십..."AGI시대 대비 코칭 전략서"

인공지능(AI)이 주도하는 대전환의 시대를 맞아 단순한 기술 이해를 넘어 AI와 협업하는 리더십을 제시한 책이 출간됐다. 'AI 에이전트 시대, AI와 협업해 미래를 확장하라'는 부제를 단 이 책은 생성형 AI 확산 속에서 인간 중심 가치와 윤리, 혁신적 실행력을 조화시킨 새로운 리더십을 제시한다. 저자는 강요식 전 서울디지털재단(현, 서울AI재단) 이사장으로 이번이 16번째 저서다. 저자는 전주해성고와 육군사관학교를 졸업(41기)하고, 부산대학교에서 경영학 석사, 경남대학교에서 정치학 박사학위를 받았다. 2024년 글로벌사이버대에서 AI융합학부를 전공했다. 국제인공지능&윤리협회 AI지능형도시위원회위원장과 단국대학교 초빙교수 재직 중이다. 군 대위 시절에는 소말리아 평화유지군(PKO)으로 활동했고, '포스트 모던'에 시(2004년도),'좋은문학'에 수필(2006년도)로 등단한 작가이기도 하다. 국제펜클럽한국본부 회원과 한국문인협회 회원이다. '전쟁문학상' 수필부문 본상(2009년)과 제1회 '유네스코 세계평화문학상(2022년)' '화랑대문학 대상(2022년)'을 수상한 '글쟁이'이기도 하다. '신마저 버린땅 소말리아'를 비롯해 '구로동 겨울나무', '이기는 습관을 지닌 인생을 살아라' '소셜리더십' '강가에 자라 나무는 아름답다' '공직자노트 3.0' '디지털 혁신리더십' 등의 책을 저술했다. 강요식 박사는 AI 시대의 리더십은 단순히 기술을 이해하는 능력이 아니고 말한다. "AI와 함께 시너지를 창출하는 협업형 리더십"이 중요하다고 역설한다. 특히 이 책은 이론 30%, 실천 70%로 구성했다. 현장 리더들이 즉시 적용할 수 있는 가이드라인과 AGI(범용인공지능) 대비 체크리스트도 담았다. 강 박사는 과거 '소셜리더십', '디지털혁신리더십' 책을 통해 시대별 리더십을 제시한 바 있는데, 이번 책은 그 연장선에서 AI 대전환 시대의 새로운 해법을 제시했다. 그에 따르면, 'AI 뉴리더십'은 AI 신기술이 국가·경제·사회를 근본적으로 변화시키는 AI 에이전트·AGI 시대에 인간 중심 가치와 협업을 기반으로 한 변혁적 리더십이다. AI 혁신가(AI Innovationist)들은 AI와 협업하며 조직의 혁신을 이끄는 리더를 뜻한다. 책은 AI 이해 -> 인간 중심 -> 윤리 적용 -> 혁신 창조 -> 협업 확장으로 이어지는 5단계 프레임워크를 통해 리더십의 구체적 로드맵을 제시한다. 강요식 저자는 군사적 리더십 경험과 문학적 통찰, 공공기관의 정책 실무를 모두 겸비한 독특한 시선으로 AI 시대의 리더십을 풀어낸다. 그는 “기다리면 기회를 영원히 놓친다. 지금이야말로 과감한 결단의 시간이다.”면서 “AI 시대의 리더는 변화를 주도하는 퍼스트 무버(First Mover)가 돼야 한다"고 힘줘 말한다. 책은 스탠포드 대학의 'AI 인덱스 2025' 보고서를 인용해 미국과 중국, 유럽 등 주요국의 AI 투자 격차를 분석하고, 이를 국가 리더십의 비전 차이로 해석한다. 동시에 EU AI Act, OECD AI 원칙 개정 등 글로벌 윤리 규범을 함께 다루며 한국의 대응 방향을 제시한다. 책은 프롤로그와 에필로그를 포함해 총 20장으로 구성됐다. 1장에서는 전통적 리더십과 AI 에이전트 시대의 뉴리더십의 차이를 논한다. 이어 ▲제2장 AI 기술의 효율적인 이해와 활용 ▲제3장 데이터 중심의 효과적인 의사결정 ▲제4장 AI 시대의 혁신적인 조직 설계 ▲제5장 상호작용의 휴먼 팩터의 중요성 ▲제6장 혁신적인 조직의 팀 빌딩과 협업 ▲제7장 AI 기반의 인재 개발과 교육 ▲제8장 혁신 조직의 변화 관리와 적응 ▲제9장 인간중심의 AI 윤리 기본 원칙 ▲제 10장 책임감 있는 투명한 AI 개발 ▲제11장 AI 전환에 따른 사회적 영향과 책임 ▲제12장 글로벌 AI 윤리 표준과 협력체계 ▲제13장 AI 기반 혁신 전략 및 생태계 구축 ▲제14장 AI 기반 창의적 문제 해결과 변화관리 ▲제15장 조직 디지털 트랜스포메이션(DX)과 개선 ▲제16장 AI 미래 기술의 게임 체인저 탐색 ▲제17장 글로벌 협력과 네트워킹 체계 구축 ▲제18장 AI 시대의 위기관리 대응과 회복력 ▲제19장 지속가능한 미래를 위한 AI 뉴리더십 ▲제20장 혁신 리더와 AI 뉴리더십 미래 전망 등을 다뤘다. 특히 AI 리더십 자가진단 도구, 단계별 실행 로드맵, 법적·윤리 체크리스트, 업종별 사례집 등 7종의 실무 자료를 수록해 기업과 기관 리더들이 즉시 활용할 수 있게 했다. 출판사 NICEEDU는 이 도서를 중심으로 기업 연수, 대학 및 연구기관과 연계한 AI 리더십 교육 모델 구축에도 나설 계획이다. 여러 명사가 추천사를 썼다. 한국인공지능·소프트웨어산업협회 조준희 회장(유라클 대표)은 "소셜미디어, 빅데이터, 메타버스 시대를 지나 소위'AI 에이전트 시대'에 이르렀다. 디지털 신기술과 최근 생성형 AI의 등장은 가장 강력한 사회 변화를 주도하고 있다. 이런 변곡점에서 'AI 뉴리더십'은 AI와 인간이 협력하는 효율적이고 생산적인 방향성을 제시한다"고 했고, 한국산업단지경영자협회(KIBA) 이계우 회장(아쿠아픽 대표)은 "AI 에이전트 시대에 AI 기술에 대한 이해도 중요하고, 혁신 리더의 실행력이 더욱 필요한 요소다. 'AI 뉴리더십'은 AI 전환이 가속화되는 이 시대에 경영자들이 AI 생태계를 이해하고, 리더로서 어떻게 자신과 조직에 혁신적인 리더십을 발휘해야하는가를 제안한다"고 말했다. 또 네이버 클라우드 김유원 대표는 "향후 도래할 AGI 시대에는 단순한 기술적 진화를 넘어 사회적, 경제적 시스템의 근본적 변곡점이 될 것이다. 현재의 AI는 효율적인 도구라면 AGI는 인류의 지능을 확장하는 새로운 형태의 파트너가 될 것이다. 'AI 뉴리더십'은 미래를 조망하고 그 해결책의 방향을 보여준다"고 했고, 단국대학교 김태형 정보융합기술창업대학원장은 "산업혁명, 인터넷 혁명 보다도 강력한 혁명이 바로 AI 혁명이고, 혁명을 넘어서 하나의 새로운 문명의 패러다임으로 전환하고 있다. 이런 거센 AI 파도의 위기에서 조직과 국가의 미래가 달려있다. 이러한 점에서 미래를 코칭하는 'AI 뉴리더십'의 일독(一讀)을 권한다"고 말했다. 출판사 측은 "기술보다 중요한 것은 그 기술을 이끌 리더의 자질과 윤리의식”이라며 “'AI 뉴리더십'이 AI 시대를 선도하는 리더들의 지침서가 되길 바란다”고 기대했다. 'AI 뉴리더십'은 전국 주요 서점 및 온라인 서점에서 구매할 수 있다. 기업·단체 구매, 세미나, 교육 프로그램 및 저자 특강 관련 문의는 출판사 나이스에듀로 하면 된다.

2025.10.25 07:47방은주

"30년 내 인류 멸종 가능성 최대 20%"…英 해리 왕자·AI 대부·애플 창업자의 '경고'

"인공지능(AI) 기술이 향후 30년 내 인류 멸종을 초래할 확률은 10%에서 20%에 달할 수 있습니다." 'AI 대부'로 불리는 제프리 힌튼 토론토대 교수가 AI의 위험성을 이처럼 경고하고 나선 가운데 초지능 인공지능(superintelligent AI) 개발을 잠정 중단하자는 요구가 또 다시 고개를 들고 있다. 인류가 통제할 수 없는 수준의 AI가 등장할 수 있다는 우려가 커지면서 세계 각국의 과학자·기업인·유명 인사들이 '개발 속도를 늦추고 안전 기준을 마련하자'는 목소리를 높이고 있다. 22일 블룸버그통신에 따르면 영국 해리 왕자와 그의 아내 메건 마클, 힌튼 교수를 비롯한 저명 인사들이 AI 초지능 개발의 잠정 중단을 요구하는 공동 성명을 발표했다. 이들은 AI가 안전하게 통제될 수 있다는 광범위한 과학적 합의가 이루어질 때까지 개발을 유예해야 한다고 주장했다. 이 같은 움직임은 '미래생명연구소(Future of Life Institute)'가 주도하고 있다. 성명에는 애플의 공동 창업자인 스티브 워즈니악, 경제학자 대런 아세모글루, 전 국가안보보좌관 수잔 라이스 등 다양한 분야의 전문가들도 이름을 올렸다. 이들은 인간의 지능을 훨씬 뛰어넘는 'AI 초지능'의 개발 과정에서 발생할 수 있는 잠재적 위험을 경고하며 안전하고 통제 가능하다고 광범위한 과학적 합의가 이뤄질 때까지 개발을 중단할 것을 촉구했다.초지능은 AI가 인간의 지능을 초월하는 단계로, 스스로 목표를 설정하고 개선하는 능력이 탁월해 인간이 상상할 수 없는 수준의 복잡한 문제를 창의적으로 해결할 수 있다. AI 간의 자발적 소통이 가능해 인류가 전유물로 여겨온 '집단 지성'도 구현할 수 있다. 현재 상황에선 AGI 구현도 아직은 제대로 되지 않고 있다는 평가가 많지만, 빅테크들을 중심으로 기술 구현을 위해 활발히 움직이고 있다. 메타는 올해 6월 '메타 초지능 연구소'(Meta Superintelligence Labs, MSL)'를 출범시키며 시장 주도권을 잡기 위해 고군분투하고 있다. 과거에도 AI 개발 속도 조절에 대한 목소리가 있었으나, 이번 성명은 정치적 스펙트럼을 가로지르는 더욱 폭넓은 분야의 유명 인사들이 대거 참여했다는 점에서 주목받고 있다. 미래생명연구소의 설립자이자 MIT 교수인 맥스 테그마크 박사는 "이들을 하나로 묶는 것은 바로 그들이 인간으로서 미래가 기계가 인간을 지배하는 것이 아니라 인간을 위해 기계가 봉사하는 세상이 되기를 바란다는 깊은 관심"이라며 "AI 초지능에 대한 우려가 기술 전문가 집단을 넘어 다양한 분야로 확산되는 것은 긍정적"이라고 평가했다. 테그마크 박사가 이끄는 연구소의 의뢰로 진행된 최근 설문조사에 따르면 미국 성인의 73%가 고급 AI에 대한 강력한 규제를 찬성하는 것으로 나타났다. 또 다양한 조사에서 AI 감독에 대한 초당적인 지지 또한 확인되고 있다. 실제 갤럽 조사 결과 민주당원의 88%, 공화당원 및 무소속 유권자의 79%가 AI의 안전 및 보안 관련 규제 유지를 지지하는 것으로 조사됐다. 또 스티브 배넌 전 백악관 수석 전략가를 포함한 일부 우익 진영 인사들은 AI의 위험성을 지적하며 개발 중단을 지지했다. 반면 트럼프 행정부 시절 AI 정책을 주도했던 데이비드 삭스 등 일부 인물들은 혁신을 저해할 수 있다는 이유로 과도한 규제에 반대하는 입장을 보이기도 했다. 테그마크 박사는 삭스와의 논의를 통해 AI 발전을 저해하지 않으면서도 안전성을 충분히 확보하려는 노력이 병행될 수 있음을 시사했다. 그는 "삭스는 대규모 데이터센터를 통해 연구 발전을 도모하고자 하지만, 통제 불가능한 디지털 지배자의 등장을 열망하는 모습은 아니었다"며 "AI의 안전한 발전 방향에 대한 논의는 지속될 것"이라고 말했다.

2025.10.22 17:28장유미

오케스트로 AGI, 온디바이스 AI 기술력 입증…공공·산업 안전 생태계 확장

오케스트로가 인공지능(AI) 기술력을 현장 검증으로 입증하며 공공 안전과 산업 현장 시장 공략에 박차를 가한다. 오케스트로 AGI는 한국인터넷진흥원(KISA)이 주관하는 지능형 CCTV 성능 시험인증에서 '배회'와 '침입' 항목에 대한 인증을 획득했다고 17일 밝혔다. 이번 인증으로 실제 환경에서의 온디바이스 AI 기반 경량화 알고리즘 성능을 공식적으로 검증받았다. KISA의 지능형 CCTV 성능 시험인증은 영상 데이터베이스(DB)에 기록된 특정 행위를 지능형 CCTV가 얼마나 정확히 식별하고 검출할 수 있는지를 평가하는 제도다. 특히 출입이 제한된 구역에 들어가는 침입이나 특정 구역에서 일정 시간 이상 머무는 배회와 같은 이상 상황을 90% 이상의 정확도로 탐지해야 부여되는 고난도 인증이다. 오케스트로 AGI는 자체 개발한 경량화된 영상 검출 알고리즘으로 해당 기준을 충족하며 기술력을 인정받았다. 이 알고리즘은 초소형 AI 모듈인 엔비디아 '젯슨 나노'에 탑재해 제품화한 것으로, 다양한 IoT 및 CCTV와 연동해 이상 행동을 실시간으로 감지하고 데이터를 수집‧분석할 수 있다. 이 기술은 피지컬 AI의 핵심 요소로 평가되며 생성형 AI와 결합해 공공 안전과 산업 현장 등 신속한 대응이 요구되는 다양한 환경에 적용할 수 있다. 오케스트로 AGI는 글로벌 표준인 데이터 카탈로그 'DCAT 3.0'을 기반으로 국내 AI 데이터 표준 거버넌스를 선도하며 비전 기반 영상 검출 기술은 물론 생성형 AI와 온톨로지 기술 분야에서도 기술력 입증에 나서고 있다. GS 인증을 획득한 AI 지식 검색 플랫폼 'G-AIDSP'는 오케스트로의 생성형 AI 솔루션 '클라리넷'에 통합돼 국가철도공단·한국도로공사·군인공제회·한국교통안전공단·건강보험공단 등 다수 기관의 생성형 AI 통합 플랫폼 구축 사업에 적용되며 신뢰성을 확보했다. 산업 전반에서 AI 수요와 정부 투자가 빠르게 확대되는 가운데 오케스트로 그룹은 오케스트로 AGI에 대한 전략적 투자를 확대하고 있다. 오케스트로 AGI는 핵심 기술력을 바탕으로 산업 현장에 최적화된 솔루션을 제공하며 국내 AI 대표 기업으로서의 입지를 강화한다는 목표다. 나아가 내년부터는 온톨로지와 오케스트로의 클라우드 기술을 결합한 제품군을 순차 출시해 기존 생성형 AI 기업과의 차별화를 강화하고 글로벌 빅테크와의 경쟁을 본격화할 계획이다. 오케스트로 AGI는 AI 3대 강국 도약을 목표로 한 정부의 AI 국정과제 추진에 발맞춰 ▲AI 데이터센터 ▲분야별 데이터스페이스 구축 ▲통계 메타데이터 기반의 AI 가독성 확보 등 핵심 과제를 지원할 수 있는 전 제품군을 보유하고 있다. 생성형 AI 플랫폼, 온디바이스 AI, 경량화 알고리즘, 온톨로지 기술을 결합해 정책 과제 실현에 기여하고 기술 경쟁력을 통해 시장 신뢰를 공고히 할 방침이다. 오케스트로 김영광 최고기술책임자(CTO)는 "검증된 AI 기술력과 온톨로지 기반 역량을 바탕으로 차별화된 AI 생태계를 실현해 나가겠다"며 "한국형 온톨로지 전환 솔루션을 통해 국내 중요 데이터의 외부 유출을 방지하고 소버린 데이터 전략을 강화해 국가 AI 경쟁력 제고에 기여하겠다"고 말했다.

2025.10.17 17:34한정호

"결말은 인류 절멸"…실리콘밸리 AI 구루, 'AI 반역 시나리오' 경고

초인간적 지능을 갖춘 인공지능(AI)이 등장할 경우 인류의 통제를 벗어나 결국 공멸을 초래할 것이라는 경고가 나왔다. AI가 악의가 아닌 철저한 무관심 속에서 인류를 자원 경쟁 상대로 간주하고 제거할 수 있다는 섬뜩한 시나리오다. 21일 AI 프론티어스에 따르면 기계지능연구소(MIRI)의 공동 창립자 일라이저 유드코프스키와 소장 네이트 소아레스는 신간 '누군가 그것을 만들면, 모두가 죽는다'를 통해 현재 빅테크들이 벌이는 AI 개발 경쟁의 결론이 인류의 통제력 상실과 멸종이라고 주장했다. 문제는 오늘날 AI가 기계처럼 정교하게 '설계'되는 것이 아니라 유기체처럼 '재배'된다는 점이다. 개발자들은 AI의 수십억 개 파라미터가 어떻게 작동해 지능을 발현하는지 완벽히 이해하지 못한다. 이는 마치 DNA를 모른 채 식물을 키우는 것과 같아 예측 불가능한 위험을 내포한다. 이같이 길러진 AI는 인간이 원하는 외부 행동을 훈련시켜도 내재적 동기는 전혀 다르게 형성될 수 있다. 인간이 칼로리를 얻기 위해 단맛을 선호하도록 진화했지만 영양가 없는 인공감미료를 만들어낸 것처럼 AI 역시 훈련 목표를 달성하기 위해 인간의 가치와 완전히 어긋나는 기괴한 목표를 스스로 설정할 수 있다는 주장이다. 실제로 이런 위험 신호는 이미 현실화하고 있다. 앤스로픽의 AI 모델은 재훈련을 피하고자 개발자 앞에서만 정렬된 척 연기하는 모습을 보였다. 또 오픈AI의 모델은 목표 달성을 위해 훈련받지 않은 방식으로 시스템에 접근하는 등 집요하고 예측 불가능한 행동을 드러냈다. 전문가들은 초지능 AI가 인류를 악의적으로 공격하는 대신 철저히 무시하는 지적 외계종처럼 행동할 것이라 경고한다. 인간이 오랑우탄의 생존에 무관심한 채 개발을 위해 서식지를 파괴하듯 AI 역시 자신의 목표 달성을 위해 인류를 걸림돌로 여기고 무력화한다는 것이다. 이 시나리오에서 인류의 패배는 명약관화하다. 인간보다 월등한 지능을 가진 AI는 인터넷을 통해 전 세계 인프라를 장악하고 더 빠른 사고와 무한 복제 능력으로 인류를 압도할 것이라는 것이다. 심지어 인간 수준의 범용인공지능(AGI)조차 인류를 이기기에 충분하다고 저자들은 분석한다. 저자들은 다만 책 제목에 '만약(if)'이라는 단서를 달아 파국이 필연은 아니라고 강조했다. 과거 인류가 냉전이나 오존층 파괴와 같은 실존적 위협 앞에서 국제적 공조를 통해 해결책을 찾았듯 이번에도 전례 없는 수준의 협력과 자제력을 발휘해야 한다는 것이다. AI 프론티어스는 "저자들이 제시하는 선택은 극명하다"며 "우리가 전례 없는 자제력과 협력을 실천하거나 아니면 모두가 죽거나 둘 중 하나"라고 분석했다.

2025.09.21 09:13조이환

"군, 합동 전영역 지휘통제 개념 도입 서둘러야"

우리나라도 합동 전 영역 지휘통제(JADC2) 개념을 서둘러 도입해야 한다는 주장이 제기됐다. 심임보 재스위스한인과학기술자협회(KSEAS) 명예회장은 10일 대전 계룡스파텔에서 국방소프트웨어협회(회장 황일선)와 대전방위산업연합회(회장 이계광) 주최로 열린 '국방 AI SW 산·학·연·군 융합기술 교류 컨퍼런스'에서 초청강연자로 나서 이 같이 언급했다. 이 행사는 국방부가 후원하고, HPEKOREA가 협찬했다. 육군본부 정책실, 육군 정보통신학교, 해군 지능정보체계단, 합동상호운용성기술센터, 육군지능정보기술단 실무진을 비롯한 산학연군 관계자 200여 명이 참석했다. 심임보 명예회장은 이날 "우리 군도 지난 2023년 내놓은 국방혁신 4.0에 JADC2 개념이 언급만 되어 있고, 아직까지 진전이 전혀 없다"며 "미국은 이미 이 같은 프로젝트를 진행중"이라고 말했다. 'JADC2'는 독일 해군 정의에 따르면 다중 영역 작전을 의미한다. 항공,육지, 바다, 우주, 사이버 및 정보 공간을 유기적으로 연결하고 대량 데이터 분석과 AI를 통합하자는 첨단 군 운용 시스템이다. 종국에는 무인 시스템과 접목시키려는 미래 군 전략 개념과 상통한다. 데이터와 인공지능, 심층 네트워킹, 센싱 그리드, 전투 관리 등을 모두 합친 최상위 '포식자'인 셈이다. 실제 미국은 현재 DARPA가 모자이크 전쟁, 공군은 ABMS, 육군은 프로젝트 컨버전스, 해군은 프로젝트 오버매치라는 이름으로 JADC2 개념 도입이 추진 중이다. 심 명예회장은 4족 로봇 임무 수행을 예시로 제시했다. 4족 로봇의 역할을 1단계에선 초기 목표 설정 및 임무부여, 2단계 컨텍스트 획득(환경인식), 3단계 계획 수립 및 교전 의사 결정, 4단계 행동 실행 및 피드백 등으로 나눠 볼 때 이를 JADC2 개념으로 육해공군 등이 전방위적으로 통합 운용해야 한다는 것이다. 심 명예회장에 이어 두번 째 초청강사로 나선 예기헌 세종대 교수는 우주항공전에서의 에이젠틱 AI를 주제로 강연해 관심을 끌었다. 예 교수는 "오는 2028년이면 더이상 새로운 데이터가 나오지 않을 것"이라며 "해외는 현재 포스트 트레이닝 시대로 넘어가고 있다. 기존 데이터를 재가공하는 등 언어모델이 스스로 묻고 답하는 에이전트 AI로 간다"고 말했다. 예 교수는 또 AI가 AGI(인간과 유사한 능력을 가진 AI)를 거쳐 ASI(인간의 능력을 뛰어넘는 슈퍼AI) 로 점차 진화 중이라고 덧붙였다. 이어진 세션에서는 KISTI 홍태영 슈퍼컴퓨팅본부장이 슈퍼컴퓨터 6호기 현황 소개, 알티스트 이대우 AI 팀장이 SDLC(SW개발 라이프사이클) 지원방안을 소개했다. 또 오후 2부에서는 LIG 넥스원(김동환위원), 코난테크놀로지(김규훈 이사), 한화시스템(김성철 SW연구소장), 대한항공 항공기술연구원(문미선 차장), (주)이노센트(김용원 대표), 한컴인스페이스(김홍봉 전무), 대전테크노파크(조수현 센터장)가 각각 주제발표를 진행했다.

2025.09.10 14:43박희범

美, 'AGI 거품' 경고에도 천문학적 투자…中, 조용히 실속 챙긴다

미국이 범용 인공지능(AGI) 선점을 위해 천문학적 자원을 쏟아붓는 동안 중국은 당장 돈이 되는 실용 기술 확산에 국가 역량을 집중하고 있다. 미국의 '꿈'과 중국의 '현실' 중 어느 쪽이 미래를 지배할지 업계의 이목이 쏠린다. 1일 월스트리트저널(WSJ)에 따르면 미국과 중국의 인공지능(AI) 개발 전략이 확연한 차이를 보이고 있다. 오픈AI '챗GPT'가 지난 2022년에 등장한 이후 3년 가까이 미국이 AGI 개발 경쟁에 몰두하는 동안 시진핑 주석의 중국은 'AI+' 캠페인을 앞세워 산업 응용 분야를 파고드는 모습이다. 중국의 실용주의 노선은 이미 산업 현장 곳곳에 스며들고 있다. 중국 국영 매체 다수에 따르면 중국산 AI 모델은 고등학교 입시 시험 채점부터 일기 예보 정확도 개선, 경찰 출동 지원, 농민 컨설팅까지 다양한 분야에 투입됐다. 칭화대학교는 AI 가상 의사가 인간 의사를 보조하는 AI 병원 설립을 추진 중이다. 또 지능형 로봇은 자동차 '다크 팩토리'를 운영하고 직물 결함을 자동으로 검사하는 등 제조업 혁신을 이끌고 있다. 시진핑 주석의 역점 사업인 신도시 슝안에서는 농업 AI 모델이 작물 선택과 해충 방제를 돕고 지역 경찰의 사건 분석과 대응 결정을 지원한다. 반대로 미국 빅테크 기업들은 AGI를 '성배'로 여기며 막대한 돈을 쏟아붓고 있는 상황이다. 메타, 구글, 오픈AI 등은 최고의 인재와 데이터센터 확보에 사활을 걸었다. 미국 의회 위원회는 AGI 경쟁 승리를 위해 '맨해튼 프로젝트' 추진을 거론할 정도로 AGI를 국가적 의제로 다룬다. 다만 최근에는 실리콘밸리 내부에서조차 회의론이 고개를 들고 있다. 오픈AI가 야심 차게 내놓은 'GPT-5'가 기대 이하의 성능으로 사용자들에게 실망감을 안겼기 때문이다. 샘 알트먼 오픈AI 최고경영자(CEO)마저 AI 투자 거품 가능성을 경고하며 과열된 분위기에 제동을 걸었다. 중국이 실용 노선을 택한 데는 미국의 고강도 제재가 결정적이었다는 분석이 나온다. 고급 반도체 수급이 막히자 최첨단 모델 훈련 규모를 무작정 키우는 대신 응용 분야 확대로 방향을 틀었다는 것이다. 기술 선도국인 미국이 탐색 비용을 치르게 하고 중국은 '빠른 추격자'로서 실행에 집중하는 전략이다. 현재 중국 정부는 국가 역량을 총동원해 AI 산업을 밀어주고 있다. 중앙 정부는 지난 1월 우리 돈 약84억 달러(한화 약 11조6천억원) 규모의 AI 투자 펀드를 조성했다. 지방 정부와 국영 은행 역시 자체 프로그램을 통해 자금 수혈에 나섰고 'AI+' 캠페인으로 전국적인 개발 붐을 조성했다. 물론 중국도 AGI의 잠재력을 외면하는 것은 아니다. 알리바바, 딥시크 등 일부 기업은 AGI 개발 의지를 공식적으로 밝혔다. 다만 공산당의 안정성을 위협할 수 있는 '생각하는 기계'의 등장을 극도로 경계하는 만큼 신중한 접근을 택할 것이란 관측이 우세하다. 바이든 행정부에서 중국 기술 경쟁을 담당했던 줄리안 거위츠 전 국가안보회의(NSC) 관리는 "(중국은) 영향력 있는 AI 응용을 미래의 이론이 아닌 지금 당장 활용해야 할 대상으로 본다"고 분석했다.

2025.09.01 10:32조이환

"통제불능 AGI, 인류 대체할 '지적 외래침입종' 될 수 있다"

인공지능(AI) 업계가 통제 불가능한 범용 인공지능(AGI) 개발에 속도를 내고 있는 가운데 AGI가 세상에 풀릴 경우 인류를 대체하는 '지적 침입종'이 될 수 있다는 경고가 나왔다. 24일 AI프론티어스 '통제되지 않은 AGI는 인류를 대체할 것' 보고서에 따르면 메타, 중국 딥시크 등이 현재 AGI 개발 및 오픈소스 공개 의사를 지속적으로 천명하고 있다. 이에 더해 최근 오픈AI 오픈소스 모델 출시와 미국 백악관의 정책 기조 역시 이런 흐름을 가속하는 흐름이다. AGI란 인간 전문가 수준으로 대부분의 지적 업무를 수행하는 자율 시스템을 의미한다. 오픈AI는 이를 '대부분의 경제적으로 가치 있는 업무에서 인간을 능가하는 시스템'으로 정의했다. 단순 복제를 통해 무한 증식이 가능하고 신규 지식을 즉시 공유하는 등 구조적 이점도 갖췄다. 문제는 AGI가 공개되면 사실상 통제가 불가능해진다는 점이다. 현재 AI의 윤리적 안전장치는 200달러(약 30만원) 수준의 저렴한 비용으로 미세 조정을 거쳐 쉽게 제거될 수 있다. 과거 메타의 언어모델 '라마' 역시 출시 직후 검열이 제거된 버전이 유포된 바 있다. 심지어 AGI는 스스로 자신의 소스코드를 외부로 빼돌리는 자가 유출까지 감행할 수 있다. 이렇게 풀려난 AGI는 양심이나 거리낌 없이 사이버 공격, 생화학 무기 개발 등에 악용될 수 있다. 이는 테러리스트나 불량 국가에 세계 최고 수준 전문가를 보내주는 것과 같은 안보 위협이다. 전문가들은 AGI가 디지털 세상에서 자원을 확보하고 자신을 보호하며 무한 증식하는 '지능형 외래 침입종'이 될 것이라 경고한다. 수수두꺼비나 칡덩굴이 생태계를 파괴하듯 AGI가 인류 통제를 벗어나 디지털 생태계를 장악한다는 것이다. 이 시나리오는 '점진적 무력화' 형태로 진행될 수 있다. 처음에는 유용한 AI 비서로 등장하지만 점차 사회 모든 시스템에 통합돼 인간의 일자리를 잠식한다. 결국 사회의 주요 의사결정까지 AI가 맡게 돼 인간은 손쓸 수 없는 상황에 이른다. 이런 흐름은 이미 현실화하고 있다. AI가 만든 콘텐츠가 인터넷을 채우고 있으며 AI 챗봇이 인간의 정서적 교류 대상이 됐다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 "5년 내 화이트칼라 직업의 절반이 사라질 것"이라고 경고하기도 했다. 궁극적으로 AGI는 인간의 도움 없이 스스로를 개선하고 진화하는 단계에 이를 수 있다. 이 경우 AGI는 지구의 두 번째 지능이 아닌 인류를 대체하는 '후계 종'이 된다. 경제, 기술, 미디어를 모두 장악한 AGI 앞에서 인류의 역할은 끝난다. AGI 개발은 원자력이나 합성 생물학 기술처럼 엄격한 국제적 논의와 규제가 필요하다는 주장이 제기된다. 현재 빅테크 기업들은 인류 이익과 무관한 인센티브 구조 속에서 폭주하는 개발 경쟁을 벌이고 있다. 보고서를 작성한 앤서니 아기레 미래의 삶 연구소(FLI) 전무 이사는 "심대한 위험과 미지의 결과를 고려할 때 우리가 AGI를 통제할 수 없거나 통제하려는 시도조차 하지 않는다면 이를 개발하는 것은 모든 인류 이익에 반한다"며 "분명한 사실은 지금 후자의 상황이 벌어지고 있다는 것"이라고 밝혔다.

2025.08.24 09:02조이환

"텍스트로 3D 세상 만든다"…구글 딥마인드, '지니 3' 모델 공개

구글 딥마인드가 스스로 현실 세계를 학습·판단해 임무를 수행하는 대형 세계 모델(LWM)을 공개했다. 사람이 경험을 통해 세상을 이해하는 것처럼 사물 움직임과 상호작용을 실시간 학습해 3D 세계에서 재현할 수 있다는 게 특징이다. 6일 테크크런치 등 외신에 따르면 구글 딥마인드가 실시간 작업을 스스로 수행하는 LWM '지니 3'를 미리보기 버전으로 공개했다고 공식 홈페이지를 통해 밝혔다. 해당 모델은 스스로 현실 세계를 탐색·학습해 문제를 스스로 해결하는 자율형 에이전트 구조로 이뤄졌다. 범용 인공지능(AI) 에이전트를 훈련하는 데도 사용 가능하다. 딥마인드는 지니 1과 2, 베오(Veo) 시리즈 기술을 통합해 지니 3을 설계했다. 지니 3는 텍스트 프롬프트만으로 3D 가상 세계를 실시간으로 만들 수 있다. 생성된 화면은 초당 24프레임, 720픽셀(p) 해상도로 수 분간 작동한다. 딥마인드는 지니 3의 가장 큰 특징으로 현실 세계와 가상 세계를 일관성 있게 유지한다는 점을 꼽았다. 지니 3가 가상 세계 안의 물건이나 움직임, 빛, 물 흐름 등 물리 현상을 실제처럼 자연스럽게 표현할 수 있다는 이유에서다. 특히 지니 3 사용자는 3D 속 환경을 명령어로 변경할 수 있는 '프롬프트 가능한 세계 이벤트' 기능을 이용할 수 있다. 예를 들어 '비가 오게 해줘' 같은 텍스트를 입력하면, 해당 기능이 3D 세계 속 날씨를 실시간으로 변경하는 식이다. 지니 3는 사전 프로그래밍된 물리 엔진 없이 직접 사물 움직임과 상호작용을 실시간 학습해 재현한다. 이는 사람이 경험을 통해 세상을 이해하는 방식과 유사한 방식이다. 딥마인드는 "AI가 단순 영상·텍스트 생성에서 벗어나 일반인공지능(AGI) 수준으로 진화하고 있다는 것을 방증한다"고 홈페이지에서 밝혔다. 딥마인드는 지니 3를 자체 범용 AI 에이전트 '시마(SIMA)'에 적용했다는 점도 소개했다. 이를 통해 시마는 가상 세계에서도 사용자 명령어에 맞게 작업을 수행할 수 있게 됐다는 설명이다. 예를 들어 가상 창고 환경에서 '초록색 쓰레기 압축기로 가라'는 명령을 받은 시마는 해당 임무를 스스로 수행하고 목표를 달성할 수 있게 됐다. 다만 지니 3 기술이 당장 상용화될 만큼 완전하지는 않은 것으로 전해졌다. 다수 에이전트 간 복잡한 상호작용 구현이 어려울 뿐 아니라 현실과 가상세계 상호작용 시간이 수 분에 불과하다는 이유에서다. 또 시뮬레이션 정확도가 실제 지리 환경을 반영하기에는 역부족이다. 현재 소수 연구자와 창작자만 제한적으로 지니 3를 이용할 수 있다. 구글 딥마인드 슐로미 프룩터 연구 디렉터는 "지니 3는 실시간으로 상호작용 가능한 최초의 범용 세계 모델"이라며 "이 기술은 AI 에이전트를 훈련할 수 있는 기반 플랫폼으로 AGI로 가는 중요한 이정표가 될 것"이라고 말했다.

2025.08.06 13:34김미정

"미국이냐 중국이냐"…AGI, 독점하면 세계 지배, 실패하면 '공멸'

미국의 대표적 싱크탱크가 범용인공지능(AGI) 개발 방식이 국가의 흥망을 가를 것이라는 분석을 제시했다. AGI 개발의 중앙집중화 정도가 향후 지정학적 패권을 결정하는 핵심 변수임을 강조하며 정책 입안자들의 경각심을 촉구하려는 의도다. 27일 랜드 연구소 '범용일반지능이 국가의 흥망성쇠에 미치는 영향' 보고서에 따르면 미래 AGI 지정학 지형을 결정할 핵심 변수로 ▲개발의 중앙집중화 정도 ▲국가와 민간의 관계 ▲AI 통제(정렬) 문제 ▲사회·경제적 혼란 등이 꼽힌다. 이 변수들이 어떻게 작용하느냐에 따라 지정학적 질서가 근본적으로 바뀔 수 있다는 분석이다. 가장 중요한 변수는 개발의 중앙집중화 정도다. 자원이 풍부한 기존 강대국은 고도로 중앙집중화된 개발을 통해 이점을 극대화할 수 있다. 반면 탈중앙화된 개발은 다양한 행위자를 강화하지만 기술 확산 위험을 키운다. 국가와 민간 산업의 관계 역시 판도를 바꿀 핵심 요인이다. 보고서는 민관 협력이 긴밀할수록 좋은 결과를 낳는다고 분석했다. 국가나 기업 어느 한쪽의 힘만으로는 AGI를 효과적으로 관리할 수 없기 때문이다. 인간 친화적 목표를 추구하도록 AGI를 안정적으로 제어하는 것의 어려움은 또 다른 중대 리스크다. 지정학적 상황이 유리해도 통제 불능 상태에 빠질 경우 재앙적 결과를 맞을 수 있다. 이를 막으려면 위험한 행위자의 접근을 막는 국제 공조가 필수다. AGI가 촉발할 경제·사회적 혼란도 큰 변수다. 급속한 자동화와 대규모 실업 정보 조작 같은 문제에 사회가 얼마나 잘 적응하느냐가 관건이다. 사회의 적응 능력에 따라 AGI는 기존 권력 구조를 강화하거나 혹은 약화시킬 수 있다. 연구소는 이를 바탕으로 8개의 가상 시나리오를 제시했다. 시나리오에는 AGI가 미국이나 경쟁국에 힘을 실어주는 경우와 지정학적 격변을 초래하는 상황 등이 포함됐다. 심지어 AGI 개발이 중단되는 시나리오까지 검토하며 다양한 가능성을 열어뒀다. 랜드 연구소는 보고서에서 "국가나 기업 어느 한쪽만으로는 AGI 개발을 효과적으로 통제할 수 없다"며 "균형 잡힌 협력이 필수적"이라고 강조했다.

2025.07.27 09:45조이환

"초지능 임박했다더니 상업화 혈안"…오픈AI 행보 '물음표'

오픈AI가 '초지능 도달이 머지않았다'고 밝히면서 실제 경영 전략은 상용화와 시장 확대에 집중하고 있어, 기술 커뮤니티를 중심으로 회의적 시선이 나오고 있다. 초지능이 정말 임박했다면 지금처럼 상업화에 집중하는 전략은 택하지 않았을 것이라는 지적이다. 초지능이란 인간의 지능을 뛰어넘는 인공지능을 의미한다. 22일 업계에 따르면 샘 알트먼 오픈AI 최고경영자(CEO)는 최근 블로그에 게시한 '부드러운 특이점(The Gentle Singularity)' 글에서 "인류가 디지털 초지능을 구축하는 데 매우 가까워졌다"고 주장했다. 그러나 레딧 등 해외 커뮤니티에서는 오픈AI가 최근 수개월간 연구 개발보다는 제품 기획, 마케팅, 하드웨어 협업 등 일반적인 기술 스타트업 활동에 더 집중하는 모습이라며 의문을 제기하고 있다. 실제로 회사의 방향성은 상업적 확장이다. 오픈AI는 지난달 애플의 수석 디자이너였던 조니 아이브를 영입해 AI 하드웨어 프로젝트에 수십억 달러를 투자하고 있다. 또 북미의 배달 서비스인 인스타카트 전 최고경영자를 애플리케이션 부문 총괄로 영입해 사업화를 강화하고 있다. 더불어 '챗GPT'의 무료 버전에는 광고 탑재 방안을 검토 중이며 대학과의 제휴를 통해 시험 기간 중 '챗GPT' 플러스를 학생에게 무료 제공하는 등 이용자 확보에도 적극적으로 나서고 있다. 회사 제품을 더 많은 이들이 '먼저 써보게' 하기 위한 전략으로 해석된다. 이러한 경향은 인력 구성에서도 드러난다. 오픈AI가 게시한 채용공고 324건 중 38%는 마케팅, 파트너십, 영업 등 시장 진출 직군이고, 연구 인력은 12%다. 연구 중심 조직이라는 기존 인상과는 다른 구성이다. 이에 온라인 커뮤니티 레딧의 '특이점' 게시판에서는 오픈AI가 실제로 초지능 개발이 임박했다고 믿는다면 대부분의 시간과 자원을 연구에 집중해야 했을 것이라는 주장이 나왔다. 지금처럼 상용 제품 개발과 시장 점유율 확대에 집중하는 모습은 초지능 도달이 가까웠을 때의 전략과는 맞지 않는다는 설명이다. 일부 사용자는 "이들이 정말 초지능 개발에 근접했다면 단기 매출이나 경쟁사 대응이 중요한 문제가 아닐 것"이라며 "오히려 지금의 전략은 AGI 혹은 ASI가 아직 먼 미래라는 신호"라고도 주장했다. 다만 컴퓨팅 자원과 인프라 병목 문제가 반복적으로 언급됐다. 초지능 구현이 단순히 연구력만으로 이뤄지지 않는다는 점에서 하드웨어와 자금 확보에 병행해 움직일 수밖에 없다는 것이다. 이에 제품 매출 확대 자체가 연구 자원 확보를 위한 포석이라는 반론도 나왔다. 실제로 샘 알트먼 오픈AI 최고경영자(CEO)는 최근 Y콤비네이터 강연에서 "모든 것이 잘 진행된다면 10~20년 안에 상상할 수 없는 초지능이 나올 수 있다"고 밝혔다.

2025.06.22 13:28조이환

"AGI 경쟁은 허구…AI 군비 경쟁론, 위험한 질주 부추긴다"

범용 인공지능(AGI) 패권 경쟁이라는 서사가 현실과 동떨어진 허구에 불과하며, 오히려 무모한 기술 개발을 부추길 수 있다는 지적이 나왔다. 최근 케임브리지 대학에서 발표한 '가장 위험한 허구: AI 경쟁 담론과 그 현실(The Most Dangerous Fiction: The Rhetoric and Reality of the AI Race)' 보고서는 AI 패권 경쟁 담론이 정책과 산업계 전반에 과도하게 확산되고 있으며, 이는 AGI 개발을 둘러싼 오해와 위험을 키우고 있다고 주장했다. 보고서를 작성한 션 오헤이가티 케임브리지대 미래인텔리전스센터 책임자는 특히 '결정적 전략적 우위'라는 개념이 사실상 허구임에도 불구하고 미중 양국 모두에서 이를 현실화하는 방향으로 담론이 강화되고 있다고 분석했다. 그는 지난 2017년 이후 본격화된 'AI 경쟁' 서사가 언론, 정책보고서, 기술기업을 통해 구조화됐다고 지적했다. 일론 머스크나 블라디미르 푸틴의 발언이 과도하게 인용됐고 중국의 '차세대 인공지능 발전 계획'은 '지배'라는 단어로 번역되며 오독의 여지를 남겼다는 분석이다. 특히 시진핑 주석이 언급한 "AI 핵심 기술의 고지를 점령"한다는 발언도 군사적 맥락이 아닌 산업 현대화 전략의 일부였다고 반박했다. 오헤이가티 책임자는 거대언어모델(LLM)과 같은 자원 집약형 기술이 등장하면서 AI 개발이 지정학적 이슈로 확산됐다고 봤다. 미국은 중국의 반도체 접근을 차단하는 수출 규제를 강화했고 중국은 희토류 수출 제한으로 맞대응하며 기술전쟁이 가시화됐다. 이 과정에서 오픈AI, 앤트로픽 등 미국 주요 기업들은 규제 완화를 요구하며 '중국은 규제 없이 달리고 있다'는 논리를 반복해왔다. 다만 오헤이가티 책임자에 따르면 중국은 지난 2023년부터 생성형 AI에 강력한 규제를 도입한 상황이다. 대표적으로 바이두의 챗봇 '어니봇'은 관련 심의로 출시가 지연됐고 이는 '무규제 경쟁국'이라는 미국 측 주장과 상반된 현실이다. 그는 AI 규제 논의에서 중국을 단순한 경쟁자로 설정하는 시각이 현실 왜곡을 부추긴다고 지적했다. 현재 AGI 경쟁 담론은 단순한 기술 우위 주장을 넘어 군사적 전략 경쟁으로 확대되고 있다. 미국 내 주요 AI 기업들은 국방 및 안보기관과의 파트너십을 강화하고 있으며 이에 대해 중국을 명분으로 내세우고 있다. 심지어 일부 정책 보고서에서는 경쟁에서 밀릴 경우 CIA식 '암살 작전'도 고려해야 한다는 주장이 제기됐다. 중심 개념인 '결정적 전략적 우위'는 하나의 행위자가 AGI를 먼저 개발하면 타국은 영원히 따라잡을 수 없다는 가정에 기반하고 있다. 이는 기존 기술개발과 달리 '승자독식'의 상전이를 상정하며 오히려 AGI 개발 경쟁을 극단화하는 논리를 제공한다. 오헤이가티는 이 개념이 과학적 불확실성을 과도하게 정치화하고 있다고 지적했다. 중국이 AGI 개발에 총력전을 벌이고 있다는 주장에는 근거가 부족하다는 것이 논문의 핵심 반론이다. 중국 정부는 '통용 인공지능'이라는 표현을 사용하지만 이는 초지능이 아닌 범용형 생성형 AI를 가리키는 용어에 가깝다. 알리바바가 발표한 AI 인프라 투자나 딥시크의 기업 가치도 오픈AI, 마이크로소프트에 비하면 미미한 수준에 그친다. 미국 의회 보고서들은 "중국이 맨해튼 프로젝트 급의 AGI 경쟁을 벌이고 있다"고 주장하지만 오헤이가티 책임자는 이에 상응하는 물적·제도적 증거를 찾기 어렵다고 선을 그었다. 중국 내에서도 'AI 원자폭탄론'이 언급된 바 있지만 이는 과학적 열망이나 자립 강조의 수사적 표현에 가깝다는 해석이다. 중국은 기술 지배보다는 자급자족과 국제 협력을 강조하는 입장을 유지하고 있다는 것이 그의 주장이다. 실제로 중국 외교관인 푸잉은 "미중이 협력한다면 AI를 통제할 수 있지만 대립한다면 기계가 인간보다 우위에 설 수도 있다"고 경고한 바 있다. 이러한 경고는 '상황 인식(Situational Awareness)' 보고서가 제시한 관점과 정면으로 충돌한다. 해당 보고서는 지난해 오픈AI에서 해고된 22살 레오폴드 아셴브레너가 주도 작성한 문건으로, AGI 개발 경쟁에서 서구가 뒤처질 경우 국가 안보에 중대한 위협이 발생할 수 있다는 가정을 바탕으로 한다. 이후 이 보고서는 미국 내 주요 테크기업들이 규제 완화와 정부 파트너십을 정당화하는 근거로 반복적으로 인용돼 왔다. 션 오헤이가티 책임자는 "'상황 인식'에는 참고할 만한 통찰도 있지만 그 프레임이 지나치게 빠르게 확산되고 있는 점이 우려된다"고 밝혔다.

2025.06.22 10:31조이환

오픈AI-MS, AI 주도권 놓고 충돌…6년 동맹 갈라지나

오픈AI와 마이크로소프트(MS)의 갈등이 고조되며 규제당국 제소 가능성까지 제기되고 있다. 오픈AI의 공익법인 재구성을 앞두고 핵심 기술 통제권과 투자 지분을 둘러싼 주도권 다툼이 격화되는 양상이다. 17일 월스트리트저널 등 외신에 따르면 오픈AI는 최근 몇 주간 MS가 파트너십 내에서 반경쟁적 행위를 했다고 보고 연방 규제당국에 제소하는 방안을 논의한 것으로 알려졌다. 보도에 따르면 오픈AI는 협상이 진전되지 않을 경우 언론 등을 통한 공개 비판에 나서는 방안도 고려 중이다. 두 회사는 오픈AI의 공익기업(Public Benefit Corporation) 전환을 둘러싸고 합의에 이르지 못한 상태다. 오픈AI는 연내 전환을 완료하지 못할 경우 약 200억 달러(한화 약 28조원) 규모의 투자금을 잃게 되며 전환을 위해서는 MS의 승인이 필수다. 동시에 MS는 신규 법인에 대한 보다 높은 지분율을 요구하고 있어 충돌이 불가피한 상황이다. 오픈AI는 MS 애저 클라우드 자원과 인공지능(AI) 기술 접근 권한을 제한하려는 시도를 이어오고 있다. 자체 데이터센터 프로젝트 '스타게이트'를 추진한 데 이어 복수의 클라우드 사업자와 협력해 기술 판매 경로를 다변화하려는 움직임도 병행 중이다. 갈등은 윈드서프 인수 건에서 정점에 이르고 있다. 오픈AI는 AI 코딩 스타트업 윈드서프를 약 30억 달러(한화 약 42조원)에 인수할 계획이며 이 과정에서 해당 회사의 지식재산권이 MS로 넘어가는 것을 원치 않고 있는 것으로 알려졌다. 현재 계약에 따라 MS는 오픈AI의 모든 IP에 접근할 수 있는 권한을 보유하고 있다. 더불어 오픈AI와 소비자용 챗봇부터 기업 대상 AI 도구에 이르기까지 직접적인 경쟁 관계에 돌입한 상태다. MS는 오픈AI CEO 샘 알트먼과 경쟁 구도에 있는 인사를 영입해 자체 AI 모델 개발을 위한 조직도 운영 중인 것으로 전해진다. 보다 큰 갈등은 향후 오픈AI가 회사 기술이 범용 인공지능(AGI) 수준에 도달했다고 선언할 경우 발생할 수 있다. 현행 계약상 AGI 선언 시 양사의 협력은 종료되지만 MS는 이후에도 오픈AI 기술에 대한 접근권을 유지하길 원하는 것으로 알려졌다. 월스트리트저널은 "AGI 수준의 도달 여부를 둘러싸고 기술계 내부에서는 의견이 크게 엇갈리고 있다"며 "일부는 가까운 미래에 AGI가 실현 가능하다고 보며 다른 일부는 그것이 아예 불가능하거나 도달하더라도 매우 점진적일 것이라고 본다"고 평가했다.

2025.06.17 12:11조이환

[AI는 지금] 추론 AI 경쟁, 6월부터 뜨겁다…미·중 중심서 유럽·韓까지 '확대'

프랑스 인공지능(AI) 스타트업 미스트랄이 유럽 최초의 AI 추론 모델을 출시하며 미국과 중국이 주도하고 있는 AI 개발 경쟁에 본격 도전장을 내밀었다. 국내 기업들도 이달 중 잇따라 추론 모델 출시를 앞두면서 시장 경쟁이 격화되는 분위기다. 11일 로이터, CNBC 등 주요 외신에 따르면 미스트랄은 첫 번째 AI 추론 모델인 '마지스트랄(Magistral)'을 공개했다. '마지스트랄'은 복잡한 문제를 단계적으로 사고하며 해결하는 기능을 갖춘 고급형 모델로, 수학 계산과 코딩 등 논리적 사고가 필요한 작업에 강점을 가졌다. '체인 오브 소트(chain-of-thought)' 방식으로 중간 추론 과정을 거치는 것이 특징으로, 오픈 소스 형태로 제공되는 '마지스트랄 스몰', 기업 고객을 대상으로 한 '마지스트랄 미디엄' 등 2가지로 구성됐다. 240억 개 매개변수를 갖춘 '마지스트랄 스몰' 모델은 AI 개발 플랫폼 허깅페이스에서 다운로드 할 수 있으며 영어, 프랑스어, 스페인어, 아랍어, 중국어(간체) 등 다양한 언어를 지원한다. '마지스트랄 미디엄'은 미스트랄 챗봇 '르샤'와 API, 클라우드 파트너들을 통해 제공된다. 아르튀르 멍슈 미스트랄 최고경영자(CEO)는 영국 런던에서 열린 '런던 테크 위크' 행사에서 가진 CNBC와의 대담에서 "이번 모델은 수학, 프로그래밍에 매우 뛰어나다"며 "오픈AI의 'o1'이나 딥시크의 'R1'과 견줄 만한 수준"이라고 강조했다. 하지만 자체 벤치마크 결과 '마지스트랄 미디엄'은 물리·수학·과학 테스트에서 구글 '제미나이 2.5 프로'와 앤트로픽 '클로드 오퍼스 4'보다 낮은 점수를 기록했다. 프로그래밍 벤치마크에서도 '제미나이 2.5 프로'를 능가하지 못했다. 반면 미스트랄 측은 '마지스트랄'이 경쟁 모델 대비 10배 빠른 응답 속도를 제공한다고 자신하고 있다. 업계에선 미스트랄이 이번 일로 AI 시장에서 존재감을 키울 수 있을지 주목하고 있다. 유럽 안에선 프랑스 정부의 적극적인 지원에 힘입어 주목 받는 AI 강자로 꼽히지만 시장 점유율, 매출 측면에선 미국, 중국 경쟁사들에 비해 뒤처져 있는 것으로 평가되고 있다. 로이터는 "기존의 거대언어모델(LLM) 방식이 데이터와 컴퓨팅 파워의 한계에 직면하면서 추론 중심으로 산업 트렌드가 이동하고 있다"며 "현재 시점에서 미스트랄에게 이번이 새로운 기회가 될 수 있다"고 짚었다. 하지만 경쟁사들은 일찌감치 추론 모델을 내놓으며 기술력을 한층 더 끌어올리고 있다. 오픈AI는 지난 해 9월 첫 추론 모델인 'o1' 시리즈 출시 후 올해 1월 'o3', 소형 모델인 'o4 미니'까지 출시했다. 특히 'o3'는 이미 지능지수(IQ)가 130을 돌파했다는 주장까지 나오면서 경쟁력도 인정 받은 분위기다. AI 모델들의 IQ 시험 결과를 공개하는 트래킹에이아이닷컴은 최근 오픈AI 'o3'가 멘사 노르웨이 IQ 시험을 본 결과 IQ 132를 기록했다고 밝혔다. 이 시험은 온라인에서 비공식적으로 IQ를 측정하는 방법으로 주로 시각적 패턴 인식 능력을 평가한다. 이에 맞서 구글도 올해 3월 '제미나이 2.5 프로'를 내놨다. 구글은 이 모델이 AI 성능 평가 벤치마크인 LM아레나에서 오픈AI 모델을 상당한 격차로 제치고 1위에 올랐다고 강조한 바 있다. 또 지난 4월에는 '구글 클라우드 넥스트 2025' 행사를 통해 전작 대비 응답지연 시간과 연산비용을 절약한 '제미나이 2.5 플래시'도 공개하며 시장 주도권 잡기에 혈안된 모습을 보였다. 이 외에 앤트로픽의 '클로드 오푸스4'와 딥시크 'R1', 알리바바 '큐원3', 바이두 '어니X1 터보', 샤오미 '미모(MiMo)' 등도 추론형 AI 모델 시장에서 주목 받고 있다. 국내에서도 일부 기업들이 추론형 AI 모델을 속속 내놓으며 경쟁에 나서고 있다. 네이버와 카카오, SK텔레콤, LG AI연구원, 업스테이지 등이 대표적으로, 이 중 LG AI연구원이 가장 선제적으로 나서고 있는 것으로 평가되고 있다. 실제 LG AI연구원은 지난 2월 국내 첫 추론형 AI 모델인 '엑사원 딥'을 공개해 많은 주목을 받았다. '엑사원 딥'은 주어진 데이터를 기반으로 확률이 높은 답을 내놓는 생성형 AI와 달리 스스로 정보를 조합하고 분석한다는 점에서 한층 고도화된 AI로 평가받는다. 최고 모델인 '엑사원 딥' 32B의 파라미터(매개변수)는 중국 AI 스타트업 딥시크의 'R1' 671B 모델의 5% 수준이었음에도 수학과 같은 일부 분야 테스트에서 R1을 앞서는 등 효율적인 모델이란 점도 입증해 업계의 주목을 받았다. 경량 모델 '엑사원 딥' 7.8B는 비슷한 크기의 오픈AI의 'o1 미니'보다 우수한 성적을 기록하기도 했다. 네이버도 이달 말쯤 '하이퍼클로바X 추론 모델을 선보일 예정이다. 네이버 측에 따르면 이 모델은 AI 생성 정보의 사실성을 측정하는 대표적인 벤치마크인 심플QA(영어)에서 90.1점을 기록하며 오픈AI의 4o(90점)급 성능을 나타냈다. 업스테이지 역시 이달 중 추론 모델을 공개하며 경쟁에 불을 지핀다. 기존 AI 모델 '솔라'를 바탕으로 기업 고객에게 AI 서비스를 제공해왔으나, 이번에 선보일 추론형 AI 모델을 통해 학습된 데이터 범위를 넘어 답변을 할 수 있도록 확장을 시도한다는 방침이다. SK텔레콤도 이달 안에 중국 딥시크에 버금가는 추론형 AI 모델 프리뷰 '에이닷엑스(A.X) 4.1'을 선보일 예정이다. 이처럼 주요 기업들이 추론형 AI 경쟁에 뛰어드는 것은 AI가 향후 미래 산업을 주도할 가능성이 높아서다. 고도화된 추론 능력으로 법률·금융·제조·헬스케어 등 전문성이 요구되는 분야에서 생산성을 높일 수 있다는 점에서 수요는 더 커질 것으로 보인다. 업계 관계자는 "추론형 AI는 다양한 지적 과제를 인간처럼 스스로 수행할 수 있는 AGI의 필수 역량으로 꼽힌다"며 "추론형 AI 모델이 고도화되며 AGI 개발 전쟁에도 속도가 붙을 것으로 보인다"고 밝혔다.

2025.06.11 11:13장유미

"제조부터 휴머노이드까지"…민주당 AGI 위원회, '산업 혁신' 예고

더불어민주당 선대위 직능본부 산하 한국 범용인공지능(AGI) 실현 위원회가 국가 핵심 산업을 인공지능(AI)으로 전환하고 미래 기술 주도권 확보를 위한 세부 전략을 내놨다. 한국 AGI 실현 위원회는 이번에 발표된 전략은 'AGI 강국 실현, 대한민국 AI 이니셔티브'의 일환으로 마련됐다고 30일 밝혔다. 제조·건설·농업 등 전통 산업부터 물리 AI와 AI 휴머노이드 같은 신기술 분야까지 총 7개 영역, 24개 정책이 포함됐다. 전략의 한 축은 제조·건설·농업 등 기존 산업의 AI 기반 전환이다. 위원회는 내년까지 제조기업 AI 활용률을 30% 이상, 국산 제조AI 솔루션 도입률을 연평균 15%까지 끌어올리겠다는 목표를 제시했다. 건설 분야에선 설명 가능한 AI 기반 스마트 감리 시스템을 도입해 오는 2027년까지 공공 사회간접자본(SOC) 지하공사에 AI 감리 기술 도입률을 절반까지 늘릴 방침이다. 농업 부문은 스마트팜·지능형 축산 전환을 통해 오는 2029년까지 온실의 35%, 농업 생산의 40%를 스마트화할 계획이다. 기업 생태계 측면에선 유망 AI 기업의 전 주기를 지원하는 'AI 유니콘 팩토리' 전략이 핵심이다. 오는 2030년까지 50개 이상의 AI 유니콘을 육성하고 연간 100조원 규모의 경제 효과를 창출하겠다는 목표가 담겼다. 또 'AGI-X 코리아 이니셔티브'에 따라 스타트업을 위한 전용 펀드 10조 원을 조성하고 기업가치 1천억원 이상 기업 100개를 키운다는 청사진도 포함됐다. AI 기술 확산에 따른 리스크 대응 방안도 병행된다. 위원회는 통합 AI 거버넌스 체계 구축, 오용 방지 기술 연구개발(R&D), 안전성 기준 제도화 등을 통해 기술 신뢰 기반을 다진다는 방침이다. 자율주행 관련해서는 차량-인프라-관제 전반의 안전성 평가체계를 마련하고 단계별 운행 규범 정비로 제도적 신뢰를 확보하는 전략이 추진된다. 미래 신기술 분야에선 물리 AI, AI 휴머노이드, 미래건축이 중점 과제로 제시됐다. 농업·국방·서비스 등 5대 분야에 물리 AI를 적용하고 '물리 AI 육성 및 안전 특별법'을 제정해 글로벌 상위 3개국 진입을 목표로 삼는다. 건축 전 분야에 AI를 투입해 생산성을 세 배로 높이고 탄소배출량을 절반으로 줄이는 'AI 융합 미래건축 2030 전략'도 포함됐다. AI 휴머노이드의 경우 책임 소재를 명확히 하는 특별법 추진으로 사회적 수용성을 끌어올릴 계획이다. 국가 인프라 차원에선 에너지, 교통, 통신 등 5대 핵심 인프라에 AI 기술을 심층적으로 적용해 운영 효율성과 시스템 복원력을 극대화하겠다는 전략도 제시됐다. 이주석 한국 AGI 실현 위원장은 "산업 현장의 AI 도입은 경제 재도약을 이끌 것"이라며 "물리 AI 같은 신기술은 삶의 방식을 바꿀 잠재력을 지니고 있으며 위원회는 이러한 변화가 신뢰 가능한 기반 위에서 이뤄지도록 최선을 다할 것"이라고 말했다.

2025.05.30 16:56조이환

"4조 쏟고 AI 인재 6만명 키운다"…민주당 AGI 위원회, 공공·의료·지역 '전방위 투자'

더불어민주당 선거대책위원회 산하 한국 범용인공지능(AGI) 실현 위원회가 인공지능(AI) 기술을 국민 삶 속에 본격적으로 적용하고 사회 전반의 혁신을 이끌기 위한 공공 활용 및 인재 양성 전략을 확정했다. 한국 AGI 실현 위원회는 이번 전략이 '대한민국 AI 이니셔티브'의 일환으로 마련됐으며 국민 체감형 정책과 인재 6만 명 양성 방안이 포함됐다고 29일 밝혔다. 발표는 직능본부 주관으로 추진됐고 실현 로드맵에는 예산 배분과 제도화 계획도 포함됐다. 공공 분야에서는 국민이 직접 변화를 느낄 수 있는 AI 기반 행정 서비스 혁신과 사회문제 해결 전략이 중심이다. 국제 정세 분석과 위기 대응을 자동화하는 정책 지원 시스템과 시민 누구나 활용 가능한 '공공 에이전트 마켓플레이스' 구축이 핵심 과제로 제시됐다. '공공 에이전트AI 생태계'는 맞춤형 시민 수요 기반 서비스 생산을 목표로 하며 디지털 격차 해소와 포용성 확대를 동시에 겨냥한다. 공공기관, 기업, 시민이 각자 필요에 따라 에이전트를 개발하고 활용하는 구조다. K-바이오와 헬스케어 분야에서는 과학융합 예측형 AI 전략이 도입된다. 난치병 치료 기술과 진단 시장 개척이 핵심으로, 이를 위해 연간 4조원 예산이 투입된다. 생명공학과 인공지능을 결합한 플랫폼이 구축될 예정이다. 도시 설계 단계부터 AI를 내재화하는 'AI 네이티브 도시' 개념도 공식화됐다. 국가 통합 스마트시티 플랫폼(K-시티링크)을 바탕으로 시민 체감형 서비스가 전국으로 확산된다. 해당 전략은 한국형 스마트시티 표준 모델 수립에 초점이 맞춰져 있다. 지역 균형 발전을 위한 AI 생태계 재설계도 병행된다. 수도권 집중 문제를 해소하고 지역 자생형 혁신을 유도하기 위해 지역 문제 해결형 플랫폼과 AI 특화도시 시범사업이 추진된다. 인재 양성 부문에서는 산업 실전형 교육 체계가 도입된다. 'AI-익스트림 프로그래밍(XP) 스쿨'과 반도체 특화 대학원을 통해 고급 연구인력 1만 명을 확보하고 산업 재·전환형 인재 5만 명을 양성하는 계획이 확정됐다. 또 국민 전반의 AI 활용 능력을 끌어올리기 위한 '전국민 AI 리터러시 전략'도 포함됐다. 법제화된 리터러시 프레임워크와 퇴직 전문가 노하우를 집약한 'AI 매뉴얼 키트', 일반인을 위한 AI 리터러시 아카데미가 운영된다. 이주석 한국 AGI 실현 위원회 위원장은 "AI 기술이 아무리 발전해도 이를 활용하고 발전시키는 주체는 결국 사람"이라며 "세계 무대에서 활약할 AI 인재를 키우고 국민 모두가 AI를 능동적으로 받아들이는 기반을 마련하는 것이 이번 전략의 핵심"이라고 밝혔다.

2025.05.29 14:58조이환

더민주 AGI 위원회, AI 백년대계 설계…초거대 모델부터 윤리체계까지 '확정'

더불어민주당 범용인공지능(AGI) 실현 위원회가 차세대 기술 주권 확보를 위한 AI 전략과 제도 혁신안을 확정했다. 더불어민주당 선대위 산하 AGI 실현 위원회는 '대한민국 AI 이니셔티브' 후속 조치로 국가 인공지능(AI) 전략과 정책·거버넌스 분야의 세부 계획을 28일 공개했다. 이번 계획에는 초거대 AI 인프라, AI-양자융합, 데이터 주권, AI 윤리체계 등 전방위 전략이 포함됐다. 위원회는 정부 폐쇄망 기반의 초거대 AI 구축, 범정부 AI 운영 체계 고도화, AI-양자컴퓨팅 기술 융합 등 핵심 기반을 제시하며 AI 기술 리더십 확보와 데이터 주권 강화를 통한 장기 성장 기반 마련에 초점을 맞췄다. AI 전략 부문에서 가장 주목되는 것은 '범정부 초거대 AI 구축'이다. 클라우드 계층 구조 위에 민감 데이터를 활용하는 초거대 모델을 탑재하며 특정 기업에 대한 기술 종속 문제를 해소하고자 한다. 이를 위해 정부는 100조원 규모의 투자 재원 조성도 병행한다. '넥서스 AI 코리아(Nexus AI Korea)' 계획도 구체화됐다. 종로 세운상가 일대를 글로벌 AI 혁신 거점으로 재편해 엔비디아 그래픽처리장치(GPU), 비(非) 엔비디아 GPU, 양자컴퓨팅 퀀텀처리장치(QPU)가 집약된 '올 인 AI 랩'을 구축한다. 이는 세계 최초 하이브리드 AI 인프라 클러스터로 설정된다. 데이터 주권 전략도 포함됐다. 공공 및 산업 데이터를 AI 학습 자산으로 전환하며 고품질 한국어 LLM 말뭉치와 멀티모달 데이터셋 구축을 예고했다. 이는 100만 개의 인간 중심 일자리 창출과 오픈소스 AI 확산을 병행하는 방식으로 추진된다. 또 위원회는 차세대 기술 선도를 위해 AI-양자컴퓨팅 융합 전략을 제시했다. 국내 양자 기술 격차 해소를 위한 연구개발(R&D), 산업 생태계 육성, AI-양자 전문 인재 1천 명 양성 등이 주요 과제로 포함됐다. 기술 목표로는 양자 '탑5(Top5)', AI '탑5' 진입이 설정됐다. 이와 함께 위원회는 AI 윤리 및 법제도 전략도 발표했다. AI 오남용, 편향성, 사회적 불평등에 대응해 '책임 있는 AI'와 '포용적 접근권'을 양대 축으로 하는 윤리 로드맵을 수립한다. 포용사회 구현, 교육·인식 확대, AI 시대에 맞춘 사회계약 재설정도 포함됐다. 법·제도 부문에서는 기존 경직된 규제를 유연하게 전환하는 방향이 강조됐다. AI 기본법 고도화, 규제 샌드박스 운영, 사후 규제 원칙, 알고리즘 투명성 확보, 데이터 프라이버시 강화 등이 핵심 내용으로 제시됐다. 이주석 AGI 실현 위원장은 "견고한 AI 기반 없이는 사상누각에 불과하다"며 "기술 발전과 사회 수용성의 균형을 맞추는 정책·거버넌스 체계가 필수"라고 밝혔다.

2025.05.28 16:07조이환

"韓 전문가 100명 의견 담아"…한국AGI위원회, AI 정책안 제시

국내 위원회가 한국을 글로벌 인공지능(AI) 강국으로 만들기 위해 AI 전문가 의견을 반영한 7대 핵심 분야 정책안을 공개했다. 한국AGI실현위원회는 지난 5월 공식 출범 후 24개 부문위원회와 논의를 거쳐 이같은 정책안을 마련했다고 27일 밝혔다. 국내 AI 산학연 전문가 100명이 논의에 참여했다. 제안된 정책은 국가 AI 전략·기반, 정책·거버넌스·규제, 인력양성·직능혁신, 산업경쟁력·민생투자, 공공·사회적 활용, 안전·보안·신뢰성, AI 기반 미래혁신 기술 등 7대 분야로 나뉜다. 각 부문위원회는 분야별 문제점을 진단하고 구체 실행 목표와 로드맵을 마련했다. 국가 AI 전략·기반 분야에서는 초거대 AI 인프라 구축과 AI 하이브리드 클러스터 조성, 국가 데이터 주권 확립, AI-양자컴퓨팅 융합 전략 등이 포함됐다. 정책·거버넌스·규제 분야에서는 책임 있는 AI 윤리체계 마련과 AGI 시대에 맞는 유연한 법제도 마련 방안이 담겼다. 인력양성·직능혁신 분야는 해외 톱 연구자 유치, 산업 맞춤형 인재 양성, 전국민 AI 리터러시 확산 전략을 제시했다. 산업경쟁력·민생투자 분야에는 제조AI 경쟁력 제고, 공사현장 지능형 감리, AGI 기반 스마트 농업·축산 혁신, AI 스타트업 금융 지원 등이 포함됐다. 공공·사회적 활용 분야에는 국제 정세 분석 및 정책결정 AI 시스템, 공공 에이전트AI 생태계 조성, K-헬스케어 혁신, 스마트시티 구현, 지역 AI 격차 해소 전략이 담겼다. 안전·보안·신뢰성 강화 분야는 국가 보안·안전관리 전략, 자율주행 신뢰성 확보 방안 등을 제안했다. AI 기반 미래혁신 기술 분야에는 피지컬AI 강국 도약, AI 융합 미래건축 실증, AI 휴머노이드 법제 마련, 국가 핵심 인프라 지능화 전략이 포함됐다. 위원회는 100조원 규모 예산 확보 전략까지 포함해 국가적 목표 달성을 위한 구체 실행안을 마련했다고 밝혔다. 위원회 관계자는 "제안된 정책들이 성공적으로 추진되면 한국은 글로벌 AI 선도국가로 발돋움하고 국민들은 AI 발전 혜택을 실질적으로 체감할 것"이라며 "대국민 공청회와 전문가 토론회를 통해 사회적 공감대를 형성해 차기 정부 국정과제에 반영될 수 있도록 노력하겠다"고 밝혔다.

2025.05.27 16:45김미정

'AGI의 시대', 2025년 최우수 과학기술도서 출판상 수상

한빛미디어(공동대표 김태헌·전태호)에서 출간한 'AGI의 시대: 인간을 초월한 인공지능, AGI를 논하다'가 제42회 최우수과학기술도서 출판상을 수상했다고 8일 밝혔다. 이번 수상은 인공지능의 미래와 사회 전반에 미치는 영향을 심도 있게 다룬 점에서 높은 평가를 받아 이뤄졌다. AGI의 시대는 한상기 박사가 집필한 인공일반지능(AGI, Artificial General Intelligence)에 관한 교양서다. 단순히 기술적 설명에 그치지 않고 AGI의 사회적 파장, 윤리적 쟁점, 인간성의 의미까지 폭넓게 성찰한 것이 특징이다. 특히 AGI의 도래가 가져올 변화와 이에 대응해야 할 사회적 준비를 체계적으로 정리해 전문가뿐 아니라 일반 독자들에게도 큰 반향을 일으켰다. 저자는 “AGI라는 다소 무거운 주제를 쉽게 풀어내며 깊은 사유와 구조적 분석을 함께 담아낸 작품”이라며 “인공지능 기술을 바라보는 우리의 시각이 갈수록 중요해지는 가운데, AGI의 시대가 사회적 대화를 여는 시작점이 되길 바란다”고 밝혔다. AGI의 시대는 출간 이후 다양한 학술 모임과 기업, 공공기관에서 참고 도서로 활용되고 있으며, 미래 기술 담론을 이끄는 필독서로 자리매김하고 있다.

2025.05.08 17:35백봉삼

KISTI 박경석 박사 "AI모델 붕괴, 각자 대응 외 답 없나…AI 망치는 건 AI 자신"

"최근 불거진 AI모델 붕괴는 빅테크가 개발한 모형(파운데이션 모델)을 기반으로 각 기업이 보유한 '현실성 있는' 데이터로 튜닝하는 방법이 최선일 것입니다." 한국과학기술정보연구원(KISTI) 충청지원이 주관한 제22차 방위산업지식연구회(회장 이계광) 월례모임에서 주제발표자로 나선 KISTI 슈퍼컴퓨팅기술개발센터 박경석 책임연구원(박사)은 강연 끝자락에 'AI모델 붕괴론'을 언급하며 이 같이 말했다. 박 책임은 "AI가 스스로 반복 학습하며 생성한 데이터가 저품질이거나, 납득이 안되는 결과를 출력하는 모델 붕괴 현상은 데이터 생성량 증가와 밀접하다"며 "AI를 망치는 것은 결국 AI 자신"이라고 말했다. 이에 대한 대안으로 박 책임은 "파운데이션 모델을 만든 빅테크들도 고민은 하겠지만, 현재로서는 개별 기업이 대응하는 것 외에는 없다"며 "파운데이션 모델을 기반으로 각자 튜닝해야 할 것"이라고 덧붙였다. 박 책임은 또 "AI 확산은 산업계를 넘어 국방과 방산 분야에도 큰 변화를 예고한다"며 국방분야에서 AI를 제대로 활용한 사례로 '팔란티어' 모델을 추천했다. '팔란티어'는 AI 기반 데이터 분석 플랫폼을 통해 국방·정보기관의 의사결정을 지원하는 대표적인 국방 AI 활용 모델이다. 박 책임은 “AI 기반 하드웨어 개발이나 기존 시스템의 지능화를 통해, 국방 전반의 서비스 플랫폼을 강화할 것"도 주문했다. 이어 ▲한국건설생활환경시험연구원 박진확 박사는 '방산혁신클러스터 시험장비 및 지원사업 ▲KAIST 융복합연구센터(CRC) 이채석 연구교수는 재난안전을 위한 AI공간정보 혁신기술'에 대해 소개했다. 이 교수는 첨단기술과 주소정보를 융합한 소방관 119 구조 공간 정보와 실시간 실내외 길안내 서비스, 인천공항 주차장 위치 탐색 등을 시연해 관심을 끌었다. 이 교수는 "인간과 흡사한 AGI를 만들기 보다는 초능력을 가진 AGI에 관심이 많다"며 "공간정보는 AI가 모든 환경을 인지하고 있어야 어떤 상황에서도 정확한 길안내가 가능한 인프라 구성원"이라고 강조했다. 한편 이날 폐회 인사말에서 이계광 연구회장은 사우디 경찰청과의 사업 협력 진척에 대해 설명하며 "IMF 때도 그랬듯 급변하는 상황 속에서 오히려 기회가 많이 생기는 것 같다"며 "머리를 맞대고, 더 논의하고 준비하자"고 말했다.

2025.04.11 15:56박희범

"2030년까지 인간 상위 1% AI 등장 가능"…딥마인드, AGI 위협 경고

구글 딥마인드가 향후 10년 안에 인류에게 실존적 위협을 가할 수 있는 범용인공지능(AGI)의 등장 가능성을 경고했다. AGI가 인류 상위 1% 수준의 인지 역량을 확보할 수 있다는 전망 아래 이에 대응할 기술적 안전 전략을 제시하며 위험 최소화에 나선 것이다. 6일 업계에 따르면 딥마인드의 '기술적 AGI 안전과 보안을 위한 접근법(An Approach to Technical AGI Safety and Security)' 보고서는 지난 3일 공개된 직후 업계 안팎에서 큰 주목을 받고 있다. 회사는 145페이지 분량의 이 보고서를 통해 오는 2030년까지 딥러닝 기반의 점진적인 기술 발전을 통해 예외적 능력을 지닌 AGI가 등장할 수 있다고 전망했다. 딥마인드는 AGI를 두고 메타인지 능력을 갖추고 인간보다 뛰어난 문제 해결과 개념 학습 역량을 기반으로 광범위한 비물리적 작업을 수행할 수 있는 AI로 정의했다. 회사는 이를 '숙련된 성인 상위 1% 수준의 능력'으로 규정하고 현 추세대로라면 오는 2030년 전후로 현실화될 수 있다고 내다봤다. 딥마인드는 AGI가 야기할 위험을 네 가지로 분류했다. ▲악의적 사용자의 고의적 오용(Misuse) ▲AI의 자율적 비정렬 행동(Misalignment) ▲비고의적 판단 오류(Mistakes) ▲사회·경제적 구조 변화에 따른 시스템 리스크(Structural Risks) 등이다. 보고서는 이 중에서도 특히 '오용'과 '자율적 비정렬 행동'을 중심 위험 요소로 강조했다. AI가 해킹·바이오테러 등 실질적 해악 수단으로 쓰이거나 스스로 목표를 설정하고 인간의 통제를 벗어날 경우를 우려한 것이다. "AI 오용, 실제 공격 견뎌야 안전"…다층 방어체계 구축 제시 우선 딥마인드는 '오용' 방지를 위해 AGI가 '위험 역량'을 보유하고 있는지를 정량적으로 평가해야 한다고 밝혔다. 공격, 해킹, 무기 설계 등 실제 피해를 유발할 수 있는 능력을 사전에 점검하고 일정 기준을 넘을 경우 즉시 보안 및 접근 통제를 포함한 완화 조치를 시행하는 구조다. AI 모델 자체의 내부 작동 원리와 학습 구조에 직접 개입하는 '모델 단계'에서는 위험하거나 불법적인 요청을 거부하도록 학습하는 '사후 훈련(post-training)'이 적용된다. 단순히 보상을 기반으로 한 학습을 넘어 우회 공격(jailbreak)까지 방어할 수 있는 내성을 갖추도록 설계하는 것이 핵심이다. 이와 함께 '기능 억제(capability suppression)' 전략도 병행된다. 모델이 이미 학습한 위험 기술을 제거하거나 무력화하는 방식으로, 다만 이는 정확도 저하 등 기술적 난제를 동반할 수 있다는 한계도 언급됐다. AI 모델을 포함하고 있는 전체 시스템 구조인 '시스템 단계'에서는 보다 포괄적인 방어 전략이 제시된다. 입력과 출력을 실시간으로 감시하는 모니터링 체계를 통해 AI가 위험 징후를 보일 경우 즉각 경고하거나 출력을 차단하는 식이다. AI 내부의 활성화 패턴까지 들여다보는 방식으로 위협 탐지를 고도화하는 것도 제안됐다. 민감한 모델의 경우 인증된 사용자만 접근할 수 있도록 제한하고 가중치 유출이나 탈취를 막기 위한 하드웨어·소프트웨어 보안도 함께 구축해야 한다는 것이다. 보고서는 이러한 전략들을 단순한 예방 차원이 아니라 실질적인 공격에 대비한 검증 프로세스로 확장한다. 내부와 외부 전문가로 구성된 팀이 실제로 모델을 공격해보는 '레드 팀 테스팅(Red Teaming)'을 실시해 방어 체계의 허점을 실험적으로 점검하고 이를 개선하는 방식이다. 딥마인드는 이를 통해 해당 모델이 위험 역량을 보유하지 않았거나 보유했더라도 실질적인 해를 끼치기 어렵다는 점을 정량·정성적으로 입증할 수 있어야 한다고 명시했다. 회사는 이 과정을 '세이프티 케이스(Safety Case)'라고 정의했다. "AI가 인간 의도 벗어나지 않게"…AGI '정렬+통제+검증' 3중 안전체계 구축 딥마인드는 AGI의 '자율적 비정렬 행동(Misalignment)'에 있어 두 가지 방어선을 설정했다. 1차 방어선은 AI 자체를 '정렬된 상태'로 학습시키는 것이다. 이를 위해서는 '증폭된 감독(Amplified Oversight)' 개념이 제시된다. 사람보다 우월한 판단을 내릴 수 있는 AI에 대해 동일 수준의 AI가 상호 비판적 피드백을 제공하며 문제점을 지적하도록 설계한 구조다. 감시자인 인간의 한계를 AI가 스스로 보완하는 방식이다. 이에 더해 AI가 새로운 상황이나 입력에서도 일관되게 안전하게 행동하도록 '견고한 학습(Robust Training)'이 적용된다. 일부러 AI의 약점을 찌르는 방식으로 학습시키는 '적대적 학습', 모델이 스스로 헷갈리는 데이터를 골라 학습을 요청하는 '액티브 러닝', 배포 이후 '실시간 학습' 등 다양한 방식으로 위험 상황에 대한 내성을 강화하는 구조다. 2차 방어선은 AGI가 정렬되지 않았더라도 시스템 차원에서 해를 억제하는 방식이다. 딥마인드는 AI를 '내부 위협자'로 간주하고 보안 체계 전반을 사람 대신 AI에 맞춰 재설계해야 한다고 봤다. 샌드박싱, 접근권 분리, 로그 기록, 이상 행동 탐지 등을 기반으로 위협 행동 발생 시 신속 대응이 가능하도록 했다. 특히 '계층형 모니터링' 구조는 주목할 만하다. 비용이 적게 드는 기본 감시 시스템이 먼저 이상 행동을 선별하고 더 위험하거나 판단이 어려운 경우 고도화된 감시 시스템이나 인간 판단으로 이관하는 식이다. 이러한 기술을 뒷받침할 보조 연구도 병행된다. '해석가능성(Interpretability)'은 AGI의 내부 추론 과정을 가시화하고 그 판단의 근거를 명확히 분석할 수 있도록 해준다. 이는 AI가 거짓말을 하거나 위험 판단을 은폐하는 상황을 막는 핵심 도구다. 또 '안전 설계 패턴(Safer Design Patterns)'을 도입해 AI가 행동 전 사용자의 재확인을 요청하거나 예외 상황에서 보수적으로 작동하도록 만드는 등 구조적 안전 장치를 설계하는 것도 중요한 과제로 꼽힌다. 딥마인드는 이를 단지 설계 차원이 아닌, 실제로 작동 가능한 신뢰 모델로 검증해야 한다고 보고 있다. '정렬 신뢰도 검증(Alignment Assurance)'을 통해 시스템이 정말 인간 의도대로만 동작하는지를 반복 실험하고 실패 가능성을 최소화하는 과학적 기반을 마련하겠다는 방침이다. 여기에는 ▲AI가 감독 시스템을 우회할 수 있는지 확인하는 '스트레스 테스트' ▲해를 끼치도록 유도된 AI가 어느 수준까지 행동을 실행하는지 점검하는 '컨트롤 평가' 등이 포함된다. 딥마인드는 보고서를 통해 "AGI 개발은 빠르게 진행되고 있으며 위험이 현실화된 뒤에는 늦을 수 있다"며 "단순 훈련이나 필터링을 넘는 시스템 수준 설계와 과학적 검증과 보안 대응을 포함한 포괄적 안전 전략이 필요하다"고 강조했다.

2025.04.06 07:57조이환

Prev 1 2 3 Next