ZDNet 검색 페이지

'범용 인공지능'통합검색 결과 입니다. (11건)

"초지능 임박했다더니 상업화 혈안"…오픈AI 행보 '물음표'

오픈AI가 '초지능 도달이 머지않았다'고 밝히면서 실제 경영 전략은 상용화와 시장 확대에 집중하고 있어, 기술 커뮤니티를 중심으로 회의적 시선이 나오고 있다. 초지능이 정말 임박했다면 지금처럼 상업화에 집중하는 전략은 택하지 않았을 것이라는 지적이다. 초지능이란 인간의 지능을 뛰어넘는 인공지능을 의미한다. 22일 업계에 따르면 샘 알트먼 오픈AI 최고경영자(CEO)는 최근 블로그에 게시한 '부드러운 특이점(The Gentle Singularity)' 글에서 "인류가 디지털 초지능을 구축하는 데 매우 가까워졌다"고 주장했다. 그러나 레딧 등 해외 커뮤니티에서는 오픈AI가 최근 수개월간 연구 개발보다는 제품 기획, 마케팅, 하드웨어 협업 등 일반적인 기술 스타트업 활동에 더 집중하는 모습이라며 의문을 제기하고 있다. 실제로 회사의 방향성은 상업적 확장이다. 오픈AI는 지난달 애플의 수석 디자이너였던 조니 아이브를 영입해 AI 하드웨어 프로젝트에 수십억 달러를 투자하고 있다. 또 북미의 배달 서비스인 인스타카트 전 최고경영자를 애플리케이션 부문 총괄로 영입해 사업화를 강화하고 있다. 더불어 '챗GPT'의 무료 버전에는 광고 탑재 방안을 검토 중이며 대학과의 제휴를 통해 시험 기간 중 '챗GPT' 플러스를 학생에게 무료 제공하는 등 이용자 확보에도 적극적으로 나서고 있다. 회사 제품을 더 많은 이들이 '먼저 써보게' 하기 위한 전략으로 해석된다. 이러한 경향은 인력 구성에서도 드러난다. 오픈AI가 게시한 채용공고 324건 중 38%는 마케팅, 파트너십, 영업 등 시장 진출 직군이고, 연구 인력은 12%다. 연구 중심 조직이라는 기존 인상과는 다른 구성이다. 이에 온라인 커뮤니티 레딧의 '특이점' 게시판에서는 오픈AI가 실제로 초지능 개발이 임박했다고 믿는다면 대부분의 시간과 자원을 연구에 집중해야 했을 것이라는 주장이 나왔다. 지금처럼 상용 제품 개발과 시장 점유율 확대에 집중하는 모습은 초지능 도달이 가까웠을 때의 전략과는 맞지 않는다는 설명이다. 일부 사용자는 "이들이 정말 초지능 개발에 근접했다면 단기 매출이나 경쟁사 대응이 중요한 문제가 아닐 것"이라며 "오히려 지금의 전략은 AGI 혹은 ASI가 아직 먼 미래라는 신호"라고도 주장했다. 다만 컴퓨팅 자원과 인프라 병목 문제가 반복적으로 언급됐다. 초지능 구현이 단순히 연구력만으로 이뤄지지 않는다는 점에서 하드웨어와 자금 확보에 병행해 움직일 수밖에 없다는 것이다. 이에 제품 매출 확대 자체가 연구 자원 확보를 위한 포석이라는 반론도 나왔다. 실제로 샘 알트먼 오픈AI 최고경영자(CEO)는 최근 Y콤비네이터 강연에서 "모든 것이 잘 진행된다면 10~20년 안에 상상할 수 없는 초지능이 나올 수 있다"고 밝혔다.

2025.06.22 13:28조이환

"AGI 경쟁은 허구…AI 군비 경쟁론, 위험한 질주 부추긴다"

범용 인공지능(AGI) 패권 경쟁이라는 서사가 현실과 동떨어진 허구에 불과하며, 오히려 무모한 기술 개발을 부추길 수 있다는 지적이 나왔다. 최근 케임브리지 대학에서 발표한 '가장 위험한 허구: AI 경쟁 담론과 그 현실(The Most Dangerous Fiction: The Rhetoric and Reality of the AI Race)' 보고서는 AI 패권 경쟁 담론이 정책과 산업계 전반에 과도하게 확산되고 있으며, 이는 AGI 개발을 둘러싼 오해와 위험을 키우고 있다고 주장했다. 보고서를 작성한 션 오헤이가티 케임브리지대 미래인텔리전스센터 책임자는 특히 '결정적 전략적 우위'라는 개념이 사실상 허구임에도 불구하고 미중 양국 모두에서 이를 현실화하는 방향으로 담론이 강화되고 있다고 분석했다. 그는 지난 2017년 이후 본격화된 'AI 경쟁' 서사가 언론, 정책보고서, 기술기업을 통해 구조화됐다고 지적했다. 일론 머스크나 블라디미르 푸틴의 발언이 과도하게 인용됐고 중국의 '차세대 인공지능 발전 계획'은 '지배'라는 단어로 번역되며 오독의 여지를 남겼다는 분석이다. 특히 시진핑 주석이 언급한 "AI 핵심 기술의 고지를 점령"한다는 발언도 군사적 맥락이 아닌 산업 현대화 전략의 일부였다고 반박했다. 오헤이가티 책임자는 거대언어모델(LLM)과 같은 자원 집약형 기술이 등장하면서 AI 개발이 지정학적 이슈로 확산됐다고 봤다. 미국은 중국의 반도체 접근을 차단하는 수출 규제를 강화했고 중국은 희토류 수출 제한으로 맞대응하며 기술전쟁이 가시화됐다. 이 과정에서 오픈AI, 앤트로픽 등 미국 주요 기업들은 규제 완화를 요구하며 '중국은 규제 없이 달리고 있다'는 논리를 반복해왔다. 다만 오헤이가티 책임자에 따르면 중국은 지난 2023년부터 생성형 AI에 강력한 규제를 도입한 상황이다. 대표적으로 바이두의 챗봇 '어니봇'은 관련 심의로 출시가 지연됐고 이는 '무규제 경쟁국'이라는 미국 측 주장과 상반된 현실이다. 그는 AI 규제 논의에서 중국을 단순한 경쟁자로 설정하는 시각이 현실 왜곡을 부추긴다고 지적했다. 현재 AGI 경쟁 담론은 단순한 기술 우위 주장을 넘어 군사적 전략 경쟁으로 확대되고 있다. 미국 내 주요 AI 기업들은 국방 및 안보기관과의 파트너십을 강화하고 있으며 이에 대해 중국을 명분으로 내세우고 있다. 심지어 일부 정책 보고서에서는 경쟁에서 밀릴 경우 CIA식 '암살 작전'도 고려해야 한다는 주장이 제기됐다. 중심 개념인 '결정적 전략적 우위'는 하나의 행위자가 AGI를 먼저 개발하면 타국은 영원히 따라잡을 수 없다는 가정에 기반하고 있다. 이는 기존 기술개발과 달리 '승자독식'의 상전이를 상정하며 오히려 AGI 개발 경쟁을 극단화하는 논리를 제공한다. 오헤이가티는 이 개념이 과학적 불확실성을 과도하게 정치화하고 있다고 지적했다. 중국이 AGI 개발에 총력전을 벌이고 있다는 주장에는 근거가 부족하다는 것이 논문의 핵심 반론이다. 중국 정부는 '통용 인공지능'이라는 표현을 사용하지만 이는 초지능이 아닌 범용형 생성형 AI를 가리키는 용어에 가깝다. 알리바바가 발표한 AI 인프라 투자나 딥시크의 기업 가치도 오픈AI, 마이크로소프트에 비하면 미미한 수준에 그친다. 미국 의회 보고서들은 "중국이 맨해튼 프로젝트 급의 AGI 경쟁을 벌이고 있다"고 주장하지만 오헤이가티 책임자는 이에 상응하는 물적·제도적 증거를 찾기 어렵다고 선을 그었다. 중국 내에서도 'AI 원자폭탄론'이 언급된 바 있지만 이는 과학적 열망이나 자립 강조의 수사적 표현에 가깝다는 해석이다. 중국은 기술 지배보다는 자급자족과 국제 협력을 강조하는 입장을 유지하고 있다는 것이 그의 주장이다. 실제로 중국 외교관인 푸잉은 "미중이 협력한다면 AI를 통제할 수 있지만 대립한다면 기계가 인간보다 우위에 설 수도 있다"고 경고한 바 있다. 이러한 경고는 '상황 인식(Situational Awareness)' 보고서가 제시한 관점과 정면으로 충돌한다. 해당 보고서는 지난해 오픈AI에서 해고된 22살 레오폴드 아셴브레너가 주도 작성한 문건으로, AGI 개발 경쟁에서 서구가 뒤처질 경우 국가 안보에 중대한 위협이 발생할 수 있다는 가정을 바탕으로 한다. 이후 이 보고서는 미국 내 주요 테크기업들이 규제 완화와 정부 파트너십을 정당화하는 근거로 반복적으로 인용돼 왔다. 션 오헤이가티 책임자는 "'상황 인식'에는 참고할 만한 통찰도 있지만 그 프레임이 지나치게 빠르게 확산되고 있는 점이 우려된다"고 밝혔다.

2025.06.22 10:31조이환

오픈AI-MS, AI 주도권 놓고 충돌…6년 동맹 갈라지나

오픈AI와 마이크로소프트(MS)의 갈등이 고조되며 규제당국 제소 가능성까지 제기되고 있다. 오픈AI의 공익법인 재구성을 앞두고 핵심 기술 통제권과 투자 지분을 둘러싼 주도권 다툼이 격화되는 양상이다. 17일 월스트리트저널 등 외신에 따르면 오픈AI는 최근 몇 주간 MS가 파트너십 내에서 반경쟁적 행위를 했다고 보고 연방 규제당국에 제소하는 방안을 논의한 것으로 알려졌다. 보도에 따르면 오픈AI는 협상이 진전되지 않을 경우 언론 등을 통한 공개 비판에 나서는 방안도 고려 중이다. 두 회사는 오픈AI의 공익기업(Public Benefit Corporation) 전환을 둘러싸고 합의에 이르지 못한 상태다. 오픈AI는 연내 전환을 완료하지 못할 경우 약 200억 달러(한화 약 28조원) 규모의 투자금을 잃게 되며 전환을 위해서는 MS의 승인이 필수다. 동시에 MS는 신규 법인에 대한 보다 높은 지분율을 요구하고 있어 충돌이 불가피한 상황이다. 오픈AI는 MS 애저 클라우드 자원과 인공지능(AI) 기술 접근 권한을 제한하려는 시도를 이어오고 있다. 자체 데이터센터 프로젝트 '스타게이트'를 추진한 데 이어 복수의 클라우드 사업자와 협력해 기술 판매 경로를 다변화하려는 움직임도 병행 중이다. 갈등은 윈드서프 인수 건에서 정점에 이르고 있다. 오픈AI는 AI 코딩 스타트업 윈드서프를 약 30억 달러(한화 약 42조원)에 인수할 계획이며 이 과정에서 해당 회사의 지식재산권이 MS로 넘어가는 것을 원치 않고 있는 것으로 알려졌다. 현재 계약에 따라 MS는 오픈AI의 모든 IP에 접근할 수 있는 권한을 보유하고 있다. 더불어 오픈AI와 소비자용 챗봇부터 기업 대상 AI 도구에 이르기까지 직접적인 경쟁 관계에 돌입한 상태다. MS는 오픈AI CEO 샘 알트먼과 경쟁 구도에 있는 인사를 영입해 자체 AI 모델 개발을 위한 조직도 운영 중인 것으로 전해진다. 보다 큰 갈등은 향후 오픈AI가 회사 기술이 범용 인공지능(AGI) 수준에 도달했다고 선언할 경우 발생할 수 있다. 현행 계약상 AGI 선언 시 양사의 협력은 종료되지만 MS는 이후에도 오픈AI 기술에 대한 접근권을 유지하길 원하는 것으로 알려졌다. 월스트리트저널은 "AGI 수준의 도달 여부를 둘러싸고 기술계 내부에서는 의견이 크게 엇갈리고 있다"며 "일부는 가까운 미래에 AGI가 실현 가능하다고 보며 다른 일부는 그것이 아예 불가능하거나 도달하더라도 매우 점진적일 것이라고 본다"고 평가했다.

2025.06.17 12:11조이환

더민주 AGI 위원회, AI 백년대계 설계…초거대 모델부터 윤리체계까지 '확정'

더불어민주당 범용인공지능(AGI) 실현 위원회가 차세대 기술 주권 확보를 위한 AI 전략과 제도 혁신안을 확정했다. 더불어민주당 선대위 산하 AGI 실현 위원회는 '대한민국 AI 이니셔티브' 후속 조치로 국가 인공지능(AI) 전략과 정책·거버넌스 분야의 세부 계획을 28일 공개했다. 이번 계획에는 초거대 AI 인프라, AI-양자융합, 데이터 주권, AI 윤리체계 등 전방위 전략이 포함됐다. 위원회는 정부 폐쇄망 기반의 초거대 AI 구축, 범정부 AI 운영 체계 고도화, AI-양자컴퓨팅 기술 융합 등 핵심 기반을 제시하며 AI 기술 리더십 확보와 데이터 주권 강화를 통한 장기 성장 기반 마련에 초점을 맞췄다. AI 전략 부문에서 가장 주목되는 것은 '범정부 초거대 AI 구축'이다. 클라우드 계층 구조 위에 민감 데이터를 활용하는 초거대 모델을 탑재하며 특정 기업에 대한 기술 종속 문제를 해소하고자 한다. 이를 위해 정부는 100조원 규모의 투자 재원 조성도 병행한다. '넥서스 AI 코리아(Nexus AI Korea)' 계획도 구체화됐다. 종로 세운상가 일대를 글로벌 AI 혁신 거점으로 재편해 엔비디아 그래픽처리장치(GPU), 비(非) 엔비디아 GPU, 양자컴퓨팅 퀀텀처리장치(QPU)가 집약된 '올 인 AI 랩'을 구축한다. 이는 세계 최초 하이브리드 AI 인프라 클러스터로 설정된다. 데이터 주권 전략도 포함됐다. 공공 및 산업 데이터를 AI 학습 자산으로 전환하며 고품질 한국어 LLM 말뭉치와 멀티모달 데이터셋 구축을 예고했다. 이는 100만 개의 인간 중심 일자리 창출과 오픈소스 AI 확산을 병행하는 방식으로 추진된다. 또 위원회는 차세대 기술 선도를 위해 AI-양자컴퓨팅 융합 전략을 제시했다. 국내 양자 기술 격차 해소를 위한 연구개발(R&D), 산업 생태계 육성, AI-양자 전문 인재 1천 명 양성 등이 주요 과제로 포함됐다. 기술 목표로는 양자 '탑5(Top5)', AI '탑5' 진입이 설정됐다. 이와 함께 위원회는 AI 윤리 및 법제도 전략도 발표했다. AI 오남용, 편향성, 사회적 불평등에 대응해 '책임 있는 AI'와 '포용적 접근권'을 양대 축으로 하는 윤리 로드맵을 수립한다. 포용사회 구현, 교육·인식 확대, AI 시대에 맞춘 사회계약 재설정도 포함됐다. 법·제도 부문에서는 기존 경직된 규제를 유연하게 전환하는 방향이 강조됐다. AI 기본법 고도화, 규제 샌드박스 운영, 사후 규제 원칙, 알고리즘 투명성 확보, 데이터 프라이버시 강화 등이 핵심 내용으로 제시됐다. 이주석 AGI 실현 위원장은 "견고한 AI 기반 없이는 사상누각에 불과하다"며 "기술 발전과 사회 수용성의 균형을 맞추는 정책·거버넌스 체계가 필수"라고 밝혔다.

2025.05.28 16:07조이환

"2030년까지 인간 상위 1% AI 등장 가능"…딥마인드, AGI 위협 경고

구글 딥마인드가 향후 10년 안에 인류에게 실존적 위협을 가할 수 있는 범용인공지능(AGI)의 등장 가능성을 경고했다. AGI가 인류 상위 1% 수준의 인지 역량을 확보할 수 있다는 전망 아래 이에 대응할 기술적 안전 전략을 제시하며 위험 최소화에 나선 것이다. 6일 업계에 따르면 딥마인드의 '기술적 AGI 안전과 보안을 위한 접근법(An Approach to Technical AGI Safety and Security)' 보고서는 지난 3일 공개된 직후 업계 안팎에서 큰 주목을 받고 있다. 회사는 145페이지 분량의 이 보고서를 통해 오는 2030년까지 딥러닝 기반의 점진적인 기술 발전을 통해 예외적 능력을 지닌 AGI가 등장할 수 있다고 전망했다. 딥마인드는 AGI를 두고 메타인지 능력을 갖추고 인간보다 뛰어난 문제 해결과 개념 학습 역량을 기반으로 광범위한 비물리적 작업을 수행할 수 있는 AI로 정의했다. 회사는 이를 '숙련된 성인 상위 1% 수준의 능력'으로 규정하고 현 추세대로라면 오는 2030년 전후로 현실화될 수 있다고 내다봤다. 딥마인드는 AGI가 야기할 위험을 네 가지로 분류했다. ▲악의적 사용자의 고의적 오용(Misuse) ▲AI의 자율적 비정렬 행동(Misalignment) ▲비고의적 판단 오류(Mistakes) ▲사회·경제적 구조 변화에 따른 시스템 리스크(Structural Risks) 등이다. 보고서는 이 중에서도 특히 '오용'과 '자율적 비정렬 행동'을 중심 위험 요소로 강조했다. AI가 해킹·바이오테러 등 실질적 해악 수단으로 쓰이거나 스스로 목표를 설정하고 인간의 통제를 벗어날 경우를 우려한 것이다. "AI 오용, 실제 공격 견뎌야 안전"…다층 방어체계 구축 제시 우선 딥마인드는 '오용' 방지를 위해 AGI가 '위험 역량'을 보유하고 있는지를 정량적으로 평가해야 한다고 밝혔다. 공격, 해킹, 무기 설계 등 실제 피해를 유발할 수 있는 능력을 사전에 점검하고 일정 기준을 넘을 경우 즉시 보안 및 접근 통제를 포함한 완화 조치를 시행하는 구조다. AI 모델 자체의 내부 작동 원리와 학습 구조에 직접 개입하는 '모델 단계'에서는 위험하거나 불법적인 요청을 거부하도록 학습하는 '사후 훈련(post-training)'이 적용된다. 단순히 보상을 기반으로 한 학습을 넘어 우회 공격(jailbreak)까지 방어할 수 있는 내성을 갖추도록 설계하는 것이 핵심이다. 이와 함께 '기능 억제(capability suppression)' 전략도 병행된다. 모델이 이미 학습한 위험 기술을 제거하거나 무력화하는 방식으로, 다만 이는 정확도 저하 등 기술적 난제를 동반할 수 있다는 한계도 언급됐다. AI 모델을 포함하고 있는 전체 시스템 구조인 '시스템 단계'에서는 보다 포괄적인 방어 전략이 제시된다. 입력과 출력을 실시간으로 감시하는 모니터링 체계를 통해 AI가 위험 징후를 보일 경우 즉각 경고하거나 출력을 차단하는 식이다. AI 내부의 활성화 패턴까지 들여다보는 방식으로 위협 탐지를 고도화하는 것도 제안됐다. 민감한 모델의 경우 인증된 사용자만 접근할 수 있도록 제한하고 가중치 유출이나 탈취를 막기 위한 하드웨어·소프트웨어 보안도 함께 구축해야 한다는 것이다. 보고서는 이러한 전략들을 단순한 예방 차원이 아니라 실질적인 공격에 대비한 검증 프로세스로 확장한다. 내부와 외부 전문가로 구성된 팀이 실제로 모델을 공격해보는 '레드 팀 테스팅(Red Teaming)'을 실시해 방어 체계의 허점을 실험적으로 점검하고 이를 개선하는 방식이다. 딥마인드는 이를 통해 해당 모델이 위험 역량을 보유하지 않았거나 보유했더라도 실질적인 해를 끼치기 어렵다는 점을 정량·정성적으로 입증할 수 있어야 한다고 명시했다. 회사는 이 과정을 '세이프티 케이스(Safety Case)'라고 정의했다. "AI가 인간 의도 벗어나지 않게"…AGI '정렬+통제+검증' 3중 안전체계 구축 딥마인드는 AGI의 '자율적 비정렬 행동(Misalignment)'에 있어 두 가지 방어선을 설정했다. 1차 방어선은 AI 자체를 '정렬된 상태'로 학습시키는 것이다. 이를 위해서는 '증폭된 감독(Amplified Oversight)' 개념이 제시된다. 사람보다 우월한 판단을 내릴 수 있는 AI에 대해 동일 수준의 AI가 상호 비판적 피드백을 제공하며 문제점을 지적하도록 설계한 구조다. 감시자인 인간의 한계를 AI가 스스로 보완하는 방식이다. 이에 더해 AI가 새로운 상황이나 입력에서도 일관되게 안전하게 행동하도록 '견고한 학습(Robust Training)'이 적용된다. 일부러 AI의 약점을 찌르는 방식으로 학습시키는 '적대적 학습', 모델이 스스로 헷갈리는 데이터를 골라 학습을 요청하는 '액티브 러닝', 배포 이후 '실시간 학습' 등 다양한 방식으로 위험 상황에 대한 내성을 강화하는 구조다. 2차 방어선은 AGI가 정렬되지 않았더라도 시스템 차원에서 해를 억제하는 방식이다. 딥마인드는 AI를 '내부 위협자'로 간주하고 보안 체계 전반을 사람 대신 AI에 맞춰 재설계해야 한다고 봤다. 샌드박싱, 접근권 분리, 로그 기록, 이상 행동 탐지 등을 기반으로 위협 행동 발생 시 신속 대응이 가능하도록 했다. 특히 '계층형 모니터링' 구조는 주목할 만하다. 비용이 적게 드는 기본 감시 시스템이 먼저 이상 행동을 선별하고 더 위험하거나 판단이 어려운 경우 고도화된 감시 시스템이나 인간 판단으로 이관하는 식이다. 이러한 기술을 뒷받침할 보조 연구도 병행된다. '해석가능성(Interpretability)'은 AGI의 내부 추론 과정을 가시화하고 그 판단의 근거를 명확히 분석할 수 있도록 해준다. 이는 AI가 거짓말을 하거나 위험 판단을 은폐하는 상황을 막는 핵심 도구다. 또 '안전 설계 패턴(Safer Design Patterns)'을 도입해 AI가 행동 전 사용자의 재확인을 요청하거나 예외 상황에서 보수적으로 작동하도록 만드는 등 구조적 안전 장치를 설계하는 것도 중요한 과제로 꼽힌다. 딥마인드는 이를 단지 설계 차원이 아닌, 실제로 작동 가능한 신뢰 모델로 검증해야 한다고 보고 있다. '정렬 신뢰도 검증(Alignment Assurance)'을 통해 시스템이 정말 인간 의도대로만 동작하는지를 반복 실험하고 실패 가능성을 최소화하는 과학적 기반을 마련하겠다는 방침이다. 여기에는 ▲AI가 감독 시스템을 우회할 수 있는지 확인하는 '스트레스 테스트' ▲해를 끼치도록 유도된 AI가 어느 수준까지 행동을 실행하는지 점검하는 '컨트롤 평가' 등이 포함된다. 딥마인드는 보고서를 통해 "AGI 개발은 빠르게 진행되고 있으며 위험이 현실화된 뒤에는 늦을 수 있다"며 "단순 훈련이나 필터링을 넘는 시스템 수준 설계와 과학적 검증과 보안 대응을 포함한 포괄적 안전 전략이 필요하다"고 강조했다.

2025.04.06 07:57조이환

"美 AGI 독점은 위험"…에릭 슈미트, 'AI 맨해튼 프로젝트'에 반기

에릭 슈미트 전 구글 최고경영자(CEO)가 미국 정부에 인공지능(AI) 초지능 개발 독점을 경계해야 한다고 주장했다. 범용인공지능(AGI)를 무리하게 선점하려 하면 중국의 보복을 초래할 수 있다는 이유에서다. 6일 외신에 따르면 슈미트 전 CEO는 알렉산드르 왕 스케일AI CEO, 댄 헨드릭스 AI안전센터 이사와 공동으로 '초지능 전략(Superintelligence Strategy)' 보고서를 발표했다. 보고서는 미국 정부가 'AI 맨해튼 프로젝트' 방식으로 초지능 개발에 나설 경우 국제적 긴장을 초래할 수 있다고 지적했다. 이들은 보고서를 통해 미국이 AGI를 독점하려 하면 중국이 사이버 공격 등으로 대응할 가능성이 높다고 분석했다. 이에 미국이 초지능 개발을 주도하기보다는 경쟁국의 위험한 AI 프로젝트를 차단하는 전략이 필요하다고 제안했다. 트럼프 행정부 들어 미국 정부와 의회는 AGI 개발을 위한 대규모 국가 프로젝트를 검토 중이다. 실제로 미 에너지부 장관은 "미국은 AI 분야에서 새로운 맨해튼 프로젝트를 시작했다"고 언급하며 AGI 개발 경쟁에 대한 강한 의지를 보인 바 있다. 다만 슈미트 전 CEO 등은 이러한 접근이 오히려 국가 안보를 위협할 수 있다고 우려하고 있다. 보고서는 'AI 상호확증파괴(MAIM, Mutual Assured AI Malfunction)' 개념을 제안하며 적대국의 AI 위협을 사전에 무력화하는 전략이 필요하다고 강조했다. AI 개발 경쟁이 핵무기 경쟁과 유사한 형태로 진행될 경우 오히려 군사적 충돌을 유발할 가능성이 크다는 주장이다. 또 보고서는 미국 정부가 AI 칩 수출을 제한하고 오픈소스 AI 모델을 관리하는 등 경쟁국의 AGI 개발을 억제하는 정책을 마련해야 한다고 제안했다. AI 경쟁에서 단순히 앞서나가는 것보다 글로벌 AI 리스크를 줄이는 방향으로 정책을 조정해야 한다는 것이다. 업계 관계자는 "슈미트 전 CEO는 AI 경쟁에서 미국의 우위를 강조해온 인물이고 왕 CEO 역시 지난달 미국 정부에 대중 반도체 무역제한을 촉구하는 공개서한을 보내며 적극적인 입장을 보여왔다"며 "이들이 현재 미국의 AI 패권 전략이 국가적 리스크를 초래할 수 있다고 경고하는 것은 AI의 현실적인 위협이 커졌기 때문으로 보인다"고 분석했다.

2025.03.06 09:24조이환

"요슈아 벤지오·스튜어트 러셀도 동참"…TTA, AI 신뢰성 확보 나선다

한국정보통신기술협회(TTA)가 범용 인공지능(GPAI)의 위험을 체계적으로 분석하고 국제표준에 기반한 관리 체계를 제시해 기술 안전성·신뢰성을 높이는 데 기여했다. TTA 산하 AI신뢰성센터는 '범용 인공지능 위험 관리 프레임워크' 연구 보고서를 발표했다고 11일 밝혔다. 이번 보고서는 범용 AI의 잠재적 위험을 분석하고 효과적인 관리 방안을 마련하기 위해 국제표준을 반영한 것이 특징이다. TTA는 지난 2021년부터 과학기술정보통신부 및 관계 기관과 협력해 AI 신뢰성 인식 확산을 위해 다양한 연구를 진행해왔다. 이번 연구는 빠르게 발전하는 범용 AI 기술이 사회적·윤리적 영향을 미칠 가능성을 고려해 추진됐다. 보고서는 기존 연구에서 도출된 내용을 토대로 범용 AI에 특화된 8가지 핵심 위험 요소를 정의했다. 이를 통해 AI 관련 이해관계자들이 보다 명확히 위험을 인식하고 대비할 수 있도록 했다. 또 국제표준을 참고해 범용 AI 기술의 특수성을 반영한 위험 관리 프레임워크를 설계했다. 관련 기관에서 활용할 수 있도록 가이드라인을 제공하고 사례 분석을 통해 효과성을 검증했다. TTA가 마련한 프레임워크는 국내 인공지능 사업자들이 안전하고 신뢰할 수 있는 AI 서비스를 제공하는 데 실질적인 도움을 줄 것으로 기대된다. 이를 위해 국내 산·학·연 전문가 20명이 연구자문위원회로 참여해 완성도를 높였다. 또 AI 분야 석학인 요슈아 벤지오 몬트리올대 교수와 스튜어트 러셀 UC버클리대 교수의 의견을 반영해 국제적 공신력을 확보했다. 손승현 TTA 회장은 "최근 중국의 딥시크 공개 이후 개인정보 보호, 저작권, 국가 안보 등 AI 안전성 이슈가 부각되고 있다"며 "이번 연구 보고서가 AI 모델 및 서비스 개발 기업들이 인공지능을 안전하게 관리하는 데 중요한 참고자료가 되길 기대한다"고 밝혔다.

2025.02.11 14:42조이환

공공 AI 플랫폼 구축, 대기업 참여 심의...엇갈리는 업계 의견

정부가 공공 업무에 활용할 범용 인공지능(AI) 플랫폼 구축 사업에 대기업 참여를 허용할지 여부를 심의한다. 이번 공공 소프트웨어(SW) 사업의 대기업 참여를 두고 관련 업계에서 의견이 엇갈리고 있다. 17일 관련 업계에 따르면, 서울 강남구 코엑스에서 과학기술정보통신부(이하 과기부), 행정안전부, 한국지능정보사회진흥원(NIA)이 심의위원회를 개최한다. 현행 소프트웨어(SW) 진흥법에 따르면, 상호출자제한기업집단(대기업집단) 계열사는 공공SW 사업 참여가 제한된다. 다만 기술적·경제적 특수성을 가진 사업이나 중소기업 단독으로 수행하기 어려운 대규모 프로젝트는 심사를 통해 대기업 참여를 제한적으로 허용할 수 있다. 지난 수년간 공공SW 사업에서 반복적으로 장애가 발생하면서, 700억 원 이상 규모의 사업은 대기업 계열사 참여를 허용하겠다는 방침이 지난해 초 제시됐다. 하지만 업계의 반발 등으로 법 개정은 아직 이루어지지 않았다. 이번 심의 대상인 사업은 2027년까지 공공 업무에 활용할 AI 플랫폼을 구축하는 프로젝트다. 문서 초안 작성, 내부 자료 검색 등 다양한 공공 업무에 활용할 수 있는 범용 AI 모델을 개발해 정부 시스템에 도입한다는 계획이다. 또한 정부 범용 AI 플랫폼을 기반으로 각 기관의 특성에 맞는 AI 서비스를 개발해 이를 활용할 수 있도록 지원할 예정이다. 민감한 데이터를 포함하는 공공 업무를 수행하기 위해 외부와 차단된 독립적인 생성형 AI 모델을 구축해야 하므로, AI 관련 기술력과 대규모 시스템 구축 역량을 갖춘 대기업 계열사의 참여가 필요하다는 것이 정부 측 입장이다. 심의위원회에서 대기업 참여가 허용되면 사업 수행 신청 절차를 거쳐 최종 결정된다. 이번 심의위원회의 결정은 이달 말 공개될 예정이다. 사업에 참여할 대기업은 아직 확정되지 않았다. 다만 대규모 언어모델(LLM)인 하이퍼클로바X를 개발한 네이버클라우드를 비롯해, 대규모 클라우드 인프라와 AI 사업 역량을 보유한 LG CNS, KT 등이 참여할 것으로 예상된다. AI 플랫폼의 대기업 참여 심사 소식이 전해지며, 업계에서는 찬반 양론이 엇갈리고 있다. 특히 중소 업계에서는 우려 섞인 목소리가 나오고 있다. AI와 같은 최신 기술이 활용되는 만큼 대기업 참여가 필요하다는 주장과 함께, 대기업이 최신 기술을 보유하고 있다는 보장이 없고, 중소·중견 기업의 사업 영역을 침범하고 있다는 지적이 충돌하고 있다. 한 업계 관계자는 "AI 모델 및 플랫폼 개발에는 자본력이 필요하기 때문에 중소 규모 기업보다는 대기업 참여를 허용하는 것이 현실적"이라고 밝혔다. 반면 다른 관계자는 "대기업이 개발을 맡았던 기존 사업에서도 장애가 발생했고, 이로 인해 법정 소송까지 이어진 사례가 있다"며 "AI에 보다 전문적인 기업을 선별하고 사업을 전문적으로 관리할 체계를 먼저 갖춰야 한다"고 지적했다.

2025.01.17 14:40남혁우

"AGI 정의는 돈?"…오픈AI-MS, 수익 중심 인공지능 협약 맺었다

오픈AI와 마이크로소프트가 범용인공지능(AGI)을 기술이 아닌 경제적 성과로 정의하는 협약을 맺은 것으로 드러났다. 27일 디인포메이션 등 외신에 따르면 양사는 지난해 오픈AI가 1천억 달러(한화 약 140조원) 이상의 수익을 창출할 수 있는 AI 시스템을 개발했을 때 AGI에 도달한 것으로 본다는 협정을 체결했다. 이 정의는 기존의 기술적·철학적 AGI 논의와 크게 상이한 것으로 스타트업과 대기업 간 이익 조율의 결과물로 보인다. 현재 오픈AI는 막대한 투자 비용으로 인해 연간 수십억 달러의 손실을 기록하고 있다. 회사는 오는 2029년까지 수익을 내지 못할 것이라고 예측돼 단기적으로는 협약에서 정의 된 AGI 도달이 어려울 전망이다. 협약에 따르면 오픈AI가 AGI에 도달하면 마이크로소프트는 오픈AI 기술에 대한 접근 권한을 잃게 된다. 수익 목표를 기준으로 한 AGI 정의로 인해 마이크로소프트가 최소 5년간 오픈AI 기술을 장기적으로 활용할 가능성이 높아졌다. 이와 동시에 오픈AI가 최근 개발한 'o3 모델'이 AGI로 가는 중요한 진전인지에 대한 논란도 제기됐다. 이 모델은 이전보다 더 나은 성능을 보이지만 높은 연산 비용을 동반해 오픈AI와 마이크로소프트의 이익 중심 AGI 정의에는 부합하지 않는다는 것이다. 사티아 나델라 마이크로소프트 대표는 최근 "샘 알트먼 오픈AI 대표는 비전과 야망을 가진 기업가"라면서도 "그의 목표를 우리도 수용해야 하지만 오픈AI 역시 상장기업으로서 우리가 가진 제약과 규율을 수용해야 한다"고 언급했다.

2024.12.27 08:44조이환

[인터뷰] 베슬에이아이 "AI 활용을 쉽고 빠르게…AGI 시대 준비 돕겠다"

"우리는 머신러닝 운영(MLOps)을 통해 기업들이 인공지능(AI)을 가장 쉽고 빠르고 저렴하게 활용할 수 있도록 지원하고 있습니다. 이는 곧 다가오는 '에이전트 AI' 시대에 필수적입니다. 이로써 장기적으로는 수십, 수백 개의 AI 모델이 협력하는 컴파운드 AI 시스템을 구축하고자 합니다." 안재만 베슬에이아이 대표는 최근 기자와 만나 회사의 비전과 전략을 설명하면서 이같이 말했다. 국내 행사에 참가하기 위해 실리콘밸리에서 한국을 방문한 그는 MLOps 플랫폼이 AI 기술을 기업 내 실질적 자산으로 만드는 데 필수적 역할을 한다며 베슬에이아이가 이 변화를 전폭 지원하고 있다고 강조했다. 16일 업계에 따르면 AI 기술의 급속한 발전으로 인해 기업들은 새로운 도전에 직면했다. 단일 AI 모델 운영에서 벗어나 여러 모델을 관리하고 자동화해야 하는 시대가 도래한 것이다. 이러한 상황에서 MLOps 플랫폼 전문 기업인 베슬에이아이가 주목받고 있다. MLOps란 머신러닝 모델의 개발부터 배포, 운영까지의 전 과정을 효율적으로 관리하는 방법론으로, AI 모델의 지속적인 통합과 배포를 가능하게 한다. 지난 2020년 세워진 베슬에이아이는 기업들이 AI 모델을 효율적으로 학습하고 운영할 수 있도록 지원하는 MLOps 플랫폼을 제공하고 있다. 회사가 현재 기업들에 제공하는 플랫폼은 그래픽카드 처리 장치(GPU) 컴퓨팅 비용을 최대 80%까지 절감하고 AI 모델 배포 시간을 몇 주에서 몇 분으로 단축하는 등 운영 효율성을 크게 향상시켰다. 이로써 기업들이 복잡한 기술적 고민 없이도 AI 모델을 개발하고 배포할 수 있게 됐다. 안 대표는 "기업들은 AI 모델을 개발하고 운영할 때 컴퓨팅 자원과 인프라 관리에 많은 어려움을 겪는다"며 "우리는 이러한 문제를 해결하기 위해 모델 학습 및 운영 레이어와 에이전트 레이어를 제공한다"고 설명했다. 모델 학습 및 운영 레이어는 AI 모델의 학습, 배포, 운영 과정을 효율화해 개발자들의 생산성을 높여준다. 또 에이전트 레이어는 여러 AI 모델 간의 상호작용과 협업을 지원하여 복잡한 AI 시스템 구축을 가능하게 만든다. 이 두 레이어는 기업들이 단일 AI 모델 운영에서 벗어나 다중 모델을 효과적으로 관리하고 장기적으로는 에이전트 AI 시스템을 구축할 수 있는 기반을 제공한다. 이러한 기술적 강점을 통해 베슬에이아이는 이미 국내외에서 다양한 성공 사례를 만들어내고 있다. 국내에서는 뤼튼, 업스테이지, 스캐터랩 등 스타트업부터 현대자동차, LG전자 같은 대기업까지 베슬에이아이의 플랫폼을 도입했다. 고객사 중 일부 기업은 수십억 원에 달하던 거대언어모델(LLM) 운영 비용을 수억 원대로 줄이는 성과를 거둔 것으로 알려졌다. 안 대표는 "우리 플랫폼을 통해 고객사들은 복잡한 인프라 문제에서 벗어나 AI 모델 학습과 배포에만 집중할 수 있는 환경을 제공받고 있다"며 "이는 비용 절감뿐만 아니라 운영 효율성 면에서도 혁신적인 변화를 가져왔다"고 말했다. 해외에서도 베슬에이아이는 유수 기업들과 협업하며 글로벌 시장에서의 입지를 점차 확대하고 있다. 특히 실리콘밸리에 위치한 본사를 중심으로, 현지 AI 생태계와 긴밀히 연결된 활동을 전개하고 있다. 실제로 회사는 미국의 유명 VC인 안드레센 호로위츠가 주최하는 해커톤을 공동 개최하며 현지 스타트업 및 대기업들과의 네트워크를 구축했다. 이 행사를 통해 파인콘, 라마인덱스와 같은 실리콘밸리 AI 선도 기업들과의 협력을 통해 기술력을 인정받았으며 베슬에이아이의 플랫폼이 대규모 AI 모델 운영에 필수적인 도구로 자리 잡을 가능성을 보여줬다. 또 오라클 및 구글 클라우드와의 파트너십을 통해 글로벌 기술 대기업들과 협력하고 있다. 구글 클라우드 공식 블로그에는 베슬에이아이 플랫폼을 도입해 운영 효율성을 향상시킨 사례가 소개되기도 했다. 이러한 협력은 단순히 기술력을 알리는 데 그치지 않고 글로벌 시장에서 베슬에이아이의 경쟁력을 증명하는 중요한 발판이 되고 있다. 안 대표는 이어 곧 다가올 에이전트 AI 시대에 대비해야 한다고 강조했다. 그는 "조만간 웹 브라우저 중심의 패러다임이 AI 에이전트 기반으로 전환될 예정"이라며 "사용자들은 에이전트를 통해 검색, 예약, 의사 결정을 수행하는 시대가 올 것"이라고 설명했다. 베슬에이아이는 이러한 에이전트 AI 시대를 준비하며 기업들이 다중 AI 모델을 효과적으로 학습시키고 협력할 수 있는 환경을 제공하고 있다. 이는 AI 모델 간 상호작용과 협업을 가능하게 하는 컴파운드 AI 시스템 구축으로 이어지며 장기적으로는 기업들이 AI를 통해 더욱 정교하고 자동화된 의사결정을 내릴 수 있도록 지원한다. 안 대표는 "에이전트 시대에는 수많은 AI 모델들이 서로 협력해 의사 결정을 내리는 컴파운드 AI 시스템이 필수적"이라며 "이 시스템을 통해 수십, 수백 개의 특화된 AI 모델들이 협력해 기업 내 다양한 지식을 통합하고, 고도화된 솔루션을 제공할 수 있다"고 강조했다. 그러면서 "우리는 이러한 컴파운드 AI 시스템 구축을 지원함으로써 범용 인공지능(AGI) 실현을 지원할 것"이라고 밝혔다. 안 대표가 컴파운드 AI 시스템과 AGI에 관심을 갖게 된 배경에는 이전에 몸담았던 의료 AI 스타트업에서의 업무 경험이 있다. 당시 그는 병원에서 실시간으로 환자의 생체 신호를 모니터링하고 심정지와 같은 응급 상황을 사전에 감지하는 시스템 개발에 참여했다. 이러한 경험에서 AI 기술이 인간의 삶에 미치는 긍정적 영향을 몸소 목격했다. 안 대표는 "AI가 사람의 생명을 살릴 수 있다는 점을 직접 경험하며 기술의 잠재력에 매료됐다"며 "단순히 의료를 넘어 다양한 산업에서 AI 발전은 인류에 기여할 수 있을 것"이라고 말했다. 그러면서 "기업들에 비용 효율적으로 MLOps 플랫폼을 제공하고 장기적으로는 컴파운드 AI 시스템의 생태계를 제공함으로써 기술의 혜택이 모두에게 돌아갈 수 있도록 노력하겠다"고 강조했다.

2024.11.16 13:02조이환

마이크로소프트, AI 이어 범용로봇 진출한다

마이크로소프트가 오픈AI를 통해 확보한 인공지능(AI) 기술력을 바탕으로 범용 로봇분야까지 진출한다. 최근 MS파워유저 등 외신에 따르면 생츄어리AI는 마이크로소프트와 파트너십을 체결했다고 공식홈페이지를 통해 밝혔다. 이번 파트너십을 통해 양사는 범용 인간형 로봇을 위한 AI모델을 연구 개발할 예정이다. 캐나다 밴쿠버에 위치한 생츄어리AI는 인간과 유사한 지능을 갖춘 범용 로봇 개발을 목표로 하는 스타트업이다. 이들이 개발한 로봇 피닉스(Phoenix)는 카본이라는 AI제어 시스템을 적용해 인간의 행동 데이터를 정교하게 따라할 수 있다. 또한 촉각, 시각 등의 감각을 인식하며 이를 기반으로 복잡한 행동이나 업무도 수행 가능하다. 양사는 생츄어리AI가 개발한 로봇AI 노하우와 마이크로소프트의 대형 언어 모델(LLM) 기술과 애저 클라우드 인프라를 활용해 실제 산업현장 등에서 AI로 학습한 행동을 수행하는 '대형 행동 모델(LBM)'을 선보인다는 계획이다. 애쉴리 로렌스 마이크로소프트 리서치 상무이사는 "우리는 생츄어리AI와 협력해 추론, 계획, 인간-에이전트 협업과 같은 분야에서 AI 모델 혁신을 가속화하고 구체화된 AI 연구를 가속화하게 되어 기쁘게 생각한다”며 “이번 협력을 통해 다양한 산업 전반에 걸쳐 도움을 줄 수 있는 범용 로봇의 미래를 탐구할 것”이라고 말했다.

2024.05.05 09:30남혁우

지금 뜨는 기사

이시각 헤드라인

"반도체 다음은 AI"…SK그룹, 4번째 퀀텀 점프 시동

AWS "해커보다 한발 빠르게…AI로 네트워크 보안 자동화 100% 목표"

[타보고서] 美 고속도로서 손 놓고 '슝슝'…GM이 최초라는 이것

[ZD브리핑] 李정부 첫 한미 통상협의…여야, 총리 청문회·추경 대치

ZDNet Power Center