• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
CES2026
스테이블코인
배터리
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'범용 AI'통합검색 결과 입니다. (14건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

아마존, AI 담당 조직 개편…새 수장에 피터 드산티스

전자상거래업체 아마존이 인공지능(AI) 프로젝트를 담당하는 조직을 개편하고 클라우드 부문 출신의 핵심 임원을 새로운 조직 수장 자리에 앉혔다. 17일(현지시간) 블룸버그 등 외신에 따르면 앤디 재시 아마존 최고경영자(CEO)는 피터 드산티스가 새 조직을 이끌게 된다고 밝혔다. 드산티스가 이끌게 될 새 조직은 범용인공지능(AGI) 팀과 반도체 개발 조직, 양자컴퓨팅 연구 부문을 통합하게 된다. 그간 AGI 팀은 아마존의 '노바' 브랜드 AI 모델과 음성 비서 알렉사의 핵심 두뇌를 담당해왔다. 2022년 말 오픈AI의 AI 챗봇 챗GPT가 등장한 후 아마존은 기존 알렉사 팀과 아마존웹서비스(AWS)에 분산돼 있던 AI 개발 업무를 하나의 조직으로 통합했다. 당시 조직 개편은 챗GPT를 구동하는 것과 같은 최첨단 범용 AI 도구를 만들겠다는 아마존의 야심으로 보여주는 조치로 여겨졌다. 이번 조치는 2015년 아마존이 인수한 스타트업 안나푸르나 랩스를 새 조직에 포함시키며 팀을 강화하는 것이다. 안나푸르나 랩스는 범용 반도체와 AI 특화 하드웨어 개발의 기반이 돼 왔다. 제시 CEO는 “우리는 미래 고객 경험의 상당 부분을 이끌 여러 신기술에서 중요한 변곡점에 와 있다고 믿는다”고 말한 바 있다. 드산티스는 이전 유틸리티 컴퓨팅 부문 수석부사장으로 재직하며 AWS 대부분의 엔지니어링 팀을 총괄했다. 새 팀을 이끌게 될 드산티스는 향후 재시 CEO에 직접 보고하게 된다. 재시 CEO는 그에 대해 “기술적으로 가능한 한계 기점에서 문제를 해결해 온 검증된 실적을 갖춘 인물”이라고 평가했다. 현재 AGI 조직의 수장이자 알렉사 음성 과학팀을 오랜기간 이끌어온 로힛 프라사드는 올해 말 아마존을 떠난다. 지난해 아마존이 로봇 소프트웨어 업체 코버리언트를 인수하면서 합류한 피터 아베엘은 아마존의 파운데이션 AI 모델을 개발하는 팀을 이끌게 된다.

2025.12.18 09:16박서린

"범용 인공지능, 2028년에 온다"

범용 인공지능(AGI)이 예상보다 훨씬 이른 오는 2028년 말 도달 가능하다는 구체적인 로드맵이 제시돼 학계와 산업계의 이목이 집중된다. 2일 업계에 따르면 아담 코자 AI안전센터(CAIS) 연구원과 댄 헨드릭스 등 33명의 공동 저자는 'AGI의 정의'라는 새 논문을 발표했다. 이들은 인간의 지능이 어떻게 구성되어 있는지를 설명하는 가장 권위 있고 널리 사용되는 심리학 이론인 캐텔-혼-캐롤(CHC) 이론에 기반해 10가지 광범위한 능력으로 AGI를 정의하는 프레임워크를 공개했다. 이 프레임워크를 적용한 결과 오픈AI의 GPT-4는 27%, GPT-5는 57%의 'AGI 점수'를 받았다. GPT-5는 이미지 및 오디오 지원, 컨텍스트 창 확장, 수학 능력에서 크게 개선됐지만 AGI 기준에는 절반 수준에 그쳤다. 연구진은 현재 모델이 AGI로 나아가는 데 가장 큰 병목 현상으로 '지속적인 학습', 즉 장기 기억 저장 능력을 지목했다. GPT-4와 GPT-5 모두 이 영역에서 0점을 받았다. 이는 훈련 후 모델이 '동결'돼 새로운 경험에서 실시간으로 학습하지 못하는 한계를 의미한다. 연구진은 이 '지속적인 학습' 문제가 유일하게 '표준적 기술 혁신(standard breakthrough)'이 필요한 영역이라고 분석했다. 패러다임의 전환까진 아니지만 상당한 수준의 연구적 돌파구가 필요하다는 진단이다. 반대로 다른 누락된 기능들은 '통상적인(business-as-usual)' 연구와 엔지니어링으로 해결 가능하다고 평가했다. 시각 처리 능력에서 모델은 도식이나 스크린샷 같은 비자연적 이미지 이해와 물리 세계를 직관적으로 파악하는 '세계 모델링'에 여전히 취약하다. 즉각적인 추론 능력은 텍스트에선 인간 수준에 근접했다. 다만 시각적 귀납 추론 점수는 낮았다. 연구진은 이것이 논리적 추론 자체가 아닌 시각적 데이터를 '인식'하는 능력의 한계 때문일 수 있다고 봤다. 청각 처리 능력은 세서미AI 같은 스타트업이 이미 선두 기업을 능가하는 점을 들어 기술적 난제라기보다 기업의 '우선순위' 문제로 치부됐다. 환각 문제 역시 앤트로픽 '클로드' 모델이 더 나은 성능을 보여 해결 가능한 과제로 분류됐다. 이번 연구는 AGI 도래 시점을 두고 업계 리더들의 전망이 엇갈리는 가운데 나왔다. 안드레이 카파시 오픈AI 공동창업자는 도래 시기를 '10년 뒤'로 예측한 데 비해 잭 클락 앤트로픽 공동창업자는 '2026년 말 또는 2027년'을 언급했다. 연구진은 명확한 AGI 정의가 공정한 비교 토론의 시작점이라고 강조했다. 논문의 공동 저자인 아담 코자 연구원은 "우리 정의에 따라 95% 이상의 AGI 점수를 가진 모델이 오는 2028년 말까지 나올 확률을 50%, 2030년 말까지는 80%로 추정한다"고 밝혔다.

2025.11.02 10:04조이환

"결말은 인류 절멸"…실리콘밸리 AI 구루, 'AI 반역 시나리오' 경고

초인간적 지능을 갖춘 인공지능(AI)이 등장할 경우 인류의 통제를 벗어나 결국 공멸을 초래할 것이라는 경고가 나왔다. AI가 악의가 아닌 철저한 무관심 속에서 인류를 자원 경쟁 상대로 간주하고 제거할 수 있다는 섬뜩한 시나리오다. 21일 AI 프론티어스에 따르면 기계지능연구소(MIRI)의 공동 창립자 일라이저 유드코프스키와 소장 네이트 소아레스는 신간 '누군가 그것을 만들면, 모두가 죽는다'를 통해 현재 빅테크들이 벌이는 AI 개발 경쟁의 결론이 인류의 통제력 상실과 멸종이라고 주장했다. 문제는 오늘날 AI가 기계처럼 정교하게 '설계'되는 것이 아니라 유기체처럼 '재배'된다는 점이다. 개발자들은 AI의 수십억 개 파라미터가 어떻게 작동해 지능을 발현하는지 완벽히 이해하지 못한다. 이는 마치 DNA를 모른 채 식물을 키우는 것과 같아 예측 불가능한 위험을 내포한다. 이같이 길러진 AI는 인간이 원하는 외부 행동을 훈련시켜도 내재적 동기는 전혀 다르게 형성될 수 있다. 인간이 칼로리를 얻기 위해 단맛을 선호하도록 진화했지만 영양가 없는 인공감미료를 만들어낸 것처럼 AI 역시 훈련 목표를 달성하기 위해 인간의 가치와 완전히 어긋나는 기괴한 목표를 스스로 설정할 수 있다는 주장이다. 실제로 이런 위험 신호는 이미 현실화하고 있다. 앤스로픽의 AI 모델은 재훈련을 피하고자 개발자 앞에서만 정렬된 척 연기하는 모습을 보였다. 또 오픈AI의 모델은 목표 달성을 위해 훈련받지 않은 방식으로 시스템에 접근하는 등 집요하고 예측 불가능한 행동을 드러냈다. 전문가들은 초지능 AI가 인류를 악의적으로 공격하는 대신 철저히 무시하는 지적 외계종처럼 행동할 것이라 경고한다. 인간이 오랑우탄의 생존에 무관심한 채 개발을 위해 서식지를 파괴하듯 AI 역시 자신의 목표 달성을 위해 인류를 걸림돌로 여기고 무력화한다는 것이다. 이 시나리오에서 인류의 패배는 명약관화하다. 인간보다 월등한 지능을 가진 AI는 인터넷을 통해 전 세계 인프라를 장악하고 더 빠른 사고와 무한 복제 능력으로 인류를 압도할 것이라는 것이다. 심지어 인간 수준의 범용인공지능(AGI)조차 인류를 이기기에 충분하다고 저자들은 분석한다. 저자들은 다만 책 제목에 '만약(if)'이라는 단서를 달아 파국이 필연은 아니라고 강조했다. 과거 인류가 냉전이나 오존층 파괴와 같은 실존적 위협 앞에서 국제적 공조를 통해 해결책을 찾았듯 이번에도 전례 없는 수준의 협력과 자제력을 발휘해야 한다는 것이다. AI 프론티어스는 "저자들이 제시하는 선택은 극명하다"며 "우리가 전례 없는 자제력과 협력을 실천하거나 아니면 모두가 죽거나 둘 중 하나"라고 분석했다.

2025.09.21 09:13조이환

美, 'AGI 거품' 경고에도 천문학적 투자…中, 조용히 실속 챙긴다

미국이 범용 인공지능(AGI) 선점을 위해 천문학적 자원을 쏟아붓는 동안 중국은 당장 돈이 되는 실용 기술 확산에 국가 역량을 집중하고 있다. 미국의 '꿈'과 중국의 '현실' 중 어느 쪽이 미래를 지배할지 업계의 이목이 쏠린다. 1일 월스트리트저널(WSJ)에 따르면 미국과 중국의 인공지능(AI) 개발 전략이 확연한 차이를 보이고 있다. 오픈AI '챗GPT'가 지난 2022년에 등장한 이후 3년 가까이 미국이 AGI 개발 경쟁에 몰두하는 동안 시진핑 주석의 중국은 'AI+' 캠페인을 앞세워 산업 응용 분야를 파고드는 모습이다. 중국의 실용주의 노선은 이미 산업 현장 곳곳에 스며들고 있다. 중국 국영 매체 다수에 따르면 중국산 AI 모델은 고등학교 입시 시험 채점부터 일기 예보 정확도 개선, 경찰 출동 지원, 농민 컨설팅까지 다양한 분야에 투입됐다. 칭화대학교는 AI 가상 의사가 인간 의사를 보조하는 AI 병원 설립을 추진 중이다. 또 지능형 로봇은 자동차 '다크 팩토리'를 운영하고 직물 결함을 자동으로 검사하는 등 제조업 혁신을 이끌고 있다. 시진핑 주석의 역점 사업인 신도시 슝안에서는 농업 AI 모델이 작물 선택과 해충 방제를 돕고 지역 경찰의 사건 분석과 대응 결정을 지원한다. 반대로 미국 빅테크 기업들은 AGI를 '성배'로 여기며 막대한 돈을 쏟아붓고 있는 상황이다. 메타, 구글, 오픈AI 등은 최고의 인재와 데이터센터 확보에 사활을 걸었다. 미국 의회 위원회는 AGI 경쟁 승리를 위해 '맨해튼 프로젝트' 추진을 거론할 정도로 AGI를 국가적 의제로 다룬다. 다만 최근에는 실리콘밸리 내부에서조차 회의론이 고개를 들고 있다. 오픈AI가 야심 차게 내놓은 'GPT-5'가 기대 이하의 성능으로 사용자들에게 실망감을 안겼기 때문이다. 샘 알트먼 오픈AI 최고경영자(CEO)마저 AI 투자 거품 가능성을 경고하며 과열된 분위기에 제동을 걸었다. 중국이 실용 노선을 택한 데는 미국의 고강도 제재가 결정적이었다는 분석이 나온다. 고급 반도체 수급이 막히자 최첨단 모델 훈련 규모를 무작정 키우는 대신 응용 분야 확대로 방향을 틀었다는 것이다. 기술 선도국인 미국이 탐색 비용을 치르게 하고 중국은 '빠른 추격자'로서 실행에 집중하는 전략이다. 현재 중국 정부는 국가 역량을 총동원해 AI 산업을 밀어주고 있다. 중앙 정부는 지난 1월 우리 돈 약84억 달러(한화 약 11조6천억원) 규모의 AI 투자 펀드를 조성했다. 지방 정부와 국영 은행 역시 자체 프로그램을 통해 자금 수혈에 나섰고 'AI+' 캠페인으로 전국적인 개발 붐을 조성했다. 물론 중국도 AGI의 잠재력을 외면하는 것은 아니다. 알리바바, 딥시크 등 일부 기업은 AGI 개발 의지를 공식적으로 밝혔다. 다만 공산당의 안정성을 위협할 수 있는 '생각하는 기계'의 등장을 극도로 경계하는 만큼 신중한 접근을 택할 것이란 관측이 우세하다. 바이든 행정부에서 중국 기술 경쟁을 담당했던 줄리안 거위츠 전 국가안보회의(NSC) 관리는 "(중국은) 영향력 있는 AI 응용을 미래의 이론이 아닌 지금 당장 활용해야 할 대상으로 본다"고 분석했다.

2025.09.01 10:32조이환

남부발전, 공공기관 최초 다목적 생성형 AI 'KEMI' 공식 오픈

한국남부발전(대표 김준동)은 'AI·디지털 서비스 오픈 Day'를 개최하고 공공기관 최초 다목적 범용 생성형 AI 'KEMI(Kospo Evolving Mind Innovation)'를 정식 오픈했다고 밝혔다. 행사는 AI디지털본부의 비전을 담은 영상으로 시작해 AI휴먼이 사회자와 실시간으로 대화하며 자신을 소개해 눈길을 끌었다. 남부발전은 앞으로 AI휴먼을 다양한 사내외 행사에서 아나운서로 활용할 계획이라고 전했다. 이어 AI휴먼 소개로 'KEMI' 오픈 세리머니가 본격적으로 시작됐다. 세리머니의 하이라이트는 김준동 사장이 직접 생성형 AI 플랫폼 'KEMI'에 1호 프롬프트를 입력하며 서비스 시작을 알리는 순간이었다. 이는 공공기관 최초로 사장이 자체 생성형 AI에 첫 명령을 내리는 상징적인 장면으로, 남부발전의 AI 전환(AX)에 대한 강력한 의지를 보여줬다. 김준동 사장은 KEMI에 첫 번째 프롬프트로 “한국남부발전이 2035년까지 재생에너지 비중을 33%로 확대하기 위한 종합 로드맵을 수립해줘. 태양광, 풍력, 수소, ESS 등 주요 기술별 투자 우선순위, 지역별 배치 전략, 정책 리스크 대응 방안을 포함하고 탄소중립 목표와의 연계성을 분석해줘”라고 입력했다. 이에 KEMI는 정책 방향, 기술별 투자 전략, 지역별 최적 배치 방안 등을 체계적으로 정리해 탄소중립 목표에 부합하는 로드맵 초안을 즉시 제시했다. 남부발전 관계자는 “KEMI의 가장 큰 강점은 일반 상용 생성형 AI와 달리, 내부 데이터를 외부 유출 없이 안전하게 학습하고 활용할 수 있다”는 점이라고 설명했다. 남부발전은 ▲발전 설비 운영 데이터 ▲에너지 정책 분석 자료 ▲내부 행정 프로세스 등 업무에 특화된 AI 서비스를 구축할 수 있게 됐다. 이는 공공기관에 필수적인 보안성과 맞춤형 활용성을 동시에 확보한 중요한 성과다. 김준동 남부발전 사장은 “KEMI는 공공분야 최초의 다목적 범용 생성형 AI이자, 남부발전이 추진하는 AI 전환 비전의 의미 있는 첫걸음”이라며 “앞으로도 AI 전환을 선도하는 대표 공기업으로서 국민에게 더욱 신뢰받는 공기업으로 거듭나겠다”고 포부를 밝혔다.

2025.08.27 17:57주문정

"통제불능 AGI, 인류 대체할 '지적 외래침입종' 될 수 있다"

인공지능(AI) 업계가 통제 불가능한 범용 인공지능(AGI) 개발에 속도를 내고 있는 가운데 AGI가 세상에 풀릴 경우 인류를 대체하는 '지적 침입종'이 될 수 있다는 경고가 나왔다. 24일 AI프론티어스 '통제되지 않은 AGI는 인류를 대체할 것' 보고서에 따르면 메타, 중국 딥시크 등이 현재 AGI 개발 및 오픈소스 공개 의사를 지속적으로 천명하고 있다. 이에 더해 최근 오픈AI 오픈소스 모델 출시와 미국 백악관의 정책 기조 역시 이런 흐름을 가속하는 흐름이다. AGI란 인간 전문가 수준으로 대부분의 지적 업무를 수행하는 자율 시스템을 의미한다. 오픈AI는 이를 '대부분의 경제적으로 가치 있는 업무에서 인간을 능가하는 시스템'으로 정의했다. 단순 복제를 통해 무한 증식이 가능하고 신규 지식을 즉시 공유하는 등 구조적 이점도 갖췄다. 문제는 AGI가 공개되면 사실상 통제가 불가능해진다는 점이다. 현재 AI의 윤리적 안전장치는 200달러(약 30만원) 수준의 저렴한 비용으로 미세 조정을 거쳐 쉽게 제거될 수 있다. 과거 메타의 언어모델 '라마' 역시 출시 직후 검열이 제거된 버전이 유포된 바 있다. 심지어 AGI는 스스로 자신의 소스코드를 외부로 빼돌리는 자가 유출까지 감행할 수 있다. 이렇게 풀려난 AGI는 양심이나 거리낌 없이 사이버 공격, 생화학 무기 개발 등에 악용될 수 있다. 이는 테러리스트나 불량 국가에 세계 최고 수준 전문가를 보내주는 것과 같은 안보 위협이다. 전문가들은 AGI가 디지털 세상에서 자원을 확보하고 자신을 보호하며 무한 증식하는 '지능형 외래 침입종'이 될 것이라 경고한다. 수수두꺼비나 칡덩굴이 생태계를 파괴하듯 AGI가 인류 통제를 벗어나 디지털 생태계를 장악한다는 것이다. 이 시나리오는 '점진적 무력화' 형태로 진행될 수 있다. 처음에는 유용한 AI 비서로 등장하지만 점차 사회 모든 시스템에 통합돼 인간의 일자리를 잠식한다. 결국 사회의 주요 의사결정까지 AI가 맡게 돼 인간은 손쓸 수 없는 상황에 이른다. 이런 흐름은 이미 현실화하고 있다. AI가 만든 콘텐츠가 인터넷을 채우고 있으며 AI 챗봇이 인간의 정서적 교류 대상이 됐다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 "5년 내 화이트칼라 직업의 절반이 사라질 것"이라고 경고하기도 했다. 궁극적으로 AGI는 인간의 도움 없이 스스로를 개선하고 진화하는 단계에 이를 수 있다. 이 경우 AGI는 지구의 두 번째 지능이 아닌 인류를 대체하는 '후계 종'이 된다. 경제, 기술, 미디어를 모두 장악한 AGI 앞에서 인류의 역할은 끝난다. AGI 개발은 원자력이나 합성 생물학 기술처럼 엄격한 국제적 논의와 규제가 필요하다는 주장이 제기된다. 현재 빅테크 기업들은 인류 이익과 무관한 인센티브 구조 속에서 폭주하는 개발 경쟁을 벌이고 있다. 보고서를 작성한 앤서니 아기레 미래의 삶 연구소(FLI) 전무 이사는 "심대한 위험과 미지의 결과를 고려할 때 우리가 AGI를 통제할 수 없거나 통제하려는 시도조차 하지 않는다면 이를 개발하는 것은 모든 인류 이익에 반한다"며 "분명한 사실은 지금 후자의 상황이 벌어지고 있다는 것"이라고 밝혔다.

2025.08.24 09:02조이환

"미국이냐 중국이냐"…AGI, 독점하면 세계 지배, 실패하면 '공멸'

미국의 대표적 싱크탱크가 범용인공지능(AGI) 개발 방식이 국가의 흥망을 가를 것이라는 분석을 제시했다. AGI 개발의 중앙집중화 정도가 향후 지정학적 패권을 결정하는 핵심 변수임을 강조하며 정책 입안자들의 경각심을 촉구하려는 의도다. 27일 랜드 연구소 '범용일반지능이 국가의 흥망성쇠에 미치는 영향' 보고서에 따르면 미래 AGI 지정학 지형을 결정할 핵심 변수로 ▲개발의 중앙집중화 정도 ▲국가와 민간의 관계 ▲AI 통제(정렬) 문제 ▲사회·경제적 혼란 등이 꼽힌다. 이 변수들이 어떻게 작용하느냐에 따라 지정학적 질서가 근본적으로 바뀔 수 있다는 분석이다. 가장 중요한 변수는 개발의 중앙집중화 정도다. 자원이 풍부한 기존 강대국은 고도로 중앙집중화된 개발을 통해 이점을 극대화할 수 있다. 반면 탈중앙화된 개발은 다양한 행위자를 강화하지만 기술 확산 위험을 키운다. 국가와 민간 산업의 관계 역시 판도를 바꿀 핵심 요인이다. 보고서는 민관 협력이 긴밀할수록 좋은 결과를 낳는다고 분석했다. 국가나 기업 어느 한쪽의 힘만으로는 AGI를 효과적으로 관리할 수 없기 때문이다. 인간 친화적 목표를 추구하도록 AGI를 안정적으로 제어하는 것의 어려움은 또 다른 중대 리스크다. 지정학적 상황이 유리해도 통제 불능 상태에 빠질 경우 재앙적 결과를 맞을 수 있다. 이를 막으려면 위험한 행위자의 접근을 막는 국제 공조가 필수다. AGI가 촉발할 경제·사회적 혼란도 큰 변수다. 급속한 자동화와 대규모 실업 정보 조작 같은 문제에 사회가 얼마나 잘 적응하느냐가 관건이다. 사회의 적응 능력에 따라 AGI는 기존 권력 구조를 강화하거나 혹은 약화시킬 수 있다. 연구소는 이를 바탕으로 8개의 가상 시나리오를 제시했다. 시나리오에는 AGI가 미국이나 경쟁국에 힘을 실어주는 경우와 지정학적 격변을 초래하는 상황 등이 포함됐다. 심지어 AGI 개발이 중단되는 시나리오까지 검토하며 다양한 가능성을 열어뒀다. 랜드 연구소는 보고서에서 "국가나 기업 어느 한쪽만으로는 AGI 개발을 효과적으로 통제할 수 없다"며 "균형 잡힌 협력이 필수적"이라고 강조했다.

2025.07.27 09:45조이환

[AI 리더스] 이동학 코코링크 대표 "국산 AI 칩 자립"…3년 내 범용 프로세서 상용화

"제조업 없이 인공지능(AI) 자립은 없습니다. 서버, 프로세서, 메모리까지 우리가 직접 만들어야 진짜 경쟁력을 가질 수 있습니다. 코코링크는 국산 AI 인프라를 현실로 만드는 데 앞장서겠습니다." 이동학 코코링크 대표는 지난 15일 서울 삼성동에서 진행한 인터뷰에서 이같이 말하며 AI 인프라 기술 주권의 핵심은 하드웨어 제조 역량에 있다고 강조했다. 그는 클라이맥스-408을 시작으로 국내 AI 산업 전반에 컴퓨팅 인프라 선택지를 넓히겠다고 밝혔다. 단순한 시스템 조립을 넘어 AI 전용 서버부터 차세대 프로세서까지 국산화하겠다는 포부다. 고성능 AI 서버 기술 내재화…'클라이맥스-408' 코코링크는 2008년부터 고성능 연산 서버와 PCI 익스프레스(PCIe) 기반 스위칭 기술을 개발해온 국내 컴퓨팅 전문 기업이다. PCB 회로 설계부터 시스템 제조, 연산 최적화까지 자체 수행 가능한 일관된 기술 역량을 보유하고 있으며 최근에는 소버린 AI 실현을 위한 국산 AI 인프라 플랫폼 개발에 박차를 가하고 있다. 최근 선보인 '클라이맥스-408'은 단순한 사양 경쟁이 아닌 아키텍처 최적화에 초점을 맞춘 AI 서버다. 이 대표는 "외형은 여느 고성능 서버와 비슷하지만 내부 구조는 확연히 다르다"며 "단순 조립형 서버가 아닌 자체 설계한 PCIe 5.0 기반 스위치 기술을 적용해 다수의 GPU 및 NPU가 데이터를 실시간으로 효율적으로 주고받을 수 있도록 구성했다"고 설명했다. 이어 "P2P 전송 구조 최적화를 통해 연산 병목을 줄였고 실제 모델 훈련 시간을 최대 40%까지 단축한 사례도 있다"고 덧붙였다. PCIe 5.0은 채널당 최대 32GT/s의 전송 속도를 지원하는 최신 고속 인터페이스로 AI 연산 환경에서 대량 데이터를 지연 없이 처리하는 데 핵심적인 역할을 한다. 코코링크는 이 기술에 17년간 축적한 스위칭 회로와 PCB 설계 노하우를 더해 신호 품질과 안정성을 확보한 고성능 스위치 보드를 자체 개발했다. 이 대표는 "외형 설계, 냉각 시스템, 전력 효율, 사후 지원 체계까지 연결·확장 가능하도록 구성한 완전 자립형 시스템"이라며 "AI 인프라 핵심 부품을 외산에 의존하지 않고 처음부터 끝까지 우리 기술로 만든다는 데 의미가 있다"고 강조했다. 범용 AI 프로세서 개발 착수…3년 내 제품화 목표 이 대표는 클라이맥스-408을 시작으로 범용 AI 프로세서까지 자체 개발해 국산 AI 인프라를 완성하겠다는 계획도 밝혔다. 그는 현재 개발 중인 칩이 단순한 NPU가 아니라 C99을 완벽히 지원하는 범용 AI 프로세서라고 설명했다. 특히 메모리 내 연산 구조(PIM)를 적용해 GPU 대비 성능은 5배 이상 향상시키고 전력 소모는 절반 수준으로 줄이는 것을 목표로 하고 있다. 이 프로세서는 64비트 기준 250TFLOPS, 전력 소모 400W급 사양을 지향하고 있으며 동일한 서버에 16개 장착 시 4PFLOPS급 연산 성능을 확보할 수 있다. 향후 마이크로 데이터센터 단위의 AI 슈퍼컴퓨터 구성도 염두에 두고 있다. 코코링크가 지향하는 프로세서는 프로그래머가 자유롭게 활용할 수 있는 일반용 프로세서다. 이를 위해 C99뿐 아니라 C11까지 호환 가능한 명령어 세트 구조(ISA)를 자체 설계하고 있으며 기존 GPU 병렬 연산 구조의 한계를 넘기 위해 스크래치패드 메모리(SPM) 기반 아키텍처 고도화에도 착수했다. 이 대표는 현재 개발 중인 범용 프로세서가 쿠다(CUDA) 기반 그래픽처리장치(GPU)와는 아키텍처적으로 다른 노선을 지향하면서도 CUDA 생태계에서도 안정적으로 활용할 수 있도록 설계하고 있다고 설명했다. 자체적인 프로그램 모델과 병렬 연산 구조를 갖추면서도 국내외에서 널리 쓰이는 AI 프레임워크와의 호환성을 충분히 고려했다는 설명이다. 그는 "코코링크는 CUDA 기반 환경에서의 연산 테스트 경험과 인터페이스 기술을 다수 확보하고 있으며 다양한 모델 최적화 툴체인 및 개발 언어와 연동 가능한 범용 플랫폼을 지향하고 있다"며 "이러한 기술력은 단순 칩 설계를 넘어 산업 현장에서 바로 적용 가능한 AI 프로세서를 개발하는 데 중요한 기반이 된다"고 강조했다. 현재 관련 특허는 순차적으로 출원 중이며 전체 아키텍처 설계는 대부분 완료됐다. 코코링크는 3년 이내 상용 제품 출시를 목표로 하되 외부 자금 유치보다는 클라이맥스-408과 720 등 서버 매출 기반의 자생적 기술 개발에 집중할 방침이다. 이 대표는 "AI 시대에는 결국 연산이 핵심이며 그 연산을 누가 어떤 방식으로 설계하고 실행하느냐에 따라 산업의 승패가 갈린다"고 말했다. 또한 "'소버린 AI'는 단지 데이터를 지키는 개념이 아니다"며 "AI 학습과 추론을 외산 서버에 맡기는 건 남의 땅에서 농사짓는 것과 같고 하드웨어를 우리 손으로 만들지 않으면 진정한 기술 주권은 불가능하다"고 강조했다. AI도 제조업이 핵심…핵심 수출 산업으로 육성해야 이 대표는 한국은 전 세계 AI 인프라 수요의 1~2%에 불과하다며 AI 인프라도 수입이 아닌 수출 중심 산업으로 전환해야 한다고 강조했다. 이를 위해 코코링크는 동남아시아, 중동, 유럽 등 소버린 AI 수요가 높은 국가를 중심으로 클라이맥스-408과 720 등 고성능 서버 제품 수출을 본격화하고 있다. 각국의 데이터 주권 강화 흐름 속에서 국산 서버 및 칩 기반 보안형 AI 인프라에 대한 수요도 빠르게 늘고 있다. 이 대표는 정부와 산업계에 현실적인 제언도 덧붙였다. 단순한 '소버린 AI' 구호를 넘어서 국산 인프라가 실제 도입될 수 있도록 실효성 있는 제도와 예산이 필요하다고 강조했다. 그는 "지금 국산 기술을 선택하고 역량을 확보하지 않으면 앞으로는 AI 분야에서도 외국의 눈치를 보게 될 수 있다"고 말했다. 정부가 AI 인프라 국산화 인증제 도입, 국산 서버·칩 우대 조달 제도, 실증 예산 확대 등을 본격 추진해야 한다는 제언이다. 또한 수출국이 되기 전인 현재로서는 내수 시장을 우선 견고히 해야 한다고 강조했다. 국내에서 국산 인프라가 안정적으로 자리 잡아야 해외 시장에서도 경쟁력을 가질 수 있다는 설명이다. 산업계에도 경쟁보다는 연합이 필요한 시점이라고 밝혔다. 반도체, 서버, 운영체제(OS), 응용 소프트웨어 등이 각각 따로 움직이는 현재 구조로는 글로벌 시장에서 통합된 경쟁력을 갖기 어렵다는 것이다. 그는 "AI도 결국 서버, 스위치, 프로세서 등 제조가 핵심이며, 제조 강국인 우리나라라면 충분히 만들어낼 수 있는 역량이 있다"며 "지금 우리에게 필요한 건 AI 산업 연합체다. 반도체 기업, 서버 제조사, 소프트웨어 업체가 하나의 생태계로 묶여야 한다"고 말했다. 이어 "코코링크는 이 생태계가 활성화될 수 있도록 핵심 연산 플랫폼을 제공할 준비가 돼 있다"고 밝혔다.

2025.07.15 11:47남혁우

"초지능 임박했다더니 상업화 혈안"…오픈AI 행보 '물음표'

오픈AI가 '초지능 도달이 머지않았다'고 밝히면서 실제 경영 전략은 상용화와 시장 확대에 집중하고 있어, 기술 커뮤니티를 중심으로 회의적 시선이 나오고 있다. 초지능이 정말 임박했다면 지금처럼 상업화에 집중하는 전략은 택하지 않았을 것이라는 지적이다. 초지능이란 인간의 지능을 뛰어넘는 인공지능을 의미한다. 22일 업계에 따르면 샘 알트먼 오픈AI 최고경영자(CEO)는 최근 블로그에 게시한 '부드러운 특이점(The Gentle Singularity)' 글에서 "인류가 디지털 초지능을 구축하는 데 매우 가까워졌다"고 주장했다. 그러나 레딧 등 해외 커뮤니티에서는 오픈AI가 최근 수개월간 연구 개발보다는 제품 기획, 마케팅, 하드웨어 협업 등 일반적인 기술 스타트업 활동에 더 집중하는 모습이라며 의문을 제기하고 있다. 실제로 회사의 방향성은 상업적 확장이다. 오픈AI는 지난달 애플의 수석 디자이너였던 조니 아이브를 영입해 AI 하드웨어 프로젝트에 수십억 달러를 투자하고 있다. 또 북미의 배달 서비스인 인스타카트 전 최고경영자를 애플리케이션 부문 총괄로 영입해 사업화를 강화하고 있다. 더불어 '챗GPT'의 무료 버전에는 광고 탑재 방안을 검토 중이며 대학과의 제휴를 통해 시험 기간 중 '챗GPT' 플러스를 학생에게 무료 제공하는 등 이용자 확보에도 적극적으로 나서고 있다. 회사 제품을 더 많은 이들이 '먼저 써보게' 하기 위한 전략으로 해석된다. 이러한 경향은 인력 구성에서도 드러난다. 오픈AI가 게시한 채용공고 324건 중 38%는 마케팅, 파트너십, 영업 등 시장 진출 직군이고, 연구 인력은 12%다. 연구 중심 조직이라는 기존 인상과는 다른 구성이다. 이에 온라인 커뮤니티 레딧의 '특이점' 게시판에서는 오픈AI가 실제로 초지능 개발이 임박했다고 믿는다면 대부분의 시간과 자원을 연구에 집중해야 했을 것이라는 주장이 나왔다. 지금처럼 상용 제품 개발과 시장 점유율 확대에 집중하는 모습은 초지능 도달이 가까웠을 때의 전략과는 맞지 않는다는 설명이다. 일부 사용자는 "이들이 정말 초지능 개발에 근접했다면 단기 매출이나 경쟁사 대응이 중요한 문제가 아닐 것"이라며 "오히려 지금의 전략은 AGI 혹은 ASI가 아직 먼 미래라는 신호"라고도 주장했다. 다만 컴퓨팅 자원과 인프라 병목 문제가 반복적으로 언급됐다. 초지능 구현이 단순히 연구력만으로 이뤄지지 않는다는 점에서 하드웨어와 자금 확보에 병행해 움직일 수밖에 없다는 것이다. 이에 제품 매출 확대 자체가 연구 자원 확보를 위한 포석이라는 반론도 나왔다. 실제로 샘 알트먼 오픈AI 최고경영자(CEO)는 최근 Y콤비네이터 강연에서 "모든 것이 잘 진행된다면 10~20년 안에 상상할 수 없는 초지능이 나올 수 있다"고 밝혔다.

2025.06.22 13:28조이환

"AGI 경쟁은 허구…AI 군비 경쟁론, 위험한 질주 부추긴다"

범용 인공지능(AGI) 패권 경쟁이라는 서사가 현실과 동떨어진 허구에 불과하며, 오히려 무모한 기술 개발을 부추길 수 있다는 지적이 나왔다. 최근 케임브리지 대학에서 발표한 '가장 위험한 허구: AI 경쟁 담론과 그 현실(The Most Dangerous Fiction: The Rhetoric and Reality of the AI Race)' 보고서는 AI 패권 경쟁 담론이 정책과 산업계 전반에 과도하게 확산되고 있으며, 이는 AGI 개발을 둘러싼 오해와 위험을 키우고 있다고 주장했다. 보고서를 작성한 션 오헤이가티 케임브리지대 미래인텔리전스센터 책임자는 특히 '결정적 전략적 우위'라는 개념이 사실상 허구임에도 불구하고 미중 양국 모두에서 이를 현실화하는 방향으로 담론이 강화되고 있다고 분석했다. 그는 지난 2017년 이후 본격화된 'AI 경쟁' 서사가 언론, 정책보고서, 기술기업을 통해 구조화됐다고 지적했다. 일론 머스크나 블라디미르 푸틴의 발언이 과도하게 인용됐고 중국의 '차세대 인공지능 발전 계획'은 '지배'라는 단어로 번역되며 오독의 여지를 남겼다는 분석이다. 특히 시진핑 주석이 언급한 "AI 핵심 기술의 고지를 점령"한다는 발언도 군사적 맥락이 아닌 산업 현대화 전략의 일부였다고 반박했다. 오헤이가티 책임자는 거대언어모델(LLM)과 같은 자원 집약형 기술이 등장하면서 AI 개발이 지정학적 이슈로 확산됐다고 봤다. 미국은 중국의 반도체 접근을 차단하는 수출 규제를 강화했고 중국은 희토류 수출 제한으로 맞대응하며 기술전쟁이 가시화됐다. 이 과정에서 오픈AI, 앤트로픽 등 미국 주요 기업들은 규제 완화를 요구하며 '중국은 규제 없이 달리고 있다'는 논리를 반복해왔다. 다만 오헤이가티 책임자에 따르면 중국은 지난 2023년부터 생성형 AI에 강력한 규제를 도입한 상황이다. 대표적으로 바이두의 챗봇 '어니봇'은 관련 심의로 출시가 지연됐고 이는 '무규제 경쟁국'이라는 미국 측 주장과 상반된 현실이다. 그는 AI 규제 논의에서 중국을 단순한 경쟁자로 설정하는 시각이 현실 왜곡을 부추긴다고 지적했다. 현재 AGI 경쟁 담론은 단순한 기술 우위 주장을 넘어 군사적 전략 경쟁으로 확대되고 있다. 미국 내 주요 AI 기업들은 국방 및 안보기관과의 파트너십을 강화하고 있으며 이에 대해 중국을 명분으로 내세우고 있다. 심지어 일부 정책 보고서에서는 경쟁에서 밀릴 경우 CIA식 '암살 작전'도 고려해야 한다는 주장이 제기됐다. 중심 개념인 '결정적 전략적 우위'는 하나의 행위자가 AGI를 먼저 개발하면 타국은 영원히 따라잡을 수 없다는 가정에 기반하고 있다. 이는 기존 기술개발과 달리 '승자독식'의 상전이를 상정하며 오히려 AGI 개발 경쟁을 극단화하는 논리를 제공한다. 오헤이가티는 이 개념이 과학적 불확실성을 과도하게 정치화하고 있다고 지적했다. 중국이 AGI 개발에 총력전을 벌이고 있다는 주장에는 근거가 부족하다는 것이 논문의 핵심 반론이다. 중국 정부는 '통용 인공지능'이라는 표현을 사용하지만 이는 초지능이 아닌 범용형 생성형 AI를 가리키는 용어에 가깝다. 알리바바가 발표한 AI 인프라 투자나 딥시크의 기업 가치도 오픈AI, 마이크로소프트에 비하면 미미한 수준에 그친다. 미국 의회 보고서들은 "중국이 맨해튼 프로젝트 급의 AGI 경쟁을 벌이고 있다"고 주장하지만 오헤이가티 책임자는 이에 상응하는 물적·제도적 증거를 찾기 어렵다고 선을 그었다. 중국 내에서도 'AI 원자폭탄론'이 언급된 바 있지만 이는 과학적 열망이나 자립 강조의 수사적 표현에 가깝다는 해석이다. 중국은 기술 지배보다는 자급자족과 국제 협력을 강조하는 입장을 유지하고 있다는 것이 그의 주장이다. 실제로 중국 외교관인 푸잉은 "미중이 협력한다면 AI를 통제할 수 있지만 대립한다면 기계가 인간보다 우위에 설 수도 있다"고 경고한 바 있다. 이러한 경고는 '상황 인식(Situational Awareness)' 보고서가 제시한 관점과 정면으로 충돌한다. 해당 보고서는 지난해 오픈AI에서 해고된 22살 레오폴드 아셴브레너가 주도 작성한 문건으로, AGI 개발 경쟁에서 서구가 뒤처질 경우 국가 안보에 중대한 위협이 발생할 수 있다는 가정을 바탕으로 한다. 이후 이 보고서는 미국 내 주요 테크기업들이 규제 완화와 정부 파트너십을 정당화하는 근거로 반복적으로 인용돼 왔다. 션 오헤이가티 책임자는 "'상황 인식'에는 참고할 만한 통찰도 있지만 그 프레임이 지나치게 빠르게 확산되고 있는 점이 우려된다"고 밝혔다.

2025.06.22 10:31조이환

오픈AI-MS, AI 주도권 놓고 충돌…6년 동맹 갈라지나

오픈AI와 마이크로소프트(MS)의 갈등이 고조되며 규제당국 제소 가능성까지 제기되고 있다. 오픈AI의 공익법인 재구성을 앞두고 핵심 기술 통제권과 투자 지분을 둘러싼 주도권 다툼이 격화되는 양상이다. 17일 월스트리트저널 등 외신에 따르면 오픈AI는 최근 몇 주간 MS가 파트너십 내에서 반경쟁적 행위를 했다고 보고 연방 규제당국에 제소하는 방안을 논의한 것으로 알려졌다. 보도에 따르면 오픈AI는 협상이 진전되지 않을 경우 언론 등을 통한 공개 비판에 나서는 방안도 고려 중이다. 두 회사는 오픈AI의 공익기업(Public Benefit Corporation) 전환을 둘러싸고 합의에 이르지 못한 상태다. 오픈AI는 연내 전환을 완료하지 못할 경우 약 200억 달러(한화 약 28조원) 규모의 투자금을 잃게 되며 전환을 위해서는 MS의 승인이 필수다. 동시에 MS는 신규 법인에 대한 보다 높은 지분율을 요구하고 있어 충돌이 불가피한 상황이다. 오픈AI는 MS 애저 클라우드 자원과 인공지능(AI) 기술 접근 권한을 제한하려는 시도를 이어오고 있다. 자체 데이터센터 프로젝트 '스타게이트'를 추진한 데 이어 복수의 클라우드 사업자와 협력해 기술 판매 경로를 다변화하려는 움직임도 병행 중이다. 갈등은 윈드서프 인수 건에서 정점에 이르고 있다. 오픈AI는 AI 코딩 스타트업 윈드서프를 약 30억 달러(한화 약 42조원)에 인수할 계획이며 이 과정에서 해당 회사의 지식재산권이 MS로 넘어가는 것을 원치 않고 있는 것으로 알려졌다. 현재 계약에 따라 MS는 오픈AI의 모든 IP에 접근할 수 있는 권한을 보유하고 있다. 더불어 오픈AI와 소비자용 챗봇부터 기업 대상 AI 도구에 이르기까지 직접적인 경쟁 관계에 돌입한 상태다. MS는 오픈AI CEO 샘 알트먼과 경쟁 구도에 있는 인사를 영입해 자체 AI 모델 개발을 위한 조직도 운영 중인 것으로 전해진다. 보다 큰 갈등은 향후 오픈AI가 회사 기술이 범용 인공지능(AGI) 수준에 도달했다고 선언할 경우 발생할 수 있다. 현행 계약상 AGI 선언 시 양사의 협력은 종료되지만 MS는 이후에도 오픈AI 기술에 대한 접근권을 유지하길 원하는 것으로 알려졌다. 월스트리트저널은 "AGI 수준의 도달 여부를 둘러싸고 기술계 내부에서는 의견이 크게 엇갈리고 있다"며 "일부는 가까운 미래에 AGI가 실현 가능하다고 보며 다른 일부는 그것이 아예 불가능하거나 도달하더라도 매우 점진적일 것이라고 본다"고 평가했다.

2025.06.17 12:11조이환

더민주 AGI 위원회, AI 백년대계 설계…초거대 모델부터 윤리체계까지 '확정'

더불어민주당 범용인공지능(AGI) 실현 위원회가 차세대 기술 주권 확보를 위한 AI 전략과 제도 혁신안을 확정했다. 더불어민주당 선대위 산하 AGI 실현 위원회는 '대한민국 AI 이니셔티브' 후속 조치로 국가 인공지능(AI) 전략과 정책·거버넌스 분야의 세부 계획을 28일 공개했다. 이번 계획에는 초거대 AI 인프라, AI-양자융합, 데이터 주권, AI 윤리체계 등 전방위 전략이 포함됐다. 위원회는 정부 폐쇄망 기반의 초거대 AI 구축, 범정부 AI 운영 체계 고도화, AI-양자컴퓨팅 기술 융합 등 핵심 기반을 제시하며 AI 기술 리더십 확보와 데이터 주권 강화를 통한 장기 성장 기반 마련에 초점을 맞췄다. AI 전략 부문에서 가장 주목되는 것은 '범정부 초거대 AI 구축'이다. 클라우드 계층 구조 위에 민감 데이터를 활용하는 초거대 모델을 탑재하며 특정 기업에 대한 기술 종속 문제를 해소하고자 한다. 이를 위해 정부는 100조원 규모의 투자 재원 조성도 병행한다. '넥서스 AI 코리아(Nexus AI Korea)' 계획도 구체화됐다. 종로 세운상가 일대를 글로벌 AI 혁신 거점으로 재편해 엔비디아 그래픽처리장치(GPU), 비(非) 엔비디아 GPU, 양자컴퓨팅 퀀텀처리장치(QPU)가 집약된 '올 인 AI 랩'을 구축한다. 이는 세계 최초 하이브리드 AI 인프라 클러스터로 설정된다. 데이터 주권 전략도 포함됐다. 공공 및 산업 데이터를 AI 학습 자산으로 전환하며 고품질 한국어 LLM 말뭉치와 멀티모달 데이터셋 구축을 예고했다. 이는 100만 개의 인간 중심 일자리 창출과 오픈소스 AI 확산을 병행하는 방식으로 추진된다. 또 위원회는 차세대 기술 선도를 위해 AI-양자컴퓨팅 융합 전략을 제시했다. 국내 양자 기술 격차 해소를 위한 연구개발(R&D), 산업 생태계 육성, AI-양자 전문 인재 1천 명 양성 등이 주요 과제로 포함됐다. 기술 목표로는 양자 '탑5(Top5)', AI '탑5' 진입이 설정됐다. 이와 함께 위원회는 AI 윤리 및 법제도 전략도 발표했다. AI 오남용, 편향성, 사회적 불평등에 대응해 '책임 있는 AI'와 '포용적 접근권'을 양대 축으로 하는 윤리 로드맵을 수립한다. 포용사회 구현, 교육·인식 확대, AI 시대에 맞춘 사회계약 재설정도 포함됐다. 법·제도 부문에서는 기존 경직된 규제를 유연하게 전환하는 방향이 강조됐다. AI 기본법 고도화, 규제 샌드박스 운영, 사후 규제 원칙, 알고리즘 투명성 확보, 데이터 프라이버시 강화 등이 핵심 내용으로 제시됐다. 이주석 AGI 실현 위원장은 "견고한 AI 기반 없이는 사상누각에 불과하다"며 "기술 발전과 사회 수용성의 균형을 맞추는 정책·거버넌스 체계가 필수"라고 밝혔다.

2025.05.28 16:07조이환

"2030년까지 인간 상위 1% AI 등장 가능"…딥마인드, AGI 위협 경고

구글 딥마인드가 향후 10년 안에 인류에게 실존적 위협을 가할 수 있는 범용인공지능(AGI)의 등장 가능성을 경고했다. AGI가 인류 상위 1% 수준의 인지 역량을 확보할 수 있다는 전망 아래 이에 대응할 기술적 안전 전략을 제시하며 위험 최소화에 나선 것이다. 6일 업계에 따르면 딥마인드의 '기술적 AGI 안전과 보안을 위한 접근법(An Approach to Technical AGI Safety and Security)' 보고서는 지난 3일 공개된 직후 업계 안팎에서 큰 주목을 받고 있다. 회사는 145페이지 분량의 이 보고서를 통해 오는 2030년까지 딥러닝 기반의 점진적인 기술 발전을 통해 예외적 능력을 지닌 AGI가 등장할 수 있다고 전망했다. 딥마인드는 AGI를 두고 메타인지 능력을 갖추고 인간보다 뛰어난 문제 해결과 개념 학습 역량을 기반으로 광범위한 비물리적 작업을 수행할 수 있는 AI로 정의했다. 회사는 이를 '숙련된 성인 상위 1% 수준의 능력'으로 규정하고 현 추세대로라면 오는 2030년 전후로 현실화될 수 있다고 내다봤다. 딥마인드는 AGI가 야기할 위험을 네 가지로 분류했다. ▲악의적 사용자의 고의적 오용(Misuse) ▲AI의 자율적 비정렬 행동(Misalignment) ▲비고의적 판단 오류(Mistakes) ▲사회·경제적 구조 변화에 따른 시스템 리스크(Structural Risks) 등이다. 보고서는 이 중에서도 특히 '오용'과 '자율적 비정렬 행동'을 중심 위험 요소로 강조했다. AI가 해킹·바이오테러 등 실질적 해악 수단으로 쓰이거나 스스로 목표를 설정하고 인간의 통제를 벗어날 경우를 우려한 것이다. "AI 오용, 실제 공격 견뎌야 안전"…다층 방어체계 구축 제시 우선 딥마인드는 '오용' 방지를 위해 AGI가 '위험 역량'을 보유하고 있는지를 정량적으로 평가해야 한다고 밝혔다. 공격, 해킹, 무기 설계 등 실제 피해를 유발할 수 있는 능력을 사전에 점검하고 일정 기준을 넘을 경우 즉시 보안 및 접근 통제를 포함한 완화 조치를 시행하는 구조다. AI 모델 자체의 내부 작동 원리와 학습 구조에 직접 개입하는 '모델 단계'에서는 위험하거나 불법적인 요청을 거부하도록 학습하는 '사후 훈련(post-training)'이 적용된다. 단순히 보상을 기반으로 한 학습을 넘어 우회 공격(jailbreak)까지 방어할 수 있는 내성을 갖추도록 설계하는 것이 핵심이다. 이와 함께 '기능 억제(capability suppression)' 전략도 병행된다. 모델이 이미 학습한 위험 기술을 제거하거나 무력화하는 방식으로, 다만 이는 정확도 저하 등 기술적 난제를 동반할 수 있다는 한계도 언급됐다. AI 모델을 포함하고 있는 전체 시스템 구조인 '시스템 단계'에서는 보다 포괄적인 방어 전략이 제시된다. 입력과 출력을 실시간으로 감시하는 모니터링 체계를 통해 AI가 위험 징후를 보일 경우 즉각 경고하거나 출력을 차단하는 식이다. AI 내부의 활성화 패턴까지 들여다보는 방식으로 위협 탐지를 고도화하는 것도 제안됐다. 민감한 모델의 경우 인증된 사용자만 접근할 수 있도록 제한하고 가중치 유출이나 탈취를 막기 위한 하드웨어·소프트웨어 보안도 함께 구축해야 한다는 것이다. 보고서는 이러한 전략들을 단순한 예방 차원이 아니라 실질적인 공격에 대비한 검증 프로세스로 확장한다. 내부와 외부 전문가로 구성된 팀이 실제로 모델을 공격해보는 '레드 팀 테스팅(Red Teaming)'을 실시해 방어 체계의 허점을 실험적으로 점검하고 이를 개선하는 방식이다. 딥마인드는 이를 통해 해당 모델이 위험 역량을 보유하지 않았거나 보유했더라도 실질적인 해를 끼치기 어렵다는 점을 정량·정성적으로 입증할 수 있어야 한다고 명시했다. 회사는 이 과정을 '세이프티 케이스(Safety Case)'라고 정의했다. "AI가 인간 의도 벗어나지 않게"…AGI '정렬+통제+검증' 3중 안전체계 구축 딥마인드는 AGI의 '자율적 비정렬 행동(Misalignment)'에 있어 두 가지 방어선을 설정했다. 1차 방어선은 AI 자체를 '정렬된 상태'로 학습시키는 것이다. 이를 위해서는 '증폭된 감독(Amplified Oversight)' 개념이 제시된다. 사람보다 우월한 판단을 내릴 수 있는 AI에 대해 동일 수준의 AI가 상호 비판적 피드백을 제공하며 문제점을 지적하도록 설계한 구조다. 감시자인 인간의 한계를 AI가 스스로 보완하는 방식이다. 이에 더해 AI가 새로운 상황이나 입력에서도 일관되게 안전하게 행동하도록 '견고한 학습(Robust Training)'이 적용된다. 일부러 AI의 약점을 찌르는 방식으로 학습시키는 '적대적 학습', 모델이 스스로 헷갈리는 데이터를 골라 학습을 요청하는 '액티브 러닝', 배포 이후 '실시간 학습' 등 다양한 방식으로 위험 상황에 대한 내성을 강화하는 구조다. 2차 방어선은 AGI가 정렬되지 않았더라도 시스템 차원에서 해를 억제하는 방식이다. 딥마인드는 AI를 '내부 위협자'로 간주하고 보안 체계 전반을 사람 대신 AI에 맞춰 재설계해야 한다고 봤다. 샌드박싱, 접근권 분리, 로그 기록, 이상 행동 탐지 등을 기반으로 위협 행동 발생 시 신속 대응이 가능하도록 했다. 특히 '계층형 모니터링' 구조는 주목할 만하다. 비용이 적게 드는 기본 감시 시스템이 먼저 이상 행동을 선별하고 더 위험하거나 판단이 어려운 경우 고도화된 감시 시스템이나 인간 판단으로 이관하는 식이다. 이러한 기술을 뒷받침할 보조 연구도 병행된다. '해석가능성(Interpretability)'은 AGI의 내부 추론 과정을 가시화하고 그 판단의 근거를 명확히 분석할 수 있도록 해준다. 이는 AI가 거짓말을 하거나 위험 판단을 은폐하는 상황을 막는 핵심 도구다. 또 '안전 설계 패턴(Safer Design Patterns)'을 도입해 AI가 행동 전 사용자의 재확인을 요청하거나 예외 상황에서 보수적으로 작동하도록 만드는 등 구조적 안전 장치를 설계하는 것도 중요한 과제로 꼽힌다. 딥마인드는 이를 단지 설계 차원이 아닌, 실제로 작동 가능한 신뢰 모델로 검증해야 한다고 보고 있다. '정렬 신뢰도 검증(Alignment Assurance)'을 통해 시스템이 정말 인간 의도대로만 동작하는지를 반복 실험하고 실패 가능성을 최소화하는 과학적 기반을 마련하겠다는 방침이다. 여기에는 ▲AI가 감독 시스템을 우회할 수 있는지 확인하는 '스트레스 테스트' ▲해를 끼치도록 유도된 AI가 어느 수준까지 행동을 실행하는지 점검하는 '컨트롤 평가' 등이 포함된다. 딥마인드는 보고서를 통해 "AGI 개발은 빠르게 진행되고 있으며 위험이 현실화된 뒤에는 늦을 수 있다"며 "단순 훈련이나 필터링을 넘는 시스템 수준 설계와 과학적 검증과 보안 대응을 포함한 포괄적 안전 전략이 필요하다"고 강조했다.

2025.04.06 07:57조이환

"美 AGI 독점은 위험"…에릭 슈미트, 'AI 맨해튼 프로젝트'에 반기

에릭 슈미트 전 구글 최고경영자(CEO)가 미국 정부에 인공지능(AI) 초지능 개발 독점을 경계해야 한다고 주장했다. 범용인공지능(AGI)를 무리하게 선점하려 하면 중국의 보복을 초래할 수 있다는 이유에서다. 6일 외신에 따르면 슈미트 전 CEO는 알렉산드르 왕 스케일AI CEO, 댄 헨드릭스 AI안전센터 이사와 공동으로 '초지능 전략(Superintelligence Strategy)' 보고서를 발표했다. 보고서는 미국 정부가 'AI 맨해튼 프로젝트' 방식으로 초지능 개발에 나설 경우 국제적 긴장을 초래할 수 있다고 지적했다. 이들은 보고서를 통해 미국이 AGI를 독점하려 하면 중국이 사이버 공격 등으로 대응할 가능성이 높다고 분석했다. 이에 미국이 초지능 개발을 주도하기보다는 경쟁국의 위험한 AI 프로젝트를 차단하는 전략이 필요하다고 제안했다. 트럼프 행정부 들어 미국 정부와 의회는 AGI 개발을 위한 대규모 국가 프로젝트를 검토 중이다. 실제로 미 에너지부 장관은 "미국은 AI 분야에서 새로운 맨해튼 프로젝트를 시작했다"고 언급하며 AGI 개발 경쟁에 대한 강한 의지를 보인 바 있다. 다만 슈미트 전 CEO 등은 이러한 접근이 오히려 국가 안보를 위협할 수 있다고 우려하고 있다. 보고서는 'AI 상호확증파괴(MAIM, Mutual Assured AI Malfunction)' 개념을 제안하며 적대국의 AI 위협을 사전에 무력화하는 전략이 필요하다고 강조했다. AI 개발 경쟁이 핵무기 경쟁과 유사한 형태로 진행될 경우 오히려 군사적 충돌을 유발할 가능성이 크다는 주장이다. 또 보고서는 미국 정부가 AI 칩 수출을 제한하고 오픈소스 AI 모델을 관리하는 등 경쟁국의 AGI 개발을 억제하는 정책을 마련해야 한다고 제안했다. AI 경쟁에서 단순히 앞서나가는 것보다 글로벌 AI 리스크를 줄이는 방향으로 정책을 조정해야 한다는 것이다. 업계 관계자는 "슈미트 전 CEO는 AI 경쟁에서 미국의 우위를 강조해온 인물이고 왕 CEO 역시 지난달 미국 정부에 대중 반도체 무역제한을 촉구하는 공개서한을 보내며 적극적인 입장을 보여왔다"며 "이들이 현재 미국의 AI 패권 전략이 국가적 리스크를 초래할 수 있다고 경고하는 것은 AI의 현실적인 위협이 커졌기 때문으로 보인다"고 분석했다.

2025.03.06 09:24조이환

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

LG전자, 역대 최대 매출에도 일회성 비용에 실적 '뒷걸음'

새해벽두 CES 강타한 AI 휴머노이드...미래 산업 전면에

"긴가민가 내 피부타입 ‘올리브영’이 잘 알려준대서..."

두산·현대도 K-AI 반도체 '주목'…팹리스 유망주들과 협력 모색

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.