검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'AI GPU'통합검색 결과 입니다. (296건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

엘리스클라우드, 오픈소스 AI 생태계 최적화 솔루션 선보여

엘리스그룹(대표 김재원)의 AI 특화 클라우드 '엘리스클라우드'가 오픈소스를 포함한 다양한 범용 AI 모델을 클라우드 환경에서 안전하고 편리하게 사용할 수 있는 솔루션을 20일 공개했다. 엘리스클라우드는 기존 머신러닝(ML) API 기능을 업그레이드해 오픈소스 AI 모델을 맞춤형 AI 인프라에서 활용할 수 있는 'ML API 라이브러리' 기능을 선보였다. 이번 업그레이드의 특징은, 별도의 설치, 설정 없이 다양한 오픈소스 AI 모델도 편리하게 쓸 수 있는 최적화된 GPU·NPU 환경을 제공하는 것이다. API 기반 솔루션이 제공되는 일반 상용 AI 모델과 달리 오픈소스 AI 모델은 사용하는 모델에 따라 환경을 설정해야 하고, 원하는 특정 작업에 맞추는 파인 튜닝과정이 필요하다. 이런 어려움을 해소하기 위해 엘리스클라우드는 GPU·NPU 환경을 각 오픈소스 모델에 최적화하고, 최적화된 API를 제공한다. 딥시크의 R1, 메타의 라마 등 오픈소스를 포함한 다양한 AI 모델에 따라 맞춤형으로 구성한 고성능 AI 인프라 환경에서 AI 챗봇 등을 개발하고 관리, 배포까지 간편히 할 수 있다. 엘리스클라우드가 협약을 맺은 퓨리오사AI, 리벨리온의 최신 NPU를 활용한 고성능 컴퓨팅 서비스도 제공한다. 엣지데이터센터인 엘리스 AI PMDC(Portable Modular Data Center, 이동형 모듈러 데이터 센터) 기반의 프라이빗 클라우드 환경에서 실행돼 민감한 데이터의 외부 유출도 방지한다. 엘리스 AI PMDC는 모듈 단위로 구성이 가능해 물리적 격리가 가능하고, AI 수요 변화에 민첩하게 대응하는 것은 물론 전력효율지수(PUE)를 1.27까지 낮춰 뛰어난 에너지 효율도 갖췄다. 엘리스클라우드는 연내 운영을 목표로 1기당 1MW급 AI PMDC를 설계 및 구축하고 있다. 고밀도 전력과 발열을 안정적으로 관리하기 위해 공간 최적화 설계와 직접액체냉각(DLC) 기술을 도입, 업계 최고 수준인 랙 당 160kW전력으로 엔비디아 B100을 비롯한 최신 고성능 GPU를 지원하도록 설계된다. 김재원 엘리스그룹 대표는 "현재 고성능 GPU H100 5천장까지 수용할 수 있는 AI PMDC 설계·구축했고, 이는 국내 클라우드 기업 중 최대 규모일 것으로 예상한다"며 "엘리스클라우드 사업 본격화를 위해 GPU 확보에 더불어 R&D를 통한 기술 혁신과 투자에 집중하겠다"고 밝혔다.

2025.02.20 11:21백봉삼 기자

정부·여당, AI 경쟁력 확보에 '2조 추경' 운 띄웠다

당정이 인공지능(AI) 인프라 확충을 위해 2조원 규모의 추가경정예산 논의를 띄웠다. 연내 GPU 1만장 확보를 통한 국가AI컴퓨팅센터 개소에 이어 내년 상반기까지 GPU 보유량을 2만장으로 늘린다는 목표다. 18일 오후 국회서 열린 AI 경쟁력 강화 당정협의회가 끝난 뒤 브리핑을 통해 과학기술정보방송통신위원회 여당 간사를 맡고 있는 최형두 의원은 “지난해 여야가 극심한 정쟁 속에서도 상임위에서 합의한 AI 인프라 확충 예산 증액 규모 1조2천억원에 8천억원을 더한 2조원 정도의 인프라 강화 예산에 정부의 큰 결단이 필요하다”고 밝혔다. 김상훈 국민의힘 정책위의장은 “GPU와 같은 첨단반도체 기반 AI 컴퓨팅 인프라는 국가 발전과 산업 경쟁력을 높이는 핵심 성장동력이자 국가 전략자산이라는 측면에서 민관 협력을 통해 국가 AI 인프라 조기 확충을 달성하고 AI 연구개발 환경과 AI 컴퓨팅 생태계 전반의 성장기반 확대가 필요하다는 데 공감했다”고 강조했다. 이어, “국가AI컴퓨팅센터를 통해 구축된 GPU와 멀티모달을 지원하는 다양한 학습데이터를 연구계와 산업계에 지원해 우리나라의 자체 AI기반모델이 GPT와 같은 세계적 수준에 버금가는 AI 모델이 될 수 있도록 집중 지원하겠다”고 덧붙였다. AI와 같은 첨단기술 분야 인재 양성을 위한 무상교육 도입 방안도 논의됐다. 김 의장은 “국가첨단전략기술을 연구하는 청년들이 마음껏 도전할 수 있도록 해당 학과 대학생들에게 획기적인 장학 제도를 도입하겠다”며 “중장기적으로는 무상교육이 실현될 수 있도록 관련 사항을 적극 추진하기로 했다”고 했다. 그러면서 “현재도 국가장학생 제도가 있는데 첨단전략기술 분야에 강화된 국가장학생 제도를 도입하겠다는 뜻이로, 인재 육성이 필요하니 중장기적으로 무상교육을 추진하겠다는 것”이라며 “교육당국 협의가 전제되어야 하는데, 국내 교육기관에서 졸업한 뒤 국내산업에 전제한다는 종사에 따라 무상교육을 제공하고 해외유학도 필요하다면 지원할 수도 있다”고 설명했다.

2025.02.18 17:49박수형 기자

최상목 대행 "연내 GPU 1만장...내년 상반기 GPU 8천장 슈퍼컴 구축"

최상목 대통령 권한대행 부총리가 17일 “연내 고성능 GPU 1만장을 확보해 국가AI컴퓨팅센터 서비스를 조기 개시하고 내년 상반기에는 GPU 8천장 상당의 슈퍼컴 6호기를 구축해 연구계를 지원하겠다”고 밝혔다. 최상목 권한대행은 이날 오후 정부서울청사에서 열린 제3차 AI컴퓨팅인프라특별위원회를 열어 “최근 AI 산업 패권 경쟁이 가열되는 가운데, 경쟁 구도도 기업 간 대결을 넘어 국가가 전면에 나서는 '혁신생태계 간 경쟁'으로 바뀌고 있다”며 이같이 말했다. 그러면서 “정부와 민간이 한 팀이 되어 힘을 모으면 과거 광대역 통신망을 구축해 우리나라가 IT 강국으로 부상하였듯이 AI컴퓨팅 인프라를 기반으로 인공지능 3대 강국으로 도약할 것”이라고 강조했다. 국가AI위원회 산하 AI컴퓨팅인프라특별위원회는 국가AI컴퓨팅센터를 비롯해 정부에서 추진 중인 AI컴퓨팅 인프라 관련 현안을 민관이 함께 논의하고 대응 방안을 모색하기 위해 구성됐다. 이날 회의는 지난달 22일 국정현안관계장관회 후속 조치로 '국가AI컴퓨팅센터 구축(SPC 설립) 실행계획' 관련 현안 점검을 위해 개최됐다. 미국 스타게이트 프로젝트, 프랑스 AI 데이터센터 구축 계획 등에서 보듯 최근 AI컴퓨팅 인프라 역량은 국가별 AI 생태계의 경쟁력을 결정짓는 척도로 부상하고 있으나 첨단 반도체가 집적된 AI컴퓨팅 인프라는 적정 투자 규모를 사전에 예측하기 어려우며, 기술 시장의 변화가 빠르다. 이에 따라, 정부는 앞으로 특별위원회에서 수시로 추진 상황을 점검하고, 각종 현안에 유연하게 밀접 대응할 계획이다. 이날 회의에 참석한 업스테이지의 김성훈 대표는 범용 AI(AGI) 강국으로 가는 길을 주제로 인재, GPU의 중요성과 우리나라가 보유한 역량을 강조하며 AGI 강국으로 도약하는 데 필요한 지원방안에 대해 발표했다. 이어, 배경훈 LG AI연구원장은 최신 AI 기술 동향과 한국형 AI 발전 방향을 주제로 낮은 비용으로 동등 수준의 성능 확보가 가능한 추론 강화 모델에 대해 설명하고, 이를 바탕으로 개발된 LG의 AI모델 엑사원 성과를 소개했다. 민간의 발표와 함께 국가AI컴퓨팅센터 관련 현안으로 사업 공모와 사업설명회 개최 등 사업 추진 경과와 GPU, 서비스, 입지, 전력, 정책금융 프로그램 등 주요 항목별 현안 및 대응 방향에 대해 논의했다. 정부는 이번 특별위원회를 통해 제시된 정책 제언을 바탕으로 AI컴퓨팅 인프라 확충 정책을 보완해나갈 계획이다.

2025.02.17 15:40박수형 기자

AI 인프라 선도 나선 에스넷시스템, GPU 클라우드 서비스 강화

에스넷시스템이 싱가포르의 스카이랩(SkyLab)과 손잡고 국내 인공지능(AI) 및 그래픽카드(GPU) 클라우드 시장 공략에 나선다. 에스넷시스템(대표 박효대, 한상욱)이 싱가포르 스카이랩의 한국법인 샌드힐컨설팅과 GPU클라우드 서비스 'XR클라우드'를 위한 업무협약(MOU)을 체결했다고 14일 밝혔다. 이번 협약을 통해 에스넷시스템과 샌드힐컨설팅은 스카이랩의 클라우드 서비스 'XR클라우드'를 활용해 국내 시장에서 AI 및 GPU 클라우드 서비스를 공동으로 제공할 계획이다. 서비스형 그래픽카드(GPUaaS)는 기업이 AI 서비스 개발이나 활용을 위해 GPU를 직접 구매하지 않고, 클라우드를 통해 필요한 만큼 빌려 쓰는 서비스다. 공급이 부족하고 가격이 높은 GPU를 부담 없이 이용할 수 있어, 대기업뿐만 아니라 중소기업 및 스타트업도 경제적인 비용으로 고성능 컴퓨팅 자원을 활용할 수 있다. XR클라우드는 클라우드 기반으로 엔비디아(NVIDIA)의 최신 GPU, 특히 H100, H200을 활용한 고성능 컴퓨팅 서비스를 제공한다. 이는 AI 연구 및 개발에 필요한 강력한 컴퓨팅 자원을 필요한 만큼 유연하게 사용할 수 있는 서비스로, 기업이나 연구기관들이 AI 관련 프로젝트를 효율적으로 수행할 수 있도록 돕는다. 주요 서비스로는 직접 제어 가능한 GPU 서버, 다양한 GPU 옵션을 제공하는 가상머신 그리고 AI 작업을 쉽게 관리할 수 있는 GPU 지원 매니지드 쿠버네티스 클러스터가 포함되어 있다. 에스넷시스템은 국내 제조, 금융, 교육, 의료, 공공기관 등 다양한 산업을 대상으로 AI 인프라 구축, 운영, 컨설팅 서비스를 성공적으로 제공해왔다. 이를 바탕으로 XR클라우드 서비스 리셀링을 통해 GPU 클라우드 시장을 확대하고, GPUaaS 서비스 모델을 확보하며 경쟁력을 강화할 계획이다. 또한, 엔비디아, 델, 시스코 등 주요 벤더와의 파트너십을 바탕으로 AI 인프라 구축을 지원하고, 하이브리드 환경에서의 운영 및 유지보수 서비스까지 제공함으로써 고객의 AI 솔루션 요구를 종합적으로 충족할 예정이다. 샌드힐컨설팅은 갖고 있는 XR클라우드 서비스를 국내 주요 대기업 연구기관, 대학 및 정부 연구기관, 금융권, AI 서비스 개발사 등 다양한 분야의 고객들에게 제공할 방침이다. 이를 통해 각 산업별 특성에 맞는 맞춤형 서비스와 기술 지원을 제공하며, 국내 시장에 최적화된 GPU 인프라와 종합적인 클라우드 서비스를 제공하여 한국의 AI 혁신을 가속화할 계획이다. 에스넷시스템 유인철 AI/클라우드 센터장은 "XR클라우드 서비스와의 협력을 통해 고객사에게 최적화된 AI 및 GPU 클라우드 서비스를 본격적으로 제공할 수 있게 되었다"며 "에스넷시스템은 주요 IT 벤더들의 넘버원 파트너로서의 기술력과 클라우드허브 연계 서비스, 전문적인 운영 유지보수 역량을 바탕으로 AI인프라·서비스 통합사업자로서 자리매김할 수 있을 것으로 기대되며, 고객별 맞춤형 AI 솔루션을 제공하여 연구개발 및 서비스 구현을 성공적으로 지원할 것"이라고 밝혔다. 김장수 샌드힐컨설팅 대표는 "국내 주요 대기업, 연구기관, 대학 및 정부 연구기관, 금융권, AI 서비스 개발사 등 다양한 분야의 고객들에게 최적화된 GPU 인프라와 종합적인 클라우드 서비스를 제공함으로써 한국의 AI 혁신을 가속화하겠다"며 "각 산업의 특성에 맞는 맞춤형 서비스와 기술 지원을 통해 고객들이 연구개발과 서비스 구현을 성공적으로 이끌어갈 수 있도록 적극 지원할 것"이라고 밝혔다.

2025.02.14 11:32남혁우 기자

오세훈 서울시장 "5천억 AI 펀드 신설…GPU 지원 확대"

서울특별시가 인공지능(AI) 민간 투자를 위해 5천억원 규모 AI 펀드를 신설한다. 글로벌 AI 경쟁력 강화를 위한 전략적 조치다. AI 개발 핵심 인프라인 그래픽처리장치(GPU) 공급 확대도 추진한다. 11일 오세훈 서울시장은 코엑스 그랜드볼룸에서 열린 'AI 서울 2025' 컨퍼런스에 참석해 이같은 전략을 밝혔다. 그는 모든 산업을 AI 중심으로 재편한다는 정책 기조를 추진하겠다고 재차 강조했다. 오 시장은 "향후 2년간 AI 산업의 민간 투자 활성화를 위해 5조원 투자를 목표로 뒀다"며 "5조원 중 절반을 확보한 상태"라고 설명했다. 이어 "민간에 5천억원을 우선 투입하겠다"며 "이 투자금은 AI 모델 학습과 추론에 필요한 컴퓨팅 자원 확충에 사용될 예정"이라고 말했다. 오 시장은 투자 규모가 충분치 않다는 점을 인정했다. 그는 "미국 투자 규모와 비교하면 약 50배 작은 규모"라며 "이번 투자가 민간기업에 새로운 출발점이 되길 바란다"고 말했다. 서울시는 AI 3대 핵심 요소인 데이터, 알고리즘, 컴퓨팅 관련 기업에 집중 투자할 계획이다. 특히 전 산업에 걸쳐 AI 기술이 융합되는 추세를 지속적으로 모니터링하면서 AI 적용·응용 기업 지원도 강화할 방침이다. 또 오 시장은 GPU 서버 인프라를 확대해 AI 모델 학습 시간을 단축하고, 지속 가능한 연구개발(R&D) 환경을 조성할 방침이라고 강조했다. AI 인재 1만 명 양성…AI 허브 10배 확장 계획 서울시는 매년 AI 인재 1만 명을 양성해 AI 인력 수요에 대응한다고 발표했다. 청년취업사관학교 인재 4천 명과 대학 인재 6천 명 양성을 계획한 상태다. 청년취업사관학교는 2021년부터 영등포 캠퍼스 시작으로 현재 20개소 캠퍼스가 운영 중이다. 그동안 디지털 혁신 인재 7천 명 배출, 누적 취업률 75%를 기록했다. 올해 25개 캠퍼스 조성 완료와 AI 인재 양성을 목표로 교육과정을 재편했다. 서울시는 올해 AI 등 이공계 분야 석사과정 장학금 제도를 신설해 매년 확대한다고 밝혔다. 이를 통해 서울형 인재 발굴 지원체계를 강화할 계획이다. 오 시장은 "그동안 딥테크 분야 등 기업 인재를 육성해 온 서울 대학 캠퍼스타운 사업은 올해부터 캠퍼스타운 창업기업과 연계를 통한 AI 기업 인재 육성 기능을 강화했다"며 "지역혁신중심 대학지원체계(RISE) 사업 연계와 AI 관련 학과 지원으로 연간 6천 명 AI 인재를 양성할 계획"이라고 설명했다. 서울시는 현재 AI 허브보다 규모를 10배 확장한 '서울 AI 테크시티'를 양재 AI 혁신지구에 조성한다고 밝혔다. 2028년 착공을 목표로 뒀다. 국내외 대학원과 연구기관뿐 아니라 문화·주거공간까지 갖춘 복합공간으로 이뤄질 방침이다. 오 시장은 "AI 인재들이 창의적인 연구에만 전념할 수 있는 '서울 속 AI 산업도시'를 만들겠다"고 강조했다. 이 외에도 서울시는 산업 간 융복합, 글로벌화, 시민확산, 행정혁신 등을 핵심 전략 과제로 제시했다. 오 시장은 "서울에서도 오픈AI나 딥시크 수준의 개발이 이뤄질 수 있도록 추격조를 구성하는 전략적 지원을 아끼지 않을 것"이라고 밝혔다.

2025.02.11 10:50김미정 기자

하정우 센터장 "정부 GPU 확보 계획 긍정적…관건은 배분 방식"

"한국에서도 '딥시크-R1'가 나올 수 있습니다. 국내 기업은 이미 우수한 인공지능(AI) 기술을 갖췄기 때문입니다. 이미 딥시크-R1 개발 소스 80%도 공개된 상태입니다. 정부도 연내 그래픽처리장치(GPU) 1만5천장 확보를 약속했습니다. 앞으로 이 자원을 어떻게 배분할지가 관건일 것입니다." 네이버클라우드 하정우 AI혁신센터장은 국회의원회관에서 열린 '2025 디지털 정책포럼: AI 3대 강국 도약을 위한 혁신 생태계 조성 방안' 패널 토론에서 이같이 6일 밝혔다. 그동안 국내 기업이 AI 기술 축적을 이뤘다면 앞으로 정부가 GPU 등 인프라를 효율적으로 분배해야 한국형 딥시크-R1 탄생을 이끌 수 있다는 설명이다. 앞서 정부는 글로벌 인공지능(AI) 개발 트렌드에 맞춰 연내 GPU 1만5천 개를 확보하겠다고 발표했다. 애초 국가AI위원회 출범 당시 2030년까지 GPU 3만 장을 도입할 예정이었지만 최근 중국 딥시크가 AI 생태계에 돌풍을 일으켜 계획을 앞당겼다. 하정우 센터장은 "AI 혁신 핵심은 인프라의 규모 확장에 있다"며 "정부가 GPU를 확보한 후 이를 어떻게 잘 배분할지가 관건"이라고 강조했다. 하 센터장은 GPU를 무조건적으로 모든 기업에게 동일하게 나눠주는 것보다 사용 목적, 기술력 등을 고려해 효율적으로 공급하는 것이 바람직하다고 주장했다. 예를 들어 GPU 2만장을 2만개 기업에게 한 장씩 나눠주는 방식으로는 혁신을 만들 수 없다는 전망이다. 하 센터장은 GPU 배분 방식을 제안했다. 우선 GPU 절반은 네트워크로 연결된 기업·연구기관에 일정 기간 집중 활용되는 식이다. 이를 통해 AI 기술에 필요한 기초 연구들이 활발히 진행될 수 있다는 이유에서다. 나머지 GPU는 AI 스타트업과 학계에 지원하는 방식이다. 기업과 학계가 오픈소스 모델 기반으로 모델의 추가 학습과 파인튜닝을 할 수 있게 돕기 위해서다. 그는 GPU의 안전성도 보장돼야 한다고 강조했다. 사용자들이 쉽고 편리하게 GPU 같은 고성능 인프라를 활용할 수 있는 환경이 조성돼야 국내 AI 생태계 경쟁력을 강화할 수 있다는 이유에서다. 하 센터장은 "GPU는 고장이 잦은 장비"라며 "국가 AI 데이터 센터 같은 대규모 인프라가 구축될 경우 이를 안정적으로 운영할 수 있는 관리 체계가 반드시 마련돼야 한다"고 주장했다. 하 센터장은 AI 인재 양성을 위한 인건비 지원 방안도 제안했다. 기업과 학계, 정부가 협력하는 인재 육성 체계를 구축해야 한다고 말했다. 그는 "기업과 학교가 인건비를 50%씩 분담하고, 정부가 매칭 펀딩을 통해 추가 지원하면 AI 과학자들이 공공 분야에 기여할 수 있는 기반이 마련될 것"이라고 설명했다. 이어 "인건비 외에도 AI 연구자들에게 충분한 컴퓨팅 자원을 지원하는 것이 중요하다"며 "GPU를 적극 지원하면 연구자들의 동기부여와 연구 성과를 동시에 끌어올릴 수 있을 것"이라고 강조했다.

2025.02.06 17:54김미정 기자

[SW키트] 정부, 연내 GPU 1만5000개 확보 공언…업계 "현실성 부족"

정부가 글로벌 인공지능(AI) 개발 트렌드에 맞춰 연내 그래픽처리장치(GPU) 1만5천 개를 확보하겠다고 발표한 가운데 업계에선 실현 가능성이 작다는 지적이 이어지고 있다. 조 단위에 달하는 예산 집행부터 공간 확보, 전력 문제 등 넘어야 할 산이 많다는 이유에서다. 유상임 과학기술정보통신부 장관은 4일 정부서울청사에서 열린 '2025년 핵심과제 추진 상황에 대한 대국민 보고 브리핑'에서 AI 개발 경쟁력인 GPU 확보 계획을 이같이 밝혔다. 정부의 인프라 투자를 통해 국내도 딥시크-R1에 준하는 저비용·고효율 모델을 확보하겠다고 자신감을 내비쳤다. 정부는 애초 국가AI위원회 출범 당시 2030년까지 GPU 3만 장을 도입하겠다고 발표했으나 최근 중국 딥시크가 AI 생태계에 돌풍을 일으켜 이같은 전략을 발표한 것이다. 2030년을 목표로 전략을 추진했다간 뒤처질 수 있다는 판단에서다. 딥시크-R1은 중국 AI 스타트업 딥시크가 지난달 출시한 오픈소스 모델이다. 딥시크는 사전 연구와 실험을 제외한 모델 훈련에 557만6천 달러(약 80억원)들었다고 밝혔다. 이는 메타가 AI 개발에 투입한 비용의 10분의 1 수준이다. R1은 저사양 칩으로도 고성능 기능을 제공한다는 평가를 받고 있다. 같은 날 샘 알트먼 오픈AI 최고경영책임자(CEO)가 방한해 정신아 카카오 대표와 이재용 삼성전자 회장, 최태원 SK그룹 회장, 김창한 크래프톤 대표를 만나 AI 관련 사업 협력 방안을 논의했다. 일각에서는 해외 기업의 협업과 정부의 인프라 투자가 한국 AI 생태계 경쟁력을 끌어올릴 수 있을 것이란 기대감을 내비쳤다. "선언적 발표 가능성"…예산 미확정·물량 확보 이슈 지적 업계에선 정부의 GPU 확보 계획에 현실성이 부족하다고 지적했다. 정부가 충분한 예산과 전략 문제, 공간 확보에 대한 준비를 철저히 하고 이를 발표한 것인지 의문이라는 주장이다. 이번 정부 발표가 선언적 발언에 그칠 수 있다는 가능성에 무게를 두고 있다. 익명을 요청한 한 업계 관계자는 "GPU 1만5천 장을 구입하려면 약 2조가 필요하다"며 "여기에 설치 등 인프라 비용까지 합치면 수조 단위 예산이 들 것"이라고 설명했다. 이어 "GPU 작동 시 발생하는 전력 문제 해결과 공간 확보도 중요하다"며 "철저한 준비 없이 연내 계획 실현은 힘들 것"이라고 말했다. 정부가 GPU 구입을 위한 예산을 확정하지 않은 상태인 것으로 전해졌다. 당초 과기정통부는 국가 AI컴퓨팅센터 구축과 GPU 3만 장 구입을 위해 4조원을 투자하겠다고 발표한 바 있다. 정부와 민간은 2조원씩 마련하기로 했다. 또 다른 업계 관계자는 "현재 이를 위한 예산 배정이 확정되지 않았다"며 "예산 확보가 미정인 상태에서 구입 비용을 어디서 마련할 수 있을지 의문"이라고 지적했다. 예산이 있어도 문제다. 엔비디아가 GPU 물량을 연내 정부에 공급할지 불확실해서다. 그동안 엔비디아는 GPU 물량을 대량 신청하는 기업·정부에 공급 우선권을 주는 사례가 있기는 하다. 다만 100% 장담할 수는 없다. 그는 "정부가 1만5천 장을 한번에 주문한다고 해서 엔비디아가 주문 우선권을 무조건 준다는 보장도 없다"며 "향후 추가 발표를 지켜봐야 할 것"이라고 말했다.

2025.02.04 17:37김미정 기자

엔비디아 "딥시크 AI 혁신, GPU 수요 더 증가시킬 것"

엔비디아가 27일(미국 현지시간) 중국 AI 스타트업 딥시크(DeepSeek)가 공개한 새 AI 모델 'R1'에 대해 긍정적인 평가를 내왔다. 딥시크 R1은 20일 공개된 추론 특화 AI 모델이다. 자체 테스트 결과에 따르면 딥시크 R1은 일부 테스트에서 오픈AI의 추론 특화 모델 'o1'보다 나은 성능을 보였다. 또 2022년 미국 상무부의 수출 통제 조치를 우회하기 위해 엔비디아가 성능을 낮춘 H800 GPU를 이용했다. 모델 훈련에 든 순수 비용은 557만6천달러(약 80억원)이며 메타가 라마(LLaMa) 등 AI 모델 개발에 투입한 비용의 10% 수준이다. 지난 주 알렉산더 왕 스케일AI CEO는 미국 CNBC와 인터뷰에서 "딥시크가 미국 정부의 수출 규제를 우회해 고성능 GPU를 썼을 것"이라고 주장했다. 그러나 엔비디아는 "시크가 사용한 GPU가 미국의 수출 규정을 완전히 준수했다"고 확인했다. 27일 미국 증권 시장에서는 딥시크 R1 이후 비교적 성능이 낮은 GPU로 고성능 AI 모델 개발이 활발해질 것이라는 전망에 따라 엔비디아 주가가 크게 하락했다. 1주당 가격은 지난 주 대비 16.86% 하락한 118.58달러(약 17만 2천원)로 마감했고 시가총액은 6천억 달러(약 868조원) 가까이 줄었다. 미국 CNBC에 따르면 엔비디아는 "딥시크는 탁월한 AI 발전의 사례이며, 사용 가능한 모델과 완전한 수출 통제 준수 하에 구축된 컴퓨팅을 활용하여 새로운 모델을 생성하는 방법을 잘 보여준다"고 밝혔다. 엔비디아 관계자는 이어 "추론은 상당히 많은 엔비디아 GPU와 고성능 네트워킹이 필요하다. 이와 같은 딥시크의 혁신이 GPU 수요를 더욱 증가시킬 것"이라고 전망했다.

2025.01.28 16:22권봉석 기자

SK하이닉스, 엔비디아에 'HBM4' 조기 공급...6월 샘플·10월 양산할 듯

SK하이닉스가 이르면 올해 6월 엔비디아에 HBM4(6세대 고대역폭메모리) 샘플을 출하할 계획인 것으로 파악됐다. 이르면 3분기말께부터 제품 공급이 시작될 것으로 관측된다. 당초 하반기 공급에서 일정을 다소 앞당긴 것으로, SK하이닉스는 차세대 HBM 시장을 선점하기 위해 양산화 준비를 서두르고 있다. 15일 업계에 따르면 SK하이닉스는 오는 6월 HBM4의 첫 커스터머 샘플(CS)을 고객사에 조기 공급하는 것을 목표로 세웠다. HBM4는 HBM은 여러 개의 D램을 수직으로 적층한 차세대 메모리다. 현재 5세대 제품인 HBM3E까지 상용화에 이르렀다. HBM4는 이르면 내년 하반기 양산이 시작될 것으로 전망된다. HBM4는 데이터 전송 통로인 I/O(입출력 단자) 수를 이전 세대 대비 2배 많은 2048개로 집적해 성능을 극대화했다. 엔비디아의 경우 당초 2026년 차세대 고성능 GPU '루빈(Rubin)' 시리즈에 12단 적층 HBM4를 탑재하기로 했었으나, 계획을 앞당겨 올 하반기 출시를 목표로 하고 있다. 이에 따라 SK하이닉스도 HBM4 개발에 속도를 내고 있다. 회사는 엔비디아향 HBM4 공급을 위한 전담 개발팀을 꾸리고, 지난해 4분기 HBM4 테이프아웃을 완료했다. 테이프아웃이란 연구소 수준에서 진행되던 반도체 설계를 완료하고, 도면을 제조 공정에 보내는 과정이다. 이후 SK하이닉스는 HBM4의 샘플을 고객사에 보내는 일정도 당초 올 하반기에서 6월로 앞당겼다. 해당 샘플은 고객사에 제품을 양산 공급하기 전 인증을 거치기 위한 커스터머 샘플로 알려졌다. HBM4 양산화를 위한 마지막 단계에 돌입한다는 점에서 의미가 있다. 사안에 정통한 관계자는 "엔비디아도 올해 하반기로 시험 양산을 당길만큼 루빈에 대한 초기 출시 의지가 생각보다 강한 것으로 보인다"며 "이에 맞춰 SK하이닉스 등 메모리 기업도 샘플의 조기 공급을 추진하고 있다. 이르면 3분기 말께는 제품 공급이 가능할 것"이라고 설명했다. HBM4는 주요 메모리 기업들의 차세대 고부가 메모리 시장의 격전지가 될 전망이다. 삼성전자는 HBM4에 탑재되는 D램에 1c(6세대 10나노급 D램)을 탑재할 계획이다. 경쟁사인 SK하이닉스와 마이크론이 1b D램을 기반으로 하는 것과 달리, 한 세대 앞선 D램으로 성능에서 차별점을 두겠다는 전략으로 풀이된다. 마이크론 역시 최근 진행한 회계연도 2025년 1분기(2024년 9~11월) 실적발표에서 "오는 2026년 HBM4의 본격적인 양산 확대를 진행할 계획"이라고 밝힌 바 있다.

2025.01.15 13:29장경윤 기자

AI칩 주도권 노리는 삼성…"서버·폰·TV용 NPU 모두 개발 중"

"NPU의 성장 가능성은 매우 높다. 삼성에서도 '마하'와 같은 클라우드용 NPU와 스마트폰에서 활용 가능한 온-디바이스용 NPU 등 여러 개발 프로젝트를 가동하고 있다. 특히 삼성리서치는 TV용 NPU를 개발하고 있다." 김대현 삼성리서치 글로벌AI센터장은 14일 여의도 국회의원회관에서 회사의 AI 가속기 발전 동향에 대해 이같이 밝혔다. NPU 성장성 유망…삼성도 서버·폰·TV 등 NPU 전방위 개발 현재 AI 반도체 시장은 글로벌 팹리스인 엔비디아의 고성능 GPU(그래픽처리장치)가 사실상 독과점 체제를 이루고 있다. GPU는 복수의 명령어를 동시에 처리하는 병렬 처리 방식이기 때문에, 방대한 양의 데이터를 반복적으로 연산해야 하는 AI 산업에 적극적으로 채용되고 있다. 김 센터장은 "엔비디아 GPU가 AI 데이터센터를 구축하는 가장 보편적인 반도체가 되면서, 이를 얼마나 확보하느냐가 AI 경쟁력의 바로미터가 됐다"며 "마이크로소프트나 메타가 수십만개를 확보한 데 비해, 삼성의 경우 1만개 내외로 아직 부족한 것이 사실"이라고 말했다. 특히 엔비디아는 자사 GPU 기반의 AI 모델 학습, 추론을 완벽하게 지원하는 소프트웨어 스택 '쿠다(CUDA)'를 제공하고 있다. 덕분에 개발자들은 대규모 AI 모델 학습 및 추론을 위한 다양한 툴을 활용할 수 있다. 다만 향후에는 NPU(신경망처리장치) 등 대체제가 활발히 쓰일 것으로 전망된다. NPU는 컴퓨터가 데이터를 학습하고 자동으로 결과를 개선하는 머신러닝(ML)에 특화된 칩이다. GPU 대비 범용성은 부족하나 연산 효율성이 높다. 김 센터장은 "NPU는 AI만 집중적으로 잘하는 반도체로, GPU가 AI 성능이 100이라면 NPU는 1000정도"라며 "엔비디아의 칩이 너무 비싸기 때문에, 글로벌 빅테크 기업들도 각각 성능과 효율성을 극대화한 맞춤형 AI 가속기를 개발하고 있다"고 설명했다. 삼성전자도 데이터센터, 온-디바이스AI 등 다양한 산업을 위한 NPU를 개발 중인 것으로 알려졌다. 김 센터장은 "삼성에서도 NPU 하드웨어와 소프트웨어, AI 모델에 이르는 전 분야를 개발하고 있고, 내부적으로 여러 개의 NPU 개발 프로젝트를 진행 중"이라며 "마하와 비슷한 또 다른 프로젝트가 있고, 삼성리서치는 TV용 NPU를 개발 중"이라고 설명했다. 앞서 삼성전자는 네이버와 협력해 자체 AI 가속기인 '마하'를 공동 개발해 왔으나, 양사 간 이견이 커져 프로젝트가 무산됐다. 대신 삼성전자는 자체 인력을 통해 AI 가속기 개발을 지속하기로 한 바 있다. 국내 AI칩 생태계 크려면…하드웨어·소프트웨어 균형 지원 필요 리벨리온, 퓨리오사AI 등 국내 스타트업도 데이터센터용 NPU를 자체 설계해 왔다. 각 기업은 국내 및 해외 테크 기업과 활발히 협력하면서 본격적인 시장 진입을 추진하고 있다. 김 센터장은 "국내 AI 반도체 스타트업들이 성공하기 위해서는 하드웨어와 소프트웨어 분야를 균형있게 지원해줄 수 있는 방안이 필요하다"며 "현재 이들 기업이 투자에만 의존하고 있지만, 궁극적으로는 데이터센터 기업과 연동돼 자생할 수 있는 생태계를 조성할 수 있도록 해줘야 한다"고 강조했다. 한편 이번 김 센터장의 발표는 고동진 국회의원이 주최한 '엔비디아 GPU와 함께 이야기되고 있는 TPU와 NPU 기술 등에 대한 현황분석 간담회'에서 진행됐다. 고동진 의원은 "우리나라의 AI 반도체 생태계 강화를 위해서는 국내 기업들을 활용한 데이터센터 인프라 구축이 필요하다"며 "엔비디아, 구글, 아마존 등 기존 주요 기업의 인프라를 쓰는 동시에, 국내 스타트업의 시스템반도체를 테스트베드화해서 1년 반 안에 수준을 끌어올리는 방향으로 가야한다고 생각한다"고 말했다.

2025.01.14 10:53장경윤 기자

델·슈퍼마이크로에 밀리던 HPE, 일론 머스크 덕에 AI 서버 시장서 존재감 '업'

일론 머스크 테슬라 최고경영자(CEO)가 운영하는 소셜네트워크 X(옛 트위터)가 인공지능(AI) 서비스 강화를 위해 HPE의 서버를 택했다. 머스크가 설립한 AI 스타트업 xAI와 서버를 공유하기 위한 것으로, 이번 일로 AI 서버 시장 내 HPE의 위상도 한층 올라섰다는 평가다. 13일 블룸버그통신 등에 따르면 X는 최근 AI 서버를 새롭게 구축하기 위해 HPE와 10억 달러(약 1조4천700억원)가 넘는 계약을 맺은 것으로 알려졌다. 이번 계약은 AI 서버 업체인 델 테크놀로지스, 슈퍼마이크로 등도 참여한 경쟁 입찰을 거쳐 지난해 말 마무리됐다. AI 서버 비용 중 일반적으로 그래픽처리장치(GPU)가 절반을 차지한다는 점을 고려해 볼 때 이번 계약에서 GPU는 5억 달러 규모로, 1만 개 이상의 엔비디아 '블랙웰' GPU가 투입될 것으로 추산됐다. 머스크 CEO의 이 같은 움직임은 그가 공동 창립했지만 떠난 챗GPT 개발사 오픈AI를 의식한 행보로 풀이된다. 머스크 CEO는 지난 2023년 xAI를 설립한 후 인재 채용은 물론, 수십억 달러 규모의 투자 유치, 미국 테네시주 멤피스 내 데이터센터 건설 등으로 글로벌 AI 시장에서 xAI의 경쟁력을 강화해 오픈AI를 뛰어 넘기 위해 안간힘을 쓰고 있다. 특히 최근에는 xAI를 위한 자체적인 데이터센터를 미국 전역에 건설하며 AI 인프라 강화에 총력을 기울이고 있다. X와 xAI는 AI 인프라를 공유하는 것으로 알려진 만큼, 새로운 서버는 xAI의 AI 챗봇 '그록' 개발과 운영에 활용될 가능성이 크다. 앞서 xAI는 지난달부터 X를 통해 '그록'의 무료 버전을 제공해왔으나, 최근 앱까지 출시하며 이용자 확보에 본격 나선 상태다. '그록' 앱은 이번에 초기 베타 서비스로 미국에서만 아이폰 앱스토어에 먼저 출시됐다. 이번 일로 HPE도 시장 내 입지가 더 높아질 것으로 보인다. HPE는 그간 AI 서버 시장에서 델 테크놀로지스, 슈퍼마이크로에 비해 존재감이 다소 밀리는 분위기였다. xAI가 세계 최대 규모인 데이터센터 '콜로서스'에도 델 테크놀로지스, 슈퍼마이크로만 택했다는 소식이 전해지기도 했다. 블룸버그통신은 "HPE의 AI 서버 사업은 델과 슈퍼마이크로에 비해 상대적으로 뒤처진 것으로 여겨져 왔다"며 "하지만 이번 계약으로 HPE에 대한 xAI의 신뢰가 드러났다"고 평가했다. 그러면서 "AI 서버에는 엔비디아를 비롯한 여러 회사의 고성능 칩이 탑재돼 있다"며 "HPE의 수냉식 기술이 이번 계약에 중요한 역할을 한 것으로 보인다"고 덧붙였다. 이처럼 xAI 외에도 마이크로소프트, 아마존 등 빅테크들이 최근 AI 인프라에 투자 속도를 높이고 있다는 점에서 AI 서버 시장은 앞으로도 훈풍이 불 것으로 보인다. 아마존웹서비스(AWS)는 이달 들어 미국 조지아주의 데이터센터 확장을 위해 최소 110억 달러(약 15조원)를 투입하겠다고 밝혔다. 지난해 12월에는 미국 오하이오주에 데이터 센터 확장을 위해 2030년까지 230억 달러(약 33조원)를 지원하겠다고 발표했다. 마이크로소프트도 올해 6월까지 데이터센터에 800억 달러(약 118조원)를 투자하겠다고 밝혔다. 비저블 알파의 조사에 따르면 MS의 2025 회계연도 자본 지출은 842억4천만 달러에 이를 것으로 예상된다. 이는 전년보다 42%가 늘어난 것이다. 시너지 리서치 그룹은 데이터센터 인프라 지출이 지난해 34% 증가한 2천820억 달러에 이를 것으로 추산했다. 시너지 리서치 그룹은 "지난해에는 엔비디아의 폭발적인 성장이 단연 주목됐다"며 "하지만 이 중 많은 부분은 서버 및 시스템 공급업체의 매출 증가를 통해 나타났다"고 설명했다.

2025.01.13 10:41장유미 기자

SKT, 가산 AI데이터센터 오픈...엔비디아 H100기반 클라우드 출시

SK텔레콤은 지난 12월30일 가산 AI 데이터센터(AIDC)를 오픈하고, 시범 운영을 마친 뒤 AI 클라우드 서비스인 'SKT GPUaaS'를 출시했다고 13일 밝혔다. SK텔레콤은 지난 SK AI 서밋 2024에서 AI 인프라 슈퍼 하이웨이 구축 전략을 발표한 뒤 연말 조직 개편에서 AIDC 사업부를 별도 조직으로 신설하며 'AI 인프라' 사업 본격화에 속도를 내고 있다. 새롭게 오픈한 가산 AIDC는 랙당 전력밀도가 국내 최고 수준인 44kW로 국내 데이터센터 랙 당 평균 전력밀도인 4.8kW의 약 9배에 달하는 등 고밀도 GPU 서버 운영 환경에 최적화된 데이터 코로케이션 환경을 제공한다. 엔비디아 H100 기반 'SKT GPUaaS' 출시… 람다와 1년 준비 'SKT GPUaaS'는 미국 람다와 지난 약 1년간 함께 준비한 구독형 AI 클라우드이다. 이를 위해 가산 AIDC에 람다의 한국 리전을 유치했다. 아시아태평양 지역에 처음으로 생기는 람다의 리전이다. SK텔레콤은 지난해 2월 AIDC 사업 본격 추진을 위한 첫 번째 글로벌 행보로 글로벌 GPU 클라우드 회사인 람다(Lambda)에 투자를 진행했다. 2012년 AI 엔지니어들이 설립한 람다는 글로벌 빅테크 기업들을 대상으로 AI 클라우드 서비스를 제공하는 GPUaaS 기업으로, SK텔레콤은 람다와의 협력을 통해 GPU의 안정적 확보를 기반으로 AI 클라우드 시장 공략에 본격 나설 계획이다 SK텔레콤이 출시한 GPUaaS는 엔비디아 GPU H100을 기반으로 한다. 서비스 구독을 원하는 기업 고객은 AI 서비스 규모나 목적에 따라 GPU 수량과 기간을 선택하고 단독 서버, 방화벽, 전용회선 등 맞춤형 패키지를 구성할 수 있다. 고객사는 독자적인 GPU를 사용해 안정적 AI 학습과 추론을 시행할 수 있다. 방화벽과 전용 회선을 활용할 경우 보안성 역시 크게 강화할 수 있다. 또한 고객의 AI 작업량이 급격히 늘어나더라도 단독 서버에 GPU를 손쉽게 추가할 수 있어 추가 시설 투자에 대한 부담을 크게 덜 수 있다. 또한 GPUaaS는 퍼블릭 클라우드와 상호 연동이 가능하다. 기업 고객이 기존에 사용하던 클라우드를 그대로 활용하면서 SK텔레콤의 GPU 컴퓨팅 파워를 이용할 수 있는 것이다. GPUaaS와 SK텔레콤의 'AI 클라우드 매니저'를 함께 활용하면 GPU 자원을 보다 효율적으로 관리할 수 있다. 'AI 클라우드 매니저'는 수많은 GPU 자원을 마치 한 대의 컴퓨터처럼 관리해 GPU 성능을 극대화하고, AI 개발을 위한 학습 소요 시간을 단축하도록 지원하는 솔루션이다. GPUaaS 가격은 약정 기간, GPU 개수, 선불형의 과금 형태에 따라 탄력적으로 책정했다. 예컨대 고객이 24개월 동안 32개의 GPU를 원할 경우 이에 맞는 가격을 설정하는 방식이다. 1개월, 2개월 등 단기 서비스 이용도 가능하다. SK텔레콤은 GPUaaS 출시를 기념해 특별 프로모션도 진행한다. 2월 말까지 약 2개월 간 구독 가격의 20% 할인한다. GPU 교체 보상 프로그램, 클라우드 비용 최적화 컨설팅 등의 이벤트도 시행할 예정이다. 1분기 중 H200 도입 SK텔레콤은 GPUaaS 정식 출시 전부터 100개가 넘는 기업들이 구체적인 내용 문의를 받았다. 특히 대기업, 중소기업뿐만 아니라 AI를 연구하는 각종 대학과 연구 기관에서도 큰 관심을 보였다. 기업들은 GPUaaS를 이용하고 싶은 이유에 대해 ▲고성능 GPU 활용 따른 AI 모델 학습 기간 단축 ▲GPU를 합리적인 가격에 짧은 기간도 이용 가능 ▲서버 구매와 데이터센터 운영 고민 없이 GPU 자원 바로 사용 등으로 꼽았다. 이와 함께 SK텔레콤은 1분기 중 최신 GPU인 H200도 도입할 예정이다. 국내 최초로 H200을 도입해 국내 기업들이 보다 빠르게 AI 기술과 서비스를 개발할 수 있는 환경을 조성하고, GPUaaS 고객 확대에도 박차를 가할 계획이다. 김명국 SK텔레콤 GPUaaS사업본부장은 “GPUaaS 출시는 AI 데이터센터 사업이 고객에게 다가가는 첫번째 사례로 SK텔레콤이 AI 인프라 핵심 사업자로 자리매김하는데 의미가 크다”며, “국가 AI 경쟁력을 높이는 GPU 팜으로 구축하겠다"고 말했다.

2025.01.13 09:16박수형 기자

"AI 추경, 신중하고 전략적인 접근 필요"…안철수 의원, GPU 외에도 예산 배분 촉구

국민의힘 안철수 의원이 인공지능(AI) 산업 발전을 위한 추가경정 예산 편성에는 신중하고 전략적인 접근이 필요하다는 입장을 밝혔다. 안철수 의원은 10일 'AI 3대강국 도약 특별위원회' 2차 회의를 마친 뒤 기자들과 만나 AI 예산 편성 방향에 대한 의견을 밝혔다. 특히 그는 기술 발전 속도를 종합적으로 검토하며 예산 집행 계획을 세울 필요성을 강조했다. 안 의원은 "AI 추경이 시급한 시점이라 빠른 시일 내 정부와 논의해 추경이 편성되도록 할 예정"이라며 "예산을 그래픽처리장치(GPU)에만 쏟지 말고 아니라 신경망처리장치(NPU)와 AI 칩 등에 대해서도 투입하는 것을 검토하는 등 고민이 필요하다"고 강조했다. 업계에 따르면 현재 국회에서는 AI 산업 진흥을 위한 1조원 규모의 추가경정 예산이 필요하다는 목소리가 나오고 있다. 지난해 삭감된 약 4조원 가량의 예산 중 일부를 활용해 AI 기술 경쟁력을 확보해야 한다는 주장이다. 안 의원은 기자들의 예산 사용처 관련 질문에 GPU 구매만으로 모든 예산을 소진하는 것은 정답이 아니라며 반도체 기술이 급속도로 발전하고 있는 상황에서 최신 기술을 확보하되 효율성을 중시하는 접근이 필요하다고 언급했다. 이날 AI특위 2차회의에서는 각 부처 관계자들이 AI 산업 현황을 공유하고 '국가 AI 전략'을 기반으로 향후 정책 방향을 논의했다. AI특위는 이후 기업 현장을 방문해 의견을 청취하고 이를 정책에 반영할 계획이다. 안 의원은 "AI 관련 예산 논의뿐 아니라 민생 경제 회복과 미래 투자 방안을 함께 고려해야 한다"며 "최고 기술을 무조건 확보하는 것보다 전략적 계획이 중요하다"고 강조했다.

2025.01.10 17:14조이환 기자

AMD, 제약회사에 투자…"우리 AI칩으로 신약 개발"

미국 반도체 회사 AMD가 제약회사에 투자했다. AMD는 생명과학 기업 앱사이 상장 지분에 사모투자하는 방식으로 2천만 달러(약 290억원)를 투입했다고 미국 월스트리트저널(WSJ)이 지난 8일(현지시간) 보도했다. WSJ은 경쟁사 엔비디아처럼 AMD도 생명과학 분야에서 인공지능(AI) 칩으로 입지를 다지려 한다고 평가했다. 마크 페이퍼마스터 AMD 최고기술책임자(CTO)는 “다른 시장으로 시야를 넓히고 있다”며 “사회에 곧바로 영향을 미칠 의료 분야를 우선한다”고 말했다. 숀 매클레인 앱사이 창업자는 “앱사이는 AI 칩을 470개 넘게 쓰고 있다”며 “대부분 엔비디아 GPU”라고 설명했다. 하지만 “AMD의 GPU로 바꾸기 시작한다”며 “신약을 개발하기 위해 엄청난 양을 계산하는 데 필요한 비용이 줄어들 것”이라고 기대했다. 엔비디아도 2023년 생명과학 업체 리커전파마슈티컬스에 5천만 달러를 투자하고 AI를 기반으로 신약을 개발하기 위한 하드웨어를 지원했다.

2025.01.10 10:42유혜진 기자

엔비디아 젠슨황 "삼성 HBM 성공 확신...설계는 새로 해야"

세계 최고 인공지능(AI) 반도체 기업 미국 엔비디아의 젠슨 황 최고경영자(CEO)가 삼성전자 고대역폭메모리(HBM)에 대해 “새로 설계해야 한다”고 말했다. HBM은 D램 여러 개를 수직으로 쌓아 기존 D램보다 정보 처리 속도를 끌어올린 메모리 반도체다. SK하이닉스와 미국 마이크론이 엔비디아에 공급하고 있다. 삼성전자는 납품에 앞서 품질 테스트 중이다. 황 CEO는 7일(현지시간) 세계 최대 가전·정보기술(IT) 전시회 'CES 2025'가 개막한 미국 라스베이거스 퐁텐블루호텔에서 열린 기자간담회에서 '삼성전자 HBM을 왜 이리 오래 시험하느냐'는 물음에 “오래 걸리는 게 아니다”라며 “한국은 서두르려 한다”고 답했다. 황 CEO가 삼성전자 HBM을 공개적으로 지적한 일은 이번이 처음이다. 다만 그는 “엔비디아가 처음 쓴 HBM은 삼성전자가 만든 것이었다”며 “내일(8일)이 수요일이라고 확신할 수 있듯 삼성전자 성공을 확신한다”고 덧붙였다. 황 CEO는 소비자용 그래픽처리장치(GPU) 신제품 '지포스 RTX 50'에 마이크론 그래픽더블데이터레이트(GDDR)7을 쓴다고 밝힌 이유도 언급했다. 그는 “삼성전자와 SK하이닉스는 그래픽 메모리가 없는 것으로 안다”며 “그들도 하느냐”고 되물었다. 이어 “삼성전자와 SK하이닉스는 엔비디아의 가장 큰 공급업체 중 두 곳”이라며 “매우 훌륭한 메모리 반도체 기업”이라고 평가했다. GDDR7은 영상과 그래픽을 처리하는 초고속 D램이다. 마이크론뿐 아니라 삼성전자와 SK하이닉스도 생산한다. 한편 황 CEO는 곧 최태원 SK그룹 회장과 만날 것으로 보인다. '이번 CES 기간 최 회장을 만나느냐'는 질문에 황 CEO는 “만날 예정”이라며 “기대하고 있다”고 답했다.

2025.01.08 11:13유혜진 기자

"새해 AI 서버 출하량 28% 증가 전망"…HBM3E 공급 기대↑

AI 수요 확산에 따라 데이터센터 AI 서버 시장이 지난해 이어 올해도 가파른 성장세를 이어갈 전망이다. AI 서버 출하량 증가에 따라 고대역폭메모리(HBM) 공급 증가에 대한 기대감도 커졌다. 7일 시장조사업체 트렌드포스에 따르면 지난해 AI 서버 출하량은 전년 대비 46% 증가했고, 올해는 전년 대비 28% 증가할 전망이다. 또 올해 전체 서버 출하량에서 AI 서버가 차지하는 비중이 15% 이상으로 확대될 것으로 전망된다. 지난해 전체 서버 시장은 지난해 3천60억 달러(약 449조7천862억원)를 기록했고, 이 중 AI 서버는 2천50억 달러(약 301조8천888억원)로 67%의 높은 비중을 차지했다. 올해는 AI 칩의 평균판매가격(ASP)의 상승에 힘입어 AI 서버 시장은 2천980억 달러(약 438조3천546억원)로 성장하고, 전체 서버 시장에서 비중도 72%까지 확대될 것으로 전망된다. 지난해 미국과 중국의 서버 OEM 업체들과 클라우드 서비스 제공업체(CSP)들의 엔비디아의 '호퍼' GPU를 구매하면서 전체 AI 서버 시장 성장을 이끌어 왔다. 올해는 엔비디아의 차세대 GPU '블랙웰'이 시장 성장의 핵심 동력이 될 것으로 보인다. 지난해 출시된 엔비디아 블랙웰은 2080억개의 트랜지스터를 집적한 GPU로 2022년 출시된 '호퍼' 시리즈 보다 데이터 연산 속도가 2.5배 빠르다. 블랙웰은 사양에 따라 B100과 B200 모델로 구분된다. AI 가속기 제품군인 GB100과 GB200에는 각각 블랙웰 GPU 1개, GB200에는 블랙웰 GPU 2개가 탑재되며, 그레이스 CPU 1개, 24GB(기가바이트) HBM3E 8단 제품 8개도 함께 탑재된다. 주목할 만한 점은 올해 3분기 출시 예정인 차세대 엔비디아 AI 서버 GB300에는 36GB HBM3E 12단 제품 8개가 탑재된다는 것이다. 현재 SK하이닉스가 유일하게 HBM3E 8단 및 12단 제품을 모두 양산해 엔비디아에 공급하고 있으며, 마이크론은 SK하이닉스에 이어 두번째로 8단 제품 공급과 함께 12단 제품 샘플링을 진행 중이다. 삼성전자는 연내 HBM3E 제품 공급을 목표로 하고 있다. 트렌드포스는 “연초에는 계절적 요인으로 인한 영업일수 감소가 예상되어, GB 랙 시리즈 출하량은 2분기까지 눈에 띄는 증가세를 보이지 않을 것”이라며 “하지만 올해 3분기에 B300과 GB300 솔루션이 출시되면서 블랙웰 기반 GB랙 시리즈의 출하량이 더욱 증가할 것으로 예상된다”고 말했다. 엔비디아 외에도 클라우드 서비스 제공업체(CSP)들의 독자 AI 칩 개발에 속도를 내면서 AI 서버 시장과 HBM 성장에 영향을 줄 전망이다. 지난해는 구글이 자체 AI 칩 출하량에서 선두를 달렸으며, AWS는 200% 이상의 급격한 성장률을 기록했다. 트렌드포스는 “올해 AWS의 자체 AI 칩 출하량이 전년 대비 70% 이상 성장할 전망”이라며 “특히 자사의 퍼블릭 클라우드 인프라와 이커머스 플랫폼과 관련된 AI 애플리케이션용 트레이니엄(Trainium) 칩 개발에 더욱 집중할 계획이다”고 말했다.

2025.01.07 10:24이나리 기자

Prev 11 12 13 14 15 Next