• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 인터뷰
  • 인사•부음
  • 글로벌뉴스
인공지능
배터리
양자컴퓨팅
컨퍼런스
칼럼•연재
포토•영상

ZDNet 검색 페이지

'DGX-A100 GPU'통합검색 결과 입니다. (220건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

델·슈퍼마이크로에 밀리던 HPE, 일론 머스크 덕에 AI 서버 시장서 존재감 '업'

일론 머스크 테슬라 최고경영자(CEO)가 운영하는 소셜네트워크 X(옛 트위터)가 인공지능(AI) 서비스 강화를 위해 HPE의 서버를 택했다. 머스크가 설립한 AI 스타트업 xAI와 서버를 공유하기 위한 것으로, 이번 일로 AI 서버 시장 내 HPE의 위상도 한층 올라섰다는 평가다. 13일 블룸버그통신 등에 따르면 X는 최근 AI 서버를 새롭게 구축하기 위해 HPE와 10억 달러(약 1조4천700억원)가 넘는 계약을 맺은 것으로 알려졌다. 이번 계약은 AI 서버 업체인 델 테크놀로지스, 슈퍼마이크로 등도 참여한 경쟁 입찰을 거쳐 지난해 말 마무리됐다. AI 서버 비용 중 일반적으로 그래픽처리장치(GPU)가 절반을 차지한다는 점을 고려해 볼 때 이번 계약에서 GPU는 5억 달러 규모로, 1만 개 이상의 엔비디아 '블랙웰' GPU가 투입될 것으로 추산됐다. 머스크 CEO의 이 같은 움직임은 그가 공동 창립했지만 떠난 챗GPT 개발사 오픈AI를 의식한 행보로 풀이된다. 머스크 CEO는 지난 2023년 xAI를 설립한 후 인재 채용은 물론, 수십억 달러 규모의 투자 유치, 미국 테네시주 멤피스 내 데이터센터 건설 등으로 글로벌 AI 시장에서 xAI의 경쟁력을 강화해 오픈AI를 뛰어 넘기 위해 안간힘을 쓰고 있다. 특히 최근에는 xAI를 위한 자체적인 데이터센터를 미국 전역에 건설하며 AI 인프라 강화에 총력을 기울이고 있다. X와 xAI는 AI 인프라를 공유하는 것으로 알려진 만큼, 새로운 서버는 xAI의 AI 챗봇 '그록' 개발과 운영에 활용될 가능성이 크다. 앞서 xAI는 지난달부터 X를 통해 '그록'의 무료 버전을 제공해왔으나, 최근 앱까지 출시하며 이용자 확보에 본격 나선 상태다. '그록' 앱은 이번에 초기 베타 서비스로 미국에서만 아이폰 앱스토어에 먼저 출시됐다. 이번 일로 HPE도 시장 내 입지가 더 높아질 것으로 보인다. HPE는 그간 AI 서버 시장에서 델 테크놀로지스, 슈퍼마이크로에 비해 존재감이 다소 밀리는 분위기였다. xAI가 세계 최대 규모인 데이터센터 '콜로서스'에도 델 테크놀로지스, 슈퍼마이크로만 택했다는 소식이 전해지기도 했다. 블룸버그통신은 "HPE의 AI 서버 사업은 델과 슈퍼마이크로에 비해 상대적으로 뒤처진 것으로 여겨져 왔다"며 "하지만 이번 계약으로 HPE에 대한 xAI의 신뢰가 드러났다"고 평가했다. 그러면서 "AI 서버에는 엔비디아를 비롯한 여러 회사의 고성능 칩이 탑재돼 있다"며 "HPE의 수냉식 기술이 이번 계약에 중요한 역할을 한 것으로 보인다"고 덧붙였다. 이처럼 xAI 외에도 마이크로소프트, 아마존 등 빅테크들이 최근 AI 인프라에 투자 속도를 높이고 있다는 점에서 AI 서버 시장은 앞으로도 훈풍이 불 것으로 보인다. 아마존웹서비스(AWS)는 이달 들어 미국 조지아주의 데이터센터 확장을 위해 최소 110억 달러(약 15조원)를 투입하겠다고 밝혔다. 지난해 12월에는 미국 오하이오주에 데이터 센터 확장을 위해 2030년까지 230억 달러(약 33조원)를 지원하겠다고 발표했다. 마이크로소프트도 올해 6월까지 데이터센터에 800억 달러(약 118조원)를 투자하겠다고 밝혔다. 비저블 알파의 조사에 따르면 MS의 2025 회계연도 자본 지출은 842억4천만 달러에 이를 것으로 예상된다. 이는 전년보다 42%가 늘어난 것이다. 시너지 리서치 그룹은 데이터센터 인프라 지출이 지난해 34% 증가한 2천820억 달러에 이를 것으로 추산했다. 시너지 리서치 그룹은 "지난해에는 엔비디아의 폭발적인 성장이 단연 주목됐다"며 "하지만 이 중 많은 부분은 서버 및 시스템 공급업체의 매출 증가를 통해 나타났다"고 설명했다.

2025.01.13 10:41장유미

SKT, 가산 AI데이터센터 오픈...엔비디아 H100기반 클라우드 출시

SK텔레콤은 지난 12월30일 가산 AI 데이터센터(AIDC)를 오픈하고, 시범 운영을 마친 뒤 AI 클라우드 서비스인 'SKT GPUaaS'를 출시했다고 13일 밝혔다. SK텔레콤은 지난 SK AI 서밋 2024에서 AI 인프라 슈퍼 하이웨이 구축 전략을 발표한 뒤 연말 조직 개편에서 AIDC 사업부를 별도 조직으로 신설하며 'AI 인프라' 사업 본격화에 속도를 내고 있다. 새롭게 오픈한 가산 AIDC는 랙당 전력밀도가 국내 최고 수준인 44kW로 국내 데이터센터 랙 당 평균 전력밀도인 4.8kW의 약 9배에 달하는 등 고밀도 GPU 서버 운영 환경에 최적화된 데이터 코로케이션 환경을 제공한다. 엔비디아 H100 기반 'SKT GPUaaS' 출시… 람다와 1년 준비 'SKT GPUaaS'는 미국 람다와 지난 약 1년간 함께 준비한 구독형 AI 클라우드이다. 이를 위해 가산 AIDC에 람다의 한국 리전을 유치했다. 아시아태평양 지역에 처음으로 생기는 람다의 리전이다. SK텔레콤은 지난해 2월 AIDC 사업 본격 추진을 위한 첫 번째 글로벌 행보로 글로벌 GPU 클라우드 회사인 람다(Lambda)에 투자를 진행했다. 2012년 AI 엔지니어들이 설립한 람다는 글로벌 빅테크 기업들을 대상으로 AI 클라우드 서비스를 제공하는 GPUaaS 기업으로, SK텔레콤은 람다와의 협력을 통해 GPU의 안정적 확보를 기반으로 AI 클라우드 시장 공략에 본격 나설 계획이다 SK텔레콤이 출시한 GPUaaS는 엔비디아 GPU H100을 기반으로 한다. 서비스 구독을 원하는 기업 고객은 AI 서비스 규모나 목적에 따라 GPU 수량과 기간을 선택하고 단독 서버, 방화벽, 전용회선 등 맞춤형 패키지를 구성할 수 있다. 고객사는 독자적인 GPU를 사용해 안정적 AI 학습과 추론을 시행할 수 있다. 방화벽과 전용 회선을 활용할 경우 보안성 역시 크게 강화할 수 있다. 또한 고객의 AI 작업량이 급격히 늘어나더라도 단독 서버에 GPU를 손쉽게 추가할 수 있어 추가 시설 투자에 대한 부담을 크게 덜 수 있다. 또한 GPUaaS는 퍼블릭 클라우드와 상호 연동이 가능하다. 기업 고객이 기존에 사용하던 클라우드를 그대로 활용하면서 SK텔레콤의 GPU 컴퓨팅 파워를 이용할 수 있는 것이다. GPUaaS와 SK텔레콤의 'AI 클라우드 매니저'를 함께 활용하면 GPU 자원을 보다 효율적으로 관리할 수 있다. 'AI 클라우드 매니저'는 수많은 GPU 자원을 마치 한 대의 컴퓨터처럼 관리해 GPU 성능을 극대화하고, AI 개발을 위한 학습 소요 시간을 단축하도록 지원하는 솔루션이다. GPUaaS 가격은 약정 기간, GPU 개수, 선불형의 과금 형태에 따라 탄력적으로 책정했다. 예컨대 고객이 24개월 동안 32개의 GPU를 원할 경우 이에 맞는 가격을 설정하는 방식이다. 1개월, 2개월 등 단기 서비스 이용도 가능하다. SK텔레콤은 GPUaaS 출시를 기념해 특별 프로모션도 진행한다. 2월 말까지 약 2개월 간 구독 가격의 20% 할인한다. GPU 교체 보상 프로그램, 클라우드 비용 최적화 컨설팅 등의 이벤트도 시행할 예정이다. 1분기 중 H200 도입 SK텔레콤은 GPUaaS 정식 출시 전부터 100개가 넘는 기업들이 구체적인 내용 문의를 받았다. 특히 대기업, 중소기업뿐만 아니라 AI를 연구하는 각종 대학과 연구 기관에서도 큰 관심을 보였다. 기업들은 GPUaaS를 이용하고 싶은 이유에 대해 ▲고성능 GPU 활용 따른 AI 모델 학습 기간 단축 ▲GPU를 합리적인 가격에 짧은 기간도 이용 가능 ▲서버 구매와 데이터센터 운영 고민 없이 GPU 자원 바로 사용 등으로 꼽았다. 이와 함께 SK텔레콤은 1분기 중 최신 GPU인 H200도 도입할 예정이다. 국내 최초로 H200을 도입해 국내 기업들이 보다 빠르게 AI 기술과 서비스를 개발할 수 있는 환경을 조성하고, GPUaaS 고객 확대에도 박차를 가할 계획이다. 김명국 SK텔레콤 GPUaaS사업본부장은 “GPUaaS 출시는 AI 데이터센터 사업이 고객에게 다가가는 첫번째 사례로 SK텔레콤이 AI 인프라 핵심 사업자로 자리매김하는데 의미가 크다”며, “국가 AI 경쟁력을 높이는 GPU 팜으로 구축하겠다"고 말했다.

2025.01.13 09:16박수형

"AI 추경, 신중하고 전략적인 접근 필요"…안철수 의원, GPU 외에도 예산 배분 촉구

국민의힘 안철수 의원이 인공지능(AI) 산업 발전을 위한 추가경정 예산 편성에는 신중하고 전략적인 접근이 필요하다는 입장을 밝혔다. 안철수 의원은 10일 'AI 3대강국 도약 특별위원회' 2차 회의를 마친 뒤 기자들과 만나 AI 예산 편성 방향에 대한 의견을 밝혔다. 특히 그는 기술 발전 속도를 종합적으로 검토하며 예산 집행 계획을 세울 필요성을 강조했다. 안 의원은 "AI 추경이 시급한 시점이라 빠른 시일 내 정부와 논의해 추경이 편성되도록 할 예정"이라며 "예산을 그래픽처리장치(GPU)에만 쏟지 말고 아니라 신경망처리장치(NPU)와 AI 칩 등에 대해서도 투입하는 것을 검토하는 등 고민이 필요하다"고 강조했다. 업계에 따르면 현재 국회에서는 AI 산업 진흥을 위한 1조원 규모의 추가경정 예산이 필요하다는 목소리가 나오고 있다. 지난해 삭감된 약 4조원 가량의 예산 중 일부를 활용해 AI 기술 경쟁력을 확보해야 한다는 주장이다. 안 의원은 기자들의 예산 사용처 관련 질문에 GPU 구매만으로 모든 예산을 소진하는 것은 정답이 아니라며 반도체 기술이 급속도로 발전하고 있는 상황에서 최신 기술을 확보하되 효율성을 중시하는 접근이 필요하다고 언급했다. 이날 AI특위 2차회의에서는 각 부처 관계자들이 AI 산업 현황을 공유하고 '국가 AI 전략'을 기반으로 향후 정책 방향을 논의했다. AI특위는 이후 기업 현장을 방문해 의견을 청취하고 이를 정책에 반영할 계획이다. 안 의원은 "AI 관련 예산 논의뿐 아니라 민생 경제 회복과 미래 투자 방안을 함께 고려해야 한다"며 "최고 기술을 무조건 확보하는 것보다 전략적 계획이 중요하다"고 강조했다.

2025.01.10 17:14조이환

AMD, 제약회사에 투자…"우리 AI칩으로 신약 개발"

미국 반도체 회사 AMD가 제약회사에 투자했다. AMD는 생명과학 기업 앱사이 상장 지분에 사모투자하는 방식으로 2천만 달러(약 290억원)를 투입했다고 미국 월스트리트저널(WSJ)이 지난 8일(현지시간) 보도했다. WSJ은 경쟁사 엔비디아처럼 AMD도 생명과학 분야에서 인공지능(AI) 칩으로 입지를 다지려 한다고 평가했다. 마크 페이퍼마스터 AMD 최고기술책임자(CTO)는 “다른 시장으로 시야를 넓히고 있다”며 “사회에 곧바로 영향을 미칠 의료 분야를 우선한다”고 말했다. 숀 매클레인 앱사이 창업자는 “앱사이는 AI 칩을 470개 넘게 쓰고 있다”며 “대부분 엔비디아 GPU”라고 설명했다. 하지만 “AMD의 GPU로 바꾸기 시작한다”며 “신약을 개발하기 위해 엄청난 양을 계산하는 데 필요한 비용이 줄어들 것”이라고 기대했다. 엔비디아도 2023년 생명과학 업체 리커전파마슈티컬스에 5천만 달러를 투자하고 AI를 기반으로 신약을 개발하기 위한 하드웨어를 지원했다.

2025.01.10 10:42유혜진

엔비디아 젠슨황 "삼성 HBM 성공 확신...설계는 새로 해야"

세계 최고 인공지능(AI) 반도체 기업 미국 엔비디아의 젠슨 황 최고경영자(CEO)가 삼성전자 고대역폭메모리(HBM)에 대해 “새로 설계해야 한다”고 말했다. HBM은 D램 여러 개를 수직으로 쌓아 기존 D램보다 정보 처리 속도를 끌어올린 메모리 반도체다. SK하이닉스와 미국 마이크론이 엔비디아에 공급하고 있다. 삼성전자는 납품에 앞서 품질 테스트 중이다. 황 CEO는 7일(현지시간) 세계 최대 가전·정보기술(IT) 전시회 'CES 2025'가 개막한 미국 라스베이거스 퐁텐블루호텔에서 열린 기자간담회에서 '삼성전자 HBM을 왜 이리 오래 시험하느냐'는 물음에 “오래 걸리는 게 아니다”라며 “한국은 서두르려 한다”고 답했다. 황 CEO가 삼성전자 HBM을 공개적으로 지적한 일은 이번이 처음이다. 다만 그는 “엔비디아가 처음 쓴 HBM은 삼성전자가 만든 것이었다”며 “내일(8일)이 수요일이라고 확신할 수 있듯 삼성전자 성공을 확신한다”고 덧붙였다. 황 CEO는 소비자용 그래픽처리장치(GPU) 신제품 '지포스 RTX 50'에 마이크론 그래픽더블데이터레이트(GDDR)7을 쓴다고 밝힌 이유도 언급했다. 그는 “삼성전자와 SK하이닉스는 그래픽 메모리가 없는 것으로 안다”며 “그들도 하느냐”고 되물었다. 이어 “삼성전자와 SK하이닉스는 엔비디아의 가장 큰 공급업체 중 두 곳”이라며 “매우 훌륭한 메모리 반도체 기업”이라고 평가했다. GDDR7은 영상과 그래픽을 처리하는 초고속 D램이다. 마이크론뿐 아니라 삼성전자와 SK하이닉스도 생산한다. 한편 황 CEO는 곧 최태원 SK그룹 회장과 만날 것으로 보인다. '이번 CES 기간 최 회장을 만나느냐'는 질문에 황 CEO는 “만날 예정”이라며 “기대하고 있다”고 답했다.

2025.01.08 11:13유혜진

"새해 AI 서버 출하량 28% 증가 전망"…HBM3E 공급 기대↑

AI 수요 확산에 따라 데이터센터 AI 서버 시장이 지난해 이어 올해도 가파른 성장세를 이어갈 전망이다. AI 서버 출하량 증가에 따라 고대역폭메모리(HBM) 공급 증가에 대한 기대감도 커졌다. 7일 시장조사업체 트렌드포스에 따르면 지난해 AI 서버 출하량은 전년 대비 46% 증가했고, 올해는 전년 대비 28% 증가할 전망이다. 또 올해 전체 서버 출하량에서 AI 서버가 차지하는 비중이 15% 이상으로 확대될 것으로 전망된다. 지난해 전체 서버 시장은 지난해 3천60억 달러(약 449조7천862억원)를 기록했고, 이 중 AI 서버는 2천50억 달러(약 301조8천888억원)로 67%의 높은 비중을 차지했다. 올해는 AI 칩의 평균판매가격(ASP)의 상승에 힘입어 AI 서버 시장은 2천980억 달러(약 438조3천546억원)로 성장하고, 전체 서버 시장에서 비중도 72%까지 확대될 것으로 전망된다. 지난해 미국과 중국의 서버 OEM 업체들과 클라우드 서비스 제공업체(CSP)들의 엔비디아의 '호퍼' GPU를 구매하면서 전체 AI 서버 시장 성장을 이끌어 왔다. 올해는 엔비디아의 차세대 GPU '블랙웰'이 시장 성장의 핵심 동력이 될 것으로 보인다. 지난해 출시된 엔비디아 블랙웰은 2080억개의 트랜지스터를 집적한 GPU로 2022년 출시된 '호퍼' 시리즈 보다 데이터 연산 속도가 2.5배 빠르다. 블랙웰은 사양에 따라 B100과 B200 모델로 구분된다. AI 가속기 제품군인 GB100과 GB200에는 각각 블랙웰 GPU 1개, GB200에는 블랙웰 GPU 2개가 탑재되며, 그레이스 CPU 1개, 24GB(기가바이트) HBM3E 8단 제품 8개도 함께 탑재된다. 주목할 만한 점은 올해 3분기 출시 예정인 차세대 엔비디아 AI 서버 GB300에는 36GB HBM3E 12단 제품 8개가 탑재된다는 것이다. 현재 SK하이닉스가 유일하게 HBM3E 8단 및 12단 제품을 모두 양산해 엔비디아에 공급하고 있으며, 마이크론은 SK하이닉스에 이어 두번째로 8단 제품 공급과 함께 12단 제품 샘플링을 진행 중이다. 삼성전자는 연내 HBM3E 제품 공급을 목표로 하고 있다. 트렌드포스는 “연초에는 계절적 요인으로 인한 영업일수 감소가 예상되어, GB 랙 시리즈 출하량은 2분기까지 눈에 띄는 증가세를 보이지 않을 것”이라며 “하지만 올해 3분기에 B300과 GB300 솔루션이 출시되면서 블랙웰 기반 GB랙 시리즈의 출하량이 더욱 증가할 것으로 예상된다”고 말했다. 엔비디아 외에도 클라우드 서비스 제공업체(CSP)들의 독자 AI 칩 개발에 속도를 내면서 AI 서버 시장과 HBM 성장에 영향을 줄 전망이다. 지난해는 구글이 자체 AI 칩 출하량에서 선두를 달렸으며, AWS는 200% 이상의 급격한 성장률을 기록했다. 트렌드포스는 “올해 AWS의 자체 AI 칩 출하량이 전년 대비 70% 이상 성장할 전망”이라며 “특히 자사의 퍼블릭 클라우드 인프라와 이커머스 플랫폼과 관련된 AI 애플리케이션용 트레이니엄(Trainium) 칩 개발에 더욱 집중할 계획이다”고 말했다.

2025.01.07 10:24이나리

엔비디아, 이스라엘 스타트업 런ai 인수

세계 최고 인공지능(AI) 반도체 기업 미국 엔비디아가 이스라엘 스타트업 런에이아이(Run:ai)를 인수했다고 미국 블룸버그통신이 30일(현지시간) 보도했다. 엔비디아는 지난 4월 런ai를 인수하겠다고 나섰다. 인수 금액을 밝히지 않았지만, 시장에서는 7억 달러(약 1조원)로 알려졌다. 런ai는 AI 작업을 실행하는 그래픽처리장치(GPU)의 자원 활용도를 최적화하는 소프트웨어를 개발한다. 2018년 설립 초기부터 엔비디아와 협력했다. 엔비디아 GPU에 한정됐던 AI 최적화 소프트웨어 사용처를 AI 생태계 전반으로 넓힐 계획이다. 엔비디아는 AI 칩 시장의 80% 이상을 장악하고 있다. 이에 미국 법무부는 이번 인수로 AI 신생 회사가 사라질 수 있다는 우려에 반독점 조사를 착수한 것으로 전해졌다.

2024.12.31 14:23유혜진

韓 소부장, 엔비디아·TSMC 기술혁신 발맞춰 신시장 개척

엔비디아·TSMC 등 글로벌 빅테크 기업들이 AI 산업의 주도권을 유지하기 위한 기술 변혁을 지속하고 있다. 이에 국내 소부장 기업들도 차세대 제품 양산화를 위한 테스트를 진행하고 있는 것으로 파악됐다. 30일 업계에 따르면 국내 소부장 기업들은 엔비디아 및 TSMC의 차세대 기술 도입에 맞춰 신제품 양산을 추진하고 있다. 엔비디아는 내년 출시할 차세대 AI 가속기인 'B300'부터 소켓 방식을 적용하는 방안을 검토 중이다. B300은 엔비디아가 지난 3월 공개한 AI 반도체 '블랙웰' 시리즈 중 가장 성능이 높은 제품으로, HBM3E(5세대 고대역폭메모리) 12단을 탑재한다. 그간 엔비디아의 AI 가속기는 고성능 GPU와 HBM, 인터페이스 등을 메인 기판에 모두 집적하는 온-보드(on-board) 형식으로 제작돼 왔다. 반면 소켓은 GPU를 기판에 실장하지 않고, 별도로 탈부착하는 방식이다. AI 가속기를 소켓 방식으로 변경하는 경우 GPU 불량에 따른 문제에 효율적으로 대응할 수 있게 된다. GPU 및 기판의 제조 안정성도 높일 수 있다. 다만 GPU와 기판을 안정적으로 연결해야 하는 것이 과제로 꼽힌다. 현재 엔비디아향 소켓은 한국 및 대만의 후공정 부품업체가 주력으로 공급하고 있다. 이들 기업은 올 4분기 AI 가속기용 소켓 샘플을 공급한 것으로 알려졌다. 실제 양산에 돌입하는 경우 내년 중반부터 출하량을 늘릴 수 있을 것으로 관측된다. 엔비디아의 핵심 파트너인 대만 TSMC도 자체 개발한 'CoWoS' 기술을 고도화하고 있다. CoWoS는 넓은 기판 모양의 실리콘 인터포저 위에 반도체 다이(Die)를 수평 배치하는 첨단 패키징이다. 특히, TSMC는 기존 대비 소형화된 인터포저를 사용하는 CoWoS-L을 최신형 HBM에 적용하고 있다. 이러한 기조에 따라 계측 분야에서도 변화가 감지되고 있다. 기존 CoWoS-L에 구현된 회로의 배선폭은 2마이크로미터 이상이다. 그러나 CoWoS-L의 집적도가 높아지면서, 배선폭 역시 더 좁은 1마이크로미터 내외가 요구되고 있다. 기존 CoWoS의 회로 계측은 3D 광학 검사를 활용해 왔다. 그러나 배선폭이 1마이크로미터로 줄어들게 되면 성능의 한계로 계측이 힘들어진다. 이에 TSMC는 AFM(원자현미경) 기술을 CoWoS에 적용하는 방안을 추진 중이다. 국내 장비업체도 복수의 AFM 장비를 공급해 품질 테스트를 거치고 있는 것으로 파악된다. AFM은 탐침을 시료 표면에 원자 단위까지 접근시켜, 탐침과 표면 간의 상호작용을 통해 시료를 계측하는 장비다. 기존 광학식 대비 속도는 느리지만, 매우 미세한 수준까지 계측이 가능하다. 때문에 기존 AFM은 주로 초미세 공정과 직결된 전공정 영역에서 활용돼 왔다. TSMC가 CoWoS 패키징에 AFM을 양산 도입하는 경우, AFM의 적용처가 최첨단 패키징 분야로도 확장될 수 있을 것으로 전망된다.

2024.12.30 11:22장경윤

샤오미, 신규 1만대 GPU 클러스터 투자로 AI 역량 확장

중국 샤오미가 1만대 규모의 GPU 클러스터를 구축하며 인공지능(AI) 대형모델 개발에 박차를 가하고 있다. 27일 이코노믹 데일리에 따르면 샤오미는 지난해 4월 레이쥔 CEO가 이끄는 1200명 규모의 AI 대형모델 연구개발팀을 출범했으며, 당시 6500대의 GPU를 확보한 상태다. 올해 5월 샤오미는 자체 개발한 대규모 언어모델 'MiLM'이 공식 등록 요건을 통과했다고 발표했다. 레이쥔 CEO는 샤오미의 스마트 음성비서 '샤오아이'가 월간 1억2천만 대의 활성 디바이스를 보유하고 있다고 밝혔다. 지난 8월 샤오미그룹의 쩡쉐중 수석부사장 겸 모바일사업부 총괄은 퀄컴, 미디어텍과의 긴밀한 기술협력을 바탕으로 AI 대형모델 애플리케이션을 곧 출시할 것이라고 공개한 바 있다. 샤오미는 AR 글래스 등 다른 하드웨어 솔루션보다 모바일 기기 개발에 주력하고 있다. 레이쥔 CEO는 지난해 연례 연설에서 샤오미가 온디바이스 대형 모델을 탑재한 모바일 기기의 데모를 성공적으로 실행했다고 밝혔다. 또 회사는 13억 개의 매개변수로 작동하는 모델은 일부 시나리오에서 클라우드 수준의 성능을 달성했으며, 60억 개의 매개변수를 가진 더 큰 모델도 개발했다. 샤오미는 꾸준히 AI 개발에 힘써왔다. 2016년 첫 비전 AI팀을 구성한 이래, 7년간 6차례의 확장을 거치며 3000명 이상의 구성원으로 확대됐다. 이후 비전, 음성, 음향, 지식 그래프, NLP, 기계학습, 멀티모달 시스템 등 다양한 AI 기술에서역량을 축적해왔다. 샤오미는 다른 기업들과 달리 경량화 구현과 로컬 배포에 중점을 둔 대형모델 기술 개발 방향을 설정하고 있는 것이 특징이다.

2024.12.28 11:37이나리

"한국, 2년내 GPU 3만 개 확보…AI 성장엔진 멈춰선 안돼"

"4대 과학기술원에 GPU 보유수량을 조사해보니, 전무하더라. 국내 기관에 2년 내 3만개 정도 확보할 것이다." 유상임 장관 과학기술정보통신부 장관이 23일 세종에서 '장,차관,본부장과 출입기자 송년회'에서 "대학이든 연구소든 GPU 컴퓨팅 인프라가 안 돼 있어 연구 못하겠다는 것에서는 벗어나야 한다'"며 이같이 말했다. 유 장관은 이날 인사말에서 "비상계엄이나 탄핵 국면이지만, 과학기술정보통신부는 빈틈없이 미래를 준비해 나갈 것이다. AI 중심 과학기술 및 디지털이 대한민국 성장 엔진이다. 절대 멈춰선 안 된다"고 강조했다. 유 장관은 이어 "과기정통부는 흔들림 없이 맡은 바 소임을 해 나갈 것"이라고 언급했다. 이어 진행된 과기정통부 기자단과의 질의응답에서 기술사업화를 묻은 질문에 유 장관은 "우리나라 사업화율이 OECD 바닥"이라며 "기술산업화 생태계를 재직하는 동안 구축할 수 있나 회의도 있었다"며 설명을 이어갔다. 유 장관은 "과학기술 분야 R&D는 기술성숙도(TRL) 4~5단계에서 멈추게 되어 있다. 이는 잘못된 것"이라며 "이 생태계는 우리만 해선 안 된다"고 지적했다. 다른 부처와의 협력의 중요성을 강조하며 "TRL 1~9단계의 사업화 생태계를 만들기 위해서는 범부처 형태로 가야하고, 올해 내 관련부서 다 같이 제조 분야 등의 산업화 초안을 만들어 나갈 것"이라고 유 장관은 언급했다. 대통령이 위원장인 국가우주위원회 개최가 미뤄지고 있는 것에 대해선 "모든 일정을 정상 수행중이지만, 정치적 불안정성으로 인해 출범이 다소 늦어질 수는 있다. 하지만 과기 사업 자체가 영향 받는다고는 생각하지 않는다"며 단호한 사업 추진 의지를 드러냈다. 유 장관은 또 게임체인저의 하나인 양자 분야에 대해선 "시간이 좀 있어야 한다. 현실화하면 파급력 엄청나지만, 지금은 초기 단계'라고 진단하며 "양자 전담 인력도 적고, 생태계도 갖춰지지 않아 인력유입 집중할 때라 본다"고 말했다. 유 장관은 "과기정통부는 이에 대응해 준비 중이고, 국무총리가 위원장인 양자전력위원회도 계획대로 되고 있지만, 시기적으로 늦어질 수는 있다"며 "인력양성과 국제공동연구 등으로 선진국과 눈높이 맞춰 대비하면 10년 후엔 큰 이슈가 될 것"으로 내다봤다. R&D 예산 규모에 대해선 "국가 예산의 R&D 비중 5%를 얘기를 하는데, 대략 33.5조~34조 원 정도 된다"며 "과기분야가 중요하지 않아서가 아니라, 컨센서스가 많지 않다. 기여도에 회의적"이라고 유 장관은 언급했다. 유 장관은 "산업 생태계가 갖춰져 사업화가 잘 이루어진다면 R&D 예산을 50조, 100조 늘리는 것은 문제되지 않을 것"이라며 "정치권도 이에는 반대 안 할 것"이라고 덧붙였다. 최근 정치 현안에 대해 "대한민국이 어디로 가야하는지 봐야하는데, 정치적 테두리 내에서만 보기 때문에 대한민국 경제가 취약해지고 있다"며 "정치일정이 잘 나와줄수 있으면 좋겠다"고 바람도 제시했다. 유 장관은 이외에 4대 과기원 육성 전략과 관련한 질문에서 "4대 과기원 GPU 수가 제로였고, 2년 내 3만개 확보할 것"이라며 "대학이든 연구소든 GPU 컴퓨팅 인프라가 안 되어 있어 연구 못하겠다는 것에서는 벗어나야 한다"고 강조했다. 한편 이날 과기정통부 출입기자단은 과장급 및 실국장급을 대상으로 1사 1투표를 통해 소통왕을 선정했다. 소통왕에는 과장급에서 최문기 연구성과확산촉진과장과 남영준 주파수정책과장, 실국장급에서 류제명 네트워크정책실장과 홍순정 미래인재정책국장이 선정됐다.

2024.12.23 15:04박희범

트렌드포스 "엔비디아 '블랙웰' 서버랙 대량 공급 내년 2~3분기로 지연"

엔비디아의 최신 AI 반도체 '블랙웰'이 탑재된 AI 서버랙 'GB200'의 대량 공급 시기가 최대 3분기까지 늦춰진다는 전망이 나왔다. 18일 시장조사업체 트렌드포스는 엔비디아 AI 서버랙 'GB200'이 설계 최적화에 어려움을 겪으면서 대량 공급 시기가 내년 2~3분기로 지연된다고 전망했다. 고속 상호 연결 인터페이스, 열설계전력(TDP) 등에 추가 최적화 작업이 필요하다는 설명이다. 트렌드포스는 “블랙웰 GPU 칩 생산은 4분기부터 소량 출하가 가능하지만, AI 서버 시스템은 설계 요구 사항과 여타 부품들의 공급망 조정이 필요한 상황”이라며 “이에 따라 AI 서버 랙의 올해 말 출하량은 업계 기대치에 미치지 못할 것으로 보인다”고 말했다. 다만, 일부 고객사를 대상으로 GB200 서버랙의 소량 공급은 4분기부터 시작됐다. 이번 지연 소식은 앞서 11월 17일 IT 매체 디인포메이션이 보도한 내용과 맥을 같이한다. 디인포메이션은 엔비디아 직원을 인용해 “GB200 서버랙에서 블랙웰 GPU를 연결할 때 과열 현상이 발상해 엔비디아가 서버OEM사들에게 설계 변경을 요구했다”며 “서버 랙 제조사들은 최악의 경우 내년 6월 말쯤에야 제품을 공급할 수 있을 것”이라고 전했다. 이번 공급 지연은 빅테크 기업들의 AI 개발에 차질을 줄 수 있다는 우려가 제기된다. 메타와 구글은 이미 100억 달러 규모의 GB200 40만개를 구매했고, 마이크로소프트도 6만5000개를 주문한 상태다. 트렌드포스는 GB200 NVL72 모델이 내년 전체 서버 공급량의 80%를 차지할 것으로 예상했다. 엔비디아 블랙웰은 2080억개의 트랜지스터를 집적한 그래픽처리장치(GPU)로 사양에 따라 B100, B200으로 나뉜다. 블랙웰은 지난 2022년 나온 '호퍼' 시리즈 보다 데이터 연산 속도가 2.5배 빠르다. 지난 3월 첫 공개돼 당초 2분기 출시가 목표였지만, 설계 결함으로 4분기로 연기돼 양산 중이다. 'GB200' AI 가속기는 2개의 블랙웰 GPU, 1개의 그레이스 중앙처리장치(CPU), HBM3E 8단 16개가 탑재된 제품이다. GB200 서버는 랙에 집적되는 개수에 따라 GB200 NVL3, GB200 NVL72 등으로 나뉜다. GB200 NVL72에는 72개 블랙웰 GPU, 36개의 CPU가 탑재되며, 엔비디아 독자 기술인 5세대 NVLink로 고속 연결을 구현했다. GB200 서버시스템은 종전의 H100보다 성능이 30배, 에너지 효율성이 25배 좋다. 다만 고성능에 따른 발열 문제가 과제로 떠올랐다. GB200 NVL72의 열설계전력(TDP)은 140kW로, 현재 주력 제품인 HGX AI 서버(60~80kW)의 두 배에 달한다. 이에 서버제조사들은 기존 공랭식에서 수랭식 냉각 솔루션으로의 전환을 서두르고 있다. 한편, GB200 서버랙 공급 지연 우려가 크지 않다는 주장도 나온다. 델 테크놀로지스의 마이클 델 CEO는 지난 11월 19일 SNS를 통해 GB200 NVL72 서버랙 출하가 시작됐다고 알렸다. 또 지난 11월 20일 엔비디아 실적 컨퍼런스콜에서 젠슨 황 엔비디아 CEO는 “올 4분기에 과거 예상보다 더 많은 블랙웰 GPU를 공급할 수 있을 것으로 기대한다”고 밝혔다. 이날 콜렛 크레스 엔비디아 CFO 역시 "각종 고객사의 블랙웰 수요에 맞춰 공급 확대에 최선을 다하고 있으며 올 4분기 블랙웰 매출이 당초 예상인 50~60억 달러를 넘어설 것"이라고 설명했다.

2024.12.18 10:01이나리

머스크 AI슈퍼컴 '콜로서스', 엔비디아 칩 100만개 품는다

일론 머스크 테슬라 최고경영자(CEO)가 지난해 세운 인공지능(AI) 스타트업 xAI가 AI 슈퍼컴퓨터 '콜로서스'에 엔비디아 칩 100만개를 탑재한다. 4일(현지시간) 파이낸셜타임스(FT)에 따르면 미국 테네시주 멤피스상공회의소는 이날 xAI가 콜로서스에 탑재하는 엔비디아 그래픽처리장치(GPU)를 100만개로 늘릴 계획이라고 밝혔다. 그 동안 콜로서스는 엔비디아 GPU 10만개가 연결된 클러스터로 운영해왔다. xAI는 2개월 전에는 이를 현재의 2배인 20만개로 늘리겠다고 발표한 바 있다. 상공회의소는 xAI의 확장 계획을 지원하기 위해 엔비디아·델·슈퍼마이크로컴퓨터도 멤피스에 사업장을 설립하기로 했다고 전했다. 콜로서스는 인공지능 챗봇 서비스 '그록(Grok)'을 훈련하는 데 쓰인다. 그록은 경쟁 챗봇인 챗GPT와 퍼플렉시티에 비해 후발주자다. 머스크 CEO는 "콜로서스가 세계 최대 AI 슈퍼컴퓨터"라며 "세계에서 가장 강한 AI 훈련 시스템"이라고 말했다.

2024.12.05 16:55유혜진

젠슨황 엔비디아 "삼성전자 HBM 승인 위해 빨리 작업 중"

세계 최고 인공지능(AI) 반도체 기업 엔비디아의 젠슨 황 최고경영자(CEO)가 “삼성전자 AI 메모리 칩 납품을 승인하기 위해 최대한 빠르게 작업하고 있다”고 밝혔다. 23일(현지시각) 홍콩 과학기술대 명예박사 학위 수여식에 참석하기 위해 홍콩을 찾은 황 CEO는 블룸버그TV와의 인터뷰에서 이같이 말했다고 블룸버그통신이 보도했다. 엔비디아는 삼성전자 5세대 고대역폭 메모리(HBM) HBM3E 8단과 12단 품질을 검증하고 있다. 지난달 31일 삼성전자는 3분기 실적을 내놓은 뒤 주요 고객사 품질 시험에서 중요한 단계를 완료하는 의미 있는 진전을 이뤘다며 4분기 (HBM3E) 판매를 확대할 수 있을 것이라고 발표했다. 다만 블룸버그는 지난 20일 황 CEO가 3분기(8∼10월) 실적을 발표한 뒤 메모리 공급 업체로 SK하이닉스와 마이크론 등을 언급했으나 삼성전자는 거론하지 않았다고 지적했다.

2024.11.24 15:45유혜진

엔비디아, 다시 질주…실적 호조에 '사자' 행렬 몰려

엔비디아가 시장 전망치를 뛰어넘는 3분기 실적을 발표하자 투자자들이 반응하며 엔비디아의 주가가 상승세로 돌아섰다고 CNBC 등 외신들이 21일(이하 현지시간) 보도했다. 엔비디아의 지난 3분기(8~10월) 매출액은 350억8천만 달러를 기록해 전문가 예상치 331억6천만 달러를 뛰어넘었다. 이 같은 수치는 전년 대비 94% 증가한 수치다. 주당 순이익도 0.81달러로 시장 전망치 0.75달러보다 높았다. 전년 대비 매출액은 약 2배가 늘었으나 매출 증가세가 둔화됐다는 지적에 전일 20일 실적 발표 후 엔비디아 주가는 0.76% 하락 마감했고 시간외거래에서 2% 이상 떨어졌다. 하지만, 21일에는 전거래일보다 0.53% 상승한 146.67달러를 기록하며 상승세를 보였다. 엔비디아 주가가 상승세로 돌아서자, 반도체 관련 주식도 오름세를 보였다. 엔비디아의 경쟁사인 AMD는 약 1% 하락했으나 퀄컴과 인텔은 각각 1%, 1.2% 올랐다. 자산운용사 블루박스 어셋 매니지먼트의 포트폴리오 매니저 윌리엄 드 갈레는 “엔비디아 주식의 문제는 미친 그래픽 처리장치(GPU) 수요가 엔비디아에 기대하는 최소한의 기대치가 됐다는 점”이라며 "현재의 수익 수준이 끝날 위험성도 있지만, 흥미진진한 상황이다"라고 말했다. 댄 아이브스 웨드부시 증권 분석가는 엔비디아의 3분기 실적 발표 후 "완벽하다"고 평가하며 "액자에 넣어 루브르에 걸어야 한다"고 밝혔다. 그는 엔비디아 시총이 곧 4조 달러를 넘어설 수 있을 것이라고 전망했다. 그는 20일 블룸버그에 출연해 출연해 "엔비디아의 호실적이 산타 랠리로 이어질 것"이라고 밝혔다. 그는 "다음 분기에는 매출의 앞자리가 '4'로 시작할 수 있다고 생각한다"며 "이는 인공지능(AI) 혁명의 시작에 불과하며, 시가총액 4조 달러를 향하고 있다"고 덧붙였다. 분석가들은 엔비디아의 차세대 칩 '블랙웰'의 출시를 기대하고 있다. 젠슨 황 엔비디아 최고경영자(CEO)는 실적 발표 후 가진 컨퍼런스 콜에서 블랙웰 칩에 대한 수요가 공급을 초과하고 있다고 밝혔다.

2024.11.22 09:41이정현

젠슨 황 CEO "모두가 '블랙웰' 원한다"...발열·생산차질 일축

엔비디아가 20일(현지시간) 3분기(8-10월, 회계연도 기준 2025년 3분기) 실적발표에서 "올 연말 출시할 AI 가속용 GPU '블랙웰'(Blackwell) 매출이 자체 예상치인 50억~60억 달러를 넘어설 것"이라고 밝혔다. 블랙웰은 엔비디아가 'GTC 2024'에서 공개한 AI 가속용 GPU로 올 4분기부터 공급에 들어갔다. 델테크놀로지스는 이달 중순 클라우드 서비스 공급업체(CSP)에 블랙웰 탑재 첫 서버 제품을 공급했다. 이날 컨퍼런스콜에서 젠슨 황 엔비디아 CEO는 "블랙웰 수요가 공급을 여전히 초과하는 현상이 이어지고 있으며 이를 충족하기 위해 노력중이다"며 "올 4분기에 과거 예상보다 더 많은 블랙웰 GPU를 공급할 수 있을 것으로 기대한다"고 밝혔다. 콜렛 크레스 엔비디아 CFO 역시 "각종 고객사의 블랙웰 수요에 맞춰 공급 확대에 최선을 다하고 있으며 올 4분기 블랙웰 매출이 당초 예상인 50~60억 달러를 넘어설 것"이라고 설명했다. 엔비디아는 GPU 신제품인 블랙웰 이외에 현행 제품인 호퍼(Hopper) 기반 GPU도 공급망 제약 문제를 겪고 있다고 밝혔다. 엔비디아는 8월 2분기 실적발표 당시 블랙웰 GPU의 생산용 마스크를 변경했다고 밝힌 바 있고 지난 주말에는 블랙웰 서버의 과열 문제로 생산이 지연됐다는 보도가 나오기도 했다. 젠슨 황 CEO는 "델테크놀로지스가 코어위브에 공급한 블랙웰 GPU 기반 서버나 마이크로소프트 이그나이트에서 공개된 블랙웰 서버를 보아도 알 수 있듯이 모든 업체가 블랙웰 GPU를 원하는 상황"이라고 설명했다. 이어 "TSMC와 몰렉스(커넥터 제조사), SK하이닉스와 마이크론, 폭스콘과 콴타, 델테크놀로지스와 HPE, 슈퍼마이크로 등 공급망 관련 모든 업체와 협력해 수요에 대응하고 있다"고 설명했다. 내년 1월 출범할 도널드 트럼프 2기 행정부는 중국에서 생산한 제품에 최대 60% 관세를 부과하겠다고 선언한 상황이다. 젠슨 황 CEO는 "새 (도널드 트럼프) 행정부가 무엇을 결정하든 이에 따르는 것이 가장 큰 의무이며 각종 규제를 준수하는 동시에 고객사를 돕고 시장에서 경쟁하는 3가지 일을 동시에 수행할 것"이라고 밝혔다.

2024.11.21 09:53권봉석

예상치 웃돈 엔비디아, 3분기 연속 성장

세계 인공지능(AI) 반도체칩 시장을 주도하고 있는 엔비디아가 20일(현지시간) 시장 전망치를 상회하는 3분기(8-10월, 회계연도 기준 2025년 3분기) 실적을 발표했다. 서버용 GPU와 AI가속기를 포함해 개인용·전문가용 그래픽카드 등 모든 부문에서 자체 전망치와 시장 전망을 뛰어넘는 실적을 냈다. 엔비디아가 밝힌 3분기 매출은 350억 8천200만 달러(약 49조 1천218억원), 영업이익은 193억 900만 달러(약 27조 364억원)로 전년 동기 대비 각각 1.9배, 2배 늘어났다. 전체 매출액은 8월 2분기 실적발표 당시 엔비디아 전망치인 325억 달러보다 7% 더 많았으며 올 1분기부터 3분기 연속으로 성장세를 거듭했다. 3분기 매출 중 88%인 308억 달러(약 43조 1천261억원)가 데이터센터 부문에서 나왔다. 데이터센터 부문 매출은 직전 2분기 대비 17%, 전년 동기 대비 2배 이상 상승했다. 데스크톱PC·노트북용 지포스 GPU를 공급하는 게이밍 부문 매출은 신제품 발표가 없었지만 전년 대비 15% 증가한 33억 달러(약 4조 6천206억원)를 기록했다. 각종 설계 분석 등에 쓰이는 쿼드로 등 워크스테이션 칩 매출은 4억 8천600만 달러(약 6천804억원), 자동차와 로봇 부문 매출은 4억4천900만 달러(약 6천286억원)로 집계됐다. 데이터센터 GPU에 대한 글로벌 수요는 엔비디아 실적의 핵심 축으로 자리 잡았다. 또한 게임과 자동차용 칩 등 비핵심 사업 부문에서도 안정적인 매출 성장을 기록하며 균형 잡힌 포트폴리오를 유지하고 있다. 이날 젠슨 황 엔비디아 CEO는 "AI 시대의 가속화가 비즈니스 전반에 걸쳐 혁신적인 변화를 일으키고 있다"며, "데이터센터와 엣지 컴퓨팅, 게이밍 등 다각적 영역에서 기회를 계속 확장해나갈 것"이라고 밝혔다. 엔비디아는 올 4분기(11-1월) 매출을 375억 달러(약 52조 5천75억원)로 예상했다. 분기별 배당금은 주당 1센트이며 바뀌었으며 오는 12월 27일 지급될 예정이다(배당락일 12월 5일).

2024.11.21 08:47권봉석

엔비디아, 시총 1위 밀려나…'블랙웰' 악재로 주가 1.8% 하락

세계 최고 인공지능(AI) 반도체 기업 엔비디아가 애플에 시가총액 1위 자리를 내줬다. 18일(현지시간) 미국 나스닥증권거래소에서 엔비디아는 전 거래일보다 1.83달러(1.29%) 내린 140.15달러로 마감했다. 시가총액은 3조4천379억 달러(약 4천788조원)다. 이날 애플은 3.02달러(1.34%) 오른 228.02달러로 거래를 끝냈다. 시총은 3조4천467억 달러로, 엔비디아보다 88억 달러 많다. 엔비디아는 지난 5일 시총 1위에 오른 뒤 13일 만에 2위로 내려왔다. 이날 엔비디아 주가가 하락한 것은 차세대 AI 칩 '블랙웰' 출시가 미뤄져 실적에 타격을 줄 수 있다는 우려 때문이다. 미국 정보기술(IT) 전문 매체 디인포메이션은 최근 엔비디아의 블랙웰을 서버에 연결하면 과열된다고 보도했다. 지난 3월 블랙웰을 처음 선보인 엔비디아는 2분기 이를 내놓기로 했으나 결함을 발견해 출시를 미뤘다.

2024.11.19 10:58유혜진

델 테크놀로지스, 新 인프라·서비스 공개…AI 팩토리 '확대'

델 테크놀로지스가 인공지능(AI) 구축·운영을 간소화할 수 있는 새로운 인프라 솔루션과 전문 서비스를 발표해 고객사를 지원한다. 델 테크놀로지스는 '델 AI 팩토리' 포트폴리오에 신형 서버, 랙 시스템, AI 전문 서비스를 추가했다고 19일 밝혔다. 델은 이번 업데이트를 통해 대규모 AI 환경에서 데이터 접근과 관리의 효율성을 높이고 고성능 컴퓨팅을 지원할 계획이다. 이번에 공개된 '델 IRSS'는 공장 통합형 랙 스케일 시스템으로 델 스마트 쿨링 기술이 적용돼 플러그 앤 플레이 방식의 고효율 AI 인프라를 제공한다. 델은 설치 후 패키징 폐기물 처리와 노후 하드웨어 재활용 서비스도 지원해 지속 가능성을 강화할 예정이다. 델 파워엣지 'XE9685L'은 수랭식 4U 서버로 최대 96개의 그래픽처리장치(GPU)를 지원하며 AI와 머신러닝 워크로드에 최적화됐다. 공랭식 모델인 'XE7740'은 4U 크기에서 최대 16개의 GPU 구성이 가능해 생성형 AI 모델의 효율적 운영을 돕는다. 이같이 엔비디아 기반 델 AI 팩토리는 새로운 GPU 지원 옵션을 통해 최대 1.9배 성능을 향상시킨다. 또 신규 검색 증강 생성(RAG) 서비스 '델 에이전틱 RAG'를 도입해 대규모 데이터 세트에서 복잡한 쿼리와 RAG 작업을 개선할 수 있도록 했다. 델은 AI 구축을 간소화하기 위한 전문 서비스도 함께 선보였다. 지속 가능한 데이터 센터 구축, 데이터 관리 체계화, AI 네트워크 설계 서비스 등 다양한 분야에서 고객을 지원할 예정이다. 김경진 델 테크놀로지스 한국 총괄사장은 "AI를 구축하려는 기업들이 점점 복잡한 과제에 직면하고 있다"며 "진일보한 AI 솔루션을 통해 고객이 더 스마트하게 대응할 수 있도록 돕겠다"고 말했다.

2024.11.19 10:16조이환

"엔비디아 AI칩 블랙웰, 서버 탑재시 과열"

엔비디아의 최신형 AI 가속기 '블랙웰'을 기반으로 한 서버가 과열 문제를 겪고 있다고 미국 IT전문매체 디인포메이션이 17일 보도했다. 디인포메이션은 소식통을 인용해 "최대 72개의 칩을 장착하도록 설계된 서버 랙에 블랙웰 GPU를 연결하면 과열 현상이 일어난다"며 "과열 문제 해결을 위해 랙 설계 변경을 여러 차례 요청했다"고 밝혔다. 블랙웰은 2천80억개의 트랜지스터를 집적해, 이전 세대인 H100 대비 데이터 연산 속도를 2.5배 가량 향상시켰다. 엔비디아가 올 연말부터 양산을 본격화한 제품이다. 엔비디아의 블랙웰 GPU와 '그레이스' CPU를 연결하면 'GB200'이라는 AI 가속기가 된다. 이 GB200이 랙에 집적되는 개수에 따라 'GB200 NVL32', 'GB200 NVL72' 등으로 나뉜다. 이와 관련해 엔비디아 측은 로이터통신에 성명을 보내 "엔비디아는 선도적인 클라우드 서비스 제공업체와 협력하고 있다"며 "지속적으로 엔지니어링을 하는 일은 정상적이고 예상된 일"이라고 밝혔다. 이번 과열 문제가 심화될 경우 마이크로소프트나 메타, 구글 등 주요 CSP(클라우드서비스제공자) 기업들의 AI 서버 투자 계획은 당초 예상 대비 늦춰질 전망이다. GB200 NVL의 가격이 최대 300만 달러로 추정되는 만큼, 업계에 미칠 파장은 적지 않을 것으로 관측된다.

2024.11.18 09:39장경윤

소프트뱅크, 엔비디아 '블랙웰' 탑재 슈퍼컴 만든다

일본 투자 회사 소프트뱅크그룹이 세계 최고 인공지능(AI) 반도체 기업 엔비디아 신제품 '블랙웰' 칩을 탑재한 최초의 슈퍼컴퓨터를 개발하기로 했다. 젠슨 황(황런쉰) 엔비디아 최고경영자(CEO)와 손 마사요시(손정의) 소프트뱅크그룹 회장은 13일(현지시간) 일본 도쿄에서 열린 '엔비디아 AI 서밋(Summit·정상회의)'에서 함께 무대에 올라 이같은 계획을 발표했다고 미국 블룸버그통신이 보도했다. 소프트뱅크 통신사업부는 광범위한 서비스를 지원하기 위해 일본에서 가장 강력한 AI 슈퍼컴퓨터를 구축할 것이라고 밝혔다. 컴퓨터 프로세서와 AI 가속기 칩을 결합한 엔비디아 'DGX B200' 제품을 기반으로 한다. 이어 더 발전한 '그레이스 블랙웰'을 활용하기로 했다. 블룸버그는 2019년 초까지 엔비디아 지분 4.9%를 가졌던 소프트뱅크가 칩을 둘러싸고 유리한 자리를 확보했다고 평가했다. 세계 기술 기업이 엔비디아의 새로운 칩을 저마다 가장 먼저 손에 넣길 간절히 원하지만 생산 차질로 출시가 미뤄졌다고 블룸버그는 설명했다. 또 AI 산업 발전 속도를 따라잡으려는 소프트뱅크의 야심이 보인다며 엔비디아는 대형 미국 고객 의존도를 낮추려 한다고 분석했다. 이 자리에서 황 CEO는 “손 회장은 '시장이 엔비디아 가치를 이해하지 못한다'고 했었다”고 전했다. 소프트뱅크가 엔비디아 주식을 팔지 않았더라면 지분 가치가 현재 1천780억 달러(약 250조원)에 달할 것이라며 손 회장은 황 CEO 어깨에 기대 우는 시늉을 했다. 소프트뱅크는 엔비디아를 인수하려고 세 번 시도했으나 모두 실패했다. 손 회장은 2016년 7월 소프트뱅크가 영국 반도체 설계 업체 Arm을 인수한 다음 날 개인적으로 황 CEO에게 엔비디아 인수를 제안했다. 소프트뱅크는 같은 해 12월 엔비디아 주식을 4.9% 사들였다. 2019년 주가가 급락하자 시장 압력을 받고 모두 팔았다. 2020년에는 소프트뱅크가 엔비디아에 Arm을 매각하는 대신 엔비디아 주식을 8% 취득하기로 계약했지만 미국과 유럽에서 경쟁법 위반 우려가 나와 2022년 쓴 잔을 들었다.

2024.11.14 10:58유혜진

  Prev 1 2 3 4 5 6 7 8 9 10 Next  

지금 뜨는 기사

이시각 헤드라인

은행권, 스테이블코인 해외송금으로 풀어나간다

GS25 돈키호테 팝업 1200명 운집…"기대 이하" 불만 속출

홈플러스 "실투입금 1조원 이하로 인수 가능"

삼성전자, 반도체 쇼크에 '휘청'…"재고 충당·AI칩 대중 수출 규제 탓"

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.