• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 인터뷰
  • 인사•부음
  • 글로벌뉴스
인공지능
배터리
양자컴퓨팅
컨퍼런스
칼럼•연재
포토•영상

ZDNet 검색 페이지

'델 서버'통합검색 결과 입니다. (15건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

AI 투자 열기 식었나…빅테크 움직임에 슈퍼마이크로 실적도 '뚝'

최근 미국 상호관세 영향으로 글로벌 불확실성이 여느 때보다 높아진 가운데 빅테크 기업들이 AI 인프라 지출을 줄이려는 모습을 보이자 서버 업체들도 타격을 입는 모양새다. 30일 블룸버그통신에 따르면 미국 서버 제조업체 슈퍼마이크로컴퓨터는 회계연도 3분기(1~3월) 잠정 실적을 발표하자 주가가 시간외 거래에서 한 때 19%까지 떨어졌다. 이 기간 동안 실적이 시장 예상치를 하회했기 때문이다. 슈퍼마이크로의 3분기 매출은 45억~46억 달러, 주당 순이익은 0.29∼0.31달러로 집계됐다. 이는 애널리스트들이 예상한 53억5천만 달러는 물론, 슈퍼마이크로의 가이던스(55억 달러)에 크게 못 미치는 수치다. 주당 순이익 역시 월가 예상치인 0.53달러, 자체 전망치 0.46~0.62달러를 하회했다. 다만 매출은 지난해 같은 기간 대비 18% 증가했다. 그러나 1년 전에 기록했던 200% 성장보다는 폭이 대폭 줄어들었다. 분기 총이익률도 구형 제품에 대한 재고 평가충당금 증가와 신제품 출시를 위한 긴급 조달 비용 증가 등의 영향으로 전 분기보다 2.2%p 하락했다. 슈퍼마이크로는 최근까지 고성능 그래픽처리장치(GPU) 기반 AI 서버 수요 급증에 힘입어 투자자들 사이에서 AI 수혜주로 각광 받아왔다. 지난 2월에는 오는 2026년 6월 종료되는 회계연도에 매출을 400억 달러까지 확대하겠다는 장기 전망을 제시하기도 했다. 이는 올해 예상 매출의 두 배에 달하는 수준이다. 하지만 최근 빅테크들이 AI 투자에 대한 속도 조절에 나서면서 슈퍼마이크로도 타격을 입게 됐다. 실제 마이크로소프트(MS)는 인도네시아, 영국, 호주뿐만 아니라 미국 내 일리노이, 노스다코타, 위스콘신주 등 여러 지역에서 데이터센터 부지에 대한 협상을 중단하거나 설립 계획을 연기했다. 앞서 미국 투자은행 TD 코헨은 MS가 미국과 유럽에서 약 2기가와트(GW) 용량에 해당하는 새로운 데이터 프로젝트를 중단했으며, 지난 2월에는 최소 두 곳의 민간 운영 업체와 체결했던 데이터센터 임차 계약도 취소했다고 밝힌 바 있다. 아마존도 일부 데이터센터 임대 협상을 중단한 것으로 알려졌다. 미국 대형은행인 웰스파고 애널리스트들은 아마존의 임대 중단 규모가 명확하지 않지만 최근 마이크로소프트의 임대 축소와 유사하다고 평가했다. 슈퍼마이크로도 이 같은 분위기 탓에 실적이 부진했음을 시사했다. 슈퍼마이크로는 이번 분기 실적에 대해 "일부 고객이 구매를 연기하면서 매출이 다음 분기로 이연됐다"고 설명했다. 우진호 블룸버그 인텔리전스 애널리스트는 "슈퍼마이크로의 매출이 가이던스 대비 15% 하회한 것은 초대형 AI 계약에 과도하게 의존한 결과"라며 "구형 GPU 재고 증가와 고객 납품 지연은 엔비디아의 차세대 블랙웰(Blackwell) 칩 기반 신제품 출시 전까지 고객이 구매를 미룰 수 있음을 시사한다"고 분석했다. 이 탓에 슈퍼마이크로의 주가는 이날 뉴욕 증시 정규장에서 3.41% 내렸으나, 잠정 실적 발표 후 시간외 거래에서는 약 15% 폭락했다. 한 때 19%까지 떨어지기도 했다. 이는 경쟁사들의 주가에도 영향을 줬다. 서버 경쟁업체인 델 테크놀로지스의 주가는 약 5%, 휴렛팩커드 엔터프라이즈는 2% 하락했다. 엔비디아의 주가도 약 2% 떨어졌다. 슈퍼마이크로 주가는 이미 최근 12개월간 60% 하락한 상태다. 지난해 8월 연간 재무 보고서 제출 기한을 넘겼고, 같은 해 10월에는 감사기관인 언스트앤영(EY)이 회사의 지배구조 및 투명성 문제를 이유로 사임하면서 상장 폐지 위기에 몰리기도 했다. 그러나 재무보고서를 2차 마감 시한인 지난 25일 미국 증권거래위원회(SEC)에 제출하면서 나스닥 상장 폐지 위기를 넘겼다. 슈퍼마이크로는 오는 5월 6일 오후 5시에 이번 실적에 대한 컨퍼런스콜을 개최할 예정이다. 업계 관계자는 "이번 분기의 부진한 실적이 일시적 문제인지, AI 투자의 전반적인 지연을 의미하는지가 컨퍼런스콜을 통해 드러날 것으로 예상된다"고 말했다.

2025.04.30 10:58장유미

[인터뷰] "엔비디아 사로 잡은 비결, '델 AI 팩토리' 덕분"

"바이 델(Buy Dell·델 제품을 사세요), 바이 델, 바이 델!" 지난 달 18일. 미국 새너제이에서 열린 엔비디아 연례 개발자 회의 GTC 행사에 마련된 델 테크놀로지스 부스에선 '인공지능(AI) 대부'로 불리는 젠슨 황 엔비디아 최고경영자(CEO)가 목청을 높여 이처럼 외쳤다. 컴퓨터를 필요로 하는 이들이라면 누구나 알고 있는 '델'의 PC뿐 아니라 AI 인프라 경쟁력을 인정하며 엔비디아의 가장 최고 파트너라는 점을 치켜 세워준 것이다. AI 열풍이 한창이던 1년 전 엔비디아 GTC 행사에서도 황 CEO는 델 테크놀로지스를 공개 석상에서 언급하며 끈끈한 관계를 과시했다. 당시 황 CEO는 "정보기술(IT)과 관련해 무엇이든 필요한 것이 있다면 델에 전화하면 된다"고 밝혔다. 이는 델 테크놀로지스 주가에도 영향을 줘 지난해 5월 시가총액이 1천억 달러를 넘기도 했다. 이처럼 엔비디아의 두터운 신임을 받고 있는 델 테크놀로지스가 올해 AI 인프라를 전면 업그레이드하며 시장 강자의 면모를 다시 한 번 드러내고 있다. 엔비디아 기반 델 AI 팩토리의 최신 포트폴리오를 앞세워 최근 달궈지고 있는 글로벌 AI 인프라 시장에서 주도권 굳히기에 본격 나선 모습이다. 최근 지디넷코리아와 만난 양원석 델 테크놀로지스 인프라스트럭처 솔루션 사업부 전무는 "우리는 AI PC부터 엣지, 코어 데이터센터, 클라우드까지 엔드 투 엔드(end-to-end) AI 솔루션 포트폴리오를 가지고 있다는 것이 강점"이라며 "서버 자체 기술력, 공급망 관리 능력, 영업 능력, 기술 지원 능력 등을 갖추고 있는 덕분에 글로벌뿐 아니라 한국에서도 서버 부문 1위 업체로 인정 받고 있다"고 운을 뗐다. 그러면서 "글로벌뿐 아니라 한국 스토리지 하드웨어(HW) 및 소프트웨어(SW) 부문 1위 업체로서의 저력을 갖고 있는 만큼, 데이터 및 데이터관리에 대해 전 세계에서 제일 잘 알고 있는 기업이라고 자부할 수 있다"며 "젠슨 황 CEO가 엔비디아 GTC 현장에서 '델'을 언급한 것도 이런 점을 인정한 것이라고 볼 수 있다"고 덧붙였다. 실제로 델 테크놀로지스는 글로벌 AI 인프라 시장에서 경쟁력을 입증 받아 독보적인 점유율을 유지하며 꾸준한 성장세를 보이고 있다. 특히 슈퍼마이크로, HPE 등과 경쟁하고 있는 AI 서버 시장에선 다양한 포트폴리오를 앞세워 압도적인 우위에 올라서 있다는 평가를 받고 있다. 7일 시장조사업체 IDC에 따르면 델 테크놀로지스는 지난해 3분기 전 세계 X86 서버 시장 판매대수 기준으로 11.4%의 점유율을 차지하며 1위를 유지했다. 매출 기준 점유율도 12.4%로 1위를 차지했다. 델 테크놀로지스와 경쟁하고 있는 슈퍼마이크로와 HPE, IEIT 시스템즈, 레노버는 그 뒤를 이었다. 이처럼 델 테크놀로지스가 시장 우위를 견고히 하고 있는 상황에서 전체 서버 시장의 성장세가 높다는 점은 호재로 작용하고 있다. 지난해 4분기 서버 시장 매출은 전년 동기 대비 91% 증가한 733억 달러를 기록, 2019년 이후 두 번째로 높은 성장률을 보였다. 특히 GPU가 내장된 서버 매출은 전년 동기보다 192.6%나 성장해 전체 서버 시장 매출의 절반 이상을 차지할 정도로 급성장한 모습을 보였다. 엔비디아는 전체 출하량의 90% 이상을 차지하며 서버 GPU 분야에서 독주를 이어갔다. 지난해 전체 서버 시장 규모는 2020년 이후 두 배 이상 성장한 2천357억 달러에 달했다. 엔비디아와 밀접한 관계를 맺고 있는 델 테크놀로지스도 지난해 호실적을 기록했다. 특히 AI 서버 출하액은 98억 달러로, 사업을 시작한 지 2년도 채 안되는 기간에 급속도로 성장한 모습을 보였다. AI 관련 기업 고객 역시 2천 곳 이상을 확보한 상태로, 올해 고객사 수가 더 늘어나 AI 매출이 50% 성장할 것으로 예상됐다. 올해 AI 서버 출하액은 약 150억 달러에 달할 것으로 전망했다. 양 전무는 "지난해 엔비디아 GTC에서 처음 선보인 '델 AI 팩토리 위드 엔비디아(Dell AI Factory with NVIDIA)'를 통해 다양한 솔루션과 제품을 선보이며 엄청난 컴퓨팅 파워를 시장에 공급했다고 자부하고 있다"며 "해외뿐 아니라 국내에서도 AI 시장 수요가 점차 '엔터프라이즈 AI'로 이동하고 있는 만큼 올해도 수요는 더 많아질 것으로 보인다"고 설명했다. 이어 "지난해까진 클라우드 서비스 제공자(CSP), 특히 하이퍼스케일러 또는 코어위브 같은 NCP(NVIDIA Cloud Partner) 업체들이 주축이 돼 시장 성장을 주도했지만, 올해는 더 많은 대기업, 대학, 연구기관 등 다양한 분야에서 수요가 많을 듯 하다"며 "10대 미만~수십대 등 작은 규모에서부터 거대 규모에 이르기까지 서버 규모 면에서도 더 다양해질 듯 하다"고 덧붙였다. 양 전무는 최근 국내에서 sLM(small Language Model), 온프레미스에 AI 서버를 두고 API를 사용해 클라우드 업체가 제공하는 AI 서비스와 연결해 사용하는 활용 사례(Use Case)가 늘어나고 있다는 점도 주목했다. 또 엔비디아 'H100' 위주로 형성된 GPU 시장이 향후 블랙웰, 그레이스블랙웰, AMD, 인텔 등 다양한 실리콘으로 확대될 것으로 봤다. 하지만 국내 고객들이 생성형 AI를 도입, 활용할 때 걸림돌이 많아 아직 시장이 활성화 되지 못했다는 점에 대해선 아쉬워 했다. 양 전무는 "국내에선 생성형 AI 활용 시 거버넌스와 개인정보 보호, 법적 규제 등을 고려해야 해 적절한 데이터를 수집·준비하는 과정에 있어 많은 어려움이 있을 수 있다"며 "생성형 AI를 위한 인프라는 기존 데이터센터 인프라 기술과는 달라 이를 위해 내부 역량을 확보하거나, 외부 전문 인력 채용 등을 함께 추진해야 하는 데 쉽지 않은 것이 현실"이라고 분석했다. 이어 "이에 따라 AI와 관련해 데이터 준비, 전략 수립을 위한 컨설팅, 활용 사례 생성 및 구축 등에 있어 전문 서비스를 활용하는 것이 좀 더 안전하고 체계적일 수 있다"며 "비용 측면에서 고가의 GPU에 투자하거나 퍼블릭 클라우드 서비스 사용 시 높은 운영 비용을 감당하는 데 기업들이 부담을 느끼는 경우가 많다"고 덧붙였다. 이 같은 상황에서 양 전무는 델 테크놀로지스가 좋은 대안이 될 것이라고 강조했다. 또 엔터프라이즈 기업의 경우 생성형 AI를 위해 안정적이며 보안 측면에서 신뢰할 수 있고 관리하기 쉬운 데다 데이터와 가까운 곳에 위치한 고성능의 데이터센터 인프라를 구축해야 한다고 조언했다. 양 전무는 "자사 서버 제품들은 효율화 및 생산성 향상을 위한 라이프사이클 관리의 지능적 설계 및 제어가 가능하다"며 "클라우드 인프라의 대부분의 이점도 온프레미스에서 서비스 형태(As a Service)로 제공할 수 있다"고 설명했다. 그러면서 "'델 AI 솔루션'은 경쟁사들에 비해 AI PC부터 엣지, 코어 데이터센터, 클라우드까지 엔드 투 엔드(End-to-end) AI 솔루션 포트폴리오를 갖추고 있는 데다 자사가 국내외서 스토리지 HW 및 SW 부문 1위 업체로서 데이터 및 데이터 관리에 대해 전 세계에서 가장 잘 알고 있다는 것이 강점"이라며 "코로케이션 및 호스팅 공급업체부터 AI 모델의 기반이 되는 반도체 공급업체에 이르기까지 포괄적인 파트너 생태계 스택을 제공하고 있다는 것도 매력적인 요소"라고 덧붙였다. 또 그는 "엔비디아, 마이크로소프트, 퀄컴, AMD, 허깅페이스, 인텔, 메타, 레드햇 등 광범위한 에코시스템을 통해 협력 관계를 탄탄히 구축하고 있는 것도 장점"이라며 "공장 팩토리 레벨에서 준비된 솔루션을 공급할 수 있도록 엔지니어링 단계에서부터 엔비디아와 협력하고 있다는 것도 우리만의 경쟁력"이라고 강조했다. 이 같은 시스템을 바탕으로 델은 국내 서버 시장에서도 1위 자리를 굳건히 지키고 있다. 특히 서버 자체 기술력, 공급망 관리 능력, 영업 능력, 기술 지원 능력 등을 인정 받아 삼성SDS와 NHN클라우드, 엘리스 등 많은 기업들이 델의 서버를 앞 다퉈 도입하고 있다. 해외에서도 마찬가지다. 델 테크놀로지스에 따르면 현재 기업들은 ▲비용 통제 ▲데이터 관리 ▲기존 시스템과의 통합 ▲전문 인력 부족을 주요 도전 과제로 삼고 있다. 이에 전체 중 77%의 기업이 AI 인프라 구축을 위해 '단일 벤더'를 선호하고 있는데 델 테크놀로지스는 다양한 제품 및 시스템 덕에 기업들의 상당한 신뢰를 얻고 있는 것으로 나타났다. 양 전무는 "우리는 업계 최신 기술과 오픈·모듈러 아키텍처를 빠르고 적극적으로 수용해 고객들이 이미 투자한 자산을 보호할 수 있도록 지원하고 있다"며 "새로운 기술이 나왔을 때 기존의 장비·설비에서 손쉽게 업그레이드할 수 있도록 함으로써 기업들이 효율적으로 자사 제품을 활용할 수 있게 도울 것"이라고 밝혔다. 그러면서 "특히 곧 출시될 '델 파워엣지 XE8712' 서버는 고객들이 가장 기대해도 좋을 제품"이라며 "2개의 그레이스 CPU와 4개의 블랙웰 GPU를 통합한 엔비디아 GB200 그레이스 블랙웰 슈퍼칩을 탑재해 데이터센터 내 AI 성능을 극대화 함으로써 현존하는 AI 서버 중 가장 빠른 속도로 이용할 수 있을 것"이라고 설명했다. 또 델 테크놀로지스가 AI 데이터 관리 측면에서도 상당한 기술 발전을 이끌어 낼 것이라고 자신했다. 특히 기업들이 AI 데이터를 더 빠르게 처리하고 보다 안전하게 보호할 수 있도록 설계된 '델 AI 데이터 팩토리 위드 엔비디아'가 중추적 역할을 할 것으로 봤다. 이 플랫폼은 대량의 데이터를 실시간으로 받아들이는 데이터 인제스천 기능을 지원하며 GPU 가속 기반 '스파크 쿼리'를 활용해 기존 대비 최대 220% 향상된 속도로 데이터를 분석하고 처리할 수 있다. 더불어 델이 AI 소프트웨어 분야에서도 엔비디아와의 협력을 통해 기술 발전을 이끌어 냈다고 강조했다. 특히 '에이전트 AI' 시스템 개발을 지원하는 엔비디아의 AI 개발 프레임워크인 '에이전틱 AI'와 이를 위한 AI 최적화 도구를 AI 팩토리에 통합함으로써 AI를 통해 기업들이 의사 결정을 쉽게 내릴 수 있도록 지원에 나선 점을 피력했다. 양 전무는 "그동안에는 마이크로소프트 등 하이퍼스케일러들이 수십만 장의 GPU를 구매해 파운데이션 모델을 만드는 것이 대세였다면, 작년 말부턴 AI를 어떻게 잘 활용할 수 있을지에 대해 고민을 하는 기업들이 더 많아진 듯 하다"며 "점차 일반 기업들이 실제 비즈니스 도움이 될 수 있도록 AI를 사용하는 사례가 많아지고 있는 만큼, AI 인프라에 대한 시장의 관심도 더 커질 듯 하다"고 말했다. 그러면서 "AI 기술 발전으로 서버 신제품 발표 주기도 2년에 한 번 정도에서 최근에는 엔비디아의 움직임에 맞춰 6개월에 한 번으로 짧아질 정도로 빨라진 상황"이라며 "이에 따른 전력 소비, 냉각 등과 관련된 시스템을 잘 갖춰나가기 위해 노력 중인 만큼 많은 기업들이 우리 제품을 선택할 것으로 기대하고 있다"고 덧붙였다. 또 그는 "특히 국내에선 정부에서 국가 AI 컴퓨팅 센터를 추진하고 있는 만큼 실제 구체적인 사업을 진행할 때 우리 제품을 외면하지는 않을 것으로 보인다"며 "엔비디아뿐 아니라 AMD, 인텔 등 다양한 기업들의 GPU를 제공하며 고객들의 선택지를 많이 넓힌 만큼 '델 AI 팩토리'를 통해 시장 변화에 맞춰 탄력적으로 대응함으로써 시장 주도권을 유지하기 위해 더 노력할 것"이라고 강조했다.

2025.04.07 16:48장유미

[유미's 픽] '블랙웰' 서버 쏟아지는데 韓 '잠잠'…AI 3대 강국 꿈 멀어지나

인공지능(AI) 서버 시장을 주도하고 있는 주요 업체들이 엔비디아의 차세대 그래픽처리장치(GPU) '블랙웰'을 탑재한 제품을 잇따라 출하하면서 세대교체가 본격화되는 분위기다. '블랙웰'이 기존보다 발열이 심한 탓에 수랭식 냉각 시스템을 적용한 데이터센터를 중심으로 이 서버를 도입할 수 있다는 제약이 있지만, AI 기술 경쟁에 나선 기업들은 선제적으로 물량을 확보하기 위해 대규모 투자에 적극 나서고 있다. 24일 업계에 따르면 일론 머스크 테슬라 최고경영자(CEO)가 만든 AI 기업 xAI는 미국 서버업체 델 테크놀로지스와 최근 50억 달러(약 7조원) 이상 규모의 서버 구매 계약을 체결할 것으로 알려졌다. 이 서버는 엔비디아의 'GB200' 시스템을 탑재한 것으로, xAI가 현재 테네시주 멤피스에 짓고 있는 데이터센터에 적용될 것으로 전해졌다. 'GB200'은 엔비디아의 GPU '블랙웰'이 장착된 시스템으로, 대규모 AI 모델 훈련 및 추론에 필요한 컴퓨팅 성능을 제공한다. 엔비디아는 '블랙웰'을 출시하면서 72개의 GPU와 36개의 중앙처리장치(CPU)를 결합한 GB200 NVL72 형태로 판매하고 있다. 수랭식 엔비디아 GB200 NVL72는 공랭식 엔비디아 'H100' 시스템 보다 최대 25배 더 효율적인 것으로 평가 받고 있다. 블랙웰 기반 'B100' 제품의 경우 호퍼 기반의 'H100' 제품보다 AI 추론 성능이 30배 향상된 것으로 분석됐다. 이에 경쟁사인 다른 빅테크들도 '블랙웰'이 탑재된 서버 출시를 앞두고 대규모 투자 계획을 내놓은 상태다. 구글 모회사 알파벳은 올해 AI 인프라 등에 약 750억 달러(한화 109조원)를, 마이크로소프트(MS)는 전년보다 60% 늘어난 800억 달러를 AI 분야에 투자키로 했다. 페이스북 모회사 메타도 650억 달러를 투자할 계획이라고 밝혔다. 최근 오픈AI와 소프트뱅크, 오라클 등이 함께 추진하고 있는 '스타게이트'도 전 세계 AI 관련 시설 투자 확대 움직임에 불을 지폈다. 이 업체들은 합작 벤처 형태로 미국 내 AI용 데이터센터 건설에 최대 5천억 달러(약 730조원)를 향후 4년간 투자하는 방안을 구상 중이다. 또 이 기업들은 이미 델과 폭스콘, 윈스트론 등 협력사를 통해 '블랙웰' GPU 기반 제품 주문도 넣은 것으로 전해졌다. 모건스탠리는"올해 세계 10대 클라우드 업체의 설비 투자 금액은 지난해보다 약 32% 늘어난 3천500억 달러(약 504조4천억원)에 이를 것으로 보인다"며 "스타게이트가 전 세계 AI 시설 투자 확대를 주도하는 역할을 담당하고 있다"고 분석했다. 이에 맞춰 서버업체들의 움직임도 분주해졌다. 업계 강자인 델 테크놀로지스는 지난해 말부터 일찌감치 '델 파워엣지 XE9712'를 AI 하이퍼스케일러 기업인 '코어위브(CoreWeave)'에 공급해 주목 받았다. 엔비디아 'GB200'을 탑재한 서버를 고객에 납품한 것은 델 테크놀로지스가 업계 처음이다. '델 파워엣지 XE9712'는 엔비디아 기반 델 AI 팩토리 포트폴리오에 속한 제품으로, 대규모 AI 구축 환경의 거대언어모델(LLM) 학습 및 실시간 추론을 위한 고성능의 고집적 가속 컴퓨팅을 제공한다. 또 '블랙웰' 아키텍처 기반인 'GB200 NV L72'를 탑재해 우수한 GPU 집적도를 보여준다. 슈퍼마이크로도 지난 5일 '블랙웰'을 활용한 AI 데이터센터용 서버를 대량 생산 및 공급할 수 있게 됐다고 발표하며 고객 확보에 본격 나섰다. HPE 역시 지난 20일 '블랙웰' 기반 첫 번째 솔루션인 엔비디아 'GB200 NVL72'를 공식 출하한다고 밝혔다. 직접 서버를 만들어 판매하는 ODM 업체들도 일정 차질 없이 '블랙웰'을 탑재한 서버 공급을 진행 중인 것으로 알려졌다. 대표적인 ODM 업체인 대만 폭스콘은 지난해 4분기에 소량 공급을 시작한 후 올해 1분기부터 생산량을 확대할 계획이다. 콴타도 올해 1분기부터 대량 생산을 개시할 예정이다. 이처럼 서버업체들이 '블랙웰'을 탑재한 AI 서버를 속속 내놓고 있지만, 업계에선 당장 세대교체가 쉽진 않을 것으로 봤다. '블랙웰'의 발열 문제와 함께 가격이 '호퍼' 대비 50~60% 높아 부담이 크기 때문이다. '호퍼' 가격은 개당 4만 달러(한화 5천만원)가 넘는 것으로 알려졌다. 발열 문제에 따른 시스템 구축 비용도 만만치 않다. 현재 대부분의 데이터센터 냉각 방식은 공랭식(공기로 냉방)이 압도적으로 많은 상태지만, '블랙웰'의 발열을 잡기 위해선 투자 비용이 더 많이 드는 수랭식(냉각수로 냉방) 시스템이 갖춰져야 하기 때문이다. 앞서 젠슨 황 엔비디아 CEO도 "차기 GPU인 '블랙웰'부터는 데이터센터에 수랭식을 도입하기 바란다"고 밝힌 바 있다. 이에 '쩐의 전쟁'에서 밀리고 있는 국내 업체들은 미국 빅테크들과 달리 '블랙웰' 탑재 서버 출하 소식에도 머뭇거리고 있다. 네이버클라우드, KT클라우드, NHN클라우드 등 토종 클라우드서비스제공사업자(CSP)를 비롯해 삼성SDS 등 대규모 데이터센터를 보유한 국내 업체들은 아직까지 선뜻 도입하기를 꺼려하는 분위기다. 업계 관계자는 "국내 데이터센터는 대부분 공랭식 시스템으로 냉각 방식이 운영되고 있다"며 "'블랙웰'은 데이터센터 설계 때부터 수랭식 시스템 도입이 고려된 곳을 중심으로 적용할 수밖에 없다 보니 국내에선 이를 감당할 수 있는 곳이 거의 없는 것으로 안다"고 설명했다. 이어 "기존 데이터센터를 운영하는 곳보다는 신축 데이터센터를 지으려 나선 기업들을 중심으로 '블랙웰' 탑재 서버를 도입할 수 있을 듯 하다"고 덧붙였다. 이 탓에 국내 기업들은 AI 기술 경쟁력을 끌어올리는 요소로 아직까지 엔비디아 '호퍼'를 기반으로 한 GPU를 경쟁 요소로 삼는 분위기다. NHN클라우드가 광주 AI 데이터센터에 1천 개 이상의 'H100'을, KT클라우드가 자사 AI 훈련 서비스에 'H200'을 도입한다는 점을 앞세워 홍보하는 것이 대표적인 예다. 다만 자체 데이터센터를 보유하고 있는 일부 기업들이 최근 액침냉각 시스템 도입을 잇따라 추진하고 나섰다는 점에서 국내에서도 '블랙웰' 기반 서버 도입이 머지 않았다는 전망도 있다. 현재 국내에서 액침냉각에 관심을 보이고 있는 곳은 SK텔레콤과 삼성SDS, LG CNS 등이다. 특히 삼성SDS는 지난 2022년 12월 가동을 시작한 동탄 데이터센터에 수랭식 시스템과 함께 액침냉각 시스템 적용을 위한 관련 인프라를 갖춰 놓은 상태다. 서버 강자인 델 테크놀로지스와 끈끈한 관계를 유지하고 있다는 점에서 국내에서 '블랙웰' 서버 도입을 가장 먼저 추진할 수도 있을 것이란 기대감을 높이고 있다. 업계 관계자는 "클라우드 컴퓨팅 서비스를 제공하는 CSP들은 엔비디아 고성능 GPU를 얼마나 확보했는지가 중요한 경쟁력이 됐다"며 "지난해 엔비디아, 델 테크놀로지스와 다양한 협업 움직임을 보여줬던 삼성SDS가 'B100' 물량을 확보하게 되면 경쟁사들의 긴장감은 더 해질 것"이라고 내다봤다. 서버 업계 관계자는 "현재 국내에선 삼성SDS와 삼성전자, 네이버, 카카오 등이 블랙웰이 탑재된 서버 도입에 상당한 관심을 가지고 있는 상태"라면서도 "블랙웰에 대한 관심은 높지만 비용 부담이 커 국내에선 호퍼 기반의 서버가 한참 더 인기를 끌 것으로 보인다"고 전망했다. 이에 일각에선 우리나라 정부가 최근 미국, 중국에 이어 'AI 3대 강국'을 목표로 AI 인프라 투자에 나설 것이라고 발표했다는 점에서 기대감을 드러내기도 했다. 현재 AI 경쟁력의 핵심인 데이터센터 개수는 국내 188개로, 미국 5천381개, 독일 521개 등에 비하면 턱없이 부족하다. 소프트웨어정책연구소에 따르면 2023년 한국의 'H100' 보유량은 약 2천 개로, 같은 기간 메타의 15만 개에도 한참 못 미친다. 중국 딥시크가 확보한 A100 1만 장(H100 환산 기준 최소 2천500개)에도 모자란다. 이 같은 상황에서 정부는 민관합작 투자를 통해 SPC를 설립, 2조원 가량을 투입해 오는 2027년께 국가AI컴퓨팅센터를 오픈한다는 계획이다. 초기에는 GPU 등 해외 AI반도체를 중심으로 인프라를 구축하되 점차 국산 AI 반도체 비중을 늘리기로 했다. 비중은 2030년까지 50%로 높이는 것이 목표다. 업계 관계자는 "국내 기업들은 미국 빅테크들과 비교해 자금력이 부족한 탓에 수급난이 발생하면 우선 순위에서 밀리는 등 엔비디아 고성능 칩을 확보하기가 쉽지 않았다"며 "정부에서 이처럼 나서 국가AI컴퓨팅센터가 설립되면 최신 칩을 확보해 활용하는 것이 좀 더 수월해질 것으로 기대된다"고 밝혔다.

2025.02.24 17:58장유미

델·슈퍼마이크로에 밀리던 HPE, 일론 머스크 덕에 AI 서버 시장서 존재감 '업'

일론 머스크 테슬라 최고경영자(CEO)가 운영하는 소셜네트워크 X(옛 트위터)가 인공지능(AI) 서비스 강화를 위해 HPE의 서버를 택했다. 머스크가 설립한 AI 스타트업 xAI와 서버를 공유하기 위한 것으로, 이번 일로 AI 서버 시장 내 HPE의 위상도 한층 올라섰다는 평가다. 13일 블룸버그통신 등에 따르면 X는 최근 AI 서버를 새롭게 구축하기 위해 HPE와 10억 달러(약 1조4천700억원)가 넘는 계약을 맺은 것으로 알려졌다. 이번 계약은 AI 서버 업체인 델 테크놀로지스, 슈퍼마이크로 등도 참여한 경쟁 입찰을 거쳐 지난해 말 마무리됐다. AI 서버 비용 중 일반적으로 그래픽처리장치(GPU)가 절반을 차지한다는 점을 고려해 볼 때 이번 계약에서 GPU는 5억 달러 규모로, 1만 개 이상의 엔비디아 '블랙웰' GPU가 투입될 것으로 추산됐다. 머스크 CEO의 이 같은 움직임은 그가 공동 창립했지만 떠난 챗GPT 개발사 오픈AI를 의식한 행보로 풀이된다. 머스크 CEO는 지난 2023년 xAI를 설립한 후 인재 채용은 물론, 수십억 달러 규모의 투자 유치, 미국 테네시주 멤피스 내 데이터센터 건설 등으로 글로벌 AI 시장에서 xAI의 경쟁력을 강화해 오픈AI를 뛰어 넘기 위해 안간힘을 쓰고 있다. 특히 최근에는 xAI를 위한 자체적인 데이터센터를 미국 전역에 건설하며 AI 인프라 강화에 총력을 기울이고 있다. X와 xAI는 AI 인프라를 공유하는 것으로 알려진 만큼, 새로운 서버는 xAI의 AI 챗봇 '그록' 개발과 운영에 활용될 가능성이 크다. 앞서 xAI는 지난달부터 X를 통해 '그록'의 무료 버전을 제공해왔으나, 최근 앱까지 출시하며 이용자 확보에 본격 나선 상태다. '그록' 앱은 이번에 초기 베타 서비스로 미국에서만 아이폰 앱스토어에 먼저 출시됐다. 이번 일로 HPE도 시장 내 입지가 더 높아질 것으로 보인다. HPE는 그간 AI 서버 시장에서 델 테크놀로지스, 슈퍼마이크로에 비해 존재감이 다소 밀리는 분위기였다. xAI가 세계 최대 규모인 데이터센터 '콜로서스'에도 델 테크놀로지스, 슈퍼마이크로만 택했다는 소식이 전해지기도 했다. 블룸버그통신은 "HPE의 AI 서버 사업은 델과 슈퍼마이크로에 비해 상대적으로 뒤처진 것으로 여겨져 왔다"며 "하지만 이번 계약으로 HPE에 대한 xAI의 신뢰가 드러났다"고 평가했다. 그러면서 "AI 서버에는 엔비디아를 비롯한 여러 회사의 고성능 칩이 탑재돼 있다"며 "HPE의 수냉식 기술이 이번 계약에 중요한 역할을 한 것으로 보인다"고 덧붙였다. 이처럼 xAI 외에도 마이크로소프트, 아마존 등 빅테크들이 최근 AI 인프라에 투자 속도를 높이고 있다는 점에서 AI 서버 시장은 앞으로도 훈풍이 불 것으로 보인다. 아마존웹서비스(AWS)는 이달 들어 미국 조지아주의 데이터센터 확장을 위해 최소 110억 달러(약 15조원)를 투입하겠다고 밝혔다. 지난해 12월에는 미국 오하이오주에 데이터 센터 확장을 위해 2030년까지 230억 달러(약 33조원)를 지원하겠다고 발표했다. 마이크로소프트도 올해 6월까지 데이터센터에 800억 달러(약 118조원)를 투자하겠다고 밝혔다. 비저블 알파의 조사에 따르면 MS의 2025 회계연도 자본 지출은 842억4천만 달러에 이를 것으로 예상된다. 이는 전년보다 42%가 늘어난 것이다. 시너지 리서치 그룹은 데이터센터 인프라 지출이 지난해 34% 증가한 2천820억 달러에 이를 것으로 추산했다. 시너지 리서치 그룹은 "지난해에는 엔비디아의 폭발적인 성장이 단연 주목됐다"며 "하지만 이 중 많은 부분은 서버 및 시스템 공급업체의 매출 증가를 통해 나타났다"고 설명했다.

2025.01.13 10:41장유미

[유미's 픽] "블랙웰 발열? 신경 안 써"…델·슈퍼마이크로 등 서버업계, AI 서버 공급 본격화

엔비디아의 차세대 그래픽처리장치(GPU) '블랙웰'의 발열 문제가 다시 불거진 가운데 서버업체들이 크게 개의치 않고 기존 계획대로 고객사에 납품할 채비에 나섰다. 열을 잡기 위해 수랭식(흐르는 물)도 잇따라 도입하는 모습이다. 26일 업계에 따르면 델 테크놀로지스와 슈퍼마이크로, 대만 폭스콘, 콴타 등 서버 업체들은 최근 '블랙웰'이 탑재된 서버를 잇따라 고객사에 납품하기 시작했다. 엔비디아 '블랙웰'은 2천80억 개 트랜지스터를 탑재한 AI칩으로, 트랜지스터 800억 개인 엔비디아의 차세대 AI칩 'H100' 보다 2.5배 많은 수준이다. 트랜지스터가 많을수록 칩 성능이 좋아진다. 그러나 '블랙웰'은 올 들어 생산 과정에서 수차례 결함이 발견되면서 출시가 계획대로 이뤄지지 않았다. 엔비디아는 지난 3월 '블랙웰'을 처음 공개하며 2분기 중 출시할 수 있다고 공언했다. 하지만 이후 설계 결함이 발견되면서 출시 시기가 예정보다 최소 3개월 늦춰졌다. 또 지난 8월에는 블랙웰을 4분기부터 양산할 계획이라고 발표했으나, 최근 다시 서버 과열 문제가 불거졌다. 이에 '블랙웰'을 사전 주문한 마이크로소프트(MS)·메타·오픈AI·xAI 등 빅테크 업체들은 제품 출시 지연에 대비해 엔비디아의 AI 칩인 'H100'과 'H200' 등 '호퍼' 제품군 주문을 늘리는 방안을 검토하고 있는 것으로 알려졌다. 하지만 서버업체들의 분위기는 다르다. 델 테크놀로지스는 최근 '델 파워엣지 XE9712'를 인공지능(AI) 하이퍼스케일러 기업인 '코어위브(CoreWeave)'에 공급했다. 엔비디아 'GB200'을 탑재한 서버를 고객에 납품한 것은 델 테크놀로지스가 업계 처음이다. '델 파워엣지 XE9712'는 엔비디아 기반 델 AI 팩토리 포트폴리오에 속한 제품으로, 대규모 AI 구축 환경의 거대언어모델(LLM) 학습 및 실시간 추론을 위한 고성능의 고집적 가속 컴퓨팅을 제공한다. 또 엔비디아의 차세대 '블랙웰' 아키텍처 기반인 'GB200 NV L72'를 탑재해 우수한 그래픽처리장치(GPU) 집적도를 보여준다. 이 플랫폼은 랙 스케일 설계에서 최대 36개의 엔비디아 그레이스 CPU(NVIDIA Grace CPU)와 72개의 엔비디아 블랙웰 GPU(NVIDIA Blackwell GPU) 연결을 지원한다. 72개의 GPU NV링크(NVLink) 도메인은 최대 30배 빠른 실시간 1조 개 파라미터 LLM 추론이 가능한 단일 GPU로서 구동된다. 수랭식 엔비디아 GB200 NVL72는 공랭식 엔비디아 'H100' 시스템 보다 최대 25배 더 효율적이다. 이번 출하와 관련해 마이클 델 델 최고경영자(CEO)는 지난 19일 "엔비디아 블랙웰 시리즈의 GB200 AI 가속기 플랫폼을 탑재한 서버가 운송을 시작했다"며 "수랭식 서버를 통해 공급될 것"이라고 설명했다. 경쟁사인 슈퍼마이크로 역시 최근 엔비디아 '블랙웰'을 탑재한 'HGX B200 8GPU' 시스템을 고객사에 공급 중인 것으로 파악됐다. 이 제품은 수냉식의 냉각 효율성을 바탕으로 기존 슈퍼클러스터보다 GPU 컴퓨팅 집적도를 향상시켰다. 또 열 관리와 전력 공급이 향상됐으며 듀얼 500W 인텔 제온6(8천800MT/s DDR5 MRDIMM 포함), AMD 에픽 9005 시리즈 프로세서를 지원한다. 새롭게 설계된 공냉식 10U 폼 팩터는 열전도 헤드룸이 확장돼 1천 W TDP 블랙웰 GPU 8개를 수용할 수 있다. 다만 엔비디아가 최근 슈퍼마이크로와 거리두기에 나선 것으로 알려져 향후 제품 출하가 계획대로 되지 않을 가능성도 제기됐다. 엔비디아가 '블랙웰'의 공급이 부족한 상황에서 슈퍼마이크로 대신 다른 업체에게 물량을 공급하고 있다는 주장이 나오고 있어서다. 디지타임즈에 따르면 엔비디아는 슈퍼마이크로의 여러 문제에 휘말리고 싶지 않아 이처럼 결정 내린 것으로 알려졌다. 하지만 슈퍼마이크로는 엔비디아와의 협업에 문제가 없다는 입장이다. 찰스 리앙(Charles Liang) 슈퍼마이크로 사장 겸 최고경영자(CEO)는 "세계 최대 규모의 수랭식 AI 데이터센터 프로젝트에 기여할 수 있는 전문성, 배포 속도, 배송 역량을 지니고 있다"며 "최근 엔비디아와 GPU 10만 개 규모의 AI 데이터센터도 성공적으로 구축했다"고 강조했다. 직접 서버를 만들어 판매하는 ODM 업체들도 일정 차질 없이 '블랙웰'을 탑재한 서버 공급을 진행할 예정이다. 대표적인 ODM 업체인 대만 폭스콘은 4분기에 소량 공급을 시작한 후 내년 1분기에 생산량을 확대할 계획이다. 콴타도 내년 1분기부터 대량 생산을 개시할 예정이다. 대만 경제일보는 "(블랙웰에 대한) 우려와 달리 서버업체들은 발열 문제에 대해 들어본 적이 없다고 전했다"며 "폭스콘과 콴타 모두 공급 계획에 차질이 없을 것이라고 밝혔다"고 보도했다. HPE도 블랙웰의 발열 문제를 크게 신경쓰지 않는 분위기다. 이 회사는 지난 17일부터 22일까지 미국 애틀란타주에서 열린 '슈퍼컴퓨팅 2024(SC 2024) 콘퍼런스'에서 블랙웰이 탑재된 'HPE 프로라이언트 컴퓨트 XD685' 서버를 공개하며 제품 출시가 임박했음을 알렸다. 이처럼 서버업체들이 '블랙웰'의 발열 문제에 크게 신경쓰지 않는 것은 엔비디아가 일찌감치 이를 예고해 대비했기 때문으로 분석된다. 앞서 젠슨 황 엔비디아 CEO는 "차기 GPU인 '블랙웰'부터는 데이터센터에 수랭식을 도입하기 바란다"고 밝힌 바 있다. 또 엔비디아가 설계 결함을 발견한 후 빠르게 해결책을 마련해 제품 공급에 나선 것도 주효한 것으로 보인다. 덕분에 엔비디아는 올 4분기 '블랙웰' 매출이 당초 예상인 50~60억 달러를 넘어설 것으로 전망됐다. 젠슨 황 CEO는 "블랙웰 수요가 공급을 여전히 초과하는 현상이 이어지고 있으며 이를 충족하기 위해 노력 중"이라며 "올 4분기에 과거 예상보다 더 많은 블랙웰 GPU를 공급할 수 있을 것으로 기대한다"고 밝혔다. 이어 "모든 업체가 블랙웰 GPU를 원하는 상황"이라며 "TSMC와 몰렉스(커넥터 제조사), SK하이닉스와 마이크론, 폭스콘과 콴타, 델테크놀로지스와 HPE, 슈퍼마이크로 등 공급망 관련 모든 업체와 협력해 수요에 대응하고 있다"고 덧붙였다.

2024.11.26 16:27장유미

델 테크놀로지스, 新 인프라·서비스 공개…AI 팩토리 '확대'

델 테크놀로지스가 인공지능(AI) 구축·운영을 간소화할 수 있는 새로운 인프라 솔루션과 전문 서비스를 발표해 고객사를 지원한다. 델 테크놀로지스는 '델 AI 팩토리' 포트폴리오에 신형 서버, 랙 시스템, AI 전문 서비스를 추가했다고 19일 밝혔다. 델은 이번 업데이트를 통해 대규모 AI 환경에서 데이터 접근과 관리의 효율성을 높이고 고성능 컴퓨팅을 지원할 계획이다. 이번에 공개된 '델 IRSS'는 공장 통합형 랙 스케일 시스템으로 델 스마트 쿨링 기술이 적용돼 플러그 앤 플레이 방식의 고효율 AI 인프라를 제공한다. 델은 설치 후 패키징 폐기물 처리와 노후 하드웨어 재활용 서비스도 지원해 지속 가능성을 강화할 예정이다. 델 파워엣지 'XE9685L'은 수랭식 4U 서버로 최대 96개의 그래픽처리장치(GPU)를 지원하며 AI와 머신러닝 워크로드에 최적화됐다. 공랭식 모델인 'XE7740'은 4U 크기에서 최대 16개의 GPU 구성이 가능해 생성형 AI 모델의 효율적 운영을 돕는다. 이같이 엔비디아 기반 델 AI 팩토리는 새로운 GPU 지원 옵션을 통해 최대 1.9배 성능을 향상시킨다. 또 신규 검색 증강 생성(RAG) 서비스 '델 에이전틱 RAG'를 도입해 대규모 데이터 세트에서 복잡한 쿼리와 RAG 작업을 개선할 수 있도록 했다. 델은 AI 구축을 간소화하기 위한 전문 서비스도 함께 선보였다. 지속 가능한 데이터 센터 구축, 데이터 관리 체계화, AI 네트워크 설계 서비스 등 다양한 분야에서 고객을 지원할 예정이다. 김경진 델 테크놀로지스 한국 총괄사장은 "AI를 구축하려는 기업들이 점점 복잡한 과제에 직면하고 있다"며 "진일보한 AI 솔루션을 통해 고객이 더 스마트하게 대응할 수 있도록 돕겠다"고 말했다.

2024.11.19 10:16조이환

엔비디아 '블랙웰'에 또 문제?…빅테크, AI 기술 고도화 '타격'

"차기 그래픽처리장치(GPU)인 '블랙웰'부터는 데이터센터에 수랭식(흐르는 물)을 도입하기 바랍니다." 일찌감치 발열 문제가 예고됐던 엔비디아의 차세대 인공지능(AI) 칩 '블랙웰'에서 설계 결함이 잇따라 발견돼 관련업체들이 곤란을 겪고 있다. AI 기술 고도화로 고성능 칩 '블랙웰' 확보가 중요해진 상황에서 대안 마련에 골몰하는 분위기다. 18일 로이터통신에 따르면 '블랙웰'을 사전 주문한 마이크로소프트(MS)·메타·오픈AI·xAI 등 빅테크 업체들은 제품 출시 지연에 대비해 엔비디아의 AI 칩인 'H100'과 'H200' 등 '호퍼' 제품군 주문을 늘리는 방안을 검토하고 있다. 이들은 AI 기술 우위를 점하기 위해 앞 다퉈 '블랙웰' 선주문을 통해 물량 확보에 나섰으나, 이번 일로 기술 개발 차질이 불가피할 것으로 보인다. '블랙웰'은 2천80억 개 트랜지스터를 탑재한 AI칩으로, 트랜지스터 800억 개인 엔비디아의 차세대 AI칩 'H100' 보다 2.5배 많은 수준이다. 트랜지스터가 많을수록 칩 성능이 좋아진다. 그러나 '블랙웰'은 올 들어 생산 과정에서 수차례 결함이 발견되면서 출시가 계획대로 이뤄지지 않고 있다. 엔비디아는 지난 3월 '블랙웰'을 처음 공개하며 2분기 중 출시할 수 있다고 공언했다. 하지만 이후 설계 결함이 발견되면서 출시 시기가 예정보다 최소 3개월 늦춰졌다. 또 지난 8월에는 블랙웰을 4분기부터 양산할 계획이라고 발표했으나, 다시 서버 과열 문제가 발생하면서 제품 출시를 장담할 수 없게 됐다. 이로 인해 AI 기술 경쟁에 나선 글로벌 빅테크 기업들은 당황한 모습이다. 최신 AI칩 공급 지연으로 AI 기술 고도화 계획도 차질이 우려되기 때문이다. 마이크로소프트, 메타 등 주요 빅테크 기업들은 AI 시장 주도권을 선점하기 위해 올 들어서만 2천300억 달러 이상을 AI 인프라 구축에 투입하고 있다. 이 자금들은 ▲데이터센터 건설 ▲AI 모델 학습용 GPU 구매 ▲전력 공급 인프라 확충 등에 사용될 예정이다. 3분기 기준 각 기업별 자본 지출 증가율은 알파벳(구글) 62%, MS 51%, 아마존 81% 등이다. 업계에선 빅테크들의 투자금에 선주문 한 '블랙웰' 칩 가격도 포함돼 있을 것으로 보고 있다. '블랙웰' 칩 가격은 3만~4만 달러(약 4천500만~5천400만원)인 것으로 알려졌다. 빅테크들이 AI 데이터센터 구축을 위해 '블랙웰'을 대량 주문하면서 이미 12개월치 생산 물량은 매진됐다. 데이터센터에 서버를 공급하는 업체들도 난감하다. 델 테크놀로지스는 내년 초께 '블랙웰' 기반 서버를 선보일 계획을 갖고 있었으나, 이번 일로 차질을 빚을 것으로 보인다. 일각에선 엔비디아 '블랙웰'의 대항마로 여겨지는 AMD의 '인스팅트 MI325X' 가속기가 시장을 대체할 수 있을지도 주목하고 있다. HPE, 슈퍼마이크로 등 서버 업체들은 최근 이를 탑재한 신제품을 잇따라 내놓은 상태다. 업계 관계자는 "AI 모델을 업그레이드 하기 위해선 고성능 AI 칩이 반드시 필요하다"며 "올해 글로벌 빅테크 기업들이 쏟아 부은 투자금 대부분이 AI를 가동하는 하드웨어인 AI 칩에 집중됐을 것이란 점에서 최신 AI 칩 공급 지연은 글로벌 빅테크 기업들의 AI 고도화 계획에도 일부 영향을 줄 수밖에 없을 것"이라고 말했다.

2024.11.18 12:27장유미

'AI 수혜주' 슈퍼마이크로, 하루 만에 주가 32% 빠졌다…무슨 일이길래?

인공지능(AI) 열풍을 타고 날아올랐던 미국 서버 업체 슈퍼마이크로 컴퓨터가 회계 조작 의혹으로 몸살을 앓고 있다. 전 직원의 고발로 시작된 이번 일은 공매도 업체가 관련 보고서를 내놓은 데 이어 회계감사를 맡았던 법인이 회사의 신뢰성에 의문을 제기한 뒤 사임하면서 겉 잡을 수 없이 확산되고 있다. 31일 블룸버그통신에 따르면 회계법인 언스트앤영(Ernst & Young LLP·EY)은 지난 30일(현지시간) 슈퍼마이크로의 감사직에서 사임했다. 회사 거버넌스와 투명성에 대한 우려가 높다는 판단에서다. E&Y는 "최근 알게 된 정보로 인해 경영진과 감사 위원회의 진술을 신뢰할 수 없게 됐고 경영진이 작성한 재무제표와 연관되기를 원하지 않는다"며 "관련 법률과 전문가로서의 의무에 따라 더 이상 감사 서비스를 제공할 수 없다는 결론을 내렸기에 사임한다"고 밝혔다. 2024 회계연도 감사를 위해 지난 3월 고용된 E&Y는 이사회가 찰스 리앙 최고경영자(CEO) 등 경영진으로부터 독립적이지 않다는 점에 대해서도 지적했다. 또 지난 7월 말에는 슈퍼마이크로의 내부 재무 통제, 지배구조(거버넌스) 및 전망에 문제가 있다고 보고했다. 이에 대해 슈퍼마이크로는 E&Y의 사임 결정에 동의하지 않는 동시에 새로운 감사를 찾기 위해 노력 중이라고 입장을 밝혔다. 또 E&Y가 제기한 문제나 이전에 발표된 이사회 특별 위원회에서 고려 중인 문제의 해결책이 이미 종료된 회계연도의 재무결과를 다시 기재하는 결과로 이어지지는 않을 것이라고 강조했다. 이번 일은 지난 4월 슈퍼마이크로에 있던 전 직원인 밥 루옹이 슈퍼마이크로와 함께 찰스 리앙 CEO를 회계 위반 혐의로 고발하며 시작됐다. 또 지난 8월에는 공매도 업체인 힌덴버그 리서치에서 슈퍼마이크로가 회계를 조작했다는 보고서를 내놓기도 했다. 힌덴버그는 보고서에서 슈퍼마이크로에 대한 3개월간 조사를 거쳐 "심각한 회계 문제와 제대로 공시되지 않은 특수관계자 거래에 대한 증거를 발견했다"며 "중국이나 러시아에 대한 반도체 수출 통제를 제대로 준수하지 않았고 고객과의 문제도 있다"고 밝혔다. 이에 슈퍼마이크로는 지난 8월 28일 규제당국에 연차보고서 제출을 연기한다고 밝혔다. 또 미국 법무부는 지난달 슈퍼마이크로의 회계 조작 의혹에 대한 수사에 착수한 것으로 알려졌다. 슈퍼마이크로는 AI 반도체 시장을 주도하는 엔비디아의 AI칩을 사용해 특수 서버를 제작하는 업체로, AI 열풍에 힘입어 그간 주가가 급등하는 모습을 보였다. 2018년 말 13.8달러였던 주가는 매년 상승해 1대 10의 액면 분할 전인 작년 말 주가는 284달러 수준에서 지난 3월에는 1천229달러까지 치솟기도 했다. 다만 회계 부정 의혹이 알려진 이후 주가는 곤두박질 치고 있다. 특히 E&Y의 사임 소식이 전해지면서 이날 뉴욕 증시에서 슈퍼마이크로 주가는 전일 대비 32.68% 폭락해 33.07달러에 마감됐다. 다우존스 데이터에 따르면 슈퍼마이크로 주식은 지난 3월 13일에 최고가 118.81달러를 기록한 후 69% 하락했다. 그러나 월가에선 이번 일에 대해 너무 과도한 우려라고 평가했다. JP모건은 "제재 회피에 대한 혐의는 확인하기 어렵지만 AI 서버 시장에서 슈퍼마이크로의 매출 기회가 사라지진 않을 것"이라며 "보고서가 슈퍼마이크로의 중기 전망을 바꿀 만한 혐의에 대한 구체적인 내용이 거의 없고, 기업 지배구조와 투명성 개선과 관련해 이미 알려진 영역을 주로 다시 살펴보고 있다"고 분석했다. 또 다른 시장 전문가들은 슈퍼마이크로를 둘러싼 최근의 부정적 우려를 감안해 AI 서버 분야의 경쟁 구도를 재점검 할 필요가 있다는 지적을 내놨다. 에버코어SIS 애널리스트는 "경쟁사인 델이 시장 점유율을 높일 것으로 보인다"며 "더 나은 공급망 다양성을 원하는 고객들에게 논리적인 파트너가 될 것"이라고 말했다. 그러면서 "델의 AI 서버 매출은 올해 80억 달러를 초과하고 내년에는 100억 달러를 넘어설 것"이라고 덧붙였다.

2024.10.31 09:41장유미

'델' 주도 AI 서버 시장, 엔비디아 최신 칩 등장 속 판도 변화 올까

생성형 인공지능(AI) 시장 확대와 맞물려 AI 가속기 기반 서버 수요가 폭발하면서 관련 업체들이 고객 확보 경쟁에 본격 나섰다. 각 업체들은 최신 AI 칩을 기반으로 한 신무기를 잇따라 선보이며 점유율 확대에 사활을 건 분위기다. 16일 블룸버그통신에 따르면 델 테크놀로지스는 엔비디아의 AI 가속기인 '블랙웰' 칩을 탑재한 서버를 다음 달부터 일부 고객에게 발송한다. 내년 초부터는 일반 고객에게도 제공될 예정이다. '블랙웰'은 기존 엔비디아 AI 칩인 'H100', 'H200' 등 호퍼(Hopper)를 이을 최신 칩으로, 올해 11월부터 본격적인 양산에 들어간다. 'GB200'은 엔비디아가 블랙웰 아키텍처로 생산된다. 블랙웰 AI 서버 시스템인 'GB200 NVL72'는 이미 출하되고 있는 상태로, 2개의 블랙웰 GPU와 엔비디아의 CPU인 그레이스를 하나로 연결한 GB200 슈퍼칩 36개로 구성됐다. 가격은 380만 달러에 달하며 엔비디아 'GB200' 출하의 대부분을 차지할 것으로 전망됐다. 델 테크놀로지스는 'GB200 NVL72' 시스템을 기반으로 한 파워엣지 'XE9712'를 현재 일부 고객들에게 샘플용으로 공급하고 있다. '블랙웰' 칩은 지난 8월 패키징 결함으로 출시가 다소 늦어질 것으로 예상됐으나 최근 본격 생산되기 시작하며 수요가 폭발적으로 늘어나고 있는 상태다. 특히 마이크로소프트, 오픈AI 등 빅테크들이 AI 데이터센터 구축을 위해 '블랙웰'을 대량 주문하면서 이미 12개월치 생산 물량이 매진됐다. 이 같은 상황에서 델 테크놀로지스는 엔비디아와의 끈끈한 협력 관계를 바탕으로 '블랙웰' 초기 물량 확보에 성공하며 AI 서버 시장에서 입지를 더 탄탄히 구축할 수 있게 됐다. 아서 루이스 델 테크놀로지스 인프라스트럭처 부문 사장은 "'블랙웰' 칩이 포함된 AI 기반 서버는 다음 달 일부 고객에게 보내져 내년 초에 일반 공급될 것"이라며 "다양한 서비스 및 제품으로 차별화한 덕분에 엔비디아의 최신 칩을 조기에 공급 받을 수 있었다"고 설명했다. 델 테크놀로지스는 현재 AI 작업용 고성능 서버 판매 사업 확장에 주력하고 있는 상태로, '블랙웰' 외에 AMD의 기술을 탑재한 AI 특화 서버 신제품 'XE7745'도 전날 공개해 고객들의 선택 폭을 넓혔다. 이 제품은 4U 공냉식 섀시에서 최대 8개의 이중 폭 또는 16개의 단일 폭 PCIe GPU와 AMD 5세대 에픽 프로세서를 지원한다. 이 제품은 AMD 5세대 에픽 프로세서를 탑재한 '델 파워엣지 R6715'와 '델 파워엣지 R7715' 서버와 함께 내년 1월까지 순차적으로 출시된다. 경쟁사인 HPE는 엔비디아 '블랙웰'의 대항마로 여겨지는 AMD의 '인스팅트 MI325X' 가속기를 탑재한 'HPE 프로라이언트 컴퓨트(ProLiant Compute) XD685'를 새로운 무기로 꺼내들었다. 이 서버는 대규모 언어 모델(LLM) 학습, 자연어 처리(NLP), 멀티모달 학습 등 고성능 인공지능(AI) 클러스터를 신속하게 배포할 수 있도록 설계된 제품이다. 또 5U 모듈형 섀시로 다양한 GPU, CPU, 구성 요소, 소프트웨어 및 냉각 방식을 수용할 수 있는 유연성을 갖추고 있다. 이번 일을 기점으로 HPE는 AMD와의 협력을 통해 앞으로 AI 서비스 제공업체, 정부, 대규모 AI 모델 개발자들이 요구하는 유연하고 고성능의 솔루션을 제공해 AI 경쟁에서 우위를 점하겠다는 목표를 가지고 있다. 트리시 댐크로거 HPE HPC 및 AI 인프라 솔루션 부문 수석 부사장은 "AMD와 협력해 HPE 프로라이언트 컴퓨트 XD685로 AI 혁신을 확장할 것"이라며 "AI 모델 개발자 시장의 수요에 부응하며 산업 전반에서 과학과 공학의 혁신을 가속화할 것"이라고 말했다. 슈퍼마이크로 역시 AMD '인스팅트 MI325X' 기반의 새로운 서버를 최근 선보였다. 이번에 출시한 'H14' 서버 포트폴리오는 슈퍼마이크로의 하이퍼 시스템, 트윈 멀티노드 서버 및 AI 추론 GPU 시스템을 포함하고 있다. 또 모든 제품이 공냉식 또는 수냉식 옵션으로 제공된다. 찰스 리앙 슈퍼마이크로 CEO는 "'H14' 서버는 에픽 9005 64코어 CPU를 탑재해 2세대 에픽 7002 시리즈 CPU를 사용하는 자사 'H11' 서버 대비 2.44배 더 빠른 성능을 제공한다"며 "고객은 데이터센터의 총면적을 3분의 2 이상 줄이고 새로운 AI 처리 기능을 추가할 수 있다"고 설명했다. 이처럼 각 업체들이 AI 시장을 노리고 잇따라 성능을 높인 새로운 서버를 출시하면서 업계에선 시장 판도에 변화가 생길 지 주목하고 있다. 전 세계 서버 시장은 현재 델테크놀로지스가 주도하고 있는 상태로, HPE와 슈퍼마이크로가 뒤를 잇고 있다. 특히 현재 5~7%가량의 점유율을 차지하고 있는 슈퍼마이크로는 GPU 기반 AI 서버 시장에서 존재감을 높이며 델 테크놀로지스를 점차 위협하고 있다. 미즈호증권 비제이 라케시 애널리스트에 따르면 2022~2023년 AI 서버 시장 내 슈퍼마이크로의 점유율은 80~100%에 달했다. 다만 델 테크놀로지스도 최근 들어 AI 서버 매출을 점차 늘리고 있다. 올해 5~7월에는 31억 달러가 출하됐고, 지난해 5월부터 올해 4월까지는 60억 달러가량의 AI 서버가 판매됐다. 업계 관계자는 "AI 서비스에 대한 수요가 증가함에 따라 자연스럽게 AI 서버에 대한 수요도 함께 늘어나고 있다"며 "우수한 설계 능력과 강력한 AI 파트너십을 바탕으로 존재감을 드러내고 있는 슈퍼마이크로가 향후 델, HPE 등 경쟁사들의 점유율을 빼앗을 가능성이 높다"고 말했다. 아거스리서치 애널리스트들은 "슈퍼마이크로는 AI 시대를 선도하는 컴퓨터 및 서버 업체"라며 "지난 1년간 큰 폭의 이익을 얻었는데 앞으로도 수년 동안 강력한 매출 성장과 마진 확대, 주당순이익(EPS) 가속화에 대비하고 있다"고 평가했다.

2024.10.16 11:51장유미

"생성형 AI 컴퓨팅 요건 2030년 276퀘타플롭스 도달"

[라스베이거스(미국)=김우용 기자] “앞으로 10년을 바라볼 때 우리 모두 무엇이든 준비해야 한다. 현재 생각하는 AI 워크로드를 구동하기 위한 컴퓨팅 요구사항은 2030년까지 276퀘타플롭스에 이를 것으로 예상된다. 0이 30개고, 지금보다 100배 증가다. 생성형 AI 데이터센터 수요는 2026년까지 기존 수요를 능가하고 10년 후엔 전체 수요의 75%를 차지할 것으로 예상된다. AI 워크로드 연산은 학습에서 추론으로 급격히 전환돼, 컴퓨팅 수요의 10%만 학습에 사용되고 나머진 추론에 사용될 것이다. 에너지도 AI 데이터센터에 390기가와트가 사용될 것으로 전망된다. 지금의 8배 전력이 필요해진다. 2030년 말까지 20억대의 AI PC가 사용될 것이다.” 제프 클라크 델테크놀로지스 제품 및 운영 부문 부회장은 21일(현지시간) 미국 라스베이거스에서 개최된 '델테크놀로지스월드(DTW) 2024' 둘째날 기조연설에서 이같이 밝혔다. 제프 클라크 부회장은 “IT 전문가 입장에서 생성형 AI 워크로드는 새로운 아키텍처를 필요로 한다”며 “높은 처리량의 패브릭을 고속 스토리지로 지원해 벡터 연산에 최적화되도록 만드는게 필요하다”고 강조했다. 그는 델테크놀로지스의 AI 전략을 뒷받침하는 다섯가지 신념을 소개했다. 그는 “현재 전세계 모든 데이터의 83%는 온프레미스에 있고, 그중 절반은 엣지에서 생성된다”며 “AI를 데이터로 가져가는 게 더 효율적이고 안전하다”고 말했다. 이어 “모든 기업에 다 맞는 하나의 접근법은 없다”며 “빠른 모듈형 아키텍처가 필요하고, 광범위한 개방형 생태계가 필요하다”고 덧붙였다. '델 AI 팩토리' 설명이 이어졌다. 생성형 AI에 맞는 새로운 컴퓨팅 아키텍처의 필요성 때문에 특별히 설계됐다는 오퍼링이다. 델 AI 팩토리는 델과 파트너사가 구성한 개방형 생태계를 바탕으로 기업과 기관에게 각각의 고유한 목적에 부합하는 AI 애플리케이션을 단기간에 구축할 수 있는 기반을 제공한다. PC, 서버, 스토리지, 데이터 보호 및 네트워킹을 아우르는 델의 엔드투엔드 AI 포트폴리오를 바탕으로 구성됐다. 델은 증가하는 AI 수요를 충족하기 위한 목적형 설계의 오퍼링들을 추가하며 이 포트폴리오를 확장하고 있다. 기업은 자신의 보유 데이터를 '델 AI 팩토리' 기반의 AI 공장에 부어넣고, 바로 자신의 상황에 맞는 다양한 유즈케이스를 만들어낼 수 있다. 클라크 부회장은 “여러분의 데이터를 동력으로 델의 전문 서비스 지원을 받아 데이터를 효율적으로 학습하고, 개방형 생태계로 사용사례에 최적화된 지금까지 경험못한 비즈니스에 대한 집단지성과 인사이트를 얻을 수 있다”며 “중소기업부터 대기업에 이르기까지 다양한 형태와 규모에 따라 제공될 것”이라고 밝혔다. 그는 “AI 워크로드는 처음부터 엄청난 컴퓨팅 집약도를 필요로 하기에 가속화된 컴퓨팅이 핵심”이라며 “소규모 가속 컴퓨팅에서 최대 규모의 시스템까지 구축할 수 있어야 하고, 파일 및 객체 데이터 유형에 최적화된 고속 IO 스토리지, 높은 처리량과 저지연의 네트워킹이 필요하다”고 밝혔다. 그는 “가장 가치 있는 데이터는 학습되고 튜닝된 모델이 될 것이며, 이를 보호해야 한다”며 “데이터 시스템을 공통 데이터 파이프라인으로 통합해야 하고, 궁극적으로 AI를 엣지, 공장, 병원, 스마트시티까지 확장하려면 학습, 튜닝, 추론 등을 위한 소프트웨어 도구 세트로 구동되는 PC를 갖춰야 한다”고 말했다. 이어 “이것들은 매우 매우 복잡하고, 고도로 기술적인 시스템들이기에, 첫번째 토큰 생성까지 배포 속도를 향상시키기 위해 높은 수준의 솔루션 엔지니어링과 통합이 필요하다”며 “오늘날 시장에서 가장 광범위한 포트폴리오를 보유한 델의 AI 팩토리가 그 해답”이라고 덧붙였다. 이어 브로드컴의 찰리 카바스 반도체그룹 사장이 무대에 올라 생성형 AI 워크로드를 대규모로 확장하기 위한 양사의 네트워킹 패브릭 협력 내용을 소개했다. 그를 이어 아서 루이스 델테크놀로지스 ISG 사장이 델 AI 팩토리를 구성하는 서버, 스토리지, 네트워킹 솔루션을 발표했다. 메타, 허깅페이스 등의 임원도 등장해 생성형 AI 민주화를 위한 개방형 생태계의 중요성을 강조했다. PC 클라이언트의 온디바이스 AI를 설명하는 순서에 마이크로소프트 매트 발로우 디렉터가 전날 발표된 '코파일럿 플러스 PC'를 시연했다. 마지막으로 포뮬러원 맥라렌레이싱의 CEO 잭 브라운도 등장했다.

2024.05.22 10:32김우용

델, 엔비디아 블랙웰 GPU 8개 탑재 4U 서버 공개

[라스베이거스(미국)=김우용 기자] 델테크놀로지스가 엔비디아와의 협력을 확대하며, 엔비디아 블랙웰 GPU를 한 랙에 최대 72개 장착할 수 있는 파워엣지 서버 신제품을 공개했다. 단일 서버 크기는 기존 제품대비 3분의2로 줄이면서 더 높은 성능과 대역폭을 제공한다. 델테크놀로지스는 21일(현지시간) 미국 라스베이거스에서 개최한 '델테크놀로지스월드(DTW) 2024' 컨퍼런스에서 '엔비디아 기반 델 AI 팩토리'에 새로운 서버, 엣지, 워크스테이션, 솔루션, 서비스 등을 추가한다고 발표했다. '엔비디아 기반 델 AI 팩토리'는 델의 AI 포트폴리오를 '엔비디아 AI 엔터프라이즈' 소프트웨어 플랫폼과 통합한 오퍼링이다. 엔비디아 텐서 코어 GPU, 엔비디아 스펙트럼-X 이더넷 네트워킹 패브릭 및 엔비디아 블루필드 DPU 등의 기술을 기반으로 한다. 고객은 필요에 따라 맞춤화된 통합 기능 또는 사전 검증된 전체 스택 솔루션을 구매해 검색증강생성(RAG), 모델 학습 및 추론과 같은 AI 사용 사례에 적용할 수 있다. 신제품 '델 파워엣지 XE9680L'은 기존 모델 대비 더 작은 4U 폼 팩터에 8개의 엔비디아 블랙웰 아키텍처 GPU를 탑재해 높은 성능을 제공한다. 기존 모델인 '델 파워엣지 XE9680'의 경우 6U 크기 제품이었는데, '델 파워엣지 XE9680L'는 4U 크기로 작아졌다. 업계 표준 x86 랙 상에서 엔비디아 GPU를 최고 수준의 집적도를 자랑한다. 기존 모델 대비 노드당 33% 더 높은 GPU 집적도를 제공한다. 20% 더 많은 5세대 PCIe 슬롯을 장착하고, 노스-사우스 네트워크 확장 용량을 2배로 늘렸다. 델 파워엣지 XE9680L서버는 '다이렉트 리퀴드 쿨링' 기술로 CPU 및 GPU의 냉각 용량을 높여 전반적인 효율성을 향상시켰다. 손쉬운 서비스가 가능하도록 설계됐으며, 랙 스케일 구축 및 현장 설치가 용이하게끔 공장에서부터 완벽하게 구성이 완료된 상태로 출하된다. 델은 업계에서 가장 높은 집적도와 에너지 효율의 랙 규모 턴키 솔루션을 공급함으로써 대규모 GPU 가속 구축의 가치 실현 시간을 단축한다. 델과 엔비디아는 향후 단일 랙에서 64개의 GPU를 지원하는 공냉식 설계 또는 단일 랙에서 72개의 엔비디아 블랙웰 GPU를 지원하는 수냉식 서례 등 다양한 옵션을 선보일 예정이다. 델테크놀로지스는 '엔비디아 AI 엔터프라이즈' 소프트웨어의 배포를 자동화하는 엣지 오케스트레이션 플랫폼 '델 네이티브엣지'를 선보였다. 개발자와 IT 운영자는 이를 이용해 엣지에 AI 애플리케이션 및 솔루션을 손쉽게 구축할 수 있다. 제조업이나 유통업계의 다양한 기업들이 엔비디아 메트로폴리스 영상 분석, 엔비디아 리바 음성 및 번역 기능, 엔비디아 NIM 추론 마이크로서비스를 포함한 새로운 델 네이티브엣지 블루프린트를 통해 빠르고 정확하게 엣지 데이터를 분석할 수 있다. 마이클 델 델테크놀로지스 회장은 “전세계가 AI를 활용하기 위해 빠르게 움직이고 있으며, 이것이 바로 엔비디아와 긴밀하게 협력하는 중요한 이유"라며 "엔비디아 기반 델 AI 팩토리 포트폴리오의 확장은 양사 공동의 사명을 이어가는 것으로, 더 많은 기업과 기관들이 AI를 보다 손쉽게 구축하여 과감하게 차세대 기술에 도전할 수 있도록 하는 것을 목표로 한다”고 밝혔다. 젠슨 황 엔비디아 CEO는 "생성형 AI는 새로운 유형의 컴퓨팅 인프라, 즉 인텔리전스를 생성하는 AI 팩토리를 필요로 한다"며 "엔비디아와 델은 함께 협력해 전세계 다양한 산업군에 컴퓨팅, 네트워킹, 소프트웨어를 포함한 풀스택 오퍼링을 제공해 코파일럿, 코딩 어시스턴트, 가상 고객 서비스 에이전트, 산업용 디지털 트윈 등을 구축할 수 있도록 지원할 계획"이라고 강조했다. DTW 2024 첫째날 기조연설에서 마이클 델 회장이 델 파워엣지 XE9680L을 소개하자, 젠슨 황 CEO는 “그런 말로 나를 유혹하지 마라”며 “랙에 72개의 블랙웰이 있다니 그것은 나를 매우 흥분하게 만든다”며 환하게 웃었다. 한편, 새롭게 공개된 '디지털 어시스턴트를 위한 델 생성형 AI 솔루션'은 델과 엔비디아의 풀스택 솔루션을 기본으로 사용자가 개인화된 셀프서비스를 경험할 수 있게끔 디지털 어시스턴트의 빠른 구축을 돕는다. 함께 발표된 '디지털 어시스턴트를 위한 구축 서비스'는 디지털 어시스턴트 솔루션을 설계, 계획, 구현, 테스트 및 확장할 수 있도록 지원한다. 양사 공동 엔지니어링을 통해 설계된 풀스택 자동화 솔루션인 '엔비디아 기반 델 AI 팩토리'는 다양한 활용 사례에 대한 AI 환경을 빠르게 구축할 수 있게끔 돕는다. 가치 실현 시간을 최대 85% 앞당기며, 엔비디아 추론 마이크로서비스(NIM)'와 함께 사용할 경우 딜리버리에서 추론 작업 실행에 걸리는 전체 시간을 획기적으로 단축한다. '프리시전 AI 워크스테이션 기반 RAG를 위한 델 가속기 서비스'는 AI 개발 주기를 단축하고 AI 애플리케이션 성능을 향상시킨다. 엔비디아 AI 워크벤치 툴킷을 탑재한 델 프리시전 워크스테이션 기반 RAG를 통해 맞춤형 대규모 언어모델을 활용함으로써 안전한 환경에서 신속한 프로토타이핑이 가능하다. '델 파워엣지 XE9680L' 서버는 올해 하반기 중 출시될 예정이다. '델 네이티브엣지'의 엔비디아 지원은 하반기를 시작으로 순차적으로 제공된다. '디지털 어시스턴트를 위한 델 생성형 AI 솔루션' 및 '디지털 어시스턴트를 위한 구현 서비스'는 현재 북미 지역에 한해 제공되고 있다. '프리시전 AI 워크스테이션 기반 RAG를 위한 델 가속 서비스'는 북미, EMEA, 아태지역의 일부 국가에 한해 하반기 중 출시될 예정이다. 제프 클라크 델테크놀로지스 제품 및 운영부문 부사장은 DTW 2024 둘째날 기조연설에서 “기존의 데이터센터 아키텍처는 생성에이아이 워크로드에 적합하지 않다는게 자명해졌다”며 “파워엣지 XE9680L은 한 랙에서 72개 블랙웰 GPU를 탑재할 수 있는데, 이 GPU는 수천, 수만개로 늘어날 수 있다”고 말했다. 그는 “옛 시스템에서 벗어나 완전히 다른 방식으로 구축하고 생성형 AI 워크로드에 맞춰 최적화하면서 발전해 나가야 한다”고 덧붙였다.

2024.05.22 07:45김우용

마이클 델 "AI, 두렵다고 아무것도 안하면 미래 기회 놓치는 것"

[라스베이거스(미국)=김우용 기자] “이전에 이뤄진 모든 발전은 실제 게임 전 쇼에 불과했다. 우리는 계산에서 인지를 거쳐 AI 시대로 나아가고 있다. 이는 생산성, 혁신, 성장을 위한 세대적인 기회다. 진짜 질문은 AI가 얼마나 커질 것인가가 아니라, AI가 얼마나 많은 좋은 일을 할 것인가다. 조직을 재창조하고 재구성하는 것은 어렵다. 위험하고 심지어 무섭게 느껴지기도 한다. 하지만 더 큰 위험과 더 큰 두려움은 그렇게 하지 않으면 무슨 일이 일어날 것인가다.” 마이클 델 델테크놀로지스 회장은 20일(현지시간) 미국 라스베이거스에서 개최된 '델테크놀로지스월드2024' 컨퍼런스 첫날 기조연설에서 이같이 밝혔다. 마이클 델 회장은 “AI는 우리의 도덕성, 신념, 법률 및 인간성의 매개변수 내에서 훈련돼야 한다”며 “결국 인공지능은 우리 삶, 보안, 상업, 교육, 과학, 의료의 중심을 이뤄 놀라운 속도로 발전하게 될 것”이라고 말했다. 델 회장은 “AI의 가능성을 실현하려면 책임감 있게 AI를 수행하고 채택 장벽을 전체적으로 해결해야 한다”며 “정부는 강력한 인프라 개발과 민첩한 규제에 초점을 맞춘 AI 우선 투자 전략을 채택해 혁신을 강화하고, 우리는 정부 지도자들을 지원하고 AI를 위한 안전하고 혁신적이며 포용적인 미래를 함께 만들 준비가 돼 있다”고 덧붙였다. 그는 기업과 단체, 공공 등에서 생성형 AI 기술의 이점을 올바른 방향에서 누릴 수 있도록 만반의 지원 준비를 갖췄다고 강조했다. 델테크놀로지스는 생성형 AI 서비스 구축 기간을 단축할 수 있는 사전 통합 레퍼런스 아키텍처 '델 AI 팩토리'를 지난달 공개했다. 델 AI 팩토리는 생성형 AI를 온프레미스 환경에 손쉽게 구축할 수 있도록 서버, 스토리지, 네트워킹 등의 하드웨어와 AI 관련 핵심 소프트웨어, 전문 기술지원 서비스 등을 모두 제공한다. 마이클 델 회장은 “델 AI 팩토리는 통제가능한 데이터 성능과 서비스, 비용, 보안 등을 갖춘 솔루션”이라며 “미래를 위한 데이터센터이며, 처음부터 AI 우선 사고방식으로 구축 및 설계됐다”고 강조했다. 그는 모든 데이터를 클라우드로 가져가기보다 사내 환경에 두고 싶어하는 기업의 움직임을 전했다. 그는 데이터를 클라우드에 모두 둘 경우 제어하기 어려워지고 더 많은 비용을 감당하게 된다는 점을 들었다. 그는 대규모언어모델(LLM) 추론을 퍼블릭 클라우드에서 구동할 때보다 온프레미스에서 구동할 때 75% 더 비용 효율적이란 최근 조사 결과를 소개했다. 기업 CIO 83%는 올해 일부 워크로드를 퍼블릭 클라우드에서 온프레미스로 되돌릴 계획을 갖고있다는 설문 결과도 전했다. 그는 ”이는 추론과 데이터 중력이라는 두 가지 요인에 의해 추진된다”며 “데이터에 AI를 적용하려는 것이지 그 반대가 아니다”라고 말했다. 그는 미션크리티컬 애플리케이션의 데이터를 저장하는 '파워스토어'의 신제품 '파워스토어 프라임'을 간략히 소개하고, 대규모 초고속 데이터 저장을 위한 '파워스케일 F910' 출시를 발표했다. 파워스토어 프라임은 QLC 어레이로 성능을 최대 66% 향상시켰고, 5대1의 데이터 절감을 보장하는 제품이다. 파워스케일 F910은 비정형 데이터와 생성형 AI 파운데이션 모델 학습용 데이터를 저장하는 스토리지다. 생성형 AI 최적화 서버로 큰 인기를 누리고 있는 '델 파워엣지 XE9680' 서버의 최신 모델인 '델 파워엣지 XE9680L' 출시도 발표했다. 델 파워엣지 XE9680L은 기존 버전보다 더 작은 크기에 최신 엔비디아 블랙웰 GPU 8개를 장착할 수 있고, 랙 하나에서 최대 72개의 블랙웰 GPU를 묶음구성할 수 있다. 마이크로소프트의 '코파일럿 플러스 PC'에 기반한 신규 AI PC 5종도 소개했다. 델 AI 팩토리 위드 엔비디아는 이날 새롭게 출시된 서버와 스토리지, 클라이언트 제품을 포함하며 확장됐다. 이날 마이클 델 회장의 기조연설은 빌 맥더못 서비스나우 최고경영자(CEO), 황성우 삼성SDS 대표, 젠슨 황 엔비디아 CEO 등의 대담과 함께 진행됐다. 마이클 델 회장은 “미래 세대를 정의할 기회이며, 이제 우리가 그를 하지 않으면 부끄러운 일이 될 것이고 우리 모두와 세계의 손실이 될 것”이라며 “우리는 인지의 새로운 시대, AI 시대의 새벽에 있으며 가능성은 오늘날의 가장 위대한 혁신가의 정신에 불을 붙이고 있다”고 말했다. 그는 “오늘날의 혁신가보다 훨씬 더 중요한 것은 이 초지능이 차세대 혁신가에게 어떤 의미를 가질 수 있는지다”라며 “미래는 바로 지금”이라고 강조했다.

2024.05.21 07:30김우용

델, CSP와 엣지 위한 파워엣지 서버 신모델 공개

델테크놀로지스는 클라우드 서비스 사업자(CSP)를 위한 서버 신제품 2종과 및 엣지 워크로드를 위한 컴팩트한 구성의 신제품 2종을 16일 발표했다. 델이 이번에 파워엣지 서버 포트폴리오에 추가한 신제품들은 다양한 규모의 CSP를 비롯해 엣지 데이터를 서비스하는 소규모 사업자들이 인프라 운영을 간소화할 수 있도록 효율적인 구성으로 설계됐다. 또한 차세대 기술들을 적용하고 다양한 범위의 워크로드 처리에 용이하게끔 향상된 성능을 구현했다. '델 파워엣지 R670 CSP 에디션' 과 '델 파워엣지 R770 CSP 에디션' 서버는 CSP 기업들이 가상화나 데이터 분석과 같은 고밀도 및 스케일 아웃 클라우드 워크로드를 구동하는데 필요한 최적화된 성능을 제공한다. R670 CSP 에디션과 R770 CSP을 도입하는 고객들은 '델 얼리 액세스 프로그램'을 활용해 해당 제품의 설계를 사전에 검토하여 서비스 개시일부터 즉시 운영 환경을 확장할 수 있다. 이번에 공개한 두 신모델은 델테크놀로지스의 스마트 쿨링 기술로 설계돼 에너지 효율적이며 변화하는 환경에 지능적으로 적응이 가능하다. 냉기 통로를 최적화한 전면부 I/O나 유연한 구성이 가능한 컴팩트한 폼 팩터로 구축 및 서비스가 간편하여 전문 데이터 센터에 이상적이다. 파워엣지 R670 CSP 에디션과 R770 CSP 에디션은 업계 최초로 인텔 제온 6 이피션트 코어 프로세서를 탑재하여 이전 세대 제품 대비 랙당 최대 2.3배 향상된 성능을 제공한다. 오픈BMC 기반의 '델 오픈 서버 매니저'를 탑재해 대규모 이기종 환경을 위한 개방형 에코시스템에서 관리를 간소화한다. 델은 이번 CSP 에디션 서버를 통해 파워엣지 포트폴리오에 '데이터센터-모듈러 하드웨어 시스템(DC-MHS) 아키텍처를 처음 선보인다. DC-MHS 아키텍처는 서버를 표준화하고 설계 및 고객 선택권을 개선해 기존 인프라스트럭처에 보다 쉽게 서버를 통합할 수 있도록 지원한다. '오픈 컴퓨트 프로젝트'의 일부인 DC-MHS는 델과 인텔을 포함한 6개 기업이 협력해 데이터센터, 엣지 및 엔터프라이즈 인프라의 상호 운용성을 높이기 위해 하드웨어 기술을 새롭게 설계하는 이니셔티브다. '델 파워엣지 T160'와 '델 파워엣지 R260)'은 강력하고 고밀도의 서버 구성을 필요로 하는 소규모 기업 및 원격 사무실에 적합한 컴팩트 사이즈로 제공된다. 일반 서버 대비 42%의 크기로 물리적 설치 공간이 거의 절반에 불과한 스택형 T160은 도색을 입히지 않은 메탈 섀시를 비롯한 지속 가능한 소재의 사용을 늘려 탄소 배출량을 줄였으며, 이전 세대와 비교해 전력 효율이 최대 23% 향상됐다. R260 또한 물리적 설치 공간을 24% 줄여 높은 활용도를 제공한다. 두 서버 모두 인텔 제온 E-2400 프로세서를 탑재하여 이전 세대 대비 두 배의 성능을 제공한다. T160은 엣지 환경의 근거리에 구축해 실시간 데이터 처리를 수행하려는 조직에 이상적이다. R260은 지연 시간을 최대 50%까지 줄여서 엣지 환경에 근접한 가상화 구축에 적합하다. 열악한 환경에서도 안정적으로 구동할 수 있도록 필터 베젤이 장착되어 있어 먼지 및 윤활용제로부터 내부 하드웨어를 보호하고, 공기 흐름을 방해하지 않아 최적의 성능과 방음을 보장한다. 김경진 한국델테크놀로지스의 총괄 사장은 “컴퓨팅 집약적인 워크로드를 실행하는 동시에 전력 소비를 줄이고 탄소 배출량을 관리하기 위해 최신 기술이 적용된 서버로 교체하고자 하는 수요가 늘어나고 있다” 며 “델 파워엣지 포트폴리오에는 30년 이상 IT 인프라 기술의 중추적인 역할을 맡아온 델의 경험이 집약돼 있다”고 밝혔다. 그는 “델은 엣지, 코어 데이터센터, 클라우드 전반의 워크로드를 지원함으로써 고객들이 계속해서 진화하는 비즈니스 요구에 효과적으로 대응하도록 돕는다”고 덧붙였다. 델 파워엣지 R670 CSP 에디션과 R770 CSP 에디션은 7월 중 일부 클라우드 서비스 공급업체들을 대상으로 출시되며, 이후 전체적인 공식 판매가 이루어질 예정이다. 델 파워엣지 T160 및 R260은 5월 중 한국을 비롯한 전 세계에 출시될 예정이다.

2024.05.16 16:23김우용

델, 파워엣지 서버에서 인텔 가우디3 AI 가속기 지원

델테크놀로지스는 고성능 AI 서버 '델 파워엣지 XE9680'에 '인텔 가우디 3' AI 가속기 지원을 추가한다고 15일 밝혔다. 델 파워엣지 XE9680은 x86 서버 아키텍처에 8개의 GPU를 탑재하는 모델로 AI 운영에 특화된 성능을 제공한다. 델은 XE9680 에코시스템에 인텔 가우디3 가속기를 통합함으로써 고객이 생성형 AI 워크로드와 관련된 컴퓨팅 요구 사항에 맞춰 시스템을 맞춤화 할 수 있도록 지원한다. 델은 범용성과 강력한 성능을 모두 갖춘 AI 가속 인프라를 제공하겠다는 전략이다. XE9680은 가우디3 가속기를 추가함으로써 더 풍부한 서버 구성 옵션을 제공하게 됐다. 최대 32개의 DDR5 메모리 DIMM 슬롯을 통해 데이터 처리량을 향상시켰고, 16개의 EDSFF3 플래시 스토리지 드라이브와 8개의 PCIe Gen 5.0 슬롯으로 확장된 연결성과 대역폭을 제공한다. 프로세서당 최대 56개 코어를 지원하는 4세대 인텔 제온 스케일러블 프로세서를 2개를 장착했으며, 가장 고난도의 AI·ML 워크로드에 대한 데이터 처리 및 분석에 최적화됐다. 기존 하드웨어 성능을 뛰어넘어 AI를 통해 심층적인 데이터 인사이트를 확보하고자 하는 기업에서는 폭넓은 가속기 옵션을 갖춘 XE9680을 중요 자산으로 활용할 수 있다. 고급 처리 능력과 효율적인 공랭식 설계가 결합된 이 제품은 AI 가속화의 새로운 기준을 제시하며, 비즈니스 성과를 촉진하는 신속하고 실행 가능한 인사이트를 제공한다. 인텔 가우디 3 AI 가속기를 탑재한 '파워엣지 XE9680' 서버 모델은 올해 안에 국내 출시될 계획이다 인텔 가우디3 AI 가속기는 64개의 커스텀 및 프로그래밍 가능한 텐서 프로세서 코어(TPC)와 128GB의 HBMe2 메모리 용량, 3.7TB의 메모리 대역폭, 96MB의 온보드 SRAM 등 생성형 AI 워크로드에 필수적인 스펙을 갖췄다. 가우디3는 개방형 에코시스템을 갖춰 파트너십 기반의 최적화 및 모델 라이브러리 프레임워크 지원의 이점이 있다. 기존 코드베이스의 전환을 간소화하는 개발 툴로 간편한 마이그레이션을 지원한다. 가우디3 가속기로 강화된 파워엣지 XE9680은 6개의 OSFP 800GbE 포트를 통해 가속기에 직접 결합된 새로운 네트워킹 기능을 제공한다. 외장 NIC를 시스템에 배치할 필요 없이 외부 가속기 패브릭에 직접 연결 가능해 인프라를 단순화하고 인프라의 총소유비용과 복잡성을 낮추는데 효과적이다. 인텔 가우디3 전문 미디어 디코더는 AI 비전 애플리케이션을 위해 설계됐다. 광범위한 사전 처리 작업을 지원해 비디오에서 텍스트로의 변환을 간소화하고 엔터프라이즈 AI 애플리케이션의 성능을 향상시킨다. 델은 최근 포레스터웨이브 보고서에서 AI 분야 선도 기업으로 선정됐다. IT 및 데이터 과학자가 AI를 적용하고 생산성을 높일 수 있도록 포괄적인 솔루션을 제공함으로써 엔드투엔드 환경의 생성형AI 성과를 이끌어낸다는 평가를 받으며 전략과 오퍼링 측면 모두에서 높은 점수를 획득했다. 김경진 한국델테크놀로지스의 총괄 사장은 “델은 폭넓은 협업 전략을 통해 AI 개발의 경계를 확장하고, 새로운 표준을 끊임없이 제시하고 있다”며 “고객이 AI 여정의 어느 단계에 있든 목표 달성을 가속하고, 미래에 필요하게 될 요구 성능에 대비하는 동시에 이 여정이 안전하게 지속될 수 있도록 지원하는데 집중할 계획”이라고 강조했다.

2024.04.15 11:39김우용

델테크놀로지스, 엔비디아 기반 'AI 팩토리 솔루션' 공개

델테크놀로지스는 엔비디아와 전략적 협력을 강화하고 '델 AI 팩토리 위드 엔비디아' 솔루션을 출시한다고 19일 밝혔다. '델 AI 팩토리 위드 엔비디아'는 델의 생성형 AI 솔루션 포트폴리오 중 하나로, 기업과 기관들이 자체 보유한 데이터와 AI 툴, 그리고 온프레미스 인프라를 보다 안전하고 빠르게 통합하여 생성형 AI 투자 효과를 극대화하도록 돕는 것을 골자로 한다. 델과 엔비디아는 긴밀한 협력을 통해 델의 엔드투엔드 생성형 AI 솔루션 포트폴리오를 강화하고, 고객들이 비즈니스 혁신을 가속화하는 한편 생산성을 높일 수 있도록 지원에 나선다. '델 AI 팩토리 위드 엔비디아'는 델의 서버, 스토리지, 클라이언트 디바이스, 소프트웨어 및 서비스와 엔비디아의 AI 인프라 및 소프트웨어 팩키지를 결합한 통합형 솔루션이다. 고속 네트워크 패브릭을 기반으로 구성된다. 엄격한 테스트와 검증을 거친 랙 단위 설계가 가능하며, 이를 통해 데이터로부터 가치 있는 통찰력과 성과를 이끌어낼 수 있도록 돕는다. 이 솔루션은 또한 엔터프라이즈 데이터 보안 분야의 기존 오퍼링들을 비롯해 보안 및 개인 정보 보호를 위한 델의 서비스 오퍼링과 함께 활용할 수 있다. '델 AI 팩토리 위드 엔비디아'는 모델 생성 및 튜닝에서부터 증강, 그리고 추론에 이르는 생성형 AI의 전체 수명주기에 걸쳐 다양한 AI 활용 사례와 애플리케이션을 지원한다. 델이 제공하는 프로페셔널 서비스를 활용해 조직에서는 전략을 세우고, 데이터를 준비하여 구현하고 적용하기 까지의 과정을 가속할 수 있으며, 조직 전반의 AI 역량을 향상시킬 수 있다. 이 솔루션은 기존의 채널 파트너를 통해 구매하거나, '델 에이펙스(APEX)' 구독형 모델을 통해 도입할 수 있다. 델테크놀로지스는 엔비디아와 협력해 '엔비디아 그레이스 블랙웰 슈퍼칩'을 기반으로 하는 랙 스케일 고밀도 수랭식 아키텍처를 채용할 예정이다. 이 시스템은 엔터프라이즈 AI 워크로드의 성능 집적도 향상을 위한 기반으로서 차세대 생태계를 지원하게 된다. 델 파워엣지 XE9680 서버는 '엔비디아 B200 텐서 코어 GPU'를 포함한 신규 엔비디아 GPU 모델을 지원할 예정이며, 이를 통해 최대 15배 높은 AI 추론 성능과 TCO 절감을 기대할 수 있다. 델 파워엣지 서버는 엔비디아 블랙웰 아키텍처 기반의 다른 여러 GPU와 H200 텐서 코어 GPU, 엔비디아 퀀텀-2 인피니밴드 및 스펙트럼-X 이더넷 네트워킹 플랫폼도 지원할 예정이다. '검색 증강 생성을 위한 델과 엔비디아의 생성형 AI 솔루션'은 '엔비디아 AI 엔터프라이즈'의 새로운 마이크로서비스를 활용해 사전 검증된 풀스택 솔루션을 제공함으로써 RAG(검색 증강 생성) 기술 도입을 가속한다. 자체 보유한 고유 데이터 및 지식 베이스와 같이 사실에 근거한 새로운 데이터 세트를 통해 생성형 AI 모델 품질을 개선하고 결과 정확도를 높일 수 있다. '모델 훈련을 위한 델과 엔비디아의 생성형 AI 솔루션'은 자체적으로 도메인 맞춤형 AI 모델을 구축하려는 기업 및 기관들을 위해 사전 검증된 풀스택 솔루션을 제공한다. 이와 함께 '생성형 AI를 위한 델 프로페셔널 서비스'는 포트폴리오 전반에 대한 통합, 관리, 보호를 지원하여 비즈니스 성과를 더 빠르게 달성할 수 있게끔 돕는다. 델 구현 서비스는 델의 신규 RAG 솔루션 및 모델 훈련을 비롯해 보안 위험을 평가하고 영향을 최소화하도록 돕는 '생성형 AI 데이터 보호를 위한 자문 서비스' 등을 포함한다. 젠슨 황 엔비디아 설립자 겸 CEO는 "AI 팩토리는 향후 산업군 별로 인텔리전스를 창출하는 핵심 역할을 할 것"이라며 "엔비디아와 델은 함께 기업이 AI 팩토리를 통해 기업들이 자체 보유한 고유의 데이터를 강력한 인사이트로 전환할 수 있도록 지원하고 있다”고 밝혔다. 김경진 한국델테크놀로지스 총괄 사장은 “엔터프라이즈 고객들은 복잡한 AI 요구에 대응하고 이를 빠르게 해결할 수 있는 솔루션을 갈망하고 있다”며 “양사의 노력으로 탄생한 턴키 솔루션은 데이터와 사용 사례를 원활하게 통합하고, 맞춤형 생성 AI 모델 개발을 간소화한다”고 덧붙였다. '델 AI 팩토리 위드 엔비디아'는 기존 채널 파트너를 통하거나, 또는 '델 에이펙스(APEX)' 구독형 모델을 통해 도입할 수 있다. 엔비디아 H200 텐서 코어 GPU를 탑재한 델 파워엣지 XE9680 서버는 델 회계연도 2분기(5월~7월)에 출시되며, 엔비디아 B200 및 B100 GPU를 탑재한 XE9680 서버는 4분기(11월~내년 1월) 내에 출시될 예정이다. 'RAG를 위한 델과 엔비디아의 생성형 AI 솔루션'은 현재 기존 채널 파트너와 델 에이펙스를 통해 전 세계에서 구입할 수 있으며, '모델 훈련을 위한 델과 엔비디아의 생성형 AI 솔루션'은 4월에 출시될 예정이다. 'RAG를 위한 델 구현 서비스'는 5월 31일부터 한국을 비롯한 일부 지역에서 제공되며, '모델 훈련을 위한 델 인프라스트럭처 구축 서비스'와 '델 생성형 AI 데이터 보안을 위한 자문 서비스'는 3월 29일부터 한국을 비롯한 일부 국가에서 출시될 예정이다.

2024.03.19 13:47김우용

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

LG전자, 2분기 영업이익 반토막...美 트럼프 관세 영향

무너지는 중소웹툰플랫폼…네카오, 양강 체제 굳어진다

정부 요청에…유통업계, 라면·빵·커피 등 ‘최대 반값 할인’

LG엔솔, IRA 세액공제 없이 흑자 달성…저점 통과 기대↑

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.