검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'H200'통합검색 결과 입니다. (6건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

엔비디아, SC24서 H200 NVL PCIe GPU 공개

엔비디아가 오는 22일까지 미국 애틀란타에서 개최되는 '슈퍼컴퓨팅 2024'(SC24) 컨퍼런스에서 호퍼 GPU 최신 제품인 H200 NVL PCIe GPU를 공개했다. H200 NVL PCIe GPU는 H200 GPU를 PCI 익스프레스 5.0 슬롯으로 서버에 장착할 수 있게 설계됐다. 저전력 공랭식 랙에 설치 가능하도록 구성됐고 탑재 메모리 용량은 141GB다. PCI 익스프레스 슬롯을 하나만 차지하는 단일 구성, NV링크를 이용해 2개/4개를 연결하는 구성이 가능하며 전세대 제품인 H100 NVL 대비 거대언어모델(LLM) 추론 성능은 최대 1.7배, HPC 응용프로그램 성능은 최대 1.3배 향상됐다. 엔비디아는 "최근 조사에 따르면 엔터프라이즈 랙의 약 70%가 소모 전력 20kW 이하이며 공랭식 설계를 적용해 PCI 익스프레스 방식 GPU가 필요하다. 기업은 기존 랙을 활용하고 필요에 맞는 적합한 GPU 수를 선택할 수 있다"고 밝혔다. H200 NVL은 각종 AI 관련 응용프로그램 개발을 위한 소프트웨어 도구와 함께 제공되며 프로덕션 AI의 개발과 배포를 위한 클라우드 네이티브 소프트웨어 플랫폼인 엔비디아 AI 엔터프라이즈 5년 구독도 함께 제공한다. H200 NVL은 오는 12월부터 델테크놀로지스, HPE, 레노버, 슈퍼마이크로 등 주요 서버 업체와 엔비디아 글로벌 시스템 파트너를 통해 제공 예정이다.

2024.11.19 10:54권봉석

SK하이닉스, TSMC 포럼서 HBM3E·엔비디아 H200 나란히 전시...동맹 강조

SK하이닉스가 25일(미국시간) 미국 캘리포니아주 산타클라라에서 개최된 TSMC OIP 에코시스템 포럼 2024(이하 OIP 포럼)에서 HBM3E와 엔비디아 H200 칩셋 보드를 함께 전시해 TSMC와 전략적 파트너십을 강조했다. 아울러 10나노급 6세대(1c) 공정 기반의 DDR5 RDIMM(이하 DDR5 RDIMM(1cnm))을 세계 최초로 공개해 주목을 받았다. OIP는 TSMC가 반도체 생태계 기업과 기술을 개발하고 협업하기 위해 운영 중인 개방형 혁신 플랫폼이다. 반도체 설계, 생산 등 다양한 기업이 이 플랫폼에 참여하고 있다. TSMC는 매년 하반기 OIP 구성원과 주요 고객사를 초청해 미국, 일본, 대만 등 세계 각국에서 OPI 행사를 개최한다. SK하이닉스는 올해 처음으로 이 행사에 참여했다. 'MEMORY, THE POWER OF AI'를 주제로 ▲글로벌 No.1 HBM ▲AI·데이터센터 솔루션 등 두 개 섹션을 꾸리고 HBM3E, DDR5 RDIMM(1cnm), DDR5 MCRDIMM 등 다양한 AI 메모리를 선보였다. 특히 글로벌 No.1 HBM 섹션에서는 'HBM3E'와 엔비디아 'H200'을 공동 전시하며 '고객사·파운드리·메모리' 기업의 기술 협력을 부각했다. 'HBM3E 12단'은 36GB(기가바이트) 용량과 초당 1.2TB(테라바이트) 속도를 자랑하는 AI 메모리다. 성능 검층을 마친 HBM3E 12단은 H200의 성능을 크게 향상시킬 것으로 기대된다. AI/데이터센터 솔루션 섹션에서는 'DDR5 RDIMM(1cnm)' 실물을 처음으로 공개해 많은 관심을 모았다. DDR5 RDIMM(1cnm)은 차세대 미세화 공정이 적용된 D램으로, 초당 8Gb(기가비트) 동작 속도를 낸다. 이전 세대 대비 11% 빨라진 속도와 9% 이상 개선된 전력 효율을 자랑하며, 데이터센터 적용 시 전력 비용을 최대 30%까지 절감할 수 있을 것으로 기대를 모은다. 이외에도 회사는 128GB 용량 및 초당 8.8Gb 속도의 'DDR5 MCRDIMM*'과 256GB 용량 및 초당 6.4Gb 속도의 'DDR5 3DS RDIMM' 등 고성능 서버용 모듈을 전시했다. 또, LPDDR5X 여러 개를 모듈화한 'LPCAMM2', 세계 최고속 모바일 D램 'LPDDR5T' 등 온디바이스 AI 분야에서 활약할 제품과 함께 차세대 그래픽 D램 'GDDR7'까지 선보였다. MCRDIMM은 여러 개의 D램이 기판에 결합된 모듈 제품으로, 모듈의 기본 정보처리 동작 단위인 랭크(Rank) 2개가 동시 작동되어 속도가 향상된 제품이다. 이병도 SK하이닉스 TL(HBM PKG TE)은 'OIP 파트너 테크니컬 토크' 세션에서 "TSMC 베이스 다이(Base Die)를 활용해 HBM4의 성능과 효율을 높일 것"이라며 "어드밴스드 MR-MUF 또는 하이브리드 본딩 기반의 HBM4 16단 제품을 개발해 시장의 고집적(High Density) 요구를 충족할 계획"이라고 설명했다. 한편, SK하이닉스는 이번 행사를 'AI 시장에서의 기술 우위 및 파운드리와의 견고한 파트너십을 다시 한번 확인한 자리'라고 평가했다. 회사는 앞으로도 OIP 구성원과 꾸준히 협업하고 TSMC와의 협력을 지속해 전략적 관계를 강화해 나갈 방침이다.

2024.09.26 15:57이나리

엔비디아 "블랙웰 GPU 수율 개선 위해 마스크 변경"

엔비디아가 28일(현지시간) 2분기(5-7월, 회계연도 기준 2025년 2분기) 실적발표를 통해 올 연말 출시할 AI 가속용 GPU '블랙웰'(Blackwell) 생산 절차 중 일부를 개선했다고 밝혔다. 블랙웰은 엔비디아가 'GTC 2024'에서 공개한 차세대 AI 가속용 GPU로 오는 4분기부터 공급 예정이다. 대만 TSMC의 4나노급 공정(N4P)으로 만든 반도체 다이(Die) 두 개를 연결해 만든 칩이며 2천80억 개의 트랜지스터를 집적했다. 이달 초 미국 디인포메이션과 대만 공상시보는 소식통을 인용해 "블랙웰 출시 시기가 생산 과정 중 발견된 문제로 내년 1분기로 지연됐다"고 보도했다. 그러나 엔비디아는 "블랙웰 시제품이 여전히 공급되고 있으며 생산에 문제가 없다"는 입장을 고수했다. 이날 콜렛 크레스 엔비디아 CFO(최고재무책임자)는 "블랙웰 GPU 생산 수율 개선을 위해 마스크(Mask)를 변경했다"고 밝혔다. 마스크는 반도체 생산 공정에서 실리콘에 회로 패턴을 새기기 위해 쓰이는 유리판이며 한 번 만들어지면 수정이 불가능하다. 엔비디아가 '이미 설계를 마친(테이프아웃) 블랙웰 GPU에서 모종의 문제점을 발견해 이를 개선해야 했다'고 우회적으로 시인한 것이다. 엔비디아는 이날 블랙웰 GPU로 수행한 ML퍼프(MLPerf) 테스트 결과도 제출했다고 밝혔다. ML퍼프는 전세계 AI 관련 반도체·소프트웨어 기업과 학계 등이 참여하는 컨소시엄 'ML커먼스'(MLCommons)가 주관하는 머신러닝 성능 측정 지표다. 엔비디아 뿐만 아니라 인텔 등 주요 제조사가 CPU와 GPU 성능 측정 결과를 제출한다. 엔비디아는 "블랙웰 GPU는 ML퍼프의 '추론 v4.1'(Inference v4.1) 테스트에 포함된 메타 라마2 700억개 매개변수 벤치마크에서 H100 대비 4배 이상의 성능을 냈다"고 밝혔다. 엔비디아는 지난 해 11월 공개한 호퍼 기반 AI 가속기인 H200이 예정대로 출시돼 미국 클라우드 컴퓨팅 스타트업 코어위브(CoreWeave)에 공급됐다고 밝혔다. H200은 H100 GPU를 업그레이드한 제품이며 SK하이닉스가 공급한 HBM(고대역폭메모리)인 HBM3e 141GB를 탑재했다. H100 대비 메모리 용량은 1.8배, 대역폭은 1.4배 늘어났다. 엔비디아가 ML퍼프에 제출한 벤치마크 자료에 따르면, H200 GPU 8개로 구성한 클러스터는 모든 워크로드에서 H100 대비 최대 1.5배 이상 높은 성능을 낸다.

2024.08.29 08:46권봉석

인텔 "가우디3, 납기·비용·성능 모두 뛰어난 엔비디아 대체재"

[타이베이(대만)=권봉석 기자] 인텔이 4일(이하 대만 현지시간) 오전 대만 타이베이 난강전시관에서 진행된 기조연설에서 AI 가속기 '가우디3'의 가격 대비 성능을 강조했다. 가우디3는 2022년 5월 출시된 가속기인 가우디2 후속 제품이며 TSMC 5나노급 공정에서 생산된다. 96MB S램과 128GB HBM2e 메모리를 이용해 최대 대역폭 3.7TB/s를 구현했다. 서버용 프로세서와 PCI 익스프레스 5.0 규격으로 연결되며 200Gbps 이더넷으로 서로 연결된다. 전세계 10개 이상의 글로벌 공급업체가 올 3분기부터 가우디3 기반 솔루션을 공급 계획중이다. ■ "네이버도 가우디 선택했다...TCO·TTM에서 엔비디아 대비 우위" 이날 팻 겔싱어 인텔 CEO는 "현재 클라우드 이용 현황을 보면 전체 워크로드 중 60%가 클라우드에서 실행되며 생성된 데이터 중 80%가 여전히 활용되지 않는 상황"이라고 설명했다. 이어 "LLM(거대언어모델)에 기업이나 기관의 데이터를 더한 검색증강생성(RAG)은 잠자는 데이터를 활용할 수 있는 기회를 줄 것이다. 6월부터 내년 1분기에 걸쳐 출시될 제온6 프로세서와 가우디 가속기는 이를 바꿀 수 있다"고 설명했다. 현재 AI용 GPU 시장은 엔비디아가 독식하고 있다. 팻 겔싱어 CEO는 "기업들은 대안과 개방형 구조를 원한다. 또 제품/서비스 출시 시간(TTM)을 단축하고 총소유비용을 낮추길 희망하고 있다"고 지적했다. 이어 "한국 네이버클라우드가 가우디를 쓰고 있다. 또 오픈소스 리눅스 재단과 기업용 AI 플랫폼 구축에 협업하고 있으며 제온6와 가우디가 기업 AI 워크로드에 도움을 줄 것"이라고 강조했다. ■ "가우디3, 덜 쓰고 더 얻을 수 있는 '가성비' 가속기" 팻 겔싱어 CEO는 올 3분기부터 공급될 차세대 가속기 가우디3에 대해 "같은 규모 클러스터 구성시 엔비디아 H100에서 추론 성능은 2배이며 H200 GPU 대비 경쟁력을 갖고 있다"고 설명했다. 인텔 자체 성능비교에 따르면 가우디3 8천192개 클러스터 구성시 같은 규모 엔비디아 H100 클러스터 대비 학습 시간은 40% 단축할 수 있다. 또 700억 개 매개변수로 구성된 LLM인 메타 라마2(Llama2) 구동시 가우디3 64개 클러스터는 엔비디아 H100 대비 최대 15% 빠른 학습 처리량을 제공할 예정이다. 팻 겔싱어 CEO는 "가우디3는 '덜 쓰고 더 얻을 수' 있는 AI 가속기"라며 가우디3의 개방성도 강조했다. 그는 "가우디3는 업계 표준 인터페이스인 이더넷으로 작동하며 파이토치 등 오픈소스 AI 프레임워크에 최적화됐고 수십만 개의 AI 모델을 지원한다"고 말했다. ■ 가우디3 솔루션 공급 업체 10개 이상으로 확대 가우디3는 서버용 OCP 가속화 모듈인 HL-325L, HL-325L을 8개 탑재한 UBB 표준 모듈인 HLB-325, 워크스테이션에 장착 가능한 확장 카드인 HL-338 등 3개 형태로 시장에 공급된다. 인텔은 이날 가우디3 기반 AI 서버 공급업체로 델테크놀로지스, HPe, 레노버, 슈퍼마이크로에 더해 폭스콘, 기가바이트, 인벤텍, 콴타, 위스트론 등 총 10개 이상 글로벌 업체가 참여하고 있다고 밝혔다.

2024.06.04 19:01권봉석

두산, 엔비디아 차세대 AI반도체용 'CCL' 공급업체 단독 진입

두산이 최근 엔비디아 차세대 AI 반도체용 핵심 소재의 단일 공급업체로 진입한 것으로 파악됐다. 기존 공급망을 주도하던 대만 경쟁사를 밀어내고 이뤄낸 성과다. 14일 업계에 따르면 두산전자는 엔비디아의 최신형 AI 반도체인 'B100'용 CCL(동박적층판) 공급업체로 단독 진입했다. CCL은 반도체 PCB(인쇄회로기판)의 핵심 소재 중 하나다. 수지, 유리섬유, 충진재, 기타 화학물질로 구성된 절연층에 동박을 적층해 만든다. 두산은 계열사인 두산전자를 통해 메모리, 전자기기, 통신 등 다양한 용도의 CCL을 생산하고 있다. 기술적 난이도가 높은 IC(직접회로) 패키징용 CCL도 개발해 왔다. 앞서 두산은 지난해 중반 엔비디아의 AI반도체 기판용 CCL 공급업체로 첫 진입한 바 있다. 해당 CCL은 엔비디아가 지난해 하반기 공개한 고성능 GPU(그래픽처리장치)인 H시리즈(H100, H200 등)용이다. 당시 엔비디아의 CCL 공급망을 주도하고 있던 대만 엘리트머티리얼즈(EMC)의 틈을 파고 든 성과다. 나아가 두산은 최근 엔비디아의 'B100'용 CCL 공급업체로도 진입했다. B100은 엔비디아가 올해 4분기 출시할 예정인 차세대 제품으로, 전작 H200 대비 성능을 2배가량 끌어 올린 것이 특징이다. 특히 업계는 두산이 B100용 CCL 공급업체로 단독 진입했다는 점에 주목한다. EMC는 현재까지 공급이 확정되지 않은 것으로 알려졌다. 엔비디아가 공급망 형성에서 품질을 최우선순위로 두고 있는 만큼, 두산의 CCL 기술력이 인정을 받았다는 평가가 나온다. 매출 면에서도 유의미한 성과가 나올 것으로 전망된다. 두산이 지난해 엔비디아 공급망에 진입하기는 했으나, 실제 공급 물량이 적어 매출은 수십억 원 규모에 그친 것으로 전해진다. 이번 단독 공급 체제를 유지할 경우, 매출은 크게 확대될 가능성이 높다. 두산은 이와 관련해 "고객사와 관련된 사안은 확인해줄 수 없다"고 밝혔다.

2024.03.14 11:37장경윤

엔비디아, 4분기 매출 265% 급증…AI 서버로 '퀀텀 점프'

글로벌 팹리스 엔비디아가 또 다시 '어닝 서프라이즈'를 달성했다. 폭발적인 인공지능(AI) 서버 수요 증가세에 따른 효과로, 회사는 올해 상반기에도 당초 예상을 뛰어넘는 매출을 달성할 수 있을 것으로 내다봤다. 엔비디아는 22일 2023 회계연도 4분기(2024년 1월 종료) 매출이 221억 달러로 전년 동기에 비해 265% 증가했다고 발표했다. 이는 전분기에 비해서도 22% 늘어난 것이며 증권가 전망치 204억 달러를 크게 웃돌았다. 같은 분기 주당 순이익(GAAP 기준)도 4.93달러로 전분기 대비 33%, 전년동기 대비 765% 늘어났다. 엔비디아 호실적의 주역은 데이터센터 사업이다. 해당 분기 데이터센터 사업 매출은 184억 달러로 전분기 대비 27%, 전년동기 대비 409% 증가했다. 젠슨 황 엔비디아 최고경영자(CEO)는 "가속컴퓨팅 및 생성형 AI가 티핑 포인트(특정 현상이 급속도로 커지는 지점)에 도달했다"며 "국가, 산업을 가리지 않고 전 세계적으로 수요가 급증하고 있다"고 밝혔다. 엔비디아는 올 상반기 실적에 대해서도 긍정적인 전망을 내비쳤다. 회사는 2024 회계연도 1분기(2024년 4월 종료) 매출 예상치로 전분기 대비 8% 증가한 240억 달러를 제시했다. 이 전망치 역시 증권가 예상보다 9% 가량 상회한 수치다. 현재 엔비디아는 AI 산업의 핵심인 고성능 그래픽처리장치(GPU)와 이를 기반으로 한 AI 가속기 시장을 사실상 독과점하고 있다. 올해에도 3나노미터(nm) 기반의 신규 제품 'B100' 출시를 목표로 하는 등, 시장 지배력 유지를 위한 행보를 이어가고 있다.

2024.02.22 08:50장경윤