ZDNet 검색 페이지

'GTC'통합검색 결과 입니다. (12건)

젠슨 황, 삼성 HBM3E에 친필로 '승인' 사인...엔비디아에 공급 기대감

젠슨 황 엔비디아 최고경영자(CEO)가 미국 캘리포니아주 새너제이에서 열린 'GTC 2024' 행사에 전시된 삼성전자의 5세대 고대역폭메모리 12단 'HBM3E'에 친필 사인을 남겼다. 엔비디아 AI 반도체에 삼성전자의 HBM3E가 탑재될 가능성에 기대감이 커진다. 21일 한진만 삼성전자 반도체(DS)부문 미주총괄(DSA) 부사장은 자신의 사회관계망서비스(SNS)에 황 CEO가 삼성전자 부스에서 12단 HBM3E 실물에 남긴 친필 사인과 부스에 있던 직원들과 함께 찍은 사진을 공유했다. 삼성전자는 12단 HBM3E 실물을 공개한 것은 이번 GTC 행사가 처음이다. 한 부사장은 "젠슨 황 CEO가 우리 부스에 들러줘서 고맙고, 만나지 못해 아쉽다"라며 "삼성 HBM3E에 승인 도장(stamp of approval)을 찍어줘 기쁘다. 삼성 반도체와 엔비디아의 다음 행보가 기대된다"고 전했다. 특이 황 CEO의 삼성전자 부스 방문은 앞서 19일(현지시간) 엔비디아 GTC 2024 글로벌 미디어 행사에서 "우리는 지금 삼성전자의 HBM을 테스트(qualifying)하고 있으며, 기대가 크다"고 발언한 직후여서 업계의 관심이 쏠린다. HBM은 여러 개 D램을 수직으로 연결해 기존 D램보다 데이터 처리 속도를 대폭 끌어올린 고성능 제품이다. HBM은 1세대(HBM)·2세대(HBM2)·3세대(HBM2E)에 이어 4세대(HBM3) 제품이 공급되고 있으며, 올해부터 5세대(HBM3E) 양산이 시작된다. HBM3E는 HBM3의 확장 버전이다. 엔비디아는 AI 반도체로 사용되는 그래픽처리장치(GPU) 시장에서 80% 점유율로 사실상을 독점체제를 구축하고 있기에, HBM 시장에서 핵심 고객사다. SK하이닉스가 HBM 시장에서 점유율 1위를 차지한 데는 지난해 엔비디아에 HBM3을 독점 공급한 영향이 크다. 최근 엔비디아가 공급망 관리를 위해 HBM3E 탑재부터 공급망을 다변화하기로 결정하면서 삼성전자는 HBM3E 물량을 확보하기 위해 적극적으로 나서고 있다. 삼성전자의 12단 HBM3E는 24기가비트(Gb) D램 칩을 실리콘 관통 전극(TSV) 기술로 12단까지 적층해 업계 최대인 36기가바이트(GB) 용량을 구현한 제품이다. 삼성전자는 지난달 27일 12단 HBM3E 샘플을 고객사(엔비디아 포함)에 공급했다고 공식 발표한 바 있다. 삼성전자는 이 제품을 상반기 양산할 예정이다. HBM 시장 경쟁은 가열되고 있다. SK하이닉스는 GTC 2024 전시 부스에서 12단 HBM3E를 전시했으며, 행사 첫날인 지난 18일 업계 최초로 8단 HBM3E 양산을 시작했다고 공식적으로 알리며 시장 우위를 강조했다. 업계에 따르면 SK하이닉스 또한 최근 엔비디아에 12단 HBM3E 샘플을 공급한 것으로 알려져 있다. 또 미국 마이크론도 지난달 HBM3E 양산을 시작했다고 밝히며 경쟁에 뛰어들었다. HBM 시장에서 후발주자인 미국 마이크론은 HBM3 양산을 건너뛰고 HBM3E 대량 생산체제를 갖추면서 삼성전자, SK하이닉스와 전면 경쟁에 돌입했다. 경계현 삼성전자 DS 부문장(사장)은 전날(20일) 삼성전자 정기 주주총회에서 HBM이 한발 늦었다는 지적에 대해 "앞으로 다시는 그런 일이 생기지 않도록 더 잘 준비하고 있다"며 "12단을 쌓은 HBM을 기반으로 HBM3와 HBM3E 시장의 주도권을 찾을 것"이라고 밝혔다. 한편, 시장조사업체 트렌드포스는 지난 13일 "삼성전자는 이미 HBM3에서 상당한 진전을 이뤘다"라며 "HBM3E 검증이 곧 완료될 것으로 예상되며, 연말까지 SK하이닉스와의 시장 점유율 격차를 크게 줄여 HBM 시장의 경쟁 구도를 재편할 태세다"고 진단했다.

2024.03.21 15:54이나리

스노우플레이크, 엔비디아와 풀스택 AI 플랫폼 제공

스노우플레이크는 엔비디아와 파트너십을 강화해 풀스택 AI 플랫폼을 제공한다고 21일 발표했다. 인공지능(AI)을 활용해 기업 고객의 생산성을 높일 수 있도록 지원하는 것으로, 스노우플레이크의 데이터 기반과 안정성 높은 데이터 클라우드의 AI 기술을 풀스택 엔비디아 가속 플랫폼에 결합할 수 있게 된다. 양사는 AI의 생산성과 비즈니스 속도를 높이고 여러 산업군에 걸쳐 새로운 비즈니스 기회를 확대하도록 설계된 인프라와 컴퓨팅 기술을 결합해 안전하고 강력한 기능을 제공한다. 지난해 6월 스노우플레이크와 엔비디아가 엔비디아 네모 통합 기능을 확대한다고 발표했다.. 강화된 파트너십에서 스노우플레이크는 자사 플랫폼에서 데이터 보안, 개인정보보호 및 거버넌스를 원활하게 유지하면서 직접 엔비디아의 네모 리트리버를 활용할 수 있게 된다. 네모 리트리버는 기업이 맞춤형 LLM을 기업 데이터에 연결할 수 있는 생성형 AI 마이크로 서비스다. 이를 기반으로 챗봇 애플리케이션의 성능과 확장성을 개선하고 스노우플레이크 코텍스(프리뷰 공개)로 AI 애플리케이션을 구축한 400개 이상의 기업이 보다 빠르게 비즈니스 가치를 실현할 수 있도록 지원한다. 또한 딥 러닝 추론 애플리케이션에 짧은 지연 시간과 높은 처리량을 제공하는 엔비디아 텐서RT를 활용할 수 있어 기업 고객의 LLM 기반 검색 기능이 향상될 것으로 기대된다. SQL 사용자는 스노우플레이크 코텍스 LLM 기능을 통해 소규모 LLM을 활용해 감정 분석, 번역 및 요약 등의 특정 작업을 몇 초 만에 비용 효율적으로 처리할 수 있다. 미스트랄AI, 메타 등의 고성능 모델을 활용한 AI 애플리케이션의 개발에도 적용할 수 있다. 스노우플레이크의 새로운 LLM 기반 어시스턴트로, 자연어를 통해 스노우플레이크의 코딩 작업에 생성형 AI를 적용한다. 사용자들이 대화 형식으로 질문하면 관련 테이블을 활용해 SQL 쿼리를 작성해 주며 쿼리를 개선하고 인사이트를 필터링하는 등의 작업을 수행할 수 있다. 도큐먼트 AI는 기업들이 LLM을 사용해 문서에서 청구 금액 또는 계약 약관 등의 내용을 쉽게 추출하고 시각화 인터페이스와 자연어를 사용해 결과를 섬세하게 조정할 수 있도록 지원한다. 고객사는 도큐먼트 AI를 사용해 수작업으로 인한 오류를 줄이고 자동 문서 처리를 통해 효율성을 강화한다. 슈리다 라마스워미 스노우플레이크 CEO는 “데이터는 AI의 원동력으로, 효과적인 AI 전략 수립에 매우 중요하다”며 “스노우플레이크는 엔비디아와 협력으로 신뢰할 수 있는 기업 데이터를 위한 안전하고 확장 가능하며 사용이 용이한 플랫폼을 제공하게 됐다”고 밝혔다. 그는 “특히 기술 전문성에 상관없이 모든 사용자가 AI를 사용할 수 있게 해 누구나 AI 기술 혜택을 얻도록 지원한다”고 덧붙였다. 젠슨 황 엔비디아 창립자 겸 CEO는 “기업 데이터는 비즈니스 인텔리전스를 확보할 수 있는 커스터마이징 AI 애플리케이션의 근간”이라며 “엔비디아 가속 컴퓨팅 및 소프트웨어를 스노우플레이크의 데이터 플랫폼에 적용함으로써 고객이 기업 전용의 생성형 AI 애플리케이션을 구축, 배포 및 관리할 수 있게 된다”고 강조했다.

2024.03.21 09:39김우용

오라클, 엔비디아와 '소버린 AI' 제공 협력 발표

오라클은 엔비디아와 협력 관계를 확장해, 전 세계 고객들을 대상으로 소버린 AI 솔루션을 제공하기 위한 계획을 20일 발표했다. 이 협력을 통해 오라클의 분산형 클라우드와 AI 인프라스트럭처, 생성형 AI 서비스는 엔비디아의 가속 컴퓨팅 및 생성형 AI 소프트웨어와 결합해 각국 정부 및 기업의 AI 팩토리 배포를 지원한다. 양사의 AI 팩토리는 광범위한 운영 통제 기능을 통해 클라우드 서비스를 국가 또는 기업 조직의 안전한 자체 지역 내 로컬 환경에서 운영하고, 이를 통해 경제 성장을 촉진하고 다각화하기 위한 주권 목표를 지원한다. OCI 전용 리전과 오라클 알로이, 오라클 EU 소버린 클라우드, 오라클 정부 클라우드 등에 배포 가능한 오라클의 기업용 AI 서비스는 엔비디아의 풀스택 AI 플랫폼과 결합돼 데이터의 운영과 위치 및 보안에 대한 제어력을 강화하여 고객의 디지털 주권을 지원하는 최첨단 AI 솔루션을 제공한다. 현재 세계 각국은 자국의 문화적, 경제적 목표를 달성하기 위해 AI 인프라 투자를 늘려 나가고 있다. 기업 고객들은 26개국에 위치한 66개의 오라클 클라우드 리전을 통해 인프라 및 애플리케이션 전반에 걸쳐 100여 개 클라우드 및 AI 서비스에 접근할 수 있고, 이를 통해 IT 마이그레이션, 현대화 및 혁신을 추진할 수 있다. 양사의 통합 오퍼링은 유연한 운영 통제 기능을 바탕으로 퍼블릭 클라우드를 통하거나 특정한 위치의 고객사 데이터센터에 직접 배포 가능하다. 오라클은 고객이 원하는 모든 장소에서 로컬 방식으로 AI 서비스 및 자사의 완전한 클라우드 서비스를 제공할 수 있는 유일한 하이퍼스케일러다. OCI는 배포 유형과 관계없이 동일한 서비스 및 가격 정책을 일관되게 제공하여 클라우드 서비스 이용을 보다 간단하게 계획하고 이전 및 관리할 수 있도록 한다. 오라클의 클라우드 서비스는 엔비디아 가속 컴퓨팅 인프라와 엔비디아 AI 엔터프라이즈 소프트웨어 플랫폼 등 다양한 엔비디아 스택을 활용하고 있다. 엔비디아 텐서RT, 엔비디아 텐서RT-LLM, 엔비디아 트리톤 추론 서버 등 엔비디아 추론 소프트웨어를 기반으로 구축되어 최근 발표된 엔비디아 NIM 추론 마이크로서비스도 엔비디아 AI 엔터프라이즈 소프트웨어 플랫폼에 포함된다. 스위스 뱅킹 소프트웨어 제공업체인 아발록은 자체 데이터센터에서 완전한 OCI 퍼블릭 클라우드 리전을 운용하기 위해 OCI 전용 리전을 도입했다. 아발록의 마틴 부치 최고 기술 책임자는 "OCI 전용 리전은 최신 클라우드 인프라에 대한 액세스를 제공하면서도 데이터 보존을 최대한 제어하려는 아발록의 노력과 부합한다"며 "이는 우리가 은행과 자산 관리사의 디지털 혁신을 지속적으로 추진하는 데 큰 도움이 된다”고 설명했다. 뉴질랜드의 선도적인 정보 관리 서비스 제공업체인 팀 아이엠은 뉴질랜드 최초로 현지 기업이 소유 및 운영하는 하이퍼스케일 클라우드인 팀 클라우드를 구축하기 위해 오라클 알로이를 도입했다. 팀 아이엠의 이언 로저스 CEO는 "클라우드의 성능은 십분 활용하면서도 뉴질랜드 국경 내에서 데이터 무결성을 유지할 수 있는 독자적인 하이퍼스케일 클라우드 솔루션에 대한 뉴질랜드 기업들의 수요가 갈수록 증가하고 있다"며 "팀 아이엠은 오라클 알로이와 더불어, 엔비디아 AI 플랫폼을 자사 클라우드 서비스에 통합할 수 있는 가능성을 통해 공공 분야 및 민간 기업, 뉴질랜드 원주민 단체들이 디지털 환경의 복잡성을 해소하고 디지털 혁신 과정을 최적화하는 과정에 기여할 수 있는 클라우드 서비스 제공업체로 자리 매김했다"고 밝혔다. 오라클은 엔비디아 GTC에서 발표된 최신 엔비디아 그레이스 블랙웰 컴퓨팅 플랫폼을 자사의 OCI 슈퍼클러스터 및 OCI 컴퓨트 서비스 전반에 도입함으로써 지속적으로 증가하는 고객의 AI 모델에 대한 요구사항에 대응해 나갈 계획이다. OCI 슈퍼클러스터는 새로운 OCI 컴퓨트 베어 메탈 인스턴스와 초저지연 RDMA 네트워킹, 고성능 스토리지를 통해 훨씬 더 빠른 속도를 제공할 전망이다. OCI 컴퓨트에는 엔비디아 GB200 그레이스 블랙웰 슈퍼칩과 엔비디아 블랙웰 B200 텐서 코어 GPU가 모두 탑재된다. 엔비디아 GB200 그레이스 블랙웰 슈퍼칩은 컴퓨팅의 새로운 시대를 선도할 획기적 성능을 제공한다. 전 세대 GPU 대비 최대 30배 빠른 실시간 대규모 언어 모델(LLM) 추론, 25배 낮은 TCO, 25배 적은 에너지 소모량 등을 자랑하는 GB200은 AI 학습, 데이터 처리, 엔지니어링 설계 및 시뮬레이션 등의 작업 성능을 대폭 강화해 준다. 엔비디아 블랙웰 B200 텐서 코어 GPU는 가장 높은 성능이 요구되는 AI, 데이터 분석, 고성능 컴퓨팅(HPC) 워크로드를 처리하기 위해 설계됐다. 또한 검색 증강 생성(RAG) 추론 배포를 위한 엔비디아 네모 리트리버를 비롯한 엔비디아 NIM 및 쿠다-X 마이크로서비스는 OCI 고객이 자체 데이터를 사용해 생성형 AI 코파일럿 및 기타 생산성 도구에 더 많은 인사이트를 제공하는 동시에, 해당 도구들의 정확성을 향상시키는 작업에도 도움이 될 것으로 보인다. 점점 더 복잡해지는 AI 모델에 대한 고객의 수요 증가에 부응하기 위해 오라클과 엔비디아는 OCI 상에서 구동되는 엔비디아 DGX 클라우드 서비스에 엔비디아 그레이스 블랙웰 슈퍼칩을 추가할 예정이다. 고객들은 LLM의 매개변수가 조 단위에 달하게 된 현 시점에 보다 에너지 효율적인 학습 및 추론을 지원하기 위해 양사가 함께 설계한 슈퍼컴퓨팅 서비스인 엔비디아 DGX 클라우드를 통해 새로운 GB200 NVL72 기반 인스턴스에 액세스 할 수 있다. DGX 클라우드 클러스터의 전체 구성에는 2만개 이상의 GB200 가속기와 엔비디아 CX8 인피니밴드 네트워킹이 포함돼 더욱 탁월한 확장성 및 성능을 갖춘 클라우드 인프라를 제공할 예정이다. 해당 클러스터는 5세대 NV링크가 탑재된 72개의 블랙웰 GPU NVL 72와 36개 그레이스 CPU로 구성된다. 사프라 카츠 오라클 CEO는 "AI가 전 세계의 비즈니스, 산업 및 정책을 재편함에 따라, 국가와 기업 조직은 가장 중요한 데이터를 안전하게 보호하기 위해 디지털 주권을 강화해야 한다"며 "오라클은 엔비디아와의 지속적인 협력 관계와 클라우드 리전을 로컬 차원에서 신속히 배포할 수 있는 독보적인 역량을 통해 전 세계에서 보안에 대한 타협과 우려 없이 AI를 활용할 수 있도록 보장할 것"이라고 밝혔다. 젠슨 황 엔비디아 설립자 겸 CEO는 "생성형 AI가 혁신을 주도하는 시대에 데이터 주권은 문화적, 경제적 필수 요소"라며 "엔비디아의 가속 컴퓨팅 및 생성형 AI 서비스와 결합된 오라클의 통합 클라우드 애플리케이션 및 인프라 서비스는 각 국가 및 지역이 데이터 주권을 바탕으로 스스로 미래를 직접 설계할 수 있는 유연성과 보안을 제공한다."라고 강조했다. 오라클과 엔비디아가 공동 제공하는 소버린 AI 솔루션은 발표와 함께 바로 사용 가능하다.

2024.03.20 10:45김우용

젠슨 황 CEO "블랙웰 칩 가격 3만~4만 달러"

엔비디아가 'GTC 2024'에서 선보인 차세대 인공지능(AI) GPU '블랙웰'(Blackwell)의 가격대가 공개됐다. 젠슨 황 엔비디아 최고경영자(CEO)는 19일(현지시간) CNBC의 '스쿼크 온 더 스트리트'(Squawk on the Street)와의 인터뷰에서 블랙웰 'B200' 칩 가격이 3만~4만 달러(약 4천만 원~5천300만원) 수준이라고 밝혔다. 그는 "우리는 그것을 가능하게 하기 위해 몇 가지 새로운 기술을 개발해야 했다"며, 해당 칩의 연구개발에 약 100억 달러(약 13조 3천800억원)의 예산이 들어갔을 것으로 추정했다. 하루 전 엔비디아는 "텍스트와 이미지, 그래프 뿐만 아니라 전세계 언어로 구성된 영상을 학습하고 이를 흉내내려면 더 큰 GPU가 필요하다"며 차세대 AI GPU 블랙웰을 공개했으나 가격대는 밝히지 않았다. 엔비디아의 기존 H100은 칩당 2만5천 달러~4만 달러에 달하는 것으로 알려져 있기 때문에 블랙웰 칩의 가격도 H100과 크게 다른 수준은 아닌 것으로 보인다. IT매체 톰스가이드는 엔비디아는 가속기 자체를 공급하는 것보다 데이터센터 블록 전체를 판매하는 경향이 있기 때문에 3만~4만 달러라는 가격은 대략적인 가격이라고 평했다.

2024.03.20 09:54이정현

SK하이닉스, 'GTC 2024'서 온디바이스 AI PC용 SSD 신제품 공개

SK하이닉스는 18일부터 21일(미국시간)까지 미국 캘리포니아주 새너제이에서 열리고 있는 엔비디아 주최 세계 최대 AI 개발자 컨퍼런스인 'GTC(GPU Technology Conference) 2024'에서 업계 최고 성능이 구현된 SSD 신제품인 'PCB01' 기반의 소비자용 제품을 공개했다고 20일 밝혔다. PCB01은 온디바이스(On-Device) AI PC에 탑재되는 PCIe 5세대 SSD로, 최근 글로벌 주요 고객사로부터 성능 및 안정성 검증을 마쳤다. SK하이닉스는 “올해 상반기 중 PCB01의 개발을 완료하고, 연내 대형 고객사향 제품과 일반 소비자용 제품을 함께 출시할 계획"이라고 설명했다. PCB01은 연속 읽기속도 초당 14GB(기가바이트), 연속 쓰기속도는 초당 12GB로 업계 최고 속도가 구현된 제품이다. 이전 세대 대비 2배 향상된 속도로, AI 학습과 추론에 필요한 거대언어모델(LLM)을 1초 내에 로딩하는 수준이다. PC 제조업체는 온디바이스 AI를 구현하기 위해 PC 내부 스토리지에 LLM을 저장하고, AI 작업이 시작되면 단시간 내 D램으로 데이터를 전송하는 구조로 설계한다. 이 과정에서 PC 내부에 탑재된 PCB01은 LLM 로딩을 신속하게 지원하면서 온디바이스 AI의 속도와 품질을 크게 높여주는 역할을 해줄 것으로 SK하이닉스는 기대하고 있다. PCB01은 이전 세대 대비 전력 효율이 30% 개선돼 대규모 AI 연산 작업 시 효율성을 높이는 데 기여한다. 또한 SK하이닉스 기술진은 이 제품에 'SLC 캐싱' 기술을 적용했다. SLC 캐싱은 낸드의 저장 영역인 셀 일부를 처리 속도가 빠른 SLC로 동작하게 해 필요한 데이터만 신속하게 읽고 쓸 수 있게 해주는 기술이다. 이를 통해 AI 서비스 외 일반 PC 작업 속도도 빨라지도록 도와준다. 윤재연 SK하이닉스 부사장(NAND Product Planning & Enablement 담당)은 “PCB01은 업계 최고 성능 제품으로 Al PC뿐 아니라 게이밍, 하이엔드 PC 등 최고 사양 PC 시장에서도 각광받을 것”이라며 “이를 통해 당사는 HBM은 물론, 온디바이스 AI 분야에서도 '글로벌 No.1 AI 메모리 컴퍼니' 위상을 탄탄하게 다질 수 있을 것”이라고 말했다. 한편 SK하이닉스는 GTC 2024에서 PCB01 외에도 36GB(기가바이트) 12단 HBM3E, CXL, GDDR7 등 차세대 주력 기술 및 제품을 선보였다. 앞서 회사는 지난 19일 세계 최초로 HBM 5세대 제품인 HBM3E의 양산에 들어간다고 발표한 바 있다. 또한 GDDR7은 이전 세대 제품인 GDDR6 대비 대역폭이 2배 이상 확대되고, 전력 효율성이 40% 개선돼 현장에서 큰 관심을 받았다.

2024.03.20 09:45장경윤

젠슨 황 CEO "삼성전자 HBM 테스트 중...기대 크다"

젠슨 황 엔비디아 최고경영자(CEO)가 삼성전자의 고대역폭 메모리(HBM)을 현재 테스트 중이며 기대가 크다고 말했다. 또 최근 관심이 쏠리고 있는 일반인공지능(AGI) 구현 시기에 대해선 "정의하기에 따라 다르다"고 밝혔다. 젠슨 황은 19일(현지시간) 미국 캘리포니아주 새너제이에서 열린 'GTC2024' 미디어 간담회에서 이같이 말했다. 이날 간담회에서 젠슨 황은 "AGI를 규정하는 명확한 개념은 없다"며 "AGI를 예측하는 시기는 사람마다 다를 수 있다"고 설명했다. 젠슨 황은 AGI 개념을 'AI가 사람보다 특정 테스트에서 8% 이상 우수한 상태'로 정의했다. 관련 테스트는 수학을 비롯한 읽기, 논리, 의학 시험, 변호사 시험이다. 그는 "현재 AI의 테스트 능력을 봤을 때, AGI는 이를 곧 따라잡을 것"이라며 "해당 조건에서 AGI는 5년 내 올 것 같다"고 예측했다. 젠슨 황은 생성형 AI의 환각 현상에 대해 "충분한 연구를 통해 해결할 수 있는 문제"라고 말했다. 그는 "생성형 AI에 규칙을 꾸준히 추가해야 한다"며 "AI는 모든 답을 하기 전에 이에 대한 근거까지 찾아야 한다"고 했다. 그는 "AI는 단순히 답변만 하는 것이 아니라 어떤 답이 가장 좋은지 판단해야 한다"며 "이를 위한 조사를 스스로 할 수 있는 검색증강생성(RAG) 능력이 뛰어나야 한다"고 강조했다. 황 CEO는 생성형 AI의 답변에 '당신의 질문에 대한 답을 찾지 못했습니다' 또는 '이 질문에 대한 정답이 무엇인지에 대한 합의에 도달할 수 없습니다' '아직 34대 대통령이 나오지 않았기 때문에 인물을 말할 수 없습니다'와 같은 옵션도 반드시 있어야 한다는 점도 덧붙였다. 이 외에도 젠슨 황 CEO는 삼성전자의 고대역폭 메모리 등을 사용하고 있진 않지만 현재 테스트 중"이라며 "기대가 크다"고 답했다. 이번 행사에서 엔비디아는 차세대 AI 그래픽처리장치(GPU) 블랙웰을 비롯한 옴니버스, 엔비디아 인퍼런스 마이크로서비스(NIM) 등 최신 기술을 소개했다.

2024.03.20 09:06김미정

삼성·SK하이닉스, '12단 HBM3E' 경쟁 가열...美GTC서 실물 공개

AI 반도체 시장 성장으로 고대역폭메모리(HBM) 경쟁이 치열해진 가운데 삼성전자, SK하이닉스, 마이크론이 최신 제품인 HBM3E 실물을 나란히 공개해 주목된다. 엔비디아는 18~21일(현지시각) 3일간 미국 캘리포니아 실리콘밸리에서 연례 개발자 콘퍼런스 GTC 2024를 개최했다. GTC에는 엔비디아 협력사인 삼성전자, SK하이닉스, 마이크론 등이 전시 부스를 마련하고 최신 HBM3E 실물을 전시해 눈길을 끌었다. HBM은 여러 개 D램을 수직으로 연결해 기존 D램보다 데이터 처리 속도를 대폭 끌어올린 고성능 제품이다. HBM은 1세대(HBM)·2세대(HBM2)·3세대(HBM2E)에 이어 4세대(HBM3) 제품이 공급되고 있으며, 올해 상반부터 5세대(HBM3E) 양산이 시작된다. 엔비디아는 AI 반도체로 사용되는 그래픽처리장치(GPU) 시장에서 80% 점유율로 사실상을 독점체제를 구축하고 있기에, 메모리 시장에서 최대 고객사로 여겨진다. 이런 이유로 메모리 업체가 엔비디아 행사에서 앞다퉈 최신 HBM3E를 공개한 이유다. 삼성전자는 부스에서 D램을 12단까지 쌓은 12단 HBM3E 실물을 처음으로 공개했다. 삼성전자는 HBM 시장에서 SK하이닉스에 뒤쳐졌다는 평가를 인식한듯 지난달 27일 업계에서 처음으로 12단 HBM3E 샘플을 고객사에 제공하기 시작했다고 공식 발표한 바 있다. 삼성전자에 따르면 12단 HBM3E는 초당 최대 1280GB의 대역폭과 36GB 용량을 제공해 성능과 용량 모두 전작인 8단 HBM3 대비 50% 이상 개선된 제품이다. 삼성전자는 '어드벤스드 TC NCF'(Thermal Compression Non Conductive Film, 열압착 비전도성 접착 필름) 기술로 12단 제품을 8단 제품과 동일한 높이로 구현했다. NCF 소재 두께는 업계 최소 칩간 간격인 '7마이크로미터(um)'다. SK하이닉스도 지난 1월 CES 2024에서 처음으로 12단 HBM3E 실물을 전시한데 이어 이번 GTC에서도 공개했다. SK하이닉스 또한 지난달 엔비디아에 12단 HBM3E 샘플을 공급을 시작한 것으로 알려진다. 이에 더해 SK하이닉스는 GTC 행사 첫날 업계 최초로 8단 HBM3E 양산을 시작했다고 공식적으로 알리며 시장 우위를 강조했다. SK하이닉스의 8단 HBM3E는 엔비디아 'H200' GPU에 공급된다. SK하이닉스는 가장 먼저 HBM3 양산과 동시에 엔비디아에 독점 공급권을 따내면서 HBM 시장에서 선두를 달려왔다. 이날 SK하이닉스는 경쟁사인 삼성전자와 달리 적층에 어드밴스드 MR-MUF(매스 리플로우-몰디드 언더필) 공정을 적용해, 열 방출 성능을 이전 세대(HBM3) 대비 10% 향상시켰다는 점도 내세웠다. MR-MUF는 반도체 칩을 쌓아 올린 뒤 칩과 칩 사이 회로를 보호하기 위해 액체 형태의 보호재를 공간 사이에 주입하고 굳히는 공정이다. 마이크론 또한 GTC에서 8단 HBM3E를 전시했다. 후발주자인 마이크론은 HBM3을 건너 뛰고 지난달 27일 8단 HBM3E 양산을 시작했다고 밝히며 “해당 HBM3E는 엔비디아가 2분기에 출시하는 GPU H200에 탑재될 예정"이라고 전했다. 아울러 마이크론도 이달부터 엔비디아에 12단 HBM3E 샘플을 공급한다. 한편, 엔비디아는 올해부터 GPU에 HBM3E를 탑재한다. 엔비디아는 올해 2분기 말에 출시되는'H200'에는 HBM3E 6개를 탑재되고, 하반기에 출시하는 'B100'에는 HBM3E 8개가 탑재된다. B100은 엔비디아가 오늘 발표한 차세대 GPU '블랙웰'이다. 시장조사업체 트렌드포스에 따르면 전체 D램 매출에서 HBM이 차지하는 비중이 지난해 8.4%에서 올해 말 20.1%로 증가한다고 전망했다. 올해 HBM의 연간 비트(용량) 증가율은 약 260%에 달할 것으로 내다봤다. 현재 주류인 HBM3 시장에서 SK하이닉스는 90% 이상을 점유하고 있는 것으로 집계된다. 삼성전자는 향후 몇 분기에 걸쳐 AMD의 MI300에 HBM3을 공급하면서 점진적으로 시장 점유율을 늘릴 것으로 전망된다.

2024.03.19 16:02이나리

엔비디아, 생성형 AI·디지털 트윈 세계 확장했다

엔비디아가 생성형 인공지능(AI)과 디지털 트윈 세계를 확장한다. AI 추론 속도를 높였고, 협업을 통해 디지털 트윈 플랫폼 활용도까지 넓혔다. 엔비디아는 18일(현지시간) 미국 캘리포니아주 새너제이에서 열린 GTC2024에서 AI 추론 속도를 높이는 소프트웨어 '엔비디아 인퍼런스 마이크로서비스(NIM)'와 디지털 트윈 플랫폼 '옴니버스' 업그레이드 내용을 발표했다. NIM은 생성형 AI 앱 개발·추론 속도를 높였다. 현재 개발자는 '엔비디아 AI 엔터프라이즈 버전 5.0'에서 NIM을 활용할 수 있다. 옴니버스는 PC를 넘어 애플의 '애플 비전프로'에 들어갔다. "NIM으로 생성형 AI 앱 구축·배포 더 빠르게" 엔비디아는 개발자가 생성형 AI 앱을 빠르게 구축·배포할 수 있도록 돕는 솔루션 NIM을 내놨다. NIM은 AI 모델과 통합 코드를 포함해 추론에 필요한 기능을 패키지 형태로 제공한다. 보통 개발자가 생성형 AI 앱이나 거대언어모델(LLM)을 제작한 후 배포할 때 복잡한 과정을 거쳐야 한다. 추론 작업에 필요한 하드웨어 크기 조정, 검색증강생성(RAG)용 데이터 통합, 랭체인 같은 도구를 통한 엔지니어링 작업을 별도로 진행해야 한다. 이는 업무 시간과 비용이 많이 든다. 해당 과정에 데이터 과학자도 필수다. 반면 NIM은 이러한 과정을 한 플랫폼 내에서 간소화할 수 있다. 엔비디아 마누비르 다스 엔터프라이즈 컴퓨팅담당 부사장은 이번 행사에서 "NIM은 이러한 모든 번거로운 과정을 생략하고 한 플랫폼 내에서 모든 작업을 처리할 수 있도록 한다"며 "이를 통해 개발자는 NIM을 통해 생성형 AI 앱을 구축하자마자 별도의 과정 없이 바로 배포 단계에 들어설 수 있다"고 강조했다. NIM은 생성형 AI 앱 개발에 필요한 모든 작업을 한데 모아 패키지로 구성된 셈이다. 고객은 NIM을 통해 오픈AI, 메타, 미스트랄 등의 다양한 독점·오픈 소스 LLM에 접근할 수도 있다. NIM은 보안 기능도 갖췄다. 다스 부사장은 "클라우드에서 실행되는 대형 H100부터 엣지에서 진행되는 엔비디아 젯슨 같은 소형 제품까지 다양한 엔비디아 그래픽처리장치(GPU)에서 작동하는 모델 보안 문제도 바로 잡았다"며 "개발자는 NIM에서 걱정 없이 생성형 AI 앱 개발 과정만 진행하기만 하면 된다"고 강조했다. 다스 부사장은 "엔비디아는 개발자가 수행해야 하는 개발 작업의 양을 줄이고 속도를 높도록 도울 것"이라며 "이를 통해 기업은 막 개발한 생성형 AI 앱을 몇분 만에 배포 가능한 상태로 전환할 수 있다"고 강조했다. 현재 NIM을 탑재한 엔비디아 AI 엔터프라이즈 가격은 GPU당 연간 4천500달러(약 602만원)다. 고객은 시간당 GPU 1달러(약 1천337원)로 클라우드를 통해 접근할 수도 있다. 디지털 트윈 플랫폼 '옴니버스', 애플 비전프로 속으로 엔비디아는 디지털 트윈 플랫폼 '옴니버스'를 애플의 '애플 비전프로'에 탑재한다고 밝혔다. 사용자는 애플 비전프로를 통해 다양한 산업에서 디지털 트윈 기술을 활용할 수 있다. 활용법은 간단하다. 옴니버스 클라우드 API를 통해 접속한 후, 애플비전 프로로 직접 스트리밍해 주는 그래픽 전송 네트워크를 통해 디지털 트윈 기능을 이용할 수 있다. 엔비디아 레바레디언 시뮬레이션 담당 부사장은 "기업 고객은 애플 비전프로를 통해 성능 저하 없이 디지털 트윈 작업을 실현할 수 있다"며 "이를 옴니버스 내에서 활용한다면 더욱 확장된 기능에 접근할 수 있다"고 강조했다. 이번 행사에서 엔비디아는 직접 옴니버스가 설치된 애플 비전프로로 디지털 트윈 기술을 선보이는 시연회도 진행했다. 한 디자이너가 비전 프로를 통해 자동차 제작 프로그램에 접속하는 시연이었다. 개발자가 차량의 다양한 측면을 옴니버스로 설계·조작한 후 해당 차량에 탑승하는 장면을 보여줬다. 외신은 이번 솔루션 결합은 엔비디아와 애플 모두에게 이득이라고 판단했다. 우선 엔비디아는 옴니버스 고객층을 늘릴 수 있다. PC뿐 아니라 애플 비전프로 사용자도 자사 고객으로 만들 수 있기 때문이다. 애플도 마찬가지다. 기업들이 비전프로를 다양한 산업에서 활용할 가능성이 높아졌다. 그동안 해당 제품은 개인의 엔터테인먼트용으로만 활용됐다. 다만 3천499 달러(약 4백67만원)라는 가격 장벽으로 인해 판매량을 좀처럼 늘릴 수 없었다. 두 기업의 솔루션 통합으로 새로운 고객층을 만들 수 있는 셈이다.

2024.03.19 10:01김미정

저커버그 만난 업스테이지, 美 법인 설립…"'솔라' 해외 진출 시작"

최근 마크 저커버그 메타 최고경영자(CEO)를 만난 김성훈 업스테이지 대표가 미국 법인 설립을 통해 글로벌 진출을 본격화하는 모양새다. 업스테이지는 미국 현지법인 '업스테이지AI'를 설립했다고 18일 밝혔다. 법인 대표에 업스테이지 공동창업자인 박은정 최고과학책임자(CSO)가 선임됐다. 그동안 업스테이지는 다양한 산업군의 국내 기업들과 협업하면서 생성형 AI 개발 및 사업 노하우를 축적하고 해외 진출의 초석을 다졌다. 업스테이지는 지난달 말 방한했던 마크 저커머그 CEO와의 면담을 통해 라마3 개발 협업을 논의한 바 있다. 저커버그 CEO는 메타의 오픈소스형 거대언어모델(LLM) '라마3'를 구동하는 자체 AI 반도체 개발과 생산을 논의하기 위해 한국을 방문했다. 당시 김성훈 대표는 저커버크에게 "라마는 훌륭한 모델이지만 한국어가 잘 작동하지 않는 점이 아쉽다"며 "라마팀에 한국어 데이터셋이 충분치 않아서 인 것 같다"고 했다. 김 대표는 "라마3 출시 한두달 전 각국 언어를 대표하는 LLM 개발사를 불러 협력했으면 좋겠다"며 "한국 기업으론 반드시 업스테이지를 선택해달라"고 밝힌 바 있다. 이를 통해 '라마3 kr' 등 각국을 대표하는 LLM을 오픈소스형으로 만들 의도를 알렸다. 솔라는 기업별 특화 모델 구축이나 API를 통해 클라우드 기반으로 사용될 수 있다. 여기에 광학문자인식(OCR) 기술로 기업 문서의 디지털화를 지원하는 자사의 '다큐먼트AI' 솔루션과 결합하면 글로벌 시장에서도 충분히 승산이 있다는 판단이다. 이에 업스테이지는 자사 언어모델 솔라와 및 다큐먼트 AI 제품을 앞세워 미국 및 글로벌 엔터프라이즈 기업들과 협력 기회를 발굴할 전략이다. 지사는 미국 캘리포니아주 실리콘밸리에 있다. 이를 통해 현지 기업들과 사업 접점을 확대한다. 장기적으로는 북미를 중심으로 유럽, 일본 및 동남아시아 시장에도 해외 거점을 넓혀갈 계획이다. 업스테이지 미국 법인은 설립 첫 행보로 18일 엔비디아가 주최하는 AI 컨퍼런스 'GTC2024'에 참가한다. 업스테이지가 해외 행사에 단독 부스를 마련해 자사 기술 및 제품을 소개하는 것은 이번이 처음이다. GTC 기간 동안 온∙오프라인 관람객 대상으로 솔라의 성능 및 활용 사례를 시연한다. 업스테이지 이활석 최고기술책임자(CTO), 이준엽 LLM 리더 등 솔라 엔지니어들이 특별 세션에 참석해 LLM 모델링 노하우와 검색증강생성(RAG) 기술 등을 발표한다. 김성훈 업스테이지 대표는 "업스테이지는 미국법인 설립을 필두로 글로벌 생성형 AI 시장 공략을 위한 채비를 마쳤다"며 "세계 최고 수준의 솔라를 활용해 미국 및 글로벌 기업에 최적화된 LLM을 제공하고, 다양한 협력 기회를 적극 모색해 글로벌 진출을 성공적으로 이뤄낼 것"이라고 포부를 밝혔다.

2024.03.18 13:39김미정

[ZD 브리핑] 상장법인 2614개사, 주총 시즌 개막...방통위원장·통신 3사 CEO 첫 회동

지디넷코리아는 IT 업계의 이슈를 미리 체크하는 '이번 주 꼭 챙겨봐야 할 뉴스'를 제공합니다. '꼭 챙길 뉴스' 는 정보통신, 소프트웨어(SW), 전자기기, 소재부품, 콘텐츠, 플랫폼, e커머스, 금융, 디지털 헬스케어, 게임, 블록체인, 과학 등의 소식을 담았습니다. 바쁜 현대인들의 월요병을 조금이나마 덜어 줄 '꼭 챙길 뉴스'를 통해 한 주 동안 발생할 IT 이슈를 미리 확인해 보시기 바랍니다.[편집자주] 상장법인 2614개사, 주총 시즌 개막...엔비디아 연례 개발자 콘퍼런스 'GTC' 개막 3월 기업의 주주총회 시즌을 맞아 이달 셋째 주에 상장법인 2614개사 중 371개사가 정기 주총을 진행합니다. 20일에는 삼성전자, 삼성전기, 삼성SDI 21일에는 포스코, LG이노텍, LX세미콘, LG유플러스, 삼성중공업, 신세계, 현대자동차 22일에는 LG디스플레이 등이 주총을 앞두고 있습니다. 엔비디아가 오는 18~21일(현지시각) 3일간 미국 캘리포니아 실리콘밸리에서 연례 개발자 콘퍼런스(GTC 2024)를 개최하고 새로운 인공지능(AI) 반도체 B100을 발표할 예정입니다. 이번 행사는 팬데믹 이후 첫 대면 행사로, 캘리포니아주 새너제이 행사 현장에는 5년 전의 배 규모인 1만6천명이 참석하고 온라인으로는 30만명 이상이 참여할 것으로 예상됩니다. GTC 첫날에는 젠슨 황 엔비디아 최고경영자(CEO)가 기조연설을 맡습니다. 삼성전자와 SK하이닉스도 GTC에서 부스를 마련하고 고대역폭메모리 HBM3E 실물을 전시할 예정입니다. 오는 21~23일 서울 삼성동 코엑스에서 IFS 창업박람회가 열립니다. 올해는 창업전과 산업전 2개 주제로 부스가 마련됩니다. 레인보우로보틱스가 이번 전시에 부스를 내고 자사 서빙로봇을 정식으로 공개할 예정입니다. 이 밖에도 코가로보틱스 '서빙고', 폴라리스쓰리디 '이리온' 등 서빙로봇과 엑스와이지의 아이스크림 로봇 '아리스' 등이 전시됩니다. 기아가 지난 15일 주주총회를 끝마쳤습니다. 송호성 기아 사장은 이날 "사업 전반을 '트랜스포메이션'하고 고객 중심 브랜드로 전환을 가속하는 동시에 당면 과제를 해결해야 하는 상황”이라며 EV3를 시작으로 EV4·EV5를 연이어 출시해 전기차 '티어1' 브랜드로 구축하겠다고 밝혔습니다. 기아는 주총에서 상정한 안건 5건도 모두 원안 승인돼 순조롭게 끝났습니다. 적극적 주주환원을 약속한 기아는 1주당 배당금을 5천600원으로 결의하기로 했습니다. 한편 현대차는 오는 21일 주주총회를 개최할 예정입니다. 현대차는 오는 주총에서 기획재경본부장으로 승진한 이승조 전무를 사내이사로 신규 선임하는 안건을 논의할 예정입니다. 방통위원장-통신 3사 CEO 첫 회동 김홍일 방송통신위원회 위원장이 22일 통신 3사 CEO를 비롯해 삼성전자와 애플코리아와 같은 주요 스마트폰 제조사 임원을 만날 예정입니다. 정부가 단통법 폐지 추진을 밝혔으나 법안 개정은 국회의 힘을 얻어야 합니다. 대통령실은 이 때문에 정부 차원에서 할 수 있는 시행령과 고시 제개정을 예고했고, 급작스레 전환지원금 제도가 도입됐습니다. 새로운 제도 도입과 함께 단말기 구입 부담을 주제로 방통위원장 취임 이후 통신사 CEO의 회동 자리가 만들어져 세간의 이목을 끌고 있습니다. 글로벌 게임 컨퍼런스 'GDC2024' 열려...확률형 아이템 표시의무 시행 '게임 개발자 컨퍼런스 2024'(GDC2024)가 미국 샌프란시스코 소재 모스콘 컨벤션 센터에서 18일(현지시간)부터 22일까지 닷새간 개최됩니다. 올해로 36년째를 맞이한 GDC2024은 게임을 비롯해 세계 각국의 기술 기업들이 참석해 인공지능(AI)과 블록체인 등 신기술을 소개한다고 알려졌습니다. 강연 세션을 700여개로 알려졌습니다. 특히 행사 기간 넥슨이 참가해 블록체인 NFT 관련 주제 발표와 함께 '데이브 더 다이버' 관련 발표를 마련합니다. 오는 20일 넥스페이스의 블록체인 설계를 담당하는 김정헌 전략 헤드는 'Bringing Real World Economy in MMORPG(MMORPG와 현실 경제의 접목)' 주제의 발표를 통해 블록체인 기반 PC MMORPG '메이플스토리N'의 진화된 경제모델에 관한 설명에 나섭니다. 오는 21일에는 '데이브 더 다이버'를 탄생시킨 황재호 디렉터가 'Characters and Humor: Problem-Solving-Aid in DAVE THE DIVER(캐릭터와 유머: 데이브 더 다이버의 문제 해결)'를 주제로 발표합니다. 데이브 더 다이버는 '게임 개발자 선정 어워드 2024(GDCA2024)에 올해의 게임과 최고의 데뷔 게임 부문 후보로 오른 흥행작입니다. 규제 관련 이슈도 있습니다. 오는 22일 확률형 아이템 표시의무제도가 담긴 '게임산업 진흥에 관한 법률(이하 게임산업법)' 개정안이 시행되기 때문입니다. 해당 규제법은 게임사들은 게임 내 확률형 아이템에 대한 정보를 의무적으로 게임 및 홈페이지 등에 표기해야 하는 게 주요 골자입니다. 위반 시 2년 이하의 징역 또는 2천만 원 이하의 벌금이 부과됩니다. 다만, 이 같은 규제법은 해외 게임사에 큰 영향을 주지 않을 것으로 보여 역차별 규제법이 아니냐는 지적도 받고 있습니다. 대기업 SI, 정기 주총 시즌 돌입...개보위, 정책 마련 위해 시민과 소통 오는 20일 삼성SDS를 시작으로 주요 대기업 시스템 통합(SI) 상장사들이 정기 주주총회를 진행합니다. 삼성SDS는 이인실 한반도미래인구연구원장(전 통계청장)을, 21일 주총을 여는 롯데정보통신은 박진규 고려대 기업산학연협력센터 교수, 이미진 민준 세무회계 대표 공인회계사 등을 사외이사 후보로 추천했습니다. 또 롯데정보통신은 이번 주총에서 사명을 '롯데이노베이트'로 변경할 예정입니다. 생성형 인공지능(AI) 데이터 분석 기업 비아이매트릭스가 오는 21일 서울 양재 엘타워에서 '2024 비아이매트릭스 정기 세미나'를 개최합니다. 이날 행사엔 ▲장병탁 서울대학교 AI연구원장 ▲배영근 비아이매트릭스 대표 ▲정경수 KT AI사업개발팀장 등이 연사로 참석해 최신 AI 트렌드와 기술을 소개할 예정입니다. 개인정보보호위원회는 오는 19일 광화문 HJ비즈니스센터에서 개인정보 정책 시민단체 간담회를 개최합니다. 국민이 체감할 수 있는 정책 마련을 위해 시민과 마주앉아 소통하는 자리가 될 것으로 보입니다. 국민연금공단, 대한항공 조원태 이사 선임 '반대' 국민연금이 대한항공 등의 주주총회에서 의결권 행사 방향을 결정했습니다. 오는 21일 예정된 대한항공의 경우 사내이사 조원태 선임의 건은 주주권익 침해 행위에 대한 감시의무 소홀을 이유로, 이사보수한도 승인의 건에 대해서는 보수금액이 경영성과에 비추어 과다하다고 판단해 '반대'로 결정했고, 그 외의 안건은 모두 '찬성'키로 했습니다. 같은날 예정된 포스코홀딩스에서도 이사보수한도 승인의 건에 대해 보수금액이 경영성과에 비추어 과다하다고 판단하여 '반대'하고, 그 외 안건은 모두 '찬성'키로 결정했습니다. 22일 예정된 KB금융지주와 하나금융지주에 대해서는 모든 안건에 대해 '찬성'키로 결정했습니다. 이번에 열리는 주총에서 어떤 결과가 나올지 관심이 모이고 있습니다. 알리-테무 우려 커지는데...소비자-소상공인 보호 방안 논의 세미나 열려 알리익스프레스나 테무, 쉬인을 아시나요? 최근 중국 이커머스 기업들이 막강한 자본력을 바탕으로 한국 시장을 빠르게 장악하고 있는데요. 초저가 상품과 무료배송 등을 내세워 한국 이커머스 시장을 공략하고 있습니다. 다만 인기가 늘어날 수록 소비자 피해 역시 함께 급증하고 있어 우려의 목소리가 높아지고 있는 상황입니다. 특히 가품 및 위해 상품 유통, 저품질, 상품 누락·배송 중 분실, 환불 거부, 불법 광고 및 개인정보 침해 등 다양한 국내 소비자 피해가 발생하고 있음에도 제재하기 어려워 문제가 되고 있는데요. 이에 한국인터넷기업협회가 21일 오전 10시 여의도 FKI타워 컨퍼런스센터 2층 토파즈룸에서 '중국 이커머스 공습, 소비자·소상공인 보호 방안' 세미나를 개최합니다. 인기협 측은 중국 이커머스 기업에 의한 소비자 피해 예방 및 소상공인 보호 방안을 논의하고, 국내와 중국 기업이 공정하게 경쟁하는 환경 조성 방향을 모색하기 위해 세미나를 마련했습니다. 한편, 일본중앙은행(BOJ)과 미국 연방준비제도(연준) 공개시장위원회(FOMC)의 통화정책 결과가 나오는 만큼 글로벌 금융시장에 영향을 미칠 것으로 보입니다. 오는 19일 BOJ가 마이너스 금리를 종결시킬지 귀추가 주목됩니다. 일본 대형 매체에서는 BOJ가 이번 회의에서 -0.1%인 현행 단기금리를 0~0.1% 범위로 인상할 계획이라고 보도한 바 있습니다. 한국시간으로 21일 공개되는 FOMC에서는 과연 연준이 올해 금리 인상하겠다는 스탠스를 다시 한번 재정립하고, 그 시기가 언제쯤이라는 힌트를 줄지 시장이 집중하고 있습니다.

2024.03.17 12:16정진호

래블업, 엔비디아 GTC 2024에 실버스폰서로 참가

래블업은 오는 18일부터 21일까지 미국 새너제이 컨벤션센터에서 열리는 엔비디아의 'GTC 2024' 컨퍼런스에 실버 스폰서로 참가한다고 14일 밝혔다. 엔비디아의 GTC 행사는 5년 만에 대면 행사로 개최된다. 30만 명 이상의 참가자가 온·오프라인으로 참여할 것으로 기대되는 GPU 분야에서 가장 큰 기술 행사다. 래블업은 이번 컨퍼런스에서 AI 기술의 최전선에 서 있는 두 가지 주제에 대해 발표할 예정이다. 첫 번째 발표 'From Idea To Crowd: Manipulating Local LLMs At Scale'을 래블업 신정규 대표와 김준기 CTO가 진행하며, 이 세션에서 양자화, QLoRA 등의 리소스 절약 및 모델 압축 기술과 vLLM, TensorRT-LLM 결합을 통해 백엔드닷AI가 어떻게 대규모 로컬 LLM을 효율적으로 조작하는지 소개한다. 이는 AI 모델의 성능을 최적화하고, 리소스 사용을 최소화하는 혁신적인 접근 방식을 제공할 예정이다. 김준기 CTO는 두 번째 발표인 'Personalized Generative AI: Operation and Fine-Tuning in Household Form Factors'를 20일에 진행한다. 이 세션에서 클라우드 및 개인 PC의 GPU를 이용하여 사용자 맞춤형 생성형 AI를 개발하고 서비스할 수 있는 방법을 시연한다. AI 기술을 일상 생활에 더욱 밀접하게 통합하는 개인화된 AI의 새로운 가능성을 제시할 예정이다. 래블업은 전시부스에서 APAC 지역 유일의 엔비디아 DGX레디 소프트웨어인 백엔드닷AI 엔터프라이즈를 시연한다. 백엔드닷AI는 엔비디아 DGX 시스템 및 기타 GPU 가속 컴퓨팅 리소스의 성능을 극대화하며, 사용자 환경을 변경하지 않고도 GPU 사용성을 높여주는 AI 인프라 운영 플랫폼이다. 부스에서 생성 AI 개발을 간소화하고 자동화하는 ML옵스 소프트웨어 플랫폼인 '패스트트랙'으로 파운데이션 모델을 다양한 산업 분야에 특화하거나 나만의 챗봇으로 자동 미세 조정하는 실시간 시연도 제공된다. 래블업 측은 “MWC에 이어 이번 GTC에서 엔비디아 및 델, AMAX, 웨카 같은 글로벌 파트너사와 협력을 강화하며 함께 본격적인 글로벌 진출을 꾀할 예정”이라고 밝혔다.

2024.03.14 10:50김우용

30만 AI 개발자 모인다...엔비디아 'GTC 2024' 임박

엔비디아는 지난 4일 '엔비디아(NVIDIA) GTC 2024'를 앞두고 APAC(아시아·태평양) 지역 온라인 사전 인터뷰를 진행했다고 8일 밝혔다. 인터뷰에는 그레그 에스테스 엔비디아 기업 마케팅, 개발자 프로그램 부문 부사장이 참석해 GTC 2024의 준비 과정과 특별히 주목할 만한 세션 등을 언급했다. 세계 최대 AI 개발자 콘퍼런스 GTC는 오는 18일부터 21일까지 미국 캘리포니아주 새너제이에서 개최된다. 팬데믹 이후 5년만에 대면 행사로 돌아온 GTC는 온라인으로도 참석 가능한 하이브리드 형태로 진행된다. 900개의 세션, 250개 이상의 전시, 수십 개의 기술 워크샵 등으로 구성됐으며 30만 명 이상의 전세계 개발자 커뮤니티 회원들이 참석할 것으로 기대된다. 엔비디아는 이번 GTC가 지난 해에 비해 2배 이상의 규모로 진행되는 만큼 행사를 위해 준비를 했으며 성공적인 행사가 될 것이라고 전했다. 특히 젠슨 황 엔비디아 창립자 겸 CEO의 기조연설은 1만명 이상 수용 가능한 SAP 센터에서 진행된다. 젠슨 황 CEO 기조연설은 이달 19일 오전 5시(한국 시간)에 생중계되며, 이후 온디맨드(On-demand)로 제공된다. 또한 디즈니 리서치, 구글 딥마인드, 존슨앤드존슨 이노베이티브 메디슨, 스탠포드 대학교 등 조직 내 리더들이 진행하는 세션을 포함해 약 60개 이상의 강좌가 준비돼 있다. 대기업부터 스타트업, 개발자부터 AI에 관심이 있는 개인 등이 각자의 다양한 요구에 맞게 강좌를 선택할 수 있으며 온라인으로도 수강 가능하다. 그레그 에스테스는 글로벌 차원에서 AI 발전을 위한 엔비디아의 역할을 묻는 질문에 "GTC는 개발자와 컴퓨팅 생태계가 함께 모여 서로를 끌어올릴 수 있는 세계 최고의 장소"라며 "여러 산업의 선도 기업들과 수천 명의 학생들이 최고의 AI를 경험하기 위해 이곳을 찾는다. 엔비디아는 그들을 하나로 모으는 호스트인 것을 매우 자랑스럽게 생각한다"고 말했다.

2024.03.08 13:38장경윤

지금 뜨는 기사

이시각 헤드라인

LG전자, 4개 사업본부 대수술...고객 지향 솔루션 체제로

"피부 컨설팅 받고 VIP라운지 즐겨요"…체험 가득 '올리브영N 성수' 가보니

"아태지역, K-콘텐츠가 이끈다"...디즈니, 내년 어떤 작품 선보이나

LG그룹, 2인 부회장 체제 유지…ABC 미래 준비에 집중

ZDNet Power Center