• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
ZDPick
인공지능
AI의 눈
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'AI GPU'통합검색 결과 입니다. (464건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

[유미's 픽] "엔비디아 H100 특별 할인"...삼성SDS가 광고 나선 이유는

"구독형 그래픽처리장치(GPUaaS) 고민, 삼성SDS가 모두 해결해드립니다." 삼성SDS는 지난 7일 고객사들을 대상으로 '엔비디아 H100 특별 할인'이라는 제목으로 광고 메일을 발송했다. 해당 메일에는 삼성SDS GPUaaS가 좋은 이유 3가지와 함께 ▲최초 사용 후 6개월 간 특별 할인 혜택 제공 ▲최적의 상품 구성 및 견적 제안 등 프로모션 정보가 함께 기재돼 눈길을 끌었다. 삼성SDS가 이처럼 GPUaaS 프로모션 안내 메일을 발송한 것은 최근 관련 시장이 빠르게 성장하며 경쟁이 치열해졌기 때문이다. 인공지능(AI) 기술 개발에 필수인 엔비디아의 그래픽처리장치(GPU)가 고가인 탓에 부담을 느낀 기업들이 자체 구축을 하지 않고 빌려 쓰는 것으로 방향을 틀면서 수요도 폭발적으로 증가하는 분위기다. 9일 시장조사기관 포춘 비즈니스 인사이트에 따르면 글로벌 GPUaaS 시장 규모는 2023년 32억3천만 달러(약 4조7천억원), 지난해 43억1천만 달러(약 5조7천400억원)에서 매년 35.8%씩 성장해 2032년에 498억4천만 달러(약 72조936억원) 규모로 성장할 전망이다. GPUaaS는 AI 인프라를 갖춘 기업들이 클라우드를 통해 가상 환경에서 GPU를 사용자의 주문에 맞춰 할당하고 빌려주는 서비스다. 저렴한 가격으로 인터넷 연결을 통해 필요한 만큼 고성능 GPU에 접근이 가능하다는 점에서 비용 부담을 줄이려는 중견·중소기업들에게 대안으로 떠오르고 있다. 업계 관계자는 "GPUaaS는 AI 모델 학습과 추론 과정에서 GPU를 필요한 시간에만 사용할 수 있어서 기업들이 GPU를 구매하거나 고정적으로 할당받아야 하는 비용 부담을 크게 줄일 수 있다는 것이 장점"이라며 "필요할 때만 유연하게 사용할 수 있도록 해 GPUaaS를 제공하는 기업들은 AI 스타트업 등 타겟 고객들에게 AI 개발의 경제성과 효율성을 부여할 수 있다"고 설명했다. 현재 국내에서 GPUaaS 사업을 전개하는 곳은 아직까지 많지 않다. 최신 GPU를 확보한 데이터센터를 구축하고 있어야 가능한 사업인 만큼, 투자 비용이 많이 들어서다. 업계 관계자는 "GPUaaS 사업은 일종의 AI 인프라 사업으로, 시설이 갖춰져야 서비스를 만들어 운영할 수 있는 것"이라며 "초반에 엄청 투자해놓고 장기적으로 고객을 확보해 수익을 쌓아가는 장치성 산업인 만큼 일반 IT 서비스 기업들이 접근하기는 쉽지 않다"고 말했다. 이에 국내에선 데이터센터를 갖추고 있는 일부 클라우드 기업들과 AI 사업에 투자 속도를 높이고 있는 통신사들을 중심으로 GPUaaS 시장 경쟁에 불을 지피고 있다. 국내에서 서울 상암·수원·구미·춘천·동탄 등 5곳에 데이터센터를 운영 중인 삼성SDS는 지난해부터 GPUaaS 사업을 시작해 생성형 AI를 활용하고자 하는 행정·공공기관에 최적화된 클라우드 서비스를 제공하고 있다. 이곳은 삼성 클라우드 플랫폼(SCP)을 기반으로 GPUaaS 사업을 펼치고 있는 상태로, 엔비디아 호퍼 아키텍처 기반 GPU인 'H100'을 약 1천 장가량 확보하고 있는 것으로 알려졌다. 공식적으로 'H100' 약 1천 장을 확보했다고 밝힌 NHN클라우드도 지난해 오픈한 광주 AI 데이터센터를 기반으로 GPUaaS 사업 확대에 나섰다. 광주 AI데이터센터는 연산량 기준 88.5PF(페타플롭스), 저장 용량 107PB(페타바이트) 등 최고사양 GPU 인프라를 갖춘 AI 데이터센터다. NHN클라우드 측은 정부의 AI 투자 확대 기조 움직임에 따라 광주 AI 데이터센터의 활용도가 더욱 높아질 것으로 예상하고 있다. 업계에선 향후 수년간 시장에 공급 가능한 'PPP 형태'의 AI 데이터센터로서 공공부문 AI 대전환을 위한 정부향 GPU 공급 시 대응에 가장 적합하다는 평가를 내놓기도 했다. NHN클라우드 관계자는 "이에 기반해 올해부터 광주 AICA(인공지능산업융합사업단)와의 GPU 공급 계약 매출 인식을 본격화하고 오는 2029년까지 안정적 매출로 이어갈 계획"이라며 "광주 AI 데이터센터를 기반으로 AI 강국 도약을 위한 '마중물' 역할을 수행할 것"이라고 포부를 밝혔다. KT클라우드는 양보다 질로 승부하는 전략을 택했다. 'H100'을 앞세운 경쟁사들과 달리 연산 처리 능력과 전력 효율성이 더 개선된 엔비디아 호퍼 아키텍처 기반의 'H200'을 AI 인프라에 적용하며 GPUaaS 사업 경쟁력을 끌어올렸다. KT클라우드는 GPU뿐만 아니라 신경망 처리 장치(NPU) 기반 AI 인프라도 확장하고 있다. 리벨리온과 협력해 'AI 서브 NPU' 서비스를 운영 중이며 오는 5월 출시될 리벨리온의 '아톰 맥스'를 적용해 소형언어모델(sLM) 성능을 검증할 계획이다. 또 미국 반도체 설계업체 암페어와도 AI 반도체 협력을 논의하며 기술 역량을 강화하고 있다. KT클라우드 관계자는 "현재 AI 인프라가 필요한 국내 다수의 공공기관과 AI 스타트업을 대상으로 사용량 기반의 탄력적인 GPU 자원 이용이 가능한 GPUaaS를 제공 중"이라며 "앞으로 AI 인프라뿐만 아니라 AI운영(AIOps) 등 포트폴리오를 확대해 AI 기술 경쟁력을 강화하고 고객의 다양한 니즈에 대응해 나가겠다"고 밝혔다. 카카오클라우드도 올해 전사 매출을 견인할 핵심 사업으로 GPUaaS를 점찍고 관련 기술 고도화 및 가격 경쟁력 확보에 나섰다. 이곳은 현재 엔비디아 A100, V100, T4 등 다양한 고성능 GPU 인스턴스를 지원하고 있는 상태로, 엔지니어링 최적화를 통해 GPU의 성능을 극대화했다는 점을 차별화 포인트로 내세우고 있다. 특히 가상머신(VM)과 GPU를 같은 가상 네트워크 환경에 위치시켜 데이터 전송 속도를 기존 대비 50배 더 높였다. 여러 개의 GPU를 연결한 'GPU 클러스터'의 데이터 전송 속도를 높이기 위해 설계된 네트워크 기술인 전용 인피니밴드 구성으로 최대 4배 확장된 대역폭과 저지연 환경도 지원 중이다. 카카오엔터프라이즈는 올해 AI, 금융, 모빌리티 등 분야의 다양한 고객사례 확보를 지속하며 AI 모델 개발 및 학습, 서비스 제공을 위한 핵심 인프라로 GPUaaS 사업 가속화할 계획이다. 또 LG CNS, 베스핀글로벌 등 대형 클라우드 관리(MSP) 업체들과의 전략적 파트너십을 강화해 중소·중견기업(SMB) 및 스타트업 지원, 지역 거점 중심 공공 클라우드 확산 등에 집중할 방침이다. 네이버클라우드는 지난해 데이터 관리 업체 데이터얼라이언스와 손잡고 GPUaaS 사업을 진행 중이다. 데이터얼라이언스가 선보인 GPU 공유 플랫폼인 '지큐브'를 통해 유휴 GPU를 공급하는 식이다. 통신사 중에선 SK텔레콤이 가장 적극적이다. 지난해부터 GPUaaS 사업에 뛰어든 이곳은 자회사 SK브로드밴드의 가산 데이터센터에 GPU를 탑재한 후 'SKT GPUaaS'를 출시하며 고객 확보에 집중하고 있다. 이를 위해 엔비디아로부터 GPU를 직접 공급받는 GPU 구독 서비스 기업 람다와 협력 체계를 구축한 상태로, 3년 안에 최소 1천 대 이상의 GPU를 확보한다는 계획이다. 현재 엔비디아 'H100'을 배치했으며 'H200'도 올해 1분기 안에 도입할 예정이다. 업계 관계자는 "GPUaaS 공급 기업들은 기존에 제공하고 있던 구독형 인프라 서비스(IaaS)에 GPU를 추가한 형태로 보다 더 높은 부가가치를 창출할 수 있다는 점에서 해당 사업에 매력을 느끼고 있다"며 "AI 기업들은 고성능 컴퓨팅 자원이 필요하지만 자체적으로 해결하기에 비용 부담이 크다는 점에서 GPUaaS에 많은 관심을 보이고 있다"고 밝혔다. 이어 "GPUaaS 공급 기업들은 사업 경쟁력을 높이고자 최신 GPU 확보를 위해 점차 글로벌 기업들과의 협업에도 적극 나서는 분위기"라고 덧붙였다.

2025.03.09 08:59장유미 기자

SKC, MWC25 첫 참가…반도체 '글라스기판' 실물 전시

SKC는 3~6일(현지 시간)까지 열리는 세계 최대 모바일 전시회인 'MWC25'에서 글라스기판을 선보인다고 3일 밝혔다. SKC는 SK텔레콤이 운영하는 전시관 내 AI DC (AI 데이터센터)구역에서 글라스기판을 실물 전시한다. '혁신적인 AI, 미래를 앞당기다'를 주제로 조성되는 이번 전시는 AI 데이터센터(이하 AI DC) 관련 주요 기술과 AI 기반 통신 인프라에 관한 연구 성과가 총망라됐다. 글라스기판은 AI DC구역에서 대규모 데이터를 처리하는 데 필요한 핵심 기술로 소개된다. 특히 SK하이닉스의 고대역폭 메모리인 HBM3E와 데이터센터용 고성능 SSD 스토리지와 함께 전시되며 AI 통합 솔루션을 제시할 예정이다. 글라스기판은 초미세회로 구현이 가능하고 MLCC 등 다양한 소자를 내부에 넣어 표면에 대용량 중앙처리장치(CPU)와 그래픽처리장치(GPU)를 얹을 수 있다. 글라스기판을 반도체 패키징에 적용하면 전력 소비와 패키지 두께는 절반 이상으로 줄어들고 데이터 처리 속도는 기존 대비 40% 빨라진다. SKC관계자는 “세계 최초 반도체 글라스기판 상업화 기업으로서 지난 CES2025에 이어 이번 MWC25에서도 기술 우수성을 전 세계에 선보일 것”이라며 “목표로 했던 연말 글라스기판 상업화를 통해 전 세계가 주목하는 AI 기술 고도화에 기여할 수 있길 기대한다”고 말했다.

2025.03.03 11:09장경윤 기자

레노버 "AI 활용도 높일 소프트웨어 2종 기본 탑재"

[요코하마(일본)=권봉석 기자] 국내외 주요 PC 제조사들은 지난 해 하반기 이후 CPU, GPU와 NPU(신경망처리장치)를 내장한 프로세서 기반 AI PC를 출시하고 있다. 그러나 프로세서의 역량을 끌어낼 소프트웨어가 부족하다는 지적이 나온다. 레노버는 올 초부터 글로벌 시장에 공급할 인텔 코어 울트라 시리즈2(루나레이크) 기반 아우라 에디션 AI PC에 AI 활용도를 높일 수 있는 소프트웨어를 기본 탑재 예정이다. 27일 오전(이하 현지시각) 일본 요코하마에서 진행된 '레노버 아우라 에디션 AI PC' 행사에서 그레고리 베(Gregory Beh) 레노버 아태지역 PC·스마트 디바이스 매니저는 "아우라 에디션에 기본 탑재되는 두 가지 솔루션은 AI PC의 새로운 가능성을 제시할 것"이라고 설명했다. 라마3 기반 문서 요약 기능 탑재 '레노버 AI 나우' 레노버 AI 나우는 메타 라마3 거대언어모델(LLM)을 최적화해 탑재한 생산성 도구다. 파워포인트, 엑셀, PDF, 문서를 스캔한 JPEG 파일 등 다양한 문서를 읽어들여 문서 요약, 지식 저장소 구축이 가능하다. 이들 처리에 필요한 모든 기능은 클라우드 도움 없이 기기 내장 CPU와 GPU, NPU 연산 성능만 활용해 작동한다. 이용시마다 별도 요금이나 구독료가 필요하지 않으며 개인정보나 민감한 정보를 외부로 유출시키지 않는다는 장점을 지녔다. 개인 지식 저장소에 포함되지 않은 정보를 검색할 때는 오픈AI 챗GPT 기반 클라우드 시스템에 접속해 필요한 정보를 추가로 검색하는 것도 가능하다. 다양한 설정 돕는 생성 AI 기반 'PC 어시스턴트' 레노버 AI 나우는 100개 이상의 복잡한 설정에 쉽게 접근할 수 있는 'PC 어시스턴트' 기능도 함께 내장했다. PC의 프로세서나 메모리 용량 등 제원 정보 확인, 고유 번호 확인 등 기초적인 내용부터 복잡한 설정까지 챗봇으로 확인할 수 있다. 내장된 서비스 챗봇 '레나'(Lena)는 메모리 업그레이드, SSD 용량 업그레이드나 PC 문제 해결과 관련된 도움말을 제공한다. 그레고리 베 매니저는 "레노버 AI 나우는 지난 해 9월 데이터 처리 적정성, 개인정보 보호 등을 인증하는 UL솔루션 AI 모델 투명성 평가에서 다이아몬드 등급 인증을 획득했다"고 설명했다. 스테이블 디퓨전3 기반 '크리에이터 존'으로 이미지 생성 레노버 크리에이터 존은 콘텐츠 제작자가 생성 AI를 활용해 사진이나 이미지 등 다양한 결과물을 생성할 수 있는 소프트웨어다. 텍스트 기반 설명이나 간단한 스케치를 기반으로 이용자 지시에 따라 결과물을 생성할 수 있다. 크리에이터 존은 스테이블 디퓨전 3를 기반으로 작동하며 내장 GPU를 활용해 원하는 이미지를 무제한으로 생성할 수 있다. AI 모델은 지속적으로 업데이트가 가능하다. '참조 이미지' 기능은 기존 이미지나 사진을 바탕으로 이용자 프롬프트에 따라 완전히 새로운 이미지를 생성한다. "AI 개인화 필요... 고유 소프트웨어로 지원" 일부 요가 노트북에는 어도비 크리에이티브 클라우드 2개월 이용권이 제공된다. 크리에이터 존으로 생성한 이미지를 수정해 보다 나은 결과물을 만들 수 있다. 그레고리 베 매니저는 "AI는 모든 사람을 위한 무한한 가능성을 열어줄 뿐만 아니라, 개인을 위해 작동해야 한다"고 강조했다. 이어 "모든 사람들이 다양한 방식으로 콘텐츠를 만들어낼 수 있도록 적절한 개인화 도구가 필요하며 레노버는 양대 소프트웨어를 이용해 맞춤형 PC 경험과 지식 저장소 개인화를 제공할 것"이라고 덧붙였다.

2025.02.27 17:41권봉석 기자

KAIST 석·박사 15명, 챗GPT와 딥시크로 수능 미적분 풀어보니…

올해 수능 수학 30번 문항을 챗GPT와 딥시크에게 물었다. 30번은 미적분 문제다. 전국 수험생들의 14%만이 맞췄다. 과연 어느 생성형 인공지능(AI)이 올바른 답을 제시했을까. KAIST 테라랩(지도교수 김정호)이 지난 주 챗GPT와 딥시크의 성능과 활용성, 경쟁력의 비밀을 공개하는 세미나를 개최했다. 이 세미나에는 테라랩 소속 석·박사과정생 15명이 참여했다. 이날 서은지 연구생(전기및전자공학과 석사과정)이 딥시크를 활용해 테스트한 결과를 공개해 눈길을 끌었다. 이 시험에서 서 연구생은 리즈닝(추론가능 LLM) 모델로 챗GPT-o1과 딥시크-R1(1.5B)을 썼다. 이 결과 GPT-o1은 7분 40초만에 정답 17을 제시했다. 반면 R1은 정답 도출에 실패했다. 서 연구생은 이외에도 수리1, 추리2, 코딩1문제를 각각 테스트한 결과도 공개했다. 이 결과에 따르면 단순 수리 문제는 양쪽 AI 모두 맞췄다. 이어 진행한 숫자 야구 게임에서는 GPT-o1의 경우 18분간 10번의 시도로 정답을 냈고, R1은 55분간 15번을 시도했으나 갈피를 잡지 못했다. 삼성이 시행하는 직무적성검사(GSAT)도 테스트했다. 3단 논법에서 전제1과 결론을 제시한 뒤 전제2를 묻는 질문이다. 이 질문에 GPT-o1은 25초만에 정답을 도출했다. 반면 R1은 1분 동안 리즈닝까지 했지만, 답을 맞히지 못했다. 그러나 코딩의 2가지 오류 탐지에서는 GPT-o1이 46초간 한 개의 오류만 해결한 반면, R1은 몇 초 동안 2가지를 모두 해결했다. 서 연구생은 "GPT-o1이 고난도 수리나 추론해결이 정확한 반면 R1은 코딩 오류 탐지가 정확했다"며 "제품 출시 2개월 된 R1이 이 같은 성능을 보인다는 측면에서 대단하다"고 평가했다. 언어와 수학에선 R1, 프로그래밍에선 오픈AI-o1이 강력 이어 김지훈 연구생(전기및전자공학과 박사과정)은 AI 벤치마크별 성능 비교 자료를 공개해 관심을 끌었다. 미국고교수학경시대회(AIME2024) 문제로는 R1이 79.8점, 오픈AI-o1은 79.2점으로 R1이 미세하게 앞섰다. MATH-500(고급수학문제)이나 소프트웨어 엔지니어링 벤치마크(SWE-벤치)에서도 0.3~0.9점 가량 R1이 좋은 점수를 받았다. 그러나 검색없이 해결하는 대학원 수준 문제(GPQA)에서는 오픈AI-o1가 75.7점으로, 71.5점을 받은 R1보다 4.2점이 높게 나왔다. 또 영어나 수학, 중국어 등의 문제에서는 R1이, 프로그래밍 최적화에서는 오픈AI-o1이 강력했다. 최성욱 연구생(전기및전자공학과 박사과정)은 딥시크의 기업 전반을 공개하며 "딥시크는 연구자와 엔지니어 150명과 데이터 자동화 연구팀 31명만으로 개발했고, 오픈AI는 1천200명의 인력이 투입됐다"고 설명했다. 최 연구생은 또 딥시크 서비스 차단 이슈를 거론하며 "우리나라를 포함해 미국, 일본, 호주, 이탈리아, 대만이 접속을 차단하거나 사용금지, 앱 다운로드 금지 등으로 규제 중"이라고 덧붙였다. LLM이 기초..."우리나라 GPU 10만장정도 보유 희망" 김근우 연구생(전기및전자공학과 박사과정)은 딥시크 R1-제로의 학습 방법론(GRPO)으로 주목 받았다. 김 연수생은 이 방법론에서 R1-제로의 특징을 가치평가 모델과 보상인공지능 모델을 사용하지 않는 경량화된 강화학습으로 분석했다. 이외에 이들은 △딥시크-V3의 기본 아키텍처 △R1-제로에서의 강화학습 △오픈소스 생태계 △기업소개 및 기술적 배경 등을 주제로 자료를 공개했다. 김정호 교수는 "딥시크 R1 등장이 경쟁 체제 문제를 넘어, 결국 전의 전쟁으로 발전하고 있다"며 "지금은 거대언어모델(LLM)에 머물지 않고 미디어 LLM, 멀티모달 에이전트, AI로봇, 피지컬 AI를 넘어 범용인공지능(AGI), 초인공지능(ASI) 시대로 가는 시작점"이라고 말했다. 김 교수는 또 "이 가운데 LLM이 기초"라며 "정부도 K-LLM 개발하겠다고 한다. 우리나라 GPU 보유숫자가 10만장까지 갔으면 좋겠다"라고 덧붙였다. 김 교수는 "딥시크가 주목받는 이유로 저비용, 자체 개발, 챗GPT 동급성능, 1년만에 개발 등을 꼽을수 있다"며 "딥시크 AI에는 학습코드와 학습 데이터가 공개되지 않는 등 비밀이 많이 숨어 있는 것 같다"고 평가했다.

2025.02.26 17:16박희범 기자

KT클라우드, 구독형 GPU에 엔비디아 'H200' 적용…고성능 AI 인프라로 고객 확보 가속

KT클라우드가 엔비디아의 최신 그래픽처리장치(GPU)를 인공지능(AI) 인프라에 적용하며 GPU 서비스를 한층 강화한다. AI 학습과 추론 워크로드 최적화를 앞세워 공공기관·스타트업 고객 확보에 나서기 위함이다. KT클라우드는 자사의 AI 훈련 서비스에 엔비디아 'H200'을 도입해 AI 인프라 성능을 개선한다고 24일 밝혔다. 기존 'H100' 기반의 AI 훈련 서비스에 최신 GPU를 추가해 연산 처리 성능과 전력 효율을 향상시키는 것이 이 프로젝트의 핵심이다. KT클라우드는 사용량 기반의 '서비스로의 GPU(GPUaaS)'를 제공하며 AI 학습과 추론 영역에 최적화된 인프라를 구축해왔다. 특히 AI 훈련 서비스는 대규모 GPU 노드 클러스터링과 동적할당 제어 기능을 통해 대량의 연산 작업을 효율적으로 처리할 수 있도록 설계됐다. GPU 노드 클러스터링은 여러 GPU 서버를 하나의 클러스터로 묶어 연산 성능을 극대화하는 기술로, 대규모 AI 학습에서 병렬 연산을 최적화하는 데 핵심적인 역할을 한다. 또 동적할당 제어 기능은 사용자의 작업량에 맞춰 자원을 실시간으로 배분하고 불필요한 자원 낭비를 줄여 최적의 GPU 성능을 유지한다. 이번 'H200' 도입은 이러한 기능을 보다 강화해 고성능 AI 학습 환경을 지원할 것으로 기대된다. 'H200'은 엔비디아 '호퍼(Hopper)' 아키텍처 기반의 최신 GPU로, 이전 모델인 'H100' 대비 연산 처리 능력과 전력 효율성이 개선됐다. 특히 메모리 대역폭이 확대돼 대규모 AI 모델 학습과 추론 성능을 극대화할 수 있는 것이 특징이다. KT클라우드는 GPU뿐만 아니라 신경망 처리 장치(NPU) 기반 AI 인프라도 확장하고 있다. 리벨리온과 협력해 'AI 서브 NPU' 서비스를 운영 중이며 오는 5월 출시될 리벨리온의 '아톰 맥스'를 적용해 소형언어모델(sLM) 성능을 검증할 계획이다. 또 미국 반도체 설계업체 암페어와도 AI 반도체 협력을 논의하며 기술 역량을 강화하고 있다. 공공 분야 대응도 강화한다. 회사는 올해 하반기 공공기관을 대상으로 AI 추론 전용 상품의 클라우드 서비스 보안 인증(CSAP) 절차를 진행할 계획으로 이로써 공공기관에서도 안전하게 AI 추론 서비스를 이용할 수 있도록 지원할 예정이다. 공용준 KT클라우드 클라우드본부장은 "이번 엔비디아 'H200' 도입으로 글로벌 수준의 AI 인프라를 확보하게 됐다"며 "앞으로 AI 인프라뿐만 아니라 AI운영(AIOps) 등 포트폴리오를 확대해 AI 기술 경쟁력을 강화하고 고객의 다양한 니즈에 대응해 나가겠다"고 말했다.

2025.02.24 11:21조이환 기자

'AI 3대 강국' 목표 세운 韓, 대규모 투자 시동…조준희 "산업용 LLM에 주목해야"

최근 우리나라 정부가 인공지능(AI) 분야를 국가 전략 기술로 지정하고 집중 지원에 나선 가운데 국내 기업들이 산업용 거대언어모델(LLM) 개발에 적극 나서야 한다는 주장이 나왔다. 23일 업계에 따르면 조준희 한국소프트웨어협회장은 최근 자신의 소셜미디어(SNS) 페이스북 계정을 통해 "AI는 국가적으로 전략물자 수준 이상으로 생각해야 되고, 일종의 '핵무기'와 같다고 봐야 된다"며 "앞으로는 우리를 보호하는 무기로서의 AI를 가질 것이냐, AI 핵우산에 기댈 것이냐의 선택일 것"이라고 강조했다. 그러면서 "산업 보국을 위해서는 기업 수와 고용이 동반해서 늘어야 되는데 그런 면에서 우리가 소홀히 보고 있는 산업용 LLM 시장에 큰 기대감을 가지고 있다"며 "특히 제조 강국으로서의 산업 특화 LLM 개발 부분은 수출 측면에서도 선전 할 수 있다고 생각한다"고 덧붙였다. 조 회장이 이처럼 주장하고 나선 것은 최근 우리나라에서 AI 산업 발전을 위해 정부와 기업이 다각도로 방안을 모색하고 있는 상황에서 방향성을 제시하기 위한 것으로 분석된다. 앞서 정부는 지난 20일 제3차 국가AI위원회 회의를 진행해 '국가대표 정예팀'을 선발하는 한편, 빠른 시간 안에 세계 최고 수준의 LLM을 개발할 수 있도록 데이터와 그래픽처리장치(GPU) 등을 전폭 지원하겠다는 계획을 내놓은 바 있다. 특히 AI 컴퓨팅 인프라 확충을 위해 단기적으로는 내년 상반기까지 1만8천 장 규모의 첨단 GPU를 확충하기로 했다. 1만 장은 국가AI컴퓨팅센터를 중심으로 올해 안에 마련하고 나머지 8천여 장은 슈퍼컴퓨터 6호기 구축을 통해 확보한다. 장기적으로 2030년까지 국가AI컴퓨팅센터 내 국산 AI 반도체 비중을 50%로 끌어올려 저전력·고성능의 국산 AI 반도체 경쟁력을 높인다는 계획이다. 초기에는 엔비디아 등의 GPU를 쓰되 국산 AI 반도체의 성능을 검증해 점차 비율을 늘린다는 방침이다. 범용인공지능(AGI) 구현에 필요한 핵심 원천기술 확보도 추진하고 있다. 약 1조원을 투입할 계획으로, 현재 예비타당성 조사가 진행 중이다. 이에 대해 조 회장은 "국가 AI 역랑 강화 방안들은 어려운 환경에서 시기 적절하고 정교하게 잘 만들어졌다"며 "실행에 만전을 기하면 승산이 있다고 본다"고 말했다. 정부가 이처럼 나선 것은 AI 주도권을 둘러싼 글로벌 시장 경쟁이 갈수록 격화되고 있어서다. 미국은 지난 달 오픈AI, 오라클을 중심으로 AI 데이터센터에 약 730조원을 투자하는 '스타게이트 프로젝트'를 발표했다. 이에 질세라 유럽연합(EU)은 'AI기가팩토리 프로젝트'를 포함해 300조원가량을 투자키로 했다. 프랑스도 AI데이터센터에 약 163조원을 투자할 것이란 계획을 최근 공개했다. 하지만 우리나라는 미국, 중국에 이어 'AI 3대 강국'을 목표로 하고 있지만 '쩐의 전쟁'에선 다소 밀리는 모양새다. 한국은 일단 글로벌 AI 생태계에서 싱가포르·영국·프랑스와 함께 3위권으로 평가 되고 있지만, 고성능 AI 모델을 개발하기에는 국내 인프라가 부족하다는 지적을 받고 있다. 실제 지난해 기준 우리나라가 보유한 엔비디아의 AI 반도체 'H100'은 약 2천 개로, 미국 빅테크 메타의 15만 개, 마이크로소프트(MS)의 15만 개에 비해 상당히 낮은 수치다. 기술격차도 갈수록 커지고 있다. 미국과는 지난해 3월 기준 1.3년에 달했고 유럽과는 1년, 중국과는 0.9년의 차이가 났다. AI 고급 인재의 해외 이탈도 많아지면서 기술 개발에도 상당히 어려움을 겪고 있다. 이에 카카오는 자체 LLM 개발 중심 전략에서 선회해 오픈AI와 손을 잡았다. LLM 개발에 수천억원이 든다는 점에서 부담이 컸기 때문이다. 하지만 업계에선 카카오의 이 같은 전략에 대해 상당한 아쉬움을 드러냈다. 카카오가 파운데이션 AI 모델 개발에 소요되는 대규모 투자 비용을 절감하는 효과가 있겠지만, 자체적인 AI 역량 확보가 어려워져 향후 해외 진출에 어려움을 겪을 수도 있다고 판단해서다. 조 회장은 "국내 국민 메신저를 운영하는 대기업의 미국 LLM기업과의 제휴는 AI가 국가 기간산업이라는 철학이 부재한 보여주기식의 쉬운 접근"이라며 "(이 같은 전략은) 성공하기 어려울 것"이라고 주장했다. 이어 "AI는 LLM, GPU, 고대역폭메모리(HBM), 프로세싱-인-메모리(PIM), 클라우드, 양자 등 대규모 융합 산업으로, 어느 하나도 포기할 수 없는 주요 테크산업인 만큼 협업과 종합적인 접근이 중요하다"며 "올해 (우리나라가 AI기본법과 관련해) 세부 규정과 시행령을 더 정교하게 만들어서 미국 빅테크 기업을 적절히 견제하고 국내 산업을 증진시킬 수 있도록 (모두의) 균형있는 노력이 필요할 것"이라고 덧붙였다.

2025.02.23 15:37장유미 기자

정부, AI바우처·인프라 지원…"기업 경쟁력 강화"

정부가 올해 인공지능(AI)바우처와 고성능컴퓨팅 지원 사업으로 국내 AI 역량 강화에 나섰다. 과학기술정보통신부와 정보통신산업진흥원은 20일 서울 코엑스 아셈볼룸홀에서 열린 '2025년 AI바우처·고성능컴퓨팅 지원사업' 통합 설명회에서 지원 계획을 이같이 밝혔다. 올해 AI바우처 지원 사업은 총 270억원 규모로 130개 내외 과제를 선정·지원한다. AI 솔루션을 보유한 공급기업은 연중 수시 모집한다. 수요기업은 수요처에 따라 일반, AI반도체, 소상공인, 글로벌 4개 분야로 구분해 공모 형태로 과제를 모집한다. 수요기업은 공급기업 중 자사에 적합한 기업과 AI 솔루션을 선택해 사업계획서를 제출하면 된다. 선정 평가를 통해 지원 대상으로 선정될 경우 AI바우처를 지원받을 수 있다. 고성능컴퓨팅 지원 사업은 올해 700개 과제를 목표로 한다. 정부와 민간 클라우드 기업 AI반도체 개발기업이 협력한다. 그래픽처리장치(GPU)와 신경망처리장치(NPU) 등 고성능 AI 연산 인프라를 제공한다. 학습용 GPU는 500개 과제를 지원한다. A100 2장, H100 1장, H100 2장 등으로 구성됐다. 국산 추론용 NPU는 200개 과제에 60탑스(TOPS), 120TOPS, 240TOPS를 제공해 산업 현장 적용성을 높인다. 정부는 기업이 해당 인프라를 통해 연구개발 비용을 줄이고 생산성과 품질을 높일 것으로 기대한다고 밝혔다. AI 솔루션 공급기업은 시장 진출 기회를 넓힐 수 있고 수요기업은 최적의 기술을 도입해 디지털 전환 속도를 끌어올릴 것이란 이유에서다. 과기정통부 김경만 AI기반정책관은 "첨단 AI 기술 확보와 경쟁력 향상을 위해 기업과 연구자가 필요로 하는 AI 컴퓨팅 인프라 공급은 필수"라며 "지원 사업을 통해 기업 생산성과 품질 개선으로 기업의 AI 활용 역량과 경쟁력이 제고되길 바란다"고 강조했다.

2025.02.20 13:30김미정 기자

정부 "GPU 우선 확보…세계 수준 LLM 만든다"

과학기술정보통신부가 인공지능(AI) 컴퓨팅 인프라를 확충하면서 즉시, 단기, 중장기 등 3단계에 걸친 마스터플랜을 가동키로 했다. 20일 열린 국가인공지능위원회 3차 회의에서 과기정통부는 이같은 내용을 담은 'AI컴퓨팅 인프라 확충을 통한 국가 AI역량 강화 방안'을 발표했다. AI컴퓨팅인프라 특별위원회와 당정협의회에서 논의된 내용을 담은 것으로, 새해 경제정책방향에 따라 1분기 내 수립 예정이던 대책을 딥시크 돌풍으로 앞당겨 마련한 방안이다. 내년 상반기까지 GPU 1.8만장 확보...H100 416장 우선 지원 이 방안에 따라, 정부는 인공지능 컴퓨팅 인프라 확충 3단계에 걸친 마스터플랜을 가동한다. 당장 현장에 시급한 AI 컴퓨팅 수요에 대응하기 위해 광주AI데이터센터, 민간 클라우드 등 이미 국내에 보유하고 있는 GPU 자원을 활용해 우선 지원한다. 현재 국내에 있는 엔비디아 H100 880장 가운데 정부가 416장을 확보하고 있는데 이를 지원하겠다는 뜻이다. 이후 2026년 상반기까지 1만8천 장 규모의 첨단 GPU를 확충한다. 그 중 1만 장은 국가 AI컴퓨팅 센터를 중심으로 민관 협력을 통해 연내 확보하고, 나머지 8천여 장도 슈퍼컴퓨터 6호기 구축을 통해 확보할 예정이다. 마지막 중장기 단계로 2030년까지 국가AI컴퓨팅센터 내 국산 AI 반도체 비중을 50%로 끌어올리는 등 저전력 고성능의 국산 AI 반도체 경쟁력 제고도 지원한다. 민간의 AI 컴퓨팅 인프라 투자를 촉진하기 위해 세제지원, 전력 입지 등 제도적 기반도 강화한다. AI를 조세특례제한법 상 국가전략기술로 지정해 첨단 AI R&D 등 우대 공제율 30~50%, AI 통합투자 우대 공제율 15~35% 등에 대한 세제지원을 확대한다. 비수도권에 AI데이터센터 구축 시 전력계통 영향평가 우대를 검토하고, 항만배후단지, 공항지원시설 등으로 입지 다변화, 승강기 미술품 설치 최소기준 적용 등 전력 입지 시설에 관한 제도개선 등도 지속 추진한다. 국산 AI 반도체의 성장도 적극 지원한다. 국산 인공지능 반도체를 토대로 글로벌 수준의 개방형 HW-SW 기술생태계를 조성하여 대규모 고성능 시스템의 최적 운용을 뒷받침한다. 이를 통해 대규모 수요 창출과 동시에 기술개발 성과의 실증과 사업화도 지원한다. WBL 프로젝트 추진...AGI 구현 1조 단위 예타 검토 국가AI컴퓨팅센터 등 인프라 확충을 계기로 독자적 인공지능 모델 경쟁력 확보를 본격 추진한다. AI 국가대표 프로젝트인 가칭 월드베스트LLM(WBL) 프로젝트를 신규 추진할 계획이다. AI 정예팀을 선발하고 단시간에 세계 최고 수준의 대형언어모델을 개발할 수 있도록 필요한 데이터, GPU 등 핵심 인프라를 전폭 지원한다. 또한 AI 분야의 도전적인 문제를 해결하기 위해 국내외 최고 인재가 팀을 이뤄 겨루는 대규모 경진대회인 '글로벌 AI 챌린지'도 개최한다. 세계적인 AI 분야 석학들과 대국민 평가 등을 통해 최고 인재의 참여를 유도하고 입상자에 대해서는 창업 지원이나 WBL 정예팀 기업에 채용을 연계하는 등 파격적인 인센티브를 제공한다. 아울러 장기적으로는 생성형 인공지능을 넘어 범용인공지능(AGI) 구현에 필요한 핵심 원천기술 확보를 위해 1조원 규모에 달하는 기술개발을 추진한다. 고급 AI 인재 양성체계도 고도화한다. 지난해 뉴욕에 개소한 '글로벌 AI 프론티어랩'을 영미권을 넘어 유럽 등으로 확대하는 방안을 추진하여 세계를 선도하는 연구그룹과의 공동연구를 강화한다. 이와 더불어 국내 AI 신진연구자의 창의도전적 연구를 지원하는 프로그램도 신설한다. 기업이 원하는 실전 역량을 갖춘 최고 인재를 양성하기 위해 교사, 교재, 수업 없이 실전형 혁신 교육을 지원하는 '이노베이션 아카데미'를 확대하고, '기업-대학 협력형 AX 대학원' 신설을 추진할 계획이다. 글로벌 우수 인재 유치도 대폭 지원한다. WBL 프로젝트와 연계해 정예팀 기업이 필요로 하는 글로벌 인공지능 핵심 인재를 국내에 유치할 경우 인건비, 연구비, 체재비 등 파격적인 지원방안을 적극 검토할 계획이다. 이밖에 '우리 AI 컴퓨팅 인프라'를 통해 '우리 AI 인재'가 개발한, '우리 AI 모델'로 국가 AI 전환을 가속화한다. 우수한 국산 AI 모델의 초기시장 창출을 위해, 우리의 독자적 특화 데이터를 학습한 생성형 인공지능을 의료(맞춤형 치료 건강관리), 법률(대국민 법률정보 제공), 공공(행정업무 효율화) 등 다양한 분야에 접목하는 부처 협력형 선도 프로젝트를 추진한다. 유상임 과기정통부 장관은 “AI 패권경쟁은 기업 간 대결을 넘어 국가가 전면에 나서는 경쟁으로 변화하고 있다”며 “우리의 대응이 1년 늦어지면 경쟁력은 3년이 뒤처진다는 각오로 AI 컴퓨팅 인프라와 핵심인재 육성 확보에 전폭적이고 속도감 있는 투자를 추진하겠다”고 말했다. 이어, “우리나라가 이미 보유한 잠재력을 최대한 활용하고 부족한 부분은 빠르게 보완하는 등 국가의 인공지능 역량을 강화해 인공지능 3대 강국으로 도약하겠다”고 밝혔다.

2025.02.20 11:30박수형 기자

엘리스클라우드, 오픈소스 AI 생태계 최적화 솔루션 선보여

엘리스그룹(대표 김재원)의 AI 특화 클라우드 '엘리스클라우드'가 오픈소스를 포함한 다양한 범용 AI 모델을 클라우드 환경에서 안전하고 편리하게 사용할 수 있는 솔루션을 20일 공개했다. 엘리스클라우드는 기존 머신러닝(ML) API 기능을 업그레이드해 오픈소스 AI 모델을 맞춤형 AI 인프라에서 활용할 수 있는 'ML API 라이브러리' 기능을 선보였다. 이번 업그레이드의 특징은, 별도의 설치, 설정 없이 다양한 오픈소스 AI 모델도 편리하게 쓸 수 있는 최적화된 GPU·NPU 환경을 제공하는 것이다. API 기반 솔루션이 제공되는 일반 상용 AI 모델과 달리 오픈소스 AI 모델은 사용하는 모델에 따라 환경을 설정해야 하고, 원하는 특정 작업에 맞추는 파인 튜닝과정이 필요하다. 이런 어려움을 해소하기 위해 엘리스클라우드는 GPU·NPU 환경을 각 오픈소스 모델에 최적화하고, 최적화된 API를 제공한다. 딥시크의 R1, 메타의 라마 등 오픈소스를 포함한 다양한 AI 모델에 따라 맞춤형으로 구성한 고성능 AI 인프라 환경에서 AI 챗봇 등을 개발하고 관리, 배포까지 간편히 할 수 있다. 엘리스클라우드가 협약을 맺은 퓨리오사AI, 리벨리온의 최신 NPU를 활용한 고성능 컴퓨팅 서비스도 제공한다. 엣지데이터센터인 엘리스 AI PMDC(Portable Modular Data Center, 이동형 모듈러 데이터 센터) 기반의 프라이빗 클라우드 환경에서 실행돼 민감한 데이터의 외부 유출도 방지한다. 엘리스 AI PMDC는 모듈 단위로 구성이 가능해 물리적 격리가 가능하고, AI 수요 변화에 민첩하게 대응하는 것은 물론 전력효율지수(PUE)를 1.27까지 낮춰 뛰어난 에너지 효율도 갖췄다. 엘리스클라우드는 연내 운영을 목표로 1기당 1MW급 AI PMDC를 설계 및 구축하고 있다. 고밀도 전력과 발열을 안정적으로 관리하기 위해 공간 최적화 설계와 직접액체냉각(DLC) 기술을 도입, 업계 최고 수준인 랙 당 160kW전력으로 엔비디아 B100을 비롯한 최신 고성능 GPU를 지원하도록 설계된다. 김재원 엘리스그룹 대표는 "현재 고성능 GPU H100 5천장까지 수용할 수 있는 AI PMDC 설계·구축했고, 이는 국내 클라우드 기업 중 최대 규모일 것으로 예상한다"며 "엘리스클라우드 사업 본격화를 위해 GPU 확보에 더불어 R&D를 통한 기술 혁신과 투자에 집중하겠다"고 밝혔다.

2025.02.20 11:21백봉삼 기자

정부·여당, AI 경쟁력 확보에 '2조 추경' 운 띄웠다

당정이 인공지능(AI) 인프라 확충을 위해 2조원 규모의 추가경정예산 논의를 띄웠다. 연내 GPU 1만장 확보를 통한 국가AI컴퓨팅센터 개소에 이어 내년 상반기까지 GPU 보유량을 2만장으로 늘린다는 목표다. 18일 오후 국회서 열린 AI 경쟁력 강화 당정협의회가 끝난 뒤 브리핑을 통해 과학기술정보방송통신위원회 여당 간사를 맡고 있는 최형두 의원은 “지난해 여야가 극심한 정쟁 속에서도 상임위에서 합의한 AI 인프라 확충 예산 증액 규모 1조2천억원에 8천억원을 더한 2조원 정도의 인프라 강화 예산에 정부의 큰 결단이 필요하다”고 밝혔다. 김상훈 국민의힘 정책위의장은 “GPU와 같은 첨단반도체 기반 AI 컴퓨팅 인프라는 국가 발전과 산업 경쟁력을 높이는 핵심 성장동력이자 국가 전략자산이라는 측면에서 민관 협력을 통해 국가 AI 인프라 조기 확충을 달성하고 AI 연구개발 환경과 AI 컴퓨팅 생태계 전반의 성장기반 확대가 필요하다는 데 공감했다”고 강조했다. 이어, “국가AI컴퓨팅센터를 통해 구축된 GPU와 멀티모달을 지원하는 다양한 학습데이터를 연구계와 산업계에 지원해 우리나라의 자체 AI기반모델이 GPT와 같은 세계적 수준에 버금가는 AI 모델이 될 수 있도록 집중 지원하겠다”고 덧붙였다. AI와 같은 첨단기술 분야 인재 양성을 위한 무상교육 도입 방안도 논의됐다. 김 의장은 “국가첨단전략기술을 연구하는 청년들이 마음껏 도전할 수 있도록 해당 학과 대학생들에게 획기적인 장학 제도를 도입하겠다”며 “중장기적으로는 무상교육이 실현될 수 있도록 관련 사항을 적극 추진하기로 했다”고 했다. 그러면서 “현재도 국가장학생 제도가 있는데 첨단전략기술 분야에 강화된 국가장학생 제도를 도입하겠다는 뜻이로, 인재 육성이 필요하니 중장기적으로 무상교육을 추진하겠다는 것”이라며 “교육당국 협의가 전제되어야 하는데, 국내 교육기관에서 졸업한 뒤 국내산업에 전제한다는 종사에 따라 무상교육을 제공하고 해외유학도 필요하다면 지원할 수도 있다”고 설명했다.

2025.02.18 17:49박수형 기자

최상목 대행 "연내 GPU 1만장...내년 상반기 GPU 8천장 슈퍼컴 구축"

최상목 대통령 권한대행 부총리가 17일 “연내 고성능 GPU 1만장을 확보해 국가AI컴퓨팅센터 서비스를 조기 개시하고 내년 상반기에는 GPU 8천장 상당의 슈퍼컴 6호기를 구축해 연구계를 지원하겠다”고 밝혔다. 최상목 권한대행은 이날 오후 정부서울청사에서 열린 제3차 AI컴퓨팅인프라특별위원회를 열어 “최근 AI 산업 패권 경쟁이 가열되는 가운데, 경쟁 구도도 기업 간 대결을 넘어 국가가 전면에 나서는 '혁신생태계 간 경쟁'으로 바뀌고 있다”며 이같이 말했다. 그러면서 “정부와 민간이 한 팀이 되어 힘을 모으면 과거 광대역 통신망을 구축해 우리나라가 IT 강국으로 부상하였듯이 AI컴퓨팅 인프라를 기반으로 인공지능 3대 강국으로 도약할 것”이라고 강조했다. 국가AI위원회 산하 AI컴퓨팅인프라특별위원회는 국가AI컴퓨팅센터를 비롯해 정부에서 추진 중인 AI컴퓨팅 인프라 관련 현안을 민관이 함께 논의하고 대응 방안을 모색하기 위해 구성됐다. 이날 회의는 지난달 22일 국정현안관계장관회 후속 조치로 '국가AI컴퓨팅센터 구축(SPC 설립) 실행계획' 관련 현안 점검을 위해 개최됐다. 미국 스타게이트 프로젝트, 프랑스 AI 데이터센터 구축 계획 등에서 보듯 최근 AI컴퓨팅 인프라 역량은 국가별 AI 생태계의 경쟁력을 결정짓는 척도로 부상하고 있으나 첨단 반도체가 집적된 AI컴퓨팅 인프라는 적정 투자 규모를 사전에 예측하기 어려우며, 기술 시장의 변화가 빠르다. 이에 따라, 정부는 앞으로 특별위원회에서 수시로 추진 상황을 점검하고, 각종 현안에 유연하게 밀접 대응할 계획이다. 이날 회의에 참석한 업스테이지의 김성훈 대표는 범용 AI(AGI) 강국으로 가는 길을 주제로 인재, GPU의 중요성과 우리나라가 보유한 역량을 강조하며 AGI 강국으로 도약하는 데 필요한 지원방안에 대해 발표했다. 이어, 배경훈 LG AI연구원장은 최신 AI 기술 동향과 한국형 AI 발전 방향을 주제로 낮은 비용으로 동등 수준의 성능 확보가 가능한 추론 강화 모델에 대해 설명하고, 이를 바탕으로 개발된 LG의 AI모델 엑사원 성과를 소개했다. 민간의 발표와 함께 국가AI컴퓨팅센터 관련 현안으로 사업 공모와 사업설명회 개최 등 사업 추진 경과와 GPU, 서비스, 입지, 전력, 정책금융 프로그램 등 주요 항목별 현안 및 대응 방향에 대해 논의했다. 정부는 이번 특별위원회를 통해 제시된 정책 제언을 바탕으로 AI컴퓨팅 인프라 확충 정책을 보완해나갈 계획이다.

2025.02.17 15:40박수형 기자

AI 인프라 선도 나선 에스넷시스템, GPU 클라우드 서비스 강화

에스넷시스템이 싱가포르의 스카이랩(SkyLab)과 손잡고 국내 인공지능(AI) 및 그래픽카드(GPU) 클라우드 시장 공략에 나선다. 에스넷시스템(대표 박효대, 한상욱)이 싱가포르 스카이랩의 한국법인 샌드힐컨설팅과 GPU클라우드 서비스 'XR클라우드'를 위한 업무협약(MOU)을 체결했다고 14일 밝혔다. 이번 협약을 통해 에스넷시스템과 샌드힐컨설팅은 스카이랩의 클라우드 서비스 'XR클라우드'를 활용해 국내 시장에서 AI 및 GPU 클라우드 서비스를 공동으로 제공할 계획이다. 서비스형 그래픽카드(GPUaaS)는 기업이 AI 서비스 개발이나 활용을 위해 GPU를 직접 구매하지 않고, 클라우드를 통해 필요한 만큼 빌려 쓰는 서비스다. 공급이 부족하고 가격이 높은 GPU를 부담 없이 이용할 수 있어, 대기업뿐만 아니라 중소기업 및 스타트업도 경제적인 비용으로 고성능 컴퓨팅 자원을 활용할 수 있다. XR클라우드는 클라우드 기반으로 엔비디아(NVIDIA)의 최신 GPU, 특히 H100, H200을 활용한 고성능 컴퓨팅 서비스를 제공한다. 이는 AI 연구 및 개발에 필요한 강력한 컴퓨팅 자원을 필요한 만큼 유연하게 사용할 수 있는 서비스로, 기업이나 연구기관들이 AI 관련 프로젝트를 효율적으로 수행할 수 있도록 돕는다. 주요 서비스로는 직접 제어 가능한 GPU 서버, 다양한 GPU 옵션을 제공하는 가상머신 그리고 AI 작업을 쉽게 관리할 수 있는 GPU 지원 매니지드 쿠버네티스 클러스터가 포함되어 있다. 에스넷시스템은 국내 제조, 금융, 교육, 의료, 공공기관 등 다양한 산업을 대상으로 AI 인프라 구축, 운영, 컨설팅 서비스를 성공적으로 제공해왔다. 이를 바탕으로 XR클라우드 서비스 리셀링을 통해 GPU 클라우드 시장을 확대하고, GPUaaS 서비스 모델을 확보하며 경쟁력을 강화할 계획이다. 또한, 엔비디아, 델, 시스코 등 주요 벤더와의 파트너십을 바탕으로 AI 인프라 구축을 지원하고, 하이브리드 환경에서의 운영 및 유지보수 서비스까지 제공함으로써 고객의 AI 솔루션 요구를 종합적으로 충족할 예정이다. 샌드힐컨설팅은 갖고 있는 XR클라우드 서비스를 국내 주요 대기업 연구기관, 대학 및 정부 연구기관, 금융권, AI 서비스 개발사 등 다양한 분야의 고객들에게 제공할 방침이다. 이를 통해 각 산업별 특성에 맞는 맞춤형 서비스와 기술 지원을 제공하며, 국내 시장에 최적화된 GPU 인프라와 종합적인 클라우드 서비스를 제공하여 한국의 AI 혁신을 가속화할 계획이다. 에스넷시스템 유인철 AI/클라우드 센터장은 "XR클라우드 서비스와의 협력을 통해 고객사에게 최적화된 AI 및 GPU 클라우드 서비스를 본격적으로 제공할 수 있게 되었다"며 "에스넷시스템은 주요 IT 벤더들의 넘버원 파트너로서의 기술력과 클라우드허브 연계 서비스, 전문적인 운영 유지보수 역량을 바탕으로 AI인프라·서비스 통합사업자로서 자리매김할 수 있을 것으로 기대되며, 고객별 맞춤형 AI 솔루션을 제공하여 연구개발 및 서비스 구현을 성공적으로 지원할 것"이라고 밝혔다. 김장수 샌드힐컨설팅 대표는 "국내 주요 대기업, 연구기관, 대학 및 정부 연구기관, 금융권, AI 서비스 개발사 등 다양한 분야의 고객들에게 최적화된 GPU 인프라와 종합적인 클라우드 서비스를 제공함으로써 한국의 AI 혁신을 가속화하겠다"며 "각 산업의 특성에 맞는 맞춤형 서비스와 기술 지원을 통해 고객들이 연구개발과 서비스 구현을 성공적으로 이끌어갈 수 있도록 적극 지원할 것"이라고 밝혔다.

2025.02.14 11:32남혁우 기자

오세훈 서울시장 "5천억 AI 펀드 신설…GPU 지원 확대"

서울특별시가 인공지능(AI) 민간 투자를 위해 5천억원 규모 AI 펀드를 신설한다. 글로벌 AI 경쟁력 강화를 위한 전략적 조치다. AI 개발 핵심 인프라인 그래픽처리장치(GPU) 공급 확대도 추진한다. 11일 오세훈 서울시장은 코엑스 그랜드볼룸에서 열린 'AI 서울 2025' 컨퍼런스에 참석해 이같은 전략을 밝혔다. 그는 모든 산업을 AI 중심으로 재편한다는 정책 기조를 추진하겠다고 재차 강조했다. 오 시장은 "향후 2년간 AI 산업의 민간 투자 활성화를 위해 5조원 투자를 목표로 뒀다"며 "5조원 중 절반을 확보한 상태"라고 설명했다. 이어 "민간에 5천억원을 우선 투입하겠다"며 "이 투자금은 AI 모델 학습과 추론에 필요한 컴퓨팅 자원 확충에 사용될 예정"이라고 말했다. 오 시장은 투자 규모가 충분치 않다는 점을 인정했다. 그는 "미국 투자 규모와 비교하면 약 50배 작은 규모"라며 "이번 투자가 민간기업에 새로운 출발점이 되길 바란다"고 말했다. 서울시는 AI 3대 핵심 요소인 데이터, 알고리즘, 컴퓨팅 관련 기업에 집중 투자할 계획이다. 특히 전 산업에 걸쳐 AI 기술이 융합되는 추세를 지속적으로 모니터링하면서 AI 적용·응용 기업 지원도 강화할 방침이다. 또 오 시장은 GPU 서버 인프라를 확대해 AI 모델 학습 시간을 단축하고, 지속 가능한 연구개발(R&D) 환경을 조성할 방침이라고 강조했다. AI 인재 1만 명 양성…AI 허브 10배 확장 계획 서울시는 매년 AI 인재 1만 명을 양성해 AI 인력 수요에 대응한다고 발표했다. 청년취업사관학교 인재 4천 명과 대학 인재 6천 명 양성을 계획한 상태다. 청년취업사관학교는 2021년부터 영등포 캠퍼스 시작으로 현재 20개소 캠퍼스가 운영 중이다. 그동안 디지털 혁신 인재 7천 명 배출, 누적 취업률 75%를 기록했다. 올해 25개 캠퍼스 조성 완료와 AI 인재 양성을 목표로 교육과정을 재편했다. 서울시는 올해 AI 등 이공계 분야 석사과정 장학금 제도를 신설해 매년 확대한다고 밝혔다. 이를 통해 서울형 인재 발굴 지원체계를 강화할 계획이다. 오 시장은 "그동안 딥테크 분야 등 기업 인재를 육성해 온 서울 대학 캠퍼스타운 사업은 올해부터 캠퍼스타운 창업기업과 연계를 통한 AI 기업 인재 육성 기능을 강화했다"며 "지역혁신중심 대학지원체계(RISE) 사업 연계와 AI 관련 학과 지원으로 연간 6천 명 AI 인재를 양성할 계획"이라고 설명했다. 서울시는 현재 AI 허브보다 규모를 10배 확장한 '서울 AI 테크시티'를 양재 AI 혁신지구에 조성한다고 밝혔다. 2028년 착공을 목표로 뒀다. 국내외 대학원과 연구기관뿐 아니라 문화·주거공간까지 갖춘 복합공간으로 이뤄질 방침이다. 오 시장은 "AI 인재들이 창의적인 연구에만 전념할 수 있는 '서울 속 AI 산업도시'를 만들겠다"고 강조했다. 이 외에도 서울시는 산업 간 융복합, 글로벌화, 시민확산, 행정혁신 등을 핵심 전략 과제로 제시했다. 오 시장은 "서울에서도 오픈AI나 딥시크 수준의 개발이 이뤄질 수 있도록 추격조를 구성하는 전략적 지원을 아끼지 않을 것"이라고 밝혔다.

2025.02.11 10:50김미정 기자

하정우 센터장 "정부 GPU 확보 계획 긍정적…관건은 배분 방식"

"한국에서도 '딥시크-R1'가 나올 수 있습니다. 국내 기업은 이미 우수한 인공지능(AI) 기술을 갖췄기 때문입니다. 이미 딥시크-R1 개발 소스 80%도 공개된 상태입니다. 정부도 연내 그래픽처리장치(GPU) 1만5천장 확보를 약속했습니다. 앞으로 이 자원을 어떻게 배분할지가 관건일 것입니다." 네이버클라우드 하정우 AI혁신센터장은 국회의원회관에서 열린 '2025 디지털 정책포럼: AI 3대 강국 도약을 위한 혁신 생태계 조성 방안' 패널 토론에서 이같이 6일 밝혔다. 그동안 국내 기업이 AI 기술 축적을 이뤘다면 앞으로 정부가 GPU 등 인프라를 효율적으로 분배해야 한국형 딥시크-R1 탄생을 이끌 수 있다는 설명이다. 앞서 정부는 글로벌 인공지능(AI) 개발 트렌드에 맞춰 연내 GPU 1만5천 개를 확보하겠다고 발표했다. 애초 국가AI위원회 출범 당시 2030년까지 GPU 3만 장을 도입할 예정이었지만 최근 중국 딥시크가 AI 생태계에 돌풍을 일으켜 계획을 앞당겼다. 하정우 센터장은 "AI 혁신 핵심은 인프라의 규모 확장에 있다"며 "정부가 GPU를 확보한 후 이를 어떻게 잘 배분할지가 관건"이라고 강조했다. 하 센터장은 GPU를 무조건적으로 모든 기업에게 동일하게 나눠주는 것보다 사용 목적, 기술력 등을 고려해 효율적으로 공급하는 것이 바람직하다고 주장했다. 예를 들어 GPU 2만장을 2만개 기업에게 한 장씩 나눠주는 방식으로는 혁신을 만들 수 없다는 전망이다. 하 센터장은 GPU 배분 방식을 제안했다. 우선 GPU 절반은 네트워크로 연결된 기업·연구기관에 일정 기간 집중 활용되는 식이다. 이를 통해 AI 기술에 필요한 기초 연구들이 활발히 진행될 수 있다는 이유에서다. 나머지 GPU는 AI 스타트업과 학계에 지원하는 방식이다. 기업과 학계가 오픈소스 모델 기반으로 모델의 추가 학습과 파인튜닝을 할 수 있게 돕기 위해서다. 그는 GPU의 안전성도 보장돼야 한다고 강조했다. 사용자들이 쉽고 편리하게 GPU 같은 고성능 인프라를 활용할 수 있는 환경이 조성돼야 국내 AI 생태계 경쟁력을 강화할 수 있다는 이유에서다. 하 센터장은 "GPU는 고장이 잦은 장비"라며 "국가 AI 데이터 센터 같은 대규모 인프라가 구축될 경우 이를 안정적으로 운영할 수 있는 관리 체계가 반드시 마련돼야 한다"고 주장했다. 하 센터장은 AI 인재 양성을 위한 인건비 지원 방안도 제안했다. 기업과 학계, 정부가 협력하는 인재 육성 체계를 구축해야 한다고 말했다. 그는 "기업과 학교가 인건비를 50%씩 분담하고, 정부가 매칭 펀딩을 통해 추가 지원하면 AI 과학자들이 공공 분야에 기여할 수 있는 기반이 마련될 것"이라고 설명했다. 이어 "인건비 외에도 AI 연구자들에게 충분한 컴퓨팅 자원을 지원하는 것이 중요하다"며 "GPU를 적극 지원하면 연구자들의 동기부여와 연구 성과를 동시에 끌어올릴 수 있을 것"이라고 강조했다.

2025.02.06 17:54김미정 기자

[SW키트] 정부, 연내 GPU 1만5000개 확보 공언…업계 "현실성 부족"

정부가 글로벌 인공지능(AI) 개발 트렌드에 맞춰 연내 그래픽처리장치(GPU) 1만5천 개를 확보하겠다고 발표한 가운데 업계에선 실현 가능성이 작다는 지적이 이어지고 있다. 조 단위에 달하는 예산 집행부터 공간 확보, 전력 문제 등 넘어야 할 산이 많다는 이유에서다. 유상임 과학기술정보통신부 장관은 4일 정부서울청사에서 열린 '2025년 핵심과제 추진 상황에 대한 대국민 보고 브리핑'에서 AI 개발 경쟁력인 GPU 확보 계획을 이같이 밝혔다. 정부의 인프라 투자를 통해 국내도 딥시크-R1에 준하는 저비용·고효율 모델을 확보하겠다고 자신감을 내비쳤다. 정부는 애초 국가AI위원회 출범 당시 2030년까지 GPU 3만 장을 도입하겠다고 발표했으나 최근 중국 딥시크가 AI 생태계에 돌풍을 일으켜 이같은 전략을 발표한 것이다. 2030년을 목표로 전략을 추진했다간 뒤처질 수 있다는 판단에서다. 딥시크-R1은 중국 AI 스타트업 딥시크가 지난달 출시한 오픈소스 모델이다. 딥시크는 사전 연구와 실험을 제외한 모델 훈련에 557만6천 달러(약 80억원)들었다고 밝혔다. 이는 메타가 AI 개발에 투입한 비용의 10분의 1 수준이다. R1은 저사양 칩으로도 고성능 기능을 제공한다는 평가를 받고 있다. 같은 날 샘 알트먼 오픈AI 최고경영책임자(CEO)가 방한해 정신아 카카오 대표와 이재용 삼성전자 회장, 최태원 SK그룹 회장, 김창한 크래프톤 대표를 만나 AI 관련 사업 협력 방안을 논의했다. 일각에서는 해외 기업의 협업과 정부의 인프라 투자가 한국 AI 생태계 경쟁력을 끌어올릴 수 있을 것이란 기대감을 내비쳤다. "선언적 발표 가능성"…예산 미확정·물량 확보 이슈 지적 업계에선 정부의 GPU 확보 계획에 현실성이 부족하다고 지적했다. 정부가 충분한 예산과 전략 문제, 공간 확보에 대한 준비를 철저히 하고 이를 발표한 것인지 의문이라는 주장이다. 이번 정부 발표가 선언적 발언에 그칠 수 있다는 가능성에 무게를 두고 있다. 익명을 요청한 한 업계 관계자는 "GPU 1만5천 장을 구입하려면 약 2조가 필요하다"며 "여기에 설치 등 인프라 비용까지 합치면 수조 단위 예산이 들 것"이라고 설명했다. 이어 "GPU 작동 시 발생하는 전력 문제 해결과 공간 확보도 중요하다"며 "철저한 준비 없이 연내 계획 실현은 힘들 것"이라고 말했다. 정부가 GPU 구입을 위한 예산을 확정하지 않은 상태인 것으로 전해졌다. 당초 과기정통부는 국가 AI컴퓨팅센터 구축과 GPU 3만 장 구입을 위해 4조원을 투자하겠다고 발표한 바 있다. 정부와 민간은 2조원씩 마련하기로 했다. 또 다른 업계 관계자는 "현재 이를 위한 예산 배정이 확정되지 않았다"며 "예산 확보가 미정인 상태에서 구입 비용을 어디서 마련할 수 있을지 의문"이라고 지적했다. 예산이 있어도 문제다. 엔비디아가 GPU 물량을 연내 정부에 공급할지 불확실해서다. 그동안 엔비디아는 GPU 물량을 대량 신청하는 기업·정부에 공급 우선권을 주는 사례가 있기는 하다. 다만 100% 장담할 수는 없다. 그는 "정부가 1만5천 장을 한번에 주문한다고 해서 엔비디아가 주문 우선권을 무조건 준다는 보장도 없다"며 "향후 추가 발표를 지켜봐야 할 것"이라고 말했다.

2025.02.04 17:37김미정 기자

엔비디아 "딥시크 AI 혁신, GPU 수요 더 증가시킬 것"

엔비디아가 27일(미국 현지시간) 중국 AI 스타트업 딥시크(DeepSeek)가 공개한 새 AI 모델 'R1'에 대해 긍정적인 평가를 내왔다. 딥시크 R1은 20일 공개된 추론 특화 AI 모델이다. 자체 테스트 결과에 따르면 딥시크 R1은 일부 테스트에서 오픈AI의 추론 특화 모델 'o1'보다 나은 성능을 보였다. 또 2022년 미국 상무부의 수출 통제 조치를 우회하기 위해 엔비디아가 성능을 낮춘 H800 GPU를 이용했다. 모델 훈련에 든 순수 비용은 557만6천달러(약 80억원)이며 메타가 라마(LLaMa) 등 AI 모델 개발에 투입한 비용의 10% 수준이다. 지난 주 알렉산더 왕 스케일AI CEO는 미국 CNBC와 인터뷰에서 "딥시크가 미국 정부의 수출 규제를 우회해 고성능 GPU를 썼을 것"이라고 주장했다. 그러나 엔비디아는 "시크가 사용한 GPU가 미국의 수출 규정을 완전히 준수했다"고 확인했다. 27일 미국 증권 시장에서는 딥시크 R1 이후 비교적 성능이 낮은 GPU로 고성능 AI 모델 개발이 활발해질 것이라는 전망에 따라 엔비디아 주가가 크게 하락했다. 1주당 가격은 지난 주 대비 16.86% 하락한 118.58달러(약 17만 2천원)로 마감했고 시가총액은 6천억 달러(약 868조원) 가까이 줄었다. 미국 CNBC에 따르면 엔비디아는 "딥시크는 탁월한 AI 발전의 사례이며, 사용 가능한 모델과 완전한 수출 통제 준수 하에 구축된 컴퓨팅을 활용하여 새로운 모델을 생성하는 방법을 잘 보여준다"고 밝혔다. 엔비디아 관계자는 이어 "추론은 상당히 많은 엔비디아 GPU와 고성능 네트워킹이 필요하다. 이와 같은 딥시크의 혁신이 GPU 수요를 더욱 증가시킬 것"이라고 전망했다.

2025.01.28 16:22권봉석 기자

SK하이닉스, 엔비디아에 'HBM4' 조기 공급...6월 샘플·10월 양산할 듯

SK하이닉스가 이르면 올해 6월 엔비디아에 HBM4(6세대 고대역폭메모리) 샘플을 출하할 계획인 것으로 파악됐다. 이르면 3분기말께부터 제품 공급이 시작될 것으로 관측된다. 당초 하반기 공급에서 일정을 다소 앞당긴 것으로, SK하이닉스는 차세대 HBM 시장을 선점하기 위해 양산화 준비를 서두르고 있다. 15일 업계에 따르면 SK하이닉스는 오는 6월 HBM4의 첫 커스터머 샘플(CS)을 고객사에 조기 공급하는 것을 목표로 세웠다. HBM4는 HBM은 여러 개의 D램을 수직으로 적층한 차세대 메모리다. 현재 5세대 제품인 HBM3E까지 상용화에 이르렀다. HBM4는 이르면 내년 하반기 양산이 시작될 것으로 전망된다. HBM4는 데이터 전송 통로인 I/O(입출력 단자) 수를 이전 세대 대비 2배 많은 2048개로 집적해 성능을 극대화했다. 엔비디아의 경우 당초 2026년 차세대 고성능 GPU '루빈(Rubin)' 시리즈에 12단 적층 HBM4를 탑재하기로 했었으나, 계획을 앞당겨 올 하반기 출시를 목표로 하고 있다. 이에 따라 SK하이닉스도 HBM4 개발에 속도를 내고 있다. 회사는 엔비디아향 HBM4 공급을 위한 전담 개발팀을 꾸리고, 지난해 4분기 HBM4 테이프아웃을 완료했다. 테이프아웃이란 연구소 수준에서 진행되던 반도체 설계를 완료하고, 도면을 제조 공정에 보내는 과정이다. 이후 SK하이닉스는 HBM4의 샘플을 고객사에 보내는 일정도 당초 올 하반기에서 6월로 앞당겼다. 해당 샘플은 고객사에 제품을 양산 공급하기 전 인증을 거치기 위한 커스터머 샘플로 알려졌다. HBM4 양산화를 위한 마지막 단계에 돌입한다는 점에서 의미가 있다. 사안에 정통한 관계자는 "엔비디아도 올해 하반기로 시험 양산을 당길만큼 루빈에 대한 초기 출시 의지가 생각보다 강한 것으로 보인다"며 "이에 맞춰 SK하이닉스 등 메모리 기업도 샘플의 조기 공급을 추진하고 있다. 이르면 3분기 말께는 제품 공급이 가능할 것"이라고 설명했다. HBM4는 주요 메모리 기업들의 차세대 고부가 메모리 시장의 격전지가 될 전망이다. 삼성전자는 HBM4에 탑재되는 D램에 1c(6세대 10나노급 D램)을 탑재할 계획이다. 경쟁사인 SK하이닉스와 마이크론이 1b D램을 기반으로 하는 것과 달리, 한 세대 앞선 D램으로 성능에서 차별점을 두겠다는 전략으로 풀이된다. 마이크론 역시 최근 진행한 회계연도 2025년 1분기(2024년 9~11월) 실적발표에서 "오는 2026년 HBM4의 본격적인 양산 확대를 진행할 계획"이라고 밝힌 바 있다.

2025.01.15 13:29장경윤 기자

AI칩 주도권 노리는 삼성…"서버·폰·TV용 NPU 모두 개발 중"

"NPU의 성장 가능성은 매우 높다. 삼성에서도 '마하'와 같은 클라우드용 NPU와 스마트폰에서 활용 가능한 온-디바이스용 NPU 등 여러 개발 프로젝트를 가동하고 있다. 특히 삼성리서치는 TV용 NPU를 개발하고 있다." 김대현 삼성리서치 글로벌AI센터장은 14일 여의도 국회의원회관에서 회사의 AI 가속기 발전 동향에 대해 이같이 밝혔다. NPU 성장성 유망…삼성도 서버·폰·TV 등 NPU 전방위 개발 현재 AI 반도체 시장은 글로벌 팹리스인 엔비디아의 고성능 GPU(그래픽처리장치)가 사실상 독과점 체제를 이루고 있다. GPU는 복수의 명령어를 동시에 처리하는 병렬 처리 방식이기 때문에, 방대한 양의 데이터를 반복적으로 연산해야 하는 AI 산업에 적극적으로 채용되고 있다. 김 센터장은 "엔비디아 GPU가 AI 데이터센터를 구축하는 가장 보편적인 반도체가 되면서, 이를 얼마나 확보하느냐가 AI 경쟁력의 바로미터가 됐다"며 "마이크로소프트나 메타가 수십만개를 확보한 데 비해, 삼성의 경우 1만개 내외로 아직 부족한 것이 사실"이라고 말했다. 특히 엔비디아는 자사 GPU 기반의 AI 모델 학습, 추론을 완벽하게 지원하는 소프트웨어 스택 '쿠다(CUDA)'를 제공하고 있다. 덕분에 개발자들은 대규모 AI 모델 학습 및 추론을 위한 다양한 툴을 활용할 수 있다. 다만 향후에는 NPU(신경망처리장치) 등 대체제가 활발히 쓰일 것으로 전망된다. NPU는 컴퓨터가 데이터를 학습하고 자동으로 결과를 개선하는 머신러닝(ML)에 특화된 칩이다. GPU 대비 범용성은 부족하나 연산 효율성이 높다. 김 센터장은 "NPU는 AI만 집중적으로 잘하는 반도체로, GPU가 AI 성능이 100이라면 NPU는 1000정도"라며 "엔비디아의 칩이 너무 비싸기 때문에, 글로벌 빅테크 기업들도 각각 성능과 효율성을 극대화한 맞춤형 AI 가속기를 개발하고 있다"고 설명했다. 삼성전자도 데이터센터, 온-디바이스AI 등 다양한 산업을 위한 NPU를 개발 중인 것으로 알려졌다. 김 센터장은 "삼성에서도 NPU 하드웨어와 소프트웨어, AI 모델에 이르는 전 분야를 개발하고 있고, 내부적으로 여러 개의 NPU 개발 프로젝트를 진행 중"이라며 "마하와 비슷한 또 다른 프로젝트가 있고, 삼성리서치는 TV용 NPU를 개발 중"이라고 설명했다. 앞서 삼성전자는 네이버와 협력해 자체 AI 가속기인 '마하'를 공동 개발해 왔으나, 양사 간 이견이 커져 프로젝트가 무산됐다. 대신 삼성전자는 자체 인력을 통해 AI 가속기 개발을 지속하기로 한 바 있다. 국내 AI칩 생태계 크려면…하드웨어·소프트웨어 균형 지원 필요 리벨리온, 퓨리오사AI 등 국내 스타트업도 데이터센터용 NPU를 자체 설계해 왔다. 각 기업은 국내 및 해외 테크 기업과 활발히 협력하면서 본격적인 시장 진입을 추진하고 있다. 김 센터장은 "국내 AI 반도체 스타트업들이 성공하기 위해서는 하드웨어와 소프트웨어 분야를 균형있게 지원해줄 수 있는 방안이 필요하다"며 "현재 이들 기업이 투자에만 의존하고 있지만, 궁극적으로는 데이터센터 기업과 연동돼 자생할 수 있는 생태계를 조성할 수 있도록 해줘야 한다"고 강조했다. 한편 이번 김 센터장의 발표는 고동진 국회의원이 주최한 '엔비디아 GPU와 함께 이야기되고 있는 TPU와 NPU 기술 등에 대한 현황분석 간담회'에서 진행됐다. 고동진 의원은 "우리나라의 AI 반도체 생태계 강화를 위해서는 국내 기업들을 활용한 데이터센터 인프라 구축이 필요하다"며 "엔비디아, 구글, 아마존 등 기존 주요 기업의 인프라를 쓰는 동시에, 국내 스타트업의 시스템반도체를 테스트베드화해서 1년 반 안에 수준을 끌어올리는 방향으로 가야한다고 생각한다"고 말했다.

2025.01.14 10:53장경윤 기자

델·슈퍼마이크로에 밀리던 HPE, 일론 머스크 덕에 AI 서버 시장서 존재감 '업'

일론 머스크 테슬라 최고경영자(CEO)가 운영하는 소셜네트워크 X(옛 트위터)가 인공지능(AI) 서비스 강화를 위해 HPE의 서버를 택했다. 머스크가 설립한 AI 스타트업 xAI와 서버를 공유하기 위한 것으로, 이번 일로 AI 서버 시장 내 HPE의 위상도 한층 올라섰다는 평가다. 13일 블룸버그통신 등에 따르면 X는 최근 AI 서버를 새롭게 구축하기 위해 HPE와 10억 달러(약 1조4천700억원)가 넘는 계약을 맺은 것으로 알려졌다. 이번 계약은 AI 서버 업체인 델 테크놀로지스, 슈퍼마이크로 등도 참여한 경쟁 입찰을 거쳐 지난해 말 마무리됐다. AI 서버 비용 중 일반적으로 그래픽처리장치(GPU)가 절반을 차지한다는 점을 고려해 볼 때 이번 계약에서 GPU는 5억 달러 규모로, 1만 개 이상의 엔비디아 '블랙웰' GPU가 투입될 것으로 추산됐다. 머스크 CEO의 이 같은 움직임은 그가 공동 창립했지만 떠난 챗GPT 개발사 오픈AI를 의식한 행보로 풀이된다. 머스크 CEO는 지난 2023년 xAI를 설립한 후 인재 채용은 물론, 수십억 달러 규모의 투자 유치, 미국 테네시주 멤피스 내 데이터센터 건설 등으로 글로벌 AI 시장에서 xAI의 경쟁력을 강화해 오픈AI를 뛰어 넘기 위해 안간힘을 쓰고 있다. 특히 최근에는 xAI를 위한 자체적인 데이터센터를 미국 전역에 건설하며 AI 인프라 강화에 총력을 기울이고 있다. X와 xAI는 AI 인프라를 공유하는 것으로 알려진 만큼, 새로운 서버는 xAI의 AI 챗봇 '그록' 개발과 운영에 활용될 가능성이 크다. 앞서 xAI는 지난달부터 X를 통해 '그록'의 무료 버전을 제공해왔으나, 최근 앱까지 출시하며 이용자 확보에 본격 나선 상태다. '그록' 앱은 이번에 초기 베타 서비스로 미국에서만 아이폰 앱스토어에 먼저 출시됐다. 이번 일로 HPE도 시장 내 입지가 더 높아질 것으로 보인다. HPE는 그간 AI 서버 시장에서 델 테크놀로지스, 슈퍼마이크로에 비해 존재감이 다소 밀리는 분위기였다. xAI가 세계 최대 규모인 데이터센터 '콜로서스'에도 델 테크놀로지스, 슈퍼마이크로만 택했다는 소식이 전해지기도 했다. 블룸버그통신은 "HPE의 AI 서버 사업은 델과 슈퍼마이크로에 비해 상대적으로 뒤처진 것으로 여겨져 왔다"며 "하지만 이번 계약으로 HPE에 대한 xAI의 신뢰가 드러났다"고 평가했다. 그러면서 "AI 서버에는 엔비디아를 비롯한 여러 회사의 고성능 칩이 탑재돼 있다"며 "HPE의 수냉식 기술이 이번 계약에 중요한 역할을 한 것으로 보인다"고 덧붙였다. 이처럼 xAI 외에도 마이크로소프트, 아마존 등 빅테크들이 최근 AI 인프라에 투자 속도를 높이고 있다는 점에서 AI 서버 시장은 앞으로도 훈풍이 불 것으로 보인다. 아마존웹서비스(AWS)는 이달 들어 미국 조지아주의 데이터센터 확장을 위해 최소 110억 달러(약 15조원)를 투입하겠다고 밝혔다. 지난해 12월에는 미국 오하이오주에 데이터 센터 확장을 위해 2030년까지 230억 달러(약 33조원)를 지원하겠다고 발표했다. 마이크로소프트도 올해 6월까지 데이터센터에 800억 달러(약 118조원)를 투자하겠다고 밝혔다. 비저블 알파의 조사에 따르면 MS의 2025 회계연도 자본 지출은 842억4천만 달러에 이를 것으로 예상된다. 이는 전년보다 42%가 늘어난 것이다. 시너지 리서치 그룹은 데이터센터 인프라 지출이 지난해 34% 증가한 2천820억 달러에 이를 것으로 추산했다. 시너지 리서치 그룹은 "지난해에는 엔비디아의 폭발적인 성장이 단연 주목됐다"며 "하지만 이 중 많은 부분은 서버 및 시스템 공급업체의 매출 증가를 통해 나타났다"고 설명했다.

2025.01.13 10:41장유미 기자

SKT, 가산 AI데이터센터 오픈...엔비디아 H100기반 클라우드 출시

SK텔레콤은 지난 12월30일 가산 AI 데이터센터(AIDC)를 오픈하고, 시범 운영을 마친 뒤 AI 클라우드 서비스인 'SKT GPUaaS'를 출시했다고 13일 밝혔다. SK텔레콤은 지난 SK AI 서밋 2024에서 AI 인프라 슈퍼 하이웨이 구축 전략을 발표한 뒤 연말 조직 개편에서 AIDC 사업부를 별도 조직으로 신설하며 'AI 인프라' 사업 본격화에 속도를 내고 있다. 새롭게 오픈한 가산 AIDC는 랙당 전력밀도가 국내 최고 수준인 44kW로 국내 데이터센터 랙 당 평균 전력밀도인 4.8kW의 약 9배에 달하는 등 고밀도 GPU 서버 운영 환경에 최적화된 데이터 코로케이션 환경을 제공한다. 엔비디아 H100 기반 'SKT GPUaaS' 출시… 람다와 1년 준비 'SKT GPUaaS'는 미국 람다와 지난 약 1년간 함께 준비한 구독형 AI 클라우드이다. 이를 위해 가산 AIDC에 람다의 한국 리전을 유치했다. 아시아태평양 지역에 처음으로 생기는 람다의 리전이다. SK텔레콤은 지난해 2월 AIDC 사업 본격 추진을 위한 첫 번째 글로벌 행보로 글로벌 GPU 클라우드 회사인 람다(Lambda)에 투자를 진행했다. 2012년 AI 엔지니어들이 설립한 람다는 글로벌 빅테크 기업들을 대상으로 AI 클라우드 서비스를 제공하는 GPUaaS 기업으로, SK텔레콤은 람다와의 협력을 통해 GPU의 안정적 확보를 기반으로 AI 클라우드 시장 공략에 본격 나설 계획이다 SK텔레콤이 출시한 GPUaaS는 엔비디아 GPU H100을 기반으로 한다. 서비스 구독을 원하는 기업 고객은 AI 서비스 규모나 목적에 따라 GPU 수량과 기간을 선택하고 단독 서버, 방화벽, 전용회선 등 맞춤형 패키지를 구성할 수 있다. 고객사는 독자적인 GPU를 사용해 안정적 AI 학습과 추론을 시행할 수 있다. 방화벽과 전용 회선을 활용할 경우 보안성 역시 크게 강화할 수 있다. 또한 고객의 AI 작업량이 급격히 늘어나더라도 단독 서버에 GPU를 손쉽게 추가할 수 있어 추가 시설 투자에 대한 부담을 크게 덜 수 있다. 또한 GPUaaS는 퍼블릭 클라우드와 상호 연동이 가능하다. 기업 고객이 기존에 사용하던 클라우드를 그대로 활용하면서 SK텔레콤의 GPU 컴퓨팅 파워를 이용할 수 있는 것이다. GPUaaS와 SK텔레콤의 'AI 클라우드 매니저'를 함께 활용하면 GPU 자원을 보다 효율적으로 관리할 수 있다. 'AI 클라우드 매니저'는 수많은 GPU 자원을 마치 한 대의 컴퓨터처럼 관리해 GPU 성능을 극대화하고, AI 개발을 위한 학습 소요 시간을 단축하도록 지원하는 솔루션이다. GPUaaS 가격은 약정 기간, GPU 개수, 선불형의 과금 형태에 따라 탄력적으로 책정했다. 예컨대 고객이 24개월 동안 32개의 GPU를 원할 경우 이에 맞는 가격을 설정하는 방식이다. 1개월, 2개월 등 단기 서비스 이용도 가능하다. SK텔레콤은 GPUaaS 출시를 기념해 특별 프로모션도 진행한다. 2월 말까지 약 2개월 간 구독 가격의 20% 할인한다. GPU 교체 보상 프로그램, 클라우드 비용 최적화 컨설팅 등의 이벤트도 시행할 예정이다. 1분기 중 H200 도입 SK텔레콤은 GPUaaS 정식 출시 전부터 100개가 넘는 기업들이 구체적인 내용 문의를 받았다. 특히 대기업, 중소기업뿐만 아니라 AI를 연구하는 각종 대학과 연구 기관에서도 큰 관심을 보였다. 기업들은 GPUaaS를 이용하고 싶은 이유에 대해 ▲고성능 GPU 활용 따른 AI 모델 학습 기간 단축 ▲GPU를 합리적인 가격에 짧은 기간도 이용 가능 ▲서버 구매와 데이터센터 운영 고민 없이 GPU 자원 바로 사용 등으로 꼽았다. 이와 함께 SK텔레콤은 1분기 중 최신 GPU인 H200도 도입할 예정이다. 국내 최초로 H200을 도입해 국내 기업들이 보다 빠르게 AI 기술과 서비스를 개발할 수 있는 환경을 조성하고, GPUaaS 고객 확대에도 박차를 가할 계획이다. 김명국 SK텔레콤 GPUaaS사업본부장은 “GPUaaS 출시는 AI 데이터센터 사업이 고객에게 다가가는 첫번째 사례로 SK텔레콤이 AI 인프라 핵심 사업자로 자리매김하는데 의미가 크다”며, “국가 AI 경쟁력을 높이는 GPU 팜으로 구축하겠다"고 말했다.

2025.01.13 09:16박수형 기자

  Prev 21 22 23 24 Next  

지금 뜨는 기사

이시각 헤드라인

6년 만에 더 커지고 똑똑해진 신형 투싼…10월 국내 출격

트럼프 "'AI 군' 창설…인공지능 이름도 바꾸자"

전력기기 호황에 노조 생긴 효성重…내년 역대급 성과급 기대감↑

[ZD브리핑] 미중 정상회담·김범수 항소심 결심…추석 앞 산업·IT 이슈는

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.