• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 인터뷰
  • 인사•부음
  • 글로벌뉴스
창간특집
인공지능
배터리
컨퍼런스
칼럼•연재
포토•영상

ZDNet 검색 페이지

'GPUaaS'통합검색 결과 입니다. (6건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

"국산 AI 모델 키운다"…정부, 1천723억원 들여 대규모 GPU 임차 '속도'

정부가 1차 추경을 통해 확보한 예산을 바탕으로 1천723억원 규모 클라우드 기반 그래픽처리장치(GPU) 임차 사업을 추진한다. 이를 통해 우리나라 대표 인공지능(AI) 파운데이션 모델을 개발하는 '월드 베스트 LLM(WBL) 프로젝트'와 산·학·연을 지원할 계획으로, 업계의 관심이 집중되고 있다. 30일 업계에 따르면 과학기술정보통신부와 정보통신산업진흥원(NIPA)은 최근 GPU 임차 지원 사업을 공고하고 지난 29일 설명회를 진행했다. 이번 사업은 'AI컴퓨팅 자원 활용 기반 강화'와 '고성능컴퓨팅 지원' 등 2개의 사업으로 진행된다. 클라우드를 기반으로 민간 클라우드 서비스 기업(CSP)이 보유한 GPU 자원을 일정 기간 임대해 AI 연구·개발·서비스를 지원하는 것이 목적이다. '국가AI컴퓨팅센터'에 투입될 GPU 구매·임차 사업과는 별개의 사업으로 진행되나, 국가 주도의 AI 모델 개발을 지원할 수 있는 대형 공공 서비스형 GPU(GPUaaS)라는 점에서 클라우드 업계가 큰 관심을 보이고 있다. 특히 이번 사업의 경우 지원사·공급사 모두 국내 기업만이 신청할 수 있다. 먼저 AI컴퓨팅 자원 활용 기반 강화 사업은 2개의 트랙으로 나눠 최신 엔비디아 GPU인 B200 임차 기업과 H100·H200 임차 기업 2곳을 선정한다. 각 트랙당 요구하는 GPU 자원을 1천 장씩 지원할 수 있어야 사업에 참여할 수 있다. 트랙별 공급사는 1곳씩 선정하며 GPU 자원 제공 기간은 오는 8월부터 내년 6월 30일까지 11개월이다. 고성능컴퓨팅 지원 사업은 B200을 최소 100장에서 300장, H100·H200을 200장에서 600장까지 4개월간 제공할 수 있어야 한다. 이 사업에서는 2개 이상의 공급사가 선정될 예정이다. 정부는 다음 달 24일까지 모집을 완료하고 기술평가 80%와 가격평가 20%를 기준으로 70점을 넘긴 공급사 중 최종 선정해 현장실사 및 기술·가격 협상을 추진할 계획이다. 이번 사업의 주요 공급사로는 오는 7월 선정될 WBL 프로젝트 참여 기업들이 될 것으로 전망된다. 현재 국내 클라우드 시장에서는 삼성SDS, KT클라우드, NHN클라우드 등 CSP 대부분이 GPUaaS 사업을 추진 중이다. 여기에 더해 통신사인 SKT도 최근 GPUaaS 사업 확대에 속도를 내고 있다. 국가AI컴퓨팅센터 사업 참여 의사를 드러내지 않은 기업들도 이번 임차 사업에는 적극 나설 것으로 예상되고 있다. 업계 관계자는 "이번 사업 평가에 가격평가 비중이 작지 않은 만큼, GPU 서비스의 가격 경쟁력을 갖춘 사업자가 수주에 유리할 것"이라며 "국내 기업으로만 참여가 한정된 점, 국가AI컴퓨팅센터 사업과 달리 일정한 수익성이 보장된다는 점 덕분에 CSP들의 관심이 클 것"이라고 설명했다.

2025.05.30 15:33한정호

구독형 GPU 사업에 사활 건 SKT, '이 기업' 손잡고 AI 인프라 시장 입지 강화 모색

아이티센과 SK텔레콤이 서비스형 GPU(GPU as a Service, GPUaaS) 사업 확대를 위해 손을 맞잡고 기업과 공공기관이 인공지능(AI) 기술을 보다 효율적으로 도입하고 활용할 수 있도록 지원에 나선다. 아이티센은 SK텔레콤과 인공지능(AI) 사업 협력을 위한 양해각서(MOU)를 체결했다고 27일 밝혔다. 이번 협약을 통해 양사는 GPUaaS 및 AI 클라우드 매니저(AI Cloud Manager) 사업을 공동 추진한다는 방침이다. 또 차별화된 클라우드 기반 AI 서비스를 통해 AI 인프라 시장에서 입지를 확장하고, 데이터 주권을 강화한 생성형 AI 생태계를 조성하는 것을 목표로 내세웠다. GPUaaS는 AI 및 머신러닝(ML) 워크로드를 위한 고성능 GPU 인프라를 클라우드 기반으로 제공하는 서비스로, 기업들이 필요에 따라 GPU 자원을 유연하게 활용할 수 있도록 지원한다. 아이티센은 SK텔레콤이 추진 중인 최신 GPU 기반 GPUaaS 사업에 협력한다. 다양한 고객 경험을 바탕으로 기업의 서비스 요건과 AI 워크로드에 맞춘 비용 효율적인 생성형 AI 인프라 구축을 도울 예정이다. 이를 통해 기업들은 AI 인프라를 신속하게 도입하고 AI 모델 학습·운영 속도 및 추론 비용 효율을 개선할 수 있다. 또 초기 투자 비용을 절감하면서도 고성능 GPU 연산을 유연하게 활용할 수 있는 클라우드 서비스를 제공받을 수 있다. 강진모 아이티센 회장은 "SK텔레콤이 보유한 선도적인 AI 인프라 및 솔루션의 판매를 강화하기 위해 자사의 파트너 에코시스템을 적극 활용할 것"이라며 "클라우드 네이티브 아키텍처 기반 AI 인프라 구축 및 운영 노하우, 다양한 고객 니즈에 맞춘 맞춤형 솔루션 제공 역량을 활용해 AI 사업 협력을 지속적으로 확대할 계획"이라고 밝혔다. 아이티센과 SK텔레콤은 향후 GPU 기반 AI 인프라 확장과 시장 활성화를 위한 공동 프로젝트를 추진할 예정이다. 또 다양한 산업 분야에서 고객의 업무를 지원하고 AI 기반 인프라 및 서비스 생태계를 공동 구축하는 등 AI 사업 협력을 지속 확대할 계획이다. 하민용 SK텔레콤 부사장은 "자사는 고성능 GPU를 기반으로 한 GPUaaS 사업을 확장하고자 한다"며 "이번 아이티센과의 협력이 공공과 금융, 클라우드 분야에 있어 AI 인프라 영향력을 확대할 수 있는 기회가 될 것"이라고 강조했다.

2025.03.27 11:17장유미

AI 개발 최대 장벽 GPU 인프라…KT클라우드가 내세우는 해결책은?

KT클라우드가 초거대 인공지능(AI) 구축에 드는 수천억원 이상의 초기 인프라 비용 문제를 해결하기 위해 '서비스형 GPU(GPUaaS)' 확산에 총력을 기울인다. 정미진 KT클라우드 AI사업팀장은 20일 'KT클라우드 AI 사업·GPUaaS 상품 라인업' 온라인 웨비나에서 "가장 효율적인 AI 인프라 도입·활용 서비스 GPUaaS로 고객의 AI 경쟁력 향상을 돕겠다"고 말했다. 최근 고성능 AI 모델의 등장과 AI 서비스 개발 수요가 증가함에 따라 AI 학습·추론을 지원하는 고성능 GPU 인프라 확보가 기업들의 필수 역량이 되고 있다. 이에 많은 기업들이 수천억원이 드는 높은 인프라 구축 비용과 자원 제약, 부족한 인력 등 다양한 어려움을 느끼는 실정이다. KT클라우드는 이러한 AI 개발 장벽을 해소하기 위해 자사 AI 데이터센터·클라우드 상에서 운용되는 GPUaaS 서비스를 확산하고 있다. KT클라우드가 제공하는 GPUaaS 상품은 'AI 트레인(TRAIN)'과 'AI 서브(SERV)' 등 2종이다. AI 트레인은 대규모 AI 학습을 빠르고 효율적으로 할 수 있도록 돕는 엔비디아 GPU 기반 자원 할당 서비스다. 특히 GPU 연산이 끝나면 수작업 없이도 자원을 자동 회수하고 순수 사용 시간만 과금하는 동적할당 기능을 제공해 우수한 경제성을 갖췄다. 또 수십장 규모의 GPU를 누구나 쉽게 셀프서비스로 사용할 수 있도록 지원한다. AI 서브는 모델 추론 특화 서비스로 GPU를 조각 단위로 활용할 수 있는 GPU 프래그멘테이션(Fragmentation)을 지원한다. 또 트래픽 변화에 맞춰 자동으로 GPU 자원을 확장·축소하는 오토스케일링 기능도 갖췄다. AI 트레인과 마찬가지로 AI 서브도 고성능의 엔비디아 GPU 자원을 제공한다. 더불어 KT클라우드는 긴밀한 협력을 이어오고 있는 AI 반도체 스타트업 리벨리온의 신경망처리장치(NPU) '아톰(ATOM)'을 기반으로 한 'AI 서브 NPU'도 서비스 중이다. 이에 대해 정 팀장은 "3년 전부터 리벨리온과의 사업 협력을 통해 GPU뿐만 아니라 NPU도 서비스로 제공하고 있다"며 "NPU 기술지원 조직도 함께 신설함으로써 AI 추론 영역에 집중해 사용자 편의성을 높일 계획"이라고 밝혔다. KT클라우드는 AI 트레인과 AI 서브 등 GPUaaS 서비스를 고도화하기 위한 AI 데이터센터 확충에도 나선다. 청주·용산에 GPU 특화 데이터센터를 구축했고 올 3분기에는 경북 데이터센터 운영을 앞두고 있다. 또 KT클라우드는 최근 확보한 엔비디아의 최신 GPU인 H200을 서비스에 추가 적용하고 성능을 높일 계획이다. 이에 더해 AI 서비스 개발을 위해 모델 학습과 추론보다 선행돼야 하는 데이터 가공 과정을 지원하는 신규 서비스도 선보일 예정이다. 다양한 외부 파트너십 체결도 준비하고 있다. 나아가 고객이 AI 모델 개발의 반복 작업을 간소화하고 운영 비용도 절감할 수 있도록 AI 운영관리(Ops) 서비스를 올 1분기 내 출시한다. 산업별 맞춤형 거대언어모델(LLM) 구축을 돕기 위한 검색 증강 생성(RAG) 서비스도 연이어 선보일 계획이다. 정 팀장은 "앞으로도 많은 기업이 인프라 걱정 없이 비용효율적으로 AI 서비스를 개발할 수 있도록 고객과 함께 고민하고 지원하겠다"고 강조했다.

2025.03.20 17:40한정호

KT, 래블업과 GPU 구독 서비스 협력..."국내 AI 생태계 확장"

KT는 AI 스타트업 래블업과 함께 GPU 구독 서비스(GPUaaS) 사업을 추진한다고 27일 밝혔다. KT는 기술력을 가진 스타트업과 지속 협력해 AI 생태계를 확장하는 한편 실질적인 AI 서비스 개발에 나선다. 양사는 이번 협약으로 GPUaaS 서비스를 공동 개발하고 사업을 추진한다. 다른 서비스와의 차별화를 위해 KT GPUaaS만의 기능과 기술도 선보인다. 최근 전세계적인 AI전환 수요 증가로 GPUaaS 시장이 빠르게 성장하는 것을 고려해 조속한 시일 내에 서비스를 출시할 계획이다. GPUaaS는 AI 모델 훈련과 같은 고성능 컴퓨팅이 필요한 기업에 GPU 자원을 빌려주는 서비스다. GPU를 직접 보유하지 않고 필요한 만큼만 사용하기 때문에 누구나 합리적인 비용으로 AI 개발 환경을 조성할 수 있다. 래블업은 AI 인프라 운영 관리 플랫폼을 개발하는 기업이다. GPU 자원을 가상화하고 필요한 곳에 유연하게 할당 및 관리해 고객들이 보다 효율적으로 GPU를 사용할 수 있도록 돕는다. 래블업은 수차례 유망 AI 스타트업으로 선정된 바 있으며 대표 상품인 백엔드닷에이아이(Backend.AI) 솔루션은 아시아 태평양 지역서 유일하게 엔비디아 DGX-레디 소프트웨어(DGX-Ready Software) 검증을 받았다. KT는 우수한 국내 기업과 연계해 고객 관점의 AX 솔루션을 제공하기 위한 노력을 이어 나갈 방침이다. 송승호 KT 전략·사업컨설팅부문 SPA본부장은 “KT가 기업 고객의 AI 전환을 도와줄 솔루션을 위해 다수의 파트너사들과 협력하고자 한다”라며 “래블업과 협력해 GPU가 필요한 많은 기업들에게 GPUaaS 서비스를 지원하겠다”고 밝혔다.

2025.02.27 10:15최지연

KT클라우드, 구독형 GPU에 엔비디아 'H200' 적용…고성능 AI 인프라로 고객 확보 가속

KT클라우드가 엔비디아의 최신 그래픽처리장치(GPU)를 인공지능(AI) 인프라에 적용하며 GPU 서비스를 한층 강화한다. AI 학습과 추론 워크로드 최적화를 앞세워 공공기관·스타트업 고객 확보에 나서기 위함이다. KT클라우드는 자사의 AI 훈련 서비스에 엔비디아 'H200'을 도입해 AI 인프라 성능을 개선한다고 24일 밝혔다. 기존 'H100' 기반의 AI 훈련 서비스에 최신 GPU를 추가해 연산 처리 성능과 전력 효율을 향상시키는 것이 이 프로젝트의 핵심이다. KT클라우드는 사용량 기반의 '서비스로의 GPU(GPUaaS)'를 제공하며 AI 학습과 추론 영역에 최적화된 인프라를 구축해왔다. 특히 AI 훈련 서비스는 대규모 GPU 노드 클러스터링과 동적할당 제어 기능을 통해 대량의 연산 작업을 효율적으로 처리할 수 있도록 설계됐다. GPU 노드 클러스터링은 여러 GPU 서버를 하나의 클러스터로 묶어 연산 성능을 극대화하는 기술로, 대규모 AI 학습에서 병렬 연산을 최적화하는 데 핵심적인 역할을 한다. 또 동적할당 제어 기능은 사용자의 작업량에 맞춰 자원을 실시간으로 배분하고 불필요한 자원 낭비를 줄여 최적의 GPU 성능을 유지한다. 이번 'H200' 도입은 이러한 기능을 보다 강화해 고성능 AI 학습 환경을 지원할 것으로 기대된다. 'H200'은 엔비디아 '호퍼(Hopper)' 아키텍처 기반의 최신 GPU로, 이전 모델인 'H100' 대비 연산 처리 능력과 전력 효율성이 개선됐다. 특히 메모리 대역폭이 확대돼 대규모 AI 모델 학습과 추론 성능을 극대화할 수 있는 것이 특징이다. KT클라우드는 GPU뿐만 아니라 신경망 처리 장치(NPU) 기반 AI 인프라도 확장하고 있다. 리벨리온과 협력해 'AI 서브 NPU' 서비스를 운영 중이며 오는 5월 출시될 리벨리온의 '아톰 맥스'를 적용해 소형언어모델(sLM) 성능을 검증할 계획이다. 또 미국 반도체 설계업체 암페어와도 AI 반도체 협력을 논의하며 기술 역량을 강화하고 있다. 공공 분야 대응도 강화한다. 회사는 올해 하반기 공공기관을 대상으로 AI 추론 전용 상품의 클라우드 서비스 보안 인증(CSAP) 절차를 진행할 계획으로 이로써 공공기관에서도 안전하게 AI 추론 서비스를 이용할 수 있도록 지원할 예정이다. 공용준 KT클라우드 클라우드본부장은 "이번 엔비디아 'H200' 도입으로 글로벌 수준의 AI 인프라를 확보하게 됐다"며 "앞으로 AI 인프라뿐만 아니라 AI운영(AIOps) 등 포트폴리오를 확대해 AI 기술 경쟁력을 강화하고 고객의 다양한 니즈에 대응해 나가겠다"고 말했다.

2025.02.24 11:21조이환

SKT, 가산 AI데이터센터 오픈...엔비디아 H100기반 클라우드 출시

SK텔레콤은 지난 12월30일 가산 AI 데이터센터(AIDC)를 오픈하고, 시범 운영을 마친 뒤 AI 클라우드 서비스인 'SKT GPUaaS'를 출시했다고 13일 밝혔다. SK텔레콤은 지난 SK AI 서밋 2024에서 AI 인프라 슈퍼 하이웨이 구축 전략을 발표한 뒤 연말 조직 개편에서 AIDC 사업부를 별도 조직으로 신설하며 'AI 인프라' 사업 본격화에 속도를 내고 있다. 새롭게 오픈한 가산 AIDC는 랙당 전력밀도가 국내 최고 수준인 44kW로 국내 데이터센터 랙 당 평균 전력밀도인 4.8kW의 약 9배에 달하는 등 고밀도 GPU 서버 운영 환경에 최적화된 데이터 코로케이션 환경을 제공한다. 엔비디아 H100 기반 'SKT GPUaaS' 출시… 람다와 1년 준비 'SKT GPUaaS'는 미국 람다와 지난 약 1년간 함께 준비한 구독형 AI 클라우드이다. 이를 위해 가산 AIDC에 람다의 한국 리전을 유치했다. 아시아태평양 지역에 처음으로 생기는 람다의 리전이다. SK텔레콤은 지난해 2월 AIDC 사업 본격 추진을 위한 첫 번째 글로벌 행보로 글로벌 GPU 클라우드 회사인 람다(Lambda)에 투자를 진행했다. 2012년 AI 엔지니어들이 설립한 람다는 글로벌 빅테크 기업들을 대상으로 AI 클라우드 서비스를 제공하는 GPUaaS 기업으로, SK텔레콤은 람다와의 협력을 통해 GPU의 안정적 확보를 기반으로 AI 클라우드 시장 공략에 본격 나설 계획이다 SK텔레콤이 출시한 GPUaaS는 엔비디아 GPU H100을 기반으로 한다. 서비스 구독을 원하는 기업 고객은 AI 서비스 규모나 목적에 따라 GPU 수량과 기간을 선택하고 단독 서버, 방화벽, 전용회선 등 맞춤형 패키지를 구성할 수 있다. 고객사는 독자적인 GPU를 사용해 안정적 AI 학습과 추론을 시행할 수 있다. 방화벽과 전용 회선을 활용할 경우 보안성 역시 크게 강화할 수 있다. 또한 고객의 AI 작업량이 급격히 늘어나더라도 단독 서버에 GPU를 손쉽게 추가할 수 있어 추가 시설 투자에 대한 부담을 크게 덜 수 있다. 또한 GPUaaS는 퍼블릭 클라우드와 상호 연동이 가능하다. 기업 고객이 기존에 사용하던 클라우드를 그대로 활용하면서 SK텔레콤의 GPU 컴퓨팅 파워를 이용할 수 있는 것이다. GPUaaS와 SK텔레콤의 'AI 클라우드 매니저'를 함께 활용하면 GPU 자원을 보다 효율적으로 관리할 수 있다. 'AI 클라우드 매니저'는 수많은 GPU 자원을 마치 한 대의 컴퓨터처럼 관리해 GPU 성능을 극대화하고, AI 개발을 위한 학습 소요 시간을 단축하도록 지원하는 솔루션이다. GPUaaS 가격은 약정 기간, GPU 개수, 선불형의 과금 형태에 따라 탄력적으로 책정했다. 예컨대 고객이 24개월 동안 32개의 GPU를 원할 경우 이에 맞는 가격을 설정하는 방식이다. 1개월, 2개월 등 단기 서비스 이용도 가능하다. SK텔레콤은 GPUaaS 출시를 기념해 특별 프로모션도 진행한다. 2월 말까지 약 2개월 간 구독 가격의 20% 할인한다. GPU 교체 보상 프로그램, 클라우드 비용 최적화 컨설팅 등의 이벤트도 시행할 예정이다. 1분기 중 H200 도입 SK텔레콤은 GPUaaS 정식 출시 전부터 100개가 넘는 기업들이 구체적인 내용 문의를 받았다. 특히 대기업, 중소기업뿐만 아니라 AI를 연구하는 각종 대학과 연구 기관에서도 큰 관심을 보였다. 기업들은 GPUaaS를 이용하고 싶은 이유에 대해 ▲고성능 GPU 활용 따른 AI 모델 학습 기간 단축 ▲GPU를 합리적인 가격에 짧은 기간도 이용 가능 ▲서버 구매와 데이터센터 운영 고민 없이 GPU 자원 바로 사용 등으로 꼽았다. 이와 함께 SK텔레콤은 1분기 중 최신 GPU인 H200도 도입할 예정이다. 국내 최초로 H200을 도입해 국내 기업들이 보다 빠르게 AI 기술과 서비스를 개발할 수 있는 환경을 조성하고, GPUaaS 고객 확대에도 박차를 가할 계획이다. 김명국 SK텔레콤 GPUaaS사업본부장은 “GPUaaS 출시는 AI 데이터센터 사업이 고객에게 다가가는 첫번째 사례로 SK텔레콤이 AI 인프라 핵심 사업자로 자리매김하는데 의미가 크다”며, “국가 AI 경쟁력을 높이는 GPU 팜으로 구축하겠다"고 말했다.

2025.01.13 09:16박수형

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

[ZD브리핑] 새 정부 출범 D-3…트럼프 철강 관세 50% 이번주 발효

美 관세 최대 타격 '자동차'…"중고차로 상쇄해야"

'주 4.5일 근무' 이상-현실 사이...HR 전문가 생각은?

"계정 공유 시대 끝"…OTT '공유 제한' 전면 확대

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현