검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'DGX-A100 GPU'통합검색 결과 입니다. (639건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

베슬AI, 한국투자증권과 GPU 인프라 금융 협력 추진

베슬AI가 한국투자증권과 손잡고 그래픽처리장치(GPU) 인프라 확충을 위한 금융 협력에 나선다. 베슬AI는 한국투자증권과 GPU 파이낸싱 업무협약(MOU)을 체결했다고 16일 밝혔다. 양사는 GPU 인프라 투자 확대와 자금 조달 방안을 공동으로 모색할 계획이다. 협약에 따라 한국투자증권은 GPU 인프라 사업에 필요한 투자 규모 확대와 자금 조달을 지원하고 베슬AI는 GPU 클라우드 플랫폼 운영 경험을 바탕으로 사업 추진에 필요한 업무를 맡는다. 다만 구체적인 투자 구조와 규모는 향후 프로젝트별 협의를 거쳐 결정할 예정이다. GPU 인프라는 구축 단계에서 대규모 자본이 필요한 분야다. AI 서비스 수요가 늘면서 GPU 자원을 확보하려는 기업들의 투자 부담도 커지고 있다. 베슬AI는 금융사의 자금 조달 역량과 자사 GPU 클라우드 운영 기술을 결합해 네오클라우드 사업을 확대한다는 구상이다. 방창진 한국투자증권 PF그룹장은 "GPU를 중심으로 한 AI 컴퓨팅 인프라는 글로벌 금융시장에서 새로운 핵심 투자 영역으로 부상하고 있다"며 "한국투자증권이 보유한 구조화금융 및 자본시장 역량을 바탕으로 베슬AI와 다양한 금융 협력 방안을 모색하고, 국내 AI 인프라 산업의 성장에 기여하겠다"고 말했다. 베슬AI는 GPU 인프라 사업 관련 협력을 확대하고 있다. SK텔레콤과 GPU 인프라 협력을 진행하고 있으며, SK바이오팜에는 엔비디아 B200 GPU 128장(16개 노드)을 공급하는 계약을 체결했다. 최근에는 네오에이아이클라우드와 포항 AI 데이터센터 GPU 플랫폼 사업 협력을 위한 업무협약도 맺었다. 2020년 설립된 베슬AI는 GPU 클라우드 플랫폼 '베슬 클라우드(VESSL Cloud)'를 운영한다. 전 세계에 분산된 GPU 자원을 통합 관리하는 '플루이드 컴퓨팅' 기술을 기반으로 서비스형 GPU(GPUaaS)를 제공한다. SK바이오팜을 비롯해 업스테이지, 모티프테크놀로지스 등 국내 기업과 서브쿼드래틱, 누앙스 랩스, 트래젝토리 등 해외 AI 기업을 고객사로 두고 있다. 안재만 베슬AI 대표는 "GPU 인프라 경쟁력은 자금 조달 기반과 운영 역량을 함께 갖추는 데서 나온다"며 "이번 한국투자증권과의 협력관계를 통해 글로벌 AI 고객의 수요에 더욱 신속하게 대응해 나가겠다"고 밝혔다.

2026.10.16 14:34남혁우 기자

베슬AI "2030년 GPU 20만 장 확보…글로벌 톱티어 네오클라우드 도약"

베슬AI가 오는 2030년까지 그래픽처리장치(GPU) 20만 장을 확보하고 글로벌 네오클라우드 시장 공략에 나선다. 국내 인공지능(AI) 데이터센터를 거점으로 대규모 컴퓨팅 인프라를 확충하고 자체 소프트웨어(SW) 기술을 결합해 AI 모델 학습부터 추론 서비스까지 사업 영역을 확대한다는 전략이다. 안재만 베슬AI 대표는 15일 드림플러스 강남에서 열린 '2026 네오클라우드 전략 발표회'에서 "전국 8개 거점 AI 데이터센터를 토대로 한국 인프라와 글로벌 AI 수요를 연결하겠다"며 "2030년까지 GPU 20만 장을 확보해 글로벌 톱티어 네오클라우드 기업으로 성장하겠다"고 밝혔다. 안 대표는 AI 컴퓨팅 수요가 빠르게 증가하는 배경으로 에이전틱 AI 확산과 피지컬 AI·멀티모달 AI 시장 성장, 각국의 소버린 AI 투자 확대를 꼽았다. 베슬AI는 이러한 시장 변화에 대응해 기존 AI 개발·운영 플랫폼 기업에서 GPU 컴퓨팅 자원을 직접 공급하는 네오클라우드 기업으로 사업을 확장 중이다. 지난 2020년 설립 이후 GPU 관리와 AI 워크로드 최적화 기술을 축적했으며 여러 데이터센터에 분산된 GPU를 통합 운영하는 방식으로 서비스 영역을 넓혔다. 안 대표는 "고객이 실제로 구매하는 것은 데이터센터나 GPU 자체가 아니라 자신이 원하는 학습과 추론을 안정적이고 효율적으로 실행할 수 있는 컴퓨팅"이라며 "GPU 간 통신과 장애 복구, 데이터 입출력, 추론 최적화 등 운영 과정에서 발생하는 문제를 해결하는 역량이 중요하다"고 말했다. 2030년 GPU 20만장 확보…국내 AI 인프라 확충 베슬AI는 현재 약 7000장의 GPU를 운영 중이다. 올해 말까지 1만 장, 내년 5만 장, 2030년 최소 20만 장으로 확보 규모를 확대할 계획이다. 직접 확보하는 GPU뿐 아니라 데이터센터 및 클라우드 파트너와 협력해 공급하는 물량도 포함하는 방식이다. 회사 측은 내년 공급을 목표로 고객들이 요청한 GPU 수요가 3만 장이 넘는다고 설명했다. 다만 이는 확정 계약 물량이 아닌 잠재 고객 수요다. 국내 AI 데이터센터 인프라도 확충한다. 베슬AI는 2028년까지 전국 8개 거점을 확보하고 약 500메가와트(MW) 규모 데이터센터 인프라를 마련한다는 목표다. 수도권과 비수도권의 전력 공급 여건과 부지를 고려해 거점을 확보하고 차세대 GPU를 수용할 수 있는 환경을 구축할 방침이다. 인프라 확장에 필요한 자금 조달도 추진 중이다. 베슬AI는 4000억원 규모 글로벌 GPU 금융을 추진 중이며 미국·싱가포르·한국 등의 금융기관과 협의를 진행하고 있다. 시리즈B 투자 유치에 이어 시리즈C 투자도 추진 중이다. 올해 상반기 매출은 1300억원으로 연매출 2500억원을 전망하고 있으며 내년 7000억원과 2028년 2조원 이상의 매출을 목표로 제시했다. 국내 기업과의 협력도 확대 중이다. SK텔레콤과는 엔비디아 B200 기반 고성능 GPU 인프라 1000장 이상을 확보했으며 NHN클라우드와 GPU 공급, 삼성SDS와 AI 팩토리 관련 협력을 추진하고 있다. 또 리벨리온과 퓨리오사AI 등 국내 신경망처리장치(NPU) 기업과 협의해 2028년에는 국산 NPU 기반 AI 팩토리로 사업을 확대할 계획이다. 국내 AI 기업뿐 아니라 미국 실리콘밸리에서도 고객사를 확보하며 해외 사업을 확대하고 있다. 실리콘밸리의 AI 모델 개발 기업들이 베슬AI의 GPU 컴퓨팅 플랫폼을 활용해 모델 학습과 추론을 수행 중이며 회사 측은 해외에서 발생한 매출도 500억원을 넘어섰다고 밝혔다. GPU 운영 자동화·추론 최적화로 기술 차별화 베슬AI는 대규모 GPU 인프라의 활용 효율을 높이기 위한 핵심 기술로 '플루이드 컴퓨팅'을 내세웠다. 여러 데이터센터와 클러스터에 분산된 GPU를 단일 컴퓨팅 자원처럼 활용하고 고객의 작업 특성에 따라 적합한 GPU를 자동 배치하는 기술이다. 이를 통해 학습과 추론 수요에 맞춰 자원을 재배치하고 GPU 가동률을 높인다는 구상이다. 전지환 베슬AI 최고기술책임자(CTO)는 "수십만 장의 GPU를 하나의 데이터센터에 배치하기는 어렵다"며 "여러 곳에 흩어진 GPU를 하나의 컴퓨팅 자원처럼 활용하고 작업에 적합한 GPU를 자동으로 선택할 수 있도록 하는 것이 플루이드 컴퓨팅의 핵심"이라고 설명했다. 베슬AI는 AI 에이전트를 활용한 GPU 운영 자동화도 추진한다. GPU·네트워크·스토리지 상태를 실시간으로 관리하고 장애 발생 가능성을 사전에 감지해 작업 중단을 최소화하는 방식이다. 전체 장애의 80% 이상을 선제적으로 대응해 고객 워크로드가 중단되지 않도록 지원한다는 게 회사 측 설명이다. 추론 서비스도 새로운 성장동력으로 제시했다. 기존 GPU 자원을 직접 사용하는 방식뿐 아니라 AI 모델이 처리하는 토큰 단위로 컴퓨팅 서비스를 공급해 고객 선택지를 확대한다는 방침이다. 실제 베슬AI는 업스테이지의 거대언어모델(LLM) '솔라 프로 4'에 글로벌 추론 인프라를 제공 중이며 장문 문맥 캐싱과 추론 최적화 기술을 통해 GPU 활용 효율을 높이고 있다. 차세대 GPU 도입도 준비 중이다. 베슬AI는 엔비디아의 'DGX 베라 루빈 NVL72' 기반 클러스터를 내년 상반기에 가동한다는 목표다. 이를 국내 AI 모델 개발 기업들의 대규모 학습과 추론에 활용하고, 기존 GPU 인프라와 연계해 다양한 고객 수요에 대응할 계획이다. 안 대표는 "앞으로 AI 산업에선 GPU를 얼마나 많이 확보하느냐뿐 아니라 이를 얼마나 안정적이고 효율적으로 운영하느냐가 중요해질 것"이라며 "그동안 축적한 SW 기술과 운영 경험을 바탕으로 글로벌 AI 컴퓨팅 시장에서 경쟁력을 확보하겠다"고 강조했다.

2026.10.15 12:25한정호 기자

최형두 의원 "정부 GPU 26만장 중 81%는 기업 계획…실제 가동 따져야"

정부가 인공지능(AI) 3대 강국 도약을 위해 확보하겠다고 밝힌 그래픽처리장치(GPU) 26만장 가운데 약 81%는 기업들이 자체적으로 발표한 도입 계획인 것으로 나타났다. 정부가 확보했다고 밝힌 GPU 역시 실제 입고나 가동 여부가 아닌 계약·발주를 기준으로 집계한 것으로 확인되면서 GPU 확보 실적과 실제 활용 규모 사이에 차이가 있다는 지적이 나온다. 14일 국회 과학기술정보방송통신위원회 국민의힘 간사 최형두 의원이 과학기술정보통신부와 정보통신산업진흥원(NIPA)으로부터 제출받은 국정감사 자료에 따르면, 정부가 추진하는 GPU 26만장 가운데 민간 몫 21만장은 정부와 별도 협약이나 확약 없이 기업들이 발표한 계획을 합산한 수치로 나타났다. 정부는 지난해 10월 아시아태평양경제협력체(APEC) 정상회의를 계기로 정부 5만장과 민간 21만장 등 총 26만장의 GPU 확보를 추진하겠다고 밝혔다. 민간 물량은 네이버 6만장, SK텔레콤·현대자동차·삼성 각 5만장으로 구성됐다. 그러나 의원실에 따르면 과기정통부는 민간 GPU 도입과 관련해 "정부와 협약 또는 확약을 체결한 것이 아니라 각 사업자별로 계획을 발표한 것"이라고 답변했다. 정부는 기업들의 GPU 확보를 지원하고 독려하는 역할을 맡고 있으며 연도별 도입 규모 역시 미확정이거나 영업비밀이라는 이유로 제시하지 않았다. 기업별 도입 일정도 구체적으로 확정되지 않은 상태다. SK텔레콤은 2029년부터 단계적으로 서비스를 개시할 계획이며 현대차는 세부 계획을 검토할 예정이다. 삼성 역시 수년에 걸쳐 순차적으로 GPU를 도입한다는 입장이다. 정부는 전체 26만장의 확보 완료 시점에 대해서도 정부 몫 5만장의 2028년 목표만 제시했다. 정부가 확보했다고 밝힌 GPU 물량도 실제 가동 규모와는 차이가 있었다. 과기정통부는 정부 몫 5만장 가운데 약 3만 5000장을 확보했다고 밝혔지만, 이는 계약과 발주를 기준으로 산정한 수치다. 계약·발주 기준 물량은 약 3만 2000장이며 아직 입고되지 않은 차세대 GPU를 엔비디아 B200 성능 기준으로 환산하면 약 3만 5000장에 해당한다. 현재 연구자와 기업에 공급돼 실제 서비스 중인 정부 GPU는 지난해 추가경정예산으로 확보한 1만 3100장이다. 슈퍼컴퓨터 6호기용 8500장과 올해 구매분 가운데 입고된 약 2600장은 구축 중이며 올해 구매분 약 7100장은 아직 입고되지 않았다. 올해 GPU 구매 사업에서도 예산 집행과 실제 반입 사이에 차이가 확인됐다. 정부는 'AI 컴퓨팅자원 활용기반 강화' 사업에 2조 831억원을 편성하고 지난 6월 24일 네이버클라우드·삼성SDS·엘리스그룹과 GPU 9704장, 총 2조 793억원 규모 협약을 체결했다. 그러나 NIPA 자료에 따르면 지난 8일 기준 실제 반입된 GPU는 2608장으로 전체 계약 물량의 26.9%에 그쳤다. 지난 8일 기준 삼성SDS의 GPU 반입 실적은 없었다. 차세대 GPU인 엔비디아 베라 루빈 2016장은 올해 12월과 내년 2월에, 네이버클라우드의 B300 1016장은 내년 2월에 반입될 예정이다. 이달 중 B300 4064장이 추가로 반입될 예정이지만 본격적인 서비스 공급 일정은 아직 확정되지 않았다. NIPA는 연내 일부 물량을 시험 가동해 성능과 안정성을 점검하고 본격적인 공급 일정과 규모는 내년 배분 계획에서 확정할 방침이다. 반면 과기정통부가 보고한 지난 8월 말 기준 사업 집행률은 79.8%로, 금액으로는 1조 6614억원에 달했다. 이 가운데 사업자에게 실제 지급된 금액은 지난 7월 7일 선금으로 지급한 1조 396억원이며 나머지 6218억원은 NIPA가 잔금 지급을 위해 보유 중이다. 과기정통부는 잔금 50%를 GPU 입고 등 구축 상황을 확인해 연내 지급할 예정이라고 설명했다. 다만 일부 GPU의 반입 일정이 내년 2월로 예정된 만큼 해당 물량에 대한 잔금 지급 기준을 명확히 할 필요가 있다는 지적이다. 지난해 추경으로 확보한 GPU 1만 3100장 가운데 정부 활용분 약 1만장은 올해 2월 산·학·연을 시작으로 4월 국가 AI 프로젝트, 8월 독자 AI 모델 개발 사업에 순차적으로 배분됐다. 월평균 활용률은 지난 3월 26.8%에서 9월 51.5%로 상승했다. 독자 AI 모델 정예팀에 배정된 물량 가운데 8월 이전까지 사용되지 않은 2232장은 산업계와 학계·연구계에 추가로 배분됐다. 과기정통부는 숙련된 사용자의 GPU 활용률도 50~60% 수준이라고 설명했다. 다만 지난해 GPU는 계약부터 배분까지 약 6개월이 걸렸고 배분 이후 활용률이 50% 수준에 도달하기까지 추가로 약 5개월이 소요됐다. 올해 구매분을 포함한 내년 GPU 배분 계획도 아직 수립되지 않아 실제 반입 이후 신속하게 활용할 수 있도록 사전 준비가 필요하다는 지적이 나온다. 최형두 의원은 "GPU 26만장은 정부가 AI 경쟁력의 근거로 써온 숫자지만, 81%는 정부가 일정조차 확인할 수 없는 기업 계획이고 정부 몫도 계약 시점에 확보로 잡히고 있다"며 "GPU 경쟁력은 몇 장을 계약했느냐가 아니라 언제 들어와 얼마나 빨리 쓰이느냐에서 나온다"고 지적했다. 이어 "내년 예산안에도 차세대 GPU 1만장 확보에 3조 8500억 원이 편성된 만큼 정부는 GPU 통계를 계약·입고·가동 단계별로 구분해 공개하고 잔금 지급 기준과 정부 활용분 관리 방안부터 분명히 해야 한다"며 "오는 15일 NIPA 국정감사와 23일 과기정통부 종합감사에서 끝까지 점검하겠다"고 밝혔다.

2026.10.14 16:40한정호 기자

비드래프트, GPU 없이 NPU만으로 AI 사전학습 성공

비드래프트가 그래픽처리장치(GPU) 없이 추론 전용 신경망처리장치(NPU)만으로 언어모델을 사전학습하는 데 성공했다. 비드래프트는 추론 전용 NPU에서 학습한 소형 언어모델 '브이코어(VKORE)-46M-NPU'를 허깅페이스에 공개했다고 14일 밝혔다. 일반적으로 NPU는 AI 추론에 특화된 반도체로, 모델 학습에 필요한 역전파 연산을 지원하기 어렵다는 한계가 있다. 비드래프트는 자체 개발한 기술을 활용해 NPU에서 역전파를 수행하고 사전학습된 가중치 없이 언어모델을 처음부터 학습시켰다고 설명했다. 이번 학습에는 2025년 출시된 1세대 추론 전용 NPU가 사용됐다. 회사는 동일한 모델을 고성능 GPU에서 같은 조건으로 학습한 결과와 비교했을 때 손실 궤적의 상관계수가 0.99에 달했다고 밝혔다. 다만 이는 학습 과정의 유사성을 나타내는 지표로, 두 반도체의 학습 속도가 같다는 의미는 아니다. 공개된 모델은 공개 데이터셋으로 학습돼 짧은 영어 이야기를 생성할 수 있다. 비드래프트는 모델 가중치와 모델카드, 비교 분석 자료를 허깅페이스에 공개했다. 핵심 학습 코드는 지식재산 보호를 위해 비공개로 유지하고 있으며 구체적인 기술 구현 방식은 향후 논문으로 발표할 예정이다. 회사는 이번 기술을 NPU 전용 가속 소프트웨어 계층 브이코어로 통합하고 있다. 엔비디아 GPU의 병렬 컴퓨팅 플랫폼 '쿠다'처럼 NPU에서도 추론 가속과 사전학습, 저순위 적응(LoRA) 미세조정 등을 지원하는 소프트웨어 기반을 구축한다는 구상이다. 비드래프트는 범용 공개 모델을 NPU에 적용해 추론 가속과 양자화 모델 구동도 확인한 것으로 나타났다. 향후 기업이 외부 GPU 인프라에 의존하지 않고 자체 환경에서 AI 모델을 학습하고 운영할 수 있도록 기술을 고도화할 계획이다. 김민식 비드래프트 대표는 "값싸고 전력이 적은 NPU를 추론뿐 아니라 학습까지 활용할 수 있게 되면 고가의 GPU를 오래 기다리지 않고도 기업이 자체 모델을 현장에서 직접 길러낼 수 있다"며 "이번 성과를 발전시켜 하드웨어 효율의 한계를 넓혀가겠다"고 말했다.

2026.10.14 15:11이나연 기자

넷앱 "AI 경쟁력은 GPU 아닌 데이터…스토리지 병목 해소할 것"

기업들의 인공지능(AI) 투자가 확대되는 가운데 넷앱이 데이터 처리 효율을 높이는 차세대 스토리지 기술을 앞세워 AI 시장 공략에 나선다. 대규모 그래픽처리장치(GPU) 환경에서 발생하는 데이터 병목을 해소하고 인프라 운영 효율을 높여 기업의 AI 활용을 지원한다는 전략이다. 유재성 한국넷앱 대표는 14일 그랜드 인터컨티넨탈 서울 파르나스에서 열린 '2026 인사이트 기자간담회'에서 "기업들이 AI에 막대한 투자를 하고 있지만 아직 투자 대비 효과(ROI)를 체감하는 단계는 아닌 것 같다"며 "고객이 데이터에서 인사이트를 확보하는 데 드는 시간과 비용을 줄이고 투자한 인프라 자원을 효율적으로 활용하도록 돕겠다"고 밝혔다. 유 대표는 기업의 AI 도입 과정에서 가장 큰 걸림돌로 데이터 문제를 지목했다. AI 모델 학습과 추론, 에이전트 구현을 위한 기술은 발전하고 있지만 기업 내부에 분산된 데이터를 통합하고 AI가 활용할 수 있도록 준비하는 과정에는 여전히 많은 시간과 비용이 소요된다는 설명이다. 그는 "AI를 구현하고 운영하는 솔루션 기업들의 가장 큰 어려움은 데이터"라며 "데이터를 어떻게 통합하고 비용 효율적으로 준비할 것인지가 핵심 과제"라고 말했다. 넷앱은 이같은 문제를 해결하기 위해 AI 활용이 가능한 데이터 확보, 통합 스토리지, 선제적 데이터 보호, 통합 제어를 중심으로 플랫폼 전략을 강화하고 있다. 특히 데이터를 별도로 복제하거나 이동하지 않고 기존 위치에서 활용하는 '제로카피(Zero-Copy)' 방식으로 데이터 관리 부담을 줄이고 AI 도입 속도를 높인다는 구상이다. AI 팩토리 겨냥한 '노버스' 공개…GPU 데이터 공급 병목 해소 이번 간담회에서 공개한 핵심 기술은 대규모 AI 팩토리와 네오클라우드 환경을 위한 차세대 스토리지 아키텍처 '넷앱 노버스(Novus)'다. 노버스는 초당 100테라바이트(TB) 이상의 데이터 처리량을 목표로 설계됐으며 단일 파일 시스템에서 제타바이트 규모까지 확장할 수 있도록 지원한다. 수십만 개 GPU가 동시에 데이터를 사용하는 환경에서 스토리지 병목을 줄이는 것이 목표다. 강연식 한국넷앱 전무는 "AI 시대에는 GPU를 얼마나 많이 보유하고 있느냐보다 AI 팩토리에서 데이터를 얼마나 원활하게 공급할 수 있느냐가 중요하다"며 "노버스는 데이터 공급 과정에서 발생하는 병목을 해소하고 토큰당 비용 효율성을 높이기 위한 아키텍처"라고 설명했다. 노버스의 핵심은 메타데이터와 실제 데이터 처리 경로를 분리한 구조다. 수많은 GPU가 동시에 파일 위치와 접근 권한을 확인하는 과정에서 발생하는 메타데이터 처리 부담을 분산해 데이터 공급 지연을 줄이는 방식이다. 개방형 네트워크 파일 시스템(NFS) 프로토콜을 활용해 별도 소프트웨어 설치에 따른 관리 부담도 최소화했다. 강 전무는 "기존 스토리지 환경에선 데이터 처리 성능에 여유가 있더라도 메타데이터에서 병목이 발생하면 GPU에 데이터를 원활하게 공급하기 어렵다"며 "노버스는 메타데이터의 각 기능을 독립적으로 확장할 수 있어 대규모 AI 환경에서도 동시 처리 성능을 확보할 수 있다"고 밝혔다. 제로카피·멀티클라우드 확대…데이터 보안도 강화 넷앱은 기업이 보유한 데이터를 AI에 활용할 수 있도록 '넷앱 AI 데이터 엔진(AIDE)'의 기능도 강화했다. 자사 데이터 관리 소프트웨어인 '온탭(ONTAP)'뿐 아니라 타사 스토리지까지 메타데이터 탐색 범위를 넓혀 기업이 여러 곳에 분산된 데이터를 이동하지 않고 기존 위치에서 활용할 수 있도록 지원한다. 데이터 복제 과정에서 발생할 수 있는 보안 위험과 최신성 문제를 줄이는 데 중점을 뒀다. 하이브리드 멀티클라우드 운영 기능도 확대했다. 넷앱 콘솔을 통해 온프레미스와 아마존웹서비스(AWS), 마이크로소프트 애저, 구글 클라우드 등 서로 다른 환경의 데이터를 일관된 정책으로 관리하도록 지원한다. 최근에는 오라클 클라우드와의 연계도 추가했다. AI 기반 스토리지 자율 운영 기능을 통해 장애 예측과 용량 관리, 운영 효율화 등을 지원할 계획이다. 사이버 복원력 강화도 주요 전략이다. 넷앱은 데이터 백업·복구 전문기업 컴볼트와의 협력을 확대해 랜섬웨어 탐지부터 데이터 격리, 검증, 복구까지 연결하는 체계를 강화했다. 강 전무는 "AI 에이전트가 확산하면서 데이터에 대한 접근과 보안 위협도 빠르게 증가하고 있다"며 "데이터 저장소 자체가 능동적인 보안 주체가 돼야 한다"고 짚었다. 넷앱은 앞으로 국내 기업들의 AI 투자 불확실성을 줄이기 위한 인프라 운영 방식과 서비스 모델도 확대할 방침이다. 기업들이 초기 인프라 투자에 따른 부담을 줄이고 온프레미스와 클라우드를 함께 활용하면서 실제 AI 사업 성과를 확보할 수 있도록 지원한다는 목표다. 유 대표는 "고객들은 초기 인프라 투자 규모가 큰 상황에서 향후 AI 성과에 대한 불확실성을 안고 있다"며 "이러한 불확실성에 고객과 함께 탄력적으로 대응할 수 있는 비즈니스 모델을 마련해 나갈 것"이라고 강조했다.

2026.10.14 13:14한정호 기자

[기고] AI 무게중심 '학습'서 '추론'으로…ARM·NPU가 여는 고효율 인프라

지금까지 인공지능(AI) 시장은 대규모 모델 개발을 위한 '학습' 중심으로 성장해왔다. 빅테크와 하이퍼스케일러가 대규모 그래픽처리장치(GPU) 투자에 집중해온 이유다. 그러나 학습된 모델을 실제 서비스에 적용하는 '추론' 수요가 빠르게 확대되면서 AI 시장의 무게중심도 이동하고 있다. 챗봇이 사용자 질문에 답하고 검색 서비스가 필요한 문서를 찾으며 번역기가 문장을 변환하는 모든 과정에서 AI 추론 연산이 활용된다. AI 학습이 대규모 모델을 직접 개발하는 소수 빅테크 중심이라면, 추론 수요는 기존 모델을 업무와 서비스에 활용하는 다양한 산업으로 확산되고 있다. 기업의 생성형 AI 활용 역시 단순 개념검증(PoC)에서 실제 업무와 서비스 환경으로 확대되고 있다. 사내 지식검색, 고객 상담, 문서 요약, 개발 지원 등 활용 사례가 다양해지면서, 사용자 요청을 신속하고 안정적으로 처리하는 추론 인프라의 중요성이 더욱 커지고 있다. 문제는 대부분의 기업이 빅테크처럼 대규모 GPU 인프라를 구축하기 어렵다는 점이다. GPU 도입 비용이 높은 데다 기존 데이터센터의 전력 공급 한계로 실제 도입에 제약을 받는 경우도 적지 않다. 많은 기업이 PoC를 통해 AI 도입 효과를 확인하고 실제 서비스 적용을 고려하지만, 본격적인 상용화 과정에서 비용, 전력, 운영 효율성 등 새로운 과제를 마주하고 있다. 여러가지 장애물을 해결하고 GPU를 도입하더라도 자원 활용 효율을 고려해야 한다. GPU는 대규모 병렬 연산에 강점을 갖지만 AI 추론은 요청 규모와 빈도, 응답속도 등 운영 조건에 따라 자원 활용률이 달라진다. 소규모 요청이 불규칙하게 발생하는 환경에서는 고성능 GPU의 연산 자원을 충분히 활용하지 못할 수도 있다. 워크로드 특성에 맞는 AI 가속기 선택이 중요한 이유다. NPU, AI 인프라의 새로운 선택지 이러한 변화 속에서 신경망처리장치(NPU)가 새로운 AI 인프라 옵션으로 부상하고 있다. 중앙처리장치(CPU)가 다양한 연산을 처리하는 범용 프로세서이고 GPU가 대규모 병렬 연산에 강점을 가진 가속기라면, NPU는 AI 모델 연산, 특히 추론을 효율적으로 처리하도록 설계된 AI 전용 가속기다. 자동차 공장에 비유하면 차이가 명확하다. CPU는 다양한 작업에 유연하게 대응하는 숙련된 인력, GPU는 여러 작업을 병렬로 수행하는 자동화 생산라인에 가깝다. NPU는 특정 공정에 최적화된 전용 설비에 해당된다. 범용성은 상대적으로 제한적이지만 특정 AI 연산에 특화된 구조로 워크로드에 따라 비용과 전력 효율을 높일 수 있다. 기업의 AI 가속기 선택 폭도 넓어지고 있다. 다양한 NPU 기업이 등장하면서 GPU 중심이던 AI 인프라 시장에 새로운 선택지가 생겼다. 다만 NPU가 GPU를 대체하는 것은 아니다. 모델과 서비스에 따라 GPU가 적합하거나 GPU와 NPU를 함께 구성하는 것이 효율적일 수 있다. 제조사별로 주력 워크로드 및 기업 전략이 달라 단순한 성능 수치보다 AI 모델과 동시 사용자 수, 응답속도, 전력 및 공간 조건 등을 종합적으로 고려해야 한다. Arm 서버와 결합한 고효율 추론 인프라 HS효성인포메이션시스템은 엑세스랩과 공동 개발한 Arm 서버 '그린코어(GreenCore)'와 NPU를 결합한 통합 인프라를 제공한다. 그린코어는 저전력·저발열 특성과 매니코어 기반 병렬처리 효율을 갖췄다. 그린코어가 서비스 운영과 데이터 전처리·후처리를, NPU가 추론 연산을 담당해 전력과 공간 제약이 있는 데이터센터에서도 효율적인 추론 인프라 구성을 지원한다. HS효성인포메이션시스템은 NPU 선정부터 서버 구성과 통합 검증, AI 솔루션 연계, PoC까지 추론 인프라 구축 전 과정을 지원한다. 퀄컴, 딥엑스, 퓨리오사AI, 모빌린트 등 다양한 NPU 기업과 협업해 고객의 AI 모델과 동시 사용자 수, 응답속도, 전력 및 공간 조건에 적합한 NPU와 그린코어 구성을 제안하고 호환성을 검증한다. 실증으로 확인하는 Arm·NPU 결합 가능성 Arm 서버와 NPU를 결합한 실제 적용 사례도 구체화되고 있다. 한 공공기관 사업에서는 그린코어 Arm 서버에 퀄컴과 퓨리오사AI의 NPU를 결합하고 국내 AI 기업 페르소나AI의 검색증강생성(RAG) 솔루션을 연계해 사내 문서를 검색하고 답변하는 AI 챗봇 서비스를 구현했다. 단순히 NPU와 서버 간 호환성을 확인하는 데 그치지 않고 그린코어 서버와 NPU, AI 모델, RAG 솔루션 등 실제 서비스 운영에 필요한 요소를 하나의 환경에서 연계해 검증한 사례다. 대형 데이터센터 환경에서 Arm 기반 CPU와 국산 NPU를 결합한 AI 데이터센터 실증 프로젝트도 진행 중이다. Arm CPU가 서비스 운영과 데이터 처리, 가속기 제어를 담당하고 NPU가 추론 연산을 수행하는 구조다. NPU의 개별 성능을 확인하는 것을 넘어 CPU와 NPU의 역할 분담에 따른 운영 효율과 인프라 확장 시 성능 안정성, 전력 효율 등을 종합적으로 검증하는 데 초점을 맞추고 있다. AI 활용이 '모델 개발과 학습'에서 실제 서비스 운용으로 확대되면서 인프라 경쟁력의 기준도 달라지고 있다. 추론 중심 AI 시대에는 GPU 확보를 넘어 워크로드 특성에 맞는 인프라 설계가 더욱 중요해지고 있다. 단순한 연산 성능뿐 아니라 비용과 전력, 공간, 운영 효율을 고려해 GPU와 NPU 등 다양한 가속기를 적절히 활용하는 역량이 AI 인프라의 핵심 경쟁력이 될 것이다.

2026.10.14 09:48이명관 컬럼니스트

피지컬 AI 세상은 통신망부터...산업 현장서 AI기지국 실증

올해로 인공지능(AI)이 세상에 등장한 지 70년이 됐습니다. 디지털 세상에서 인류의 지식과 정보를 언어로 학습한 생성형 AI가 이제 물리 세상을 체험하기 위해 나올 채비를 마쳤습니다. 이름하여 피지컬(Physical) AI. 휴머노이드 로봇, 자율주행차, 다크팩토리, 헬스케어 등이 대표적입니다. 챗GPT에 이은 피지컬 AI는 첨단제조 강국인 한국 경제를 더 혁신적이고 지속 가능한 성장엔진으로 바꿔 놓을 무한한 잠재력까지 갖고 있습니다. 산업화를 넘어 미래 지능형 플랫폼 사회로 나아가는 관문도 피지컬 AI에 달려 있다고 해도 과언이 아닙니다. 예측불허의 AI 시대, 우리는 무엇을 준비해야 할까요. 창간 26주년을 맞은 지디넷코리아가 연중기획 '피지컬AI가 미래다'를 통해 당면 과제와 이슈를 고민합니다. 많은 관심과 조언 부탁드립니다. [편집자주] 피지컬 AI가 산업 현장으로 확산되면서 통신망의 역할도 달라진다. 로봇이 수집한 영상과 센서 데이터를 빠르게 전달하고, 로봇 내부에서 처리하기 어려운 AI 연산을 가까운 네트워크의 컴퓨팅 자원과 나눠 수행하는 기술이 개발돼야 하기 때문이다. 국내에서는 정유공장과 조선소 등을 대상으로 AI 기반 무선접속망(AI-RAN) 실증이 시작됐고, 해외에서도 이동통신망을 피지컬 AI의 연산 인프라로 활용하려는 시도가 이어지고 있다. 대표적인 사례로 과학기술정보통신부와 한국지능정보사회진흥원(NIA)은 172억 규모의 하이퍼 AI 네트워크 기반조성 사업에 착수했다. SK텔레콤과 KT가 각각 컨소시엄을 구성해 5G 단독모드(SA)와 AI-RAN 기술을 산업시설에 적용하는 내용이다. 구체적으로 산업용 로봇의 이동과 작업 과정에서 필요한 통신 성능을 검증하고 AI 연산자원을 네트워크에 분산하는 기술의 시험이 포함됐다. 정유공장·조선소에 AI 기지국, 산업용 로봇 실증 실증 대상은 로봇 작업 특성과 현장 환경에 따라 나뉜다. SK인천석유화학에서는 사족보행 로봇을 활용한 위험지역 순찰, KG모빌리티 공장에서는 무인 자율이송을 시험한다. HD현대삼호 조선소에서는 로봇을 활용한 용접과 도장 작업을 검증한다. 작업 환경은 각기 다른 현장이지만 로봇이 수집한 정보를 외부로 전송하고 이동 중에도 통신을 유지해야 한다는 공통점이 있다. 정유공장 순찰 로봇은 위험지역 영상을 실시간으로 전달해야 하고, 자율이송 로봇은 이동 경로와 장애물 정보를 지속적으로 처리해야 한다. 조선소의 용접 도장 로봇도 작업 상태에 따라 안정적인 통신이 요구된다. 정부는 이같은 현장 실증에서 상향 전송 속도와 지연시간, 지연 변동 폭을 비롯해 AI 기반 네트워크 자율 운용 성능을 검증한다. 삼성전자와 에치에프알, 에릭슨, 노키아 등 여러 제조사의 장비와 CPU, GPU 연산자원을 활용해 산업 현장에 적합한 통신망 구성을 시험한다. 위즈코어가 에치에프알, 한국전자기술연구원, 로보티즈 등과 함께 현대제철 당진 열연공장에서는 특화망과 AI-RAN을 결합해 로봇과 통신장비, AI 연산 기능을 연계하는 기술을 검증하고 있다. 기존 이동통신망과 AI-RAN의 연동을 위한 기술 검증도 진행되고 있다. LG유플러스와 연세대는 엔비디아 GPU 기반 AI-RAN 시험망과 기존 5G망을 연동해 서로 다른 네트워크 영역 사이의 연결성을 확인했다. AI-RAN이 별도 시험망에 머무르지 않고 기존 이동통신 인프라와 함께 운용될 수 있는지 검증한 사례다. 시장조사업체 옴디아의 레미 파스칼 수석애널리스트는 한국의 이같은 AI-RAN 실증을 두고 “산업용 AI 구현에서 정부기관이 기존 통신망 최적화 사업보다 더 큰 역할을 할 수 있다”며 “제조업 기반과 산업 자동화 역량을 갖춘 국가에서 이러한 접근법이 특히 의미가 있다”고 평가했다. 글로벌 시장에서도 '피지컬AI+네트워크' 검증 해외에서도 AI 연산과 무선망 기능을 결합해 피지컬 AI를 지원하려는 실증이 진행되고 있다. 미국 T모바일은 엔비디아, 노키아와 AI-RAN 기반 분산형 엣지 인프라에서 피지컬 AI 응용 서비스를 검증하고 나섰다. 기지국과 통신국사에 배치된 컴퓨팅 자원을 활용해 도시 교통과 전력설비, 산업현장의 영상을 분석하는 방식이다. 지멘스에너지 등 산업 분야 기업도 관련 기술의 활용 가능성을 평가하고 있다. 일본 소프트뱅크는 에릭슨과 로봇 AI 연산을 외부 네트워크로 분산하는 기술을 검증했다. 로봇의 작업 상태와 연산 요구에 따라 기기 내부에서 AI를 처리하거나 인접한 모바일 엣지 컴퓨팅(MEC) 자원으로 이전하는 방식이다. 이 과정에서 네트워크 슬라이싱과 데이터 전송 우선순위 제어를 활용해 로봇의 작업에 필요한 통신 품질을 제공하도록 했다. AI 연산을 외부로 옮기는 데 그치지 않고 로봇의 상태에 맞춰 통신망까지 함께 제어하는 기술이다. 최근에는 피지컬 AI의 연산을 클라우드와 엣지, 단말에 분산하기 위한 기술 구조도 제시됐다. 세계 최대 통신장비 회사인 화웨이는 최근 열린 '화웨이커넥트 2026'에서 중국과학원 선양자동화연구소와 로봇의 실시간 제어와 현장 데이터 처리, 전체 시스템 최적화를 구분하고 작업 특성에 따라 연산자원을 배분하는 구조에 대한 연구보고서를 발표했다. 로봇 연산 나눠 맡는 통신망...상향 전송·지연 관리가 관건 국내외에서 AI-RAN과 엣지 컴퓨팅을 결합하는 배경에는 로봇 자체의 연산 능력과 전력에 한계가 있다는 점을 꼽고 있다. 피지컬 AI는 카메라와 센서로 주변 환경을 인식하고 사물의 위치와 움직임을 판단해 실제 동작을 수행한다. 고성능 AI 모델을 로봇 내부에서 모두 실행하려면 상당한 연산 능력이 필요하지만 이동형 로봇은 배터리 용량과 발열, 무게에 제약이 있다. 외부 컴퓨팅 자원을 활용하면 로봇 내부의 연산 부담을 줄일 수 있다. 다만 먼 거리에 있는 클라우드에 데이터를 보내면 통신 지연이 늘어날 수 있어 가까운 엣지에서 처리하는 방식이 대안으로 거론된다. 로봇이 수집한 정보를 네트워크의 AI 연산자원으로 보내고 처리 결과를 다시 전달받는 구조다. 마이크로소프트리서치는 피지컬 AI 로봇 추론 연구에서 “로봇 내부 GPU에서만 AI 추론을 실행하면 로봇의 성능과 배터리 수명, 확장성이 제한될 수 있다”며 “AI 추론을 엣지나 클라우드의 GPU로 분산하면 상당한 이점을 얻을 수 있다”고 평가했다. AI 모델의 처리 속도와 함께 기존 네트워크 트래픽 관리를 뒤집어야 하는 점도 짚어야 할 점이다. 기존 모바일 서비스는 영상과 콘텐츠를 내려받는 하향 전송에 무게가 실렸지만 피지컬 AI는 로봇의 카메라와 센서에서 발생하는 데이터를 외부로 보내는 상향 전송 수요가 큰 점을 네트워크 설계에서 고민해야 한다. AI-RAN은 이러한 요구에 대응하기 위해 무선망 자체에도 AI를 적용한다. AI로 무선 신호를 복원하거나 채널 상태를 예측해 전송 품질을 개선하는 동시에, 기지국 주변의 컴퓨팅 자원으로 외부 AI 서비스의 연산을 지원하는 방식이다. 로봇과 통신망, AI 시스템이 하나의 작업을 나눠 수행하려면 서로 다른 장비가 정보를 교환하는 기준도 중요해진다. 한국전자통신연구원(ETRI)은 지난 9월 국제전기통신연합 전기통신표준화부문(ITU-T)의 체화 AI 포커스그룹에서 피지컬 AI 관련 표준화 과제 2건을 제안해 승인받았다. 이 가운데 제조 분야 과제는 카메라 영상과 로봇 위치, 온도와 압력 등 여러 정보를 함께 처리하기 위한 기술 요구사항을 다룬다. 로봇과 제조설비, AI 시스템의 협업에 필요한 데이터 처리와 시스템 연계 기준을 마련하는 작업이다.

2026.10.13 16:20박수형 기자

인텔, 추론 특화 GPU 정식 명칭 공개... "GPU D시리즈"

인텔이 12일(현지시간) '2026 OCP 글로벌 서밋' 행사에서 데이터센터용 추론 특화 GPU 정식 명칭과 일부 성능 지표를 공개했다. 인텔은 작년 OCP 글로벌 서밋 행사에서 자체 개발한 새로운 GPU 아키텍처 'Xe3P' 기반 데이터센터용 추론 특화 GPU '크레센트 아일랜드'(Crescent Island)를 공개한 바 있다. 인텔이 이날 공개한 '크레센트 아일랜드'의 정식 명칭은 '인텔 GPU D시리즈'이다. 최상위 제품인 D270은 LPDDR5X 메모리를 480GB 탑재 가능하며 전력 소모는 350W, 냉각 방식은 공랭식이다. 카드 한 장당 최대 3000억 개 매개변수(패러미터) 모델을 처리 가능하며 카드 8개 구성시 1조 개 규모 모델을 구동 가능하다. 인텔은 D270 GPU의 일부 성능 지표도 함께 공개했다. 메모리 대역폭은 초당 최대 1.5TB, FP8(부동소수점, 8비트) 연산 성능은 최대 1.3 페타플롭스다. 인텔은 GPU D시리즈 출시 당일부터 오픈소스 AI 모델과 파이토치 등을 기본 지원할 것이라고 밝혔다. 인텔은 지난 8월 초 메타 300억 개 매개변수 모델 '뮤즈 글리머' 공개 당일부터 코어 울트라 시리즈3(팬서레이크) 프로세서와 아크 프로 B70 GPU 등을 최적화했다고 밝히기도 했다. 인텔은 "GPU D시리즈 생산과 시장 공급을 위해 주요 제조사와 네오클라우드, 소프트웨어 업체와 함께 협력하고 있으며 현재 시제품을 일부 고객사에 공급중"이라고 설명했다.

2026.10.13 09:30권봉석 기자

베슬AI, 업스테이지 '솔라 프로4' 글로벌 추론 뒷받침…처리속도 최대 3배↑

베슬AI가 업스테이지의 인공지능(AI) 모델 '솔라 프로4'의 글로벌 추론 인프라 운영을 맡으며 사업 영역을 확대하고 있다. 그래픽처리장치(GPU) 인프라 공급을 넘어 AI 모델의 실제 서비스 운영까지 지원하며 글로벌 추론 시장 공략에 속도를 내는 모습이다. 베슬AI는 업스테이지의 거대언어모델(LLM) 솔라 프로4에 글로벌 추론 인프라를 제공하고 자체 최적화 기술을 적용해 처리 속도와 운영 비용을 개선했다고 12일 밝혔다. 솔라 프로4는 지난 9월 글로벌 LLM 마켓플레이스 '오픈라우터'에서 실제 이용량 기준 3위에 올랐다. 베슬AI는 해당 기간 솔라 프로4의 글로벌 추론 서비스 운영을 담당하며 전 세계 이용자들의 요청을 처리했다. 특히 솔라 프로4의 일일 토큰 처리량이 80억개에서 1550억개로 약 19배 증가하는 동안 필요한 추론 인프라를 지원했다. 국내에서 개발한 AI 모델의 글로벌 이용 확대를 국내 네오클라우드 기업의 인프라가 뒷받침한 사례다. AI 추론은 학습을 마친 모델이 실제 서비스 환경에서 이용자의 질문이나 요청을 처리하는 과정이다. 신규 모델 출시나 프로모션 등으로 이용량이 급증할 경우 안정적인 서비스를 유지하기 위해 충분한 GPU 자원과 효율적인 운영 기술이 필요하다. 베슬AI는 업스테이지와 모델 출시 일정과 예상 수요를 공유하고 필요한 추론 용량을 공동으로 설계했다. 한국과 유럽, 미국 등 여러 지역에 확보한 GPU 클러스터를 활용해 글로벌 이용자의 요청에 대응했다. 자체 추론 엔진 최적화 기술도 적용했다. 모델 특성과 실제 이용 패턴에 맞춰 GPU 자원을 배분하고 캐시 활용률 개선, 모델 양자화, 추론 속도 향상 기술 등을 적용해 처리 효율을 높였다는 설명이다. 그 결과 베슬AI에 따르면 추론 엔드포인트 도입 전후를 비교했을 때 처리 속도가 평균 2배, 최대 3배 향상됐다. 캐시 활용률 개선을 통해 토큰당 비용도 최대 50% 절감했다. 이번 협력으로 업스테이지는 모델 연구와 제품 개발에 집중하고 베슬AI는 수요 예측부터 인프라 구성, 추론 서비스 운영까지 담당하는 구조를 마련했다. 베슬AI는 앞으로도 솔라 모델의 글로벌 이용 확대에 필요한 추론 인프라를 지원할 계획이다. 베슬AI는 최근 SK바이오팜에 AI 연구개발용 GPU 인프라를 공급하고 네오AI와 포항 AI 데이터센터의 GPU 플랫폼 구축·운영 협약을 체결하는 등 기업 고객과 인프라 사업을 확대 중이다. 여기에 솔라 프로4 운영 경험을 더해 AI 모델의 추론 서비스를 제공하는 인퍼런스 프로바이더로 사업 영역을 넓힌다는 전략이다. 안재만 베슬AI 대표는 "이번 협력은 한국에서 개발한 모델의 글로벌 성과를 한국 네오클라우드의 인프라로 뒷받침했다는 점에서 의미가 크다"며 "축적한 인퍼런스 운영 경험을 바탕으로 모델 제공자가 연구와 제품 개발에 집중할 수 있는 환경을 제공하고 기업의 안정적인 오픈소스 모델 도입을 지원하도록 인퍼런스 프로바이더로서 역량을 강화하겠다"고 말했다.

2026.10.12 14:25한정호 기자

네이버클라우드, 베트남 FPT와 맞손…아태 AI 팩토리 시장 공략

네이버클라우드가 베트남 IT 기업 FPT와 손잡고 아시아태평양(APAC) 인공지능(AI) 인프라 시장 공략에 속도를 낸다. 양사가 보유한 그래픽처리장치(GPU) 인프라와 클라우드 기술을 결합해 AI 팩토리 사업을 확대하고 기업 고객의 AI 학습·추론 수요에 공동 대응한다는 구상이다. 네이버클라우드는 FPT와 AI 팩토리 및 서비스형 GPU(GPUaaS) 사업 확대를 위한 업무협약(MOU)을 체결했다고 12일 밝혔다. 양사는 최근 경기 성남시 네이버 제2사옥 1784에서 협약을 맺고 AI 팩토리 사업의 기획부터 개발, 운영까지 협력하기로 했다. FPT는 베트남을 대표하는 글로벌 ICT 기업으로 엔비디아 클라우드 파트너이기도 하다. 이번 협력은 양사가 보유한 GPU 인프라와 클라우드 기술, 고객 네트워크를 연계해 한국과 일본, 베트남을 비롯한 아태 지역에서 새로운 AI 사업 기회를 발굴하는 데 중점을 뒀다. 특히 각사가 단독으로 대응하기 어려운 지역의 AI 수요를 공동으로 확보할 계획이다. 대규모 AI 모델 학습과 추론을 위한 GPU 컴퓨팅 자원이 필요한 기업과 AI 서비스 사업자를 대상으로 인프라와 AI 모델, 서비스를 함께 제공한다는 전략이다. 이를 통해 기업 고객이 대규모 GPU 인프라를 직접 구축하지 않고도 필요한 AI 연산 자원을 확보하고 AI 서비스를 도입할 수 있도록 지원할 방침이다. 실제 산업 현장에서 AI 기술을 적용하기 위한 엔지니어링 협력도 강화한다. 네이버클라우드의 베트남 개발센터와 본사 기술 인력, FPT 엔지니어들이 참여하는 정기적인 기술 교류 프로그램을 운영할 예정이다. 양사 기술진은 고객 현장에서 GPU 인프라 최적화와 AI 추론 성능 개선, AI 에이전트의 실제 서비스 환경 구축 등을 공동으로 추진한다. 단순한 인프라 공급을 넘어 고객의 AI 모델 활용과 서비스 운영까지 지원 범위를 확대한다는 방침이다. 네이버클라우드는 이번 협력을 통해 자체 AI 기술과 클라우드 운영 경험을 FPT의 AI 팩토리 및 기업 고객 사업 역량과 결합할 계획이다. 양사는 아태 지역에서 공동 고객을 발굴하고 AI 인프라와 서비스 사업을 확대해 나간다는 목표다. 김유원 네이버클라우드 대표는 "FPT와 협력해 우리가 축적해온 AI 기술과 경험을 FPT의 AI 팩토리 및 엔터프라이즈 사업 역량과 결합할 수 있게 됐다"며 "양사 기술과 사업 역량을 기반으로 한국과 베트남을 넘어 APAC 시장에서 고객의 다양한 AI 수요에 대응하고 실제 비즈니스 성과로 연결하는 협력을 만들어 가겠다"고 밝혔다. 레 홍 비엣 FPT 코퍼레이션 스마트클라우드 대표는 "우리는 AI 팩토리를 중심으로 AI 클라우드 역량을 지속적으로 강화해 왔으며 여러 시장에서 축적한 엔지니어링 역량과 경험을 바탕으로 AI 기술을 실제 비즈니스에 적용할 수 있는 기반을 마련해왔다"며 "네이버클라우드와 협력해 고객의 AI 모델 활용을 확대하고 APAC을 비롯한 글로벌 기업들이 AI를 실질적 비즈니스 성과로 연결할 수 있는 새로운 방안을 함께 만들어가겠다"고 말했다.

2026.10.12 14:19한정호 기자

AMD가 찜한 망고부스트…'AI 팩토리' 앞세워 추론 시장 승부수

인공지능(AI) 인프라 기업 망고부스트가 AMD와의 협력을 바탕으로 자체 AI 데이터센터와 추론 서비스를 결합한 'AI 팩토리' 사업에 본격적으로 나선다. 서울 강남에 1메가와트(MW) 규모 AI 인프라를 구축하고 신규 추론 플랫폼을 출시해 기업 고객을 직접 공략한다는 전략이다. 장기적으로는 해외 인프라 의존도를 낮추고 국내에서 AI 데이터를 처리하는 소버린 AI 시장까지 사업을 확대할 계획이다. 김장우 망고부스트 대표는 12일 그랜드 인터컨티넨탈 서울 파르나스에서 개최한 신규 서비스 론칭 기자간담회에서 "우리는 단순히 부품을 공급하는 회사가 아니라 하드웨어부터 소프트웨어까지 직접 설계하고 고객에게 AI 서비스를 제공하는 회사"라며 "AMD와의 협력을 바탕으로 가격 경쟁력을 갖춘 AI 팩토리를 구축하겠다"고 밝혔다. 망고부스트는 2022년 서울대학교 연구진을 중심으로 설립된 AI 인프라 기업이다. 데이터처리장치(DPU)를 비롯한 네트워크 기술과 그래픽처리장치(GPU) 서버, 스토리지, AI 추론 소프트웨어를 자체 개발하고 있다. 기존에는 서버 제조사와 클라우드 기업 등에 인프라 기술을 공급하는 데 주력했지만 앞으로는 자체 시스템을 기반으로 기업 고객에게 AI 서비스를 직접 제공하는 사업을 확대한다는 방침이다. AMD 손잡고 AI 팩토리 구축…강남에 1MW 인프라 망고부스트가 내세운 핵심 전략은 AMD의 GPU와 자체 개발한 네트워크·스토리지 기술을 결합하는 것이다. 회사는 약 3년 전부터 AMD와 협력해 왔으며 AMD 인스팅트 GPU 기반 시스템의 성능을 높이는 소프트웨어와 네트워크 기술을 개발했다. 이를 통해 엔비디아 중심의 기존 AI 인프라와 차별화된 가격 경쟁력을 확보한다는 구상이다. 김 대표는 "AMD GPU는 가격 경쟁력이 있지만 이를 제대로 활용하기 위한 네트워크와 소프트웨어 기술이 중요하다"며 "우리는 이 성능을 끌어올리는 기술을 확보했고 AMD와의 협력을 통해 필요한 GPU와 메모리를 안정적으로 공급받을 수 있는 기반도 마련했다"고 설명했다. 실제 망고부스트는 AI 추론 성능 평가인 'MLPerf 인퍼런스 5.0'에서 AMD 인스팅트 GPU 다중 노드를 활용한 파트너 제출에 참여했다. 이어 '인퍼런스X 6.0'에선 한국과 미국에 위치한 AMD MI300X·MI325X·MI355X 등 서로 다른 세대의 GPU를 통합한 멀티 리전 추론 성능을 선보였다. 회사는 자체 소프트웨어 최적화만으로도 AMD GPU의 추론 성능을 크게 높였으며 향후 자체 하드웨어까지 적용하면 비용 효율성이 더욱 개선될 것으로 보고 있다. 이를 위한 첫 번째 거점으로 서울 강남구 도산공원 인근에 1MW 규모의 AI 팩토리를 구축 중이다. 기존 데이터센터의 공간과 설비를 이용하는 코로케이션 방식으로 인프라를 마련하고 있으며 AMD GPU 수백 장을 단계적으로 도입하고 있다. 현재 일부 인프라를 활용한 서비스가 시작됐으며 전체 구축은 내년 1분기까지 마무리할 계획이다. 망고부스트는 초기에는 외부 네오클라우드 사업자의 GPU와 자체 인프라를 함께 활용하고 이후 자체 AI 팩토리의 비중을 확대할 방침이다. 장기적으로는 1MW를 시작으로 5MW, 100MW 이상으로 인프라 규모를 확장하는 구상도 제시했다. 단순히 GPU 자원을 임대하는 네오클라우드와 달리 자체 설계한 시스템과 소프트웨어를 통합해 AI 추론 서비스를 제공하는 것이 사업 모델의 핵심이다. '망고 인퍼런스' 출시…AI 추론 서비스 직접 공급 이날 망고부스트는 신규 서버리스 AI 추론 플랫폼 '망고 인퍼런스'도 공식 출시했다. 기업과 개발자가 별도의 GPU 인프라를 구축하지 않고도 애플리케이션 프로그래밍 인터페이스(API) 키 하나로 AI 모델을 이용할 수 있는 서비스다. 추론 사용량과 처리 지연, 토큰 소비량, 트래픽 등을 확인할 수 있는 관리 기능도 제공한다. 서비스 경쟁력의 중심에는 자체 개발한 AI 추론 최적화 소프트웨어 'LLM부스트'가 있다. 일반적인 추론 소프트웨어가 GPU 연산 최적화에 집중하는 것과 달리 망고부스트는 스토리지에서 GPU로 데이터가 이동하는 과정까지 최적화한다. 이를 통해 데이터 전송 과정의 병목을 줄이고 GPU 활용률과 추론 처리 효율을 높인다는 설명이다. 권동업 망고부스트 최고기술책임자(CTO)는 "우리는 GPU 서버와 스토리지 서버, 네트워크 기술부터 추론 소프트웨어까지 직접 개발하고 있다"며 "실제 고객의 AI 사용 패턴을 파악해 인프라를 지속적으로 최적화할 수 있다는 점이 차별화된 경쟁력"이라고 말했다. 이어 "AMD GPU 기반의 추론 서비스를 경쟁력 있는 가격으로 제공 중"이라며 "주요 고성능 추론 서비스 사업자와 비교해 최소 20% 이상 저렴하게 가격을 책정했다"고 덧붙였다. 현재는 사용량에 따라 비용을 지불하는 방식으로 서비스를 제공하며 향후 기업 고객을 위한 전용 추론 환경도 지원할 예정이다. 국내 데이터 처리로 소버린 AI 공략…기업용 인프라도 확대 망고부스트는 AI 팩토리 사업의 또 다른 축으로 데이터 주권 확보를 제시했다. 기업들이 외부 AI 모델을 활용하는 과정에서 데이터가 해외 서버에서 처리되는 문제를 줄이고 국내 인프라에서 AI 추론을 수행할 수 있는 환경을 마련하겠다는 목표다. 특히 오픈웨이트 AI 모델을 국내 데이터센터에서 직접 운영하는 방식으로 해외 서비스 사업자에 대한 의존도를 낮출 계획이다. 권 CTO는 "소버린 AI에서 중요한 것은 단순히 모델을 확보하는 것이 아니라 실제 데이터가 어디에서 처리되고 관리되는지"라며 "한국에서 활용되는 AI 데이터는 국내에서 처리하고 관리할 수 있어야 하며 이를 위해 국내 AI 팩토리 구축이 중요하다"고 강조했다. 망고부스트는 앞으로 망고 인퍼런스를 통한 API 서비스뿐 아니라 기업과 공공기관이 자체 환경에서 AI를 운영할 수 있도록 데이터센터 설계와 통합 인프라 공급 사업도 확대할 방침이다. 금융·국방 등 데이터 통제가 중요한 분야에선 자체 네트워크와 스토리지 기술을 활용한 온프레미스 AI 시스템을 제공한다는 구상이다. 김 대표는 "앞으로 AI 시장에서는 모델을 얼마나 잘 만드는지만큼 이를 얼마나 빠르고 저렴하게 서비스할 수 있는지가 중요해질 것"이라며 "AMD와의 협력과 독자적인 하드웨어·소프트웨어 기술을 바탕으로 AI 팩토리 시장에서 경쟁력을 확보하겠다"고 밝혔다.

2026.10.12 14:11한정호 기자

韓 공략 시동 건 코어위브…데이터센터 협력·추론 사업 키운다

글로벌 인공지능(AI) 인프라 기업 코어위브가 한국 시장 공략에 속도를 내고 있다. 국내 여러 데이터센터 사업자들과 협력 방안을 논의하는 가운데 고성능 그래픽처리장치(GPU) 공급뿐 아니라 AI 추론 시장으로 사업 영역을 넓히려는 움직임도 본격화하고 있다. 9일 업계에 따르면 코어위브는 한국 데이터센터 사업 진출 가능성을 열어두고 국내 여러 사업자들과 협의를 진행하고 있는 것으로 파악됐다. 구체적인 투자 규모와 데이터센터 위치, 협력 기업 등은 공개되지 않았다. 코어위브는 최근 아시아 지역으로 AI 인프라 사업을 빠르게 확대하고 있다. 지난 8월 인도네시아에 총 360메가와트(MW) 규모의 데이터센터 3곳을 확보한다고 발표한 데 이어 이달 6일에는 인도 아다니커넥스와 협력해 나비뭄바이에 240MW 규모 AI 데이터센터를 구축한다고 밝혔다. 인도 시설에는 엔비디아의 차세대 '베라 루빈' 플랫폼을 도입할 예정이다. 이런 가운데 코어위브는 지난 6일부터 8일까지 서울 강남구 코엑스 C홀에서 열린 'AI 페스타 26'에 회사 이름을 내건 부스를 마련했다. 코어위브가 국내 전시 행사에 자체 브랜드를 앞세워 참가한 것은 이번이 처음이다. 김현석 코어위브 한국·동남아시아 총괄대표는 행사장에서 지디넷코리아와 만나 한국을 비롯한 아시아 AI 인프라 시장의 현황과 코어위브의 사업 전략을 소개했다. 김 대표는 한국·동남아시아 지역 GTM(Go-To-Market)을 맡아 GPU 인프라와 추론 서비스 등의 사업을 담당하고 있다. 코어위브는 엔비디아 GPU를 기반으로 AI 학습과 추론에 필요한 컴퓨팅 자원을 제공하는 미국 네오클라우드 기업이다. 아마존웹서비스(AWS)와 마이크로소프트(MS) 애저, 구글클라우드 등 기존 하이퍼스케일러와 달리 대규모 AI 워크로드에 특화된 인프라를 제공하는 것이 특징이다. 김 대표는 "GPU를 필요로 하는 기업이나 기관의 수요는 국가 간 경계가 거의 무의미하다"며 "한국에서도 최신 GPU를 확보하려는 기업들의 문의가 상당히 많다"고 말했다. 현재 국내 기업들은 코어위브의 해외 데이터센터를 통해 GPU 서비스를 이용할 수 있다. AI 모델 학습과 추론은 일반적인 클라우드 서비스에 비해 네트워크 지연의 영향이 상대적으로 제한적이어서 데이터의 해외 이전에 제약이 없다면 국내 데이터센터가 없어도 서비스를 이용할 수 있다는 설명이다. 반대로 금융·공공·의료 등 개인정보나 민감정보를 다루는 분야에서는 국내 인프라 유무가 서비스 도입에 영향을 줄 수 있다. 데이터 국외 이전에 대한 규제와 기업 내부 정책 등을 고려해야 하기 때문이다. 김 대표는 "GPU를 빌려 쓰기로 결정한 기업 중에는 데이터센터가 한국에 있는지를 크게 신경 쓰지 않는 곳도 많다"며 "금융기관이나 공공기관처럼 개인정보와 민감정보를 활용하는 곳은 데이터의 해외 이전을 고려해야 하는 경우가 있다"고 설명했다. "韓 기업 GPU 수요 상당…수천~수만 장 문의도" 코어위브가 한국 시장에서 주목하는 분야 중 하나는 대규모 GPU 수요다. 국내 통신사와 전자·플랫폼 기업 등을 중심으로 엔비디아 최신 GPU에 대한 문의가 이어지고 있다. B300뿐 아니라 차세대 베라 루빈 시스템을 확보하려는 움직임도 나타나고 있다. 김 대표는 "국내 주요 기업들이 B300 등 최신 GPU를 수천 장에서 수만 장 규모로 요청하는 사례가 있다"며 "베라 루빈 같은 차세대 시스템에 대한 문의도 계속 들어오고 있다"고 말했다. 다만 국내 기업의 GPU 수요가 실제 대규모 공급 계약으로 연결되기까지는 넘어야 할 부분도 있다. 정부 지원 사업 등을 통해 GPU 사용 예산을 확보하는 기업이 많아 장기간 이용을 확약하기 어려운 사례가 있어서다. 김 대표는 "국내 대기업에서 B300을 수천 장에서 수만 장 규모로 요청하더라도 사용 기간을 물어보면 6개월이나 7개월이라고 답하는 경우가 있다"며 "정부 지원 사업을 통해 GPU를 확보하다 보니 프로젝트의 연속성을 몇 년 이상 보장하기 어려운 구조도 있다"고 말했다. 이는 대규모 GPU를 선제적으로 확보해 장기간 제공하는 네오클라우드의 사업 방식과 차이가 있다. 코어위브는 대규모 GPU 공급에서 사용 기간과 물량에 대한 고객의 확약을 중요하게 보고 있다. 최근에는 3~6개월 단기 계약도 체결하는 등 공급 방식을 다변화하고 있지만 대규모 물량을 안정적으로 제공하려면 장기적인 수요 예측이 필요하다. 김 대표는 한국에서 들어오는 대규모 GPU 공급 요청에서도 계약 기간과 수량, 선급금 등의 조건이 중요하다고 설명했다. 단순히 GPU가 필요하다는 요청만으로 대규모 물량을 확보해 제공하기 어려운 사업 구조라는 의미다. 특히 GPU 공급 능력이 네오클라우드 기업들의 경쟁력을 좌우한다고 봤다. 기존 클라우드 사업자와 네오클라우드는 서비스 구조와 기술 아키텍처에서 차이가 있지만 고객이 원하는 최신 GPU를 제때 확보하지 못하면 가격이나 소프트웨어 경쟁력을 앞세우기도 어렵다는 설명이다. 하이퍼스케일러와 네오클라우드의 차별점도 여기에 있다. AWS·애저·구글클라우드가 CPU와 GPU를 비롯한 다양한 컴퓨팅 자원을 범용 클라우드 아키텍처에서 제공한다면 네오클라우드는 대규모 GPU 클러스터와 네트워크, 소프트웨어를 AI 학습·추론에 맞춰 구성한다. 고객은 기존 클라우드 계약과 비용, AI 워크로드의 특성 등을 고려해 필요한 인프라를 선택할 수 있다. 김 대표는 "AI 인프라는 GPU만의 경쟁이 아니라 '자본의 전쟁(War of Capital)'"이라며 "고객이 원하는 GPU 모델이 없으면 경쟁 자체가 성립하기 어렵다"고 강조했다. W&B 고객 기반으로 韓 추론 시장 공략 코어위브가 한국에서 GPU 공급과 함께 힘을 싣는 분야는 AI 추론이다. AI 시장의 중심이 대규모 모델을 학습하는 단계에서 개발한 모델을 실제 서비스에 적용하는 단계로 확장되면서 추론용 컴퓨팅 수요가 빠르게 늘어날 것으로 보고 있다. 특히 지난해 인수한 AI 개발 플랫폼 기업 웨이츠앤바이어시스(Weights & Biases·W&B)를 활용해 기존 소프트웨어 고객과 코어위브의 GPU 인프라·추론 서비스를 연결하는 전략을 추진하고 있다. W&B는 AI 모델 개발 과정에서 실험 결과를 추적하고 성능을 평가·관리하는 소프트웨어를 제공한다. 코어위브는 W&B를 자체 GPU 인프라와 결합해 AI 모델 개발과 학습부터 추론, 평가·관측까지 이어지는 사업 구조를 구축하고 있다. 국내에서도 파운데이션 모델을 개발하는 주요 AI 기업들이 W&B를 사용하고 있다는 게 김 대표의 설명이다. 모델 개발 단계에서 확보한 고객 접점을 추론과 GPU 인프라까지 확대할 수 있다는 점에서 코어위브의 한국 사업에서도 W&B가 중요한 역할을 맡는다. 김 대표는 "국내 주요 파운데이션 모델 개발 기업들이 이미 W&B를 사용하고 있다"며 "이들 기업이 모델 개발을 넘어 실제 추론 서비스를 확대하려는 만큼 코어위브의 GPU 인프라와 소프트웨어를 함께 제공할 기회가 많을 것으로 본다"고 밝혔다. AI 에이전트와 피지컬 AI 확산도 추론 시장 성장을 촉진할 요인으로 꼽았다. 기존에는 모델을 학습하는 과정에 대규모 GPU가 집중적으로 사용됐다면 AI 서비스가 늘어날수록 실제 이용자의 요청을 처리하는 추론 단계에서 필요한 컴퓨팅 자원도 함께 증가하기 때문이다. AI 에이전트는 서비스를 출시한 이후에도 답변 품질과 성능을 지속적으로 확인하고 개선해야 한다. 모델과 애플리케이션의 성능을 관측하고 평가하는 과정도 중요해지면서 코어위브의 GPU 인프라와 W&B 소프트웨어를 결합할 수 있는 영역이 넓어지는 셈이다. 코어위브는 서버리스 추론과 전용 추론 인프라 등을 제공하고 있다. 국내에서도 추론 서비스를 유통하거나 공동 사업을 추진할 수 있는 기업들과 협력 가능성을 검토하고 있다. 김 대표는 아직 국내 추론 생태계가 충분히 형성된 단계는 아니라고 평가했다. 추론 서비스를 이용하려는 기업과 이를 공급하려는 사업자는 늘고 있지만 GPU 인프라와 여러 AI 모델을 연결해 사용량에 따라 서비스를 제공하는 사업 구조는 이제 만들어지고 있다는 설명이다. GPU 인프라 사업에서는 기존 IT 시장의 총판·리셀러 구조를 그대로 적용하기도 어렵다고 봤다. 대규모 GPU 계약은 장기간 공급과 사용량, 투자비 회수 등이 함께 고려돼야 해 최종 고객과 직접 계약하는 방식이 중요한 반면 추론 시장에서는 다양한 형태의 파트너 사업이 가능하다고 보고 있다. 김 대표는 "한국에는 추론 서비스를 이용하려는 기업도 많고 이를 공급하려는 기업들도 있지만 아직 생태계가 충분히 형성되지는 않았다"며 "현재 여러 국내 기업과 협력을 검토하고 있으며 앞으로 추론 시장을 중심으로 사업 기회를 확대해 나갈 계획"이라고 말했다.

2026.10.09 16:06장유미 기자

[AI 고속도로] 기업 AI도 프라이빗 시대…'모듈형 데이터센터'가 뜬다

기업들이 인공지능(AI) 활용을 확대하면서 데이터와 AI 운영 환경을 직접 통제할 수 있는 '프라이빗 AI'에 주목하고 있다. 외부 클라우드와 AI 모델에 의존하던 방식에서 벗어나 자체 인프라를 병행하는 기업이 늘면서, 필요한 장소에 빠르게 구축하고 수요에 따라 확장할 수 있는 모듈형 AI 데이터센터(AIDC)도 대안으로 부상한 모습이다. 9일 업계에 따르면 기업들은 민감한 내부 데이터나 반복적인 업무를 자체 AI 환경에서 처리하고 고난도 추론이 필요한 작업에는 외부 AI 모델을 활용하는 방식으로 인프라 전략을 다변화하고 있다. 기업의 AI 전략에서도 모델 성능뿐 아니라 데이터를 어디에 저장하고 연산 자원을 어떻게 운영할 것인지가 중요한 과제로 떠오르고 있다. 특히 금융·제조·공공 등 보안과 데이터 통제가 중요한 분야에선 독립적인 AI 운영 환경을 확보하려는 수요가 커지고 있다. 오픈 모델 성능 높아지자 프라이빗 AI 도입 확대 최근 오픈 모델의 성능이 빠르게 향상되고 운영 비용 부담도 줄어들면서, 기업들이 외부 상용 모델에 대한 의존도를 낮추고 업무 특성에 맞는 자체 AI 환경을 구축할 수 있게 됐다. 미국 매사추세츠공과대학(MIT)과 조지아공대 연구진이 발표한 논문에 따르면 오픈 모델은 폐쇄형 최첨단 AI 모델의 약 90% 수준 성능을 내면서도 비용은 약 6분의 1에 그치는 것으로 나타났다. 폐쇄형 모델 출시 이후 오픈 모델이 유사한 성능에 도달하기까지 걸리는 시간도 13주까지 단축됐다. 기업 내부 데이터에 맞춘 모델 미세조정도 경쟁력으로 꼽힌다. 데이터브릭스 연구에선 메타의 오픈 모델 '라마 3.1 8B'를 기업 고유 코드에 맞게 미세조정한 결과, GPT-4o보다 코드 채택률이 1.4배 높고 응답 시간은 2배 빠른 것으로 나타났다. 실제 기업 현장에서도 자체 AI 모델과 외부 모델을 병행하는 사례가 나오고 있다. 미국 보험사 트래블러스는 보험 업무에 특화된 자체 모델 '트래블러스LLM'을 개발해 전문성과 대량 처리가 필요한 업무에 활용하고 범용적이거나 복잡한 요청에는 외부 모델을 사용하는 방식으로 AI 환경을 운영하고 있다. 국내에선 한국서부발전이 외부망과 분리된 온프레미스 환경에 자체 생성형 AI 서비스 '위피봇'을 구축했다. 사내 규정과 기술자료 검색, 문서 작성 등에 활용하고 있으며 시범 운영 결과 업무 효율을 30% 이상 높이고 연간 10만 시간의 업무 시간을 절감한 것으로 알려졌다. AI 운영 환경도 변화…모듈형 데이터센터 대안 부상 기업들이 프라이빗 AI 도입을 확대하면서 대규모 AI 연산을 처리할 수 있는 인프라의 중요성도 커지고 있다. 특히 대규모 AI 모델을 직접 운영하거나 여러 AI 서비스를 상시 구동해야 하는 기업·기관에선 기존 전산실만으로 고밀도 그래픽처리장치(GPU) 환경을 수용하는 데 한계가 있다. 고성능 GPU를 안정적으로 운영하려면 높은 전력 밀도와 발열에 대응할 수 있는 전력·냉각 설비가 필요하다. GPU 간 대용량 데이터를 빠르게 전송하는 네트워크와 스토리지도 갖춰야 한다. 외부 클라우드를 지속적으로 이용할 경우 사용량에 따라 비용 부담이 커질 수 있다는 점도 자체 인프라 구축을 검토하는 배경이다. 이에 전력·냉각·네트워크 등 주요 설비를 공장에서 미리 제작한 뒤 현장에 설치하는 모듈형 AIDC가 주목받고 있다. 부지와 전력이 확보된 환경에선 기존 데이터센터보다 구축 기간을 줄일 수 있고 AI 연산 수요가 늘어나면 모듈을 추가해 단계적으로 확장할 수 있다는 것이 강점이다. 기업이 직접 관리하는 부지에 독립적인 AI 인프라를 구축할 수 있다는 점도 특징이다. 데이터와 시스템에 대한 물리적 통제 수준을 높이면서 필요한 연산 자원을 업무 현장 가까이에 배치할 수 있어 보안과 운영 효율을 함께 고려할 수 있다. 엘리스그룹, 모듈형 AIDC·GPU 운영 기술 결합 국내에선 엘리스그룹이 모듈형 데이터센터와 클라우드 소프트웨어를 결합한 AI 인프라 사업을 추진 중이다. 엘리스그룹은 부지와 전력이 확보된 환경에서 약 3개월 만에 구축할 수 있는 모듈형 AIDC '엘리스 PMDC'를 공급하고 있다. 서버 랙과 전력·냉각·네트워크 설비를 모듈화해 현장에서 설치하는 방식으로, 수요에 따라 인프라를 단계적으로 확장할 수 있도록 설계했다. 고밀도 GPU 환경에 대응하기 위한 수랭식 냉각 시스템도 적용할 수 있다. 여기에 GPU 가상화·오케스트레이션 기술을 적용한 클라우드 소프트웨어 'ECI'를 결합해 GPU 자원을 워크로드에 따라 배분하고 운영할 수 있도록 지원한다. 산업 현장에서도 모듈형 AI 인프라 구축이 추진되고 있다. 부산 명지녹산국가산업단지에선 산업단지 내 기업들이 공동으로 활용할 수 있는 GPU·신경망처리장치(NPU) 기반 엣지 AI 데이터센터를 구축하고 있다. 엘리스그룹과 부산테크노파크, 이지에이아이, 건솔루션, 포미트 등이 참여해 제조기업의 AI 전환을 지원할 계획이다. 박정국 엘리스그룹 최고기술책임자(CTO)는 "기업들이 프라이빗 AI 도입을 확대할수록 데이터를 안전하게 관리하는 것뿐 아니라 AI 인프라 자체를 효율적으로 운영할 수 있는 통제력이 중요해질 것"이라고 말했다. 이어 "특히 민감한 데이터를 다루거나 대규모 AI 연산 환경을 직접 운영해야 하는 기업·기관에선 필요한 장소에 AI 인프라를 빠르게 구축하고 수요에 따라 확장할 수 있는 모듈형 데이터센터가 효과적인 선택지가 될 것"이라고 덧붙였다.

2026.10.09 15:00한정호 기자

"엔비디아 루빈 HBM4, 12단이 대세"

엔비디아 차세대 그래픽처리장치(GPU) '베라 루빈'에 탑재할 6세대 고대역폭메모리(HBM4)에서 12단 제품 비중이 대부분을 차지할 것이라는 전망이 나왔다. 최근 업계 일각에서 확산한 'HBM 단수 하향' 우려와 다르다. 시장조사업체 카운터포인트리서치는 9일 HBM4에서 12단 제품이 주력이 될 것이라고 추정했다. 카운터포인트의 이번 전망은 최근까지 업계 일각 전망과 엇갈린다. 최근 엔비디아가 주요 HBM 공급사에 주력품 사양을 12단에서 8단으로 낮춰달라고 요청했다는 언론 보도가 이어졌다. 주문형반도체(ASIC) 진영에서는 비용 부담 탓에 4단 제품까지 내려갈 것이라는 추정도 나왔다. HBM 적층 단수가 낮아지면 HBM에 투입하는 생산능력이 줄고, 그만큼 범용 D램 생산이 늘어 가격이 하락할 수 있다는 전망이 이어졌다. 이는 삼성전자를 비롯한 메모리 업체 실적 전망에는 악재로 꼽혔다. 카운터포인트는 HBM 탑재량 증가 흐름이 이어질 것이라고 전망했다. 인공지능(AI) 워크로드에서는 비용 절감보다 대역폭과 용량을 함께 확보하는 것이 중요하다는 이유다. 카운터포인트는 "ASIC에서도 우려와 달리 4단 제품은 확인되지 않았다"고 밝혔다. 그러면서 "메모리 업계 전반에 제기된 HBM 수요 둔화는 잘못된 정보"라며 "이는 향후 실적 전망에서 중요한 변수"라고 강조했다. HBM 생산에는 범용 D램보다 3배 이상 생산능력이 요구된다. 이는 범용 D램 공급 부족 주요 원인 중 하나로 꼽힌다. HBM 수요가 견조하게 유지되면 범용 D램 공급 부족과 가격 강세도 이어질 가능성이 크다. 카운터포인트는 지난 8일 삼성전자 잠정실적 발표에서 최근 반도체 업체들이 보였던 어닝 서프라이즈는 없었다고 평가했다. 삼성전자 3분기 잠정실적은 매출 195조원, 영업이익 107조 4000억원이었다. 영업이익은 시장 전망치를 소폭 상회했다. 카운터포인트는 환율을 원인으로 지목했다. 삼성전자는 수출 비중이 높아 매출 상당 부분을 달러로 벌어들이는 반면 비용은 원화로 지출한다. 원·달러 환율이 갑자기 떨어지면 이를 피하기 어려워 마진 부담으로 돌아온다. 카운터포인트리서치는 "메모리 업계 수요 성장에 대한 확신이 10월 들어 강화됐다"며 "삼성전자의 역대 최대 실적이 일회성에 그치지 않을 가능성에 무게가 실린다"고 평가했다.

2026.10.09 08:00진운용 기자

콴델라 "양자컴퓨팅, 기존 AI 처리 장애물 넘을 새 연산 자원"

"현재 컴퓨터는 0과 1을 기반으로 한 결정론적 방식으로 동작해 왔다. 반면 2000년대 들어 주목받는 양자컴퓨터는 확률과 관측을 기반으로 세상을 이해하는 전혀 다른 구조의 컴퓨터다." 8일 오후 서울 코엑스 'AI 페스타 26' 행사장 내 'AIR 쇼케이스' 무대에서 김유석 콴델라코리아 대표가 이렇게 강조했다. 'AI 페스타 26'은 과학기술정보통신부가 주관하는 '인공지능주간(AI WEEK)'의 일환으로 6일부터 8일까지 서울 삼성동 코엑스에서 열리는 B2B AI 전시회다. 'AIR 쇼케이스'는 AI가 현실세계에 적용되는 데 필요한 도전과제와 한계를 조명하기 위해 마련됐다. 이날 김유석 대표는 "양자처리장치(QPU)를 기반으로 한 양자 컴퓨터가 기존 컴퓨터를 대체한다거나, 혹은 현행 암호체계를 모두 무너뜨릴 것이라는 인식도 있다. 그러나 실제로는 두 컴퓨터가 협동하는 방향으로 나아갈 것"이라고 설명했다. "QPU, CPU·GPU 대체 아닌 협력하는 연산 자원" 김 대표는 "CPU는 다양한 작업을 순차 처리하는 데 적합하며, GPU는 많은 데이터를 한 번에 처리할 때 강점을 드러낸다. 양자처리장치(QPU)의 처리 속도는 CPU나 GPU 대비 느릴 수 있지만 특정 영역에서는 엄청난 성능을 발휘한다"고 밝혔다. 이어 "양자컴퓨터 역시 기존 컴퓨팅 환경을 완전히 대체하기보다 AI 알고리즘을 GPU에서 먼저 시뮬레이션하고 유용하다고 판단되면 이를 QPU에서 수 초에서 수 분에 이르는 짧은 시간동안 처리하는 형태로 활용될 가능성이 크다"고 내다봤다. 김 대표는 이를 "기존 솔루션이나 알고리듬에 양자 층을 하나 더 씌우는 것"이라며 "콴델라는 이미지 처리와 분류, 머신러닝 등에 적용할 수 있는 다양한 양자 알고리듬을 실증하고 있으며 연말까지 약 100개의 알고리즘을 공개할 계획"이라고 밝혔다. 이미지 분석·악성코드 탐지에 양자컴퓨팅 적용 이날 세션에서는 산업 현장에서의 적용 사례도 소개했다. BMW와 에어버스가 참여한 연구에서는 낮에 촬영한 이미지를 야간 이미지로 변환하는 과정에서 양자 레이어를 적용했다. 김유석 대표는 "야간에는 자동차와 가로등, 건물 등 다양한 광원이 이미지에 간섭을 일으키면서 연산이 복잡해지는데, 기존 방식에서 나타난 이미지 속 허상 현상을 양자 연산을 통해 줄이는 결과를 확인할 수 있었다"고 말했다. 프랑스 오랑주텔레콤은 네트워크 상 악성코드를 탐지하는 과정에 양자컴퓨팅을 적용했다. 네트워크 트래픽을 이미지 형태로 변환한 뒤 양자 레이어를 적용한 결과 악성코드뿐 아니라 해당 악성코드의 아종까지 식별하는 결과를 얻었다. 김유석 대표는 "신약과 신소재 개발 등 분자 단위 연산과 시뮬레이션은 슈퍼컴퓨터와 GPU 자원을 총동원해도 처리하기 까다로운 작업이다. 양자컴퓨팅은 기존에 정복하지 못했던 분야에서 두드러지는 활약을 보일 것"이라고 강조했다. "양자컴퓨팅, 보안 분야에 위협이자 기회" 양자컴퓨터의 작동 방식이 기존 암호화 표준이나 보안 체계를 쉽게 무력화할 것이라는 우려도 있다. 그러나 김유석 대표는 "양자컴퓨터는 보안 분야에 위협인 동시에 방어 기술이 될 수 있다"고 반론했다. 소인수분해에 기반한 기존 암호 알고리즘은 양자컴퓨터에 의해 위협받을 수 있지만, 반대로 양자난수 등을 활용해 보안을 강화하는 연구도 진행되고 있다는 것이다. 김 대표는 "콴델라는 광자를 큐비트로 활용하는 랙 단위 양자컴퓨터를 개발중이며 이를 GPU와 결합해 산업 현장에 적용하기 위해 다양한 시도중"이라고 말했다. 이어 "양자컴퓨팅의 미래는 세상을 한 번에 완전히 바꾸는 것보다 기업이 이미 가지고 있는 솔루션과 알고리듬을 한 단계 진화시키는 형태로 먼저 나타날 것"이라고 내다봤다.

2026.10.08 16:01권봉석 기자

GPU 활용률 '90%' 이상 가능…아크릴, AI 인프라 비용 줄인다

"실제 업무 환경에서 GPU는 다양한 문제로 50~60%의 활용률에 머무르는 경우가 있다. 아크릴의 플랫폼을 적용하면 이를 90% 이상으로 끌어올릴 수 있어, AI 인프라 운영비용율 획기적으로 절감할 수 있다" 김종율 아크릴 이사는 8일 서울 코엑스에서 열린 'AI 페스타 26'에서 AI 인프라 운영 효율화를 위한 기술을 소개했다. 지난 2011년 설립된 아크릴은 AX 인프라 소프트웨어 전문 기업이다. AI 인프라 오케스트레이션 플랫폼인 'GPUBASE'를 공급하고 있다. GPUBASE는 여러 서버에 분산된 GPU를 하나의 자원 풀처럼 관리하고, 각 워크로드에 필요한 자원을 배분해 GPU 활용률을 높이는 솔루션이다. 또한 GPUBASE는 네트워크 최적화 기능을 갖췄다. 특정 경로에 트래픽이 몰리는 경우를 방지하기 위해 다중 경로를 활용하고, 작업별 우선순위에 따라 트래픽을 처리하는 기술이다. 김 이사는 "실제 업무 환경에서 모니터링된 GPU 할당률은 90%지만, 실제 연산 가동률은 50~60%에 머무르는 사례들이 보고되고 있다"며 "이에 아크릴은 AI로 필요한 메모리와 코어를 예측해, 맞는 크기로 GPU를 배치하는 시스템을 구축했다"고 설명했다. 현재 아크릴은 실제 대규모 GPU 환경에서 GPUBASE 검증을 완료한 상황이다. AWS, 구글, 마이크로소프트 등 3대 클라우드 환경에서 총 1272장의 GPU장을 운용한 결과, AI 학습 속도는 최대 24배 향상된 것으로 나타났다. GPU 활용률은 90%를 상회했다. 엔크릴은 GPUBASE와 같은 AI 인프라용 소프트웨어 기술이 대한민국의 소버린 AI 구축에 있어 핵심적인 역할을 할 것으로 내다봤다. 김 이사는 "GPU 등 각종 AI 반도체를 하나의 풀로 운영해, 특정 공급사와 공급망에 종속되지 않는 연산 주권을 확보해야 한다"며 "폐쇄망에서 완전 구동될 수 있는 망 주권, 자체 모델과 운영 도구로 모델을 직접 만드는 모델 주권도 중요하다"고 강조했다. AI 페스타 2026은 과학기술정보통신부가 주최하고 한국인공지능·소프트웨어산업협회(KOSA)와 AI페스타조직위원회가 주관하는 인공지능주간 공식 행사다.

2026.10.08 15:44장경윤 기자

"GPU와 경쟁 아닌 공존"…딥엑스, '피지컬 AI' K-NPU로 글로벌 정조준

"글로벌 그래픽처리장치(GPU) 기업과 경쟁하려는 것이 아닙니다. 대규모 데이터 학습은 GPU가, 일상 디바이스에 탑재되는 '피지컬 인공지능(AI)' 연산은 신경망처리장치(NPU)가 분담하는 명확한 공존이 우리 전략입니다." 조재홍 딥엑스 상무는 8일 서울 강남구 코엑스에서 열린 AI 페스타 2026에서 글로벌 빅테크와 협력 기반 시장 확대 비전을 제시하며 이같이 밝혔다. 최근 AI 반도체 시장은 엔비디아로 대표되는 데이터센터용 GPU가 독식하고 있다. 하지만 조 상무는 1기가와트(GW) 규모 데이터센터 구축에 100조원이 투입되는 막대한 비용과 GPU 특유의 발열, 전력 소모를 근본적 한계로 지적했다. 그는 "연간 50억대 이상 쏟아지는 사물인터넷(IoT) 디바이스의 모든 AI 연산을 클라우드 데이터센터에서만 처리하면 프라이버시 침해와 막대한 전력 지연을 피할 수 없다"며 "로봇이나 CCTV 등 디바이스 자체에 AI 연산이 임베딩돼 실시간 구동하는 '피지컬 AI' 전용 NPU가 반드시 필요한 시점"이라고 강조했다. 딥엑스가 독자 개발한 NPU 'DX-M1'은 이러한 에지(Edge) 수요를 정확히 겨냥했다. 엄지손톱 크기 칩 하나가 5W 미만 초저전력으로 구동돼 일반 배터리로도 작동하며, 쿨링팬이 필요 없을 정도로 발열을 잡았다. 수만 개 데이터를 한 번에 처리하는 GPU와 달리, 카메라로 들어오는 사진 한 장을 즉각 처리하는 '배치 사이즈 1' 환경에 최적화돼 GPU 대비 구축비용을 10분의 1에서 최대 100분의 1 수준으로 대폭 낮췄다. 딥엑스는 이 같은 기술력을 바탕으로 최근 방한한 리사 수 AMD 회장과 간담회를 갖는 등 글로벌 빅테크와 협력을 구체화하고 있다. 무한 경쟁 대신 시장 파이를 나누는 셈이다. 가시적 상용화 성과도 입증했다. 조 상무는 "국내 최초로 피지컬 AI 반도체 양산에 성공해 상반기에만 10개국 8개 산업군에 1300만개 이상을 수출했다"며 "현대자동차 로보틱스랩의 로봇(DAL-e)과 중국 바이두의 스마트 팩토리 장비 등에 우리 NPU가 탑재돼 활약 중"이라고 말했다.

2026.10.08 15:41전화평 기자

코어위브, AI페스타서 국내 첫 회사 소개 부스에 참관객 '주목'

인공지능(AI) 시대 그래픽처리장치(GPU) 중요성이 날로 커진 가운데, 엔비디아(Nvidia) 우선 공급사로 알려진 '코어위브'가 국내에서 처음으로 'AI 페스타(Festa) 26'에 회사 소개 부스를 마련했다. 8일 서울 강남구 코엑스 C홀에서 열린 AI Festa 26에 참가한 코어위브는 GPU를 클라우드화해 대여하는 사업 등을 소개했다. 코어위브는 2025년 3월 나스닥 시장에 입성했으며, GPU 대여 외에도 AI가 지속적으로 성능을 유지할 수 있는 다양한 서비스를 제공 중에 있다. 또 코어위브는 AI에이전트가 활용하는 대규모 언어 모델(LLM)을 쓰는 빅테크를 대부분 고객사로 보유하고 있다고 부연했다. 이날 부스에 참여한 김현석 코어위브 한국지사 총괄대표는 "GPU 데이터센터를 전 세계 여러 지역에 50여 개 이상의 데이터 센터를 운영 중"이라며 "국내에도 데이터센터를 신설할 것"이라고 설명했다.

2026.10.08 13:05손희연 기자

"GPU 다음은 데이터 병목"…디노티시아, VDPU로 AI 인프라 새 판 짠다

초거대 AI 생태계가 스스로 복잡한 임무를 수행하는 에이전트 시대로 진화함에 따라 컴퓨팅에 지각변동이 일고 있다. 과거 엔비디아 GPU(그래픽처리장치)를 중심으로 한 연산 능력이 데이터센터 인프라의 핵심이었던 반면, 이제는 연산의 병목 현상이 GPU를 넘어 CPU(중앙처리장치)와 메모리 쪽으로 빠르게 옮겨가는 추세다. 정무경 디노티시아 대표는 7일 강남구 코엑스에서 개최된 'AI 페스타 26'에서 'AI 에이전트 시대의 데이터 인프라-검색과 메모리의 폭증, 그리고 AI 스토리지의 등장'을 주제로 발표하며 이같이 진단했다. 폭증하는 AI 검색량…CPU 워크로드 70% 차지 정 대표는 강연을 통해 이러한 병목 현상의 근본 원인은 폭발적으로 늘어난 데이터 검색량과 잦은 데이터 이동 지연에 있다고 진단했다. 단답형이던 초기 LLM(거대언어모델)이 검색 증강 생성(RAG)과 추론을 거쳐 자율적인 에이전트 시대로 접어들면서, 하나의 임무를 완수하기 위해 수많은 작업을 거치게 됐다. 이 과정에서 토큰 생성량과 함께 연산 중간중간 데이터를 검색하는 횟수가 기하급수적으로 늘어나, 병목 현상이 생긴 셈이다. 정 대표는 현재 데이터센터 내 CPU 워크로드의 60~70%가 이러한 데이터를 찾는 데 소모되고 있다고 짚었다. 연산 과정에서 AI가 단기 기억으로 사용하는 'KV 캐시(Key-Value Cache)'의 덩치가 커진 것도 병목을 가중시킨다. 그는 "KV 캐시가 너무 비대해져 비싼 고대역폭메모리(HBM)에 모두 담지 못하고 외부로 뺐다 다시 불러오는(오프로딩 및 리로드) 과정을 끊임없이 반복하며 극심한 지연을 낳고 있다"고 지적했다. 특히 올해를 기점으로 인간이 직접 데이터를 찾는 횟수보다 AI가 의미 기반(시맨틱)으로 검색하는 횟수가 역전될 전망이다. 정 대표는 "기업 스토리지에 저장만 해두고 쓰지 않는 '다크 데이터(Dark Data)'가 전체의 75~85%에 달한다"며 "이제는 사람이 아닌 AI가 시맨틱 서치로 이 숨겨진 데이터들까지 모두 찾아내 활용해 새로운 인텔리전스를 만드는 시대"라고 설명했다. 15배 빠른 검색 가속기 VDPU 개발...제로 카피로 지연 없애 디노티시아는 VDPU(벡터 데이터베이스 프로세스 유닛)를 통해 이같은 병목을 해결할 계획이다. VDPU는 의미 기반 데이터 검색에 특화된 전용 반도체다. AI가 원하는 데이터를 찾아내는 알고리즘 속도를 기존 CPU 대비 최대 15배까지 끌어올려 즉각적이고 정확한 검색을 돕는다. 아울러 찾은 데이터를 CPU의 개입 없이 곧바로 GPU 메모리에 적어주는 '제로 카피(Zero-Copy)' 기술을 지원해 고질적이었던 데이터 이동 지연 문제와 컴퓨팅 자원의 낭비를 획기적으로 줄였다. 정 대표는 "CPU 소프트웨어만으로는 늘어나는 검색량을 감당하기 어려워 AI 검색에 특화된 전용 반도체가 필수적이라고 봤다"며 "우리가 3년 전부터 개발해 온 VDPU는 오직 '검색'만을 위한 세상에 없던 반도체"라고 강조했다. "단순 칩 넘어 'AI 스토리지'로"…데이터센터 필수 인프라 정조준 디노티시아는 VDPU 기술을 발판 삼아 AI 스토리지 시스템 구축을 목표로 한다. 폭증하는 AI 데이터를 제한적인 메모리 공간만으로는 감당할 수 없기 때문이다. 이를 위해 회사는 VDPU 하드웨어와 더불어 외부 지식, 장기 기억(에이전트 메모리), 단기 기억(KV캐시)을 종합적으로 관리하는 'AI 메모리 소프트웨어'를 개발 중이다. 정 대표는 “AI가 생각하는 방식은 외부 지식을 찾고 과거 경험을 떠올려 작업하는 사람의 사고방식과 거의 유사하다”며 “이 모든 기능이 스토리지 시스템 안에 통합돼 AI의 기억과 지식을 제공하는 공간이 돼야 한다”고 말했다. 그러면서 "데이터센터를 구축할 때 가장 큰 비용이 GPU에 투입되지만, 결국 GPU가 100% 성능을 내려면 빠르고 정확한 데이터 공급이 뒷받침되어야 한다"며 "VDPU와 AI 메모리 소프트웨어를 결합한 AI 스토리지를 데이터센터 내 GPU 바로 옆에 배치해, AI 인프라 시장의 새로운 패러다임을 주도할 것"이라고 덧붙였다. 한편, AI 페스타 26은 'AI, 현실이 되다. 모두의 AI'를 주제로 과학기술정보통신부, 한국인공지능·소프트웨어산업협회(KOSA), AI페스타 조직위원회가 주최하는 국내 최대 규모 AI 행사다. 서울 삼성동 코엑스 C홀에서 오는 8일까지 진행된다.

2026.10.07 17:35전화평 기자

"GPU, 시간 단위로 사용하세요"…데이터얼라이언스의 혁신 솔루션

데이터얼라이언스가 기존 대비 최대 90% 경제적인 대규모 그래픽처리장치(GPU) 클라우드 서비스로 인공지능(AI) 시장을 공략한다. 현재 확보한 초기 단계 고객만 300여 곳이다. 데이터얼라이언스는 서울 강남 코엑스에서 6일부터 8일까지 열리는 'AI 페스타 26'에 참가해 GPU 인프라 공유 플랫폼 '지큐브' 성과와 핵심 기술을 소개했다. 지큐브는 기존 대형 클라우드 서비스 제공업체(CSP)의 비싼 고정비용 부담을 해소하기 위해 개발한 GPU 공유 플랫폼이다. 사용자가 원하는 시간만큼 GPU 자원을 켜고 끌 수 있도록 구현했다. 기존 대형 CSP 이용 대비 최대 90% 비용을 아낄 수 있다. 서로 다른 세대와 성능의 GPU를 하나의 통합 자원 풀에서 동시에 운용하는 이기종 GPU 풀링이 핵심 경쟁력이다. RTX 시리즈부터 H100급 GPU까지 통합 관리가 가능하다. 작업 목적과 예산에 맞춰 자원을 유연하게 선택·조합할 수 있다. 지큐브는 "컨테이너 기반 멀티테넌트 GPU 격리 기술을 통해 다수 사용자가 동일 GPU를 동시에 사용하는 경우에도 데이터 보안과 성능 안정성을 지원한다"고 설명했다. 이러한 장점을 무기로 AI 서비스 기업, 연구기관 등 300곳 이상 초기 단계 고객을 확보했다. GPU 공급자도 여러 클라우드 사업자들과 협력하고 있다. 데이터얼라이언스 관계자는 "시간 단위로 GPU 공유 서비스를 지원하는 것이 지큐브의 핵심 경쟁력"이라며 "최신 RTX 시리즈부터 네이버 클라우드, NHN 클라우드 등 주요 파트너사를 통해 엔비디아의 고성능 서버 칩까지 제공 가능하다"고 설명했다. 데이터얼라이언스는 2016년 설립된 AI 인프라 기업이다. 초기에는 스마트시티·사물인터넷(IoT) 기반 데이터 플랫폼 사업을 수행하며 기술력을 축적했다. 국토교통부, 과학기술정보통신부 등 정부 연구개발(R&D) 과제와 실증 사업에 참여하며 공공·민간 영역에서 경험을 쌓았다. 이를 기반으로 AI 컴퓨팅 인프라 분야로 사업을 확장했다.

2026.10.07 09:22장경윤 기자

Prev 1 2 3 4 5 6 7 8 9 10 Next