• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
ZDPick
국감2026
인공지능
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'DGX-A100 GPU'통합검색 결과 입니다. (633건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

피지컬 AI 세상은 통신망부터...산업 현장서 AI기지국 실증

올해로 인공지능(AI)이 세상에 등장한 지 70년이 됐습니다. 디지털 세상에서 인류의 지식과 정보를 언어로 학습한 생성형 AI가 이제 물리 세상을 체험하기 위해 나올 채비를 마쳤습니다. 이름하여 피지컬(Physical) AI. 휴머노이드 로봇, 자율주행차, 다크팩토리, 헬스케어 등이 대표적입니다. 챗GPT에 이은 피지컬 AI는 첨단제조 강국인 한국 경제를 더 혁신적이고 지속 가능한 성장엔진으로 바꿔 놓을 무한한 잠재력까지 갖고 있습니다. 산업화를 넘어 미래 지능형 플랫폼 사회로 나아가는 관문도 피지컬 AI에 달려 있다고 해도 과언이 아닙니다. 예측불허의 AI 시대, 우리는 무엇을 준비해야 할까요. 창간 26주년을 맞은 지디넷코리아가 연중기획 '피지컬AI가 미래다'를 통해 당면 과제와 이슈를 고민합니다. 많은 관심과 조언 부탁드립니다. [편집자주] 피지컬 AI가 산업 현장으로 확산되면서 통신망의 역할도 달라진다. 로봇이 수집한 영상과 센서 데이터를 빠르게 전달하고, 로봇 내부에서 처리하기 어려운 AI 연산을 가까운 네트워크의 컴퓨팅 자원과 나눠 수행하는 기술이 개발돼야 하기 때문이다. 국내에서는 정유공장과 조선소 등을 대상으로 AI 기반 무선접속망(AI-RAN) 실증이 시작됐고, 해외에서도 이동통신망을 피지컬 AI의 연산 인프라로 활용하려는 시도가 이어지고 있다. 대표적인 사례로 과학기술정보통신부와 한국지능정보사회진흥원(NIA)은 172억 규모의 하이퍼 AI 네트워크 기반조성 사업에 착수했다. SK텔레콤과 KT가 각각 컨소시엄을 구성해 5G 단독모드(SA)와 AI-RAN 기술을 산업시설에 적용하는 내용이다. 구체적으로 산업용 로봇의 이동과 작업 과정에서 필요한 통신 성능을 검증하고 AI 연산자원을 네트워크에 분산하는 기술의 시험이 포함됐다. 정유공장·조선소에 AI 기지국, 산업용 로봇 실증 실증 대상은 로봇 작업 특성과 현장 환경에 따라 나뉜다. SK인천석유화학에서는 사족보행 로봇을 활용한 위험지역 순찰, KG모빌리티 공장에서는 무인 자율이송을 시험한다. HD현대삼호 조선소에서는 로봇을 활용한 용접과 도장 작업을 검증한다. 작업 환경은 각기 다른 현장이지만 로봇이 수집한 정보를 외부로 전송하고 이동 중에도 통신을 유지해야 한다는 공통점이 있다. 정유공장 순찰 로봇은 위험지역 영상을 실시간으로 전달해야 하고, 자율이송 로봇은 이동 경로와 장애물 정보를 지속적으로 처리해야 한다. 조선소의 용접 도장 로봇도 작업 상태에 따라 안정적인 통신이 요구된다. 정부는 이같은 현장 실증에서 상향 전송 속도와 지연시간, 지연 변동 폭을 비롯해 AI 기반 네트워크 자율 운용 성능을 검증한다. 삼성전자와 에치에프알, 에릭슨, 노키아 등 여러 제조사의 장비와 CPU, GPU 연산자원을 활용해 산업 현장에 적합한 통신망 구성을 시험한다. 위즈코어가 에치에프알, 한국전자기술연구원, 로보티즈 등과 함께 현대제철 당진 열연공장에서는 특화망과 AI-RAN을 결합해 로봇과 통신장비, AI 연산 기능을 연계하는 기술을 검증하고 있다. 기존 이동통신망과 AI-RAN의 연동을 위한 기술 검증도 진행되고 있다. LG유플러스와 연세대는 엔비디아 GPU 기반 AI-RAN 시험망과 기존 5G망을 연동해 서로 다른 네트워크 영역 사이의 연결성을 확인했다. AI-RAN이 별도 시험망에 머무르지 않고 기존 이동통신 인프라와 함께 운용될 수 있는지 검증한 사례다. 시장조사업체 옴디아의 레미 파스칼 수석애널리스트는 한국의 이같은 AI-RAN 실증을 두고 “산업용 AI 구현에서 정부기관이 기존 통신망 최적화 사업보다 더 큰 역할을 할 수 있다”며 “제조업 기반과 산업 자동화 역량을 갖춘 국가에서 이러한 접근법이 특히 의미가 있다”고 평가했다. 글로벌 시장에서도 '피지컬AI+네트워크' 검증 해외에서도 AI 연산과 무선망 기능을 결합해 피지컬 AI를 지원하려는 실증이 진행되고 있다. 미국 T모바일은 엔비디아, 노키아와 AI-RAN 기반 분산형 엣지 인프라에서 피지컬 AI 응용 서비스를 검증하고 나섰다. 기지국과 통신국사에 배치된 컴퓨팅 자원을 활용해 도시 교통과 전력설비, 산업현장의 영상을 분석하는 방식이다. 지멘스에너지 등 산업 분야 기업도 관련 기술의 활용 가능성을 평가하고 있다. 일본 소프트뱅크는 에릭슨과 로봇 AI 연산을 외부 네트워크로 분산하는 기술을 검증했다. 로봇의 작업 상태와 연산 요구에 따라 기기 내부에서 AI를 처리하거나 인접한 모바일 엣지 컴퓨팅(MEC) 자원으로 이전하는 방식이다. 이 과정에서 네트워크 슬라이싱과 데이터 전송 우선순위 제어를 활용해 로봇의 작업에 필요한 통신 품질을 제공하도록 했다. AI 연산을 외부로 옮기는 데 그치지 않고 로봇의 상태에 맞춰 통신망까지 함께 제어하는 기술이다. 최근에는 피지컬 AI의 연산을 클라우드와 엣지, 단말에 분산하기 위한 기술 구조도 제시됐다. 세계 최대 통신장비 회사인 화웨이는 최근 열린 '화웨이커넥트 2026'에서 중국과학원 선양자동화연구소와 로봇의 실시간 제어와 현장 데이터 처리, 전체 시스템 최적화를 구분하고 작업 특성에 따라 연산자원을 배분하는 구조에 대한 연구보고서를 발표했다. 로봇 연산 나눠 맡는 통신망...상향 전송·지연 관리가 관건 국내외에서 AI-RAN과 엣지 컴퓨팅을 결합하는 배경에는 로봇 자체의 연산 능력과 전력에 한계가 있다는 점을 꼽고 있다. 피지컬 AI는 카메라와 센서로 주변 환경을 인식하고 사물의 위치와 움직임을 판단해 실제 동작을 수행한다. 고성능 AI 모델을 로봇 내부에서 모두 실행하려면 상당한 연산 능력이 필요하지만 이동형 로봇은 배터리 용량과 발열, 무게에 제약이 있다. 외부 컴퓨팅 자원을 활용하면 로봇 내부의 연산 부담을 줄일 수 있다. 다만 먼 거리에 있는 클라우드에 데이터를 보내면 통신 지연이 늘어날 수 있어 가까운 엣지에서 처리하는 방식이 대안으로 거론된다. 로봇이 수집한 정보를 네트워크의 AI 연산자원으로 보내고 처리 결과를 다시 전달받는 구조다. 마이크로소프트리서치는 피지컬 AI 로봇 추론 연구에서 “로봇 내부 GPU에서만 AI 추론을 실행하면 로봇의 성능과 배터리 수명, 확장성이 제한될 수 있다”며 “AI 추론을 엣지나 클라우드의 GPU로 분산하면 상당한 이점을 얻을 수 있다”고 평가했다. AI 모델의 처리 속도와 함께 기존 네트워크 트래픽 관리를 뒤집어야 하는 점도 짚어야 할 점이다. 기존 모바일 서비스는 영상과 콘텐츠를 내려받는 하향 전송에 무게가 실렸지만 피지컬 AI는 로봇의 카메라와 센서에서 발생하는 데이터를 외부로 보내는 상향 전송 수요가 큰 점을 네트워크 설계에서 고민해야 한다. AI-RAN은 이러한 요구에 대응하기 위해 무선망 자체에도 AI를 적용한다. AI로 무선 신호를 복원하거나 채널 상태를 예측해 전송 품질을 개선하는 동시에, 기지국 주변의 컴퓨팅 자원으로 외부 AI 서비스의 연산을 지원하는 방식이다. 로봇과 통신망, AI 시스템이 하나의 작업을 나눠 수행하려면 서로 다른 장비가 정보를 교환하는 기준도 중요해진다. 한국전자통신연구원(ETRI)은 지난 9월 국제전기통신연합 전기통신표준화부문(ITU-T)의 체화 AI 포커스그룹에서 피지컬 AI 관련 표준화 과제 2건을 제안해 승인받았다. 이 가운데 제조 분야 과제는 카메라 영상과 로봇 위치, 온도와 압력 등 여러 정보를 함께 처리하기 위한 기술 요구사항을 다룬다. 로봇과 제조설비, AI 시스템의 협업에 필요한 데이터 처리와 시스템 연계 기준을 마련하는 작업이다.

2026.10.13 16:20박수형 기자

인텔, 추론 특화 GPU 정식 명칭 공개... "GPU D시리즈"

인텔이 12일(현지시간) '2026 OCP 글로벌 서밋' 행사에서 데이터센터용 추론 특화 GPU 정식 명칭과 일부 성능 지표를 공개했다. 인텔은 작년 OCP 글로벌 서밋 행사에서 자체 개발한 새로운 GPU 아키텍처 'Xe3P' 기반 데이터센터용 추론 특화 GPU '크레센트 아일랜드'(Crescent Island)를 공개한 바 있다. 인텔이 이날 공개한 '크레센트 아일랜드'의 정식 명칭은 '인텔 GPU D시리즈'이다. 최상위 제품인 D270은 LPDDR5X 메모리를 480GB 탑재 가능하며 전력 소모는 350W, 냉각 방식은 공랭식이다. 카드 한 장당 최대 3000억 개 매개변수(패러미터) 모델을 처리 가능하며 카드 8개 구성시 1조 개 규모 모델을 구동 가능하다. 인텔은 D270 GPU의 일부 성능 지표도 함께 공개했다. 메모리 대역폭은 초당 최대 1.5TB, FP8(부동소수점, 8비트) 연산 성능은 최대 1.3 페타플롭스다. 인텔은 GPU D시리즈 출시 당일부터 오픈소스 AI 모델과 파이토치 등을 기본 지원할 것이라고 밝혔다. 인텔은 지난 8월 초 메타 300억 개 매개변수 모델 '뮤즈 글리머' 공개 당일부터 코어 울트라 시리즈3(팬서레이크) 프로세서와 아크 프로 B70 GPU 등을 최적화했다고 밝히기도 했다. 인텔은 "GPU D시리즈 생산과 시장 공급을 위해 주요 제조사와 네오클라우드, 소프트웨어 업체와 함께 협력하고 있으며 현재 시제품을 일부 고객사에 공급중"이라고 설명했다.

2026.10.13 09:30권봉석 기자

베슬AI, 업스테이지 '솔라 프로4' 글로벌 추론 뒷받침…처리속도 최대 3배↑

베슬AI가 업스테이지의 인공지능(AI) 모델 '솔라 프로4'의 글로벌 추론 인프라 운영을 맡으며 사업 영역을 확대하고 있다. 그래픽처리장치(GPU) 인프라 공급을 넘어 AI 모델의 실제 서비스 운영까지 지원하며 글로벌 추론 시장 공략에 속도를 내는 모습이다. 베슬AI는 업스테이지의 거대언어모델(LLM) 솔라 프로4에 글로벌 추론 인프라를 제공하고 자체 최적화 기술을 적용해 처리 속도와 운영 비용을 개선했다고 12일 밝혔다. 솔라 프로4는 지난 9월 글로벌 LLM 마켓플레이스 '오픈라우터'에서 실제 이용량 기준 3위에 올랐다. 베슬AI는 해당 기간 솔라 프로4의 글로벌 추론 서비스 운영을 담당하며 전 세계 이용자들의 요청을 처리했다. 특히 솔라 프로4의 일일 토큰 처리량이 80억개에서 1550억개로 약 19배 증가하는 동안 필요한 추론 인프라를 지원했다. 국내에서 개발한 AI 모델의 글로벌 이용 확대를 국내 네오클라우드 기업의 인프라가 뒷받침한 사례다. AI 추론은 학습을 마친 모델이 실제 서비스 환경에서 이용자의 질문이나 요청을 처리하는 과정이다. 신규 모델 출시나 프로모션 등으로 이용량이 급증할 경우 안정적인 서비스를 유지하기 위해 충분한 GPU 자원과 효율적인 운영 기술이 필요하다. 베슬AI는 업스테이지와 모델 출시 일정과 예상 수요를 공유하고 필요한 추론 용량을 공동으로 설계했다. 한국과 유럽, 미국 등 여러 지역에 확보한 GPU 클러스터를 활용해 글로벌 이용자의 요청에 대응했다. 자체 추론 엔진 최적화 기술도 적용했다. 모델 특성과 실제 이용 패턴에 맞춰 GPU 자원을 배분하고 캐시 활용률 개선, 모델 양자화, 추론 속도 향상 기술 등을 적용해 처리 효율을 높였다는 설명이다. 그 결과 베슬AI에 따르면 추론 엔드포인트 도입 전후를 비교했을 때 처리 속도가 평균 2배, 최대 3배 향상됐다. 캐시 활용률 개선을 통해 토큰당 비용도 최대 50% 절감했다. 이번 협력으로 업스테이지는 모델 연구와 제품 개발에 집중하고 베슬AI는 수요 예측부터 인프라 구성, 추론 서비스 운영까지 담당하는 구조를 마련했다. 베슬AI는 앞으로도 솔라 모델의 글로벌 이용 확대에 필요한 추론 인프라를 지원할 계획이다. 베슬AI는 최근 SK바이오팜에 AI 연구개발용 GPU 인프라를 공급하고 네오AI와 포항 AI 데이터센터의 GPU 플랫폼 구축·운영 협약을 체결하는 등 기업 고객과 인프라 사업을 확대 중이다. 여기에 솔라 프로4 운영 경험을 더해 AI 모델의 추론 서비스를 제공하는 인퍼런스 프로바이더로 사업 영역을 넓힌다는 전략이다. 안재만 베슬AI 대표는 "이번 협력은 한국에서 개발한 모델의 글로벌 성과를 한국 네오클라우드의 인프라로 뒷받침했다는 점에서 의미가 크다"며 "축적한 인퍼런스 운영 경험을 바탕으로 모델 제공자가 연구와 제품 개발에 집중할 수 있는 환경을 제공하고 기업의 안정적인 오픈소스 모델 도입을 지원하도록 인퍼런스 프로바이더로서 역량을 강화하겠다"고 말했다.

2026.10.12 14:25한정호 기자

네이버클라우드, 베트남 FPT와 맞손…아태 AI 팩토리 시장 공략

네이버클라우드가 베트남 IT 기업 FPT와 손잡고 아시아태평양(APAC) 인공지능(AI) 인프라 시장 공략에 속도를 낸다. 양사가 보유한 그래픽처리장치(GPU) 인프라와 클라우드 기술을 결합해 AI 팩토리 사업을 확대하고 기업 고객의 AI 학습·추론 수요에 공동 대응한다는 구상이다. 네이버클라우드는 FPT와 AI 팩토리 및 서비스형 GPU(GPUaaS) 사업 확대를 위한 업무협약(MOU)을 체결했다고 12일 밝혔다. 양사는 최근 경기 성남시 네이버 제2사옥 1784에서 협약을 맺고 AI 팩토리 사업의 기획부터 개발, 운영까지 협력하기로 했다. FPT는 베트남을 대표하는 글로벌 ICT 기업으로 엔비디아 클라우드 파트너이기도 하다. 이번 협력은 양사가 보유한 GPU 인프라와 클라우드 기술, 고객 네트워크를 연계해 한국과 일본, 베트남을 비롯한 아태 지역에서 새로운 AI 사업 기회를 발굴하는 데 중점을 뒀다. 특히 각사가 단독으로 대응하기 어려운 지역의 AI 수요를 공동으로 확보할 계획이다. 대규모 AI 모델 학습과 추론을 위한 GPU 컴퓨팅 자원이 필요한 기업과 AI 서비스 사업자를 대상으로 인프라와 AI 모델, 서비스를 함께 제공한다는 전략이다. 이를 통해 기업 고객이 대규모 GPU 인프라를 직접 구축하지 않고도 필요한 AI 연산 자원을 확보하고 AI 서비스를 도입할 수 있도록 지원할 방침이다. 실제 산업 현장에서 AI 기술을 적용하기 위한 엔지니어링 협력도 강화한다. 네이버클라우드의 베트남 개발센터와 본사 기술 인력, FPT 엔지니어들이 참여하는 정기적인 기술 교류 프로그램을 운영할 예정이다. 양사 기술진은 고객 현장에서 GPU 인프라 최적화와 AI 추론 성능 개선, AI 에이전트의 실제 서비스 환경 구축 등을 공동으로 추진한다. 단순한 인프라 공급을 넘어 고객의 AI 모델 활용과 서비스 운영까지 지원 범위를 확대한다는 방침이다. 네이버클라우드는 이번 협력을 통해 자체 AI 기술과 클라우드 운영 경험을 FPT의 AI 팩토리 및 기업 고객 사업 역량과 결합할 계획이다. 양사는 아태 지역에서 공동 고객을 발굴하고 AI 인프라와 서비스 사업을 확대해 나간다는 목표다. 김유원 네이버클라우드 대표는 "FPT와 협력해 우리가 축적해온 AI 기술과 경험을 FPT의 AI 팩토리 및 엔터프라이즈 사업 역량과 결합할 수 있게 됐다"며 "양사 기술과 사업 역량을 기반으로 한국과 베트남을 넘어 APAC 시장에서 고객의 다양한 AI 수요에 대응하고 실제 비즈니스 성과로 연결하는 협력을 만들어 가겠다"고 밝혔다. 레 홍 비엣 FPT 코퍼레이션 스마트클라우드 대표는 "우리는 AI 팩토리를 중심으로 AI 클라우드 역량을 지속적으로 강화해 왔으며 여러 시장에서 축적한 엔지니어링 역량과 경험을 바탕으로 AI 기술을 실제 비즈니스에 적용할 수 있는 기반을 마련해왔다"며 "네이버클라우드와 협력해 고객의 AI 모델 활용을 확대하고 APAC을 비롯한 글로벌 기업들이 AI를 실질적 비즈니스 성과로 연결할 수 있는 새로운 방안을 함께 만들어가겠다"고 말했다.

2026.10.12 14:19한정호 기자

AMD가 찜한 망고부스트…'AI 팩토리' 앞세워 추론 시장 승부수

인공지능(AI) 인프라 기업 망고부스트가 AMD와의 협력을 바탕으로 자체 AI 데이터센터와 추론 서비스를 결합한 'AI 팩토리' 사업에 본격적으로 나선다. 서울 강남에 1메가와트(MW) 규모 AI 인프라를 구축하고 신규 추론 플랫폼을 출시해 기업 고객을 직접 공략한다는 전략이다. 장기적으로는 해외 인프라 의존도를 낮추고 국내에서 AI 데이터를 처리하는 소버린 AI 시장까지 사업을 확대할 계획이다. 김장우 망고부스트 대표는 12일 그랜드 인터컨티넨탈 서울 파르나스에서 개최한 신규 서비스 론칭 기자간담회에서 "우리는 단순히 부품을 공급하는 회사가 아니라 하드웨어부터 소프트웨어까지 직접 설계하고 고객에게 AI 서비스를 제공하는 회사"라며 "AMD와의 협력을 바탕으로 가격 경쟁력을 갖춘 AI 팩토리를 구축하겠다"고 밝혔다. 망고부스트는 2022년 서울대학교 연구진을 중심으로 설립된 AI 인프라 기업이다. 데이터처리장치(DPU)를 비롯한 네트워크 기술과 그래픽처리장치(GPU) 서버, 스토리지, AI 추론 소프트웨어를 자체 개발하고 있다. 기존에는 서버 제조사와 클라우드 기업 등에 인프라 기술을 공급하는 데 주력했지만 앞으로는 자체 시스템을 기반으로 기업 고객에게 AI 서비스를 직접 제공하는 사업을 확대한다는 방침이다. AMD 손잡고 AI 팩토리 구축…강남에 1MW 인프라 망고부스트가 내세운 핵심 전략은 AMD의 GPU와 자체 개발한 네트워크·스토리지 기술을 결합하는 것이다. 회사는 약 3년 전부터 AMD와 협력해 왔으며 AMD 인스팅트 GPU 기반 시스템의 성능을 높이는 소프트웨어와 네트워크 기술을 개발했다. 이를 통해 엔비디아 중심의 기존 AI 인프라와 차별화된 가격 경쟁력을 확보한다는 구상이다. 김 대표는 "AMD GPU는 가격 경쟁력이 있지만 이를 제대로 활용하기 위한 네트워크와 소프트웨어 기술이 중요하다"며 "우리는 이 성능을 끌어올리는 기술을 확보했고 AMD와의 협력을 통해 필요한 GPU와 메모리를 안정적으로 공급받을 수 있는 기반도 마련했다"고 설명했다. 실제 망고부스트는 AI 추론 성능 평가인 'MLPerf 인퍼런스 5.0'에서 AMD 인스팅트 GPU 다중 노드를 활용한 파트너 제출에 참여했다. 이어 '인퍼런스X 6.0'에선 한국과 미국에 위치한 AMD MI300X·MI325X·MI355X 등 서로 다른 세대의 GPU를 통합한 멀티 리전 추론 성능을 선보였다. 회사는 자체 소프트웨어 최적화만으로도 AMD GPU의 추론 성능을 크게 높였으며 향후 자체 하드웨어까지 적용하면 비용 효율성이 더욱 개선될 것으로 보고 있다. 이를 위한 첫 번째 거점으로 서울 강남구 도산공원 인근에 1MW 규모의 AI 팩토리를 구축 중이다. 기존 데이터센터의 공간과 설비를 이용하는 코로케이션 방식으로 인프라를 마련하고 있으며 AMD GPU 수백 장을 단계적으로 도입하고 있다. 현재 일부 인프라를 활용한 서비스가 시작됐으며 전체 구축은 내년 1분기까지 마무리할 계획이다. 망고부스트는 초기에는 외부 네오클라우드 사업자의 GPU와 자체 인프라를 함께 활용하고 이후 자체 AI 팩토리의 비중을 확대할 방침이다. 장기적으로는 1MW를 시작으로 5MW, 100MW 이상으로 인프라 규모를 확장하는 구상도 제시했다. 단순히 GPU 자원을 임대하는 네오클라우드와 달리 자체 설계한 시스템과 소프트웨어를 통합해 AI 추론 서비스를 제공하는 것이 사업 모델의 핵심이다. '망고 인퍼런스' 출시…AI 추론 서비스 직접 공급 이날 망고부스트는 신규 서버리스 AI 추론 플랫폼 '망고 인퍼런스'도 공식 출시했다. 기업과 개발자가 별도의 GPU 인프라를 구축하지 않고도 애플리케이션 프로그래밍 인터페이스(API) 키 하나로 AI 모델을 이용할 수 있는 서비스다. 추론 사용량과 처리 지연, 토큰 소비량, 트래픽 등을 확인할 수 있는 관리 기능도 제공한다. 서비스 경쟁력의 중심에는 자체 개발한 AI 추론 최적화 소프트웨어 'LLM부스트'가 있다. 일반적인 추론 소프트웨어가 GPU 연산 최적화에 집중하는 것과 달리 망고부스트는 스토리지에서 GPU로 데이터가 이동하는 과정까지 최적화한다. 이를 통해 데이터 전송 과정의 병목을 줄이고 GPU 활용률과 추론 처리 효율을 높인다는 설명이다. 권동업 망고부스트 최고기술책임자(CTO)는 "우리는 GPU 서버와 스토리지 서버, 네트워크 기술부터 추론 소프트웨어까지 직접 개발하고 있다"며 "실제 고객의 AI 사용 패턴을 파악해 인프라를 지속적으로 최적화할 수 있다는 점이 차별화된 경쟁력"이라고 말했다. 이어 "AMD GPU 기반의 추론 서비스를 경쟁력 있는 가격으로 제공 중"이라며 "주요 고성능 추론 서비스 사업자와 비교해 최소 20% 이상 저렴하게 가격을 책정했다"고 덧붙였다. 현재는 사용량에 따라 비용을 지불하는 방식으로 서비스를 제공하며 향후 기업 고객을 위한 전용 추론 환경도 지원할 예정이다. 국내 데이터 처리로 소버린 AI 공략…기업용 인프라도 확대 망고부스트는 AI 팩토리 사업의 또 다른 축으로 데이터 주권 확보를 제시했다. 기업들이 외부 AI 모델을 활용하는 과정에서 데이터가 해외 서버에서 처리되는 문제를 줄이고 국내 인프라에서 AI 추론을 수행할 수 있는 환경을 마련하겠다는 목표다. 특히 오픈웨이트 AI 모델을 국내 데이터센터에서 직접 운영하는 방식으로 해외 서비스 사업자에 대한 의존도를 낮출 계획이다. 권 CTO는 "소버린 AI에서 중요한 것은 단순히 모델을 확보하는 것이 아니라 실제 데이터가 어디에서 처리되고 관리되는지"라며 "한국에서 활용되는 AI 데이터는 국내에서 처리하고 관리할 수 있어야 하며 이를 위해 국내 AI 팩토리 구축이 중요하다"고 강조했다. 망고부스트는 앞으로 망고 인퍼런스를 통한 API 서비스뿐 아니라 기업과 공공기관이 자체 환경에서 AI를 운영할 수 있도록 데이터센터 설계와 통합 인프라 공급 사업도 확대할 방침이다. 금융·국방 등 데이터 통제가 중요한 분야에선 자체 네트워크와 스토리지 기술을 활용한 온프레미스 AI 시스템을 제공한다는 구상이다. 김 대표는 "앞으로 AI 시장에서는 모델을 얼마나 잘 만드는지만큼 이를 얼마나 빠르고 저렴하게 서비스할 수 있는지가 중요해질 것"이라며 "AMD와의 협력과 독자적인 하드웨어·소프트웨어 기술을 바탕으로 AI 팩토리 시장에서 경쟁력을 확보하겠다"고 밝혔다.

2026.10.12 14:11한정호 기자

韓 공략 시동 건 코어위브…데이터센터 협력·추론 사업 키운다

글로벌 인공지능(AI) 인프라 기업 코어위브가 한국 시장 공략에 속도를 내고 있다. 국내 여러 데이터센터 사업자들과 협력 방안을 논의하는 가운데 고성능 그래픽처리장치(GPU) 공급뿐 아니라 AI 추론 시장으로 사업 영역을 넓히려는 움직임도 본격화하고 있다. 9일 업계에 따르면 코어위브는 한국 데이터센터 사업 진출 가능성을 열어두고 국내 여러 사업자들과 협의를 진행하고 있는 것으로 파악됐다. 구체적인 투자 규모와 데이터센터 위치, 협력 기업 등은 공개되지 않았다. 코어위브는 최근 아시아 지역으로 AI 인프라 사업을 빠르게 확대하고 있다. 지난 8월 인도네시아에 총 360메가와트(MW) 규모의 데이터센터 3곳을 확보한다고 발표한 데 이어 이달 6일에는 인도 아다니커넥스와 협력해 나비뭄바이에 240MW 규모 AI 데이터센터를 구축한다고 밝혔다. 인도 시설에는 엔비디아의 차세대 '베라 루빈' 플랫폼을 도입할 예정이다. 이런 가운데 코어위브는 지난 6일부터 8일까지 서울 강남구 코엑스 C홀에서 열린 'AI 페스타 26'에 회사 이름을 내건 부스를 마련했다. 코어위브가 국내 전시 행사에 자체 브랜드를 앞세워 참가한 것은 이번이 처음이다. 김현석 코어위브 한국·동남아시아 총괄대표는 행사장에서 지디넷코리아와 만나 한국을 비롯한 아시아 AI 인프라 시장의 현황과 코어위브의 사업 전략을 소개했다. 김 대표는 한국·동남아시아 지역 GTM(Go-To-Market)을 맡아 GPU 인프라와 추론 서비스 등의 사업을 담당하고 있다. 코어위브는 엔비디아 GPU를 기반으로 AI 학습과 추론에 필요한 컴퓨팅 자원을 제공하는 미국 네오클라우드 기업이다. 아마존웹서비스(AWS)와 마이크로소프트(MS) 애저, 구글클라우드 등 기존 하이퍼스케일러와 달리 대규모 AI 워크로드에 특화된 인프라를 제공하는 것이 특징이다. 김 대표는 "GPU를 필요로 하는 기업이나 기관의 수요는 국가 간 경계가 거의 무의미하다"며 "한국에서도 최신 GPU를 확보하려는 기업들의 문의가 상당히 많다"고 말했다. 현재 국내 기업들은 코어위브의 해외 데이터센터를 통해 GPU 서비스를 이용할 수 있다. AI 모델 학습과 추론은 일반적인 클라우드 서비스에 비해 네트워크 지연의 영향이 상대적으로 제한적이어서 데이터의 해외 이전에 제약이 없다면 국내 데이터센터가 없어도 서비스를 이용할 수 있다는 설명이다. 반대로 금융·공공·의료 등 개인정보나 민감정보를 다루는 분야에서는 국내 인프라 유무가 서비스 도입에 영향을 줄 수 있다. 데이터 국외 이전에 대한 규제와 기업 내부 정책 등을 고려해야 하기 때문이다. 김 대표는 "GPU를 빌려 쓰기로 결정한 기업 중에는 데이터센터가 한국에 있는지를 크게 신경 쓰지 않는 곳도 많다"며 "금융기관이나 공공기관처럼 개인정보와 민감정보를 활용하는 곳은 데이터의 해외 이전을 고려해야 하는 경우가 있다"고 설명했다. "韓 기업 GPU 수요 상당…수천~수만 장 문의도" 코어위브가 한국 시장에서 주목하는 분야 중 하나는 대규모 GPU 수요다. 국내 통신사와 전자·플랫폼 기업 등을 중심으로 엔비디아 최신 GPU에 대한 문의가 이어지고 있다. B300뿐 아니라 차세대 베라 루빈 시스템을 확보하려는 움직임도 나타나고 있다. 김 대표는 "국내 주요 기업들이 B300 등 최신 GPU를 수천 장에서 수만 장 규모로 요청하는 사례가 있다"며 "베라 루빈 같은 차세대 시스템에 대한 문의도 계속 들어오고 있다"고 말했다. 다만 국내 기업의 GPU 수요가 실제 대규모 공급 계약으로 연결되기까지는 넘어야 할 부분도 있다. 정부 지원 사업 등을 통해 GPU 사용 예산을 확보하는 기업이 많아 장기간 이용을 확약하기 어려운 사례가 있어서다. 김 대표는 "국내 대기업에서 B300을 수천 장에서 수만 장 규모로 요청하더라도 사용 기간을 물어보면 6개월이나 7개월이라고 답하는 경우가 있다"며 "정부 지원 사업을 통해 GPU를 확보하다 보니 프로젝트의 연속성을 몇 년 이상 보장하기 어려운 구조도 있다"고 말했다. 이는 대규모 GPU를 선제적으로 확보해 장기간 제공하는 네오클라우드의 사업 방식과 차이가 있다. 코어위브는 대규모 GPU 공급에서 사용 기간과 물량에 대한 고객의 확약을 중요하게 보고 있다. 최근에는 3~6개월 단기 계약도 체결하는 등 공급 방식을 다변화하고 있지만 대규모 물량을 안정적으로 제공하려면 장기적인 수요 예측이 필요하다. 김 대표는 한국에서 들어오는 대규모 GPU 공급 요청에서도 계약 기간과 수량, 선급금 등의 조건이 중요하다고 설명했다. 단순히 GPU가 필요하다는 요청만으로 대규모 물량을 확보해 제공하기 어려운 사업 구조라는 의미다. 특히 GPU 공급 능력이 네오클라우드 기업들의 경쟁력을 좌우한다고 봤다. 기존 클라우드 사업자와 네오클라우드는 서비스 구조와 기술 아키텍처에서 차이가 있지만 고객이 원하는 최신 GPU를 제때 확보하지 못하면 가격이나 소프트웨어 경쟁력을 앞세우기도 어렵다는 설명이다. 하이퍼스케일러와 네오클라우드의 차별점도 여기에 있다. AWS·애저·구글클라우드가 CPU와 GPU를 비롯한 다양한 컴퓨팅 자원을 범용 클라우드 아키텍처에서 제공한다면 네오클라우드는 대규모 GPU 클러스터와 네트워크, 소프트웨어를 AI 학습·추론에 맞춰 구성한다. 고객은 기존 클라우드 계약과 비용, AI 워크로드의 특성 등을 고려해 필요한 인프라를 선택할 수 있다. 김 대표는 "AI 인프라는 GPU만의 경쟁이 아니라 '자본의 전쟁(War of Capital)'"이라며 "고객이 원하는 GPU 모델이 없으면 경쟁 자체가 성립하기 어렵다"고 강조했다. W&B 고객 기반으로 韓 추론 시장 공략 코어위브가 한국에서 GPU 공급과 함께 힘을 싣는 분야는 AI 추론이다. AI 시장의 중심이 대규모 모델을 학습하는 단계에서 개발한 모델을 실제 서비스에 적용하는 단계로 확장되면서 추론용 컴퓨팅 수요가 빠르게 늘어날 것으로 보고 있다. 특히 지난해 인수한 AI 개발 플랫폼 기업 웨이츠앤바이어시스(Weights & Biases·W&B)를 활용해 기존 소프트웨어 고객과 코어위브의 GPU 인프라·추론 서비스를 연결하는 전략을 추진하고 있다. W&B는 AI 모델 개발 과정에서 실험 결과를 추적하고 성능을 평가·관리하는 소프트웨어를 제공한다. 코어위브는 W&B를 자체 GPU 인프라와 결합해 AI 모델 개발과 학습부터 추론, 평가·관측까지 이어지는 사업 구조를 구축하고 있다. 국내에서도 파운데이션 모델을 개발하는 주요 AI 기업들이 W&B를 사용하고 있다는 게 김 대표의 설명이다. 모델 개발 단계에서 확보한 고객 접점을 추론과 GPU 인프라까지 확대할 수 있다는 점에서 코어위브의 한국 사업에서도 W&B가 중요한 역할을 맡는다. 김 대표는 "국내 주요 파운데이션 모델 개발 기업들이 이미 W&B를 사용하고 있다"며 "이들 기업이 모델 개발을 넘어 실제 추론 서비스를 확대하려는 만큼 코어위브의 GPU 인프라와 소프트웨어를 함께 제공할 기회가 많을 것으로 본다"고 밝혔다. AI 에이전트와 피지컬 AI 확산도 추론 시장 성장을 촉진할 요인으로 꼽았다. 기존에는 모델을 학습하는 과정에 대규모 GPU가 집중적으로 사용됐다면 AI 서비스가 늘어날수록 실제 이용자의 요청을 처리하는 추론 단계에서 필요한 컴퓨팅 자원도 함께 증가하기 때문이다. AI 에이전트는 서비스를 출시한 이후에도 답변 품질과 성능을 지속적으로 확인하고 개선해야 한다. 모델과 애플리케이션의 성능을 관측하고 평가하는 과정도 중요해지면서 코어위브의 GPU 인프라와 W&B 소프트웨어를 결합할 수 있는 영역이 넓어지는 셈이다. 코어위브는 서버리스 추론과 전용 추론 인프라 등을 제공하고 있다. 국내에서도 추론 서비스를 유통하거나 공동 사업을 추진할 수 있는 기업들과 협력 가능성을 검토하고 있다. 김 대표는 아직 국내 추론 생태계가 충분히 형성된 단계는 아니라고 평가했다. 추론 서비스를 이용하려는 기업과 이를 공급하려는 사업자는 늘고 있지만 GPU 인프라와 여러 AI 모델을 연결해 사용량에 따라 서비스를 제공하는 사업 구조는 이제 만들어지고 있다는 설명이다. GPU 인프라 사업에서는 기존 IT 시장의 총판·리셀러 구조를 그대로 적용하기도 어렵다고 봤다. 대규모 GPU 계약은 장기간 공급과 사용량, 투자비 회수 등이 함께 고려돼야 해 최종 고객과 직접 계약하는 방식이 중요한 반면 추론 시장에서는 다양한 형태의 파트너 사업이 가능하다고 보고 있다. 김 대표는 "한국에는 추론 서비스를 이용하려는 기업도 많고 이를 공급하려는 기업들도 있지만 아직 생태계가 충분히 형성되지는 않았다"며 "현재 여러 국내 기업과 협력을 검토하고 있으며 앞으로 추론 시장을 중심으로 사업 기회를 확대해 나갈 계획"이라고 말했다.

2026.10.09 16:06장유미 기자

[AI 고속도로] 기업 AI도 프라이빗 시대…'모듈형 데이터센터'가 뜬다

기업들이 인공지능(AI) 활용을 확대하면서 데이터와 AI 운영 환경을 직접 통제할 수 있는 '프라이빗 AI'에 주목하고 있다. 외부 클라우드와 AI 모델에 의존하던 방식에서 벗어나 자체 인프라를 병행하는 기업이 늘면서, 필요한 장소에 빠르게 구축하고 수요에 따라 확장할 수 있는 모듈형 AI 데이터센터(AIDC)도 대안으로 부상한 모습이다. 9일 업계에 따르면 기업들은 민감한 내부 데이터나 반복적인 업무를 자체 AI 환경에서 처리하고 고난도 추론이 필요한 작업에는 외부 AI 모델을 활용하는 방식으로 인프라 전략을 다변화하고 있다. 기업의 AI 전략에서도 모델 성능뿐 아니라 데이터를 어디에 저장하고 연산 자원을 어떻게 운영할 것인지가 중요한 과제로 떠오르고 있다. 특히 금융·제조·공공 등 보안과 데이터 통제가 중요한 분야에선 독립적인 AI 운영 환경을 확보하려는 수요가 커지고 있다. 오픈 모델 성능 높아지자 프라이빗 AI 도입 확대 최근 오픈 모델의 성능이 빠르게 향상되고 운영 비용 부담도 줄어들면서, 기업들이 외부 상용 모델에 대한 의존도를 낮추고 업무 특성에 맞는 자체 AI 환경을 구축할 수 있게 됐다. 미국 매사추세츠공과대학(MIT)과 조지아공대 연구진이 발표한 논문에 따르면 오픈 모델은 폐쇄형 최첨단 AI 모델의 약 90% 수준 성능을 내면서도 비용은 약 6분의 1에 그치는 것으로 나타났다. 폐쇄형 모델 출시 이후 오픈 모델이 유사한 성능에 도달하기까지 걸리는 시간도 13주까지 단축됐다. 기업 내부 데이터에 맞춘 모델 미세조정도 경쟁력으로 꼽힌다. 데이터브릭스 연구에선 메타의 오픈 모델 '라마 3.1 8B'를 기업 고유 코드에 맞게 미세조정한 결과, GPT-4o보다 코드 채택률이 1.4배 높고 응답 시간은 2배 빠른 것으로 나타났다. 실제 기업 현장에서도 자체 AI 모델과 외부 모델을 병행하는 사례가 나오고 있다. 미국 보험사 트래블러스는 보험 업무에 특화된 자체 모델 '트래블러스LLM'을 개발해 전문성과 대량 처리가 필요한 업무에 활용하고 범용적이거나 복잡한 요청에는 외부 모델을 사용하는 방식으로 AI 환경을 운영하고 있다. 국내에선 한국서부발전이 외부망과 분리된 온프레미스 환경에 자체 생성형 AI 서비스 '위피봇'을 구축했다. 사내 규정과 기술자료 검색, 문서 작성 등에 활용하고 있으며 시범 운영 결과 업무 효율을 30% 이상 높이고 연간 10만 시간의 업무 시간을 절감한 것으로 알려졌다. AI 운영 환경도 변화…모듈형 데이터센터 대안 부상 기업들이 프라이빗 AI 도입을 확대하면서 대규모 AI 연산을 처리할 수 있는 인프라의 중요성도 커지고 있다. 특히 대규모 AI 모델을 직접 운영하거나 여러 AI 서비스를 상시 구동해야 하는 기업·기관에선 기존 전산실만으로 고밀도 그래픽처리장치(GPU) 환경을 수용하는 데 한계가 있다. 고성능 GPU를 안정적으로 운영하려면 높은 전력 밀도와 발열에 대응할 수 있는 전력·냉각 설비가 필요하다. GPU 간 대용량 데이터를 빠르게 전송하는 네트워크와 스토리지도 갖춰야 한다. 외부 클라우드를 지속적으로 이용할 경우 사용량에 따라 비용 부담이 커질 수 있다는 점도 자체 인프라 구축을 검토하는 배경이다. 이에 전력·냉각·네트워크 등 주요 설비를 공장에서 미리 제작한 뒤 현장에 설치하는 모듈형 AIDC가 주목받고 있다. 부지와 전력이 확보된 환경에선 기존 데이터센터보다 구축 기간을 줄일 수 있고 AI 연산 수요가 늘어나면 모듈을 추가해 단계적으로 확장할 수 있다는 것이 강점이다. 기업이 직접 관리하는 부지에 독립적인 AI 인프라를 구축할 수 있다는 점도 특징이다. 데이터와 시스템에 대한 물리적 통제 수준을 높이면서 필요한 연산 자원을 업무 현장 가까이에 배치할 수 있어 보안과 운영 효율을 함께 고려할 수 있다. 엘리스그룹, 모듈형 AIDC·GPU 운영 기술 결합 국내에선 엘리스그룹이 모듈형 데이터센터와 클라우드 소프트웨어를 결합한 AI 인프라 사업을 추진 중이다. 엘리스그룹은 부지와 전력이 확보된 환경에서 약 3개월 만에 구축할 수 있는 모듈형 AIDC '엘리스 PMDC'를 공급하고 있다. 서버 랙과 전력·냉각·네트워크 설비를 모듈화해 현장에서 설치하는 방식으로, 수요에 따라 인프라를 단계적으로 확장할 수 있도록 설계했다. 고밀도 GPU 환경에 대응하기 위한 수랭식 냉각 시스템도 적용할 수 있다. 여기에 GPU 가상화·오케스트레이션 기술을 적용한 클라우드 소프트웨어 'ECI'를 결합해 GPU 자원을 워크로드에 따라 배분하고 운영할 수 있도록 지원한다. 산업 현장에서도 모듈형 AI 인프라 구축이 추진되고 있다. 부산 명지녹산국가산업단지에선 산업단지 내 기업들이 공동으로 활용할 수 있는 GPU·신경망처리장치(NPU) 기반 엣지 AI 데이터센터를 구축하고 있다. 엘리스그룹과 부산테크노파크, 이지에이아이, 건솔루션, 포미트 등이 참여해 제조기업의 AI 전환을 지원할 계획이다. 박정국 엘리스그룹 최고기술책임자(CTO)는 "기업들이 프라이빗 AI 도입을 확대할수록 데이터를 안전하게 관리하는 것뿐 아니라 AI 인프라 자체를 효율적으로 운영할 수 있는 통제력이 중요해질 것"이라고 말했다. 이어 "특히 민감한 데이터를 다루거나 대규모 AI 연산 환경을 직접 운영해야 하는 기업·기관에선 필요한 장소에 AI 인프라를 빠르게 구축하고 수요에 따라 확장할 수 있는 모듈형 데이터센터가 효과적인 선택지가 될 것"이라고 덧붙였다.

2026.10.09 15:00한정호 기자

"엔비디아 루빈 HBM4, 12단이 대세"

엔비디아 차세대 그래픽처리장치(GPU) '베라 루빈'에 탑재할 6세대 고대역폭메모리(HBM4)에서 12단 제품 비중이 대부분을 차지할 것이라는 전망이 나왔다. 최근 업계 일각에서 확산한 'HBM 단수 하향' 우려와 다르다. 시장조사업체 카운터포인트리서치는 9일 HBM4에서 12단 제품이 주력이 될 것이라고 추정했다. 카운터포인트의 이번 전망은 최근까지 업계 일각 전망과 엇갈린다. 최근 엔비디아가 주요 HBM 공급사에 주력품 사양을 12단에서 8단으로 낮춰달라고 요청했다는 언론 보도가 이어졌다. 주문형반도체(ASIC) 진영에서는 비용 부담 탓에 4단 제품까지 내려갈 것이라는 추정도 나왔다. HBM 적층 단수가 낮아지면 HBM에 투입하는 생산능력이 줄고, 그만큼 범용 D램 생산이 늘어 가격이 하락할 수 있다는 전망이 이어졌다. 이는 삼성전자를 비롯한 메모리 업체 실적 전망에는 악재로 꼽혔다. 카운터포인트는 HBM 탑재량 증가 흐름이 이어질 것이라고 전망했다. 인공지능(AI) 워크로드에서는 비용 절감보다 대역폭과 용량을 함께 확보하는 것이 중요하다는 이유다. 카운터포인트는 "ASIC에서도 우려와 달리 4단 제품은 확인되지 않았다"고 밝혔다. 그러면서 "메모리 업계 전반에 제기된 HBM 수요 둔화는 잘못된 정보"라며 "이는 향후 실적 전망에서 중요한 변수"라고 강조했다. HBM 생산에는 범용 D램보다 3배 이상 생산능력이 요구된다. 이는 범용 D램 공급 부족 주요 원인 중 하나로 꼽힌다. HBM 수요가 견조하게 유지되면 범용 D램 공급 부족과 가격 강세도 이어질 가능성이 크다. 카운터포인트는 지난 8일 삼성전자 잠정실적 발표에서 최근 반도체 업체들이 보였던 어닝 서프라이즈는 없었다고 평가했다. 삼성전자 3분기 잠정실적은 매출 195조원, 영업이익 107조 4000억원이었다. 영업이익은 시장 전망치를 소폭 상회했다. 카운터포인트는 환율을 원인으로 지목했다. 삼성전자는 수출 비중이 높아 매출 상당 부분을 달러로 벌어들이는 반면 비용은 원화로 지출한다. 원·달러 환율이 갑자기 떨어지면 이를 피하기 어려워 마진 부담으로 돌아온다. 카운터포인트리서치는 "메모리 업계 수요 성장에 대한 확신이 10월 들어 강화됐다"며 "삼성전자의 역대 최대 실적이 일회성에 그치지 않을 가능성에 무게가 실린다"고 평가했다.

2026.10.09 08:00진운용 기자

콴델라 "양자컴퓨팅, 기존 AI 처리 장애물 넘을 새 연산 자원"

"현재 컴퓨터는 0과 1을 기반으로 한 결정론적 방식으로 동작해 왔다. 반면 2000년대 들어 주목받는 양자컴퓨터는 확률과 관측을 기반으로 세상을 이해하는 전혀 다른 구조의 컴퓨터다." 8일 오후 서울 코엑스 'AI 페스타 26' 행사장 내 'AIR 쇼케이스' 무대에서 김유석 콴델라코리아 대표가 이렇게 강조했다. 'AI 페스타 26'은 과학기술정보통신부가 주관하는 '인공지능주간(AI WEEK)'의 일환으로 6일부터 8일까지 서울 삼성동 코엑스에서 열리는 B2B AI 전시회다. 'AIR 쇼케이스'는 AI가 현실세계에 적용되는 데 필요한 도전과제와 한계를 조명하기 위해 마련됐다. 이날 김유석 대표는 "양자처리장치(QPU)를 기반으로 한 양자 컴퓨터가 기존 컴퓨터를 대체한다거나, 혹은 현행 암호체계를 모두 무너뜨릴 것이라는 인식도 있다. 그러나 실제로는 두 컴퓨터가 협동하는 방향으로 나아갈 것"이라고 설명했다. "QPU, CPU·GPU 대체 아닌 협력하는 연산 자원" 김 대표는 "CPU는 다양한 작업을 순차 처리하는 데 적합하며, GPU는 많은 데이터를 한 번에 처리할 때 강점을 드러낸다. 양자처리장치(QPU)의 처리 속도는 CPU나 GPU 대비 느릴 수 있지만 특정 영역에서는 엄청난 성능을 발휘한다"고 밝혔다. 이어 "양자컴퓨터 역시 기존 컴퓨팅 환경을 완전히 대체하기보다 AI 알고리즘을 GPU에서 먼저 시뮬레이션하고 유용하다고 판단되면 이를 QPU에서 수 초에서 수 분에 이르는 짧은 시간동안 처리하는 형태로 활용될 가능성이 크다"고 내다봤다. 김 대표는 이를 "기존 솔루션이나 알고리듬에 양자 층을 하나 더 씌우는 것"이라며 "콴델라는 이미지 처리와 분류, 머신러닝 등에 적용할 수 있는 다양한 양자 알고리듬을 실증하고 있으며 연말까지 약 100개의 알고리즘을 공개할 계획"이라고 밝혔다. 이미지 분석·악성코드 탐지에 양자컴퓨팅 적용 이날 세션에서는 산업 현장에서의 적용 사례도 소개했다. BMW와 에어버스가 참여한 연구에서는 낮에 촬영한 이미지를 야간 이미지로 변환하는 과정에서 양자 레이어를 적용했다. 김유석 대표는 "야간에는 자동차와 가로등, 건물 등 다양한 광원이 이미지에 간섭을 일으키면서 연산이 복잡해지는데, 기존 방식에서 나타난 이미지 속 허상 현상을 양자 연산을 통해 줄이는 결과를 확인할 수 있었다"고 말했다. 프랑스 오랑주텔레콤은 네트워크 상 악성코드를 탐지하는 과정에 양자컴퓨팅을 적용했다. 네트워크 트래픽을 이미지 형태로 변환한 뒤 양자 레이어를 적용한 결과 악성코드뿐 아니라 해당 악성코드의 아종까지 식별하는 결과를 얻었다. 김유석 대표는 "신약과 신소재 개발 등 분자 단위 연산과 시뮬레이션은 슈퍼컴퓨터와 GPU 자원을 총동원해도 처리하기 까다로운 작업이다. 양자컴퓨팅은 기존에 정복하지 못했던 분야에서 두드러지는 활약을 보일 것"이라고 강조했다. "양자컴퓨팅, 보안 분야에 위협이자 기회" 양자컴퓨터의 작동 방식이 기존 암호화 표준이나 보안 체계를 쉽게 무력화할 것이라는 우려도 있다. 그러나 김유석 대표는 "양자컴퓨터는 보안 분야에 위협인 동시에 방어 기술이 될 수 있다"고 반론했다. 소인수분해에 기반한 기존 암호 알고리즘은 양자컴퓨터에 의해 위협받을 수 있지만, 반대로 양자난수 등을 활용해 보안을 강화하는 연구도 진행되고 있다는 것이다. 김 대표는 "콴델라는 광자를 큐비트로 활용하는 랙 단위 양자컴퓨터를 개발중이며 이를 GPU와 결합해 산업 현장에 적용하기 위해 다양한 시도중"이라고 말했다. 이어 "양자컴퓨팅의 미래는 세상을 한 번에 완전히 바꾸는 것보다 기업이 이미 가지고 있는 솔루션과 알고리듬을 한 단계 진화시키는 형태로 먼저 나타날 것"이라고 내다봤다.

2026.10.08 16:01권봉석 기자

GPU 활용률 '90%' 이상 가능…아크릴, AI 인프라 비용 줄인다

"실제 업무 환경에서 GPU는 다양한 문제로 50~60%의 활용률에 머무르는 경우가 있다. 아크릴의 플랫폼을 적용하면 이를 90% 이상으로 끌어올릴 수 있어, AI 인프라 운영비용율 획기적으로 절감할 수 있다" 김종율 아크릴 이사는 8일 서울 코엑스에서 열린 'AI 페스타 26'에서 AI 인프라 운영 효율화를 위한 기술을 소개했다. 지난 2011년 설립된 아크릴은 AX 인프라 소프트웨어 전문 기업이다. AI 인프라 오케스트레이션 플랫폼인 'GPUBASE'를 공급하고 있다. GPUBASE는 여러 서버에 분산된 GPU를 하나의 자원 풀처럼 관리하고, 각 워크로드에 필요한 자원을 배분해 GPU 활용률을 높이는 솔루션이다. 또한 GPUBASE는 네트워크 최적화 기능을 갖췄다. 특정 경로에 트래픽이 몰리는 경우를 방지하기 위해 다중 경로를 활용하고, 작업별 우선순위에 따라 트래픽을 처리하는 기술이다. 김 이사는 "실제 업무 환경에서 모니터링된 GPU 할당률은 90%지만, 실제 연산 가동률은 50~60%에 머무르는 사례들이 보고되고 있다"며 "이에 아크릴은 AI로 필요한 메모리와 코어를 예측해, 맞는 크기로 GPU를 배치하는 시스템을 구축했다"고 설명했다. 현재 아크릴은 실제 대규모 GPU 환경에서 GPUBASE 검증을 완료한 상황이다. AWS, 구글, 마이크로소프트 등 3대 클라우드 환경에서 총 1272장의 GPU장을 운용한 결과, AI 학습 속도는 최대 24배 향상된 것으로 나타났다. GPU 활용률은 90%를 상회했다. 엔크릴은 GPUBASE와 같은 AI 인프라용 소프트웨어 기술이 대한민국의 소버린 AI 구축에 있어 핵심적인 역할을 할 것으로 내다봤다. 김 이사는 "GPU 등 각종 AI 반도체를 하나의 풀로 운영해, 특정 공급사와 공급망에 종속되지 않는 연산 주권을 확보해야 한다"며 "폐쇄망에서 완전 구동될 수 있는 망 주권, 자체 모델과 운영 도구로 모델을 직접 만드는 모델 주권도 중요하다"고 강조했다. AI 페스타 2026은 과학기술정보통신부가 주최하고 한국인공지능·소프트웨어산업협회(KOSA)와 AI페스타조직위원회가 주관하는 인공지능주간 공식 행사다.

2026.10.08 15:44장경윤 기자

"GPU와 경쟁 아닌 공존"…딥엑스, '피지컬 AI' K-NPU로 글로벌 정조준

"글로벌 그래픽처리장치(GPU) 기업과 경쟁하려는 것이 아닙니다. 대규모 데이터 학습은 GPU가, 일상 디바이스에 탑재되는 '피지컬 인공지능(AI)' 연산은 신경망처리장치(NPU)가 분담하는 명확한 공존이 우리 전략입니다." 조재홍 딥엑스 상무는 8일 서울 강남구 코엑스에서 열린 AI 페스타 2026에서 글로벌 빅테크와 협력 기반 시장 확대 비전을 제시하며 이같이 밝혔다. 최근 AI 반도체 시장은 엔비디아로 대표되는 데이터센터용 GPU가 독식하고 있다. 하지만 조 상무는 1기가와트(GW) 규모 데이터센터 구축에 100조원이 투입되는 막대한 비용과 GPU 특유의 발열, 전력 소모를 근본적 한계로 지적했다. 그는 "연간 50억대 이상 쏟아지는 사물인터넷(IoT) 디바이스의 모든 AI 연산을 클라우드 데이터센터에서만 처리하면 프라이버시 침해와 막대한 전력 지연을 피할 수 없다"며 "로봇이나 CCTV 등 디바이스 자체에 AI 연산이 임베딩돼 실시간 구동하는 '피지컬 AI' 전용 NPU가 반드시 필요한 시점"이라고 강조했다. 딥엑스가 독자 개발한 NPU 'DX-M1'은 이러한 에지(Edge) 수요를 정확히 겨냥했다. 엄지손톱 크기 칩 하나가 5W 미만 초저전력으로 구동돼 일반 배터리로도 작동하며, 쿨링팬이 필요 없을 정도로 발열을 잡았다. 수만 개 데이터를 한 번에 처리하는 GPU와 달리, 카메라로 들어오는 사진 한 장을 즉각 처리하는 '배치 사이즈 1' 환경에 최적화돼 GPU 대비 구축비용을 10분의 1에서 최대 100분의 1 수준으로 대폭 낮췄다. 딥엑스는 이 같은 기술력을 바탕으로 최근 방한한 리사 수 AMD 회장과 간담회를 갖는 등 글로벌 빅테크와 협력을 구체화하고 있다. 무한 경쟁 대신 시장 파이를 나누는 셈이다. 가시적 상용화 성과도 입증했다. 조 상무는 "국내 최초로 피지컬 AI 반도체 양산에 성공해 상반기에만 10개국 8개 산업군에 1300만개 이상을 수출했다"며 "현대자동차 로보틱스랩의 로봇(DAL-e)과 중국 바이두의 스마트 팩토리 장비 등에 우리 NPU가 탑재돼 활약 중"이라고 말했다.

2026.10.08 15:41전화평 기자

코어위브, AI페스타서 국내 첫 회사 소개 부스에 참관객 '주목'

인공지능(AI) 시대 그래픽처리장치(GPU) 중요성이 날로 커진 가운데, 엔비디아(Nvidia) 우선 공급사로 알려진 '코어위브'가 국내에서 처음으로 'AI 페스타(Festa) 26'에 회사 소개 부스를 마련했다. 8일 서울 강남구 코엑스 C홀에서 열린 AI Festa 26에 참가한 코어위브는 GPU를 클라우드화해 대여하는 사업 등을 소개했다. 코어위브는 2025년 3월 나스닥 시장에 입성했으며, GPU 대여 외에도 AI가 지속적으로 성능을 유지할 수 있는 다양한 서비스를 제공 중에 있다. 또 코어위브는 AI에이전트가 활용하는 대규모 언어 모델(LLM)을 쓰는 빅테크를 대부분 고객사로 보유하고 있다고 부연했다. 이날 부스에 참여한 김현석 코어위브 한국지사 총괄대표는 "GPU 데이터센터를 전 세계 여러 지역에 50여 개 이상의 데이터 센터를 운영 중"이라며 "국내에도 데이터센터를 신설할 것"이라고 설명했다.

2026.10.08 13:05손희연 기자

"GPU 다음은 데이터 병목"…디노티시아, VDPU로 AI 인프라 새 판 짠다

초거대 AI 생태계가 스스로 복잡한 임무를 수행하는 에이전트 시대로 진화함에 따라 컴퓨팅에 지각변동이 일고 있다. 과거 엔비디아 GPU(그래픽처리장치)를 중심으로 한 연산 능력이 데이터센터 인프라의 핵심이었던 반면, 이제는 연산의 병목 현상이 GPU를 넘어 CPU(중앙처리장치)와 메모리 쪽으로 빠르게 옮겨가는 추세다. 정무경 디노티시아 대표는 7일 강남구 코엑스에서 개최된 'AI 페스타 26'에서 'AI 에이전트 시대의 데이터 인프라-검색과 메모리의 폭증, 그리고 AI 스토리지의 등장'을 주제로 발표하며 이같이 진단했다. 폭증하는 AI 검색량…CPU 워크로드 70% 차지 정 대표는 강연을 통해 이러한 병목 현상의 근본 원인은 폭발적으로 늘어난 데이터 검색량과 잦은 데이터 이동 지연에 있다고 진단했다. 단답형이던 초기 LLM(거대언어모델)이 검색 증강 생성(RAG)과 추론을 거쳐 자율적인 에이전트 시대로 접어들면서, 하나의 임무를 완수하기 위해 수많은 작업을 거치게 됐다. 이 과정에서 토큰 생성량과 함께 연산 중간중간 데이터를 검색하는 횟수가 기하급수적으로 늘어나, 병목 현상이 생긴 셈이다. 정 대표는 현재 데이터센터 내 CPU 워크로드의 60~70%가 이러한 데이터를 찾는 데 소모되고 있다고 짚었다. 연산 과정에서 AI가 단기 기억으로 사용하는 'KV 캐시(Key-Value Cache)'의 덩치가 커진 것도 병목을 가중시킨다. 그는 "KV 캐시가 너무 비대해져 비싼 고대역폭메모리(HBM)에 모두 담지 못하고 외부로 뺐다 다시 불러오는(오프로딩 및 리로드) 과정을 끊임없이 반복하며 극심한 지연을 낳고 있다"고 지적했다. 특히 올해를 기점으로 인간이 직접 데이터를 찾는 횟수보다 AI가 의미 기반(시맨틱)으로 검색하는 횟수가 역전될 전망이다. 정 대표는 "기업 스토리지에 저장만 해두고 쓰지 않는 '다크 데이터(Dark Data)'가 전체의 75~85%에 달한다"며 "이제는 사람이 아닌 AI가 시맨틱 서치로 이 숨겨진 데이터들까지 모두 찾아내 활용해 새로운 인텔리전스를 만드는 시대"라고 설명했다. 15배 빠른 검색 가속기 VDPU 개발...제로 카피로 지연 없애 디노티시아는 VDPU(벡터 데이터베이스 프로세스 유닛)를 통해 이같은 병목을 해결할 계획이다. VDPU는 의미 기반 데이터 검색에 특화된 전용 반도체다. AI가 원하는 데이터를 찾아내는 알고리즘 속도를 기존 CPU 대비 최대 15배까지 끌어올려 즉각적이고 정확한 검색을 돕는다. 아울러 찾은 데이터를 CPU의 개입 없이 곧바로 GPU 메모리에 적어주는 '제로 카피(Zero-Copy)' 기술을 지원해 고질적이었던 데이터 이동 지연 문제와 컴퓨팅 자원의 낭비를 획기적으로 줄였다. 정 대표는 "CPU 소프트웨어만으로는 늘어나는 검색량을 감당하기 어려워 AI 검색에 특화된 전용 반도체가 필수적이라고 봤다"며 "우리가 3년 전부터 개발해 온 VDPU는 오직 '검색'만을 위한 세상에 없던 반도체"라고 강조했다. "단순 칩 넘어 'AI 스토리지'로"…데이터센터 필수 인프라 정조준 디노티시아는 VDPU 기술을 발판 삼아 AI 스토리지 시스템 구축을 목표로 한다. 폭증하는 AI 데이터를 제한적인 메모리 공간만으로는 감당할 수 없기 때문이다. 이를 위해 회사는 VDPU 하드웨어와 더불어 외부 지식, 장기 기억(에이전트 메모리), 단기 기억(KV캐시)을 종합적으로 관리하는 'AI 메모리 소프트웨어'를 개발 중이다. 정 대표는 “AI가 생각하는 방식은 외부 지식을 찾고 과거 경험을 떠올려 작업하는 사람의 사고방식과 거의 유사하다”며 “이 모든 기능이 스토리지 시스템 안에 통합돼 AI의 기억과 지식을 제공하는 공간이 돼야 한다”고 말했다. 그러면서 "데이터센터를 구축할 때 가장 큰 비용이 GPU에 투입되지만, 결국 GPU가 100% 성능을 내려면 빠르고 정확한 데이터 공급이 뒷받침되어야 한다"며 "VDPU와 AI 메모리 소프트웨어를 결합한 AI 스토리지를 데이터센터 내 GPU 바로 옆에 배치해, AI 인프라 시장의 새로운 패러다임을 주도할 것"이라고 덧붙였다. 한편, AI 페스타 26은 'AI, 현실이 되다. 모두의 AI'를 주제로 과학기술정보통신부, 한국인공지능·소프트웨어산업협회(KOSA), AI페스타 조직위원회가 주최하는 국내 최대 규모 AI 행사다. 서울 삼성동 코엑스 C홀에서 오는 8일까지 진행된다.

2026.10.07 17:35전화평 기자

"GPU, 시간 단위로 사용하세요"…데이터얼라이언스의 혁신 솔루션

데이터얼라이언스가 기존 대비 최대 90% 경제적인 대규모 그래픽처리장치(GPU) 클라우드 서비스로 인공지능(AI) 시장을 공략한다. 현재 확보한 초기 단계 고객만 300여 곳이다. 데이터얼라이언스는 서울 강남 코엑스에서 6일부터 8일까지 열리는 'AI 페스타 26'에 참가해 GPU 인프라 공유 플랫폼 '지큐브' 성과와 핵심 기술을 소개했다. 지큐브는 기존 대형 클라우드 서비스 제공업체(CSP)의 비싼 고정비용 부담을 해소하기 위해 개발한 GPU 공유 플랫폼이다. 사용자가 원하는 시간만큼 GPU 자원을 켜고 끌 수 있도록 구현했다. 기존 대형 CSP 이용 대비 최대 90% 비용을 아낄 수 있다. 서로 다른 세대와 성능의 GPU를 하나의 통합 자원 풀에서 동시에 운용하는 이기종 GPU 풀링이 핵심 경쟁력이다. RTX 시리즈부터 H100급 GPU까지 통합 관리가 가능하다. 작업 목적과 예산에 맞춰 자원을 유연하게 선택·조합할 수 있다. 지큐브는 "컨테이너 기반 멀티테넌트 GPU 격리 기술을 통해 다수 사용자가 동일 GPU를 동시에 사용하는 경우에도 데이터 보안과 성능 안정성을 지원한다"고 설명했다. 이러한 장점을 무기로 AI 서비스 기업, 연구기관 등 300곳 이상 초기 단계 고객을 확보했다. GPU 공급자도 여러 클라우드 사업자들과 협력하고 있다. 데이터얼라이언스 관계자는 "시간 단위로 GPU 공유 서비스를 지원하는 것이 지큐브의 핵심 경쟁력"이라며 "최신 RTX 시리즈부터 네이버 클라우드, NHN 클라우드 등 주요 파트너사를 통해 엔비디아의 고성능 서버 칩까지 제공 가능하다"고 설명했다. 데이터얼라이언스는 2016년 설립된 AI 인프라 기업이다. 초기에는 스마트시티·사물인터넷(IoT) 기반 데이터 플랫폼 사업을 수행하며 기술력을 축적했다. 국토교통부, 과학기술정보통신부 등 정부 연구개발(R&D) 과제와 실증 사업에 참여하며 공공·민간 영역에서 경험을 쌓았다. 이를 기반으로 AI 컴퓨팅 인프라 분야로 사업을 확장했다.

2026.10.07 09:22장경윤 기자

엠키스코어, AI·HPC 통합 모니터링 플랫폼 'M-OWL' 시연

AI·고성능컴퓨팅(HPC) 인프라와 데이터센터 전문기업 엠키스코어가 AI 인프라 운영의 복잡성을 낮추는 통합 모니터링 플랫폼 'M-OWL'을 'AI 페스타 26'에서 선보였다. 'AI 페스타 26'은 과학기술정보통신부가 주관하는 '인공지능주간(AI WEEK)'의 일환으로 6일부터 8일까지 서울 삼성동 코엑스에서 열리는 B2B AI 전시회다. 6일 오후 행사장 내 전시부스에서 만난 엠키스코어 관계자는 "AI·HPC 운영에서는 GPU부터 쿠버네티스, 스케줄러, 스토리지, 인피니밴드까지 다양한 요소를 모니터링해야 한다"며 "이를 개별적으로 확인하는 데는 한계가 있다"고 설명했다. 이어 "M-OWL은 GPU와 쿠버네티스, 스케줄러, 스토리지, 인피니밴드 네트워크, 냉각 설비를 하나의 화면에서 관리할 수 있는 운영 환경이 필요하다는 문제 의식에서 개발됐다"고 덧붙였다. M-OWL은 엠키스코어가 대규모 AI·HPC 클러스터 구축·운영 경험과 고객 요구사항을 바탕으로 2년간 자체 개발한 솔루션이다. AI·HPC 및 수랭 데이터센터에 최적화된 대시보드와 리포트 기능을 제공한다. 엠키스코어 관계자는 "작업별 CPU/GPU 등 연산자원 활용도와 실행 노드 확인, 전체 자원 요약을 제공한다. 쿠버네티스 환경에서는 워커 노드의 리소스와 버전, 파드(Pod)와 컨테이너, 디플로이먼트 정보를 확인할 수 있도록 했다"고 설명했다. GPU 성능을 극대화하기 위해 주로 쓰이는 AMD 서버용 에픽 프로세서 기반 인피니밴드 네트워크의 연결 구조와 장애 추적도 M-OWL의 주요 기능 중 하나다. 엠키스코어 관계자는 "구축 후 시간이 지나면 어떤 장비가 어떤 스위치에 연결돼 있는지 쉽게 파악하기 어렵다. GPU와 스위치, 워크로드 간 연결 관계를 시각화해 장애가 발생한 장비와 영향을 받을 수 있는 노드를 파악할 수 있도록 했다"고 말했다. 엠키스코어는 GPU 서버의 고집적·고발열 환경에 대응하기 위한 수랭식 시스템 '아쿠아엣지(AQUAEdge)'도 공급하고 있다. M-OWL은 냉수 공급·환수 온도와 냉각수 분배장치(CDU) 상태, GPU 서버 온도도 대시보드에 표시한다. 엠키스코어 관계자는 "HPC 클러스터와 데이터센터를 운영한 노하우를 살려 실무자들이 반드시 참조해야 하는 데이터를 대시보드에 집약했다"며 "GPU·서버·스토리지·네트워크·냉각 설비를 통합 관리해 인프라 운영의 복잡성을 덜어주는 것이 가장 큰 의의"라고 강조했다.

2026.10.07 09:14권봉석 기자

하정우 부위원장 "AI 모델만 잘해선 3강 못 간다…생태계 전체 키워야"

하정우 국가인공지능전략위원회 부위원장이 한국이 인공지능(AI) 3강으로 도약하려면 AI 모델 경쟁을 넘어 전력과 반도체, 데이터센터, 산업 AI, 피지컬 AI까지 전체 생태계의 경쟁력을 함께 키워야 한다고 강조했다. 하 부위원장은 6일 서울 코엑스에서 열린 'AI 페스타 2026' AI산업정책토크쇼에서 전력과 AI 반도체, 그래픽처리장치(GPU), 데이터센터 등 기반 인프라부터 AI 에이전트와 피지컬 AI까지 이어지는 경쟁력을 확보해야 한다고 밝혔다. 국내 AI 기업이 성장할 수 있도록 공공이 제품과 서비스를 먼저 구매해 초기 시장을 만드는 방향도 제시했다. 이날 행사는 당초 30~40분 강연으로 예정됐지만 현장 질의응답 중심으로 진행됐다. 하 부위원장은 기존 강연은 온라인에서도 충분히 접할 수 있는 만큼 AI 기업들이 현장에서 겪는 어려움과 국가 전략에 대한 의견을 직접 듣기 위해 토크쇼 형식을 요청했다고 설명했다. 하 부위원장은 지난해까지 부족한 GPU 등 AI 인프라를 확보하는 데 정책의 우선순위를 뒀다면 앞으로는 이를 실제 산업 성과로 연결해야 한다고 봤다. 국내에서 사용 실적을 만들고 민간과 해외 시장으로 확산시키는 단계로 넘어가야 한다는 설명이다. "AI 3강, 모델만으론 안 돼"…전력부터 피지컬 AI까지 하 부위원장은 AI 경쟁력을 특정 모델 하나의 성능만으로 판단해서는 안 된다고 말했다. AI 산업을 떠받치는 가장 아래에는 전력이 있다. 안정적인 전력 공급이 이뤄져야 메모리 반도체와 AI 반도체, GPU, 데이터센터 등 컴퓨팅 인프라를 운영할 수 있고 그 위에서 소프트웨어와 AI 에이전트가 산업 현장으로 확산될 수 있다는 설명이다. 하 부위원장은 로봇과 드론, 자율주행차처럼 실제 공간에서 움직이는 피지컬 AI까지 경쟁력을 확보해야 한다고 밝혔다. 데이터센터 역시 단순히 서버를 운영하는 시설이 아니라 AI 연산을 통해 지능을 생산하는 '토큰 팩토리'로 발전시켜야 한다고 제시했다. 지난해 정부가 GPU 확보에 집중한 이유도 설명했다. 하 부위원장은 당시 국내 기업과 대학 연구실이 AI 모델을 학습할 컴퓨팅 자원이 부족해 우선 병목부터 해결할 필요가 있었다고 했다. 정부가 GPU를 확보해 스타트업과 대학 등에 공급한 것도 이런 배경에서 추진됐다. 다만 GPU를 많이 확보하는 것만으로는 부족하다고 봤다. 특정 해외 기술에 지나치게 의존하면 공급망 위험이 커질 수 있는 만큼 국내 AI 반도체 기업의 기술력을 높이고 실제 수요처까지 만들어줘야 한다고 강조했다. 하 부위원장은 공공이 국산 AI 반도체와 솔루션의 초기 고객 역할을 하는 방안도 제시했다. 국내에서 실제 사용 사례를 확보해야 제품 성능을 검증할 수 있고, 이를 해외 시장 진출을 위한 실적으로 활용할 수 있다는 판단이다. 국가 AI 전략의 실행 주체로는 기업과 스타트업, 연구자를 꼽았다. 정부가 전략을 세우더라도 기술은 논문에 머무르지 않고 산업 현장의 생산성과 경제적 성과로 이어져야 한다는 게 그의 설명이다. 지역 산업의 AI 전환과 이를 이끌 인재 양성도 함께 추진해야 할 과제로 제시했다. "정부가 첫 구매자 돼야"…지원 넘어 시장 만들어야 질의응답에서는 정부 지원이 줄어든 뒤에도 국내 AI 생태계가 지속 성장할 방안에 관한 질문이 나왔다. 하 부위원장은 정부가 예산을 투입해 기술 경쟁력을 끌어올릴 수는 있지만 지원이 끝난 뒤에도 기업이 성장할 수 있느냐가 더 큰 문제라고 진단했다. 결국 기업이 만든 제품과 서비스가 시장에서 실제로 팔리는 구조를 만들어야 한다는 설명이다. 이를 위한 방법으로 공공의 '첫 구매자' 역할을 제시했다. 정부와 공공기관이 국내 AI 제품과 서비스를 먼저 사용해 초기 수요를 만들고 기업이 매출과 실적을 확보하도록 돕는 방식이다. '모두의 AI'도 사례로 들었다. 정부가 AI 서비스 이용료를 지원하면 예산이 애플리케이션 기업에만 머무르지 않고 응용프로그램 인터페이스(API)와 모델컨텍스트프로토콜(MCP) 제공 기업, 파운데이션 모델 개발사, 인프라와 데이터센터 운영사까지 이어질 수 있다고 설명했다. 하 부위원장은 이 과정에서 여러 기업이 경쟁할 수 있는 구조도 중요하다고 봤다. 특정 기업에 수요가 집중되는 방식보다 애플리케이션과 모델, 인프라 등 각 영역에서 다양한 기업이 참여할 수 있어야 AI 생태계 전체로 기회가 돌아갈 수 있다는 것이다. 공공 시장은 해외 진출을 위한 첫 실적을 만드는 역할도 한다. 국내 기관에서 제품과 서비스를 사용하면 기업은 실제 적용 사례를 확보하고 이를 해외 고객에게 제시할 수 있다. GPU와 데이터센터를 활용한 새로운 투자 방식도 제시했다. 하 부위원장은 "최근 해외에서 GPU를 담보로 자금을 조달하는 등 컴퓨팅 자원 자체가 자본의 역할을 하기 시작했다"며 "대규모 데이터센터와 민간 자본을 연결하는 제도도 검토할 필요가 있다"고 말했다. 이어 "작년에는 인프라가 워낙 부족했기 때문에 인프라부터 진행했다"며 "이제 어느 정도 기술 수준이 올라오면 공공이 먼저 물건을 사주면서 첫 시장이 돼주고, 레퍼런스가 쌓여 민간으로 확산되게 도와주는 로드맵이 필요하다"고 밝혔다.

2026.10.06 18:28김동원 기자

GPU에서 NPU까지…클러쉬, AI칩 혼용 시대 겨냥

인공지능(AI) 인프라 기업 클러쉬가 GPU부터 NPU까지 서로 다른 연산 자원을 하나의 플랫폼에서 통합 운영하는 기술을 앞세워 기업용 AI 인프라 시장 공략에 나섰다. AI 연산 수요가 커지면서 기업이 다양한 종류와 세대의 가속기를 함께 사용하는 환경이 늘어날 것으로 보고, 이미 확보한 고가 장비 활용률을 높이는 데 초점을 맞췄다. 클러쉬는 6일 'AI 페스타 26'에서 AI 인프라 플랫폼 'AXLEON'을 선보였다. AXLEON은 GPU·NPU·CPU와 여러 클러스터를 하나의 제어 환경에서 관리하는 플랫폼이다. 쿠버네티스 표준을 기반으로 제조사나 종류가 다른 연산 자원을 단일 API로 통합해 운영할 수 있도록 설계됐다. 클러쉬가 주목하는 것은 기업 AI 인프라의 파편화다. 기업들이 처음부터 동일한 GPU로 대규모 팜을 구축하기보다 투자 시점과 수요에 따라 여러 세대 장비를 순차적으로 도입하면서 하나의 데이터센터 안에서도 다양한 GPU가 섞이는 경우가 많다는 설명이다. 클러쉬 관계자는 "같은 엔비디아 제품이라도 A100 몇 장, H100·H200 몇 장, B300 몇 장 식으로 그때그때 도입해 사용하는 경우가 있다"며 "이런 이기종 자원을 하나의 플랫폼에서 운영하면서 낭비되는 부분을 줄일 수 있다는 것이 가장 큰 장점"이라고 말했다. 가의 GPU를 추가 구매하기 전에 현재 보유한 자원을 최대한 활용하자는 게 AXLEON의 핵심 전략이다. 여러 곳에 흩어진 연산 자원을 하나의 풀로 묶고 작업 상황에 맞춰 배치해 유휴 GPU를 줄이는 방식이다. AXLEON은 GPU 동적 스케줄링과 자원 최적화를 지원한다. 회사가 현장에서 공개한 자료에 따르면 AI 모델의 학습 종료 시점을 예측해 대기 중인 작업을 선제적으로 배치하고, 유휴 GPU를 회수해 활용하는 방식으로 GPU 가동률 85% 이상을 목표로 한다. 클러쉬 관계자는 "GPU 장비는 워낙 많은 비용이 투입되다 보니 고객 입장에서도 한꺼번에 대규모 팜을 구축하기 쉽지 않다"며 "투자한 장비에서 노는 영역을 줄여 최대한 효율적으로 사용할 수 있도록 하는 방향으로 제품을 만들었다"고 설명했다. 지원 대상도 GPU에 국한되지 않는다. AXLEON은 GPU와 NPU, CPU를 같은 운영 체계 안에서 관리할 수 있다. 특히 AI 추론 시장을 중심으로 NPU 등 GPU 이외의 가속기 활용이 확대될 경우 기업이 워크로드에 따라 서로 다른 연산 자원을 조합하는 환경에도 대응할 수 있다는 설명이다. AXLEON은 AI 서버와 반도체 자원 관리뿐 아니라 모델 학습·배포, 데이터 관리, 장애 대응, 보안, AI 에이전트 운영까지 AI 인프라 전반을 하나의 플랫폼에서 관리할 수 있도록 했다. 클러쉬는 대규모 AI 인프라 사업을 통해 관련 레퍼런스도 확대하고 있다. 삼성SDS가 주도하는 국가AI컴퓨팅센터 구축 사업 컨소시엄에 참여한 유일한 중소기업으로, GPU 자원 관리와 오케스트레이션 기술을 담당한다. 기업공개(IPO) 준비에도 속도를 내고 있다. 클러쉬는 현재 기술성 평가 절차를 진행 중이며 AXLEON의 GPU 운영 플랫폼을 핵심 기술로 내세우고 있다. 회사는 내년 증시 입성을 목표로 상장 준비를 이어가고 있다. 현장에서도 기술성 평가가 진행 중이라고 밝혔다.

2026.10.06 16:53류은주 기자

한준호 의원 "독파모·프론티어 AI, GPU·예산 중복 투입 막아야"

정부가 독자 인공지능(AI) 파운데이션 모델(독파모)과 프론티어 AI 사업을 동시에 추진하는 가운데, 두 사업에 그래픽처리장치(GPU)와 예산이 중복 투입되지 않도록 지원 체계를 명확히 해야 한다는 지적이 나왔다. 한준호 더불어민주당 의원은 6일 국회 과학기술정보방송통신위원회의 과학기술정보통신부 국정감사에서 "독파모에서 축적된 기술이나 인적 자원은 잘 활용하되 동일 개발 과정에 있는 GPU와 예산 중복 등은 막아야 한다"고 말했다. 정부가 기존 독파모와 별도로 글로벌 최상위 수준의 AI 모델 개발을 목표로 프론티어 AI 사업을 추진하면서 두 사업에 투입되는 컴퓨팅 자원을 어떻게 구분할지가 과제로 떠오른 데 따른 지적이다. 한 의원은 독파모를 통해 확보한 기술과 인력은 프론티어 AI 개발에 연계하면서도 GPU와 예산 등 정부 지원이 중복되지 않도록 해야 한다는 점을 짚었다. 이에 배경훈 부총리 겸 과기정통부 장관은 "독파모의 역량이 프런티어 모델 AI 개발로 이어지는 것이지, 그것이 하나의 사업은 아니다"라고 답했다. 정부는 독파모 3차 평가 역시 예정대로 진행한다는 방침이다. 배 부총리는 기존 독파모에 제공하기로 한 GPU만으로 글로벌 최고 수준의 AI에 도달하는 데에는 한계가 있었다고 설명했다. 다만 이를 독파모 사업 자체의 실패로 볼 수는 없다는 입장이다. 프론티어 AI 사업은 과학 난제와 사이버 안보 등 보다 높은 수준의 문제 해결을 목표로 별도 추진될 방침이다. 정부는 관련 사업에 책정된 4조 6000억원만으로 프론티어 AI 모델 개발 목표를 달성하기에는 충분하지 않을 수 있다고 보고 민간 출자 방식 등도 검토 중이다. 배 부총리는 "과학의 난제, 사이버 안보 이런 정도 수준의 문제를 풀기 위해선 더 높은 수준의 도전이 필요하다"며 "프론티어 모델도 잘 계획해서 추진할 수 있도록 하겠다"고 밝혔다.

2026.10.06 16:49한정호 기자

AI 개발의 기초는 하드웨어…유클릭스, AI 인프라 구축 지원

유클릭스가 6일 서울 코엑스에서 열린 'AI 페스타 2026'에서 엔비디아의 인공지능(AI) 서버를 전시하고 AI 개발에 필요한 인프라 구축 지원 서비스를 소개했다. GPU 서버 공급부터 설치 지원, 기존 전산 환경을 고려한 컨설팅까지 제공한다는 점을 알리는 데 초점을 맞췄다. 이날 유클릭스에 따르면 회사는 엔비디아의 '엘리트 파트너'로 고객에게 서버를 공급하고 설치와 기술 지원을 제공한다. 엔비디아 제품뿐 아니라 엔비디아 GPU를 탑재한 다른 제조사의 서버도 고객 수요에 맞춰 제안한다. 이번 부스의 핵심 전시 장비는 'DGX B300'이다. GPU 8개를 탑재했으며 GPU당 고대역폭메모리(HBM) 용량은 288GB다. 전체 용량은 약 2.3TB다. 대규모 언어모델(LLM)의 학습과 추론에 활용하는 장비다. 현장에서는 서버 내부에 들어가는 GPU 트레이를 꺼내 장비 구성을 볼 수 있도록 전시했다. 관람객이 내부 구성과 트레이가 본체에 결합되는 구조를 살펴볼 수 있도록 했다. 유클릭스는 장비 공급과 함께 고객이 실제로 AI를 개발할 수 있는 환경을 구축하는 역할을 강조했다. 서버 도입에 앞서 기존 인프라와의 연결 방식, 필요한 전력량, 네트워크 구성 등을 함께 검토해야 한다는 설명이다. 고객의 활용 목적과 예산, 현재 사용하는 장비를 파악해 적합한 GPU와 서버 구성을 제안한다. 유클릭스 관계자는 “AI 개발에 필요한 인프라 환경을 구축해주는 곳으로 보면 된다”며 “장비를 공급하고 고객이 사용할 수 있도록 설치를 지원하는 부분에 초점을 맞춰 전시에 참여했다”고 말했다. AI 페스타 2026은 과학기술정보통신부가 주최하고 한국인공지능·소프트웨어산업협회(KOSA)와 AI페스타조직위원회가 주관하는 인공지능주간 공식 행사다. 올해 행사는 6일부터 8일까지 사흘간 서울 코엑스 C홀에서 열린다. 국내외 AI 기업·기관 약 350개사가 참여해 500여개 부스를 운영하며 AI 코어, 에이전틱 AI, 피지컬 AI, AI 보안, 국방 AI, AI 반도체 등 다양한 기술과 산업 적용 사례를 선보인다.

2026.10.06 16:47김민아 기자

에스넷시스템, 델과 AI 인프라 사업 키운다…포트폴리오 강화

에스넷시스템이 델 테크놀로지스의 그래픽처리장치(GPU) 서버와 소프트웨어 정의 스토리지를 앞세워 인공지능(AI) 인프라 사업 확대에 나선다. 에스넷시스템은 고성능 GPU 서버와 '델 파워플렉스(PowerFlex)'를 중심으로 컴퓨팅·스토리지 사업을 확대한다고 6일 밝혔다. 회사 측에 따르면 올해 상반기 별도 기준 매출이 전년 동기 대비 약 2배 증가한 가운데, 델 관련 사업의 성장세가 실적 확대를 견인했다. 생성형 AI가 실제 업무와 서비스에 적용되면서 최근 기업 인프라 수요도 변화하고 있다. AI 활용에는 GPU 등 고성능 컴퓨팅 자원뿐 아니라 데이터베이스(DB), 가상화·컨테이너, 기존 업무 애플리케이션 등 다양한 워크로드를 안정적으로 운영하고 수요에 따라 자원을 확장할 수 있는 인프라가 필요한 상황이다. 에스넷시스템은 이에 맞춰 델 서버와 스토리지를 아우르는 인프라 사업을 강화 중이다. 고성능 GPU 서버를 통해 AI 컴퓨팅 사업 기반을 넓히고 스토리지 영역에선 파워플렉스를 중심으로 소프트웨어 정의 인프라(SDI) 사업을 확대한다. 파워플렉스는 소프트웨어 기반으로 스토리지 자원을 구성하고 컴퓨팅과 스토리지를 독립적으로 확장할 수 있는 솔루션이다. DB와 가상화, 컨테이너 등 다양한 엔터프라이즈 워크로드를 지원해 기존 IT 환경을 유지하면서 필요한 인프라를 유연하게 확장하도록 지원한다, 에스넷시스템은 주요 엔터프라이즈 고객의 파워플렉스 증설과 인프라 고도화 수요가 이어지면서 관련 사업도 성장세를 보이고 있다고 설명했다. 회사는 초기 델 브이엑스레일(VxRail) 사업부터 쌓은 가상화 인프라 경험과 파워플렉스 전문인력을 기반으로 사업 범위를 넓히고 있다. 고객의 기존 인프라와 워크로드 분석부터 기술검증(PoC)·벤치마크테스트(BMT), 아키텍처 설계·구축, 운영과 기술지원까지 전 과정을 지원한다. 에스넷시스템 관계자는 "단순 제품 공급을 넘어 고객 환경에 최적화된 컴퓨팅·스토리지 인프라를 설계하고 구축하는 것이 우리 경쟁력"이라며 "GPU 서버와 파워플렉스를 중심으로 델 사업 확대에 속도를 내겠다"고 밝혔다.

2026.10.06 16:05한정호 기자

  Prev 1 2 3 4 5 6 7 8 9 10 Next  

지금 뜨는 기사

이시각 헤드라인

中 CXMT 쇼크?...4F스퀘어 D램 연내 상용 파급력은

삼성전자, 갤럭시 DDI 위탁생산 UMC·글로벌파운드리스 이원화 검토

피지컬 AI 세상은 통신망부터...산업 현장서 AI기지국 실증

카카오 AI 사회경제적 가치 연 5506억원…2030년 최대 1.8조원 전망

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.