• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
ZDPick
국감2026
AI페스타26
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'GPU'통합검색 결과 입니다. (618건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

하정우 부위원장 "AI 모델만 잘해선 3강 못 간다…생태계 전체 키워야"

하정우 국가인공지능전략위원회 부위원장이 한국이 인공지능(AI) 3강으로 도약하려면 AI 모델 경쟁을 넘어 전력과 반도체, 데이터센터, 산업 AI, 피지컬 AI까지 전체 생태계의 경쟁력을 함께 키워야 한다고 강조했다. 하 부위원장은 6일 서울 코엑스에서 열린 'AI 페스타 2026' AI산업정책토크쇼에서 전력과 AI 반도체, 그래픽처리장치(GPU), 데이터센터 등 기반 인프라부터 AI 에이전트와 피지컬 AI까지 이어지는 경쟁력을 확보해야 한다고 밝혔다. 국내 AI 기업이 성장할 수 있도록 공공이 제품과 서비스를 먼저 구매해 초기 시장을 만드는 방향도 제시했다. 이날 행사는 당초 30~40분 강연으로 예정됐지만 현장 질의응답 중심으로 진행됐다. 하 부위원장은 기존 강연은 온라인에서도 충분히 접할 수 있는 만큼 AI 기업들이 현장에서 겪는 어려움과 국가 전략에 대한 의견을 직접 듣기 위해 토크쇼 형식을 요청했다고 설명했다. 하 부위원장은 지난해까지 부족한 GPU 등 AI 인프라를 확보하는 데 정책의 우선순위를 뒀다면 앞으로는 이를 실제 산업 성과로 연결해야 한다고 봤다. 국내에서 사용 실적을 만들고 민간과 해외 시장으로 확산시키는 단계로 넘어가야 한다는 설명이다. "AI 3강, 모델만으론 안 돼"…전력부터 피지컬 AI까지 하 부위원장은 AI 경쟁력을 특정 모델 하나의 성능만으로 판단해서는 안 된다고 말했다. AI 산업을 떠받치는 가장 아래에는 전력이 있다. 안정적인 전력 공급이 이뤄져야 메모리 반도체와 AI 반도체, GPU, 데이터센터 등 컴퓨팅 인프라를 운영할 수 있고 그 위에서 소프트웨어와 AI 에이전트가 산업 현장으로 확산될 수 있다는 설명이다. 하 부위원장은 로봇과 드론, 자율주행차처럼 실제 공간에서 움직이는 피지컬 AI까지 경쟁력을 확보해야 한다고 밝혔다. 데이터센터 역시 단순히 서버를 운영하는 시설이 아니라 AI 연산을 통해 지능을 생산하는 '토큰 팩토리'로 발전시켜야 한다고 제시했다. 지난해 정부가 GPU 확보에 집중한 이유도 설명했다. 하 부위원장은 당시 국내 기업과 대학 연구실이 AI 모델을 학습할 컴퓨팅 자원이 부족해 우선 병목부터 해결할 필요가 있었다고 했다. 정부가 GPU를 확보해 스타트업과 대학 등에 공급한 것도 이런 배경에서 추진됐다. 다만 GPU를 많이 확보하는 것만으로는 부족하다고 봤다. 특정 해외 기술에 지나치게 의존하면 공급망 위험이 커질 수 있는 만큼 국내 AI 반도체 기업의 기술력을 높이고 실제 수요처까지 만들어줘야 한다고 강조했다. 하 부위원장은 공공이 국산 AI 반도체와 솔루션의 초기 고객 역할을 하는 방안도 제시했다. 국내에서 실제 사용 사례를 확보해야 제품 성능을 검증할 수 있고, 이를 해외 시장 진출을 위한 실적으로 활용할 수 있다는 판단이다. 국가 AI 전략의 실행 주체로는 기업과 스타트업, 연구자를 꼽았다. 정부가 전략을 세우더라도 기술은 논문에 머무르지 않고 산업 현장의 생산성과 경제적 성과로 이어져야 한다는 게 그의 설명이다. 지역 산업의 AI 전환과 이를 이끌 인재 양성도 함께 추진해야 할 과제로 제시했다. "정부가 첫 구매자 돼야"…지원 넘어 시장 만들어야 질의응답에서는 정부 지원이 줄어든 뒤에도 국내 AI 생태계가 지속 성장할 방안에 관한 질문이 나왔다. 하 부위원장은 정부가 예산을 투입해 기술 경쟁력을 끌어올릴 수는 있지만 지원이 끝난 뒤에도 기업이 성장할 수 있느냐가 더 큰 문제라고 진단했다. 결국 기업이 만든 제품과 서비스가 시장에서 실제로 팔리는 구조를 만들어야 한다는 설명이다. 이를 위한 방법으로 공공의 '첫 구매자' 역할을 제시했다. 정부와 공공기관이 국내 AI 제품과 서비스를 먼저 사용해 초기 수요를 만들고 기업이 매출과 실적을 확보하도록 돕는 방식이다. '모두의 AI'도 사례로 들었다. 정부가 AI 서비스 이용료를 지원하면 예산이 애플리케이션 기업에만 머무르지 않고 응용프로그램 인터페이스(API)와 모델컨텍스트프로토콜(MCP) 제공 기업, 파운데이션 모델 개발사, 인프라와 데이터센터 운영사까지 이어질 수 있다고 설명했다. 하 부위원장은 이 과정에서 여러 기업이 경쟁할 수 있는 구조도 중요하다고 봤다. 특정 기업에 수요가 집중되는 방식보다 애플리케이션과 모델, 인프라 등 각 영역에서 다양한 기업이 참여할 수 있어야 AI 생태계 전체로 기회가 돌아갈 수 있다는 것이다. 공공 시장은 해외 진출을 위한 첫 실적을 만드는 역할도 한다. 국내 기관에서 제품과 서비스를 사용하면 기업은 실제 적용 사례를 확보하고 이를 해외 고객에게 제시할 수 있다. GPU와 데이터센터를 활용한 새로운 투자 방식도 제시했다. 하 부위원장은 "최근 해외에서 GPU를 담보로 자금을 조달하는 등 컴퓨팅 자원 자체가 자본의 역할을 하기 시작했다"며 "대규모 데이터센터와 민간 자본을 연결하는 제도도 검토할 필요가 있다"고 말했다. 이어 "작년에는 인프라가 워낙 부족했기 때문에 인프라부터 진행했다"며 "이제 어느 정도 기술 수준이 올라오면 공공이 먼저 물건을 사주면서 첫 시장이 돼주고, 레퍼런스가 쌓여 민간으로 확산되게 도와주는 로드맵이 필요하다"고 밝혔다.

2026.10.06 18:28김동원 기자

GPU에서 NPU까지…클러쉬, AI칩 혼용 시대 겨냥

인공지능(AI) 인프라 기업 클러쉬가 GPU부터 NPU까지 서로 다른 연산 자원을 하나의 플랫폼에서 통합 운영하는 기술을 앞세워 기업용 AI 인프라 시장 공략에 나섰다. AI 연산 수요가 커지면서 기업이 다양한 종류와 세대의 가속기를 함께 사용하는 환경이 늘어날 것으로 보고, 이미 확보한 고가 장비 활용률을 높이는 데 초점을 맞췄다. 클러쉬는 6일 'AI 페스타 26'에서 AI 인프라 플랫폼 'AXLEON'을 선보였다. AXLEON은 GPU·NPU·CPU와 여러 클러스터를 하나의 제어 환경에서 관리하는 플랫폼이다. 쿠버네티스 표준을 기반으로 제조사나 종류가 다른 연산 자원을 단일 API로 통합해 운영할 수 있도록 설계됐다. 클러쉬가 주목하는 것은 기업 AI 인프라의 파편화다. 기업들이 처음부터 동일한 GPU로 대규모 팜을 구축하기보다 투자 시점과 수요에 따라 여러 세대 장비를 순차적으로 도입하면서 하나의 데이터센터 안에서도 다양한 GPU가 섞이는 경우가 많다는 설명이다. 클러쉬 관계자는 "같은 엔비디아 제품이라도 A100 몇 장, H100·H200 몇 장, B300 몇 장 식으로 그때그때 도입해 사용하는 경우가 있다"며 "이런 이기종 자원을 하나의 플랫폼에서 운영하면서 낭비되는 부분을 줄일 수 있다는 것이 가장 큰 장점"이라고 말했다. 가의 GPU를 추가 구매하기 전에 현재 보유한 자원을 최대한 활용하자는 게 AXLEON의 핵심 전략이다. 여러 곳에 흩어진 연산 자원을 하나의 풀로 묶고 작업 상황에 맞춰 배치해 유휴 GPU를 줄이는 방식이다. AXLEON은 GPU 동적 스케줄링과 자원 최적화를 지원한다. 회사가 현장에서 공개한 자료에 따르면 AI 모델의 학습 종료 시점을 예측해 대기 중인 작업을 선제적으로 배치하고, 유휴 GPU를 회수해 활용하는 방식으로 GPU 가동률 85% 이상을 목표로 한다. 클러쉬 관계자는 "GPU 장비는 워낙 많은 비용이 투입되다 보니 고객 입장에서도 한꺼번에 대규모 팜을 구축하기 쉽지 않다"며 "투자한 장비에서 노는 영역을 줄여 최대한 효율적으로 사용할 수 있도록 하는 방향으로 제품을 만들었다"고 설명했다. 지원 대상도 GPU에 국한되지 않는다. AXLEON은 GPU와 NPU, CPU를 같은 운영 체계 안에서 관리할 수 있다. 특히 AI 추론 시장을 중심으로 NPU 등 GPU 이외의 가속기 활용이 확대될 경우 기업이 워크로드에 따라 서로 다른 연산 자원을 조합하는 환경에도 대응할 수 있다는 설명이다. AXLEON은 AI 서버와 반도체 자원 관리뿐 아니라 모델 학습·배포, 데이터 관리, 장애 대응, 보안, AI 에이전트 운영까지 AI 인프라 전반을 하나의 플랫폼에서 관리할 수 있도록 했다. 클러쉬는 대규모 AI 인프라 사업을 통해 관련 레퍼런스도 확대하고 있다. 삼성SDS가 주도하는 국가AI컴퓨팅센터 구축 사업 컨소시엄에 참여한 유일한 중소기업으로, GPU 자원 관리와 오케스트레이션 기술을 담당한다. 기업공개(IPO) 준비에도 속도를 내고 있다. 클러쉬는 현재 기술성 평가 절차를 진행 중이며 AXLEON의 GPU 운영 플랫폼을 핵심 기술로 내세우고 있다. 회사는 내년 증시 입성을 목표로 상장 준비를 이어가고 있다. 현장에서도 기술성 평가가 진행 중이라고 밝혔다.

2026.10.06 16:53류은주 기자

한준호 의원 "독파모·프론티어 AI, GPU·예산 중복 투입 막아야"

정부가 독자 인공지능(AI) 파운데이션 모델(독파모)과 프론티어 AI 사업을 동시에 추진하는 가운데, 두 사업에 그래픽처리장치(GPU)와 예산이 중복 투입되지 않도록 지원 체계를 명확히 해야 한다는 지적이 나왔다. 한준호 더불어민주당 의원은 6일 국회 과학기술정보방송통신위원회의 과학기술정보통신부 국정감사에서 "독파모에서 축적된 기술이나 인적 자원은 잘 활용하되 동일 개발 과정에 있는 GPU와 예산 중복 등은 막아야 한다"고 말했다. 정부가 기존 독파모와 별도로 글로벌 최상위 수준의 AI 모델 개발을 목표로 프론티어 AI 사업을 추진하면서 두 사업에 투입되는 컴퓨팅 자원을 어떻게 구분할지가 과제로 떠오른 데 따른 지적이다. 한 의원은 독파모를 통해 확보한 기술과 인력은 프론티어 AI 개발에 연계하면서도 GPU와 예산 등 정부 지원이 중복되지 않도록 해야 한다는 점을 짚었다. 이에 배경훈 부총리 겸 과기정통부 장관은 "독파모의 역량이 프런티어 모델 AI 개발로 이어지는 것이지, 그것이 하나의 사업은 아니다"라고 답했다. 정부는 독파모 3차 평가 역시 예정대로 진행한다는 방침이다. 배 부총리는 기존 독파모에 제공하기로 한 GPU만으로 글로벌 최고 수준의 AI에 도달하는 데에는 한계가 있었다고 설명했다. 다만 이를 독파모 사업 자체의 실패로 볼 수는 없다는 입장이다. 프론티어 AI 사업은 과학 난제와 사이버 안보 등 보다 높은 수준의 문제 해결을 목표로 별도 추진될 방침이다. 정부는 관련 사업에 책정된 4조 6000억원만으로 프론티어 AI 모델 개발 목표를 달성하기에는 충분하지 않을 수 있다고 보고 민간 출자 방식 등도 검토 중이다. 배 부총리는 "과학의 난제, 사이버 안보 이런 정도 수준의 문제를 풀기 위해선 더 높은 수준의 도전이 필요하다"며 "프론티어 모델도 잘 계획해서 추진할 수 있도록 하겠다"고 밝혔다.

2026.10.06 16:49한정호 기자

AI 개발의 기초는 하드웨어…유클릭스, AI 인프라 구축 지원

유클릭스가 6일 서울 코엑스에서 열린 'AI 페스타 2026'에서 엔비디아의 인공지능(AI) 서버를 전시하고 AI 개발에 필요한 인프라 구축 지원 서비스를 소개했다. GPU 서버 공급부터 설치 지원, 기존 전산 환경을 고려한 컨설팅까지 제공한다는 점을 알리는 데 초점을 맞췄다. 이날 유클릭스에 따르면 회사는 엔비디아의 '엘리트 파트너'로 고객에게 서버를 공급하고 설치와 기술 지원을 제공한다. 엔비디아 제품뿐 아니라 엔비디아 GPU를 탑재한 다른 제조사의 서버도 고객 수요에 맞춰 제안한다. 이번 부스의 핵심 전시 장비는 'DGX B300'이다. GPU 8개를 탑재했으며 GPU당 고대역폭메모리(HBM) 용량은 288GB다. 전체 용량은 약 2.3TB다. 대규모 언어모델(LLM)의 학습과 추론에 활용하는 장비다. 현장에서는 서버 내부에 들어가는 GPU 트레이를 꺼내 장비 구성을 볼 수 있도록 전시했다. 관람객이 내부 구성과 트레이가 본체에 결합되는 구조를 살펴볼 수 있도록 했다. 유클릭스는 장비 공급과 함께 고객이 실제로 AI를 개발할 수 있는 환경을 구축하는 역할을 강조했다. 서버 도입에 앞서 기존 인프라와의 연결 방식, 필요한 전력량, 네트워크 구성 등을 함께 검토해야 한다는 설명이다. 고객의 활용 목적과 예산, 현재 사용하는 장비를 파악해 적합한 GPU와 서버 구성을 제안한다. 유클릭스 관계자는 “AI 개발에 필요한 인프라 환경을 구축해주는 곳으로 보면 된다”며 “장비를 공급하고 고객이 사용할 수 있도록 설치를 지원하는 부분에 초점을 맞춰 전시에 참여했다”고 말했다. AI 페스타 2026은 과학기술정보통신부가 주최하고 한국인공지능·소프트웨어산업협회(KOSA)와 AI페스타조직위원회가 주관하는 인공지능주간 공식 행사다. 올해 행사는 6일부터 8일까지 사흘간 서울 코엑스 C홀에서 열린다. 국내외 AI 기업·기관 약 350개사가 참여해 500여개 부스를 운영하며 AI 코어, 에이전틱 AI, 피지컬 AI, AI 보안, 국방 AI, AI 반도체 등 다양한 기술과 산업 적용 사례를 선보인다.

2026.10.06 16:47김민아 기자

에스넷시스템, 델과 AI 인프라 사업 키운다…포트폴리오 강화

에스넷시스템이 델 테크놀로지스의 그래픽처리장치(GPU) 서버와 소프트웨어 정의 스토리지를 앞세워 인공지능(AI) 인프라 사업 확대에 나선다. 에스넷시스템은 고성능 GPU 서버와 '델 파워플렉스(PowerFlex)'를 중심으로 컴퓨팅·스토리지 사업을 확대한다고 6일 밝혔다. 회사 측에 따르면 올해 상반기 별도 기준 매출이 전년 동기 대비 약 2배 증가한 가운데, 델 관련 사업의 성장세가 실적 확대를 견인했다. 생성형 AI가 실제 업무와 서비스에 적용되면서 최근 기업 인프라 수요도 변화하고 있다. AI 활용에는 GPU 등 고성능 컴퓨팅 자원뿐 아니라 데이터베이스(DB), 가상화·컨테이너, 기존 업무 애플리케이션 등 다양한 워크로드를 안정적으로 운영하고 수요에 따라 자원을 확장할 수 있는 인프라가 필요한 상황이다. 에스넷시스템은 이에 맞춰 델 서버와 스토리지를 아우르는 인프라 사업을 강화 중이다. 고성능 GPU 서버를 통해 AI 컴퓨팅 사업 기반을 넓히고 스토리지 영역에선 파워플렉스를 중심으로 소프트웨어 정의 인프라(SDI) 사업을 확대한다. 파워플렉스는 소프트웨어 기반으로 스토리지 자원을 구성하고 컴퓨팅과 스토리지를 독립적으로 확장할 수 있는 솔루션이다. DB와 가상화, 컨테이너 등 다양한 엔터프라이즈 워크로드를 지원해 기존 IT 환경을 유지하면서 필요한 인프라를 유연하게 확장하도록 지원한다, 에스넷시스템은 주요 엔터프라이즈 고객의 파워플렉스 증설과 인프라 고도화 수요가 이어지면서 관련 사업도 성장세를 보이고 있다고 설명했다. 회사는 초기 델 브이엑스레일(VxRail) 사업부터 쌓은 가상화 인프라 경험과 파워플렉스 전문인력을 기반으로 사업 범위를 넓히고 있다. 고객의 기존 인프라와 워크로드 분석부터 기술검증(PoC)·벤치마크테스트(BMT), 아키텍처 설계·구축, 운영과 기술지원까지 전 과정을 지원한다. 에스넷시스템 관계자는 "단순 제품 공급을 넘어 고객 환경에 최적화된 컴퓨팅·스토리지 인프라를 설계하고 구축하는 것이 우리 경쟁력"이라며 "GPU 서버와 파워플렉스를 중심으로 델 사업 확대에 속도를 내겠다"고 밝혔다.

2026.10.06 16:05한정호 기자

"GPU 더 사지 마세요"…아크릴, 놀리는 자원 줄여 AI 비용 낮춘다

생성형 인공지능(AI) 확산으로 고가의 그래픽처리장치(GPU) 확보 경쟁이 치열해지는 가운데 AI 전문기업 아크릴이 기존 GPU 자원의 활용률을 높여 인프라 비용을 줄이는 전략을 제시했다. GPU를 추가 구매하기보다 흩어진 자원을 하나로 묶고 작업별로 필요한 만큼 자동 배치해 유휴 자원을 최소화한다는 구상이다. 아크릴은 6일 서울 코엑스에서 열린 'AI 페스타 2026'에서 AI 인프라 오케스트레이션 플랫폼 'GPUBASE'를 선보였다. GPUBASE는 여러 서버에 분산된 GPU를 하나의 자원 풀처럼 관리하고, 각 워크로드에 필요한 자원을 배분해 GPU 활용률을 높이는 솔루션이다. 아크릴 관계자는 "회사 환경에 나눠져 있는 GPU를 하나의 서버처럼 취급한 뒤 워크로드에 맞춰 배치해 가능한 한 남는 자원 없이 활용하는 것이 목표"라고 설명했다. 아크릴은 기업들이 실제 필요한 수준보다 많은 GPU 자원을 잡아두면서 장비가 놀게 되는 문제가 적지 않다고 보고 있다. GPUBASE는 AI를 활용해 각 작업에 필요한 GPU 성능과 자원량을 예측한 뒤 적합한 GPU에 자동 배치한다. 이를 통해 필요 이상으로 자원을 할당하는 '오버 프로비저닝'을 줄일 수 있다는 설명이다. 네트워크 최적화 기능도 차별점으로 내세웠다. 특정 경로에 트래픽이 몰릴 경우 이를 감지해 다중 경로로 분산하고, 작업별 우선순위에 따라 트래픽을 처리하도록 지원한다. 아크릴 관계자는 “한 경로에만 트래픽이 몰려 과부하가 발생하지 않도록 하고 우선순위가 높은 작업을 먼저 처리하는 것이 회사가 주력으로 내세우는 기술”이라고 말했다. 이기종 가속기 통합도 지원한다. GPU뿐 아니라 다양한 가속기 자원을 한데 묶어 하나의 인프라처럼 관리하고 필요에 따라 나눠 사용할 수 있도록 하는 방식이다. 아크릴은 이를 통해 특정 GPU나 서버에 자원이 묶이지 않고 전체 인프라를 보다 탄력적으로 운영할 수 있다고 설명했다. 아크릴에 따르면 일반적인 GPU 평균 가동률은 50~60% 수준인 반면 GPUBASE를 적용한 자체 실증 환경에서는 실효 가동률이 최대 93%까지 높아졌다. 회사는 GPU 100장을 보유한 환경을 가정할 경우 실제 가동되는 자원이 60장 수준에서 최대 93장 수준으로 늘어나는 효과를 기대할 수 있다고 강조했다. 다만 해당 수치는 아크릴 자체 실증 및 회사가 인용한 업계 평균치를 기준으로 한 것이다. 아크릴은 올해 GPUBASE 확산에 사업 역량을 집중할 계획이다. 아크릴은 지난해 GPUBASE 기술을 기반으로 기술특례 상장했으며 관련 기술 연구개발도 지속하고 있다. 현재 의료기관을 비롯한 고객사에 관련 AI 솔루션을 공급하고 있으며 다른 기업들과도 도입 논의를 이어가고 있다. 아크릴 관계자는 "현재 다른 기업들과도 꾸준히 미팅을 진행 중"이라고 밝혔다.

2026.10.06 16:05류은주 기자

NHN클라우드, 국내 1위 슈퍼컴 전면에…'팩토리X'로 AI 인프라 공략

NHN클라우드가 대규모 그래픽처리장치(GPU) 인프라를 기반으로 기업과 공공기관의 인공지능(AI) 도입 지원에 박차를 가한다. GPU 인프라 구축·운영부터 자원 관리, AI 에이전트 개발까지 아우르는 풀스택 환경을 앞세워 AI 인프라 사업을 확대한다는 목표다. NHN클라우드는 6일 서울 코엑스에서 열린 'AI페스타 2026'에서 AI 풀스택 브랜드 'NHN 팩토리X'를 중심으로 GPU 인프라와 GPU라이브, 에이전트 스튜디오 등을 선보였다. 팩토리X는 NHN클라우드가 지난 5월 선보인 AI 풀스택 브랜드다. 회사가 지난 7년간 쌓아온 GPU 운영 경험을 바탕으로 AI 인프라 구축부터 AI 서비스 개발·운영까지 지원하는 것이 특징이다. 이번 전시에선 서울 영등포구 양평동 AI 데이터센터 'NHN 팩토리X 서울'에 구축한 대규모 GPU 인프라를 소개했다. 이곳에는 엔비디아 B200 GPU 4080장으로 구성된 단일 클러스터가 구축돼 있으며 글로벌 슈퍼컴퓨터 성능 순위 '톱500'에서 국내 1위, 세계 20위에 올랐다. GPU 자원의 활용 현황을 관리할 수 있는 GPU라이브도 전면에 내세웠다. GPU라이브는 고객이 확보한 GPU 자원의 사용 현황을 확인하고 효율적으로 운영할 수 있도록 지원하는 자체 개발 솔루션이다. 현장에서 만난 NHN클라우드 관계자는 "GPU를 임대해 사용하는 고객 가운데 확보한 자원을 충분히 활용하지 못하는 경우가 많다"며 "GPU라이브를 통해 자원을 얼마나 효율적으로 사용하고 있는지 확인하고 관리할 수 있다"고 설명했다. AI 에이전트 개발·운영을 지원하는 에이전트 스튜디오와 필요한 만큼 GPU 자원을 활용할 수 있는 서비스형 GPU(GPUaaS)도 함께 전시했다. GPU 인프라 공급에 그치지 않고 자원 운영과 실제 AI 서비스 개발까지 지원 범위를 넓힌다는 전략이다. NHN클라우드는 GPU 컴퓨팅뿐 아니라 이를 뒷받침하는 데이터센터 전력과 냉각, 네트워크까지 직접 구축·운영해온 경험을 팩토리X에 집약했다. AI 인프라부터 서비스 개발·운영까지 하나의 체계에서 제공해 고객이 필요한 환경에 맞춰 AI를 도입할 수 있도록 지원한다. 기업과 금융뿐 아니라 공공기관도 주요 고객으로 보고 있다. NHN클라우드는 클라우드보안인증(CSAP)과 정보보호 및 개인정보보호 관리체계(ISMS-P) 등을 기반으로 정부·공공기관에 필요한 AI 인프라 설계·구축 역량을 확대 중이다. 현장 부스에는 팩토리X의 주요 기술과 서비스를 직접 확인할 수 있는 체험 공간도 마련했다. GPU라이브 체험존에선 GPUaaS와 에이전트 스튜디오의 주요 기능을 소개했으며 별도 키오스크를 통해 팩토리X의 특징과 AI 인프라 관련 내용을 확인할 수 있도록 구성했다. 김동훈 NHN클라우드 대표는 "이번 AI페스타에서 글로벌 경쟁력을 갖춘 대규모 GPU 인프라를 비롯해 AI 서비스 개발·운영까지 지원하는 NHN 팩토리X의 기술과 서비스를 선보였다"며 "기업과 공공기관이 AI를 안정적으로 도입하고 활용할 수 있도록 지원해온 우리 AI 인프라 역량을 널리 알릴 수 있는 자리"라고 밝혔다.

2026.10.06 15:12한정호 기자

AI 승부, GPU만으론 안 된다…클라우드 빅테크 한자리에

인공지능(AI) 인프라 경쟁의 무게중심이 그래픽처리장치(GPU) 확보에서 AI 데이터센터(AIDC)와 클라우드·플랫폼을 결합한 서비스 경쟁으로 이동하고 있다는 분석이 나왔다. AI 활용이 학습에서 추론과 에이전트로 확대되는 만큼 전력·냉각·네트워크뿐 아니라 실제 AI 서비스를 안정적으로 운영할 수 있는 소프트웨어 역량까지 갖춰야 한다는 제언이다. 공용준 KT클라우드 전무는 1일 서울 양재 엘타워에서 열린 'AI-클라우드 빅테크 2026'에서 "현재 AI 인프라의 가장 큰 병목은 데이터센터와 전력"이라며 "GPU를 확보하는 것만으론 AI 서비스를 구현하기 어려운 만큼 클라우드와 플랫폼까지 함께 갖춰야 한다"고 강조했다. 공 전무는 최근 AI 인프라 시장의 병목이 GPU에서 데이터센터로 이동하고 있다고 진단했다. GPU 공급 상황은 개선되고 있지만 데이터센터를 구축하는 데 최소 2~3년이 걸리는 만큼 GPU를 확보하기에 앞서 데이터센터 용량을 선점하려는 움직임이 나타나고 있다는 설명이다. AIDC의 경쟁 기준도 달라질 것으로 전망했다. 단순히 전력과 GPU를 확보하는 데 그치지 않고 AI 서비스를 위한 클라우드와 운영 플랫폼, 네트워크, 안정성 등을 함께 갖춰야 한다는 것이다. AI 서비스가 일상과 기업 업무에 깊숙이 들어오면서 장애 대응과 GPU 스케줄링, 서비스 모니터링 등 운영 역량의 중요성도 커지고 있다. 공 전무는 "AI 서비스가 우리 삶의 한 축으로 자리 잡으면서 기존 IT에서 중요했던 서비스 연속성도 중요해지고 있다"며 "GPU를 효율적으로 스케줄링하고 AI 서비스를 모니터링하는 것은 물론 장애에 대비한 복구 체계까지 마련해야 한다"고 말했다. 박운영 HPE 상무는 AI 시장이 학습 중심에서 추론과 실제 서비스 적용 단계로 이동하면서 기업의 인프라 구축 방식도 달라질 것으로 내다봤다. 기업들이 더 많은 GPU를 확보하는 것보다 AI를 실제 서비스에 적용하고 투자 대비 성과를 만드는 방안을 고민해야 할 시점이라는 설명이다. 특히 에이전틱 AI 확산에 따라 토큰 사용량과 비용 부담이 늘면서 퍼블릭 클라우드에서 시작한 AI 워크로드 일부를 온프레미스나 하이브리드 환경으로 옮기려는 수요가 늘어날 것으로 전망했다. 기업 데이터 보호와 AI 주권에 대한 요구 역시 프라이빗 AI 인프라 수요를 키우는 요인으로 꼽았다. 박 상무는 "이제는 더 많은 GPU를 사야 할지를 고민하기보다 AI를 어떻게 실제 양산에 적용할 수 있을지, 무엇이 문제인지 살펴봐야 할 시점"이라며 "AI에 투자한 비용을 실제 성과로 연결하는 것이 중요해지고 있다"고 말했다. 네이버클라우드도 추론 수요 확대가 AIDC와 AI 팩토리 시장의 성장을 이끌 것으로 전망했다. 김지훈 네이버클라우드 이사는 대규모 GPU 수요가 과거 AI 모델 학습을 중심으로 발생했다면, 최근에는 실제 서비스를 위한 추론 영역으로 빠르게 확대되고 있다고 밝혔다. AI 에이전트와 피지컬 AI 확산까지 더해지면서 AIDC 수요가 일시적인 흐름에 그치지 않을 것이라는 관측이다. 네이버클라우드는 이를 겨냥해 엔비디아와 AI 팩토리 사업을 확대할 계획이다. 대규모 GPU와 고속 네트워크를 제공하는 AI 클라우드 역량에 기존 클라우드의 인증·네트워크·스토리지와 AI 모델·서비스 운영 경험을 결합한다는 전략이다. 글로벌 AI 기업에는 대규모 전용 인프라를, 국방·금융 등 보안 요구가 높은 분야에는 폐쇄형 클라우드 환경을 제공하는 방식이다. 김 이사는 "AI 팩토리는 국가 전체의 AI 수요를 감당하고 경제·산업·사회 전반에 필요한 지능을 대규모로 생산하는 핵심 인프라"라며 "AI 팩토리를 확보했는지, 누가 그 주도권을 갖고 있는지가 한 나라의 경쟁력을 좌우할 것"이라고 강조했다.

2026.10.01 14:16한정호 기자

이노그리드, 중소벤처기업연구원 AI 분석환경 구축…가상화·GPU 통합

이노그리드가 기존 가상화 인프라와 그래픽처리장치(GPU)를 하나의 체계에서 운영할 수 있는 인공지능(AI) 분석 환경을 구축했다. 단순히 GPU를 추가하는 데 그치지 않고 기존 IT 인프라를 AI 워크로드까지 확장할 수 있는 구조를 구현해 기업·공공의 AI 인프라 전환 시장 공략에 나선다는 목표다. 이노그리드는 자체 프라이빗 클라우드 플랫폼 '오픈스택잇'과 클라우드 관리 플랫폼 '탭클라우드잇'을 기반으로 중소벤처기업연구원의 'GPU 기반 AI 빅데이터 분석 인프라 구축' 사업을 완료했다고 1일 밝혔다. 이번 사업을 통해 중소벤처기업연구원의 중소기업 빅데이터 플랫폼(SIMS) 분석 환경은 기존 폐쇄형 온프레미스와 물리 PC 중심 구조에서 클라우드 기반 자원 체계로 전환됐다. 고급 분석 모델 개발에 필요한 고성능 GPU 연산 환경도 함께 구축됐다. 핵심은 GPU를 가상화 자원으로 활용할 수 있도록 한 것이다. GPU를 장착한 가상머신(VM)에서 AI 빅데이터 분석을 수행하고 고성능 연산이 필요한 경우 여러 GPU를 결합한 개발용 VM을 활용할 수 있도록 설계했다. GPU 자원은 VM 단위로 할당한다. 분석 과제의 성격과 규모에 따라 필요한 자원을 유연하게 배분할 수 있도록 구성했다. 호스트와 가상서버 단위의 자원 상태를 실시간으로 확인하고 사용 추세를 바탕으로 증설 시점을 예측할 수 있는 모니터링 체계도 적용했다. 이노그리드는 이번 구축 구조를 기존 가상화 환경을 AI 인프라로 확장하는 기반으로 활용할 계획이다. VM웨어 등 외산 가상화 환경을 전환하려는 고객이 기존 VM 워크로드를 프라이빗 클라우드로 옮긴 뒤 멀티·하이브리드 클라우드와 GPU 기반 AI 워크로드까지 하나의 체계에서 운영하도록 지원한다는 구상이다. 최근 AI 인프라 시장의 관심이 GPU 확보에서 확보한 자원을 얼마나 효율적으로 활용하느냐로 확대되는 점도 겨냥했다. 업무용 가상화 환경과 AI 연산 환경을 별도로 운영하는 대신 하나의 관리 체계에서 자원을 배분·제어해 기존 IT 인프라와 AI 인프라 간 단절을 줄이는 방식이다. 이같은 전략은 이노그리드가 추진하는 '프롬 xPU 투 AI 플랫폼(From xPU to AI Platform)' 기술 비전과도 연결된다. GPU뿐 아니라 신경망처리장치(NPU), 중앙처리장치(CPU), 양자처리장치(QPU) 등 다양한 xPU 인프라를 AI 개발·학습·배포·운영 환경까지 단일 컨트롤 플레인으로 연결·제어하는 것이 핵심이다. 이노그리드는 이를 바탕으로 기존 가상화 인프라 현대화에서 멀티·하이브리드 클라우드, GPU 기반 AI 워크로드로 이어지는 확장 구조를 고도화할 계획이다. 고객이 기존 IT 인프라를 모두 교체하지 않고도 필요한 시점과 규모에 맞춰 AI 인프라를 단계적으로 확대할 수 있도록 지원한다는 목표다. 김명진 이노그리드 대표는 "가상화 전환과 GPU 도입을 별개의 과제가 아니라 하나의 체계 안에서 다뤄야 AI 인프라를 효율적으로 확장할 수 있다"며 "이번 사업은 가상화 인프라와 GPU 자원을 한 체계에서 운영하는 구조를 국산 클라우드 플랫폼으로 구현한 사례"라고 말했다. 이어 "기존 인프라 현대화부터 xPU 자원과 AI 개발·운영 환경까지 하나로 잇는 기술 체계를 고도화해 고객이 기존 인프라를 바탕으로 AI 인프라를 넓혀갈 수 있도록 하겠다"고 덧붙였다.

2026.10.01 13:39한정호 기자

노타, 멀티모달 AI도 경량화…GPU 메모리 47% 절감

노타의 멀티모달 인공지능(AI) 모델 최적화 기술이 세계적인 AI 학술대회에 채택되며 기술력을 인정받았다. 노타는 멀티모달 AI 모델의 성능 저하를 최소화하면서 그래픽처리장치(GPU) 메모리 사용량을 낮추는 연구 논문이 세계적인 AI 학술대회 '뉴립스(NeurIPS) 2026' 메인트랙에 채택됐다고 1일 밝혔다. 채택 논문은 '멀티모달 대규모 언어모델을 위한 모달리티 인지 전문가 프루닝(Modality-Aware Expert Pruning for MoE-Based Multimodal Large Language Models)'이다. 이번 연구는 텍스트와 이미지 등 다양한 정보를 함께 처리하는 멀티모달 AI에 맞춰 '전문가 프루닝' 기술을 고도화한 것이다. 전문가혼합(MoE) 모델에서 일부 전문가 모듈을 제거할 때 언어와 이미지 이해 능력을 함께 고려해 모델 성능과 구동 효율을 균형 있게 확보하는 것이 핵심이다. 성능 평가에서는 약 310억 파라미터 규모의 멀티모달 모델에서 전문가 모듈을 25% 제거했을 때 원본 성능의 98%를 유지했다. 전문가 모듈을 50% 제거한 경우에도 91%의 성능을 유지했으며 GPU 메모리 사용량은 58기가바이트(GB)에서 31GB로 약 47% 줄었다. 40GB 메모리를 갖춘 GPU 한 장으로도 모델을 구동할 수 있는 수준을 확보했다고 노타는 설명했다. 이는 최신 AI 모델을 도입할 때 고사양 GPU를 추가하는 대신 소프트웨어 최적화를 통해 기존 AI 인프라의 활용도를 높일 수 있다는 의미다. 모델 구동에 필요한 메모리를 줄이면 같은 GPU 자원에서 활용할 수 있는 모델의 범위를 넓히거나 여유 자원을 다른 모델과 서비스에 배분할 수 있다. 노타는 이번 기술을 자사의 AI 최적화 플랫폼 '넷츠프레소'에 반영해 멀티모달과 MoE 모델 지원 역량을 강화할 계획이다. 텍스트 중심에서 이미지와 영상, 음성 등을 함께 처리하는 멀티모달 AI 모델로 시장이 확대되는 만큼 넷츠프레소의 지원 모델과 고객 적용 범위도 넓힌다는 구상이다. 노타는 '키미 K3'와 '솔라 오픈 2' 등 초거대 모델에 전문가 프루닝을 적용하며 최적화 경험을 축적해 왔다. 올해 ICLR와 EMNLP, ICML에 이어 NeurIPS에서도 연구 성과를 인정받았다. 채명수 노타 대표는 "초거대 언어모델에서 축적해 온 최적화 역량을 멀티모달 AI까지 확대하는 중으로 최신 연구 성과를 넷츠프레소에 지속적으로 반영하고 있다"며 "AI 모델이 커지고 복잡해질수록 기업이 보유한 GPU와 AI 인프라를 보다 효율적으로 활용할 수 있도록 지원하는 최적화 기술의 가치도 커질 것"이라고 말했다.

2026.10.01 11:27이나연 기자

"정부 지원 GPU 70%, 가동률 50% 미만…AI 자원 관리 공백"

정부 고성능컴퓨팅 지원사업을 통해 배정된 그래픽처리장치(GPU) 상당수가 가동률 50% 미만에 머문 것으로 나타났다. 인공지능(AI) 컴퓨팅 자원 확보 경쟁이 이어지는 가운데 배정한 GPU의 실제 활용 현황과 저가동 원인을 살펴보고 국산 신경망처리장치(NPU)와의 연계 가능성도 점검해야 한다는 지적이 나온다. 1일 국회 과학기술정보방송통신위원회 소속 김우영 의원은 과학기술정보통신부와 정보통신산업진흥원(NIPA)으로부터 제출받은 관련 자료를 공개하며 국정감사에서 이를 살펴보겠다고 밝혔다. 임차 GPU 70% 이상 가동률 50% 미만…활용 관리 점검 필요 자료에 따르면 2025년 고성능컴퓨팅 지원사업에서 배정된 GPU 620장 가운데 443장(71.5%)의 가동률이 50% 미만이었다. 가동률 50~80%는 141장, 80% 이상은 36장이었다. 2026년에도 비슷한 흐름이 이어졌다. 배정된 GPU 478장 가운데 350장(73.2%)이 가동률 50% 미만이었고, 84장은 50~80%, 44장은 80% 이상으로 집계됐다. 고성능컴퓨팅 지원사업은 민간 클라우드 서비스 제공업체(CSP)가 보유한 GPU를 정부가 임차해 산업계 등에 지원하는 사업이다. 독자 AI 파운데이션 모델 프로젝트 등 정부 사업과 산학연에 배분하는 정부 확보 GPU와는 별도 체계로 운영된다. 정부는 AI 인프라 확충을 위해 관련 예산도 늘리고 있다. 과기정통부의 2027년도 예산안에서 GPU 확충 등을 포함한 'AI 컴퓨팅 자원 활용 기반 강화' 예산은 올해 2조841억원에서 3조8500억원으로 증액 편성됐다. 해당 예산에는 고성능컴퓨팅 지원사업과 같은 GPU 임차 비용도 포함된다. 김 의원은 GPU를 확보하는 데 그치지 않고 배정한 자원이 실제로 얼마나 활용되는지도 관리해야 한다고 지적했다. 저가동 GPU의 구체적 사유와 회수·재배정 실적, 실제 이용목적을 국정감사에서 확인하겠다는 계획이다. 과기정통부 "원인 확인 중…가동률 변동성 커 단순 판단 어려워" 과기정통부 측은 관련 세부 사항을 확인·정리하고 있어 저가동의 구체적인 원인이나 입장을 밝히기 어렵다고 설명했다. GPU 가동률은 이용자의 사용 환경과 상황에 따라 변동성이 커 단순 수치만으로 판단하기 어렵다는 취지다. 가동률 산정 기준에 대해서는 구체적인 답변을 내놓지 않았다. 과기정통부 관계자는 정부가 직접 확보한 GPU는 기본적으로 모두 이용자에게 배분해 사용 중이며, 사실상 남는 물량은 없다고 밝혔다. 연구 특성에 따라 GPU가 필요한 시점이 달라 배정된 자원이 일시적으로 가동되지 않을 수 있지만, 이는 배정되지 않은 유휴 GPU가 남아 있는 것과는 구분해야 한다고 설명했다. 국산 NPU 지원사업의 활용 단계도 함께 살펴볼 대목이다. NPU 사업은 GPU 사업과 별도로 공모·운영되며, 모델 선정·분석·변환·최적화·추론서비스의 5단계로 진행 상황을 관리한다. 2025년 배정된 NPU 201장 가운데 추론서비스 단계로 집계된 물량은 26장(약 13%)이었다. 모델 변환 단계는 89장으로 가장 많았고, 모델 최적화 단계는 37장이었다. 2026년 배정분 105장은 모델 선정 23장, 모델 분석 69장, 모델 변환 13장으로 집계됐으며, 최적화·추론서비스 단계 실적은 표시되지 않았다. 다만 단계별 수치만으로 NPU 활용이 더딘 원인이나 기술적 장애 요인을 단정하기는 어렵다. 과기정통부와 NIPA는 GPU와 NPU를 각각 공모해 사용자 수요를 지원하고 있어 GPU 수요의 NPU 전환 사례나 물량은 별도로 관리하지 않는다고 의원실에 답했다. 이에 따라 GPU의 실제 이용 목적과 NPU로 대체할 수 있는 업무가 무엇인지, 모델 변환 이후 서비스 적용까지 어떤 지원이 필요한지는 국정감사에서 확인이 필요한 부분이다. 저가동 원인으로는 연구 일정에 따른 일시적인 미사용, 과제 규모와 배정 물량의 차이, 가동률 산정 방식 등이 있을 수 있다. GPU 운용에 필요한 인력이나 기술 지원이 충분한지도 살펴볼 필요가 있지만 현재 공개된 자료만으로 이를 저가동의 원인으로 단정할 수는 없다. 부처 관리만의 문제 아냐…산학연 GPU 운용 역량도 과제 다만 저가동 문제를 부처 관리 체계만으로 설명하기는 어렵다는 시각도 있다. 배정받은 GPU를 효율적으로 돌리려면 분산 학습 설계, 작업 스케줄링, 모델 최적화 등을 맡을 전문 인력과 기술력이 필요하다. 하지만 중소기업과 스타트업, 대학 연구실 등 국내 산학연 현장에서는 이런 역량을 자체적으로 갖추기 쉽지 않다는 것이다. GPU 확보 못지않게 이를 운용할 인력이 부족하다는 지적은 꾸준히 제기돼 왔다. 엔비디아가 2030년까지 한국에 GPU 26만장을 우선 공급하겠다고 밝혔을 때도 이를 국내 AI 기술력과 산업 발전으로 잇기까지는 인재 확보와 전력 수급 등 선결과제가 적지 않다는 지적이 나왔다. 소프트웨어정책연구소(SPRi)의 2023 인공지능산업 실태조사에서는 AI 관련 사업을 하는 국내 기업 2354곳 가운데 81.9%가 인력 부족에 동의했고, 사업 애로사항 중 'AI 인력 부족'이 5점 척도 4.25점으로 가장 높았다. 'AI 인프라·컴퓨팅 부족'은 3.62점으로 이보다 낮았다. 국정감사에서는 저가동 사유와 이용기관의 운영 여건, 회수·재배정 실적 등을 확인해 자원 재배분과 운용 지원 가운데 어떤 조치가 필요한지 살펴 볼 전망이다. 김우영 의원은 "AI 경쟁력을 위해서 GPU를 충분히 확보하는 것은 중요하지만, 확보한 자원이 실제 얼마나 활용되고 있는지까지도 관리해야 한다"며 "특히 추론 등 국산 NPU로 대체하거나 보완할 수 있는 영역은 GPU와 NPU를 따로 떼어 운영하기보다 성능·비용·전력효율에 따라 적재적소에 배분할 수 있는 체계를 검토할 필요가 있다"고 말했다. 이어 "국정감사에서 가동률이 낮은 GPU의 구체적 사유와 회수·재배정 실적, 실제 이용목적을 추가로 확인해 AI 컴퓨팅 자원이 필요한 곳에 보다 효율적으로 배분될 방안을 살펴보겠다"고 밝혔다.

2026.10.01 10:29남혁우 기자

[AI 고속도로] 엔비디아 베라 루빈 서버 경쟁 막 올랐다…韓도 도입 채비

엔비디아의 차세대 인공지능(AI) 플랫폼 베라 루빈이 본격적인 공급 단계에 들어서면서 글로벌 서버 시장의 주도권 경쟁도 달아오르고 있다. 델 테크놀로지스와 HPE, 슈퍼마이크로 등 주요 서버 업체들이 베라 루빈 기반 랙스케일 시스템과 고밀도 서버를 잇달아 내놓으면서, 경쟁 무대도 서버 단위를 넘어 전력·냉각·네트워크까지 통합한 AI 데이터센터 전체로 확대되는 모습이다. 29일 업계에 따르면 글로벌 서버 기업들은 엔비디아 베라 루빈 기반 차세대 AI 서버와 랙스케일 시스템 공급을 본격화하고 있다. 엔비디아는 지난 5월 베라 루빈 플랫폼이 본격적인 양산 단계에 들어갔다고 발표했다. 이후 주요 시스템 제조사들이 관련 제품 생산에 참여 중이다. 베라 루빈은 엔비디아가 블랙웰 뒤를 이어 내놓은 차세대 AI 플랫폼이다. 베라 중앙처리장치(CPU)와 루빈 그래픽처리장치(GPU), 6세대 NV링크 스위치, 차세대 네트워크 장비 등을 하나의 시스템으로 연결해 대규모 AI 모델 학습과 추론, 에이전틱 AI에 필요한 연산을 처리하도록 설계됐다. 베라 루빈 출하 시작…델·HPE·슈퍼마이크로 격돌 슈퍼마이크로는 이날 직접수랭 기술 DLC-2와 데이터센터 빌딩 블록 솔루션(DCBBS)을 결합한 베라 루빈 NVL72 랙 출하를 시작했다고 밝혔다. 단순히 서버와 랙만 공급하는 데 그치지 않고 냉각과 전력, 스토리지, 네트워크까지 묶어 AI 데이터센터 구축 전체를 지원하는 전략을 내세웠다. 16개 컴퓨팅 랙으로 구성된 확장형 유닛에는 루빈 GPU 1152개를 탑재할 수 있으며 5메가와트(MW)급부터 기가와트(GW)급 데이터센터까지 같은 구조를 기반으로 확장할 수 있도록 지원한다. 찰스 리앙 슈퍼마이크로 최고경영자(CEO)는 "수년간 수냉식 냉각 기술 스택과 제조 역량, 구축 전문팀을 구축해왔다"며 "고객이 엔드투엔드 통합이 완료된 상용 환경에 바로 적용할 수 있는 시스템을 공급받을 수 있도록 할 것"이라고 밝혔다. 델 역시 베라 루빈 시장 선점에 속도를 내고 있다. 델은 지난 6월 AI 특화 클라우드 기업 코어위브에 베라 루빈 기반 랙 시스템 출하를 시작했으며 대규모 AI 학습·추론용 NVL72부터 고성능컴퓨팅(HPC)에 초점을 맞춘 제품까지 포트폴리오를 넓히고 있다. 대표 제품 가운데 하나가 베라 루빈 NVL4 아키텍처를 적용한 파워엣지 XE8812다. 이 제품은 오픈컴퓨트프로젝트(OCP) 표준 기반 파워랙 9100에서 랙당 최대 144개 GPU를 탑재할 수 있으며 300킬로와트(kW) 이상의 전력을 지원한다. CPU와 GPU를 모두 직접수랭 방식으로 냉각하도록 설계했다. HPE도 오는 12월부터 NVL72 기반 랙스케일 시스템을 공급하며 연내 베라 루빈 시장에 본격 합류할 예정이다. 이와 함께 엔비디아 HGX 루빈 NVL8 기반 HPE 컴퓨트 XD700도 내년 초 출시해 단일 랙에서 최대 128개의 루빈 GPU를 지원한다는 계획이다. GPU 서버 넘어 랙 전체로…전력·냉각이 승부처 기업들은 서버를 넘어 네트워크와 AI 소프트웨어를 함께 제공하는 'AI 팩토리' 전략을 앞세우고 있다. 직접수랭 기술과 데이터센터 설계 컨설팅·서비스를 결합하고 엔비디아 인피니밴드 등 네트워크 제품군까지 연계해 대규모 AI 인프라 수요를 공략한다는 목표다. 서버 업체들이 베라 루빈을 계기로 랙스케일 경쟁에 집중하는 것은 AI 연산 성능이 높아지면서 GPU만으로는 시스템 경쟁력을 확보하기 어려워지고 있기 때문이다. 수십개의 GPU와 CPU를 초고속 네트워크로 연결하는 동시에 이 과정에서 발생하는 막대한 열과 전력 소비까지 처리해야 해 서버·네트워크·전력·냉각을 하나의 시스템으로 설계하는 능력이 중요해지고 있는 상황이다. 특히 액체냉각은 차세대 AI 서버의 핵심 기술로 자리 잡고 있다. 베라 루빈 NVL72 자체가 직접수랭 환경을 고려해 설계된 데다 서버 업체들도 콜드플레이트와 냉각분배장치(CDU), 냉각탑까지 아우르는 기술 확보에 나서고 있다. 개별 서버 성능뿐 아니라 얼마나 빠르게 고밀도 GPU 랙을 설치하고 안정적으로 운영할 수 있는지가 경쟁력을 좌우하는 양상이다. AI 서버 시장이 빠르게 성장하고 있다는 점도 경쟁을 부추기고 있다. 델은 최근 2027 회계연도 2분기 AI 서버 신규 주문이 609억 달러를 기록했으며 7월 말 기준 수주잔고는 950억 달러까지 늘었다. AI 특화 서버 매출도 164억 달러를 넘어섰다. 슈퍼마이크로 역시 2026 회계연도 4분기 매출이 전년 동기 대비 92% 증가한 111억 달러를 기록했다. 회사는 AI 서버와 액체냉각 기반 랙스케일 시스템 수요를 바탕으로 2027 회계연도 연간 매출이 최대 720억 달러에 이를 것으로 전망하고 있다. HPE도 AI 서버와 데이터센터 네트워킹 수요를 바탕으로 최근 분기 사상 최대 매출을 기록했다. 특히 데이터센터 네트워킹 매출은 전년 동기 대비 112.2% 증가했다. GPU를 중심으로 시작된 AI 인프라 투자가 서버와 네트워크 등 데이터센터 전체로 확산되고 있는 모습이다. 韓도 베라 루빈 2000장 넘게 확보…내년 GPU 1만장 추가 국내에서도 베라 루빈 수요는 빠르게 확대될 전망이다. 정부는 올해 2조 805억원 규모 GPU 확충 사업을 통해 네이버클라우드와 삼성SDS, 엘리스그룹을 수행기관으로 선정하고 베라 루빈 2016장과 B300 7688장 등 총 9704장의 최신 GPU를 구축하기로 했다. 이 가운데 네이버클라우드와 삼성SDS가 각각 베라 루빈 1008장을 확보하며 내년 상반기부터 관련 서비스를 순차적으로 시작할 예정이다. 투자 규모는 더 커진다. 과학기술정보통신부는 내년도 예산안 중 AI 컴퓨팅 자원 확충에 3조 8500억원을 편성해 첨단 GPU 약 1만장을 추가 확보할 계획을 발표했다. GPU뿐 아니라 AI 데이터센터 클러스터와 관련 장비·클라우드 기술 개발에도 투자를 확대하면서 국내에서도 고밀도 서버와 액체냉각, 네트워크를 결합한 차세대 AI 인프라 수요가 늘어날 전망이다. 민간 투자도 이어지고 있다. LG CNS는 최근 공시를 통해 베라 루빈을 포함한 GPU와 인프라 설비 확보에 3814억원을 투자한다고 밝혔다. 내년 상반기 베라 루빈 기반 레퍼런스 사이트에서 냉각·전력·IT 통합 기술을 검증한 뒤 2028년 상반기 천안에 80MW 규모 AI 팩토리를 구축할 계획이다. 국내 시장에서도 GPU 자체를 누가 확보하느냐를 넘어 이를 어떤 서버와 랙에 탑재하고 전력·냉각·네트워크를 어떻게 구성할지가 새로운 경쟁 요소로 떠오를 전망이다. 정부와 클라우드서비스제공사(CSP), 대기업의 베라 루빈 투자가 본격화될수록 글로벌 서버 업체 간 공급 경쟁도 치열해질 것으로 보인다. 양원석 한국 델 테크놀로지스 전무는 최근 지디넷코리아와의 인터뷰에서 "호퍼 세대에서 블랙웰로 넘어갈 때보다 훨씬 빠른 속도로 다음 아키텍처로 전환되고 있다"며 "베라 루빈 기반 제품이 아직 정식 출시되기 전부터 글로벌뿐 아니라 한국에서도 주요 고객들과 이미 상담하고 발주를 준비해왔다"고 말했다. 이어 "한국에서도 앞으로 2~3년 동안 AI 데이터센터 투자가 크게 확대되면서 시장 기회가 계속 커질 것으로 보고 있다"고 덧붙였다.

2026.09.29 17:03한정호 기자

똑똑해진 AI의 숨은 고민…GPU 사각지대 채우는 K-반도체

초거대 AI 모델의 확산으로 연산 성능에 대한 수요가 급증하고 있지만 기존 그래픽처리장치(GPU) 중심의 인프라는 전력 소비, 높은 도입 비용, 데이터 전송 병목 등 구조적 한계에 부딪히고 있다. 특히 클라우드 연결이 불가능한 산업 현장이나, 방대한 데이터 처리 및 검색이 요구되는 데이터센터 환경에서는 GPU만으로 전체 AI 가치사슬을 커버하기 어렵다는 지적이 제기된다. 다음 주 10월 6일부터 삼성동 코엑스 C홀에서 개최되는 'AI페스타' AI반도체 특별관과 AI인프라 특별관에서는 이러한 GPU의 사각지대를 메우고, AI를 산업 현장에 실제 구동 가능한 상태로 전환하는 국내 반도체·인프라 스타트업 5개사의 기술과 솔루션이 집중 조명된다. 클라우드 끊고 현장으로…엣지·온디바이스 집중하는 AI 반도체 AI반도체 특별관에 참가하는 딥엑스와 모빌린트는 클라우드 서버에 의존하지 않고 기기 자체에서 실시간 AI 연산을 수행하는 NPU(신경망처리장치) 기술의 현장 적용 사례를 선보인다. 딥엑스는 자사 NPU 'DX-M1'의 실제 산업 현장 적용성에 초점을 맞춘다. 단독 부스 대신 파트너사인 달구, 바이다와 공동으로 부스를 꾸려 칩 상용화 생태계를 시연한다. 현장에서는 DX-M1을 탑재해 5W 미만의 전력으로 비전언어모델(VLM)을 구동하는 엣지 AI 박스를 비롯해 스마트글라스를 활용한 AI 응급현장 지원 솔루션, 자율주행 기반 차량 감속 유도 로봇 등이 전시된다. 딥엑스 관계자는 "이번 전시는 칩 자체보다 파트너 제품이 응급의료 현장과 도로 위에서 어떻게 작동하는지를 보여주는 데 방점을 뒀다"며 "초저전력 온디바이스 AI가 피지컬 AI 영역으로 확장되는 흐름을 체감할 수 있을 것"이라고 설명했다. 모빌린트 역시 클라우드 연결 없이 기기와 현장에서 직접 AI 연산을 수행하는 엣지 AI 솔루션을 출품한다. AI 가속기 카드 'MLA100'과 AI Box 'MLX-A1', 초저전력 SoC(시스템 온 칩) 레귤러스 등 주요 라인업을 통해 스마트팩토리 및 로봇 등 다양한 산업 영역의 구동 사례를 소개한다. 모빌린트 관계자는 “AI 반도체의 경쟁력은 소프트웨어와 결합해 고객의 제품과 산업 현장에서 실질적인 가치를 만들어내는 데 있다”며 “이번 전시에서 파트너들과 함께 엣지 AI 솔루션을 늘리고, 공동으로 사업 기회를 발굴해 나가겠다”고 밝혔다. AIDC 인프라와 에이전트 메모리 병목 뚫는 인프라 3사 AI인프라 특별관에서는 데이터 전송 및 메모리 용량의 물리적 한계로 인해 GPU 연산 효율이 저하되는 현상을 해결하는 기술들이 전시된다. 디노티시아는 AI 에이전트의 데이터 검색 및 장기기억 활용 시 발생하는 병목을 해결하기 위한 벡터 검색 가속기 'VDPU'를 전면에 내세운다. 자체 벡터DB '씨홀스'와 VDPU를 통합한 스토리지를 통해 기업 내부 지식 검색 인프라를 제시한다. GPU가 연산을, VDPU가 검색을 전담하는 보완적 구조다. 정무경 디노티시아 대표는 “AI가 직접 데이터를 찾아 활용하는 시대에는 스토리지의 역할도 달라져야 한다”며 “VDPU 기반 AI 스토리지로 AI에 필요한 정보를 제때 공급하는 데이터 인프라를 만들어가겠다”고 전했다. 파네시아는 AI 데이터센터(AIDC) 효율성 제고를 위한 CXL(컴퓨트 익스프레스 링크) 기반 풀스택 링크 솔루션을 출품한다. 자체 개발한 국산 CXL 스위치 칩과 IP(설계자산)를 통해 소버린 AIDC 내부의 이기종 연산 장치와 메모리 자원을 효율적으로 연결, 메모리 확장성을 확보하는 기술을 시연한다. 망고부스트는 서버 내 네트워크 및 스토리지 가속을 전담하는 DPU 솔루션을 공유한다. 데이터 이동 경로의 과부하를 최소화하고 중앙처리장치(CPU)와 GPU의 연산 부하를 덜어주어 데이터센터 전반의 효율을 극대화하는 방안을 제시할 계획이다. 한편 이번 AI페스타는 과학기술정보통신부가 주최하고 한국소프트웨어산업협회(KOSA)와 AI페스타 조직위원회가 주관하며 다음 달 6일부터 8일까지 사흘간 서울 삼성동 코엑스 C홀에서 열린다. 행사장에서는 AI반도체, AI 인프라, 피지컬 AI 등 다양한 분야 기업들을 만나볼 수 있다.

2026.09.29 15:10전화평 기자

브릴스, 소프트웨어 중심 피지컬 AI 청사진 제시

로봇 플랫폼 기업 브릴스가 국내 최대 로봇 전시회 '2026 로보월드'에 참가해 소프트웨어 중심 피지컬 인공지능(AI) 기술을 선보인다고 29일 밝혔다. 이번 행사는 오는 11월 4일부터 7일까지 일산 킨텍스에서 개최된다. 브릴스는 로보월드에서 하드웨어 중심 구조를 탈피해 소프트웨어 중심 로봇(SDR) 기술을 전면에 내세운다. 먼저 시각 정보와 자연어 명령을 행동으로 연결하는 비전-언어-행동 모델(VLA)과 로봇 파운데이션 모델(RFM)을 선보이고, 국산 신경망처리장치(NPU)를 탑재한 온디바이스 AI 기반 자율제조 미래상을 제시한다. 이를 뒷받침하기 위해 최근 고성능 그래픽처리장치(GPU) 8기를 도입해 피지컬 AI 전용 데이터센터를 구축했다. 회사는 향후 32기 규모로 데이터센터를 확장해 휴머노이드와 사족보행 로봇 제어 모델 고도화에 속도를 낼 계획이다. 전시장에서는 딥로보틱스와 협업해 '휴머노이드 & 사족보행 로봇 존'을 조성했다. 양사는 포크형·저상형 자율이동로봇(AMR)과 사족보행 로봇, 휴머노이드가 유기적으로 연동돼 자율적으로 장애물을 피하고 팔레트를 적재·이송하는 피지컬 AI 역량을 공개한다. 이와 함께 미세 결함을 실시간 검출하는 자동차 검사 솔루션, 실시간 심트래킹 용접 로봇, 고속 적재 팔레타이징 솔루션 등을 선보인다. 전진 브릴스 대표는 "이번 전시는 브릴스의 피지컬 AI와 SDR 기술이 산업 현장을 어떻게 혁신하는지 보여주는 실증 무대"라고 말했다.

2026.09.29 10:55진운용 기자

콴델라 "한국, 아시아 양자컴퓨팅 허브로"… K-반도체 손잡고 생태계 구축

프랑스 광양자컴퓨팅 기업 콴델라가 한국을 양자컴퓨팅 분야의 아시아 지역 협력 거점으로 발전시키겠다는 전략을 밝혔다. 국내 반도체·광자·첨단 제조 역량을 자사의 광자 기반 양자컴퓨팅 기술과 결합해 하드웨어 제조부터 시스템 통합과 산업 적용까지 이어지는 협력 생태계를 구축한다는 계획이다. 니콜로 소마스키 콴델라 최고경영자(CEO)는 28일 서울 종로구 센트로폴리스에서 기자간담회를 열고 향후 2년간 국내 전략 파트너를 발굴해 공동개발을 추진한다고 밝혔다. 협력 분야는 ▲광양자 하드웨어 제조 ▲극저온 제어 및 시스템 통합 ▲AI, 그래픽처리장치(GPU), 고성능컴퓨팅(HPC) 기반 양자 시스템 운영 등 3개 부문이다. 양자칩 제조 분야에서는 집적광자회로(PIC), 전자집적회로(EIC), 단일광자원, 초전도 나노와이어 검출기의 이종 집적 기술을 중심으로 협력한다. 국내 반도체 산업의 첨단 패키징, 웨이퍼 수준 테스트, 정밀 광정렬 역량을 활용해 양산에 적합한 광자 모듈을 개발하고 공동 제조 로드맵을 마련할 예정이다. 콴델라는 국내 기업과 연구기관이 참여하는 양자 제조 컨소시엄 구성도 추진한다. 콴델라는 기술·시스템 로드맵과 유럽 내 양자처리장치(QPU) 운영 경험을 공유하고 국내 파트너는 반도체·광자·첨단 제조·시스템 통합 역량을 맡는 구조다. 기존 지식재산권(IP)은 각 기관이 보유하고, 공동개발 과정에서 새롭게 창출되는 IP는 역할과 기여도에 따라 공유한다는 원칙을 제시했다. 오류정정 양자컴퓨팅(FTQC) 구현을 위한 중장기 로드맵도 공개했다. 콴델라는 물리 큐비트 수를 단순히 늘리는 것보다 연산 오류를 감지하고 보정하는 논리 큐비트 구현에 초점을 맞추고 있다. 광자 기반 QPU에 반도체 스핀 기술과 오류정정 기능을 결합한 뒤, 광 네트워킹을 활용해 시스템을 모듈형으로 확장한다는 구상이다. 이를 위해 현재 6개 물리 큐비트 기반의 아셀라(Ascella)에서 12큐비트 벨레노스(Belenos), 24큐비트 카노푸스(Canopus)로 시스템을 확대하고 있다. 장기적으로는 100개 이상의 물리 큐비트와 논리 큐비트 기반의 디아뎀·안드로메다(Diadem/Andromeda) 단계로 발전시킬 계획이다. AI, GPU, HPC 연계도 주요 협력 과제다. 콴델라는 오류정정 디코딩, GPU 가속, HPC·클라우드 통합 기술을 국내 파트너와 공동 개발하고 QPU-HPC 통합 개념검증(PoC)을 추진할 예정이다. 2025년 프랑스 TGCC에 광자 QPU 루시(Lucy)를 배치하고 졸리오퀴리 슈퍼컴퓨터와 연계한 경험도 국내 협력에 활용한다. 콴델라는 광양자컴퓨팅 하드웨어와 클라우드 서비스, 프로그래밍 프레임워크를 함께 개발하는 풀스택 기업이다. 탈레스, BMW, 에어버스 등과 양자 알고리즘 및 생성형 AI 관련 프로젝트도 진행하고 있다. 니콜로 소마스키 콴델라 CEO는 "광양자컴퓨터의 성능 확장은 결국 반도체 수준의 정밀 제조와 검사 역량에 달려 있다"며 "앞으로 2년간 국내 파트너를 발굴해 광자 모듈의 양산 적합성을 검토하고, 한국 기업 및 연구기관과 실질적인 협력 사례를 만들어 장기적으로 한국을 아시아 지역 협력의 주요 거점으로 발전시키겠다"고 말했다.

2026.09.28 14:10남혁우 기자

[인터뷰] 델 "韓도 베라 루빈 벌써 찾는다…엔드투엔드 지원 앞장설 것"

"인공지능(AI) 서버를 구매하는 국내 고객은 매 분기 늘고 있습니다. 이제는 대기업과 클라우드서비스제공사(CSP)를 넘어 소규모라도 자체 AI 인프라를 확보하려는 기업들이 계속 증가하는 추세입니다. 엔비디아의 차세대 베라 루빈 기반 제품도 정식 출시 전부터 국내 주요 고객들이 상담과 발주를 준비하고 있습니다." 양원석 한국 델 테크놀로지스 전무는 28일 서울 강남구 본사에서 지디넷코리아와 만나 국내 AI 인프라 시장 동향에 대해 이같이 밝혔다. 그는 기업의 AI 활용이 개념검증(PoC)을 넘어 실제 업무와 운영 단계로 진입하면서 그래픽처리장치(GPU)뿐 아니라 서버·스토리지·네트워크·냉각을 함께 고려하는 인프라 투자가 본격화되고 있다고 진단했다. 韓 AI 서버 고객 매분기 증가…베라 루빈도 출시 전부터 찾는다 국내 AI 인프라 수요는 지속 증가하고 있다. 초기에는 대규모 투자가 가능한 기업을 중심으로 시장이 형성됐지만 최근에는 도입 규모가 작은 스타트업까지 자체 AI 서버 구매에 나서는 분위기다. 양 전무는 "AI 서버를 구매하는 고객 수는 매 분기 늘어나는 추세"라며 "정부의 GPU 투자와 국가 AI 컴퓨팅 인프라 구축도 국내 시장에서 큰 수요처가 되고 있다"고 말했다. 네오클라우드 시장의 성장도 새로운 사업 기회로 꼽았다. 코어위브를 비롯해 대규모 GPU 인프라를 기반으로 컴퓨팅 서비스를 제공하는 사업자가 글로벌 시장에서 빠르게 성장한 데 이어, 국내에서도 대규모 AI 팩토리와 GPU 서비스 구축을 추진하는 기업이 등장하고 있어서다. 델은 해외 네오클라우드 사업자의 국내 진출 가능성도 주시하고 있다. 특히 시장 관심은 엔비디아 블랙웰에서 차세대 베라 루빈 아키텍처로 빠르게 이동 중이다. 양 전무는 "호퍼 세대에서 블랙웰로 넘어갈 때보다 훨씬 빠른 속도로 다음 아키텍처로 전환되고 있다"며 "베라 루빈 기반 제품이 아직 정식 출시되지 않았지만 글로벌뿐 아니라 한국에서도 주요 고객들이 이미 델과 상담하고 발주를 준비 중"이라고 밝혔다. 이에 맞춰 델은 베라 루빈 NVL4 아키텍처를 탑재한 파워엣지(PowerEdge) XE8812를 공개하는 등 차세대 제품군을 확대하고 있다. AI 서버 주문 609억 달러…에이전틱 AI에 CPU도 다시 부상 AI 인프라 수요 증가는 델의 글로벌 실적 성장으로 이어지고 있다. 델은 2027 회계연도 2분기 AI 서버 신규 주문이 609억 달러, AI 특화 서버 매출은 164억 달러를 기록했다. 7월 말 기준 AI 서버 수주잔고는 950억 달러에 달했다. 같은 기간 전통 서버·네트워킹 매출도 전년 동기 대비 122% 증가했다. 국내에서도 델의 서버 사업은 성장세를 이어가고 있다. IDC가 집계한 올해 2분기 국내 시장에서 델은 메인스트림 서버 판매대수와 매출 모두 1위를 기록했다. 매출 기준으로는 19분기 연속 1위다. 메인스트림 서버 가운데 GPU 서버와 코어 서버 부문에서도 1위를 기록했다. 양 전무는 앞으로 AI 인프라에서 GPU만큼 중앙처리장치(CPU)의 역할도 다시 커질 것으로 내다봤다. 에이전틱 AI 확산과 모델 경량화로 모든 AI 작업을 대규모 GPU에서 처리할 필요가 없어지면서 워크로드 특성에 맞춰 CPU와 GPU를 적절히 배치하는 구조가 중요해진다는 전망이다. 그는 "GPU의 토큰 처리 성능이 월등한 것은 맞지만 이제 거대한 AI 모델만 필요한 시대는 지나가고 있다"며 "작은 모델로 효율적으로 서비스를 제공할 수 있는 영역이 생기면서 시장이 세분화되고 있다"고 말했다. 이어 "델의 차세대 파워엣지 서버 라인업에도 엔비디아 베라 CPU를 기반으로 한 ARM 서버가 포함될 예정"이라고 덧붙였다. 이 과정에서 양 전무가 강조한 개념은 '토큰 라우팅'과 '토크노믹스'다. 단순한 작업은 상대적으로 작은 모델과 저비용 인프라에서 처리하고 복잡한 추론은 대형 모델과 GPU로 보내는 식으로 AI 연산을 배분해야 비용과 전력 소비를 줄일 수 있다는 것이다. 델은 퍼블릭 클라우드에만 의존하기보다 온프레미스와 클라우드를 함께 사용하는 하이브리드 AI 환경의 중요성이 커질 것으로 보고 있다. GPU 넘어 랙 전체가 하나의 시스템…수랭·랙스케일 공략 AI 서버의 성능과 전력밀도가 높아지면서 데이터센터 구축 방식도 바뀌고 있다. 개별 서버를 설치하는 방식에서 벗어나 컴퓨팅·스토리지·네트워크·전력·냉각을 랙 단위에서 통합하는 '랙스케일' 구조가 확산되는 모습이다. 국내에서도 직접수랭(DLC)을 비롯한 수랭식 AI 인프라 적용 사례가 늘고 있다는 설명이다. 델은 이에 대응해 '파워랙(PowerRack)'과 '파워쿨(PowerCool)'을 중심으로 AI 인프라 포트폴리오를 확대해왔다. 랙 내부에는 통합 랙 컨트롤러(IRC)를 적용해 시스템 상태를 관리하고 수랭 환경에서 누수가 발생하면 이를 감지해 대응할 수 있도록 했다. 파워랙은 컴퓨팅·네트워킹·스토리지와 전력·냉각을 하나의 시스템으로 통합하는 구조다. 델은 공장에서 사전 통합·검증한 랙을 현장에 공급해 6시간여 만에 실제 워크로드를 가동할 수 있다고 밝혔다. 델은 이미 코어위브 등 글로벌 네오클라우드 기업에 랙스케일 인프라를 공급하는 중이다. 미국 에너지부 산하 국립에너지연구과학컴퓨팅센터(NERSC)의 차세대 슈퍼컴퓨터 다우드나에도 베라 루빈 NVL4와 퀀텀-X800 인피니밴드 네트워킹 기반 파워엣지 XE8812를 공급할 예정이다. 델의 주요 국내 고객으로는 삼성전자와 네이버클라우드 등이 있다. 양 전무는 향후 국내 AI 인프라 시장에서 단순 서버 공급보다 설계부터 구축·운영까지 아우르는 역량이 중요해질 것으로 전망했다. 고밀도 GPU 시스템이 늘수록 서버만 설치해서는 해결하기 어려운 전력과 냉각, 네트워크 문제가 동시에 발생하기 때문이다. 델은 서버·스토리지·네트워크·데이터 관리·서비스·컨설팅까지 아우르는 엔드투엔드 포트폴리오를 앞세워 국내 시장을 공략한다는 계획이다. 양 전무는 "한국에서도 앞으로 2~3년 동안 AI 데이터센터 투자가 크게 확대되면서 시장 기회가 계속 커질 것으로 보고 있다"며 "AI 서버 한 제품만 공급하는 것이 아니라 고객이 필요로 하는 컴퓨팅·스토리지·네트워크·냉각까지 전체 인프라를 안정적으로 구축할 수 있는 역량을 바탕으로 지속 지원할 것"이라고 강조했다.

2026.09.28 11:00한정호 기자

[인터뷰] AI 시대 망설이는 기업들, 정부가 'AI 리더' 돼야

"많은 기업이 인공지능(AI) 도입을 검토하지만 본격적인 전환에는 망설이고 있습니다. 기술 변화가 빠르고 성공 사례도 충분하지 않기 때문입니다. 초고속인터넷망 구축과 전자정부 추진 당시처럼 정부가 먼저 AI 혁신 사례를 만들고 롤모델을 제시해야 합니다" 김동환 포티투마루 대표는 서울 서초구 반포동 사옥에서 진행한 인터뷰에서 AI 시대 정부의 역할이 인프라와 예산을 지원하는 데 그쳐서는 안 된다고 강조했다. 정부는 첫 번째 수요자이자 성공 사례의 창출자로서 정부와 공공기관이 행정·복지·안전·민원 현장에 AI를 먼저 적용해 성과를 증명하고, 민간이 참고할 수 있는 성공 모델을 제시하하며 민간의 AI 전환을 이끄는 리더가 돼야 한다는 것이다. "인프라 쏠림 벗어나야"...실제 현장 바꾸는 'AX 투자' 필요 김 대표는 최근 AI 정책이 그래픽처리장치(GPU), 데이터센터, 반도체, 프런티어 모델 등 인프라와 기반기술 투자에 집중되는 흐름을 짚었다. 인프라와 모델, 인재 양성은 필수지만 실제 산업과 공공 현장에 AI를 접목하는 AI 전환, 즉 AX 투자까지 함께 이뤄져야 생태계가 선순환할 수 있다는 주장이다. 그는 특히 공공 AX 사업의 예산 연속성이 흔들리는 현실을 우려했다. 일부 기관에서는 내년도 신규 AX 예산이 줄거나 반영되지 않았고, 올해 시작한 사업의 운영·고도화 예산도 충분히 확보하지 못하는 사례가 있다는 것이다. 시범사업을 마친 뒤 현장 적용과 확산으로 나아가야 할 때 예산이 끊기면, 성공 사례를 축적할 기반 자체가 약해질 수 있다고 봤다. 김 대표는 "인프라와 모델 투자를 하지 말자는 이야기가 아니다"라며 "AI가 실제 업무와 서비스에 적용돼 생산성을 높이고 국민과 기업이 체감할 성과를 내도록 AX에도 지속적으로 투자해야 한다"고 말했다. 인프라 투자와 AX를 대립 구도로 볼 필요도 없다고 했다. 대규모 AI 모델을 처음부터 학습하는 데는 막대한 GPU가 필요하지만, 현장 업무에 AI를 적용하는 서비스에는 상대적으로 추론과 운영에 필요한 자원만으로 가능한 영역도 적지 않다는 설명이다. 공공과 산업 현장의 AI 서비스 수요가 커지면 국산 NPU 등 국내 AI 반도체의 활용 기반도 넓어질 수 있다고 봤다. GPU 지원 방식의 개선 필요성도 제기했다. 대용량 데이터를 이전하고 보안·개발 환경을 구성하는 데 수주에서 한 달 이상이 걸릴 수 있는데, 3개월 단위의 단기 지원만으로는 정작 서비스 개발과 고도화에 투입할 시간이 부족할 수 있다는 것이다. 그는 개발과 운영을 지속할 수 있는 중장기 지원 트랙이 필요하다고 제언했다. AI 도입 주저하는 기업들…정부가 롤모델 돼야 민간 기업이 AI 전환을 주저하는 배경에는 기술 변화와 투자 부담 외에도 높아진 기대치가 있다고 김 대표는 진단했다. 챗GPT 등장 후 경영진부터 실무자까지 AI를 이해하게 되면서, 기업 내부에서는 단순한 업무 개선 수준의 결과만으로는 성과를 인정받기 어려워졌다는 설명이다. 김 대표는 "예전에는 조금만 개선해도 혁신이라는 평가를 받을 수 있었지만, 지금은 조직 위아래 모두 AI를 알고 있어 기대치가 높아졌다"며 "큰 비용을 들여 도입했는데 기대에 못 미치는 결과가 나오면 책임을 져야 하기 때문에 기업은 더 신중해질 수밖에 없다"고 말했다. 국내 기업이 도입 성과를 외부에 적극 공개하지 않는 문화도 성공 사례 확산을 늦추는 요인으로 꼽았다. AI 활용 성과를 경쟁력으로 여기는 만큼, 실제 현장에서 진행되는 프로젝트에 비해 시장에서 확인할 수 있는 사례는 제한적이라는 것이다. 다만 경쟁사 한 곳이 먼저 성과를 내면 분위기는 급변할 수 있다고 봤다. 경쟁사가 AI로 비용을 낮추거나 생산성을 높일 경우, AI 도입을 늦춘 기업은 뒤처졌다는 평가를 받을 수 있다는 위기감이 빠르게 퍼질 수 있다는 설명이다. 김 대표는 이를 등산에 비유했다. "민간은 어느 길이 안전한지, 그 길로 정상에 갈 수 있는지 확신하지 못해 출발선에서 서 있는 상황입니다. 정부가 먼저 정상에 올라가 길을 보여주면 민간은 그 길을 따라 더 효율적으로 움직일 수 있습니다." 그는 정부가 단순히 컴퓨팅 자원과 보조금을 제공하는 지원자를 넘어, 공공 서비스의 초기 수요자가 돼야 한다고 강조했다. 행정·복지·안전·민원 분야에서 AI 활용 모델을 먼저 만들고 검증해야 민간도 투자 위험을 낮춘 채 전환에 나설 수 있다는 것이다. 문서·매뉴얼 해결하는 '작은 AI 도구'부터…실제 체감 성과 필요 포티투마루는 민간 제조·엔지니어링 분야에서 축적한 AI 역량을 방산·국방과 공공 행정으로 확장해 왔다. 한화에어로스페이스의 온프레미스 방산 AX 플랫폼 고도화, KAI의 AI 기반 방산 설계지식 활용·설계업무 자동화 기술 개발, 군수사령부의 폐쇄망 군수정보 검색·질의응답 AI 실증 등이 대표적이다. 화성특례시의 AI 기반 도시데이터 분석·예측 플랫폼과 식품의약품안전처의 식·의약품 안전정보 분석 AI 사업에도 참여하고 있다. 이처럼 공공 AX 사업을 수행하며 현장 수요를 접해온 김 대표는 공공 AI 전환이 거대한 단일 시스템을 한 번에 구축하는 방식에서 벗어나야 한다고 제안했다. 반복 문서 처리, 민원 응대, 영수증·경비 처리, 매뉴얼 검색처럼 기관과 기업이 공통으로 겪는 문제를 해결하는 작은 AI 도구부터 만들어 넓게 확산해야 한다는 것이다. 그는 "대규모 예산으로 모든 시스템을 한꺼번에 바꾸려 하기보다, 예산의 100분의 1로 작은 도구를 만들어 1만곳, 10만곳에 뿌리는 편이 효과적일 수 있다"며 "작은 성공이 축적되면 조직 전반의 AI 활용 역량도 함께 높아질 것"이라고 말했다. 군수 현장의 정비 매뉴얼 검색은 그가 든 사례다. 수많은 물자와 복잡한 영문 매뉴얼을 다뤄야 하지만, 정비병은 숙련될 즈음 전역하는 구조적 한계가 있다. 장비 모델과 고장 증상을 입력하면 AI가 관련 매뉴얼과 조치 절차를 찾아주는 시스템이 현장 대응력을 높일 수 있다는 설명이다. 김 대표는 공공기관이 현장의 문제와 업무 맥락을 제시하고, AI 기업이 이를 기술적으로 구현하는 협업 구조가 필요하다고 강조했다. 개별 기관이나 담당자가 만든 도구가 인사이동과 함께 사라지지 않도록, 정부가 우수 사례를 표준화하고 다른 기관도 재사용할 수 있게 하는 공공 AI 마켓플레이스와 운영 체계도 갖춰야 한다고 덧붙였다. 그는 "공공이 먼저 성공 사례를 만들고 이를 민간이 따라갈 수 있는 기준과 레퍼런스로 제시할 때 공공 AX가 민간 투자와 산업 생태계 확산을 이끄는 마중물이 될 수 있다"고 말했다.

2026.09.25 15:37남혁우 기자

[AI 고속도로] 서버만 바꾸면 AIDC?…기존 데이터센터와 뭐가 다를까

인공지능(AI) 확산으로 대규모 그래픽처리장치(GPU)를 운영하는 AI 데이터센터(AIDC) 구축이 늘면서 기존 데이터센터와의 차이에도 관심이 커지고 있다. AIDC는 고성능 GPU를 집약적으로 운영하는 만큼 기존 데이터센터보다 높은 전력 밀도와 냉각 성능이 요구되며, 서버뿐 아니라 전력·냉각 설비와 시설 구조에서도 차이가 나타난다. 24일 업계에 따르면 생성형 AI 확산으로 대규모 GPU 인프라 수요가 증가하면서 국내 데이터센터 시장도 AIDC 중심으로 빠르게 재편되고 있다. 한국데이터센터연합회가 발간한 '코리아 데이터센터 마켓 2026~2029' 보고서에 따르면 국내 민간 데이터센터는 지난해 기준 182개로 늘었으며 현재 계획·구축이 추진되는 신규 데이터센터 부지만 72곳에 달한다. 국내 상업용 민간 데이터센터 시장은 2024년 6조 2200억원에서 2029년까지 연평균 12.4% 성장할 것으로 전망됐다. 일반 데이터센터와 AIDC의 가장 큰 차이는 서버가 사용하는 전력의 밀도다. 기존 데이터센터는 중앙처리장치(CPU) 중심 서버와 스토리지, 네트워크 장비 등을 운영하는 데 초점을 맞췄다면 AIDC는 여러 GPU를 한 서버에 집약해 대규모 AI 모델을 학습하고 추론한다. 같은 공간에 훨씬 많은 연산 장비가 들어가면서 하나의 랙이 소비하는 전력도 크게 높아지고 데이터센터 전체가 감당해야 하는 전력량도 함께 늘어난다. 전력 사용량이 늘면서 냉각 방식도 달라지고 있다. 기존 데이터센터는 차가운 공기를 서버에 공급하는 공랭식 냉각이 주로 활용됐지만 고성능 GPU가 밀집한 환경에서는 발생하는 열을 처리하는 것이 갈수록 어려워진다. 이에 냉각수를 서버 내부 또는 가까운 곳까지 공급해 열을 직접 식히는 액체냉각 등 고밀도 환경에 대응하기 위한 기술의 중요성이 커지고 있다. 전력과 냉각, 빌딩 설비를 함께 관리하는 데이터센터 인프라 관리 기술 역시 AIDC의 주요 요소로 꼽힌다. 이 때문에 기존 데이터센터를 AIDC로 바꾸는 일도 단순히 CPU 서버를 빼고 GPU 서버를 넣는 것으로 끝나지 않는다. 기존 시설이 고밀도 GPU 장비에 필요한 전력을 공급할 수 있는지, 전력 설비와 냉각 시스템이 늘어난 발열을 감당할 수 있는지 등을 함께 따져야 한다. 건물 안에 서버를 설치할 공간이 남아 있더라도 공급 가능한 전력이 부족하면 추가 GPU를 들여놓기 어렵다. 실제 국내에서도 이런 문제가 나타나고 있다. 업계에 따르면 국내 데이터센터의 70% 이상이 수도권에 있고 상당수가 과거에 구축된 시설이다. 일부 기존 데이터센터를 AIDC로 전환한 사례에선 서버 집약도가 높아지면서 공간은 기존의 4분의 1 정도만 사용했지만 추가로 공급할 전력이 부족한 상황이 발생 중이다. 이미 지어진 데이터센터를 활용하면 AIDC 구축 시간을 줄일 수 있지만 결국 전력 확보가 전환 속도를 좌우하는 셈이다. 신규 AIDC도 전력 확보가 최대 관문이다. 2024년 8월부터 올해 3월까지 수도권에서 데이터센터 전력계통영향평가 1차 기술검토를 신청한 522건 가운데 최종 공급 가능 승인을 받은 사업은 10건, 1010메가와트(MW)에 그친 것으로 나타났다. 현재 심사가 진행 중인 사업도 있어 이를 최종 승인 확률로 볼 수는 없지만 AI 인프라 확대 과정에서 서버 확보 못지않게 전력 공급이 중요해졌다는 점을 보여준다. 정부도 AIDC 확산에 맞춰 관련 제도 마련에 나서고 있다. 내년 3월 시행되는 AIDC 특별법 하위법령에선 AI 학습·추론용 가속기뿐 아니라 이를 운용하기 위한 전력·냉각 설비를 갖추도록 하고 일정 수준 이상의 전력밀도와 AI 장비 전력 비율 또는 규모를 AIDC 인정 기준으로 적용하는 방안이 검토되고 있다. 연산 성능만 기준으로 삼으면 기술 발전에 따라 적은 수의 최신 가속기만 설치해도 기준을 충족할 수 있다는 점을 고려해 전력을 주요 판단 기준으로 삼은 것이다. 송도영 법무법인 지평 변호사는 지난 9일 공개토론회에서 "데이터센터에 가속기나 랙 하나를 갖다 놓았다고 AIDC로 인정해 이 법에서 요구하는 특례나 혜택을 받도록 하는 것은 적절치 않다"며 "현재로선 전력을 기준으로 하되 구체적인 수치는 향후 더 논의해 정할 예정"이라고 밝혔다.

2026.09.24 09:24한정호 기자

[AI 고속도로] AI 시대 다시 뜨는 '쿠버네티스'…GPU·서비스 운영 핵심으로

생성형 인공지능(AI) 확산으로 기업들이 대규모 그래픽처리장치(GPU)를 확보하면서 이를 효율적으로 나누고 관리하는 기술의 중요성이 커지고 있다. 클라우드 시대 수많은 애플리케이션을 관리하는 표준으로 자리 잡았던 '쿠버네티스'가 이제는 GPU부터 AI 모델의 학습·추론까지 관리하는 AI 인프라의 핵심 플랫폼으로 영역을 넓히는 모습이다. 23일 업계에 따르면 글로벌 클라우드 기업과 국내 플랫폼 기업들은 쿠버네티스를 기반으로 AI 인프라와 서비스를 운영하기 위한 기술 개발을 확대 중이다. 클라우드네이티브컴퓨팅재단(CNCF)이 올해 발표한 연례 조사에 따르면 생성형 AI 모델을 운영하는 조직 가운데 66%가 일부 또는 전체 추론 워크로드를 쿠버네티스에서 운영하는 것으로 나타났다. 컨테이너 관리하던 쿠버네티스…이젠 GPU까지 쿠버네티스는 수많은 서버와 그 안에서 실행되는 프로그램을 알아서 배치하고 관리해주는 오픈소스 플랫폼이다. 과거에는 단일 서버에 애플리케이션을 직접 설치했다면 클라우드 환경에선 프로그램과 실행에 필요한 요소를 '컨테이너'라는 작은 단위로 묶어 여러 서버에 나눠 실행한다. 쿠버네티스는 이 컨테이너를 어느 서버에서 실행할지 정하고 이용자가 몰리면 수를 늘리거나 장애가 발생하면 다른 곳에서 다시 실행하는 작업을 자동으로 수행한다. AI 시대에는 쿠버네티스가 관리해야 할 대상이 한층 넓어졌다. 과거에는 중앙처리장치(CPU)와 메모리를 중심으로 애플리케이션을 배치했다면, 이제는 가격이 비싼 GPU와 신경망처리장치(NPU) 등 다양한 AI 가속기를 여러 개발팀과 서비스가 효율적으로 나눠 사용하도록 해야 한다. 이에 최신 버전 쿠버네티스는 동적 자원 할당(DRA) 기능이 도입돼 GPU와 같은 하드웨어의 특성을 파악하고 필요한 작업에 자원을 보다 세밀하게 배분하는 방향으로 발전하고 있다. AI 모델을 실제 서비스에 적용하는 추론에서도 역할이 커지고 있다. 이용자가 AI에 질문하면 적합한 GPU가 있는 서버를 찾아 요청을 보내고 이용량이 급증하면 자원을 늘리는 방식이다. 글로벌 빅테크부터 국내 기업까지 활용 확산 대표적으로 구글클라우드는 구글 쿠버네티스 엔진(GKE)에서 GPU를 이용해 대규모언어모델(LLM)을 배포·서비스할 수 있도록 지원하고 있다. 최근에는 여러 지역에 흩어진 GPU와 자사 텐서처리장치(TPU) 클러스터를 하나의 자원처럼 활용해 AI 요청을 적절한 곳으로 보내는 기술도 확대 중이다. 국내에서도 쿠버네티스를 기반으로 AI와 클라우드 플랫폼을 고도화하려는 움직임이 이어지고 있다. 오케스트로는 쿠버네티스 기반 서비스형 플랫폼(PaaS) '비올라'를 통해 컨테이너 워크로드의 배포부터 운영까지 생애주기를 관리하고 멀티 클러스터와 데브옵스 환경을 지원하고 있다. 이노그리드 역시 쿠버네티스 기반 'SE클라우드잇'을 통해 여러 쿠버네티스 클러스터를 통합 관리하고 있으며 GPU·NPU·CPU 등 이기종 자원을 AI 워크로드에 활용하는 방향으로 사업 영역을 넓히고 있다. 나무에이엑스는 쿠버네티스를 AI 모델 추론까지 연결 중이다. 자체 AI 플랫폼에서 vLLM과 쿠버네티스 기반 분산 추론 기술 등을 활용해 여러 GPU에서 AI 추론 작업을 분산 처리하는 방식이다. 멀티·하이브리드 클라우드 관리 플랫폼 '스페로'에도 GPU 사용량과 정책, 스케줄링을 관리하는 기능을 적용해 AI 워크로드 운영 효율을 높이고 있다. 맨텍솔루션은 쿠버네티스의 활용 영역을 데이터센터 밖 엣지까지 확대 중이다. 자체 쿠버네티스 플랫폼 '아코디언 엣지'를 통해 중앙 클라우드에서 개발한 AI 모델을 공장 등 여러 현장에 배포하고 각 현장에서 독립적으로 추론 서비스를 운영할 수 있도록 지원하고 있다. GPU·모델·데이터 연결…AI 네이티브 플랫폼으로 진화 AI 시대에는 고가의 GPU를 비롯한 컴퓨팅 자원을 효율적으로 운영하는 것이 비용 경쟁력과 직결된다. 이에 쿠버네티스를 기반으로 GPU 자원 관리와 모델 배포·추론, 데이터 연계 등을 통합하는 AI 네이티브 플랫폼의 중요성도 커지고 있다. 기존 PaaS가 애플리케이션의 개발·배포를 지원했다면 AI 시대에는 관리 영역이 AI 인프라와 서비스 전반으로 넓어지는 셈이다. 한국인공지능클라우드산업협회(KACI)도 최근 기존 PaaS 지원분과위원회를 AI 네이티브 플랫폼(ANP) 분과위원회로 개편하고 관련 생태계 확대에 나섰다. 기존 클라우드 네이티브 기술을 AI 환경으로 확장하고 국내 플랫폼 기업의 기술 고도화와 금융·제조·공공 등 산업별 적용 사례를 확대한다는 목표다. 정철 KACI ANP 분과위원회 위원장은 "쿠버네티스처럼 개방형 표준을 기반 기술로 활용하면 특정 클라우드나 AI 모델에 종속되지 않고 필요에 따라 인프라와 서비스를 바꿀 수 있다"며 "AI 시대에는 GPU와 모델을 확보하는 것뿐 아니라 이를 효율적으로 나누고 배분해 실제 기업 서비스로 연결하는 플랫폼의 역할이 더욱 중요해질 것"이라고 밝혔다.

2026.09.23 10:43한정호 기자

김동훈 NHN클라우드 대표, NHN 주식 1.4억원 매수…AI 인프라 성장 자신감

김동훈 NHN클라우드 대표가 인공지능(AI) 인프라 사업의 성장세 속에서 모회사 NHN 주식을 추가 매입했다. 광주 국가AI데이터센터를 시작으로 대규모 그래픽처리장치(GPU) 운영 경험을 쌓아온 NHN클라우드가 최근 서울 양평 리전까지 사업을 확대하며 실적 성장세를 이어가는 가운데, 김 대표의 이번 주식 매입도 향후 사업 성장에 대한 자신감을 반영한 행보로 풀이된다. 22일 금융감독원 전자공시시스템에 따르면 김 대표의 NHN 보유 주식은 기존 7340주에서 1만주로 늘었다. 공시에는 지난 18일 보통주 2660주를 장내 매수한 것으로 반영됐다. NHN클라우드에 따르면 실제 주식 매입은 지난 16일 이뤄졌다. 취득 단가는 주당 5만 3000원으로 총 매입 금액은 약 1억 4000만원이다. 김 대표는 NHN클라우드가 AI 데이터센터 사업에 본격적으로 뛰어든 초기부터 관련 사업을 이끌어왔다. NHN클라우드는 광주 국가AI데이터센터 구축·운영을 통해 대규모 GPU 인프라 운영 경험을 확보했고 이후 AI 인프라 수요가 급증하면서 관련 사업을 확대해왔다. 시장 초기부터 AI 데이터센터에 선제적으로 투자하면서 대규모 GPU 구축·운영 역량을 축적했다. 최근 성장세를 이끄는 핵심은 서울 양평 리전이다. NHN클라우드는 지난 3월 말 양평 리전 가동을 시작했으며 엔비디아 B200 기반 서비스형 GPU(GPUaaS) 공급이 2분기부터 본격화됐다. 이에 힘입어 NHN클라우드의 2분기 매출은 전년 동기 대비 85.3%, 전분기 대비 49% 증가했다. NHN 전체 실적에서도 클라우드 사업의 기여도가 커졌다. 올해 2분기 NHN 기술 부문 매출은 전년 동기 대비 52.9% 증가한 1598억원을 기록했다. NHN 연결 기준 매출은 7579억원, 영업이익은 579억원으로 각각 전년 동기 대비 25.3%, 164.1% 증가하며 분기 기준 역대 최대치를 기록했다. AI 인프라 확장도 지속 추진 중이다. NHN클라우드는 증가하는 GPU 수요에 대응하기 위해 내년까지 최소 30메가와트(MW) 규모의 AI 데이터센터 용량을 추가 확보할 계획이다. 이 가운데 20MW는 외부 데이터센터 임차 방식으로 마련하고 나머지 10MW는 자체 데이터센터로 구축한다. 기존 리전에는 엔비디아 B300 이상 최신 GPU도 추가 도입한다는 목표다. GPU 인프라를 넘어 AI 개발과 운영 전반을 아우르는 사업 구조도 구축 중이다. 지난 5월 AI 풀스택 브랜드 '팩토리X'를 공개하고 GPU 인프라 확보와 운영 최적화부터 AI 에이전트 실행 환경까지 제공하는 체계를 마련했다. 해외 기업의 GPU 수요 증가에 대응해 일본 데이터센터 확보 등 글로벌 사업 확대도 추진 중이다. 이 같은 AI 인프라 사업 성장과 함께 모회사 NHN의 주가도 큰 폭으로 올랐다. 회사 주가는 최근 1년간 114.23% 상승했다. NHN클라우드가 그룹 기술 사업의 주요 성장축으로 자리 잡으면서 AI 인프라 사업의 실적 기여도에 대한 시장의 관심도 높아지는 모습이다. NHN클라우드 관계자는 "현재 진행 중인 AI 인프라 사업의 성장 모멘텀이 이어지고 있는 가운데 이번 주식 매입 건이 향후 우리의 실적 성장에 대한 기대감을 높이는 동시에, 모회사 NHN의 주주가치 제고에도 긍정적인 영향을 미칠 것으로 기대된다"고 밝혔다.

2026.09.22 16:58한정호 기자

  Prev 1 2 3 4 5 6 7 8 9 10 Next  

지금 뜨는 기사

이시각 헤드라인

"우리 AI, 잘 쓰게 만들어야"…이해민·하정우, 산업 활용성 ‘집중 점검’

태양광 인버터 中 무선백도어 막는데 중국산 탐지장비 쓴다?

국가AI전략위 "정부 AI 도입, 기술보다 제도가 발목…공공 AX 규칙 다시 짠다"

국내 대형교회 2곳 해킹 당했다...33만건 교인 헌금 정보 등 유출

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.