검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'DGX-A100 GPU'통합검색 결과 입니다. (628건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

韓 공략 시동 건 코어위브…데이터센터 협력·추론 사업 키운다

글로벌 인공지능(AI) 인프라 기업 코어위브가 한국 시장 공략에 속도를 내고 있다. 국내 여러 데이터센터 사업자들과 협력 방안을 논의하는 가운데 고성능 그래픽처리장치(GPU) 공급뿐 아니라 AI 추론 시장으로 사업 영역을 넓히려는 움직임도 본격화하고 있다. 9일 업계에 따르면 코어위브는 한국 데이터센터 사업 진출 가능성을 열어두고 국내 여러 사업자들과 협의를 진행하고 있는 것으로 파악됐다. 구체적인 투자 규모와 데이터센터 위치, 협력 기업 등은 공개되지 않았다. 코어위브는 최근 아시아 지역으로 AI 인프라 사업을 빠르게 확대하고 있다. 지난 8월 인도네시아에 총 360메가와트(MW) 규모의 데이터센터 3곳을 확보한다고 발표한 데 이어 이달 6일에는 인도 아다니커넥스와 협력해 나비뭄바이에 240MW 규모 AI 데이터센터를 구축한다고 밝혔다. 인도 시설에는 엔비디아의 차세대 '베라 루빈' 플랫폼을 도입할 예정이다. 이런 가운데 코어위브는 지난 6일부터 8일까지 서울 강남구 코엑스 C홀에서 열린 'AI 페스타 26'에 회사 이름을 내건 부스를 마련했다. 코어위브가 국내 전시 행사에 자체 브랜드를 앞세워 참가한 것은 이번이 처음이다. 김현석 코어위브 한국·동남아시아 총괄대표는 행사장에서 지디넷코리아와 만나 한국을 비롯한 아시아 AI 인프라 시장의 현황과 코어위브의 사업 전략을 소개했다. 김 대표는 한국·동남아시아 지역 GTM(Go-To-Market)을 맡아 GPU 인프라와 추론 서비스 등의 사업을 담당하고 있다. 코어위브는 엔비디아 GPU를 기반으로 AI 학습과 추론에 필요한 컴퓨팅 자원을 제공하는 미국 네오클라우드 기업이다. 아마존웹서비스(AWS)와 마이크로소프트(MS) 애저, 구글클라우드 등 기존 하이퍼스케일러와 달리 대규모 AI 워크로드에 특화된 인프라를 제공하는 것이 특징이다. 김 대표는 "GPU를 필요로 하는 기업이나 기관의 수요는 국가 간 경계가 거의 무의미하다"며 "한국에서도 최신 GPU를 확보하려는 기업들의 문의가 상당히 많다"고 말했다. 현재 국내 기업들은 코어위브의 해외 데이터센터를 통해 GPU 서비스를 이용할 수 있다. AI 모델 학습과 추론은 일반적인 클라우드 서비스에 비해 네트워크 지연의 영향이 상대적으로 제한적이어서 데이터의 해외 이전에 제약이 없다면 국내 데이터센터가 없어도 서비스를 이용할 수 있다는 설명이다. 반대로 금융·공공·의료 등 개인정보나 민감정보를 다루는 분야에서는 국내 인프라 유무가 서비스 도입에 영향을 줄 수 있다. 데이터 국외 이전에 대한 규제와 기업 내부 정책 등을 고려해야 하기 때문이다. 김 대표는 "GPU를 빌려 쓰기로 결정한 기업 중에는 데이터센터가 한국에 있는지를 크게 신경 쓰지 않는 곳도 많다"며 "금융기관이나 공공기관처럼 개인정보와 민감정보를 활용하는 곳은 데이터의 해외 이전을 고려해야 하는 경우가 있다"고 설명했다. "韓 기업 GPU 수요 상당…수천~수만 장 문의도" 코어위브가 한국 시장에서 주목하는 분야 중 하나는 대규모 GPU 수요다. 국내 통신사와 전자·플랫폼 기업 등을 중심으로 엔비디아 최신 GPU에 대한 문의가 이어지고 있다. B300뿐 아니라 차세대 베라 루빈 시스템을 확보하려는 움직임도 나타나고 있다. 김 대표는 "국내 주요 기업들이 B300 등 최신 GPU를 수천 장에서 수만 장 규모로 요청하는 사례가 있다"며 "베라 루빈 같은 차세대 시스템에 대한 문의도 계속 들어오고 있다"고 말했다. 다만 국내 기업의 GPU 수요가 실제 대규모 공급 계약으로 연결되기까지는 넘어야 할 부분도 있다. 정부 지원 사업 등을 통해 GPU 사용 예산을 확보하는 기업이 많아 장기간 이용을 확약하기 어려운 사례가 있어서다. 김 대표는 "국내 대기업에서 B300을 수천 장에서 수만 장 규모로 요청하더라도 사용 기간을 물어보면 6개월이나 7개월이라고 답하는 경우가 있다"며 "정부 지원 사업을 통해 GPU를 확보하다 보니 프로젝트의 연속성을 몇 년 이상 보장하기 어려운 구조도 있다"고 말했다. 이는 대규모 GPU를 선제적으로 확보해 장기간 제공하는 네오클라우드의 사업 방식과 차이가 있다. 코어위브는 대규모 GPU 공급에서 사용 기간과 물량에 대한 고객의 확약을 중요하게 보고 있다. 최근에는 3~6개월 단기 계약도 체결하는 등 공급 방식을 다변화하고 있지만 대규모 물량을 안정적으로 제공하려면 장기적인 수요 예측이 필요하다. 김 대표는 한국에서 들어오는 대규모 GPU 공급 요청에서도 계약 기간과 수량, 선급금 등의 조건이 중요하다고 설명했다. 단순히 GPU가 필요하다는 요청만으로 대규모 물량을 확보해 제공하기 어려운 사업 구조라는 의미다. 특히 GPU 공급 능력이 네오클라우드 기업들의 경쟁력을 좌우한다고 봤다. 기존 클라우드 사업자와 네오클라우드는 서비스 구조와 기술 아키텍처에서 차이가 있지만 고객이 원하는 최신 GPU를 제때 확보하지 못하면 가격이나 소프트웨어 경쟁력을 앞세우기도 어렵다는 설명이다. 하이퍼스케일러와 네오클라우드의 차별점도 여기에 있다. AWS·애저·구글클라우드가 CPU와 GPU를 비롯한 다양한 컴퓨팅 자원을 범용 클라우드 아키텍처에서 제공한다면 네오클라우드는 대규모 GPU 클러스터와 네트워크, 소프트웨어를 AI 학습·추론에 맞춰 구성한다. 고객은 기존 클라우드 계약과 비용, AI 워크로드의 특성 등을 고려해 필요한 인프라를 선택할 수 있다. 김 대표는 "AI 인프라는 GPU만의 경쟁이 아니라 '자본의 전쟁(War of Capital)'"이라며 "고객이 원하는 GPU 모델이 없으면 경쟁 자체가 성립하기 어렵다"고 강조했다. W&B 고객 기반으로 韓 추론 시장 공략 코어위브가 한국에서 GPU 공급과 함께 힘을 싣는 분야는 AI 추론이다. AI 시장의 중심이 대규모 모델을 학습하는 단계에서 개발한 모델을 실제 서비스에 적용하는 단계로 확장되면서 추론용 컴퓨팅 수요가 빠르게 늘어날 것으로 보고 있다. 특히 지난해 인수한 AI 개발 플랫폼 기업 웨이츠앤바이어시스(Weights & Biases·W&B)를 활용해 기존 소프트웨어 고객과 코어위브의 GPU 인프라·추론 서비스를 연결하는 전략을 추진하고 있다. W&B는 AI 모델 개발 과정에서 실험 결과를 추적하고 성능을 평가·관리하는 소프트웨어를 제공한다. 코어위브는 W&B를 자체 GPU 인프라와 결합해 AI 모델 개발과 학습부터 추론, 평가·관측까지 이어지는 사업 구조를 구축하고 있다. 국내에서도 파운데이션 모델을 개발하는 주요 AI 기업들이 W&B를 사용하고 있다는 게 김 대표의 설명이다. 모델 개발 단계에서 확보한 고객 접점을 추론과 GPU 인프라까지 확대할 수 있다는 점에서 코어위브의 한국 사업에서도 W&B가 중요한 역할을 맡는다. 김 대표는 "국내 주요 파운데이션 모델 개발 기업들이 이미 W&B를 사용하고 있다"며 "이들 기업이 모델 개발을 넘어 실제 추론 서비스를 확대하려는 만큼 코어위브의 GPU 인프라와 소프트웨어를 함께 제공할 기회가 많을 것으로 본다"고 밝혔다. AI 에이전트와 피지컬 AI 확산도 추론 시장 성장을 촉진할 요인으로 꼽았다. 기존에는 모델을 학습하는 과정에 대규모 GPU가 집중적으로 사용됐다면 AI 서비스가 늘어날수록 실제 이용자의 요청을 처리하는 추론 단계에서 필요한 컴퓨팅 자원도 함께 증가하기 때문이다. AI 에이전트는 서비스를 출시한 이후에도 답변 품질과 성능을 지속적으로 확인하고 개선해야 한다. 모델과 애플리케이션의 성능을 관측하고 평가하는 과정도 중요해지면서 코어위브의 GPU 인프라와 W&B 소프트웨어를 결합할 수 있는 영역이 넓어지는 셈이다. 코어위브는 서버리스 추론과 전용 추론 인프라 등을 제공하고 있다. 국내에서도 추론 서비스를 유통하거나 공동 사업을 추진할 수 있는 기업들과 협력 가능성을 검토하고 있다. 김 대표는 아직 국내 추론 생태계가 충분히 형성된 단계는 아니라고 평가했다. 추론 서비스를 이용하려는 기업과 이를 공급하려는 사업자는 늘고 있지만 GPU 인프라와 여러 AI 모델을 연결해 사용량에 따라 서비스를 제공하는 사업 구조는 이제 만들어지고 있다는 설명이다. GPU 인프라 사업에서는 기존 IT 시장의 총판·리셀러 구조를 그대로 적용하기도 어렵다고 봤다. 대규모 GPU 계약은 장기간 공급과 사용량, 투자비 회수 등이 함께 고려돼야 해 최종 고객과 직접 계약하는 방식이 중요한 반면 추론 시장에서는 다양한 형태의 파트너 사업이 가능하다고 보고 있다. 김 대표는 "한국에는 추론 서비스를 이용하려는 기업도 많고 이를 공급하려는 기업들도 있지만 아직 생태계가 충분히 형성되지는 않았다"며 "현재 여러 국내 기업과 협력을 검토하고 있으며 앞으로 추론 시장을 중심으로 사업 기회를 확대해 나갈 계획"이라고 말했다.

2026.10.09 16:06장유미 기자

[AI 고속도로] 기업 AI도 프라이빗 시대…'모듈형 데이터센터'가 뜬다

기업들이 인공지능(AI) 활용을 확대하면서 데이터와 AI 운영 환경을 직접 통제할 수 있는 '프라이빗 AI'에 주목하고 있다. 외부 클라우드와 AI 모델에 의존하던 방식에서 벗어나 자체 인프라를 병행하는 기업이 늘면서, 필요한 장소에 빠르게 구축하고 수요에 따라 확장할 수 있는 모듈형 AI 데이터센터(AIDC)도 대안으로 부상한 모습이다. 9일 업계에 따르면 기업들은 민감한 내부 데이터나 반복적인 업무를 자체 AI 환경에서 처리하고 고난도 추론이 필요한 작업에는 외부 AI 모델을 활용하는 방식으로 인프라 전략을 다변화하고 있다. 기업의 AI 전략에서도 모델 성능뿐 아니라 데이터를 어디에 저장하고 연산 자원을 어떻게 운영할 것인지가 중요한 과제로 떠오르고 있다. 특히 금융·제조·공공 등 보안과 데이터 통제가 중요한 분야에선 독립적인 AI 운영 환경을 확보하려는 수요가 커지고 있다. 오픈 모델 성능 높아지자 프라이빗 AI 도입 확대 최근 오픈 모델의 성능이 빠르게 향상되고 운영 비용 부담도 줄어들면서, 기업들이 외부 상용 모델에 대한 의존도를 낮추고 업무 특성에 맞는 자체 AI 환경을 구축할 수 있게 됐다. 미국 매사추세츠공과대학(MIT)과 조지아공대 연구진이 발표한 논문에 따르면 오픈 모델은 폐쇄형 최첨단 AI 모델의 약 90% 수준 성능을 내면서도 비용은 약 6분의 1에 그치는 것으로 나타났다. 폐쇄형 모델 출시 이후 오픈 모델이 유사한 성능에 도달하기까지 걸리는 시간도 13주까지 단축됐다. 기업 내부 데이터에 맞춘 모델 미세조정도 경쟁력으로 꼽힌다. 데이터브릭스 연구에선 메타의 오픈 모델 '라마 3.1 8B'를 기업 고유 코드에 맞게 미세조정한 결과, GPT-4o보다 코드 채택률이 1.4배 높고 응답 시간은 2배 빠른 것으로 나타났다. 실제 기업 현장에서도 자체 AI 모델과 외부 모델을 병행하는 사례가 나오고 있다. 미국 보험사 트래블러스는 보험 업무에 특화된 자체 모델 '트래블러스LLM'을 개발해 전문성과 대량 처리가 필요한 업무에 활용하고 범용적이거나 복잡한 요청에는 외부 모델을 사용하는 방식으로 AI 환경을 운영하고 있다. 국내에선 한국서부발전이 외부망과 분리된 온프레미스 환경에 자체 생성형 AI 서비스 '위피봇'을 구축했다. 사내 규정과 기술자료 검색, 문서 작성 등에 활용하고 있으며 시범 운영 결과 업무 효율을 30% 이상 높이고 연간 10만 시간의 업무 시간을 절감한 것으로 알려졌다. AI 운영 환경도 변화…모듈형 데이터센터 대안 부상 기업들이 프라이빗 AI 도입을 확대하면서 대규모 AI 연산을 처리할 수 있는 인프라의 중요성도 커지고 있다. 특히 대규모 AI 모델을 직접 운영하거나 여러 AI 서비스를 상시 구동해야 하는 기업·기관에선 기존 전산실만으로 고밀도 그래픽처리장치(GPU) 환경을 수용하는 데 한계가 있다. 고성능 GPU를 안정적으로 운영하려면 높은 전력 밀도와 발열에 대응할 수 있는 전력·냉각 설비가 필요하다. GPU 간 대용량 데이터를 빠르게 전송하는 네트워크와 스토리지도 갖춰야 한다. 외부 클라우드를 지속적으로 이용할 경우 사용량에 따라 비용 부담이 커질 수 있다는 점도 자체 인프라 구축을 검토하는 배경이다. 이에 전력·냉각·네트워크 등 주요 설비를 공장에서 미리 제작한 뒤 현장에 설치하는 모듈형 AIDC가 주목받고 있다. 부지와 전력이 확보된 환경에선 기존 데이터센터보다 구축 기간을 줄일 수 있고 AI 연산 수요가 늘어나면 모듈을 추가해 단계적으로 확장할 수 있다는 것이 강점이다. 기업이 직접 관리하는 부지에 독립적인 AI 인프라를 구축할 수 있다는 점도 특징이다. 데이터와 시스템에 대한 물리적 통제 수준을 높이면서 필요한 연산 자원을 업무 현장 가까이에 배치할 수 있어 보안과 운영 효율을 함께 고려할 수 있다. 엘리스그룹, 모듈형 AIDC·GPU 운영 기술 결합 국내에선 엘리스그룹이 모듈형 데이터센터와 클라우드 소프트웨어를 결합한 AI 인프라 사업을 추진 중이다. 엘리스그룹은 부지와 전력이 확보된 환경에서 약 3개월 만에 구축할 수 있는 모듈형 AIDC '엘리스 PMDC'를 공급하고 있다. 서버 랙과 전력·냉각·네트워크 설비를 모듈화해 현장에서 설치하는 방식으로, 수요에 따라 인프라를 단계적으로 확장할 수 있도록 설계했다. 고밀도 GPU 환경에 대응하기 위한 수랭식 냉각 시스템도 적용할 수 있다. 여기에 GPU 가상화·오케스트레이션 기술을 적용한 클라우드 소프트웨어 'ECI'를 결합해 GPU 자원을 워크로드에 따라 배분하고 운영할 수 있도록 지원한다. 산업 현장에서도 모듈형 AI 인프라 구축이 추진되고 있다. 부산 명지녹산국가산업단지에선 산업단지 내 기업들이 공동으로 활용할 수 있는 GPU·신경망처리장치(NPU) 기반 엣지 AI 데이터센터를 구축하고 있다. 엘리스그룹과 부산테크노파크, 이지에이아이, 건솔루션, 포미트 등이 참여해 제조기업의 AI 전환을 지원할 계획이다. 박정국 엘리스그룹 최고기술책임자(CTO)는 "기업들이 프라이빗 AI 도입을 확대할수록 데이터를 안전하게 관리하는 것뿐 아니라 AI 인프라 자체를 효율적으로 운영할 수 있는 통제력이 중요해질 것"이라고 말했다. 이어 "특히 민감한 데이터를 다루거나 대규모 AI 연산 환경을 직접 운영해야 하는 기업·기관에선 필요한 장소에 AI 인프라를 빠르게 구축하고 수요에 따라 확장할 수 있는 모듈형 데이터센터가 효과적인 선택지가 될 것"이라고 덧붙였다.

2026.10.09 15:00한정호 기자

"엔비디아 루빈 HBM4, 12단이 대세"

엔비디아 차세대 그래픽처리장치(GPU) '베라 루빈'에 탑재할 6세대 고대역폭메모리(HBM4)에서 12단 제품 비중이 대부분을 차지할 것이라는 전망이 나왔다. 최근 업계 일각에서 확산한 'HBM 단수 하향' 우려와 다르다. 시장조사업체 카운터포인트리서치는 9일 HBM4에서 12단 제품이 주력이 될 것이라고 추정했다. 카운터포인트의 이번 전망은 최근까지 업계 일각 전망과 엇갈린다. 최근 엔비디아가 주요 HBM 공급사에 주력품 사양을 12단에서 8단으로 낮춰달라고 요청했다는 언론 보도가 이어졌다. 주문형반도체(ASIC) 진영에서는 비용 부담 탓에 4단 제품까지 내려갈 것이라는 추정도 나왔다. HBM 적층 단수가 낮아지면 HBM에 투입하는 생산능력이 줄고, 그만큼 범용 D램 생산이 늘어 가격이 하락할 수 있다는 전망이 이어졌다. 이는 삼성전자를 비롯한 메모리 업체 실적 전망에는 악재로 꼽혔다. 카운터포인트는 HBM 탑재량 증가 흐름이 이어질 것이라고 전망했다. 인공지능(AI) 워크로드에서는 비용 절감보다 대역폭과 용량을 함께 확보하는 것이 중요하다는 이유다. 카운터포인트는 "ASIC에서도 우려와 달리 4단 제품은 확인되지 않았다"고 밝혔다. 그러면서 "메모리 업계 전반에 제기된 HBM 수요 둔화는 잘못된 정보"라며 "이는 향후 실적 전망에서 중요한 변수"라고 강조했다. HBM 생산에는 범용 D램보다 3배 이상 생산능력이 요구된다. 이는 범용 D램 공급 부족 주요 원인 중 하나로 꼽힌다. HBM 수요가 견조하게 유지되면 범용 D램 공급 부족과 가격 강세도 이어질 가능성이 크다. 카운터포인트는 지난 8일 삼성전자 잠정실적 발표에서 최근 반도체 업체들이 보였던 어닝 서프라이즈는 없었다고 평가했다. 삼성전자 3분기 잠정실적은 매출 195조원, 영업이익 107조 4000억원이었다. 영업이익은 시장 전망치를 소폭 상회했다. 카운터포인트는 환율을 원인으로 지목했다. 삼성전자는 수출 비중이 높아 매출 상당 부분을 달러로 벌어들이는 반면 비용은 원화로 지출한다. 원·달러 환율이 갑자기 떨어지면 이를 피하기 어려워 마진 부담으로 돌아온다. 카운터포인트리서치는 "메모리 업계 수요 성장에 대한 확신이 10월 들어 강화됐다"며 "삼성전자의 역대 최대 실적이 일회성에 그치지 않을 가능성에 무게가 실린다"고 평가했다.

2026.10.09 08:00진운용 기자

콴델라 "양자컴퓨팅, 기존 AI 처리 장애물 넘을 새 연산 자원"

"현재 컴퓨터는 0과 1을 기반으로 한 결정론적 방식으로 동작해 왔다. 반면 2000년대 들어 주목받는 양자컴퓨터는 확률과 관측을 기반으로 세상을 이해하는 전혀 다른 구조의 컴퓨터다." 8일 오후 서울 코엑스 'AI 페스타 26' 행사장 내 'AIR 쇼케이스' 무대에서 김유석 콴델라코리아 대표가 이렇게 강조했다. 'AI 페스타 26'은 과학기술정보통신부가 주관하는 '인공지능주간(AI WEEK)'의 일환으로 6일부터 8일까지 서울 삼성동 코엑스에서 열리는 B2B AI 전시회다. 'AIR 쇼케이스'는 AI가 현실세계에 적용되는 데 필요한 도전과제와 한계를 조명하기 위해 마련됐다. 이날 김유석 대표는 "양자처리장치(QPU)를 기반으로 한 양자 컴퓨터가 기존 컴퓨터를 대체한다거나, 혹은 현행 암호체계를 모두 무너뜨릴 것이라는 인식도 있다. 그러나 실제로는 두 컴퓨터가 협동하는 방향으로 나아갈 것"이라고 설명했다. "QPU, CPU·GPU 대체 아닌 협력하는 연산 자원" 김 대표는 "CPU는 다양한 작업을 순차 처리하는 데 적합하며, GPU는 많은 데이터를 한 번에 처리할 때 강점을 드러낸다. 양자처리장치(QPU)의 처리 속도는 CPU나 GPU 대비 느릴 수 있지만 특정 영역에서는 엄청난 성능을 발휘한다"고 밝혔다. 이어 "양자컴퓨터 역시 기존 컴퓨팅 환경을 완전히 대체하기보다 AI 알고리즘을 GPU에서 먼저 시뮬레이션하고 유용하다고 판단되면 이를 QPU에서 수 초에서 수 분에 이르는 짧은 시간동안 처리하는 형태로 활용될 가능성이 크다"고 내다봤다. 김 대표는 이를 "기존 솔루션이나 알고리듬에 양자 층을 하나 더 씌우는 것"이라며 "콴델라는 이미지 처리와 분류, 머신러닝 등에 적용할 수 있는 다양한 양자 알고리듬을 실증하고 있으며 연말까지 약 100개의 알고리즘을 공개할 계획"이라고 밝혔다. 이미지 분석·악성코드 탐지에 양자컴퓨팅 적용 이날 세션에서는 산업 현장에서의 적용 사례도 소개했다. BMW와 에어버스가 참여한 연구에서는 낮에 촬영한 이미지를 야간 이미지로 변환하는 과정에서 양자 레이어를 적용했다. 김유석 대표는 "야간에는 자동차와 가로등, 건물 등 다양한 광원이 이미지에 간섭을 일으키면서 연산이 복잡해지는데, 기존 방식에서 나타난 이미지 속 허상 현상을 양자 연산을 통해 줄이는 결과를 확인할 수 있었다"고 말했다. 프랑스 오랑주텔레콤은 네트워크 상 악성코드를 탐지하는 과정에 양자컴퓨팅을 적용했다. 네트워크 트래픽을 이미지 형태로 변환한 뒤 양자 레이어를 적용한 결과 악성코드뿐 아니라 해당 악성코드의 아종까지 식별하는 결과를 얻었다. 김유석 대표는 "신약과 신소재 개발 등 분자 단위 연산과 시뮬레이션은 슈퍼컴퓨터와 GPU 자원을 총동원해도 처리하기 까다로운 작업이다. 양자컴퓨팅은 기존에 정복하지 못했던 분야에서 두드러지는 활약을 보일 것"이라고 강조했다. "양자컴퓨팅, 보안 분야에 위협이자 기회" 양자컴퓨터의 작동 방식이 기존 암호화 표준이나 보안 체계를 쉽게 무력화할 것이라는 우려도 있다. 그러나 김유석 대표는 "양자컴퓨터는 보안 분야에 위협인 동시에 방어 기술이 될 수 있다"고 반론했다. 소인수분해에 기반한 기존 암호 알고리즘은 양자컴퓨터에 의해 위협받을 수 있지만, 반대로 양자난수 등을 활용해 보안을 강화하는 연구도 진행되고 있다는 것이다. 김 대표는 "콴델라는 광자를 큐비트로 활용하는 랙 단위 양자컴퓨터를 개발중이며 이를 GPU와 결합해 산업 현장에 적용하기 위해 다양한 시도중"이라고 말했다. 이어 "양자컴퓨팅의 미래는 세상을 한 번에 완전히 바꾸는 것보다 기업이 이미 가지고 있는 솔루션과 알고리듬을 한 단계 진화시키는 형태로 먼저 나타날 것"이라고 내다봤다.

2026.10.08 16:01권봉석 기자

GPU 활용률 '90%' 이상 가능…아크릴, AI 인프라 비용 줄인다

"실제 업무 환경에서 GPU는 다양한 문제로 50~60%의 활용률에 머무르는 경우가 있다. 아크릴의 플랫폼을 적용하면 이를 90% 이상으로 끌어올릴 수 있어, AI 인프라 운영비용율 획기적으로 절감할 수 있다" 김종율 아크릴 이사는 8일 서울 코엑스에서 열린 'AI 페스타 26'에서 AI 인프라 운영 효율화를 위한 기술을 소개했다. 지난 2011년 설립된 아크릴은 AX 인프라 소프트웨어 전문 기업이다. AI 인프라 오케스트레이션 플랫폼인 'GPUBASE'를 공급하고 있다. GPUBASE는 여러 서버에 분산된 GPU를 하나의 자원 풀처럼 관리하고, 각 워크로드에 필요한 자원을 배분해 GPU 활용률을 높이는 솔루션이다. 또한 GPUBASE는 네트워크 최적화 기능을 갖췄다. 특정 경로에 트래픽이 몰리는 경우를 방지하기 위해 다중 경로를 활용하고, 작업별 우선순위에 따라 트래픽을 처리하는 기술이다. 김 이사는 "실제 업무 환경에서 모니터링된 GPU 할당률은 90%지만, 실제 연산 가동률은 50~60%에 머무르는 사례들이 보고되고 있다"며 "이에 아크릴은 AI로 필요한 메모리와 코어를 예측해, 맞는 크기로 GPU를 배치하는 시스템을 구축했다"고 설명했다. 현재 아크릴은 실제 대규모 GPU 환경에서 GPUBASE 검증을 완료한 상황이다. AWS, 구글, 마이크로소프트 등 3대 클라우드 환경에서 총 1272장의 GPU장을 운용한 결과, AI 학습 속도는 최대 24배 향상된 것으로 나타났다. GPU 활용률은 90%를 상회했다. 엔크릴은 GPUBASE와 같은 AI 인프라용 소프트웨어 기술이 대한민국의 소버린 AI 구축에 있어 핵심적인 역할을 할 것으로 내다봤다. 김 이사는 "GPU 등 각종 AI 반도체를 하나의 풀로 운영해, 특정 공급사와 공급망에 종속되지 않는 연산 주권을 확보해야 한다"며 "폐쇄망에서 완전 구동될 수 있는 망 주권, 자체 모델과 운영 도구로 모델을 직접 만드는 모델 주권도 중요하다"고 강조했다. AI 페스타 2026은 과학기술정보통신부가 주최하고 한국인공지능·소프트웨어산업협회(KOSA)와 AI페스타조직위원회가 주관하는 인공지능주간 공식 행사다.

2026.10.08 15:44장경윤 기자

"GPU와 경쟁 아닌 공존"…딥엑스, '피지컬 AI' K-NPU로 글로벌 정조준

"글로벌 그래픽처리장치(GPU) 기업과 경쟁하려는 것이 아닙니다. 대규모 데이터 학습은 GPU가, 일상 디바이스에 탑재되는 '피지컬 인공지능(AI)' 연산은 신경망처리장치(NPU)가 분담하는 명확한 공존이 우리 전략입니다." 조재홍 딥엑스 상무는 8일 서울 강남구 코엑스에서 열린 AI 페스타 2026에서 글로벌 빅테크와 협력 기반 시장 확대 비전을 제시하며 이같이 밝혔다. 최근 AI 반도체 시장은 엔비디아로 대표되는 데이터센터용 GPU가 독식하고 있다. 하지만 조 상무는 1기가와트(GW) 규모 데이터센터 구축에 100조원이 투입되는 막대한 비용과 GPU 특유의 발열, 전력 소모를 근본적 한계로 지적했다. 그는 "연간 50억대 이상 쏟아지는 사물인터넷(IoT) 디바이스의 모든 AI 연산을 클라우드 데이터센터에서만 처리하면 프라이버시 침해와 막대한 전력 지연을 피할 수 없다"며 "로봇이나 CCTV 등 디바이스 자체에 AI 연산이 임베딩돼 실시간 구동하는 '피지컬 AI' 전용 NPU가 반드시 필요한 시점"이라고 강조했다. 딥엑스가 독자 개발한 NPU 'DX-M1'은 이러한 에지(Edge) 수요를 정확히 겨냥했다. 엄지손톱 크기 칩 하나가 5W 미만 초저전력으로 구동돼 일반 배터리로도 작동하며, 쿨링팬이 필요 없을 정도로 발열을 잡았다. 수만 개 데이터를 한 번에 처리하는 GPU와 달리, 카메라로 들어오는 사진 한 장을 즉각 처리하는 '배치 사이즈 1' 환경에 최적화돼 GPU 대비 구축비용을 10분의 1에서 최대 100분의 1 수준으로 대폭 낮췄다. 딥엑스는 이 같은 기술력을 바탕으로 최근 방한한 리사 수 AMD 회장과 간담회를 갖는 등 글로벌 빅테크와 협력을 구체화하고 있다. 무한 경쟁 대신 시장 파이를 나누는 셈이다. 가시적 상용화 성과도 입증했다. 조 상무는 "국내 최초로 피지컬 AI 반도체 양산에 성공해 상반기에만 10개국 8개 산업군에 1300만개 이상을 수출했다"며 "현대자동차 로보틱스랩의 로봇(DAL-e)과 중국 바이두의 스마트 팩토리 장비 등에 우리 NPU가 탑재돼 활약 중"이라고 말했다.

2026.10.08 15:41전화평 기자

코어위브, AI페스타서 국내 첫 회사 소개 부스에 참관객 '주목'

인공지능(AI) 시대 그래픽처리장치(GPU) 중요성이 날로 커진 가운데, 엔비디아(Nvidia) 우선 공급사로 알려진 '코어위브'가 국내에서 처음으로 'AI 페스타(Festa) 26'에 회사 소개 부스를 마련했다. 8일 서울 강남구 코엑스 C홀에서 열린 AI Festa 26에 참가한 코어위브는 GPU를 클라우드화해 대여하는 사업 등을 소개했다. 코어위브는 2025년 3월 나스닥 시장에 입성했으며, GPU 대여 외에도 AI가 지속적으로 성능을 유지할 수 있는 다양한 서비스를 제공 중에 있다. 또 코어위브는 AI에이전트가 활용하는 대규모 언어 모델(LLM)을 쓰는 빅테크를 대부분 고객사로 보유하고 있다고 부연했다. 이날 부스에 참여한 김현석 코어위브 한국지사 총괄대표는 "GPU 데이터센터를 전 세계 여러 지역에 50여 개 이상의 데이터 센터를 운영 중"이라며 "국내에도 데이터센터를 신설할 것"이라고 설명했다.

2026.10.08 13:05손희연 기자

"GPU 다음은 데이터 병목"…디노티시아, VDPU로 AI 인프라 새 판 짠다

초거대 AI 생태계가 스스로 복잡한 임무를 수행하는 에이전트 시대로 진화함에 따라 컴퓨팅에 지각변동이 일고 있다. 과거 엔비디아 GPU(그래픽처리장치)를 중심으로 한 연산 능력이 데이터센터 인프라의 핵심이었던 반면, 이제는 연산의 병목 현상이 GPU를 넘어 CPU(중앙처리장치)와 메모리 쪽으로 빠르게 옮겨가는 추세다. 정무경 디노티시아 대표는 7일 강남구 코엑스에서 개최된 'AI 페스타 26'에서 'AI 에이전트 시대의 데이터 인프라-검색과 메모리의 폭증, 그리고 AI 스토리지의 등장'을 주제로 발표하며 이같이 진단했다. 폭증하는 AI 검색량…CPU 워크로드 70% 차지 정 대표는 강연을 통해 이러한 병목 현상의 근본 원인은 폭발적으로 늘어난 데이터 검색량과 잦은 데이터 이동 지연에 있다고 진단했다. 단답형이던 초기 LLM(거대언어모델)이 검색 증강 생성(RAG)과 추론을 거쳐 자율적인 에이전트 시대로 접어들면서, 하나의 임무를 완수하기 위해 수많은 작업을 거치게 됐다. 이 과정에서 토큰 생성량과 함께 연산 중간중간 데이터를 검색하는 횟수가 기하급수적으로 늘어나, 병목 현상이 생긴 셈이다. 정 대표는 현재 데이터센터 내 CPU 워크로드의 60~70%가 이러한 데이터를 찾는 데 소모되고 있다고 짚었다. 연산 과정에서 AI가 단기 기억으로 사용하는 'KV 캐시(Key-Value Cache)'의 덩치가 커진 것도 병목을 가중시킨다. 그는 "KV 캐시가 너무 비대해져 비싼 고대역폭메모리(HBM)에 모두 담지 못하고 외부로 뺐다 다시 불러오는(오프로딩 및 리로드) 과정을 끊임없이 반복하며 극심한 지연을 낳고 있다"고 지적했다. 특히 올해를 기점으로 인간이 직접 데이터를 찾는 횟수보다 AI가 의미 기반(시맨틱)으로 검색하는 횟수가 역전될 전망이다. 정 대표는 "기업 스토리지에 저장만 해두고 쓰지 않는 '다크 데이터(Dark Data)'가 전체의 75~85%에 달한다"며 "이제는 사람이 아닌 AI가 시맨틱 서치로 이 숨겨진 데이터들까지 모두 찾아내 활용해 새로운 인텔리전스를 만드는 시대"라고 설명했다. 15배 빠른 검색 가속기 VDPU 개발...제로 카피로 지연 없애 디노티시아는 VDPU(벡터 데이터베이스 프로세스 유닛)를 통해 이같은 병목을 해결할 계획이다. VDPU는 의미 기반 데이터 검색에 특화된 전용 반도체다. AI가 원하는 데이터를 찾아내는 알고리즘 속도를 기존 CPU 대비 최대 15배까지 끌어올려 즉각적이고 정확한 검색을 돕는다. 아울러 찾은 데이터를 CPU의 개입 없이 곧바로 GPU 메모리에 적어주는 '제로 카피(Zero-Copy)' 기술을 지원해 고질적이었던 데이터 이동 지연 문제와 컴퓨팅 자원의 낭비를 획기적으로 줄였다. 정 대표는 "CPU 소프트웨어만으로는 늘어나는 검색량을 감당하기 어려워 AI 검색에 특화된 전용 반도체가 필수적이라고 봤다"며 "우리가 3년 전부터 개발해 온 VDPU는 오직 '검색'만을 위한 세상에 없던 반도체"라고 강조했다. "단순 칩 넘어 'AI 스토리지'로"…데이터센터 필수 인프라 정조준 디노티시아는 VDPU 기술을 발판 삼아 AI 스토리지 시스템 구축을 목표로 한다. 폭증하는 AI 데이터를 제한적인 메모리 공간만으로는 감당할 수 없기 때문이다. 이를 위해 회사는 VDPU 하드웨어와 더불어 외부 지식, 장기 기억(에이전트 메모리), 단기 기억(KV캐시)을 종합적으로 관리하는 'AI 메모리 소프트웨어'를 개발 중이다. 정 대표는 “AI가 생각하는 방식은 외부 지식을 찾고 과거 경험을 떠올려 작업하는 사람의 사고방식과 거의 유사하다”며 “이 모든 기능이 스토리지 시스템 안에 통합돼 AI의 기억과 지식을 제공하는 공간이 돼야 한다”고 말했다. 그러면서 "데이터센터를 구축할 때 가장 큰 비용이 GPU에 투입되지만, 결국 GPU가 100% 성능을 내려면 빠르고 정확한 데이터 공급이 뒷받침되어야 한다"며 "VDPU와 AI 메모리 소프트웨어를 결합한 AI 스토리지를 데이터센터 내 GPU 바로 옆에 배치해, AI 인프라 시장의 새로운 패러다임을 주도할 것"이라고 덧붙였다. 한편, AI 페스타 26은 'AI, 현실이 되다. 모두의 AI'를 주제로 과학기술정보통신부, 한국인공지능·소프트웨어산업협회(KOSA), AI페스타 조직위원회가 주최하는 국내 최대 규모 AI 행사다. 서울 삼성동 코엑스 C홀에서 오는 8일까지 진행된다.

2026.10.07 17:35전화평 기자

"GPU, 시간 단위로 사용하세요"…데이터얼라이언스의 혁신 솔루션

데이터얼라이언스가 기존 대비 최대 90% 경제적인 대규모 그래픽처리장치(GPU) 클라우드 서비스로 인공지능(AI) 시장을 공략한다. 현재 확보한 초기 단계 고객만 300여 곳이다. 데이터얼라이언스는 서울 강남 코엑스에서 6일부터 8일까지 열리는 'AI 페스타 26'에 참가해 GPU 인프라 공유 플랫폼 '지큐브' 성과와 핵심 기술을 소개했다. 지큐브는 기존 대형 클라우드 서비스 제공업체(CSP)의 비싼 고정비용 부담을 해소하기 위해 개발한 GPU 공유 플랫폼이다. 사용자가 원하는 시간만큼 GPU 자원을 켜고 끌 수 있도록 구현했다. 기존 대형 CSP 이용 대비 최대 90% 비용을 아낄 수 있다. 서로 다른 세대와 성능의 GPU를 하나의 통합 자원 풀에서 동시에 운용하는 이기종 GPU 풀링이 핵심 경쟁력이다. RTX 시리즈부터 H100급 GPU까지 통합 관리가 가능하다. 작업 목적과 예산에 맞춰 자원을 유연하게 선택·조합할 수 있다. 지큐브는 "컨테이너 기반 멀티테넌트 GPU 격리 기술을 통해 다수 사용자가 동일 GPU를 동시에 사용하는 경우에도 데이터 보안과 성능 안정성을 지원한다"고 설명했다. 이러한 장점을 무기로 AI 서비스 기업, 연구기관 등 300곳 이상 초기 단계 고객을 확보했다. GPU 공급자도 여러 클라우드 사업자들과 협력하고 있다. 데이터얼라이언스 관계자는 "시간 단위로 GPU 공유 서비스를 지원하는 것이 지큐브의 핵심 경쟁력"이라며 "최신 RTX 시리즈부터 네이버 클라우드, NHN 클라우드 등 주요 파트너사를 통해 엔비디아의 고성능 서버 칩까지 제공 가능하다"고 설명했다. 데이터얼라이언스는 2016년 설립된 AI 인프라 기업이다. 초기에는 스마트시티·사물인터넷(IoT) 기반 데이터 플랫폼 사업을 수행하며 기술력을 축적했다. 국토교통부, 과학기술정보통신부 등 정부 연구개발(R&D) 과제와 실증 사업에 참여하며 공공·민간 영역에서 경험을 쌓았다. 이를 기반으로 AI 컴퓨팅 인프라 분야로 사업을 확장했다.

2026.10.07 09:22장경윤 기자

엠키스코어, AI·HPC 통합 모니터링 플랫폼 'M-OWL' 시연

AI·고성능컴퓨팅(HPC) 인프라와 데이터센터 전문기업 엠키스코어가 AI 인프라 운영의 복잡성을 낮추는 통합 모니터링 플랫폼 'M-OWL'을 'AI 페스타 26'에서 선보였다. 'AI 페스타 26'은 과학기술정보통신부가 주관하는 '인공지능주간(AI WEEK)'의 일환으로 6일부터 8일까지 서울 삼성동 코엑스에서 열리는 B2B AI 전시회다. 6일 오후 행사장 내 전시부스에서 만난 엠키스코어 관계자는 "AI·HPC 운영에서는 GPU부터 쿠버네티스, 스케줄러, 스토리지, 인피니밴드까지 다양한 요소를 모니터링해야 한다"며 "이를 개별적으로 확인하는 데는 한계가 있다"고 설명했다. 이어 "M-OWL은 GPU와 쿠버네티스, 스케줄러, 스토리지, 인피니밴드 네트워크, 냉각 설비를 하나의 화면에서 관리할 수 있는 운영 환경이 필요하다는 문제 의식에서 개발됐다"고 덧붙였다. M-OWL은 엠키스코어가 대규모 AI·HPC 클러스터 구축·운영 경험과 고객 요구사항을 바탕으로 2년간 자체 개발한 솔루션이다. AI·HPC 및 수랭 데이터센터에 최적화된 대시보드와 리포트 기능을 제공한다. 엠키스코어 관계자는 "작업별 CPU/GPU 등 연산자원 활용도와 실행 노드 확인, 전체 자원 요약을 제공한다. 쿠버네티스 환경에서는 워커 노드의 리소스와 버전, 파드(Pod)와 컨테이너, 디플로이먼트 정보를 확인할 수 있도록 했다"고 설명했다. GPU 성능을 극대화하기 위해 주로 쓰이는 AMD 서버용 에픽 프로세서 기반 인피니밴드 네트워크의 연결 구조와 장애 추적도 M-OWL의 주요 기능 중 하나다. 엠키스코어 관계자는 "구축 후 시간이 지나면 어떤 장비가 어떤 스위치에 연결돼 있는지 쉽게 파악하기 어렵다. GPU와 스위치, 워크로드 간 연결 관계를 시각화해 장애가 발생한 장비와 영향을 받을 수 있는 노드를 파악할 수 있도록 했다"고 말했다. 엠키스코어는 GPU 서버의 고집적·고발열 환경에 대응하기 위한 수랭식 시스템 '아쿠아엣지(AQUAEdge)'도 공급하고 있다. M-OWL은 냉수 공급·환수 온도와 냉각수 분배장치(CDU) 상태, GPU 서버 온도도 대시보드에 표시한다. 엠키스코어 관계자는 "HPC 클러스터와 데이터센터를 운영한 노하우를 살려 실무자들이 반드시 참조해야 하는 데이터를 대시보드에 집약했다"며 "GPU·서버·스토리지·네트워크·냉각 설비를 통합 관리해 인프라 운영의 복잡성을 덜어주는 것이 가장 큰 의의"라고 강조했다.

2026.10.07 09:14권봉석 기자

하정우 부위원장 "AI 모델만 잘해선 3강 못 간다…생태계 전체 키워야"

하정우 국가인공지능전략위원회 부위원장이 한국이 인공지능(AI) 3강으로 도약하려면 AI 모델 경쟁을 넘어 전력과 반도체, 데이터센터, 산업 AI, 피지컬 AI까지 전체 생태계의 경쟁력을 함께 키워야 한다고 강조했다. 하 부위원장은 6일 서울 코엑스에서 열린 'AI 페스타 2026' AI산업정책토크쇼에서 전력과 AI 반도체, 그래픽처리장치(GPU), 데이터센터 등 기반 인프라부터 AI 에이전트와 피지컬 AI까지 이어지는 경쟁력을 확보해야 한다고 밝혔다. 국내 AI 기업이 성장할 수 있도록 공공이 제품과 서비스를 먼저 구매해 초기 시장을 만드는 방향도 제시했다. 이날 행사는 당초 30~40분 강연으로 예정됐지만 현장 질의응답 중심으로 진행됐다. 하 부위원장은 기존 강연은 온라인에서도 충분히 접할 수 있는 만큼 AI 기업들이 현장에서 겪는 어려움과 국가 전략에 대한 의견을 직접 듣기 위해 토크쇼 형식을 요청했다고 설명했다. 하 부위원장은 지난해까지 부족한 GPU 등 AI 인프라를 확보하는 데 정책의 우선순위를 뒀다면 앞으로는 이를 실제 산업 성과로 연결해야 한다고 봤다. 국내에서 사용 실적을 만들고 민간과 해외 시장으로 확산시키는 단계로 넘어가야 한다는 설명이다. "AI 3강, 모델만으론 안 돼"…전력부터 피지컬 AI까지 하 부위원장은 AI 경쟁력을 특정 모델 하나의 성능만으로 판단해서는 안 된다고 말했다. AI 산업을 떠받치는 가장 아래에는 전력이 있다. 안정적인 전력 공급이 이뤄져야 메모리 반도체와 AI 반도체, GPU, 데이터센터 등 컴퓨팅 인프라를 운영할 수 있고 그 위에서 소프트웨어와 AI 에이전트가 산업 현장으로 확산될 수 있다는 설명이다. 하 부위원장은 로봇과 드론, 자율주행차처럼 실제 공간에서 움직이는 피지컬 AI까지 경쟁력을 확보해야 한다고 밝혔다. 데이터센터 역시 단순히 서버를 운영하는 시설이 아니라 AI 연산을 통해 지능을 생산하는 '토큰 팩토리'로 발전시켜야 한다고 제시했다. 지난해 정부가 GPU 확보에 집중한 이유도 설명했다. 하 부위원장은 당시 국내 기업과 대학 연구실이 AI 모델을 학습할 컴퓨팅 자원이 부족해 우선 병목부터 해결할 필요가 있었다고 했다. 정부가 GPU를 확보해 스타트업과 대학 등에 공급한 것도 이런 배경에서 추진됐다. 다만 GPU를 많이 확보하는 것만으로는 부족하다고 봤다. 특정 해외 기술에 지나치게 의존하면 공급망 위험이 커질 수 있는 만큼 국내 AI 반도체 기업의 기술력을 높이고 실제 수요처까지 만들어줘야 한다고 강조했다. 하 부위원장은 공공이 국산 AI 반도체와 솔루션의 초기 고객 역할을 하는 방안도 제시했다. 국내에서 실제 사용 사례를 확보해야 제품 성능을 검증할 수 있고, 이를 해외 시장 진출을 위한 실적으로 활용할 수 있다는 판단이다. 국가 AI 전략의 실행 주체로는 기업과 스타트업, 연구자를 꼽았다. 정부가 전략을 세우더라도 기술은 논문에 머무르지 않고 산업 현장의 생산성과 경제적 성과로 이어져야 한다는 게 그의 설명이다. 지역 산업의 AI 전환과 이를 이끌 인재 양성도 함께 추진해야 할 과제로 제시했다. "정부가 첫 구매자 돼야"…지원 넘어 시장 만들어야 질의응답에서는 정부 지원이 줄어든 뒤에도 국내 AI 생태계가 지속 성장할 방안에 관한 질문이 나왔다. 하 부위원장은 정부가 예산을 투입해 기술 경쟁력을 끌어올릴 수는 있지만 지원이 끝난 뒤에도 기업이 성장할 수 있느냐가 더 큰 문제라고 진단했다. 결국 기업이 만든 제품과 서비스가 시장에서 실제로 팔리는 구조를 만들어야 한다는 설명이다. 이를 위한 방법으로 공공의 '첫 구매자' 역할을 제시했다. 정부와 공공기관이 국내 AI 제품과 서비스를 먼저 사용해 초기 수요를 만들고 기업이 매출과 실적을 확보하도록 돕는 방식이다. '모두의 AI'도 사례로 들었다. 정부가 AI 서비스 이용료를 지원하면 예산이 애플리케이션 기업에만 머무르지 않고 응용프로그램 인터페이스(API)와 모델컨텍스트프로토콜(MCP) 제공 기업, 파운데이션 모델 개발사, 인프라와 데이터센터 운영사까지 이어질 수 있다고 설명했다. 하 부위원장은 이 과정에서 여러 기업이 경쟁할 수 있는 구조도 중요하다고 봤다. 특정 기업에 수요가 집중되는 방식보다 애플리케이션과 모델, 인프라 등 각 영역에서 다양한 기업이 참여할 수 있어야 AI 생태계 전체로 기회가 돌아갈 수 있다는 것이다. 공공 시장은 해외 진출을 위한 첫 실적을 만드는 역할도 한다. 국내 기관에서 제품과 서비스를 사용하면 기업은 실제 적용 사례를 확보하고 이를 해외 고객에게 제시할 수 있다. GPU와 데이터센터를 활용한 새로운 투자 방식도 제시했다. 하 부위원장은 "최근 해외에서 GPU를 담보로 자금을 조달하는 등 컴퓨팅 자원 자체가 자본의 역할을 하기 시작했다"며 "대규모 데이터센터와 민간 자본을 연결하는 제도도 검토할 필요가 있다"고 말했다. 이어 "작년에는 인프라가 워낙 부족했기 때문에 인프라부터 진행했다"며 "이제 어느 정도 기술 수준이 올라오면 공공이 먼저 물건을 사주면서 첫 시장이 돼주고, 레퍼런스가 쌓여 민간으로 확산되게 도와주는 로드맵이 필요하다"고 밝혔다.

2026.10.06 18:28김동원 기자

GPU에서 NPU까지…클러쉬, AI칩 혼용 시대 겨냥

인공지능(AI) 인프라 기업 클러쉬가 GPU부터 NPU까지 서로 다른 연산 자원을 하나의 플랫폼에서 통합 운영하는 기술을 앞세워 기업용 AI 인프라 시장 공략에 나섰다. AI 연산 수요가 커지면서 기업이 다양한 종류와 세대의 가속기를 함께 사용하는 환경이 늘어날 것으로 보고, 이미 확보한 고가 장비 활용률을 높이는 데 초점을 맞췄다. 클러쉬는 6일 'AI 페스타 26'에서 AI 인프라 플랫폼 'AXLEON'을 선보였다. AXLEON은 GPU·NPU·CPU와 여러 클러스터를 하나의 제어 환경에서 관리하는 플랫폼이다. 쿠버네티스 표준을 기반으로 제조사나 종류가 다른 연산 자원을 단일 API로 통합해 운영할 수 있도록 설계됐다. 클러쉬가 주목하는 것은 기업 AI 인프라의 파편화다. 기업들이 처음부터 동일한 GPU로 대규모 팜을 구축하기보다 투자 시점과 수요에 따라 여러 세대 장비를 순차적으로 도입하면서 하나의 데이터센터 안에서도 다양한 GPU가 섞이는 경우가 많다는 설명이다. 클러쉬 관계자는 "같은 엔비디아 제품이라도 A100 몇 장, H100·H200 몇 장, B300 몇 장 식으로 그때그때 도입해 사용하는 경우가 있다"며 "이런 이기종 자원을 하나의 플랫폼에서 운영하면서 낭비되는 부분을 줄일 수 있다는 것이 가장 큰 장점"이라고 말했다. 가의 GPU를 추가 구매하기 전에 현재 보유한 자원을 최대한 활용하자는 게 AXLEON의 핵심 전략이다. 여러 곳에 흩어진 연산 자원을 하나의 풀로 묶고 작업 상황에 맞춰 배치해 유휴 GPU를 줄이는 방식이다. AXLEON은 GPU 동적 스케줄링과 자원 최적화를 지원한다. 회사가 현장에서 공개한 자료에 따르면 AI 모델의 학습 종료 시점을 예측해 대기 중인 작업을 선제적으로 배치하고, 유휴 GPU를 회수해 활용하는 방식으로 GPU 가동률 85% 이상을 목표로 한다. 클러쉬 관계자는 "GPU 장비는 워낙 많은 비용이 투입되다 보니 고객 입장에서도 한꺼번에 대규모 팜을 구축하기 쉽지 않다"며 "투자한 장비에서 노는 영역을 줄여 최대한 효율적으로 사용할 수 있도록 하는 방향으로 제품을 만들었다"고 설명했다. 지원 대상도 GPU에 국한되지 않는다. AXLEON은 GPU와 NPU, CPU를 같은 운영 체계 안에서 관리할 수 있다. 특히 AI 추론 시장을 중심으로 NPU 등 GPU 이외의 가속기 활용이 확대될 경우 기업이 워크로드에 따라 서로 다른 연산 자원을 조합하는 환경에도 대응할 수 있다는 설명이다. AXLEON은 AI 서버와 반도체 자원 관리뿐 아니라 모델 학습·배포, 데이터 관리, 장애 대응, 보안, AI 에이전트 운영까지 AI 인프라 전반을 하나의 플랫폼에서 관리할 수 있도록 했다. 클러쉬는 대규모 AI 인프라 사업을 통해 관련 레퍼런스도 확대하고 있다. 삼성SDS가 주도하는 국가AI컴퓨팅센터 구축 사업 컨소시엄에 참여한 유일한 중소기업으로, GPU 자원 관리와 오케스트레이션 기술을 담당한다. 기업공개(IPO) 준비에도 속도를 내고 있다. 클러쉬는 현재 기술성 평가 절차를 진행 중이며 AXLEON의 GPU 운영 플랫폼을 핵심 기술로 내세우고 있다. 회사는 내년 증시 입성을 목표로 상장 준비를 이어가고 있다. 현장에서도 기술성 평가가 진행 중이라고 밝혔다.

2026.10.06 16:53류은주 기자

한준호 의원 "독파모·프론티어 AI, GPU·예산 중복 투입 막아야"

정부가 독자 인공지능(AI) 파운데이션 모델(독파모)과 프론티어 AI 사업을 동시에 추진하는 가운데, 두 사업에 그래픽처리장치(GPU)와 예산이 중복 투입되지 않도록 지원 체계를 명확히 해야 한다는 지적이 나왔다. 한준호 더불어민주당 의원은 6일 국회 과학기술정보방송통신위원회의 과학기술정보통신부 국정감사에서 "독파모에서 축적된 기술이나 인적 자원은 잘 활용하되 동일 개발 과정에 있는 GPU와 예산 중복 등은 막아야 한다"고 말했다. 정부가 기존 독파모와 별도로 글로벌 최상위 수준의 AI 모델 개발을 목표로 프론티어 AI 사업을 추진하면서 두 사업에 투입되는 컴퓨팅 자원을 어떻게 구분할지가 과제로 떠오른 데 따른 지적이다. 한 의원은 독파모를 통해 확보한 기술과 인력은 프론티어 AI 개발에 연계하면서도 GPU와 예산 등 정부 지원이 중복되지 않도록 해야 한다는 점을 짚었다. 이에 배경훈 부총리 겸 과기정통부 장관은 "독파모의 역량이 프런티어 모델 AI 개발로 이어지는 것이지, 그것이 하나의 사업은 아니다"라고 답했다. 정부는 독파모 3차 평가 역시 예정대로 진행한다는 방침이다. 배 부총리는 기존 독파모에 제공하기로 한 GPU만으로 글로벌 최고 수준의 AI에 도달하는 데에는 한계가 있었다고 설명했다. 다만 이를 독파모 사업 자체의 실패로 볼 수는 없다는 입장이다. 프론티어 AI 사업은 과학 난제와 사이버 안보 등 보다 높은 수준의 문제 해결을 목표로 별도 추진될 방침이다. 정부는 관련 사업에 책정된 4조 6000억원만으로 프론티어 AI 모델 개발 목표를 달성하기에는 충분하지 않을 수 있다고 보고 민간 출자 방식 등도 검토 중이다. 배 부총리는 "과학의 난제, 사이버 안보 이런 정도 수준의 문제를 풀기 위해선 더 높은 수준의 도전이 필요하다"며 "프론티어 모델도 잘 계획해서 추진할 수 있도록 하겠다"고 밝혔다.

2026.10.06 16:49한정호 기자

AI 개발의 기초는 하드웨어…유클릭스, AI 인프라 구축 지원

유클릭스가 6일 서울 코엑스에서 열린 'AI 페스타 2026'에서 엔비디아의 인공지능(AI) 서버를 전시하고 AI 개발에 필요한 인프라 구축 지원 서비스를 소개했다. GPU 서버 공급부터 설치 지원, 기존 전산 환경을 고려한 컨설팅까지 제공한다는 점을 알리는 데 초점을 맞췄다. 이날 유클릭스에 따르면 회사는 엔비디아의 '엘리트 파트너'로 고객에게 서버를 공급하고 설치와 기술 지원을 제공한다. 엔비디아 제품뿐 아니라 엔비디아 GPU를 탑재한 다른 제조사의 서버도 고객 수요에 맞춰 제안한다. 이번 부스의 핵심 전시 장비는 'DGX B300'이다. GPU 8개를 탑재했으며 GPU당 고대역폭메모리(HBM) 용량은 288GB다. 전체 용량은 약 2.3TB다. 대규모 언어모델(LLM)의 학습과 추론에 활용하는 장비다. 현장에서는 서버 내부에 들어가는 GPU 트레이를 꺼내 장비 구성을 볼 수 있도록 전시했다. 관람객이 내부 구성과 트레이가 본체에 결합되는 구조를 살펴볼 수 있도록 했다. 유클릭스는 장비 공급과 함께 고객이 실제로 AI를 개발할 수 있는 환경을 구축하는 역할을 강조했다. 서버 도입에 앞서 기존 인프라와의 연결 방식, 필요한 전력량, 네트워크 구성 등을 함께 검토해야 한다는 설명이다. 고객의 활용 목적과 예산, 현재 사용하는 장비를 파악해 적합한 GPU와 서버 구성을 제안한다. 유클릭스 관계자는 “AI 개발에 필요한 인프라 환경을 구축해주는 곳으로 보면 된다”며 “장비를 공급하고 고객이 사용할 수 있도록 설치를 지원하는 부분에 초점을 맞춰 전시에 참여했다”고 말했다. AI 페스타 2026은 과학기술정보통신부가 주최하고 한국인공지능·소프트웨어산업협회(KOSA)와 AI페스타조직위원회가 주관하는 인공지능주간 공식 행사다. 올해 행사는 6일부터 8일까지 사흘간 서울 코엑스 C홀에서 열린다. 국내외 AI 기업·기관 약 350개사가 참여해 500여개 부스를 운영하며 AI 코어, 에이전틱 AI, 피지컬 AI, AI 보안, 국방 AI, AI 반도체 등 다양한 기술과 산업 적용 사례를 선보인다.

2026.10.06 16:47김민아 기자

에스넷시스템, 델과 AI 인프라 사업 키운다…포트폴리오 강화

에스넷시스템이 델 테크놀로지스의 그래픽처리장치(GPU) 서버와 소프트웨어 정의 스토리지를 앞세워 인공지능(AI) 인프라 사업 확대에 나선다. 에스넷시스템은 고성능 GPU 서버와 '델 파워플렉스(PowerFlex)'를 중심으로 컴퓨팅·스토리지 사업을 확대한다고 6일 밝혔다. 회사 측에 따르면 올해 상반기 별도 기준 매출이 전년 동기 대비 약 2배 증가한 가운데, 델 관련 사업의 성장세가 실적 확대를 견인했다. 생성형 AI가 실제 업무와 서비스에 적용되면서 최근 기업 인프라 수요도 변화하고 있다. AI 활용에는 GPU 등 고성능 컴퓨팅 자원뿐 아니라 데이터베이스(DB), 가상화·컨테이너, 기존 업무 애플리케이션 등 다양한 워크로드를 안정적으로 운영하고 수요에 따라 자원을 확장할 수 있는 인프라가 필요한 상황이다. 에스넷시스템은 이에 맞춰 델 서버와 스토리지를 아우르는 인프라 사업을 강화 중이다. 고성능 GPU 서버를 통해 AI 컴퓨팅 사업 기반을 넓히고 스토리지 영역에선 파워플렉스를 중심으로 소프트웨어 정의 인프라(SDI) 사업을 확대한다. 파워플렉스는 소프트웨어 기반으로 스토리지 자원을 구성하고 컴퓨팅과 스토리지를 독립적으로 확장할 수 있는 솔루션이다. DB와 가상화, 컨테이너 등 다양한 엔터프라이즈 워크로드를 지원해 기존 IT 환경을 유지하면서 필요한 인프라를 유연하게 확장하도록 지원한다, 에스넷시스템은 주요 엔터프라이즈 고객의 파워플렉스 증설과 인프라 고도화 수요가 이어지면서 관련 사업도 성장세를 보이고 있다고 설명했다. 회사는 초기 델 브이엑스레일(VxRail) 사업부터 쌓은 가상화 인프라 경험과 파워플렉스 전문인력을 기반으로 사업 범위를 넓히고 있다. 고객의 기존 인프라와 워크로드 분석부터 기술검증(PoC)·벤치마크테스트(BMT), 아키텍처 설계·구축, 운영과 기술지원까지 전 과정을 지원한다. 에스넷시스템 관계자는 "단순 제품 공급을 넘어 고객 환경에 최적화된 컴퓨팅·스토리지 인프라를 설계하고 구축하는 것이 우리 경쟁력"이라며 "GPU 서버와 파워플렉스를 중심으로 델 사업 확대에 속도를 내겠다"고 밝혔다.

2026.10.06 16:05한정호 기자

"GPU 더 사지 마세요"…아크릴, 놀리는 자원 줄여 AI 비용 낮춘다

생성형 인공지능(AI) 확산으로 고가의 그래픽처리장치(GPU) 확보 경쟁이 치열해지는 가운데 AI 전문기업 아크릴이 기존 GPU 자원의 활용률을 높여 인프라 비용을 줄이는 전략을 제시했다. GPU를 추가 구매하기보다 흩어진 자원을 하나로 묶고 작업별로 필요한 만큼 자동 배치해 유휴 자원을 최소화한다는 구상이다. 아크릴은 6일 서울 코엑스에서 열린 'AI 페스타 2026'에서 AI 인프라 오케스트레이션 플랫폼 'GPUBASE'를 선보였다. GPUBASE는 여러 서버에 분산된 GPU를 하나의 자원 풀처럼 관리하고, 각 워크로드에 필요한 자원을 배분해 GPU 활용률을 높이는 솔루션이다. 아크릴 관계자는 "회사 환경에 나눠져 있는 GPU를 하나의 서버처럼 취급한 뒤 워크로드에 맞춰 배치해 가능한 한 남는 자원 없이 활용하는 것이 목표"라고 설명했다. 아크릴은 기업들이 실제 필요한 수준보다 많은 GPU 자원을 잡아두면서 장비가 놀게 되는 문제가 적지 않다고 보고 있다. GPUBASE는 AI를 활용해 각 작업에 필요한 GPU 성능과 자원량을 예측한 뒤 적합한 GPU에 자동 배치한다. 이를 통해 필요 이상으로 자원을 할당하는 '오버 프로비저닝'을 줄일 수 있다는 설명이다. 네트워크 최적화 기능도 차별점으로 내세웠다. 특정 경로에 트래픽이 몰릴 경우 이를 감지해 다중 경로로 분산하고, 작업별 우선순위에 따라 트래픽을 처리하도록 지원한다. 아크릴 관계자는 “한 경로에만 트래픽이 몰려 과부하가 발생하지 않도록 하고 우선순위가 높은 작업을 먼저 처리하는 것이 회사가 주력으로 내세우는 기술”이라고 말했다. 이기종 가속기 통합도 지원한다. GPU뿐 아니라 다양한 가속기 자원을 한데 묶어 하나의 인프라처럼 관리하고 필요에 따라 나눠 사용할 수 있도록 하는 방식이다. 아크릴은 이를 통해 특정 GPU나 서버에 자원이 묶이지 않고 전체 인프라를 보다 탄력적으로 운영할 수 있다고 설명했다. 아크릴에 따르면 일반적인 GPU 평균 가동률은 50~60% 수준인 반면 GPUBASE를 적용한 자체 실증 환경에서는 실효 가동률이 최대 93%까지 높아졌다. 회사는 GPU 100장을 보유한 환경을 가정할 경우 실제 가동되는 자원이 60장 수준에서 최대 93장 수준으로 늘어나는 효과를 기대할 수 있다고 강조했다. 다만 해당 수치는 아크릴 자체 실증 및 회사가 인용한 업계 평균치를 기준으로 한 것이다. 아크릴은 올해 GPUBASE 확산에 사업 역량을 집중할 계획이다. 아크릴은 지난해 GPUBASE 기술을 기반으로 기술특례 상장했으며 관련 기술 연구개발도 지속하고 있다. 현재 의료기관을 비롯한 고객사에 관련 AI 솔루션을 공급하고 있으며 다른 기업들과도 도입 논의를 이어가고 있다. 아크릴 관계자는 "현재 다른 기업들과도 꾸준히 미팅을 진행 중"이라고 밝혔다.

2026.10.06 16:05류은주 기자

NHN클라우드, 국내 1위 슈퍼컴 전면에…'팩토리X'로 AI 인프라 공략

NHN클라우드가 대규모 그래픽처리장치(GPU) 인프라를 기반으로 기업과 공공기관의 인공지능(AI) 도입 지원에 박차를 가한다. GPU 인프라 구축·운영부터 자원 관리, AI 에이전트 개발까지 아우르는 풀스택 환경을 앞세워 AI 인프라 사업을 확대한다는 목표다. NHN클라우드는 6일 서울 코엑스에서 열린 'AI페스타 2026'에서 AI 풀스택 브랜드 'NHN 팩토리X'를 중심으로 GPU 인프라와 GPU라이브, 에이전트 스튜디오 등을 선보였다. 팩토리X는 NHN클라우드가 지난 5월 선보인 AI 풀스택 브랜드다. 회사가 지난 7년간 쌓아온 GPU 운영 경험을 바탕으로 AI 인프라 구축부터 AI 서비스 개발·운영까지 지원하는 것이 특징이다. 이번 전시에선 서울 영등포구 양평동 AI 데이터센터 'NHN 팩토리X 서울'에 구축한 대규모 GPU 인프라를 소개했다. 이곳에는 엔비디아 B200 GPU 4080장으로 구성된 단일 클러스터가 구축돼 있으며 글로벌 슈퍼컴퓨터 성능 순위 '톱500'에서 국내 1위, 세계 20위에 올랐다. GPU 자원의 활용 현황을 관리할 수 있는 GPU라이브도 전면에 내세웠다. GPU라이브는 고객이 확보한 GPU 자원의 사용 현황을 확인하고 효율적으로 운영할 수 있도록 지원하는 자체 개발 솔루션이다. 현장에서 만난 NHN클라우드 관계자는 "GPU를 임대해 사용하는 고객 가운데 확보한 자원을 충분히 활용하지 못하는 경우가 많다"며 "GPU라이브를 통해 자원을 얼마나 효율적으로 사용하고 있는지 확인하고 관리할 수 있다"고 설명했다. AI 에이전트 개발·운영을 지원하는 에이전트 스튜디오와 필요한 만큼 GPU 자원을 활용할 수 있는 서비스형 GPU(GPUaaS)도 함께 전시했다. GPU 인프라 공급에 그치지 않고 자원 운영과 실제 AI 서비스 개발까지 지원 범위를 넓힌다는 전략이다. NHN클라우드는 GPU 컴퓨팅뿐 아니라 이를 뒷받침하는 데이터센터 전력과 냉각, 네트워크까지 직접 구축·운영해온 경험을 팩토리X에 집약했다. AI 인프라부터 서비스 개발·운영까지 하나의 체계에서 제공해 고객이 필요한 환경에 맞춰 AI를 도입할 수 있도록 지원한다. 기업과 금융뿐 아니라 공공기관도 주요 고객으로 보고 있다. NHN클라우드는 클라우드보안인증(CSAP)과 정보보호 및 개인정보보호 관리체계(ISMS-P) 등을 기반으로 정부·공공기관에 필요한 AI 인프라 설계·구축 역량을 확대 중이다. 현장 부스에는 팩토리X의 주요 기술과 서비스를 직접 확인할 수 있는 체험 공간도 마련했다. GPU라이브 체험존에선 GPUaaS와 에이전트 스튜디오의 주요 기능을 소개했으며 별도 키오스크를 통해 팩토리X의 특징과 AI 인프라 관련 내용을 확인할 수 있도록 구성했다. 김동훈 NHN클라우드 대표는 "이번 AI페스타에서 글로벌 경쟁력을 갖춘 대규모 GPU 인프라를 비롯해 AI 서비스 개발·운영까지 지원하는 NHN 팩토리X의 기술과 서비스를 선보였다"며 "기업과 공공기관이 AI를 안정적으로 도입하고 활용할 수 있도록 지원해온 우리 AI 인프라 역량을 널리 알릴 수 있는 자리"라고 밝혔다.

2026.10.06 15:12한정호 기자

AI 승부, GPU만으론 안 된다…클라우드 빅테크 한자리에

인공지능(AI) 인프라 경쟁의 무게중심이 그래픽처리장치(GPU) 확보에서 AI 데이터센터(AIDC)와 클라우드·플랫폼을 결합한 서비스 경쟁으로 이동하고 있다는 분석이 나왔다. AI 활용이 학습에서 추론과 에이전트로 확대되는 만큼 전력·냉각·네트워크뿐 아니라 실제 AI 서비스를 안정적으로 운영할 수 있는 소프트웨어 역량까지 갖춰야 한다는 제언이다. 공용준 KT클라우드 전무는 1일 서울 양재 엘타워에서 열린 'AI-클라우드 빅테크 2026'에서 "현재 AI 인프라의 가장 큰 병목은 데이터센터와 전력"이라며 "GPU를 확보하는 것만으론 AI 서비스를 구현하기 어려운 만큼 클라우드와 플랫폼까지 함께 갖춰야 한다"고 강조했다. 공 전무는 최근 AI 인프라 시장의 병목이 GPU에서 데이터센터로 이동하고 있다고 진단했다. GPU 공급 상황은 개선되고 있지만 데이터센터를 구축하는 데 최소 2~3년이 걸리는 만큼 GPU를 확보하기에 앞서 데이터센터 용량을 선점하려는 움직임이 나타나고 있다는 설명이다. AIDC의 경쟁 기준도 달라질 것으로 전망했다. 단순히 전력과 GPU를 확보하는 데 그치지 않고 AI 서비스를 위한 클라우드와 운영 플랫폼, 네트워크, 안정성 등을 함께 갖춰야 한다는 것이다. AI 서비스가 일상과 기업 업무에 깊숙이 들어오면서 장애 대응과 GPU 스케줄링, 서비스 모니터링 등 운영 역량의 중요성도 커지고 있다. 공 전무는 "AI 서비스가 우리 삶의 한 축으로 자리 잡으면서 기존 IT에서 중요했던 서비스 연속성도 중요해지고 있다"며 "GPU를 효율적으로 스케줄링하고 AI 서비스를 모니터링하는 것은 물론 장애에 대비한 복구 체계까지 마련해야 한다"고 말했다. 박운영 HPE 상무는 AI 시장이 학습 중심에서 추론과 실제 서비스 적용 단계로 이동하면서 기업의 인프라 구축 방식도 달라질 것으로 내다봤다. 기업들이 더 많은 GPU를 확보하는 것보다 AI를 실제 서비스에 적용하고 투자 대비 성과를 만드는 방안을 고민해야 할 시점이라는 설명이다. 특히 에이전틱 AI 확산에 따라 토큰 사용량과 비용 부담이 늘면서 퍼블릭 클라우드에서 시작한 AI 워크로드 일부를 온프레미스나 하이브리드 환경으로 옮기려는 수요가 늘어날 것으로 전망했다. 기업 데이터 보호와 AI 주권에 대한 요구 역시 프라이빗 AI 인프라 수요를 키우는 요인으로 꼽았다. 박 상무는 "이제는 더 많은 GPU를 사야 할지를 고민하기보다 AI를 어떻게 실제 양산에 적용할 수 있을지, 무엇이 문제인지 살펴봐야 할 시점"이라며 "AI에 투자한 비용을 실제 성과로 연결하는 것이 중요해지고 있다"고 말했다. 네이버클라우드도 추론 수요 확대가 AIDC와 AI 팩토리 시장의 성장을 이끌 것으로 전망했다. 김지훈 네이버클라우드 이사는 대규모 GPU 수요가 과거 AI 모델 학습을 중심으로 발생했다면, 최근에는 실제 서비스를 위한 추론 영역으로 빠르게 확대되고 있다고 밝혔다. AI 에이전트와 피지컬 AI 확산까지 더해지면서 AIDC 수요가 일시적인 흐름에 그치지 않을 것이라는 관측이다. 네이버클라우드는 이를 겨냥해 엔비디아와 AI 팩토리 사업을 확대할 계획이다. 대규모 GPU와 고속 네트워크를 제공하는 AI 클라우드 역량에 기존 클라우드의 인증·네트워크·스토리지와 AI 모델·서비스 운영 경험을 결합한다는 전략이다. 글로벌 AI 기업에는 대규모 전용 인프라를, 국방·금융 등 보안 요구가 높은 분야에는 폐쇄형 클라우드 환경을 제공하는 방식이다. 김 이사는 "AI 팩토리는 국가 전체의 AI 수요를 감당하고 경제·산업·사회 전반에 필요한 지능을 대규모로 생산하는 핵심 인프라"라며 "AI 팩토리를 확보했는지, 누가 그 주도권을 갖고 있는지가 한 나라의 경쟁력을 좌우할 것"이라고 강조했다.

2026.10.01 14:16한정호 기자

이노그리드, 중소벤처기업연구원 AI 분석환경 구축…가상화·GPU 통합

이노그리드가 기존 가상화 인프라와 그래픽처리장치(GPU)를 하나의 체계에서 운영할 수 있는 인공지능(AI) 분석 환경을 구축했다. 단순히 GPU를 추가하는 데 그치지 않고 기존 IT 인프라를 AI 워크로드까지 확장할 수 있는 구조를 구현해 기업·공공의 AI 인프라 전환 시장 공략에 나선다는 목표다. 이노그리드는 자체 프라이빗 클라우드 플랫폼 '오픈스택잇'과 클라우드 관리 플랫폼 '탭클라우드잇'을 기반으로 중소벤처기업연구원의 'GPU 기반 AI 빅데이터 분석 인프라 구축' 사업을 완료했다고 1일 밝혔다. 이번 사업을 통해 중소벤처기업연구원의 중소기업 빅데이터 플랫폼(SIMS) 분석 환경은 기존 폐쇄형 온프레미스와 물리 PC 중심 구조에서 클라우드 기반 자원 체계로 전환됐다. 고급 분석 모델 개발에 필요한 고성능 GPU 연산 환경도 함께 구축됐다. 핵심은 GPU를 가상화 자원으로 활용할 수 있도록 한 것이다. GPU를 장착한 가상머신(VM)에서 AI 빅데이터 분석을 수행하고 고성능 연산이 필요한 경우 여러 GPU를 결합한 개발용 VM을 활용할 수 있도록 설계했다. GPU 자원은 VM 단위로 할당한다. 분석 과제의 성격과 규모에 따라 필요한 자원을 유연하게 배분할 수 있도록 구성했다. 호스트와 가상서버 단위의 자원 상태를 실시간으로 확인하고 사용 추세를 바탕으로 증설 시점을 예측할 수 있는 모니터링 체계도 적용했다. 이노그리드는 이번 구축 구조를 기존 가상화 환경을 AI 인프라로 확장하는 기반으로 활용할 계획이다. VM웨어 등 외산 가상화 환경을 전환하려는 고객이 기존 VM 워크로드를 프라이빗 클라우드로 옮긴 뒤 멀티·하이브리드 클라우드와 GPU 기반 AI 워크로드까지 하나의 체계에서 운영하도록 지원한다는 구상이다. 최근 AI 인프라 시장의 관심이 GPU 확보에서 확보한 자원을 얼마나 효율적으로 활용하느냐로 확대되는 점도 겨냥했다. 업무용 가상화 환경과 AI 연산 환경을 별도로 운영하는 대신 하나의 관리 체계에서 자원을 배분·제어해 기존 IT 인프라와 AI 인프라 간 단절을 줄이는 방식이다. 이같은 전략은 이노그리드가 추진하는 '프롬 xPU 투 AI 플랫폼(From xPU to AI Platform)' 기술 비전과도 연결된다. GPU뿐 아니라 신경망처리장치(NPU), 중앙처리장치(CPU), 양자처리장치(QPU) 등 다양한 xPU 인프라를 AI 개발·학습·배포·운영 환경까지 단일 컨트롤 플레인으로 연결·제어하는 것이 핵심이다. 이노그리드는 이를 바탕으로 기존 가상화 인프라 현대화에서 멀티·하이브리드 클라우드, GPU 기반 AI 워크로드로 이어지는 확장 구조를 고도화할 계획이다. 고객이 기존 IT 인프라를 모두 교체하지 않고도 필요한 시점과 규모에 맞춰 AI 인프라를 단계적으로 확대할 수 있도록 지원한다는 목표다. 김명진 이노그리드 대표는 "가상화 전환과 GPU 도입을 별개의 과제가 아니라 하나의 체계 안에서 다뤄야 AI 인프라를 효율적으로 확장할 수 있다"며 "이번 사업은 가상화 인프라와 GPU 자원을 한 체계에서 운영하는 구조를 국산 클라우드 플랫폼으로 구현한 사례"라고 말했다. 이어 "기존 인프라 현대화부터 xPU 자원과 AI 개발·운영 환경까지 하나로 잇는 기술 체계를 고도화해 고객이 기존 인프라를 바탕으로 AI 인프라를 넓혀갈 수 있도록 하겠다"고 덧붙였다.

2026.10.01 13:39한정호 기자

노타, 멀티모달 AI도 경량화…GPU 메모리 47% 절감

노타의 멀티모달 인공지능(AI) 모델 최적화 기술이 세계적인 AI 학술대회에 채택되며 기술력을 인정받았다. 노타는 멀티모달 AI 모델의 성능 저하를 최소화하면서 그래픽처리장치(GPU) 메모리 사용량을 낮추는 연구 논문이 세계적인 AI 학술대회 '뉴립스(NeurIPS) 2026' 메인트랙에 채택됐다고 1일 밝혔다. 채택 논문은 '멀티모달 대규모 언어모델을 위한 모달리티 인지 전문가 프루닝(Modality-Aware Expert Pruning for MoE-Based Multimodal Large Language Models)'이다. 이번 연구는 텍스트와 이미지 등 다양한 정보를 함께 처리하는 멀티모달 AI에 맞춰 '전문가 프루닝' 기술을 고도화한 것이다. 전문가혼합(MoE) 모델에서 일부 전문가 모듈을 제거할 때 언어와 이미지 이해 능력을 함께 고려해 모델 성능과 구동 효율을 균형 있게 확보하는 것이 핵심이다. 성능 평가에서는 약 310억 파라미터 규모의 멀티모달 모델에서 전문가 모듈을 25% 제거했을 때 원본 성능의 98%를 유지했다. 전문가 모듈을 50% 제거한 경우에도 91%의 성능을 유지했으며 GPU 메모리 사용량은 58기가바이트(GB)에서 31GB로 약 47% 줄었다. 40GB 메모리를 갖춘 GPU 한 장으로도 모델을 구동할 수 있는 수준을 확보했다고 노타는 설명했다. 이는 최신 AI 모델을 도입할 때 고사양 GPU를 추가하는 대신 소프트웨어 최적화를 통해 기존 AI 인프라의 활용도를 높일 수 있다는 의미다. 모델 구동에 필요한 메모리를 줄이면 같은 GPU 자원에서 활용할 수 있는 모델의 범위를 넓히거나 여유 자원을 다른 모델과 서비스에 배분할 수 있다. 노타는 이번 기술을 자사의 AI 최적화 플랫폼 '넷츠프레소'에 반영해 멀티모달과 MoE 모델 지원 역량을 강화할 계획이다. 텍스트 중심에서 이미지와 영상, 음성 등을 함께 처리하는 멀티모달 AI 모델로 시장이 확대되는 만큼 넷츠프레소의 지원 모델과 고객 적용 범위도 넓힌다는 구상이다. 노타는 '키미 K3'와 '솔라 오픈 2' 등 초거대 모델에 전문가 프루닝을 적용하며 최적화 경험을 축적해 왔다. 올해 ICLR와 EMNLP, ICML에 이어 NeurIPS에서도 연구 성과를 인정받았다. 채명수 노타 대표는 "초거대 언어모델에서 축적해 온 최적화 역량을 멀티모달 AI까지 확대하는 중으로 최신 연구 성과를 넷츠프레소에 지속적으로 반영하고 있다"며 "AI 모델이 커지고 복잡해질수록 기업이 보유한 GPU와 AI 인프라를 보다 효율적으로 활용할 수 있도록 지원하는 최적화 기술의 가치도 커질 것"이라고 말했다.

2026.10.01 11:27이나연 기자

Prev 1 2 3 4 5 6 7 8 9 10 Next