[유미's 픽] GPU 다음은 국산 NPU…IT서비스 빅2, AI 추론 인프라 키운다
국내 IT서비스 대기업들이 신경망처리장치(NPU)를 구독형 인공지능(AI) 인프라 시장에 올리기 위한 준비에 속도를 내고 있다. 생성형 AI 확산으로 그래픽처리장치(GPU) 수요가 급증한 가운데 기업용 AI 서비스가 학습보다 추론 운영 단계로 넓어지면서 전력 효율과 비용 경쟁력을 앞세운 국산 NPU가 새로운 선택지로 떠오르는 모습이다. 9일 업계에 따르면 삼성SDS는 이달 중 퓨리오사AI의 2세대 NPU '레니게이드(RNGD)'를 기반으로 한 NPUaaS를 삼성클라우드플랫폼(SCP)에 출시할 예정이다. 국내 클라우드 서비스 제공업체(CSP) 가운데 국산 NPU를 클라우드 구독형 서비스로 제공하는 첫 사례다. 삼성SDS는 지난해 9월부터 퓨리오사AI와 협력해 레니게이드를 SCP 환경에 최적화하고 서비스형 모델로 상품화하는 작업을 진행해왔다. 양사는 별도 업무협약 체결보다 기술 협력을 중심으로 사업화를 추진해온 것으로 알려졌다. 이번 서비스는 국산 AI 반도체를 단순 장비 납품이 아니라 클라우드 인프라 상품으로 제공한다는 점에서 의미가 있다. 고객사는 NPU 서버를 직접 구매하거나 자체 데이터센터에 구축하지 않아도 SCP를 통해 레니게이드를 구독형으로 사용할 수 있다. 사용 규모도 1장부터 8장까지 단위별 확장이 가능해 스타트업부터 대기업까지 AI 서비스 규모에 맞춰 활용할 수 있다. 삼성SDS는 레니게이드를 SCP의 스토리지, 네트워크, 컴퓨트 등 기존 클라우드 서비스와 연계해 사용할 수 있도록 준비 중이다. 이를 위해 레니게이드 서버를 가상화하고 SCP의 가상화 계층과 통합하는 작업도 진행해왔다. 물리적 NPU 자원을 클라우드 환경에 맞게 추상화해 자원 활용 효율을 높이고 고객 접근성을 개선하려는 구상이다. NPUaaS 도입은 삼성SDS의 AI 인프라 포트폴리오를 넓히는 의미도 갖는다. 기존 GPUaaS 중심에서 벗어나 NPU 기반 연산 자원을 추가하면 고객이 AI 워크로드 특성에 따라 인프라를 선택할 수 있다. 대규모 모델 학습이나 범용 연산에는 GPU를 활용하고, 반복적인 추론 작업에는 NPU를 붙이는 방식이다. 레니게이드는 AI 추론에 특화된 국산 NPU로, 이미 학습된 AI 모델을 실제 서비스에 적용해 답변 생성, 문서 분석, 이미지 판별 등을 처리하는 단계에서 전력 효율과 비용 경쟁력을 높이는 데 초점을 맞췄다. 업계 관계자는 "기업들이 최근 챗봇, 검색증강생성(RAG), 문서 요약, 코드 분석, 비전 AI 등을 업무 시스템에 붙이기 시작했다"며 "이 탓에 추론 인프라를 GPU만으로 운영하기에는 비용 부담이 커지면서 NPU 활용에 대한 관심도 높아진 분위기"라고 설명했다. 이에 맞춰 LG CNS도 NPU를 구독형 AI 인프라 라인업에 포함하기 위한 검증을 진행 중인 것으로 파악됐다. LG CNS는 오는 15일 XPU 구독 서비스 플랫폼 'XPU웍스'를 출시할 예정으로, CPU와 GPU, NPU 등 다양한 연산 자원을 고객 업무 목적에 맞게 제공할 계획이다. 이를 위해 LG CNS는 지난 2월 퓨리오사AI와 AI 인프라 사업 협력 확대를 위한 업무협약을 맺고 국산 NPU 활용 가능성을 검토해왔다. 양사는 퓨리오사AI의 2세대 NPU 레니게이드를 LG CNS 기업용 에이전틱 AI 플랫폼 '에이전틱웍스' 구동 인프라에 적용하고, LG AI연구원의 초거대 AI 모델 엑사원 기반 서비스 최적화와 상용화를 추진하기로 했다. 양사 협력에는 NPU 기반 GPUaaS 성능 최적화도 포함됐다. LG CNS는 AI 학습과 추론 등 서비스 전 과정에서 NPU 적용 가능성을 검증하고, 이를 통해 전력 효율과 운영 비용을 낮추는 방안을 살펴보고 있다. 또 공공 AX와 금융 등 보안 요구가 높은 시장에서 국산 AI 반도체 활용도를 높이려는 포석도 깔려 있다. 다만 XPU웍스 출시 초기부터 NPU가 정식 서비스로 제공되지는 않을 전망이다. LG CNS는 우선 엔비디아 H200, B300 등 고성능 GPU를 중심으로 서비스를 제공할 예정이다. NPU 상용 제공 시점은 아직 정해지지 않았다. 향후 LG CNS가 NPU를 정식 라인업으로 확정하면 삼성SDS에 이어 국내 대형 IT서비스 기업의 NPU 구독형 인프라 경쟁도 본격화될 것으로 전망된다. 이는 정부의 AI 반도체 육성 정책과도 맞물리는 움직임으로, 정부는 AI 추론 시장 확대에 대응해 저전력·고효율 NPU를 중심으로 국산 AI 반도체 생태계를 키우겠다는 방침을 그간 밝혀왔다. 업계에선 올해를 기점으로 AI 인프라 경쟁이 GPU 확보전에서 GPU와 NPU를 함께 활용하는 구조로 넓어질 것으로 보고 있다. 기업들이 구독형 서비스를 통해 NPU를 써볼 수 있게 되면 직접 장비를 구매하지 않고도 실제 업무 적용 가능성과 비용 절감 효과를 검증할 수 있다는 점에서 삼성SDS, LG CNS를 통한 NPU 수요도 늘어날 것으로 기대된다. 또 국산 NPU 기업도 대형 클라우드 플랫폼을 통해 고객 접점을 확보할 수 있어 레퍼런스 확대와 생태계 확산에도 속도가 붙을 것으로 보인다. 업계 관계자는 "국산 NPU가 클라우드 구독형 서비스로 제공되면 기업들이 초기 투자 부담 없이 실제 AI 서비스에 적용해볼 수 있는 환경이 만들어질 것"이라며 "GPU 중심 인프라를 보완하는 추론 특화 자원으로 NPU 활용 사례가 늘어날수록 국산 AI 반도체 생태계도 커질 것"이라고 말했다.
