AI추론 확산...프론트엔드 스위치 시장 커진다
AI 인프라 무게중심이 대규모 모델 학습에서 추론과 에이전틱 AI로 이동하면서 데이터센터 네트워크 투자 대상도 달라질 것이란 전망이 나왔다. GPU를 대규모로 연결하는 백엔드 네트워크뿐 아니라 CPU와 스토리지 등을 연결하는 프론트엔드 네트워크 수요가 빠르게 늘어날 것이라는 분석이다. 17일 시장조사업체 델오로그룹에 따르면 최근 AI 추론과 에이전틱 AI 확산으로 프론트엔드 데이터센터 네트워크 시장이 크게 성장할 것으로 전망됐다. 델오로는 향후 프론트엔드 데이터센터 스위치 매출 증가분의 50% 이상을 AI 관련 수요가 차지할 것으로 예상했다. AI에서 파생되는 프론트엔드 네트워크 수요는 연평균 약 40% 성장할 것으로 내다봤다. 기존 AI 인프라는 대규모 모델을 학습시키기 위해 수많은 GPU 등 가속기를 서로 연결하는 데 초점이 맞춰졌다. 이 때문에 GPU 간 대용량 데이터를 빠르게 주고받도록 하는 백엔드 네트워크가 중요했다. 하지만 AI 서비스가 학습을 넘어 실제 이용자에게 답변을 제공하는 추론 단계로 확대되고, 여러 작업을 스스로 수행하는 AI 에이전트가 확산하면서 CPU와 스토리지 등 범용 인프라의 역할도 커지고 있다. 이들 장비와 외부 서비스 등을 연결하는 프론트엔드 네트워크에도 더 많은 투자가 필요해진다는 설명이다. 사메 부젤벤 델오로그룹 부사장은 “AI 인프라가 대규모 학습에서 추론과 에이전틱 워크플로로 이동하면서 범용 인프라 수요가 증가하고 프론트엔드 네트워크 요구도 확대되고 있다”고 설명했다. 이 같은 변화는 AI 데이터센터의 GPU와 CPU 구성 비율에도 영향을 미치고 있다. 델오로에 따르면 기존에는 GPU 등 XPU 10개당 CPU 1개를 배치하는 10대 1 비율이 일반적인 가정으로 활용됐다. 하지만 추론과 에이전틱 AI를 처리하는 일부 환경에서는 이 비율이 1대 1 수준까지 변화하고 있다. 추론 환경에서는 CPU가 AI 작업을 조율하고 데이터를 필요한 곳으로 이동시키는 역할을 담당하기 때문이다. GPU 성능만 높이는 것으로는 전체 AI 서비스를 효율적으로 운영하기 어려워지면서 CPU와 이를 연결하는 네트워크의 중요성도 함께 높아지는 셈이다. AI 추론에 활용되는 키-값(KV) 캐시 스토리지도 새로운 네트워크 수요를 만들고 있다. AI가 이전에 처리한 정보를 저장해 반복적인 연산을 줄이는 KV 캐시 활용이 늘어나면서 관련 스토리지 랙을 연결하기 위한 네트워크도 필요해지고 있다는 설명이다. 결국 AI 데이터센터 네트워크 시장의 성장축이 GPU 클러스터를 연결하는 백엔드에만 머무르지 않고 CPU와 스토리지 등을 연결하는 프론트엔드까지 확대되는 흐름이다. 델오로는 이에 따라 액톤, 아리스타, 셀레스티카, 시스코, HPE·주니퍼, H3C, 화웨이, 엔비디아 등을 시장 확대의 주요 수혜 업체로 꼽았다. 델오로는 AI 추론과 에이전트 시장이 확대될수록 프론트엔드 네트워크 투자가 함께 늘면서 기존 네트워크 장비업체뿐 아니라 신규 사업자에도 성장 기회가 생길 것으로 점쳤다.
