[AI 고속도로] AI 인프라 새 승부처 '랙 스케일'…칩·서버 업계 총력전

인공지능(AI) 인프라 시장의 경쟁 축이 그래픽처리장치(GPU) 성능 경쟁을 넘어 '랙 스케일(Rack Scale)'로 빠르게 이동하고 있다. 개별 서버를 조립해 공급하던 방식에서 벗어나 GPU·중앙처리장치(CPU)·네트워크·전력·냉각을 하나의 랙으로 통합하는 구조가 새로운 표준으로 자리 잡으면서, 반도체 기업은 물론 서버 제조사들까지 시장 선점에 속도를 내는 모습이다. 26일 외신과 업계에 따르면 엔비디아·AMD를 비롯해 델 테크놀로지스·HPE·슈퍼마이크로 등 주요 AI 인프라 기업들이 최근 차세대 제품 전략으로 랙 스케일 아키텍처를 내세우고 있다. AI 데이터센터 구축 경쟁이 개별 서버 공급이 아닌 랙 단위 통합 시스템 경쟁으로 전환되는 양상이다. 랙 스케일은 GPU·CPU·네트워크 스위치·메모리·전력 공급 장치·액체냉각 시스템 등을 하나의 랙에 통합 제공하는 AI 인프라 구조다. 데이터센터에 개별 서버를 연결하는 과정을 줄여 구축 기간을 단축하고 장애 가능성도 낮출 수 있다는 게 강점이다. 이같은 랙 스케일 확산은 AI 모델 규모가 빠르게 커지면서 기존 데이터센터 구조만으로는 연산 수요를 감당하기 어려워진 데 따른 것으로 풀이된다. 최신 AI 시스템은 랙당 전력 소비가 과거 수십 키로와트(kW) 수준에서 200kW 이상으로 높아지고 있으며 향후 1메가와트(MW) 수준까지 증가할 것으로 전망된다. 기존 공랭 방식만으로는 발열을 감당하기 어려워 전력과 직접 수랭(DLC), 냉각 분배 장치(CDU) 등을 처음부터 랙 단위로 통합 설계하는 방식이 필수 요소로 자리 잡고 있다. 가장 적극적으로 움직인 곳은 엔비디아다. 회사는 차세대 AI 플랫폼 '베라 루빈'의 NVL72 시스템을 앞세워 오픈AI와 구글 클라우드, 마이크로소프트(MS), 메타, 코어위브, 델 등에 공급을 확대 중이다. 베라 루빈은 GPU·CPU·네트워크를 단일 랙으로 통합해 설치 시간을 줄이고 생산 자동화까지 고려한 구조로 설계됐다. AMD도 최근 첫 랙 스케일 AI 플랫폼 '헬리오스'를 공개하며 맞불을 놨다. 헬리오스는 72개의 MI455X GPU와 18개의 6세대 에픽 CPU, 네트워크와 소프트웨어를 하나로 통합한 개방형 플랫폼이다. 회사는 경쟁 제품보다 달러당 최대 30% 많은 AI 추론 토큰을 처리할 수 있다고 강조했으며 오픈AI와 앤트로픽, 메타, MS 등 주요 AI 기업들이 도입을 추진 중이라고 밝혔다. 실제 AI 모델 기업들도 랙 스케일 기반 인프라 확보 경쟁에 나서고 있다. 앤트로픽은 최근 AMD와 최대 50억 달러(약 7조 3155억원) 규모 AI 서버 공급 계약을 체결하고 내년부터 헬리오스 기반 최대 2기가와트(GW) 규모 컴퓨팅 인프라를 구축하기로 했다. 이번 계약은 단순 칩 구매를 넘어 AI 기업과 반도체 기업이 투자와 인프라 구축을 함께 추진하는 새로운 협력 모델로 평가된다. 전통적인 서버 제조사들도 랙 스케일을 새로운 성장 동력으로 삼고 있다. 특히 델은 지난 5월 '델 테크놀로지스 월드(DTW) 2026'에서 엔비디아와 함께 '델 AI 팩토리 위드 엔비디아' 전략과 랙 스케일 인프라를 공개하며 시장 확대를 선언했다. 행사에 참석한 젠슨 황 엔비디아 최고경영자(CEO)가 델의 AI 랙 제품 '파워랙'을 직접 소개하기도 했다. 업계에선 향후 서버 업체들의 역할이 달라질 것으로 보고 있다. 엔비디아와 AMD가 칩과 기본 랙 구조를 표준화할수록 서버 제조사는 단순 하드웨어 설계보다 액체냉각 기술과 생산 자동화, 데이터센터 구축·운영 역량으로 경쟁하게 될 가능성이 크다는 이유에서다. 동시에 대기업·금융권·공공기관 등 자체적으로 초고전력 AI 인프라를 구축하기 어려운 고객을 대상으로 '턴키' 방식 AI 데이터센터 구축 사업도 확대될 것으로 전망된다. 리사 수 AMD CEO는 헬리오스 발표 당시 "생태계 전반의 다양한 파트너들과 협력해 업계를 선도하는 컴퓨팅 기술과 개방형 플랫폼을 제공할 것"이라며 "고객들이 데이터센터부터 엣지까지 AI를 더욱 뛰어난 성능과 유연성, 폭넓은 선택지를 바탕으로 확장할 수 있도록 지원하고 있다"고 밝혔다.