[AI는 지금] "GPU만으론 부족"…삼성도 'AI 추론 SW' 짐렛랩스에 베팅

짐렛랩스가 서로 다른 종류의 반도체를 묶어 인공지능(AI) 추론을 처리하는 '멀티 실리콘' 기술을 앞세워 대규모 투자 유치에 성공했다. AI 추론 수요와 데이터센터 전력 부담이 함께 커지면서 짐렛랩스처럼 GPU·CPU·전용 가속기를 조합해 처리 효율을 높이는 방식이 주목받는 분위기다. 5일 업계에 따르면 짐렛랩스는 시리즈B에서 3억 달러(약 4038억원)를 조달해 기업가치 30억 달러를 인정받았다. 앤드리슨호로위츠가 투자를 주도했으며 ARM홀딩스와 마이크로소프트 벤처캐피털 M12, 삼성벤처스 등이 참여했다. 앞서 시드와 시리즈A에서 조달한 9200만 달러를 더하면 누적 투자액은 3억9200만 달러다.짐렛랩스는 스탠퍼드대 연구 프로젝트에서 출발한 미국 샌프란시스코 기반 AI 인프라 스타트업으로, 지난 2023년 설립됐다. 2025년 10월 스텔스 모드에서 벗어나 AI 에이전트용 추론 플랫폼을 공개했으며 자인 아스가 최고경영자(CEO)를 비롯한 창업진은 쿠버네티스 옵저버빌리티 기업 픽시에서 함께 일한 경험이 있다. 픽시는 2020년 뉴렐릭에 인수됐다. 짐렛랩스의 핵심 기술은 '멀티 실리콘 추론 클라우드'다. 하나의 AI 워크로드를 여러 단계로 나눠 GPU와 CPU, 전용 가속기 가운데 각 작업에 적합한 하드웨어로 배분하는 것이다. 또 새로운 AI 칩을 직접 설계하기보다 서로 다른 반도체를 하나의 추론 인프라로 연결하고 컴파일러와 런타임 소프트웨어로 작업을 분산하는 것이 특징이다. AI 추론은 처리 단계마다 필요한 하드웨어 특성이 달라 하나의 칩으로 모든 작업을 수행할 경우 효율이 떨어질 수 있다. 입력 데이터를 한꺼번에 처리하는 프리필은 연산 성능이 중요하고, 토큰을 순차 생성하는 디코드는 메모리 대역폭의 영향을 더 많이 받는다. AI 에이전트는 여기에 반복적인 모델 호출과 외부 도구 사용까지 더해져 작업 특성이 더욱 복잡해진다. 짐렛랩스는 이런 차이를 활용해 각 단계에 적합한 칩을 배치함으로써 같은 전력에서 더 많은 추론을 처리하고 응답 속도도 높이려 하고 있다. 짐렛랩스는 "이기종 반도체에 추론 작업을 분산하면 동일한 비용과 전력 조건에서 프런티어 AI 워크로드의 성능을 3~10배 높일 수 있다"며 "같은 전력 범위에서도 처리량과 상호작용 성능을 최대 10배 개선할 수 있다"고 밝혔다. 짐렛랩스는 최근 사업 범위를 추론 소프트웨어에서 데이터센터 인프라로 넓히고 있다. 여러 종류의 반도체를 함께 운용하려면 칩별 전력 밀도와 네트워크, 냉각 조건까지 고려해야 해서다. 이에 고객사의 데이터센터 구축을 지원하는 동시에 자체 인프라도 확대하고 있다. 특히 지난 3월 이후 수십억 달러 규모의 계약을 확보했으며 관리 용량도 수백MW 수준으로 늘렸다. 또 짐렛랩스는 ARM 기반 반도체에서도 자사 소프트웨어를 구동할 수 있도록 ARM과 협력하고 있다. 이는 다양한 종류의 반도체를 지원해 멀티 실리콘 추론 환경을 확대하려는 전략의 일환이다. 자인 아스가 짐렛랩스 최고경영자(CEO)는 "서로 다른 칩에 워크로드를 분산하는 기술을 개발했지만 실제 데이터센터는 이기종 하드웨어를 함께 운용하도록 설계돼 있지 않았다"며 "이에 소프트웨어를 넘어 데이터센터 인프라까지 사업을 확대하게 됐다"고 말했다.