엔비디아, 유휴 PC GPU로 AI 추론 분산하는 'PAIR' 공개

엔비디아가 4일 가정이나 사무실 내 PC GPU 자원을 이용해 AI 추론을 분산처리하는 '퍼스널 AI 라우터(PAIR)' 기술을 공개했다. 엔비디아는 "현재 미국 가정 중 절반 이상은 PC를 두 대 이상 이용하지만 상당한 연산 성능이 하루 중 대부분 쓰이지 않는 형태로 남아 있다"고 설명했다. 이어 "PAIR는 이처럼 사용되지 않는 PC의 컴퓨팅 자원을 로컬 AI에 활용할 수 있도록 지원하는 무료 오픈소스 소프트웨어"라고 설명했다. PAIR는 올라마와 LM스튜디오를 지원하며 에이전틱 AI 구현에 필요한 여러 개의 작은 작업을 내부 네트워크에 연결된 PC와 분산해 처리하는 방식으로 작동한다. 메인 PC에서 게임이나 콘텐츠 제작 등 다른 작업을 수행하는 동안 AI 워크로드를 상대적으로 여유가 있는 다른 시스템으로 이동하는 것도 가능하다. 다만 페어가 여러 PC의 GPU 메모리를 하나로 합쳐 하나의 대형 GPU처럼 사용하는 것은 아니다. 개별 추론 요청은 특정 시스템에서 처리되며, 여러 장치에 하나의 모델을 분할해 실행하는 방식과는 차이가 있다. 엔비디아는 "클라우드 서비스 대신 가정이나 기업 내 PC 자원을 로컬 AI 인프라로 전환해 로컬 AI와 멀티 에이전트 애플리케이션의 처리량을 높일 수 있다"고 설명했다. PAIR는 엔비디아 지포스 RTX 20 시리즈 이후 GPU와 엔비디아 RTX 프로 워크스테이션 GPU, DGX 스파크와 애플 M4 이후를 지원한다. 지원 운영체제는 윈도, 맥OS, 리눅스이며 그래픽 인터페이스와 터미널 인터페이스를 모두 지원한다.