GPU 없이 돌리는 AI…비드래프트 '포켓', 7주 만에 100만 다운로드

비드래프트가 그래픽처리장치(GPU) 없이 개인용 기기에서 구동하는 온디바이스 인공지능(AI) 모델로 빠르게 다운로드를 늘리고 있다. 350억 파라미터 규모 모델 '포켓(POCKET)-35B'는 공개 약 7주 만에 누적 다운로드 100만건을 넘어섰다. AI 파운드리 기업 비드래프트는 포켓-35B의 허깅페이스 누적 다운로드가 지난 11일 100만건을 돌파했다고 15일 밝혔다. 지난 7월 22일 공개된 이 모델은 이날 기준 107만 6570건의 다운로드를 기록했다. 공개 이후 하루 평균 다운로드는 1만 9936건에 달했다. 비드래프트에 따르면 누적 다운로드 100만건을 넘어선 국내 AI 모델 21종 가운데 가장 빠른 속도로 2위 모델의 하루 평균 다운로드 9468건보다 약 2.1배 많았다. 최근 들어 다운로드 속도도 빨라졌다. 전체 누적 다운로드의 76%에 해당하는 81만 5008건이 최근 30일 동안 발생했다. 해외 AI 모델과 비교해도 국내 모델 가운데 상위권에 이름을 올렸다. 비드래프트가 운영하는 '글로벌 거대언어모델(LLM) 다운로드 리더보드'를 기준으로 포켓-35B는 최근 30일 다운로드 수에서 세계 103위를 기록해 상위 300개에 포함된 한국 모델 4종 가운데 순위가 가장 높았다. 같은 기간 세계 상위 300개 모델의 국가별 다운로드 비중은 중국이 66.1%로 가장 높았고 미국이 31.3%를 차지했다. 한국 비중은 0.5%였으며 비드래프트의 포켓 모델 2종이 한국 모델 전체 다운로드의 60.2%를 차지했다. 개인용 기기에서 AI 모델을 구동할 때 주로 사용하는 'GGUF' 형식으로 범위를 좁히면 포켓-35B는 세계 13위에 올랐다. 상위 300개 모델 가운데 GGUF 형식은 65종으로 중국이 47종 미국이 12종이었으며 한국 모델 2종은 모두 비드래프트가 개발했다. 포켓-35B는 별도 GPU 없이 노트북과 미니PC·태블릿 등에서 실행할 수 있는 350억 파라미터 규모 AI 모델이다. 외부 서버에 접속하지 않고 기기 안에서 직접 AI를 구동하는 온디바이스 구조를 채택했다. 비드래프트 관계자는 "다운로드 수는 홍보로 만들 수 있는 숫자가 아니다"라며 "받아 간 사람이 곧 실행한 사람이라는 점이 온디바이스 모델의 특징"이라고 말했다.