구글 "개인용 PC서도 생성형AI 앱 만든다"

구글클라우드가 고성능컴퓨팅(HPC) 환경 없이도 생성형 인공지능(AI) 앱을 구축할 수 있는 오픈소스 도구를 공개했다. 7일(현지시간) MS파워유저 등 외신에 따르면 구글클라우드는 오픈소스 클라우드 서비스인 로컬LLM을 공개했다. 로컬LLM은 사용자의 PC 환경에 상관없이 생성형AI앱을 개발할 수 있는 클라우드 개발환경이다. 오픈소스 AI모델인 허깅페이스 기반으로 가상 프라이빗 클라우드 서비스인 클라우드 워크스테이션 상에서 개발된다. 사용자는 개발하려는 생성형AI앱의 특성에 따라 고성능 GPU, 저전력 CPU 등 필요한 컴퓨팅 인프라를 자유롭게 설정할 수 있다. 구글클라우드는 로컬LLM과 함께 제한된 컴퓨팅 환경에 최적화된 양자화 모델을 함께 공개했다. 메모리 사용 및 처리 능력 측면에서 효율적으로 설계되어 스마트폰, 노트북 및 기타 엣지 디바이스 등에 AI가 실제 적용됐을 때 안정적인 성능을 낼 수 있도록 지원한다. 구글클라우드의 제프리 앤더슨 제품 관리자는 “빠르게 변하는 AI시장에서 GPU 부족은 기업의 경쟁력 향상에 상당한 장애물로 작용하고 있다"며 “로컬LLM은 GPU 부족으로 인한 문제를 극복하고, 생산성을 향상시키고 비용 효율성을 높이며 생성형AI앱 개발 과정에 혁신을 제공할 것”이라고 강조했다.