국내외 주요 AI 기업, 퀄컴 칩에 AI 모델 최적화 발표

[하와이(미국)=권봉석 기자] AI 관련 국내외 주요 기업들은 24일 오전(한국시간 23일) 미국 하와이에서 진행중인 연례 기술행사 '스냅드래곤 서밋 2024'에서 자사 AI 모델을 퀄컴 스냅드래곤 SoC(시스템반도체)에 최적화하겠다고 밝혔다. 이날 오전 진행된 'AI 토크' 행사에서 랜딩AI 창립자인 앤드류 응(Andrew Ng)은 영상 메시지로 "엣지에서 대규모 멀티모달 모델을 배포하는 것은 저지연 실시간 처리, 대역폭 감소, 프라이버시 및 보안 강화와 같은 여러 이점을 제공한다"고 밝혔다. 이어 "랜딩AI는 퀄컴과 협력해 온디바이스 AI 발전을 촉진할 것이며 개발자를 위한 AI 포털인 '퀄컴 AI 허브'를 통해 개발자가 데이터를 학습시키는 단계부터 스냅드래곤 프로세서에서 모델 실행 등 전 과정에서 신속하게 모델을 배포할 수 있도록 지원하는 엔드-투-엔드 프로세스를 구축할 것"이라고 덧붙였다. 마조리 자니위츠(Marjorie Janiewicz) 미스트랄 AI 글로벌 수익 총괄은 "미스트랄은 스냅드래곤8 엘리트, 스냅드래곤 콕핏 엘리트와 스냅드래곤 라이드 엘리트에 최적화된 새로운 AI 모델인 '미스트랄 3B'를 제공할 것"이라고 밝혔다. 마조리 자니위츠 총괄은 "미스트랄 3B는 300만 개의 매개변수(패러미터)로 작지만 강력하며 스마트폰, 차량 등 다양한 기기에서 실행하기에 이상적이다. 개발자들은 퀄컴 AI 허브를 통해 미스트랄 3B를 포함한 각종 AI 모델에 접근할 수 있다"고 설명했다. 박은정 업스테이지 공동창립자 겸 미국법인 대표는 행사에 직접 등장해 "업무용 환경을 위해 개발된 올인원 엔터프라이즈급 LLM 모델인 솔라박스를 스냅드래곤 X 엘리트에 최적화해 곧 선보일 예정"이라고 밝혔다.