AI PC도 에이전틱 AI 시대... NPU 경쟁에서 경험 경쟁으로
올 상반기부터 클라우드 AI와 서버 플랫폼을 중심으로 확산된 에이전틱 AI 물결이 신경망처리장치(NPU)를 내장한 AI PC로 옮겨가고 있다. 작년까지는 AI PC의 경쟁력을 따지는 요소로 숫자로 드러나는 성능인 TOPS(1초당 1조 번 연산)를 주로 따졌다. 소형·중형 AI 모델을 클라우드 도움 없이 실행하며 초당 토큰, 혹은 초당 이미지 생성 수가 평가 대상이 됐다. 그러나 에이전틱 AI는 단순히 AI 모델 실행에서 그치는 것이 아니라 목표를 이해하고 필요한 절차를 계획한 뒤 이를 자율적으로 실행하고 결과를 내야 한다. AI가 생성하는 콘텐츠보다 AI가 대신 수행하는 업무가 더 큰 가치를 만들어 내기 시작했다. 퀄컴 "에이전틱 AI가 지능형 컴퓨팅 경험 현실화" 2024년부터 스냅드래곤 X 엘리트를 앞세워 윈도 운영체제 기반 AI PC 플랫폼을 추진해온 퀄컴은 6일(현지시간) 공식 블로그를 통해 "지능형 컴퓨팅 경험을 이용자가 실제로 체감하게 되는 것이 에이전틱 AI"라고 강조했다. 퀄컴은 "AI는 이미 우리가 답을 얻는 방식을 바꿔놓았다. 다음 변화는 더욱 자연스럽게 다가올 것이다. 이용자 목표를 이해하고 필요한 작업을 스스로 진행하는 소프트웨어가 등장하는 것"이라고 설명했다. 이어 "에이전틱 AI는 단순히 더 똑똑한 AI 부가기능이 아니며 이용자 목표를 이해하고 여러 단계로 나눈 다음 활용 가능한 도구로 필요한 작업을 수행한다. 이용자가 다른 일을 하는 동안에도 이런 작업은 계속 진행된다"고 덧붙였다. 이런 변화는 자연스러운 수순이다. 이용자는 단순 이메일 초안 작성보다 이메일 내용을 분석하고, 회의 일정을 조정하며, 필요한 자료를 알아서 찾아 첨부하는 것을 더 큰 생산성 향상으로 여기게 된다. 에이전틱 AI, PC 요구사항도 바꾼다 에이전틱 AI는 이용자 프롬프트 한 줄만 해석하고 실행하는 데 그치지 않는다. PC에 저장된 이메일과 문서, 파일은 물론 인터넷 서비스까지 지속적으로 참조하며 필요한 데이터를 가져오고 추론해야 한다. 이런 구조는 하드웨어 요구사항에도 큰 변화를 가져온다. 특히 노트북은 서버나 데스크톱 PC와 달리 용량에 한계가 있는 배터리로 작동한다. 따라서 장시간 AI 추론을 지속하면서도 배터리 소모와 발열을 최소화해야 한다. 퀄컴은 "대부분의 하드웨어에서는 이러한 특성이 곧 성능 저하와 팬 소음, 배터리 소모로 이어진다. 스냅드래곤 X 시리즈는 최대 80 TOPS NPU와 새로 설계된 아드레노 GPU, 3세대 퀄컴 오라이언 CPU로 에이전틱 AI에 필요한 효율적인 AI 추론을 제공한다"고 설명했다. 개발 생태계 확대... AI PC 활용도 높인다 퀄컴은 2024년 3월부터 개발자들이 CPU와 NPU, GPU 등 AI 역량을 최대한으로 끌어낼 수 있도록 지원하기 위한 웹 서비스인 '퀄컴 AI 허브'를 운영하고 있다. 퀄컴 AI 허브는 8월 현재 467개 모델(각 SoC별 파생 포함)을 퀄컴 플랫폼에 최적화해 제공한다. 또 AI 모델을 실행하면서 실행 시간 프로파일링과 메모리 사용량, 연산량 등을 분석하는 기능도 제공한다. 현재 헥사곤 NPU를 활용하는 오픈소스 소프트웨어 '애니씽LLM', 기업용 다단계 추론 모델 '포키 AI', 다양한 기기에서 수집한 사진·영상·음성 데이터를 PC에서 처리해 연속적인 맥락을 구축하는 '메모리즈AI' 등이 스냅드래곤 플랫폼을 지원한다. 또 지난 4월 오픈소스 에이전틱 AI 소프트웨어인 오픈클로와 헤르메스 에이전트 지원을 스냅드래곤 기반 AI PC와 함께 사물인터넷(IoT) 특화 SoC인 아두이노까지 확대했다. AI PC 경쟁력, 'TOPS' 아닌 'AI 경험'이 좌우 현재는 AI PC 시장의 주도권이 특정 기업으로 기울었다고 보기 어렵다. 그러나 승부는 누가 더 높은 TOPS를 구현하느냐보다 실제 사용자가 체감하는 AI 경험을 얼마나 자연스럽게 제공하느냐에서 갈릴 가능성이 높다. 퀄컴 뿐만 아니라 인텔과 AMD도 AI PC의 핵심 역량 강화에 나서고 있다. 인텔은 올 초 정식 출시한 코어 울트라 시리즈3(팬서레이크)의 GPU와 NPU 성능을 크게 강화했다. AMD 역시 3분기 중 GPU 성능을 강화한 새 노트북용 프로세서를 공개할 예정이다. 에이전틱 AI는 AI PC의 새로운 기능이 아니라 앞으로 PC 자체의 역할을 다시 정의하는 핵심 변화가 될 가능성이 크다. 이에 따라 AI PC 경쟁의 기준도 AI 모델의 규모나 TOPS 같은 성능 지표에서 실제 업무 생산성을 얼마나 높여주는지로 이동할 전망이다. 결국 시장 경쟁력은 '얼마나 사람처럼 일하는 AI를 구현했는가'가 좌우할 것으로 보인다.
