검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'온 디바이스 AI'통합검색 결과 입니다. (132건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

"스냅드래곤 오라이언 CPU, AI 최적화와 에너지 효율에 중점"

[샌디에이고(미국)=권봉석 기자] "스냅드래곤 X2 엘리트/엘리트 익스트림에 포함된 오라이언(Oryon) CPU는 통산 3세대 제품에 해당한다. 매우 뛰어난 CPU이며 향후 출시될 제품과 관련해 매우 흥미로운 로드맵이 준비돼 있다." 12일(이하 현지시간) 오후, 미국 캘리포니아 주 샌디에이고 소재 퀄컴 본사에서 국내 기자단과 마주한 프라딥 카나파티필라 퀄컴 엔지니어링 부사장 겸 CPU 아키텍트의 말이다. 프라딥 카나파티필라 부사장은 2000년 썬마이크로시스템을 시작으로 P.A 세미를 거쳐 2008년 애플에 합류해 2012년 A6 칩과 2020년 A14 바이오닉(2019, 아이폰12) 등 설계에 관여했다. 2019년 누비아에 합류 이후 2021년 퀄컴 피인수 시점부터 오라이언 CPU 설계를 전담했다. "성능 높아져도 전력 효율 역시 높일 수 있다" 프라딥 카나파티필라 부사장은 "CPU나 NPU 등 SoC의 성능이 향상된다 해서 반드시 전력 효율이 떨어지는 것은 아니다. 성능 대비 소비전력은 TOPS 증가와 관계없이 유지될 수 있다"고 설명했다. 이어 "특히 CPU 멀티스레드 성능은 코어 수와 각 코어의 싱글코어 성능에 따라 결정된다. 스냅드래곤 X2 내장 오라이언 CPU 역시 높은 성능과 에너지 효율을 동시에 달성할 수 있다"고 자신했다. "CPU 내장 가속기 '매트릭스 엔진', 지연시간 감소" 스냅드래곤 X2에 내장된 3세대 오라이언 CPU는 CPU 집합체인 클러스터(Cluster) 별로 하나씩 AI 연산에 주로 쓰이는 행렬 연산만 전용 처리하는 매트릭스 엔진을 포함했다. 프라딥 카나파티필라 부사장은 "CPU 안에서 각종 명령어와 함께 행렬 연산이 번갈아 실행되기 때문에 GPU나 NPU가 데이터를 오가며 생기는 지연을 피할 수 있다. 또 캐시 및 메모리 일관성, 전력 관리 등 CPU가 갖는 장점을 그대로 활용할 수 있다"고 강조했다" 이어 "매트릭스 엔진은 이미 공개된 Arm 명령어 기반으로 작동하도록 설계돼 소프트웨어 측에서도 호환성과 활용도가 높다. CPU, GPU, NPU 뿐만 아니라 매트릭스 엔진이 상호 보완적으로 작동하는 형태"라고 밝혔다. "각 세대마다 가장 합리적인 설계 적용할 것" 주요 PC 프로세서 제조사들은 CPU와 GPU, NPU 등을 서로 다른 공정에서 생산해 결합하는 칩렛 형식 설계로 전환하고 있다. 반면 퀄컴은 스냅드래곤 X2 엘리트 익스트림에 대만 TSMC 3나노급(N3X) 공정을 활용한 단일 다이 설계를 적용했다. 프라딥 카나파티필라 부사장은 "현재 시장에 나와 있는 모든 신기술은 검토 대상이며 필요에 따라 가장 적합한 형태를 선택한다. 각 세대마다 가장 합리적인 설계 방식을 적용할 것"이라고 말했다. 이어 "퀄컴은 SoC를 여러 제조사에 공급하고 윈도 운영체제를 공급하는 마이크로소프트 등 파트너와 호환성을 유지해야 한다. 스냅드래곤 X 시리즈에 별도의 명령어를 도입하는 일은 전체 소프트웨어 스택과 컴파일러를 다시 구축해야 하므로 현실적이지 않다"고 설명했다. 그는 이어 "향후 스냅드래곤 내 CPU는 클록 당 처리 명령어(IPC)와 최대 작동 주파수 향상, 에너지 효율 개선에 주안점을 두고 설계될 것이다. 또 매트릭스 엔진도 전력 대비 최대 TOPS 달성을 목표로 개발될 것"이라고 덧붙였다.

2025.11.20 09:10권봉석

"AI는 버블이 아닌 현실... 퀄컴, 미래 위한 성능 갖출 것"

[샌디에이고(미국)=권봉석 기자] "AI는 버블이 아니라 추론을 바탕으로 한 본격적인 활용 단계에 진입하고 있다. 퀄컴은 CPU·NPU·메모리 대역폭 전반에서 확실한 기술 리더십을 기반으로 PC 시장의 변화를 주도할 것이다." 11일(이하 현지시간) 오후, 미국 캘리포니아 주 샌디에이고 소재 퀄컴 본사에서 국내 기자단과 마주한 케다르 콘답 퀄컴 수석부사장 겸 컴퓨트·게이밍 본부장이 이렇게 강조했다. 케다르 콘답 수석부사장은 퀄컴 스냅드래곤 PC와 크롬북 생태계 확장, 휴대용 게이밍 기기 카테고리를 총괄하는 인사다. 퀄컴이 자체 개발한 Arm 호환 새 CPU 코어 '오라이언'(Oryon)을 탑재한 스냅드래곤 X 엘리트 플랫폼 개발과 상용화를 주도했다. 그는 이날 "앞으로 온디비아스 AI는 산업별 특화 모델 중심으로 확산될 것이며, 더 복잡하고 무거운 AI 모델에 대비할 수 있도록 강력한 성능을 가진 NPU와 메모리 여유폭(헤드룸)을 제공하는 것이 진정한 미래 대비 설계"라고 설명했다. "스냅드래곤 X2 시리즈 강점? 성능·배터리·AI" 케다르 콘답 수석부사장은 스냅드래곤 X2 시리즈의 강점으로 강력한 성능과 긴 배터리 지속시간, 80 TOPS 급 NPU를 이용한 AI 성능과 폼팩터 다양성을 꼽았다. 그는 "퀄컴은 지난 해 출시한 스냅드래곤 X 엘리트/플러스 등 3개 제품 모두에서 45 TOPS급 NPU와 동일한 DDR 메모리 대역폭을 적용해 모든 가격대에서 비슷한 품질의 사용자 경험을 제공했다"고 밝혔다. 이어 "향후 더 무거운 AI 모델과 산업별 특화 응용프로그램까지 원활하게 수행할 수 있도록 NPU 성능과 메모리 대역폭을 충분히 확보했다. 이는 미래 대비 전략의 일환으로, 수년 후 AI 기술 발전 속도까지 감안한 설계라는 의미다. "AI, 실제 생활에 변화... 퀄컴도 AI 적극 활용" 케다르 콘답 본부장은 AI가 실제 업무와 생활을 어떻게 바꾸고 있는지 다양한 사례도 소개했다. "법률 분야에선 스폿드래프트(SpotDraft) 애플리케이션이 퀄컴 NPU 최적화로 변호사의 요약·의견 생성 업무를 가속하고 있으며, 개인 창작 영역에서는 텍스트를 기반으로 한 동영상 생성이 이미 실용 단계에 진입했다." 그는 "퀄컴 내부에서도 전사적으로 회의 노트 요약, 코드 작성, 고객 이슈 분석 등 모든 조직이 AI를 적극 활용하고 있다"며, AI가 업무 효율과 생산성 향상에 이어지고 있다고 밝혔다. AI 변화 대응 위해 협업·성능 강화 중시 케다르 콘답 수석부사장은 "AI는 현재 전례 없는 속도로 변화하고 있으며 이를 위해 애니싱LLM, 넥사 등 툴·프레임워크 업체와의 협업, 모델 종속성을 줄이는 오케스트레이션 레이어 구축, 더 무거운 모델을 위한 충분한 성능 확보에 중점을 뒀다"고 말했다. 이어 "현재 PC 플랫폼에서 80 TOPS 수준의 NPU를 제공하는 곳은 퀄컴뿐이며 향후 등장할 차세대 AI 워크로드도 기존 하드웨어에서 안정적으로 구동될 수 있다. 이것이 바로 '미래 대비' 전략"이라고 부연했다. 기기 원격 관리 '스냅드래곤 가디언', 완전한 통제권 제공 퀄컴은 스냅드래곤 X2 플랫폼에 기기 원격 제어와 위치 기반 정보를 바탕으로 응용프로그램 실행 여부를 제어하는 '스냅드래곤 가디언' 기능을 추가했다. 케다르 콘답 수석부사장은 "스냅드래곤 가디언은 기업 내 IT 관리자와 일반 소비자 대상으로 자녀 보호를 위한 지오펜싱, 기기 위치 확인, 분실 추적 같은 관리 기능을 지원한다"고 설명했다. 이어 "기업 환경에서는 악성 행위 탐지 시 원격 조치가 가능하며, 전원이 다시 연결되면 즉시 관리자가 원하는 명령을 수행할 수 있다. 다만 이 과정에서 소비자와 기업 모두에게 기기 관리에 대한 완전한 통제권을 제공하는 것이 퀄컴 목표"라고 설명했다. "AI 보편화 곧 온다... 이를 위한 '미래 대비' 설계 적용" 케다르 콘답 수석부사장은 "아직 많은 사람들이 실감하지 못하고 있지만 AI는 아이부터 어른까지 모든 소비자의 일상 속으로 스며들 것"이라고 내다봤다. 이어 "아주 가까운 시점에 AI는 우리가 매일 사용하는 모든 기기 위에서 자연스럽게 동작하며 삶을 크게 향상시킬 것이다. 그리고 이러한 환경을 가능하게 한 것이 바로 NPU, 메모리, CPU 등 하드웨어 설계 단계에서부터 고려한 '미래 대비' 전략"이라고 강조했다.

2025.11.20 09:00권봉석

노타, 온디바이스 기술력 글로벌서 입증…'매드 랜드스케이프' 2년 연속 선정

노타가 글로벌 인공지능(AI) 생태계를 대표하는 주요 벤치마크에 이름을 올리며 기술 경쟁력을 입증했다. 노타는 글로벌 AI 산업의 핵심 지표로 평가되는 '2025 매드(머신러닝·AI·데이터) 랜드스케이프'에서에서 엣지 AI 부문에 2년 연속 선정됐다고 13일 밝혔다. 이는 올해 4월 CB 인사이트가 발표한 '2025 글로벌 혁신 AI 스타트업 100'에 이어 거둔 성과다. 매드 랜드스케이프는 글로벌 VC·테크 업계가 AI·데이터 산업의 구조적 변화를 파악하는 데 활용하는 대표 자료다. 올해 발표에서는 AI가 클라우드 중심에서 디바이스·하드웨어 중심으로 재편되는 흐름이 더욱 뚜렷해졌다는 점이 주목된다. 특히 엣지 AI는 이러한 변화의 중심에 있으며 고성능 모델의 디바이스 탑재 수요 증가에 따라 글로벌 AI 경쟁력의 핵심 지표로 부상한 분야다. 전 세계 1천150여 개 기업이 포함된 이번 매드 랜드스케이프에서 한국 기업은 삼성을 포함해 단 세 곳이며 노타는 엔비디아·퀄컴·애플·인텔·AMD 등 칩셋·디바이스 생태계를 구축한 글로벌 테크 리더들과 함께 엣지 AI 부문에 선정됐다. 이를 통해 노타는 온디바이스 AI 분야에서 기술적 존재감과 글로벌 경쟁력을 빠르게 확대하고 있음을 입증했다. 노타가 독자 개발한 AI 모델 최적화 플랫폼 '넷츠프레소'는 AI 반도체부터 IoT 디바이스까지 다양한 하드웨어에서 모델을 효율적으로 압축·최적화·배포할 수 있는 기술 플랫폼이다. 모델 크기를 최대 90% 이상 줄이면서도 정확도를 유지해 개발·운영 비용을 대폭 절감하며 다양한 산업의 AI 도입 속도를 크게 높이고 있다. 노타는 삼성전자·퀄컴·르네사스·소니 등 글로벌 반도체 기업과 협력을 통해 엣지 인텔리전스 산업 전반에서 입지를 확대하고 있다. 최근에는 저사양 디바이스에서도 대규모언어모델(LLM)을 구동할 수 있는 최적화 기술을 선보여 제조·가전·IoT 등 디바이스 중심 산업으로 온디바이스 AI 적용 범위를 확장 중이다. 또 정부의 독자 AI 파운데이션 모델 개발 프로젝트에 정예팀으로 참여하며 국가적 차원에서도 기술력을 인정받고 있다. 채명수 노타 대표는 "CB 인사이트 AI 100에 이어 매드 랜드스케이프 엣지 AI 부문에도 연달아 선정된 것은 우리의 기술 혁신성이 글로벌에서 인정받은 중요한 성과"라며 "앞으로도 독보적인 AI 경량화·최적화 기술을 기반으로 제조·모빌리티·로봇·가전 등 산업 전반의 적용 범위를 넓히고 글로벌 시장에서 새로운 성장 기회를 주도하겠다"고 말했다.

2025.11.13 16:55한정호

"中, 이미 시스템 반도체 설계에서 韓 추월"

“온디바이스 AI 반도체는 세트 업체가 주도해야 합니다.” 김용석 가천대학교 반도체교육원장은 6일 가천컨벤션센터에서 열린 'AIoT용 핵심 시스템반도체 기술 워크숍'에서 이같이 밝혔다. 한국 기업들이 AI 전환기에 세계 경쟁력을 유지하기 위해서는 더 적극적인 투자가 필요하다는 의견이다. 김 교수는 “제품을 직접 만드는 기업이 미래에 필요한 칩의 사양을 스스로 예측하고 설계할 수 있어야 한다”며 “빠르게 칩을 만들고 제품에 채용하는 시장 진입 속도가 곧 성패를 좌우한다”고 강조했다. 세트업체가 온디바이스 AI 반도체 리더십을 가져야 하는 이유로는 '시장 요구와 사용 환경'이라고 봤다. 그는 “제품을 직접 만드는 기업만이 미래 시장의 요구와 사용 환경을 가장 잘 알고 있다”며“이들이 스스로 필요한 칩의 성능과 사양을 예측하고, 2년·5년·10년 후를 내다보며 팹리스와 협업해 설계해야 한다”고 말했다. 이는 단순히 칩을 구매하는 하청 구조가 아닌, 세트기업이 기술 방향성을 주도하고 반도체 산업 생태계를 설계해야 한다는 의미다. 김 원장은 “외부 칩을 사다 쓰는 방식으로는 2등, 3등에 머물 수밖에 없다. 회사를 1등으로 만들려면 반드시 스스로 칩을 만들어야 한다”며 칩 내재화의 필요성을 분명히 했다. 이어 “제품 차별화를 이루려면 반도체부터 직접 설계해야 한다”며 “하드웨어 설계는 물론, 시스템 소프트웨어까지 통합해 완성도 있는 온디바이스 AI 플랫폼을 갖추는 것이 중요하다”고 덧붙였다. 중국, 이미 시스템 반도체 설계에서 한국 추월 김 원장은 한국이 직면한 가장 큰 위협으로 중국의 시스템 반도체 설계 능력을 지목했다. 이날 발표에 따르면 중국 반도체 산업은 2000년대 초부터 본격화돼 20여 년만에 비약적인 성장을 이뤘다. 팹리스 숫자만 해도 중국이 지난 2019년 1천780개에서 2024년 3천626개로 2배가 넘게 늘었지만, 국내 팹리스의 숫자는 현재 150여개에 불과하다. 이마저도 지속적으로 감소하는 추세다. 그는 설계-제조-소프트웨어를 완결하는 생태계가 오늘날 중국을 반도체 설계 리더로 올려놨다고 전했다. 김 원장은 “(중국이) 스마트폰, 자동차, PC까지 확장 가능한 자립형 구조를 이미 만들어냈다”며 “중국은 반도체 산업의 '패스트 팔로어'가 아니라 이미 설계 주도국으로 전환했다”고 말했다. 그러면서 “한국이 이 같은 통합 구조를 갖추지 못하면 AI 산업의 핵심 경쟁력을 잃게 된다”고 경고했다. 아울러 “시스템 수요기업–팹리스–파운드리의 삼각 협력 구조가 구축되어야 한다. 이 연계가 완성돼야 시장을 선점할 수 있다”고 제언했다.

2025.11.06 11:54전화평

모빌린트, LG사이언스파크와 NPU 기반 AI 기술 검증 완료

AI 반도체 전문 스타트업 모빌린트가 LG사이언스파크와 함께 자사 NPU(신경망처리장치) 기반 엣지 AI 기술의 적용 가능성을 검증하는 기술 검증(PoC) 프로젝트를 최근 완료했다고 6일 밝혔다. 모빌린트는 고성능 AI 반도체 설계 역량과 최적화 기술을 갖춘 AI 반도체 전문 기업으로, 그 혁신성을 인정받아 LG의 스타트업 육성 프로그램에 선정됐다. 이번 프로젝트는 LG와 스타트업이 함께 혁신 가설을 검증하는 육성 활동인 '슈퍼스타트 PoC'의 일환으로 진행됐다. 모빌린트 NPU가 다양한 AI 모델을 안정적으로 구동할 수 있는지를 검증하는 것이 핵심 목표였다. 이번 PoC는 LG 내 현업 부서와의 협업을 통해 언어, 비전, 음성 등 다양한 유형의 AI 모델을 실제 NPU 환경에서 테스트하는 형태로 진행됐다. 오픈소스 모델부터 LG의 초거대 AI 모델 '엑사원(EXAONE)'까지 폭넓은 AI 모델을 대상으로 검증이 이뤄졌으며 그 결과 모빌린트 NPU가 엣지 AI와 온디바이스 AI 영역에서 상용화 수준의 성능과 효율성이 검증됐다. 모빌린트 윤상현 CSO(최고전략책임자)는 “이번 PoC를 통해 기술의 범용성과 안정성을 입증할 수 있었다“며 “결과를 기반으로 가전, 로보틱스, 산업 자동화, 스마트시티 등 엣지 AI가 요구되는 다양한 산업 분야에서 실시간 AI 추론을 지원할 수 있는 기술 역량을 지속적으로 확장해 나갈 계획”이라고 전했다. LG사이언스파크 슈퍼스타트팀 관계자는 “모빌린트는 이번 PoC를 통해 기술력과 실행 역량을 입증했다. 특히 NPU의 전성비와 SDK지원역량 측면에서 특장점을 확인할 수 있었다”며, “엣지 AI 및 온디바이스 AI 분야에서의 향후 성장 가능성이 기대된다”고 말했다.

2025.11.06 11:48전화평

정신아 카카오 "스스로 사고하고 제안하는 AI 시대 왔다"

정신아 카카오 대표가 인공지능(AI)이 단순히 명령을 수행하는 도구를 넘어, 스스로 사고하고 제안하는 'Agentic(에이전틱) AI' 시대가 왔다고 강조했다. 정신아 대표는 3일 서울 코엑스에서 열린 'SK AI 서밋 2025'에서 '에이전틱 AI, 가능성에서 현실로' 주제로 키노트를 진행했다. 정 대표는 온디바이스 기술과 자체 모델 '카나나'를 기반으로 일상 속에서 자연스럽게 작동하는 프로액티브 에이전트를 구현해 나가고 있다고 소개했다. 정 대표는 기존의 'AI 에이전트'가 사용자의 명령을 수행하는 단일 기능형 인공지능이라면, '에이전틱 AI'는 스스로 목표를 설정하고 계획을 세워 학습하고 성장하는 자율형 AI라고 설명했다. 정 대표는 “생각하고 기억하고 행동하고 성장하는 AI, 이것이 바로 우리가 말하는 에이전틱 AI”라며 “사용자의 맥락을 이해하고 여러 에이전트를 조합해 스스로 계획하고 실행하는 것이 핵심”이라고 말했다. 예를 들어 주말 계획을 짤 때에도 AI가 사용자의 일정, 대화 이력, 날씨 등을 종합해 실내활동이나 공연·맛집을 제안하는 방식이다. 정 대표는 “사용자의 맥락을 이해하고 먼저 제안하는 능동적 AI 경험이 바로 결정 피로를 줄이는 미래형 서비스의 핵심”이라며 “에이전틱 AI는 이용자가 덜 고민하면서도 더 나은 선택을 할 수 있도록 돕는 기술”이라고 했다. 정 대표는 카카오다운 에이전트 AI의 세 가지 축으로 ▲Proactive(능동성) ▲Planning(계획) ▲Action(실행)을 꼽았다. 이런 구조를 뒷받침하는 핵심 기술은 온디바이스 AI다. 정 대표는 “카카오는 대화라는 가장 풍부한 맥락을 보유하고 있다. 이를 스마트폰 안에서 처리해 프라이버시를 보호하면서도 즉각적인 반응이 가능하도록 했다”며 "'카나나 나노 1.3B' 모델을 통해 이러한 온디바이스 AI를 구현하고 있으며, 서버 전송 없이 기기 내에서 사용자 맥락을 이해해 필요한 행동을 수행한다"고 말했다. 정 대표는 이른바 '리얼월드' 환경에서 에이전트가 다양한 상황을 반영해 작동할 수 있도록 모델의 품질을 정확하게 판단할 수 있는 전용 벤치마크 세트를 새롭게 제작했다고도 밝혔다. 여행·금융·쇼핑 등 17개 영역, 99개 가상 툴을 포함해 AI가 단순한 지시 수행을 넘어 실제 문제 해결력을 갖추도록 훈련시키고 있다는 설명이다. 정 대표는 “기존 상용 모델들은 점수는 높지만 현실 문제 해결엔 한계가 있다”면서 “카카오의 벤치마크는 실제 서비스 확장을 전제로 설계됐다”고 강조했다. 마지막으로 정 대표는 “카카오는 사람 중심의 AI를 지향하며, 연결과 신뢰를 기반으로 한 지속 가능한 기술 생태계를 만들어 나가겠다”고 덧붙였다

2025.11.03 17:41안희정

"K-온디바이스 AI, 지금이 '골든 타임'…칩·SW 동시에 키워야"

"온디바이스 AI 산업은 지금이 '골든 타임'으로, 한국에서도 5년 내에 글로벌 경쟁력을 갖춘 AI 반도체와 소프트웨를 상용화할 수 있는 기업들을 키워내야 한다. 이를 위해 정부에서도 수요기업·팹리스·파운드리 간 연계를 통해 온디바이스 AI 반도체 생태계를 구축하기 위한 과제를 추진 중이다." 김용석 가천대학 반도체대학 석좌교수 겸 AI반도체 M.AX 얼라이언스 위원장은 최근 지디넷코리아와의 인터뷰에서 국내 온디바이스 AI의 발전 방향 및 전략에 대해 이같이 밝혔다. 김 교수는 지난 1983년 삼성전자 종합연구소에 입사해 약 30년간 엔지니어로 근무한 시스템반도체 전문가다. TV·오디오·통신기기용 ASIC(주문형반도체)를 개발했으며, 초기 갤럭시 스마트폰의 소프트웨어 개발 등을 담당한 바 있다. 김 교수가 지목한 국내 반도체 산업의 차세대 성장동력은 온디바이스 AI다. 온디바이스 AI는 서버 및 클라우드를 거치지 않고 기기 자체에서 AI 기능을 구현하는 기술이다. 글로벌 시장조사에 따르면, 글로벌 온디바이스 AI 반도체 시장은 지난해 기준 173억달러 수준이다. AX가 확산되면서 2030년께엔 1천33억까지 시장이 커질 것으로 분석된다. 김 교수는 "온디바이스 AI 산업은 이제 막 시작한 단계로, 스마트폰·가전·자동차·로봇 등 거의 모든 산업에 걸쳐 확산될 잠재력을 지니고 있다"며 "지금이 바로 골든 타임으로, 앞으로 5년 기간이 매우 중요한 시기라고 본다"고 강조했다. 이에 김 교수는 산업통상자원부가 추진 중인 'K-온디바이스 AI 반도체 기술개발' 사업 총괄위원장을 맡아 국내 생태계 조성에 힘쓰고 있다. 또한 지난달 산업부가 출범시킨 'M.AX 얼라이언스' 내 AI반도체 분야 위원장직에도 올랐다. M.AX 얼라이언스는 제조 AI의 본격적인 실행을 위해 지난달 산업부에서 출범한 초대형 협의체다. AI 반도체를 비롯해 총 10개의 분야로 나뉘며, 삼성전자·LG전자·현대차 등 주요 기업과 연구 기관 등 총 1천여곳이 참여했다. AI 반도체 얼라이언스의 경우, 4대 분야(자동차, IoT·가전, 기계·로봇, 방산)를 목표로 2026년부터 과제에 착수해 오는 2028년 국산 AI 반도체 시제품을 내놓는 것이 목표다. 나아가 오는 2030년까지는 AI 반도체 10종의 개발을 완료할 계획이다. 김 교수는 "오랜 기간 준비해 왔던 K-온디바이스 AI 과제가 AI 반도체 얼라이언스의 중심 역할을 하게 될 것"이라며 "또한 M.AX 얼라이언스 내 주행차·AI가전·휴머노이드·AI방산 등 타 분야와의 연계 및 협업을 강화해야 할 것"이라고 말했다. K-온디바이스 AI 반도체 돌파구는 '맞춤형 칩' 온디바이스 AI 반도체는 스마트폰·자동차·로봇 등 개별 기기 내부에서 작동해야 하기 때문에 전력과 발열, 용량 등 전반에서 제약이 크다. 이 경우 외부의 범용 칩으로는 최적의 성과를 내기 어렵고, 가격 역시 비싸다는 단점이 있다. 이에 김 교수는 각 제품의 특성을 고려한 맞춤형 칩이 온디바이스 AI 산업에 필수적이라고 보고 있다. 그는 "스마트폰은 발열, 자동차는 안정성, IoT는 초저전력 등 제품별로 요구조건이 달라 맞춤형으로 SoC(시스템온칩) 설계가 이뤄져야 한다"고 말했다. 실제로 K-온디바이스 AI 반도체 과제는 국내 대형 시스템 기업(LG전자, 현대차, 두산로보틱스 등)-팹리스-파운드리(삼성)로 이어지는 생태계 만들고, 밀접한 협업구도의 얼라이언스를 통해 개발을 진행하고 있다. 칩도 중요하지만…시스템 소프트웨어 개발에 더 비중 둬야 온디바이스 AI는 전력 효율과 성능 최적화가 무엇보다 중요하다. 김 교수는 이러한 조건을 만족시키기 위해서는 칩 설계 상위 단계에서의 '아키텍처' 설계가 필요하다고 내다봤다. AI 모델을 칩 구조에 맞게 변환하고 최적화하는 컴파일러, 런타임 소프트웨어 등이 사실상 칩의 성능을 결정짓는 요소로 작용하기 때문이다. 김 교수는 "칩 외에 소프트웨어와 SDK(소프트웨어개발키트), AI모델 및 프레임워크 등이 모두 유기적으로 개발돼야 한다"며 "칩에서 구동되는 AI 모델이 효율적으로 경량화되고, 그 모델을 쉽게 구현할 수 있는 개발 프레임워크와 SDK가 갖춰져야 온디바이스 AI를 제대로 구현할 수 있을 것"이라고 설명했다. 결과적으로 온디바이스 AI 개발에는 칩 설계자와 ML 엔지니어간의 밀접한 협력이 요구될 것으로 관측된다. 김 교수는 "온디바이스 AI 전체 개발 비중을 100으로 놓자면, 칩은 40 정도가 될 것"이라며 "AI 모델과 컴파일러, SDK, 시스템 소프트웨어 등 통합 소프트웨어 개발은 60 정도로 비중이 더 커야 한다"고 덧붙였다. 온디바이스 AI, 앞으로 5년이 중요…中 넘어서야 김 교수는 향후 5년이 온디바이스 AI 개발에 있어 가장 중요한 시기가 될 것으로 전망했다. 이에 맞춰 ▲공급사들은 글로벌 경쟁력과 호환성을 갖춘 AI 반도체 및 소프트웨어를 개발하고 ▲수요 기업은 3~5년을 내다볼 수 있는 칩 기획능력을 갖춰야 함을 강조했다. 또한 ▲대학은 AI 인재 육성 ▲정부는 AI 팹리스와 파운데이션 AI 모델 기업, 소프트웨어 기업 육성 및 개발 생태계 조성에 앞장서야 한다고 내다 봤다. 김 교수는 "M.AX 얼라이언스를 구호에 그치지 않게 만들고, 온디바이스 AI 반도체를 중심으로 한 협력 생태계를 실질적으로 작동시키는 게 중요하다"며 "계획은 구체적이어야 하고, 온 힘을 다해서 실천해야 한다"고 말했다. 국내 팹리스 기업들이 넘어서야 할 목표로는 중국 호라이즌 로보틱스를 제시했다. 지난 2015년 설립된 호라이즌 로보틱스는 첨단운전자보조시스템(ADAS)과 자율주행용 칩을 개발하고 있다. BYD를 비롯해 리오토·니오·체리자동차·지리자동차 등 중국 10대 완성차 기업에 솔루션을 공급하고 있으며, 중국 시장에 진출한 티어(Tier)-1 공급사와도 협력 중이다. 호라이즌 로보틱스는 단순히 NPU(신경망처리장치)를 만드는 데 그치지 않고, 자체 SDK와 AI 프레임워크를 고객사에 함께 제공한다는 점에서 차별화를 이뤄냈다. 현지 완성차 기업과 공동 개발을 통해 실제 차량 환경에서 칩의 성능을 검증하는 등 고객사에 최적화된 제품을 개발한다는 점도 성공 요인 중 하나다. 김 교수는 "이번 K-온디바이스 AI 과제도 호라이즌 로보틱스의 사례처럼 팹리스와 시스템 기업과 함께 성장하는 파트너형 구조를 만드는 데 중점을 두고자 한다"며 "호라이즌 로보틱스는 국내 팹리스가 넘어야할 기업으로서, 한국에서 최고의 자동차용 전문 팹리스가 탄생돼야 한다"고 설명했다. K-온디바이스 생태계 조성에 1조원 투입…삼성 파운드리 적극 고려 정부는 이번 K-온디바이스 AI 반도체 개발에 총 9천973억원의 사업비를 조성했다. 국비 6천891억5천만원, 시스템 수요 기업들의 3천81억5천만으로 구성됐다. 김 교수는 "4대 분야별 수요 기업들이 적합한 팹리스와 소프트웨어 기업을 선정하는 일을 진행할 예정으로, 파운드리는 삼성전자를 적극 고려중"이라며 "삼성전자는 팹리스와 업무협약을 체결해 시제품 제작 비용 일부를 분담하고, 양산 일정도 우선 배정할 계획"이라고 설명했다. 이에 따른 본격적인 과제 착수 시기는 내년 초로 예상된다. M.AX 얼라이언스 위원회에서는 개발 진도 지원 및 성과 모너티렁을 위한 자문단을 구성할 계획이다. 김 교수는 "K-온디바이스 AI 반도체 사업을 통해 반도체 설계부터 소프트웨어를 통합적으로 개발할 수 있는 역량과 생태계를 확보하게 되고, 국산 칩에 최적화된 AI 플랫폼을 자체적으로 구현할 수 있는 토대를 마련하게 될 것"이라며 "실용적이고 알찬 최고의 정부 과제로서, 앞으로도 이러한 형태의 정부과제가 많이 나오길 기대한다"고 밝혔다.

2025.10.13 14:07장경윤

산업부, K-온디바이스 AI반도체 생태계 구축 위한 포럼 개최

산업통상자원부(이하 산업부)는 성남 글로벌 융합센터에서 반도체 수요·공급 기업들과 함께 'K-온디바이스 AI반도체 기술개발 사업'의 성공적 추진을 위한 포럼을 개최했다고 30일 밝혔다. 이번 포럼은 2030년 제조 AX 최강국 도약을 위해 출범한 AI반도체 M.AX 얼라이언스(이하 얼라이언스)의 첫 걸음이라는 점에서 의미가 깊다. 행사장에는 자동차, IoT·가전, 기계·로봇, 방산 등 4대 업종 반도체 수요기업과 국내 AI반도체 팹리스(설계기업)·파운드리(제조기업), 글로벌 IP 기업(반도체 설계블록 제공기업) 등 150여명의 AI반도체 업계 관계자가 참석했다. 포럼에서는 딥엑스·모빌린트·퓨리오사AI 등 AI반도체 팹리스들의 기술시연과 산업부 주관 프로젝트 추진계획 발표, 프로젝트 성공을 위한 산업부·수요·팹리스·파운드리·IP 기업간 MOU 체결, 수요기업·Arm·삼성 파운드리의 국내 AI반도체 생태계 기여방안 논의 등이 차례로 진행됐다. 업종별 수요기업과 반도체 분야 IP 기업·팹리스·파운드리가 함께 참여하는 얼라이언스에서는 프로젝트를 기반으로 상호간 연계(LINK)를 강화할 계획이다. 수요기업은 데이터 공유, 현장실증 지원 등을 통해 사업 성과가 단순한 AI반도체 개발에서 나아가, 첨단제품 탑재·양산에 이를 수 있도록 지원하고, 글로벌 IP 기업과 국내 파운드리는 프로젝트 참여 컨소시엄이 시제품을 적기에 합리적인 단가로 양산할 수 있게 지원한다. 산업부는 얼라이언스 내 AI 팹리스들은 도약을, 파운드리는 고객 확보를, 수요기업들은 조속한 AI 대전환을 할 수 있도록 동반성장 방안을 지속 모색할 예정이다. 특히 AI반도체 분야는 다른 업종과의 협력이 중요한 만큼, 프로젝트의 성과들이 전 업종으로 활용·확산될 수 있도록 자율주행차·AI가전·휴머노이드·AI방산 등 업종별 M.AX 얼라이언스와의 연계도 강화해 나갈 계획이다. 김정관 산업부 장관은 “AI반도체는 자율차, 휴머노이드 등 첨단제품의 AI 대전환을 구현하는 혁신엔진이므로 제조 AX의 중요한 축”이라며 “정부는 K-온디바이스 AI반도체 기술개발 사업을 내년부터 신속히 착수해 하드웨어 분야의 경쟁력 달성을 반드시 이끌어 낼 것”이라고 밝혔다.

2025.09.30 17:39장경윤

정진욱 의원실, GR코리아와 '온디바이스 AI 정책간담회' 개최

공공 정책 컨설팅 전문기업 GR코리아는 더불어민주당 정진욱 의원실과 공동으로 서울 여의도에서 함께 '온디바이스 AI를 통한 AI 혁신 정책간담회'를 개최했다고 29일 밝혔다. 서울 여의도 GR코리아 세미나실에서 열린 이번 간담회는 온디바이스 AI의 확산을 통해 글로벌 AI 경쟁력을 강화하고, 아울러 국내 산업 혁신과 공정한 디지털 생태계 조성을 지원하기 위해 마련됐다. 이에 정부, 학계 및 산업계 관계자들이 참석해 글로벌 AI 경쟁력 강화를 위한 정책 방향과 산업 전략을 논의했다. 주요 인사로는 정진욱 더불어민주당 의원을 비롯해 이규봉 산업통상자원부 반도체과 과장, 김남희 광주시 AI반도체 과장, 안정상 전 더불어민주당 AI 위원회 위원 및 중앙대학교 교수, 이주남 정보통신산업진흥원(NIPA) 연구원, 이석준 한국전자기술연구원(KETI) 선임연구원, 김민식 정보통신정책연구원(KISDI) 연구원, 문주윤 GR코리아 운영총괄, 이원철 숭실대학교 교수, 강경수 카운터포인트리서치 연구위원, 구태언 코리아스타트업포럼 정책 부의장, 최홍섭 마음AI 대표, 김상표 퀄컴 본사 부사장 겸 한국사업총괄 부사장, 정철호 퀄컴코리아 전무 등 약 10여 명이 참석했다. 간담회에서는 온디바이스 AI를 둘러싼 최신 기술 동향과 정책적 과제가 주요 의제로 다뤄졌다. 참석자들은 온디바이스 AI가 다양한 산업 분야에서 실질적인 혁신을 이끌 잠재력이 있다는 점에 공감하며, 이를 지속적으로 발전시키기 위한 제도적 지원의 필요성을 강조했다. 정부 측에서는 온디바이스 AI 확산과 관련한 다양한 목소리를 들었다. 이규봉 산업통상자원부 반도체과 과장은 “AI 패러다임이 온디바이스 AI로 이동함에 따라 AI 반도체 수요도 기존 범용, 고성능 중심에서 수요 맞춤형, 최적화 방향으로 전환되고 있다”며 “이에 산업통상자원부는 새 정부의 AI 3대 강국 진입과 미래전략산업 육성 기조에 발맞춰 'K-온디바이스 AI 반도체 기술개발 사업'을 추진하고 있다. 산업별로 다변화되는 AI 수요에 대응하기 위해 맞춤형 온디바이스 AI 반도체 개발이 필요하며, 국가 AI 경쟁력 확보를 위해 수요기업과 팹리스 간 협력 기반의 온디바이스 AI 반도체 R&D 지원이 긴요하다”고 말했다. 학계는 온디바이스 AI 확산이 국내 디지털 혁신을 이끄는 핵심 동력이 될 수 있다는 점에 공감했다. 이원철 숭실대학교 교수는 “삼성 갤럭시 스마트폰의 실시간 번역 기능은 클라우드에 의존하지 않고도 즉각적이고 안전한 사용자 경험을 제공할 수 있음을 보여줬다”며 “이러한 기술은 가정 내 IoT 기기나 로봇 등 물리적 공간으로도 확장될 수 있어 중소기업과 스타트업에 새로운 기회를 열어줄 수 있다는 점도 주목된다”고 말했다. 산업계 역시 온디바이스 AI가 가져올 변화에 주목했다. 글로벌 기업 퀄컴은 엣지 AI 분야에서의 경험을 토대로 사례를 공유하며 기술 확산의 방향성을 제시했다. 김상표 퀄컴 본사 부사장 겸 한국사업총괄 부사장은 “퀄컴은 기기에서 클라우드까지 아우르는 모든 영역에 걸쳐, 전력과 비용 효율적인 AI 추론 솔루션을 제공하기 위해 최선을 다하고 있다”며 “최첨단 엣지 AI 솔루션을 통해 보안, 프라이버시 및 성능을 강화할 뿐 아니라, 파트너들이 다양한 산업과 활용 사례 전반에서 제품의 적용 범위를 넓혀갈 수 있도록 지원하고 있다”고 말했다. GR코리아는 이번 간담회를 통해 정부, 학계, 산업계가 온디바이스 AI의 중요성에 대해 폭넓은 공감대를 형성한 것이 주요 성과라고 밝혔다. 문주윤 GR코리아 운영총괄은 “이번 논의가 향후 정책과 산업 전략 수립에 의미 있는 참고가 되기를 기대한다”며 “앞으로도 다양한 이해관계자와 긴밀히 협력해 개방적이고 공정한 디지털 생태계 조성을 지원하는 논의의 장을 지속적으로 마련해 나가겠다”고 말했다.

2025.09.29 16:03장경윤

퀄컴·삼성, '갤럭시 AI'서 한뜻…"개인 맞춤형 AI 강화"

"퀄컴은 다양한 기기에서 개인 맞춤형 AI 경험을 제공하는 방향을 강조했고, 삼성전자도 같은 방향성을 갖고 있다. 차세대 갤럭시 AI는 이를 목표로 공동 개발하고 있다" 비네쉬 수쿠마 퀄컴 부사장 겸 AI 제품 총괄은 지난 25일(현지시간) 미국 하와이에서 열린 '스냅드래곤 서밋'에서 한국 기자들과 만나 이같이 밝혔다. 이날 수쿠마 부사장은 퀄컴이 목표로 하고 있는 다양한 AI 전략을 소개했다. 올해 기조연설에서부터 'AI Everywhere(모든 곳에 AI)'를 내건 것처럼, 퀄컴은 차세대 모바일 및 PC SoC(시스템온칩)를 통해 엣지(Edge) AI 시장을 적극 공략하겠다는 의지를 내비쳤다. 특히 퀄컴은 분산형 '온디바이스 AI'에 주목하고 있다. 온디바이스 AI란 중앙형 클라우드에 의존하지 않고 기기 자체에서 AI 기능을 처리하는 기술을 뜻한다. 나아가 퀄컴은 온디바이스 AI가 단일 기기가 아닌, 다양한 기기에서 공유되는 분산 형태로 나아갈 것으로 보고 있다. 수쿠마 부사장은 "만약 사용자의 PC 및 스마트폰이 서로 데이터를 공유하고 개인화할 수 있다면, 스마트폰이 방전돼 꺼져도 노트북을 켜자마자 작업을 계속 할 수 있을 것"이라며 "기기 간 맥락 정보의 공유가 온디바이스 AI 추론을 강화하는 것"이라고 말했다. '엠비언트 AI'도 주요 화두 중 하나다. 앰비언트 AI는 사용자가 인지하지 못하는 다양한 환경까지 파악해, 실시간으로 맞춤형 경험을 제공할 수 있는 AI를 뜻한다. 퀄컴의 주요 고객사이자 파트너인 삼성전자 역시 올해 서밋에서 '갤럭시 AI'가 나아갈 방향으로 해당 기술을 강조한 바 있다. 수쿠마 부사장은 "퀄컴은 스마트폰과 PC, 웨어러블, 스마트글라스 등 여러 기기에서 사용자의 정보를 안전하게 저장 및 개별 맞춤화하는 방향을 강조했고, 삼성도 같은 방향성을 갖고 있다"며 "차세대 갤럭시 AI는 더 개인화되는 것을 목표로 공동 개발을 추진 중"이라고 말했다. 이를 위해 퀄컴은 'AI 허브' 플랫폼을 지속 고도화하고 있다. 퀄컴 AI 허브는 온디바이스 AI를 구현하는 데 필요한 각종 리소스 및 소프트웨어 툴을 제공하는 라이브러리다. 수쿠마 부사장은 "AI 허브의 성과는 상당히 눈에 띄는 수준으로, 점점 더 많은 개발자들이 AI 허브에서 제공하는 자산을 활용하고 있다"며 "퀄컴의 목표는 AI 허브에서 개발된 모든 애플리케이션을 안드로이드 및 삼성 스토어에 업스트림하는 것으로, 아직 진행 중인 작업이지만 현재까지 생태계 및 파트너들로부터 매우 긍정적인 반응을 얻고 있다"고 강조했다. 한편 퀄컴은 지난 4월 베트남 빈AI의 생성형 AI 사업부인 '모비안AI'를 인수하는 등, AI 기술 강화를 위한 인수합병도 적극적으로 추진 중이다. 수쿠마 부사장은 "이미 일부 인수가 공개됐고, AI 인재에 대한 수요가 커 추가 인수도 계속 검토 중"이라고 밝혔다.

2025.09.28 09:15장경윤

퀄컴·휴메인, '에이전틱 AI' 혁신 위해 손잡았다

[하와이(미국)=장경윤 기자] 퀄컴과 휴메인(Humain)이 기업(엔터프라이즈)용 AI의 시장의 판도를 바꾸기 위해 손을 잡았다. 휴메인의 소프트웨어와 퀄컴의 하드웨어 기술을 결합해 효율적이면서도 통합적인 '에이전틱 AI'를 구현하는 것이 핵심이다. 특히 양사의 협업은 '하이브리드 AI'를 중심으로 전개될 전망이다. 크리스티아노 아몬 퀄컴 최고경영자(CEO)는 25일(한국시간 26일) 미국 하와이에서 열린 '스냅드래곤 서밋 2025' 행사에서 타레크 아민 휴메인 CEO와의 대담을 진행했다. 이날 휴메인은 에이전틱 AI 기능을 지원하는 차세대 AI PC '호라이즌 프로(Horizon Pro)를 발표했다. 에이전틱 AI는 사용자의 최소한의 개입만으로도 AI가 목표 설정부터 계획 수립, 작업, 결과 학습 등 전 과정을 스스로 수행하는 기술을 뜻한다. 휴메인은 에이전틱 AI를 구현할 핵심 운영체제인 '휴메인 원(One)'을 자체 개발했다. 휴메인 원은 사용자의 니즈를 예측하고 의사결정을 도와주는 적응형 인터페이스를 통해 엔터프라이즈 운영 전반을 돕는다. 특히 법무, 재무, 조달 등 기존 개별적으로 운영돼 온 솔루션을 하나로 통합한 것이 특징이다. 타레크 아민 휴메인 CEO는 "예를 들어 과거에는 급여 지급을 위해 ERP 시스템과 엑셀, 은행 포털, 급여 지급, 사후 감사 등의 복잡한 과정을 거쳤다"며 "반면 휴메인 원에서는 급여 이체만 명령하면 전 과정이 자동으로 처리된다. 예전에는 11명이 필요했던 HR 부서를 한명과 AI 비서만으로 운영할 수 있다"고 설명했다. 해당 기능이 온디바이스 AI에서 구현된다는 것도 장점이다. 온디바이스 AI는 기기 스스로 AI 기능을 수행하는 기술로, 클라우드를 거치지 않기 때문에 개인정보 보안에 유리하다. 데이터 처리의 효율성 및 속도도 향상된다. 호라이즌 프로는 퀄컴의 고성능 PC 프로세서인 '스냅드래곤 X 엘리트' 시리즈를 기반으로 한다. 특히 초고성능을 지원하는 울트라 모델의 경우, 퀄컴이 올해 서밋에서 공개한 최신형 칩인 '스냅드래곤 X2 엘리트'를 채용했다. 타레크 아민 휴메인 CEO는 "퀄컴은 우리의 아이디어를 받아줄 수 있는 몇 안되는 회사 중 하나로, 호라이즌 프로 역시 퀄컴 엔지니어들과 9개월간 공동 개발해 왔다"며 "퀄컴의 스냅드래곤 X2 엘리트를 특히나 더 좋아한다"고 강조했다. 양사 주요 임원진은 하이브리드 AI의 중요성에 대해서도 뜻을 같이했다. 특정 업무의 경우 클라우드 기반의 방대한 데이터 처리가 필요하기 때문에, 클라우드와 온디바이스를 오가는 하이브리드 AI 운용이 필요하다. 크리스티아노 아몬 퀄컴 CEO는 "기기에서 300억~400억 파라미터 모델을 실현할 수 있다면 대부분의 엔터프라이즈 운영은 기기만으로 해결이 가능하고, 부족한 부분만 클라우드로 보완하면 된다"며 "이것이 업계가 필요로 하는 조화고, 퀄컴과 휴메인이 함께 선도해 나갈 것"이라고 밝혔다. 타레크 아민 휴메인 CEO는 "동의한다. 대규모 모델도 가치가 있지만 특정 분야에 특화된 소규모언어모델(SLM)이 더 절실하다"며 "우리는 기기 자체에서 실행하고, 필요한 경우만 클라우드와 연동하는 하이브리드 AI 구조를 만들고 있다"고 응답했다.

2025.09.26 09:44장경윤

LGU+, '엑사원 3.5' 기반 온디바이스 sLM 개발

LG유플러스가 LG AI연구원, 옵트에이아이와 손잡고 대규모 언어 모델(LLM) '엑사원 3.5' 기반 온디바이스 소형 언어 모델(sLM)을 개발했다고 25일 밝혔다. 이 모델은 AI 통화 앱 '익시오'에 적용해 서비스를 고도화할 방침이다. 이번 온디바이스 sLM 개발은 LG AI연구원이 지난해 12월 선보인 '엑사원 3.5 2.4B' 모델을 기반으로 이뤄졌다. LG유플러스와 LG AI연구원, 온디바이스 AI 솔루션 업체인 옵트에이아이는 약 6개월에 걸친 연구를 통해 개발에 성공했다. AI 모델을 경량화하는 '온디바이스' 기술은 AI 서비스 확산 및 보안성 향상에 필수적이다. 네트워크와 서버를 거쳐야 구동되는 LLM과 달리, 온디바이스 sLM은 이용자의 스마트폰 내에서 바로 서비스를 이용할 수 있어 보안성이 강화된다. 또한 스마트폰 내 신경망처리장치(NPU)를 통해 답변을 제공하는 만큼 빠른 응답이 가능하고, 다양한 단말에서 사용할 수 있다는 장점이 있다. LG유플러스는 새로 개발한 sLM을 통해 AI 에이전트 '익시오'에 적용해 서비스를 고도화할 계획이다. ▲한 줄 요약 ▲상세 요약 ▲키워드 추출 ▲AI Task 제안 등 기능을 오는 10월 베타 테스트를 통해 안정성 및 품질 검증을 완료하고, 이르면 내년 상반기 상용화에 나설 계획이다. 엑사원 기반 온디바이스 sLM은 퀄컴의 '스냅드래곤8' 칩셋 기반 스마트폰에 탑재된다. 내년에는 iOS 운영체제가 적용된 스마트폰까지 적용 범위를 확대할 예정이다. 나아가 LG유플러스와 LG AI연구원, 옵트에이아이는 지속적인 온디바이스 AI 기술 개발을 통해 지난 7월 출시된 '엑사원 4.0'도 온디바이스 sLM으로 구현할 방침이다. 이를 통해 온디바이스 sLM 기반의 익시오가 제공하는 서비스도 개인별 맞춤형으로 발전시킨다는 전략이다. 송대원 LG유플러스 기술개발그룹장은 “온디바이스 AI 기술 고도화를 지속해 초개인화된 온디바이스 에이전트를 선보이며 시장 내 선도 사업자로서의 입지를 한층 더 강화하고 차별화된 사용자 경험을 제공할 것”이라고 말했다.

2025.09.25 09:53진성우

카톡에 들어간 챗GPT..."가장 혁신적인 AI 경험 제공"

카카오가 오픈AI 협업 결과를 선보이며, 글로벌 AI 기술과 자사 플랫폼을 아우르는 '카카오 AI 에이전트' 전략을 가속화했다. 카카오톡 내 '챗GPT' 탑재로 이용자 경험을 확장하는 동시에, 자체 모델 '카나나'와 온디바이스 AI를 결합해 차별화된 생태계 구축을 노린다. 외부 기술 제휴와 자체 기술 내재화를 동시에 추진해 향후 AI 경쟁에서 주도권을 확보하겠다는 포석이다. 23일 카카오는 경기 용인시 카카오 AI 캠퍼스에서 '이프 카카오(if kakao)25'를 열고 새롭게 변화하는 카카오톡의 모습을 공개했다. 이날은 오픈AI의 공동 프로덕트가 처음 공개됐다. 이번에 선보인 프로덕트는 카카오의 플랫폼 및 생태계를 오픈AI의 기술과 결합시켜 이용자에게 혁신적인 AI 경험을 제공한다. 카카오톡 대화 속에서도 챗GPT 이용 유용하 AI에이전트 플랫폼 성과리더는 “양사 협업 시 카카오톡 이용자가 챗GPT를 안전하고 쉽게 이용할 수 있게 하고, 챗GPT 안에 카카오와 외부의 서비스를 연결해 AI 생태계를 확장하는 것에 집중했다”며 “이용자들의 눈높이에 맞춰 글로벌 최고 수준의 서비스를 제공하는 것이 목표”라고 말했다. 카카오톡 이용자라면 누구나 채팅탭 상단의 '챗GPT'를 눌러 서비스를 사용할 수 있다. 챗GPT로 주고 받은 대화와 생성된 콘텐츠를 대화방에 바로 공유할 수 있으며, 카카오톡 대화 중 손쉽고 빠르게 챗GPT로 전환해 사용 가능하다. 카카오톡에서 사용하는 챗GPT는 오픈AI의 최신 모델 GPT-5로, 텍스트와 이미지 처리와 생성 및 고도화된 컨텍스트 인지 능력을 갖췄다. 단순히 카카오톡에 챗GPT를 적용한 것에 그치지 않고, 카카오의 다양한 서비스와 연결되는 '카카오 에이전트'를 통해 차별화된 사용성을 제공한다. 이를 통해 이용자는 별도의 앱 전환이나 메뉴 탐색 없이도 선물하기, 카카오맵, 예약하기, 멜론 등을 사용할 수 있다. 카카오 에이전트는 향후 카카오톡의 다양한 기능과 편리한 연결로 범위를 더욱 확대할 예정이다. 카카오 뿐 아니라 계열사, 공공기관, 외부 파트너 등이 함께 참여하는 AI 서비스 생태계 플랫폼으로 확장할 계획이다. 이를 위해 지난 8월 AI 서비스를 위한 툴(Tool) 제작과 등록을 직접 진행할 수 있게 지원하는 'PlayMCP' 플랫폼을 국내 최초로 오픈했다. 이용자들이 이를 쉽게 발견할 수 있는 마켓 플레이스 'PlayTools'를 통해 AI 서비스와 이용자를 연결하는 선순환 구조를 계획중이다. 올리버 제이 오픈AI 인터내셔널 비즈니스 총괄은 “카카오와 협력해 챗GPT를 새롭고 현지화된 방식으로 제공하게 되어 매우 기쁘다”며 “챗GPT 경험을 카카오 생태계와 결합함으로써 사람들의 일상에서 AI가 더욱 유용하게 활용될 것으로 기대한다”고 말했다. 먼저 말 걸어주는 '카나나 인 카카오톡' 강지훈 AI디스커버리 성과리더는 온디바이스 AI, '카나나 인 카카오톡'에 대한 상세한 내용을 공개했다. 카나나 인 카카오톡은 '필요한 순간 먼저 말을 걸어주는 AI'로, 대화 속에서 필요한 맥락을 이해하고 먼저 카톡을 보내 일정관리, 예약, 구매, 지식검색 등 일상에 필요한 활동들을 제안한다. 카나나 인 카카오톡은 카카오가 직접 개발한 온디바이스 AI 모델인 '카나나 나노(Kanana Nano)'를 활용한다. 글로벌 최고 수준의 한국어 맥락 이해 능력을 가진 경량 모델을 적용해, 스마트폰 안에서 작동하며 안전하게 서비스를 이용할 수 있다는 것이 특징이다. 강 성과리더는 'Privacy First' 원칙 하에 이용자 프라이버시를 지키면서도 카나나가 똑똑하게 도움을 줄 수 있는 방법으로 온디바이스를 선택했다고 밝혔다. 이날부터 카나나 웹사이트에서 베타 테스트 신청이 가능하며, 선정된 인원은 10월 중순부터 테스트에 참여할 수 있다. 강 성과리더는 카카오톡 채팅방에 탑재할 AI 검색 서비스 '카나나 검색'도 함께 소개했다. 채팅방 안에서 검색과 검색 결과 공유가 가능한 서비스로, '함께' 그리고 '쉽게' 할 수 있는 것이 강점이라고 설명했다. 채팅방 입력창 옆에서 언제든 불러내 손쉽게 검색이 가능하면서도, 단순 정보 검색을 넘어 유용한 정보를 공유하고 다양한 대화 소재를 발굴하는 역할을 할 예정이다. 자체 개발 AI '카나나 모델 패밀리'도 공개 김병학 카나나 성과리더는 자체 모델 '카나나(Kanana)'에 대해 글로벌 모델과 견줄 수 있는 ▲성능과 효율성 ▲서비스 특성에 맞는 최적화 ▲보안과 안전성에 집중하고 있으며, 온디바이스(On-device)와 에이전틱 AI(Agentic AI)로 진화 중이라고 설명했다. 또한, 지난 2월 오픈소스를 공개한 뒤 5월 업그레이드를 거친 카나나 1.5버전에 대해 언급하며, 추론 구조의 강화와 함께 'MLA(Multi-Head Latent Attention)' 기법 및 'MoE(Mixture of Experts)' 구조를 적용해 2.0버전으로 고도화 하고 있다고 밝혔다. 카나나 모델이 적용된 사례에 대해서도 소개됐다. 현재 카나나 모델들은 ▲온디바이스AI ▲통화 녹음 ▲통화 및 대화 요약 ▲상담 매니저 ▲숏폼 분석 ▲숏폼 생성 등에 적용되어 있다. 김 성과리더는 “카카오톡 뿐 아니라 다양한 카카오 서비스에서 카나나 모델을 자연스럽게 경험하게 될 것” 이라며 “앞으로 Agentic AI 연구를 통해 이 경험을 확장하고 일상을 보다 편리하게 변화시켜 갈 것”이라고 말했다.

2025.09.23 12:28안희정

SK하이닉스, 세계 첫 양산 차세대 모바일 낸드 'ZUFS 4.1' 공급 개시

SK하이닉스가 세계 최초로 양산한 모바일용 낸드 제품 'ZUFS 4.1'을 고객사에 공급한다고 11일 밝혔다. SK하이닉스는 "이번 제품이 글로벌 고객사의 최신 스마트폰에 탑재됨에 따라 글로벌 시장에서 당사 기술력의 우수성을 다시 한 번 입증할 수 있게 됐다"며 "스마트폰의 강력한 온디바이스 AI 구현 능력을 지원해 사용자들에게 혁신적인 경험을 선사하겠다"고 강조했다. SK하이닉스는 고객과의 긴밀한 협업을 통해 이 제품에 대한 인증 절차를 지난 6월 성공적으로 완료했다. 이를 바탕으로 7월부터 본격적인 양산에 착수해 공급을 시작했다. ZUFS(Zoned UFS)는 데이터를 용도와 특성에 따라 서로 다른 공간(Zone)에 저장하는 존 스토리지(Zoned Storage) 기술을 UFS에 적용한 확장 규격이다. UFS는 스마트폰과 태블릿 등 모바일 기기에 활용되는 고속 플래메 메모리 저장장치를 뜻한다. 이 제품을 스마트폰에 탑재하면 OS 작동 속도가 향상되고, 데이터 관리 효율성이 개선된다. 그 결과 장기 사용시 읽기 성능 저하 현상이 4배 이상 완화돼 앱 실행 시간을 기존 UFS 대비 45% 단축할 수 있다. 데이터 저장 방식도 UFS는 새로운 데이터를 기존 데이터 위에 덮어서 저장하는 반면, 이 제품은 순차적으로 기록하도록 설계되어 AI 앱 실행 시간을 47% 단축시켰다. 이러한 성능 특성은 이 제품이 온디바이스 AI와 대용량 데이터 처리가 핵심이 된 현재 모바일 환경에 최적화된 설루션으로 평가받는 배경이다. 아울러 회사는 이번 제품의 오류 처리 능력을 지난해 5월 개발한 4.0 버전 대비 대폭 강화했다. 오류를 더욱 정밀하게 감지한 뒤 중앙 제어 장치에 필요한 조치사항을 명확하게 전달함으로써, 시스템의 신뢰성과 복구 능력이 크게 향상될 것으로 기대된다. 김주선 SK하이닉스 AI 인프라(Infra) 사장(CMO)은 “이번에 성공적으로 공급을 시작한 ZUFS 4.1은 안드로이드 운영체제와 저장장치를 최적화 하기 위한 협업을 통해 개발 양산한 최초 사례로 활용 범위가 확대될 것”이라며 “앞으로도 고객이 요구하는 낸드 설루션을 적시에 공급하는 한편, 글로벌 기업들과 파트너십을 지속 강화해 AI 메모리 분야에서 차별화된 경쟁력을 구축해 나가겠다"고 말했다.

2025.09.11 09:01장경윤

SK하이닉스 "PIM, 온디바이스 AI 타고 엣지 시장서 뜬다"

SK하이닉스가 차세대 메모리로 주목받는 PIM(프로세스 인 메모리) 기술이 엣지 디바이스 시장에서 급부상할 것으로 내다봤다. PIM이 갖는 높은 에너지 효율성이 온디바이스AI에 적합하기 때문이다. 또 AI 시대 정보 보호에 대한 필요성이 높아지며, 온디바이스AI에 대한 수요도 동반 상승한다는 점도 PIM 시장 개화를 앞당기는 요소로 봤다. 강욱성 SK하이닉스 부사장은 12일 서울 강남구 코엑스에서 개최된 OCP코리아 테크데이에서 '클라우드에서 엣지까지 AI 메모리의 현재와 미래'라는 주제로 기조연설을 진행했다. 강 부사장이 미래 AI메모리로 주목한 제품군은 HBM(고대역폭 메모리), PIM, CXL(컴퓨트익스프레스링크)였다. HBM은 시장 내 품귀 현상까지 일어나고 있는 메모리 반도체로, AI의 속도를 담당한다. CXL은 여러 장치에서 메모리를 공유해, 속도를 대폭 확장시키는 기술이다. "PIM, 온디바이스 AI 타고 엣지 시장서 먼저 열릴 것" 이날 강 부사장은 PIM의 활용성에 주목했다. 에너지 효율성이 높은 PIM이 스마트폰, PC 등 엣지 디바이스에서 시장이 먼저 열릴 것이라는 예측이다. 그는 “PIM은 클라우드보다 스마트폰, PC 등 엣지에서 먼저 상용화가 전망된다”며 “GPU(그래픽처리장치) 개수를 늘릴 수 있는 클라우드와 달리, 엣지 디바이스는 늘릴 수 없기 때문이다”라고 설명했다. 그러면서 “휴머노이드나 로보틱스에서도 활용될 가능성이 높다”고 덧붙였다. PIM은 기존에 저장 기능만을 담당하던 메모리가 연산 기능까지 일부 수행하게 되는 것을 말한다. 데이터가 메모리에서 CPU(중앙처리장치) 등 프로세서로 이동하지 않는 만큼 병목 현상을 줄일 수 있다. 또 데이터 이동이 반도체 구동에서 가장 큰 전력을 소모하는 만큼 칩의 에너지 효율도 상승한다. 강 부사장은 “PIM은 동일한 파워에서 가장 높은 성능을 낸다”며 엣지 디바이스에 적합한 이유를 설명했다. 이에 SK하이닉스는 LPDDR(저전력 D램)에 PIM을 적용할 계획이다. 서버용 제품으로 만들어진 DDR과 달리 LPDDR은 스마트폰, 노트북 등에 활용되는 저전력 메모리다. 그는 기조연설이 끝난 뒤 기자들과 만나 "중장기적으로는 LPDDR에서 더 가능성이 크다고 보고 있다"고 말했다. 앞서 회사는 GDDR(그래픽 D램)에 PIM을 구현한 'AiM'을 선보인 바 있다. PIM을 데이터센터에서 구현하겠다는 시도다. SK하이닉스는 GDDR에서 시도했던 기술들을 토대로 LPDDR에서 PIM을 구현할 계획이다. 강 부사장은 "사실 PIM은 인터페이스가 크게 중요하지 않다. 내부 밴드위스(대역폭)를 활용하는 것이기 때문에 GDDR이든 LPDDR이든 상관없다"며 "단지 성능 관점에서 응용해서 쓰는 일반적인 메모리가 있을 것이다. 응용처에 따라 달라질 것 같다"고 설명했다. 아울러 정보 보호가 중요한 사회 분위기도 PIM 시장 개화를 가속화한다. 오늘날 AI의 확장과 함께, 개인 정보 보안에 대한 우려도 커지고 있다. 클라우드를 통한 연결이 개인 정보를 보호해주지 못한기 때문이다. 강 부사장은 이런 불안함이 온디바이스AI와 PIM 시장 개화를 앞당길 요소라고 봤다. 그는 “프라이빗한 데이터가 클라우드에 왔다 갔다 하는 걸 많은 사람들이 불안해한다”며 온디바이스 AI 시장이 커질 것으로 점쳤다. 그러면서 “(온디바이스 AI가) 요구하는 성능을 LPDDR만으로는 만족시키지 못한다”며 “PIM을 도입하게 되면 에너지 효율과 성능 모두를 다 잡을 수 있다”고 덧붙였다.

2025.08.12 14:42전화평

정신아 카카오 "올 하반기, 국내 최초 온디바이스 AI 서비스 출시"

카카오가 자사의 AI 브랜드 '카나나'를 중심으로 B2C AI 시장 선점에 본격 나선다. 오픈AI와 협업해 선보일 서비스뿐만 아니라, 카카오톡 기반 온디바이스 AI·AI 에이전트 플랫폼 등 다방면의 AI 서비스를 순차적으로 선보일 계획이다. 정신아 카카오 대표는 7일 2분기 실적발표 컨퍼런스콜에서 “카카오의 목표는 AI 서비스의 대중화”라며 “올 하반기부터 전 국민이 매일 AI를 체감할 수 있는 접점을 카카오톡 중심으로 마련하겠다”고 밝혔다. AI 서비스, 카나나 브랜드로...곧 출시 이번 전략의 핵심은 카나나라는 단일 브랜드로 AI 관련된 서비스를 모두 포괄하는 것이다. 그동안 별도 앱으로 소개돼 왔던 카나나를 하나의 통합 브랜드로 자리매김시키겠다는 의도다. 정 대표는 "오픈AI와 공동으로 협업하고 있는 프로덕트는 기존 챗지피티의 이용자 경험 외에 카카오가 보유한 자산과 그동안 쌓아온 국내 이용자들에 대한 이해도를 더하는 것에 초점을 두고 출시 일정이 임박한 만큼 보다 속도감 있게 준비하고 있다"며 "늦어도 다음 실적 발표 전에는 해당 프로덕트를 (이용자들이)사용할 수 있게 하겠다"고 약속했다. 그러면서 "하반기부터는 글로벌에서 가장 많은 이용자를 보유한 AI 서비스와 국내에서 가장 압도적인 모바일 플랫폼이 만나 빠르게 한국 B2C AI 서비스 시장을 선점할 것으로 기대한다"면서 "카카오톡 내에서는 톡의 핵심 경험인 관계에 기반한 대화의 맥락 속에서 작동하는 AI 서비스를 준비 중에 있다"고 말했다. 이 AI 서비스는 톡 내 다양한 공간에서 동작하면서 이용자의 의도에 맞춰진 다양한 액션들을 추천하고, 향후에는 필요한 액션들이 톡 안에서 완결될 수 있도록 설계될 예정이다. 정 대표는 "해당 서비스는 카카오가 자체 개발한 온디바이스 경량화 모델을 기반으로 구동될 예정"이라며 "이용자들의 데이터 프라이버시가 가장 높은 수준에서 관리될 뿐만 아니라, 카카오 입장에서도 대규모 추론 모델을 절감할 수 있게 될 것이라 생각한다"고 덧붙였다. "카카오보다 강력한 AI 에이전트 플랫폼 없을 것" 카카오는 에이전트 기반 생태계 구축도 시작한다. 카카오톡에 탑재된 AI 에이전트를 통해 자체 서비스와 외부 파트너 서비스까지 연결하는 구조를 만들 계획이다. 장기적으로는 '앱을 방문하지 않아도 목적을 달성할 수 있는' 에이전트 중심 생태계를 구축해 모바일 시대를 넘어 AI 플랫폼 주도권까지 확보하겠다는 전략이다. 정 대표는 "카카오는 모바일 시대에도 그러했듯 AI 에이전트 시대에서도 강력한 플랫폼 역할을 하기 위해 본격적인 생태계 구축 작업을 하반기부터 시작한다"며 "출시 초기에는 카카오톡에서 일부 카카오 자체 서비스와 연동되는 에이전트를 확인할 수 있으며, 이후 보다 다양한 버티컬들의 액션이 가능해지도록 카카오 그룹사뿐만 아니라 외부 파트너들과의 연동도 계획하고 있다"고 설명했다. 정 대표는 “AI가 사람처럼 생각하고 행동하는 시대에 맞춰 추론 중심의 모델 개발을 강화하고 있다”면서 “카카오톡이 가진 메시징 프로토콜 역량과 특화 모델 라인업을 결합하면, 에이전트 AI 플랫폼에서 카카오보다 강력한 사업자는 없을 것”이라고 자신했다. 이를 뒷받침할 인프라도 확충한다. 정 대표는 "앞으로 서비스의 안정성과 데이터의 보완이 점점 중요해지는 만큼 그동안 임차해 왔던 데이터센터를 자체 데이터센터 운영으로 전환하는 동시에 인프라 비용 측면에서도 효율화가 가능할 것으로 전망하고 있다"고 말했다. 마지막으로 정 대표는 "올해는 카카오에게 있어 본격적인 AI 대전환기의 전망이 되는 해"라며 "모바일 시대의 퍼스트 무버였던 카카오가 이번 하반기부터는 모바일 생태계에서 가장 압도적인 플랫폼 위에 다양한 AI 서비스를 출시하면서 전 국민을 대상으로 하는 첫 번째 B2C AI 서비스로 거듭나려고 한다. 국내 최초로 온디바이스 AI 서비스를 출시하면서 AI 시대에서도 퍼스트 무버로서 선점 효과를 가져가고자 한다"고 강조했다.

2025.08.07 10:17안희정

"AI로 피싱 막는다"…LGU+, 한달간 5500여건 보이스피싱 탐지

LG유플러스가 AI 통화 에이전트 '익스오'에 탑재한 온디바이스 AI 기반 '안티딥보이스' 기술이 한 달 만에 5천500여건의 피싱 시도를 탐지했다고 5일 밝혔다. '안티딥보이스'는 AI 기술을 활용해 위변조된 목소리를 판별하는 기술이다. LG유플러스는 지난 6월 말 익시오를 통해 국내 통신사 중 가장 먼저 상용화에 성공했다. 그로부터 한 달간 안티딥보이스의 성과를 분석한 결과, 약 5천500건의 위변조 음성을 탐지한 것으로 집계됐다. 이는 일 평균 183건에 달하는 수치로, 보이스피싱 한 건당 평균 피해 금액이 약 5천300만원이라는 점을 고려할 때 약 2천900억원 상당의 피해를 예방한 것으로 추산된다. 안티딥보이스는 통화 시작 직후 5초 이내 위변조된 음성을 감지한다. 이어 대화 패턴을 분석해 1~2분 내 보이스피싱 의심 여부를 가려낸다. 아울러 이 기술은 AI를 활용해 실시간으로 통화 음성의 주파수 벡터를 분석, 위조 가능성을 판단한다. LG유플러스는 정확한 탐지를 위해 고도화된 알고리즘과 국립과학수사연구소로부터 제공받은 실제 보이스피싱 스크립트를 활용해 200만건 이상의 데이터를 학습시켰다. 이를 통해 안티딥보이스는 합성된 음성에 대한 탐지 정확도 98%를 자랑한다. 안드로이드·iOS 스마트폰 보유 이용자 누구나 온디바이스 AI 기반으로 개인 정보 유출 우려 없이 서비스를 이용할 수 있다. 안티딥보이스 기능을 탑재한 익시오에 대한 관심은 글로벌 시장에서도 커지고 있다. MWC25를 통해 안티딥보이스 기술을 접한 세계이동통신사업자협회(GSMA) 산업 보안 책임자인 사만다 카이트는 “혁신적인 실시간 보이스피싱 탐지와 안티딥보이스 보호 기능을 갖춘 익시오는 온디바이스 AI 보안의 새로운 기준을 제시한다”며 “모바일 기기 내에서 실시간으로 개인정보를 보호하며 위협을 탐지함으로써, 소비자에게 더 똑똑한 보안 환경을 제공할 수 있을 것”이라고 평가했다. 향후 LG유플러스는 개인정보위원회·국립과학수사연구원 등과 협업해 보이스피싱 범죄자 목소리를 탐지하는 기술을 익시오에 탑재, 이용자 안심을 강화할 방침이다. 또한 AI 기반의 위험 URL 및 악성 앱 탐지 기능도 도입할 방침이다. 최윤호 LG유플러스 AI Agent추진그룹장은 “AI를 활용해 고도화되는 보이스피싱 범죄로부터 이용자를 보호하기 위해 세계 최초로 상용화한 안티딥보이스 기술이 실질적으로 피해를 막는 역할을 하고 있다는 것을 확인했다”며 “앞으로도 LG유플러스는 AI 기반의 실시간 분석을 통해 입체적인 보안 체계를 구축함으로써 보안에 가장 진심인 통신사로 자리매김할 것”이라고 말했다.

2025.08.05 09:10진성우

"국내외서 적수 없다"…NC AI, 경량 최강 VLM 모델로 '국가대표 AI' 승기 잡나

정부가 추진하는 '국가대표 AI' 타이틀에 한 걸음 다가선 NC AI가 국내외 적수가 없는 최고 성능의 초경량 멀티모달 비전언어모델(VLM)을 공개했다. NC AI는 온디바이스 환경에서 구동 가능한 초경량 멀티모달 AI 모델 '바르코 비전 2.0(VARCO VISION 2.0 1.7B)'을 공개했다고 30일 발표했다. 이번 모델공개로 NC AI는 1.7B(17억) 파라미터의 작은 크기에도 불구하고 기존 경량 모델들을 뛰어넘는 수준의 성능을 보여주며 개인 디바이스에서도 고성능 멀티모달 AI를 활용할 수 있는 길을 열었다. NC AI의 '바르코 비전 2.0'은 이미지와 텍스트를 함께 이해해 질문에 답할 수 있는 차세대 인공지능 모델로, 여러 장의 이미지를 동시에 분석할 수 있어 복잡한 문서나 표, 차트도 효과적으로 처리할 수 있는 VLM이다. 이번 경량 모델 공개는 16일 공개된 중형 모델 '바르코 비전 2.0 14B'에 이은 후속작이다. 14B 모델은 공개 후 열흘 만에 1만 회 가까운 다운로드를 기록하며 국내외 개발자들의 높은 관심을 끌었다. 이는 NC AI의 멀티모달 AI 기술력이 글로벌 수준임을 보여주는 지표다. 바르코 비전 2.0 1.7B는 텍스트 처리, 한국어 성능에서 글로벌 톱 오픈소스 멀티모달 모델인 인턴(Intern)VL3 2B, 오비스2(Ovis2) 2B 등을 압도하며 동급 최고 모델임을 입증했다. 영문 텍스트 처리 MT-벤치(Bench)와 한국어 K-시드(SEED), K-라바벤치(LLaVABench)는 물론 광학문자 판독 CORD, ICDAR 등 다양한 벤치마크에서 글로벌 모델들의 성능을 훌쩍 넘었다. LLM은 물론 멀티모달 구축의 기술력도 요구되는 독자AI 프로젝트를 진행 중인 국내 AI 생태계에서도 매우 의미 있는 성과라는 평이다. 또 바르코 비전 2.0 1.7B는 여러 주요 벤치마크에서 2배 가까이 더 큰 규모의 국내 모델들과 어깨를 나란히하는 성능을 기록했다. 특히 대학 수준의 지식을 검증하는 MMMU(Massive Multi-discipline Multimodal Understanding) 벤치마크와 과학 차트 이미지 해석 능력을 평가하는 AI2D 벤치마크에서 카카오의 카나나 3B, 네이버의 하이퍼클로바 3B 등 3B급 멀티모달 모델들과 동등하거나 오히려 더 우수한 성능을 보였다. 더불어 시각적 맥락에서의 수학적 추론 능력을 평가하는 '매스비스타(MathVista) 벤치마크'와 멀티모달 AI의 종합적인 시각언어 기능을 평가하는 'MM-Vet'에서도 윗 체급의 모델들 사이에서 2위를 기록했다. 1.7B 파라미터의 경량 모델은 스마트폰이나 PC 등 개인 기기에서도 원활하게 동작할 수 있도록 최적화됐다. 이는 기존 멀티모달 AI가 대부분 클라우드 환경에서만 활용 가능했던 한계를 뛰어넘어 개인 디바이스에서도 고성능 멀티모달 AI를 직접 활용할 수 있게 한다는 점에서 의미가 있다. 온디바이스 AI의 핵심 장점은 개인정보 보호와 실시간 처리 능력에 있다. 사용자의 데이터가 외부 서버로 전송되지 않아 프라이버시가 완벽하게 보호되며 네트워크 연결 없이도 즉시 AI 기능을 사용할 수 있다. 또 통신 지연이나 서버 과부하로 인한 서비스 중단 걱정 없이 안정적인 AI 서비스를 제공받을 수 있다. 삼성전자, 애플 등 글로벌 IT 기업들이 온디바이스 AI에 집중하고 있는 가운데 NC AI의 바르코 비전 2.0 1.7B는 국내 기술로 이러한 트렌드를 선도할 수 있는 경쟁력을 확보했다는 평가다. NC AI는 14B에 이어 1.7B의 성공적인 공개로 파운데이션 모델을 기반부터 구축하는 '프롬 스크래치(From Scratch)' 방식의 LLM 개발 경험에 더해 멀티모달 모델과 온디바이스 모델구축 능력까지 갖춘 AI 기술력을 재입증했다. 특히 1.7B라는 작은 모델 크기로도 충분한 성능을 확보함으로써 국내 AI 기술의 자주성과 접근성을 동시에 높였다는 점에서 의미가 크다. NC AI는 이번 1.7B 모델도 오픈소스로 공개한다. 앞서 국내 AI 생태계 발전과 연구 활성화에 기여하기 위해 바르코 비전 2.0 모든 모델을 연구용 오픈소스로 공개한다고 밝힌 바 있다. 또 앞으로도 지속적으로 개발하는 모델을 오픈소스 공개에 나설 계획이다. 이같은 노력에 힘입어 NC AI가 현재 정부에서 추진하는 '독자 AI 파운데이션 모델 프로젝트'에서 최종 사업자로 선발될 지 관심이 집중된다. 이번 멀티모달 모델 개발 역량과 함께 패션, 게임, 미디어 등 다양한 산업군에서의 버티컬 AI 서비스 운영 경험을 바탕으로 전 국민의 AI 접근성을 높이고 국가 AI 경쟁력 강화에 기여한다는 계획이다. 이연수 NC AI 대표는 "우리가 보여준 경량 고성능 모델 개발 능력을 통해 다양한 국내 산업군의 경쟁력을 크게 높일 것"이라며 "바르코 비전 2.0 1.7B는 AI 기술의 자립과 민주화를 위한 중요한 이정표로 앞으로도 더 많은 사람들이 쉽게 접근할 수 있는 고성능 AI 모델 개발에 최선을 다하겠다"고 밝혔다.

2025.07.30 09:07장유미

[현장] "연산은 빠르게, 정보는 안전하게"…주목받는 '온디바이스 AI'

최근 인공지능(AI) 기술이 클라우드 기반을 넘어 기기 내에서 직접 학습과 추론을 수행하는 온디바이스 AI로 빠르게 진화하고 있다. 정부 역시 AI 분야의 연구개발(R&D)과 기술 지원을 강화하는 가운데 이런 흐름을 반영한 기술 전문 세미나가 열렸다. 산업교육연구소는 23일 서울 구로구에 위치한 연구소에서 '최신 온디바이스 AI 신기술 개발과 실증 사례 및 주요 이슈 세미나'를 개최하고 기기 내에서 생성형 AI를 효율적으로 구현하기 위한 국내외 R&D 현황을 공유했다. 이번 세미나에서는 온디바이스 AI 기반의 최신 기술 동향부터 모빌리티·휴머노이드·국방 등 분야별 적용 사례가 발표됐다. 이날 첫 연사를 맡은 한국전자기술연구원 이석준 선임은 온디바이스 AI의 필요성과 구현 방안을 하드웨어·소프트웨어·모델 세 가지 축으로 나눠 설명했다. 특히 최근 화두가 된 생성형 AI 모델과 온디바이스 환경의 접점을 중심으로 기술적 과제와 최적화 전략을 소개했다. 이석준 선임은 "온디바이스 AI가 주목받는 이유는 명확한데 대용량 데이터의 실시간 처리, 개인정보보호, 네트워크 의존도 감소 등 기존 클라우드 기반 AI가 지닌 한계를 보완하기 때문"이라며 "특히 자율주행차· 드론·스마트팩토리 등 미세한 지연도 치명적인 산업 현장에서 온디바이스 AI가 실질적 대안이 될 수 있다"고 말했다. 이어 그는 생성형 AI 모델의 온디바이스 실행을 위한 기술적 난제들을 짚었다. 생성형 AI는 입력 길이가 가변적이고 연산량이 크기 때문에 기존의 딥러닝 방식인 'CNN' 기반 AI에 비해 더 많은 메모리와 연산 리소스를 요구한다. 이로 인해 기존의 신경망처리장치(NPU) 구조만으로는 효율적인 처리가 어렵다는 설명이다. 이를 극복하기 위한 방안으로 이 선임은 모델 경량화 방법인 가지치기·양자화·지식증류와 어텐션 최적화, 아키텍처 효율화 기법을 소개했다. 이 선임은 "80억개 미만 파라미터를 갖는 경량 모델이 온디바이스 생성형 AI의 현실적 타깃"이라며 "모델을 작게 만들되 정확도를 유지하기 위한 다양한 시도가 이어지고 있다"고 설명했다. 아울러 그는 국내외 온디바이스 AI 업체들의 기술 동향도 발표했다. 삼성전자는 갤럭시S 시리즈에 구글 제미나이 나노와 이미지 생성 모델을 탑재하며 모바일 온디바이스 AI 구현을 선도하고 있다. 딥엑스·모빌린트·오픈엣지테크놀로지 등 국내 스타트업들도 엣지 환경을 고려한 초저전력 NPU 및 시스템 온 칩(SoC)을 개발 중이다. 해외에서는 애플·퀄컴·미디어텍·NXP·헤일로 등이 스마트폰과 임베디드 기기를 겨냥한 고성능 AI 가속기를 선보이고 있다. 이 중 헤일로는 실제 구매 가능한 온디바이스 생성형 AI용 NPU 제품을 출시하며 주목받았다. 온디바이스 실행이 가능한 경량 언어·멀티모달 모델들도 다양하게 소개됐다. ▲메타의 라마3-8B ▲마이크로소프트의 파이-4-미니 ▲미스트랄AI의 미스트랄-7B 등 텍스트 전용 모델은 물론, 이미지와 음성까지 처리 가능한 ▲허깅페이스의 스몰VLM2 ▲구글의 젬마 3n ▲알리바바의 큐원2.5 옴니 등도 언급됐다. 이 선임은 "온디바이스 생성형 AI는 단순히 연산을 줄이는 기술이 아니라 산업 현장에서 비정형 상황을 이해하고 대응할 수 있는 게 핵심 역량"이라며 "미래의 IoT와 스마트 기기가 사람처럼 적응하고 판단하기 위해 반드시 넘어야 할 기술적 관문"이라고 강조했다.

2025.07.23 16:56한정호

차세대 'LPDDR6' 표준 나왔다…삼성·SK, AI 메모리 새 격전지 추가

차세대 저전력 D램인 'LPDDR6' 표준이 최근 제정됐다. LPDDR6는 이전 대비 대역폭이 최대 1.5배 높은 것이 특징으로, 엣지 AI·온디바이스 AI 등 고성능 컴퓨팅 분야에서 수요가 창출될 것으로 기대된다. 삼성전자·SK하이닉스 등 주요 메모리 기업들도 중장기적 관점에서 새로운 성장동력을 확보하게 됐다. 국제반도체표준화기구(JEDEC)는 LPDDR6 표준인 'JESD209-6'을 제정했다고 9일 밝혔다. LPDDR은 저전력 D램으로 스마트폰, 엣지 서버 등 전력 효율성이 중요한 기기에서 주로 활용된다. 1-2-3-4-4X-5-5X 순으로 개발돼 왔으며, 현재 7세대인 LPDDR5X까지 상용화가 이뤄졌다. LPDDR6의 핵심 요소는 대역폭의 증가다. 대역폭은 데이터를 한 번에 얼마나 많이 전송할 수 있는지를 나타내는 척도다. 기존 LPDDR5X의 경우 대역폭이 통상 8.5Gbps, 최대 9.6Gbps까지 구현 가능하다. LPDDR6는 통상 10.6Gbps에서 14.4Gbps까지 구현한다. 약 1.5배의 성능 향상이 이뤄지는 셈이다. 세부적으로 LPDDR6는 다이 당 2개의 서브채널 및 각 12개의 하위 채널을 갖춰, 데이터를 작은 단위(32바이트)까지 나눠 빠르게 처리할 수 있다. 또한 작업에 따라 유연하게 데이터 접근 방식을 바꿀 수 있는 제어 기술, 신호 품질을 유지할 수 있는 기술 등을 탑재했다. 전력효율성 측면에서는 이전 세대인 LPDDR5 대비 더 낮은 전압과 저전력 소비가 가능한 'VDD2' 전원을 두 개로 나눠 활용한다. 클럭 신호를 교차로 활용하기 때문에 전력 효율성과 성능을 동시에 높일 수 있다. LPDDR6 표준이 제정됨에 따라 삼성전자·SK하이닉스·마이크론 등 주요 D램 제조업체는 물론, EDA(설계자동화) 및 IP 기업, 팹리스 등 관련 생태계 참여자들의 차세대 엣지 AI 서버 개발이 가속화될 것으로 기대된다. 최장석 삼성전자 메모리 상품기획팀장(상무)은 "삼성전자는 이번 JEDEC 표준 제정이 차세대 LPDDR 제품 개발에 중추적인 역할을 할 것이라고 확신한다"며 "기술 선도 기업으로서 온디바이스 AI를 포함한 모바일 시장 변화 요구에 부응하는 최적화된 솔루션을 제공하기 위해 최선을 다할 것"이라고 말했다. 이상권 SK하이닉스 D램 PP&E 담당은 "LPDDR6는 대역폭 및 전력 효율을 크게 향상하는 동시에 차세대 모바일, 자동차, AI 기반 애플리케이션의 증가하는 수요를 충족하기 위해 신뢰성 기능을 강화한다"며 "SK하이닉스는 업계 파트너들과 긴밀히 협력해 메모리 혁신을 발전시켜 나가기 위해 최선을 다하고 있다"고 밝혔다. 반도체 업계 관계자는 "주요 메모리 기업들과 관련 협력사들이 LPDDR6에 필요한 컨트롤러, 인터페이스 개발에 열을 올리고 있다"며 "실제 LPDDR6를 활용하기 위해선 아직 시간이 필요하나, 대역폭이 높은 LPDDR을 원하는 AI 서버 기업들은 이미 LPDDR6 도입을 논의 중"이라고 설명했다.

2025.07.10 10:23장경윤

Prev 1 2 3 4 5 6 7 Next