검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'추론'통합검색 결과 입니다. (59건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

리벨리온, 6400억 투자 유치...기업가치 3.4조

국내 AI 반도체 스타트업 리벨리온이 국민성장펀드 1호로 선정되면서 6400억원 규모의 프리IPO 라운드 투자를 유치했다고 31일 밝혔다. 이번 투자로 리벨리온은 3조4000억원의 기업가치를 달성했다. 이번 프리IPO 라운드는 정부 주도의 정책자금과 미래에셋그룹이 리드한 민간 자본이 결집된 '민관 합동 투자'의 결과다. 정책자금의 경우 국민성장펀드에서 2500억원, 산업은행이 500억원을 각각 투자해 총 3000억원의 재원을 조성했다. 특히 미래에셋그룹은 그룹 차원에서 앵커 투자자로 나서며, 3000억원의 투자를 리드했다. 이러한 시장의 신뢰를 바탕으로 기존 투자자들도 신주인수권을 행사하며 총 6400억원 규모로 이번 투자가 마무리될 예정이다. 이번 투자는 정부가 대한민국 AI 3대 강국 달성을 목표로 추진 중인 '국민성장펀드 1차 메가프로젝트'의 핵심 과제인 'K-엔비디아 육성 프로젝트'의 실질적인 첫 행보다. 정부는 AI 반도체 분야에 필요한 다양한 투자와 지원을 바탕으로 기존 GPU의 전력·비용 한계를 극복할 국산 NPU 생태계를 구축할 계획이다. 그 일환으로 5년간 150조원 규모의 국민성장펀드 중 15조원을 혁신 기업에 대한 지분 투자 방식으로 집행, 리벨리온이 그 첫 사례로 이름을 올리며 국산 NPU 생태계 전반을 견인할 대표주자로 나서게 됐다. 회사는 이번 자금 조달을 바탕으로 인재 채용에 박차를 가할 계획이다. 현재 리벨리온은 300여명의 인력 규모를 갖추고 있다. 박성현 리벨리온 대표는 “지난 5년간 국내 반도체 생태계와 정부의 전폭적인 지지가 있었기에 리벨리온이 여기까지 성장할 수 있었다"며 "AI 추론 시장이 개화하는 '골든타임'을 놓치지 않기 위해 국가와 민간의 모험자본이 적시에 힘을 모아주신 것은 대한민국 반도체 생태계의 역사에 있어 상징적인, 매우 가슴 뛰는 순간”이라고 말했다. 그러면서 “이제는 경쟁력 있는 인재들과 함께 지금보다 2배 이상으로 팀을 키워 한층 더 높은 수준의 인재밀도를 갖추고, 글로벌 AI 인프라 시장의 중심에서 한국 AI 및 반도체 생태계와 함께 그 경쟁력을 직접 증명해보일 것”이라고 강조했다.

2026.03.31 09:25전화평 기자

[유미's 픽] "연산보다 메모리"…구글 '터보퀀트' 등장에 엔비디아도 '긴장'

구글이 생성형 인공지능(AI) 운영의 핵심 병목으로 꼽혀온 '메모리 문제'를 소프트웨어 방식으로 풀어내는 기술을 공개하면서 AI 인프라 경쟁의 방향이 바뀌고 있다. 모델 규모 확대 중심이던 기존 경쟁 구도가 실행 효율과 메모리 최적화 중심으로 이동하고 있다는 분석이 나온다. 27일 업계에 따르면 최근 대규모언어모델(LLM) 운영에서는 연산 성능보다 메모리 처리 효율이 전체 성능을 좌우하는 사례가 늘고 있다. LLM은 답변 생성 과정에서 이전 정보를 반복적으로 참조하는 구조를 갖고 있어 데이터 접근 과정에서 발생하는 지연이 속도와 비용을 동시에 제한하는 요인으로 작용한다. 현재 엔비디아 H100 등 최신 그래픽처리장치(GPU) 도입으로 연산 성능은 크게 향상됐지만, 메모리 대역폭과 데이터 이동 효율은 상대적으로 제한돼 있다. 실제 서비스 환경에서는 GPU 연산보다 메모리 접근이 병목으로 작용하는 경우가 적지 않다. 이 같은 흐름 속에서 AI 추론 시스템을 구성하는 기술 구조에 대한 이해도 중요해지고 있다. AI 추론은 모델, 메모리 구조, 실행 소프트웨어, 하드웨어가 단계적으로 결합된 형태로 작동한다. 우선 모델은 연산 과정에서 생성된 정보를 메모리에 저장하고 이를 반복적으로 참조한다. 이 과정에서 메모리 사용량이 급격히 증가하며 병목이 발생한다. 이를 해결하기 위한 접근이 메모리 압축 기술로, 데이터 표현을 줄이는 양자화(Quantization) 방식과 데이터 구조를 효율적으로 인코딩하는 방식이 함께 발전하고 있다. 이 가운데 구글이 지난 24일 공개한 터보퀀트(TurboQuant)는 데이터 표현 방식을 재구성하는 양자화 기반 접근으로, 메모리 사용량을 줄이면서도 정확도를 유지하는 데 초점을 맞춘 기술로 평가받는다. 엔비디아 역시 같은 문제를 두고 다른 접근을 시도하고 있다. 특히 최근에는 KV 캐시를 효율적으로 저장하기 위한 'KV 캐시 트랜스폼 코딩(KV Cache Transform Coding)' 기반 기술을 앞세우고 있다. 이는 데이터를 단순히 제거하는 방식이 아닌, 정보 구조를 효율적으로 인코딩해 저장 효율을 높이는 접근에 가깝다. 다만 모델별 특성에 맞춘 보정 과정이 필요하다는 점에서 적용 방식에는 차이가 있다. 두 기술 모두 메모리 압축을 목표로 하지만 접근 방식에는 차이가 있다. 터보퀀트가 양자화를 기반으로 정확도 손실을 최소화하는 데 초점을 둔 반면, KV 캐시 트랜스폼 코딩은 인코딩 효율을 높여 압축률을 끌어올리는 기술로 분석된다. 두 기술은 기존 메모리 최적화 기술의 연장선에선 의미 있는 진전으로 평가된다. KV 캐시의 정밀도를 낮추는 양자화 기법은 GPTQ, AWQ 등 오픈소스 진영과 스타트업을 중심으로 확산돼 왔고, 중요도가 낮은 토큰을 선택적으로 제거하는 방식이나 슬라이딩 윈도우 기반 메모리 관리 기법도 일부 모델에 적용돼 왔다. 또 메모리 접근을 줄이는 어텐션 최적화 기술은 데이터 전송 횟수를 줄여 속도를 높이는 플래시어텐션(FlashAttention) 등으로 발전하며 주요 AI 기업과 연구 커뮤니티에서 활용되고 있다. 업계 관계자는 "양자화나 토큰 프루닝 같은 기법은 이미 널리 쓰이고 있지만, 실제 서비스에서는 정확도나 안정성 문제 때문에 적용 범위가 제한적인 경우가 많다"며 "KV 캐시 자체를 압축 대상으로 삼는 접근은 구현 난이도는 높지만, 제대로 적용되면 체감 성능을 크게 바꿀 수 있는 영역"이라고 밝혔다. 메모리 압축과 더불어 모델 실행 방식 자체를 개선하려는 소프트웨어 경쟁도 확대되고 있다. vLLM, 텐서RT-LLM(TensorRT-LLM)을 비롯해 라마(llama.cpp) 등 다양한 추론 엔진들이 등장하며 요청 처리 방식과 메모리 관리 효율을 높이는 방향으로 발전하고 있다. 특히 vLLM은 미국 UC버클리 연구진이 주도해 개발한 오픈소스 추론 엔진으로, 요청을 효율적으로 묶어 처리하고 페이지드어텐션(PagedAttention) 구조를 통해 메모리를 동적으로 관리하는 방식으로 처리 효율을 높인다. 엔비디아가 개발한 텐서RT-LLM(TensorRT-LLM) 역시 GPU 연산을 최적화해 추론 속도를 개선하는 소프트웨어로, 데이터센터 환경에서 널리 활용되고 있다. 추론 엔진은 모델 자체를 변경하지 않고도 실행 방식만으로 성능을 개선할 수 있다. 동일한 모델이라도 어떤 실행 소프트웨어를 사용하느냐에 따라 처리 속도와 비용이 달라지는 구조다. 업계 관계자는 "같은 모델이라도 vLLM이나 텐서RT 같은 추론 엔진 설정에 따라 처리량 차이가 크게 난다"며 "실제 서비스에서는 모델보다 실행 스택이 성능을 좌우하는 경우도 적지 않다"고 설명했다. 메모리 압축 기술과 추론 엔진이 결합된 뒤 최종 연산은 GPU에서 수행된다. 특히 최신 GPU 환경에서는 연산 성능보다 메모리 활용 효율이 전체 성능을 좌우하는 경우가 많아지면서 소프트웨어 기반 최적화의 중요성이 더욱 커지고 있다. 이와 함께 AI 경쟁의 방향도 변화하고 있다. 그동안 생성형 AI는 더 많은 데이터를 학습하고 더 큰 모델을 구축하는 데 집중해 왔지만, 최근에는 동일한 모델을 얼마나 빠르고 비용 효율적으로 운영할 수 있는지가 핵심 경쟁력으로 부상하고 있다. 업계 관계자는 "대규모 서비스에서는 모델 성능보다 추론 효율이 비용 구조를 좌우하는 경우가 더 많다"며 "메모리 구조와 추론 엔진을 함께 최적화하지 않으면 GPU를 늘려도 수익성을 맞추기 어려운 단계에 들어섰다"고 말했다.

2026.03.27 12:11장유미 기자

AI 추론칩 꺼낸 엔비디아...韓 NPU, 위기인가 기회인가

인공지능(AI) 가속기 시장의 절대 강자인 엔비디아(NVIDA)가 연례 개발자 컨퍼런스 행사인 'GTC 2026'에서 추론 전용 가속기 LPU '그록3(Groq 3)'를 전격 공개하며 AI 반도체 시장의 판도 변화를 예고했다. 학습용 칩 시장의 절대 강자가 추론 시장 진입을 본격 선언한 것이다. 이에 그동안 경쟁이 덜한 추론 시장을 공략해온 리벨리온, 퓨리오사AI 등 국내 NPU(신경망처리장치) 기업들은 글로벌 리더와의 정면 승부라는 중대한 분수령을 맞이하게 됐다. 19일 반도체 업계에 따르면 엔비디아의 이번 행보는 국내 AI 반도체 기업들에 도전과 기회가 공존하는 중대한 시험대가 될 전망이다. 엔비디아가 추론 전용 가속기 라인업을 강화한 것은 추론 시장에서 가능성을 봤다는 의미와 함께, 국내 업체들이 공략해온 영역이 잠식될 수 있기 때문이다. 엔비디아의 '추론 칩' 양산 선언… 국내 업계엔 직접적 위협 가장 큰 위기는 시장 리더인 엔비디아가 본격적으로 추론용 칩 시장에 진입했다는 사실 자체다. 그간 국내 NPU 기업들은 엔비디아가 거대 AI 모델의 '학습' 시장에 주력하는 동안, 상대적으로 소홀했던 '추론' 영역을 틈새시장으로 보고 차별화를 꾀해왔으나 이제는 그마저 위협받게 됐다. 특히 엔비디아가 학습용 GPU의 약점으로 지목되던 전력 효율과 지연 시간까지 개선한 추론 전용 칩을 내놓으면서, 국내 업체들이 공들여온 '고효율 추론'이라는 방어벽이 흔들릴 수 있다는 우려가 나온다. 특히 국내 기업들이 공을 들여온 중동 시장의 판도 변화가 우려된다. 지난해 11월 미국 정부가 엔비디아 칩의 중동 수출을 허가하면서 리벨리온과 퓨리오사AI 등 국내 기업들이 선점하려던 신시장에 거대 공룡이 직접 진입하게 됐다. 신동주 모빌린트 대표는 “엔비디아가 추론 쪽에 본격적으로 뛰어들면서 올해부터 데이터센터 시장은 상당한 '레드오션'이 될 것”이라며 “결국 글로벌 빅테크들과 기술 및 영업 모든 면에서 직접 경쟁해야 하는 가혹한 상황”이라고 진단했다. “시장의 실재성 증명했다”... 역발상의 기회 반면 업계 일각에서는 엔비디아의 행보가 오히려 국내 NPU 기업들에 기회가 될 수 있다는 분석도 나온다. 시장 리더가 막대한 자금을 투입해 추론 전용 가속기를 내놓은 것은, 추론 시장의 폭발적인 성장 가능성을 전 세계에 공식적으로 확인해준 신호기 때문이다. AI 반도체 업계 관계자는 “엔비디아가 그록을 3배가 넘는 웃돈을 주고 인수한 것은 그만큼 추론 시장의 기회가 크다는 것을 방증한다”며 “이는 국내 업체들이 오랜 기간 준비해온 독자 아키텍처의 방향성이 틀리지 않았음을 증명하는 지표”라고 평가했다. 그러면서 “그록은 기존에도 경쟁 관계에 있던 반도체 업체인 만큼, 이번 발표가 새로운 위협이라기보다 기존 경쟁 구도의 연장선에 가깝다”고 분석했다. 김종기 세미파이브 전무는 “그간 추론 시장이 올 것이라는 말에 시장은 반신반의해왔으나, 엔비디아조차 트레이닝은 GPU로 하되 추론은 에이직이 필요하다고 선언하며 시장의 실재성이 완전히 입증됐다”며 “이러한 패러다임 전환은 기술력을 갖춘 국내 업체들에게는 오히려 플러스 요인이 될 것”이라고 내다봤다. '테스트베드' 부족이 최대 걸림돌… 포트폴리오 부재 우려 현 상황에서 국내 업계가 직면한 가장 심각한 문제점은 개별 기업의 기술력이 아닌 '테스트베드'의 부재다. 엔비디아의 그록3는 막강한 브랜드 파워와 기존 생태계를 바탕으로 실전 레퍼런스를 빠르게 확보하고 있는 반면, 국내 업체들은 제품을 대규모 환경에서 검증해볼 기회가 극히 제한적이다. 글로벌 대기업들은 특정 칩을 도입할 때 이미 시장에서 검증된 제품을 선호한다. 리스크를 짊어지지 않으려는 것이다. 국내 NPU 기업들이 아무리 뛰어난 효율성을 수치로 제시하더라도, 실제 서비스 환경에서 운영된 데이터가 부족해 글로벌 수주 경쟁에서 신뢰를 얻기 힘든 실정이다. 김 전무는 “국내 업체들도 특색 있는 기술력을 갖추고 있지만, 엔비디아나 그록에 비해 테스트베드가 부족한 것이 현실적인 불리함”이라며 “단순히 정부 권고로 쓰는 단계를 넘어 자발적인 수요가 발생할 수 있도록 검증 인프라를 대폭 확충해야 한다”고 강조했다. 다른 AI 반도체 관계자는 "(엔비디아는) 아마존, 마이크로소프트 등 하이퍼스케일러들에 대한 경험을 갖고 있는 점도 국내 업체들과 격차를 벌린다"며 "국내에서 레퍼런스를 쌓고, 해외에서 판매한다는 국내 AI반도체 업체들의 전략이 시장에서 통하려면 국가 전체가 AI 원팀이 돼야만 할 것"이라고 말했다.

2026.03.19 16:13전화평 기자

아카마이, 4400개 엣지로 AI 추론 속도·비용 개선

아카마이가 글로벌 엣지 인프라 기반으로 분산형 인공지능(AI) 추론 체계를 강화해 실시간 AI 처리 성능을 높였다. 아카마이는 4400개 엣지 거점을 활용한 'AI 그리드 지능형 오케스트레이션'을 출시했다고 18일 밝혔다. 이는 엔비디아 AI 인프라를 통합한 인퍼런스 클라우드로 엣지·코어 전반에서 AI 워크로드를 지능형으로 분산 처리하는 구조다. 이번 기술 핵심은 AI 요청을 실시간으로 배분하는 오케스트레이터다. 토큰당 비용과 첫 응답 시간 처리량을 동시에 고려해 최적의 인프라로 워크로드를 자동 배치한다. 이를 통해 기업은 기존 중앙 집중형 대비 효율성과 성능을 개선할 수 있다. 아카마이는 시맨틱 캐싱과 지능형 라우팅을 결합해 비용 효율성을 높였다. 고성능 GPU는 고난도 작업에 집중 배치하고 일반 요청은 엣지에서 처리해 전체 인프라 활용도를 끌어올린 구조다. 오픈소스 기반 클라우드를 통해 대규모 데이터 처리에도 유연하게 대응한다. 아카마이는 엣지 기반 처리로 실시간 응답성도 강화했다고 밝혔다. 게임에서는 밀리초 단위 상호작용을 지원하고, 금융에서는 로그인 순간 개인화 서비스를 제공한다. 미디어 분야에서는 실시간 트랜스코딩과 더빙까지 분산 환경에서 수행할 수 있다. 코어 인프라는 대규모 AI 연산을 담당한다. 엔비디아 블랙웰 그래픽처리장치(GPU) 기반 클러스터를 통해 거대언어모델(LLM)과 멀티모달 추론 같은 고부하 작업을 처리하며 엣지와 역할을 분담한다. 이를 통해 코어와 엣지를 연결한 연속적 컴퓨팅 구조를 구현했다. 아카마이는 엣지부터 코어까지 이어지는 인프라를 통해 서비스 수준 계약(SLA) 관리도 강화했다. 블루필드 데이터 처리 유닛(DPU) 기반 네트워킹으로 성능과 보안을 동시에 확보했다. 기업은 이를 통해 다양한 AI 워크로드를 안정적으로 운영할 수 있다. 아담 카론 아카마이 최고운영책임자(COO) 겸 총괄 매니저는 "이번 솔루션은 분산 아키텍처 기반으로 AI 추론을 외부로 확장하는 길을 제시한다"고 밝혔다.

2026.03.18 11:08김미정 기자

데이터센터 밖으로 확장된 AI…서버 업계, '엣지 AI' 경쟁 가속

인공지능(AI) 인프라의 중심이 데이터센터에서 현장으로 이동하고 있다. 생성형 AI 확산으로 대규모 모델 학습뿐 아니라 실시간 추론 수요가 빠르게 증가하면서 제조 현장, 매장, 통신 기지국 등 데이터가 생성되는 장소에서 바로 AI를 활용하는 '엣지 AI'가 차세대 인프라로 떠오르고 있다. 5일 업계에 따르면 글로벌 서버 기업들은 데이터센터 중심의 기존 AI 인프라 전략을 넘어 제조·리테일·통신·로봇 등 산업 현장에서 AI 연산을 처리하는 엣지 인프라 구축 경쟁에 속도를 내고 있다. 특히 델 테크놀로지스, HPE, 슈퍼마이크로 등 주요 서버 기업들이 엣지 환경에서 AI 추론을 수행할 수 있는 특화 서버와 네트워크 솔루션을 잇달아 선보이며 시장 공략에 나서고 있다. 엣지 AI는 데이터를 중앙 데이터센터로 보내 처리하는 대신 데이터가 생성되는 현장에서 즉시 분석과 의사결정을 수행하는 방식이다. 실시간 처리가 필요한 산업에서 지연 시간을 줄이고 네트워크 비용을 낮출 수 있다는 점에서 스마트팩토리·리테일·자율주행·로봇 등 다양한 산업에서 활용 가능성이 주목받고 있다 포춘비즈니스인사이트 등 주요 시장조사업체에 따르면 글로벌 엣지 AI 시장 규모는 2024년 약 200억 달러(약 29조원) 수준에서 2030년 1천억 달러(약 146조원)로 연평균 20% 이상 성장할 전망이다. 서버 기업들은 이같은 흐름에 맞춰 엣지 환경에 최적화된 AI 인프라를 잇따라 내놓고 있다. 델 테크놀로지스는 최근 실외 환경에서도 AI 워크로드를 처리할 수 있는 서버 '파워엣지 XR9700'을 공개하며 엣지 AI 시장 공략을 강화했다. 해당 서버는 전신주나 옥상 등 외부 환경에서도 설치할 수 있도록 설계됐으며 통신 기지국과 원격지에서 클라우드 무선 접속망(RAN)과 엣지 AI 애플리케이션을 직접 실행할 수 있도록 지원한다. HPE 역시 엣지 인프라 전략을 강화하고 있다. MWC26에서 'HPE 프로라이언트 컴퓨트 EL9000 섀시'와 'EL140 젠12 서버' 기반 AI 인프라를 공개하며 코어 데이터센터부터 통신 기지국 등 엣지 환경까지 AI 워크로드를 처리하는 플랫폼을 제시했다. 해당 솔루션은 통신사와 서비스 사업자가 증가하는 AI 트래픽을 처리하고 엣지 환경에서 AI 서비스를 제공할 수 있도록 설계된 것이 특징이다. 슈퍼마이크로도 통신 네트워크와 결합한 엣지 AI 인프라 확대에 나섰다. 회사는 AI-RAN을 지원하는 서버 시스템을 공개하고 노키아·SK텔레콤 등 글로벌 통신사와 협력해 통신망에서 AI 워크로드를 처리하는 분산형 인프라 활용 사례를 선보였다. 이 시스템은 그래픽처리장치(GPU) 기반 AI 서버를 활용해 엣지 AI를 위한 네트워크 최적화와 자동화를 지원한다. 글로벌 네트워크 기업들도 엣지 AI 경쟁에 뛰어들고 있다. 시스코는 분산형 AI 환경을 지원하기 위한 '유니파이드 엣지' 플랫폼을 공개하며 컴퓨팅·네트워킹·스토리지·보안을 하나의 인프라로 통합했다. 데이터가 생성되는 지점에서 실시간 AI 추론을 수행하는 분산형 AI 환경을 구현한다는 전략이다. 클라우드 기업 역시 AI 추론을 엣지로 확장하는 움직임을 보이고 있다. 대표적으로 아카마이는 엔비디아 AI 인프라를 기반으로 한 '인퍼런스 클라우드'를 공개하며 데이터센터에서 인터넷 엣지까지 AI 추론을 확장하는 분산형 AI 플랫폼 구축에 나서고 있다. 스마트 커머스와 실시간 금융 의사결정, 산업용 로봇 등 다양한 AI 서비스에 대응한다는 계획이다. 업계에선 엣지 AI가 향후 피지컬 AI 확산을 뒷받침할 핵심 인프라가 될 것으로 보고 있다. 공장 자동화와 자율주행, 로봇 등 물리 세계와 연결된 AI 서비스는 밀리초 단위의 실시간 데이터 처리 능력이 요구되기 때문이다. 이에 기존 데이터센터 중심 AI 인프라와 함께 산업 현장과 초고속 네트워크 환경에 맞춤화된 분산형 엣지 AI 인프라 역시 성장할 것이라는 전망이 나온다. 데이터센터 업계 관계자는 "AI 산업이 모델 학습 중심에서 실제 서비스와 산업 적용 단계로 넘어가면서 데이터가 생성되는 현장에서 AI를 처리하는 엣지 인프라가 주목받고 있다"며 "향후 스마트팩토리와 로봇, 자율주행 등 피지컬 AI 확산과 함께 엣지 AI 서버 시장도 성장할 것"이라고 말했다.

2026.03.05 14:12한정호 기자

인텔 "6G는 구조 변경 아닌 5G 기반 연속적 진화"

인텔이 2일(미국 현지시간) 케보크 케치찬 인텔 데이터센터그룹(DCG) 수석부사장 명의 기고문을 통해 "기존 5G에서 구축한 컴퓨팅 기반을 강화하는 접근이 향후 6G 경쟁력의 핵심이 될 것"이라고 밝혔다. 인텔은 2일 스페인 바르셀로나에서 개막한 MWC26에 맞춰 공개한 기고문에서 "6G 성공은 새로운 아키텍처를 도입하는 데서 오는 것이 아니라, 5G에서 구축한 강력한 컴퓨팅 기반을 발전시키는 데서 나온다"고 설명했다. 케보크 케치찬 수석부사장은 통신사업자들의 공통된 요구로 ▲네트워크 내 AI 기본화 ▲효율 중심 운영 ▲개방성과 신뢰 확보 등을 꼽았다. 그는 "사업자들은 새로운 가속기 도입이나 구조 변화보다 AI가 네트워크에 자연스럽게 통합되기를 원한다"며 "전력 절감과 인프라 통합, 총소유비용(TCO) 절감이 중요한 의사결정 기준이 되고 있다"고 설명했다. 이어 "개방형 플랫폼과 검증된 상용 생태계는 장기적 투자 보호와 6G 진화의 핵심이며 안정적이고 생산환경에 적합한 플랫폼에 대한 요구가 높다"고 덧붙였다. 특히 그는 AI 인프라를 CPU와 GPU 경쟁 구도로 보는 시각에 대해 "네트워크에서는 각 워크로드에 적합한 컴퓨팅을 선택하는 것이 중요하다"고 강조했다. 케보크 케치찬 수석부사장은 "AI 인프라는 특정 하드웨어 중심이 아니라 성능, 효율, 비용, 배포 용이성 등을 고려해 설계돼야 한다"며 "GPU 중심 접근을 무분별하게 적용하면 비용과 운영 복잡성이 증가할 수 있다"고 지적했다. 인텔은 RAN과 코어 전반에서 AI 추론을 기존 인프라 위에 구현하는 전략을 추진하고 있다. 케보크 케치찬 수석부사장은 "네트워크에서 중요한 질문은 AI 실행 가능 여부가 아니라 기존 운영 환경을 유지하면서 비용과 전력 예산 내에서 확장할 수 있는지 여부”라고 밝혔다. 이날 인텔은 글로벌 통신사업자와 협력 사례도 공개했다. 케보크 케치찬 수석부사장은 "일본 라쿠텐모바일은 인텔과 협력해 RAN 환경에서 초저지연 AI 모델을 공동 개발·최적화하고 있으며, 실시간 요구사항을 충족하는 추론 기술을 적용하고 있다"고 설명했다. 이어 "보다폰은 유럽 전역 오픈RAN 및 vRAN 현대화 프로젝트에 인텔 플랫폼을 도입하기로 했으며, 영국 상용망 구축 경험을 기반으로 대규모 확장을 추진중"이라고 소개했다. 코어 네트워크에서도 인텔 플랫폼 적용이 확대되고 있다. SK텔레콤은 모바일 코어 상용 환경에 인텔 프로세서와 네트워크 솔루션을 도입해 운영 중이며, 에너지 효율과 성능 개선을 동시에 추진하고 있다. 또 NTT 도코모는 차세대 모바일 코어 구축에 인텔 기반 플랫폼을 채택해 트래픽 증가 대응과 비용 절감 전략을 병행하고 있다. 케보크 케치찬 수석부사장은 "AI는 RAN, 코어, 엣지 전반에 확산될 것이며, 성공은 실험실 성능이 아니라 실제 운영 환경에서의 결과로 평가될 것"이라고 전망했다. 그는 "개방형이고 신뢰할 수 있는 플랫폼을 기반으로 네트워크를 현대화하면, 서비스 혁신과 비용 효율을 동시에 달성할 수 있다"며 "검증된 인프라를 기반으로 한 점진적 진화가 5G의 가능성을 6G로 연결하는 가장 현실적인 경로"라고 덧붙였다.

2026.03.03 01:28권봉석 기자

인텔, 삼바노바와 AI 추론 시장 확대 위해 다년간 협업

인텔이 24일(현지시간) AI 인프라 스타트업 삼바노바와 함께 AI 추론 시장 확대를 위해 다년간 협업한다고 밝혔다. 삼바노바가 공개한 AI 추론 전용 칩인 SN50과 인텔 제온 프로세서, 인텔 GPU를 결합해 확장성 높은 AI 추론 서비스를 제공한다는 것이다. 삼바노바가 공개한 새로운 AI 추론용 칩인 SN50은 엔비디아 등 GPU 대비 초당 토큰 생성 등 처리 속도는 최대 5배 높이고 총소유비용(TCO)은 30% 수준으로 낮췄다. 삼바노바는 SN50이 에이전틱 AI 등 자율적 모델 실행과 상호작용을 필요로 하는 워크로드에 최적화됐다고 설명했다. SN50은 고대역폭 네트워크, 대규모 배치 처리, 낮은 지연시간 등 인프라적 요소를 대폭 강화해 실제 대규모 기업용 및 통신사 수준의 서비스에 적합한 퍼포먼스를 제공한다는 평가를 받고 있다. 초기 고객사인 소프트뱅크는 일본 내 AI 데이터센터에 SN50을 도입해 초저지연 추론 서비스를 제공할 예정이다. 인텔은 AI 전처리(프리필) 과정을 서버용 제온 프로세서와 데이터센터용 GPU로 처리하고 핵심인 추론 작업을 삼바노바 SN50으로 처리하는 랙 수준 솔루션을 글로벌 공급할 예정이다. 인텔은 "인텔의 CPU와 네트워크, 스토리지 기술과 삼바노바 SN50을 결합한 솔루션은 기존 GPU 중심 데이터센터 전략을 보완하는 동시에 대규모 추론 워크로드에 매력적인 옵션이 될 수 있다"고 강조했다. 로드리고 리앙 삼바노바 공동 설립자 겸 CEO는 "AI 경쟁이 대형 모델 구축에서 에이전틱 AI를 전 데이터센터 규모로 확장하는 단계로 이동하고 있으며 인텔과 긴밀한 협력이 이 전환을 촉진할 것”이라고 밝혔다.

2026.02.25 09:54권봉석 기자

MS, 차세대 AI 추론칩 '마이아 200' 공개…"아마존보다 3배 빨라"

마이크로소프트가 자체 개발한 2세대 인공지능(AI) 가속기를 공개했다. 경쟁사 보다 높은 성능을 강조하며 AI 인프라 시장 리더십 강화에 나설 전망이다. 이번 신제품은 AI 추론(Inference) 효율성을 극대화하는 데 초점을 맞췄으며 오픈AI의 최신 모델인 'GPT-5.2'를 지원하는 핵심 동력이 될 것으로 주목받고 있다. 26일 마이크로소프트는 자사 블로그를 통해 TSMC의 3나노(nm) 공정을 기반으로 제작된 새로운 AI 칩 '마이아200(Maia 200)'을 발표했다. 마이아 200은 대규모언어모델(LLM) 구동의 핵심인 '토큰 생성' 비용을 절감하는 데 방점을 두고 설계됐다. TSMC의 3나노(nm) 공정을 적용해 칩 하나에 1천400억 개 이상의 트랜지스터를 집적해 연산 밀도를 극대화했다. 메모리 아키텍처 또한 대규모 모델 처리에 최적화됐다. 초당 7테라바이트(TB)의 데이터 전송 속도를 자랑하는 216GB 고대역폭메모리(HBM3e)를 탑재했으며 272MB의 온칩 SRAM을 더해 데이터 병목 현상을 최소화하고 처리 속도를 높였다. 연산 성능은 750와트(W) 전력 소모 범위 내에서 4비트(FP4) 정밀도 기준 10 페타플롭스(PFLOPS), 8비트(FP8) 기준 5 페타플롭스 이상의 성능을 발휘한다. 마이크로소프트 측은 마이아 200은 아마존웹서비스(AWS)의 '트레이니움(Trainium) 3세대' 대비 4비트 성능에서 3배 앞서며 구글의 '7세대 TPU'보다 뛰어난 8비트 연산 능력을 확보하며 추론 가속기 시장의 새로운 기준을 제시했다고 강조했다. 마이크로소프트 클라우드 및 AI 그룹의 스콧 거스리 수석 부사장은 "마이아 200은 하이퍼스케일러가 만든 칩 중 가장 강력한 성능을 자랑하는 퍼스트 파티 칩"이라며, "오늘날 가장 큰 모델을 쉽게 구동할 뿐만 아니라 미래의 더 거대한 모델까지 감당할 수 있는 여유 성능을 갖췄다"고 강조했다. 마이아 200은 출시 후 마이크로소프트의 거대 AI 생태계를 지탱하는 중추적인 역할을 맡게 된다. 오픈AI 최신 모델인 GPT-5.2를 포함한 다양한 모델을 서비스하는 데 투입되며 마이크로소프트 파운드리와 마이크로소프트 365 코파일럿의 가격 대비 성능 효율을 크게 개선할 예정이다. 또 마이크로소프트 초지능팀은 마이아 200을 활용해 차세대 자체 모델을 위한 합성 데이터 생성 및 강화 학습을 수행한다. 고품질의 도메인 특화 데이터를 더 빠르고 효율적으로 생성하여 AI 모델 훈련 파이프라인을 가속화하겠다는 전략이다. 시스템 수준에서의 혁신도 돋보인다. 마이아 200은 표준 이더넷 기반의 독자적인 2계층 스케일업 네트워크 설계를 도입했다. 칩당 2.8TB/s의 양방향 대역폭을 제공하며, 최대 6,144개의 가속기를 하나의 클러스터로 묶어 효율적인 대규모 추론 작업을 가능케 한다. 마이크로소프트는 개발자들을 위한 마이아 소프트웨어 개발 키트(SDK) 프리뷰도 함께 공개했다. 이 SDK는 파이토치(PyTorch) 통합, 트리톤(Triton) 컴파일러, Maia 전용 저수준 프로그래밍 언어 등을 포함하여 개발자가 하드웨어 성능을 최대로 끌어내면서도 이기종 하드웨어 간 모델 이식을 쉽게 할 수 있도록 돕는다. 마이아200은 미국 아이오와주 디모인 인근의 'US 센트럴' 데이터센터 리전에 이미 배치되었으며 이어 애리조나주 피닉스 인근의 'US 웨스트 3' 리전으로 확장될 예정이다. 이번 마이아200의 출시는 AI 인프라 시장에서 엔비디아 의존도를 낮추고 자체 칩 경쟁력을 통해 AI 서비스의 수익성을 극대화하려는 마이크로소프트의 강력한 의지가 반영된 것으로 풀이된다. 스콧 거스리 부사장은 "마이아 200은 칩 설계부터 데이터센터 배포까지 엔드-투-엔드(End-to-End) 검증을 통해 실리콘 출시 후 며칠 만에 실제 AI 모델을 구동하는 데 성공했다"며 "이는 타사 대비 절반 이하의 시간으로 단축된 획기적인 성과"라고 밝혔다.

2026.01.27 09:46남혁우 기자

엑세스랩, 퀄컴 기반 Arm 추론 어플라이언스 출시

Arm CPU 기반 데이터센터 전문기업인 엑세스랩이 23일 퀄컴 AI 추론 솔루션 기반 저전력·고성능 AI 추론용 어플라이언스 'V-랩터 Q100'을 출시했다. V-랩터 Q100은 엑세스랩이 자체 개발한 Arm 기반 저전력 CPU와 퀄컴 클라우드 AI 100 울트라 가속기를 활용해 AI 추론과 에너지 효율성, 확장성을 노렸다. 퀄컴 클라우드 AI 100 울트라는 퀄컴이 개발한 SoC와 LPDDR4 128GB 메모리를 활용해 INT8(정수 8비트) AI 연산을 초당 870 TOPS(1초당 1조 번 연산), FP16(부동소수점 16비트) 연산은 288 테라플롭스로 처리한다. 김상표 퀄컴코리아 사장은 "퀄컴은 생성 AI와 지능형 엣지 컴퓨팅 수요 급증에 따라 IoT 제품과 솔루션 포트폴리오를 확장중이며 엑세스랩과의 협업을 시작으로 온프레미스 어플라이언스 시장을 적극 공략하고 포트폴리오를 더욱 확대할 것"이라고 밝혔다. 유명환 엑세스랩 대표이사는 "퀄컴과 협업으로 출시한 AI 추론용 Arm CPU 서버 어플라이언스를 시작으로 향후 퀄컴과의 지속적인 기술 개발과 협업을 통해 온프레미스 어플라이언스와 AI 인프라의 글로벌 표준을 만들어가겠다"고 밝혔다.

2026.01.23 10:59권봉석 기자

[현장] STT GDC, 가산에 첫 데이터센터 연다…韓 코로케이션 시장 본격 진출

글로벌 데이터센터 전문기업 STT GDC가 국내 첫 데이터센터를 올해 6월 가동하며 한국 시장 공략에 본격 나선다. 인공지능(AI)·클라우드 수요 확대에 대응하는 AI-레디 인프라를 앞세워 국내 코로케이션 시장에서 입지를 구축할 계획이다. 허철회 STT GDC 코리아 대표는 22일 서울 여의도 FKI타워에서 진행한 기자간담회에서 "가산에 들어서는 'STT 서울1'을 시작으로 한국 시장에서 AI·클라우드 수요를 안정적으로 받쳐줄 인프라를 단계적으로 확대해 나가겠다"고 밝혔다. STT GDC는 싱가포르에 본사를 둔 글로벌 데이터센터 전문기업으로, 12개국에서 100개 이상의 데이터센터를 운영하며 총 IT 부하 용량 2기가와트(GW) 이상을 확보하고 있다. 고성능·고효율·저탄소 데이터센터 인프라를 기반으로 아마존·마이크로소프트·구글 등 글로벌 하이퍼스케일러들을 지원해왔다. STT GDC가 한국을 전략 시장으로 설정한 배경에는 AI 확산에 따른 데이터센터 수요 급증이 있다. 허 대표는 "AI 지출 확대와 에이전틱 AI, AI 서비스형 소프트웨어(SaaS) 등 시장이 빠르게 커지고 있다"며 "이에 맞춰 데이터센터 인프라뿐 아니라 저지연 네트워크·해저 케이블 등 연결성까지 중요해지고 있다"고 설명했다. 특히 허 대표는 앞으로 데이터센터 수요를 주도할 핵심 축으로 '추론'을 지목했다. 그는 "AI 애플리케이션과 추론 중심 워크로드가 늘수록 데이터센터의 수도권 입지와 네트워크가 더 중요해질 것"이라고 진단했다. 이런 흐름에 한국 시장도 소버린 AI와 그래픽처리장치(GPU) 확산 정책이 맞물리며 전력 수요가 크게 늘고 있다는 게 STT GDC의 판단이다. 허 대표는 정부가 엔비디아와 체결한 GPU 26만 장 도입 논의 등으로 인해 추가 전력 수요가 발생할 수 있으며 2030년에는 국내 데이터센터 전력 수요가 3GW 수준까지 필요해질 수 있다고 언급했다. STT GDC가 이번에 첫 거점으로 공개한 STT 서울1은 서울 금천구 가산동에 위치한 AI 데이터센터로, 최대 IT 부하 30메가와트(MW)를 수용하도록 설계됐다. STT GDC는 이 센터를 기반으로 국내 고객의 AI·클라우드 인프라 수요에 대응하는 동시에, 글로벌 확장과 연계한 코로케이션 서비스를 제공하겠다는 구상이다. STT 서울1은 주·예비 2회선 이중화 기반 22.9kV 전력 인입, 분산형 중복 구성 방식 무정전전원장치(UPS), N+1 비상발전기 등 안정성을 고려한 전력 설계를 갖췄다. 최대 부하 기준 24시간 무급유 발전이 가능한 연료탱크를 구축했고 업타임 티어 3 TCCD·TCCF 인증과 무중단 유지보수·내결함성 설계도 추진한다. 건물은 지하 2층부터 지상 10층까지 멀티스토리 구조로 설계됐으며 데이터센터 특성상 층고가 높아 체감 높이는 일반 아파트 약 20층 수준에 해당한다. STT GDC는 도심 내 제한된 부지에서 전력·설비 집적도를 극대화하기 위해 이같은 구조를 선택했다고 밝혔다. 네트워크는 망중립 구조를 기반으로 2개의 독립된 MDF실과 3개의 인입 경로를 구성해 복수 통신사 및 다양한 연결 옵션을 확보했다. 냉각은 설계 전력사용효율(PUE) 1.3 미만을 목표로 중앙 냉수식 냉방 설비와 팬월 유닛 등을 적용해 AI 워크로드에 대비한 열관리 효율을 높인다는 방침이다. 나아가 STT GDC는 액침 냉각 등 차세대 냉각 기술도 글로벌 본사 차원에서 검증하고 있다. 슈나이더 일렉트릭, 아이스오토프와 협력해 액침 냉각 기술검증(PoC)을 진행했고 인도 법인도 액체 냉각 기술 연구·테스트를 추진 중이다. 국내 센터 운영 전략으로는 인하우스 중심 운영을 강조했다. STT GDC 코리아 양재석 운영센터장은 "다수 데이터센터 사업자가 운영을 외주화하는 것과 달리, 우리는 운영 핵심 기능을 자체 인력으로 수행한다"며 "글로벌 하이퍼스케일러 지원 경험을 바탕으로 국내에서도 동일한 표준과 교육 체계를 적용할 계획"이라고 밝혔다. STT GDC는 한국 시장이 글로벌 하이퍼스케일러뿐 아니라 국내 클라우드 사업자와 소버린 AI 프로젝트 확대로 수요 구조가 빠르게 바뀌고 있다고 진단했다. 이에 대해 허 대표는 "연도별 수요·공급 변동성이 커지는 만큼 단계적 확장과 안정적 운영 역량이 중요해졌다"며 "향후 한국 내 추가 데이터센터 부지 확보도 검토 중"이라고 말했다. 끝으로 "AI 시대 데이터센터는 단순히 전력을 공급하는 시설이 아니라, 고밀도 워크로드를 안정적으로 처리하면서도 지속가능성을 함께 달성해야 한다"며 "재생에너지 확대와 냉각 혁신을 바탕으로 한국에서도 장기적으로 경쟁력 있는 데이터센터 플랫폼을 구축해 나가겠다"고 강조했다.

2026.01.22 16:33한정호 기자

"CDN 한계 넘는다"…아카마이, 보안·클라우드·AI로 성장 전환 가속

아카마이 테크놀로지스가 장기간 이어졌던 성장 정체를 벗어나 사업 구조 전환에 따른 새로운 성장 국면에 진입하고 있다는 분석이 나왔다. 22일 업계에 따르면 모건스탠리는 지난 12일 발표한 보고서에서 아카마이에 대한 투자의견을 기존 '비중축소'에서 '비중확대'로 두 단계 상향 조정하고 목표주가를 83달러에서 115달러로 높였다. 이는 아카마이가 기존 콘텐츠 전송(CDN) 중심 기업에서 보안, 클라우드 인프라, 인공지능(AI) 기반 서비스 기업으로의 전환이 가시화되고 있다는 판단에 따른 것이다. 아카마이의 전통적인 핵심 사업이었던 콘텐츠 전송 부문은 수년간 두 자릿수 매출 감소를 기록하며 전체 성장의 부담 요인으로 작용해 왔다. 그러나 최근 들어 감소 폭이 크게 완화되면서 안정화 국면에 접어들고 있는 것으로 평가됐다. 모건스탠리는 글로벌 웹 트래픽 회복, 경쟁사들의 시장 이탈로 인한 산업 구조 재편, 가격 경쟁 완화 등을 배경으로 콘텐츠 전송 사업의 연간 매출 감소율이 향후 마이너스(-)2~3% 수준으로 낮아질 것으로 전망했다. 여기에 월드컵과 올림픽 등 대형 글로벌 스포츠 이벤트가 트래픽 증가 요인으로 작용할 가능성도 언급됐다. 아카마이 매출의 절반 이상을 차지하는 보안 사업은 비교적 안정적인 성장세를 유지하며 핵심 역할을 충실히 하고 있다. 웹방화벽(WAF), 봇 방어, 디도스(DDoS) 보호 등 기존 보안 서비스는 성숙 단계에 접어들었지만, API 보안 전문 기업 노네임(Noname)과 마이크로세그멘테이션 솔루션 가디코어(Guardicore) 등 고성장 제품군이 이를 상쇄하고 있는 것으로 나타났다.모건스탠리는 "신성장 보안 영역은 연 30% 이상 성장 중"이라며 "이를 기반으로 보안 부문 전체 매출은 2027년까지 연평균 약 8% 성장이 가능할 것"이라고 전망했다. 아카마이는 최근 클라우드 인프라와 AI 인퍼런스 사업에서도 두각을 나타내고 있다. 이곳은 2022년 리노드 인수 이후 퍼블릭 클라우드 사업을 본격 확대해 왔으며 이 중 클라우드 인프라 서비스(CIS)는 연 40% 이상의 고성장을 지속할 것으로 전망됐다. 특히 2025년 말 출시한 '아카마이 인퍼런스 클라우드'는 엔비디아 블랙웰 그래픽처리장치(GPU)를 기반으로 한 엣지 AI 추론 서비스로, 지연시간과 데이터 이동 비용 측면에서 기존 대형 퍼블릭 클라우드 대비 차별성을 갖춘 것으로 평가된다. 모건스탠리는 IDC 전망을 인용해 "2030년까지 전체 AI 추론 수요의 약 50%가 엣지에서 처리될 가능성이 있다"며 "전 세계 4천400개 이상 PoP(접속점)을 보유한 분산 엣지 네트워크를 앞세운 아카마이가 이 시장에서 구조적 수혜를 입을 수 있다"고 분석했다. 이 같은 사업 구조 변화는 실적 전망에도 반영되고 있다. 모건스탠리는 아카마이의 2027년 매출을 약 47억8천만 달러, 주당순이익(EPS)을 8.20달러로 제시했다. 이는 시장 컨센서스를 소폭 웃도는 수준이다. 현재 주가는 2027년 예상 실적 기준 주가수익비율(PER) 약 11배로, 동종 클라우드 및 보안 기업 대비 낮은 수준에 머물러 있다. 모건스탠리는 "성장 정상화 가능성이 아직 주가에 충분히 반영되지 않았다"며 "중장기적으로 밸류에이션 재평가 여지가 있다"고 평가했다. 그러면서 "아카마이는 더 이상 단순한 콘텐츠 전송 기업이 아니라 글로벌 엣지 네트워크를 기반으로 보안과 클라우드, AI 인프라를 결합한 플랫폼 기업으로 진화하고 있다"며 "현재는 이러한 전략적 전환이 실질적인 성장으로 연결되기 시작하는 중요한 변곡점"이라고 덧붙였다.

2026.01.22 09:52장유미 기자

[기자수첩] 새해 시험대에 오른 국내 AI 반도체

2026년 새해 신경망처리장치(NPU) 시장이 본격적으로 열리고 있다. 그리고 이 변화의 중심에는 국내 인공지능(AI) 반도체 업체들이 서 있다. AI 산업의 무게 중심이 학습에서 추론으로 이동하면서, 그동안 기술력은 갖췄지만 시장의 문턱 앞에 서 있던 국내 AI 반도체 기업들에게 처음으로 현실적인 무대가 펼쳐지고 있다. 생성형 AI는 더 이상 연구실 안의 기술이 아니다. 산업 현장과 서비스, 디바이스 전반으로 빠르게 확산되면서 AI의 가치는 '얼마나 큰 모델을 학습했는가'보다 '얼마나 빠르고 효율적으로 판단할 수 있는가'로 옮겨가고 있다. 실시간 응답성, 전력 효율, 비용 구조는 이제 선택이 아닌 필수 조건이다. 이 변화는 자연스럽게 추론에 최적화된 NPU를 AI 반도체 경쟁의 중심으로 끌어올리고 있다. 기존 GPU 중심 구조는 여전히 강력하지만, 추론 환경에서는 전력 소모와 운영 비용이라는 현실적인 한계를 드러내고 있다. 특히 AI가 데이터센터를 넘어 엣지와 온디바이스, 산업 인프라로 확산될수록 이러한 부담은 더 크게 체감된다. 특정 연산에 최적화된 구조를 갖춘 NPU가 주목받는 이유다. 그리고 이 영역은 글로벌 빅테크보다 국내 AI 반도체 업체들이 상대적으로 경쟁력을 발휘할 수 있는 시장으로 평가받는다. 이 지점에서 국내 팹리스 생태계의 현실을 보여주는 사례를 하나 짚어볼 필요가 있다. 비록 NPU 기업은 아니지만, 파두는 국내 팹리스 가운데 드물게 글로벌 고객과의 협력을 통해 실질적인 성과를 만들어낸 기업이다. 샌디스크 등과의 협업을 통해 저장장치(SSD) 컨트롤러 시장에서 매출과 레퍼런스를 확보하며, 국내 팹리스도 글로벌 시장에서 통할 수 있다는 가능성을 가장 먼저 입증해왔다. 그러나 파두가 최근 상장 당시 자본시장법 위반혐의로 검찰에 불구속기소 되면서 국내 팹리스 산업이 안고 있는 구조적 취약성 역시 함께 드러났다. 기술력과 사업 성과를 쌓아가고 있던 기업조차 시장 신뢰와 제도적 리스크 앞에서는 쉽게 흔들릴 수 있다는 점이다. 이는 특정 기업의 문제라기보다, 이제 막 추론 시장이라는 기회를 맞이한 국내 AI 반도체 업계 전반에 던지는 경고에 가깝다. 이 같은 맥락에서 추론용 NPU를 개발하는 국내 AI 반도체 업체들 역시 같은 시험대에 서 있다고 볼 수 있다. 기술만으로는 충분하지 않고, 시장과 자본, 제도가 함께 뒷받침돼야 하는 것이다. 지금 필요한 것은 이미 달리고 있는 말의 속도를 줄이는 일이 아니라, 박차를 가할 수 있도록 힘을 실어주는 환경이다. 국내 AI 반도체 기업들은 그동안 추론용 NPU를 핵심 사업 전략으로 내세워왔다. 전력 효율과 성능 대비 비용, 특정 워크로드 최적화 등에서 차별화를 시도해왔지만, 시장 자체가 충분히 열리지 않아 성과를 가시화하기 어려웠다. 2026년을 기점으로 추론 수요가 빠르게 늘어나면서 이제는 기술적 설득이 아니라 실제 적용 사례와 지속 가능한 사업 구조가 경쟁력을 가르는 단계로 접어들고 있다. 정책과 산업 환경도 국내 업체들에게 유리하게 움직이고 있다. GPU 의존도를 낮추고 AI 인프라의 선택지를 넓히려는 흐름 속에서, 국산 NPU를 활용한 실증과 도입 논의가 이어지고 있기 때문이다. 이는 기술 자립을 넘어, 국내 AI 반도체가 글로벌 시장에서 신뢰할 수 있는 선택지가 될 수 있는지를 가늠하는 시험대다. 그리고 그 시험은 이미 시작됐다. 결국 관건은 하나다. 국내 AI 반도체 업체들이 추론 시장에서 '가능성 있는 대안'이 아니라 '검증된 경쟁자'로 자리 잡을 수 있느냐다. 자율주행, 로봇, 헬스케어, 스마트 디바이스처럼 늑장이 허용되지 않는 영역에서 NPU의 존재감이 커질수록, 그 답은 더욱 분명해질 것이다. 새해엔 가능성을 말하는 해가 아니다. 국내 AI 반도체 업체들이 추론 시장에서 실제 성과로 평가받는 해다. 달리는 말이 멈추지 않도록, 지금은 채찍을 들 때가 아니라 힘을 실어줘야 할 때다. 무대는 이미 열렸다.

2026.01.08 14:51전화평 기자

카카오, '카나나-2' 오픈소스 공개…에이전틱 AI 최적화

카카오는 허깅페이스에 자체 개발한 차세대 언어모델 '카나나-2'를 오픈소스로 공개했다고 19일 밝혔다. 카카오는 지난해 자체 개발 AI 모델 '카나나'의 라인업을 선보인 이래, 경량 사이즈의 모델부터 고난이도 문제 해결에 특화된 '카나나-1.5'까지 꾸준히 오픈소스로 추가 공개해왔다. 이번에 선보인 '카나나-2' 모델은 성능과 효율을 개선한 최신 연구 성과로, 사용자 명령의 맥락을 파악하고 능동적으로 동작하는 '동료'와 같은 AI 구현에 초점을 맞췄다. 이번에 공개된 모델은 총 3종으로 기본 모델인 ▲베이스, 사후 학습을 통해 지시 이행 능력을 높인 ▲인스트럭트, 이번에 처음 선보이는 ▲추론 특화 모델로 구성됐다. 개발자들이 자체 데이터를 활용해 자유롭게 모델을 파인튜닝할 수 있도록 학습 단계의 웨이트(학습된 매개변수 값)를 모두 공개한 점이 특징이다. 카나나-2는 에이전틱 AI 구현의 핵심인 도구 호출 기능과 사용자 지시 이행 능력이 향상됐다. 이전 모델(카나나-1.5-32.5b) 대비 다중 대화 도구 호출 능력을 3배 이상 향상시켰으며, 복잡한 단계별 요구 사항을 정확하게 이해하고 수행하도록 설계됐다. 지원 언어도 기존 한국어, 영어에서 ▲한국어 ▲영어 ▲일본어 ▲중국어 ▲태국어 ▲베트남어까지 6개로 확장해 활용도를 높였다. 기술적으로는 효율성을 극대화하기 위해 최신 아키텍처를 도입했다. 긴 입력을 효율적으로 처리하는 방식인 'MLA' 기법을 적용했으며, 추론 시 필요한 파라미터만 활성화하는 'MoE' 구조를 적용했다. 이를 통해 적은 메모리 자원으로도 긴 문맥을 효율적으로 처리할 수 있게 됐으며, 추론 시 필요한 파라미터만 활성화 해 연산 비용과 응답 속도가 개선됐다. 대규모 동시 접속 요청을 빠르게 처리하는 성능 진화를 만들었다. 성능 지표에서 인스트럭트 모델의 경우 동일한 구조의 최신 모델 'Qwen3-30B-A3B'와 유사한 수준을 달성했다. 이달 한국정보과학회와 공동 개최한 'AI 에이전트 경진대회'에서 참가자들에게 선공개돼 실제 에이전트 개발 환경에서의 활용 능력이 검증되기도 했다. 추론 특화 모델은 다양한 사고 능력이 요구되는 벤치마크에서 추론 모드를 적용한 'Qwen3-30B-A3B'와 유사한 성능을 보였다. 카카오는 향후 동일한 MoE 구조를 기반으로 모델 규모를 확장하고, 고차원적인 지시 이행 능력을 확보할 계획이다. 이와 함께 복잡한 AI 에이전트 시나리오에 특화된 모델 개발과 온 디바이스 경량화 모델의 고도화를 지속적으로 추진할 계획이다.

2025.12.19 10:00박서린 기자

앤트로픽, 구글 TPU 핵심 파트너와 AI 데이터센터 구축 '박차'

인공지능(AI) 인프라 경쟁이 본격화되는 가운데, 앤트로픽이 구글의 핵심 파트너로 떠오른 네오클라우드 기업 플루이드스택과 초대형 데이터센터 구축에 박차를 가한다. 18일 월스트리트저널(WSJ)에 따르면 플루이드스택은 미국 루이지애나주에 건설되는 대규모 AI 데이터센터에서 앤트로픽이 활용할 고성능 컴퓨팅 클러스터 운영을 맡게 됐다. 해당 프로젝트는 단계별로 확장되는 구조로, 초기에는 약 245메가와트(MW) 규모의 연산 용량이 제공될 예정이다. 이 인프라는 앤트로픽이 대규모 언어모델(LLM)을 학습·운영·확장하는 데 활용된다 . 이번 협력에서 플루이드스택은 단순 임대 사업자를 넘어 AI 연산 인프라 운영의 중심 역할을 맡는다. 회사는 구글 텐서처리장치(TPU) 생태계의 핵심 파트너로, 최근 '제미나이 3' 학습용 TPU 인프라를 공급하며 급부상했다. TPU 중심 전략을 앞세워 AI 모델 개발사들의 엔비디아 그래픽처리장치(GPU) 의존도를 낮추는 동시에 대형 데이터센터와 AI 슈퍼컴퓨팅 인프라 구축에 속도를 내고 있다 . 플루이드스택은 현재 약 7억 달러(약 1조345억원) 규모의 신규 투자 유치를 추진 중이며 투자 성사 시 기업가치는 70억 달러(약 10조원)에 이를 것으로 전망된다. 구글과 골드만삭스가 투자 논의에 참여한 것으로 알려졌고 프랑스에 100억 유로(약 17조원) 규모의 AI 슈퍼컴퓨팅 센터를 구축하는 계획도 공개했다. 이는 글로벌 AI 인프라 수요가 급증하는 가운데, 기술 기업과 금융권이 결합한 새로운 데이터센터 투자 모델을 대표하는 사례로 평가된다. 앤트로픽 역시 공격적인 인프라 투자에 나서고 있다. 회사는 총 500억 달러(약 73조원)를 투입해 미국 내 맞춤형 AI 데이터센터를 구축할 계획이며 텍사스와 뉴욕을 시작으로 내년부터 순차 가동한다. 이 과정에서 플루이드스택과의 협력은 앤트로픽이 안정적인 연산 자원과 전력을 확보하는 핵심 축으로 작동할 전망이다. 업계에서는 앤트로픽의 대규모 인프라 투자가 오픈AI, 메타 등 경쟁사들의 초대형 프로젝트에 대응하기 위한 전략적 선택으로 보고 있다. 생성형 AI 성능 경쟁이 연산 능력과 전력 확보 경쟁으로 확산되면서 클라우드 사업자의 위상도 빠르게 높아지고 있다는 분석이 나온다. 플루이드스택이 단기간에 구글과 앤트로픽을 지원하는 글로벌 AI 인프라 핵심 사업자로 부상한 배경도 이같은 흐름과 맞물려 있다 . 앤트로픽은 "이번 데이터센터 구축을 통해 보다 강력하고 안전한 AI 시스템을 개발하고 과학적 발견과 산업 전반의 혁신을 가속화할 수 있을 것으로 기대한다"고 밝혔다.

2025.12.18 13:31한정호 기자

삼성전자, 엔비디아향 '소캠2' 공급 임박…샘플 평가·표준화 협력

삼성전자와 엔비디아가 AI 메모리 분야에서 긴밀한 협력을 더 강화하고 있다. LPDDR(저전력 D램) 기반 차세대 서버 메모리 모듈에 대한 평가를 진행 중인 것은 물론, 공식 표준화 작업도 함께 진행 중이다. 양사 간 협업은 내년 초부터 본격적인 시너지 효과를 발휘할 것으로 기대된다. 삼성전자는 18일 공식 뉴스룸을 통해 고객사에 SOCAMM(소캠; Small Outline Compression Attached Memory Module)2 샘플을 공급하고 있다고 밝혔다. 소캠은 엔비디아가 독자 표준으로 개발해 온 차세대 메모리 모듈로, 저전력 D램인 LPDDR을 4개씩 집적한다. 기존 모듈(RDIMM) 대비 데이터 전송 통로인 I/O(입출력단자) 수가 많아, 데이터 처리 성능의 척도인 대역폭이 높다는 장점이 있다. 소캠2는 2세대 소캠으로서, RDIMM 대비 2배 이상의 대역폭과 55% 이상 낮은 전력 소비를 제공한다. 또한 분리형 모듈 구조를 적용해 시스템 유지보수와 수명주기 관리가 한층 수월해진다. 기존에는 서버에 저전력 LPDDR을 적용하려면 메인보드에 직접 실장해야 했지만, 소캠2는 보드를 변경하지 않고도 메모리를 쉽게 교체하거나 업그레이드할 수 있다. 삼성전자가 개발한 소캠2는 내년 초부터 본격 상용화될 전망이다. 현재 삼성전자는 1b(5세대 10나노급) D램을 기반으로 소캠2를 개발해, 주요 고객사인 엔비디아와 퀄(품질) 테스트를 거치고 있는 것으로 알려졌다. 삼성전자는 "서버 시장에서 늘어나는 저전력 메모리 수요에 대응하기 위해 LPDDR 기반 서버 메모리 생태계 확장을 적극 추진하고 있다"며 "특히 엔비디아와의 기술 협업을 통해 소캠2를 엔비디아 가속 인프라에 최적화함으로써, 차세대 추론 플랫폼이 요구하는 높은 응답성과 전력 효율을 확보했다"고 밝혔다. 소캠2의 공식 표준화 작업도 마무리 단계에 접어들었다. 현재 글로벌 주요 파트너사와 함께 JEDEC 표준 규격 제정을 주도하고 있으며, 차세대 AI 플랫폼과의 호환성 확보 및 생태계 확장을 위한 기술 표준 마련에 적극 기여하고 있다. 디온 헤리스 엔비디아 HPC 및 AI 인프라 솔루션 총괄 이사는 "AI 워크로드가 학습 중심에서 복잡한 추론과 피지컬 AI로 확대되는 상황에서, 차세대 데이터센터는 성능과 전력 효율을 동시에 만족하는 메모리 솔루션이 필수"라며 "삼성전자와의 지속적인 기술 협력을 통해 소캠2와 같은 차세대 메모리가 AI 인프라에 요구되는 높은 응답성과 효율을 구현할 수 있도록 최적화 작업을 이어가고 있다"고 밝혔다.

2025.12.18 11:04장경윤 기자

오픈AI, 한 달 만에 GPT-5.2 공개…구글 제미나이에 반격 나섰다

구글 제미나이의 거센 추격 속에서 오픈AI가 한 달 만에 프런티어 모델 'GPT-5.2'를 내놓으며 정면 돌파에 나섰다. 챗GPT 트래픽 감소와 내부 '코드 레드' 비상 체제까지 겹친 상황에서 강화된 성능의 신모델이 경쟁 구도를 다시 뒤흔들 것이라는 평가가 나온다. 오픈AI는 11일(현지시간) GPT-5.2 시리즈를 출시한다고 발표했다. 새 모델은 즉답·사고·프로 등 세 가지 모드로 구성되며 전문 지식 업무와 장시간 에이전트 실행에 최적화된 것이 특징이다. GPT-5.2는 챗GPT 유료 구독자에게 순차 제공되며 개발자들은 API를 통해 즉시 이용할 수 있다. GPT-5.1은 앞으로 3개월 뒤 지원이 종료된다. 이번 공개는 단순한 기능 업그레이드를 넘어 최근 제미나이 3의 급성장으로 흔들린 인공지능(AI) 시장 판도에 오픈AI가 다시 우위를 확보하려는 전략으로 풀이된다. 시장조사업체 시밀러웹에 따르면 챗GPT 트래픽 점유율은 1년 전 87%에서 최근 71.3%까지 떨어진 반면, 구글 제미나이는 같은 기간 5.7%에서 15.1%로 뛰어올랐다. 내부적으로도 샘 알트먼 오픈AI 최고경영자(CEO)는 직원들에게 코드 레드를 선언하며 챗GPT 모델 품질 개선을 최우선 과제로 지시한 바 있다. 이번에 공개된 GPT-5.2는 추론·코딩·수학·장문 분석·비전·도구 활용 등 전 영역에서 성능이 향상됐다. 오픈AI 자체 평가에서 사고 모드는 70.9%, 프로 모드는 74.1%를 기록해 인간 전문가와 대등하거나 능가하는 수준으로 평가됐다. 이전 버전 GPT-5의 38.8%와 비교하면 압도적인 성장이다. SWE 벤치마크에서도 80%를 기록하며 구글 제미나이 3 프로(76.2%)를 넘어섰고 앤트로픽 클로드 오퍼스4.5(80.9%)와도 1% 미만 차이에 불과한 것으로 나타났다. 또 사고 모드의 환각 오류율은 6.2%로 전작 대비 약 30% 감소했으며 긴 문서 맥락 이해와 이미지·그래프 분석 능력, 다단계 업무 처리 능력도 상향됐다. 복잡한 논리·수학 문제 해결 과정에 있어서도 이전보다 38% 적은 오류를 냈고 추론·코딩·과학 벤치마크에서도 최고치를 기록했다. 개발자들을 위한 API 측면에서는 추론 강도를 선택할 수 있는 다섯 단계의 옵션을 제공해 복잡한 프로젝트 수행 능력을 강화했다. 오픈AI 피지 시모 최고제품책임자(CPO)는 "GPT-5.2는 스프레드시트 제작, 프레젠테이션 구성, 코드 작성, 이미지 이해, 장문 맥락 추론, 도구 활용 등 실제 업무에서 큰 경제적 가치를 제공하도록 설계됐다"고 설명했다. 이번 공개는 오픈AI가 빠른 속도로 AI 모델을 출시하는 전환점으로 평가된다. GPT-5.1 발표 후 불과 한 달 만의 출시로, 이는 챗GPT 서비스를 시작한 2022년 이후 가장 짧은 주기다. 월스트리트저널과 여러 외신은 오픈AI가 내부 비상 상황 속에서 제미나이 3 프로의 벤치마크 공세를 의식해 GPT-5.2 출시 일정을 당긴 것으로 분석했다. 이번 GPT-5.2 공개로 오픈AI·구글·앤트로픽 간 경쟁이 한층 격렬해질 전망이다. 한편 오픈AI 내부에서는 고도화된 추론 모델 중심 전략이 높은 연산 비용 부담으로 이어질 수 있다는 우려도 제기되고 있다. 업계에서는 오픈AI의 추론 비용 상당 부분이 클라우드 이용료가 아닌 현금으로 지불되고 있다는 관측도 나온다. 오픈AI는 "더 효율적인 모델 구조와 강화된 성능을 통해 동일 비용 대비 더 높은 지능을 제공하는 방향으로 나아가고 있다"며 "앞으로도 안전성과 신뢰성을 강화하고 사용자가 기대하는 품질을 꾸준히 발전시켜 나가겠다"고 밝혔다.

2025.12.12 10:08한정호 기자

배스트데이터 "AI 경쟁력, 학습 아닌 추론 중심 데이터 구조가 결정한다"

"기업이 그래픽처리장치(GPU) 구축에 막대한 비용을 투입해도 인공지능(AI) 학습에만 활용해서는 실제 성과와 연결되지 않습니다. 앞으로의 경쟁력은 추론 중심 데이터 활용 구조를 얼마나 빨리 갖추느냐에 달려 있습니다." 배스트데이터 송성환 이사는 11일 서울 중구 신라호텔에서 열린 'AI & 클라우드 컨퍼런스 2025(ACC 2025)'에서 AI 시대 데이터 플랫폼의 중요성에 대해 이같이 밝혔다. 송 이사는 올해 AI 시장 변화의 핵심 키워드를 추론 확장으로 규정했다. 또 최근 GPU 세대 교체 주기가 빨라지고 모델링 개발 속도가 비약적으로 높아지는 가운데 기업들이 여전히 학습 중심 사고방식에 갇혀 있다고 지적했다. 그는 "데이터 활용성이 뒷받침되지 않으면 AI 투자 대비 기업 생산성은 올라가지 않는다"며 실시간 서비스와 맞닿은 AI 데이터 파이프라인의 중요성을 강조했다. 특히 AI 활용을 위한 데이터 파이프라인을 입수·가공·저장이 아닌 사용자·에이전트가 즉시 활용할 수 있는 마지막 액션 단계까지 이어지는 구조로 재정의해야 한다고 주장했다. 샘플링 데이터나 가공 데이터로 학습을 수행하는 것을 넘어 고객 요청에 대한 즉각적 응답성과 실시간 추론이 핵심이라는 설명이다. 송 이사는 이같은 요구를 해결하기 위한 배스트데이터의 'AI 운영체제(OS)' 전략을 소개했다. 배스트데이터는 창립 초기 스토리지 기업으로 출발해 현재는 데이터 수집부터 변환·쿼리·임베딩·검색증강생성(RAG)까지 연결하는 AI 데이터 플랫폼으로 영역을 확장했다. 배스트데이터는 AI OS를 기반으로 어떠한 AI 인프라와 솔루션 환경에서든 투입된 데이터를 자동 변환하고 대형 클라우드 서비스 사업자(CSP) 및 엔비디아가 제공하는 서비스와의 직접 연동과 아웃풋을 창출한다. 배스트데이터 핵심 기술은 독자적으로 개발한 '분리 자원 공유 구조(DASE)' 아키텍처다. DASE는 컨트롤러와 데이터 노드가 완전히 분리된 구조로 기업의 모든 데이터 풀을 공유한다. 이를 통해 장애가 발생해도 운영 영향이 없고 스토리지 컨트롤러·쿼리 엔진·데이터 엔진 등 다양한 역할을 하나의 노드에 유연하게 배치할 수 있도록 지원한다. 이 구조는 최근 글로벌 벤더들이 뒤따라 채택하고 있는 방식이라는 게 송 이사의 설명이다. DASE 위에는 '엘리멘트 스토어'라는 통합 데이터 레이어가 구축돼 있다. 이는 정형·비정형·반정형 데이터를 어떤 프로토콜로 받아도 동일한 방식으로 저장·관리할 수 있도록 설계된 구조다. 투입된 데이터는 자동으로 표준 데이터베이스(DB) 포맷으로 변환할 수 있고 빠른 인덱싱을 위한 카탈로그 기능도 제공해 실시간 데이터 쿼리·분석을 지원한다. 아울러 배스트데이터는 DB 기능을 OS 레벨에서 기본 제공한다. 사용자는 별도 설치 없이 콘솔에서 몇 번의 클릭만으로 스키마와 테이블을 구성할 수 있다. 주요 쿼리 엔진이 내장돼 데이터 이동 없이 데이터 앞쪽에서 직접 연산을 수행할 수 있다. 벡터 네이티브 DB 기능도 포함돼 있어 멀티모달 AI·검색증강생성(RAG)·임베딩 서비스 구축에 필요한 모든 요소를 단일 플랫폼으로 통합했다. 아울러 '싱크엔진', '인사이트엔진', 멀티 콘텍스트 프로토콜(MCP) 오퍼레이터 등도 단일 플랫폼 내에서 서비스한다. 해당 기능들은 외부 솔루션, 내부 스토리지, 로그·이벤트 데이터 등 다양한 소스를 자동 통합하고 여러 AI 모델을 OS 수준에서 연동해 엔드투엔드 AI 파이프라인 자동화를 구현한다. 이러한 기술력을 앞세워 글로벌 시장에서 가파른 성장세를 보이고 있다. 배스트데이터는 올해 포브스 'AI 50'에 선정됐으며, 세계 최대 GPU 클라우드 기업 중 하나인 코어위브가 약 2조5천억원 규모의 투자를 단행해 데이터 플랫폼으로 채택했다. 송 이사는 "AI 운영의 성패는 데이터를 얼마나 빠르고 일관되게 활용 가능한 형태로 전환하느냐에 달려 있다"며 "이 전환의 모든 과정을 하나의 데이터 플랫폼 OS로 통합해 기업이 AI 생산성을 극대화할 수 있도록 지원하겠다"고 강조했다.

2025.12.11 16:15한정호 기자

IBM, 16조원에 컨플루언트 인수…AI 시대 실시간 데이터 패권 노린다

IBM이 인공지능(AI) 시대 핵심 자원으로 떠오른 실시간 데이터 시장을 선점하기 위해 컨플루언트를 품고 기업용 AI 경쟁력 강화에 박차를 가한다. 9일 월스트리트저널(WSJ)에 따르면 IBM은 실시간 데이터 전문기업 컨플루언트를 주당 31달러(약 4만5천원), 총 110억 달러(약 16조원) 규모에 인수하기로 합의했다. 이번 거래는 IBM이 최근 수년간 단행한 인수 중 최대 규모로, 실시간 데이터 스트리밍 플랫폼을 통해 AI 서비스 전반의 성능과 속도를 끌어올리려는 전략으로 풀이된다. 컨플루언트는 대규모 AI 모델이 사용하는 실시간 데이터 스트림을 관리·처리하는 기술을 제공하는 기업으로, 리테일·금융·테크 산업에서 수요가 급증하고 있다. AI 추론 과정에서 발생하는 방대한 데이터 흐름을 실시간으로 처리해야 하는 기업에게는 필수적 기술로 자리 잡았다. 이번 인수 소식이 알려지자 컨플루언트 주가는 장중 30% 가까이 급등했다. IBM은 이번 인수를 통해 기존의 하이브리드 클라우드·자동화·데이터 플랫폼에 컨플루언트 기술을 통합하며 기업용 스마트 데이터 플랫폼을 구축할 계획이다. AI를 활용하는 모든 애플리케이션에 대해 실시간 정제 데이터 접근성을 높인다는 목표다. 컨플루언트는 이미 앤트로픽·아마존웹서비스(AWS)·구글 클라우드·마이크로소프트(MS) 등 주요 클라우드·AI 기업들과 협력해 왔으며 6천500곳 이상의 고객사를 보유하고 있다. IBM과도 지난 5년 동안 일부 솔루션 영역에서 파트너십을 이어온 바 있다. IBM은 최근 AI 중심 사업 재편에 속도를 내고 있다. 2023년 앱티오, 지난해 하시코프 인수에 이어 올해 컨플루언트를 품으면서 AI·클라우드·자동화 생태계 전반을 빠르게 확장 중이다. 또 IBM은 사내에서 AI 에이전트 도입을 가속해 수백 명의 HR 업무를 대체하는 등 AI 기반 조직 전환을 추진하고 있다. 아빈드 크리슈나 IBM 최고경영자(CEO)는 "컨플루언트 인수를 통해 기업들이 생성형 AI와 에이전틱 AI를 더 빠르고 효과적으로 배치할 수 있도록 지원할 것"이라고 말했다.

2025.12.09 14:51한정호 기자

삼성 세계 최초 12나노급 GDDR7 대통령상…추론 AI 시장서 '각광'

삼성전자의 최첨단 GDDR7 D램이 국가 산업경쟁력 강화에 기여하는 미래전략 기술로 인정 받았다. 해당 D램은 업계 최초로 12나노미터(nm)급 미세 공정을 적용한 고성능·고용량 그래픽 D램으로, 엔비디아 등이 주목하는 추론 AI 시장에서 핵심 역할을 담당할 것으로 관측된다. 삼성전자는 3일 서울 코엑스에서 개최되는 '2025 코리아 테크 페스티벌'에서 12나노급 40Gbps 24Gb GDDR7 D램으로 2025 대한민국 기술대상 대통령상을 수상했다. GDDR은 그래픽 처리에 특화된 D램으로, 일반 D램 대비 대역폭이 높아 한 번에 더 많은 데이터를 전송할 수 있다. GDDR7은 현존하는 GDDR 중 가장 최신 세대에 해당한다. GDDR7은 AI 시장에서 핵심 메모리로 빠르게 자리매김하고 있다. 특히 AI 경쟁의 초점이 기존 학습에서 추론으로 넘어가면서 GDDR7의 가치는 더욱 부각되는 추세다. AI 학습이 더 높은 메모리 용량 및 대역폭을 요구하는 데 비해, AI 추론은 효율성을 더 중시하기 때문이다. GDDR7은 고대역폭메모리(HBM) 대비 비용 효율, 전력효율, 경량성에서 강점을 가지고 있다. AI 시장의 주요 플레이어들 역시 GDDR7을 주목하고 있다. 엔비디아는 지난 9월 공개한 추론 전용 GPU인 루빈 CPX(Rubin CPX)'에 128GB GDDR7을 탑재할 것이라고 밝혀, GDDR7의 시장 입지를 한층 강화할 전망이다. 이에 삼성전자도 엔비디아와의 협력을 통해 시장 주도권을 공고히 할 것으로 관측된다. 김동원 KB증권 연구원은 "최근 엔비디아가 삼성전자에 GDDR7 공급 확대를 대폭 요청해 평택 라인의 생산능력이 두 배 이상 확대될 것"이라며 "가격 프리미엄을 받고 있는 GDDR7이 향후 D램 사업의 수익성 개선을 견인할 것으로 전망한다"고 밝혔다. 한편 삼성전자는 올해 초부터 12나노급 GDDR7 D램 양산에 나섰다. 그래픽 D램 중 최초로 24Gb를 구현했으며, 최대 42.5Gbps 속도 및 총 1.92TB/s 대역폭을 지원한다. 또한 고열전도성 신소재 적용으로 패키지 열저항 특성을 이전 GDDR7 제품 대비 11% 개선하는 데 성공했다.

2025.12.03 11:07장경윤 기자

"AI는 버블이 아닌 현실... 퀄컴, 미래 위한 성능 갖출 것"

[샌디에이고(미국)=권봉석 기자] "AI는 버블이 아니라 추론을 바탕으로 한 본격적인 활용 단계에 진입하고 있다. 퀄컴은 CPU·NPU·메모리 대역폭 전반에서 확실한 기술 리더십을 기반으로 PC 시장의 변화를 주도할 것이다." 11일(이하 현지시간) 오후, 미국 캘리포니아 주 샌디에이고 소재 퀄컴 본사에서 국내 기자단과 마주한 케다르 콘답 퀄컴 수석부사장 겸 컴퓨트·게이밍 본부장이 이렇게 강조했다. 케다르 콘답 수석부사장은 퀄컴 스냅드래곤 PC와 크롬북 생태계 확장, 휴대용 게이밍 기기 카테고리를 총괄하는 인사다. 퀄컴이 자체 개발한 Arm 호환 새 CPU 코어 '오라이언'(Oryon)을 탑재한 스냅드래곤 X 엘리트 플랫폼 개발과 상용화를 주도했다. 그는 이날 "앞으로 온디비아스 AI는 산업별 특화 모델 중심으로 확산될 것이며, 더 복잡하고 무거운 AI 모델에 대비할 수 있도록 강력한 성능을 가진 NPU와 메모리 여유폭(헤드룸)을 제공하는 것이 진정한 미래 대비 설계"라고 설명했다. "스냅드래곤 X2 시리즈 강점? 성능·배터리·AI" 케다르 콘답 수석부사장은 스냅드래곤 X2 시리즈의 강점으로 강력한 성능과 긴 배터리 지속시간, 80 TOPS 급 NPU를 이용한 AI 성능과 폼팩터 다양성을 꼽았다. 그는 "퀄컴은 지난 해 출시한 스냅드래곤 X 엘리트/플러스 등 3개 제품 모두에서 45 TOPS급 NPU와 동일한 DDR 메모리 대역폭을 적용해 모든 가격대에서 비슷한 품질의 사용자 경험을 제공했다"고 밝혔다. 이어 "향후 더 무거운 AI 모델과 산업별 특화 응용프로그램까지 원활하게 수행할 수 있도록 NPU 성능과 메모리 대역폭을 충분히 확보했다. 이는 미래 대비 전략의 일환으로, 수년 후 AI 기술 발전 속도까지 감안한 설계라는 의미다. "AI, 실제 생활에 변화... 퀄컴도 AI 적극 활용" 케다르 콘답 본부장은 AI가 실제 업무와 생활을 어떻게 바꾸고 있는지 다양한 사례도 소개했다. "법률 분야에선 스폿드래프트(SpotDraft) 애플리케이션이 퀄컴 NPU 최적화로 변호사의 요약·의견 생성 업무를 가속하고 있으며, 개인 창작 영역에서는 텍스트를 기반으로 한 동영상 생성이 이미 실용 단계에 진입했다." 그는 "퀄컴 내부에서도 전사적으로 회의 노트 요약, 코드 작성, 고객 이슈 분석 등 모든 조직이 AI를 적극 활용하고 있다"며, AI가 업무 효율과 생산성 향상에 이어지고 있다고 밝혔다. AI 변화 대응 위해 협업·성능 강화 중시 케다르 콘답 수석부사장은 "AI는 현재 전례 없는 속도로 변화하고 있으며 이를 위해 애니싱LLM, 넥사 등 툴·프레임워크 업체와의 협업, 모델 종속성을 줄이는 오케스트레이션 레이어 구축, 더 무거운 모델을 위한 충분한 성능 확보에 중점을 뒀다"고 말했다. 이어 "현재 PC 플랫폼에서 80 TOPS 수준의 NPU를 제공하는 곳은 퀄컴뿐이며 향후 등장할 차세대 AI 워크로드도 기존 하드웨어에서 안정적으로 구동될 수 있다. 이것이 바로 '미래 대비' 전략"이라고 부연했다. 기기 원격 관리 '스냅드래곤 가디언', 완전한 통제권 제공 퀄컴은 스냅드래곤 X2 플랫폼에 기기 원격 제어와 위치 기반 정보를 바탕으로 응용프로그램 실행 여부를 제어하는 '스냅드래곤 가디언' 기능을 추가했다. 케다르 콘답 수석부사장은 "스냅드래곤 가디언은 기업 내 IT 관리자와 일반 소비자 대상으로 자녀 보호를 위한 지오펜싱, 기기 위치 확인, 분실 추적 같은 관리 기능을 지원한다"고 설명했다. 이어 "기업 환경에서는 악성 행위 탐지 시 원격 조치가 가능하며, 전원이 다시 연결되면 즉시 관리자가 원하는 명령을 수행할 수 있다. 다만 이 과정에서 소비자와 기업 모두에게 기기 관리에 대한 완전한 통제권을 제공하는 것이 퀄컴 목표"라고 설명했다. "AI 보편화 곧 온다... 이를 위한 '미래 대비' 설계 적용" 케다르 콘답 수석부사장은 "아직 많은 사람들이 실감하지 못하고 있지만 AI는 아이부터 어른까지 모든 소비자의 일상 속으로 스며들 것"이라고 내다봤다. 이어 "아주 가까운 시점에 AI는 우리가 매일 사용하는 모든 기기 위에서 자연스럽게 동작하며 삶을 크게 향상시킬 것이다. 그리고 이러한 환경을 가능하게 한 것이 바로 NPU, 메모리, CPU 등 하드웨어 설계 단계에서부터 고려한 '미래 대비' 전략"이라고 강조했다.

2025.11.20 09:00권봉석 기자

Prev 1 2 3 Next