• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
ZDPick
반도체
인공지능
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'AI 추론 플랫폼'통합검색 결과 입니다. (9건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

[AI는 지금] "경쟁사 AI도 돈 된다"…코히어, 딥시크·오픈AI 품은 속내는

기업용 인공지능(AI) 모델 개발사 코히어가 딥시크와 오픈AI 등 경쟁사 모델까지 자사 플랫폼에 수용하며 AI 추론 시장 공략에 나섰다. 자체 모델 공급에 집중하던 사업 구조를 다변화해 기업 고객을 확대하고 추론 인프라 운영을 새로운 수익원으로 확보하려는 전략으로 풀이된다. 5일 업계에 따르면 코히어는 지난 4일 공식 블로그를 통해 기업용 AI 추론 플랫폼 '모델 볼트(Model Vault)'에서 외부 개발사의 오픈 모델을 지원한다고 발표했다. 이를 통해 기업들이 여러 AI 모델을 업무에 맞게 선택하면서도 별도 인프라 구축 없이 안전하게 운영할 수 있도록 지원한다는 구상이다. 이번에 추가된 모델에는 중국 딥시크의 'V4.1 플래시', Z.ai(지푸AI)의 'GLM 5.3 플래시', 샤오미의 '미모 V2.6 프로' 등이 포함됐다. 여기에 구글 '젬마4', 오픈AI 'GPT-OSS', 마이크로소프트(MS) '파이', 엔비디아 '네모트론' 등도 지원한다. 코히어는 기존 자체 모델인 '커맨드(Command)', '임베드(Embed)', '리랭크(Rerank)'와 함께 외부 모델을 하나의 플랫폼에서 제공한다. 기업은 업무 특성과 비용, 성능 요구사항에 따라 모델을 선택하고 코히어가 관리하는 인프라에서 실행할 수 있다. 코히어가 경쟁사 모델까지 수용한 것은 기업용 AI 시장에서 멀티모델 활용이 확대되는 흐름에 대응하기 위한 것으로 풀이된다. 기업들이 복잡한 추론에는 고성능 모델을, 문서 분류나 요약 등에는 상대적으로 저렴한 모델을 활용하면서 특정 공급업체의 모델만으로 다양한 수요를 충족하기 어려워지고 있어서다. 이번 전략으로 코히어는 자체 모델을 사용하지 않는 기업까지 잠재 고객으로 확보할 수 있게 됐다. 모델 성능 경쟁과 별개로 다양한 AI를 실행하는 추론 인프라를 제공해 고객 기반을 넓히려는 것이다. 수익 구조에도 변화가 예상된다. 코히어는 모델 볼트 이용료를 그래픽처리장치(GPU) 유형과 사용 시간에 따라 책정하고 예약 용량에 대해서는 월간·연간 약정 계약을 제공한다. 고객이 외부 모델을 사용하더라도 코히어의 추론 인프라를 이용하면 매출이 발생하는 구조다. 다만 GPU 운영 비용과 가동률에 따라 수익성이 달라지는 만큼 고객 확보가 실제 이익 증가로 이어질지는 지켜봐야 한다. 또 아마존웹서비스(AWS), MS 애저, 구글 클라우드 등 이미 다양한 AI 모델을 제공하는 클라우드 사업자들과의 경쟁도 불가피할 전망이다. 이에 코히어는 데이터 주권과 보안을 차별화 요소로 내세웠다. 모델 볼트는 기업별로 분리된 전용 인프라를 제공하며 고객이 지원 지역 가운데 데이터 처리 위치를 선택할 수 있도록 했다. AI에 입력한 프롬프트와 출력 결과를 기본적으로 저장하지 않는 정책도 적용했다. 보안 요구 수준이 높은 기업을 위해서는 기밀 컴퓨팅 기반의 '모델 볼트 인크립티드(Model Vault Encrypted)'를 제공한다. 데이터 저장과 전송뿐 아니라 AI 모델이 정보를 처리하는 과정까지 보호하는 방식으로, 코히어뿐 아니라 클라우드 사업자도 고객의 입력·출력 내용을 확인할 수 없도록 했다. 그러나 암호화 환경에서 사용할 수 있는 모델은 제한적이다. 구글 젬마와 오픈AI GPT-OSS, MS 파이 등은 지원하지만, 딥시크와 엔비디아 네모트론 등은 일반 모델 볼트에서만 이용할 수 있다. 서비스 제공 지역도 일반 모델 볼트는 미국·유럽연합(EU)·캐나다, 암호화 서비스는 미국으로 제한돼 있다. 이번 발표로 AI 모델 개발사와 클라우드 사업자 간 경쟁 영역도 더욱 넓어질 것으로 예상된다. 기업들이 여러 AI 모델을 도입할수록 모델 자체의 성능뿐 아니라 추론 비용과 데이터 통제, 운영 효율을 통합 관리하는 플랫폼의 중요성이 커질 수 있어서다. 국내 AI·클라우드 업계에도 유사한 사업 기회가 열릴 수 있다. 네이버클라우드와 NHN클라우드 등 인프라 사업자는 다양한 모델을 지원하는 추론 서비스로 고객 선택권을 넓힐 수 있을 것으로 보인다. 삼성SDS, LG CNS 등 IT서비스 기업은 고객별 보안 요건과 업무 특성에 맞춘 멀티모델 운영 사업을 확대할 여지가 있다. 이를 통해 코히어는 금융·의료·공공 등 민감한 데이터를 다루는 산업을 주요 고객층으로 겨냥한다는 방침이다. 또 기업이 원하는 모델을 선택하면서 데이터 통제권을 유지할 수 있도록 지원해 기존 AI 서비스 도입에 부담을 느꼈던 고객까지 확보한다는 구상이다. 코히어는 "AI 주권은 고객이 단일 공급업체에 통제권을 넘기지 않고 자신의 요구에 적합한 모델을 선택하고 검토하며 배포할 수 있다는 의미"라며 "전 세계 주요 오픈 모델을 모델 볼트에 추가해 고객이 보안과 개인정보 보호 기준을 유지하면서 업무에 적합한 AI 모델을 활용할 수 있도록 했다"고 밝혔다.

2026.11.05 13:41장유미 기자

AI 승부, GPU만으론 안 된다…클라우드 빅테크 한자리에

인공지능(AI) 인프라 경쟁의 무게중심이 그래픽처리장치(GPU) 확보에서 AI 데이터센터(AIDC)와 클라우드·플랫폼을 결합한 서비스 경쟁으로 이동하고 있다는 분석이 나왔다. AI 활용이 학습에서 추론과 에이전트로 확대되는 만큼 전력·냉각·네트워크뿐 아니라 실제 AI 서비스를 안정적으로 운영할 수 있는 소프트웨어 역량까지 갖춰야 한다는 제언이다. 공용준 KT클라우드 전무는 1일 서울 양재 엘타워에서 열린 'AI-클라우드 빅테크 2026'에서 "현재 AI 인프라의 가장 큰 병목은 데이터센터와 전력"이라며 "GPU를 확보하는 것만으론 AI 서비스를 구현하기 어려운 만큼 클라우드와 플랫폼까지 함께 갖춰야 한다"고 강조했다. 공 전무는 최근 AI 인프라 시장의 병목이 GPU에서 데이터센터로 이동하고 있다고 진단했다. GPU 공급 상황은 개선되고 있지만 데이터센터를 구축하는 데 최소 2~3년이 걸리는 만큼 GPU를 확보하기에 앞서 데이터센터 용량을 선점하려는 움직임이 나타나고 있다는 설명이다. AIDC의 경쟁 기준도 달라질 것으로 전망했다. 단순히 전력과 GPU를 확보하는 데 그치지 않고 AI 서비스를 위한 클라우드와 운영 플랫폼, 네트워크, 안정성 등을 함께 갖춰야 한다는 것이다. AI 서비스가 일상과 기업 업무에 깊숙이 들어오면서 장애 대응과 GPU 스케줄링, 서비스 모니터링 등 운영 역량의 중요성도 커지고 있다. 공 전무는 "AI 서비스가 우리 삶의 한 축으로 자리 잡으면서 기존 IT에서 중요했던 서비스 연속성도 중요해지고 있다"며 "GPU를 효율적으로 스케줄링하고 AI 서비스를 모니터링하는 것은 물론 장애에 대비한 복구 체계까지 마련해야 한다"고 말했다. 박운영 HPE 상무는 AI 시장이 학습 중심에서 추론과 실제 서비스 적용 단계로 이동하면서 기업의 인프라 구축 방식도 달라질 것으로 내다봤다. 기업들이 더 많은 GPU를 확보하는 것보다 AI를 실제 서비스에 적용하고 투자 대비 성과를 만드는 방안을 고민해야 할 시점이라는 설명이다. 특히 에이전틱 AI 확산에 따라 토큰 사용량과 비용 부담이 늘면서 퍼블릭 클라우드에서 시작한 AI 워크로드 일부를 온프레미스나 하이브리드 환경으로 옮기려는 수요가 늘어날 것으로 전망했다. 기업 데이터 보호와 AI 주권에 대한 요구 역시 프라이빗 AI 인프라 수요를 키우는 요인으로 꼽았다. 박 상무는 "이제는 더 많은 GPU를 사야 할지를 고민하기보다 AI를 어떻게 실제 양산에 적용할 수 있을지, 무엇이 문제인지 살펴봐야 할 시점"이라며 "AI에 투자한 비용을 실제 성과로 연결하는 것이 중요해지고 있다"고 말했다. 네이버클라우드도 추론 수요 확대가 AIDC와 AI 팩토리 시장의 성장을 이끌 것으로 전망했다. 김지훈 네이버클라우드 이사는 대규모 GPU 수요가 과거 AI 모델 학습을 중심으로 발생했다면, 최근에는 실제 서비스를 위한 추론 영역으로 빠르게 확대되고 있다고 밝혔다. AI 에이전트와 피지컬 AI 확산까지 더해지면서 AIDC 수요가 일시적인 흐름에 그치지 않을 것이라는 관측이다. 네이버클라우드는 이를 겨냥해 엔비디아와 AI 팩토리 사업을 확대할 계획이다. 대규모 GPU와 고속 네트워크를 제공하는 AI 클라우드 역량에 기존 클라우드의 인증·네트워크·스토리지와 AI 모델·서비스 운영 경험을 결합한다는 전략이다. 글로벌 AI 기업에는 대규모 전용 인프라를, 국방·금융 등 보안 요구가 높은 분야에는 폐쇄형 클라우드 환경을 제공하는 방식이다. 김 이사는 "AI 팩토리는 국가 전체의 AI 수요를 감당하고 경제·산업·사회 전반에 필요한 지능을 대규모로 생산하는 핵심 인프라"라며 "AI 팩토리를 확보했는지, 누가 그 주도권을 갖고 있는지가 한 나라의 경쟁력을 좌우할 것"이라고 강조했다.

2026.10.01 14:16한정호 기자

[AI 고속도로] AI 시대 다시 뜨는 '쿠버네티스'…GPU·서비스 운영 핵심으로

생성형 인공지능(AI) 확산으로 기업들이 대규모 그래픽처리장치(GPU)를 확보하면서 이를 효율적으로 나누고 관리하는 기술의 중요성이 커지고 있다. 클라우드 시대 수많은 애플리케이션을 관리하는 표준으로 자리 잡았던 '쿠버네티스'가 이제는 GPU부터 AI 모델의 학습·추론까지 관리하는 AI 인프라의 핵심 플랫폼으로 영역을 넓히는 모습이다. 23일 업계에 따르면 글로벌 클라우드 기업과 국내 플랫폼 기업들은 쿠버네티스를 기반으로 AI 인프라와 서비스를 운영하기 위한 기술 개발을 확대 중이다. 클라우드네이티브컴퓨팅재단(CNCF)이 올해 발표한 연례 조사에 따르면 생성형 AI 모델을 운영하는 조직 가운데 66%가 일부 또는 전체 추론 워크로드를 쿠버네티스에서 운영하는 것으로 나타났다. 컨테이너 관리하던 쿠버네티스…이젠 GPU까지 쿠버네티스는 수많은 서버와 그 안에서 실행되는 프로그램을 알아서 배치하고 관리해주는 오픈소스 플랫폼이다. 과거에는 단일 서버에 애플리케이션을 직접 설치했다면 클라우드 환경에선 프로그램과 실행에 필요한 요소를 '컨테이너'라는 작은 단위로 묶어 여러 서버에 나눠 실행한다. 쿠버네티스는 이 컨테이너를 어느 서버에서 실행할지 정하고 이용자가 몰리면 수를 늘리거나 장애가 발생하면 다른 곳에서 다시 실행하는 작업을 자동으로 수행한다. AI 시대에는 쿠버네티스가 관리해야 할 대상이 한층 넓어졌다. 과거에는 중앙처리장치(CPU)와 메모리를 중심으로 애플리케이션을 배치했다면, 이제는 가격이 비싼 GPU와 신경망처리장치(NPU) 등 다양한 AI 가속기를 여러 개발팀과 서비스가 효율적으로 나눠 사용하도록 해야 한다. 이에 최신 버전 쿠버네티스는 동적 자원 할당(DRA) 기능이 도입돼 GPU와 같은 하드웨어의 특성을 파악하고 필요한 작업에 자원을 보다 세밀하게 배분하는 방향으로 발전하고 있다. AI 모델을 실제 서비스에 적용하는 추론에서도 역할이 커지고 있다. 이용자가 AI에 질문하면 적합한 GPU가 있는 서버를 찾아 요청을 보내고 이용량이 급증하면 자원을 늘리는 방식이다. 글로벌 빅테크부터 국내 기업까지 활용 확산 대표적으로 구글클라우드는 구글 쿠버네티스 엔진(GKE)에서 GPU를 이용해 대규모언어모델(LLM)을 배포·서비스할 수 있도록 지원하고 있다. 최근에는 여러 지역에 흩어진 GPU와 자사 텐서처리장치(TPU) 클러스터를 하나의 자원처럼 활용해 AI 요청을 적절한 곳으로 보내는 기술도 확대 중이다. 국내에서도 쿠버네티스를 기반으로 AI와 클라우드 플랫폼을 고도화하려는 움직임이 이어지고 있다. 오케스트로는 쿠버네티스 기반 서비스형 플랫폼(PaaS) '비올라'를 통해 컨테이너 워크로드의 배포부터 운영까지 생애주기를 관리하고 멀티 클러스터와 데브옵스 환경을 지원하고 있다. 이노그리드 역시 쿠버네티스 기반 'SE클라우드잇'을 통해 여러 쿠버네티스 클러스터를 통합 관리하고 있으며 GPU·NPU·CPU 등 이기종 자원을 AI 워크로드에 활용하는 방향으로 사업 영역을 넓히고 있다. 나무에이엑스는 쿠버네티스를 AI 모델 추론까지 연결 중이다. 자체 AI 플랫폼에서 vLLM과 쿠버네티스 기반 분산 추론 기술 등을 활용해 여러 GPU에서 AI 추론 작업을 분산 처리하는 방식이다. 멀티·하이브리드 클라우드 관리 플랫폼 '스페로'에도 GPU 사용량과 정책, 스케줄링을 관리하는 기능을 적용해 AI 워크로드 운영 효율을 높이고 있다. 맨텍솔루션은 쿠버네티스의 활용 영역을 데이터센터 밖 엣지까지 확대 중이다. 자체 쿠버네티스 플랫폼 '아코디언 엣지'를 통해 중앙 클라우드에서 개발한 AI 모델을 공장 등 여러 현장에 배포하고 각 현장에서 독립적으로 추론 서비스를 운영할 수 있도록 지원하고 있다. GPU·모델·데이터 연결…AI 네이티브 플랫폼으로 진화 AI 시대에는 고가의 GPU를 비롯한 컴퓨팅 자원을 효율적으로 운영하는 것이 비용 경쟁력과 직결된다. 이에 쿠버네티스를 기반으로 GPU 자원 관리와 모델 배포·추론, 데이터 연계 등을 통합하는 AI 네이티브 플랫폼의 중요성도 커지고 있다. 기존 PaaS가 애플리케이션의 개발·배포를 지원했다면 AI 시대에는 관리 영역이 AI 인프라와 서비스 전반으로 넓어지는 셈이다. 한국인공지능클라우드산업협회(KACI)도 최근 기존 PaaS 지원분과위원회를 AI 네이티브 플랫폼(ANP) 분과위원회로 개편하고 관련 생태계 확대에 나섰다. 기존 클라우드 네이티브 기술을 AI 환경으로 확장하고 국내 플랫폼 기업의 기술 고도화와 금융·제조·공공 등 산업별 적용 사례를 확대한다는 목표다. 정철 KACI ANP 분과위원회 위원장은 "쿠버네티스처럼 개방형 표준을 기반 기술로 활용하면 특정 클라우드나 AI 모델에 종속되지 않고 필요에 따라 인프라와 서비스를 바꿀 수 있다"며 "AI 시대에는 GPU와 모델을 확보하는 것뿐 아니라 이를 효율적으로 나누고 배분해 실제 기업 서비스로 연결하는 플랫폼의 역할이 더욱 중요해질 것"이라고 밝혔다.

2026.09.23 10:43한정호 기자

아카마이, 아태지역 매출 10억 달러 돌파…"엣지 AI 시대 연다"

아카마이가 아시아태평양 지역에서 엣지 기반 인공지능(AI) 인프라 사업 확대에 박차를 가한다. 생성형 AI 확산으로 실시간 추론 수요가 늘어나는 가운데, 중앙 집중형 클라우드를 넘어 사용자와 가까운 엣지 환경에서 AI를 구동하는 차세대 인프라 시장 공략에 나서는 모습이다. 아카마이는 지난해 아태지역 매출이 10억 달러(약 1조 5294억원)를 넘어섰다고 11일 밝혔다. 회사는 이번 성과를 바탕으로 AI 추론과 엣지 컴퓨팅을 차세대 성장 동력으로 삼고 관련 사업을 확대할 계획이다. 최근 기업들은 생성형 AI를 실제 서비스에 적용하는 과정에서 지연 시간과 확장성, 안정성 확보를 핵심 과제로 꼽고 있다. 특히 추천 서비스와 실시간 영상 분석, 자율주행, AI 에이전트 등은 수 밀리초(ms) 단위 응답 속도가 요구돼 중앙 데이터센터만으로는 한계가 있다는 지적이 나온다. 아카마이는 이같은 수요에 대응하기 위해 분산형 클라우드 플랫폼 기반 AI 추론 인프라를 강화하고 있다. 그래픽처리장치(GPU) 기반 컴퓨팅 자원을 사용자와 데이터에 가까운 위치에 배치해 실시간 AI 서비스를 지원한다는 전략이다. 이를 통해 중앙 집중형 클라우드 환경만으로 구현하기 어려운 수준의 응답 속도와 확장성을 지원할 방침이다. 업계에선 AI 인프라 무게중심이 대규모 모델 학습 중심에서 추론 중심으로 이동하고 있다는 분석이 나온다. 실제 서비스 단계에선 AI가 얼마나 빠르게 응답하고 안정적으로 운영되느냐가 고객 경험과 운영 효율성에 직접적인 영향을 미치기 때문이다. 아카마이는 아태지역이 이런 변화의 중심에 있다고 짚었다. 일본과 호주 등 성숙 시장에선 고성능·고가용성 인프라 수요가 늘고 있으며 인도와 중국, 동남아시아에선 AI 네이티브 기업이 빠르게 성장하고 있다는 설명이다. 한국 역시 대기업의 레거시 시스템 현대화와 디지털 네이티브 기업의 AI 서비스 확대가 동시에 진행되며 주요 시장으로 부상 중인 상황이다. 회사는 향후 글로벌 네트워크 전반에 GPU 기반 추론 인프라를 확대하고 AI 애플리케이션 보호 기능을 강화해 성능과 보안을 동시에 제공하는 AI 플랫폼 전략을 추진할 계획이다. 아태지역 기업들의 AI 도입과 서비스 운영을 지원하며 성장세를 이어간다는 목표다. 숀 리 아카마이 아태지역 총괄 수석 부사장은 "아태지역은 이제 AI 실험 단계를 넘어 실행 단계로 접어들고 있다"며 "현재 기업들이 직면한 과제는 AI를 원활하게 구동하는 것으로, 지연 시간·확장성·신뢰성이 곧 매출과 고객 경험에 직간접적인 영향을 미친다"고 말했다. 이어 "추론 기술을 엣지로 가져옴으로써 우리는 기업에 중앙 집중식 클라우드만으로는 구현하기 어려운 수준의 즉각적이고 안전하며 대규모로 확장 가능한 인텔리전스 플랫폼을 제공할 것"이라고 덧붙였다.

2026.06.11 16:47한정호 기자

뉴타닉스, 에이전틱 AI 인프라 고도화…추론·실행 시대 전략 가속

뉴타닉스가 에이전틱 인공지능(AI)을 중심으로 한 클라우드 플랫폼 전략을 강화하며 차세대 AI 인프라 시장 공략에 나섰다. 단순 모델 활용을 넘어 실제 운영 환경에서 AI 에이전트를 안정적으로 실행할 수 있는 기반을 제공한다는 목표다. 뉴타닉스는 '뉴타닉스 에이전틱 AI' 솔루션에 신규 기능을 추가하고 네오클라우드 사업자를 위한 AI 서비스 플랫폼 역량을 확대했다고 9일 밝혔다. 최근 AI 시장은 학습 중심에서 추론 중심으로 빠르게 이동하고 있다. 다수 기업이 AI를 실제 업무에 적용하는 단계로 진입하면서, 보안·성능·비용을 동시에 충족하는 인프라 수요가 커지고 있다. 뉴타닉스는 이러한 변화에 대응해 에이전틱 AI 기반의 통합 소프트웨어(SW) 스택을 제시했다. 토마스 코넬리 뉴타닉스 제품 관리 부문 수석 부사장은 "기업들이 데이터 통제권을 유지하며 AI를 활용하는 방법을 모색하면서 소버린 및 특화형 AI 클라우드에 대한 수요가 빠르게 증가하고 있다"며 "뉴타닉스 에이전틱 AI 솔루션은 안전한 멀티테넌트 환경과 AI 관리 포털을 갖춰 네오클라우드 제공업체들이 고부가가치 AI 서비스를 신속하게 제공할 수 있도록 설계됐다"고 설명했다. 뉴타닉스 에이전틱 AI는 멀티테넌트 기반 AI 관리 포털과 서비스 제공 환경을 통해 복잡성을 줄이고 운영 효율성을 높이는 것이 특징이다. 그래픽처리장치(GPU) 자원과 컴퓨팅 리소스를 테넌트별로 분리·관리할 수 있으며 보안과 성능을 동시에 확보할 수 있도록 지원한다. 또 서비스형 GPU(GPUaaS), 쿠버네티스 서비스(KaaS), 가상머신(VM) 서비스, 벡터 데이터베이스(DB), 모델 서비스 등 다양한 AI 서비스 카탈로그를 통합 제공해 기업별 맞춤형 AI 환경을 구축할 수 있도록 돕는다. AI 인프라 운영과 서비스 제공을 단일 플랫폼에서 관리할 수 있다는 설명이다. 운영 관리 기능도 강화됐다. 뉴타닉스 클라우드 매니저(NCM)는 AI 인프라 모니터링과 사용량 기반 과금 기능을 지원해 GPU 사용량, API 호출, 모델 사용량 등을 기반으로 비용을 관리할 수 있도록 했다. 기업이 AI 서비스 운영과 비용 통제를 모두 수행할 수 있도록 지원할 방침이다. 스콧 싱클레어 옴디아 인프라·클라우드·데브옵스·네트워킹 부문 실무 디렉터는 "자율 에이전트 도입은 차세대 핵심 분야로 급부상하고 있지만 데이터 보안과 거버넌스, 성능 측면에서 새로운 과제를 동반한다"며 "뉴타닉스 에이전틱 AI 솔루션은 이러한 요구를 충족할 수 있는 엔터프라이즈급 기반을 제공한다"고 말했다. 아울러 뉴타닉스는 하이브리드 멀티클라우드 전략도 강화하고 있다. 특히 '뉴타닉스 클라우드 클러스터 온 AWS(NC2 on AWS)'를 통해 기존 인프라 구조를 유지하면서 클라우드로 워크로드를 이전할 수 있는 환경을 제공한다. NC2 온 AWS는 미션 크리티컬 워크로드를 안정적으로 클라우드 환경에서 운영할 수 있도록 지원하는 솔루션으로, 국내에선 에버랜드에 처음 적용됐다. 기존 네트워크 아키텍처를 유지한 채 클라우드 전환이 가능해 기업의 인프라 전환 부담을 줄였다는 평가다. 뉴타닉스는 고객 요구에 맞춘 맞춤형 설계와 지속적인 커뮤니케이션을 통해 프로젝트를 성공적으로 완료하며 클라우드 전환 사례를 확보했다고 강조했다. 국내 기업의 하이브리드 클라우드 도입을 확대해 나간다는 계획이다. 변재근 뉴타닉스 코리아 사장은 "이번 에버랜드 프로젝트를 시작으로 앞으로도 더 많은 국내 기업이 복잡한 인프라 전환을 자신 있게 추진할 수 있도록 지원하겠다"고 밝혔다.

2026.04.09 10:56한정호 기자

삼성전기, '그록3 LPU'용 FC-BGA 공급

삼성전기가 '그록(Groq)3 언어처리장치(LPU)'용 반도체 패키지기판의 주력 공급망 지위를 확보했다. 그록3 LPU는 엔비디아의 최첨단 인공지능(AI) 반도체 '베라 루빈(Vera Rubin)' 성능을 높일 추론 가속기 칩이다. AI 산업에서 추론 중요성이 커지는 만큼, 삼성전기도 엔비디아 AI 반도체 생태계 내 영역을 확장할 것으로 기대된다. 8일 지디넷코리아 취재에 따르면 삼성전기는 최근 그록3 LPU용 플립칩-볼그레이드어레이(FC-BGA) 양산 준비에 돌입했다. 삼성전기는 그록3 LPU용 FC-BGA의 '퍼스트 벤더(공급량 1위 업체)' 지위를 확보했고, 올 2분기부터 본격 양산할 것으로 관측된다. 그록3 LPU는 4나노 공정 기반의 AI 추론 가속기 칩이다. 삼성전자 파운드리에서 양산한다. 삼성 파운드리가 그록3 LPU에 할당한 웨이퍼 투입량은 월 1만장 수준으로 추산된다. FC-BGA는 반도체 칩과 기판을 '플립칩 범프(칩을 뒤집는 방식)'로 연결하는 패키지기판이다. 기존 와이어 본딩 대비 전기적·열적 특성이 높다. 초도 물량은 적지만, 삼성전기는 이번 FC-BGA 공급으로 엔비디아 AI 반도체 생태계 내 영역을 확장할 수 있다. 앞서 삼성전기는 올해 초 'NV스위치' 칩용 FC-BGA 공급을 확정하며 엔비디아 공급망에 진입한 바 있다. NV스위치는 서버 내 복수 그래픽처리장치(GPU)를 연결하는 데 쓰인다. 그록 LPU 역시 엔비디아 AI 반도체 플랫폼에 채택된 만큼, 향후 출하량 확대가 기대된다. 이와 관련, 젠슨 황 엔비디아 최고경영자(CEO)는 지난달 16일(현지시간) 미국 캘리포니아 새너제이에서 열린 'GTC 2026' 기조연설에서 첨단 AI 반도체 플랫폼 변화를 발표했다. 엔비디아가 올해 하반기 출시하는 베라 루빈 플랫폼은 당초 '루빈' GPU와 '베라' 중앙처리장치(CPU)를 비롯해 '블루필드-4' 데이터처리장치(DPU), 스위치 등 6개의 칩으로 구성됐다. 그러나 젠슨 황 CEO는 베라 루빈 플랫폼에 그록 3 LPU을 추가해, 총 7개의 칩 구조로 변화시켰다. 256개의 그록 3 LPU를 탑재한 추론 전용 랙 '그록 3 LPX'를 엔비디아 베라 루빈 NV72 랙에 통합하는 방식이다. NV72는 72개의 루빈 GPU와 36개의 베라 CPU로 구성된다. 그록 3 LPU는 D램 대비 용량이 작지만 데이터 전송속도가 빠른 S램을 탑재했다. 덕분에 LLM의 추론 단계에서 기존 단일 GPU 시스템에서 발생하던 지연(레이턴시) 현상을 크게 줄일 수 있다. LPX가 결합된 베라 루빈의 경우, 1조 매개변수 모델에서 메가와트당 최대 35배 더 높은 처리량을 제공할 수 있다고 엔비디아는 설명한다. 이에 엔비디아는 지난해 말 약 29조원을 들여 그록을 우회 인수하는 등 적극적인 협력 체계를 구축하고 있다. 반도체 업계 한 관계자는 "엔비디아가 각 영역에 특화된 칩으로 전체 AI 플랫폼을 구상하는 전략을 강화하고 있다"며 "그록 LPU 채택량도 더 늘어날 것으로 전망되고, 협력사들도 수혜를 입을 것"이라고 설명했다.

2026.04.08 10:35장경윤 기자

배스트데이터 "AI 경쟁력, 학습 아닌 추론 중심 데이터 구조가 결정한다"

"기업이 그래픽처리장치(GPU) 구축에 막대한 비용을 투입해도 인공지능(AI) 학습에만 활용해서는 실제 성과와 연결되지 않습니다. 앞으로의 경쟁력은 추론 중심 데이터 활용 구조를 얼마나 빨리 갖추느냐에 달려 있습니다." 배스트데이터 송성환 이사는 11일 서울 중구 신라호텔에서 열린 'AI & 클라우드 컨퍼런스 2025(ACC 2025)'에서 AI 시대 데이터 플랫폼의 중요성에 대해 이같이 밝혔다. 송 이사는 올해 AI 시장 변화의 핵심 키워드를 추론 확장으로 규정했다. 또 최근 GPU 세대 교체 주기가 빨라지고 모델링 개발 속도가 비약적으로 높아지는 가운데 기업들이 여전히 학습 중심 사고방식에 갇혀 있다고 지적했다. 그는 "데이터 활용성이 뒷받침되지 않으면 AI 투자 대비 기업 생산성은 올라가지 않는다"며 실시간 서비스와 맞닿은 AI 데이터 파이프라인의 중요성을 강조했다. 특히 AI 활용을 위한 데이터 파이프라인을 입수·가공·저장이 아닌 사용자·에이전트가 즉시 활용할 수 있는 마지막 액션 단계까지 이어지는 구조로 재정의해야 한다고 주장했다. 샘플링 데이터나 가공 데이터로 학습을 수행하는 것을 넘어 고객 요청에 대한 즉각적 응답성과 실시간 추론이 핵심이라는 설명이다. 송 이사는 이같은 요구를 해결하기 위한 배스트데이터의 'AI 운영체제(OS)' 전략을 소개했다. 배스트데이터는 창립 초기 스토리지 기업으로 출발해 현재는 데이터 수집부터 변환·쿼리·임베딩·검색증강생성(RAG)까지 연결하는 AI 데이터 플랫폼으로 영역을 확장했다. 배스트데이터는 AI OS를 기반으로 어떠한 AI 인프라와 솔루션 환경에서든 투입된 데이터를 자동 변환하고 대형 클라우드 서비스 사업자(CSP) 및 엔비디아가 제공하는 서비스와의 직접 연동과 아웃풋을 창출한다. 배스트데이터 핵심 기술은 독자적으로 개발한 '분리 자원 공유 구조(DASE)' 아키텍처다. DASE는 컨트롤러와 데이터 노드가 완전히 분리된 구조로 기업의 모든 데이터 풀을 공유한다. 이를 통해 장애가 발생해도 운영 영향이 없고 스토리지 컨트롤러·쿼리 엔진·데이터 엔진 등 다양한 역할을 하나의 노드에 유연하게 배치할 수 있도록 지원한다. 이 구조는 최근 글로벌 벤더들이 뒤따라 채택하고 있는 방식이라는 게 송 이사의 설명이다. DASE 위에는 '엘리멘트 스토어'라는 통합 데이터 레이어가 구축돼 있다. 이는 정형·비정형·반정형 데이터를 어떤 프로토콜로 받아도 동일한 방식으로 저장·관리할 수 있도록 설계된 구조다. 투입된 데이터는 자동으로 표준 데이터베이스(DB) 포맷으로 변환할 수 있고 빠른 인덱싱을 위한 카탈로그 기능도 제공해 실시간 데이터 쿼리·분석을 지원한다. 아울러 배스트데이터는 DB 기능을 OS 레벨에서 기본 제공한다. 사용자는 별도 설치 없이 콘솔에서 몇 번의 클릭만으로 스키마와 테이블을 구성할 수 있다. 주요 쿼리 엔진이 내장돼 데이터 이동 없이 데이터 앞쪽에서 직접 연산을 수행할 수 있다. 벡터 네이티브 DB 기능도 포함돼 있어 멀티모달 AI·검색증강생성(RAG)·임베딩 서비스 구축에 필요한 모든 요소를 단일 플랫폼으로 통합했다. 아울러 '싱크엔진', '인사이트엔진', 멀티 콘텍스트 프로토콜(MCP) 오퍼레이터 등도 단일 플랫폼 내에서 서비스한다. 해당 기능들은 외부 솔루션, 내부 스토리지, 로그·이벤트 데이터 등 다양한 소스를 자동 통합하고 여러 AI 모델을 OS 수준에서 연동해 엔드투엔드 AI 파이프라인 자동화를 구현한다. 이러한 기술력을 앞세워 글로벌 시장에서 가파른 성장세를 보이고 있다. 배스트데이터는 올해 포브스 'AI 50'에 선정됐으며, 세계 최대 GPU 클라우드 기업 중 하나인 코어위브가 약 2조5천억원 규모의 투자를 단행해 데이터 플랫폼으로 채택했다. 송 이사는 "AI 운영의 성패는 데이터를 얼마나 빠르고 일관되게 활용 가능한 형태로 전환하느냐에 달려 있다"며 "이 전환의 모든 과정을 하나의 데이터 플랫폼 OS로 통합해 기업이 AI 생산성을 극대화할 수 있도록 지원하겠다"고 강조했다.

2025.12.11 16:15한정호 기자

IBM, 16조원에 컨플루언트 인수…AI 시대 실시간 데이터 패권 노린다

IBM이 인공지능(AI) 시대 핵심 자원으로 떠오른 실시간 데이터 시장을 선점하기 위해 컨플루언트를 품고 기업용 AI 경쟁력 강화에 박차를 가한다. 9일 월스트리트저널(WSJ)에 따르면 IBM은 실시간 데이터 전문기업 컨플루언트를 주당 31달러(약 4만5천원), 총 110억 달러(약 16조원) 규모에 인수하기로 합의했다. 이번 거래는 IBM이 최근 수년간 단행한 인수 중 최대 규모로, 실시간 데이터 스트리밍 플랫폼을 통해 AI 서비스 전반의 성능과 속도를 끌어올리려는 전략으로 풀이된다. 컨플루언트는 대규모 AI 모델이 사용하는 실시간 데이터 스트림을 관리·처리하는 기술을 제공하는 기업으로, 리테일·금융·테크 산업에서 수요가 급증하고 있다. AI 추론 과정에서 발생하는 방대한 데이터 흐름을 실시간으로 처리해야 하는 기업에게는 필수적 기술로 자리 잡았다. 이번 인수 소식이 알려지자 컨플루언트 주가는 장중 30% 가까이 급등했다. IBM은 이번 인수를 통해 기존의 하이브리드 클라우드·자동화·데이터 플랫폼에 컨플루언트 기술을 통합하며 기업용 스마트 데이터 플랫폼을 구축할 계획이다. AI를 활용하는 모든 애플리케이션에 대해 실시간 정제 데이터 접근성을 높인다는 목표다. 컨플루언트는 이미 앤트로픽·아마존웹서비스(AWS)·구글 클라우드·마이크로소프트(MS) 등 주요 클라우드·AI 기업들과 협력해 왔으며 6천500곳 이상의 고객사를 보유하고 있다. IBM과도 지난 5년 동안 일부 솔루션 영역에서 파트너십을 이어온 바 있다. IBM은 최근 AI 중심 사업 재편에 속도를 내고 있다. 2023년 앱티오, 지난해 하시코프 인수에 이어 올해 컨플루언트를 품으면서 AI·클라우드·자동화 생태계 전반을 빠르게 확장 중이다. 또 IBM은 사내에서 AI 에이전트 도입을 가속해 수백 명의 HR 업무를 대체하는 등 AI 기반 조직 전환을 추진하고 있다. 아빈드 크리슈나 IBM 최고경영자(CEO)는 "컨플루언트 인수를 통해 기업들이 생성형 AI와 에이전틱 AI를 더 빠르고 효과적으로 배치할 수 있도록 지원할 것"이라고 말했다.

2025.12.09 14:51한정호 기자

KAIST·삼성서울병원·네이버클라우드·히츠, 국내 첫 질병 진단 AI만든다

KAIST와 삼성서울병원, 네이버클라우드, (주)히츠가 의료·신약에 특화된 '한국형 챗GPT 플랫폼' 개발에 나선다. 국내선 처음이다. KAIST는 디지털바이오헬스AI연구센터(센터장 김재철AI대학원 예종철 교수)가 과학기술정보통신부 'AI 최고급 신진연구자 지원사업(AI 스타펠로우십)'에 선정됐다고 23일 밝혔다. 이 사업은 이달부터 오는 2030년 12월까지 총 115억 원을 들여 질병을 스스로 추론하고 판단하거나 신약을 발굴하는 AI 기술과 플랫폼을 개발한다. 주요 목표는 ▲의료 지식체계 통합, 진단 및 치료 위한 고성능 추론 모델 구축 ▲기호 기반 추론과 신경망 모델 결합한 융합형 추론 플랫폼 개발 ▲'셀 온톨로지' 기반 신약 개발 및 바이오마커 발굴 AI 기술 확보 등이다. 삼성서울병원, 네이버클라우드, ㈜히츠 등과는 ▲의료 지식체계를 활용한 임상 진단 AI ▲신약 개발을 위한 AI 기반 분자 타겟 탐색 ▲지식 확장이 가능한 AI 추론 플랫폼 상용화를 추진한다. 예종철 디지털바이오헬스AI연구센터장은 “AI 추론 모델 개발 경쟁이 본격화됐다"며 “과제가 종료될 7년 뒤에는 참여 신진연구자들이 연구 성과 면에서 세계 1위 수준에 도달할 것"으로 기대했다. AI 스타펠로우십은 박사후연구자 및 임용 7년 이내 교원이 프로젝트 리더(PL)로 참여해 주도적으로 연구를 이끄는 사업이다. 대학내 연구실과 수요기업이 컨소시엄을 구성, 운영된다.

2025.05.23 08:17박희범 기자

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

美 중간선거 후폭풍, AI 데이터센터 강타하나

대구시 공공배달앱 '대구로' 해킹, 계좌번호 2만5000여개 노출

한강라면 받으러 올라탔다가 ‘전력 질주’…푸드위크 코리아 가보니

카카오, 인적분할 내년 1월 1일→2월 1일로 연기

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.