검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'엔비디아 GPU'통합검색 결과 입니다. (195건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

美상무부, 中 AI 기업 해외 '클라우드 연산 임대' 조사 착수

미국 정부가 중국 인공지능(AI) 기업이 해외 데이터센터에 설치된 엔비디아 첨단 칩 연산능력을 임대하는 방식으로 대중 수출규제를 우회하는 실태에 대한 전면 조사에 착수했다. 중국 AI 기업 기술력이 빠르게 높아지면서 미국의 대중 반도체 제재 실효 논란이 커진 데 따른 조치다. 블룸버그 통신은 미 상무부 산업안보국(BIS)의 단속 전담 부서가 중국 AI 기업들이 해외 데이터센터를 통해 엔비디아 첨단 프로세서에 접근하는 경로를 조사하기 시작했다고 8일(현지시간) 보도했다. 이번 조사는 중국 AI 유니콘 문샷 AI가 미국 앤트로픽이나 오픈AI의 최신 모델에 필적하는 성능을 내세운 '키미 K3'를 공개한 직후 본격화됐다. 미 백악관 고위 관계자는 문샷 AI가 태국의 제3자 업체를 통해 엔비디아 최신 반도체 블랙웰 연산 자원에 원격 접근해 모델을 학습했다는 의혹을 제기했다. BIS는 중국으로 엔비디아 첨단 칩이 밀반출되는 국가와 경로를 파악하는 동시에 중국 기업이 해외 데이터센터에 구축된 엔비디아 칩 연산 자원을 원격 이용하는 실태를 조사하고 있다. 특히 태국과 말레이시아 등 동남아시아는 중국 AI 기업의 클라우드 연산 수요가 몰리면서 데이터센터 건설이 빠르게 늘고 있는 지역이다. 알리바바의 경우 미 당국 조사를 받고 있는 싱가포르 기업 메가스피드가 말레이시아에 구축한 엔비디아 칩 기반 연산 자원에 케이맨 제도 소재 페이퍼컴퍼니를 거쳐 접근하는 등 복잡한 우회 구조를 활용한 것으로 알려졌다. 문제는 현행 미국 수출관리규정(EAR)이 주로 반도체 등 물리적 제품 이동을 통제하는 데 초점을 맞추고 있다는 점이다. 해외 데이터센터의 그래픽처리장치(GPU) 연산능력을 클라우드 형태로 임대하는 행위까지 상무부가 직접 규제할 법적 권한이 있는지를 두고 논의가 이어지고 있다. 미 하원은 이 같은 원격접근을 차단하기 위한 법안을 통과시켰지만, 엔비디아 등 미국 기술 기업들은 규제가 강화되면 동남아 데이터센터 시장을 해외 경쟁사에 내줄 수 있다며 반발하고 있다. 블룸버그 통신은 백악관 관계자 발언을 인용해 "트럼프 행정부는 현대 역사상 가장 엄격한 수출통제 체제를 시행해 왔으며, 미국 국가 안보와 경제 안보를 수호하기 위해 계속 노력할 것"이라고 밝혔지만, 원격접속에 대한 구체적 질문에는 직접적 답변을 피했다고 보도했다.

2026.08.09 08:00전화평 기자

[AI 고속도로] 엔비디아·AMD 손잡은 韓…AI 인프라 생태계 다변화

정부가 엔비디아에 이어 AMD와도 인공지능(AI) 컴퓨팅 협력을 확대하면서 국내 AI 인프라 생태계가 다변화하고 있다. 특정 그래픽처리장치(GPU) 중심 구조에서 벗어나 중앙처리장치(CPU)·GPU·신경망처리장치(NPU)를 함께 활용하는 개방형 인프라 구축이 본격화되면서 데이터센터와 클라우드, AI 반도체, 시스템 소프트웨어(SW) 기업까지 참여하는 생태계 확장이 빨라질 것이란 전망이 나온다. 2일 업계에 따르면 최근 정부는 엔비디아와 GPU 협력에 이어 AMD와 AI 반도체 생태계 구축을 위한 협력을 본격화하고 있다. AI 컴퓨팅 경쟁의 중심이 단일 GPU 확보를 넘어 다양한 연산 자원을 효율적으로 조합하는 구조로 이동하면서 국내 AI 인프라 전략 역시 생태계 중심으로 확대되는 모습이다. 최근 정부가 AMD와 체결한 양해각서(MOU)의 핵심도 개방형 AI 컴퓨팅 생태계 구축이다. AMD CPU·GPU와 국산 NPU를 연계한 이기종 AI 컴퓨팅 인프라를 구축하고 메모리와 데이터처리장치(DPU), 컴퓨트익스프레스링크(CXL), 네트워크, 서버, 오케스트레이션 SW 등 국내 기업이 함께 참여하는 개방형 AI 컴퓨팅 생태계를 조성하는 데 초점을 맞췄다. 이는 최근 AI 인프라 경쟁 양상이 달라지고 있어서다. 대규모 AI 모델 학습 중심에서 AI 에이전트와 기업용 생성형 AI 서비스 확산으로 추론 수요가 빠르게 증가하면서 GPU 하나만으로 모든 연산을 처리하기보다 CPU와 GPU, NPU를 워크로드에 맞게 조합하는 방식이 효율성과 비용 측면에서 주목받고 있다. 실제 정부 역시 올해 AI 컴퓨팅 자원 확충 사업을 통해 엔비디아 차세대 GPU를 대규모 확보하는 동시에 국가AI컴퓨팅센터와 국산 NPU 생태계 육성을 병행 중이다. GPU 확보와 함께 다양한 AI 반도체가 함께 활용되는 환경을 구축해 국내 AI 인프라 경쟁력을 높인다는 구상이다. 민간 기업들의 움직임도 비슷하다. 최근 네이버는 엔비디아와 브룩필드로부터 대규모 투자를 유치해 글로벌 AI 팩토리 구축과 GPU 공급망 확보에 나섰다. 엔비디아와 긴밀한 파트너십을 기반으로 국내 데이터센터 확장을 추진하는 가운데, 올해 초 AMD와도 협력해 하이퍼클로바X 운영 환경에 AMD GPU를 적용하는 방안을 추진하는 등 AI 인프라 선택지를 확대한 모습이다. AI 스타트업들도 같은 흐름을 보이고 있다. 대표적으로 업스테이지는 국가대표 AI 모델 개발 과정에서 AMD GPU와 ROCm 생태계를 활용하기로 했으며 정부의 독자 AI 모델 프로젝트와도 연계해 개방형 AI 플랫폼 기반을 확대하고 있다. IT서비스·클라우드 업계 역시 변화 속도를 높이고 있다. 삼성SDS, LG CNS, KT클라우드 등은 국산 NPU를 활용한 서비스형 NPU(NPUaaS)와 관련 플랫폼을 잇달아 출시해왔다. GPU 중심 인프라에서 벗어나 고객이 AI 서비스 특성에 맞춰 GPU와 NPU를 선택할 수 있도록 하면서 AI 인프라 사업 영역을 확대한다는 방침이다. 이같은 변화는 AI 인프라 경쟁의 범위도 넓히고 있다. 과거에는 GPU 확보 자체가 경쟁력이었다면 최근에는 데이터센터와 전력, 냉각, 네트워크, 서버, 클라우드 플랫폼, AI 운영 SW까지 통합 제공할 수 있는 역량이 새로운 경쟁 요소로 부상 중이다. 정부 역시 AI 경쟁력을 반도체 공급에만 국한하지 않고 데이터센터와 AI 컴퓨팅 자원, 테스트베드, 산업 생태계를 모두 연결하는 종합 AI 인프라 전략으로 확대하고 있다. AI 생산기지와 데이터센터 허브를 구축하고 국내외 기업이 함께 참여하는 협력 구조를 강화하겠다는 목표다. 글로벌 빅테크들의 움직임도 이러한 흐름을 뒷받침한다. 엔비디아와 AMD는 최근 잇따라 국내 AI 연구센터 설립 계획을 발표하며 한국을 아시아 AI 거점으로 육성하겠다는 전략을 내놨다. 단순한 반도체 판매를 넘어 연구개발과 인재 양성, 생태계 확대까지 경쟁 환경이 넓어지고 있다는 평가다. 배경훈 부총리 겸 과학기술정보통신부 장관은 "대한민국이 AI 3대 강국으로 도약하기 위해서는 자립적이면서도 개방적인 AI 컴퓨팅 인프라 기반 확보가 중요하다"며 "AMD와의 협력을 통해 국내 AI 반도체 생태계 경쟁력을 높이고 글로벌 AI 컴퓨팅 인프라 변화에 대응하는 새로운 협력 모델을 만들어 갈 수 있을 것"이라고 밝혔다.

2026.08.02 10:25한정호 기자

"中 AI 유니콘 문샷 AI, 알리바바서 엔비디아 칩 2만대 제공받아"

최근 오픈소스 인공지능(AI) 모델 '키미 K3(Kimi K3)'를 공개하며 주목을 받은 중국 AI 스타트업 문샷 AI가 알리바바 그룹으로부터 엔비디아 칩 2만 대를 제공받아왔다고 보도됐다. 급성장 중인 중국 AI 기업의 미국 반도체 의존도가 여전히 높다는 분석이 나온다. 블룸버그 통신은 관련 비공개 계약 내용을 잘 아는 관계자들을 인용해 알리바바가 자사 클라우드 인프라를 통해 문샷 AI에 엔비디아 칩 기반의 연산 능력을 공급해 왔다고 지난달 31일(현지시간) 보도했다. 문샷 AI는 지난 7월 중순 일부 성능 지표에서 미국 오픈AI나 앤트로픽 최신 모델과 어깨를 견주는 키미 K3를 선보이며 파장을 일으켰다. 그러나 시장 관심은 문샷이 미국 정부의 전방위 제재 속에서 어떻게 고성능 컴퓨팅 자원을 확보했는지에 쏠렸다. 보도에 따르면 알리바바가 문샷 AI에 제공하는 연산능력 기반은 엔비디아의 호퍼 아키텍처 기반 칩 약 2만 대다. 복수 관계자들은 해당 칩이 호퍼 시리즈 중 가장 성능이 뛰어난 'H200'이라고 말했다. 알리바바 대변인은 "문샷 AI에 H200 칩을 공급했다는 주장은 전혀 사실무근"이라며 H200 제공 의혹을 부인했다. 하지만 실제 공급한 전체 엔비디아 칩 수량이나 구체적 모델명에 대해서는 말을 아꼈다. 미국 정부는 문샷 AI가 규제 허점을 이용해 엔비디아 최신 '블랙웰' 칩까지 활용했다는 의혹을 제기했다. 마이클 크라시오스 미 백악관 과학기술정책실장은 "문샷 AI가 태국에 위치한 제3자 업체를 통해 블랙웰 칩의 임대 연산 자원에 접근했고, 이를 '키미 K3' 학습에 활용했다"고 비판했다. 미국의 수출 규제법상 중국 기업이라도 해외 서버에 탑재된 최첨단 반도체 연산 능력을 임대하는 방식은 일부 허용되고 있어, 중국 기업들이 이를 우회 통로로 활용하고 있다는 지적이 나온다. 문샷 AI의 조달 사정에 정통한 관계자 역시 태국 등 동남아시아를 거쳐 블랙웰 연산 자원에 접근하는 채널이 존재한다고 인정했다. 한편, 이번 사태로 빅테크 기업과 스타트업 간 미묘한 경쟁 관계도 조명받고 있다. 알리바바는 문샷 AI의 주요 투자자 중 하나이지만, 알리바바 인프라를 바탕으로 개발된 문샷 AI의 키미 K3가 정작 알리바바 자체 AI 모델 '통이치엔원(Qwen)'의 성과를 앞지르면서 알리바바 내부에 복잡한 기류가 형성된 것으로 전해졌다.

2026.08.02 08:00전화평 기자

엔비디아·브룩필드가 베팅한 네이버…14.6兆 장비 등 인프라 투자

엔비디아와 브룩필드로부터 100억 달러(약 14조 6080억원) 자금을 조달한 네이버가 확보한 실탄을 그래픽처리장치(GPU)와 장비 등 인프라에 투자한다. 네이버는 엔비디아로부터 제3자 배정 유상증자를 통해 10억 달러(약 1조 4608억원) 규모의 전략적 투자를 체결했다고 27일 밝혔다. 90억 달러(약 13조 1472억원) 규모의 그래픽처리장치(GPU) 인프라 및 데이터센터 확보를 위해 글로벌 투자사 브룩필드를 독점적 우선 협상대상자로 선정했다. 이번 계약으로 네이버는 AI팩토리 사업의 핵심 축인 GPU 수급과 장비 조달이라는 선결 과제를 해결할 수 있게 됐다. 엔비디아의 이번 투자는 지난 6월 양사가 발표한 '기가와트(GW)급 초대형 글로벌 AI팩토리 구축 협약'의 후속 조치다. 네이버가 제3자 배정 유상증자에 나서는 것은 22년 만으로, 2008년 코스피 이전 상장 이후 처음이다. 엔비디아는 네이버 지분 4.5%(보통주 724만 1564주)를 취득하게 된다. 납입기한은 오는 10월 30일이다. 이와 함께 네이버는 주주가치 제고를 위한 대규모 자사주 소각도 병행한다. 네이버는 지난 24일 이사회에서 약 1조원 규모의 자사주 490만주를 내달 3일 소각하기로 결정했다고 공시했다. 네이버는 1조 달러(약 1461조 3000억원) 이상을 운용하는 브룩필드와의 사전계약을 통해 수백 MW(메가와트)의 AI팩토리 운용을 위한 최신 GPU와 데이터센터를 안정적으로 확보하게 된다. 브룩필드는 데이터센터와 신재생에너지 등 AI 인프라 분야의 프론티어 투자기업이다. 네이버는 협력을 통해 글로벌 GPU 공급 부족 상황에서도 대규모 컴퓨트 인프라를 선제적으로 확보할 수 있게 된다. 네이버의 자회사인 네이버클라우드는 엔비디아와 글로벌 AI팩토리 사업을 함께 추진하는 'AI 컴퓨트 파트너십' 계약을 긍정적으로 논의하고 있다. 기술 제휴를 포함해 수요와 자본까지 아우르는 통합 파트너십을 통해 엔비디아는 네이버클라우드의 공동 사업 주체로 참여할 것으로 전망된다. 엔비디아가 직접 투자를 결정한 배경에는 네이버가 보유한 세계 최고 수준의 '즉시 실행 가능한' 풀스택 AI 역량이 자리잡고 있다는 것이 회사 측 설명이다. 네이버는 데이터센터, GPU 클러스터, AI 플랫폼에 이어 자체 모델과 서비스까지 AI팩토리의 전 영역을 직접 운영해온 사업자다. 2019년 엔비디아의 슈퍼컴퓨팅 인프라를 전 세계 최초로 상용화한 네이버는 20여 년간 축적한 인프라 운영경험을 바탕으로, 냉각·전력·네트워크 등 데이터센터 핵심 기술을 AI 워크로드에 맞춰 모두 내재화했다. 이러한 완성형 인프라는 곧 속도로 이어진다. 네이버는 자체 데이터센터에 더해 전국 20여 곳에 GPU 상면을 선제적으로 확보·운영하고 있으며, 표준 사양의 서버 체계를 구축해 자원 확보부터 서비스 개시까지의 기간을 1개월 이내로 단축하는 것을 목표로 하고 있다. 나아가 네이버는 국내 최대 규모인 10만 장 수준의 GPU를 대규모 클러스터로 운영하며, 자원 관리·복구 자동화와 100% 수준의 모니터링을 통해 예측 가능하고 효율적인 인프라 운영을 실현하고 있다. 이러한 역량을 바탕으로 네이버는 이미 수십만 고객에게 기업용 서비스를 제공하고 있으며, 국내에서 유일하게 대규모 서비스형 GPU(GPUaaS)를 제공하는 사업자다. 빠르게 구축한 대규모 글로벌 협력을 기반으로, 네이버는 2027년부터 AI팩토리 사업을 통한 매출을 창출할 계획이다. 2027년 상반기 55MW 규모의 글로벌 AI팩토리 가동을 시작하고, 2028년 200MW 규모까지 본 궤도에 올린 후, 이를 발판 삼아 1GW급으로 빠르게 확장할 예정이다. 이를 통해 아시아·태평양, 유럽, 중동 시장의 소버린 AI 인프라 수요를 흡수하겠다는 전략이다. 최수연 대표는 “엔비디아와 브룩필드의 투자는 네이버 미래 성장에 중요한 전기가 될 것”이며 “이번 투자를 기점으로 네이버의 기술, 인프라를 통해 글로벌 AI인프라 시장에 빠르게 진출할 수 있는 계기를 마련하게 돼 매우 고무적”이라고 말했다. 이어 “AI팩토리 고객사 유치도 속도감 있게 마무리 해 네이버가 글로벌 AI인프라 분야의 주요한 기업으로 도약하는 분기점으로 삼겠다”고 말했다.

2026.07.27 09:48박서린 기자

[AI 고속도로] 엔비디아, 베라 루빈 양산에 "AI 서버 경쟁판 바뀐다"

엔비디아가 차세대 인공지능(AI) 플랫폼 '베라 루빈' 기반 시스템의 양산과 고객사 구축에 들어가면서 AI 서버 시장의 경쟁 방식도 달라지고 있다. 그래픽처리장치(GPU)와 중앙처리장치(CPU), 네트워크를 개별 서버에 조립하던 방식에서 벗어나 랙 전체를 하나의 시스템으로 공급하는 구조가 확산되면서, 서버업체의 경쟁력도 자체 설계보다 생산 자동화와 액체냉각, 현장 구축 능력으로 이동하는 분위기다. 22일 블룸버그통신에 따르면 엔비디아는 베라 루빈 기반 시스템을 오픈AI와 구글 클라우드, 마이크로소프트(MS) 애저, 메타, 코어위브, 델테크놀로지스 등에 공급하고 있다. 오픈AI는 오는 3분기부터 베라 루빈을 대규모로 도입할 계획이다. 베라 루빈 NVL72는 루빈 GPU와 베라 CPU, 네트워크 칩 등을 하나의 랙에 통합한 AI 컴퓨팅 시스템이다. 개별 서버를 납품한 뒤 데이터센터에서 연결하는 방식과 달리 전력과 냉각, 네트워크까지 검증된 랙 단위로 공급해 설치 기간과 장애 위험을 줄이는 데 초점을 맞췄다. 서버 조립 방식도 달라졌다. 기존 제품은 GPU와 CPU, 네트워크 장비가 들어간 트레이를 작업자가 직접 케이블로 연결해 초기 생산 과정에서 조립 시간이 길고 불량률도 높았다. 반면 베라 루빈은 내부 케이블을 회로기판과 전용 연결장치로 대체해 사람이 수시간 동안 하던 작업을 로봇이 수분 만에 처리할 수 있도록 설계됐다. 주요 부품에 액체냉각을 적용하면서 팬과 공기 통로가 차지하던 공간도 줄였다. 같은 면적에 더 많은 연산 장치를 배치할 수 있게 되면서 서버업체의 공급 범위도 랙 조립에서 냉각수분배장치와 배관, 전력설비까지 넓어질 것으로 보인다. 이 같은 변화는 델과 슈퍼마이크로, HPE, 레노버 등 AI 서버업체의 사업 구조에도 영향을 줄 것으로 보인다. 엔비디아가 CPU와 GPU, 네트워크, 랙 구조를 표준화할수록 업체별 하드웨어 설계 차이는 줄고 생산량과 납기, 냉각 기술, 구축 서비스가 수주를 가르는 요소로 부상할 가능성이 있어서다. 특히 델은 대형 클라우드 사업자와 AI 전용 데이터센터 운영업체를 대상으로 랙 공급을 늘리는 동시에 기업용 AI 인프라 구축 사업을 확대할 여지가 커졌다. 서버와 스토리지, 네트워크, 유지관리 서비스를 함께 제공할 수 있어 단순 장비 판매보다 통합 프로젝트 수주에 유리할 수 있다. 슈퍼마이크로는 엔비디아 신형 GPU를 빠르게 서버 제품으로 내놓던 기존 강점에서 액체냉각과 랙 단위 구축 역량으로 경쟁 범위를 넓혀야 할 것으로 보인다. 제품 출시 속도만으로 차별화하기 어려워진 만큼 생산시설과 냉각설비, 현장 설치 능력이 실적에 미치는 영향도 커질 전망이다. 폭스콘과 콴타, 위윈 등 대만 전자제품위탁생산·설계 업체에는 대량 생산 기회가 늘어날 것으로 보인다. 엔비디아의 표준 설계에 따라 동일한 랙을 반복 생산하는 구조에선 자체 서버 브랜드보다 자동화 설비와 부품 조달, 생산 수율을 갖춘 제조업체가 유리해서다. HPE와 레노버는 국가 AI 인프라와 슈퍼컴퓨터, 기업 전용 AI 데이터센터 시장에서 냉각과 운영 서비스를 앞세울 가능성이 크다. AI 서버의 전력 밀도가 높아질수록 기존 데이터센터를 개조하고 시스템을 안정적으로 운영하는 기술의 중요성도 커질 것으로 보인다. 다만 서버업체의 매출 확대가 수익성 개선으로 곧바로 이어지지는 않을 것으로 예상된다. 핵심 칩과 네트워크, 시스템 설계를 엔비디아가 공급하는 구조에서 서버업체가 가져갈 수 있는 부가가치는 제조와 구축, 유지관리 영역에 집중될 수 있기 때문이다. 또 대형 클라우드 고객을 대상으로 한 가격 경쟁이 심해지면 출하량 증가에도 마진이 제한될 가능성이 있다. 경쟁사인 AMD도 분주히 움직이는 모양새다. AMD는 차세대 GPU와 CPU, 네트워크를 통합한 AI 랙 '헬리오스'를 앞세워 현재 랙 스케일 시장 공략을 강화하고 있다. 이에 클라우드 사업자들이 엔비디아 제품과 AMD 시스템, 자체 개발 칩을 함께 운용하는 멀티벤더 전략을 확대하면 서버업체의 설계·구축 부담도 커질 가능성이 있다. 이언 벅 엔비디아 부사장은 "우리는 완전한 양산 단계에 들어갔다"며 "현재 모든 주요 고객사에서 시스템(베라 루빈)을 구축하고 있다"고 말했다.

2026.07.22 15:46장유미 기자

[AI리더스] 김형우 에스넷시스템 "AI 시대 경쟁력은 실행하는 조직"

"인공지능(AI)의 등장으로 그 어느 때보다 변화가 빠르고 예측이 어려운 시대가 됐습니다. 이런 시대에 생존하려면 완벽한 계획을 세우기보다 현장에서 먼저 실행하고 수정·보완하며 대응할 수 있는 조직이 돼야 합니다." 김형우 에스넷시스템 대표는 9일 서울 강남구 사옥에서 진행한 인터뷰에서 기업 운영의 핵심 요소로 '실행하는 조직'을 제시하고 이를 위한 전략과 비전을 밝혔다. 지난 1월 선임된 김 대표는 2000년 입사 이후 26년간 공공, 금융, 클라우드, 커머셜, 엔터프라이즈 등 주요 사업 영역을 두루 거친 현장형 경영인이다. 완벽한 계획보다 실행이 우선 그가 일관되게 강조한 것은 '실행하는 조직'이다. 김 대표는 "지금은 계획을 완벽하게 짜서 실행하려 하면 이미 늦어버리는 상황"이라며 "아이디어가 잡히면 큰 방향을 세운 뒤 현장에서 먼저 실행하고, 수정·보완을 거쳐 완성도를 높여가는 방식이 지금 시대에 더 맞다"고 말했다. 이를 위해 김 대표가 취임 후 6개월간 가장 먼저 추진한 것은 현장 분석과 조직 진단이었다. 빠르게 바뀌는 기술 환경 속에서 현장의 업무 방식과 분위기를 직접 점검하고 실행이 더딘 원인을 파악하기 위해서다. 김 대표는 "각 분야 직원들 대화하고 고객 현장을 방문하면서 사업부별 진단에 많은 시간을 쏟았다"며 "쉽게 추진되지 못했던 과제들이 왜 멈춰 있었는지 살피고 이를 실제 실행으로 옮기기 위한 트리거 역할을 하려 했다"고 설명했다. 이어 "실패 역시 학습의 과정이라고 보기 때문에 성공만 요구하지는 않는다"며 "회사가 직원에게 해줘야 하는 것은 결국 기회를 주는 것"이라고 운영 철학을 밝혔다. "전 직원을 AI 전문가로"...전사적 AI 역량 확보 김 대표는 실행하는 조직의 기반으로 전사적 AI 역량 확보도 강조했다. 그는 "지난해 서울대 AI 최고경영자(CEO) 과정을 수료하며 약 30년 만에 개발을 다시 접했고 이 과정에서 AI의 강력함을 몸소 느꼈다"며 "전 직원이 AI를 익숙하게 활용하고, 나아가 AI 전문가가 될 수 있도록 해야겠다고 생각했다"고 밝혔다. 이에 따라 에스넷시스템은 직원들이 개별적으로 사용하던 생성형 AI를 엔터프라이즈 버전으로 전환하는 작업을 추진 중이다. 업무별·직무별 AI 교육도 운영하고 있으며, 현장 엔지니어의 근무 특성을 고려한 별도 교육 과정도 마련했다. 사내에서는 이미 자산관리를 자동화하는 '펄스(Pulse)', 직원 스킬셋을 등록·평가해 인력 배치에 활용하는 '업무 지원 도우미 포털', 엔지니어용 검색증강생성(RAG) 챗봇 '블루빗ai(Bluebits.ai)' 등이 직원 주도로 개발돼 실제 업무에 활용되고 있다. 신입과 주니어 인력 육성의 중요성도 강조했다. AI가 기본적인 작업을 빠르게 처리해준다고 해도 향후 더 큰 역할을 맡을 인재를 계속 키우지 않으면 조직의 지속 가능성이 약해질 수 있다는 이유에서다. 김 대표는 "단기적인 효율만 보면 보수적으로 접근할 수 있지만, 회사의 미래를 생각하면 채용과 양성을 멈출 수 없다"며 "역량 강화가 결국 생존이고, AI 시대에도 사람을 어떻게 성장시키느냐가 핵심 과제"라고 말했다. AI 시대 핵심 경쟁력은 도메인 지식 AI 기술이 빠르게 발전하고 있지만, 김 대표는 궁극적인 경쟁력은 여전히 도메인 지식에 있다고 강조했다. 기술 자체보다 고객 환경과 업무를 얼마나 깊이 이해하느냐가 더 중요하다는 판단이다. 그는 "AI 도구는 점점 더 강력해지고 누구나 활용할 수 있는 방향으로 갈 것"이라며 "그럴수록 차이를 만드는 것은 고객의 업무를 얼마나 잘 이해하고, 그 결과물을 실제 현장에 맞게 적용할 수 있느냐"라고 말했다. 김 대표는 에스넷시스템의 강점 역시 도메인 경쟁력에 있다고 봤다. 공공, 금융, 기업 시장에서 오랫동안 축적해온 구축·운영 경험과 고객 업무에 대한 이해, 다양한 파트너 생태계와의 협업 경험이 AI 시대에도 차별화된 경쟁력이 될 수 있다는 설명이다. 그는 "AI가 초안을 만들고 속도를 높여줄 수는 있어도, 고객이 실제로 원하는 것이 무엇인지 읽어내고 현장에 맞는 해답으로 구체화하는 것은 결국 사람과 조직의 역량"이라며 "도메인 지식과 현장 경험이 쌓인 조직이 유리할 수밖에 없다"고 말했다. 확대되는 AI 인프라 시장...하반기 성장 기대 김 대표는 하반기 사업 전망에 대해 낙관적인 견해를 밝혔다. AI 도입이 본격화되면서 데이터센터와 GPU 기반 인프라, 운영 자동화 영역에서 수요가 확대될 것으로 기대했다. 그는 "작년에도 전체 매출의 50% 이상이 데이터센터 관련 사업에서 나왔다"며 "6~7월부터 AI 데이터센터 관련 수주가 본격적으로 들어오고 있다"고 말했다. 에스넷시스템이 주목하는 분야 중 하나는 GPU 활용 효율화다. 반도체 가격 상승으로 데이터센터 구축에 투입되는 장비 가격 부담이 커지면서, 고객사들도 장비를 얼마나 효율적으로 활용할 수 있는지에 대한 관심을 높이고 있다는 설명이다. 김 대표는 "그동안 데이터센터를 구축한 기업 중 GPU 활용률이 50%를 넘는 고객이 드물었다"며 "이제는 인프라 투자와 운영 효율화에 대한 고민이 함께 이어지고 있다"고 설명했다. 에스넷시스템은 엔비디아가 제공하는 런AI(Run:ai)와 자체 개발 솔루션 '클라우드 허브'를 결합해 고객사의 GPU 효율화를 지원하고 있다. 김 대표는 "지금처럼 급변하는 환경에서는 머릿속으로만 준비해서는 안 된다"며 "현장에서 먼저 움직이고, 배우고, 고치고, 다시 실행하는 조직만이 살아남을 수 있다"고 말했다. 이어 "에스넷시스템이 가진 인프라 역량과 현장 경험, 고객 이해를 바탕으로 AI 인프라와 운영, 자동화 영역에서 새로운 성장 기회를 만들어가겠다"며 "결국 차이를 만드는 것은 실행력"이라고 강조했다.

2026.07.09 10:41남혁우 기자

SKT '해인 클러스터', CSAP 인증 획득..."소버린 AI 시장 공략"

SK텔레콤의 엔비디아 그래픽처리장치(GPU) 기반 AI 데이터센터 인프라가 정부 보안 기준을 통과했다. 회사는 인증을 바탕으로 소버린 AI 시장 입지를 강화한다는 방침이다. SK텔레콤은 엔비디아 블랙웰 GPU 기반 AI 데이터센터 인프라 해인 클러스터가 한국인터넷진흥원 주관 클라우드 서비스 보안 인증(CSAP)을 취득했다고 6일 밝혔다. SK텔레콤은 인증을 기반으로 GPU 클러스터의 공신력과 기술 신뢰도를 확보했다고 설명했다. 해인 클러스터는 유휴 상태 검증이 아니라, 정부 주관 독자 AI 파운데이션 모델 프로젝트에 실제 활용 중인 상태로 더 엄격한 보안 기준을 통과했다는 점에서 의미가 크다고 덧붙였다. SK텔레콤은 인증을 발판 삼아 한국 소버린 AI 클라우드 시장에서 입지를 강화한다는 방침이다. 해인 클러스터는 정부 주관 독자 AI 파운데이션 모델 프로젝트의 학습 인프라로 활용되며 소버린 AI 인프라로서의 역량을 입증하고 있다. 김명국 SK텔레콤 AI 팩토리 사업담당은 “앞으로도 공공 인프라 영역에서 기여도를 높여 가겠다”고 밝혔다.

2026.07.06 10:21홍지후 기자

사이오닉AI, 건물 절반을 데이터센터로 만든 이유는

서울 강남구의 한 건물. 입구에 들어서자 복도 어딘가에서 희미하게 웅웅거리는 진동음이 들려왔다. 의식하지 않으면 지나칠 정도의 미세한 소리였다. 지하 1층부터 지상 7층까지, 총 8개 층으로 이루어진 이 건물은 일반 사무실과 자체 데이터센터가 더해진 통합 AI센터다. 창립 4주년을 앞둔 3년 차 스타트업 사이오닉AI가 빌딩 내부를 직접 개조해 구축한 것이다. 왜 사이오닉AI는 외부 인프라를 활용하는 대신 직접 사내에 데이터센터를 도입하는 선택을 했을까. 3일 사옥에서 만난 고석현 사이오닉AI 대표는 과감한 인프라 투자를 감행한 비전과 숨겨진 기술력을 소개했다. 엔비디아 B300과 HAC 공랭 구조로 이뤄진 데이터센터 안내를 받아 들어간 GPU 센터 내부는 소음을 막고 보안을 강화하기 위해 2단계 격벽을 거쳐 들어가야 했다. 차단문이 열리자 데이터센터 특유의 대규모 장비들이 거세게 돌아가는 소리가 들렸다. 엔비디아(NVIDIA)의 블랙웰 기반 최신 장비인 'B300 GPU' 서버가 탑재된 총 10개의 랙(Rack)이 자리잡고 있었다. 랙당 가격만 수억 원을 호가하는 장비를 스타트업이 어떻게 대량 확보했을까. 고 대표는 오랜 신뢰 관계에 있었다고 답했다. 그는 "네이버 재직 시절부터 엔비디아의 핵심 인프라 코드를 함께 개발하고 글로벌 AI 생태계에서 긴밀히 협력해 온 딥테크 파트너로 활동했다"며 "덕분에 높은 수준의 지원을 받아 구축할 수 있었다"고 설명했다. 냉각 방식은 구조가 공랭식을 선택하되 효율을 극한으로 끌어올리는 '고온 핫아일 컨테인먼트(HAC)' 구조를 적용했다. 서버랙에서 발생하는 고온 열기가 차가운 냉기와 섞이지 않도록 통로를 밀폐·격리해 상부로 뽑아내는 방식이다. 공간이 컴팩트할수록 격리 냉각 효율이 높아지는 원리를 이용해 좁은 사옥 내에서도 기업용으로 충분한 약 0.3메가와트(MW)의 전력 부하를 제어하고 있었다. 건축가 출신 대표'가 설계한 구조 …1년 외부 임대료보다 저렴하게 구축 사이오닉AI 사옥은 건물 전체가 하나의 거대한 'AI 유기체'처럼 맞물려 돌아가도록 치밀하게 설계되어 있다. 고석현 대표가 직접 팔을 걷어붙이고 공간을 레이아웃한 결과물이다. 고 대표는 "네이버 재직 당시 AI 인프라 활용 등의 경험이 구축에 많은 도움을 줬다"고 설명했다. 그 결과 비용 측면에서도 이례적인 성과를 거뒀다. 그는 "기존 경험을 바탕으로 외부 데이터센터를 1년 임대하는 비용보다 더 저렴하게 내부 데이터센터를 구축할 수 있었다"며 "이미 투자 회수는 1년을 넘어선 수준"이라고 밝혔다. 건물의 구조를 살펴보면 인프라 효율과 직원 소통 동선을 고려한 것이 직관적으로 드러난다. 건물 옥상에는 서버에서 발생하는 막대한 열을 외부로 방출하는 대형 냉각 장비들이 쉴 새 없이 돌아가고 있다. 옥상 아래 층에는 데이터센터실이 자리 잡았으며 데이터센터 바로 아랫단에는 간이 회의실이 연결된다. 이어 아래로 내려오면 임직원이 근무하기 위한 사무실과 휴게게공간이 마련됐다 고 대표는 "데이터센터의 진동이나 환경 요소가 업무에 영향을 줄 수 있어 바로 아래층은 회의실로 마련해 실제 업무공간과 분리하려 했다"고 설명했다. 건물의 하층부는 소통과 개방의 공간으로 이뤄졌다. 1층은 외부 손님을 맞이하는 미팅 룸이자 캐주얼하게 담소를 나눌 수 있는 소규모 바(Bar)로 꾸며져 자유로운 분위기를 자아낸다. 건물 가장 아래인 지하 1층은 전 직원이 모이는 전체 회의(올핸즈 미팅)는 물론, 외부 파트너사 교육, AI 관련 세미나, 대외 방송 송출까지 가능한 대형 무대와 강연장이 마련됐다. 고 대표는 "전사 직원을 대상으로 공지를 하거나 이벤트를 할 떄를 비롯해 AI 교육을 위한 전용 공간이 필요해 지하1층에 넓은 공간을 마련했다"며 "사내에 전용공간이 마련된 만큼 민감한 정보 등도 안전하게 공유할 수 있는 장점이 있다"고 설명했다. 사이오닉AI…인프라부터 서비스까지 직접 구축 사이오닉AI는 2023년 고석현 대표가 창업한 AI 스타트업이다. 고 대표는 2017년 네이버가 인수한 컴퍼니AI 공동창업자 출신으로, 이후 네이버 클로바 SW 플랫폼 리더를 거쳐 하이퍼클로바 개발에 참여했다. 대형 언어모델을 처음부터 설계하고 학습시킨 경험이 회사의 핵심 자산이다. 공동창업자들 역시 네이버 AI 연구개발 조직 출신으로, 창업 초기부터 모델·인프라·서비스를 모두 자체 역량으로 구축하는 방향을 택했다. 회사가 표방하는 방향은 'AI 풀스택'이다. 데이터센터(인프라)부터 파운데이션 모델, AI 플랫폼, 에이전트 서비스까지 전 구간을 직접 구축한다는 구상이다. 현재 금융·제조·공공·국방 분야 기업을 대상으로 에이전트 개발과 RAG 기반 솔루션을 공급하고 있으며, 대출 심사·계약 검토·시설 정보 조회 등 반복 업무를 지원하는 AI 에이전트가 주력 제품이다. 지난해 12월 네이버클라우드·IBK기업은행·에이티넘인베스트먼트·삼성벤처투자 등으로부터 250억원 규모의 시리즈A 투자를 유치해 누적 투자금 300억원을 넘겼다. 자체 데이터센터를 구축한 것도 이 풀스택 전략의 연장선이다. 외부 클라우드에 의존하지 않고 폐쇄망에서도 운영 가능한 AI 시스템을 고객에게 공급하기 위해서다. 국방, 안보 관련 사업을 진행할 수 있는 배경도 여기에 있다. 그는 "국방이나 금융 쪽 사업은 외부 클라우드를 쓸 수가 없다"며 "완전히 격리된 환경에서 AI를 구현하고 작동하는 모습을 보여주기 위해선 직접 구축한 것이 상당히 중요한 포인트라 할 수 있다"고 설명했다. 제조·국방으로 사업 확장, 국내 넘어 글로벌 목표 향후 사업 확대의 핵심 축은 제조와 국방이다. 제조 분야에서는 경남·경북 산단과 연계해 피지컬 AI 사업을 추진 중이다. 카메라와 장갑 등 모션 캡처 장비로 사람의 동작 데이터를 수집·학습시키는 시스템을 자체 개발하고 있으며 내년부터 산업부와 연계해 본격 드라이브를 걸 계획이다. 고석현 대표는 "탱크를 매일 운용하거나 비행기를 기동할 수 없는 만큼 시뮬레이션으로 학습하고 이를 실제 필드에 적용하고 데이터를 확보해 보완하는 것이 효율적"이라며 "앞으로 이런 사례가 더욱 늘어나는 만큼 자체 구축한 데이터센터 역할이 더욱 커질 것"이라고 설명했다. 이어 "한국 내수 시장에서 경쟁하는 것만으로는 한계가 있는 만큼 일본을 시작으로 글로벌 시장에서 성과를 내고, 제조·국방·금융 등 산업 전반에 AI를 실질적으로 녹여내는 회사로 성장하겠다며 "모델부터 인프라, 서비스까지 모든 걸 직접 쥐고 있는 것이 우리의 가장 큰 무기로 이를 바탕으로 본격적인 성장에 나설 것"이라고 포부를 밝혔다.

2026.07.03 10:58남혁우 기자

[AI 고속도로] "AI칩 독주 지켜라"…엔비디아, GPU 고객사에 돈줄 댄다

엔비디아가 인공지능(AI) 클라우드 업체에 재무 보증을 제공하고 매출 일부를 공유받는 방식으로 그래픽처리장치(GPU) 판매 생태계를 넓히고 있다. 고가 GPU 구매 부담을 줄여 신생 클라우드 업체의 자금 조달을 돕고, 칩 판매 이후 임대 매출 일부까지 확보하는 구조다. 2일 디인포메이션에 따르면 엔비디아는 자사 GPU를 임대해 수익을 내는 소규모 클라우드 업체를 대상으로 재무 보증 프로그램을 운영하고 있다. 이 프로그램은 엔비디아 내부에서 'AI 컴퓨트 파트너십'으로 불린다. 이는 클라우드 업체가 GPU 임대 수요를 충분히 확보하지 못할 경우 엔비디아가 미사용 GPU를 다시 임대하겠다고 약속하는 방식이다. 대신 참여 업체는 매출 일부를 엔비디아와 공유한다. 엔비디아가 가져가는 비중은 계약 기간이 지날수록 낮아지는 구조로 전해졌다. 디인포메이션은 GPU 클라우드 업체 퍼머스와 샤론AI, 엔비디아와 거래하는 다른 기업 임원 3명이 이 같은 내용을 전했다고 보도했다. 엔비디아 대변인도 해당 프로그램의 존재를 이 매체에 확인해줬다. AI 클라우드 업체 입장에선 GPU 확보가 사업 확장의 주요 변수다. GPU는 AI 데이터센터에서 가장 비싼 부품으로 꼽히는데, 엔비디아 보증이 붙으면 신용등급이 낮거나 업력이 짧은 업체도 대출을 받기 쉬워진다. 엔비디아 입장에선 이 프로그램을 통해 GPU 판매처를 넓히면서 AI 인프라 시장에서 영향력을 키울 수 있을 것으로 보인다. 대형 클라우드 사업자뿐 아니라 GPU 임대 전문 업체까지 자금 조달 구조 안에 묶어두면 칩 공급과 임대 수요에 대한 통제력이 커질 수 있어서다. AI 가속기 시장에서 경쟁이 치열해지고 있다는 점도 엔비디아가 금융 보증까지 꺼낸 이유로 꼽힌다. AMD는 인스팅트 GPU를 앞세워 AI 서버 시장을 확대하고 있고, 구글·아마존웹서비스·마이크로소프트 등 대형 클라우드 사업자들은 자체 AI 칩을 통해 엔비디아 의존도를 낮추려 하고 있다. 이 같은 상황 탓에 엔비디아는 GPU 성능과 소프트웨어 생태계에 더해 자금 조달 지원까지 결합해 대응에 나선 모습이다. 이 프로그램을 통해 AI 클라우드 업체가 초기 인프라를 엔비디아 GPU 기반으로 구축하면 이후 네트워킹, 소프트웨어, 운영 환경까지 엔비디아 생태계에 머무를 가능성이 커진다. 이 구조는 단순한 반도체 공급 계약과 다르다는 점에서도 주목된다. 엔비디아가 칩을 판매하는 데 그치지 않고 고객사의 GPU 활용률과 매출 흐름에 일부 참여하기 때문이다. 이에 업계에선 AI 인프라 시장에서 하드웨어 공급사와 클라우드 사업자 간 경계도 흐려지고 있다고 진단했다. 디인포메이션은 "엔비디아가 강력한 재무제표를 활용해 더 많은 기업이 고가 AI 칩을 구매하도록 돕고 있다"며 "이 과정에서 일부 수익을 되돌려받을 수도 있다"고 말했다. 그러면서 "엔비디아는 GPU 클라우드 업체들이 AI 개발자에게 GPU를 임대하지 못할 경우 미사용 GPU를 다시 임대하겠다고 약속하는 방식으로 신생 클라우드 업체를 재무적으로 뒷받침하고 있다"고 덧붙였다.

2026.07.02 18:07장유미 기자

앤트로픽, MS 애저에 '클로드' 배포…"AI 동맹 결실"

앤트로픽이 마이크로소프트 애저를 클로드 공급 채널로 추가 확보하며 기업 인공지능(AI) 시장 범위를 넓혔다. 29일 앤비디아 블로그에 따르면 앤트로픽 AI 모델 '클로드' 제품군이 엔비디아 '블랙웰 울트라' 시스템 기반 마이크로소프트 애저 클라우드에 정식 배포됐다. 앤트로픽과 엔비디아, 마이크로소프트가 추진해 온 450억 달러 규모 AI 협력이 상용 서비스 단계로 들어선 것이다. 이번 배포로 애저 고객은 클라우드 인프라 안에서 클로드를 직접 구동할 수 있게 됐다. 특히 데이터 역외 이전 규제나 역내 처리 요건 때문에 특정 지역 안에서 AI 서비스를 이용해야 하는 기업 클로드 접근성이 높아질 것이란 예측도 나오고 있다. 앤트로픽은 이를 통해 아마존웹서비스(AWS)와 구글클라우드 외 애저 고객까지 고객층으로 끌어들일 수 있게 됐다. 애저에서는 앤트로픽 상위 모델 '클로드 오퍼스 4.8'과 경량 모델 '하이쿠 4.5'가 제공된다. 확장 추론 기능도 지원돼 복잡한 기업 업무 처리 수요에 대응할 수 있다. 이번 조치는 지난해 11월 세 회사가 체결한 전략적 파트너십 후속 실행이다. 당시 엔비디아와 마이크로소프트는 앤트로픽에 각각 100억 달러와 50억 달러 투자를 약속했다. 앤트로픽은 엔비디아 칩 기반 마이크로소프트 클라우드 서비스를 300억 달러 규모로 구매하기로 했다. 엔비디아는 이번 협력을 통해 자사 AI 칩이 클로드 추론 환경에 활용되는 기반을 확보했다고 밝혔다. 기존 학습용 AI 반도체 시장뿐 아니라 추론용 인프라 시장에서도 입지를 강화할 수 있게 됐다는 설명이다. 마이크로소프트는 오픈AI 외에 앤트로픽 클로드까지 애저에 포함해 기업 고객 모델 선택권을 확대했다. 다양한 AI 모델을 원하는 기업 고객을 클라우드에 묶는 효과도 기대하고 있다. 엔비디아는 이번 협력으로 앤트로픽이 기업 시장 확장 발판을 마련할 것으로 보고 있다. 애저 고객까지 공급망에 편입하면서 클로드는 주요 클라우드 3사 기반 기업 고객과의 접점을 모두 넓히게 됐다. 엔비디아는 "기업은 클로드 에이전트에 도메인 특화 역량을 부여할 수 있게 됐다"며 "AI 에이전트를 비즈니스에 깊숙이 내장하고 이를 조직 운영체제로 활용할 수 있다"고 블로그에서 밝혔다.

2026.06.30 13:19김미정 기자

NHN클라우드, AI 인프라 '글로벌 톱20' 진입…"국내 최고 성능"

NHN클라우드가 글로벌 슈퍼컴퓨터 생태계에서 인공지능(AI) 인프라 역량을 인정받았다. NHN클라우드는 AI 인프라 브랜드 'NHN 팩토리X'의 그래픽처리장치(GPU) 클러스터가 최근 공개된 '글로벌 슈퍼컴퓨터 톱500'에서 국내 가장 높은 순위로 이름을 올렸다고 26일 밝혔다. 글로벌 슈퍼컴퓨터 톱500은 전 세계 슈퍼컴퓨터의 연산 성능을 측정해 순위를 발표하는 대표 성능 평가 지표다. 고성능컴퓨팅(HPC) 분야 연구기관과 전문가들이 매년 6월과 11월 최신 순위를 공개하며 글로벌 AI·과학기술 인프라 경쟁력을 가늠하는 기준으로 활용된다. NHN클라우드의 B200 GPU 4080장으로 구축한 'NIPA-CL1'은 글로벌 20위이자 국내 1위를 기록했고 B200 GPU 2040장 기반 'NIPA-CL2'는 글로벌 40위이자 국내 4위에 올랐다. 이번 GPU 클러스터는 과학기술정보통신부의 GPU 확보·구축·운용 지원사업을 통해 확보한 엔비디아 B200 GPU 7656장을 기반으로 구축됐다. NHN클라우드는 4080장 규모의 NIPA-CL1과 2040장 규모의 NIPA-CL2를 구축하며 국내 상위 5대 슈퍼컴퓨터 가운데 2대를 운영한다. NIPA-CL1은 실제 측정 최고 성능(Rmax) 기준 137.4페타플롭스(FLOPS)를 기록했다. NIPA-CL2는 68.42FLOPS를 달성했다. NHN클라우드는 광주 국가 AI 데이터센터 운영 경험을 바탕으로 GPU 클러스터링 효율을 높였다. 인피니밴드 기반 초고속 네트워크와 AI 전용 데이터센터 기술을 적용했다. AI 전용 데이터센터 '팩토리X 서울'에는 랙당 75킬로와트(kW)급 고밀도 환경을 지원하는 100% 수랭식 GPU 냉각 시스템이 적용됐다. 이를 통해 기존 공랭식 대비 인프라 안정성을 높인 것으로 전해졌다. NHN클라우드는 이번 성과가 국내 AI 인프라가 글로벌 수준에 도달했음을 보여주는 사례라고 평했다. 또 정부 AI 컴퓨팅 자원 확충 정책 성과로 해외 의존도 높던 대규모 AI 연산 인프라를 국내에서 공급할 기반을 마련했다고 강조했다. NHN클라우드는 GPU 클러스터 최적화와 수랭식 데이터센터 설계 경험을 담은 'NHN 팩토리X 기술 백서'도 공개했다. 백서에는 AI 전용 데이터센터 구조 GPU 클러스터 구성 고속 네트워크 인터커넥트 D2C(Direct-to-Chip) 수랭식 인프라 GPUaaS 플랫폼 운영 구조 엑사스케일 클러스터 구축 사례 등이 포함됐다. 김동훈 NHN클라우드 대표는 "우리가 국가 AI 인프라 확보 사업 최전선에서 활약하고 있다는 것을 증명했다"며 "뛰어난 GPU 클러스터 구축 역량을 통해 명실상부한 국내 1위 AI 인프라 운영 기업으로 우뚝 섰음을 의미한다"고 밝혔다.

2026.06.26 15:59김미정 기자

엔비디아-AWS, 협력 확대…AI 추론·벡터 검색 지원

엔비디아와 아마존웹서비스(AWS)가 기업용 인공지능(AI) 추론과 벡터 검색, 대규모 학습 환경을 업그레이드했다. 엔비디아는 '아마존 EC2'와 '아마존 오픈서치' 전반에 엔비디아 AI 인프라 적용 범위를 넓혔다고 24일 공식 홈페이지에서 밝혔다. 핵심은 엔비디아 블랙웰 기반 그래픽처리장치(GPU)를 탑재한 'EC2 G7 인스턴스'와 '엔비디아 cuVS' 기반 오픈서치 서버리스 벡터 검색 가속이다. 아마존 EC2 G7 인스턴스는 엔비디아 RTX 프로 4500 블랙웰 서버 에디션 GPU를 기반으로 작동한다. AI 추론과 그래픽, 공간 컴퓨팅, GPU 가속 데이터 분석 업무를 겨냥한 신규 인스턴스다. G7은 기존 G6 인스턴스와 비교해 AI 추론 성능을 최대 4.6배 높였다. 그래픽 성능은 최대 2.1배 향상됐다. 아마존 EMR에서 엔비디아 cuDF 라이브러리를 활용한 아파치 스파크 업무도 더 빠르게 처리할 수 있다. G7 인스턴스는 최대 8개 GPU와 총 256기가바이트(GB) GPU 메모리, 초당 700기가비트(Gbps) EFA 지원 네트워킹, 최대 7.6테라바이트(TB) 로컬 NVMe SSD 스토리지를 지원한다. 1개, 2개, 4개, 8개 GPU 구성과 베어메탈 구성을 제공해 기업이 업무에 맞춰 인프라를 선택할 수 있도록 했다. 이를 통해 AI 개발팀은 낮은 지연시간에 추론 환경을 구축할 수 있으며, 미디어·엔터테인먼트 기업은 고해상도 영상 제작과 렌더링 업무에 활용할 수 있다. 시뮬레이션과 컴퓨터 지원 설계, 가상 데스크톱 인프라, 게임, 공간 컴퓨팅 분야도 같은 인스턴스를 쓸 수 있다. AWS는 오픈서치 서버리스에도 엔비디아 cuVS를 적용했다. 차세대 아마존 오픈서치 서버리스는 모든 벡터 컬렉션에서 GPU 가속 벡터 인덱싱을 기본 컴퓨팅 방식으로 사용한다. 이는 검색증강생성(RAG), 의미 기반 검색, 추천 시스템, 에이전틱 AI 애플리케이션을 구축하는 기업에 의미가 크다. 기존에는 별도 최적화 프로젝트에 가까웠던 GPU 기반 벡터 검색을 AWS 기본 기능처럼 활용할 수 있기 때문이다. 엔비디아는 cuVS 적용으로 벡터 인덱싱 속도가 중앙처리장치(CPU) 기반 방식보다 최대 10배 빨라지고, 비용은 4분의 1 수준으로 낮아질 수 있다고 설명했다. 이를 통해 수십억 단위 벡터 데이터베이스(DB)도 1시간 내에 구축할 수 있다고 밝혔다. 엔비디아는 "이번 협력은 AWS의 AI 인프라 계층 전반을 강화하는 데 초점을 맞췄다"며 "운영 부담을 늘리지 않으면서 대규모로 작동하는 생산급 AI 인프라"라고 밝혔다.

2026.06.24 18:31김미정 기자

AI 내재화 확산에 서버용 고출력 전원 솔루션 주목

기업이나 조직 내에서 기업 비밀이나 민감한 개인정보 외부 유출을 막고 오픈소스·자체개발 AI 모델을 활용한 추론과 에이전틱 AI 구동을 위해 AI 서비스를 일부, 또는 전부 자체 서버로 전환하려는 움직임이 활발해지고 있다. 이를 위해 엔비디아·AMD 등 GPU 제조사 기반 서버 도입도 늘고 있다. 문제는 이 서버들이 활용하는 전력이 과거 수백 W에 불과했던 x86 서버 대비 최소 두 배 이상 늘어났다는 것이다. 예를 들어 엔비디아 DGX A100(6U) 기반 서버는 시스템 한 대당 최대 6.5kW(킬로와트)의 전력을 소비한다. 일반 웹서버나 가상화 서버에 쓰이는 x86 1U 서버의 전력 소모량인 300W의 20배 이상이다. 24일 한미마이크로닉스 관계자는 "고성능 GPU 서버 등장으로 단일 서버가 아닌 랙 단위 전력 수요가 증가하고 있는 상황"이라며 "데이터센터 운영 기업들이 전력 효율과 안정성을 높이기 위한 고효율·이중화 서버 전원 솔루션 도입을 확대중"이라고 설명했다. 고성능 AI 서버가 바꾼 전원 인프라 시장 고성능 GPU를 구동하는 서버 환경에서 서버용 전원공급장치의 중요성도 커지고 있다. 대용량 전력을 장시간 안정적으로 공급해야 하며, 이에 실패하면 내부 서비스 중단과 이로 인한 손해가 발생할 수 있다. 현재 주류 GPU인 엔비디아 블랙웰 GB200은 블랙웰 GPU 2개와 그레이스 CPU 1개로 구성되며 최대 2.7kW까지 소비한다. 이는 전세대 주력 제품인 H100의 700W 대비 4배 가까이 늘어난 것이다. AI 서버 전력 수요 증가에 대응해 글로벌 서버 제조사와 전원 솔루션 업체들도 고출력 PSU 및 파워쉘프 개발 경쟁을 벌이고 있다. 한미마이크로닉스 "AI 전원 솔루션 공급 확대" 한미마이크로닉스는 올해 2월 글로벌 전원 솔루션 전문기업 그레이트월과 AI·서버 및 엔터프라이즈 전원 솔루션 분야 협력을 위한 업무협약을 체결했다. 이 회사 관계자는 "이는 기존 PC와 워크스테이션 등에 집중됐던 포트폴리오를 서버 등 AI 인프라로 확장하기 위한 시도"라고 밝혔다. 현재 한미마이크로닉스는 그레이트월 제품군 중 엔비디아 GB300 구동을 위한 33kW급 파워쉘프, 서버용 특수 전원공급장치인 CRPS 제품 4종을 국내 유통중이다. CRPS는 서비스 운영 중단이 허용되지 않는 데이터센터 환경을 위해 설계된 특수 전원공급장치다. 전원 공급을 이중화해 문제가 생겨도 전원 차단 없이 교체가 가능해 다운타임을 크게 줄일 수 있다. "기존 GPU 서버 매각시 전원 교체 필요" AI 서버 도입 확대와 함께 기존 장비 교체 수요도 증가하고 있다. 기업들은 신규 AI 서버를 도입하면서 기존 서버 자산의 매각과 재활용, 유지보수 체계 구축에도 관심을 높이고 있다. 한미마이크로닉스는 올 상반기 진행된 자체 제품 발표 행사와 주요 AI 관련 전시회 등에 AI 인프라 환경을 고려한 그레이트월의 GB300 파워쉘프와 CRPS 시리즈를 비롯해 서버용 전력·냉각 인프라 제품군 전시에 나서기도 했다. 이 회사 관계자는 "기업들이 단가 최소 수천만원 이상인 GPU 서버를 교체하며 기존 제품을 매각하는 방식으로 비용 보전에 나서고 있으며, 이 과정에서 기존 전원공급장치를 신규 제품으로 교체하는 수요도 상당하다"고 설명했다. "전원부터 섀시, 추론 서버까지 포트폴리오 확대" 한미마이크로닉스는 전원 솔루션 외에도 서버 섀시와 냉각 솔루션, AI 서버 플랫폼 등 관련 인프라 사업을 확대하고 있다. 최근 출시한 1U 랙마운트 서버 케이스 RM100은 이중화 전원과 다양한 서버 환경 구성을 지원하며, 이 외에도 4U~6U 서버 섀시, 스토리지 서버 케이스, 듀얼 CPU 서버용 쿨러 및 산업용 고풍압 팬 등 서버 인프라 관련 포트폴리오를 확대 중이다. 자체 개발 제품 투입도 준비 중이다. 7U 규모 AI 추론용 서버 'GSR7 P2G8M24'는 GPU 최대 8개를 탑재 가능하며 핫스왑 기반 스토리지와 이중화 전원 설계를 통해 안정적인 운용이 가능하다. 업계에서는 AI 데이터센터 확산으로 전력 확보와 전력 효율 개선이 핵심 과제로 떠오르고 있다고 보고 있다. GPU 성능 경쟁이 이어지는 가운데 서버 전원공급장치와 파워쉘프 등 전력 인프라 시장 역시 함께 성장할 것으로 전망된다.

2026.06.24 17:25권봉석 기자

엔비디아 성공 공식, 구글이 따라 쓴다…TPU로 'GPU 장벽' 넘을까

구글이 자체 인공지능(AI) 반도체인 텐서처리장치(TPU) 사업을 앞세워 엔비디아 중심 AI 컴퓨팅 시장에서 영역 확장에 본격 나섰다. 엔비디아가 그래픽처리장치(GPU) 판매 확대에 활용해온 데이터센터 금융 지원 방식을 본격 적용하며 외부 고객 확보에 속도를 내는 모습이다. 18일(현지시간) 월스트리트저널(WSJ)에 따르면 구글은 미국 뉴욕주 서부 온타리오호 인근 AI 데이터센터 클러스터 '레이크 매리너' 프로젝트에 32억 달러(약 4조9000억원) 규모 금융보증을 제공했다. 이 프로젝트는 AI 인프라 기업 테라울프와 구글이 투자한 클라우드 업체 플루이드스택이 추진 중이다. 해당 데이터센터의 컴퓨팅 자원은 앤트로픽에 임대될 예정이다. 이 같은 구글의 전략은 엔비디아가 AI 칩 시장 지배력을 키울 때 활용한 방식과 유사하다. 데이터센터 사업자가 낮은 비용으로 자금을 조달할 수 있도록 지원하고, 이 자금이 다시 칩 구매와 컴퓨팅 임대 계약으로 이어지도록 만드는 구조다. 구글은 TPU 공급과 클라우드 계약, 대형 AI 고객 수요를 함께 묶어 엔비디아 GPU 의존도를 낮추려 하고 있다. AI 경쟁 축이 모델 개발에서 컴퓨팅 자원 확보로 이동하면서 자체 칩을 보유한 빅테크의 영향력도 커지고 있다. 구글은 검색과 AI 서비스 운영을 위해 TPU를 장기간 내부적으로 사용해 왔다. 이후 생성형 AI 수요가 급증하자 구글 클라우드를 통해 외부 기업에 TPU를 제공하기 시작했다. 최근에는 TPU 사업을 더 공격적으로 확장하고 있다. 지난달 TPU를 고객에게 직접 판매하겠다는 계획을 발표했고, AI 추론에 특화한 첫 TPU도 공개했다. 추론은 이용자 질의에 AI 모델이 답변을 생성하는 과정으로, 생성형 AI 서비스 확산에 따라 수요가 빠르게 늘고 있다. 하지만 엔비디아의 진입장벽은 여전히 높은 상태다. 엔비디아는 AI 칩 시장에서 90% 이상 점유율을 가진 것으로 추정된다. 이는 GPU 성능에 더해 쿠다(CUDA) 소프트웨어 생태계, 네트워킹 장비, 서버 시스템을 결합한 전체 하드웨어 스택이 강점으로 작용하고 있어서다. 또 AI 클라우드 업체들이 엔비디아 제품 배정 물량을 의식해 경쟁사 칩 도입에 부담을 느끼고 있기 때문이란 분석도 있다. 여기에 젠슨 황 엔비디아 최고경영자(CEO)는 구글 TPU의 경쟁력을 낮게 보고 있다. 그는 지난 4월 팟캐스트 인터뷰에서 엔비디아가 구글과 ASIC 업체보다 훨씬 넓은 시장 접근성을 갖췄다고 말했다. 앤트로픽 외에 TPU의 의미 있는 외부 고객이 많지 않다는 취지의 언급도 내놨다. 황 CEO는 "TPU가 비용 우위를 갖췄다는 점을 입증해 보였으면 한다"며 "엔비디아는 구글 TPU나 주문형 반도체(ASIC)보다 훨씬 앞서 있다"고 말했다. 이에 구글은 자금력을 앞세워 엔비디아에 맞설 기반을 넓히고 있다. 특히 이달에는 AI 인프라 투자를 위해 850억 달러 규모 자본 조달 계획을 밝히기도 했다. 또 루이지애나주 배턴루지 인근 70억 달러 규모 AI 데이터센터 프로젝트 '리버 벤드'에도 금융 지원을 제공하고 있다. 텍사스주 콜로라도시티 AI 컴퓨팅 임대 프로젝트에는 14억 달러 규모 금융보증을 제공 중이다. 더불어 구글은 블랙스톤과 50억 달러 규모 클라우드 서비스 합작법인 설립 계약도 체결했다. 이 법인은 엔비디아 칩을 기반으로 성장한 코어위브, 네비우스 등 AI 클라우드 업체와 경쟁한다. 아민 바흐다트 구글 AI 인프라 최고기술책임자(CTO)는 "엔비디아와의 경쟁에만 초점을 맞추고 있지 않다"며 "우리에게 중요한 것은 구글과 고객을 위한 더 나은 제품을 만드는 것"이라고 말했다.

2026.06.19 17:45장유미 기자

래블업 "인텔 '아크 프로 B70', RTX 프로 4000 대비 추론 처리량 높아"

AI 시장의 중심이 모델 학습에서 추론과 에이전틱 AI 서비스 운영으로 이동하면서 GPU 내장 메모리 용량의 중요성이 커지고 있다. 거대언어모델(LLM)에서 길게 이어지는 대화의 맥락을 처리하고 여러 이용자를 동시에 처리하려면 대용량 메모리가 중요하다. 특히 에이전틱 AI는 장시간 대화 맥락을 유지하고 여러 작업을 병렬 처리해야 하는 만큼 GPU 메모리 사용량이 급격히 증가한다. 이 과정에서 이전 추론 결과를 저장하는 'KV 캐시(Key-Value Cache)'가 중요한 역할을 한다. KV 캐시가 충분하지 않으면 기존 KV 캐시 데이터를 제거하거나 재배치해야 하며 이 과정에서 처리량이 감소하거나 응답 지연이 발생할 수 있다. 반대로 KV 캐시를 담을 메모리 용량이 충분하면 더 많은 사용자 요청과 긴 컨텍스트를 동시에 처리할 수 있다. 래블업, '백엔드.AI'에서 LLM 2종 대상 벤치마크 수행 국내 AI 플랫폼 기업인 래블업은 최근 엔터프라이즈 AI 인프라 운영 플랫폼 '백엔드.AI'에서 인텔 아크 프로 B70과 엔비디아 RTX 프로 4000 블랙웰을 대상으로 한 LLM 벤치마크 결과를 공개했다.(인텔 제온 w9-3475X, 우분투 25.10 환경) 인텔 아크 프로 B70은 지난 3월 말 출시된 워크스테이션용 GPU로 AI 추론 수요를 겨냥했다. Xe2 코어 32개와 32GB 메모리 기반으로 대용량 AI 모델을 분할 없이 구동할 수 있다는 점이 차별화 포인트다. 연산 성능은 최대 367 INT8 TOPS(초당 1조 회 연산) 수준이며 GDDR6 32GB 메모리를 탑재해 중소규모 기업과 개발자가 대형 언어모델(LLM)을 로컬 환경에서 직접 구동할 수 있게 했다. 비교 대상이 된 RTX 프로 4000 블랙웰은 쿠다 코어 8960개, ECC GDDR7 24GB 메모리를 탑재했고 메모리 대역폭은 672GB/s 수준이다. Qwen3 8B 모델에서 동시 요청시 초당 처리량 향상 현재 기업들이 활용하는 7B~30B급 오픈소스 LLM은 추론 과정에서 상당한 KV 캐시 공간을 요구하기 때문에 24GB와 32GB 메모리의 차이가 실제 처리량 격차로 이어질 수 있다. 래블업이 Qwen3 8B 모델을 기반으로 수행한 8K 컨텍스트 테스트에서 아크 프로 B70은 동시 요청 수가 늘어나도 초당 처리량이 꾸준히 높아졌다. 반면 RTX 프로 4000 블랙웰은 동시 요청 수가 16개 수준에 도달하자 메모리 부족 현상으로 처리량이 급감했다. 이 테스트에서 아크 프로 B70은 엔비디아 GPU 대비 최대 2.24배 높은 처리량을 기록했다. 컨텍스트 길이를 32K까지 늘린 환경에서는 격차가 더욱 커졌고 특정 구간에서는 아크 프로 B70이 최대 4배 이상 높은 처리량을 보였다. 이는 AI 에이전트 시대에 GPU 연산 성능 못지않게 메모리 용량이 중요해지고 있음을 시사한다. GPT-OSS 20B에서도 RTX 프로 4000 대비 처리량 25% 우위 GPT-OSS 20B 모델을 이용한 테스트에서도 비슷한 경향이 확인됐다. 아크 프로 B70은 동시 요청 수가 증가해도 안정적으로 성능을 유지했으며 32개 동시 요청 환경에서 RTX 프로 4000 블랙웰 대비 25% 처리량이 높았다. 래블업은 실제 벤치마크에서 아크 프로 B70의 KV 캐시 활용 가능 용량이 RTX 프로 4000 블랙웰 대비 평균 2배 수준으로 나타났다고 설명했다. 래블업 관계자는 "이에 따라 모델 가중치를 적재한 이후에도 더 많은 메모리 여유 공간을 확보할 수 있다"고 설명했다. 이어 "처리량과 가격을 함께 고려한 비용 효율 분석에서도 아크 프로 B70이 더 나은 결과를 보였고 AI 서비스 운영에 중요한 토큰당 비용 기준으로는 최대 8배 이상의 효율 향상이 가능하다"고 분석했다. AI 에이전트 등장에 GPU 메모리 용량 중요성 ↑ 래블업은 "장비와 솔루션 도입 시 토큰 처리 비용은 주요 검토 항목 중 하나이며 처리량과 GPU 가격에 따라 결정된다. 정가 기준 아크 프로 B70은 1099달러(약 149만원), RTX 프로 4000 블랙웰은 2199달러(약 297만원)로 벤치마크 결과를 반영하면 두 제품 간 비용 효율 격차는 더욱 커진다"고 설명했다. 다만 이번 결과는 특정 모델과 특정 추론 환경에서 측정된 것으로, AI 학습 성능이나 모든 워크로드에서 동일한 우위를 의미하지는 않는다. 또 AI 생태계 전반에서는 여전히 엔비디아의 영향력이 압도적이다. 쿠다(CUDA)를 중심으로 구축된 개발 환경과 풍부한 소프트웨어 지원은 AMD나 인텔 등 경쟁사가 단시간에 따라잡기 힘들다. 그러나 오픈소스 기반 인텔 AI 프레임워크인 '오픈비노'를 비롯해 vLLM, llama.cpp 등 주요 AI 프레임워크가 인텔 GPU 지원을 확대하고 있다. 업계에서는 아크 프로 B70이 AI 추론 시장을 겨냥한 실용적인 대안으로 자리잡을 가능성이 높다고 보고 있다. AI 에이전트가 확산될 수록 연산 성능뿐 아니라 메모리 용량과 비용 효율이 중요해지고 있기 때문이다.

2026.06.18 16:08권봉석 기자

엔비디아, 구글 '디퓨전젬마' 지원…"로컬 AI 추론 속도 높여"

엔비디아가 구글딥마인드 디퓨전 언어 모델을 그래픽처리장치(GPU)와 개인용 인공지능(AI) 시스템에 최적화했다. 엔비디아는 구글딥마인드 '디퓨전젬마'를 지포스 RTX GPU와 RTX 프로 플랫폼, DGX 스파크 시스템 전반에서 더 빠르게 실행할 수 있도록 최적화했다고 12일 밝혔다. 디퓨전젬마는 텍스트를 한 단어씩 순차 생성하는 기존 자기회귀 방식과 달리 여러 단어를 병렬로 생성한다. 각 단계에서 최대 256개 토큰을 디노이징해 텍스트 블록 전체를 출력하는 구조다. 이 방식은 대화형 채팅과 에이전틱 루프, 온디바이스 어시스턴트처럼 응답 속도가 중요한 단일 사용자 작업에 적합하다. 개발자와 연구자, AI 사용자는 로컬 기기에서 기존보다 빠른 텍스트 생성을 활용할 수 있다. 디퓨전젬마는 젬마 4 기반으로 구축됐다. 젬마 4는 260억 개 파라미터를 갖춘 전문가 혼합 모델이며, 단계마다 38억 개 파라미터를 활성화한다. 엔비디아는 디퓨전젬마가 동급 자기회귀 모델보다 최대 4배 빠른 성능을 제공한다고 설명했다. 단일 엔비디아 H100 텐서 코어 GPU에서는 초당 1천 개 토큰, DGX 스파크에서는 초당 150개 토큰, DGX 스테이션에서는 최대 초당 2천 개 토큰 성능을 낸다. 구글딥마인드는 디퓨전젬마를 연구·실험 목적용이라고 당부했다. 속도와 병렬 생성에 초점을 맞춘 만큼 전체 출력 품질은 기존 자기회귀 기반 젬마4 모델보다 낮다고 밝혔다. 디퓨전젬마는 아파치 2.0 라이선스 기반 오픈 웨이트 모델로 제공된다. RTX와 DGX 스파크에서 완전히 실행될 수 있으며 클라우드나 토큰당 비용 없이 허깅페이스 트랜스포머, vLLM, 언슬로스에서 기본 지원된다. 엔비디아는 DGX 스파크와 RTX 프로 6000 워크스테이션, DGX 스테이션에서 디퓨전젬마 실행을 지원한다. 지포스 RTX 그래픽처리장치에서는 향후 라마.cpp 지원도 추가될 예정이다. 개발자는 허깅페이스 트랜스포머를 통해 지포스 RTX 5090이나 DGX 스파크에서 디퓨전젬마를 테스트할 수 있다. 더 높은 처리량이 필요한 경우 vLLM을 활용할 수 있으며 언슬로스와 엔비디아 네모 프레임워크를 통해 파인튜닝도 가능하다.

2026.06.12 11:13김미정 기자

[현장] 시뮬리아 CEO "시뮬레이션 빠르고 저렴하게…GPU 최적화 속도"

"우리 목표는 고객이 인공지능(AI)으로 설계 검증에 걸리는 시간을 줄이고 제품을 더 빨리 시장에 내놓도록 돕는 것입니다. 앞으로 시뮬레이션·AI뿐 아니라 그래픽처리장치(GPU) 인프라까지 최적화해 산업용 AI 생태계 구축에 힘쓰겠습니다." 미쉘 애쉬 다쏘시스템 시뮬리아 최고경영자(CEO)는 11일 파르나스 서울에서 열린 '시뮬리아 유저 데이 2026' 기조연설에서 '시뮬리아' 사업 전략을 이같이 밝혔다. '시뮬리아'는 다쏘시스템 시뮬레이션 브랜드다. 제품이 실제 환경에서 받는 충격, 열, 유체 흐름, 전자지 영향, 소음 등을 가상 환경에서 분석한다. 이를 통해 제품 개발 과정 시행착오를 줄이는 역할을 한다. 애쉬 CEO는 AI가 엔지니어를 대체하는 것이 아니라 작업 역량을 확장한다는 데 맞춰져 있다고 재차 강조했다. AI가 설계·제조·영업 등 조직 내 사일로를 허물고, 사람과 기계가 함께 일하는 방식을 새롭게 만들 것이라고 내다봤다. 그는 "AI와 시뮬레이션을 결합해 엔지니어링 업무 방식을 바꿀 것"이라며 "기계와 해석, 검증에 걸리는 시간을 줄이고 더 많은 제품 설계안을 빠르고 저렴하게 얻을 수 있는 작업 환경을 열 것"이라고 밝혔다. 이를 위해 다쏘시스템은 엔비디아 그래픽처리장치(GPU)를 활용한 시뮬레이션 연산 최적화에도 속도를 내고 있다. 복잡한 구조·유체·전자기 시뮬레이션은 계산량이 많아 기존 중앙처리장치(CPU) 기반 환경에서는 해석 시간이 길어지는 경우가 많았는데, 이를 GPU 기반 병렬 연산으로 전환해 처리 속도와 비용 효율을 높이겠다는 것이다. 관련 시뮬리아 제품군에는 구조 해석용 '아바쿠스(Abaqus)', 유체 해석용 '파워플로우(PowerFLOW)', 전자기 해석용 'CST 스튜디오 스위트', 다물체 동역학 해석용 '심팩(Simpack)' 등이 포함된다. 애쉬 CEO는 "우리는 이런 솔버를 GPU 환경에 맞게 고도화하고 있다"며 "실제 기존 대비 시뮬레이션 속도를 3배에서 최대 125배까지 올릴 수 있을 것으로 본다"고 밝혔다. 이같은 다쏘씨스템 전략은 엔비디아와의 산업용 AI 협력과도 연결된다. 두 기업은 올해 2월 산업용 AI 플랫폼 구축을 위한 파트너십을 발표한 바 있다. 애쉬 CEO는 "우리는 버추얼트윈과 가속 컴퓨팅을 결합해 설계·시뮬레이션·제조 운영 전반을 지원하겠다"고 밝혔다. 애쉬 CEO는 올해부터 내년까지 시뮬리아 추가 기능을 단계적으로 출시할 계획이라고 밝혔다. 시뮬리아의 AI·머신러닝 기반 물리 거동 예측 기능과 테스트 도구는 7월 출시 예정이다. 버추얼 컴패니언 기능은 7월부터 연말까지 고객 테스트와 배포가 순차적으로 진행된다. 전자기와 유체 분야의 설계 성능 분석 기능은 올해 말과 내년 초에 걸쳐 확대될 예정이다. 그는 "AI는 엔지니어를 대체하는 것이 아니라 업무 역량을 확장한다는 데 맞춰졌다"며 "우리는 버추얼 트윈에서 설계·검증 방식을 바꿀 것"이라고 말했다.

2026.06.11 11:05김미정 기자

"텍스트 생성 더 빠르게"…구글, '디퓨전젬마' 공개

구글이 기존보다 4배 빠른 텍스트 생성 속도를 갖춘 '젬마' 버전을 내놨다. 구글딥마인드는 10일(현지시간) 텍스트 디퓨전 방식을 적용한 오픈소스 실험 모델 '디퓨전젬마(DiffusionGemma)'를 출시했다고 공식 블로그에 밝혔다. 이 모델은 '아파치 2.0 라이선스'로 배포되며 전체 260억개 파라미터 규모전문가혼합(MoE) 구조를 기반으로 이뤄졌다. 디퓨전젬마의 핵심은 기존 거대언어모델(LLM)처럼 토큰을 한 개씩 순차 생성하지 않는다는 점이다. 256개 토큰 블록을 한 번에 생성한 뒤, 여러 차례 수정과 보완을 거쳐 최종 결과를 만드는 텍스트 디퓨전 방식으로 작동한다. 이를 통해 그래픽처리장치(GPU)에서 최대 4배 빠른 텍스트 생성 속도를 구현했다. 구글딥마인드는 "이 모델은 단일 엔비디아 'H100'에서는 초당 1000개 이상 토큰을 생성한다"며 "엔비디아 '지포스 RTX 5090'에서는 초당 700개 이상 토큰을 처리할 수 있다"고 밝혔다. 해당 모델은 전체 260억개 파라미터를 갖고 있지만 실제 추론 과정에서는 38억개 파라미터만 활성화한다. 양자화 기준으로 18기가바이트(GB) 비디오램(VRAM) 환경에서도 구동할 수 있어 고급 소비자용 GPU에서도 활용 가능한 셈이다. 또 모든 토큰이 서로를 참조하는 양방향 어텐션 구조를 적용했다. 인라인 편집과 코드 인필링, 아미노산 서열 생성, 수학 그래프 생성 등 비선형 작업에 강한 것으로 알려졌다. 디퓨전젬마는 생성 과정에서 전체 텍스트를 한 번에 검토하며 오류를 수정하는 자기 정제 기능도 갖췄다. 복잡한 마크다운 형식을 정확하게 마무리하거나 코드 생성과 렌더링을 거의 실시간으로 수행할 수 있는 셈이다. 구글딥마인드는 디퓨전젬마를 연구·실험 목적용이라고 당부했다. 속도와 병렬 생성에 초점을 맞춘 만큼 전체 출력 품질은 기존 자기회귀 기반 젬마4 모델보다 낮다고 설명했다. 또 디퓨전젬마 성능 이점으로 로컬 또는 낮은 동시성 환경에서 가장 크게 나타난다고 밝혔다. 대규모 클라우드 서비스 환경에서는 자기회귀 모델도 높은 연산 활용률을 확보할 수 있어 속도 우위가 줄어들 수 있다고 덧붙였다. 구글딥마인드는 "이번 모델은 속도가 중요한 인터랙티브 로컬 워크플로를 탐색하는 연구자와 개발자를 위해 설계됐다"고 밝혔다.

2026.06.11 09:35김미정 기자

엔비디아, 6G 안테나 전용 GPU 개발 추진

엔비디아가 6G 통신 기지국 무선 안테나(RU) 전용 칩을 개발한다는 소식이 전해져 이목을 끈다. 라이트리딩닷컴에 따르면 엔비디아는 무선장비에 GPU를 적용하는 계획을 세우며 AI-RAN 전략의 고도화 단계에 진입했다. 엔비디아의 기존 AI-RAN 전략은 그레이스 호퍼(Grace Hopper) 슈퍼칩을 활용해 기지국의 중앙처리장치(CU)와 분산처리장치(DU)에 사용되는 전용 ASIC을 대체하는 데 집중했다. 안테나 장비까지 GPU 컴퓨팅을 도입하는 점은 고려하지 않았는데, 6G에서는 매시브 MIMO 기술 확산에 따라 별도의 컴퓨팅이 필요하다는 판단을 내린 것이다. 외신은 엔비디아가 RU에서 처리하는 빔포밍을 담당하는 ASIC를 대체하려는 움직임이라고 분석했다. RU에서 안테나 수가 최대 128개까지 늘어나는데 이에 따른 연산량도 32배 이상 늘어난다는 이유다. 그런 가운데 6G 환경에선 최대 1024개까지 늘어날 수도 있다는 전망이 별도의 고도화된 컴퓨팅 도입을 불러일으킨 것이다. 그간 DU와 RU에서 동일한 반도체 회사 제품이 쓰이는 경우가 많다. 서로 다른 회사의 칩을 사용하면 소프트웨어 개발과 최적화가 복잡하기 때문이다. 엔비디아는 RU 시장의 주요 공급사인 마벨에 올해 20억 달러를 투자했다. 마벨은 주로 엔비디아 투자를 받은 노키아의 협력사다. 이에 따라 AI-RAN 전략으로 DU 시장을 시작으로 RU 시장까지 넘보겠다는 뜻이다. 다만 RU에서 GPU 컴퓨팅을 도입할 경우 전력 사용량이 늘어나는 점이 한계로 꼽힌다. 통신사의 네트워크 운영 비용이 늘어나는 점이 발목을 잡을 수 있다는 설명이다.

2026.06.11 08:30박수형 기자

[유미's 픽] 젠슨 황 만난 LG·SKT·업스테이지…독자 AI 2차전 변수될까

젠슨 황 엔비디아 최고경영자(CEO)의 방한을 계기로 국내 독자 인공지능(AI) 파운데이션 모델 경쟁 구도에도 변화가 감지된다. LG AI연구원과 SK텔레콤이 엔비디아와 기술 협력 접점을 넓히고 업스테이지가 국내 대표 AI 스타트업으로 황 CEO와 만나면서 2차 평가를 앞둔 경쟁에 새 변수가 더해졌다는 분석이 나온다. 9일 업계에 따르면 정부의 독자 AI 파운데이션 모델 프로젝트에는 LG AI연구원, SK텔레콤, 업스테이지, 모티프테크놀로지스 등 4곳이 정예팀으로 참여하고 있다. 이들 기업은 오는 8월 2차 평가를 거쳐 1곳이 탈락하고, 내년 2월 최종 2곳이 선정되는 일정을 앞두고 있다. 1차 평가 이후 독자성 논란이 불거졌던 만큼 2차 평가에서는 모델 성능뿐 아니라 활용성, 기술 자립성, 산업 적용 가능성 등이 더 면밀히 다뤄질 가능성이 거론된다. 이 같은 상황에서 이번 엔비디아 협력은 LG AI연구원과 SK텔레콤에 비교적 직접적인 기회로 작용할 수 있을 것으로 예상된다. 두 회사 모두 엔비디아와의 협력 범위가 단순 회동을 넘어 모델 개발, 학습 인프라, AI 클라우드, 추론 최적화 등으로 연결돼 있어서다. 또 대규모 AI 모델 경쟁이 벤치마크 점수를 넘어 실제 서비스 구현 역량까지 따지는 방향으로 바뀌면서 글로벌 AI 인프라 기업과의 협력 가치도 커지고 있다. LG AI연구원은 자체 모델 엑사원(EXAONE) 고도화에 엔비디아 기술을 활용할 예정이다. LG와 엔비디아는 전날 서울 여의도 LG트윈타워에서 최고경영진 회의를 열고 피지컬 AI, AI 인프라, 모빌리티 등 차세대 AI 산업 협력 방안을 논의했다. 이 자리에서 엑사원 생태계 확장을 위한 기술 협력도 함께 다뤄졌다. LG AI연구원은 엑사원 성능 강화 과정에서 엔비디아의 최신 그래픽처리장치(GPU)인 블랙웰과 AI 개발 플랫폼 네모 프레임워크, 추론 성능 강화 소프트웨어 텐서RT-LLM을 활용할 계획이다. 또 AI 모델 데이터 학습 품질을 높이기 위해 엔비디아의 네모트론 오픈 데이터셋도 활용키로 했다. 이는 엑사원의 학습 효율과 추론 성능을 높이고 실제 산업 현장 적용 기반을 넓히려는 행보로 풀이된다. LG AI연구원은 1차 평가에서 K-엑사원을 앞세워 국내 모델 중 1위(90.2점)를 기록했다. 2차 평가에서는 모델 규모와 성능을 끌어올려 글로벌 최신 오픈웨이트 모델과 경쟁할 수 있는 수준을 목표로 하고 있다. 지식, 추론, 지시어 이행, 롱 컨텍스트뿐 아니라 에이전틱 툴 활용과 코딩 영역에서도 성능 개선을 추진 중이다. SK텔레콤은 엔비디아와의 협력을 모델 개발과 AI 인프라 사업 양쪽으로 연결하고 있다. 이곳은 독자 AI 파운데이션 모델 프로젝트에서 에이닷엑스 케이원(A.X K1)의 후속 모델인 에이닷엑스 케이투(A.X K2)를 개발하고 있다. 엔비디아와는 학습 데이터, 인프라, 프레임워크 전반에서 기술 협력을 이어가고 있다. SK그룹 차원의 협력도 SK텔레콤에 힘을 싣는 구조다. SK텔레콤은 엔비디아 DSX 플랫폼 기반 AI팩토리 구축과 운영을 맡는다. SK하이닉스는 엔비디아와 AI팩토리용 차세대 메모리를 공동 개발한다. SK텔레콤은 이를 기가와트급 인프라로 확장해 아시아 AI 클라우드 사업자로 도약하겠다는 구상을 제시했다. 3개 팀을 선별할 오는 8월 평가에서는 이 같은 인프라 구상이 A.X K2의 모델 경쟁력을 얼마나 보완할 수 있을지도 관심사다. 다만 AI 클라우드 사업 계획보다 모델 자체의 성능과 활용성이 별도로 검증될 가능성이 크다. 업스테이지는 LG AI연구원이나 SK텔레콤처럼 대규모 그룹 인프라를 갖춘 것은 아니지만, 지난 8일 오후 젠슨 황 CEO와 진행된 국내 AI 스타트업 간담회에 주요 기업으로 참석해 시장 주목도를 높였다. 다만 엔비디아와의 구체적인 기술 협력 발표가 나온 것은 아닌 만큼 독자 AI 파운데이션 모델 평가에서는 솔라 계열 모델의 실제 성능과 활용 사례가 더 중요한 판단 기준이 될 가능성이 크다. 모티프테크놀로지스는 이번 엔비디아 방한 흐름에서는 상대적으로 주목도가 낮지만, 독자 아키텍처를 앞세운 차별화 전략을 내세우고 있다. 뒤늦게 정예팀에 합류한 만큼 2차 평가까지 남은 기간 동안 성능 안정화와 기술 독자성을 얼마나 설득력 있게 보여줄지가 과제로 꼽힌다. 업계 관계자는 "엔비디아 협력이 평가 우위를 곧바로 보장하지는 않을 것"이라며 "정부 프로젝트가 지향하는 방향이 해외 AI 생태계와의 친밀도보다 국내 주도의 모델 개발 역량과 산업 활용 생태계 구축에 있기 때문"이라고 봤다. 그러면서 "각 기업이 자체 모델의 성능과 활용 사례, 기술 독자성을 얼마나 설득력 있게 보여주느냐가 더 중요하게 작용할 것"이라고 덧붙였다.

2026.06.09 10:31장유미 기자

Prev 1 2 3 4 5 6 7 8 9 10 Next