검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'CUDA'통합검색 결과 입니다. (3건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

[AI는 지금] AMD 추격에 '쿠다' 더 세졌다…엔비디아, AI SW 주도권 강화 가속

엔비디아가 인공지능(AI) 가속기 시장의 주도권을 지키기 위해 소프트웨어 경쟁력을 한층 강화하고 있다. 차세대 그래픽처리장치(GPU)인 '루빈' 출하가 시작된 가운데 쿠다(CUDA)의 개발 지원을 확대하고 공유 GPU 관리와 AI 코딩 기능까지 고도화하면서 기업과 개발자를 자사 생태계에 더욱 깊숙이 끌어들이려는 모양새다. 엔비디아는 지난 9일 '쿠다 툴킷 13.4'를 공개했다고 10일 밝혔다. 이번 버전에는 차세대 GPU '루빈' 아키텍처 지원을 비롯해 공유 GPU 관리, 쿠다 파이썬과 C++ 라이브러리, AI 개발 도구 관련 기능이 추가됐다. 루빈 지원은 개발자 프리뷰 형태로 제공된다. 이에 따라 개발자들은 정식 지원에 앞서 기존 애플리케이션과 라이브러리를 루빈 환경에 맞게 점검하고 이전 작업을 준비할 수 있다. 최근 루빈 공급이 시작된 가운데 엔비디아는 하드웨어 도입과 함께 이번 일로 소프트웨어 전환 준비까지 앞당기려는 분위기다. 다만 루빈 지원 기능은 아직 개발자 프리뷰 단계로, 성능 벤치마크나 성능 분석, 실제 서비스 배포 용도로는 권장되지 않는다. 엔비디아는 이번에 기업들이 보유한 GPU를 효율적으로 활용하기 위한 기능도 강화했다. 특히 '멀티 프로세스 서비스(MPS) V3'는 기존 MPS의 제어 계층을 개편해 하나의 GPU를 여러 작업이 공유할 때 자원 배분을 보다 세밀하게 설정할 수 있도록 한 것이 특징이다. 이번 일로 기업들은 스트리밍 멀티프로세서(SM)를 나눠 사용하거나 컨테이너별 GPU 메모리 한도를 설정할 수 있으며 작업의 실행 우선순위도 관리할 수 있다. 또 여러 AI 모델과 에이전트를 동시에 운영하는 기업이나 클라우드 사업자가 GPU 사용률을 높이면서 워크로드별 자원을 구분하는 데도 활용할 수 있다. 이 같은 기능은 기업의 AI 투자가 모델 학습에서 실제 서비스 운영으로 확대되면서 중요성이 커지고 있다. 고가 GPU를 특정 작업이 독점하기보다 여러 워크로드를 공유할 수 있을수록 같은 인프라에서 처리할 수 있는 AI 서비스가 늘어나기 때문이다. 이에 엔비디아도 쿠다의 역할을 GPU 프로그래밍뿐 아니라 공유 자원 관리까지 지속적으로 넓히고 있다. 개발자가 쿠다를 사용하는 방식도 이번 일로 단순해졌다. 쿠다 파이썬은 공개 API에 타입 정보를 제공해 통합개발환경(IDE)이나 코딩 에이전트가 함수 구조와 반환형 등을 파악하기 쉽게 만들었다. 쿠다 C++에서는 카피 이프(copy_if), 파인드 이프(find_if), 리듀스(reduce), 트랜스폼(transform) 등 개발자가 익숙한 표준 라이브러리 방식으로 GPU 병렬 연산을 처리할 수 있게 했다. AI 코딩 에이전트를 활용한 개발 환경도 확대했다. 엔비디아는 '엔사이트 AI(Nsight AI)'를 통해 최신 쿠다 문서와 코드 예제를 지원되는 AI 코딩 에이전트에 연결하는 '쿠다 MCP 서버'를 제공한다. 개발자가 문서를 직접 검색하는 부담을 줄이고 AI의 도움을 받아 쿠다 소프트웨어를 개발할 수 있도록 한 것이다. 운영체제 지원 범위도 넓혔다. 쿠다 13.4는 RTX 스파크 기기를 대상으로 윈도 온 Arm을 새롭게 지원한다. Arm 환경에서 리눅스를 넘어 윈도까지 쿠다 개발 영역을 확대한 것이다. 엔비디아가 소프트웨어 생태계를 강화하는 사이 AMD도 추격에 속도를 내고 있다. AMD는 지난달 27일 'ROCm 10'과 AI 기반 개발 환경 'ROCm.AI'를 정식 출시했다. ROCm.AI는 개발자가 기존 AI 개발 도구를 이용해 AMD 하드웨어에서 워크로드를 구축하고 실행·최적화할 수 있도록 지원한다. 이처럼 AMD가 개발 편의성과 호환성 강화에 공을 들이는 것도 기업의 가속기 선택에서 소프트웨어가 차지하는 비중이 커지고 있어서다. 이미 사용 중인 모델과 라이브러리, 개발도구를 다른 GPU 환경에서도 그대로 활용하기 어렵다면, 별도 검증과 최적화가 필요해 전환 비용이 커질 수 있다. 업계 관계자는 "AI 가속기는 단순히 칩 성능만 보고 바꾸기 어렵다"며 "기존 소프트웨어와 개발 환경을 얼마나 적은 비용으로 옮길 수 있느냐가 실제 도입 결정에 큰 영향을 줄 것"이라고 말했다.

2026.09.10 18:46장유미 기자

[김태진 칼럼] AI 3대 강국, 선언과 구호를 넘어서려면

얼마 전 코엑스에서 열린 'AI EXPO KOREA 2026' 전시장을 걷는 내내 많이 당황스럽고 우려스러웠다. 우리는 과연 AI 강국으로 가고 있는가. 아니면 이미 만들어진 길에 의존한 채 뒤따라가고 있는가. 전시장 중심에는 대만 기업들의 GPU 서버와 엔비디아 생태계가 확실하게 자리 잡고 있었다. 특정 기업 AI 인프라의 핵심 축이 사실상 하나의 플랫폼으로 만들어지는 상황이었다. 그 사이에서 국내 기업들이 개발한 NPU는 존재했지만 전체 흐름에 참여 하기에는 많이 부족해 보였다. 한국 AI 산업의 현재를 상징적으로 보여주는 것만 같았다. 문제는 기술의 유무뿐만이 아니다. 구조다. 글로벌 AI 경쟁은 더 이상 개별 칩이나 모델의 성능 경쟁이 아니라, 칩·서버·네트워크·소프트웨어가 결합된 '풀스택 생태계' 간 경쟁으로 이동하고 있다. 이 구조를 장악한 쪽이 시장을 주도하고 있다. 그러나 한국은 여전히 단위 기술 중심의 접근에 머물러 있다. 개별 기술 개발 자체에는 성과가 있지만, 그것을 연결해 산업으로 확장하는 전략은 여전히 부족하다. 전시장에서 국산 NPU가 존재감을 확인하지 못한 이유도 여기에 있다. 이와 대비되는 사례가 있다. 중국이다. 미국의 강도 높은 제재로 GPU, 소프트웨어, 칩 설계 도구까지 막힌 상황에서 중국은 오히려 방향을 전환했다. 외부 기술을 대체하는 데 그치지 않고, '칩–모델–네트워크–자본'을 하나로 묶는 구조를 만들었다. 엔비디아의 인피니밴드 대신 공개 표준인 이더넷 기반 네트워크를 고도화하고, 화웨이는 자국 AI 반도체를 만들고 여기에 미국과 경쟁하는 최적화된 모델을 앞다퉈 개발하는 방식이다. 핵심은 기술 수준도 있지만 더욱 중요한 것은 '연결 전략'이다. 무엇을 만들었느냐보다 그것을 어떻게 묶었느냐가 경쟁력을 좌우하고 있기 때문이다. 반면 한국은 상황이 다르다. 일부 기업들이 경쟁력 있는 AI 반도체를 개발하고 있음에도 불구하고, 실제 인프라 건설 현장에서는 쉽게 채택되지 못한다. 이유는 기존 생태계와의 연결 문제다. 대기업과 공공기관이 AI 인프라를 도입할 때 던지는 질문은 단순하다. “엔비디아와 호환되는가”, “기존 인프라에 바로 붙는가” 이 기준을 통과하지 못하면 선택받기 어렵다. 결국 시장은 '엔비디아에 갇힌 생태계' 중심으로 점점 굳어지는 느낌이다. 이 상태에서는 GPU를 더 많이 확보한다고만 해서 AI 강국이 되는 것은 아니다. 잘못하면 오히려 특정 기업의 독점적 생태계의 의존도만 높아질 뿐이다. 'AI 3대 강국'이라는 목표 역시 기반이 없는 구호로 남게 된다. 이제는 질문을 바꿔야 한다. '어떻게 따라잡을 것인가'가 아니라, '어떤 구조를 만들 것인가'를 고민해야 한다. 첫째, 칩 중심 전략을 넘어 시스템 단위 접근이 필요하다. NPU 기업이 단독으로 경쟁하는 구조에서는 생태계 장벽을 넘기 어렵다. 서버, 냉각, 전력 기술과 결합해 '완성형 인프라'로 시장에 접근해야 한다. 특히 전력 효율과 발열 관리 같은 현실적인 요소의 차별화도 중요한 경쟁력으로 만들 필요가 있다. 제품뿐만 아니라 구조로 경쟁해야 한다. 둘째, 네트워크 구조의 전환은 꼭 필요하다. 엔비디아의 독점적 인피니밴드에 대한 의존이 지속되는 한 새로운 시도는 제한될 수밖에 없다. 개방형 표준 기반의 이더넷 네트워크를 확대 적용하고 이종 시스템 간 연결 기술을 확보할 수 있는 선택지를 과감히 넓혀야 한다. 셋째, 소프트웨어 생태계에 대한 전략적 투자가 필요하다. CUDA 중심의 구조 환경을 넘어서지 못하면 어떤 하드웨어도 확산되기 어렵다. 컴파일러, 프레임워크, 개발 도구까지 포함한 전방위적 접근을 시스템 적용이 가능하도록 만들어야 한다. 그러나 이러한 해법보다 더 근본적인 문제는 따로 있다. 정책과 실행의 단절이다. 누가 실행할 것인가가 핵심이다. 현재 AI 및 반도체 관련 정책은 분산돼 추진되고 있다. 연구개발은 이뤄지지만 그것이 실제 산업과 어떻게 연결되는지에 대한 설계는 부족하다. 기술은 만들어지지만 쓰일 곳을 제대로 찾지 못하는 상황이 반복된다. 분산된 정책과 사업을 하나로 연결할 수 있는 강력한 정부의 콘트롤타워가 필요하다. 기술 개발부터 산업 적용까지 이어지는 전체 흐름을 설계하고 이를 실행할 수 있는 권한과 책임을 힘 있게 추진해야 한다. 지금 우리에게 필요한 것은 홍보성 선언이 아니라 '실행 구조'의 선택이다. 엔비디아 중심 생태계를 보완해 우리가 설계하는 생태계 구조로의 전략적 방향 설정이 필요하다. 이를 위해서는 공공 데이터센터와 대규모 R&D 사업에서 국산 AI 반도체 활용을 일정 비율로 의무화 해야 한다. 초기 수요 없이 기술 생태계는 자랄 수 없기 때문이다. AI 경쟁은 속도의 문제와 함께 디테일한 구조 설계의 문제다. 생태계의 의존을 벗어나고 연결된 전략과 일관된 실행이 뒷받침된다면 'AI 3대 강국'은 가능할 수도 있다. 전시장에서 느낀 불편함은 우리가 AI 생태계의 어느 부분에 서있는지를 확인시켜 주었다. 이제는 더 많은 기술보다도 더 명확한 선택이 필요한 상황이다.

2026.05.21 10:16김태진 컬럼니스트

[AI는 지금] 엔비디아, GPU 시장서 86% 독주 가능한 까닭은

인공지능(AI) 인프라 경쟁의 승패가 반도체 성능보다 이를 뒷받침하는 소프트웨어(SW) 생태계에서 갈리고 있는 것으로 나타났다. 엔비디아의 독주 역시 그래픽처리장치(GPU) 하드웨어 우위만이 아니라 20년 가까이 축적한 쿠다(CUDA) 중심 SW 스택이 만든 구조적 진입장벽의 결과라는 분석이 나왔다. 11일 소프트웨어정책연구소(SPRi)가 발간한 'AI 인프라 경쟁에서 소프트웨어의 구조적 역할' 보고서에 따르면 올해 전 세계 AI 지출은 2조5000억 달러에 이를 전망이다. 이 가운데 절반 이상은 서버·가속기·데이터센터 등 인프라에 집중될 것으로 예상된다. 특히 데이터센터 GPU 시장에서 엔비디아는 약 86%의 매출 점유율을 확보하며 압도적 우위를 유지하고 있다. 보고서는 이 같은 지배력이 단순한 칩 성능만으로 설명되지 않는다고 짚었다. 동일한 H100 GPU를 사용하더라도 컴파일러, 가속 라이브러리, 드라이버 최적화 수준에 따라 실제 처리량이 3배 이상 벌어질 수 있어서다. AI 인프라의 본질적 경쟁력은 '칩 위에서 얼마나 효율적으로 연산을 구현하느냐'에 달려 있다는 의미다. 연구진은 AI 인프라를 개발 프레임워크, 컴파일러, 가속 라이브러리, 드라이버·런타임, 하드웨어의 5계층으로 구분했다. ▲개발자가 AI 모델을 설계할 때 사용하는 '파이토치'나 '잭스(JAX)' 같은 개발 도구부터 ▲이를 각 반도체에 맞는 실행 코드로 바꿔주는 '엑스엘에이(XLA)', '티브이엠(TVM)', '텐서알티(TensorRT)' 기반 컴파일러 ▲연산 속도를 끌어올리는 '쿠디엔엔(cuDNN)', '큐블라스(cuBLAS)' 등 가속 소프트웨어 ▲최하단 드라이버에 이르기까지 전 계층이 특정 하드웨어에 맞춰 최적화되며 락인(lock-in) 구조를 형성한다고 분석했다. 특히 보고서는 ▲최적화 비대칭으로 특정 칩으로 수렴하는 '성능 종속' ▲소프트웨어 선택이 곧 하드웨어 경로를 결정하는 '설계 종속' ▲폐쇄형 드라이버 구조가 물리적 대체를 막는 '구조적 종속'의 세 가지 메커니즘을 제시했다. 이미 특정 라이브러리와 '쿠다' 경로에 맞춰 최적화된 대규모 AI 모델 코드를 다른 칩용으로 재작성·검증하는 데 막대한 인력과 시간이 들어 하드웨어 교체 자체가 사실상 시스템 재구축에 가깝다고 봤다. 또 이 세 요소가 중첩될수록 전환 비용은 기하급수적으로 커진다고 설명했다. 주요국 전략도 뚜렷하게 대비됐다. 미국에서 엔비디아는 '쿠다' 생태계를 통해 성능·구조적 종속을 동시에 구축했고, 구글은 TPU(텐서 처리장치·대규모 AI 학습에 특화한 자체 반도체), 엑스엘에이(XLA), 잭스를 수직 통합해 별도의 설계 종속 경로를 구축했다. 중국 화웨이 역시 자사 AI 칩 '어센드(Ascend)'와 전용 소프트웨어 플랫폼 '칸(CANN)', AI 개발 프레임워크 '마인드스포어(MindSpore)'를 하나로 묶은 체계를 통해 자국 내 유사 생태계를 내재화하고 있는 것으로 평가됐다. 국내 신경망처리장치(NPU) 업계에는 기회와 과제가 동시에 제시됐다. 보고서는 한국 NPU 생태계가 파이토치 네이티브 지원과 가상거대언어모델(vLLM) 연동을 통해 프레임워크 진입에는 성공했지만, 컴파일러·라이브러리 계층의 성능 격차와 운영 레퍼런스 부족이 시장 확산의 걸림돌이라고 진단했다. 국내 AI 반도체 기업들 역시 전용 컴파일러 고도화와 거대언어모델(LLM) 추론 소프트웨어 최적화에 역량을 집중하며 쿠다 의존도를 낮추는 데 공을 들이고 있다. 업계에선 단순 칩 가격 경쟁력보다 전력 효율, 소프트웨어 유지보수, 개발 인력 재교육 비용을 모두 합친 총소유비용(TCO) 관점에서 엔비디아 대비 우위를 입증해야 실제 클라우드 사업자와 대기업 도입으로 이어질 수 있다고 보고 있다. 보고서 역시 TCO 기반 평가체계 도입을 핵심 정책 과제로 제시했다. 이에 연구진은 칩 설계 중심 지원에서 벗어나 컴파일러·런타임·소프트웨어개발키트(SDK)를 포함한 풀스택 SW 육성으로 정책 패러다임을 전환해야 한다고 제언했다. 특히 쿠다 의존도를 낮추기 위한 오픈엑스엘에이(OpenXLA)·엠엘아이알(MLIR) 등 글로벌 오픈소스 표준 프로젝트 참여 확대와 공공 AI 데이터센터 기반 실증 환경 조성이 시급한 과제로 제시됐다. 최근 유엑스엘 재단(UXL Foundation)처럼 특정 가속기 벤더에 종속되지 않는 멀티벤더 표준 생태계가 확산하는 만큼, 국내 기업들도 글로벌 소프트웨어 표준 경쟁에 선제적으로 합류해야 한다고 분석했다. 보고서는 "K-NPU 확산의 병목은 칩 자체보다 소프트웨어 최적화와 운영 생태계 규모에 있다"며 "공공 AI 데이터센터를 활용한 대규모 실증과 글로벌 오픈소스 표준 참여를 통해 성능 격차와 레퍼런스 부족의 악순환을 끊어야 한다"고 말했다.

2026.04.11 13:11장유미 기자