검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'SKT 엔비디아'통합검색 결과 입니다. (5건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

[최홍석 칼럼] AI 에이전트가 달리려면 어떤 도로가 필요한가

"AI 추론은 '빠른 망'이 아니라 '예측 가능한 망'을 원한다. 지연이 작은 것보다 지연이 일정한 것이 AI 에이전트 서비스의 품질을 결정한다." 이 시리즈는 지금까지 망을 어떻게 만드는가, 즉 인프라의 언어로 이야기해 왔습니다. 4월 OpenROADM, 5월 SRv6·RON, 6월 소버린 AI, 7월 자율화 거점, 8월 6G 설계 철학, 이 모든 논의가 궁극적으로 수렴하는 질문이 바로 이것입니다. 그 망 위에서 무엇이 달리는가. 2026년, AI 에이전트 서비스가 본격화되면서 네트워크에 완전히 새로운 요구사항이 생겼습니다. 챗봇이 아닙니다. 스스로 계획하고, 도구를 호출하고, 결과를 판단해 다음 행동을 결정하는 에이전틱 AI가 실시간으로 서비스되기 시작했습니다. 이 에이전트들이 달리려면 지금까지와는 다른 종류의 도로가 필요합니다. 그 도로를 누가 깔 것인가, 통신사의 가장 현실적인 기회이자 도전이 여기 있습니다. AI 추론 트래픽은 기존 데이터와 무엇이 다른가 AI 에이전트 서비스가 네트워크에 요구하는 것은 단순한 대역폭 확대가 아닙니다. 트래픽의 성격 자체가 다릅니다. 세 가지 핵심 차이가 있습니다. 첫째, 예측 가능한 지연과 지터입니다. 음성 AI 에이전트처럼 대화형 서비스는 응답이 약 500ms를 넘으면 지연감을 줄 수 있어, 클라이언트 기준 time-to-first-token(TTFT)을 중요한 SLO로 둡니다. 원격 제어·협력 제어와 같은 안전 중요 서비스는 지연과 지터가 안전성에 영향을 줄 수 있으므로, 안전 기능을 원격망 품질에만 의존하지 않고 로컬 폐루프·이중화와 함께 설계해야 합니다. 일반 인터넷 트래픽은 평균 지연만으로도 충분한 경우가 많지만, 실시간 AI 서비스는 워크로드별로 P99 등 꼬리 지연 목표를 관리해야 합니다. 둘째, 버스트성(Burstiness)입니다. AI 에이전트 서비스는 동시 요청이 순간적으로 폭증하는 특성을 가집니다. 중앙 집중식 추론 클러스터는 이 버스트 구간에서 처리 용량이 포화되고, 지연이 급격히 증가합니다. 컴캐스트와 엔비디아의 GTC 2026 벤치마크는 이를 명확히 보여줍니다. 버스트 트래픽 조건(P99)에서 단일 중앙 집중식 클러스터는 오히려 처리량이 감소한 반면, 4개 엣지 사이트에 분산된 AI 그리드는 42,362 토큰/초 처리량을 유지했습니다. 셋째, 멀티-티어 분산 처리입니다. 일부 에이전틱 AI 서비스는 단일 모델만으로 처리되지 않으며, 디바이스·엣지·코어의 서로 다른 모델과 도구가 협력할 수 있습니다. 디바이스에서 경량 추론, 엣지에서 도메인 특화 모델, 코어에서 대형 모델을 선택적으로 활용하는 구조입니다. 다만 일반적인 에이전트 서비스가 계층 간 마이크로초 단위 동기화를 요구하는 것은 아니며, 엄격한 시간 동기는 TSN 기반 산업 제어 등 특정 워크로드의 요구사항입니다. NPU 서버와 AI Grid — 추론 인프라의 새 지형 NPU 서버란 무엇인가 GPU가 병렬 연산에 폭넓게 활용되는 반면, NPU(Neural Processing Unit)는 신경망 연산에 특화된 가속기입니다. 일부 추론 워크로드에서는 NPU가 GPU보다 전력 효율이나 비용 측면에서 이점을 낼 수 있지만, 실제 성능은 모델 구조·정밀도·메모리 구성·배치 크기·소프트웨어 생태계에 따라 달라집니다. CPU가 시스템 운용·데이터 처리를 맡고 NPU 또는 GPU가 AI 연산을 가속하는 이종 컴퓨팅 구조가 일반적입니다. AI Grid — 분산 추론 인프라 엔비디아는 GTC 2026에서 AI 그리드 레퍼런스 아키텍처를 발표했습니다. 핵심은 지역 PoP, 중앙국, 메트로 허브와 엣지 거점에 가속 컴퓨팅을 배치해 지리적으로 분산된 AI 추론 플랫폼을 구성하는 것입니다. 약 10만 개라는 수치는 개별 텔코의 자산이 아니라 전 세계 통신사와 분산 클라우드 사업자가 운영하는 분산 네트워크 데이터센터의 합산 추정치입니다. 기지국은 모든 곳에 추론 서버를 두기보다, 전력·냉각·경제성을 검토해 선택적으로 활용할 수 있는 미래 배치점으로 보는 편이 정확합니다. 한 가지 구현 방식은 코어 AI 팩토리, 지역 엣지 노드, 그리고 선택적 AI-RAN 거점으로 역할을 나누는 것입니다. 코어에서는 대형 모델 학습·파인튜닝과 광역 서비스가, 지역 엣지에서는 지연·데이터 주권·대역폭 요구가 높은 추론이 수행될 수 있습니다. AI-RAN은 RAN과 AI 워크로드의 컴퓨팅 자원 공유를 검증하는 단계이며, 모든 기지국이 사용자 추론을 처리한다는 뜻은 아닙니다. 사용자와 데이터에 가까운 곳에서 처리하면 왕복 구간을 줄일 수 있지만, 종단간 지연은 무선·전송·큐잉·모델 처리 시간을 함께 고려해야 합니다. 통신사가 설계해야 할 네 가지 네트워크 요건 AI 그리드가 제 성능을 발휘하려면 그것을 연결하는 네트워크가 AI 추론 트래픽의 특성을 수용할 수 있어야 합니다. 4개의 구체적 요건이 있습니다. ① SRv6 기반 결정론적 경로 제어 일반 IP 망에서는 혼잡이나 장애에 따라 경로와 지연이 변동할 수 있습니다. SRv6의 SR Policy는 소스에서 명시 경로를 지정하는 기반이 되어, 지연 민감 트래픽의 경로 변동을 줄이는 데 활용할 수 있습니다. 다만 SRv6만으로 결정론적 레이턴시가 보장되지는 않습니다. 보장형 지연을 위해서는 용량 설계, 자원 예약, 입장 제어, 큐잉·스케줄링과 필요 시 DetNet·TSN 같은 메커니즘을 함께 적용해야 합니다. 따라서 SRv6 단일 패브릭은 AI Grid 연결의 유용한 기반이지만, 그 자체가 충분조건은 아닙니다. ② 5G 네트워크 슬라이싱...AI 추론 전용 슬라이스 AI 추론·일반 데이터·IoT 센서 데이터는 서로 다른 QoS 요건을 가질 수 있습니다. 5G 네트워크 슬라이싱은 하나의 물리 인프라 위에서 용도별 논리 네트워크와 정책을 구성하는 기능이며, 실제 보장 범위는 RAN·전송·코어·애플리케이션을 포함한 종단간 설계와 SLA에 좌우됩니다. 노키아와 AWS는 MWC 2026에서 AI가 네트워크 KPI와 상황 정보를 바탕으로 슬라이싱 정책을 조정하고, SMO를 통해 RAN 정책을 적용하는 인텐트 기반 사례를 발표했습니다. 이는 기업 AI가 표준 API로 슬라이스를 직접 협상한 상용 구조라기보다, 자동화된 정책 운영을 향한 실증 사례로 보는 것이 적절합니다. ③ 엣지 UPF 분산 배치 5G 코어의 UPF(User Plane Function)를 엣지 가까이 분산 배치하면 사용자 트래픽을 중앙 코어까지 보내지 않고 인접한 서비스 거점으로 분기할 수 있습니다. 다만 UPF가 AI 추론을 직접 수행하는 것은 아닙니다. UPF는 로컬 브레이크아웃을 제공하고, 인접한 MEC 또는 AI 서버가 추론을 수행하는 구조가 일반적입니다. 지연 개선 효과는 배치 위치·무선 구간·전송망·모델 처리 시간에 따라 달라지며, sub-15ms와 같은 목표는 특정 서비스와 측정 범위를 명시해 검증해야 합니다. ④ gNMI 기반 실시간 레이턴시 가시성 AI 그리드에서는 네트워크 지연·손실·혼잡뿐 아니라 추론 지연, 처리량, 큐 깊이, 가속기 사용률 같은 애플리케이션·플랫폼 지표를 함께 관측하고, 오케스트레이터가 이를 바탕으로 요청을 적절한 노드에 배치하는 구조가 필요합니다. gNMI 스트리밍 텔레메트리는 네트워크 장비 상태를 수집하는 유용한 인터페이스이지만, 추론 성능 관측이나 동적 라우팅 전체를 대신하지는 않습니다. 애플리케이션 관측성, 용량 관리, 정책·트래픽 제어와 결합해야 합니다. 아카마이는 요청을 적절한 컴퓨팅 계층에 매칭해 비용과 레이턴시를 함께 최적화하는 접근을 제시했습니다. 글로벌 Telco의 실제 구현 사례 컴캐스트 × 엔비디아...AI 그리드 레퍼런스 검증 (2026.03) 컴캐스트는 엔비디아와 함께 깊은 분산 네트워크 아키텍처를 AI 그리드로 활용하는 협업을 발표했습니다. 엔비디아가 공개한 벤치마크에서 퍼스널l AI의 음성 소형 언어 모델을 RTX PRO 6000 GPU 기반의 4개 사이트 AI Grid에 분산 배치했을 때, 상관된 버스트 트래픽에서도 음성 상호작용의 종단간 지연을 500ms 목표 안에서 유지했습니다. 같은 시험 조건에서 중앙집중형 구성과 비교한 토큰당 비용 절감은 버스트 시 76.1%였습니다. 이는 특정 모델·하드웨어·트래픽 조건의 결과이며 일반적 비용 절감률로 해석해서는 안 됩니다. SKT × Arm × 리벨리온...국산 NPU 기반 AI 추론 인프라 (2026.04) SKT는 Arm·리벨리온과 3자 협약을 통해 Arm AGI CPU와 리벨리온 RebelCard NPU를 결합한 AI 추론 서버를 공동 개발하고, 자사 AI 데이터센터에서 성능·안정성을 실증하기로 했습니다. A.X K1 모델의 운영도 검토 대상이며, 현 시점에서는 상용 도입 완료가 아니라 개발·검증 단계로 표현하는 것이 정확합니다. SKT는 별도의 GPU 기반 AI 인프라 협력도 추진하고 있어, 향후 NPU와 GPU를 워크로드별로 병행 활용할 가능성이 있습니다. AT&T × 시스코 × 엔비디아...제로-트러스트 AI 추론 아키텍처 (2026.03) AT&T와 시스코는 달라스 디스커버리 디스트릭트에서 엔비디아 GPU와 시스코의 파일럿 플랫폼을 활용한 공개안전 사용사례를 시연했습니다. 이 협력은 전용 IoT 코어, 로컬 트래픽 분기, 엣지 컴퓨팅과 제로-트러스트 보안을 결합해 실시간 AI를 네트워크 가까이 제공하려는 접근입니다. 다만 이는 상용 전면 배치라기보다 시연·파일럿과 산업 적용 확대 단계로 보는 것이 정확합니다. 인도삿 × 노키아 × 엔비디아...소버린 AI 그리드 (2026.06) Indosat Ooredoo Hutchison는 2026년 3월 MWC에서 노키아·엔비디아와 함께 동남아시아 최초의 AI-RAN 기반 레이어3 5G 통화를 실증했습니다. 노키아 에어스케일 무선 장비와 RAN 소프트웨어가 엔비디아 GPU 가속 인프라 위에서 동작하며, AI와 RAN 워크로드를 동일한 컴퓨팅 자원에서 동시에 처리할 수 있음을 기능적으로 검증한 사례입니다. 이후 인도네시아 현장 시험과 망 현대화는 추진 단계이므로, AI 그리드와 AI-RAN의 전국 상용 구현 완료로 단정하지 않는 것이 적절합니다. 한국 통신사의 실행 과제...지금 무엇을 결정해야 하는가 영국 리서치 컨설팅 회사인 Analysys Mason에 따르면 통신사의 GPUaaS 수익은 2024년 1억 달러 미만에서 2030년 96억 달러로 성장할 전망이며, 전 세계 약 30개 사업자가 이미 GPUaaS를 출시했습니다. 다만 맥킨지의 잠재 시장 규모와 Analysys Mason의 Telco 수익 전망은 대상 범위와 산정 방법이 달라 이를 단순 점유율로 비교하기에는 한계가 있습니다. 핵심 메시지는 기회가 존재하되, 통신사가 하이퍼스케일러·네오클라우드와 직접 규모 경쟁하기보다 데이터 주권, 연결성, 지역 엣지, 산업별 통합 서비스처럼 차별화 가능한 영역을 선택해야 한다는 점입니다. 국내 통신사의 현실적 준비 순서는 다음과 같습니다. 결론 : 망이 추론 인프라가 되는 시대, 도로를 먼저 깔아야 한다 AI 에이전트 서비스에는 단순히 빠른 망보다 워크로드별로 예측 가능한 종단간 성능, 관측성, 보안과 비용 효율이 중요합니다. 이 시리즈가 다룬 SRv6 단일 패브릭, OpenROADM 개방 광전송, TM Forum L4 자율화 거점은 이러한 AI 추론 인프라의 기반이 될 수 있습니다. 다만 각각은 충분조건이 아니라, 컴퓨팅·오케스트레이션·보안·운영 설계와 결합돼야 합니다. 엔비디아의 AI 그리드 레퍼런스 설계, SKT의 NPU 기반 추론 서버 개발, 인도삿의 소버린 AI와 AI-RAN 추진은 통신사가 분산 추론 인프라의 유력한 제공자가 될 수 있음을 보여 줍니다. 그러나 CDN·분산 클라우드·엔터프라이즈 엣지 사업자도 경쟁과 협력의 대상입니다. 통신사의 강점은 광범위한 접속망과 지역 거점, QoS·보안·운영 역량을 결합해 특정 산업과 지역에 차별화된 서비스를 제공하는 데 있습니다. "AI 에이전트 시대에 통신사의 역할은 단순한 전송 제공을 넘어, 연결성과 분산 컴퓨팅을 결합한 서비스 운영자로 확장될 수 있습니다. 다만 이 역할은 단독 소유권이 아니라 클라우드·CDN·장비·애플리케이션 사업자와의 생태계 경쟁 및 협력 속에서 형성될 것입니다." 도로가 없으면 어떤 차도 달릴 수 없습니다. AI 에이전트 서비스의 시대에 그 도로를 먼저 깔기 시작하는 통신사가, 다음 10년의 AI 인프라 패권을 가져갑니다.

2026.09.04 11:18최홍석 컬럼니스트

[유미's 픽] 젠슨 황 만난 LG·SKT·업스테이지…독자 AI 2차전 변수될까

젠슨 황 엔비디아 최고경영자(CEO)의 방한을 계기로 국내 독자 인공지능(AI) 파운데이션 모델 경쟁 구도에도 변화가 감지된다. LG AI연구원과 SK텔레콤이 엔비디아와 기술 협력 접점을 넓히고 업스테이지가 국내 대표 AI 스타트업으로 황 CEO와 만나면서 2차 평가를 앞둔 경쟁에 새 변수가 더해졌다는 분석이 나온다. 9일 업계에 따르면 정부의 독자 AI 파운데이션 모델 프로젝트에는 LG AI연구원, SK텔레콤, 업스테이지, 모티프테크놀로지스 등 4곳이 정예팀으로 참여하고 있다. 이들 기업은 오는 8월 2차 평가를 거쳐 1곳이 탈락하고, 내년 2월 최종 2곳이 선정되는 일정을 앞두고 있다. 1차 평가 이후 독자성 논란이 불거졌던 만큼 2차 평가에서는 모델 성능뿐 아니라 활용성, 기술 자립성, 산업 적용 가능성 등이 더 면밀히 다뤄질 가능성이 거론된다. 이 같은 상황에서 이번 엔비디아 협력은 LG AI연구원과 SK텔레콤에 비교적 직접적인 기회로 작용할 수 있을 것으로 예상된다. 두 회사 모두 엔비디아와의 협력 범위가 단순 회동을 넘어 모델 개발, 학습 인프라, AI 클라우드, 추론 최적화 등으로 연결돼 있어서다. 또 대규모 AI 모델 경쟁이 벤치마크 점수를 넘어 실제 서비스 구현 역량까지 따지는 방향으로 바뀌면서 글로벌 AI 인프라 기업과의 협력 가치도 커지고 있다. LG AI연구원은 자체 모델 엑사원(EXAONE) 고도화에 엔비디아 기술을 활용할 예정이다. LG와 엔비디아는 전날 서울 여의도 LG트윈타워에서 최고경영진 회의를 열고 피지컬 AI, AI 인프라, 모빌리티 등 차세대 AI 산업 협력 방안을 논의했다. 이 자리에서 엑사원 생태계 확장을 위한 기술 협력도 함께 다뤄졌다. LG AI연구원은 엑사원 성능 강화 과정에서 엔비디아의 최신 그래픽처리장치(GPU)인 블랙웰과 AI 개발 플랫폼 네모 프레임워크, 추론 성능 강화 소프트웨어 텐서RT-LLM을 활용할 계획이다. 또 AI 모델 데이터 학습 품질을 높이기 위해 엔비디아의 네모트론 오픈 데이터셋도 활용키로 했다. 이는 엑사원의 학습 효율과 추론 성능을 높이고 실제 산업 현장 적용 기반을 넓히려는 행보로 풀이된다. LG AI연구원은 1차 평가에서 K-엑사원을 앞세워 국내 모델 중 1위(90.2점)를 기록했다. 2차 평가에서는 모델 규모와 성능을 끌어올려 글로벌 최신 오픈웨이트 모델과 경쟁할 수 있는 수준을 목표로 하고 있다. 지식, 추론, 지시어 이행, 롱 컨텍스트뿐 아니라 에이전틱 툴 활용과 코딩 영역에서도 성능 개선을 추진 중이다. SK텔레콤은 엔비디아와의 협력을 모델 개발과 AI 인프라 사업 양쪽으로 연결하고 있다. 이곳은 독자 AI 파운데이션 모델 프로젝트에서 에이닷엑스 케이원(A.X K1)의 후속 모델인 에이닷엑스 케이투(A.X K2)를 개발하고 있다. 엔비디아와는 학습 데이터, 인프라, 프레임워크 전반에서 기술 협력을 이어가고 있다. SK그룹 차원의 협력도 SK텔레콤에 힘을 싣는 구조다. SK텔레콤은 엔비디아 DSX 플랫폼 기반 AI팩토리 구축과 운영을 맡는다. SK하이닉스는 엔비디아와 AI팩토리용 차세대 메모리를 공동 개발한다. SK텔레콤은 이를 기가와트급 인프라로 확장해 아시아 AI 클라우드 사업자로 도약하겠다는 구상을 제시했다. 3개 팀을 선별할 오는 8월 평가에서는 이 같은 인프라 구상이 A.X K2의 모델 경쟁력을 얼마나 보완할 수 있을지도 관심사다. 다만 AI 클라우드 사업 계획보다 모델 자체의 성능과 활용성이 별도로 검증될 가능성이 크다. 업스테이지는 LG AI연구원이나 SK텔레콤처럼 대규모 그룹 인프라를 갖춘 것은 아니지만, 지난 8일 오후 젠슨 황 CEO와 진행된 국내 AI 스타트업 간담회에 주요 기업으로 참석해 시장 주목도를 높였다. 다만 엔비디아와의 구체적인 기술 협력 발표가 나온 것은 아닌 만큼 독자 AI 파운데이션 모델 평가에서는 솔라 계열 모델의 실제 성능과 활용 사례가 더 중요한 판단 기준이 될 가능성이 크다. 모티프테크놀로지스는 이번 엔비디아 방한 흐름에서는 상대적으로 주목도가 낮지만, 독자 아키텍처를 앞세운 차별화 전략을 내세우고 있다. 뒤늦게 정예팀에 합류한 만큼 2차 평가까지 남은 기간 동안 성능 안정화와 기술 독자성을 얼마나 설득력 있게 보여줄지가 과제로 꼽힌다. 업계 관계자는 "엔비디아 협력이 평가 우위를 곧바로 보장하지는 않을 것"이라며 "정부 프로젝트가 지향하는 방향이 해외 AI 생태계와의 친밀도보다 국내 주도의 모델 개발 역량과 산업 활용 생태계 구축에 있기 때문"이라고 봤다. 그러면서 "각 기업이 자체 모델의 성능과 활용 사례, 기술 독자성을 얼마나 설득력 있게 보여주느냐가 더 중요하게 작용할 것"이라고 덧붙였다.

2026.06.09 10:31장유미 기자

대기업들 엔비디아와 밀착 행보…조준희 회장 "국산 AI·SW 생태계도 함께 키워야"

젠슨 황 엔비디아 최고경영자(CEO) 방한을 계기로 국내 주요 그룹들이 엔비디아와 인공지능(AI) 협력 확대에 속도를 내는 가운데 국내 AI·소프트웨어(SW) 업계에서 공개적인 경고음이 나왔다. 그래픽처리장치(GPU)를 장악한 엔비디아가 피지컬 AI 핵심 영역인 로보틱스 파운데이션 모델과 월드모델까지 영향력을 넓히는 상황을 방치해선 안 된다고 봐서다. 9일 업계에 따르면 조준희 한국인공지능소프트웨어산업협회(KOSA) 회장은 전날 자신의 페이스북에 최근 젠슨 황 CEO 방한을 둘러싼 국내 AI 산업 흐름에 대한 입장을 밝혔다. 조 회장은 "산업회장으로서 작금의 이벤트에 꼭 짚고 싶은 말씀을 드리고 싶다"며 "GPU의 지배 사업자에 의해 피지컬 AI의 핵심인 로보틱스 파운데이션 모델, 월드모델까지의 종속은 반드시 막아야 된다"고 강조했다. 이어 "고대역폭메모리(HBM) 구매를 무기로 GPU 사업자에게 억지춘향이 되지 말아야 한다"며 "역설로 HBM 독점 사업자 중심으로 판을 바꿔야 된다"고 덧붙였다. 이 같은 발언은 황 CEO 방한 기간 동안 국내 주요 대기업들이 엔비디아와 협력 확대에 잇따라 나선 가운데 나왔다는 점에서 주목받고 있다. 황 CEO는 지난 5일부터 3박 4일간 SK, 현대차, LG, 네이버, 삼성전자 등 국내 주요 기업과 만나 반도체, 로봇, 데이터센터, AI팩토리 등 분야에서 협력 방안을 논의했다. 이번 방한에선 국내 주요 그룹 총수와 최고경영진이 직접 황 CEO를 맞이하는 장면도 이어졌다. 특히 최태원 SK그룹 회장, 정의선 현대차그룹 회장, 구광모 LG그룹 회장, 네이버 경영진, 삼성전자 반도체 경영진 등은 황 CEO와 회동하며 AI 협력 의지를 드러냈다. 국내 대표 기업들이 AI 전략의 핵심 파트너로 엔비디아를 전면에 세운 것이다. 업계에선 이 같은 흐름이 한국 AI 산업의 엔비디아 의존도를 높일 수 있다고 봤다. 또 엔비디아와의 협력은 글로벌 AI 생태계 진입을 위한 주요 통로로 꼽히지만, 국내 주요 기업들이 일제히 엔비디아와 접점을 넓히는 과정에서 AI 산업 주도권이 해외 플랫폼 기업 중심으로 기울 것으로 우려했다. 엔비디아의 최근 움직임도 심상치 않다. 엔비디아는 GPU 시장 지배력을 기반으로 로봇, 자율주행, 스마트팩토리 등 피지컬 AI 영역까지 보폭을 넓히고 있다. 피지컬 AI는 현실 세계의 물리 환경을 인식하고 예측하는 기술이 핵심으로, 로보틱스 파운데이션 모델과 월드모델이 차세대 산업용 AI 플랫폼의 기반으로 꼽힌다. 이에 GPU뿐 아니라 AI 모델, 개발도구, 시뮬레이션, 데이터 파이프라인까지 엔비디아 생태계에 묶일 경우 국내 기업의 기술 선택권과 협상력은 약화될 수 있을 것이란 분석도 제기됐다. AI 인프라 구축 과정에서 엔비디아와 협력하더라도 핵심 모델과 SW 영역까지 특정 사업자 중심으로 굳어지면 국내 AI·SW 기업의 성장 공간이 줄어들 수 있다고 봐서다. 하드웨어 비용 상승이 국내 SW 기업에 부담으로 전가되고 있다는 점도 업계 불만을 키우고 있다. 실제 HBM, GPU, AI 서버 등 AI 인프라 비용이 빠르게 오르는 반면, 기업과 공공 고객의 IT 예산은 제한적인 상황이다. 이 때문에 늘어난 장비 비용을 맞추기 위해 SW 개발비, 라이선스비, 유지보수비가 줄어드는 사례가 점차 증가하는 추세다. 이 같은 분위기 탓에 국내 SW 업계는 대기업의 엔비디아 협력 확대가 국내 생태계 강화로 이어져야 한다고 주장했다. 삼성전자와 SK하이닉스가 HBM을 앞세워 엔비디아 공급망의 핵심 축으로 부상한 만큼, 이를 단순 부품 공급 관계에 그치게 해서는 안 된다고 봤다. 업계 관계자는 "국내 기업들이 HBM과 제조 역량을 앞세워 엔비디아 공급망의 핵심 파트너로 올라선 상황"이라며 "앞으로는 GPU 구매와 플랫폼 활용에 끌려가는 방식이 아니라 국내 AI·SW 기업까지 포함한 협력 구조를 만들어야 한다"고 강조했다. 또 업계에선 대기업의 AI 투자가 하드웨어 확보 경쟁에 집중될수록 국내 SW 기업의 설 자리가 줄어들 수 있다고 주장했다. HBM, GPU, AI 서버 가격 상승으로 전체 IT 투자비 중 장비 비용 비중이 커지는 상황에서 고객사들이 총 예산을 늘리지 않으면 SW 개발비와 라이선스비가 먼저 조정 대상이 될 수밖에 없다는 이유에서다. 업계 관계자는 "대기업이 엔비디아와 협력을 확대하는 과정에서 국산 AI·SW 생태계를 함께 키우는 역할도 맡아야 한다"며 "글로벌 AI 인프라 기업과의 협력은 필요하지만, 국내 기업들이 엔비디아 생태계 편입을 경쟁하는 모습만 반복될 경우 한국 AI 산업의 협상력과 자생력이 함께 약화될 수 있다"고 밝혔다. 또 다른 관계자는 "엔비디아와 협력하는 것은 필요하지만 대기업 총수들까지 나서 엔비디아 생태계 편입을 경쟁하는 듯한 모습은 국내 AI 산업의 주도권을 약화시킬 수 있다"며 "AI 3강을 말하려면 GPU 확보뿐 아니라 국내 모델, SW, 서비스 기업이 함께 수익을 낼 수 있는 구조부터 만들어야 한다"고 말했다.

2026.06.09 08:36장유미 기자

젠슨 황·최태원, 서울 강남 '깐부회동' 식당 도착

젠슨 황 엔비디아 최고경영자(CEO)와 최태원 SK그룹 회장이 서울 강남 깐부치킨 삼성점에 차례로 도착했다. 이곳은 지난해 10월 황 CEO가 이재용 삼성전자 회장, 정의선 현대차그룹 회장과 '깐부회동'을 했던 장소다. 황 CEO는 가죽 재킷 대신 93번 두산베어스 유니폼 차림으로 회동 장소에 먼저 도착했다. 황 CEO는 기다리고 있던 손님들과 셀카를 찍고 아이들 스케치북에 사인을 해줬다. 곧 도착한 최태원 회장은 자리에 먼저 앉은 황 CEO와 하이파이브 후 생맥주를 함께 마셨다. 맥주는 '켈리', 소주는 '진로' 등이 준비됐다. 이날 회동에는 황 CEO와 부인 로리 황, 딸 매디슨 황, 그리고 최 회장과 곽노정 SK하이닉스 사장, 정재현 SK텔레콤 사장 등이 참석했다. 이번 회동에선 엔비디아와 SK그룹의 인공지능(AI) 반도체, AI 인프라 협력을 논의할 수 있다. SK하이닉스는 엔비디아 AI 가속기용 고대역폭메모리(HBM) 주요 공급업체다. 엔비디아가 이동통신 기지국에 GPU 컴퓨팅을 입히는 AI-RAN을 구상하고 있는 터라 SK텔레콤과 만남을 가진 점이 눈길을 끈다. SK텔레콤은 또 AI 데이터센터와 같은 AI 인프라 사업을 적극 전개하고 있어 엔비디아와 본격적인 협력 관계를 이어갈 것으로 보인다. 황 CEO와 최 회장 만남은 이번 방한 기간 중 두 번째다. 황 CEO는 방한 첫날인 지난 5일 서울 홍대 인근 고깃집에서 최 회장과 구광모 LG그룹 회장, 이해진 네이버 의장 등과 삼겹살·소맥 회동을 했다.

2026.06.07 19:10전화평 기자

[현장] "벤치마크보다 중요한 건 실전"… AI 리더가 짚은 국내 AI 생태계 과제

"벤치마크 점수가 높다고 고객이 만족하는 것은 아닙니다. 실제 기업 환경에서 실질적인 성능을 내는 것이 진짜 성과입니다." 21일 서울 마포 디캠프에서 열린 '엔비디아 네모트론 개발자 데이 서울 2026'에서 진행된 기술 패널 토론에는 한국 인공지능(AI) 생태계를 이끄는 주요 리더가 참석해 치열하고 솔직한 현장 경험담을 제시했다. 이날 토론은 정규형 엔비디아 솔루션아키텍트(SA) 팀장이 좌장을 맡았고 천성준 SKT AI리서치 엔지니어, 최홍준 업스테이지 부사장, 임정환 모티프 대표, 김수인 엘리스그룹 최고연구책임자(CRO)가 참석해 'K-AI 빌더들의 연결과 글로벌 진출'을 주제로 논의를 이어갔다. "점수보단 실전"… 글로벌 수준 도달한 K-AI, 이제는 추론 효율이 과제 패널들은 공통적으로 국내 기업들이 자체 AI 모델을 개발하는 단계를 넘어, 이를 실제 서비스에 올릴 수 있는 수준으로 고도화하는 것이 중요하다고 입을 모았다. 천성준 SK텔레콤 AI리서치 엔지니어는 "한국 기업도 글로벌 프런티어 모델에 근접한 성능을 낼 수 있다는 점은 이미 입증했다"며 "이제 과제는 추론 효율성과 배포 가능성을 높여 '쓸 만한 모델'을 넘어 '실제로 쓸 수 있는 모델'을 만드는 것"이라고 말했다. 임정환 모티프 대표는 단순한 매개변수 규모 경쟁을 경계했다. 그는 "비슷한 규모의 모델과 경쟁하는 것이 아니라 2~3배 큰 모델과 비견되거나 더 나은 성능을 내는 것이 진짜 기술력의 증거"라며 "현재 3000억개 매개변수(300B) 규모 모델을 비롯해 음성·비디오 생성까지 포함한 다양한 생성형 모델을 개발 중이고 장기적으로는 월드 모델 등으로 확장할 계획"이라고 밝혔다. "데이터 반출 장벽 넘어야"…엣지 환경과 엔드투엔드 인프라 부상 김수인 엘리스그룹 CRO는 산업 현장 도입의 가장 큰 장벽으로 데이터 거버넌스를 지목했다. 김 CRO는 "세계 최고 수준의 모델을 만들어도 실제 현장에 적용하려고 하면 데이터 반출 불가 등 수많은 병목 현상에 부딪힌다"며 "결국 칩, 인프라, 데이터, 모델, 애플리케이션까지 전 레이어를 아우르는 엔드투엔드 전략이 필요하다"고 설명했다. 그는 또 현장 수요가 엣지와 온프레미스 환경으로 확장되고 있다고 진단했다. 고객 데이터가 외부로 나갈 수 없는 경우가 많은 만큼, 실제 서비스 환경에서는 모델 성능뿐 아니라 배포 방식과 운영 구조까지 함께 설계해야 한다는 설명이다. 주최 측인 엔비디아의 소프트웨어 생태계에 대한 개선점도 제기됐다. 천성준 엔지니어는 네모 큐레이터, 메가트론LM 등을 유용하게 활용하고 있다고 언급하면서도 "새로운 알고리즘이 엔비디아의 고속 학습 프레임워크에 반영되는 속도는 지금보다 훨씬 더 빨라질 필요가 있다"고 짚었다. 임정환 대표는 한발 더 나아가 기술적 종속성을 경계했다. 그는 "모델 아키텍처 실험의 자유도가 무엇보다 중요하기 때문에 현재 엔비디아 소프트웨어는 잘 사용하지 않는다"며 "엔비디아가 제공하는 거대한 패키지 틀 안에 갇히게 되면 독자적인 혁신에 한계가 생길 수밖에 없다"고 지적하며 유연한 개발 환경의 필요성을 언급했다. 좌장을 맡은 정규형 팀장은 "현장의 따끔하고 생생한 피드백에 깊이 감사드린다"며 "개발자들이 더 효율적이고 자유롭게 사용할 수 있도록 한국 AI 기업들의 다양한 요구를 본사에 적극 전달해 프레임워크의 유연성을 개선하겠다"고 화답했다. 독자 파운데이션 모델과 소버린 AI… 글로벌 확장 가능성 주목 패널들은 정부가 추진 중인 독자 파운데이션 모델 사업에도 의미를 부여했다. 최홍준 부사장은 "글로벌 수준의 오픈 모델이 국내에 구축되면 민간이 이를 바탕으로 다양한 서비스를 만들 수 있고, 그 혜택이 산업 전반으로 확산될 수 있다"고 말했다. 이어 "동남아 등 많은 국가들은 언어, 문화, 규제 맥락이 달라 각국에 맞는 소버린 AI를 원하고 있다"며 "한국에서의 모델 구축과 인프라 운영 경험은 해외 진출의 자산이 될 수 있다"고 덧붙였다. 이날 토론은 AI 경쟁의 승부처가 더 큰 모델, 더 높은 벤치마크 점수에서 실제 배포와 운영, 데이터 주권, 산업 적용으로 이동하고 있음을 보여줬다. 이번 패널 토론은 독자 파운데이션 모델 프로젝트를 추진 중인 정보통신산업진흥원(NIPA)과 엔비디아가 협력해 마련한 자리다. NIPA는 자사가 보유한 국내 개발자·기업 네트워크를 바탕으로 이번 행사와 국내 AI 생태계를 연결하는 역할을 했다는 설명이다. 박진홍 NIPA 글로벌협력팀장은 "국내 기업에 실질적으로 도움이 될 만한 것이 무엇인지 계속 찾아보면서 함께 하려 한다"며 "구체적으로 어떤 사업을 추가로 추진할지, 어떤 프로그램을 만들지는 아직 확정되지 않았고 향후 더 논의가 필요하다"고 말했다.

2026.04.21 18:22남혁우 기자