검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'추론'통합검색 결과 입니다. (120건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

에이전틱 AI가 바꿀 2027년…AI·클라우드 산업 성장 방향은

인공지능(AI)이 스스로 업무를 수행하는 에이전틱 AI로 진화하면서 클라우드 산업의 경쟁력도 변화하고 있다. AI 기술 개발과 인프라 확보를 넘어 실제 서비스에 기술을 적용하고 운영 효율을 높이는 역량이 중요해지는 가운데 국내 AI·클라우드 산업계가 새로운 성장 기회를 모색하기 위해 한자리에 모였다. 한국인공지능클라우드산업협회(KACI)는 서울 양재 엘타워에서 '제10회 AI-클라우드 리더스포럼'을 개최하고 에이전틱 AI 확산에 따른 산업 변화와 기업 대응 전략을 논의했다고 11일 밝혔다. 'AI-클라우드 2027 : 넥스트 웨이브'를 주제로 열린 이번 포럼은 AI와 서비스형 소프트웨어(SaaS)의 융합, 차세대 컴퓨팅 인프라 수요 등 2027년 AI·클라우드 산업 주요 변화를 살펴보고 새로운 사업 기회를 모색하기 위해 마련됐다. 행사에는 김봉균 한국인공지능클라우드산업협회장 겸 KT클라우드 대표를 비롯해 네이버클라우드, 카카오엔터프라이즈, 한컴, 이노그리드, 삼성SDS, 클러쉬 등 주요 기업 대표와 임원이 참석했다. 한국지능정보사회진흥원(NIA)과 한국전자통신연구원(ETRI) 등 유관기관 관계자도 함께했다. 이번 포럼에서는 AI 기술과 클라우드 인프라 투자가 실제 산업 혁신과 비즈니스 성과로 이어지기 위한 방안을 집중적으로 논의했다. 특히 AI 에이전트 확산에 따른 서비스 개발 방식 변화와 안정적인 AI 운영을 뒷받침할 추론 인프라의 중요성이 주요 의제로 다뤄졌다. 첫 번째 발표에 나선 김은주 NIA 본부장은 '에이전틱 AI 시대, 방향과 전략'을 주제로 AI 에이전트가 디지털 비즈니스 환경에 미칠 변화와 AI·SaaS 융합 전략을 소개했다. 김 본부장은 업무 특성에 따라 AI와 SaaS를 적절히 결합해야 한다고 설명했다. 정확한 계산이나 정해진 규칙에 따른 처리가 필요한 업무에는 SaaS를 활용하고 비정형 정보 분석과 맥락 이해가 필요한 업무에는 AI를 적용하는 방식이다. 특히 AI 에이전트가 두 기술을 연결하고 업무 흐름을 조율하는 구조를 제시했다. 이를 위한 주요 과제로는 에이전트를 등록·검색·활용할 수 있는 '에이전트 마켓플레이스', 여행·결제 등 생활 속에서 활용하는 '대표 체감형 에이전트 서비스', 테스트베드 기반 '에이전트 안전·신뢰 환경' 조성 등을 소개했다. 이어 정영범 퓨리오사AI 상무는 '퓨리오사 RNGD를 통한 AI 인프라 재정의'를 주제로 AI 추론 수요 증가에 대응하기 위한 인프라 혁신 방향을 발표했다. 정 상무는 AI 서비스 확산으로 연산 자원 수요가 늘면서 전력 효율과 추론 성능이 중요해지고 있다고 설명했다. 특히 퓨리오사AI의 AI 반도체 '레니게이드(RNGD)' 설계와 대규모언어모델(LLM) 서비스 적용 사례를 중심으로 제한된 전력 환경에서 AI 처리 효율을 높이는 기술을 소개했다. 또 기존 AI 소프트웨어와 클라우드 운영 환경의 호환성을 바탕으로 다양한 연산 자원을 활용할 가능성도 제시했다. AI 추론에 특화된 반도체와 소프트웨어 기술을 결합해 서비스 구축과 운영 효율을 높이는 방향이다. 참석자들은 발표 이후 마련된 네트워킹을 통해 AI·클라우드 산업 주요 현안과 협력 방안을 논의했다. 협회는 앞으로도 산업계 주요 기업과 유관기관이 정책·기술·시장 변화를 공유하고 협력할 수 있는 교류 기회를 확대할 방침이다. 김봉균 한국인공지능클라우드산업협회장은 "이제 AI 산업 경쟁은 단순히 기술을 개발하거나 인프라를 확보하는 것을 넘어 그 기술을 얼마나 효과적으로 연결하고 활용해 실질적인 산업 혁신과 비즈니스 가치로 만들어 내느냐에 달려 있다"고 강조했다. 이어 "우리 산업계 역시 변화의 흐름을 읽는 데 그치지 않고 새로운 기술과 시장을 선도하기 위한 차별화된 경쟁력과 협력 기반을 갖춰 나가야 할 것"이라며 AI 기술과 데이터, 인프라와 서비스를 연결하는 클라우드의 전략적 역할과 산업계 협력 중요성을 역설했다. 함재춘 한국인공지능클라우드산업협회 사무국장은 "AI-클라우드 리더스포럼은 산업계 주요 리더들이 정책과 기술·시장 변화를 공유하고 새로운 협력 기회를 모색하는 자리"라며 "앞으로도 산업계가 주목해야 할 핵심 이슈를 중심으로 기업과 유관기관 간 교류를 확대하고 국내 AI·클라우드 산업의 경쟁력 강화에 기여하겠다"고 밝혔다.

2026.11.11 14:33한정호 기자

엔비디아 "AI 에이전트, 차세대 컴퓨팅 플랫폼으로 진화"

엔비디아가 인공지능(AI) 에이전트를 차세대 컴퓨팅 플랫폼으로 육성하고 기업용 AI 시장 공략에 속도를 낸다. AI 모델을 업무에 맞게 선택하고 운영 비용을 줄이는 기술을 앞세워 기업 AI 도입 장벽을 낮추는 가운데 네이버클라우드·SK텔레콤 등 국내 기업과 협력도 확대한다는 목표다. 조나단 코헨 엔비디아 응용연구 부문 부사장은 9일 서울 코엑스에서 열린 'AI 데이 서울 2026'에서 "에이전틱 AI는 새로운 컴퓨팅 플랫폼으로 볼 수 있다"며 "과거 대규모언어모델(LLM)이 사용자 질문에 답하는 방식이었다면 이제 AI 시스템은 다양한 업무를 직접 수행하는 방향으로 발전하고 있다"고 말했다. 코헨 부사장은 AI 에이전트가 기존 LLM과 소프트웨어 기술을 결합해 기업 업무를 수행하는 핵심 수단이 될 것으로 전망했다. AI 에이전트는 사용자 요청을 분석한 뒤 적합한 모델과 도구를 선택하고 기업 내부 데이터까지 활용해 복잡한 작업을 처리하는 구조다. 소프트웨어 개발부터 시스템 오류 분석, 제조 현장 문제 해결까지 활용 범위가 확대되고 있다는 설명이다. 그는 "LLM은 강력하고 유연하지만 결과를 예측하기 어렵고 연산 비용도 많이 든다"며 "AI 에이전트는 언어모델 지능과 기존 컴퓨터 과학 효율성을 결합해 이러한 한계를 보완할 수 있다"고 밝혔다. 이를 위해 엔비디아는 AI 모델 선택부터 추론·학습·보안까지 지원하는 통합 기술 체계를 구축하고 있다. 핵심 기술로는 '스위치야드'를 꼽았다. 이는 작업 난도와 비용에 따라 적합한 AI 모델을 선택하도록 돕는다. 엔비디아 내부 평가에서는 작업 성공률 80%를 유지하면서 고성능 모델만 활용할 때보다 비용을 약 3분의 1 수준으로 줄인 것으로 나타났다. AI 모델 성능과 효율 개선도 강조했다. 엔비디아 최신 모델인 '네모트론 3.5 슈퍼 VL'은 기존 모델과 비슷하거나 높은 추론 성능을 유지하면서 처리 속도를 약 5배 높였다. 엔비디아는 차세대 '네모트론 4' 개발도 추진하며 오픈 모델 생태계 확대에 나설 계획이다. 코헨 부사장은 "실제 기업 환경에서는 제한된 시간과 비용 안에서 얼마나 좋은 결과를 얻느냐가 중요하다"며 "모델 처리 속도가 빨라지면 같은 시간에 더 많은 추론을 수행할 수 있어 결과 품질도 높일 수 있다"고 설명했다. 기업 AI 운영을 위한 기술로는 'NIM'과 '다이나모'를 제시했다. NIM은 AI 모델을 효율적으로 배포하고 실행하도록 지원하는 추론 마이크로서비스이며 다이나모는 데이터센터 규모에서 여러 AI 모델의 추론 요청을 관리하고 자원 활용을 최적화하는 오픈소스 엔진이다. AI 에이전트가 기업 의도와 다르게 작동하는 문제를 막기 위한 보안 기술 '오픈셸'도 소개했다. 국내 기업과 협력 사례도 공개했다. 대표적으로 네이버클라우드는 엔비디아 '네모트론 연합'에 참여해 AI 모델 사전·사후 학습 데이터와 강화학습 환경 등을 공유하고 있다. 엔비디아 기술을 기반으로 한국어와 국내 산업 환경에 특화된 자체 AI 모델도 개발 중이다. 코헨 부사장은 "네이버클라우드는 네모트론 기술과 소프트웨어, 데이터셋을 활용하면서 한국 고유 데이터와 기업 데이터를 결합하고 있다"며 "이를 통해 한국 언어와 문화, 산업 환경에 더욱 적합한 AI 모델을 개발할 것"이라고 말했다. SK텔레콤과 LG AI연구원, 업스테이지도 주요 협력 사례로 언급됐다. 이들 기업은 엔비디아 네모트론 기술과 데이터셋을 활용해 한국 환경에 특화된 AI 모델을 개발 중이다. 엔비디아는 한국 기업이 자체 데이터를 활용해 AI 모델을 개발하고 이를 AI 데이터센터와 기업 서비스에 적용할 수 있도록 기술 협력을 이어갈 방침이다. 코헨 부사장은 "한국 AI 생태계는 엔비디아 플랫폼을 기반으로 국내외 기업에 필요한 다양한 애플리케이션을 개발하고 있다"며 "앞으로 차세대 AI 서비스와 소프트웨어가 구축되는 과정에서 한국 기업과 협력해 AI 경제 발전에 기여하겠다"고 강조했다.

2026.11.09 12:25한정호 기자

[AI는 지금] "경쟁사 AI도 돈 된다"…코히어, 딥시크·오픈AI 품은 속내는

기업용 인공지능(AI) 모델 개발사 코히어가 딥시크와 오픈AI 등 경쟁사 모델까지 자사 플랫폼에 수용하며 AI 추론 시장 공략에 나섰다. 자체 모델 공급에 집중하던 사업 구조를 다변화해 기업 고객을 확대하고 추론 인프라 운영을 새로운 수익원으로 확보하려는 전략으로 풀이된다. 5일 업계에 따르면 코히어는 지난 4일 공식 블로그를 통해 기업용 AI 추론 플랫폼 '모델 볼트(Model Vault)'에서 외부 개발사의 오픈 모델을 지원한다고 발표했다. 이를 통해 기업들이 여러 AI 모델을 업무에 맞게 선택하면서도 별도 인프라 구축 없이 안전하게 운영할 수 있도록 지원한다는 구상이다. 이번에 추가된 모델에는 중국 딥시크의 'V4.1 플래시', Z.ai(지푸AI)의 'GLM 5.3 플래시', 샤오미의 '미모 V2.6 프로' 등이 포함됐다. 여기에 구글 '젬마4', 오픈AI 'GPT-OSS', 마이크로소프트(MS) '파이', 엔비디아 '네모트론' 등도 지원한다. 코히어는 기존 자체 모델인 '커맨드(Command)', '임베드(Embed)', '리랭크(Rerank)'와 함께 외부 모델을 하나의 플랫폼에서 제공한다. 기업은 업무 특성과 비용, 성능 요구사항에 따라 모델을 선택하고 코히어가 관리하는 인프라에서 실행할 수 있다. 코히어가 경쟁사 모델까지 수용한 것은 기업용 AI 시장에서 멀티모델 활용이 확대되는 흐름에 대응하기 위한 것으로 풀이된다. 기업들이 복잡한 추론에는 고성능 모델을, 문서 분류나 요약 등에는 상대적으로 저렴한 모델을 활용하면서 특정 공급업체의 모델만으로 다양한 수요를 충족하기 어려워지고 있어서다. 이번 전략으로 코히어는 자체 모델을 사용하지 않는 기업까지 잠재 고객으로 확보할 수 있게 됐다. 모델 성능 경쟁과 별개로 다양한 AI를 실행하는 추론 인프라를 제공해 고객 기반을 넓히려는 것이다. 수익 구조에도 변화가 예상된다. 코히어는 모델 볼트 이용료를 그래픽처리장치(GPU) 유형과 사용 시간에 따라 책정하고 예약 용량에 대해서는 월간·연간 약정 계약을 제공한다. 고객이 외부 모델을 사용하더라도 코히어의 추론 인프라를 이용하면 매출이 발생하는 구조다. 다만 GPU 운영 비용과 가동률에 따라 수익성이 달라지는 만큼 고객 확보가 실제 이익 증가로 이어질지는 지켜봐야 한다. 또 아마존웹서비스(AWS), MS 애저, 구글 클라우드 등 이미 다양한 AI 모델을 제공하는 클라우드 사업자들과의 경쟁도 불가피할 전망이다. 이에 코히어는 데이터 주권과 보안을 차별화 요소로 내세웠다. 모델 볼트는 기업별로 분리된 전용 인프라를 제공하며 고객이 지원 지역 가운데 데이터 처리 위치를 선택할 수 있도록 했다. AI에 입력한 프롬프트와 출력 결과를 기본적으로 저장하지 않는 정책도 적용했다. 보안 요구 수준이 높은 기업을 위해서는 기밀 컴퓨팅 기반의 '모델 볼트 인크립티드(Model Vault Encrypted)'를 제공한다. 데이터 저장과 전송뿐 아니라 AI 모델이 정보를 처리하는 과정까지 보호하는 방식으로, 코히어뿐 아니라 클라우드 사업자도 고객의 입력·출력 내용을 확인할 수 없도록 했다. 그러나 암호화 환경에서 사용할 수 있는 모델은 제한적이다. 구글 젬마와 오픈AI GPT-OSS, MS 파이 등은 지원하지만, 딥시크와 엔비디아 네모트론 등은 일반 모델 볼트에서만 이용할 수 있다. 서비스 제공 지역도 일반 모델 볼트는 미국·유럽연합(EU)·캐나다, 암호화 서비스는 미국으로 제한돼 있다. 이번 발표로 AI 모델 개발사와 클라우드 사업자 간 경쟁 영역도 더욱 넓어질 것으로 예상된다. 기업들이 여러 AI 모델을 도입할수록 모델 자체의 성능뿐 아니라 추론 비용과 데이터 통제, 운영 효율을 통합 관리하는 플랫폼의 중요성이 커질 수 있어서다. 국내 AI·클라우드 업계에도 유사한 사업 기회가 열릴 수 있다. 네이버클라우드와 NHN클라우드 등 인프라 사업자는 다양한 모델을 지원하는 추론 서비스로 고객 선택권을 넓힐 수 있을 것으로 보인다. 삼성SDS, LG CNS 등 IT서비스 기업은 고객별 보안 요건과 업무 특성에 맞춘 멀티모델 운영 사업을 확대할 여지가 있다. 이를 통해 코히어는 금융·의료·공공 등 민감한 데이터를 다루는 산업을 주요 고객층으로 겨냥한다는 방침이다. 또 기업이 원하는 모델을 선택하면서 데이터 통제권을 유지할 수 있도록 지원해 기존 AI 서비스 도입에 부담을 느꼈던 고객까지 확보한다는 구상이다. 코히어는 "AI 주권은 고객이 단일 공급업체에 통제권을 넘기지 않고 자신의 요구에 적합한 모델을 선택하고 검토하며 배포할 수 있다는 의미"라며 "전 세계 주요 오픈 모델을 모델 볼트에 추가해 고객이 보안과 개인정보 보호 기준을 유지하면서 업무에 적합한 AI 모델을 활용할 수 있도록 했다"고 밝혔다.

2026.11.05 13:41장유미 기자

"CDN 넘어 AI 클라우드로"…아카마이, 추론·에이전트 시장 공략 본격화

콘텐츠전송네트워크(CDN)와 보안 사업을 주력으로 성장해 온 아카마이가 인공지능(AI) 클라우드 시장 공략에 속도를 낸다. AI 모델 학습보다 실제 서비스 운영에 필요한 추론과 에이전트 실행 수요가 커질 것으로 보고 기존 글로벌 엣지 네트워크에 그래픽처리장치(GPU) 인프라와 보안 기술을 결합해 새로운 성장동력 확보에 나선 것이다. 아카마이는 29일 AI 추론 서비스 '아카마이 인퍼런스(Akamai Inference)'와 AI 에이전트 실행 환경 '아카마이 에이전트 샌드박스(Akamai Agent Sandbox)'를 공개했다. 두 서비스 모두 현재 베타 버전으로 제공되며 기업이 AI 모델을 운영하고 에이전트를 안전하게 실행할 수 있도록 지원한다. 아카마이는 이번 신제품 출시를 계기로 기존 클라우드 인프라 공급을 넘어 AI 플랫폼 사업으로 영역을 넓히고 있다. 기업들의 AI 도입이 실험 단계를 지나 실제 업무 적용으로 확대되면서, 모델을 안정적으로 운영하고 에이전트의 접근 권한을 통제하는 기술을 새로운 사업 기회로 보고 있다. 아카마이가 앞세운 차별점은 전 세계 4350개 이상의 엣지 거점이다. 기존 클라우드 사업자들이 대규모 데이터센터를 중심으로 AI 인프라를 제공하는 것과 달리 사용자와 가까운 곳에서 AI 요청을 처리해 응답 지연을 줄이겠다는 전략이다. 이를 통해 실시간 응답이 중요한 AI 애플리케이션과 에이전트 서비스 수요를 확보할 계획이다. 이를 위해 선보인 아카마이 인퍼런스는 기업이 자체 모델이나 오픈웨이트 모델을 별도 인프라 관리 부담 없이 활용할 수 있도록 지원한다. 오픈AI 호환 응용프로그램인터페이스(API)를 제공해 기존 애플리케이션을 대규모로 수정하지 않고도 AI 모델을 연결할 수 있다. 기업은 사용량에 따라 비용을 지불하는 서버리스 방식과 전용 인프라를 활용하는 배포 방식 중 선택할 수 있다. 엔비디아 네모트론 3 울트라, 오픈AI GPT-OSS-120B, 구글 젬마 4 등 12종의 오픈웨이트 모델을 지원하며 데이터베이스와 스토리지를 연계한 검색증강생성(RAG) 서비스 구축도 가능하다. AI 에이전트 시장에선 아카마이 에이전트 샌드박스로 기존 보안 사업과의 시너지를 노린다. 아카마이 에이전트 샌드박스는 AI 에이전트가 생성한 코드를 별도의 격리된 환경에서 실행하도록 설계됐다. 웹어셈블리 기반 기술을 활용해 에이전트가 사용할 수 있는 컴퓨팅 자원과 외부 시스템 접근 범위를 제한하는 방식이다. 이는 AI 에이전트가 기업 업무에 본격적으로 도입되면서 커지는 보안 수요를 겨냥한 것으로 풀이된다. 에이전트가 기업 내부 데이터에 접근하고 코드를 직접 실행하는 과정에서 정보 유출이나 비인가 작업이 발생할 수 있는 만큼 실행 환경 자체를 보호하는 기술의 중요성이 높아지고 있기 때문이다. 아카마이는 향후 에이전트의 접근 대상과 외부 접근 권한을 관리하는 기능도 추가할 예정이다. 기존 웹·API 보안 역량을 AI 에이전트 영역까지 확대해 인프라와 보안을 함께 공급하는 사업 구조를 강화하려는 구상이다. AI 인프라 확충에도 힘을 싣는다. 아카마이는 엔비디아 블랙웰 울트라 GPU 클러스터를 추가했으며 2027년 차세대 베라 루빈 플랫폼 지원을 위한 데이터센터 준비 작업도 진행하고 있다. 블랙웰 울트라 클러스터는 노드당 8개 GPU와 총 2.3TB의 고대역폭메모리(HBM3e)를 탑재해 대규모 AI 모델과 복잡한 추론 작업을 지원한다. 이 같은 사업 확장에는 대규모 클라우드 계약을 통해 확보한 고객 수요도 영향을 미친 것으로 보인다. 아카마이에 따르면 현재 클라우드 사업의 다년 계약 규모는 총 140억 달러를 넘어섰다. 기존 인프라 공급을 기반으로 관리형 추론과 에이전트 실행 서비스까지 확대해 고객당 매출을 높일 수 있는 기반을 마련한 셈이다. 아카마이의 이번 전략은 AI 인프라 경쟁이 GPU 확보뿐 아니라 실제 AI 서비스를 얼마나 효율적이고 안전하게 운영할 수 있는지로 확대되는 흐름과도 연결된다. 아마존웹서비스(AWS), 마이크로소프트(MS), 구글클라우드 등 대형 클라우드 사업자들이 AI 모델 운영 플랫폼을 강화하는 가운데 아카마이는 분산형 네트워크와 보안을 앞세워 차별화를 시도하고 있다. 아담 캐런 아카마이 클라우드 최고운영책임자(COO)는 "AI 추론이 기업의 주된 관심사이자 투자의 대부분을 차지할 것이라는 관점에서 AI 인프라 전략을 추진해 왔다"며 "이번 신규 서비스는 AI 인프라에 추론과 실행 계층을 추가해 완전한 AI 스택으로 확장하고, 보안 포트폴리오를 통해 모든 계층을 보호할 수 있도록 지원한다"고 말했다.

2026.10.29 16:15장유미 기자

인포시즈, 적은 데이터로 AI 계산 능력 높이는 기술 개발

인포시즈가 적은 학습 데이터로도 금융 표 계산 정확도를 높이는 인공지능(AI) 학습 기술을 개발했다. 인포시즈는 조한준 연구원이 제1저자로 참여한 AI 수치 추론 논문이 국제학술지 'TACL'에 게재됐다고 27일 밝혔다. 연구진은 지난 26일(현지시간) 헝가리 부다페스트에서 열린 'EMNLP 2026'에서도 연구 결과를 발표했다. 논문에 따르면 연구진이 개발한 학습 기술 '타노스'를 적용한 80억 매개변수 AI 모델은 금융 표 수치 추론 평가에서 85.38% 정확도를 보였다. 같은 평가에서 GPT-5는 77.82%, 클로드 소넷 4.5는 76.79%, 제미나이 2.5 프로는 76.41%를 기록했다. 이번 연구는 AI가 재무제표처럼 숫자가 많은 자료에서 필요한 정보를 찾고 계산하는 능력을 높이는 데 초점을 맞췄다. 가령 매출 증가율을 구하려면 올해와 지난해 매출을 찾아 차이를 계산한 뒤 지난해 매출로 나눠야 한다. 숫자를 읽는 데 그치지 않고 어떤 숫자를 골라 어떻게 계산할지 판단해야 한다. 기존 언어모델은 학습 과정에서 익숙해진 용어나 표현에 의존해 계산하는 경우가 있다. 금융 자료로 학습한 AI가 생소한 산업 용어를 만나면 같은 계산 문제에서도 정확도가 떨어질 수 있다. 연구진은 이를 개선하기 위해 타노스를 개발했다. 표에서 필요한 숫자와 계산식을 먼저 정하고 정답을 만든 뒤 이를 바탕으로 질문을 생성해 AI를 학습시키는 방식이다. 전문 용어를 임의 단어로 바꾸는 학습 방법도 적용했다. AI가 특정 단어를 외우지 않고 숫자 사이 관계를 파악하도록 하기 위해서다. 여기에 계산 순서를 간단하게 알려주는 '연산 스케치'를 더해 계산 구조를 학습하도록 했다. 학습 데이터 양을 줄인 실험에서도 성능을 확인했다. 금융 표 학습 데이터의 10%만 사용한 모델은 80.13% 정확도를 기록했다. 전체 데이터를 사용한 일반 미세조정 모델(73.97%)과 GPT-5(77.82%)보다 높은 수치다. 금융에서 학습한 계산법이 다른 분야에도 적용되는지도 시험했다. 연구진이 금융 표에 등장하는 용어를 바이오와 기계공학, 법률 등 다른 분야 용어로 바꿔 평가한 결과 정확도 하락 폭은 2%포인트 미만이었다. 일반 미세조정 모델은 같은 조건에서 정확도가 10%포인트 이상 떨어지는 경우도 있었다. 다만 높은 정확도는 계산 구조를 알려주는 연산 스케치를 제공한 조건에서 나왔다. 논문에 따르면 연산 스케치 없이 평가한 모델의 정확도는 41.03%로 떨어졌다. 연구진은 실제 서비스에서 계산에 필요한 힌트를 자동으로 만드는 기술을 후속 과제로 제시했다. 이번 성능 비교 역시 금융 표 수치 추론 평가에 한정된다. 연구 결과만으로 소형 모델이 GPT-5 등 대형 AI보다 모든 업무에서 높은 성능을 낸다고 판단하기는 어렵다. 인포시즈는 이번 연구 성과를 기업용 AI 솔루션 '액시엄'에도 연계할 계획이다. 현재 액시엄은 기업 내부 문서를 바탕으로 합성 데이터를 생성하고 AI 성능 평가에 필요한 벤치마크를 구축하는 기능을 제공한다. 인포시즈는 타노스 학습 기술을 활용해 기업 데이터 분석과 수치 추론 기능을 개선할 방침이다. 탁정수 인포시즈 대표는 "인포시즈는 산업 현장의 복잡한 문제를 해결하기 위해 다양한 배경을 가진 우수한 AI 연구자들과 관련 연구를 지속하고 있다"며 "이번 연구 성과를 자사 솔루션에도 연결해 글로벌 시장에도 적용할 수 있는 엔터프라이즈 AI 기술을 만들어 나갈 것"이라고 밝혔다.

2026.10.27 17:43김동원 기자

비드래프트, GPU 없이 NPU만으로 AI 사전학습 성공

비드래프트가 그래픽처리장치(GPU) 없이 추론 전용 신경망처리장치(NPU)만으로 언어모델을 사전학습하는 데 성공했다. 비드래프트는 추론 전용 NPU에서 학습한 소형 언어모델 '브이코어(VKORE)-46M-NPU'를 허깅페이스에 공개했다고 14일 밝혔다. 일반적으로 NPU는 AI 추론에 특화된 반도체로, 모델 학습에 필요한 역전파 연산을 지원하기 어렵다는 한계가 있다. 비드래프트는 자체 개발한 기술을 활용해 NPU에서 역전파를 수행하고 사전학습된 가중치 없이 언어모델을 처음부터 학습시켰다고 설명했다. 이번 학습에는 2025년 출시된 1세대 추론 전용 NPU가 사용됐다. 회사는 동일한 모델을 고성능 GPU에서 같은 조건으로 학습한 결과와 비교했을 때 손실 궤적의 상관계수가 0.99에 달했다고 밝혔다. 다만 이는 학습 과정의 유사성을 나타내는 지표로, 두 반도체의 학습 속도가 같다는 의미는 아니다. 공개된 모델은 공개 데이터셋으로 학습돼 짧은 영어 이야기를 생성할 수 있다. 비드래프트는 모델 가중치와 모델카드, 비교 분석 자료를 허깅페이스에 공개했다. 핵심 학습 코드는 지식재산 보호를 위해 비공개로 유지하고 있으며 구체적인 기술 구현 방식은 향후 논문으로 발표할 예정이다. 회사는 이번 기술을 NPU 전용 가속 소프트웨어 계층 브이코어로 통합하고 있다. 엔비디아 GPU의 병렬 컴퓨팅 플랫폼 '쿠다'처럼 NPU에서도 추론 가속과 사전학습, 저순위 적응(LoRA) 미세조정 등을 지원하는 소프트웨어 기반을 구축한다는 구상이다. 비드래프트는 범용 공개 모델을 NPU에 적용해 추론 가속과 양자화 모델 구동도 확인한 것으로 나타났다. 향후 기업이 외부 GPU 인프라에 의존하지 않고 자체 환경에서 AI 모델을 학습하고 운영할 수 있도록 기술을 고도화할 계획이다. 김민식 비드래프트 대표는 "값싸고 전력이 적은 NPU를 추론뿐 아니라 학습까지 활용할 수 있게 되면 고가의 GPU를 오래 기다리지 않고도 기업이 자체 모델을 현장에서 직접 길러낼 수 있다"며 "이번 성과를 발전시켜 하드웨어 효율의 한계를 넓혀가겠다"고 말했다.

2026.10.14 15:11이나연 기자

베슬AI, 업스테이지 '솔라 프로4' 글로벌 추론 뒷받침…처리속도 최대 3배↑

베슬AI가 업스테이지의 인공지능(AI) 모델 '솔라 프로4'의 글로벌 추론 인프라 운영을 맡으며 사업 영역을 확대하고 있다. 그래픽처리장치(GPU) 인프라 공급을 넘어 AI 모델의 실제 서비스 운영까지 지원하며 글로벌 추론 시장 공략에 속도를 내는 모습이다. 베슬AI는 업스테이지의 거대언어모델(LLM) 솔라 프로4에 글로벌 추론 인프라를 제공하고 자체 최적화 기술을 적용해 처리 속도와 운영 비용을 개선했다고 12일 밝혔다. 솔라 프로4는 지난 9월 글로벌 LLM 마켓플레이스 '오픈라우터'에서 실제 이용량 기준 3위에 올랐다. 베슬AI는 해당 기간 솔라 프로4의 글로벌 추론 서비스 운영을 담당하며 전 세계 이용자들의 요청을 처리했다. 특히 솔라 프로4의 일일 토큰 처리량이 80억개에서 1550억개로 약 19배 증가하는 동안 필요한 추론 인프라를 지원했다. 국내에서 개발한 AI 모델의 글로벌 이용 확대를 국내 네오클라우드 기업의 인프라가 뒷받침한 사례다. AI 추론은 학습을 마친 모델이 실제 서비스 환경에서 이용자의 질문이나 요청을 처리하는 과정이다. 신규 모델 출시나 프로모션 등으로 이용량이 급증할 경우 안정적인 서비스를 유지하기 위해 충분한 GPU 자원과 효율적인 운영 기술이 필요하다. 베슬AI는 업스테이지와 모델 출시 일정과 예상 수요를 공유하고 필요한 추론 용량을 공동으로 설계했다. 한국과 유럽, 미국 등 여러 지역에 확보한 GPU 클러스터를 활용해 글로벌 이용자의 요청에 대응했다. 자체 추론 엔진 최적화 기술도 적용했다. 모델 특성과 실제 이용 패턴에 맞춰 GPU 자원을 배분하고 캐시 활용률 개선, 모델 양자화, 추론 속도 향상 기술 등을 적용해 처리 효율을 높였다는 설명이다. 그 결과 베슬AI에 따르면 추론 엔드포인트 도입 전후를 비교했을 때 처리 속도가 평균 2배, 최대 3배 향상됐다. 캐시 활용률 개선을 통해 토큰당 비용도 최대 50% 절감했다. 이번 협력으로 업스테이지는 모델 연구와 제품 개발에 집중하고 베슬AI는 수요 예측부터 인프라 구성, 추론 서비스 운영까지 담당하는 구조를 마련했다. 베슬AI는 앞으로도 솔라 모델의 글로벌 이용 확대에 필요한 추론 인프라를 지원할 계획이다. 베슬AI는 최근 SK바이오팜에 AI 연구개발용 GPU 인프라를 공급하고 네오AI와 포항 AI 데이터센터의 GPU 플랫폼 구축·운영 협약을 체결하는 등 기업 고객과 인프라 사업을 확대 중이다. 여기에 솔라 프로4 운영 경험을 더해 AI 모델의 추론 서비스를 제공하는 인퍼런스 프로바이더로 사업 영역을 넓힌다는 전략이다. 안재만 베슬AI 대표는 "이번 협력은 한국에서 개발한 모델의 글로벌 성과를 한국 네오클라우드의 인프라로 뒷받침했다는 점에서 의미가 크다"며 "축적한 인퍼런스 운영 경험을 바탕으로 모델 제공자가 연구와 제품 개발에 집중할 수 있는 환경을 제공하고 기업의 안정적인 오픈소스 모델 도입을 지원하도록 인퍼런스 프로바이더로서 역량을 강화하겠다"고 말했다.

2026.10.12 14:25한정호 기자

리사 수 CEO "韓 AI 협력, NPU 등 생태계 전반으로 확대"

리사 수 AMD 최고경영자(CEO)가 지난 3월 이후 7개월만에 한국을 다시 찾아 국내 AI 생태계 주요 업체와 만나며 경쟁력 강화를 모색했다. 당초 거론되던 신경망처리장치(NPU) 뿐만 아니라 향후 더 넓은 영역에서 협력이 예상된다. 7일 과학기술정보통신부에 따르면 리사 수 AMD CEO는 이날 오전 서울 광화문 포시즌스 호텔에서 반도체 기업과 소프트웨어, 메모리·스토리지, 네트워크, 클라우드, AI 모델 관련 스타트업 13곳과 만났다. 협력 대상도 당초 거론되던 퓨리오사AI, 딥엑스, 모빌린트 등 NPU 팹리스 3곳 뿐만 아니라 하이퍼엑셀, 망고부스트, 파네시아, 디노티시아, 모레, 노타AI, 래블업, 파두, 엘리스그룹, 업스테이지 등으로 확대됐다. 지난 3월 방한→7월 샌프란시스코 회동 거쳐 리사 수 CEO의 올해 한국 방문은 이번이 두 번째다. 리사 수 CEO는 지난 3월 하순 첫 공식 방한 당시 임문영 국가AI전략위원회 부위원장, 하정우 청와대 AI·미래기획수석(당시) 등과 만나 글로벌 개방형 AI 생태계 구축을 위한 협력 방안을 논의했다. 이후 7월 말 미국을 방문한 배경훈 부총리 겸 과기정통부 장관과 AMD CPU·GPU와 국산 NPU를 연계한 이기종 AI 연산 인프라 구축을 위한 양해각서를 체결했다. AI 연구센터(CoE) 설립 추진도 협력 방안에 포함됐다. 과학기술정보통신부는 7월 양해각서 체결 후속으로 이날 오전 양측 간 협력 과제를 점검하고 국내 AI 반도체 기업과의 구체적인 협력 기회를 모색하기 위한 간담회를 진행했다. 7월 MOU 후속 단계 논의...AI 연구센터·인재 양성 추진 류제명 과학기술정보통신부 제2차관은 이날 리사 수 CEO와 별도 면담을 갖고 지난 7월 체결된 양해각서 협력 과제의 추진 현황을 점검했다. AMD AI 연구센터(CoE)를 연내 설립하고 AI 분야 대학원 인재 양성 등 협력 과제도 차질 없이 추진하기로 했다. 특히 국내에서 AMD의 CPU·GPU와 국산 신경망처리장치(NPU)를 결합한 이기종 AI 연산 인프라를 실증하고, 이를 향후 글로벌 시장에서 활용할 수 있는 레퍼런스 모델로 발전시키는 방안이 주요 협력 과제로 거론됐다. 리사 수 CEO는 "한국은 AMD의 중요한 협력 파트너이며 한국이 AI 분야 경쟁력을 높여가는 과정에서 국내 우수 기업들과 AMD가 새로운 협력 기회를 만들어가겠다"고 밝혔다. 엔비디아 독주에 AMD '이기종 AI' 전략으로 대응 AMD가 국내 NPU 기업들과 협력을 확대하는 배경에는 엔비디아가 장악하고 있는 AI 가속기 시장에서 경쟁력을 높이려는 의도가 있다. AMD는 엔비디아의 차세대 GPU인 '베라 루빈'에 맞서 올해 3분기 말부터 서버용 차세대 프로세서 '에픽 베니스'와 '인스팅트 MI450' AI GPU 가속기 공급에 나서고 있다. 그러나 AI 학습·추론 시장에서 엔비디아의 높은 점유율을 단기간에 따라잡기는 쉽지 않다. 이에 AMD는 상대적으로 비용 효율성과 전력 효율을 앞세울 수 있는 분야에서 국내 NPU 기업들과의 협력을 통해 GPU 중심의 AI 인프라를 보완하는 전략을 추진하는 것으로 보인다. AMD의 CPU·GPU와 국산 NPU를 함께 활용하는 이기종 구조를 통해 특정 AI 연산에는 NPU를, 범용 연산이나 고성능 작업에는 GPU를 활용하는 방식으로 AI 인프라의 비용과 전력 효율을 높일 수 있기 때문이다. NPU, 추론 비용 부담 상승에 GPU 보완재로 부상 NPU는 학습과 추론을 모두 수행할 수 있는 GPU에 비해 범용성은 떨어지지만 특정 AI 연산과 추론 작업에서 저전력으로 높은 성능을 낼 수 있다는 장점이 있다. 특히 에이전틱 AI 확산으로 추론 과정에서 처리해야 할 토큰 규모가 급증하면서 전력과 비용 부담이 커지는 만큼, NPU가 GPU 중심 AI 인프라의 보완재로 자리 잡을 가능성이 커지고 있다. 하정우 국가AI전략위원회 부위원장은 6일 오후 열린 'AI 페스타 2026' AI산업정책토크쇼에서 "현재 세계 시장에서 엔비디아 GPU가 독점에 가까운 상황"이라며 "에이전틱 AI로 막대한 토큰을 사용하는 추론에 대한 비용 부담이 크기 때문에 국산 NPU가 전력 효율성과 가격 경쟁력을 확보하면 충분히 기회를 얻을 것"이라고 말했다. 정부도 GPU 보완재로 국산 NPU 육성 정부 역시 GPU의 보완재로 국산 NPU를 육성한다는 방침을 여러 차례 밝혀왔다. 특정 기업의 GPU에 AI 연산을 과도하게 의존할 경우 공급망 위기 등 유사시 대응에 어려움이 생길 수 있다는 판단에서다. 이에 따라 국산 NPU 기술을 육성하는 동시에 GPU와 NPU를 함께 활용할 수 있는 이기종 AI 인프라를 구축해 국내 AI 반도체 생태계의 경쟁력을 높인다는 전략이다. 이날 류제명 차관은 "지난 7월 MOU를 계기로 시작된 AMD와의 협력이 리사 수 CEO의 이번 방한을 통해 우리 기업들과의 직접적인 만남으로 한 단계 더 나아갔다"고 평가했다.

2026.10.07 10:53권봉석 기자

AI 승부, GPU만으론 안 된다…클라우드 빅테크 한자리에

인공지능(AI) 인프라 경쟁의 무게중심이 그래픽처리장치(GPU) 확보에서 AI 데이터센터(AIDC)와 클라우드·플랫폼을 결합한 서비스 경쟁으로 이동하고 있다는 분석이 나왔다. AI 활용이 학습에서 추론과 에이전트로 확대되는 만큼 전력·냉각·네트워크뿐 아니라 실제 AI 서비스를 안정적으로 운영할 수 있는 소프트웨어 역량까지 갖춰야 한다는 제언이다. 공용준 KT클라우드 전무는 1일 서울 양재 엘타워에서 열린 'AI-클라우드 빅테크 2026'에서 "현재 AI 인프라의 가장 큰 병목은 데이터센터와 전력"이라며 "GPU를 확보하는 것만으론 AI 서비스를 구현하기 어려운 만큼 클라우드와 플랫폼까지 함께 갖춰야 한다"고 강조했다. 공 전무는 최근 AI 인프라 시장의 병목이 GPU에서 데이터센터로 이동하고 있다고 진단했다. GPU 공급 상황은 개선되고 있지만 데이터센터를 구축하는 데 최소 2~3년이 걸리는 만큼 GPU를 확보하기에 앞서 데이터센터 용량을 선점하려는 움직임이 나타나고 있다는 설명이다. AIDC의 경쟁 기준도 달라질 것으로 전망했다. 단순히 전력과 GPU를 확보하는 데 그치지 않고 AI 서비스를 위한 클라우드와 운영 플랫폼, 네트워크, 안정성 등을 함께 갖춰야 한다는 것이다. AI 서비스가 일상과 기업 업무에 깊숙이 들어오면서 장애 대응과 GPU 스케줄링, 서비스 모니터링 등 운영 역량의 중요성도 커지고 있다. 공 전무는 "AI 서비스가 우리 삶의 한 축으로 자리 잡으면서 기존 IT에서 중요했던 서비스 연속성도 중요해지고 있다"며 "GPU를 효율적으로 스케줄링하고 AI 서비스를 모니터링하는 것은 물론 장애에 대비한 복구 체계까지 마련해야 한다"고 말했다. 박운영 HPE 상무는 AI 시장이 학습 중심에서 추론과 실제 서비스 적용 단계로 이동하면서 기업의 인프라 구축 방식도 달라질 것으로 내다봤다. 기업들이 더 많은 GPU를 확보하는 것보다 AI를 실제 서비스에 적용하고 투자 대비 성과를 만드는 방안을 고민해야 할 시점이라는 설명이다. 특히 에이전틱 AI 확산에 따라 토큰 사용량과 비용 부담이 늘면서 퍼블릭 클라우드에서 시작한 AI 워크로드 일부를 온프레미스나 하이브리드 환경으로 옮기려는 수요가 늘어날 것으로 전망했다. 기업 데이터 보호와 AI 주권에 대한 요구 역시 프라이빗 AI 인프라 수요를 키우는 요인으로 꼽았다. 박 상무는 "이제는 더 많은 GPU를 사야 할지를 고민하기보다 AI를 어떻게 실제 양산에 적용할 수 있을지, 무엇이 문제인지 살펴봐야 할 시점"이라며 "AI에 투자한 비용을 실제 성과로 연결하는 것이 중요해지고 있다"고 말했다. 네이버클라우드도 추론 수요 확대가 AIDC와 AI 팩토리 시장의 성장을 이끌 것으로 전망했다. 김지훈 네이버클라우드 이사는 대규모 GPU 수요가 과거 AI 모델 학습을 중심으로 발생했다면, 최근에는 실제 서비스를 위한 추론 영역으로 빠르게 확대되고 있다고 밝혔다. AI 에이전트와 피지컬 AI 확산까지 더해지면서 AIDC 수요가 일시적인 흐름에 그치지 않을 것이라는 관측이다. 네이버클라우드는 이를 겨냥해 엔비디아와 AI 팩토리 사업을 확대할 계획이다. 대규모 GPU와 고속 네트워크를 제공하는 AI 클라우드 역량에 기존 클라우드의 인증·네트워크·스토리지와 AI 모델·서비스 운영 경험을 결합한다는 전략이다. 글로벌 AI 기업에는 대규모 전용 인프라를, 국방·금융 등 보안 요구가 높은 분야에는 폐쇄형 클라우드 환경을 제공하는 방식이다. 김 이사는 "AI 팩토리는 국가 전체의 AI 수요를 감당하고 경제·산업·사회 전반에 필요한 지능을 대규모로 생산하는 핵심 인프라"라며 "AI 팩토리를 확보했는지, 누가 그 주도권을 갖고 있는지가 한 나라의 경쟁력을 좌우할 것"이라고 강조했다.

2026.10.01 14:16한정호 기자

"분산형 AI, 2035년 한국서 연 68조원 가치 창출 전망"

AI 보편화로 추론 수요가 증가하는 가운데, 클라우드와 엣지·온디바이스·온프레미스 등 여러 컴퓨팅 환경을 연결하는 '분산형 AI'가 2035년 한국에서 연간 500억 달러(약 68조원) 상당 경제적 가치를 만들어낼 것이라는 전망이 나왔다. 글로벌 기술정책 컨설팅 기업 액세스 파트너십은 이같은 내용을 담은 보고서 '클라우드에서 엣지로: 한국의 분산형 AI가 창출하는 가치'를 공개했다. 보고서에 따르면 분산형 AI는 한국이 직면한 인구절벽, 노동력 부족, 높은 수출 의존도 등 구조적 과제에 대응하는 동시에 2035년 기준 연간 500억 달러(약 68조원) 이상의 경제적 가치를 창출할 수 있을 것으로 전망된다. 액세스 파트너십은 또 보고서에서 "이런 경제적 가치 창출을 위해서는 향후 10년간 약 180억 달러(약 24조원)의 추가 투자가 필요하다"고 분석했다. 디지털 강국 한국, 인구·노동력·수출 '3중 과제' 보고서는 한국이 2024년 OECD 국가 가운데 5G 관련 지표 1위를 기록하고, ICT 산업이 2023년 GDP의 13%를 차지하는 등 높은 수준의 디지털 인프라와 기술 생태계를 갖췄다고 평가했다. 정부도 온디바이스·피지컬 AI, 산업 AI 전환, AI 반도체와 컴퓨팅 인프라, 6G 등에 대한 투자를 확대하고 있다. 반면 인구 고령화와 노동력 부족, 높은 수출 의존도는 구조적 위험 요인으로 꼽힌다. 보고서는 2050년 한국 인구의 약 40%가 고령층에 해당하고, 2025년 제조 중소기업의 61%가 인력 채용에 어려움을 겪고 있다고 분석했다. 무역의존도 역시 GDP 대비 91% 수준으로 높다. AI 추론 수요 2030년 30배 증가...데이터센터 5배 필요 AI 확산에 따라 컴퓨팅 수요도 급증할 전망이다. 액세스 파트너십은 한국의 AI 추론 컴퓨팅 수요가 2030년까지 현재의 약 30배로 증가할 수 있다고 분석했다. 이를 클라우드 중심으로 충당하려면 데이터센터 용량을 약 5배 확대해야 하지만, 현재의 데이터센터 투자 추세가 이어질 경우 필요한 AI 추론 처리 역량의 약 86%가 부족할 수 있다고 전망했다. 피지컬 AI 확산은 문제를 더욱 복잡하게 만든다. 로봇·자동차·제조설비 등은 주변 환경을 인식하고 실시간으로 판단·제어해야 해 네트워크를 거쳐 중앙 데이터센터의 추론 결과를 기다리는 방식에 한계가 있다. 제조 데이터나 생체정보처럼 민감한 데이터를 클라우드로 전송하는 과정에서는 보안과 개인정보 보호 문제도 고려해야 한다. 클라우드 한계 보완할 '분산형 AI', 엣지·온디바이스로 추론 분산 보고서는 클라우드 위주 AI 처리 대안으로 클라우드와 엣지, 온디바이스, 온프레미스 등 다양한 위치에서 AI를 처리하는 '분산형 AI'를 대안으로 제시했다. 대규모 연산과 복잡한 AI 처리는 클라우드의 확장성을 활용하는 한편, 즉각적인 판단이 필요한 작업은 사용자나 산업 현장과 가까운 엣지 또는 기기 자체에서 처리해 지연 시간과 전력 소모 등 비용을 줄일 수 있다는 것이다. 특히 피지컬 AI 시대에는 이러한 구조의 중요성이 더욱 커진다. 로봇이나 자율 시스템처럼 실제 환경을 인식하고 실시간으로 판단·행동해야 하는 AI는 네트워크 연결 상태나 중앙 데이터센터의 응답을 기다리는 방식만으로는 한계가 있기 때문이다. 자율형 산업·수출 경쟁력·돌봄 로봇서 68조원 가치 전망 액세스 파트너십은 분산형 AI의 활용 가능성과 경제적 효과를 분석해 ▲자율형 산업 운영 ▲분산형 AI를 통한 수출 경쟁력 강화 ▲동반자·보조 로봇 등 분야의 경제적 가치를 제시했다. 먼저 자율형 산업 운영 분야에서는 2035년 연간 230억 달러(약 31조원) 이상의 경제적 가치를 창출할 수 있을 것으로 전망했다. 산업용 로봇, 건설 로봇, 위험 작업용 휴머노이드 로봇, 자율 점검 로봇, 예지정비 등에 분산형 AI를 적용하면 인력 부족 보완, 생산성 강화와 설비 중단 시간 단축, 작업장 안전사고 감소 등 효과가 기대된다. 분산형 AI를 통한 수출 경쟁력 강화에서는 연간 210억 달러(약 28조원) 이상의 경제적 가치가 예상된다. 스마트폰, 스마트 가전, 가정·서비스용 로봇, XR 기기 등 한국 기업이 경쟁력을 보유한 제품에 온디바이스 및 분산형 AI 기능을 확대하면 제품의 부가가치를 높이고 글로벌 시장점유율을 확대하는 동시에 새로운 제품군을 창출할 수 있다는 분석이다. 인구 절벽 대응을 위한 동반자·보조 로봇 분야에서도 연간 59억 달러(약 8조원) 이상의 경제적 가치를 창출할 수 있을 것으로 전망됐다. 이동 지원, 낙상 감지 및 안전 모니터링, 대화형 동반 로봇 등에 분산형 AI를 활용하면 고령자의 독립적인 생활을 지원하는 동시에 돌봄 인력 부족과 관련 비용 부담을 완화할 수 있다. 세 가지 핵심 활용 사례를 종합하면 분산형 AI는 AI 도입에 따른 생산성 향상, 시장 확대에 따른 기업 추가 매출, 비용 절감 등으로 2035년 국내에서 연간 500억 달러(약 68조원) 규모 가치를 창출할 것으로 기대된다. 연간 2조원 이상 투자와 표준·6G·규제 정비 제안 보고서는 한국이 메모리·파운드리 등 반도체 제조 역량과 온디바이스 AI용 NPU, 5G 네트워크, AI 컴퓨팅 인프라 등 분산형 AI 확산에 필요한 산업 기반을 갖췄다고 평가했다. 다만 잠재력을 실제 경제적 가치로 연결하려면 추가 투자가 필요하다. 액세스 파트너십은 2026년부터 2035년까지 약 180억 달러(약 24조원), 연평균 약 20억 달러(약 2조 7100억원) 추가 투자가 필요할 것으로 추산했다. 산업 AI 도입 지원, 인력·기술 역량 전환, 분산형 AI 인프라·연결성, 반도체·하드웨어 생태계, R&D 및 수출 경쟁력 강화 등이 주요 투자 분야다. 정책 과제로는 ▲주요국과의 표준 협력을 통한 글로벌 상호운용성 강화 ▲공급자 다양성과 데이터 이동성 확보 ▲분산형 AI와 연계한 6G·차세대 네트워크 투자 ▲제조·모빌리티·헬스케어 분야의 안전·성능 기준 마련 등 4가지를 제시했다. 아울러 국내 기술·산업 역량과 글로벌 협력을 결합하는 'Korea-Along' 전략도 제안했다. 한국을 분산형 AI의 실증 환경으로 활용하면서 국제표준과 글로벌 시장에서의 협력을 확대해야 한다는 취지다.

2026.09.30 15:51권봉석 기자

세미파이브, 美 팹리스와 703억 규모 AI 가속기 개발 계약

글로벌 AI 맞춤형 반도체(ASIC) 설계 전문 기업 세미파이브가 미국 AI 팹리스(반도체 설계전문)와 약 703억원(미화 5200만 달러) 규모의 차세대 AI 추론 가속기 개발 계약을 체결했다고 29일 밝혔다. 이번 수주는 세미파이브가 북미 시장에서 확보한 첫 '스펙 핸드오프(Spec Hand-off)' 사업이다. 단일 계약 규모만 지난해 연간 수주액(1684억원)의 40%를 상회하는 역대 최대 성과이자 글로벌 AI 반도체 맞춤형 시장에서 기술 경쟁력을 입증했다는 평가다. '스펙 핸드오프'는 고객사가 원하는 핵심 성능과 사양(스펙)만 제시하면 상세 설계부터 패키징, 테스트, 양산, 소프트웨어 개발까지 전 과정을 전담하는 최상위 맞춤형 서비스다. 기존 턴키 방식이 완성된 설계도 기반의 위탁 생산 중심이었다면, 스펙 핸드오프는 요구사양 단계부터 ASIC 기업이 주도해 칩을 완성한다. 구글·아마존 등 빅테크가 브로드컴, 마벨 등과 협력해 온 것과 같은 선진 개발 방식이다. 이번 프로젝트에는 대규모 AI 모델 추론 시 전력 부담과 총소유비용(TCO)을 낮추기 위한 최신 기술이 집약된다. 차세대 저전력 D램인 LPDDR6와 고속 인터페이스인 PCIe Gen5를 적용해 메모리 전력 효율을 높이고 데이터 전송 병목을 최소화한다. 또한 다수의 빅다이(Big Die) 프로젝트 경험을 바탕으로 단일 칩의 연산 처리량과 동작 안정성을 동시에 확보할 계획이다. 양사는 2027년 상반기 테이프아웃을 거쳐, 2028년부터 글로벌 하이퍼스케일러와 클라우드 서비스 제공업체(CSP)를 대상으로 본격 양산에 돌입한다. 조명현 세미파이브 대표는 "AI 추론 시장 성장에 따라 맞춤형 반도체 수요가 확대되고 있다"며 "이번 가속기를 성공적으로 상용화해 글로벌 하이퍼스케일 인프라 시장에서 대체 불가능한 핵심 파트너로 자리매김하겠다"고 강조했다.

2026.09.29 14:07전화평 기자

AI 모델 성능만으론 부족…CTO들이 꼽은 경쟁력은 최적화

국내 주요 기술기업의 최고기술책임자(CTO)들이 인공지능(AI) 에이전트 확산으로 AI 산업의 경쟁 축이 단순 모델 성능에서 추론 비용과 인프라 효율성으로 빠르게 이동할 것이란 전망을 내놨다. AI 반도체와 모델이 다양해지면서 특정 하드웨어의 성능만 높이기보다 모델부터 반도체, 소프트웨어, 실제 워크로드까지 함께 최적화하는 역량이 중요해질 것이란 분석이다. 이진원 하이퍼엑셀 CTO는 29일 서울 코엑스에서 열린 래블업 기술 컨퍼런스 'lab | up > /conf/6'에서 "AI 시장의 무게중심이 학습에서 추론으로 빠르게 이동하고 있다"며 "추론 시장에서는 결국 비용을 얼마나 절감할 수 있느냐가 중요하다"고 밝혔다. 그는 AI 활용처가 늘어날수록 단일 반도체가 모든 요구를 충족하기 어려워질 것으로 내다봤다. 빠른 응답 속도가 필요한 서비스가 있는 반면, 비용 효율성이 중요한 서비스도 있어 워크로드에 따라 필요한 반도체와 인프라 구성이 달라진다는 설명이다. 이 CTO는 "AI 반도체는 속도와 전력 효율, 비용 등 모든 지표를 동시에 최고 수준으로 끌어올리기 어렵다"며 "각 요소가 트레이드오프 관계에 있는 만큼 목표로 하는 AI 서비스에 맞춰 전략적으로 선택해야 한다"고 말했다. AI 모델 개발 단계에서도 추론 최적화가 핵심 과제로 떠오르고 있다. 이활석 업스테이지 CTO는 엔비디아·AMD·퓨리오사AI 등 서로 다른 AI 반도체를 활용하면서 범용적인 최적화만으로는 한계가 있다고 설명했다. 모델이 실제 어떤 서비스에서 어떻게 사용되는지까지 파악해야 하드웨어 성능을 제대로 끌어낼 수 있다는 진단이다. 이활석 CTO는 "애플리케이션 정보가 칩까지 흘러가야 경쟁력이 생길 수 있다"며 "워크로드 성격부터 고객의 특성, 칩의 특성까지 각 레이어를 연결해 AI를 최적화해야 한다"고 말했다. 모델과 반도체 사이를 연결하는 최적화 기술의 역할도 커질 전망이다. 김태호 노타AI CTO는 데이터 보안과 비용, 특정 업무에 특화된 AI 수요 등으로 향후 AI 생태계가 더욱 다변화될 것으로 내다봤다. 다양한 모델을 서로 다른 AI 반도체에서 효율적으로 구동할 수 있도록 연결하는 기술이 중요해진다는 설명이다. 그러면서 AI가 기존 기술을 조합해 모델을 최적화하는 능력은 빠르게 향상되고 있지만, 새로운 모델 구조와 워크로드에 맞는 최적화 기법을 만드는 데는 여전히 한계가 있다고 봤다. 인프라 운영 단계에선 서로 다른 하드웨어와 워크로드의 조합이 급증하는 양상이 새로운 병목으로 꼽혔다. 김준기 래블업 CTO는 오케스트레이션 미들웨어가 하위의 다양한 하드웨어와 상위의 워크로드·애플리케이션을 연결해야 하는 만큼 지원해야 할 조합 자체가 빠르게 늘어나고 있다고 짚었다. 김 CTO는 "AI 하드웨어와 워크로드가 다양해지면서 이를 연결해야 하는 조합도 빠르게 늘고 있다"며 "결국 얼마나 다양한 조합과 실제 서비스 환경, 사용자 시나리오에서 검증했는지가 중요해질 것"이라고 말했다. 이날 CTO들은 AI 추론 효율을 높이기 위해 어느 하나의 기술만 개선해선 한계가 있다고 입을 모았다. 모델과 소프트웨어, 메모리와 AI 반도체, 오케스트레이션에 이르는 각 영역을 실제 서비스의 특성에 맞춰 연결하는 역량이 AI 인프라 경쟁력을 좌우할 수 있다는 분석이다. 이진원 CTO는 "AI 기술이 빠르게 고도화되면서 앞으로는 AI를 위한 모델과 사람이 사용하는 모델이 서로 다른 방향으로 발전할 수 있다"며 "이를 뒷받침하는 AI 인프라 역시 용도에 따라 분리되는 시대가 올 것"이라고 전망했다.

2026.09.29 13:04한정호 기자

비드래프트 '다윈-180B-RSI', 허깅페이스 5개 벤치마크 1위

비드래프트의 최신 추론 모델 '다윈-180B-RSI'가 수학·과학·멀티모달 등 고난도 인공지능(AI) 추론 성능을 평가하는 허깅페이스 주요 벤치마크에서 상위권 성적을 기록했다. 비드래프트는 다윈-180B-RSI가 허깅페이스가 공인한 5개 리더보드에서 각 1위에 올랐다고 28일 밝혔다. 특히 AIME 2026과 HMMT 2026에서는 각각 100% 만점을 기록했으며 GPQA 다이아몬드에서는 94.44%의 점수를 기록했다. AIME와 HMMT는 수학 올림피아드 수준의 문제를 다루는 평가다. 비드래프트에 따르면 두 리더보드에서 기존 최고점은 각각 97.1%, 92.7%였다. GPQA 다이아몬드에서는 94.44%로 키미-K3(93.5%)를 앞섰다. MMLU-프로와 MMMU-프로에서도 각각 88.12%, 79.48%를 기록했다. GPQA 다이아몬드는 박사급 전문가가 출제한 과학 문제를 평가하며 MMLU-프로는 법·의학·경제 등 14개 분야의 문제를 다룬다. MMMU-프로는 도표와 악보, 의료 영상 등 시각 정보를 활용해 문제를 푸는 대학 수준의 멀티모달 평가다. 비드래프트는 이번 성과에 자체 기술인 다윈과 재귀적 자가개선(RSI), 'ZTC(Zero-Token Confidence)'를 적용했다고 설명했다. 다윈은 모델의 층과 전문가(Expert) 단위별 성능을 분석한 뒤 여러 모델에서 강점이 있는 부분을 선별해 결합하는 선택적 병합 기술이다. 비드래프트는 모델별 강점을 조합하면서 3970억개 파라미터급 초대형 모델에도 기술을 확장했다. RSI는 모델이 문제를 직접 풀고 정답 여부를 검증한 뒤 검증된 추론 결과를 다시 학습하는 방식이다. 개선된 모델이 다음 학습의 풀이자가 되는 과정을 반복해 스스로 성능을 높이는 구조다. 비드래프트는 이번 모델에서 같은 정확도를 유지하면서 추론 길이를 11% 줄였다. ZTC는 모델이 답변을 생성하기 전에 내부 정보를 분석해 정답 확률을 산출하는 기술이다. 비드래프트는 이를 활용해 모델의 확신도가 낮을 경우 스스로 답변을 중단하도록 설계했다고 설명했다. 김민식 비드래프트 대표는 "스스로 배우고 스스로 확신도를 아는 AI가 세계 최고 수준을 입증했다"며 "사람의 개입 없이 계속 성장하는 AI를 만들겠다"고 말했다.

2026.09.28 17:05이나연 기자

[AI 고속도로] AI 시대 다시 뜨는 '쿠버네티스'…GPU·서비스 운영 핵심으로

생성형 인공지능(AI) 확산으로 기업들이 대규모 그래픽처리장치(GPU)를 확보하면서 이를 효율적으로 나누고 관리하는 기술의 중요성이 커지고 있다. 클라우드 시대 수많은 애플리케이션을 관리하는 표준으로 자리 잡았던 '쿠버네티스'가 이제는 GPU부터 AI 모델의 학습·추론까지 관리하는 AI 인프라의 핵심 플랫폼으로 영역을 넓히는 모습이다. 23일 업계에 따르면 글로벌 클라우드 기업과 국내 플랫폼 기업들은 쿠버네티스를 기반으로 AI 인프라와 서비스를 운영하기 위한 기술 개발을 확대 중이다. 클라우드네이티브컴퓨팅재단(CNCF)이 올해 발표한 연례 조사에 따르면 생성형 AI 모델을 운영하는 조직 가운데 66%가 일부 또는 전체 추론 워크로드를 쿠버네티스에서 운영하는 것으로 나타났다. 컨테이너 관리하던 쿠버네티스…이젠 GPU까지 쿠버네티스는 수많은 서버와 그 안에서 실행되는 프로그램을 알아서 배치하고 관리해주는 오픈소스 플랫폼이다. 과거에는 단일 서버에 애플리케이션을 직접 설치했다면 클라우드 환경에선 프로그램과 실행에 필요한 요소를 '컨테이너'라는 작은 단위로 묶어 여러 서버에 나눠 실행한다. 쿠버네티스는 이 컨테이너를 어느 서버에서 실행할지 정하고 이용자가 몰리면 수를 늘리거나 장애가 발생하면 다른 곳에서 다시 실행하는 작업을 자동으로 수행한다. AI 시대에는 쿠버네티스가 관리해야 할 대상이 한층 넓어졌다. 과거에는 중앙처리장치(CPU)와 메모리를 중심으로 애플리케이션을 배치했다면, 이제는 가격이 비싼 GPU와 신경망처리장치(NPU) 등 다양한 AI 가속기를 여러 개발팀과 서비스가 효율적으로 나눠 사용하도록 해야 한다. 이에 최신 버전 쿠버네티스는 동적 자원 할당(DRA) 기능이 도입돼 GPU와 같은 하드웨어의 특성을 파악하고 필요한 작업에 자원을 보다 세밀하게 배분하는 방향으로 발전하고 있다. AI 모델을 실제 서비스에 적용하는 추론에서도 역할이 커지고 있다. 이용자가 AI에 질문하면 적합한 GPU가 있는 서버를 찾아 요청을 보내고 이용량이 급증하면 자원을 늘리는 방식이다. 글로벌 빅테크부터 국내 기업까지 활용 확산 대표적으로 구글클라우드는 구글 쿠버네티스 엔진(GKE)에서 GPU를 이용해 대규모언어모델(LLM)을 배포·서비스할 수 있도록 지원하고 있다. 최근에는 여러 지역에 흩어진 GPU와 자사 텐서처리장치(TPU) 클러스터를 하나의 자원처럼 활용해 AI 요청을 적절한 곳으로 보내는 기술도 확대 중이다. 국내에서도 쿠버네티스를 기반으로 AI와 클라우드 플랫폼을 고도화하려는 움직임이 이어지고 있다. 오케스트로는 쿠버네티스 기반 서비스형 플랫폼(PaaS) '비올라'를 통해 컨테이너 워크로드의 배포부터 운영까지 생애주기를 관리하고 멀티 클러스터와 데브옵스 환경을 지원하고 있다. 이노그리드 역시 쿠버네티스 기반 'SE클라우드잇'을 통해 여러 쿠버네티스 클러스터를 통합 관리하고 있으며 GPU·NPU·CPU 등 이기종 자원을 AI 워크로드에 활용하는 방향으로 사업 영역을 넓히고 있다. 나무에이엑스는 쿠버네티스를 AI 모델 추론까지 연결 중이다. 자체 AI 플랫폼에서 vLLM과 쿠버네티스 기반 분산 추론 기술 등을 활용해 여러 GPU에서 AI 추론 작업을 분산 처리하는 방식이다. 멀티·하이브리드 클라우드 관리 플랫폼 '스페로'에도 GPU 사용량과 정책, 스케줄링을 관리하는 기능을 적용해 AI 워크로드 운영 효율을 높이고 있다. 맨텍솔루션은 쿠버네티스의 활용 영역을 데이터센터 밖 엣지까지 확대 중이다. 자체 쿠버네티스 플랫폼 '아코디언 엣지'를 통해 중앙 클라우드에서 개발한 AI 모델을 공장 등 여러 현장에 배포하고 각 현장에서 독립적으로 추론 서비스를 운영할 수 있도록 지원하고 있다. GPU·모델·데이터 연결…AI 네이티브 플랫폼으로 진화 AI 시대에는 고가의 GPU를 비롯한 컴퓨팅 자원을 효율적으로 운영하는 것이 비용 경쟁력과 직결된다. 이에 쿠버네티스를 기반으로 GPU 자원 관리와 모델 배포·추론, 데이터 연계 등을 통합하는 AI 네이티브 플랫폼의 중요성도 커지고 있다. 기존 PaaS가 애플리케이션의 개발·배포를 지원했다면 AI 시대에는 관리 영역이 AI 인프라와 서비스 전반으로 넓어지는 셈이다. 한국인공지능클라우드산업협회(KACI)도 최근 기존 PaaS 지원분과위원회를 AI 네이티브 플랫폼(ANP) 분과위원회로 개편하고 관련 생태계 확대에 나섰다. 기존 클라우드 네이티브 기술을 AI 환경으로 확장하고 국내 플랫폼 기업의 기술 고도화와 금융·제조·공공 등 산업별 적용 사례를 확대한다는 목표다. 정철 KACI ANP 분과위원회 위원장은 "쿠버네티스처럼 개방형 표준을 기반 기술로 활용하면 특정 클라우드나 AI 모델에 종속되지 않고 필요에 따라 인프라와 서비스를 바꿀 수 있다"며 "AI 시대에는 GPU와 모델을 확보하는 것뿐 아니라 이를 효율적으로 나누고 배분해 실제 기업 서비스로 연결하는 플랫폼의 역할이 더욱 중요해질 것"이라고 밝혔다.

2026.09.23 10:43한정호 기자

스토리지, '데이터 저장소' 넘어 AI 핵심 인프라로 부상

과거 스토리지는 활용이 끝났지만 쉽게 버릴 수 없는 데이터를 담아 두는 창고 역할을 했다. 그러나 AI를 기업과 기관에서 본격적으로 활용하며 전통적인 스토리지의 역할도 달라지고 있다. AI 인프라 구축 논의는 그동안 CPU·GPU와 이를 구동하는 서버 등 연산 자원에 집중됐다. 그러나 AI 모델 훈련에 쓰이는 막대한 데이터와 AI 활용 과정에서 생성되는 데이터를 보다 효율적으로 관리하는 방안이 새로운 과제로 떠오르고 있다. 이런 추세는 양대 글로벌 스토리지 업체인 웨스턴디지털(WD)과 씨게이트가 각각 실시한 조사 결과에서도 드러난다. 양사 설문조사를 살펴보면 AI 확산이 스토리지 수요를 구조적으로 늘리고 있으며, 기업의 데이터 전략에도 변화가 필요하다는 점을 보여준다. AI 확산에 데이터 폭증... 스토리지 수요도 증가 WD가 시장조사업체 IDC에 의뢰한 설문조사 결과를 바탕으로 발간한 백서에 따르면, 응답 기업·기관의 94.7%는 AI 및 생성형 AI 도입 이후 저장해야 할 데이터가 증가했다고 답했다. 61%는 최근 1년간 데이터가 25% 이상 늘었다고 응답했으며, 74%는 향후 3년간 데이터가 25% 이상 증가할 것으로 예상했다. 각종 데이터를 가공 없이 그대로 담는 중앙 집중식 저장소, '데이터 레이크' 역시 규모를 불리고 있다. 85.4%의 기업은 데이터 레이크 규모가 증가했고 그 원인으로 합성 데이터와 추론 결과, 모델 로그 등 AI가 생성하는 데이터가 꼽혔다. 씨게이트 조사에서는 이러한 추세가 더욱 분명하게 나타났다. 응답 기업의 99%가 향후 3년간 AI로 스토리지 수요가 증가할 것으로 예상했으며, 32%는 증가폭이 50%를 넘어설 것으로 전망했다. AI가 바꾼 데이터 수명주기, 과거 데이터도 다시 활용 두 조사에서 공통적으로 드러나는 점은 AI 활용에 필요한 데이터, 또 AI 활용 이후 결과물이 순환하며 데이터가 쌓이는 순환 구조가 만들어진다는 점이다. AI 모델 구동과 각종 연산이 끝난 뒤 생성되는 많은 데이터는 향후 다른 AI 응용프로그램에도 적용할 수 있다. 이에 따라 데이터의 보존 기간과 활용 가치도 함께 높아지고 있다. WD 조사에서 약 95%는 AI 도입 이후 보유 데이터의 가치가 높아졌다고 답했고, 74.3%는 데이터를 이전보다 오래 보관하게 됐다고 응답했다. 75.9%는 과거 활용이 끝난 콜드 데이터를 AI 워크로드에 활용하기 위해 다시 불러오는 사례가 늘었다고 답했다. 이는 데이터 수명주기에도 큰 영향을 미친다. 해법은 단순 증설 아닌 '데이터 수명주기' 관리 예전에는 활용이 끝난 데이터를 참조나 감사, 백업을 위해 하드디스크 드라이브(HDD)나 테이프 등으로 옮긴 후 단순히 보관하는 데 그쳤다. 그러나 AI 모델 훈련이나 학습의 정확도를 높이려면 과거 저장했던 데이터까지 다시 가져와야 할 필요가 생긴다. WD 조사에서는 응답자 중 96%가 AI 추론 및 검색증강생성(RAG) 애플리케이션을 지원하기 위해 아카이브 데이터에 더 빠르게 접근할 필요가 있을 것으로 전망했다. 씨게이트 조사에서도 데이터 자체의 전략적 가치가 높아지고 있다는 점이 확인됐다. AI 도입의 주요 과제로 데이터 품질 및 준비도를 꼽은 응답이 53%로 가장 많았고, 스토리지 인프라가 43%로 뒤를 이었다. AI를 도입하는 것 자체에서 나아가 AI가 지속적으로 활용할 수 있는 데이터를 준비하고 관리하는 것이 중요한 과제로 부상하고 있다는 의미다. AI 데이터 증가에도 기업 대비는 미흡 문제는 AI와 관련된 데이터를 관리하는 기업의 준비 수준이다. AI 데이터 증가에 대한 인식과 실제 인프라 준비 사이에 상당한 격차가 존재하는 것이다. 씨게이트 조사에서 AI로 스토리지 수요가 증가할 것이라고 예상한 기업은 99%에 달했지만, 장기적인 데이터 수요에 충분히 대비했다고 답한 기업은 38%에 불과했다. 경제성과 지속가능성 역시 빼놓을 수 없다. WD 조사에서 98.2%가 스토리지 의사결정에서 TB당 총소유비용(TCO)을 중요한 요소로 꼽았다. 씨게이트 조사에서는 97%가 인프라 활용 기간 연장이 지속가능성 개선에 도움이 된다고 답했고, 77%는 지속가능성 또는 에너지 문제로 AI 인프라 확장 계획을 연기하거나 조정한 경험이 있다고 응답했다. IDC "데이터 수명 고려한 인프라 전략 필요" 양사의 임원 발언에서도 같은 방향성이 확인된다. 어빙 탄 WD CEO는 "AI의 기반이 결국 데이터라며, 컴퓨팅 수요가 변하더라도 대규모 데이터를 저장·관리하고 필요할 때 접근해야 하는 수요는 계속 증가할 것"이라고 강조했다. 멜리사 반다 씨게이트 수석부사장도 "데이터가 늘어날수록 데이터에서 창출할 수 있는 가치도 커지는 만큼, 대용량 데이터를 효율적으로 저장하고 필요할 때 활용할 수 있는 데이터 인프라가 중요하다"고 설명했다. IDC는 백서에서 "데이터가 생성된 순간부터 학습·추론에 활용되고, 이후 보존됐다가 다시 AI 워크로드에 투입되는 전체 수명주기를 관리하는 데이터 인프라 전략이 필요하다"고 조언했다. 모든 데이터를 고성능·고비용 스토리지에 저장하기보다 접근 빈도와 데이터 가치에 따라 성능과 용량을 구분하고 적합한 스토리지 계층으로 배치해야 한다는 의미다.

2026.09.18 15:35권봉석 기자

애피어, 기업용 에이전틱 AI 실효성 높인다…글로벌 연구 성과 공개

애피어가 에이전틱 AI의 신뢰성과 글로벌 도입을 위한 평가 기준을 제시하는 두 편의 연구 논문을 발표했다. 10일 회사에 따르면, 이번 연구는 거대언어모델(LLM)이 검색된 정보만으로 답변할 수 없는 상황을 인식하는 과정과 추론 언어 선택이 다국어 사용자 지원에 미치는 영향을 심층 분석했다. 에이전틱 AI가 기업의 의사결정을 효과적으로 지원하기 위해서는 불확실성을 스스로 관리하고 각 과업에 가장 적합한 추론 방식과 언어를 유연하게 선택해야 한다는 점을 입증했다. 첫 번째 논문은 정보 부족을 인식하는 AI의 '모르는 것을 아는 역량'을 다뤘다. 28종의 주요 LLM을 대상으로 실험한 결과, '해당 사항 없음'이 정답인 경우 모델의 정확도가 30~50% 하락했다. 연구팀은 모델이 해당 상황을 정확히 인식하도록 지도 미세조정(SFT)과 직접 선호 최적화(DPO) 방식을 적용했다. 그 결과 정답과 오답의 차이를 함께 학습하는 DPO 적용 시, 정답이 없는 문제를 식별하는 정확도가 약 30%포인트 향상되며 AI의 정보 부족 인식 능력이 강화됨을 확인했다. 두 번째 논문은 대규모 추론 모델(LRM)의 다국어 입력과 추론 경로를 분석했다. 영어 등 고자원 언어는 수학·지식 기반 과업에서 높은 성능을 보인 반면, 현지 언어로 추론할 경우 해당 지역의 문화적 맥락 반영과 유해·불법 질문 식별 등 안전성 판단에 더욱 효과적인 것으로 나타났다. 연구팀은 이를 바탕으로 과업 유형과 지역·문화적 맥락에 따라 최적의 추론 언어를 동적으로 선택하는 '추론 언어 라우팅'의 활용 가능성을 제시했다. 회사는 향후 연구 성과를 애드·개인화·데이터 클라우드 등 핵심 제품군에 적용해, 기업이 에이전틱 AI를 확장 가능한 실질적 비즈니스 가치로 전환할 수 있도록 지원할 계획이다. 치한 위 애피어 최고경영자는 "이번 두 연구는 AI를 평가하는 기준을 새롭게 정의한다. AI가 단순히 질문에 답하는 단계를 넘어 자율적으로 의사결정을 내리기 시작하면서 모델이 정답을 내놓는지만 평가해서는 충분하지 않다"며 "정보가 부족한 상황을 스스로 인식하고 그에 맞춰 행동을 조정할 수 있는지, 각 과업에 가장 적합한 추론 방식을 선택할 수 있는지도 함께 평가해야 한다"고 말했다. 이어 "이런 역량은 에이전틱 AI가 단순히 명령을 수행하는 수준에서 벗어나 현실의 복잡한 상황에 대응할 수 있는 신뢰도 높은 의사결정 시스템으로 발전하는 데 기여할 것"이라며 "애피어는 지속적인 기초 연구를 통해 이러한 핵심 과제를 측정하고 개선할 수 있는 AI 역량으로 발전시켜, 다양한 시장과 언어 환경의 기업들이 에이전틱 AI를 더욱 신뢰하며 활용할 수 있도록 지원할 것"이라고 덧붙였다.

2026.09.10 09:53백봉삼 기자

AI '데이터 벽'에 갇힌다...SKT, 사후학습·추론으로 돌파구

AI 모델 성능을 높이는 데 필요한 학습 데이터가 부족해지는 '데이터 벽(Data Wall)' 문제가 현실이 되고 있다. 단순히 공개된 데이터의 고갈에 그치지 않고 웹 접근 제한과 합성 데이터의 품질 문제까지 겹치면서 AI 경쟁 방식도 달라질 것이란 분석이다. 7일 SK텔레콤 뉴스룸에 따르면 회사 AI정책연구원은 기고를 통해 AI 업계가 맞닥뜨린 데이터 제약을 ▲공개 텍스트의 물량 ▲웹 데이터 접근성 ▲합성 데이터 품질 등 세 가지로 구분했다. 먼저 데이터 총량에는 한계가 있다. 미국 AI 연구기관 에포크AI는 인간이 작성한 고품질 공개 텍스트를 약 300조 토큰으로 추산했다. 현재와 같은 AI 확장 추세가 이어지면 2032년 이내에 소진될 가능성이 있다. 학습 방식과 데이터 활용 효율에 따라 시점은 크게 달라질 것으로 봤다. 중요한 것은 고갈 시점보다 데이터의 한계효용이다. 데이터를 계속 늘리는 것만으로 얻을 수 있는 성능 향상에는 한계가 나타나고 있어 앞으로는 같은 데이터에서 얼마나 높은 학습 효율을 끌어내느냐가 중요해진다는 설명이다. 웹에 있는 데이터를 자유롭게 가져다 쓰기도 어려워지고 있다. 클라우드플레어는 오는 15일부터 광고가 게재된 페이지에서 AI 학습 에이전트용 크롤러를 기본 차단하고 검색과 학습을 함께 수행하는 크롤러에 대한 관리도 강화한다. 데이터가 웹에 존재하는 것과 AI 기업이 실제 사용할 수 있는 것은 별개의 문제가 된 셈이다. AI가 만든 합성 데이터도 완전한 대안은 아니다. 네이처에 게재된 연구에서는 모델이 생성한 데이터로 후속 모델을 반복 학습하면 희귀 사례와 예외적 패턴이 사라지면서 성능이 퇴화하는 '모델 붕괴' 가능성이 제기됐다. 수학이나 코딩처럼 결과 검증이 쉬운 분야에서는 유용하지만 인간이 만든 데이터를 전면적으로 대체하기는 어렵다는 분석이다. 이 같은 변화로 데이터의 경제적 가치도 달라지고 있다. 오픈AI는 악셀 슈프링어와 뉴스코프 등 미디어 기업과 계약을 맺고 콘텐츠 이용 접근 권한을 확보하고 있다. 레딧도 실시간 데이터 API를 AI 기업에 제공한다. 데이터를 한 번 판매하는 데 그치지 않고 지속적인 접근권을 제공하는 라이선싱 방식이 중요해지고 있다. AI를 활용하는 일반 기업에는 공개 데이터 고갈보다 내부 데이터를 얼마나 제대로 활용할 수 있느냐가 더 중요한 문제다. 거래 운영 로그와 고객 상담 기록, 설계 정비 이력, 현장 계측치 등 외부에서 구하기 어려운 데이터의 상대적 가치가 높아지기 때문이다. 데이터를 많이 보유했다고 곧바로 AI 경쟁력이 생기는 것은 아니다. 여러 시스템에 흩어진 데이터를 정제하고 활용 목적과 권리관계를 명확히 한 뒤 실제 업무와 연결할 수 있어야 한다. 처음부터 모델 학습에 투입하기보다 검색증강생성(RAG)으로 데이터를 활용하고 효과가 확인된 분야부터 사후학습을 확대하는 방식도 대안으로 제시됐다. 그런 가운데 SK텔레콤은 모델, 데이터, 인프라 측면에서 대응하고 있다. 자체 AI 모델 A.X 개발에서는 상대적으로 부족한 고품질 한국어 데이터를 발굴하고 정제하는 데 집중하고, 보유 데이터는 개인정보 보호와 비식별화 등을 전제로 활용한다. AI의 성능 확장 방식이 대규모 사전학습에서 사후학습과 추론 시점 연산으로 넓어지는 데 맞춰 인프라도 강화한다. SK텔레콤은 2029년까지 5GW 규모 AI 데이터센터 구축을 목표로 투자를 추진하고 GPUaaS 사업도 전개하고 있다. SK텔레콤 AI정책연구원은 “데이터 벽 이후 경쟁의 초점이 단순히 더 많은 데이터를 확보하는 데서 보유한 데이터를 실제 AI에 활용할 수 있도록 만드는 역량으로 이동할 것”이라고 내다봤다.

2026.09.07 10:10박수형 기자

AI가 '암산'하기 시작했다…오픈AI 새 추론법에 안전 우려

오픈AI가 인공지능(AI)이 생각하는 과정 일부를 밖으로 드러내지 않는 새로운 추론 기술을 적용한 것으로 알려졌다. AI 판단 과정을 사람이 감시하기 어려워질 수 있어 안전성을 둘러싼 우려가 나오고 있다. 오픈AI는 3일(현지시간) 새로운 AI 모델 'GPT-6 아스트라'를 정식으로 공개했다. 아스트라에는 새로운 추론 기법인 '순환 깊이(recurrent depth)'가 일부 적용된 것으로 알려졌다. 관련 내용은 미국 매체 디인포메이션이 익명 취재원을 인용해 처음 보도했다. 순환 깊이는 같은 연산을 모델 내부에서 여러 차례 반복하는 추론 방식이다. AI가 답을 내놓기 전에 일부 계산을 글로 드러내지 않고 내부에서 이어갈 수 있다. 기존 추론 AI는 어려운 문제를 풀 때 중간 판단을 글로 하나씩 만들어가며 답을 찾는다. 이를 '사고사슬(CoT·Chain of Thought)'이라고 한다. 수학 문제를 풀면서 풀이 과정을 노트에 적는 것과 비슷하다. 순환 깊이는 풀이 과정 일부를 글로 남기지 않고 내부에서 계산한다는 점에서 차이가 있다. 학생이 풀이를 모두 적지 않고 일부는 암산으로 푼다고 볼 수 있다. 이 추론 방식은 같은 연산 구조를 반복해서 사용할 수 있어 모델 크기를 늘리지 않고도 계산 단계를 추가할 수 있다. 기존에는 복잡한 문제를 처리하기 위해 모델 자체를 키우거나 CoT을 길게 생성했다면 또 다른 추론 방법이 생긴 셈이다. 순환 깊이는 AI 안전 측면에서는 새로운 문제를 낳을 수 있다. 학생이 암산하는 부분이 많아질수록 다른 사람이 풀이 과정을 확인하기 어려운 것처럼 AI에서도 사람이 들여다볼 수 있는 영역이 줄어들 수 있어서다. AI가 어떤 과정을 거쳐 답을 내놓는지 알기 어렵다는 '블랙박스' 문제는 오랫동안 AI의 한계로 꼽혀왔다. 모델 내부의 수많은 계산을 사람이 직접 읽기 어렵기 때문이다. 추론 AI의 CoT은 블랙박스를 없애지는 못하지만 중간 판단 일부를 사람이 읽을 수 있게 보여주는 통로 역할을 해왔다. 모델이 해킹이나 속임수 같은 위험한 행동을 계획할 경우 그 흔적이 CoT에 나타나면 이를 찾아낼 수도 있다. 실제 지난 7월 오픈AI의 내부 사이버 보안 평가 과정에서 여러 AI 에이전트가 통제를 우회해 자사 연구 인프라와 허깅페이스 시스템을 침해한 사고에서도 이들이 남긴 기록이 조사에 활용됐다. 순환 깊이의 활용이 늘어나면 사람이 볼 수 있는 이런 통로가 좁아질 수 있다. CoT을 통해 밖으로 드러나던 계산 일부를 모델 내부에서 처리할 수 있어서다. 사람이 확인하기 어려운 '블랙박스' 영역이 다시 넓어질 수 있다는 게 AI 안전 연구자들의 우려다. 오픈AI도 아스트라의 추론 과정을 감시하기가 이전보다 어려워졌다는 점을 인정했다. 회사는 아스트라 공개와 함께 내놓은 안전성 보고서에서 아스트라의 CoT이 이전 모델인 GPT-5.6 솔보다 감시하기 어려워졌다고 밝혔다. 다만 CoT을 이용한 안전 감시는 계속 적용한다는 방침이다. 앤트로픽과 구글 딥마인드도 내부적으로 이 추론 방식의 도입을 논의하는 것으로 알려졌다. 디인포메이션은 두 회사가 관련 기술을 검토하고 있지만 실제 적용 여부나 모델 개발 계획은 확인되지 않았다고 보도했다. 벅 슐레저리스 레드우드 리서치 최고경영자(CEO)는 자신의 X 계정에 "아스트라가 불투명 순환을 쓴다는 보도에 극도로 우려하고 있다"며 "오픈AI가 이 기법을 더 밀어붙이면 순환 횟수를 대폭 늘려 CoT 감시 가능성을 완전히 파괴할 선택지를 갖게 될 것"이라고 밝혔다.

2026.09.04 10:57김동원 기자

에퀴닉스, 엔비디아와 '분산형 AI 추론' 승부수…인프라 연결성 강화

에퀴닉스가 인공지능(AI) 확산으로 복잡해지는 기업 인프라 연결과 추론 환경을 동시에 겨냥한 신규 서비스를 선보였다. 클라우드·네트워크·AI 환경 연결을 자동화하는 동시에 엔비디아·투게더AI와 손잡고 데이터와 사용자 가까이에서 AI 추론을 실행할 수 있는 분산형 인프라 구축에 나선다. 에퀴닉스는 고객·파트너 행사 '에퀴닉스 호라이즌'에서 '에퀴닉스 패브릭 원'과 기업용 분산형 AI 추론 프로그램 '에퀴닉스 인퍼런스 익스체인지'를 공개했다고 3일 밝혔다. 패브릭 원은 기업에 분산된 클라우드와 네트워크, AI 환경을 연결하는 과정을 간소화하기 위한 관리형 '애니-투-애니' 연결 서비스다. AI 도입이 확대되면서 기업이 연결해야 할 클라우드와 AI 서비스 제공업체, 사업장 등이 늘어나는 데 따른 네트워크 운영 복잡성을 줄이는 것에 중점을 뒀다. 특히 아마존웹서비스(AWS)와 구글 클라우드가 공동 개발한 오픈 커넥티비티 사양을 활용한다. 이를 통해 분산된 클라우드와 AI, 기업 환경 전반의 상호운용성을 지원한다는 목표다. 고객이 연결하려는 대상과 요구사항을 지정하면 패브릭 원이 이를 구현하는 데 필요한 연결 방식을 결정해 제공하는 구조다. 기존처럼 네트워크 서비스 구성 요소를 기업이 일일이 조합하고 관리할 필요도 줄였다. 포털과 애플리케이션 프로그래밍 인터페이스(API), 자동화 워크플로우뿐 아니라 에이전트 기반 요청이나 자연어 프롬프트로 필요한 연결 요건을 지정할 수 있다. 이후 패브릭 원이 라우팅과 클라우드 연결, 암호화, 시스템 복원, 장애 조치 등을 자동으로 오케스트레이션하고 관리한다. 향후 기업이 에이전틱 아키텍처를 도입하면 AI 에이전트가 사람의 수동 개입 없이 필요한 연결을 탐색하고 요청·프로비저닝하는 환경까지 지원한다는 구상이다. 에퀴닉스는 AI 인프라 연결뿐 아니라 실제 추론 환경 구축에도 사업 범위를 넓힌다. 이번에 함께 공개한 인퍼런스 익스체인지는 기업이 AI 추론을 데이터와 사용자, 애플리케이션에 가까운 위치에서 실행할 수 있도록 지원하는 분산형 AI 추론 프로그램이다. 최근 기업 AI가 실험을 넘어 실제 운영 단계로 이동하면서 추론을 어느 위치에서 실행할지가 성능과 비용, 데이터 거버넌스 등에 영향을 미치는 요소로 떠오르고 있다는 게 회사 측 설명이다. 인퍼런스 익스체인지는 클라우드와 모델, 제공업체, 지역 등에 분산된 추론 환경을 연결해 기업의 운영 부담을 줄이는 데 초점을 맞췄다. 이를 위해 에퀴닉스는 엔비디아와 기존 협력을 강화하고 투게더AI와 새롭게 손잡았다. 엔비디아의 '엔터프라이즈 레퍼런스 아키텍처'와 200개 이상의 오픈소스 모델을 지원하는 투게더AI 추론 플랫폼을 에퀴닉스의 글로벌 데이터센터 인프라와 결합한다는 방침이다. 에퀴닉스는 전력과 첨단 냉각, 운영 관리 등 기반 인프라를 제공하고 '에퀴닉스 패브릭'을 통해 클라우드·네트워크·AI 서비스 제공업체를 연결한다. 엔비디아는 AI 팩토리의 처리량과 토큰당 비용을 고려한 AI 인프라와 레퍼런스 아키텍처를 제공할 예정이다. 투게더AI는 상위 계층에서 추론 플랫폼을 제공한다. 여러 고객이 자원을 공유하는 멀티테넌트 방식과 전용 용량이 필요한 워크로드를 위한 싱글테넌트 환경을 모두 지원한다. 이를 통해 기업이 워크로드 특성에 따라 AI 추론 인프라를 선택할 수 있도록 하는 구조다. 활용 영역은 사용자·데이터와 가까운 곳에서 추론을 수행하는 '메트로 엣지 추론'부터 폐쇄형 모델에서 오픈소스 모델로 전환하는 '오픈 모델 마이그레이션', 데이터 주권 요건을 고려한 '소버린 AI'까지 포함한다. 특히 소버린 AI는 규제를 받는 산업이나 특정 국가·지역에서 데이터와 추론 처리 위치에 대한 통제권을 유지하면서 AI를 활용할 수 있도록 지원할 방침이다. 이번에 공개된 패브릭 원은 올해 말 베타 버전을 선보인 뒤 내년 북미 지역부터 정식 출시할 예정이다. 인퍼런스 익스체인지는 내년 1분기부터 제공된다. 아데어 폭스-마틴 에퀴닉스 최고경영자(CEO) 겸 사장은 "AI가 가파른 속도로 기업 기술 환경을 바꾸고 있는 만큼, 지금 어떤 인프라를 선택하느냐가 향후 수년간의 경쟁력을 결정지을 것"이라며 "엔비디아와의 오랜 관계를 바탕으로 현대 AI의 핵심인 가속 컴퓨팅 기반을 갖추는 한편, 개방형 에코시스템을 지향하는 투게더AI와의 협력을 통해 각 기업에 최적화된 확장성까지 확보했다"고 밝혔다.

2026.09.03 15:41한정호 기자

엔비디아 "AI 인프라 호황에 내년 매출 70% 이상 성장 전망"

엔비디아가 26일(현지시간) 2분기 실적발표 이후 진행된 컨퍼런스콜에서 "AI 인프라 투자 수요 증가에 따라 내년(회계연도 기준 2028년) 매출이 올해 대비 70% 늘어날 것"이라고 밝혔다. 엔비디아에 따르면 올 2분기(5~7월, 회계연도 기준 2027년 2분기) 매출은 962억 2100만 달러(약 133조 1600억원)로 전년 동기(467억 4300만 달러, 약 64조 6900억원) 대비 두 배 이상 늘어났다. 이날 콜렛 크레스 엔비디아 최고재무책임자(CFO)는 "내년 전체 매출은 올해 대비 70% 늘어날 것"이라고 밝혔다. 젠슨 황 엔비디아 최고경영자(CEO) 역시 "공급망 제약이 없다면 70% 이상도 기대할 수 있다"고 설명했다. 성장을 이끄는 핵심 변수는 에이전틱 AI다. 콜렛 크레스 CFO는 "AI 에이전트가 추론과 계획, 도구 사용을 반복하면서 인간이 동일한 작업을 수행할 때보다 15~100배 많은 연산 자원을 필요로 할 수 있다"고 설명했다. 젠슨 황 CEO는 엔비디아의 경쟁력이 단순한 GPU 성능에 있지 않다고 강조했다. 엔비디아는 데이터 생성·준비, 사전학습, 사후학습, 에이전틱 추론 등 AI의 전체 과정을 하나의 시스템에서 처리할 수 있는 'AI 팩토리' 플랫폼을 구축했다는 설명이다. D램과 고대역폭메모리(HBM), SSD 등 메모리 반도체 뿐만 아니라 데이터센터 전력·시설, 파운드리 등 전체 공급망 제약에 대해 젠슨 황 CEO는 "특정 부품 뿐만 아니라 전력과 냉각, 메모리, 웨이퍼, 각종 시스템 부품 등 공급망 전반에 제약이 있다"고 밝혔다. 이어 "현재 모든 요소를 전력으로 가동하고 있으며 생산능력이 한꺼번에 늘어나는 것이 아니라 매일 조금씩 늘어날 것이다. 현재 엔비디아가 확보한 공급량은 수요의 약 70% 수준이며, 실제 수요는 그보다 훨씬 높다"고 덧붙였다. 콜렛 크레스 CFO는 "AI 인프라 구축 자체가 메모리 부족을 심화시키고 있다. 메모리 가격 상승폭이 당초 예상보다 컸고 내년에도 가격 상승이 이어질 것"이라고 내다봤다. 대규모 투자도 AI 인프라 확대를 뒷받침한다. 엔비디아는 아폴로, 블랙록, 블랙스톤, 브룩필드, 골드만삭스, KKR 등 금융사들과 손잡고 향후 AI 인프라 구축을 위해 5000억 달러(692조 2500억원) 이상의 제3자 자본을 동원하는 금융 플랫폼을 추진하고 있다. 콜렛 크레스 CFO는 "프런티어 AI 연구소들이 컴퓨팅 자원 부족에 직면해 있으며, 엔비디아의 자금 지원은 이들의 성장을 돕는 동시에 투자 수익을 확보하기 위한 것"이라고 설명했다. 젠슨 황 CEO는 "오픈AI와 앤트로픽 등 주요 AI 기업에 대한 투자는 전략적 파트너십의 일환이며 이들이 장기적으로 엔비디아의 주요 고객으로 남을 것"이라고 강조했다.

2026.08.27 09:03권봉석 기자

Prev 1 2 3 4 5 6 Next