• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
ZDPick
반도체
인공지능
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'인공지능 모델'통합검색 결과 입니다. (393건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

레노버·엔비디아, AI 팩토리 구축 속도 높인다…최단 15일 만에 출하

레노버가 엔비디아와 손잡고 기업의 인공지능(AI) 인프라 구축 기간을 단축하는 데 나선다. 사전 검증된 서버와 그래픽처리장치(GPU), AI 소프트웨어를 결합한 솔루션을 제공해 기업이 복잡한 시스템 구성 과정 없이 필요한 규모의 AI 팩토리를 빠르게 도입하도록 지원한다는 구상이다. 레노버는 엔비디아와 협력해 기업용 AI 인프라 솔루션 '레노버 AI 익스프레스'를 공개했다고 11일 밝혔다. 이 솔루션은 기업의 AI 워크로드와 예산에 맞춰 세 가지 구성을 제공하며 일부 제품은 주문 승인 등 필수 절차를 마친 뒤 영업일 기준 최단 15일 안에 출하할 수 있다는 게 회사 측 설명이다. 레노버 AI 익스프레스는 기존 '레노버 하이브리드 AI 팩토리 위드 엔비디아'를 기업이 보다 빠르게 구축할 수 있도록 지원하는 솔루션이다. 서버와 GPU, 네트워크, AI 소프트웨어를 사전에 검증된 구성으로 제공해 시스템 통합에 필요한 시간과 부담을 줄이는 데 초점을 맞췄다. 제품은 AI 모델 규모와 사용자 수, 처리량에 따라 소형·중형·대형으로 구분된다. 소형 구성은 수십 명의 사용자를 대상으로 AI 추론을 지원한다. 레노버 씽크시스템 SR650a V4 서버에 엔비디아 RTX 6000 프로 블랙웰 서버 에디션 GPU 2개를 탑재하며 70억~700억개 파라미터 규모의 모델에 적합하다. 영업일 기준 최단 15일 안에 출하할 수 있다. 중형 구성은 수백 명의 사용자를 대상으로 AI 추론과 에이전틱 AI를 지원한다. 씽크시스템 SR675 V3 서버에 엔비디아 GPU 8개를 탑재하며 700억~4000억개 파라미터 규모의 모델을 처리하도록 설계됐다. 출하 기간은 영업일 기준 최단 20일이다. 대형 구성은 수천 명의 사용자가 활용하는 대규모 생성형 AI 환경을 겨냥했다. 씽크시스템 SR680a V4와 엔비디아 HGX B300을 기반으로 최대 1조개 파라미터 규모의 AI 모델을 지원하며 영업일 기준 최단 25일 안에 출하할 수 있다. 세 구성 모두 AMD와 인텔의 최신 중앙처리장치(CPU)를 지원한다. 기업은 필요에 따라 레드햇 AI 팩토리 위드 엔비디아 또는 엔비디아 AI 엔터프라이즈 소프트웨어를 추가할 수 있다. AI 애플리케이션과 데이터, 모델 보호를 위한 빔 카스텐도 선택할 수 있다. 레노버는 인프라 공급을 넘어 AI 팩토리 구축과 운영 전반을 지원한다는 목표다. AI 활용 사례 발굴과 투자수익률(ROI) 검증, 개념검증(PoC)부터 GPU 성능과 활용률, 비용 효율 최적화까지 서비스를 제공한다. 서버용 '프리미어 서포트 플러스'를 통해 잠재적인 장애를 사전에 파악하고 운영 안정성을 높이는 기능도 지원한다. 글로벌 파트너 프로그램 '레노버 360'을 활용해 기업 고객 대상 공급도 확대할 계획이다. 다만 최단 출하 기간은 규제 제한이 없는 시장에서 지정된 제품과 부품에 한해 적용된다. 주문 검증과 결제·신용 승인, 최종 사용자 인증 및 수출 승인 등의 절차가 완료된 시점부터 기간이 계산되며 지역별 제공 조건은 다를 수 있다고 밝혔다. 수미르 바티아 레노버 아시아태평양 최고커머셜책임자(CCO)는 "아시아태평양 기업들은 성능과 확장성, 투자 효율의 균형을 유지하면서 AI를 더 빠르게 도입할 수 있는 현실적인 방법을 찾고 있다"며 "레노버 AI 익스프레스는 고객 요구에 맞는 AI 인프라를 신속하게 구축해 과도한 선투자나 도입 지연에 따른 위험을 줄일 수 있도록 지원한다"고 밝혔다. 크리스 메리어트 엔비디아 엔터프라이즈 플랫폼 담당 부사장은 "AI 에이전트가 산업 전반을 변화시키면서 기업은 데이터를 효율적으로 인텔리전스로 전환할 수 있는 AI에 최적화된 인프라를 필요로 한다"며 "레노버 AI 익스프레스는 레노버의 검증된 시스템에 엔비디아 가속 컴퓨팅, 네트워킹, AI 소프트웨어를 결합한 즉시 출하 가능한 솔루션으로, 기업이 AI 팩토리를 더 빠르게 구축하고 워크로드와 AI 수요 증가에 맞춰 확장하도록 지원한다"고 말했다.

2026.10.11 12:03한정호 기자

"AI 주권에 GDP 1% 투자 필요…핵심은 GPU·전력 확보"

인공지능(AI) 주권 확보를 위한 경쟁이 데이터 보호를 넘어 그래픽처리장치(GPU)와 전력, 네트워크 등 핵심 인프라 확보로 확대되고 있다. 각국 정부와 기업이 외부 기술에 대한 의존도를 낮추고 자체 AI 운영 역량을 강화하면서 연산 자원을 안정적으로 확보·통제하는 능력이 새로운 경쟁력으로 떠오르는 모습이다. 11일 글로벌 시장조사기관 가트너가 발간한 '소버린 AI: 다극화 세계에서 연산 역량과 운영 통제를 위한 인프라 전략' 보고서에 따르면 AI 주권의 핵심이 데이터 저장 위치에서 연산 자원과 운영 통제권 확보로 이동하고 있다. 가트너가 올해 인프라·운영(I&O) 책임자를 대상으로 실시한 설문조사에선 응답자의 77%가 데이터 주권을 올해 목표 달성에 필수적인 요소로 평가했다. 운영 주권을 필수로 꼽은 비율은 75%, 기술 주권은 54%로 나타났다. 가트너는 이러한 변화에 따라 국가 차원의 AI 인프라 투자도 확대될 것으로 전망했다. 2029년까지 독자적인 소버린 AI 기술 체계를 구축하는 국가들은 AI 인프라에 국내총생산(GDP)의 최소 1%를 투자해야 할 것으로 내다봤다. AI 모델 개발과 운영에 필요한 GPU뿐 아니라 전력과 냉각, 네트워크 등 기반 시설을 함께 확보해야 한다는 분석이다. AI 인프라 수요가 늘면서 데이터센터의 전력 소비도 빠르게 증가할 전망이다. 가트너는 북미 지역 전체 전력 소비에서 데이터센터가 차지하는 비중이 2025년 3.7%에서 2030년 7.3%로 확대될 것으로 예상했다. 같은 기간 유럽 역시 2.7%에서 5.0%로 상승할 것으로 분석했다. 이러한 변화는 AI 연산에 특화된 클라우드 사업자인 네오클라우드 시장의 성장으로도 이어질 전망이다. 가트너는 2030년 글로벌 AI 클라우드 시장이 2670억 달러(약 358조원) 규모로 성장하고 네오클라우드 기업들이 이 가운데 약 20%인 530억 달러(약 71조원)를 차지할 것으로 예측했다. 네오클라우드 기업들은 대규모 GPU 인프라를 기반으로 기존 클라우드 사업자들과 경쟁하고 있다. 코어위브와 엔스케일, 네비우스, 크루소 등이 대표적이다. 이들은 단순 GPU 임대 서비스를 넘어 AI 모델 운영과 추론, 보안, 관리 등으로 사업 영역을 확대하고 있으며 각국의 소버린 AI 수요에도 대응 중이다. 지정학적 위험을 줄이기 위한 클라우드 운영 방식의 변화도 예상된다. 가트너는 2030년까지 유럽과 중동 기업의 75% 이상이 가상화된 업무 시스템을 지정학적 위험을 줄이도록 설계된 환경으로 이전할 것으로 전망했다. 해외 사업자에 대한 의존도를 낮추고 자국 법률과 규제에 맞춰 AI 인프라를 운영하려는 수요가 늘어날 것이라는 분석이다. 다만 소버린 AI 인프라를 구축하더라도 완전한 기술 독립을 실현하기는 쉽지 않다는 지적이다. 첨단 반도체와 AI 가속기, 파운데이션 모델 등 핵심 기술이 미국과 중국에 집중돼 있기 때문이다. 가트너는 기업들이 모든 인프라를 자체 구축하기보다 민감한 업무는 지역 내 인프라에서 처리하고 다른 업무는 외부 클라우드를 활용하는 혼합형 전략을 검토해야 한다고 권고했다. 가트너는 "인프라·운영 책임자들은 클라우드 사업자의 계약상 보장이나 마케팅 약속에만 의존하지 말고 기술적 검증 수단을 도입해야 한다"며 "기밀 컴퓨팅과 외부 키 관리 기술을 활용해 민감한 AI 업무에 대한 기술적 통제력을 강화해야 한다"고 강조했다.

2026.10.11 08:10한정호 기자

[AI 고속도로] 기업 AI도 프라이빗 시대…'모듈형 데이터센터'가 뜬다

기업들이 인공지능(AI) 활용을 확대하면서 데이터와 AI 운영 환경을 직접 통제할 수 있는 '프라이빗 AI'에 주목하고 있다. 외부 클라우드와 AI 모델에 의존하던 방식에서 벗어나 자체 인프라를 병행하는 기업이 늘면서, 필요한 장소에 빠르게 구축하고 수요에 따라 확장할 수 있는 모듈형 AI 데이터센터(AIDC)도 대안으로 부상한 모습이다. 9일 업계에 따르면 기업들은 민감한 내부 데이터나 반복적인 업무를 자체 AI 환경에서 처리하고 고난도 추론이 필요한 작업에는 외부 AI 모델을 활용하는 방식으로 인프라 전략을 다변화하고 있다. 기업의 AI 전략에서도 모델 성능뿐 아니라 데이터를 어디에 저장하고 연산 자원을 어떻게 운영할 것인지가 중요한 과제로 떠오르고 있다. 특히 금융·제조·공공 등 보안과 데이터 통제가 중요한 분야에선 독립적인 AI 운영 환경을 확보하려는 수요가 커지고 있다. 오픈 모델 성능 높아지자 프라이빗 AI 도입 확대 최근 오픈 모델의 성능이 빠르게 향상되고 운영 비용 부담도 줄어들면서, 기업들이 외부 상용 모델에 대한 의존도를 낮추고 업무 특성에 맞는 자체 AI 환경을 구축할 수 있게 됐다. 미국 매사추세츠공과대학(MIT)과 조지아공대 연구진이 발표한 논문에 따르면 오픈 모델은 폐쇄형 최첨단 AI 모델의 약 90% 수준 성능을 내면서도 비용은 약 6분의 1에 그치는 것으로 나타났다. 폐쇄형 모델 출시 이후 오픈 모델이 유사한 성능에 도달하기까지 걸리는 시간도 13주까지 단축됐다. 기업 내부 데이터에 맞춘 모델 미세조정도 경쟁력으로 꼽힌다. 데이터브릭스 연구에선 메타의 오픈 모델 '라마 3.1 8B'를 기업 고유 코드에 맞게 미세조정한 결과, GPT-4o보다 코드 채택률이 1.4배 높고 응답 시간은 2배 빠른 것으로 나타났다. 실제 기업 현장에서도 자체 AI 모델과 외부 모델을 병행하는 사례가 나오고 있다. 미국 보험사 트래블러스는 보험 업무에 특화된 자체 모델 '트래블러스LLM'을 개발해 전문성과 대량 처리가 필요한 업무에 활용하고 범용적이거나 복잡한 요청에는 외부 모델을 사용하는 방식으로 AI 환경을 운영하고 있다. 국내에선 한국서부발전이 외부망과 분리된 온프레미스 환경에 자체 생성형 AI 서비스 '위피봇'을 구축했다. 사내 규정과 기술자료 검색, 문서 작성 등에 활용하고 있으며 시범 운영 결과 업무 효율을 30% 이상 높이고 연간 10만 시간의 업무 시간을 절감한 것으로 알려졌다. AI 운영 환경도 변화…모듈형 데이터센터 대안 부상 기업들이 프라이빗 AI 도입을 확대하면서 대규모 AI 연산을 처리할 수 있는 인프라의 중요성도 커지고 있다. 특히 대규모 AI 모델을 직접 운영하거나 여러 AI 서비스를 상시 구동해야 하는 기업·기관에선 기존 전산실만으로 고밀도 그래픽처리장치(GPU) 환경을 수용하는 데 한계가 있다. 고성능 GPU를 안정적으로 운영하려면 높은 전력 밀도와 발열에 대응할 수 있는 전력·냉각 설비가 필요하다. GPU 간 대용량 데이터를 빠르게 전송하는 네트워크와 스토리지도 갖춰야 한다. 외부 클라우드를 지속적으로 이용할 경우 사용량에 따라 비용 부담이 커질 수 있다는 점도 자체 인프라 구축을 검토하는 배경이다. 이에 전력·냉각·네트워크 등 주요 설비를 공장에서 미리 제작한 뒤 현장에 설치하는 모듈형 AIDC가 주목받고 있다. 부지와 전력이 확보된 환경에선 기존 데이터센터보다 구축 기간을 줄일 수 있고 AI 연산 수요가 늘어나면 모듈을 추가해 단계적으로 확장할 수 있다는 것이 강점이다. 기업이 직접 관리하는 부지에 독립적인 AI 인프라를 구축할 수 있다는 점도 특징이다. 데이터와 시스템에 대한 물리적 통제 수준을 높이면서 필요한 연산 자원을 업무 현장 가까이에 배치할 수 있어 보안과 운영 효율을 함께 고려할 수 있다. 엘리스그룹, 모듈형 AIDC·GPU 운영 기술 결합 국내에선 엘리스그룹이 모듈형 데이터센터와 클라우드 소프트웨어를 결합한 AI 인프라 사업을 추진 중이다. 엘리스그룹은 부지와 전력이 확보된 환경에서 약 3개월 만에 구축할 수 있는 모듈형 AIDC '엘리스 PMDC'를 공급하고 있다. 서버 랙과 전력·냉각·네트워크 설비를 모듈화해 현장에서 설치하는 방식으로, 수요에 따라 인프라를 단계적으로 확장할 수 있도록 설계했다. 고밀도 GPU 환경에 대응하기 위한 수랭식 냉각 시스템도 적용할 수 있다. 여기에 GPU 가상화·오케스트레이션 기술을 적용한 클라우드 소프트웨어 'ECI'를 결합해 GPU 자원을 워크로드에 따라 배분하고 운영할 수 있도록 지원한다. 산업 현장에서도 모듈형 AI 인프라 구축이 추진되고 있다. 부산 명지녹산국가산업단지에선 산업단지 내 기업들이 공동으로 활용할 수 있는 GPU·신경망처리장치(NPU) 기반 엣지 AI 데이터센터를 구축하고 있다. 엘리스그룹과 부산테크노파크, 이지에이아이, 건솔루션, 포미트 등이 참여해 제조기업의 AI 전환을 지원할 계획이다. 박정국 엘리스그룹 최고기술책임자(CTO)는 "기업들이 프라이빗 AI 도입을 확대할수록 데이터를 안전하게 관리하는 것뿐 아니라 AI 인프라 자체를 효율적으로 운영할 수 있는 통제력이 중요해질 것"이라고 말했다. 이어 "특히 민감한 데이터를 다루거나 대규모 AI 연산 환경을 직접 운영해야 하는 기업·기관에선 필요한 장소에 AI 인프라를 빠르게 구축하고 수요에 따라 확장할 수 있는 모듈형 데이터센터가 효과적인 선택지가 될 것"이라고 덧붙였다.

2026.10.09 15:00한정호 기자

더존비즈온, 서울시 행정에 '실행형 AI' 심는다…공공 AX 확대

더존비즈온이 서울시의 행정업무를 직접 수행하는 인공지능(AI) 에이전트 구축을 지원한다. 기존 질의응답 중심의 생성형 AI를 넘어 문서 요약과 회의실 예약 등 실제 행정업무를 처리하는 실행형 AI로 공공 AI 전환(AX) 사업을 확대한다는 목표다. 더존비즈온은 서울시가 추진하는 '행정지원 AI 에이전트 구축' 사업에 생성형 AI 플랫폼 '원 AI 프라이빗 에디션(ONE AI PE)'을 공급한다고 2일 밝혔다. 더존비즈온은 이번 사업 수행사에 AI 플랫폼을 제공하고 에이전트 구현을 위한 기술 기반을 지원한다. 지난해 서울시 생성형 AI 행정 플랫폼 '챗봇 2.0' 구축 사업에 이어 2년 연속 서울시 AI 사업에 참여하게 됐다. 이번 사업은 서울시 행정지원 AI 에이전트 운영을 위한 공통 기반 환경 구축과 업무별 AI 에이전트 시범 구축, AI 인프라 증설, 추가 수요 발굴 등을 포함한다. 직원이 자연어로 업무를 지시하면 AI가 행정시스템에 접속해 실제 업무를 처리하고 결과를 제공하는 실행형 에이전트 체계를 구축하는 것이 핵심이다. 앞서 구축된 챗봇 2.0은 서울시 행정망 내부의 자체 거대언어모델(LLM) 환경에서 운영되고 있다. 270종의 행정 업무매뉴얼을 학습한 검색증강생성(RAG) 체계를 기반으로 답변의 근거와 출처를 제공하고 '마이(My) 챗봇', AI 템플릿 등의 기능으로 행정 업무를 지원한다. 이번 사업에선 문서 요약과 회의실 예약, 제안서평가위원 선정 등 3종의 AI 에이전트를 우선 구축한다. 조직도와 예산 정보 조회처럼 여러 부서에서 공통으로 활용할 수 있는 기능도 마련한다. 문서 요약 에이전트는 업무관리시스템에 접수되거나 생산된 문서와 첨부파일을 유형에 맞춰 요약한다. 회의실 예약 에이전트는 대화형 지시를 통해 예약부터 변경·취소까지 처리하고 조건에 맞는 대안도 제안한다. 제안서평가위원 선정 에이전트는 후보자에게 순차적으로 문자를 발송해 참석 여부를 확인하고 관련 규정에 맞춰 필요한 인원을 확보하는 업무를 수행한다. 원 AI PE는 모델 컨텍스트 프로토콜(MCP) 기반의 표준 연계 체계를 통해 행정시스템과 AI를 연결한다. 사용자 권한 확인과 실행 이력 관리 기능을 제공하며 특정 AI 모델에 종속되지 않는 구조로 설계해 모델을 교체하더라도 기존 행정시스템 연계와 업무별 에이전트를 유지할 수 있도록 했다. 한글(HWP) 문서와 이미지 분석을 위해 사이냅소프트의 문서 구조 분석 솔루션 '도큐애널라이저'도 탑재한다. 이를 통해 행정문서 인식 정확도를 높인다는 계획이다. 서울시는 시범 서비스 운영과 함께 각 부서의 반복 업무를 조사해 추가 자동화 대상을 선정하고 향후 확산 계획을 마련할 예정이다. 고성능 그래픽처리장치(GPU) 서버 증설 등 AI 인프라 보강도 병행할 방침이다. 더존비즈온은 공공 부문의 AI 사업도 확대 중이다. 경기도 25개 공공기관이 원 AI 기반 통합 업무환경 전환을 추진하고 있으며 원 AI는 현재 7800여개 민간 기업에도 도입됐다. 더존비즈온 관계자는 "공공기관 폐쇄망에서도 AI를 안전하게 활용할 수 있음을 입증한 데 이어 이번 사업을 통해 AI가 실제 업무를 수행하는 실질적인 에이전틱 AI 행정 혁신 모델을 구현하게 됐다"며 "검증된 플랫폼과 기술 지원으로 서울시와 사업 수행사가 공공 AI 에이전트의 성공 사례를 만들어 갈 수 있도록 든든히 뒷받침하겠다"고 말했다.

2026.10.02 14:40한정호 기자

AI 모델 개발부터 서비스까지 한 번에…KACI, AI-PaaS 성과 공개

한국인공지능클라우드산업협회(KACI)가 인공지능(AI) 모델 개발부터 실제 산업 서비스 구현까지 지원하는 서비스형 플랫폼(PaaS) 기술의 연구개발 성과 확산에 나선다. 바이오·물류·문서 등 다양한 분야에서 실증한 기술을 실제 서비스 적용과 사업화로 연결한다는 목표다. KACI는 지난 1일 서울 양재 엘타워에서 'AI 모델과 서비스 개발을 위한 PaaS 기술 개발 성과공유회'를 개최하고 AI-PaaS 핵심 기술과 산업별 실증 성과를 공개했다고 2일 밝혔다. 이번 행사는 과학기술정보통신부와 정보통신기획평가원(IITP)이 지원하는 연구개발 과제의 성과를 산업계와 공유하기 위해 마련됐다. 해당 과제는 다양한 클라우드서비스제공사(CSP) 환경에서 클라우드 네이티브 기술을 기반으로 AI 모델과 서비스를 개발하고 외부 시스템 연동부터 서비스 배포까지 지원하는 AI-PaaS 기술 확보를 목표로 추진됐다. 이노그리드가 주관기관을 맡았으며 써로마인드와 한국과학기술정보연구원(KISTI), 바이오브레인, 소프트온넷, 폴라리스오피스, KACI 등이 참여했다. 참여기관들은 AI 모델 개발과 데이터 활용부터 모델 등록·실행, 성능 모니터링, 외부 시스템 연동과 AI 서비스 구현까지 이어지는 기술을 개발했다. 이노그리드는 모델 등록부터 서비스 실행까지 지원하는 AI-PaaS 통합 게이트웨이와 포털을 개발했다. 써로마인드는 AI 모델 개발 워크플로우 통합과 모델 성능 모니터링 체계를, KISTI는 AI-PaaS 데이터 레이크하우스 개발 성과를 각각 공개했다. 산업 현장에 AI-PaaS 기술을 적용한 실증 결과도 공유했다. 바이오브레인은 외부 사전학습 AI 모델 연동·활용 기술을 활용해 백신·신약 분야에서 실증을 진행했다. 소프트온넷은 AI-PaaS 기반 물류 운송자산 관리 비전 AI 서비스를 실증했으며 폴라리스오피스는 AI-PaaS를 활용한 문서 작성·편집 지원 기술을 검증했다. 이를 통해 연구개발 단계에서 확보한 기술을 바이오와 물류, 문서 등 실제 산업 서비스에 적용할 수 있는 가능성을 확인했다는 설명이다. 주관기관인 이노그리드는 연구개발 성과의 사업화에도 나서고 있다. 지난 7월 AI·머신러닝 운영(MLOps) 실행 플랫폼 '에이아이큐브잇(AICubeit)'을 출시했으며 개발 기술을 실제 서비스로 연결하는 작업을 이어갈 계획이다. KACI도 AI-PaaS 산업 네트워크를 활용해 수요기업을 발굴하고 참여기관 간 기술교류와 성과 홍보를 지원한다. 이를 통해 이번 과제에서 확보한 기술의 산업 확산과 후속 사업화를 지원한다는 방침이다. 과제 총괄책임자인 권경민 이노그리드 전무는 "이번 과제를 통해 다양한 CSP 환경에서 AI 모델과 데이터를 활용해 실제 서비스를 개발·운영할 수 있도록 지원하는 AI-PaaS 기술을 단계적으로 확보해왔다"며 "각 참여기관의 전문기술을 연계하고 바이오·물류·문서 등 다양한 서비스 분야에서 실증을 추진했다는 점에서 의미가 있다"고 밝혔다. 이어 "이번 성과공유회를 계기로 개발 기술과 실증성과가 산업계에 보다 폭넓게 공유되고 향후 실제 서비스 적용과 후속 사업화로 이어질 수 있도록 참여기관 간 협력을 지속해 나갈 계획"이라고 말했다.

2026.10.02 14:25한정호 기자

"AI 경쟁력 높이려면 인프라·클라우드 함께 키워야"

정부와 국회, 인공지능(AI)·클라우드 업계가 AI 경쟁력을 높이기 위해 모델뿐 아니라 데이터센터와 컴퓨팅 인프라, 클라우드·플랫폼을 아우르는 산업 생태계를 함께 키워야 한다고 입을 모았다. 김봉균 한국인공지능클라우드산업협회(KACI) 회장은 1일 서울 양재 엘타워에서 열린 'AI-클라우드 빅테크 2026'에서 영상 개회사를 통해 "AI 경쟁력은 AI 모델만으로 완성되지 않는다"고 강조했다. 김 회장은 "대규모 AI 서비스를 안정적으로 구현하고 확장하기 위해선 그래픽처리장치(GPU)와 AI 데이터센터를 비롯한 강력한 컴퓨팅 인프라, 이를 효율적으로 연결하고 운영하는 클라우드와 플랫폼, 실제 산업 현장에서 활용되는 서비스가 유기적으로 연결돼야 한다"고 말했다. 이어 "이제 클라우드는 AI를 지원하는 하나의 기술을 넘어 AI 산업의 성장과 혁신을 가능하게 하는 핵심 기반"이라며 "AI와 클라우드가 함께 성장할 수 있는 산업 생태계를 만들고 우리 기업의 기술과 서비스가 글로벌 시장으로 확장될 수 있도록 산업계와 정부를 연결하는 역할을 충실히 하겠다"고 밝혔다. 정부도 AI 산업 확산을 위한 인프라와 소프트웨어 생태계의 중요성을 강조했다. 권은태 과학기술정보통신부 인공지능전환지원과장은 "AI가 산업 현장에서 제대로 활용되고 확산되기 위해선 우수한 AI 모델뿐 아니라 AI 데이터센터와 컴퓨팅 인프라, 클라우드와 플랫폼, 다양한 산업 수요에 맞는 AI 서비스와 소프트웨어 생태계가 함께 발전해야 한다"고 말했다. 그러면서 AI 기업과 클라우드·인프라·소프트웨어 기업 간 협력도 주문했다. 그는 "AI 전환의 성과가 산업 전반으로 확산될 수 있도록 필요한 정책적 지원과 산업 기반 조성에 지속적으로 힘쓰겠다"며 "우리나라가 AI 시대의 기술 경쟁력을 확보하고 새로운 산업과 시장을 만들어갈 수 있도록 민간과 긴밀히 협력해 나가겠다"고 밝혔다. 최형두 국민의힘 의원도 영상 축사를 통해 글로벌 AI 인프라 경쟁에 대응하기 위한 제도적 지원 필요성을 강조했다. 최 의원은 "전 세계 주요국과 빅테크 기업들이 AI 주권과 컴퓨팅 인프라를 선점하기 위해 치열한 총력전을 벌이고 있다"며 "산업 간 경계를 허무는 융합 전략과 초거대 연산을 감당할 차세대 클라우드 인프라, 지속 가능한 디지털 생태계 구축 방안에 대한 논의가 중요하다"고 말했다. 이어 "현장의 혁신 노력이 제도와 규제라는 벽에 가로막히지 않도록 온 힘을 다하겠다"고 덧붙였다.

2026.10.01 10:48한정호 기자

독파모와 프런티어 AI를 계속 가져가야 하는 다섯 가지 이유

"그냥 미국 것이나 중국 것을 쓰면 되지, 왜 굳이 우리 것을 만드나." 독자 AI 파운데이션 모델, 독파모를 둘러싼 비판의 핵심은 이 한 문장으로 요약할 수 있다. 지난 4월 기준 국내 챗GPT 월간 이용자는 2345만 명이고, 성능은 미국이 앞서며 값은 중국 오픈웨이트가 싸다. 2000억 원 넘게 들어간 독파모가 이번 주에는 폐지 수순이라는 기사까지 나왔다. 이런 논란이 지속되자, 배경훈 부총리는 9월 29일 독파모는 계속되며 프런티어 AI에도 도전하겠다고 밝혔다. 옳은 방향이라고 본다. 하지만, '왜 필요한가'와 '역할을 어떻게 나눌 것인가'는 아직 충분히 대중들에게 설명되지 않았다. 그래서 미력하나마 그동안 필자가 주장해왔던 내용을 정리해보고자 한다. 단순히 AI를 산업 기술로만 본다면 비판도 합리적이라고 볼 수 있다. 값싸고 성능 좋은 것을 사 쓰는 것이 경제학의 기본이다. 그러나 AI는 산업 기술이기만 한 것이 아니다. 핵무기는 소수 국가의 금고에 봉인된 채 힘의 순위를 갈랐고, 인터넷은 누구나 쓰는 범용기술로 수십 년에 걸쳐 가치의 셈법을 바꿨다. 그런데, 이 AI라는 것은 이 둘을 같은 시간선 위에서 같은 강도로 결합한 첫 기술이다. 그래서 그 자체가 전략자산이면서 전기처럼 모든 곳에 스며들고, 지금 미·중 패권 경쟁의 한복판에 있다. 그래서 우리가 가져야 하는 질문은 결국 주권의 문제가 될 수 밖에 없다. 만들 수 있는가(기술), 부가 안에 남는가(경제), 멈추지 않고 지킬 수 있는가(안보), 스스로 생각하는가(인지), 규칙을 우리가 정하는가(제도). 기술주권이 토대이고 나머지 넷은 그 위에서 지켜야 할 영역이다. 반도체로 벌고, 토큰으로 내준다 올해 상반기 한국은 반도체 수출 1924억 달러, 경상수지 흑자 1910억 달러로 두 기록을 함께 세웠는데, 지식서비스 무역수지는 64억 4000만 달러 적자로 2010년 하반기 이후 가장 컸고, AI 사용료가 들어가는 소프트웨어 저작권 적자는 역대 최대였다. 하나는 AI를 만드는 재료를 팔아 번 돈이고, 다른 하나는 AI 를 쓰느라 낸 돈이 상당부분을 차지하는 돈이다. 이 두 장부가 갈리는 이유는 돈이 떨어지는 자리에 있다. AI 경제의 최종 상품은 바로 토큰이다. 토큰인 AI시대 생산과 소비의 단위이자 무역과 거래의 단위이다. 그런데, 토큰 10이 생산되면 7은 모델의 몫이고, 나머지 3을 반도체와 전력, 데이터센터가 나눈다. 한국이 세계 최고인 메모리는 이 3 가운데 한 조각이다. 잘 생각해보자. 단순히 메모리 값이 올라가 값을 얼마나 잘 받느냐보다 종국에는 우리가 어느 칸에 서 있느냐가 몫을 정할 수 있다는 말이다. 시간이 갈수록 격차는 벌어진다. 메모리는 빅테크가 데이터센터를 지을 때 한 번 팔리는 스톡 수익이라 설비투자 사이클을 따라 오르내린다. 반도체 슈퍼사이클이 언제 끝나냐 이런 우려들이 나올때마다 주가는 휘청휘청거린다. 반면에, 이 토큰은 쓸 때마다 과금되는 플로우 수익이라 사용량을 따라 매달 쌓인다. 게다가 사용량의 주체가 바뀌고 있다. 오픈라우터 집계로 올해 2월 에이전트의 토큰 사용량이 처음 사람을 앞질렀고, 이후 약 14배로 불어나는 동안 사람의 사용량은 2.8배 늘었다. 사람의 시간에 묶여 있던 소비가 풀린 것이다. 골드만삭스는 2030년까지 토큰 사용량이 70배까지 늘 것이라고 전망하고 있다. 산수를 해보자. 지금보다 토큰 사용량이 70배가 늘면, 우리 지식서비스 적자는 어떻게 될까? 과연 그때도 경상수지는 지금처럼 호황일까? 요금 체계도 이를 따라가고 있다. 오픈AI는 이달 GPT-6 아스트라 수요를 감당하지 못해 월 200달러 프로 요금제의 신규 가입을 3주 가까이 막았다가, 사용량을 API 요금 기준으로 다시 계산해 종전의 절반으로 줄인 채 다시 열었다. 월 500달러 요금제도 함께 내놨다. 정액제라는 껍데기 안에 종량제 계량기가 들어온 것이다. 이미 앤트로픽은 클로드 코드로 종량제 효과를 톡톡히 보고있다. 앤트로픽이 2026년 2분기 사상 첫 영업흑자(조정 영업이익 약 5억 달러)를 달성한 것은 사용량이 늘수록 역마진 위험이 커지는 단순 정액 구독제 대신, 엔터프라이즈 코딩과 에이전트 워크플로우에 최적화된 B2B 토큰 종량제(Pay-as-you-go) 모델을 전면에 내세운 전략덕분이다. 대규모 기업 고객이 일상 업무에서 천문학적인 토큰을 소비하는 만큼 매출이 실시간으로 직결되었고, 인프라 최적화를 통해 낮춘 토큰당 원가보다 종량제 매출이 더 빠르게 상회하는 임계점을 돌파하면서 막대한 컴퓨팅 비용을 뚫고 실질적인 손익분기점(BEP)을 넘어설 수 있었다. 이처럼 에이전트가 쓰는 만큼을 정액으로는 감당할 수 없으니 요금은 사용량을 따라갈 수밖에 없고, 그만큼 이용자의 청구서도 소비량과 함께 열리게 되는 구조다. 이러한 흐름이 국내 경제로 들어오는 통로는 AI 전환이다. 기업과 정부가 AX를 할수록 인건비의 일부가 토큰비로 바뀐다. 인건비는 가계 소득으로 남아 소비와 세금으로 순환하지만, 해외 모델에 내는 토큰비는 그 자리에서 수입이 된다. 데이터센터를 국내에 유치해도 마찬가지다. 토큰이 국내에서 생산되니 GDP는 늘지만, 모델 몫 7은 사용료와 배당으로 빠져나가 국민소득에는 남지 않는다. AI 전환은 소득의 국적을 바꿀수 있다. 문제는 이 변화가 지금은 제대로 보이지 않는다는 점이다. 한국은행은 올해 흑자의 최대 변수로 반도체 경기를 꼽았다. 흑자는 사이클을 타는 스톡이고 토큰 청구서는 사이클을 덜 타는 플로우라, 사이클이 꺾이는 순간 가려져 있던 적자가 드러난다. 환율도 방패가 되기 어렵다. 대체재 없는 필수 투입재는 비싸져도 끊지 못하므로 원화 약세는 같은 토큰의 원화 비용만 키운다. 게다가 한국은 토큰을 얼마나 수입하는지 재는 통계조차 없다. 중국이 하루 140조 개라는 토큰 소비량을 국가 통계로 발표하는 동안, 우리 국제수지표에서 AI 사용료는 소프트웨어 저작권이라는 넓은 항목에 섞여 있다. 측정할 수 없으면 관리할 수 없다. 물론 그렇다고 해서 당장 경상수지가 적자로 돌아선다는 뜻은 아니다. 한은도 AI 관련 금액은 아직 크지 않다고 했다. 다만 속도가 어마어마하다는 것이 한은의 표현이다. 경제주권의 질문은 흑자의 크기보다 그 돈이 결국 어디로 흘러가느냐에 있다고 본다. 토큰을 사는 자리에서 만드는 자리로 옮기는 길은 하나뿐이다. 우리 모델이 국내 토큰의 일부라도 생산하는 것이다. 스위치는 우리 손에 없다 안보주권의 위험은 올해 이미 우리가 경험해봤다. 6월 9일 공개된 앤트로픽의 최상위 모델 페이블 5와 미토스 5는 사흘 만에 전 세계에서 멈췄다. 미국 상무부가 국가안보를 근거로 미국 안팎의 모든 외국인 접근을 막으라는 수출통제 지시를 내렸기 때문이다. 접근이 복구되기까지 19일이 걸렸다. 만약에 우리 기간산업과 행정망이 그 모델 위에서 돌고 있었다면 남의 나라 정부 결정 하나로 3주 동안 멈췄을 것이다. 이제 이런 껐다 켰다 하는 스위치는 점점 정교해지고 있는데, 그러니까 같은 모델이라도 능력을 제대로 쓰는 버전은 선별된 기관에만 열린다. 지난 9월 미 국가안보국(NSA)·사이버안보,인프라보안청(CISA),연방수사국(FBI)은 합동권고로 중국 AI 기업 6곳의 산업적 규모 증류를 적시하며, 의심 계정에는 성능을 낮춘 모델로 응답하되 이를 알리지 말라고 권고했다. 사용자는 모르는 사이 한 단계 낮은 AI를 받아 쓸 수 있다는 뜻이다. 껐다 켜는 스위치에 더해, 조용히 조도를 낮추는 스위치가 생긴 셈이다. 반대편의 중국 오픈웨이트는 스위치 문제를 피하는 대신 다른 문제를 고민해 봐야 한다. 누구나 로컬에 내려받아 안전장치를 제거할 수 있고, 가중치에 무엇이 들어가있는지 검증하기 어렵다. 미 국립표준기술연구소(NIST) 산하 CAISI의 2025년 평가에 따르면, 딥시크는 에이전트 탈취 공격의 악성 지시를 따를 확률이 미국 모델보다 평균 12배 높았다. 자 정리해보면 이렇다. 미국의 폐쇄형은 끊길 수 있고 중국의 개방형은 오염될 수 있다. 그래서 안보주권의 목표는 끊겨도 멈추지 않는 구조다. 행정망과 금융,국방,주요산업 같은 핵심 시스템은 해외 모델이 끊겨도 국산 모델로 어느정도 기능을 유지하도록 이중화하고, 공공 조달에는 언제든 다른 모델로 옮겨 탈 수 있는 전환 가능성을 조건으로 걸며, 외산 모델을 들이기 전에 스스로 시험할 평가 역량을 갖추는 것이다. 상당부분의 업무들은 무조건 최고로 좋고, 비싼 모델을 쓸 필요와 이유가 사실 별로 없다. 모델들은 이미 상향평준화되고 있기 때문이다. 그래서 모델 오케스트레이션, 적절한 업무와 프롬프트에 적절한 모델을 분배해서 쓰는 것이 요즘 대세인 이유다. 그러니까 스위치가 남의 손에 있다 해도 불이 꺼지지 않게 하는 구조를 만들어야 한다. 그 구조의 바닥에는 반드시 우리 모델이 있어야 한다. 빌려 쓰는 모델은 스위치가 될 수는 있어도 비상등이 될 수는 없다. 모델은 영어로 생각한다 모델이 무엇을 옳다고 여기고 무엇을 당연하게 받아들이는지는 무엇을 읽고 자랐는지, 그리고 누가 키웠는지에 달려 있다. 현재는 둘 다 우리 손 밖에 있다. 미국은 2025년 7월 행정명령으로 연방정부가 조달하는 AI에 '이념적 중립'을 요구하며, DEI(다양성·형평성·포용)를 가장 만연하고 파괴적인 이념의 하나로 지목했다. 세계 최대 수요처의 기준은 프런티어 모델의 가치 설정을 움직인다. 어느 쪽이 옳든, 모델의 가치관이 한 나라의 정치 지형에 따라 조정된다는 사실이 핵심이다. 하버드 연구진이 65개국 가치관 조사와 GPT의 응답을 비교하자, 미국과 문화적 거리가 먼 나라일수록 닮은 정도가 뚜렷이 떨어졌다. 이른바 WEIRD, 서구적이고 교육받은 산업화된 부유한 민주주의 사회의 심리가 모델의 기본값이다. 셋 중 둘을 묶는 인지 과제에서도 GPT는 범주로 묶는 서구식 분석적 사고를 보였다. 다국어 모델의 내부를 추적한 연구는 한 걸음 더 나간다. 영어가 아닌 언어로 물어도 중간 층위의 '개념 공간'은 영어식 사고에 더 가깝다. 요즘 AI가 쓴 한국어 문장에 'A가 아니라 B다'라는 대조 구문이 유난히 잦은 것은 그 흔적이다. 인지주권이 지켜야 할 것은 개별 답변 이전에 사고의 틀이다. 무엇을 질문으로 인식하고, 어떤 논리 전개를 자연스럽게 느끼며, 무엇을 예외로 처리하는가. 아이들이 매일 대화하는 AI가 이 틀을 쥐고 있다면 교과서보다 강력한 교육이다. 대응의 출발점은 어디에 있을까? 한국어 데이터다. 대표적인 웹 학습데이터인 커먼크롤조차 자신들의 데이터가 늘 영어에 치우쳐 있었다고 인정한다. 교과서와 판례, 공공기록처럼 한국 사회가 쌓아 온 데이터를 사람이 읽는 파일 형태를 넘어 AI가 이해하는 지식 형태로 여는 일, 곧 AI 센트릭 데이터로의 전환이 그 시작이라고 생각한다. 그 데이터로 기른 우리 모델이 있어야 사고의 틀도 우리 것이 된다. 남의 모델에 한국어 데이터를 얹는 것만으로는 교과서의 저자가 바뀌지 않는다. 규칙은 누가 정하는가 어떻게 보면 가장 중요하다고 볼 수 있는 것은 제도주권이다. AI 시대에는 기계가 판단한다. 자율주행차는 피할 수 없는 사고 앞에서 누구를 구할지, 에이전트는 어디까지 대신 결정할지 정해야 한다. 그런데 판단의 기준은 문화권마다 다르다. MIT 미디어랩의 '모럴 머신' 실험은 233개 국가·지역에서 약 4천만 건의 선택을 모았고, 결과는 서구,동양,남방의 세 문화권으로 갈렸다. 예를 들어, 동양 문화권은 노인보다 젊은이를 구해야 한다는 선호가 다른 권역보다 약했다. 프랑스 권은 지위가 높은 사람에 대한 선호가 높았다. 하나의 보편 윤리를 하나의 코드로 박아 넣을 수 없다는 뜻이다. 로런스 레식은 사이버공간에서 '코드가 곧 법'이라고 했다. 사회를 규율하는 힘은 법과 사회규범, 시장, 아키텍처에서 나오는데, 디지털 세계에서는 아키텍처가 가장 강력한 규제자가 된다. AI 시대의 아키텍처는 모델이고, 모델에 어떤 원칙이 생기고, 어떤 것을 거절하며 어떤 가치를 앞세우는지가 곧 규칙이 되는데, 그 규칙은 지금 프런티어랩이 만든다. 각 회사가 '모델 스펙'이나 '헌법'이라는 보기 좋은 이름으로 모델의 행동 원칙을 정하고, 그 원칙은 수십억 명의 일상에 그대로 적용된다. 원래 규범이라는 것은 이중 구조였다. 국제사회에는 보편 규칙이 있고, 각 나라에는 역사와 문화에 맞는 로컬 규칙이 있다. 그런데, 이러한 이중 구조가 없어지고, 소수의 프런티어랩이 모델 안에서 한꺼번에 정하면 어떻게 될까. 몇몇 회사의 로컬룰이 세계의 보편룰이 된다. 사실을 적시해도 명예훼손이 될 수 있는 한국과 표현의 자유를 앞세우는 미국의 기준은 다르지만, 모델이 어느 쪽 잣대로 글을 쓰고 거를지는 몇몇 AI 회사가 먼저 정한다면 과연 세상은 어떻게 되어갈까? AI 종말론이 화제였다. 그런데, 그 종말은 터미네이터식 종말이 아니라, 이렇게 문화와 각자의 특성에 맞는 규범이 몇몇 회사의 아키텍쳐로 획일화되어가는 과정에서 생기는 혼란에서 야기된 종말이 올 수도 있다고 생각한다. 우리나라는 올해 AI 기본법을 시행했지만 법보다 먼저 작동하는 것은 모델에 들어간 원칙이다. 민주적 정당성을 거치지 않은 규칙이 사실상의 법이 되고, 시민에게는 이의를 제기할 창구조차 제대로 없다. 에이전트 시대에는 표현대리 문제도 여러 문제를 야기시킬 수 있다. 내 에이전트가 사고를 치고 실수를 했어도 그 책임을 어디에 물 수 있을까? 우리가 쓰는 AI 서비스의 약관에는 면책조항들이 모두 들어있다. 그들은 책임을 지지 않는다는 것이다. 그들의 룰이 그런거이다. 해법의 실마리는 역설적으로 미국이 보여줬다. 앞서 본 행정명령은 연방 AI 조달 계약에 원칙 준수를 조건으로 걸고, 시스템 프롬프트나 명세 공개로 이를 입증하게 했다. 조달이 모델에 규칙을 심는 통로라는 것이다. 한국도 모두의 AI와 공공 AX 조달에서 모델이 한국의 법과 관습을 지키는지 평가하고 행동 원칙의 공개를 요구할 수 있다. 보편룰은 국제 논의에 참여해 함께 만들고, 로컬룰은 조달이라는 문으로 모델에 심는 것이다. 다만 조달로는 남의 모델에 규칙을 요구할 수 있을 뿐이다. 법전 자체를 우리가 쓰려면 우리 모델이 있어야 하고, 프런티어급 역량이 있어야 국제 논의에서 우리 요구가 조건으로 통한다. 우리 좋은 모델을 가지고 남의 모델을 함께 쓰는 것과 없이 남의 모델만 쓰는 것은 전략자체가 다르다. 독파모는 현장, 프런티어는 상한 그렇다고 모든 것을 국산으로 채우자는 결론으로 가면 당연히 곤란하고 필자도 동의하지 않는다. 일본과 사우디, UAE도 자국 모델과 최첨단 해외 모델을 함께 쓴다. 우리가 먼저 고민해 봐야하는 것은 AI로 무엇을 하려는가, 곧 목적이고 세팅은 목적을 따른다. 미래를 위한 연구나 대비처럼 우리 기술로 당장 안 되는 영역은 SOTA 모델을 같이 쓰면 된다. 반면 행정,법률,재정,국방,교육처럼 계량기와 스위치와 교과서와 법전이 한꺼번에 걸리는 영역, 같은 입력에 같은 결과가 나오고 근거를 설명할 수 있어야 하는 영역은 우리가 직접 설계해야 한다. 결정론적 기호주의와 룰베이스, 뉴로심볼릭이 필요한 곳이 바로 여기다. 문장 대신 확률이 붙은 정형 판단만 내놓는 Jev 같은 모델이 주목받는 것도 같은 흐름이다. 이 기준으로 보면 독파모와 프런티어 AI는 서로 다른 층의 일이다. 독파모는 현장의 모델이다. 제조,금융,의료,공공의 AX에는 비용과 속도, 보안, 전문성에 맞춘 모델이 필요하고, 그 승부는 벤치마크 점수보다 한국어 토큰 효율과 서빙 최적화, 실운용 데이터의 축적에서 갈린다. 12월 출시될 모두의 AI가 독파모 기준 국산 모델을 50% 이상 쓰도록 한 것은 이 현장을 만들어 주는 장치다. 그리고, 프런티어 AI는 상한의 모델이다. 프런티어를 가진 나라와 못 가진 나라의 격차는 더 벌어질 것이고, 그 격차는 성능의 격차이기 전에 협상력의 격차다. 문턱을 넘은 모델이 있어야 상호인정과 오픈웨이트 접근 같은 조건을 요구할 수 있고, 프런티어 연구가 있어야 인재가 남는다. 독파모가 뿌리이고 프런티어가 꼭대기다. 뿌리 없는 꼭대기도, 꼭대기 없는 뿌리도 오래가지 못한다. 역량은 닿을 수 있는 거리에 있다. 미국의 합동권고는 증류가 중국 기업들 개발 전략의 핵심이라고 지목했다. 중국이 증류만으로 여기까지 온 것은 아니지만, 인력과 자본, 역량만 갖추면 프런티어급에 근접할 수 있다는 증거이기도 하다. 지식 증류 자체는 미 당국도 인정하는 정상적인 학습 기법이다. 우리가 프론티어급 AI를 확보할 수 있는지 어느정도 답이 되었을까. 약관을 어기고 남의 모델을 베끼는 일은 논외지만, 허용된 범위의 증류는 기반을 닦는 데 충분히 쓸모가 있다. 세계 최고를 지향하되 세계 최고가 될 필요는 없다. 중국식 빠른 추격에 반도체 레버리지를 더해 SOTA에 준하는 능력을 유지하고, 그 위에서 서빙 레이어의 최적화와 실제 운영,사용자 데이터의 순환을 완성하면 프런티어급 AI로 가는 승산은 충분하다고 본다. 무엇을 할 것인가 해야 할 일은 네 가지이고, 순서가 있다. 첫째, 인프라다. 해외 프런티어와 같은 규모일 필요는 없다. 경쟁의 커트라인을 넘을 역량이면 되고, 최근 기사를 보면 정부는 프론티어 AI를 위해 최신 GPU 1만 장 확보에 3조 8,500억 원을 배정한 것으로 보인다. 이를 몇 배로 키워도 5천조 원 규모로 거론되는 메가 프로젝트에 비하면 턱없이 작은 돈이다. 관건은 재원과 조건이다. 재원은 반도체 초과이윤에서 상당부분 나와야 한다. 노르웨이가 오일머니를 국부펀드로 묶어 다음 세대의 자산으로 바꾸었듯, 스톡 수익이 걷히는 동안 그 일부를 플로우 층인 모델,서빙,에이전트로 옮기는 것이다. 조건도 붙어야 한다. 데이터센터 인허가와 전력 배정에 국내 모델과 에이전트의 워크로드가 일정 부분 채운다는 조건을 걸어, 토큰이 해외로 나가 우리 경제구조자체가 흔들리는 구조는 막아야 한다. 둘째, 운영 데이터와 서빙 레이어다. 모두의 AI가 독파모 기준 국산 모델을 50% 이상 쓰도록 한 조건은 사실상의 토큰 수입대체 조항이다. 정부 구상대로 국민 한 사람마다 에이전트를 두는 시대에 예를 들어 5천만 명이 해외 모델에 월 20달러씩만 내도 연 120억 달러, 지난해 지식서비스 적자 전체(102억 5천만 달러)를 넘는다. 정액제가 종량제로 넘어가는 지금, 이 숫자는 바닥이다. 이 수요를 어느정도라도 국산 모델로 돌리는 것 자체가 경제주권이다. 그 위에서 우리가 측정해야할 지표는 성능을 토큰으로 나눈 연비다. 한글 1만 자를 출력하는 데 한국어 최적화 모델은 1만 토큰이면 되지만 미국 모델은 2만, 중국 모델은 4만 토큰을 쓴다. 토큰당 단가가 싸 보여도 과업당 청구서는 싸지 않다. 한국어 토큰 효율과 서빙 최적화는 국산 모델의 존재 이유이고, 여기서 쌓이는 운영 데이터가 다음 모델을 만든다. 에이전트 시대는 축적의 시대다. 셋째, 모델 역량이다. 독파모 3차 평가는 계획대로 마무리하되, 배경훈 부총리가 언급한것처럼 탈락시키는 경쟁에서 가능성을 키우는 지원으로 바꾼다. 그 위에 프런티어 AI를 국가전략자산으로 별도 추진하되, 독파모 팀들이 쌓은 자금과 인력, 기술이 프런티어의 토대가 되도록 두 사업을 잇는다. 간판만 바꾸는 일이 되지 않으려면 역할 분담을 먼저 밝혀야 한다. 독파모는 현장, 프런티어는 상한이다. 우리가 정해야 하는 영역에서는 결정론적이고 검증 가능한 판단 체계를 직접 만들고, 모델은 규칙의 그릇이므로 평가,환류,제어 계층은 국산으로 갖춘다. 조달에는 전환 가능성과 한국 법규 준수 평가를 조건으로 걸어, 외산 모델을 쓰더라도 스위치와 법전의 열쇠는 우리가 반드시 쥐어야 한다. 넷째, 그리고 가장 중요한 것은 인식의 전환이다. 앞의 세 가지는 예산과 제도로 풀리지만, 그 예산과 제도는 인식이 바뀌어야 나온다. 지금 소버린 AI는 모델 하나 만드는 사업으로 다뤄진다. 그러나 앞에서 설명한 것처럼 모델에는 계량기와 스위치와 교과서와 법전이 겹쳐 있다. 경상수지와 안보와 교육과 법의 문제이며, 산업정책을 넘어 국가전략의 문제다. 인식이 바뀌면 계기판부터 바뀐다. 토큰을 얼마나 수입하는지, 국산 토큰의 비중이 얼마인지, 과업당 연비가 어떤지를 재는 지표가 국가 통계에 올라야 관리를 할 수 있다. 지금 소버린AI 가 어떤 국가적 문제, 국가전략자산 관점에서 중요한지 충분히 설명되고, 대중의 인식이 바뀌어야 오해가 없을 것이다. AI는 단순한 기술이 아니다. 핵무기의 세력전이와 인터넷의 범용성을 함께 지닌 기술이 공기처럼 어디에나 스며드는 유비쿼터스가 되고 있다. 공기가 된 기술의 규칙을 남이 정하게 둘 것인가. 소버린 AI는 문명사적 전환의 한가운데서 우리가 무엇을 지키고 무엇을 스스로 정할지를 묻는 주권의 문제다. 그 주권을 지키는 최소 조건이 우리 AI다. 독파모도, 프런티어 AI도 계속 가져가야 한다.

2026.09.30 14:02이승현 컬럼니스트

마이크로소프트가 제시한 '피지컬 AI' 구현 전략은

"기업이 인공지능(AI)을 산업 현장에 잘 적용하려면 시스템 연결성에 신경써야 합니다. 최신 AI 모델을 도입하는 데 그치지 않고 데이터 수집과 학습, 현장 배포를 유기적으로 연결해야 문제를 해결할 수 있습니다." 에런 슈나이더 마이크로소프트 엔지니어링·피지컬 AI 부문 부사장은 30일 서울 코엑스에서 열린 '마이크로소프트 인더스트리 서밋'에서 피지컬 AI 전략을 이같이 제시했다. 그는 마이크로소프트 고객 현장에서 피지컬 AI 솔루션을 개발하는 현장 배치 엔지니어링팀을 이끌고 있다. 마이크로소프트는 피지컬 AI를 물리적 환경에서 카메라·센서·드론·로봇 등과 함께 작동하는 AI로 정의했다. 디지털 공간에서 발전한 AI 추론·계획 역량을 실제 장치 움직임과 작업 수행으로 확장하는 것이 주요 목표다. 슈나이더 부사장은 기업이 AI 모델을 선택할 때 지능 수준과 실행 속도, 운영 비용을 함께 고려해야 한다고 강조했다. 성능이 가장 높은 최신 모델보다 실제 업무에 필요한 정확도와 응답 속도를 충족하면서 비용을 줄일 수 있는 모델이 더 적합할 수 있다는 설명이다. 그는 "실제 비즈니스 문제를 해결하는 솔루션을 만드는 것은 AI 모델을 둘러싼 시스템"이라며 "에이전트 작업 수행 체계와 메모리 관리, 적절한 모델 연결, 토큰 사용량 최적화 모두 고려해야 한다"고 강조했다. 슈나이더 부사장은 로봇 학습에 필요한 데이터 부족을 시뮬레이션으로 보완하는 해결책을 제시했다. 사람이 로봇을 원격 조작해 데이터를 수집한 뒤, 이를 디지털 트윈서 여러 상황을 통해 데이터를 늘리는 식이다. 슈나이더 부사장은 로봇이 물체를 집어 옮기는 작업을 예로 들었다. 실제 데이터 100개 에피소드로 약 60%였던 정확도를 시뮬레이션과 디지털 트윈을 활용해 90%대 후반까지 높일 수 있다고 설명했다. 학습한 모델은 소프트웨어(SW)와 하드웨어(HW)를 연동한 평가를 거쳐 실제 로봇에 배포한다. 마이크로소프트는 이런 과정을 지원하는 오픈소스 '피지컬 AI 툴체인'을 제공하고 있다. 현장 장치의 데이터 수집부터 모델 학습·배포·모니터링까지 연결하며, 엔비디아의 시뮬레이션 도구인 아이작 심·아이작 랩과 디지털 트윈 플랫폼 옴니버스를 결합했다. 그는 현장 엔지니어링도 주요 실행 전략으로 내세웠다. 마이크로소프트 엔지니어가 고객 제조 현장을 직접 방문해 생산 환경과 작업 과정을 확인하고, 고객사 엔지니어와 함께 모델을 학습시키며 솔루션의 작동 여부를 검증하는 식이다. 슈나이더 부사장은 "우리는 고객과 협력하면서 실제 물리적 환경에 적합한 솔루션을 만들고 생산 문제를 해결할 것"이라고 말했다.

2026.09.30 11:51김미정 기자

AI 모델 성능만으론 부족…CTO들이 꼽은 경쟁력은 최적화

국내 주요 기술기업의 최고기술책임자(CTO)들이 인공지능(AI) 에이전트 확산으로 AI 산업의 경쟁 축이 단순 모델 성능에서 추론 비용과 인프라 효율성으로 빠르게 이동할 것이란 전망을 내놨다. AI 반도체와 모델이 다양해지면서 특정 하드웨어의 성능만 높이기보다 모델부터 반도체, 소프트웨어, 실제 워크로드까지 함께 최적화하는 역량이 중요해질 것이란 분석이다. 이진원 하이퍼엑셀 CTO는 29일 서울 코엑스에서 열린 래블업 기술 컨퍼런스 'lab | up > /conf/6'에서 "AI 시장의 무게중심이 학습에서 추론으로 빠르게 이동하고 있다"며 "추론 시장에서는 결국 비용을 얼마나 절감할 수 있느냐가 중요하다"고 밝혔다. 그는 AI 활용처가 늘어날수록 단일 반도체가 모든 요구를 충족하기 어려워질 것으로 내다봤다. 빠른 응답 속도가 필요한 서비스가 있는 반면, 비용 효율성이 중요한 서비스도 있어 워크로드에 따라 필요한 반도체와 인프라 구성이 달라진다는 설명이다. 이 CTO는 "AI 반도체는 속도와 전력 효율, 비용 등 모든 지표를 동시에 최고 수준으로 끌어올리기 어렵다"며 "각 요소가 트레이드오프 관계에 있는 만큼 목표로 하는 AI 서비스에 맞춰 전략적으로 선택해야 한다"고 말했다. AI 모델 개발 단계에서도 추론 최적화가 핵심 과제로 떠오르고 있다. 이활석 업스테이지 CTO는 엔비디아·AMD·퓨리오사AI 등 서로 다른 AI 반도체를 활용하면서 범용적인 최적화만으로는 한계가 있다고 설명했다. 모델이 실제 어떤 서비스에서 어떻게 사용되는지까지 파악해야 하드웨어 성능을 제대로 끌어낼 수 있다는 진단이다. 이활석 CTO는 "애플리케이션 정보가 칩까지 흘러가야 경쟁력이 생길 수 있다"며 "워크로드 성격부터 고객의 특성, 칩의 특성까지 각 레이어를 연결해 AI를 최적화해야 한다"고 말했다. 모델과 반도체 사이를 연결하는 최적화 기술의 역할도 커질 전망이다. 김태호 노타AI CTO는 데이터 보안과 비용, 특정 업무에 특화된 AI 수요 등으로 향후 AI 생태계가 더욱 다변화될 것으로 내다봤다. 다양한 모델을 서로 다른 AI 반도체에서 효율적으로 구동할 수 있도록 연결하는 기술이 중요해진다는 설명이다. 그러면서 AI가 기존 기술을 조합해 모델을 최적화하는 능력은 빠르게 향상되고 있지만, 새로운 모델 구조와 워크로드에 맞는 최적화 기법을 만드는 데는 여전히 한계가 있다고 봤다. 인프라 운영 단계에선 서로 다른 하드웨어와 워크로드의 조합이 급증하는 양상이 새로운 병목으로 꼽혔다. 김준기 래블업 CTO는 오케스트레이션 미들웨어가 하위의 다양한 하드웨어와 상위의 워크로드·애플리케이션을 연결해야 하는 만큼 지원해야 할 조합 자체가 빠르게 늘어나고 있다고 짚었다. 김 CTO는 "AI 하드웨어와 워크로드가 다양해지면서 이를 연결해야 하는 조합도 빠르게 늘고 있다"며 "결국 얼마나 다양한 조합과 실제 서비스 환경, 사용자 시나리오에서 검증했는지가 중요해질 것"이라고 말했다. 이날 CTO들은 AI 추론 효율을 높이기 위해 어느 하나의 기술만 개선해선 한계가 있다고 입을 모았다. 모델과 소프트웨어, 메모리와 AI 반도체, 오케스트레이션에 이르는 각 영역을 실제 서비스의 특성에 맞춰 연결하는 역량이 AI 인프라 경쟁력을 좌우할 수 있다는 분석이다. 이진원 CTO는 "AI 기술이 빠르게 고도화되면서 앞으로는 AI를 위한 모델과 사람이 사용하는 모델이 서로 다른 방향으로 발전할 수 있다"며 "이를 뒷받침하는 AI 인프라 역시 용도에 따라 분리되는 시대가 올 것"이라고 전망했다.

2026.09.29 13:04한정호 기자

신정규 래블업 대표 "AI도 전기처럼 쓰는 시대…복잡한 인프라 쉽게 바꿀 것"

"인공지능(AI)과 인프라는 갈수록 복잡해지고 있습니다. 래블업은 이 복잡한 운영을 직관적이고 간단하게 바꿔 누구나 지능을 계량하고 필요할 때 사용할 수 있도록 만들겠습니다." 신정규 래블업 대표는 29일 서울 코엑스에서 열린 연례 기술 컨퍼런스 'lab | up > /conf/6'에서 AI 산업 변화와 기술 전략에 대해 이같이 밝혔다. 신 대표는 AI가 연구·개발을 넘어 실제 산업과 서비스에 활용되면서 단순히 좋은 모델이나 그래픽처리장치(GPU)를 확보하는 것만으로는 충분하지 않다고 진단했다. 다양한 AI 모델과 가속기, 클라우드와 자체 인프라를 연결하고 사용량과 비용까지 하나의 환경에서 관리하는 역량이 중요해졌다는 설명이다. 특히 AI가 만들어내는 지능을 측정하고 관리하는 기준으로 토큰과 전력, 모델 자체의 지능을 제시했다. 같은 작업이라도 어떤 모델을 사용하느냐에 따라 필요한 토큰과 비용이 달라지는 만큼 AI를 산업적으로 활용하려면 이를 측정할 수 있어야 한다는 분석이다. 신 대표는 "동일한 토큰으로 얼마나 더 많은 지능을 압축해서 제공할 수 있는지가 굉장히 중요한 시점"이라며 "필요한 지능 수준과 문제 해결에 투입해야 하는 토큰량을 함께 계산할 수 있어야 한다"고 설명했다. 래블업은 이를 위한 핵심 제품으로 '백엔드닷AI'와 '컨티넘'을 제시했다. 백엔드닷AI는 다양한 AI 가속기와 대규모 클러스터에서 AI 모델의 학습과 서비스를 통합 운영·관리하는 AI 인프라 플랫폼이다. 컨티넘은 여러 AI 모델로 들어가는 요청을 한곳에서 관리하는 라우터와 이를 통합 관리하는 허브로 구성된다. 클라우드와 자체 구축한 AI 모델을 연결하고 요청을 자동으로 배분하는 동시에 조직과 팀별 토큰 사용량과 비용 등을 확인하도록 지원한다. 컨티넘 라우터의 단독 솔루션은 다음 달 공개할 예정이다. 신 대표는 "토큰이 전기처럼 사용된다고 하면 결국 계량기가 필요한 상황"이라며 "얼마나 절약됐는지, 어느 팀이 토큰을 얼마나 사용하고 있는지 확인할 수 있어야 한다"고 말했다. AI 에이전트 확산에 대응한 새로운 기술 개발에도 나선다. 래블업은 여러 AI 에이전트가 서버 자원을 안정적으로 나눠 사용할 수 있도록 마이크로 가상머신(VM)과 컨테이너를 결합한 '누빔(Neuvm)'을 개발 중이다. 기존 컨테이너 환경에서 발생하는 디스크 입출력(I/O)과 네트워크 대역폭 격리 문제를 해결하는 것이 목표로, 올해 말 베타 버전 공개를 준비 중이다. 사람과 여러 AI 에이전트가 함께 일할 수 있는 자체 AI 에이전트 플랫폼도 개발하고 있다. 에이전트 생성과 운영을 자동화하고 외부 서비스 호출과 자격 증명 등을 중앙에서 관리하는 구조다. 이를 활용해 사람과 AI 에이전트가 한 공간에서 협업할 수 있는 형태의 업무 공간 '스페이스(Space)'도 구현했다. 신 대표는 "갈수록 복잡해지는 AI의 수면 아래에서 일어나는 것들을 더 직관적이고 간단하게 바꿀 것"이라며 "모두가 지능을 계량하고 원할 때 사용할 수 있도록 하는 일을 지속 추진해 나가겠다"고 강조했다.

2026.09.29 11:27한정호 기자

[AI는 지금] 앤트로픽, 오픈AI '가성비 전략'에 맞불…소넷 5.5 공개

앤트로픽이 더 빠르고 비용을 낮춘 인공지능(AI) 모델 '클로드 소넷 5.5'를 내놓으며 오픈AI와 가성비 경쟁에 나섰다. 앤트로픽은 28일(현지시간) 자사 블로그를 통해 클로드 소넷 5.5를 출시했다고 밝혔다. 이전 모델인 소넷 5보다 출력 속도가 30% 이상 높였고 같은 작업을 처리하는 비용은 최대 30% 줄였다. 소넷 5.5의 가격은 오픈AI가 최근 출시한 GPT-6 솔과 같다. 두 모델 모두 100만 토큰당 입력 2달러, 출력 10달러다. 소넷 5.5는 기존 소넷 5와 토큰 가격은 같지만 같은 작업에 사용하는 토큰을 줄여 실제 작업 비용을 낮췄다. 소넷 5.5는 최고 성능 모델인 오퍼스 5.5보다 빠르고 저렴하게 사용할 수 있는 모델이다. 복잡한 판단이 필요한 작업보다 문서 작성과 코드 수정 등 일상적인 업무를 빠르게 처리하는 데 초점을 맞췄다. 오픈AI GPT-6 솔도 최고 성능 모델인 GPT-6 아스트라보다 가격을 낮추면서 성능과 비용 균형을 맞춘 모델이다. 오픈AI는 지난 22일 솔을 출시하며 복잡한 코딩과 AI 에이전트 업무에 활용할 수 있다고 밝혔다. 가격은 두 모델이 같지만 비용을 낮춘 방식은 다르다. 오픈AI는 GPT-6 솔의 API 가격을 이전 GPT-5.6 솔보다 50% 낮췄다. 앤트로픽은 소넷 5의 토큰 가격을 그대로 유지하면서 같은 작업에 필요한 토큰을 줄였다. 소넷 5.5는 코딩과 실제 업무 수행 능력에서도 이전 모델보다 높은 점수를 기록했다. AI가 명령줄 환경에서 여러 단계의 코딩 작업을 수행하는 능력을 평가하는 터미널벤치 4.0에서 70.6%를 기록했다. 소넷 5는 10.3%, 상위 모델인 오퍼스 5.5는 66.4%였다. 44개 직업과 9개 산업의 업무를 평가하는 GDPval-AA v2.1에서는 1844점을 기록해 오퍼스 5.5의 1846점에 근접했다. 컴퓨터를 직접 조작해 작업하는 능력을 평가하는 OS월드 2.1에서도 소넷 5.5는 80.1%, 오퍼스 5.5는 81.8%를 기록했다. 차트를 읽고 이해하는 능력을 평가하는 차토그래피에서는 이전 세대와 격차가 컸다. 소넷 5는 15.6%에 그쳤지만 소넷 5.5는 61.6%를 기록했다. 비용 대비 성능도 이전 모델보다 높아졌다. 소넷 5.5는 낮거나 중간 수준의 추론 강도에서도 일부 평가에서 소넷 5의 최고 점수를 넘어섰다. 코딩 평가인 프런티어코드에서는 높은 추론 강도에서 소넷 5보다 약 10점 높은 점수를 냈다. 각각 작업에 든 비용은 소넷 5의 약 10%, 7% 수준이었다. 다만 앤트로픽은 벤치마크 점수가 실제 성능을 모두 보여주는 것은 아니라고 밝혔다. 정답이 명확하지 않고 오랜 시간 판단을 이어가야 하는 복잡한 업무에서는 오퍼스 5.5가 여전히 소넷 5.5보다 뛰어나다고 설명했다. 성능 향상에 맞춰 안전장치도 추가했다. 소넷 5.5는 소넷 계열 가운데 처음으로 상위 모델에 적용하던 사이버보안 안전장치를 적용했다. 위험도가 높은 사이버보안 요청이 들어오면 이전 모델인 소넷 5가 대신 처리하도록 했다. 다른 AI가 클로드 답변을 대량으로 수집해 성능을 모방하는 증류 공격에도 대응했다. 앤트로픽은 수천 개 가짜 계정을 이용해 답변을 수집하는 공격을 막기 위해 소넷 계열 최초로 안전 분류기를 적용했다. 모델이 이용자의 의도와 다르게 행동하는지도 점검했다. 약 1850개 상황을 대상으로 자동 행동 감사를 진행한 결과 대부분의 정렬과 오용 방지, 정직성 평가에서 소넷 5와 같거나 개선된 결과를 기록했다고 밝혔다. 소넷 5.5는 클로드 앱과 클로드 코드, 클로드 플랫폼에서 사용할 수 있다. 아마존웹서비스(AWS)와 구글 클라우드, 마이크로소프트 애저에서도 제공된다. 앤트로픽은 "소넷 5.5는 소넷 5보다 더 명확하게 글을 쓰고 초기 테스터들은 소넷 5보다 협업하기 좋은 파트너라고 평가했다"며 "속도가 빨라져 덜 복잡한 작업을 빠르게 반복하는 데도 적합하다"고 설명했다.

2026.09.29 08:51김동원 기자

[인터뷰] 델 "韓도 베라 루빈 벌써 찾는다…엔드투엔드 지원 앞장설 것"

"인공지능(AI) 서버를 구매하는 국내 고객은 매 분기 늘고 있습니다. 이제는 대기업과 클라우드서비스제공사(CSP)를 넘어 소규모라도 자체 AI 인프라를 확보하려는 기업들이 계속 증가하는 추세입니다. 엔비디아의 차세대 베라 루빈 기반 제품도 정식 출시 전부터 국내 주요 고객들이 상담과 발주를 준비하고 있습니다." 양원석 한국 델 테크놀로지스 전무는 28일 서울 강남구 본사에서 지디넷코리아와 만나 국내 AI 인프라 시장 동향에 대해 이같이 밝혔다. 그는 기업의 AI 활용이 개념검증(PoC)을 넘어 실제 업무와 운영 단계로 진입하면서 그래픽처리장치(GPU)뿐 아니라 서버·스토리지·네트워크·냉각을 함께 고려하는 인프라 투자가 본격화되고 있다고 진단했다. 韓 AI 서버 고객 매분기 증가…베라 루빈도 출시 전부터 찾는다 국내 AI 인프라 수요는 지속 증가하고 있다. 초기에는 대규모 투자가 가능한 기업을 중심으로 시장이 형성됐지만 최근에는 도입 규모가 작은 스타트업까지 자체 AI 서버 구매에 나서는 분위기다. 양 전무는 "AI 서버를 구매하는 고객 수는 매 분기 늘어나는 추세"라며 "정부의 GPU 투자와 국가 AI 컴퓨팅 인프라 구축도 국내 시장에서 큰 수요처가 되고 있다"고 말했다. 네오클라우드 시장의 성장도 새로운 사업 기회로 꼽았다. 코어위브를 비롯해 대규모 GPU 인프라를 기반으로 컴퓨팅 서비스를 제공하는 사업자가 글로벌 시장에서 빠르게 성장한 데 이어, 국내에서도 대규모 AI 팩토리와 GPU 서비스 구축을 추진하는 기업이 등장하고 있어서다. 델은 해외 네오클라우드 사업자의 국내 진출 가능성도 주시하고 있다. 특히 시장 관심은 엔비디아 블랙웰에서 차세대 베라 루빈 아키텍처로 빠르게 이동 중이다. 양 전무는 "호퍼 세대에서 블랙웰로 넘어갈 때보다 훨씬 빠른 속도로 다음 아키텍처로 전환되고 있다"며 "베라 루빈 기반 제품이 아직 정식 출시되지 않았지만 글로벌뿐 아니라 한국에서도 주요 고객들이 이미 델과 상담하고 발주를 준비 중"이라고 밝혔다. 이에 맞춰 델은 베라 루빈 NVL4 아키텍처를 탑재한 파워엣지(PowerEdge) XE8812를 공개하는 등 차세대 제품군을 확대하고 있다. AI 서버 주문 609억 달러…에이전틱 AI에 CPU도 다시 부상 AI 인프라 수요 증가는 델의 글로벌 실적 성장으로 이어지고 있다. 델은 2027 회계연도 2분기 AI 서버 신규 주문이 609억 달러, AI 특화 서버 매출은 164억 달러를 기록했다. 7월 말 기준 AI 서버 수주잔고는 950억 달러에 달했다. 같은 기간 전통 서버·네트워킹 매출도 전년 동기 대비 122% 증가했다. 국내에서도 델의 서버 사업은 성장세를 이어가고 있다. IDC가 집계한 올해 2분기 국내 시장에서 델은 메인스트림 서버 판매대수와 매출 모두 1위를 기록했다. 매출 기준으로는 19분기 연속 1위다. 메인스트림 서버 가운데 GPU 서버와 코어 서버 부문에서도 1위를 기록했다. 양 전무는 앞으로 AI 인프라에서 GPU만큼 중앙처리장치(CPU)의 역할도 다시 커질 것으로 내다봤다. 에이전틱 AI 확산과 모델 경량화로 모든 AI 작업을 대규모 GPU에서 처리할 필요가 없어지면서 워크로드 특성에 맞춰 CPU와 GPU를 적절히 배치하는 구조가 중요해진다는 전망이다. 그는 "GPU의 토큰 처리 성능이 월등한 것은 맞지만 이제 거대한 AI 모델만 필요한 시대는 지나가고 있다"며 "작은 모델로 효율적으로 서비스를 제공할 수 있는 영역이 생기면서 시장이 세분화되고 있다"고 말했다. 이어 "델의 차세대 파워엣지 서버 라인업에도 엔비디아 베라 CPU를 기반으로 한 ARM 서버가 포함될 예정"이라고 덧붙였다. 이 과정에서 양 전무가 강조한 개념은 '토큰 라우팅'과 '토크노믹스'다. 단순한 작업은 상대적으로 작은 모델과 저비용 인프라에서 처리하고 복잡한 추론은 대형 모델과 GPU로 보내는 식으로 AI 연산을 배분해야 비용과 전력 소비를 줄일 수 있다는 것이다. 델은 퍼블릭 클라우드에만 의존하기보다 온프레미스와 클라우드를 함께 사용하는 하이브리드 AI 환경의 중요성이 커질 것으로 보고 있다. GPU 넘어 랙 전체가 하나의 시스템…수랭·랙스케일 공략 AI 서버의 성능과 전력밀도가 높아지면서 데이터센터 구축 방식도 바뀌고 있다. 개별 서버를 설치하는 방식에서 벗어나 컴퓨팅·스토리지·네트워크·전력·냉각을 랙 단위에서 통합하는 '랙스케일' 구조가 확산되는 모습이다. 국내에서도 직접수랭(DLC)을 비롯한 수랭식 AI 인프라 적용 사례가 늘고 있다는 설명이다. 델은 이에 대응해 '파워랙(PowerRack)'과 '파워쿨(PowerCool)'을 중심으로 AI 인프라 포트폴리오를 확대해왔다. 랙 내부에는 통합 랙 컨트롤러(IRC)를 적용해 시스템 상태를 관리하고 수랭 환경에서 누수가 발생하면 이를 감지해 대응할 수 있도록 했다. 파워랙은 컴퓨팅·네트워킹·스토리지와 전력·냉각을 하나의 시스템으로 통합하는 구조다. 델은 공장에서 사전 통합·검증한 랙을 현장에 공급해 6시간여 만에 실제 워크로드를 가동할 수 있다고 밝혔다. 델은 이미 코어위브 등 글로벌 네오클라우드 기업에 랙스케일 인프라를 공급하는 중이다. 미국 에너지부 산하 국립에너지연구과학컴퓨팅센터(NERSC)의 차세대 슈퍼컴퓨터 다우드나에도 베라 루빈 NVL4와 퀀텀-X800 인피니밴드 네트워킹 기반 파워엣지 XE8812를 공급할 예정이다. 델의 주요 국내 고객으로는 삼성전자와 네이버클라우드 등이 있다. 양 전무는 향후 국내 AI 인프라 시장에서 단순 서버 공급보다 설계부터 구축·운영까지 아우르는 역량이 중요해질 것으로 전망했다. 고밀도 GPU 시스템이 늘수록 서버만 설치해서는 해결하기 어려운 전력과 냉각, 네트워크 문제가 동시에 발생하기 때문이다. 델은 서버·스토리지·네트워크·데이터 관리·서비스·컨설팅까지 아우르는 엔드투엔드 포트폴리오를 앞세워 국내 시장을 공략한다는 계획이다. 양 전무는 "한국에서도 앞으로 2~3년 동안 AI 데이터센터 투자가 크게 확대되면서 시장 기회가 계속 커질 것으로 보고 있다"며 "AI 서버 한 제품만 공급하는 것이 아니라 고객이 필요로 하는 컴퓨팅·스토리지·네트워크·냉각까지 전체 인프라를 안정적으로 구축할 수 있는 역량을 바탕으로 지속 지원할 것"이라고 강조했다.

2026.09.28 11:00한정호 기자

[AI는 지금] 비싼 오픈AI·앤트로픽…美 기업들, 오픈 모델로 눈 돌린다

미국 기업들이 오픈AI와 앤트로픽의 최첨단 인공지능(AI) 모델 대신 비용이 저렴한 오픈웨이트 모델로 눈을 돌리고 있다. AI 활용이 늘면서 기업의 관련 비용도 빠르게 불어나자 자체 인프라에서 운영하고 목적에 맞게 조정할 수 있는 오픈 모델이 대안으로 떠오르는 모습이다. 27일(현지시간) 파이낸셜타임즈에 따르면 미국 기업들 사이에서 오픈웨이트 AI 모델 도입이 빠르게 확산되고 있다. 기술기업뿐 아니라 금융사 PNC파이낸셜서비스, 물류기업 CH로빈슨, 산업기업 지멘스 등 다양한 업종에서 최근 오픈웨이트 모델 활용을 논의 중인 것으로 전해졌다. 오픈웨이트 모델은 AI 모델을 구성하는 핵심 매개변수를 공개해 기업이 직접 내려받아 자체 하드웨어에서 구동하거나 필요에 맞게 미세조정할 수 있는 모델이다. 모델 개발사에 사용량에 따른 토큰 비용을 계속 지불해야 하는 폐쇄형 모델과 비교해 운영비를 크게 낮출 수 있다는 점이 강점으로 꼽힌다. 기업들의 관심도 빠르게 높아지고 있다. 시장조사업체 알파센스에 따르면 지난 8~9월 기업 실적발표와 투자자 행사에서 오픈웨이트 또는 오픈소스 모델이 언급된 횟수는 전년 동기 대비 6배 증가했다. 클라우드 플랫폼 기업 버셀의 AI 게이트웨이에서 처리된 전체 토큰 가운데 오픈웨이트 모델 비중도 지난해 12월 7%에서 올해 8월 56%까지 상승했다. 특히 중국 AI 기업들이 오픈웨이트 시장에서 영향력을 확대하고 있다. 딥시크와 지푸AI 등이 대표적이며 프랑스 미스트랄과 미국 리플렉션AI, 싱킹머신스랩 등도 개방형 방식의 모델을 개발 중이다. 오픈AI와 앤트로픽도 중국 기업들과 가격 경쟁이 치열해지자 최근 주력 모델의 저가형 제품을 내놨다. 기업들이 오픈 모델을 찾는 가장 큰 이유는 비용이다. 매치그룹이 운영하는 데이팅 앱 틴더는 AI 비용을 관리하기 위해 일부 비기술 사용자들의 요청을 오픈웨이트 모델로 처리하기 시작했다. 틴더의 AI 관련 지출 속도는 지난 1월 연간 100만 달러 수준에서 7월 1000만 달러 수준으로 불과 반년 만에 10배 뛰었다. 통신업계에선 오픈 모델 활용 비중을 더 공격적으로 높이고 있다. AT&T는 현재 전체 AI 워크로드의 약 40%를 오픈 모델로 운영 중이며 향후 1년 안에 이를 70%까지 높일 계획이다. 하루 처리량이 450억 토큰에 달하는 만큼 모델 사용 비용을 낮추는 것이 중요한 과제로 떠올랐기 때문이다. AT&T는 자사 데이터를 활용해 오픈 모델을 미세조정하는 방식도 활용 중이다. 특정 업무에선 조정한 오픈 모델이 폐쇄형 모델과 비슷하거나 더 높은 성능을 낼 수 있다는 설명이다. 기업 입장에선 모든 업무에 고성능 모델을 사용하는 대신 작업 난도와 비용에 따라 여러 오픈웨이트 AI 모델을 선택할 수 있는 여지가 커졌다. 비용뿐 아니라 데이터 보안과 주권 문제도 오픈 모델 확산을 이끌고 있다. 데이터센터 기업 디지털리얼티는 자체 인프라에서 오픈웨이트 모델을 구동하는 내부 챗봇을 구축했다. 업무 민감도와 복잡성에 따라 오픈 모델과 상용 폐쇄형 모델을 함께 사용 중이며 고객 데이터 등 민감한 정보는 외부 최첨단 모델에 입력하지 않는다는 방침이다. 앤디 마커스 AT&T 최고데이터·AI책임자는 "하루 450억개의 토큰을 처리하는 규모에선 비용이 매우 중요하다"며 "정확도를 유지할 수 있다면 비싼 폐쇄형 모델 대신 훨씬 저렴한 오픈 모델을 적극 활용할 것"이라고 밝혔다.

2026.09.28 10:58한정호 기자

네이버클라우드 "공격·방어형 AI 키운다…보안 데이터 830TB 확보"

"우리는 보안 특화 인공지능(AI) 모델 개발을 위한 준비를 모두 마쳤습니다. 그래픽처리장치(GPU) 4512장과 보안 데이터 830테라바이트(TB)를 활용해 공격·방어용 모델을 구축할 것입니다. 이를 통해 국가 핵심시설과 기업 사이버 위협 대응 역량을 높일 것입니다." 김진휘 네이버클라우드 전무는 22일 더 그랜드 롯데 서울 3층 사파이어볼룸에서 열린 '사이버보안 특화 AI 모델 개발사업 착수간담회'에서 프로젝트 전략을 이같이 밝혔다. 네이버클라우드 컨소시엄은 앞으로 10개월간 보안 특화 AI 모델 2종을 개발한다. 컨소시엄은 그래픽처리장치(GPU) 4512장과 약 830테라바이트(TB) 보안 데이터를 모델 개발에 활용한다. 참여기관 33곳과 협력기관 8곳 등 총 41개 기관은 데이터 수집과 모델 개발부터 성능 검증·현장 실증까지 역할을 나눠 수행한다. GPU 4512장은 네이버클라우드·LG AI연구원의 자체 자원 4256장, 정부 지원 물량 256장으로 구성된다. 네이버클라우드는 지난 8월부터 엔비디아 B200 4000장을 모델 개발에 투입한 바 있다. LG AI연구원은 H200 256장을 활용할 계획이다. 정부가 제공하는 B200 256장은 데이터 전처리와 모델 학습·현장 실증에 배분한다. 네이버클라우드 컨소시엄은 모델 학습에 필요한 보안 데이터 약 830TB를 우선 확보했다. 확보한 데이터에는 네이버클라우드와 LG CNS가 보유한 위협·운영 데이터와 국가 핵심 인프라·보안 산업 현장에서 수집한 실제 데이터가 포함됐다. 컨소시엄은 원천 데이터를 학습용 데이터로 가공하고 데이터셋과 라벨을 자동으로 구축하는 체계도 마련한다. 네이버클라우드와 LG AI연구원은 '하이퍼클로바X'와 '엑사원' 기반으로 보안 특화 모델을 각각 개발할 방침이다. 하이퍼클로바X 기반 모델은 여러 시스템의 위협 정보를 분석하고 대응 방안을 제시하는 방어 능력을 강화한다. 엑사원 기반 모델은 소스코드를 분석해 취약점과 실제 공격 경로를 찾아내는 능력에 집중한다. 김 전무는 "우리 컨소시엄은 두 모델의 공격과 방어 과정서 얻은 결과를 서로의 학습에 활용할 것"이라며 "공격형 모델이 발견한 취약점은 방어형 모델의 학습 데이터로, 방어형 모델이 제시한 대응 방식은 공격형 모델이 다시 검증할 과제로 활용할 것"이라고 밝혔다. 컨소시엄은 전체 개발 과정을 2단계로 나눠 진행할 계획이다. 1단계에서는 학습 방법을 최적화하고 평가·검증 체계를 확정할 방침이다. 2단계에서는 앞서 마련한 학습 방법을 적용해 각각 파라미터 약 7000억개급 보안 특화 모델의 성능을 높일 계획이다. 김 전무는 국제 벤치마크와 공인기관 검증을 통해 두 모델 취약점 발굴 능력과 침해사고 조사 성능을 측정한다고 설명했다. 그는 "금융·전력·과학기술·통신·반도체·방위산업·항공우주 분야의 국가 기반시설과 핵심 전략산업에서도 모델을 실증할 것"이라며 "검증을 마친 모델은 국내 보안 솔루션과 연동해 취약점 진단과 사이버 공격 대응·침해사고 조사 서비스에 적용할 것"이라고 말했다. 컨소시엄은 개발한 모델 2종을 오픈소스로 공개하고 중소기업에 취약점 점검 서비스를 지원할 계획이다. 네이버클라우드의 글로벌 AI 팩토리 사업과 LG그룹의 13개국 해외 거점을 활용해 현장 구축형 보안 AI 패키지의 해외 공급도 추진한다. 이날 김유원 네이버클라우드 대표는 "해외 모델로 지킬 수 없는 대한민국을 한국형 보안 특화 AI 모델로 지킬 것"이라고 밝혔다.

2026.09.22 16:57김미정 기자

월드 모델 개발사, 제품·사업 계획 '함구'…"경쟁사 유입 경계"

월드 모델 기업들이 제품·상용화 계획을 숨긴 채 연구·개발을 이어가고 있는 것으로 전해졌다. 사업 방향을 일찍 공개해 경쟁사를 불러들이기보다 물밑에서 기술을 완성해 시장 주도권을 확보하려는 전략으로 풀이된다. 20일(현지시간) 테크크런치 등 외신에 따르면 얀 르쿤이 이끄는 AMI랩스와 페이페이 리가 설립한 월드랩스는 대규모 투자를 유치했지만 구체적인 제품과 사업화 일정은 공개하지 않고 있다. 두 회사는 공간지능을 연구하는 월드 모델 분야의 대표 기업으로 꼽힌다. 월드 모델은 현실 공간의 구조와 사물 움직임을 이해하고 앞으로 일어날 일을 예측하는 인공지능(AI) 기술이다. 자율주행차가 주변 도로 상황을 파악하거나 휴머노이드 로봇이 물건을 옮기도록 훈련하는 데 활용될 수 있다. 짧은 영상을 비디오게임처럼 둘러볼 수 있는 가상공간으로 만드는 기술 구현도 가능하다. 두 회사는 아직 이 기술을 어느 분야에서 우선 상용화할지 밝히지 않았다. AMI랩스는 제조와 바이오의학·로봇 분야를 연구 중이며 의료진용 AI 소프트웨어(SW)도 개발하고 있지만 핵심 사업은 베일에 싸여 있는 상태다. 월드랩스의 '마블'은 현재 공개된 월드 모델 중 제품화에 가장 가까운 사례로 평가받고 있다. 미디어 콘텐츠와 컴퓨터그래픽을 제작하고 비디오게임에서 이용자가 탐험할 수 있는 공간도 구현할 수 있다. 다만 지금까지 공개된 결과물은 실제 사업보다 기술력을 보이는 데 초점 맞췄다. 현재 월드 모델 개발사에 데이터 공급하는 협력사도 비공개인 것으로 나타났다. 월드 모델용 데이터를 제공하는 피지클은 고객사 사업·기술 사례를 공개하지 않고 있다. 테크크런치는 해당 기업들이 사업 방향을 감추는 이유로 방대한 월드 모델 활용 범위를 꼽았다. 로봇과 자율주행·영상 제작 등 특정 시장을 먼저 지목하면 다른 월드 모델 기업이나 신생 AI 연구소가 곧바로 같은 사업에 뛰어들 수 있다는 이유에서다. 월드 모델 투자금도 사업 계획을 감추는 배경으로 제시되고 있다. 해당 개발사는 당장 수익을 내야 한다는 압박이 적어 특정 사업에 집중할 필요가 없기 때문이다. 다만 시장성이 확인되면 같은 투자금이 잠재적 경쟁사로 흘러가 경쟁을 키울 수 있다. 마이클 라바트 AMI랩스 공동창업자 겸 월드 모델 담당 부사장은 "우리는 아직 연구·개발 단계에 있다"며 "제품 계획이나 출시 일정에 관해서는 공개적으로 이야기하지 않고 있다"고 밝혔다.

2026.09.21 11:23김미정 기자

정철 KACI ANP 위원장 "GPU·AI 모델만으론 부족…AI 정책에 플랫폼 넣어야"

"그래픽처리장치(GPU)와 데이터센터를 확충하고 훌륭한 인공지능(AI) 모델을 만드는 것만으로는 국가와 기업의 AI 경쟁력이 완성되지 않습니다. 인프라와 모델을 실제 산업 현장에서 쓸 수 있도록 연결하는 플랫폼이 반드시 필요합니다." 정철 한국인공지능클라우드산업협회(KACI) AI 네이티브 플랫폼(ANP) 분과위원회 위원장은 21일 서울 마곡 나무에이엑스 본사에서 지디넷코리아와 만나 이같이 강조했다. KACI는 최근 기존 서비스형 플랫폼(PaaS) 지원분과위원회 명칭을 ANP 분과위원회로 변경했다. 생성형 AI와 AI 에이전트 확산으로 기업의 관심이 단순 클라우드 전환을 넘어 AI 모델·데이터·GPU를 실제 업무와 연결하는 단계로 이동하면서 기존 PaaS 역할도 AI 개발·배포·운영 전반으로 확대해야 한다는 판단에서다. 기존 산업이 축적한 기술과 경험을 계승하면서 AI 시대 플랫폼 산업의 범위와 역할을 새롭게 정립하겠다는 취지다. "발전소 지어놓고 배전망 빠진 셈"…AI 정책에 플랫폼 넣어야 정 위원장은 국가 AI 정책에서 플랫폼을 독립적인 영역으로 다뤄야 한다고 짚었다. 현재 정부 투자가 GPU·데이터센터 등 인프라 확보와 AI 모델 개발에 집중된 반면 이를 기업의 실제 서비스로 연결하는 플랫폼에 대한 정책적 정의는 상대적으로 부족하다는 지적이다. 그는 이를 전력망에 비유했다. GPU와 데이터센터가 발전소이고 AI 모델이 여기서 생산된 전기라면 플랫폼은 이를 기업과 산업 현장까지 전달하는 배전망이라는 설명이다. 정 위원장은 "발전소를 아무리 많이 짓고 좋은 전기를 생산해도 이를 기업까지 전달하는 배전망이 없으면 실제 산업에서 활용하기 어렵다"며 "플랫폼 기업을 위한 예산이 필요하다는 게 아니라 AI 정책을 설계할 때 인프라와 서비스 사이에 플랫폼이라는 영역을 명확하게 정의해 달라는 것"이라고 밝혔다. 특히 자체 인력과 자본으로 AI 운영 환경을 구축하기 어려운 중견·중소기업에는 플랫폼 역할이 더욱 중요하다고 봤다. AI 시대에는 기존 PaaS가 담당했던 CPU·메모리·애플리케이션 관리를 넘어 고가의 GPU부터 모델, 데이터, 추론, AI 서비스 품질까지 통합적으로 관리해야 하기 때문이다. GPU 활용 효율이 대표적인 사례다. 플랫폼을 통해 GPU를 분할·공유하고 작업을 스케줄링하면 한정된 자원을 보다 효율적으로 활용할 수 있다. 정 위원장은 "GPU를 한 장 더 사는 것보다 이미 확보한 GPU를 최대한 효율적으로 사용하는 것이 훨씬 빠르고 비용도 적게 든다"며 "GPU를 나누고 배분하고 운영·관리하면서 활용률을 높이는 것이 AI 네이티브 플랫폼의 핵심 역할 가운데 하나"라고 말했다. 생성형 AI 특성상 지속적인 운영·관리도 필요하다. 기존 애플리케이션과 달리 정상 작동 중에도 환각 현상이 발생할 수 있고 모델 업데이트 주기도 빨라 지속적인 품질 관측과 재학습·배포가 요구된다. 정 위원장은 "AI는 서비스를 한번 배포했다고 끝나는 것이 아니라 계속 관찰하고 문제가 생기면 다시 학습하고 배포하는 과정이 반복된다"며 "새로운 모델과 기술을 기업이 바로 활용할 수 있도록 연결하고 운영하는 역할도 플랫폼이 담당해야 한다"고 강조했다. 외산 쓰더라도 갈아탈 수 있어야…플랫폼 종속 경계 정 위원장은 국내 AI 플랫폼 산업을 육성해야 하는 또 다른 이유로 선택권을 꼽았다. 글로벌 AI 모델과 클라우드를 활용하더라도 특정 사업자에 종속되지 않고 필요에 따라 모델과 인프라를 바꿀 수 있는 환경이 필요하다는 주장이다. 특히 데이터와 모델뿐 아니라 이를 운영하는 플랫폼까지 특정 기술에 종속되면 전환 비용이 더욱 커질 수 있다고 봤다. 그는 "오픈AI 챗GPT든 다른 해외 첨단 AI 모델이든 좋은 서비스를 사용하는 것은 문제가 아니다"라며 "중요한 것은 필요할 때 다른 모델이나 인프라로 쉽게 바꿀 수 있어야 한다는 것"이라고 말했다. 이어 "플랫폼까지 특정 기술에 종속되면 모델을 바꾸고 싶어도 운영 환경 전체를 다시 구축해야 할 수 있다"며 "쿠버네티스처럼 개방형 표준을 기반으로 이식성과 상호운용성을 확보해야 한다"고 덧붙였다. 국내 플랫폼 기업에도 기회가 있다고 짚었다. 미국 빅테크와 투자 규모나 생태계 자체로 경쟁하기는 어렵지만 국내 기업들은 지난 10여 년간 PaaS와 클라우드 네이티브 시장에서 기술과 구축 경험을 축적했다. 특히 공공·금융·의료처럼 규제와 보안 요구가 높고 온프레미스·프라이빗 클라우드 구축이 필요한 시장에선 강점을 발휘할 수 있다는 설명이다. 다만 GPU 자원을 분할·할당하는 관리 기술과 추론·데이터 최적화 등 AI 시대 새롭게 요구되는 일부 분야에서는 글로벌 기업과 격차가 있다고 인정했다. 정 위원장은 "미국은 관련 수요가 많아 기술 개발과 실증이 빠르게 이뤄졌지만 국내에는 그동안 수요 자체가 부족했다"며 "국내 기업도 실제 환경에서 기술을 검증하고 레퍼런스를 쌓을 수 있는 사업이 필요하다"고 밝혔다. 공공부터 플랫폼 별도 과업으로…금융·제조 등 산업별 확산 ANP 분과위원회는 플랫폼을 정부 AI 정책의 독립적인 영역으로 정립하는 데 우선적으로 나설 계획이다. 공공 AI 사업에서 플랫폼 구축을 별도 과업으로 명시하고 기술 중립적인 발주 체계를 마련하는 것도 주요 과제로 꼽았다. 현재 플랫폼 구축이 대형 시스템통합(SI) 사업에 포함되는 경우가 많아 전문기업이 직접 경쟁하거나 레퍼런스를 확보하기 어렵다는 이유에서다. 기존 수행 실적을 요구하는 발주 방식도 신기술 기업의 시장 진입을 어렵게 만드는 요인으로 지적했다. 정 위원장은 "공공사업을 발주할 때 플랫폼을 별도 과업으로 명시하고 특정 기업의 제품 사양이 아니라 필요한 기능과 성능을 중심으로 기술 중립적인 규격을 만들어야 한다"며 "여러 플랫폼 기업이 동일한 조건에서 기술력으로 경쟁할 수 있는 구조가 필요하다"고 강조했다. 산업별 특성을 반영한 플랫폼 구축도 필요하다고 봤다. 금융은 보안과 규제 준수, 제조는 축적된 산업 데이터 활용, 공공은 구축 속도와 비용 효율성, 의료는 민감한 데이터를 보호하기 위한 데이터 주권 등 요구사항이 서로 다르기 때문이다. 그는 국내 기업들이 PaaS와 클라우드 네이티브 분야에서 상당 기간 기술과 경험을 축적한 만큼, AI 네이티브 환경에 맞춰 기술을 고도화하고 충분한 레퍼런스를 확보하면 해외 시장 진출도 가능할 것으로 내다봤다. ANP 분과위원회도 정부·국회와 정책 협력을 확대하고 AI 네이티브 플랫폼의 산업·기술적 범위를 구체화할 계획이다. 공공사업의 기술중립성과 상호운용성·이식성을 강화하고 제조·금융·공공·의료 등 수요 산업과 플랫폼 기업을 연결해 실증과 사업화 기회를 확대한다는 방침이다. 정 위원장은 "국내 플랫폼 기업 몇 곳의 몸집을 키우는 것이 목표가 아니라 플랫폼을 통해 AI가 실제 기업의 업무 역량과 생산성을 높일 수 있도록 생태계를 만들 것"이라며 "정부 AI 정책에서 플랫폼의 역할이 명확하게 정의되고 국내에서 기술과 레퍼런스를 쌓는 선순환이 만들어진다면 향후 해외 시장에서도 경쟁할 수 있는 산업으로 성장할 수 있을 것"이라고 밝혔다.

2026.09.21 11:23한정호 기자

클라우드 넘어 AI까지 통합…KT클라우드, '컴포지트 AI' 승부수

KT클라우드가 여러 클라우드 환경과 데이터, 그래픽처리장치(GPU)·신경망처리장치(NPU), 인공지능(AI) 모델과 에이전트를 하나로 연결하는 '컴포지트 AI' 전략을 본격화한다. 공용준 KT클라우드 클라우드본부장은 15일 서울 강남구 그랜드 인터컨티넨탈 서울 파르나스에서 열린 'KT클라우드 서밋 2026'에서 "AI 시대에는 특정 벤더의 클라우드 하나만으로 모든 워크로드를 해결하기 어려운 것이 현실이 됐다"며 "각각 목적을 지닌 시스템들이 공존할 수밖에 없다면 이를 어떻게 효율적으로 운영할 것인지 고민해야 한다"고 밝혔다. KT클라우드가 제시한 해법은 '컴포지트 클라우드'다. 기존 하이브리드 클라우드가 서로 다른 인프라와 네트워크를 연결하는 데 초점을 맞췄다면, 컴포지트 클라우드는 업무에 필요한 자원을 여러 클라우드에서 선택하고 이를 하나의 정책과 운영체계 아래 관리하는 개념이다. 기업이 필요한 기술과 자원을 각각 선택해 조합하면서도 하나의 환경처럼 운영할 수 있도록 지원하고 공공 분야에서 실제 적용 사례를 확대한다는 구상이다. 실제 KT클라우드는 자체 퍼블릭 클라우드뿐 아니라 마이크로소프트 애저, 프라이빗 클라우드, 온프레미스 등 서로 다른 환경을 하나의 거대한 컴퓨팅 자원처럼 관리할 수 있도록 통합 중이다. 계정과 권한부터 포털, 정책·보안, 모니터링, 비용 관리 등을 단계적으로 연결해 내년까지 관련 체계를 구축할 계획이다. 클라우드 넘어 AI까지 조합 최근 AI 확산에 따라 인프라 통합 대상도 확장되는 양상이다. 기존 클라우드가 컴퓨팅·스토리지·네트워크를 중심으로 설계됐다면 이제는 GPU를 어디에 배치할지부터 데이터와 AI 모델, 애플리케이션·에이전트를 어떻게 연결할지까지 함께 고려해야 한다는 설명이다. 이에 KT클라우드는 컴포지트 클라우드를 데이터와 GPU·NPU 등 컴퓨팅 자원, AI 모델, 애플리케이션과 에이전트까지 단일 실행 체계로 연결하는 컴포지트 AI로 확장할 계획이다. 공 본부장은 "GPU나 NPU를 갖추고 있다고 해도 이를 잘 엮어 서비스화하지 않으면 고객이 가치를 만들어내기 어렵다"고 짚었다. KT클라우드는 업스테이지·디노티시아·리벨리온·폴라리스오피스 등 국내 AI 기업과 협력하며 관련 생태계를 확대 중이다. 이를 기반으로 케이뱅크의 GPU 인프라를 비롯해 교육 분야 AI GPU·학습관리시스템(LMS), 한국마사회의 검색증강생성(RAG)·추론 기반 AI API 등 실제 적용 사례도 확보했다. 경북 정보시스템 65% 클라우드로 공공 AI 전환(AX) 지원 사례로는 경상북도가 소개됐다. 경북도는 KT클라우드와 협력해 '경북 AI·클라우드 데이터센터(AI·CDC)'를 구축하고 이를 지역 공공 AX의 거점으로 활용하고 있다. 김민석 경북도청 정책실장은 "AI를 실제로 실행하려면 전력이 있어야 하고 데이터센터와 클라우드가 있어야 하며 실제 적용할 산업이 있어야 한다"고 말했다. 이어 "AI 시대에는 지방정부도 얼마나 좋은 기술·기업과 연결되고 얼마나 빨리 실험하느냐가 중요하다"고 말했다. 경북도는 전체 정보시스템 가운데 약 65%를 단계적으로 클라우드로 전환할 계획이다. 데이터와 AI를 활용해 정책결정·행정·재난·돌봄 등 공공서비스를 고도화하고 경북에서 검증한 AX 모델을 다른 지역으로 확산한다는 구상이다. 김 실장은 "클라우드는 단순히 서버를 옮기는 일이 아니라 공공 혁신의 기반을 옮기는 것"이라며 "경북을 대한민국 공공 AX의 테스트베드로 만들어 성공 모델을 전국으로 확산하겠다"고 강조했다.

2026.09.15 13:11한정호 기자

[AI 고속도로] 공무원 AI도 국산 NPU로…범정부 인프라 다변화 속도

정부가 그래픽처리장치(GPU) 중심으로 구축해온 범정부 인공지능(AI) 인프라에 국산 신경망처리장치(NPU)를 본격 투입한다. 공무원이 사용하는 생성형 AI와 업무 특화 AI 에이전트를 NPU에서 구동하고 기존 GPU 환경과 성능·경제성을 비교해 향후 공공 AI 인프라를 다변화한다는 구상이다. 14일 업계에 따르면 한국지능정보사회진흥원(NIA)은 최근 약 133억원 규모 'NPU 기반 범정부 AI 서비스 구현' 사업을 발주하고 사업자 선정에 착수했다. 사업 기간은 계약 체결일로부터 180일이며 오는 29일 입찰을 마감한다. 과학기술정보통신부가 사업을 총괄하고 행정안전부가 협업부처로 참여한다. GPU 중심 범정부 AI, 국산 NPU로 넓힌다 이번 사업은 정부가 지난해부터 구축·운영 중인 '범정부 AI 공통기반'의 연산 자원을 GPU에서 NPU까지 확대하는 것이 핵심이다. 범정부 AI 공통기반은 중앙부처와 지방정부 공무원이 행정망에서 민간 AI 모델과 생성형 AI 서비스를 안전하게 활용할 수 있도록 마련한 플랫폼이다. 정부는 현재 GPU 중심 인프라가 구축·운영 비용과 전력 소모가 크고 단일 공급망 의존도가 높다는 점을 중장기적인 확장 과제로 보고 있다. 이에 AI 모델 학습에는 기존 GPU 자원을 활용하고 실제 서비스를 제공하는 추론 단계에는 NPU를 적용하는 방안을 검증할 계획이다. 공공 업무에서 활용되는 생성형 AI가 대규모 모델 학습보다 질의응답과 문서 요약 등 반복적인 추론 작업에 집중되는 만큼 전력 효율과 동시 요청 처리에 강점이 있는 NPU의 활용 가능성이 높다는 판단이다. 도입되는 NPU 서버는 퓨리오사AI와 리벨리온 제품으로 총 25대 이상이다. NIA가 양사와 체결한 물품공급·기술지원협약에 따르면 퓨리오사AI의 2세대 NPU '레니게이드(RNGD)'를 탑재한 서버는 대당 2억8600만원으로 총 18대, 리벨리온 '리벨100' 기반 서버는 대당 7억원으로 총 7대가 제시됐다. 이를 기준으로 한 서버 도입 규모는 총 100억4800만원이며 최종 도입 대수는 사업 과정에서 일부 조정될 수 있다. NPU를 단순히 도입하는 데 그치지 않고 실제 공무원 업무에 활용할 서비스도 구현한다. 우선 NPU와 민간 AI 모델을 활용해 범정부 공무원이 공동으로 사용할 수 있는 생성형 AI '공통챗'을 연내 구축한다. 'K-엑사원'과 'A.X' 등 NPU에서 구동 가능한 국내 AI 모델을 우선 활용하고 기존 범정부 AI 공통기반의 검색증강생성(RAG) 체계와 연계해 답변 정확도와 최신성을 높일 계획이다. 공무원의 실제 업무를 단계적으로 수행하는 AI 에이전트도 5종 이상 개발한다. 단순 질의응답을 넘어 자료 수집·분석부터 내용 검토와 판단 지원, 최종 결과물 작성까지 일련의 업무를 수행하도록 설계할 예정이다. 기존 범정부 AI 공통기반에서 개발한 '법령비서'와 같은 서비스 유형을 우선 검토하고 지식 검색과 문서 분석·요약, HWP·HWPX 문서 생성·편집 등 공공업무에 필요한 기능도 구현할 방침이다. 클라우드·SI 업계도 수혜…새 공공시장 열린다 이같은 요건으로 이번 프로젝트는 국산 NPU 기업뿐 아니라 클라우드와 시스템통합(SI) 업계에도 새로운 공공 AI 사업 기회가 될 전망이다. 최종 선정 사업자는 서로 다른 NPU의 하드웨어·소프트웨어 구조와 네트워크, 자원관리 방식을 범정부 AI 공통기반과 통합하고 민간 AI 모델의 포팅·양자화와 서빙엔진 연계, API 호환성 확보 등 서비스 구현 전반을 담당하게 된다. 특히 행정망 내 NPU 인프라와 AI 서비스를 제공하기 위한 클라우드 시설 제공자의 참여도 필수 조건으로 제시됐다. 이에 대형 IT서비스·클라우드 기업을 중심으로 사업 참여를 위한 컨소시엄 구성과 협력 논의가 이어질 것으로 예상된다. 이번 입찰은 대기업 소프트웨어 사업자의 참여 제한이 적용되지 않는 예외 사업으로, 공동수급도 허용됐다. NPU 장비 구축뿐 아니라 클라우드 인프라와 행정망 연계, AI 플랫폼 구축, 서비스 개발까지 한 사업에 포함된 만큼 실제 수주 경쟁에선 대규모 공공 SI와 클라우드 운영 역량이 중요하게 작용할 전망이다. 국내 IT서비스 업계는 이미 국산 NPU를 상용 서비스에 적용하며 관련 경험을 쌓고 있다. KT클라우드는 리벨리온 NPU 기반 공공 전용 NPU 서비스를 선보였고 가비아 역시 리벨리온 기반 서비스형 NPU(NPUaaS)를 출시했다. 삼성SDS도 퓨리오사AI 레니게이드 기반 NPUaaS를 삼성클라우드플랫폼(SCP)에 올렸으며 LG CNS도 GPU와 NPU 등 다양한 AI 연산 자원을 구독형으로 제공하는 'XPU웍스'를 선보였다. 정부 역시 그간 'K-클라우드 프로젝트'와 'AI 반도체 팜 구축·실증' 등을 통해 국산 NPU의 성능 검증과 초기 시장 확보를 지원해왔다. 국내 클라우드 기업과 NPU 업체 간 협력으로 의료·번역·챗봇 등 AI 서비스를 실증하면서 운영 경험을 축적했다. 그동안 실증 중심이었던 정책이 이번에는 범정부 공통 AI 서비스라는 실제 행정 수요와 연결되는 모습이다. 정부 입장에서도 이번 사업은 단순한 국산 AI 반도체 구매 이상의 의미를 갖는다. 실제 행정업무에서 GPU와 NPU의 성능과 제약사항, 운영 안정성, 경제성을 비교해 향후 어떤 업무에 NPU를 적용할지 판단할 기준을 확보할 수 있어서다. NIA는 실제 운영 데이터를 바탕으로 GPU 대비 NPU 활용성을 분석하고 향후 NPU 인프라의 단계적 전환·확산 방향과 기술·경제성 판단 기준을 마련할 방침이다. 정부는 공공부문이 국산 NPU의 초기 수요처 역할을 맡아 GPU 중심의 단일 공급망 의존도를 낮추는 동시에 국내 AI 반도체 생태계와 공공 AI 인프라의 자립 기반을 함께 키우겠다는 구상이다. NIA 측은 "공공부문 AI 활용 일상화에 대비해 NPU 기반 추론형 AI 서비스의 적용 가능성을 확인할 것"이라며 "활용 사례와 초기 수요 창출을 통해 공공 AI 반도체 인프라 확산 기반을 마련할 것"이라고 밝혔다.

2026.09.14 12:34한정호 기자

[인터뷰] "해외 의존엔 한계"…LG CNS, '미토스급' 한국형 보안 AI 개발할 것

"미토스 같은 모델을 쓰면 되는데 왜 굳이 만드느냐는 반응도 있었습니다. 하지만 신형 AI 모델은 수출통제 사례가 반복되는 만큼 해외 의존엔 한계가 있습니다. 국가 안보와 직결된 사이버보안 역량을 다른 나라에만 의존할 수는 없습니다." 전은숙 LG CNS 보안사업담당은 10일 서울 마곡 LG CNS에서 진행한 인터뷰에서 지난 4월 보안 특화 인공지능(AI) 모델 개발을 LG AI연구원에 제안한 배경을 이같이 설명했다. LG CNS는 과학기술정보통신부(이하 과기정통부)가 추진하는 사이버보안 특화 AI 파운데이션 모델(이하 보안 특화 AI) 개발 사업에 네이버클라우드 컨소시엄으로 참가했다. 이 사업은 생성형 AI를 사이버보안에 특화해 악성코드 분석, 취약점 탐지, 위협정보 분석 등 공격·방어 업무에 활용할 수 있는 AI 모델을 개발하는 국책 사업이다. 전 담당은 "LG그룹은 이전부터 자체적인 보안 특화 AI 모델 개발을 준비해 왔다"며 "이번 사업을 통해 그룹 보안 수준을 높이고, 궁극적으로는 국가 사이버안보 강화에도 기여하고자 한다"고 강조했다. 언제 중단될 지 모르는 해외 AI, 보안 대체 불가 LG CNS는 2005년부터 보안관제센터를 운영하며 보안관제와 컨설팅, 아키텍처, 침해대응 등 보안 전 영역에서 경험을 축적해 왔다. 최근에는 생성형 AI를 활용한 보안 에이전트와 하네스 개발을 추진하며 AI와 보안 기술의 결합 가능성도 검토해 왔다. 이 같은 경험을 바탕으로 LG CNS는 지난 4월 LG AI연구원에 보안 특화 AI 모델 개발을 제안했다. LG AI연구원의 AI 모델 개발 역량과 LG CNS의 보안 데이터·운영 경험을 결합하면, 범용 모델을 보안 업무에 적용하는 수준을 넘어 국내 위협환경에 특화된 모델을 개발할 수 있다고 판단한 것이다. 전 담당은 보안 특화 AI 모델 개발을 추진한 배경으로 해외 모델에 대한 의존 위험을 꼽았다. 그는 "보안 모델 개발 당시에도 '미토스 같은 해외 모델을 사용하면 되는데 왜 굳이 만드느냐'는 반응이 있었다"며 "하지만 당시 미국 정부가 해외 서비스 이용을 일시적으로 제한하는 사례가 있었고, 국내에서 해외 서비스를 사용하는 과정에서도 정책 변화에 따라 접근이 제한될 수 있다는 우려가 있었다"고 말했다. 이어 "특히 보안은 상시 연결과 지속적인 운영이 중요한 분야인 만큼, 서비스 이용이 중단되거나 조건이 바뀌는 상황은 치명적일 수 있다고 판단했다"며 "국가 안보와 직결된 사이버보안 역량을 해외 기술에만 의존해서는 안 된다는 결론을 내렸다"고 설명했다. 한국형 보안 AI의 차별화 요소로는 북한발 공격을 비롯한 국내 위협환경에 특화된 데이터를 꼽았다. 국내 보안기업들은 북한 관련 공격 패턴과 침해사고 정보를 지속적으로 축적해 왔으며, 이 같은 데이터는 해외 모델이 확보하기 어려운 국내 고유의 보안 자산이라는 설명이다. 전 담당은 "국내에는 북한 관련 공격과 위협정보가 많이 축적돼 있다"며 "이 부분을 우리나라 보안 AI가 가질 수 있는 특장점으로 보고 최대한 활용할 계획"이라고 말했다. 이어 "한국산 위협정보(TI)를 해외 고객이 구독하는 이유 중 하나도 북한 관련 정보에 대한 수요가 있기 때문"이라며 "국내 위협 데이터를 바탕으로 개발한 보안 AI가 글로벌 시장에서도 차별화된 경쟁력을 가질 수 있을 것으로 기대한다"고 덧붙였다. LG 계열사 역량 결집…내부 보안·고객 사업에 활용 이번 사업에는 LG CNS를 비롯해 LG AI연구원과 LG유플러스 등 LG 계열사가 함께 참여한다. LG CNS는 보안관제센터 운영 경험과 자체 데이터를 바탕으로 보안 데이터 정제와 모델 검증, 실증 및 사업화를 맡는다. AI 학습에 필요한 보안 데이터를 정제·라벨링·표준화·가공하고, 개인정보와 기업기밀 등 민감정보를 걸러 학습에 적합한 데이터셋으로 구축한다. 이후 해당 데이터셋을 활용해 LG AI연구원의 엑사원 기반 보안 AI 모델을 파인튜닝하고, 실제 보안 업무에 적용할 수 있는 수준인지 성능을 검증할 예정이다. LG AI연구원은 엑사원을 기반으로 공격 역량을 강화한 보안 AI 모델 개발을 담당한다. LG유플러스는 통신 네트워크 데이터를 제공하고, 실제 통신 환경을 활용한 실증 검증을 지원한다. 전 담당은 "LG 계열사가 컨소시엄에 함께 참여한 것은 보안·AI·데이터 분야의 역량을 결집해 보안 특화 AI의 개발과 사업화를 효율적으로 추진하기 위한 것"이라며 "각 계열사가 보유한 전문성을 활용할 수 있을 뿐 아니라, 그룹 내부 협력과 조율이 원활하다는 점도 강점"이라고 밝혔다. LG그룹은 이번 사업에서 개발한 보안 AI를 계열사 내부 보안 강화와 고객 대상 사업에 함께 활용할 계획이다. 우선 LG유플러스의 통신 네트워크 환경에서 모델의 탐지·분석 성능을 검증한 뒤, LG CNS가 강점을 가진 금융·공공 분야로 적용 범위를 확대하는 방안을 검토하고 있다. 장기적으로는 기존 관리형 보안서비스(MSSP)에 AI를 결합하거나, 고객 환경에 맞춘 AI 보안관제센터(AI-SOC)를 구축하는 방식으로 사업화할 예정이다. 다만 LG AI연구원과 LG CNS는 현재 독자 AI 파운데이션 모델 개발 사업에도 참여하고 있어 두 사업을 동시에 추진하는 과정에서의 인력 운용은 해결해야 할 과제로 꼽힌다. 전 담당은 "두 사업은 목적과 활용 분야가 다른 만큼 관련 인력을 사업별로 배치하고, 필요에 따라 AI 모델 개발자와 보안 전문가가 협업하는 방식으로 대응할 방침"이라며 "보안 데이터 정제와 모델 검증, 레드팀·블루팀 운영 등 핵심 기능은 전담 인력을 중심으로 수행하고, 일부 전문인력은 사업 일정과 단계에 따라 탄력적으로 투입할 계획"이라고 밝혔다. 미토스급 성능 갖춘 한국형 보안 AI 개발 목표 전 담당은 국가 기반시설과 보안기업이 보유한 대규모 실데이터를 정제·통합해 국내 위협환경에 특화된 보안 AI를 개발한다는 청사진을 제시했다. 사업의 최종 성능 목표는 해외에서 공개된 사이버보안 특화 AI 모델 '미토스'에 견줄 만한 수준이다. 정부와 컨소시엄은 이른바 'K-미토스' 개발을 목표로 원천 모델 개발을 완료한다는 계획이다. 미토스 자체를 구현하는 것이 아니라 국내 보안 데이터와 운영 경험을 바탕으로 이에 상응하는 성능을 갖춘 한국형 보안 AI를 개발한다는 의미다. 공격 역량을 갖춘 AI의 오작동과 통제 이탈을 막기 위한 안전장치도 함께 구축한다. 샌드박스 환경과 최소 권한 원칙을 적용하고, 위험도가 높은 행위는 사람의 승인 없이는 다음 단계로 진행되지 않도록 통제할 예정이다. 에이전트의 행위와 이상징후를 모니터링하는 체계도 마련하고 공격 시뮬레이션은 외부와 분리된 폐쇄 환경에서 진행한다. 초대형 모델을 폐쇄망이나 온프레미스 환경에서 운용하기 어려운 현실을 고려해 국산 클라우드 기반 서비스와 모델 경량화도 병행 검토한다. 이를 통해 공공·금융·의료 등 외산 클라우드 활용이 어려운 분야와 완전 폐쇄망 환경에 대한 대응력을 높인다는 구상이다. 또한 한전KDN, 한국수력원자력, 금융보안원 등 국가 기반시설 관련 기관과 참여 보안기업이 보유한 약 830TB 규모의 실데이터를 활용해 국내 위협환경에 특화된 데이터셋을 구축한다. 데이터는 기관과 기업별 특성에 따라 유형을 분류한 뒤 개인정보와 기업기밀 등 민감정보를 제거·비식별화하고, 학습과 검증에 적합한 형태로 가공할 예정이다. 전 담당은 "방대한 데이터를 분석하고 AI 학습에 맞게 정제하는 데 시간이 걸릴 수는 있지만, 데이터가 모두 제각각인 것은 아니다"라며 "일정한 유형의 데이터 덩어리로 구성돼 있는 만큼 유형별 정제 루틴을 만들어 적용하면 사업 기간 내 활용이 가능할 것"이라고 말했다. 이어 "현재 개발 과정에서는 GLM 5.3을 실무적인 비교 기준으로 삼고 있지만 최종적으로 지향하는 수준은 미토스급 보안 AI"라며 "국내 보안 데이터와 운영 경험을 바탕으로 글로벌 모델과 경쟁할 수 있는 성능을 확보하는 것이 목표"라고 강조했다.

2026.09.10 12:21남혁우 기자

"일하는 AI 만들려면 오케스트레이션부터"…워카토, 엔터프라이즈 MCP 전면에

워카토가 인공지능(AI)을 실제 업무와 연결하는 'AI 오케스트레이션' 시장 공략에 속도를 낸다. AI 에이전트와 기업 시스템을 연결하고 업무 흐름과 권한까지 통제해 AI가 단순 정보 조회를 넘어 실제 업무를 수행할 수 있도록 지원한다는 전략이다. 김도연 워카토 영업대표는 9일 서울 강남구 파크 하얏트 서울에서 열린 'C-스위트 & 리더스 포럼'에서 "AI를 실제 업무에 적용해 자동화하기 위해선 AI 오케스트레이션 또는 액션 레이어를 별도로 둬야 한다"며 "AI가 시스템과 바로 연결되는 것이 아니라 이 레이어에서 거버넌스와 통제, 비즈니스 로직을 담은 뒤 기간계 시스템과 연동돼야 한다"고 밝혔다. 워카토와 지디넷코리아가 공동 개최한 이번 행사는 'AI 오케스트레이션으로 만드는 새로운 기업 운영 방식'을 주제로 마련됐다. 기업 AI 활용을 개인 생산성 향상에서 핵심 비즈니스 운영으로 확대하기 위한 시스템 연결과 워크플로우, 거버넌스 구축 방안 등이 공유됐다. 워카토는 기업 애플리케이션과 데이터, 업무 프로세스를 연결·자동화하는 통합 플랫폼 기업으로, 최근 AI 오케스트레이션 사업을 확대 중이다. 김 영업대표는 AI가 기업 업무를 실질적으로 수행하려면 먼저 기존 IT 시스템과 연결돼야 한다고 강조했다. 기업 업무는 하나의 시스템에서 끝나지 않고 여러 시스템과 사람을 거쳐 처리되는 만큼, AI 역시 각 시스템의 업무 순서와 사용자 권한, 예외 처리 등 기존 비즈니스 로직을 따라야 한다는 설명이다. 그는 "이제는 AI에게 단순히 고객 정보를 보여달라는 수준을 넘어 고객의 환불을 처리해달라고 했을 때 백엔드 시스템에서 실제 처리가 자동화되는 형태를 고민해야 한다"며 "AI는 각 시스템의 거버넌스 통제를 따르면서 정해진 순서대로 업무를 수행할 수 있어야 한다"고 말했다. 특히 대규모언어모델(LLM)의 확률적 특성이 실제 업무 실행 단계에서는 위험 요인이 될 수 있다고 봤다. 숫자나 처리 순서에 오류가 허용되지 않는 업무는 LLM이 모든 과정을 직접 판단하도록 하기보다 검증된 워크플로우를 구축한 뒤 AI가 이를 호출하도록 해야 한다는 것이다. 워카토는 시스템 연결에 비즈니스 워크플로우를 결합하고 이를 AI가 활용하도록 하는 방식을 차별점으로 내세우고 있다. 김현수 워카토 상무는 기업 AI 도입이 실제 운영 단계에서 어려움을 겪는 주요 원인으로 시스템 연결 부족과 AI 정확도의 한계, 거버넌스 부재를 꼽았다. AI가 기업 시스템과 연결되지 않으면 최신 데이터를 조회하는 데 한계가 있을 뿐 아니라 데이터를 입력·수정하는 실제 업무까지 수행하기 어렵다고 짚었다. 김 상무는 "AI한테 모든 것을 맡길 수는 없다"며 "한 치의 오차도 발생하면 안 되는 업무는 검증된 비즈니스 로직을 AI가 호출하고 그 로직대로 동작하도록 해야 한다"고 강조했다. 이어 "AI 실행에는 권한 제어와 통제가 반드시 필요하고 사람의 승인이 필요한 단계나 시스템별 데이터 접근 제어, 실행 기록도 함께 관리돼야 한다"고 덧붙였다. 워카토는 이를 위한 핵심 기술로 '엔터프라이즈 모델 컨텍스트 프로토콜(MCP)'를 제시했다. MCP는 AI 모델이나 에이전트가 기업의 각종 시스템·데이터와 연결돼 정보를 조회하거나 실제 업무를 수행할 수 있도록 하는 표준 기술이다. 워카토 플랫폼은 1만 4000개 이상의 커넥터를 기반으로 기업 내 다양한 시스템을 연결하고 구축한 워크플로우를 MCP 형태로 전환할 수 있도록 지원하고 있다. 애플리케이션 프로그래밍 인터페이스(API)가 없는 오래된 레거시 시스템도 기존 인터페이스를 활용해 워크플로우와 연결함으로써 AI가 사용할 수 있도록 구성할 수 있도록 돕는다. 기업 내에서 부서별로 구축되는 MCP를 통합 관리하는 기능도 제공한다. 외부 MCP 서버를 워카토의 MCP 프록시를 통해 연결하면 어느 부서가 LLM과 MCP를 어떤 권한으로 사용했는지 추적할 수 있다. 등록된 MCP는 레지스트리에서 검색·재사용할 수 있으며 로깅과 모니터링, 접근 권한 관리도 함께 지원한다. 실제 비용 절감 사례도 소개했다. 미국 회계·컨설팅 기업 아이드 베일리(Eide Bailly)는 워카토 엔터프라이즈 MCP 서버를 고객 서비스 업무에 적용해 LLM 토큰 사용량을 약 90% 줄인 것으로 나타났다. LLM이 각 업무 단계를 직접 판단하는 대신 검증된 워크플로우를 호출하도록 구성하면서 모델이 판단에 사용하는 토큰을 줄였다는 게 회사 측 설명이다. 워카토는 향후 MCP뿐 아니라 기업 내 여러 AI 모델을 통합 관리하는 영역으로 오케스트레이션 범위를 넓힐 계획이다. 회사는 연례 행사 '월드 오브 워카토'에서 AI 게이트웨이 기능을 새롭게 선보일 예정이다. 기업 정책과 사용량 등에 따라 적절한 LLM으로 요청을 전달하는 모델 라우팅을 비롯해 사용량 제한, 로드밸런싱, 과금 분석 등을 지원해 여러 AI 모델을 사용하는 기업의 거버넌스 체계 구축을 지원한다는 목표다. 김 영업대표는 "이제 기업 AI는 단순 조회가 아니라 실제 업무를 수행할 수 있는 능력을 갖춰야 한다"며 "AI 에이전트나 LLM이 앞으로 어떻게 바뀌더라도 오케스트레이션 레이어가 견고하다면 기업은 변화에 관계없이 지속적으로 AI 서비스를 구축하고 활용할 수 있을 것"이라고 강조했다.

2026.09.09 09:59한정호 기자

  Prev 1 2 3 4 5 6 7 8 9 10 Next  

지금 뜨는 기사

이시각 헤드라인

불륜 인정한 젠슨 황, 中 스파이 연루 의혹에 리더십 '흔들'

수백억 예상 쿠팡이츠 과징금, 3000억원대로…공정위 판단 달라진 이유

이스라엘, 'AI 주권' 기치 들었다…30만 GPU로 자립 생태계 조성

韓 독파모 개발사 한자리에…"K-AI 경쟁력 높이려면 기술 협력 필수"

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.