• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
ZDPick
지스타2026
반도체
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'토큰'통합검색 결과 입니다. (152건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

하이퍼엑셀, 슈퍼컴퓨팅 행사 'SC26'서 LPU 기반 AI 추론 서버 첫선

인공지능(AI) 반도체 스타트업 하이퍼엑셀이 미국에서 열리는 세계 최대 규모 슈퍼컴퓨팅 행사에 참가해 독자 개발한 LPU(LLM Processing Unit) 기반 AI 추론 서버 시스템 성능을 전 세계에 선보인다. 하이퍼엑셀은 17일부터 19일까지(현지시간) 미국 시카고 맥코믹 플레이스에서 개최되는 글로벌 슈퍼컴퓨팅 행사 'SC26(Supercomputing 2026)'에 참가한다고 16일 밝혔다. 하이퍼엑셀은 AI 반도체 한국관에 단독 부스를 마련하고, LPU 8개를 탑재한 서버 시스템을 전시해 국내에서 운영 중인 서버와 실시간 연동한 대규모 언어모델(LLM) 추론을 시연한다. 하이퍼엑셀 LPU 카드를 탑재한 서버는 엔비디아 RTX 프로 6000 블랙웰 서버 에디션(Edition) 그래픽처리장치(GPU) 기반 시스템과 비교해 와트당·달러당 토큰 처리량에서 3.5배 이상 효율을 기록했다. 이번 평가는 Qwen3-32B와 Llama3-70B 모델 등을 대상으로 진행했다. 카드당 소비전력은 하이퍼엑셀 LPU가 250W로 비교 대상 GPU(600W) 대비 낮아 대규모 LLM 추론 환경의 전력·운영 비용 부담을 덜어줄 수 있다. 하이퍼엑셀 LPU는 고가의 고대역폭메모리(HBM) 대신 LPDDR5X 메모리를 채택하고, 자체 개발한 아키텍처(Streamlined Dataflow)를 결합해 메모리 대역폭 활용률을 약 90%까지 끌어올렸다. 이는 일반 GPU 기반 LLM 추론 환경 활용률(50~60%)을 크게 웃도는 수치다. 메모리 병목을 최소화해 데이터 처리 효율을 높였다. 하이퍼엑셀은 SC26 기간 동안 글로벌 서버 제조사, 클라우드 서비스 제공업체(CSP), AI 인프라 기업 등과 자사 LPU 기반 서버 플랫폼의 기술 검증과 협력 방안을 모색할 계획이다. 행사 기간 중인 18일에는 김준연 하이퍼엑셀 최고재무책임자(CFO)가 행사장 내 래블업 부스(4630번)에서 '토큰 효율로 재정의하는 AI 인프라'를 주제로 발표한다. 김주영 하이퍼엑셀 대표는 "AI 도입이 가속되면서 업계 관심은 단순한 프로세서 성능을 넘어 대규모 AI 추론 환경에서 효율성과 경제성으로 이동하고 있다"며 "SC26에서 하이퍼엑셀의 LPU 아키텍처가 구현하는 토큰 처리 효율과 전력·비용 절감 가능성을 소개하고, 글로벌 인프라 파트너들과 협력 기회를 확대할 계획"이라고 말했다.

2026.11.16 10:11전화평 기자

LGU+, 2027년 AI 비용 낮추는 토큰 사업 진출

LG유플러스가 AI 통화앱 익시오와 AI 컨택센터(AICC) 등 실제 서비스에서 쌓은 운영 경험을 바탕으로 내년 기업 대상 토큰 중계 사업에 진출한다. 업무에 맞는 AI 모델과 인프라를 조합해 서비스 품질을 유지하면서 기업의 AI 이용 비용을 낮춘다는 전략이다. 이혜진 LG유플러스 기술전략담당은 지난 12일 서울 서대문구 위드스페이스에서 열린 AI 토큰 최적화 스터디에서 “토큰 효율화는 개발자만의 방법론이 아니라, 기업이 적자를 피하고 서비스를 효율화하기 위한 필수 기준”이라며 “하드웨어부터 플랫폼, 에이전트, 모델 라우팅에 이르는 토큰 최적화 기술이 기업의 마진과 투자수익률(ROI)을 바꾼다”고 말했다. 토큰은 AI가 입력과 출력을 처리하는 텍스트 단위로, 이용 비용을 산정하는 기준이다. AI 에이전트가 검색과 분석, 검증을 반복하며 업무를 수행할수록 사용량이 늘어나는 만큼, 모델별 단가와 함께 전체 처리 과정의 효율을 높이는 것이 중요해지고 있다. LG유플러스는 추론 과정의 연산 효율 개선, 업무 특성에 맞춘 모델 선택, 에이전트의 처리 경로 단축, 이용 환경에 따른 하드웨어 조율 등을 토큰 최적화의 주요 요소로 꼽았다. 개별 토큰 가격을 낮추는 데 그치지 않고 고객이 하나의 업무를 완료하는 데 드는 총비용(Task Cost)을 줄이는 데 초점을 맞췄다. 자체 모델로 코딩 비용 약 90% 절감, 라우팅으로 비용 낮춰 LG유플러스는 자체 기술 검증에서 통상 사용하는 모델 대비 자체 AI 모델의 코딩 영역 운영 비용을 약 90% 절감한 사례를 확인했다고 밝혔다. AI 모델의 연산 처리 방식을 개선해 동일 인프라 대비 처리 효율을 약 4배로 높인 성과도 제시했다. 업무 난도에 따라 적합한 모델을 선택하는 라우팅 기술도 적용하고 있다. 내부 테스트에서는 모델 라우팅을 통해 일반 질문 처리 비용을 25% 이상, 코딩 에이전트 비용을 30% 이상 절감했다. 자체 모델 도입으로 코딩 비용을 약 90% 줄인 사례와는 별도의 검증 결과다. 권기덕 AX엔지니어링랩장은 “동일한 질문을 큰 모델과 작은 모델 모두에 보내 답변을 비교, 평가한다”며 “작은 모델로 처리했을 때 큰 모델 대비 성능이 어느 정도 나오는지 확인한다”고 설명했다. 이어 “이 패턴을 수백만 개씩 축적해 유형화하고, 이를 모델에 지속해서 적용해 라우팅 정확도를 높이고 있다”며 “실증 결과, 일반 질문의 인출 토큰 비율은 내부 검증 기준 25% 이상, 코딩 에이전트는 30% 이상 절감되고 있다”고 강조했다. AI 에이전트가 업무를 수행하는 과정에서 불필요한 검색과 검증을 반복하지 않도록 하는 기술도 개발하고 있다. 같은 작업을 여러 차례 수행하는 과정을 줄여 답변 품질을 유지하면서 토큰 사용량을 낮추는 방식이다. 모델 경량화와 생성 속도 개선도 병행한다. 자체 온디바이스 AI 모델 크기를 기존 2.4~3GB에서 약 800MB로 줄이면서 비교 대상 클라우드 모델 대비 95% 이상의 성능을 확보했다는 설명이다. 작은 모델이 답변을 먼저 생성하고 큰 모델이 검증하는 추측 디코딩 등의 기술을 고도화해 토큰 생성 속도도 2배 이상 높였다. 관련 연구 논문 2편은 AI 학술대회 뉴립스에 채택됐다. 익시오·사내 AX 운영 경험 집약…GPU·NPU 조합도 검증 LG유플러스가 토큰 사업의 경쟁력으로 내세우는 것은 대규모 서비스 운영 과정에서 축적한 모델 조합과 최적화 경험이다. 고객의 이용 패턴과 업무 특성에 맞춰 고성능 모델이 필요한 작업과 가벼운 모델로 처리할 수 있는 작업을 구분하는 방식이다. 익시오는 운영 초기 LG AI연구원의 온디바이스 모델과 구글 제미나이를 병행 활용했다. 이후 실제 서비스 튜닝을 거쳐 자체 AI 모델과 엑사원 등의 비중을 조정하며 비용 효율을 높였다. 사내 AX에서도 개발자용 AI 코딩 도구에 자체 모델을 적용해 기존 업무 환경을 유지하면서 이용 비용을 줄이고 있다. 올해 연말 카카오와 협력하는 정부 대국민 AI 서비스 '모두의 AI' 상용화를 통해 확보하는 운영 데이터와 노하우도 토큰 사업에 반영할 계획이다. LG유플러스는 AI 모델 운영을 맡아 여러 모델을 조합하고 관리하는 역량을 고도화한다는 방침이다. 인프라에서는 여러 종류의 반도체를 조합하는 '칩 믹스' 전략을 추진한다. 엔비디아와 AMD GPU를 활용하고, 국산 AI 반도체 기업 퓨리오사AI와 2년 넘게 협력하며 NPU를 검증하고 있다. 대규모 연산과 메모리 대역폭이 중요한 작업 등 업무 특성에 따라 적합한 반도체로 분산 처리해 인프라 원가를 낮추는 구조다. 이상엽 LG유플러스 CTO는 “단순히 토큰 가격을 낮추는 방식이 아니라, 이용자가 업무를 최적의 비용으로 완료할 수 있도록 돕는 데 집중하고 있다”며 “2027년 토큰 사업을 본격적으로 시작해 협력사 제휴, 자체 구축으로 원가 경쟁력을 강화하겠다”고 밝혔다. 이어 “프론트엔드 개발은 카카오가, 모델 서빙 영역은 LG유플러스가 맡아 다양한 레시피와 최적화 기술을 토큰 사업에 반영할 것”이라며 “글로벌 수준 모델 경량화, 추론 기술과 업무 궤적을 반영한 운영 레시피를 결합해, 기업 고객이 가장 합리적인 비용으로 최고의 AI 성과를 낼 수 있도록 시장을 주도해 나가겠다”고 밝혔다.

2026.11.15 09:00홍지후 기자

AI 토큰 처리량 중국 140조…한국은 통계조차 없어

AI에서 중국은 하루 토큰 처리량이 140조지만, 한국은 통계조차 없다는 지적이 제기됐다. AI국부론의 저자 이승현 한양대 에리카 글로벌문화통상학부 겸임교수(알파카랩 대표, 전 디지털플랫폼정부위원회 AI플랫폼혁신국장)는 2026 제4차 원정포럼에서 강연자로 나서 이같이 말했다. 원정포럼은 원정연구원(원장 정성철)이 개최하는 포럼이다. 이번 포럼에서는 대한민국 과학기술 혁신 생태계 발전 방안으로 'AI국부론-AI 에이전트 시대의 국가전략'을 주제로 지난 11일 한국과학기술회관에서 개최됐다. 이 교수는 "한국은 토큰을 얼마나 쓰고, 얼마가 국산이고, 얼마가 밖으로 나가는지 모른다"며 "토큰 무역수지 통계에서 측정이 첫 번째 지렛대다. 측정없이 관리가 가능한가"라고 되물었다. 이 교수에 따르면 토큰 소비는 지난해 대비 24배나 증가했다. 그러나 토큰 GDP(총생산)는 늘어도 GNI(총소득)는 늘지 않는데, 이는 전력과 부지는 한국이 대면서 토큰은 남의 모델이 만드는 구조가 기본값이기 때문이라고 부연 설명했다. 이 교수는 또 "250년 경제학 전체가 무너지고 있다"며 "1976년 스미스 이후 국부 공식은 토지·노동·자본에서 이제는 그 자리에 AI가 들어섰다"며 "누가 한국 국민의 AI에이전트를 소유하고, 그 거래 통제권을 쥐는가에 국부가 결정된다. 지능형 자본이 부의 근간인 세상이 됐다"고 강조했다. 패널 토론은 박원훈 전 산업기술연구회 이사장을 좌장으로 ▲이상목 전 과기부 차관 ▲이은우 전 UST 총장 ▲이장재 충남대 특임교수 ▲박희범 지디넷코리아 기자 ▲이성국 원정연구원 AI융합연구센터장이 참석했다.

2026.11.12 16:52박희범 기자

'자산 토큰화' 시대, 중앙은행 역할은

증권뿐만 아니라 다양한 실물 자산이 블록체인 상 움직이는 '자산 토큰화' 시장이 커질 것으로 예측됨에 따라 토큰화된 자산을 '어떤' 통화로 '어떻게' 지급 결제할 것이냐에 대한 논의가 이어지고 있다. 11일 한국은행은 이 같은 흐름에서 중앙은행이 발행하는 법정통화와 그동안 중앙은행과 금융기관을 이었던 지급 결제 인프라 등의 미래를 논의하는 '지급 결제 제도 컨퍼런스'를 열었다. 증권·자산 토큰화 시장에 대비해 한은은 '프로젝트 한강'을 가동하고 있다. 프로젝트 한강은 중앙은행 화폐와 한은과 금융기관 간 지급 결제 인프라에서 활용된 지급준비금을 토큰화해서 플랫폼에서 직접 발행하고 유통하는 방식으로 이뤄지고 있다. 류재민 한은 디지털화폐분석실장은 "프로젝트 한강은 디지털 화폐 시스템을 허브로, 토큰화 자산 플랫폼을 스포크로 해 최종결제는 허브에서 법정 통화(CBDC)로 결제하는 방식"이라며 "이 같은 방식은 기관이 현금 유동성 부족으로 어려움을 겪는 대금 결제(Cash of lack) 측면에서는 유리할 수 있다"고 진단했다. 다만 그는 "기존 거액결제시스템 IT에서 다양한 프로그래밍에 따라 돌아가는 통화에 관한 유동성 관리 이슈는 해결해야 할 문제"라고 설명했다. 장보성 자본시장연구원 거시금융실장은 자산 토큰화 시대에 대비하기 위해 중앙은행이 다양한 모형을 고민하고 있다는 점에 깊이 공감하면서 "모형에 따라 여러가지 문제가 나올텐데 각 국가가 맞는 모형을 택한 이후 개선 방향을 도출하는게 필요하다"고 제언했다. 이어 장 실장은 프로젝트 한강과 같은 단일 플랫폼에서는 자산 간 직접적 교환을 어렵게 하지 않다는 점을 장점으로 들었다. 그는 "이더리움 네트워크에서 솔라나 네트워크 지갑으로 직접 보내는게 어렵다"며 "이는 법적 통화 디지털 화폐(CBDC)와 스테이블코인에서 모두 나타나는 문제로 상호운용성 측면서도 (중앙은행이) 준비를해야 할 것"이라고 짚었다. 장 실장은 CBDC와 스테이블코인 간 활용을 구분하고 지급 결제 방식도 쓰임새에 맞게 적용해야 한다는 점도 언급했다. 그는 "국채나 환매조건부채권(REPO)처럼 시스템적 으로 영향이 큰 자산은 CBDC 거래가 필수라고 생각하지만 기존 레거시(전통 금융) 경로 의존성이 낮은 신종 실물자산토큰이나 해외투자자 접근성이 필요한 자산은 스테이블코인이 유리할 수 있다"고 말했다. 실시간으로 총액 결제 시장으로 지급 결제 시장을 구축하기 보다는 거래규모나 빈도에 따라 조합해야 하는 사안이라고 덧붙였다. 이날 개회사에 나선 장정수 한은 부총재보는 "지급 결제의 미래는 누구도 단언하기 어렵지만 경제 주체들이 안전하고 효율적으로 자금을 주고받을 수 있어야 한다는 본질은 변하지 않는다"며 "지급 결제 제도의 신뢰를 뒷받침하는 핵심 기반은 신용위험이 없는 최종 결제자산인 중앙은행 화폐"라고 말했다. 장 부총재보는 또 "앞으로 중앙은행이 수행해야 할 핵심 과제는 중앙은행 화폐가 제공하는 신뢰를 유지하면서 기술혁신이 가져올 이점을 충분히 활용할 수 있는 지급 결제인프라를 만드는 것"이라고 강조했다.

2026.11.11 16:17손희연 기자

"AI 가능성, 생산성으로 입증해야"...IITP, 내년 AI·ICT 10대 이슈 선정

2027년 AI 경쟁의 핵심으로 업무 완수 능력과 운영 효율이 떠오를 전망이다. 여러 AI 에이전트가 협업해 복잡한 임무를 처리하고, 반도체와 데이터센터는 작업에 드는 비용과 전력을 줄이는 방향으로 진화한다. AI 활용 범위가 산업 현장과 통신망으로 넓어지면서 권한 검증과 안전 통제, 인프라 운영 주권도 중요해질 것으로 예상됐다. 정보통신기획평가원(IITP)은 11일 대한상공회의소에서 열린 2027 AI·ICT 기술전망 컨퍼런스에서 내년을 관통하는 주제로 'AI의 가능성을 AX 생산성으로 입증'을 제시했다. AI 전환(AX)의 성과를 실제 업무 수행과 비용 절감으로 확인해야 한다는 뜻이다. 구체적으로 내년을 관통할 AI·ICT 10대 이슈로 ▲에이전틱 이코노미 ▲피지컬 AI 범용화 ▲범용인공지능(AGI) 경쟁 ▲AI 반도체 최적화 ▲AI 데이터센터(AIDC) ▲토큰 효율성 ▲공간컴퓨팅 ▲AI 네이티브 6G ▲사이버쉴드돔 ▲풀스택 소버린 AI다. '에이전틱 이코노미', AI가 일을 끝까지 맡는다 새해 첫 번째 이슈는 AI가 맡은 임무를 끝까지 수행하는 '에이전틱 이코노미'가 꼽혔다. 장기 기억과 다중 에이전트 협업으로 업무 완수 역량이 높아지면서 슈퍼 에이전트를 통한 통합, 산업별 특화 에이전트 활용, 에이전트 사이의 자율거래가 확산할 것으로 전망됐다. 장기 기억은 업무에 필요한 맥락을 유지하고, 다중 에이전트 협업은 여러 에이전트가 역할을 나눠 임무를 처리하는 기반이다. 보고서는 이러한 역량이 발전하면서 에이전트가 자율적으로 수행하는 업무 범위도 넓어질 것으로 봤다. 확산의 전제로는 'Know Your Agent'를 주목했다. 업무를 수행하는 에이전트의 신원과 위임받은 권한을 검증하고, 수행 결과를 신뢰할 수 있어야 한다는 것이다. 조직 업무 구조와 함께 책임 소재, 비용 기준을 정립하는 일이 현업 도입의 관건으로 제시됐다. '피지컬 AI', 시연을 넘어 현장으로 시연에 머물렀던 로봇 AI는 정해진 무대에서 정해진 동작을 보여주는 데 그쳤다. 그런 가운데 IITP는 내년부터 피지컬 AI가 '동작 시연을 넘어 임무 완수' 중심으로 발전할 것으로 내다봤다. 피지컬 AI는 AI가 로봇 같은 몸을 얻어 현실 세계에서 보고 판단하고 움직이는 것을 말한다. 이를 가능하게 하는 두 축은 자기주도적 통합 행동지능과 전용 온디바이스 컴퓨팅이 필수적이다. 앞의 것은 보고, 판단하고, 움직이는 과정을 하나로 묶어 로봇이 스스로 다음 행동을 정하는 지능이다. 뒤의 것은 멀리 있는 데이터센터에 묻지 않고 로봇 몸 안의 전용 칩으로 그 자리에서 바로 생각하고 반응하는 능력이다. 한국의 NPU는 이 지점에서 성장할 것으로 봤다. 관건은 데이터다. IITP는 경험을 축적하는 '피지컬 AI 레디 데이터'를 주목했다. 공간의 생김새, 사람과 물체의 움직임, 무게와 마찰 같은 물리적 성질, 영상과 소리 등 여러 감각을 아우르는 멀티모달 데이터를 모아야 한다. 이렇게 모은 데이터를 서로 나누고, 현실 세계를 가상으로 본뜬 월드모델 안에서 연습시켜 실제로 겪지 않은 경험까지 넓힐 수 있다. 이를 바탕으로 범용화에 이를 것이란 전망이다. AI가 AI를 만드는 갈림길...AGI 경쟁 AGI는 특정 분야에만 능한 AI가 아니라 사람처럼 여러 분야를 두루 해내는 범용 인공지능을 말한다. IITP는 내년을 'AGI 경쟁의 분수령'으로 보고, 그 열쇠를 'AI가 만드는 AI'에서 찾았다. 핵심 개념은 재귀적 자기개선(RSI)이다. AI가 스스로를 고쳐 더 나은 AI가 되고, 그렇게 나아진 AI가 다시 자신을 개선하는 과정이 꼬리를 물고 이어지는 구조다. 지금까지 AI의 발전 속도는 사람 연구자의 속도에 묶여 있었지만, 이 고리가 돌기 시작하면 발전이 스스로 빨라진다. IITP는 이를 통해 AI가 ▲사람의 지시 없이 움직이는 자율성 ▲여러 분야를 넘나드는 범용성 ▲지능 그 자체 등을 바탕으로 사람의 능력을 뛰어넘는 초지능(ASI)의 실현이 앞당겨질 수 있다고 내다봤다. AGI 시대가 가져올 큰 변화로 과학 분야가 떠오른다. AI가 스스로 가설을 세우고, 실험하고, 결과를 검증하는 'AI 자율 과학자'로 진화한다는 것이다. IITP는 이런 AI가 질병과 식량 위기처럼 인류가 오랫동안 풀지 못한 난제에 도전할 것으로 내다봤다. 또 우주 예측의 큰 변화를 예상했다. 단일 칩 한계 넘어 이기종·풀스택 최적화...AI 반도체 에이전트와 피지컬 AI가 늘어날수록 AI는 쉬지 않고 추론한다. AI 학습의 시대를 넘어 '추론의 시대'가 열렸다는 설명이다. 추론 수요가 커지면서 단일 칩 하나의 성능만으로는 감당하기 어려운데, 서로 다른 종류의 칩을 섞어 쓰는 개방형 이기종 칩 조합이 떠오를 것으로 점쳐졌다. 특히 IITP는 여기서 더 나아가 AI 모델과 소프트웨어, 칩, 시스템을 한꺼번에 다듬는 계층 간 통합 최적화를 강조했다. 반도체와 소프트웨어가 각각의 성능 시너지를 내야 한다는 뜻이다. 국산 NPU의 차별적 경쟁력을 찾을 수 있을 것이란 점이 눈길을 끈다. 한국의 NPU가 AI 모델과 추론 엔진, 프로그램을 칩이 알아듣는 말로 옮겨주는 컴파일러까지 여러 층을 넘나들며 함께 최적화해, 전기를 적게 쓰는 추론에서 경쟁력을 키울 수 있다는 뜻이다. AI 데이터센터, 토큰 생산성 극대화 경쟁 AIDC에서는 가동 시점을 앞당기는 속도 경쟁과 전력당 토큰 생산성을 높이는 성능 경쟁이 함께 진행될 것으로 예상됐다. 모듈형 구축은 데이터센터를 더 일찍 가동하기 위한 수단으로 제시됐다. 운영 단계에서는 연산 부하에 맞춰 전력과 냉각을 통합 제어하는 방식이 중요해질 것으로 봤다. 유휴 또는 과잉 운전을 줄여 전력을 효율적으로 사용하고, 전력당 토큰 생산량을 높이는 것이 목표다. 랙 안에서 광역망까지 연결되는 데이터 전송이 중요한 과제로 꼽혔다. 이를테면 스케일업, 스케일아웃, 스케일어크로스 등 AIDC 인터커넥트 경쟁이 본격화될 것이란 전망이다. '토큰 효율성', AI 운영 효율화 절실 토큰 가격 하락과 임무당 비용 부담이 동시에 나타날 수 있다는 점에 주목했다. 이에 따라 작업 하나를 끝내는 데 드는 '태스크 코스트(Task Cost)'를 낮추는 경쟁이 본격화될 것으로 전망했다. 이에 따라 AI 워크플로우의 재설계가 중요 과제로 꼽힌다. 더 적은 비용으로 임무를 완수할 수 있도록 실행과 운영 방식을 바꿔야 한다는 것이다. 토큰 단가와 함께 전체 작업에 투입하는 자원을 관리하는 접근이다. 기술적으로는 연산량과 메모리 사용을 줄이고 토큰 생성 속도를 높여 추론 효율을 개선하는 시도가 이어질 것으로 봤다. IITP는 '오픈웨이트 모델'을 활용해 운영 방식을 최적화하는 방안도 비용 효율화의 주요 수단으로 꼽았다. 메타버스 이어 AI글래스 시대 '공간컴퓨팅' 사람과 기계가 만나는 방식은 키보드와 마우스에서 손가락 터치로 바뀌어 왔고 그 다음은 AI글래스가 지목됐다. AI 글래스는 개인화 에이전트를 이용하는 접점이자 산업 현장 작업을 지원하는 수단으로 확장될 전망이다. 음성, 시선, 제스처와 주변 환경 정보를 활용해 사용자의 맥락과 공간을 이해하는 방향으로 발전할 것으로 예상됐다. 피지컬 AI에 필요한 데이터를 수집하는 역할도 제시됐다. 다만 역기능을 간과하기 어려운 이슈로 꼽힌다. 늘 쓰고 다니는 디바이스가 끊임없이 정보를 모으면 내가 누구와 어울리는지, 하루를 어떻게 보내는지, 무엇을 하려 하고 무엇을 좋아하는지까지 드러날 수 있다. 이에 따라 IITP는 정보를 모으고 쓰는 일을 통제할 수 있는 장치, 이를 뒷받침하는 제도 정비, 사회적 합의를 반영한 새로운 프라이버시 기준이 필요하다고 봤다. AI 네이티브 6G ...“망 운영부터 추론 공간 인지로” 6G 통신은 AI를 망 운용과 서비스에 내재화한 'AI 실행 인프라'로 전환을 추진할 것으로 전망됐다. AI 네이티브 완전 자율 네트워크를 통한 운영에 더해 AI 추론 연산 지원과 공간 인지까지 기능이 확장되는 방향이다. 네트워크 운영의 자율화와 AI 서비스 지원이 함께 진행되는 변화다. 특히 6G 통신에서 이러한 전환이 본격적으로 시작될 것으로 봤다. 통신 AI 인프라의 범위는 우주로도 확대될 것으로 예상됐다. 저궤도 위성통신의 핵심 통신 인프라 역할이 커지고, 우주 데이터센터를 위한 궤도상 AI 칩 연산 실증이 추진될 것으로 전망했다. 자율 다층 방어 체계 '사이버쉴드돔' AI는 공격도, 방어도 가능한 수단이다. 공격하는 쪽은 한 곳만 뚫으면 되지만 막는 쪽은 모든 곳을 지켜야 한다. 여기에 AI가 더해지면 공격은 더 빠르고 정교해지고, 사람이 일일이 대응해서는 따라잡기 어려워진다. AI 공격에 대응할 보안 체계로는 '사이버쉴드돔'을 제시했다. 조직별 자율 방어 에이전트의 대응, 산업 내 위협 정보 공유, 국가 차원의 공동 대응과 조정을 결합하는 다층 방어 구조다. 각 기업과 기관이 스스로 위협을 찾아 대응하는 자율 방어 에이전트를 두고, 같은 산업 안에서 위협 정보를 서로 나눠 한 곳이 당한 공격을 다른 곳이 미리 막을 수 있게 할 수 있다. 아울러 국가 차원에서 함께 대응하고 조정하는 체계로 사이버 보안이 고도화될 수 있다는 설명이다. IITP는 AI 통제 상실 위험에 대한 관리도 강화될 것으로 봤다. 안전설계 원칙과 1·2차 방어선, 제3자 평가를 결합하고 설계부터 실행까지 전주기를 통제하는 접근이다. 기술뿐 아니라 법·제도·서비스 관리체계까지 포괄하는 안전 확보가 과제로 제시됐다. 칩·모델 확보 넘어 운영 통제권 경쟁...풀스택 소버린 AI 소버린 AI는 다른 나라나 외부에 기대지 않고 스스로 통제할 수 있는 AI를 말한다. 지금까지 AI 주권 경쟁은 주로 '확보'의 문제였는데, 칩과 모델과 데이터를 갖추는 데서 그치지 않고 이를 잇는 ▲네트워크와 AI를 돌리는 컴퓨팅 ▲전체를 지키는 보안, ▲전략적인 AX까지 모든 층을 직접 운영하고 통제할 수 있느냐가 AI 주권의 기준이 된다는 게 IITP의 판단이다. 즉 AI 주권 경쟁은 칩, 모델, 데이터 확보를 위한 기술 자립에서 네트워크, 컴퓨팅, 보안, 전략적 AX까지 확대될 것이란 전망이다. 임진국 IITP 단장은 “앞으로 다가올 2027년은 임무 완성을 넘어서는 AI 혁신과 피지컬 AI와 가상형 컴퓨팅으로 모든 곳에 AI가 존재하게 될텐데 그 과정에서 컴퓨팅 연산비용의 최적화와 안정성 확보는 가장 중요한 열쇠가 될 것”이라고 말했다.

2026.11.11 12:11박수형 기자

KT, 3분기 통신 본업 회복..."내년부터 B2B AX 매출 본격화"

KT가 통신 본업의 수익성 회복과 기업간거래(B2B) 사업 확대를 추진한다. 2031년까지 AI 데이터센터(AIDC) 규모를 1기가와트(GW) 이상으로 늘리고, 확보한 B2B 수주를 2027년부터 본격적으로 매출에 반영한다는 계획이다. 민혜병 KT 최고재무책임자(CFO)는 10일 3분기 실적발표 컨퍼런스콜에서 “3분기는 통신 본업 회복과 B2B 사업 성장 기반 확대를 확인하는 기간이었다”며 “앞으로는 본업 수익성을 정상화하고 확보된 수주와 AX 사업 기회를 실질적 매출로 연결하겠다”고 밝혔다. KT는 AIDC 인프라 확충과 함께 2028년 AX 매출을 지난해의 2배 이상으로 확대한다는 목표를 제시했다. 기업용 AI 플랫폼 '토큰팩토리'를 한국의 AI 토큰 생산·유통 거점으로 육성하고, 금융·의료·공공 등 산업별 AX 사업도 확대한다. AIDC 1GW 구축 추진, 확보한 사업 기회 911MW 김봉균 KT 엔터프라이즈부문장은 “KT는 실수요 기반으로 2031년까지 AIDC 1기가와트(GW) 이상을 공급할 계획”이라며 “수도권은 전력과 인허가가 확실한 부지 중심으로 개발하고, 비수도권은 테넌트 수요 확보를 우선해 사업을 구체화하겠다”고 설명했다. 이어 “1GW 용량 구성은 리스(Lease) 80%, 오운드(Owned) 20%로 할 예정이다. 향후 부채비율까지 고려해 다양한 방식으로 자본 조달을 검토할 계획”이라면서 “신규 전력 케이블을 확대하고 AIDC 간 연결망을 구축해 북미, 아시아 구간에서 국가 차원 AI 연결을 확대해 나가겠다”고 덧붙였다. 데이터 관련 수주 증가에 힘입어 올해 3분기 누적 기업사업 수주 규모가 전년 동기 대비 20% 이상 증가했다고 밝혔다. 김 부문장은 “현재까지 확보한 파이프라인은 메인 20개소, 911메가와트(MW), 백업은 10개소 500MW”라며 “메인 900MW 중 현재까지 200MW 의사결정이 완료됐고, 올해 남은 두 달 60MW를 추가로 결정할 예정”이라고 말했다. 이어 “수주 성장은 단순 물량 증가가 아니라 고객군과 사업 영역 확대에서 의미가 크다”면서 “이제까지 수주가 2027년부터 매출로 전환될 것으로 예상되기 때문에 향후 B2B 사업 전망은 긍정적”이라고 강조했다. KT는 AIDC와 기업용 AI 인프라를 연계해 B2B 사업을 확대한다. 기업 고객의 수요에 맞춰 데이터센터를 공급하고, AI 서비스 구축과 운영까지 사업 범위를 넓혀간다는 구상이다. 토큰팩토리로 AI 사업 확대, 금융·의료 AX 수주 강화 KT는 기업이 여러 AI 모델을 하나의 플랫폼에서 활용하고 토큰 사용량과 비용을 통합 관리할 수 있는 '토큰팩토리'를 한국의 AI 토큰 생산·유통 거점으로 육성할 방침이다. 박상원 KT AX사업부문장은 “토큰팩토리는 한국 호스팅 모델로 직접 추론하는 방식과 외부 모델을 라우팅하는 방식”이라며 “자체 GPU 추론 방식과 외부 모델 중계 방식을 균형 있게 성장시켜 나가겠다”고 말했다. 그러면서 “한국 모델 직접 추론 방식은 주권 측면에서 굉장한 강점”이라면서 “궁극적으로 자체 GPU 확대로 한국 토큰 생산 유통의 거점으로 성장하는 것을 목표로 한다”고 강조했다. AI 컨택센터(AICC)를 비롯한 기업용 AX 사업도 금융과 국방, 공공 분야로 확대하고 있다. 김봉균 부문장은 “3분기엔 금융, 국방, 공공 등 주요 산업에서 의미 있는 AX 레퍼런스를 확대하며 B2B AX 사업 성장 기반을 강화했다”며 “우리은행 에이전틱 AICC, 국방 지능형 플랫폼 등 주요 AX 사업을 확보했다”고 밝혔다. 산업별로 필요한 AX 서비스와 데이터 인프라를 조합해 활용할 수 있는 표준화 모델도 구축했다. 김 부문장은 “현재 연세의료원, 서울아산병원, 서울대병원과 협업해 의료 분야에서 첫 모델을 수주했고, 향후 보험, 공공 분야로 확대해 나가겠다”고 말했다. KT는 산업별 AX 사업 경험을 바탕으로 기업 고객의 AI 도입 수요에 대응하고, 확보한 사업을 매출로 연결하는 데 집중할 계획이다. 통신 본업은 수익성 중심, 연간 배당 2400원 유지 유무선 통신 사업에서는 무선 가입자당평균매출(ARPU)이 점진적으로 개선되고 있지만, 시장 포화와 고객 보호 프로그램 등의 영향으로 지난해 수준의 매출을 달성하기는 어렵다는 전망을 내놨다. 박현진 KT 커스터머부문장은 “KT는 매출 규모가 가장 큰 무선 사업에서 1분기 가입자 감소, 이후 이어진 고객 보호 프로그램 영향으로 부진했지만 지난 8월 고객 보호 프로그램 종료 이후 ARPU 회복세를 보이고 있다”면서도 “무선, 인터넷, TV 합산 기준으로 지난해 수준을 뛰어넘기는 어렵다고 예상한다”고 말했다. 이에 따라 KT는 가입자 확대보다 수익성을 확보하는 방향으로 유무선 사업을 운영할 계획이다. 박 부문장은 “무선은 가입자 생애 주기와 단말 교체 주기가 모두 길어지며 가장 지출이 큰 신규 가입자 확보비가 줄어드는 모습을 보일 것 같다”며 “무선, 인터넷, TV 모두 품질 중심 영업을 통해 수익성을 담보하는 방향으로 사업을 추진하겠다”고 강조했다. 주주환원 정책은 기존 기조를 유지한다. 연간 배당금 2400원 계획에는 변함이 없으며, 결산 배당은 당기순이익 등을 고려해 이사회에서 최종 결정할 예정이다. 민 CFO는 “올해 연간 배당 2400원은 변함이 없고, 결산 배당은 당기순이익에 따라 이사회에서 최종 결정할 예정”이라며 “3분기에 이어 4분기도 통신 본업 회복, AX 사업 성과 등을 통해 실적 개선을 이룰 것”이라고 내다봤다. 이어 “실적이 개선되면 이제까지 그래왔듯 주주에게 우상향 배당을 진행하고, 통신 본업 회복과 B2B AX 중심 수주 확대로 2027년에도 성과를 만들어내도록 노력하겠다”고 말했다.

2026.11.10 17:38홍지후 기자

정석근 SKT "GPU·NPU 결합해 세계서 가장 싸게 토큰 생산"

“한국이 전 세계에서 가장 싸게 토큰을 만들 수 있고, 그걸 통해서 우리나라에서 AI를 정말 많이 쓰도록 하게 하겠다.” 정석근 SK텔레콤 최고기술책임자(CTO) 겸 AI CIC장은 9일 서울 코엑스에서 열린 엔비디아 AI 데이에서 국내 대규모 AI 데이터센터(AIDC) 구축의 목표를 이같이 밝혔다. SK텔레콤은 이날 엔비디아, 리벨리온과 한국형 소버린 AI 인프라 구축을 위한 GPU NPU 통합 시스템 개발 업무협약을 체결했다. 엔비디아 GPU와 리벨리온 NPU에 추론 작업을 나눠 맡겨 처리 성능과 전력 효율을 높일 계획이다. 나아가 국내 인프라의 규모의 경제를 바탕으로 토큰 생산 비용을 낮추고, 기업과 국민의 AI 이용을 확대하겠다는 구상이다. GPU는 질문 분석, NPU는 추론...역할 나뉜다 3사는 엔비디아의 NV링크 퓨전(NVLink Fusion)을 활용해 리벨리온이 개발 중인 NPU '리벨 R200'을 엔비디아 플랫폼에 연결한다. 아울러 엔비디아의 서버 랙 표준 설계 규격인 MGX를 적용해 랙 단위의 GPU·NPU 통합 시스템을 개발한다. NV링크 퓨전은 엔비디아 GPU끼리 데이터를 빠르게 주고받는 연결 기술인 NV링크를 다른 기업의 AI 반도체(XPU)에도 활용할 수 있도록 확장한 기술이다. 통합 시스템에는 추론 과정을 서로 다른 반도체에 나눠 맡기는 '분리형 추론'을 적용한다. 사용자의 질문을 분석하는 프리필 단계는 엔비디아 GPU가, 답변을 순차적으로 생성하는 디코드 단계는 리벨리온 NPU가 담당한다. 프리필은 계산량이 많아 GPU 같은 고성능 연산 칩이 유리하다. 디코드에서는 연산보다 메모리에서 필요한 데이터를 빠르게 불러오는 능력이 중요하다. 각 단계에 적합한 반도체를 배치해 처리 속도와 전력 효율을 높이겠다는 것이다. 에이전틱 AI 확산으로 추론 요청이 늘면서 AIDC의 성능과 함께 전력·운영비용 경쟁력을 확보하려는 접근이다. 정석근 CIC장은 “엔비디아 GPU와 리벨리온 NPU를 결합해 독자 파운데이션 모델을 비롯한 국산 모델을 추론할 수 있는 환경을 만들어보려고 한다”고 밝혔다. 그는 또 “글로벌 시장에서 검증된 엔비디아 GPU를 활용하면서도 국내 NPU를 활용할 수 있는 환경을 만들어주는 게 인프라 사업자가 해야 할 일이라고 생각한다”고 강조했다. SK텔레콤은 AIDC 구축 운영 경험을 바탕으로 통합 시스템을 데이터센터에 도입해 성능과 안정성을 실증한다. 실제 서비스에서의 활용과 상용화 가능성도 검토할 계획이다. “NPU 사서 직접 운영하는 건 진입 장벽”...고객은 API로 이용 정석근 CIC장이 제시한 사업 방향은 '소버린 토큰'이다. 국산 반도체와 모델을 개발하는 데서 나아가, 고객이 실제로 이용할 수 있는 AI 인프라와 서비스까지 연결하겠다는 구상이다. 그는 “한국의 문화를 반영하고 우리가 통제할 수 있는 모델을 국내에서 만드는 것은 중요하다. 동시에 그 모델을 올릴 데이터센터와 최적의 컴퓨팅 환경도 확보해야 한다”고 말했다. 이어 “저희가 하고 싶은 것은 '소버린 토큰'을 만드는 것”이라고 덧붙였다. SK텔레콤은 이를 위해 GPU와 NPU를 결합한 데이터센터를 전문 사업자로서 운영하고 고객에게 AI 인프라를 제공할 계획이다. 고객이 국산 NPU를 구매한 뒤 직접 시스템을 구성하고 운영해야 하는 부담을 낮추는 방식이다. 정 CIC장은 “최근 GPU 기술이 발전하면서 데이터센터를 구축하고 운영하는 일 자체의 난도가 높아졌다”며 “한국에서 NPU를 만들어 국내 기업이나 정부에 'NPU를 사서 직접 데이터센터를 만들고 운영하세요'라고 한다면 진입 장벽이 될 것”이라고 말했다. 그러면서 “실제로 이를 이용할 정부와 공공기관, 민간 기업, 대국민 서비스 사업자는 물리적인 하드웨어를 크게 걱정하지 않고 API를 통해 토큰을 쓸 수 있게 하겠다는 것”이라고 설명했다. SK텔레콤은 독자 AI 모델 A.X K2와 '모두의 AI' 같은 대국민 서비스를 해당 인프라에 연결해 인프라부터 모델과 서비스까지 아우르는 풀스택 소버린 AI를 제공할 방침이다. 3사는 과학기술정보통신부의 소버린 AI, 국산 AI 반도체 육성 정책에 맞춰 국내 구축 사례를 확보하고 공공·민간의 AI 서비스 기반을 마련한다. SK텔레콤은 국산 반도체의 사업화를 위해 국내 실증과 고객 지원이 함께 필요하다고 강조했다. 정 CIC장은 “정부도 지원하고 벤처캐피털과 기관들도 투자해 리벨리온 같은 회사가 투자를 받고 인력을 확보해 칩을 만들 수 있는 환경까지는 조성해왔다”며 “일반 기업에 칩을 팔거나 해외에 수출하는 데는 진입 장벽이 있다”고 말했다. 이어 “국내 사업자와 함께 국내에서 의미 있는 레퍼런스를 만들고 실증할 필요가 있다”며 “실제 AI 서비스가 이 인프라를 활용해 토큰을 대규모로 만들어낼 수 있도록, 고객이 인프라를 쓸 수 있게 돕는 지원도 필요하다”고 밝혔다. 아쉬시 카란디카르 엔비디아 NV링크 퓨전 부문 부사장은 “NV링크 퓨전은 한국의 ASIC을 엔비디아의 AI 팩토리 플랫폼과 결합해 고성능 AI 인프라를 구현할 수 있도록 지원한다”고 말했다. 박성현 리벨리온 대표는 “리벨리온은 대한민국을 대표하는 AI 반도체 기업으로 성장하며 입증한 독자적인 기술력을 바탕으로 엔비디아, SK텔레콤과 차세대 AI 인프라를 함께 설계하고, 한국이 만든 기술이 세계의 AI를 움직이는 핵심 축으로 성장하도록 하겠다”고 밝혔다. 정 CIC장은 “SK텔레콤은 AIDC 구축 운영 경험과 독자 AI 모델 A.X K2, '모두의 AI' 같은 대국민 서비스 역량을 바탕으로 풀스택 소버린 AI 경쟁력을 강화하고, 공공과 민간이 실제로 활용할 수 있는 소버린 AI 인프라 생태계를 만들어 가겠다”고 했다.

2026.11.09 16:15박수형 기자

엔비디아 올라탄 토종NPU...소버린AI로 글로벌 토큰시장 진출

엔비디아와 SK텔레콤, 리벨리온이 국산 AI 반도체와 글로벌 컴퓨팅 생태계를 결합하는 소버린 AI 인프라 구축에 나선다. 핵심 기술과 데이터 인프라에 대한 주도권을 확보하면서 글로벌 기업의 기술과 공급망을 활용해 사업 확장 속도를 높인다는 구상이다. 정부는 국내 실증을 넘어 국산 반도체가 해외 시장에서 선택받는 성과로 이끈다는 목표다. 박성현 리벨리온 대표는 9일 서울 삼성동 코엑스에서 열린 엔비디아 AI DAY 중에 진행된 3사 협력 발표에서 “현실적인 소버린 AI 모델의 핵심은 두 가지”라며 “핵심 가치사슬 참여를 통한 기술 자주성, 그리고 데이터와 인프라에 대한 주도권의 능동적 행사”라고 말했다. 이날 3사는 NV링크 퓨전(NVLink Fusion) 기반 협력 업무협약을 체결했다. 리벨리온의 차세대 리벨 R200 NPU를 엔비디아 플랫폼에 연결하고, SK텔레콤 AI 데이터센터(AIDC)에서 GPU와 NPU를 함께 활용하는 이기종 컴퓨팅 환경을 구현하는 식이다. 핵심 기술 확보, 글로벌 인프라로 확장 소버린 AI를 구현하면서 모든 부품과 기술을 자체 개발하는 접근도 있지만 시장 진입 시점과 확장성을 고려하면 핵심 역량을 확보한 상태에서 글로벌 생태계를 활용하는 방식도 필요하다. 이날 SK텔레콤과 리벨리온이 엔비디아와 맞손을 잡은 이유다. 박성현 대표는 “현실적으로 확장성과 시장 출시까지 걸리는 시간을 생각하면, 모든 기술을 A부터 Z까지 전부 만들기보다 핵심 기술력을 갖추고 글로벌 생태계 안에서 어떻게 이를 구현하고 가속할 수 있을지 고민해야 한다”고 했다. 리벨리온이 엔비디아와 협력하는 이유도 칩 개발 이후 시스템을 확장하는 데 필요한 기술과 생태계에 있다. NPU를 개발하더라도 여러 칩을 연결하는 인터커넥트와 스위치, 랙 단위 시스템, 네트워킹과 공급망까지 갖춰야 실제 데이터센터에 배치할 수 있다. 박 대표는 엔비디아의 인터커넥트·스위치·랙 단위 솔루션에 대해 “처음부터 다 따라가려면 그것만으로도 3~4년이 걸리고 막대한 비용이 들 것”이라고 말했다. NV링크 퓨전은 외부 기업의 가속기를 엔비디아 플랫폼에 연결하는 기반이다. 엔비디아 측은 NPU 등 맞춤형 칩을 고대역폭 저지연 네트워크로 연결하고, 기존 랙 아키텍처와 공급망을 활용해 개발과 배포의 복잡성을 줄일 수 있다고 설명했다. 3사는 리벨리온의 NPU, 엔비디아의 연결 기술과 시스템 생태계, SK텔레콤의 인프라 운영 역량을 결합할 계획이다. 국내에서 소버린 AI 컴퓨팅의 표준을 만들고 이를 바탕으로 글로벌 시장에 도전한다는 목표다. 정석근 SK텔레콤 최고기술책임자(CTO) 겸 AI CIC장은 “글로벌 시장에서 검증된 엔비디아 GPU를 활용하면서도 국내 NPU를 활용할 수 있는 환경을 만들어주는 게 인프라 사업자가 해야 할 일이라고 생각한다”고 밝혔다. SK텔레콤은 국산 모델을 개발하는 것과 함께 해당 모델을 구동할 데이터센터와 컴퓨팅 환경도 확보해야 한다고 봤다. GPU와 NPU를 결합한 인프라를 전문 사업자가 구축 운영하고, 기업과 공공기관은 API로 토큰을 이용하도록 해 국산 NPU 활용의 진입 장벽을 낮출 구상이다. 국내 실증을 해외 사업으로, 정부 “세계가 선택해야” 협력 다음 과제는 국내 구축 사례를 실제 시장 진출로 연결하는 것이다. 정석근 CIC장은 “국내 사업자와 함께 국내에서 의미 있는 레퍼런스를 만들고 실증할 필요가 있다”며 “리벨리온 같은 기업이 다음 단계로 가기 위해 지금 필요한 지원”이라고 강조했다. 국내에서 투자와 인력 확보를 통해 칩을 개발할 여건은 조성해 왔지만, 일반 기업에 판매하거나 해외에 수출하는 데는 진입 장벽이 있다는 판단에 따른 것이다. 이에 따라, 칩 공급자를 지원하는 데서 나아가 이를 사용할 고객의 여건도 마련하고 실제 AI 서비스가 해당 인프라를 이용해 대규모 토큰 생산으로 사업화를 이루겠다는 설명이다. 협약식이 끝나고 이어진 라운드테이블에서 정석근 CIC장은 “국내 기업이 데이터센터 클러스터에 의미 있게 참여할 수 있는 기반을 마련하는 데도 의미가 있다”며 “데이터센터와 반도체, 모델, 애플리케이션까지 결합한 소버린 AI 사례를 국내에서 만들고 해외로 확장하겠다”고 밝혔다. 정부 역시 협력의 목표를 국산 기술 개발 이후의 사업 성과에 뒀다. 이도규 과학기술정보통신부 정보통신정책실장은 “AI 추론 시장이 확대되면서 GPU, CPU, NPU가 각자의 장점을 살리는 이기종 컴퓨팅이 중요해지고 있다”며 “국산 NPU가 글로벌 생태계에 연결돼 GPU와 상호 보완적인 역할을 수행할 기회”라고 분석했다. 정부는 협력 성과가 리벨리온뿐 아니라 국내 NPU 기업 전반으로 확산될 수 있도록 지원할 방침이다. 다양한 글로벌 기업과의 협력을 통해 국내 기업의 기술 경쟁력을 높이고 해외 시장 진출을 뒷받침한다는 계획이다. 이도규 실장은 “오늘의 MOU가 선언에 그치지 않고 기술과 제품 경쟁력 강화, 나아가 글로벌 시장 진출이라는 가시적인 성과로 이어지는 것이 중요하다”며 “우리의 목표는 단순히 국산 AI 반도체를 개발하는 데 그치지 않고, 세계가 우리의 기술을 필요로 하고 우리의 반도체를 선택하며, 이를 통해 새로운 시장을 함께 만들어가는 것”이라고 밝혔다.

2026.11.09 15:29박수형 기자

AI도 가성비 시대…카페24, '토큰 비용' 관리 나선다

생성형 인공지능(AI) 활용 일상화로 적은 토큰으로도 고품질의 작업을 수행할 수 있는 '토큰 가성비'가 주요 경쟁력으로 부상하고 있다. 작업의 유형과 난이도에 따라 적합한 모델을 고르는 '모델 라우팅' 기술이 핵심 요소로 떠오르면서 카페24, KT 등 국내 기업들이 관련 서비스를 연이어 공개하고 있다. 글로벌 AI 모델 중개 플랫폼 오픈라우터에 따르면 주간 토큰 처리량은 지난해 10월 4조 8900억 개에서 지난달 172조 개로 1년 만에 약 35배 증가했다. 반면 전 세계 IT 운영 및 엔지니어링 전문가 2050명 중 55%가 AI 비용을 정확하게 통제하지 못한다고 답하는 실정이다. 2026 스플렁크 옵저버빌리티 현황 보고서에서 응답자의 60%는 높은 기본 운영비보다 예상치 못한 청구 금액의 급증이 조직 운영에 보다 큰 부담을 준다고 토로했다. 이러한 추세에 하나의 AI 모델에 의존하기보다 작업의 성격과 난이도, 비용 등을 고려해 적합한 모델을 선택하는 '모델 라우팅' 기술이 주목받고 있다. 시장조사기관 IDC는 2028년까지 AI 활용 선도기업의 70%가 다양한 AI 모델을 동적으로 연결·관리하는 고급 아키텍처를 활용할 것으로 전망했다. 모든 작업에 동일한 고성능 모델을 적용하면 불필요한 비용이 발생할 수 있고, 저렴한 모델만 사용하면 정확도나 서비스 품질을 확보하기 어렵기 때문이다. 복잡한 작업에는 고성능 모델을, 반복적이고 단순한 작업에는 비용 효율적인 경량 모델을 활용하는 방식이 대안으로 떠오른다. 여러 모델의 사용량과 비용을 한곳에서 파악하고 관리하는 기능도 중요해지면서 국내 기업들이 관련 AI 인프라 서비스를 잇달아 선보이고 있다. 카페24의 '거대언어모델(LLM) 라우터'가 대표적이다. LLM 라우터는 단일 응용 프로그램 인터페이스(API)로 여러 AI 모델을 연결하는 서비스다. 아울러, LLM 라우터는 자체 자동 라우팅 기능인 'cafe24/auto'를 통해 작업 난이도와 비용에 맞는 최적 모델을 자동으로 선택한다. 개발자가 모델별 가격과 성능을 일일이 비교하거나 모델을 변경할 때마다 연동 코드를 수정해야 하는 부담을 줄일 수 있다. 동일 모델이라도 비용·속도 기준에 맞춰 최적 경로를 고르고, 특정 경로에 장애가 발생하면 대체 경로로 자동 우회해 서비스 중단 위험을 낮춘 것이 특징이다. 월 기본료나 약정 없는 종량제로 실패한 호출은 과금하지 않으며, 실시간 대시보드로 사용량과 비용을 점검할 수 있다. 지원 모델은 출시 초기 120여 개에서 최근 270여 종으로 두 배 이상 늘었다. 국내 통신 및 인프라 기업들의 시장 진출도 이어지고 있다. KT는 지난달 27일 AI 통합 플랫폼 '토큰팩토리'를 공개하고 30일부터 기업 고객을 대상으로 정식 서비스를 시작했다. 초기에는 하나의 API로 국내외 73개 AI 모델을 제공하며, 모델 선택부터 사용량 모니터링, 과금·결제까지 통합 지원한다. KT는 이달 글로벌 AI 모델 중개 플랫폼 오픈라우터와의 연계를 통해 지원 모델을 500개 이상으로 확대할 계획이다. 기업 내부의 여러 AI 서비스와 인프라를 통합 관리하는 솔루션도 있다. AI 인프라 소프트웨어 기업 래블업은 지난달 23일 '컨티넘 엔터프라이즈'의 첫 공급 계약을 발표했다. 이 솔루션은 여러 AI 모델로 요청을 분배하는 기능과 함께 각 모델의 토큰 사용량과 운영 정책, 비용을 중앙에서 관리할 수 있도록 설계됐다. 이외에도 여러 부서와 시스템에서 AI를 사용하는 기업이 전체 이용 현황과 비용을 한곳에서 관리할 수 있도록 지원한다. 카페24 관계자는 “AI 모델의 성능과 가격 경쟁이 치열해지면서 기업의 관심도 어떤 모델을 선택하느냐에서 다양한 모델을 얼마나 효율적으로 활용하느냐로 확대되고 있다”며 “AI 활용이 늘어날수록 업무 특성에 맞는 모델 선택과 사용량·비용을 통합 관리하는 역량이 기업의 중요한 경쟁력이 될 것”이라고 말했다.

2026.11.08 12:39박서린 기자

김상철 한컴 회장, 96억원대 배임 1심 무죄…횡령 혐의는 집행유예

김상철 한컴그룹 회장이 96억원대 아로와나토큰 매각대금의 사적 유용에 관여했다는 혐의에 대해 1심에서 무죄 판단을 받았다. 별도로 기소된 계열사 자금 횡령 혐의는 유죄로 인정돼 징역 1년 6개월에 집행유예 3년이 선고됐다. 수원지법 성남지원 형사1부(김경훈 부장판사)는 5일 특정경제범죄 가중처벌 등에 관한 법률상 배임 및 업무상 횡령 혐의로 재판에 넘겨진 김 회장에게 이같이 선고했다. 배임 사건에서는 회사가 보유한 가상자산을 처분한 뒤 매각대금 96억원을 개인 용도로 쓰는 과정에 김 회장이 가담했는지가 쟁점이었다. 검찰은 김 회장이 차남 등과 범행을 공모한 것으로 판단했다. 매각대금 중 일부가 아로와나 프로젝트에 투입된 만큼 김 회장이 해당 자금을 사업에 사용하는 것으로 알고 있었을 가능성도 남아 있을 것으로 예상했다. 그러나 재판부는 김 회장의 지시나 관여를 뒷받침할 직접 증거가 충분하지 않다고 봤다. 검찰이 공모 근거로 제시한 통화 내역 역시 유죄를 입증할 증거로 받아들이지 않았다. 해당 통화는 거래가 이뤄지기 약 8개월 전으로 이를 근거로 김 회장이 자금의 사적 사용을 미리 인지하거나 승인했다고 보기 어렵다는 것이다. 계열사 자금 4억 9000여만원을 사적으로 쓴 업무상 횡령 혐의에 대해서는 판단이 달랐다. 재판부는 김 회장이 2019년 4월부터 2022년 5월까지 차명으로 주식을 취득하는 데 약 2억 5000만원을 쓰고 지인에게 허위 급여 명목으로 약 2억 4000만원을 지급한 혐의를 유죄로 인정했다. 양형에서는 그룹 총수로서의 영향력을 동원해 회사 재산을 사적 이익에 사용한 점을 무겁게 봤다. 다만 범행을 인정하며 반성하고 있고 피해금을 모두 갚았으며 같은 종류의 범죄로 처벌받은 전력이 없다는 점을 함께 고려했다. 김 회장은 선고 직후 "3년여 동안 재판을 받으며 회사에 피해를 끼쳤다"며 "항소 여부는 변호인들과 상의해 결정하겠다"고 말했다.

2026.11.05 16:47남혁우 기자

SKT AIDC 자회사 사업 본격화..."AI 인프라, 핵심 성장축으로"

SK텔레콤이 AI 데이터센터(AIDC) 사업 전문 자회사인 SK하이퍼와 SK호라이즌을 통해 실행 체계를 정비하고 사업을 본격화한다. 통신과 AI를 하나의 성장 전략으로 묶어 AI 인프라를 장기 핵심 축으로 키우겠다는 구상이다. 박종석 SK텔레콤 CFO는 4일 3분기 실적발표 컨퍼런스콜에서 “SK텔레콤은 3개 분기 연속 5000억원 이상 영업익으로 실적 회복 흐름을 이어가고 있다”며 “통신과 AI 관계가 밀접해지면서 통신 사업과 AI 사업을 하나의 성장 전략으로 연결하고, AI 인프라는 장기 핵심 성장축이 되도록 키워 나가겠다”고 밝혔다. SK텔레콤은 AIDC 자회사인 SK하이퍼와 SK호라이즌을 설립해 AI 인프라 사업 구조를 개편하고 실행 체계를 정비했다. SK텔레콤은 AIDC 전반 전략과 위험 관리, 글로벌 협력을 총괄하고 SK하이퍼와 SK호라이즌이 AIDC 운영과 확장, 사업 개발을 추진하는 구조다. SK하이퍼는 지난 7월 설립 이후 부지를 확보하고 울산에서 일부 용량에 대한 건축 허가를 획득했으며 글로벌 사업자 세네 곳과 구체적 사업 조건을 협의하고 있다. 울산 외 복수 지역 후보지에서도 부지 확보와 고객 유치를 진행하고 있다. 2027년 상반기까지 초기 가동 물량에 대한 고객을 확보하고, 인허가와 구축 절차를 거쳐 2029년 하반기부터 단계적으로 AIDC를 가동하는 것이 목표다. 2027년 1분기 설립 예정인 SK호라이즌은 수도권 중심 DC 사업, 울산 100MW급 AIDC 구축, 해저케이블 사업 확대에 주력한다. 기존 커머셜 계약과 파이낸싱 구조가 상당 부분 갖춰져 있어 SK텔레콤이 지분 51%를 유지하며 안정성을 확보한다. SK하이퍼와 SK호라이즌이 사업 추진 단계에 맞춰 재무 부담을 관리한다는 방침이다. 기가와트(GW)급 AIDC 개발을 담당하는 SK하이퍼는 향후 커머셜 계약 체결과 대규모 투자 재원 조달 등 사업 개발에 필요한 절차가 남아 있는 만큼 구체화 과정에서 유연하게 대응할 수 있도록 체계를 마련했다. 2300만 가입자와 결제 체계, 여러 AI 모델을 제공할 수 있는 플랫폼과 인프라를 기반으로 가입자 AI 사용을 관리하고 목적에 맞는 모델과 인프라를 연결하는 토큰 게이트웨이 사업에 대한 청사진도 제시했다. 박 CFO는 “공공, 국방 등 소버린 영역에서 먼저 기회가 열릴 것으로 예상하고 있으며, 토큰 게이트웨이를 기반으로 AI 사용과 운영에서 수익이 이어지는 구조를 만들어가겠다”며 “B2B, B2C 서비스도 같은 기반 위에서 통신 상품과 연계하는 방식을 검토하고 있다”고 설명했다. 무선 사업은 가입자 회복과 가입자 가치 중심 효율적인 시장 운영을 통해 점진적으로 매출을 회복해 나가고 있고, 3분기는 삼성전자 갤럭시Z 폴드 등 플래그십 단말 출시에 힘입어 우량 가입자를 유치하면서 매출이 증가했다는 설명이다. 배병찬 MNO 전략실장은 “3분기 플래그십 단말 출시라는 모멘텀을 활용해 우량 가입자 확보와 외국인 등 공략으로 가입자 기반을 확대하고 있으며, 이동통신 매출과 가입자당 평균 매출(ARPU) 모두 증가세를 보이고 있다”며 “4분기에도 성장 전략을 지속적으로 이어갈 예정이며, 본원적 경쟁력을 꾸준히 높여간다면 MNO 매출은 회복을 지속할 것으로 예상한다”고 말했다. 차세대 네트워크인 5G SA는 현재 주요 기술에 대한 연구 검증을 진행하고 있으며, 오는 12월 상용화 예정이다. 6G는 2029년을 목표로 진행 중인 단계로, 상용화는 2030년 이후를 점치고 있다. 주주환원에 대해선 최소한 현재 수준의 배당은 지속한다는 방침이다. 박 CFO는 “GW급 AIDC 투자 상당 부분은 재무적 투자를 활용해 자사투자 부담을 줄이겠다는 입장에 변함이 없다”며 “외부 자금을 활용하더라도 자금 부담은 발생하는 만큼, 사업별 투자 규모와 집행 시기, 자금 조달 구조 등을 면밀히 검토하면서 투자 효율성과 재무 건전성을 함께 관리해 나가겠다”고 말했다. 앤트로픽 지분 매각과 관련해선 “AIDC를 비롯한 중장기 투자 계획과 실제 자금 소요, 재무 상황 등을 종합적으로 고려해 주주가치 제고에 가장 효과적으로 기여할 수 있는 방향으로 결정하겠다”고 했다. 아울러 최근 스페이스X 미국 내 주파수 취득이 한국 통신 생태계에 미칠 영향력에 대해 “한국 통신사는 이미 전국 5G망과 높은 수준의 인빌딩 커버리지를 기반으로 우수한 네트워크 품질과 서비스 경쟁력을 갖추고 있어 저궤도 위성 통신 서비스 영향은 다소 제한적”이라면서도 “위성과 지상망 결합을 통해 기존 위성 통신 커버리지와 데이터 수용 용량 등이 개선될 가능성이 있는 만큼, 향후 기술 발전과 사업 모델, 규제 변화를 살펴보겠다”고 말했다.

2026.11.04 18:11홍지후 기자

KT, AI 모델 골라 쓰는 '토큰팩토리' 출시...이용료 30% 할인

KT는 이용자가 다양한 AI 모델을 하나의 플랫폼에서 비교하고 사용할 수 있는 AX 플랫폼 토큰팩토리 서비스를 출시한다고 30일 밝혔다. KT는 통신 사업에서 축적한 연결, 과금, 보호 역량을 AI 영역으로 확장해, 이용자가 보다 쉽고 효율적으로 다양한 AI를 활용할 수 있는 환경을 제공한다. 이용자는 업무와 서비스 목적에 따라 필요한 AI 모델을 선택하고, 모델 이용부터 과금까지 한 곳에서 관리할 수 있다. 출시 기념으로 KT가 한국에서 직접 제공하는 AI 모델 이용료를 오는 11월30일까지 30% 할인한다. 믿음 K 3.0 Pro, 솔라 프로 4, 모티프 3, 엔비디아 네모트론 3 울트라 550B A55B, GLM 5.3 플래시, 키미 K3, 젬마 4 31B 등 7개 모델이 대상이다. 법인 인증과 상품 계약을 완료한 가입자에게 할인을 제공한다. 이용 요금은 KT 과금 역량을 기반으로 원화로 청구된다. KT는 토큰팩토리를 통해 이용자가 다양한 AI 모델을 경험하고, 업무와 서비스 특성에 적합한 모델을 보다 부담 없이 활용할 수 있도록 지원한다는 계획이다.

2026.10.30 09:59홍지후 기자

LGU+, 스마트폰 AI 속도 4.5배 높이고 배터리 소모 77% 줄였다

LG유플러스가 스마트폰에서 구동하는 AI 처리 속도를 약 4.5배 높이고 배터리 소모를 77% 줄이는 기술을 개발했다. LG유플러스는 29일 AI 토큰 최적화 기술을 다룬 연구 논문 2편이 세계 3대 AI 학회 중 하나인 '뉴립스(NeurIPS) 2026'의 온디바이스 인텔리전스 워크숍에 채택됐다고 밝혔다. 뉴립스는 국제머신러닝학회(ICML), 국제표현학습학회(ICLR)와 함께 주요 AI 학술대회로 꼽힌다. 올해 행사는 오는 12월6일부터 일주일간 호주 시드니에서 개최된다. 연구는 스마트폰의 제한된 메모리와 배터리로 AI 모델을 빠르게 실행하고 학습시키는 데 초점을 맞췄다. AI가 데이터를 처리하는 기본 단위인 토큰의 연산 효율을 높여 응답 지연과 전력 사용을 줄이는 방식이다. LG유플러스는 통화 서비스용 소형언어모델(sLM)에 경량화와 추론 가속 기술을 적용했다. 회사 측은 기존 방식과 비교해 처리 속도가 약 4.5배 빨라졌으며 배터리 소모는 약 77% 감소했다고 설명했다. 스마트폰 내부에서 AI를 추가 학습시키는 기술도 개발했다. 연산량과 메모리 사용을 줄여 개인정보를 외부 서버로 전송하지 않고도 기기에서 모델을 학습할 수 있도록 했다. 실제 스마트폰을 이용한 검증에서는 서버에서 학습한 모델과 유사한 수준의 정확도를 확인했다. 개인 데이터를 기기 밖으로 보내지 않으면서 AI를 사용자 환경에 맞게 학습시킬 수 있다는 점이 특징이다. LG유플러스는 이번 연구 결과를 자사 AI 서비스에 적용하는 방안을 검토하고 있다. 스마트폰에서 확보한 최적화 기술을 서버의 그래픽처리장치(GPU) 환경으로 확대하는 연구도 추진할 계획이다. 이상엽 LG유플러스 최고기술책임자(CTO)는 "이번 뉴립스 논문 채택은 제한된 환경에서도 AI를 빠르고 효율적으로 실행하고 학습하기 위한 연구 성과를 인정받은 것"이라며 "고객이 AI 서비스를 보다 빠르고 편리하게 이용할 수 있도록 관련 기술을 실제 서비스에 적용하고, 향후 서버 환경까지 연구 범위를 확대해 나가겠다"고 말했다.

2026.10.29 09:29박수형 기자

AI도 가성비 시대...'토큰 다이어트'에 빠진 빅테크

글로벌 빅테크의 AI 경쟁이 성능과 규모 중심에서 비용 대비 효율을 높이는 방향으로 옮겨가고 있다. 업무에 필요한 만큼만 AI 모델을 활용해 토큰 소비를 줄이는 이른바 '토큰 다이어트'가 새로운 화두로 떠올랐다. 토큰은 AI가 텍스트 등을 처리하는 기본 단위로, 생성형 AI 서비스의 주요 과금 기준이다. 기업들이 AI를 단순 검색과 문서 작성에서 복잡한 업무를 수행하는 에이전트로 확대하면서 토큰 사용량과 운영 비용도 늘어나고 있다. 이에 따라 업무 난도에 맞춰 AI 모델을 선택하고 불필요한 토큰 소비를 줄이는 기술이 주목받고 있다. AI 호출 횟수나 사용량보다 실제 업무 성과를 기준으로 요금을 부과하는 서비스도 등장했다. SK텔레콤은 AI 에이전트 도입을 넘어 조직의 일하는 방식 자체를 바꾸는 AI 전환(AX)을 추진하고 있다. 비싼 AI는 어려운 일에만, '토큰 다이어트' 화두로 AI 비용을 줄이는 대표적인 방법은 업무 특성에 따라 여러 모델을 구분해 사용하는 '모델 라우팅'이다. 간단한 요약이나 번역에는 저비용 모델을 활용하고 복잡한 추론이 필요한 작업에만 고성능 모델을 투입하는 방식이다. 앤트로픽은 AI 모델을 경량 모델인 하이쿠, 중간급 소넷, 고성능 오퍼스 등으로 구분해 제공한다. 아마존웹서비스(AWS)의 베드록도 기업이 여러 AI 모델 가운데 업무에 적합한 모델을 선택해 사용할 수 있도록 지원한다. AI 모델 자체의 가격 경쟁도 치열해지고 있다. 오픈AI와 앤트로픽 등 주요 AI 기업들은 고성능 모델의 처리 비용을 낮추며 기업 고객 확보에 나서고 있다. 스마트폰 등 기기 내부에서 AI를 실행하는 온디바이스 AI도 토큰 절감 수단으로 주목받는다. 번역이나 요약, 기기 제어처럼 비교적 단순한 작업은 소형언어모델(SLM)로 처리하고, 복잡한 분석과 생성 작업만 클라우드의 거대언어모델(LLM)에 맡기는 방식이다. 모든 업무에 고성능 AI를 적용하는 대신 작업에 적합한 모델을 선택하면 외부 모델 호출과 토큰 처리 비용을 줄일 수 있다. 같은 비용으로 더 많은 업무를 처리하는 토큰 대비 가성비를 높이는 전략이다. AI 서비스 요금 체계도 달라지고 있다. AI 호출 횟수나 토큰 사용량이 아닌 실제 업무 해결 여부를 기준으로 비용을 청구하는 방식이다. 미국 고객 서비스 플랫폼 인터컴은 AI 상담 에이전트 '핀'이 고객 문의를 해결하면 건당 0.99달러를 받는다. 젠데스크 역시 AI가 상담원 개입 없이 문의를 해결한 경우에 비용을 부과하는 성과 기반 요금제를 도입했다. 미국 AI 문서 플랫폼 민틀리파이도 AI 호출 횟수보다 실제 성과 발생 여부에 따라 요금을 부과하는 구조를 도입했다. 인도 음성 텍스트 솔루션 기업 스쿼드스택은 음성 AI 영업 에이전트의 성과를 실제 매출과 연동하는 모델을 선보였다. SKT, AI 에이전트에 사번 부여...업무 구조 바꾼다 국내서는 SK텔레콤이 AI 활용을 확대하는 데서 나아가 조직 운영 방식까지 바꾸는 작업을 추진하고 있다. SK텔레콤은 지난 3월 비개발 직군을 포함한 전 구성원이 직접 AI 에이전트를 제작해 업무에 활용하는 '1인 1 AI 에이전트' 프로젝트를 시작했다. 특히 AI 에이전트에 사번과 소속, 직무, 권한을 부여해 실제 구성원과 함께 업무를 수행하도록 하는 방안을 추진하고 있다. 직원이 AI와 함께 기획과 개발, 디자인 등 여러 역할을 수행하는 '멀티 롤' 업무 체계도 구상하고 있다. 정재헌 SK텔레콤 CEO는 최근 서울대학교에서 진행한 'AI 시대의 선택과 기회' 특강에서 AI 도입에 따른 생산성 변화를 설명하는 'AX의 J커브'를 제시했다. AI 도입 초기에는 데이터 정비와 조직과 업무 재설계, 구성원 재교육 등에 시간과 비용이 투입돼 생산성이 일시적으로 낮아질 수 있다는 것이다. 이후 업무 체계가 AI에 맞게 바뀌면 생산성이 크게 높아질 수 있다는 설명이다. 정 CEO는 이러한 초기 구간에서 일하는 방식을 근본적으로 재설계해야 생산성 상승으로 이어질 수 있다고 강조했다. SK텔레콤은 사내 AI 개발 플랫폼을 통합하고 보안 체계를 고도화해 AI 에이전트 활용 기반을 확대할 계획이다. 이를 조직 생산성 향상과 새로운 비즈니스 모델 발굴로 연결한다는 구상이다.

2026.10.29 09:11박수형 기자

AI 모델마다 성능·가격 다른데...기업은 어떻게 골라 쓸까

기업이 AI를 업무에 도입할 때 모든 작업에 가장 성능이 높은 모델을 사용할 필요는 없다. 간단한 문서 요약과 번역에는 저렴한 경량 모델로도 충분하다. 반면 복잡한 분석과 추론에는 고성능 모델이 필요하다. KT가 기업의 업무 유형과 비용 조건에 따라 AI 모델을 자동으로 선택하고 사용량까지 관리하는 토큰팩토리 사업에 나선 이유다. 원만호 KT AX플랫폼본부장은 27일 서울 광화문 KT 사옥에서 열린 기자간담회에서 기업용 AI 플랫폼 토큰팩토리를 시연하면서 주요 기능으로 ▲오토 모델 라우터 ▲토큰 절감 ▲가드레일 등을 꼽았다. 토큰팩토리는 기업이 하나의 응용프로그램 인터페이스(API)로 다양한 AI 모델을 이용할 수 있도록 지원하는 플랫폼이다. 모델별 성능과 이용료를 비교하고, 업무에 적합한 모델을 자동으로 연결한다. 기업이 사용한 토큰의 양과 비용을 확인하고 개인정보 유출을 방지하는 기능도 제공한다. KT가 제시한 핵심은 기업이 AI 모델을 일일이 비교하거나 가장 비싼 모델에 의존하지 않아도 된다는 점이다. AI 모델의 종류가 늘고 가격 체계가 복잡해지는 상황에서 기업이 품질과 비용을 함께 관리할 수 있도록 하는 데 초점을 맞췄다. 업무마다 다른 AI 모델, 무엇을 선택할까 이진형 KT AX사업본부장은 “기업이 AX를 고민할 때 단순히 비용이 저렴한 것만이 아니라, 업무에 적합하면서도 비용 효율적인 모델이 무엇인가 하는 점이 고민”이라며 “KT 토큰 팩토리는 요약이나 단순 번역 등 업무는 경량 모델을, 복잡 업무는 고성능 모델을 적용해 비용을 최적화한다”고 말했다. KT 토큰팩토리는 이용자 프롬프트에 따라 적합한 모델을 사용한다. KT 토큰팩토리 공식 홈페이지에선 오는 30일부터 70여 개 이상의 다양한 AI 모델을 하나의 API로 연동해 제공하고, 11월엔 500여 개 모델을 확충할 예정이다. 기업은 모델 탐색 화면에서 필터링 기능을 통해 원하는 모델을 선택할 수 있다. 특정 모델을 선택하면 상세한 스펙을 확인할 수 있다. 화면엔 개발사와 멀티모델 지원 여부, 입출력 단가, 캐시 적용 단가가 표기된다. 레이턴시와 처리량 등 실제 업무 성능을 확인할 수 있다. 모델 체험 화면에선 여러 모델 성능을 동시에 한눈에 확인할 수 있다. 가령 GPT, 큐엔, 미드 등 AI 모델을 고르고 프롬프트를 입력해 답변이 생성되면 화면 맨 우측 상단에 사용된 토큰 양과 응답 소요 시간이 표시되며, 프롬프트에 따른 결과물을 직접 비교할 수 있다. 이용자가 원하는 모델 범위를 선택하고, 품질과 비용에 대한 가중치를 설정할 수 있다. 품질을 높게 설정하면 성능이 뛰어난 고성능 모델을 우선 사용하므로 비용이 다소 상승할 수 있다. 반대로 비용 절감에 가중치를 두면 상대적으로 경제적인 모델이 사용된다. KT 자체 라우팅 기술인 오토 모델 라우터는 이용자가 적절한 가중치와 선호 모델을 선택하면, 조건에 맞춰 최적의 모델로 자동 라우팅한다. 원만호 본부장은 “사전에 다양한 모델별 품질 지표를 미리 평가해두고, 프롬프트가 입력됐을 때 실제로 모델을 다 돌려보지 않아도 입력된 프롬프트 품질 요구 수준을 미리 예측할 수 있다”며 “품질 기준을 충족하지 못하는 모델은 자동 탈락시키고, 설정된 가중치에 가장 적합한 모델을 스마트 모델 라우터가 자동 선정해 처리한다”고 설명했다. “AI 사용료 최대 25% 절감” 대시보드를 통해 API 이용 현황을 한눈에 파악할 수 있다. 원하는 기간 동안 처린된 프롬프트 횟수, 성공률, 총 토큰 사용량, 총 발생 비용을 조회할 수 있다. 특정 기간 가장 많이 사용된 모델이 무엇인지, 어떤 API 키와 사용자가 접속했는지 상세히 파악할 수 있으며, 일간 모델 사용량과 토큰 사용량도 조회할 수 있다. 전체 토큰 사용량 확인을 통한 예산 관리도 가능하다. 관리자는 전체 API 키 별 비용을 모니터링할 수 있다. 모델을 사용하는 API 키별로 월간, 일간 쿼터를 설정해 정해진 예산 범위 내에서 안정적으로 집행될 수 있도록 관리한다. KT는 자동 모델 선택에 더해 AI가 처리하는 토큰 자체를 줄이는 기술도 토큰팩토리에 적용했다. 토큰은 AI 모델이 입력과 출력을 처리하는 단위로, 일반적으로 사용량이 늘어날수록 비용도 증가한다. 토큰 절감 기술은 입력 문장의 불필요한 표현을 줄이는 프롬프트 압축과 출력 토큰 최적화로 구성된다. 이를테면 '다음 주 출장인데 월요일 오전 서울에서 부산으로 가는 KTX 열차를 찾아줘'라는 요청을 '다음 주 월요일 오전 서울-부산 KTX'로 압축하는 사례를 소개했다. 요청의 핵심 의미를 유지하면서 입력 토큰 수를 줄이는 방식이다. 원 본부장은 “내부적으로 테스트했을 때 최대 약 25%까지 절감되는 것을 확인했다”면서 “그만큼 토큰을 보다 비용 효율적으로 이용할 수 있도록 하는 기술”이라고 밝혔다. 김준석 KT 에이전틱AI랩장은 “프롬프트 압축으로 토큰 사용량을 약 20% 줄이고, 모델 라우팅을 통해 요청을 처리할 수 있는 저렴한 모델을 선택해 추가로 약 5%의 비용을 절감했다”고 설명했다. 즉, 실제 절감률은 기업이 사용하는 모델과 업무 유형, 입력 내용에 따라 달라질 수 있다. KT는 AI 모델 자체의 크기를 줄이는 최적화 기술도 적용하고 있다. 이 본부장은 “모델 경량화 기술을 활용해 성능 저하를 5% 미만으로 제한하면서 모델 크기를 최대 70%대까지 줄일 수 있다”고 말했다. 모델 크기가 작아지면 구동에 필요한 GPU 자원과 추론 비용을 낮출 수 있다. 기업이 AI 서비스를 대규모로 운영할 때 모델 사용료뿐 아니라 인프라 비용까지 줄일 수 있다는 것이다. 절감 효과를 확인하는 대시보드를 통해 관리자는 토큰 절감 기능을 적용한 뒤 실제로 줄어든 토큰의 양과 압축이 적용된 요청 비율을 확인할 수 있다. 기업 데이터와 보안은 어떻게 관리하나 기업이 여러 AI 모델을 도입할 때 발생하는 관리 문제도 해결 대상이다. 부서와 개발자마다 사용하는 모델이 다르면 전체 이용량을 파악하기 어렵고, 특정 조직에서 AI 사용료가 급증하더라도 원인을 확인하는 데 시간이 걸릴 수 있다. 토큰팩토리에서는 관리자가 개발자를 초대하고 API 키를 발급하고 관리할 수 있다. API 키별로 하루 또는 한 달 동안 사용할 수 있는 한도와 예산을 설정해 비용이 일정 수준을 넘지 않도록 통제하는 기능도 제공한다. 관리 대시보드에서는 전체 요청 건수와 처리 성공률, 토큰 사용량, 발생 비용을 확인할 수 있다. 가장 많이 사용된 AI 모델과 API 키, 이용자별 사용 현황도 조회할 수 있어 부서별 비용 관리에 활용할 수 있다. 보안 기능은 기업이 AI 모델을 사용하는 과정에서 입력하거나 생성하는 정보를 통제하는 데 초점을 맞췄다. 원 본부장은 시연에서 개인정보 필터링과 기업별 금칙어 설정, 사용 가능한 모델 제한, IP 접근 통제 기능을 소개했다. 주민등록번호 등 개인정보가 포함된 요청이나 답변을 차단하고, 기업이 지정한 금칙어가 입력되면 AI 모델이 해당 요청을 처리하지 않도록 설정할 수 있다. 기업은 국내에서 운영되는 AI 모델만 사용하도록 제한하거나 특정 모델을 사용 대상에서 제외할 수도 있다. 금융·공공 등 데이터 처리 위치와 보안 요건이 중요한 조직을 고려한 기능이다. 프롬프트는 기본적으로 KT 내부에 저장하지 않는다. 다만 기업이 내부 감사나 이용 이력 확인을 위해 기록 보관을 요구할 경우 선택적으로 저장할 수 있도록 했다. AI 에이전트의 내부 지시문을 탈취하려는 프롬프트 인젝션 공격에 대한 방어 기능도 적용했다. 외부 입력을 통해 시스템 프롬프트를 추출하거나 기존 지시를 우회하려는 요청을 차단하는 방식이다. 이 본부장은 “기업용 AI 서비스에서 보안과 데이터 관리가 중요하다”며 “KT가 직접 운영하는 모델에는 고객 데이터 비저장 비학습 원칙을 적용한다”고 밝혔다. 이어 “국내 데이터센터에서 직접 제공하는 모델은 국내에서 데이터를 처리할 수 있도록 구성했다”고 덧붙였다. 그는 또 “오픈라우터를 통해 연결되는 모델의 데이터 처리 지역은 각 모델 제공사의 운영 환경에 따라 달라진다”며 “기업은 보안 요구 수준에 따라 국내 운영 모델과 외부 모델을 구분해 선택할 수 있다”고 말했다. KT는 12월 토큰팩토리의 두 번째 업데이트를 진행하고, 내년에도 기능을 확대할 계획이다. 기업이 AI 모델을 선택하고 운영하는 과정에서 품질과 비용, 보안 조건을 한꺼번에 관리하도록 지원하는 것이 개발 방향이다.

2026.10.27 16:01홍지후 기자

AI 토큰도 통신처럼 판다...KT, 생산·유통 사업 진출

KT가 AI 모델을 공급하고 사용량에 따라 요금을 받는 새로운 사업을 시작한다. 음성통화와 데이터 사용량을 측정해 과금하던 통신사업 방식을 AI 토큰 시장으로 확장하는 방식이다. KT가 구상한 토큰팩토리는 자체 데이터센터에서 토큰을 직접 생산하는 동시에 외부 AI 모델을 유통하고, 기업의 AI 이용 비용까지 통합 관리하는 체계다. 박상원 KT AX사업부문장은 27일 서울 광화문 KT 사옥에서 열린 기자간담회에서 “AI가 기업이나 산업이나 여러 업무에 적용돼서, 이제는 성능에서 실질적인 성과와 가치 창출로 어떻게 전환하느냐가 가장 중요한 화두가 됐다”고 밝혔다. 기업의 AI 전환에 필요한 조건으로는 실행과 효율, 신뢰를 꼽았다. AI를 기존 데이터와 업무 체계에 연결하는 것뿐 아니라 도입 비용과 정보보안 문제까지 해결해야 한다는 설명이다. KT는 토큰팩토리를 통해 AI 모델을 효율적으로 공급하고 기업이 안심하고 활용할 수 있는 환경을 제공한다는 구상이다. 박 전무는 “빠르게 바뀌는 세상에서 빠르고 쉽게 AI로 전환하고 비용과 효율성을 다 잡아야 한다”며 “필요한 AI를 쉽고 경제적으로 도입하고 확장할 수 있는 체계가 중요하다”고 강조했다. 오는 30일 출시를 앞둔 토큰팩토리는 여러 AI 모델을 하나의 플랫폼에서 제공하고 사용량을 측정해 요금을 정산하는 서비스다. 토큰은 AI가 입력된 문장을 처리하거나 답변을 생성할 때 사용하는 기본 단위다. 기업이 AI를 많이 사용할수록 토큰 소비량과 이용료가 증가한다. AI 토큰 시장 급성장…기업 AX 사업과 연결 KT가 토큰 사업에 주목한 배경에는 빠르게 늘어나는 AI 이용량이 꼽힌다. 이진형 KT AX사업본부장은 글로벌 AI 모델 중개 플랫폼 오픈라우터의 통계를 인용해 최근 1년간 토큰 처리량이 35배 증가했다고 설명했다. 이 기간 처리된 토큰은 약 172조 개에 달한다. 이 본부장은 AI를 이용해 로또 번호 분석 프로그램을 만드는 과정을 시연했는데, 역대 당첨번호를 분석하는 프로그램 제작에 약 3600만 토큰이 사용됐고, 비용은 약 15달러가 발생했다. AI가 단순한 질문에 답하는 수준을 넘어 프로그램 개발과 복잡한 추론까지 수행하면서 토큰 소비량이 빠르게 늘고 있다는 대목이다. 기업이 AI 에이전트를 활용해 업무를 자동화할수록 토큰 이용료와 관리 부담도 커질 수밖에 없다. KT는 토큰팩토리를 기존 기업용 AI 전환(AX) 사업과 결합할 계획이다. 기업에 AI 에이전트를 구축하거나 클라우드 환경을 전환하고, AI가 활용할 수 있도록 데이터를 정제하는 사업에 모델 공급 기능을 추가하는 방식이다. 이 본부장은 “기업이 AI 에이전트를 구축한 뒤에도 새로운 모델이 출시될 때마다 이를 적용해야 하고, 조직별로 어떤 모델을 사용하는지 파악하기 어렵다는 점이 기존 AX 사업의 과제”라고 설명했다. 이어 “토큰팩토리로 이러한 문제를 해결하면서 기업 전용회선과 프라이빗 클라우드, AI 에이전트 구축 사업을 함께 공급할 계획”이라며 “통신 인프라부터 AI 모델 이용까지 기업 고객의 수요를 묶어 제공하는 전략”이라고 덧붙였다. AI 모델 73종 공급, 중개와 직접 생산 병행 KT는 토큰팩토리 출시 시점에 73종의 AI 모델을 제공한다. 이 가운데 7종은 국내 AI 데이터센터와 그래픽처리장치(GPU)를 활용해 직접 운영하는 모델이다. 업스테이지와 모티프 등 국내 AI 기업의 모델과 KT가 개발한 1200억 파라미터급 모델도 포함된다. 11월에는 오픈라우터와 협력해 약 500종의 모델을 추가로 연결할 계획이다. 해외 AI 모델을 국내 기업에 공급하는 동시에 국내 AI 모델을 오픈라우터에 등록해 해외 이용자에게 판매하는 사업도 추진한다. 이 본부장은 “KT와 국내 스타트업이 개발한 한국의 AI 모델을 오픈라우터에 통신사 최초로 등록해 전 세계에 판매할 예정”이라며 “입점과 판매를 동시에 추진하는 전략적 관계를 맺었다”고 밝혔다. 토큰팩토리의 사업 구조는 크게 두 가지다. 외부 AI 모델을 연결해 판매하는 중개 사업과 KT가 보유한 인프라에서 모델을 직접 구동해 토큰을 공급하는 사업이다. 글로벌 AI 시장에는 오픈라우터처럼 여러 모델을 모아 유통하는 사업자와 투게더AI, 파이어웍스AI처럼 자체 인프라에서 모델을 운영하는 사업자가 있다. KT는 두 가지 방식을 모두 활용해 사업을 확대한다는 방침이다. 특히 외부 모델을 중개하고 수수료만 받는 방식에 의존하지 않겠다는 구상이다. 이 본부장은 “글로벌 AI 모델 중개 사업자들이 약 5%의 수수료를 받지만, KT는 이를 주력 수익원으로 삼지 않겠다”면서 “국내 데이터센터의 GPU에서 모델을 직접 운영해 토큰을 생산하고, 모델 공급사와 체결한 계약을 바탕으로 수익을 확보하겠다”고 말했다. 외부 모델을 공급할 때도 KT가 개발한 모델 라우팅과 토큰 최적화, 보안 기능을 결합한다. 오픈라우터의 서비스를 그대로 재판매하는 대신 AI 모델만 연계하고 부가 기능은 자체 기술로 제공한다는 설명이다. 기업 전용회선과 프라이빗 클라우드 등 기존 통신사업과 결합한 판매도 추진한다. AI 모델 사용료뿐 아니라 통신 인프라와 클라우드, 에이전트 구축 서비스까지 연결해 기업 고객의 지출을 확보하겠다는 전략이다. 통신요금처럼 사용량 정산, 기업 약정제 도입 토큰팩토리에는 KT가 통신사업에서 축적한 이용량 측정과 과금 기술도 적용된다. KT는 통신사가 통화 이용 내역을 관리하는 통화상세기록(CDR)과 유사한 개념으로 토큰상세기록(TDR)을 정의했다. AI 모델별 토큰 사용량을 기록하고 요금 정책을 적용해 기업에 통합 청구하는 방식이다. 이 본부장은 “통신에서 과금할 때 사용하는 CDR과 동일한 개념과 기법으로 TDR을 생성하고, 토큰 사용량을 기록한 뒤 요금 정책을 적용해 통합 청구하는 방식을 사용한다”고 했다. 이를 통해 기업은 어떤 모델을 얼마나 사용했고 비용이 얼마 발생했는지 한곳에서 확인할 수 있다. 모델 개발사마다 별도로 계약하고 이용료를 관리해야 하는 부담을 줄이는 것이 목적이다. 요금제는 스탠다드와 엔터프라이즈로 구분된다. 스탠다드는 사용량에 따라 요금을 내는 방식으로 후불 정산과 선불 크레딧을 모두 지원한다. 엔터프라이즈는 사용 규모와 계약 기간을 고려해 할인과 맞춤형 서비스를 제공한다. 기업이 원할 경우 KT 전용망을 통해 AI 트래픽을 처리하고, 서비스수준협약(SLA)을 통해 품질을 보장하는 방식도 지원한다. 통상적으로 기업이 선불 크레딧보다 후불 약정과 월별 정산을 선호한다는 점을 고려해 설계한 요금 체계다. KT는 이를 바탕으로 올해 말까지 기업 고객 확보에 집중하고, 내년 3월에는 개인 개발자 등을 위한 구독형 요금제를 선보일 계획이다. 국내 인프라에서 직접 운영하는 AI 모델도 현재 7종에서 내년 10여 종으로 확대한다. 금융권에는 국내 데이터센터에서 구동되는 모델과 보안 기능을 결합해 공급하고, 공공시장에는 관련 규제와 클라우드 이용 기준을 고려해 진출할 방침이다. KT는 2028년까지 토큰팩토리 사업의 매출 확대를 추진한다. 자체 GPU에서 생산하는 토큰의 비중을 높이고 기존 통신 클라우드 고객 AI 이용 수요를 연결하는 것이 핵심이다. 이 본부장은 “통신사업의 과금 단위가 음성통화의 '분'에서 인터넷과 이동통신의 '바이트'로 바뀌어 왔다”며 “2026년 KT는 이제 '토큰'을 기반으로 과금하고, 토큰 트래픽을 정산하고 라우팅하는 사업자가 되려고 한다”고 밝혔다.

2026.10.27 16:01박수형 기자

인스웨이브, 디지털자산 플랫폼 사업 확대…2028년 소상공인 1만곳 확보 목표

인스웨이브(대표 어세룡)가 금융 IT 분야에서 축적한 기술력을 바탕으로 디지털자산 플랫폼 사업을 확대한다. 소상공인 모바일 상품권 서비스를 시작으로 디지털자산 기부, 토큰증권(STO), 해외 거래까지 사업 영역을 넓혀 기존 솔루션 공급 중심의 매출 구조를 다변화한다는 계획이다. 인스웨이브는 소상공인 대상 디지털자산 플랫폼 '내기프트'의 실증사업을 확대하고 신규 플랫폼 개발과 해외 진출을 추진한다고 27일 밝혔다. 인스웨이브는 2002년 설립 이후 은행과 증권사, 보험사 등에 웹 표준 사용자환경(UI/UX) 솔루션을 공급하며 금융 시스템 구축 경험을 쌓았다. 이를 디지털자산 사업에 활용하기 위해 2024년 정관에 관련 사업 목적을 추가했으며, 지난해에는 STO 전담 태스크포스(TF)를 구성했다. 신사업의 출발점은 소상공인용 모바일 상품권 플랫폼 내기프트다. 개별 점포가 상품과 서비스를 디지털 상품교환권으로 발행하면 소비자가 모바일에서 구매하거나 다른 사람에게 선물할 수 있는 서비스다. 별도 대규모 시스템을 구축하기 어려운 소상공인도 모바일 상품권을 판매할 수 있도록 설계했다. 현재 서울 숙대순헌황귀비길과 인천 부평종합시장, 서울 암사종합시장 등에서 실증사업을 진행하고 있다. 회사에 따르면 숙대순헌황귀비길에서는 모바일 상품권 구매와 선물하기 이용이 늘면서 기존 방문객 외에 다른 지역 소비자까지 고객층이 확대됐다. 인스웨이브는 내기프트를 2027년 정식 서비스로 출시하고 2028년까지 전국 전통시장과 골목상권 100곳, 소상공인 점포 1만곳으로 서비스 범위를 넓힐 예정이다. 디지털자산을 활용한 기부 서비스도 준비하고 있다. 2027년 상반기 출시를 목표로 개발 중인 '기빙스퀘어(가칭)'는 암호화폐 등 디지털자산으로 기부금을 모금할 수 있도록 지원하는 플랫폼이다. 초기에는 가상자산 기부를 중심으로 서비스를 운영하고 이후 지원 자산을 확대할 방침이다. 국내 비정부기구(NGO)와 재단 등 기부단체와 협력해 관련 서비스를 구축할 계획이다. 중장기적으로는 K-콘텐츠 창작자의 지식재산권(IP)을 활용한 STO와 국경 간 거래를 지원하는 크로스보더 서비스도 추진한다. 두 사업은 관련 법·제도와 정책 가이드라인에 맞춰 구체화할 예정이다. 해외 진출은 지역별로 사업 모델을 달리한다. 일본과 유럽에서는 내기프트와 디지털제품여권(DPP)을 연계한 서비스를 검토하고, 동남아시아와 아메리카에서는 K-콘텐츠 IP 거래 시스템을 추진한다. 동남아시아와 중앙아시아, 아프리카에서는 크로스보더 서비스 도입을 모색한다. 인스웨이브는 각 플랫폼을 독립적으로 운영하면서 디지털자산 발행과 관리에 필요한 공통 기술을 공유할 계획이다. 이를 통해 개발·운영 비용을 줄이고 기존 구축형 사업에 거래 수수료와 서비스 이용료를 결합해 반복 매출을 확보한다는 전략이다. 어세룡 인스웨이브 대표는 "24년 동안 금융 시스템을 만들어 온 역량이 디지털자산 분야에서도 경쟁력이 될 것이며, 대학가 상권과 인천 등에서 기프트카드를 디지털 토큰으로 운영해 실제 매출을 올렸고 월드비전 협력 등 실증 사업을 본사업으로 진전시키는 단계"라며 "생활 밀착형 서비스부터 기부, STO, 해외 거래까지 아우르는 독자적인 디지털자산 생태계를 구축하고, 플랫폼 기반의 지속 가능한 수익 구조로 기업가치를 한 단계 도약시키겠다"고 말했다.

2026.10.27 13:56남혁우 기자

KT, 토큰팩토리 띄운다..."AI비용 아끼고 데이터주권 확보"

KT가 통신 역량을 결합해 AI 사용량과 비용을 효율적으로 관리할 수 있는 토큰팩토리를 오는 30일 선보인다. 자체 라우팅 기술을 통해 토큰 사용량을 최대 25% 절감하고 데이터 주권까지 보장한다. KT는 통신 사업을 통해 축적한 연결, 과금, 보호 역량을 AI 서비스에 적용한 AX 플랫폼 토큰팩토리를 선보였다고 27일 밝혔다. 토큰은 생성형 AI가 텍스트와 데이터를 처리하는 기본 단위로, AI 이용량과 비용을 산정하는 기준이 된다. 고성능 AI 모델이 다양해지면서 업무 특성에 맞춰 모델을 선택하고 비용을 최적화하는 것이 중요해지고 있다. KT는 토큰팩토리에서 AI 모델 선택, 비용 관리, AI 신뢰, 안전 기능을 하나의 플랫폼에서 제공한다. 국내외 500개 이상 AI 모델을 연동해 가입부터 결제까지 일괄 관리하며, 통신 과금 노하우를 바탕으로 정밀한 사용량 과금 체계를 구현했다. 질문의 난도와 유형을 분석해 적합한 모델을 자동 선택하는 자체 AI 라우팅 기술 '오토 모델 라우터'와 한국어 맞춤형 프롬프트 압축 기술을 결합해 업무 품질은 유지하면서 토큰 사용량을 최대 25% 절감한다. 한국 KT 데이터센터에서 직접 추론 서비스를 지원해 데이터 주권을 지키고, 한국어 환경에 최적화된 자체 가드레일 기술로 유해 표현과 개인 정보를 검증한다. 소버린 AI 인프라 기반 위에서 KT 자체 모델과 국내외 오픈웨이트 모델, 독자 AI 파운데이션 모델 등 다양한 AI를 안전하게 활용할 수 있는 기반을 구축했다. KT는 글로벌 AI 모델 마켓플레이스 1위 오픈라우터와 공식 파트너십을 맺었으며, 유라클, 업스테이지 등 국내외 전문 기업과 협력해 B2B 시장을 시작으로 글로벌 생태계를 확장할 계획이다. KT는 토큰팩토리를 AI 시대 가입자 AX를 지원하는 핵심 플랫폼이자 신성장 사업으로 육성할 계획이다. 오는 30일 토큰팩토리를 출시하고 가입자와 서비스 범위를 단계적으로 확대할 계획이다. 박상원 KT AX사업부문장은 “KT는 통신 사업에서 축적한 연결, 과금, 보호 역량을 AI 서비스로 확장한 토큰팩토리를 기반으로 가입자 AX 전환을 지원하고 한국 AI 생태계 성장을 이끄는 핵심 플랫폼으로 발전시키겠다”고 밝혔다.

2026.10.27 10:00홍지후 기자

SKT는 왜 토큰 게이트웨이로 눈길 돌렸나

SK텔레콤이 2300만 가입자와 통신 네트워크, AI 서비스, AI 데이터센터(AIDC)를 연결하는 '토큰 게이트웨이'를 새로운 성장 사업으로 낙점했다. AI 모델 자체의 성능 경쟁을 넘어 고객에게 적합한 모델을 공급하고 사용량과 비용까지 관리하는 시장을 선점하겠다는 구상이다. 정재헌 SK텔레콤 CEO는 지난 8일 서울 을지로 T타워에서 열린 임직원 대상 타운홀에서 “AI 경쟁의 축이 모델과 인프라를 넘어 토큰을 안정적으로 생성 공급 활용하는 생태계로 확대되고 있다”며 “통신과 AI 역량을 응집해온 SKT에는 새로운 성장 기회”라고 밝혔다. 토큰은 생성형 AI가 텍스트와 데이터를 처리하는 기본 단위로, AI 이용량과 비용을 산정하는 기준이 된다. 고성능 AI 모델이 다양해지면서 모든 작업에 동일한 모델을 사용하기보다 업무 특성에 맞춰 모델을 선택하고 토큰 비용을 최적화하는 것이 중요해지고 있다. SK텔레콤은 통신사가 확보한 대규모 고객 접점과 인증, 결제, 과금 체계에 주목하고 있다. AI 수요를 실제 서비스로 연결하고 이용량에 따라 비용을 정산하는 과정에서 기존 통신사업 역량을 활용할 수 있다는 판단이다. AI 모델 선택부터 업무 범위·비용까지 통합 관리 SK텔레콤이 구상하는 토큰 게이트웨이는 고객의 요청에 따라 여러 AI 모델과 인프라를 연결하고 이용 과정 전반을 관리하는 관제 플랫폼이다. 단순 요약이나 번역에는 가볍고 빠른 모델을, 복잡한 추론에는 고성능 모델을 배정해 처리 비용을 줄이는 방식이다. SK텔레콤 관계자는 “회사가 구상하는 토큰 게이트웨이는 다양한 AI 모델과 인프라를 고객의 요청에 맞게 연결해, 고객이 AI를 보다 효율적인 비용으로 이용할 수 있도록 하는 사업”이라고 설명했다. 이어 “단순한 모델 연결이나 비용 절감에 그치지 않고, AI가 실제 업무를 대신 수행할 때 어떤 모델을 쓸지, 무엇까지 맡길지, 얼마나 썼고 얼마를 내는지를 한 번에 관리해 고객이 원하는 결과를 보다 경제적이고 안전하게 얻도록 하는 것을 지향한다”고 밝혔다. 기업 고객에게는 부서별 AI 사용 목적과 토큰 소비량을 파악하고 비용을 통제하는 기능을 제공할 수 있다. AI가 처리할 업무 범위를 설정하고 사용 패턴과 보안, 안전성을 관리하는 기능까지 포함해 단순한 모델 중개 서비스와 차별화한다는 구상이다. 2300만 가입자에 자체 AI 모델, 데이터센터 결합 SK텔레콤은 독자 파운데이션 모델 'AX K2'를 개발하고 정부의 '모두의 AI' 사업에 참여해 대국민 AI 서비스를 준비하고 있다. 자회사 SK호라이즌과 SK하이퍼를 통해 기가와트(GW)급 AIDC 구축도 추진 중이다. AI 수요가 발생하는 서비스부터 모델과 연산 인프라까지 자체 사업 역량을 연결할 수 있는 구조다. SK텔레콤 관계자는 “토큰 게이트웨이는 AI 서비스, AI 모델, AI 데이터센터를 하나로 잇는 연결 고리”라며 “서비스에서 발생하는 AI 수요를 자체 모델과 AI 데이터센터로 연결하고, 여기에 2300만 고객 접점과 본인인증·결제·과금 등 통신 사업 역량까지 더하는 것이 차별화 방향”이라고 설명했다. 통신사업에서 축적한 가입자 관리와 과금 역량을 AI 서비스에 적용한다는 점이 핵심이다. 고객이 여러 AI 모델을 직접 비교하거나 개별적으로 비용을 관리하는 대신, 게이트웨이를 통해 적합한 모델을 선택하고 사용량과 결제까지 처리하도록 한다는 것이다. SK텔레콤은 개인과 기업 고객을 대상으로 구체적인 서비스 형태와 수익 모델을 마련할 계획이지만 출시 일정이나 요금 체계는 확정해 공개하지 않았다. 이 관계자는 “향후 B2C B2B 고객이 필요한 AI를 보다 편리하고 효율적으로 이용할 수 있도록 서비스와 사업 모델을 순차적으로 구체화할 계획이며, 세부 내용은 적절한 시점에 안내할 예정”이라고 밝혔다.

2026.10.25 09:30홍지후 기자

IMF "금융사, AI 공격 위협 대응…인프라·기술기업까지도 넓게 봐야"

최근 국내 금융사 등을 타깃으로 인공지능(AI) 에이전트로 추정되는 해킹이 무작위로 진행된 가운데, 국제통화기금(IMF) 주요 인사들이 AI 공격 위협에 대응하기 위해선 금융사뿐만 아니라 인프라를 갖춘 기술 기업도 포함해 복원력을 갖출 수 있도록 해야 한다고 제언했다. 또 국정감사에서 지적된 중앙은행 디지털화폐(CBDC)의 개인 사생활 침해, 토큰화에 따른 금융 안정성에 관해 규제 프레임워크를 가다듬어야 한다고 조언했다. 지난 8일 IMF '글로벌 금융안정보고서(GFSR)' 세미나를 위해 한국을 방문한 IMF 주요 인사는 서울 중구 한국은행에서 기자들과 만나 인터뷰를 진행했다. IMF에 참석한 인물은 아타나시오스 밤바키디스(Athanasios Vamvakidis) IMF 부국장, 카이오 포네세카 페레이라(Caio Fonseca Ferreira) IMF 금융감독·규제 부처장, 곤잘로 페르난데스 디오니스(Gonzalo Fernandez Dionis) 선임 금융 전문가 등이다. 이들은 방한 당시 터졌던 국내 은행권 AI 공격에 대해 의견을 공유했다. 아타나시오스 부국장은 "AI는 위험을 초래할 뿐만 아니라 위험을 해결하는 데도 도움을 줄 수 있기 때문에 규제당국은 AI를 활용해 문제를 해결해야 한다"며 "위협에 단편적인 접근 방식이나 국가별로 대응하기 보다는 서로 소통하고 협력해야 한다"고 말했다. 특히 토큰화된 환경에서 결제시스템에 대한 AI 등에 의한 사이버 공격이 발생할 경우, 기존 금융시스템에 비해 더 빠르게 확산될 수 있다는 질의에 대해 아타나시오스 부국장은 "새로운 기술에는 새로운 기술에는 항상 이점과 위험이 따르기 마련이지만 AI는 다소 다르다고 볼 수 있다"며 "규제당국과 감독기관은 새로운 접근방식이 필요하다"고 덧붙였다. 다만 그는 "(사이버 위협이) 막 시작단계로 상황은 매우 빠르게 변화하고 있다"며 "사이버 전문가 부족 현상이 심각한 상태"라고 우려를 표했다. 카이오 부처장은 "선진국은 기본적인 방어 체계가 이미 잘 갖춰져 있지만 한 단계 더 나아가야 한다"며 "금융 부문 내 주요 인프라, 감염 확 산 경로, 운영 집중도 등을 명확히 파악하는 사이버 매핑 작업이 필요하다"고 진단했다. 이어 카이오 부처장은 "금융기관만 볼 게 아니라 에너지 공급업체나 인프라를 제공하는 다른 기술 기업 등 더 넓은 범위까지 고려해야 한다"며 "사이버 매핑 작업 시 핵심 인프라를 파악하고 시스템 전반에 걸친 복원력 테스트를 수행, 감독도 집중해야 한다"고 설명했다. 또 그는 "(IMF의) 정책적 권고 사항은 핵심 인프라가 정확히 무엇인지 명확히 이해하는 것이 중요하며, 소프트웨어 등과 관련된 시스템적 연결 고리와 그 경로를 파악하는 것이 중요하다"고 강조했다. 이밖에 중앙은행 CBDC에 관한 개인정보 침해 논란에 대해서도 입을 열었다. 아타나시오스 부국장은 "개인정보 보호 문제는 중요한 고려 사항이긴 하지만 해결할 수 있는 방법은 적절한 규제"라고 답변했다. 그는 그럼에도 "결제가 디지털화되는 세상에서는 중앙은행이 이 과정을 주도하고 중심에 있어야 한다"며 "신뢰가 무엇보다 중요하기 때문"이라고 부연했다. 카이오 부처장은 "사생활 침해 문제는 중요한 우려 사항"이라면서 "규제를 통해서도 해결할 수 있지만 프레임워크 설계를 통해서도 해결할 수 있다"고 언급했다. 그는 "토큰화에 관한 법적 지위에 대한 규제 명확성을 확보하고 중앙은행 화폐와 같은 안전하고 건전하며 확장 가능한 결제 자산을 확보하는게 필요하다"고 말했다.

2026.10.13 12:15손희연 기자

  Prev 1 2 3 4 5 6 7 8 Next  

지금 뜨는 기사

이시각 헤드라인

세무사시험 부정행위 파문...초소형 이어폰·카메라 온라인서 버젓이 판매

LG엔솔·삼성SDI, 공장 가동률 상승세…SK온 유지

[르포] 양산 검증 장벽 허문다…SK하이닉스가 용인에 품은 '상생의 팹'

어느 날 내가 딥페이크 피해자가 됐다

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.