• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
ZDPick
국감2026
인공지능
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'라우팅'통합검색 결과 입니다. (3건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

셀렉트스타, AI 모델 자동 선택 기술 공개…비용 28% 절감

셀렉트스타가 질문에 따라 적합한 인공지능(AI) 모델을 골라주는 기술을 선보였다. 자체 실험에서는 가장 성능이 높은 모델만 사용할 때보다 비용을 28% 줄이고 정답률도 높였다. 셀렉트스타는 AI 판단 특화 모델 '다비'를 공개했다고 26일 밝혔다. 다비는 질문을 분석해 적합한 AI 모델을 고르거나 AI 답변을 평가하고 AI 에이전트가 작업에 성공할 가능성을 예측하는 역할을 한다. 일반적으로 AI 서비스는 미리 정해진 모델을 사용해 질문에 답한다. 하지만 간단한 질문에 고성능 모델을 사용하면 불필요한 비용이 발생할 수 있다. 반대로 복잡한 문제를 성능이 낮은 모델에 맡기면 답변 정확도가 떨어질 가능성이 있다. 다비는 이러한 문제를 줄이기 위해 질문 난도를 먼저 판단한다. 간단한 질문은 가벼운 AI 모델에 맡기고 복잡한 문제는 성능이 높은 모델에 전달하는 방식이다. 이를 '모델 라우팅'이라고 부른다. 셀렉트스타는 다비의 판단 능력을 확인하기 위해 타입세이프AI가 개발한 '제브'와 성능을 비교했다. 두 모델 모두 주어진 문제를 분석하고 적절한 답이나 선택지를 판단하는 '디시전 AI' 기술에 해당한다. 자체 평가에서는 다비가 주요 항목에서 제브보다 높은 정확도를 기록했다. AI 판단 능력을 측정하는 '제브벤치' 231개 문항에서 다비는 89.2%를 기록했다. 제브는 86.6%로 다비가 2.6%포인트 앞섰다. 복잡한 조건을 판단해야 하는 고난도 문제에서도 다비는 77.5%를 기록해 제브(73.0%)보다 4.5%포인트 높았다. 한국어 답변 평가에서는 다비가 72.5%, 제브가 66.8%로 5.7%포인트 차이를 보였다. 모델을 자동으로 선택하는 실험에서도 비용 절감 결과를 확인했다. 셀렉트스타는 한국어 고난도 질의응답 174개를 다섯 차례 반복해 총 870건을 평가했다. 다비가 질문 난도를 판단한 뒤 앤트로픽의 하이쿠, 소넷, 오퍼스 가운데 적합한 모델을 선택하도록 했다. 그 결과 다비가 모델을 선택한 경우 870건 중 619건에 정답을 제시해 정답률 71.1%를 기록했다. 가장 높은 성능을 갖춘 오푸스만 사용했을 때는 612건을 맞혀 정답률 70.3%를 기록했다. 다비를 활용한 방식이 정답을 7건 더 맞히면서 모델 실행 비용은 약 28% 줄인 셈이다. 모든 질문에 고성능 모델을 투입하지 않아도 질문 난도에 따라 모델을 나눠 사용하면 비용과 정확도를 함께 관리할 가능성을 확인했다. 다만 이번 결과는 셀렉트스타 자체 평가에 기반한다. 회사가 공개한 기술 문서에 따르면 실험은 한국어 고난도 질의응답에 한정됐으며 비용 절감 수치에는 다비 자체 호출 비용이 포함되지 않았다. 따라서 실제 기업 서비스에서도 같은 비용 절감 효과가 나타나는지는 추가 검증이 필요하다. 셀렉트스타는 다비를 자체 AI 신뢰성 평가 플랫폼 '다투모 이밸'에도 적용할 계획이다. 오는 11월부터 AI 답변 품질을 평가하고 판단 결과를 검증하는 기능에 활용할 예정이다. 개발자를 위한 모델 라우팅 플러그인도 오픈소스로 공개했다. 아파치 라이선스 2.0을 적용해 누구나 소스코드를 확인하고 수정하거나 상업 목적으로 활용하도록 허용했다. 개발자는 이를 활용해 작업 난도에 따라 AI 모델을 자동 선택하는 기능을 시험할 수 있다. 셀렉트스타는 "작은 모델은 비용이 적지만 어려운 작업을 놓치고 고성능 모델은 더 많은 문제를 해결하지만 쉬운 작업에도 높은 비용을 쓴다"며 "비용 절감은 정확도를 유지할 때만 가치가 있다"고 설명했다.

2026.10.26 16:59김동원 기자

HPE, AI 네트워킹 사업 키운다…2029년까지 데이터센터 부문 연 50%대 성장 목표

HPE가 인공지능(AI) 데이터센터 확산에 따른 네트워크 수요 증가를 새로운 성장동력으로 삼는다. 고성능 데이터센터 네트워킹부터 라우팅과 기업용 네트워크, 보안까지 사업을 확대하고 주니퍼 네트웍스와의 통합 효과를 바탕으로 시장점유율을 높인다는 전략이다. HPE는 최근 개최한 'HPE 네트워킹 인베스터 데이'에서 AI 시대 네트워킹 사업 성장 전략과 중장기 실적 전망을 공개했다고 12일 밝혔다. 이번 발표에서 HPE는 2027 회계연도 네트워킹 사업 부문의 매출 성장률 전망을 10%대 후반~20%대 초반으로 상향 조정했다. 영업이익률은 20%대 중반~후반을 기록할 것으로 내다봤다. 특히 AI 데이터센터용 네트워킹 사업을 핵심 성장 분야로 제시했다. AI 모델 학습과 추론에 활용되는 그래픽처리장치(GPU) 규모가 커지면서 서버와 GPU를 빠르고 안정적으로 연결하는 고성능 네트워크의 중요성이 높아지고 있다는 판단이다. HPE는 스케일업과 스케일아웃 네트워킹 기술을 바탕으로 하이퍼스케일러와 네오클라우드 등 대규모 AI 인프라 고객을 공략할 계획이다. 데이터센터 네트워킹 부문 매출은 2029 회계연도까지 연평균 50%대 초반~후반의 성장률을 기록할 것으로 전망했다. 라우팅 사업에서도 AI 인프라 확대에 따른 수요를 확보한다는 구상이다. 기업과 서비스 제공업체들이 여러 지역에 분산된 AI 클러스터를 연결하면서 네트워크 트래픽과 라우팅 수요가 증가하고 있기 때문이다. HPE는 자체 네트워킹 기술과 주니퍼의 트리오·익스프레스 실리콘 기반 MX·PTX 플랫폼을 활용해 2029 회계연도까지 라우팅 매출이 연평균 20%대 초반~후반 성장할 것으로 예상했다. 기업용 네트워크 시장에선 와이파이7 전환 수요에 대응한다. 기존 아루바와 주니퍼 미스트 제품군을 통합해 캠퍼스와 지사 네트워크 현대화 사업을 확대하고 보안 분야에선 보안접근서비스엣지(SASE)와 방화벽, 네트워크 접근제어 기술 등을 결합할 계획이다. 주니퍼 네트웍스와의 통합에 따른 비용 절감 목표도 높였다. HPE는 2028 회계연도 말까지 연간 환산 기준 비용 절감액이 8억 달러에 이를 것으로 전망했다. 기존에 제시한 최소 6억 달러보다 2억 달러 상향한 수치다. HPE는 이러한 사업 확대를 바탕으로 2026~2029 회계연도 네트워킹 부문 매출이 연평균 10%대 후반 성장할 것으로 내다봤다. 2027~2029 회계연도 영업이익률도 20%대 중반~후반 수준을 유지한다는 목표다. 실제 AI 인프라 수주 성과도 공개했다. HPE는 같은 날 글로벌 클라우드 인프라 기업 벌처로부터 12억 달러 규모의 'AMD 헬리오스 AI 랙 바이 HPE' 시스템 주문을 확보했다고 발표했다. 해당 시스템에는 HPE가 전용 설계한 네트워킹 하드웨어와 소프트웨어가 탑재되며 이번 계약은 해당 신규 시스템의 첫 수주다. 라미 라힘 HPE 수석 부사장 겸 네트워킹 부문 사장 및 총괄 매니저는 "AI가 기술 스택을 재편하면서 네트워크의 전략적 중요성이 높아지고 기업과 서비스 제공업체의 새로운 네트워크 수요도 크게 늘고 있다"며 "우리는 통합 네트워킹 포트폴리오, 광범위한 시장 공략 역량, 강화된 교차 판매 역량을 바탕으로 이러한 수요를 확보할 수 있는 입지를 갖추고 있다"고 밝혔다.

2026.10.12 14:57한정호 기자

KT가 'AI 토큰 경제'에 자신있게 뛰어든 이유

박윤영 KT 대표가 취임 후 처음 열린 언론 대상 간담회에서 회사 신사업으로 '토큰 팩토리'를 제시했다. AI 토큰 기반 경제에서 새로운 AI 과금 체계로 수익을 일으켜 회사의 대표적인 AI 사업으로 삼겠다는 것이다. 무엇보다 AI 사업 모델의 발전에서 최대 병목으로 꼽히는 토큰 비용 처리를 두고 KT라는 통신사가 가장 잘할 수 있는 사업 모델이란 이유를 들어 이목을 끌었다. 박 대표는 6일 열린 AX플랫폼컴퍼니 비전 발표 자리에서 “연결을 중심으로 하는 통신사에서 이전까지의 단위는 비트(bit) 였고, AI 경제에서 기본 단위는 토큰으로 완성됐다”면서 “AI를 제공하는 회사들이 토큰 사용량이 폭증하면서 월 구독료 모델에 변화를 두고 있고 AI를 이용하던 기업도 고민이 생겼는데, 이를 해결할 수 있는 게 바로 '토큰 팩토리'”라고 말했다. 이어 “토큰팩토리 비즈니스 모델로 KT는 최적의, 그리고 가장 효율적으로 적합한 파운데이션 모델과 보안을 사용하는지 총제적인 답을 만들어 제공하겠다”며 “빠른 시간에 작동하는 모습을 보여주겠다”고 밝혔다. 토큰은 AI 모델에서 텍스트나 이미지를 처리할 때 쓰는 기본 단위를 일컫는다. AI 이용 확산으로 토큰 사용량은 걷잡을 수 없이 증가하는 추세다. 이처럼 폭발적으로 증가하는 토큰 사용량에 따라 기존 정액제 형태의 모델이 변화할 수밖에 없게 됐다. KT는 이 지점에서 새로운 사업 모델을 만들어 AI를 제공하는 기업이나 이용하는 이들의 수요를 모두 맞추겠다는 것이다. 즉, 토큰 이용량에 따라 과금을 통합하고 운영하는 플랫폼 '토큰팩토리'를 내세워 토큰 경제를 주도하겠다는 전략이다. 구체적으로는 통신 네트워크를 통한 연결의 중심에 있는 KT는 AI 토큰이 오가는 길목에서 게이트웨이 역할을 맡는다. 전국에 포진된 KT 데이터센터와 토큰 최적화 엔진을 바탕으로 토큰의 생성, 중개, 과금 지원이 가능한 게이트웨이가 KT가 말하는 토큰팩토리다. 토큰팩토리에서 중요한 핵심은 AI 토큰을 얼마나 효율적으로 사용하냐의 문제다. 이에 관련해 박상원 KT AX사업부문장은 “GPU와 NPU 등 토큰을 가장 싸게 생산해서 공급할 수 있도록 최적화하는 것을 시작으로 최적의 모델을 컨텍스트 기반으로 자동 라우팅을 통해 토큰 사용을 최소화할 수 있다”고 설명했다. 이어 “하네스와 루프 엔지니어링 등 다양한 최적화 기술을 적용해 토큰 사용량을 줄이고, 가장 저렴하고 효율적으로 AI 서비스를 제공할 수 있는 모델을 만들겠다”고 덧붙였다. 토큰 사용 효율화와 함께 KT가 자신하는 부분은 '과금'이다. 통신사는 과거 음성통화부터 현재 데이터 이용까지 개인별 과금에 뛰어난 역량을 갖고 있는데, 토큰 중심의 경제에서는 이같은 통신사 역량이 빛을 낼 수 있다는 것이다. 박 대표는 “게이트웨이의 더 중요한 문제는 개인별로 과금하게 되는데, 과금은 통신사만큼 잘하는 곳이 없다”면서 “AI 회사들이 경험하지 못해 결핍된 과금 영역은 통신사가 가장 잘하기 때문에 새로운 비즈니스가 될 수 있다”고 강조했다. 이어 “토큰팩토리를 갖추게 되면 AI데이터센터 인프라에서 필요에 따라 추론과 같은 수익 마진을 낼 수 있다”며 “각 파운데이션 모델이 다른 토큰을 쓸 때 모델을 제공하는 회사들과 협약을 통해 비즈니스 구조를 만들어갈 수 있다”고 덧붙였다. KT는 토큰팩토리 사업을 회사 AX 사업의 대표적인 모델로 키워낼 방침이다. 아울러 토큰팩토리와 함께 신사업으로 꼽은 스테이블코인, 그간 역량을 키워온 피지컬AI를 결합한 사업 청사진도 그리고 있다. 이를 통해 한국 시장을 넘어 동남아 신흥 시장까지 사업 권역을 공략한다는 계획이다.

2026.07.06 15:48박수형 기자

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

삼성전자 "메모리, 2028년까지 수급 빠듯...내년 HBM 완판"

4분기 생산 회복 나선 현대차...원자재·환율·중국차 경쟁은 변수

"70㎏ 코치도어도 흔들림 없이"…GV90에 담은 제네시스 럭셔리 기술

한컴 36년 숙제 '해외 공략'…김연수 대표 "환경이 바뀌었다"

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.