KT, 토큰팩토리 띄운다..."AI비용 아끼고 데이터주권 확보"
KT가 통신 역량을 결합해 AI 사용량과 비용을 효율적으로 관리할 수 있는 토큰팩토리를 오는 30일 선보인다. 자체 라우팅 기술을 통해 토큰 사용량을 최대 25% 절감하고 데이터 주권까지 보장한다. KT는 통신 사업을 통해 축적한 연결, 과금, 보호 역량을 AI 서비스에 적용한 AX 플랫폼 토큰팩토리를 선보였다고 27일 밝혔다. 토큰은 생성형 AI가 텍스트와 데이터를 처리하는 기본 단위로, AI 이용량과 비용을 산정하는 기준이 된다. 고성능 AI 모델이 다양해지면서 업무 특성에 맞춰 모델을 선택하고 비용을 최적화하는 것이 중요해지고 있다. KT는 토큰팩토리에서 AI 모델 선택, 비용 관리, AI 신뢰, 안전 기능을 하나의 플랫폼에서 제공한다. 국내외 500개 이상 AI 모델을 연동해 가입부터 결제까지 일괄 관리하며, 통신 과금 노하우를 바탕으로 정밀한 사용량 과금 체계를 구현했다. 질문의 난도와 유형을 분석해 적합한 모델을 자동 선택하는 자체 AI 라우팅 기술 '오토 모델 라우터'와 한국어 맞춤형 프롬프트 압축 기술을 결합해 업무 품질은 유지하면서 토큰 사용량을 최대 25% 절감한다. 한국 KT 데이터센터에서 직접 추론 서비스를 지원해 데이터 주권을 지키고, 한국어 환경에 최적화된 자체 가드레일 기술로 유해 표현과 개인 정보를 검증한다. 소버린 AI 인프라 기반 위에서 KT 자체 모델과 국내외 오픈웨이트 모델, 독자 AI 파운데이션 모델 등 다양한 AI를 안전하게 활용할 수 있는 기반을 구축했다. KT는 글로벌 AI 모델 마켓플레이스 1위 오픈라우터와 공식 파트너십을 맺었으며, 유라클, 업스테이지 등 국내외 전문 기업과 협력해 B2B 시장을 시작으로 글로벌 생태계를 확장할 계획이다. KT는 토큰팩토리를 AI 시대 가입자 AX를 지원하는 핵심 플랫폼이자 신성장 사업으로 육성할 계획이다. 오는 30일 토큰팩토리를 출시하고 가입자와 서비스 범위를 단계적으로 확대할 계획이다. 박상원 KT AX사업부문장은 “KT는 통신 사업에서 축적한 연결, 과금, 보호 역량을 AI 서비스로 확장한 토큰팩토리를 기반으로 가입자 AX 전환을 지원하고 한국 AI 생태계 성장을 이끄는 핵심 플랫폼으로 발전시키겠다”고 밝혔다.