[현장] 이용석 스노우플레이크 신임 지사장 "AI 도입 성패, 비용 관리에 달렸다"

이용석 스노우플레이크 신임 한국지사장의 취임 후 첫 메시지는 '인공지능(AI) 비용'이었다. 이 지사장은 27일 서울 코엑스에서 열린 '스노우플레이크 월드 투어 서울'에서 토큰 사용량이 통제 없이 치솟는 '토큰 맥싱'을 관리 도구로 잡아내겠다고 밝혔다. 지난주 취임 후 처음으로 대규모 고객 행사 무대에 오른 자리다. 토큰 맥싱은 무분별한 AI 활용으로 토큰 소비와 비구조적 데이터 비용이 통제 불능 수준으로 치솟는 현상을 뜻한다. 최근 기업 내에서 다수 직원과 에이전트가 제각각 거대언어모델(LLM)을 호출하며 비용이 통제 없이 불어나고 있다. 관리자 입장에서는 누가 어떤 모델을 얼마나 사용하는지조차 파악하기 어려운 실정이다. 이 지사장은 해법으로 스노우플레이크의 '코텍스 AI 게이트웨이'를 소개했다. 지난 7월 공개된 이 기능은 기업이 쓰는 AI 에이전트와 여러 LLM 사이에 놓여 요청을 중개하는 관문 역할을 한다. 여러 에이전트가 어떤 모델에 접속할지 한곳에서 통제하고 요청을 성격에 맞는 모델로 배분해 사용량을 최적화한다. 어떤 팀이 어떤 모델에 얼마를 쓰는지 추적하고 팀·에이전트별로 사용 한도와 예산도 설정할 수 있다. 스노우플레이크는 지난 18일 '동적 모델 라우팅' 기능도 공개했다. 작업 성격에 맞춰 품질과 비용의 균형이 가장 좋은 모델을 자동으로 골라주는 기능이다. 단순하고 반복적인 작업은 저렴하고 효율적인 모델로 깊은 추론이 필요한 작업은 최고 성능의 프런티어 모델로 보낸다. 스노우플레이크는 자체 테스트에서 이 방식으로 일부 작업의 토큰 비용을 최대 3분의 1 수준까지 줄였다고 설명했다. 이 지사장은 "얼마나 많은 LLM을 누가 사용하는지도, 어떤 데이터에 어떻게 접근하는지도 모르는 상황에서 비용과 성능·성과를 적절히 조합하기 위해 코텍스 AI 게이트웨이를 출시했다"고 말했다. AI 도입이 좌초하는 근본 원인으로는 데이터와 비용 문제를 지목했다. 그는 "많은 기업이 AI를 시도하지만 대부분 개념검증(PoC) 단계에서 멈춘다"며 "데이터를 밖으로 옮기고 별도 환경을 구축하고 보안을 다시 검증하는 사이에 처음의 동력을 잃기 때문"이라고 말했다. 이어 "사내 데이터를 밖으로 옮기지 않고 그 자리에서 AI를 구축해 PoC에 머무르지 않고 실제 운영으로 빠르게 전환하도록 지원하겠다"고 덧붙였다. 이 지사장은 한국 시장의 가파른 성장세도 소개했다. 2021년 11월 한국 지사 출범 후 4년 만에 매출 18배 성장을 기록하고 실사용 고객 수도 10배 이상 늘었다고 밝혔다. 국내 10대 그룹 중 8개 엔터프라이즈 그룹이 스노우플레이크를 쓰고 있고 넥슨·카카오·토스 등 디지털 네이티브 기업도 고객사로 참여하고 있다고 했다. 이 지사장은 엔터프라이즈 소프트웨어 분야에서 20년 이상 경력을 쌓은 영업·사업 전문가다. 스노우플레이크 합류 전 2020년부터 약 6년간 구글클라우드에서 대기업 고객을 대상으로 디지털전환(DX)과 시장진입 전략을 담당했고 이전에는 한국마이크로소프트에서 16년간 근무했다. 그는 "산업 전방위에 걸쳐 쌓아온 경험을 스노우플레이크의 기술력과 결합해 국내 기업 고객과 파트너사가 함께 성장하는 협업 생태계를 구축하고 데이터와 AI를 실질적인 비즈니스 성과로 연결하는 데 힘쓰겠다"고 말했다.