검색 - IT세상을 바꾸는 힘 지디넷코리아

AI는 필수, TCO는 부담…기업 CIO '진퇴양난'

기업 내 인공지능(AI) 도입이 본격화하면서 최고정보책임자(CIO)들의 고민도 깊어지고 있다. AI 경쟁력 확보를 위한 인프라 투자는 불가피하지만 서버·메모리·반도체 등 핵심 자원 가격이 오르면서 총소유비용(TCO) 부담도 빠르게 커지고 있어서다. 투자를 줄이자니 서비스 안정성과 보안 리스크가 걸리고 인프라를 늘리자니 비용 압박이 커지는 진퇴양난에 놓였다는 평가가 나온다. 6일 업계에 따르면 주요 기업 CIO들은 AI 인프라 확대에 따른 TCO 부담을 낮출 대응책 마련에 나서고 있다. 다만 강화된 보안 요구와 업권별 규제로 비용 절감 여지가 갈수록 좁아지면서 마땅한 해법을 찾지 못하고 있다. 특히 금융권은 규제와 장애 대응 부담까지 겹치면서 일반 기업보다 비용 최적화가 더 어렵다는 지적이다. TCO 키운 AI 인프라…메모리 수요·가격 동반 상승 업계에서는 AI인프라 비용 부담이 일시적 현상에 그치지 않을 것으로 예상하고 있다. 생성형 AI와 대규모언어모델(LLM) 활용이 늘면서 기존 IT 시스템보다 높은 연산 성능과 대용량 메모리를 필요로 하는 인프라 수요가 빠르게 커지고 있기 때문이다. 특히 AI 서버는 일반 서버보다 훨씬 많은 D램을 필요로 하는 것으로 알려져 있다. 글로벌 빅테크의 AI 인프라 투자 확대까지 맞물리면서 메모리 수요가 전반적으로 늘고 가격 상승 압력도 커지는 흐름이다. 실제로 시장에서는 범용 D램 가격 전망치가 잇따라 상향 조정되면서 기업들의 인프라 예산 부담도 예상보다 빠르게 커지고 있다. 문제는 장비 구매 비용만 늘어나는 데 그치지 않는다는 점이다. 전력과 냉각, 유지보수, 보안, 성능 검증 등 운영 전반에 드는 비용도 함께 증가하고 있다. AI 인프라 투자가 확대될수록 초기 구축 비용보다 운영 부담이 더 가파르게 커질 수 있다는 분석이 나오는 배경이다. 클라우드 역시 해법으로 보기는 어렵다는 평가다. 사용량이 늘수록 과금 부담이 빠르게 커지고 고성능 연산 자원을 안정적으로 확보해야 하는 AI 환경에서는 비용 통제가 쉽지 않아서다. 최근 출시한 앤트로픽의 미토스의 경우 API 가격이 기존대비 2배 이상 높게 책정돼 외부 AI 서비스 활용 비용 부담도 커지고 있다. 더불어 기업 내 민감한 정보를 보호하기 위해서는 별도 온프레미스 환경을 병행해야 하는 경우도 많다. 결국 클라우드와 온프레미스를 함께 운영하는 구조가 되면서 중복 투자가 불가피하고 TCO 상승 압력을 피하기 어렵다는 반응이다. 생존위한 AI 투자, 비용 부담 커도 줄이기 어려워 비용이 급등하는데도 기업이 투자를 쉽게 늦추지 못하는 것은 AI 도입이 더 이상 선택이 아니라 경쟁력과 사업 연속성을 좌우하는 핵심 과제로 자리 잡고 있어서다. 실제 현장에서는 AI 투자를 단순한 효율화 차원이 아니라 생존의 문제로 받아들이는 분위기도 확산하고 있다. 기업들은 우선 기존 자산 활용도를 높이는 방식으로 대응하고 있다. 운영 환경에서 빠진 장비를 개발·테스트용으로 재배치하거나 유휴 자원을 줄여 전체 인프라 효율을 끌어올리는 전략이 대표적이다. 클라우드 사업자와 매니지드서비스제공업체(MSP)들이 자원 사용률 제고를 통한 비용 절감 방안을 앞세우는 것도 같은 맥락이다. 그러나 현장에서는 이런 방식만으로는 한계가 뚜렷하다는 반응이 적지 않다. AI 인프라는 서비스가 본격화할수록 성능과 안정성, 보안 수준을 함께 끌어올려야 해 운영비 부담이 더 빠르게 불어나기 때문이다. 한 업계 관계자는 "기존 시스템은 일정 수준의 효율화만으로도 비용 절감 효과를 기대할 수 있었지만 AI 인프라는 성능과 안정성을 동시에 맞춰야 해 절감 여력이 크지 않다"고 말했다. 보안 강화 기조도 비용 부담을 키우는 요인으로 꼽힌다. 과거에는 운영에서 빠진 장비를 개발·검증용으로 재활용하는 방식이 대표적인 비용 절감 수단으로 활용됐지만 최근에는 이런 전략도 예전만큼 힘을 쓰지 못하고 있다. 노후 장비나 재활용 장비가 상대적으로 보안 취약점에 노출될 가능성이 크다는 우려가 커지면서 개발·테스트 환경까지 최신 장비와 최신 보안 패치를 적용해야 한다는 요구가 확대되고 있어서다. 비용 절감을 위해 기존 장비 활용도를 높이려 해도 강화된 보안 기준이 오히려 추가 투자 요인으로 작용하는 구조다. 한 기업 CIO는 "운영 서버 효율화만 고민할 수 있는 상황이 아니다"라며 "개발·검증 장비까지 최신화 요구가 커지면서 비용 부담이 더 커졌다"고 말했다. 금융권, 규제·트래픽·배상 '삼중 부담' 금융권은 규제와 안정성 부담으로 비용 최적화에 대한 고민이 더욱 큰 상황이다. 일반 기업은 시스템 자원 사용률을 높여 유휴 자원을 줄이는 방식으로 효율화를 시도할 수 있다. 반면 금융권은 장애 가능성과 급격한 트래픽 증가에 대비해 평상시에도 충분한 여유 용량을 확보해야 하기 때문이다. 금융감독원의 성능관리 가이드라인도 시스템 자원 사용률 50% 초과를 '위험(critical)' 단계로, 30% 이하를 평상시 기준선으로 제시하고 있어 구조적으로 높은 가동률 운영이 어렵다. 증권사는 공모주 청약이나 증시 급변동 국면처럼 특정 시점에 접속이 한꺼번에 몰리는 경우가 잦아 수요가 발생한 뒤 대응하기보다 평소부터 넉넉한 용량을 확보하는 보수적 운영이 불가피하다. 장애나 주문 지연이 곧바로 고객 손실과 배상 문제로 이어질 수 있다는 점도 비용 효율보다 무중단 서비스와 안정성 확보를 우선하게 만드는 요인이다. 한 금융권 CIO는 "일반 기업은 일정 수준까지 자원 활용률을 끌어올리며 효율화를 시도할 수 있지만 금융회사는 감독 기준과 트래픽 변동성, 배상 부담 때문에 같은 방식으로 접근하기 어렵다"며 "금융권에 맞는 별도의 비용 최적화 모델이 필요하다"고 말했다.

2026.08.06 13:32남혁우 기자

[AI 리더스] "AI TCO, 데이터·인프라서 갈린다"…클라우데라 韓 지사장이 제시한 해법은?

"인공지능 전환(AX)은 디지털 전환(DX)과 다릅니다. 인공지능(AI)을 쓴다고 기업 데이터를 모두 퍼블릭 클라우드로 옮길 필요는 없습니다." 최승철 클라우데라코리아 지사장은 31일 지디넷코리아와 만나 기업들이 과거 DX 당시의 클라우드 이전 전략을 AX에도 그대로 적용해서는 안 된다고 강조했다. 내부 데이터를 외부 클라우드로 옮긴 뒤 AI 모델과 연결하면 데이터 이동·저장 비용이 늘고 보안과 규제 대응도 복잡해질 수 있어 데이터가 있는 환경으로 모델을 가져오는 방식이 더 효율적이라고 봐서다. 이 같은 부담은 AI를 실제 서비스로 확장하는 과정에서 더 커진다. 도입 초기에는 전문인력 부족과 빠른 기술 변화에 따른 불확실성이 크고, 운영 단계에 들어서면 모델 호출량과 데이터 전송량이 늘면서 비용 예측도 어려워진다. 민감 데이터를 외부 모델과 연결할 경우 데이터 유출과 감사 추적, 규제 준수 부담까지 가중될 수 있다. 이에 최 지사장은 모델을 직접 개발하는 사업자와 이미 학습된 모델을 업무에 활용하는 일반 기업이 인프라 전략을 각각 구분해야 한다고 봤다. 대규모 학습을 수행하는 모델 개발사와 달리 일반 기업은 외부 모델을 호출하거나 오픈소스 모델을 내부 환경에서 구동할 수 있어서다. 그는 "ERP·CRM 등 핵심 업무 데이터가 이미 사내에 있는데 모델을 사용한다는 이유만으로 이를 외부 클라우드로 옮기는 방식은 비용과 보안 측면에서 다시 계산해야 한다"며 "기업은 외부 상용 모델과 오픈소스 모델, 자체 모델을 업무별로 선택할 수 있는 구조를 준비해야 한다"고 말했다. 모델보다 데이터 먼저…준비 부족에 재작업 반복 많아 최 지사장은 AI 프로젝트를 실제 업무로 확장하려면 모델을 선택하기에 앞서 사내 데이터의 품질과 활용 여건부터 점검해야 한다고 강조했다. 데이터가 여러 부서와 시스템에 흩어져 있으면 정제와 통합, 접근 권한 설정에 추가 시간과 비용이 들 수 있어서다. 실제 기업 현장에서도 데이터 준비 부족이 AI 프로젝트의 운영 전환을 가로막는 요인으로 나타나고 있다. 클라우데라와 하버드비즈니스리뷰 애널리틱서비스 조사에 따르면 AI에 완전히 준비된 데이터를 갖춘 기업은 7%에 그쳤다. 또 데이터 품질과 접근 권한이 일관되게 관리되지 않아 AI 프로젝트를 실제 운영으로 확장하는 데 어려움을 겪는 기업이 많았다. 클라우데라가 국내 기업을 대상으로 진행한 조사에서도 AI 프로젝트가 기대한 성과를 내지 못한 원인으로 데이터 품질 문제가 32%를 차지했다. 데이터 통합과 접근·관리 문제도 각각 20% 안팎으로 집계됐다. 이를 두고 최 지사장은 국내 기업들이 데이터의 위치와 품질을 확인하기 전에 특정 모델부터 선택하는 경향이 있다고 지적했다. 또 모델 성능부터 시험한 뒤 업무 시스템과 연결할 경우 데이터 정제와 권한 설정, 시스템 통합 작업을 다시 해야 해 비용과 시간이 중복될 수 있다고 봤다. 그는 "좋은 모델도 정확한 기업 데이터를 공급받지 못하면 원하는 결과를 내기 어렵다"며 "어떤 데이터가 어디에 있고 누가 접근할 수 있는지 파악한 뒤 업무에 맞는 모델을 골라야 한다"고 설명했다. 최 지사장은 이를 해결하기 위해 모든 데이터를 하나의 플랫폼으로 옮길 필요는 없다고 주장했다. 또 기존 업무 시스템을 유지하면서 필요한 데이터만 공통된 권한과 관리 체계 아래 연결하는 방식이 비용과 운영 부담을 줄일 수 있다고 강조했다. 이 같은 구상에 따라 클라우데라는 아파치 아이스버그와 폴라리스 카탈로그를 활용해 여러 환경에 분산된 데이터를 불필요하게 복제하지 않고 관리하는 전략을 추진하고 있다. 여기에 모델컨텍스트프로토콜(MCP)을 적용해 AI 에이전트가 권한에 따라 필요한 데이터와 업무 도구에 접근할 수 있도록 지원하고 있다. 최 지사장은 "기업의 모든 데이터를 한곳에 옮기는 것은 현실적으로 쉽지 않다"며 "데이터가 여러 시스템에 남아 있더라도 공통된 권한과 거버넌스 아래 AI가 필요한 정보를 활용할 수 있는 구조를 갖춰야 한다"고 밝혔다. SaaS별 AI 확산…데이터·비용 다시 쪼개질 수도 최 지사장은 AI 에이전트가 고객관계관리(CRM)와 전사적자원관리(ERP), IT서비스관리 등 여러 업무 시스템을 넘나드는 만큼 특정 서비스형 소프트웨어(SaaS) 안에 데이터를 모으는 방식도 재검토해야 한다고 주장했다. 각 SaaS 공급사가 자체 데이터 플랫폼과 AI 에이전트를 결합하면 해당 제품 안에서는 데이터 활용과 업무 자동화가 쉬워질 수 있지만, 기업 전체로는 데이터가 공급사별로 다시 나뉠 수 있다고 봐서다. 또 기본 구독료에 AI 사용료와 데이터 처리비, 시스템 간 연동 비용까지 더해지면 비용 구조도 복잡해질 수 있다고 지적했다.최 지사장은 이 같은 움직임이 SaaS 기업들의 사업 방어 전략과도 관련이 있다고 분석했다. AI 에이전트가 여러 업무 시스템을 넘나들기 시작하면서, 공급사들이 기존에 확보한 업무 영역의 주도권을 유지하기 위해 데이터 관리 기능과 업무 흐름을 자사 플랫폼 안에서 강화하고 있다고 본 것이다. 또 그는 SaaS 기업들이 범용 데이터 플랫폼 시장에 직접 진출하기보다 고객관계관리(CRM)와 전사적자원관리(ERP) 등 기존에 확보한 업무 영역의 경쟁력을 높이는 데 초점을 맞추고 있다고 진단했다. 기업 입장에선 개별 SaaS의 AI 기능만 비교하기보다 여러 업무 시스템의 데이터를 함께 활용할 수 있는지 살펴야 한다고 강조했다. 최 지사장은 "SaaS 기업들이 데이터 영역을 강화하는 것은 자신들이 가진 업무 영역을 AI 에이전트로부터 지키기 위한 움직임"이라며 "범용 데이터 플랫폼 사업에 직접 뛰어들기보다 기존 사업의 경쟁력을 높이기 위한 수직계열화에 가깝다"고 말했다. "프라이빗 AI, 모델 설치 넘어 전 과정 통제해야" 최 지사장은 프라이빗 AI를 기업 데이터센터에 거대언어모델(LLM)을 설치하는 수준으로 봐서는 안 된다고 강조했다. 모델과 데이터, GPU 인프라, 접근 권한, 감사 기록, 추론과 에이전트 운영까지 하나의 통제 체계 안에서 관리해야 실제 기업 업무에 적용할 수 있다는 것이다. 기업 내부에서도 임직원과 협력사, 외주 인력에 따라 접근할 수 있는 정보가 다른 만큼 AI에도 같은 통제 원칙이 적용돼야 한다고 설명했다. 질문자의 권한에 따라 AI가 활용하는 데이터 범위를 제한하고 답변에 사용된 정보의 출처와 이동 경로도 추적할 수 있어야 한다는 판단에서다. 또 최 지사장은 기업의 데이터 민감도와 인프라 여건에 따라 퍼블릭과 프라이빗 환경을 함께 활용할 수 있다고 봤다. 퍼블릭 클라우드에서 소규모 검증을 진행한 뒤 애플리케이션을 자체 환경으로 옮기거나, 민감 데이터는 내부에 두고 외부 모델만 선택적으로 호출하는 방식이다. 클라우데라는 이러한 하이브리드 구조를 지원하는 한편, 중소·중견기업을 대상으로 서버와 데이터 플랫폼, 모델, 운영 도구를 묶은 'AI 인 어 박스' 사업도 국내 파트너와 추진하고 있다. 더불어 그는 비용을 판단할 때도 모델 호출료만 비교해서는 안 된다고 지적했다. AI 총소유비용(TCO)에는 GPU와 전력, 운영인력, 개발과 시스템 연동 비용까지 포함해야 하고 업무 특성에 따라 모델을 나눠 쓰는 방식이 필요하다고 봐서다. 이는 고난도 추론에 상용 모델을 활용하고, 반복 업무나 민감 데이터 처리에 오픈소스 또는 자체 모델을 적용하는 식이다. 최 지사장은 "초기 프로젝트나 수요 변동이 큰 업무는 퍼블릭 클라우드가 유리할 수 있지만 사용량이 많고 장기간 지속되는 추론 업무는 프라이빗 환경의 경제성이 높아질 수 있다"며 "업무별 사용량과 데이터 민감도에 따라 모델과 인프라를 조합해야 한다"고 밝혔다.그러면서 "AI 비용은 토큰과 GPU 인프라, 서비스 개발 등 세 가지 측면에서 함께 최적화해야 한다"며 "클라우데라는 상용·오픈소스·자체 모델을 유연하게 선택하고 인프라 활용과 개발 생산성을 높일 수 있도록 지원해 기업의 전체 AI TCO를 낮추는 데 집중할 것"이라고 덧붙였다. 이 같은 전략을 바탕으로 클라우데라코리아는 앞으로 제조와 방산, 금융 등 데이터 반출 제한과 보안 요구가 높은 산업을 중심으로 국내 프라이빗 AI 사업을 확대할 계획이다. 또 국내 파트너의 구축 역량을 강화하고 데이터 준비부터 추론과 운영까지 연결해 파일럿 단계에 머문 AI 프로젝트를 실제 서비스로 전환하는 데 집중한다는 방침이다. 그는 "기업들이 AI의 전체 구조를 이해하고 단계적으로 도입할 수 있도록 국내 파트너의 전문성을 높이는 데 힘쓸 것"이라며 "데이터와 모델, 인프라를 함께 연결해 기업의 AI 프로젝트가 실제 운영으로 이어지도록 지원하겠다"고 마무리했다.

2026.07.31 09:38장유미 기자

[AI TCO 함정③] 토큰만큼 무서운 인프라 비용…AI 환경 '프라이빗 회귀'

기업의 인공지능(AI) 도입 비용이 토큰 사용료를 넘어 소프트웨어 구독료와 데이터 통합, 인프라 운영비 전반으로 번지고 있다. AI 기능이 기존 서비스형 소프트웨어(SaaS)에 추가되면서 사용량에 따라 비용이 달라지고 예산 예측도 어려워지는 분위기다. 데이터 정비와 검색증강생성(RAG) 구축, 사내 시스템 연동 비용도 AI 도입 부담을 키우는 요인으로 꼽힌다. AI 서비스 이용이 늘면서 서버와 스토리지, 네트워크 등 인프라 운영비까지 동반 상승하고 있다. 이에 지디넷코리아는 기업들이 AI 도입 과정에서 놓치기 쉬운 비용 구조와 예산 관리의 사각지대를 3회에 걸쳐 살펴본다. [편집자주] 생성형 인공지능(AI)이 기업 업무 전반으로 확산되면서 비용 부담이 모델 사용료를 넘어 이를 구동하는 인프라로 옮겨가고 있다. 그래픽처리장치(GPU)를 비롯해 서버·스토리지·네트워크·전력·냉각·운영 소프트웨어까지 지출 항목이 늘어나자, 기업들은 퍼블릭 클라우드에 집중됐던 AI 워크로드 일부를 프라이빗 클라우드와 온프레미스로 재배치하며 총소유비용(TCO) 관리에 나선 양상이다. 30일 업계에 따르면 기업들이 생성형 AI를 실험 단계에서 실제 업무와 서비스에 적용하면서 인프라 운영비가 새로운 부담으로 떠오르고 있다. 초기에는 별도 장비를 구축하지 않고 사용량만큼 비용을 내는 퍼블릭 클라우드가 유리하지만, 사용량이 일정 수준을 넘어 장기간 지속되면 GPU 이용료와 데이터 전송·저장 비용 등이 함께 불어나는 상황이다. 특히 AI 에이전트처럼 지속적으로 모델을 호출하고 내부 데이터를 검색·분석하는 서비스가 늘면서 토큰 사용량뿐 아니라 이를 뒷받침하는 연산과 저장 자원도 함께 증가하고 있다. 여기에 고성능 네트워크, 데이터 보호, 백업, 재해복구(DR), 모니터링, 전력과 냉각 비용까지 포함하면 기업이 실제 부담하는 AI TCO는 모델 가격표만으로 산출하기 어렵다는 지적이 나온다. AI가 불붙인 '인프라 회귀'…워크로드, 기업 내부로 재배치 AI 시대를 맞아 업계에선 모든 시스템을 퍼블릭 클라우드로 옮기는 기존 '클라우드 퍼스트' 전략보다 워크로드 특성에 따라 퍼블릭과 프라이빗 환경을 조합하는 움직임이 두드러지고 있다. 수요가 불규칙하거나 빠른 실험이 필요한 서비스는 퍼블릭에서 운영하되, 이용량이 크고 예측 가능한 추론 업무와 민감 데이터를 다루는 시스템은 자체 통제 환경에 두는 방식이다. 실제 올해 델 테크놀로지스와 시장조사업체 IDC 조사에 따르면 아시아태평양 지역 기업의 94%가 퍼블릭 클라우드 워크로드를 온프레미스나 프라이빗 환경으로 옮기는 '클라우드 회귀'를 고려하거나 계획 중인 것으로 조사됐다. 특히 국내 기업도 93%가 이를 계획했으며 성능과 지연 시간, 보안·규제, 기존 시스템과의 통합 문제가 주요 배경으로 꼽혔다. 국내 기업의 71%는 AI 도입을 위해 하이브리드와 온프레미스 인프라 투자도 계획하고 있는 것으로 나타났다. VM웨어를 인수한 브로드컴 조사에서도 기업의 56%가 프라이빗 클라우드에서 실제 서비스용 AI 추론을 운영 중이거나 도입을 계획 중인 것으로 분석됐다. 퍼블릭 클라우드에서 AI 추론을 운영한다는 응답은 전년보다 15%포인트 감소한 41%로, IT 리더의 62%가 생성형 AI 인프라 비용 증가를 우려하기도 했다. 이같은 움직임은 퍼블릭 클라우드에서 프라이빗 클라우드로의 전면 회귀는 아니지만, 기업들이 AI 비용·보안·성능을 고려해 워크로드 배치 장소를 다시 정하는 선별적 회귀로 해석된다. 사용량 변동이 큰 서비스는 퍼블릭 클라우드의 탄력성이 유리하지만, 상시 가동하는 대규모 추론 시스템은 전용 인프라의 비용 예측성과 통제력이 더 중요하다는 판단이다. CSP도 고객 데이터센터로…구축형 프라이빗 사업 확장세 기업 수요 변화에 따라 클라우드 서비스 사업자(CSP)들도 퍼블릭 클라우드 제공에 머물지 않고 고객 데이터센터에 전용 인프라를 설치하거나 구축·운영을 함께 맡는 프라이빗 클라우드 사업을 강화하고 있다. 퍼블릭 클라우드에서 확보한 자동화와 관리 기능을 고객사 내부 환경까지 확장해 하이브리드 구조를 만드는 전략이다. 글로벌 CSP 서비스 중 대표적으로 아마존웹서비스(AWS) 아웃포스트, 마이크로소프트(MS) 애저 아크·애저 스택, 구글 분산형 클라우드(GDC) 등이 온프레미스 시장을 공략 중이다. AWS는 고객 데이터센터에 전용 하드웨어를 설치해 자사 퍼블릭 환경과 동일한 서비스·운영 경험을 제공한다. MS는 애저 아크를 통해 기업 내 데이터센터와 다른 클라우드까지 통합 관리한다. 구글은 외부 인터넷과 분리된 에어갭 환경에서도 AI를 구동할 수 있는 GDC를 공공·국방·금융 시장에 확대 중이다. 국내에서도 네이버·NHN·KT·삼성SDS 등이 구축형 프라이빗·하이브리드 사업을 확대하는 추세다. 네이버클라우드는 '뉴로클라우드', NHN클라우드는 오픈스택 기반 프라이빗 클라우드, KT는 구독형 '매니지드 프라이빗 클라우드', 삼성SDS는 삼성클라우드플랫폼(SCP)과 데이터센터 설계·구축·운영 역량을 각각 앞세우고 있다. 특히 네이버클라우드가 한국은행에 구축한 뉴로클라우드와 프라이빗 AI가 대표적인 사례로 꼽힌다. 데이터센터 내부에 클라우드 인프라를 직접 설치하고 폐쇄된 사내망에서만 생성형 AI를 학습·운영해 데이터를 외부로 반출하지 않는 구조다. 이러한 프라이빗 인프라 구조로 보안을 준수하면서도 금융 특화 소버린 AI를 구축했다는 게 회사 측 설명이다. NHN클라우드 역시 GPU 인프라부터 운영 플랫폼과 AI 서비스까지 묶은 '팩토리X'를 공개하고 퍼블릭·프라이빗 환경을 모두 지원하는 전략을 추진 중이다. AI 경쟁 중심이 모델 자체에서 실제 업무 환경을 안정적으로 운영하고 비용을 최적화하는 실행 환경으로 이동하고 있다는 판단으로, 효율적인 AI 인프라 TCO 관리에 초점을 맞췄다. 서버·스토리지 기업도 플랫폼 경쟁…관건은 '운영 효율' 전통적인 서버·스토리지 기업들도 단순 장비 공급을 넘어 프라이빗 클라우드와 AI 운영 플랫폼을 결합한 사업자로 변신하고 있다. 고객이 GPU 서버를 구매한 뒤 각종 소프트웨어와 네트워크를 별도로 통합해야 했던 구조에서 벗어나 구축·자동화·보안·운영을 하나의 플랫폼으로 제공해 복잡성과 비용을 낮춘다는 구상이다. 먼저 델 테크놀로지스는 서버·스토리지·네트워크·보안·소프트웨어를 통합한 '델 AI 팩토리'를 내세우고 있다. AI를 외부 클라우드로 보내는 대신 데이터가 존재하는 데이터센터와 엣지 환경 가까이에서 운영하도록 지원하는 방식이다. 델은 컴퓨팅·스토리지·네트워크를 각각 필요한 만큼 확장하는 분리형 프라이빗 클라우드가 기존 하이퍼컨버지드 인프라보다 최대 65% 높은 비용 효율성을 제공할 수 있다고도 강조해왔다. 브로드컴도 'VM웨어 클라우드 파운데이션(VCF) 9.1'을 AI·쿠버네티스 기반 프라이빗 클라우드 플랫폼으로 고도화했다. 회사는 지능형 메모리 티어링을 통해 서버 비용을 최대 40%, 데이터 압축과 중복 제거로 스토리지 TCO를 최대 39%, 쿠버네티스 운영 비용을 최대 46% 줄이는 서비스 구조를 갖췄다. AI 데이터 플랫폼 기업 넷앱도 구글 클라우드와 손잡고 외부망과 분리된 GDC 에어갭 환경에 데이터 저장·보호·관리 기능을 결합했다. 구글이 클라우드 플랫폼을, 넷앱이 데이터 계층을, 구축 파트너가 공급과 통합을 담당하는 구조로 고보안 AI 시장에서 CSP와 인프라 기업이 공동으로 프라이빗 환경을 제공하는 사례로 평가된다. 이런 상황 속 AI 시대 인프라 경쟁은 GPU를 얼마나 많이 확보했는가를 넘어 자원을 얼마나 높은 가동률로 운영하고 데이터 이동과 저장 비용을 줄일 수 있는지, 퍼블릭과 프라이빗 사이에서 워크로드를 유연하게 배치할 수 있는지에 달렸다는 분석이 제기된다. 초기 AI 구축비만 보고 프라이빗 환경을 선택하거나 사용 편의성을 보고 퍼블릭에 머무르기보다 서비스 기간과 사용량, 데이터 민감도, 운영인력까지 포함한 장기 TCO 계산이 선행돼야 한다는 설명이다. 업계 관계자는 "퍼블릭과 프라이빗 가운데 어느 한쪽이 항상 저렴한 것이 아니라 워크로드 사용량과 운영 기간, 보안 요건에 따라 경제성이 달라진다"며 "AI 활용이 본격화할수록 기업들은 클라우드를 일괄적으로 선택하기보다 각 업무를 가장 효율적으로 운영할 수 있는 위치에 배치하는 방향으로 인프라 전략을 바꾸게 될 것"이라고 밝혔다.

2026.07.30 10:13한정호 기자

[AI TCO 함정②] 사용자 수 다음은 크레딧…달라진 SaaS 청구서

기업의 인공지능(AI) 도입 비용이 토큰 사용료를 넘어 소프트웨어 구독료와 데이터 통합, 인프라 운영비 전반으로 번지고 있다. AI 기능이 기존 서비스형 소프트웨어(SaaS)에 추가되면서 사용량에 따라 비용이 달라지고 예산 예측도 어려워지는 분위기다. 데이터 정비와 검색증강생성(RAG) 구축, 사내 시스템 연동 비용도 AI 도입 부담을 키우는 요인으로 꼽힌다. AI 서비스 이용이 늘면서 서버와 스토리지, 네트워크 등 인프라 운영비까지 동반 상승하고 있다. 이에 지디넷코리아는 기업들이 AI 도입 과정에서 놓치기 쉬운 비용 구조와 예산 관리의 사각지대를 3회에 걸쳐 살펴본다. [편집자주] 기업용 소프트웨어(SW) 가격 체계가 생성형 인공지능(AI) 확산과 함께 빠르게 바뀌고 있다. 글로벌 SaaS 기업들이 기존 사용자 수 중심의 구독 모델에 AI 기능을 별도 상품으로 분리하거나 사용량 기반 과금 방식을 도입하면서다. 기업들은 SaaS 구독료와 AI 이용료를 각각 관리해야 하는 새로운 비용 구조에 직면했다는 진단이 나온다. 29일 업계에 따르면 글로벌 시장조사업체 가트너는 최근 발간한 'AI 토크노믹스: AI 토큰, 언제 줄이고 언제 더 투자해야 하는가' 보고서에서 AI 비용이 단순한 모델 사용료를 넘어 기업 운영비용(OPEX) 관리 대상이 됐다고 평가했다. AI 활용은 일부 고부가 업무에 집중되는 만큼 전체 AI 작업의 약 20%가 조직 AI 비용의 80% 이상을 차지할 것으로 전망했다. AI가 기존 SaaS 구독료와 별개로 과금되면서 기업들은 SaaS 구독료와 AI 운영비를 함께 관리해야 하는 시대를 맞고 있다는 분석이다. AI 별도 과금 시대 열려 이같은 흐름은 기업들이 널리 쓰는 글로벌 SaaS 기업들의 가격 정책에서도 확인된다. 대표적인 사례가 SAP다. SAP는 AI 가격 체계를 클라우드 구독과 분리해 운영하고 있다. 회사는 기본 AI 기능인 '베이스 AI'를 상당수 SAP 클라우드 애플리케이션에 포함해 제공하는 반면, 고급 생성형 AI 기능인 '프리미엄 AI'는 별도 상품으로 구분했다. AI 기능 제공 여부가 아니라 업무 중요도와 활용 수준에 따라 가격 정책을 이원화한 것이다. 프리미엄 AI를 이용하는 고객은 'AI 유닛'이라는 공통 소비 단위를 구매해 생성형 AI 서비스를 사용한다. SAP는 AI 유닛을 특정 제품에 묶지 않고 SAP 전반의 AI 서비스에서 공동으로 사용할 수 있는 크레딧 형태로 설계했다. 기업은 계약 기간 확보한 AI 유닛을 업무별로 배분해 사용할 수 있으며 여러 SAP 애플리케이션에서 하나의 AI 유닛 풀을 공유하는 방식으로 운영된다. 과금 방식도 서비스 특성에 따라 달라진다. 일부 AI 기능은 사용자당 라이선스 형태로 제공되지만 생성형 AI 기능이나 에이전트 기반 서비스는 실제 사용량에 따라 AI 유닛이 차감된다. SAP는 AI 서비스별로 필요한 AI 유닛을 별도로 안내하고 있으며 고객은 AI 활용 규모에 따라 필요한 크레딧을 추가 구매할 수 있다. 전사적자원관리(ERP) 라이선스와 생성형 AI 비용을 별도로 관리하도록 설계한 셈이다. 글로벌 고객관계관리(CRM) 업체도 비슷한 가격 정책을 도입했다. 이 회사는 생성형 AI와 AI 에이전트 기능을 CRM 구독과 분리해 제공한다. 고객은 사용자당 라이선스를 유지하면서 AI 기능을 쓰려면 별도의 AI 상품을 계약하거나 AI 크레딧을 구매해야 한다. 특히 AI 에이전트 서비스는 사용자 수가 아니라 실제 AI 활용량을 기준으로 비용이 발생하는 점이 기존 SaaS와 가장 큰 차이로 꼽힌다. 회사는 AI 기능 사용량을 크레딧 단위로 관리하며 AI 에이전트 실행이나 AI 기능 이용에 따라 크레딧을 차감하는 구조를 운영한다. 관리자는 조직별 AI 사용량과 크레딧 소비 현황을 대시보드에서 확인할 수 있다. 서비스나우 역시 플랫폼 전반에 AI를 확대 적용하며 별도 AI 상품군을 운영하고 있다. AI 제품군인 '나우 어시스트'를 중심으로 IT서비스관리(ITSM)뿐 아니라 고객서비스관리(CSM), 인사(HR), 개발 업무 등 다양한 제품군에 AI 기능을 더하고 있다. 고객은 계약한 AI 상품 범위에 따라 사용할 수 있는 AI 기능과 자동화 기능이 달라진다. 회사는 AI 기능을 '플랫폼 AI' 전략 아래 통합하고 파운데이션, 어드밴스드, 프라임 등 상품 구성을 통해 고객이 필요한 AI 기능 수준을 선택하도록 하고 있다. AI 거버넌스 기능도 강화했다. 서비스나우는 'AI 컨트롤 타워'를 통해 기업이 조직 내 AI 기능 사용 현황과 정책을 통합 관리할 수 있도록 지원한다. AI 활용이 늘어날수록 비용뿐 아니라 보안과 규제 준수, 운영 정책까지 함께 관리해야 한다는 점을 반영한 조치다. 토큰 절감보다 AI 가치 최적화가 핵심 업계에서는 이 같은 변화가 SaaS 비즈니스 모델 자체를 바꾸고 있다고 본다. 여러 SaaS를 함께 사용하는 기업일수록 라이선스 비용과 AI 사용 비용을 각각 관리해야 하는 IT 비용 관리 체계가 요구되고 있다는 분석이 나온다. 시장에서는 앞으로 AI 솔루션 가격 정책이 더 다양해질 것으로 내다본다. 일부 기능은 기존 구독 서비스에 포함되겠지만 고성능 AI나 AI 에이전트처럼 연산 자원을 많이 사용하는 기능은 사용량 기반 과금이 확대될 수 있다는 관측이다. 이에 따라 기업들도 소프트웨어 라이선스 구매를 넘어 AI 활용 계획과 예상 사용량까지 반영한 예산 수립 체계를 마련해야 한다는 지적이 나온다. 가트너는 AI 비용 관리의 핵심이 토큰 사용량을 줄이는 데 있지 않다고 강조했다. 비용을 무조건 줄이는 것이 아니라 높은 가치를 창출하는 업무에는 AI 투자를 확대하고 효과가 낮은 활용은 줄이는 방식의 관리 체계가 필요하다는 설명이다. 가트너는 보고서에서 "토큰 사용량을 최적화하는 것이 아니라 토큰이 창출하는 가치를 최적화해야 한다"며 "예산과 사용량, 비즈니스 성과를 함께 관리하는 AI 거버넌스를 구축해야 AI 도입 효과와 TCO를 동시에 최적화할 수 있다"고 강조했다.

2026.07.29 12:01이나연 기자

[AI TCO 함정①] 토큰 비용이 전부 아냐…기업 예산 갉아먹는 '데이터 통합'

기업의 인공지능(AI) 도입 비용이 토큰 사용료를 넘어 소프트웨어 구독료와 데이터 통합, 인프라 운영비 전반으로 번지고 있다. AI 기능이 기존 서비스형 소프트웨어(SaaS)에 추가되면서 사용량에 따라 비용이 달라지고 예산 예측도 어려워지는 분위기다. 데이터 정비와 검색증강생성(RAG) 구축, 사내 시스템 연동 비용도 AI 도입 부담을 키우는 요인으로 꼽힌다. AI 서비스 이용이 늘면서 서버와 스토리지, 네트워크 등 인프라 운영비까지 동반 상승하고 있다. 이에 지디넷코리아는 기업들이 AI 도입 과정에서 놓치기 쉬운 비용 구조와 예산 관리의 사각지대를 3회에 걸쳐 살펴본다. [편집자주] 기업들이 인공지능(AI) 에이전트 비용을 줄이기 위해 토큰 사용료에 몰두하고 있지만, 정작 더 큰 부담은 에이전트를 도입하기 전 데이터 관리·통합 단계에서 발생한다는 지적이 나오고 있다. 흩어진 사내 데이터를 정리하고 검색증강생성(RAG)을 구축해 기존 업무 시스템과 연결해야 하는 만큼 사실상 기업 AI 예산은 첫 토큰을 쓰기 전부터 투입되는 셈이다. 28일 글로벌 조사기관과 IT업계 자료를 종합하면 기업들은 AI 총소유비용(TCO)을 산정할 때 데이터 정제·통합과 RAG 구축, 기존 업무 시스템 연동에 드는 비용보다 토큰 사용료에 관심이 쏠려 있는 것으로 나타났다. 토큰은 AI 모델이 문장을 이해하고 답변을 생성하기 위해 텍스트를 잘게 나눈 기본 처리 단위다. AI 서비스 이용료는 일반적으로 입력·출력 토큰 사용량에 단가를 곱해 산정된다. 기업은 이를 통해 모델별 호출 건수와 사용량, 비용을 바로 확인할 수 있다. 이 과정에서 토큰 비용은 청구서와 관리 화면에 즉시 수치로 나타난다. 여러 부서 인력과 시간에 분산되는 데이터 통합 비용보다 눈에 잘 띄는 이유다. 토큰 사용량이 AI 전체 도입 비용을 대표하는 지표처럼 인식된다는 설명이다. 최근 기업 내 기술비용 관리 조직도 AI 비용을 파악하기 위해 토큰 사용량에 주목하고 있는 것으로 나타났다. 올해 핀옵스재단 조사에서는 응답자 98%가 AI 관련 지출을 관리한다고 답했다. 이들은 가장 필요한 관리 도구 기능으로 토큰 사용량과 거대언어모델(LLM) 요청 건수를 세부적으로 추적하는 기능을 꼽았다. 업계 관계자들은 기업이 토큰 비용에만 지나치게 몰두한 점을 지적했다. 토큰 비용에 앞서 AI 에이전트 구축을 위한 데이터 관리와 시스템 통합 비용을 간과했다간 TCO 운영에 차질을 빚을 수 있다는 설명이다. 익명을 요청한 한 글로벌 IT 업계 관계자는 "토큰 비용은 AI 모델을 호출한 뒤 발생하는 비용으로 전체 AI TCO 한 파트를 담당하는 선에 그친다"며 "기업들은 모델 호출에 앞서 필요한 데이터를 찾고 정제한 뒤 기존 시스템과 연결해야 하는 작업을 거쳐야한다는 점을 명심해야 한다"고 말했다. 이어 "이 작업 과정에는 개발자와 데이터 엔지니어뿐 아니라 데이터 의미와 업무 규칙을 아는 현업 담당자, 외부 시스템통합(SI) 인력까지 투입된다"며 "이같은 인건비와 작업 시간은 토큰 사용 명세서에 드러나지 않는다"고 덧붙였다. 실제 지난 5월 던앤드브래드스트리트가 32개국 기업 1만 곳을 조사한 결과 97%가 AI를 도입하거나 관련 프로젝트를 추진하고 있었다. 이 중 내부 데이터가 AI 활용에 완전히 준비됐다고 답한 기업은 5%에 그쳤다. 언앤드브래드스트리트는 "조사 기업들은 데이터 관리·통합 비용에 가장 큰 어려움을 호소했다"며 "이런 비용이 현실적인 AI 에이전트 걸림돌로 인식되기 시작한 것"이라고 지적했다. 첫 토큰 전 쌓이는 비용…데이터 정제·RAG·시스템 연동 다수 기업 데이터는 AI가 바로 이용할 수 있는 형태로 정리돼 있지 않다. 동일한 고객이나 제품도 부서마다 다르게 표기되고, 오래되거나 중복된 정보가 여러 저장소에 흩어져 있어서다. 이에 AI 에이전트를 도입하려면 우선 필요한 데이터 위치를 파악해야 한다. 이후 오류와 중복을 제거하고 형식을 통일한 뒤 최신성과 정확성을 검증해야 한다. 개인정보와 영업기밀 등 민감정보를 분류하고 사용자별 접근 권한을 설정하는 작업도 필요하다. 클라우데라와 하버드비즈니스리뷰 애널리틱서비스가 진행한 조사에서는 응답 기업 73%가 AI용 데이터를 처리하고 준비하는 데 어려움을 겪었다고 답했다. 데이터 사일로와 서로 다른 데이터 소스의 통합 문제를 지목한 비율은 56%였으며, 데이터 품질과 편향 문제도 41%로 뒤를 이었다. 클라우데라는 "기업은 데이터 정제 규칙과 파이프라인을 구축하고 지속적으로 관리해야 한다"며 "업무 데이터가 바뀔 때마다 처리 규칙을 수정하고, 오래되거나 잘못된 정보가 AI에 공급되지 않도록 점검할 개발·운영 인력 비용도 필요하다"고 보고서에서 밝혔다. 기업이 AI 에이전트에 RAG를 투입할 때도 벡터DB와 임베딩 이용료만 따져서는 안 된다는 목소리도 나오고 있다. 데이터 수집·정제와 권한 동기화, 검색 품질 평가, 색인 갱신에 투입되는 개발·운영 인력까지 포함해야 실제 비용을 파악할 수 있다. 한 AI 업계 관계자는 "기업은 문서를 수집·변환하고 검색에 적합한 크기로 나눈 뒤 임베딩·색인을 생성해야 한다"며 "데이터가 바뀔 때마다 색인 갱신 작업도 필요하다"고 설명했다. 이어 "이런 비용까지 인지해야 RAG 총 도입비용이 책정될 수 있다"고 말했다. 또 다른 관계자는 "AI 에이전트가 실제 업무를 수행하려면 RAG를 넘어 고객관계관리(CRM)와 전사적자원관리(ERP), 결재·메일·그룹웨어 등 핵심 업무 시스템에도 연결돼야 한다"며 "시스템마다 데이터 구조와 응용프로그램인터페이스(API), 인증 방식이 달라 개별 연동 작업이 필요하고, 이 과정에 추가 비용이 들 수 있다"고 설명했다. 외신들은 SAP 같은 레거시 업무 시스템은 복잡한 데이터 모델과 독자적인 업무 로직, 기업별 맞춤 설정을 갖고 있어 AI 에이전트를 단순히 연결하기 어렵다고 지적했다. 표준 API가 없는 시스템에는 별도 연결 프로그램을 개발하고 접근 권한과 감사 기록도 마련해야 한다는 설명이다. 미국 IT 전문매체 CIO는 "결국 기업이 놓치기 쉬운 비용은 토큰 사용료가 아니라 AI가 데이터를 이해하고 기존 시스템 안에서 움직일 수 있도록 만드는 인력과 기술 비용"이라고 보도했다. PoC 끝나자 숨은 비용 불어나…'업무 한 건 총비용' 봐야 AI 에이전트 비용은 개념검증(PoC)을 실제 운영으로 전환하는 과정에서 본격적으로 늘어나는 것으로 전해졌다. 시험 단계에서는 드러나지 않았던 시스템 연동과 보안·규제 대응, 모니터링, 유지보수 비용이 추가돼서다. PoC는 소수 인력이 미리 정제한 일부 데이터를 이용해 실제 업무 시스템과 분리된 환경에서 진행할 수 있다. 데이터 품질이나 접근 권한, 시스템 간 연동 문제를 충분히 검증하지 않고도 모델의 기능과 정확도를 시험할 수 있다는 의미다. 운영 단계에서는 상황이 달라진다. AI 에이전트를 기존 시스템과 연결하고 사용자별 권한을 적용해야 한다. 보안과 규제 준수, 성능 감시, 장애 대응, 데이터 갱신과 지속적인 유지보수 체계도 마련해야 한다. 올해 딜로이트가 24개국 기업 임원 3235명을 조사한 결과 AI 실험 40% 이상을 실제 운영 환경으로 전환한 기업은 전체의 25%에 그쳤다. AI 도입은 빠르게 늘고 있지만 이를 대규모 업무 환경으로 확장하는 기업은 많지 않다는 의미다. 운영 전환에 실패해 PoC를 반복하면 매몰비용도 발생하기도 한다. 여러 모델과 활용 사례를 시험하는 데 투입한 개발 인력과 클라우드 인프라, 컨설팅 비용을 회수하기 어렵다. 데이터 구조와 시스템 연동 방식을 다시 설계하면 재작업 비용까지 더해진다. CIO는 AI 에이전트 경제성을 판단하려면 업무당 토큰 사용량과 추론 비용을 계산하고, 이를 같은 업무에 투입되는 인건비와 비교해야 한다고 분석했다. 경우에 따라 AI 에이전트의 업무당 비용이 사람이 직접 처리할 때보다 커질 수 있다는 이유에서다. 비즈니스인사이더는 "기업이 따져야 할 것은 토큰 100만 개 가격만이 아니다"며 "AI 에이전트가 업무 한 건을 정확하고 안전하게 완료하는 데 투입되는 데이터·시스템·인력 비용을 모두 합산해야 실질적인 비용 경쟁력을 판단할 수 있다"고 내다봤다.

2026.07.28 12:35김미정 기자

[기고] 열보조자기기록 기술과 에너지 효율적인 인프라의 미래

국내 AI 기반 디지털 경제 구축이 가속화되면서, 기초적이지만 종종 간과되던 핵심 요소인 데이터 스토리지에 이목이 집중되고 있다. 급증하는 AI, 엣지 컴퓨팅, 빅데이터 분석 수요에 힘입어 한국의 데이터센터는 전례 없는 속도로 성장하고 있다. 산업통상자원부에 따르면, 현재 국내 운영되는 데이터센터의 수는 약 147개에 달하며, 2029년까지 637개에 이를 것으로 예측된다. 이러한 급격한 확장은 여러 과제를 수반하게 되며, 결과적으로 인프라 전략을 재고하게 된다. 대표적으로 전력 제약 증대, 제한된 물리적 공간, 규제 강화와 엄격한 에너지 효율 기준 등을 꼽을 수 있다. 가장 시급한 과제 중 하나는 전력이다. 데이터 양이 기하급수적으로 증가함에 따라 스토리지 인프라에 대한 수요도 단순히 용량뿐만 아니라 에너지 소비, 물리적 공간, 탄소 영향 등도 함께 증가하고 있다. 씨게이트의 '데이터 탈탄소화 리포트'에 따르면, 국내 응답자의 53.5%가 높은 에너지 소비로 인해, 운영 비용과 탄소 배출량이 증가한다고 꼽았다. 2023년 한국의 데이터센터 전력 용량은 591메가와트(MW)에 도달했으며, 이는 아시아태평양 지역에서 여섯 번째로 큰 규모다. 서울 전력망에 가중되는 부담을 완화하기 위해, 최근 데이터센터의 지역 분산 구축을 촉진하는 법안이 발의된 바 있다. 고밀도 스토리지가 전력 및 효율성 목표 달성에 기여하는 역할 환경 변화에 따라 스토리지 효율성은 단순한 기술적 필요를 넘어 규제적 필수 요건이 되고 있다. 에너지 소비 절감과 환경 영향 최소화를 위한 정부 정책이 새로운 개발에 대한 기준을 한층 높이고 있는 가운데, 더 높은 스토리지 면적 밀도(플래터당 저장되는 데이터 양)가 해결책이 될 수 있다. 플래터당 스토리지 용량을 늘리면 기업은 필요한 드라이브 수를 줄일 수 있어 전력 소비를 낮추면서도 동일한 물리적 공간을 유지할 수 있다. 이를 통해 에너지와 공간, 원자재를 절약함으로써 지속가능성 목표 달성에 기여한다. 특히 데이터센터 전력 사용량이 계속 증가하는 상황에서 이러한 효율성 개선은 점점 더 중요해지고 있다. 스토리지 효율성을 새롭게 정의하는 열보조자기기록 이러한 문제를 해결하는데 결정적 역할을 하는 것이 열보조자기기록(HAMR) 기술 혁신이다. 초고밀도로 데이터를 기록할 수 있는 열보조자기기록 기술로 하드 드라이브 기술이 획기적으로 도약하게 됐다. 기존의 수직 자기 방식 레코딩(PMR)은 플래터당 약 3TB 수준에서 물리적 한계에 도달해, 이 이상의 면적 밀도 증가는 열적 불안정성에 따른 제약을 받는다. 열보조자기기록은 기록 과정에서 소형 레이저를 사용해 디스크를 일시적으로 가열함으로써, 신뢰성과 안정성은 유지하고 더 밀도 높게 비트를 기록할 수 있다. 이러한 발전은 전력 사용량이나 물리적 공간을 늘리지 않고도 스토리지를 확장해야 하는 데이터센터에 특히 중요하다. 씨게이트 모자이크3+ 플랫폼과 같은 최근 혁신 기술은 플래터당 3.6TB의 면적 밀도를 실증했으며, 현재 연구실 환경에서 플래터당 최대 6TB의 면적 밀도를 이미 달성했고 플래터당 10TB를 목표로 연구를 진행하고 있다. 이러한 밀도 향상은 동일한 물리적 공간에서 스토리지 용량을 세 배로 늘리는 동시에, TB당 전력 소비를 60% 이상 줄여 전력 효율성을 개선하고 내재된 탄소를 최대 70%까지 감축하는 효과를 가져온다. 엄격한 에너지 규제와 높아지는 지속가능성 요청에 직면한 데이터센터에 열보조자기기록은 보다 책임 있는 방식으로 인프라를 확장할 수 있는 실질적인 해법을 제공한다. 한국 디지털 비전의 핵심 동력 지방 자치 단체가 신규 데이터센터 개발에 대해 더욱 엄격한 에너지 효율 기준을 도입하면서, 열보조자기기록과 같은 기술은 국가 정책 목표와 밀접하게 부합하게 됐다. 데이터센터가 성능뿐 아니라 에너지 집약도와 환경 영향 측면에서도 평가받기 시작했기 때문에 고밀도 및 저전력 스토리지는 규정 준수와 경쟁력 확보에 필수적인 요소가 될 것이다. 열보조자기기록 드라이브는 단순 용량 증대를 넘어 전체 하드웨어 요구사항을 줄인다. 낮은 발열량 덕분에 상면 공간과 냉각 수요를 최소화한다. 또한 기존 시스템과 원활히 통합되도록 설계돼 스토리지 수요가 증가함에 따라 점진적인 확장이 가능하며, 특히 한국의 디지털 미래를 뒷받침할 AI 및 머신러닝 워크로드에 적합하다. 정부가 국가 AI 스택 구축에 집중하고 지역 데이터 허브로 자리매김하는 과정에서 스토리지 기술은 중추적인 역할을 한다. 전력 가용성이 신규 데이터센터 구축의 결정적 요인이 된 지금, 데이터센터 운영기업은 더 적은 에너지로 더 많은 스토리지를 제공할 수 있는 혁신 기술을 적극 도입할 시기이다.

2025.09.02 09:54이채호 컬럼니스트

시놀로지 "내년 고성능 스토리지 'PAS7700'으로 기업 시장 공략 확대"

[타이베이(대만)=권봉석 기자] 대만 스토리지 전문업체 시놀로지가 21일 오후(이하 현지시간) 기업용 고성능 저장장치인 PAS7700을 공개하고 내년 상반기부터 시장에 공급한다고 밝혔다. PAS7700은 시놀로지가 개인용 네트워크 저장장치(NAS)를 시작으로 25년 이상 쌓은 기술력을 모두 투입한 고성능 기기다. 기업들이 스토리지 운영시 총소유비용(TCO)를 절감 필요성을 느끼고 있지만 기존 제품에서 여전히 불만을 느낀다는 판단 아래 개발됐다. 이날 코디 홀(Cody Hall) 시놀로지 미국 지역 매니저는 "PAS7700은 프라이머리 스토리지급의 성능과 안정성을 메인스트림 스토리지 수준의 비용으로 제공한다는 점이 특징"이라고 설명했다. 이어 "PAS7700은 항공우주, 반도체, AI와 같이 가장 요구사항이 높은 산업을 위한 솔루션으로 자리잡을 것"이라고 설명했다. "PAS7700에 25년간 쌓은 기술력 모두 투입" 시놀로지는 파일 관리용 소프트웨어로 시작해 개인용 네트워크 저장장치(NAS), 기업용 저장장치와 영상보안 솔루션 등으로 포트폴리오를 확대해 왔다. 코디 홀 매니저는 "현재 시놀로지 NAS는 전 세계에서 1천400만 대 이상 구동중이며 PAS7700은 25년간 쌓은 시장 경험을 바탕으로 개발된 NVMe 올플래시 기반 스토리지 솔루션"이라고 설명했다. PAS7700은 4U 섀시에 듀얼 컨트롤러와 48개의 NVMe SSD 베이를 통합했으며, 최대 7개의 확장 유닛을 통해 총 1.65PB의 원시 용량까지 확장할 수 있다. 이를 제어하는 프로세서는 AMD 에픽 7443(24코어, 48스레드)이며 메모리는 최대 2천48GB(2TB)까지 확장 가능하다. 네트워크 연결성 측면에서는 400Gbps 또는 25Gbps 네트워크 연결 및 16Gb 파이버 채널을 지원한다. 파일 서버로는 SMB, NFSv3, NFSv4, RDMA를 지원하고, 블록 스토리지로는 iSCSI, 파이버 채널, NVMe TCP, NVMe 파이버 채널 등 다양한 프로토콜을 지원한다. 고성능 하드웨어 기반 무중단 운영 가능 코디 홀 매니저는 "PAS7700은 액티브-액티브 듀얼 컨트롤러 아키텍처를 기반으로 스토리지 미디어부터 메모리, 시스템, 네트워크, 프로토콜까지 전 계층에 걸쳐 중단 없는 서비스를 제공하는 것이 특징"이라고 설명했다. 프로세서나 네트워크, 메모리 등에 문제가 생길 경우 모든 환경을 5초만에 얘비 컨트롤러로 옮겨 페일오버 시간을 5초 미만으로 단축했다. 하드웨어 교체, OS 업데이트, 펌웨어 업데이트도 전원 차단이나 재부팅 없이 수행할 수 있다. PAS7700은 시놀로지가 자체 설계·공급하는 U.3 규격 NVMe SSD로 작동한다. 기존 출시된 플래그십 모델인 SA6400/FS6400 대비 최대 3배 성능을 높였다. 4K 랜덤 읽기 성능은 최대 200만 IOPS, 순차 처리 속도는 30GB/s다. AMD 기술로 보안 강화... 중복제거 기술로 SSD 수명 연장 PAS7700은 AMD 에픽 프로세서가 제공하는 인피니티 가드를 통한 보안 부팅 및 암호화, 드라이브 수준 및 볼륨 수준의 이중 암호화, 접근 제어, 다중 인증(MFA)을 지원한다. 변경 불가능한 스냅샷, 복제, 오프사이트 티어링 및 백업 옵션을 포함한 3-2-1-1 보호 전략을 기본 탑재해 데이터 무결성을 다층적으로 보호한다. 저장 용량을 절감할 수 있는 데이터 중복 제거 기능은 인라인/오프라인 방식을 모두 이용해 네트워크 대역폭은 절약하고 SSD 수명을 늘릴 수 있다. 데이터 중요도에 따라 오래된 데이터를 대용량/보급형 스토리지로 옮겨 용량도 효율적으로 활용한다. 내년 1분기 중 출시 목표로 개발중... 8월부터 PoC 테스트 PAS7700은 내년 1분기 중 정식 출시 목표로 개발중이다. 시놀로지는 오는 8월부터 일부 주요 고객사 대상으로 개념증명(PoC) 테스트를 제공할 예정이다. 내년 하반기에는 티어2 데이터 저장을 위한 PAS3000 시리즈, 아마존 S3 오브젝트 저장용 GS3000 시리즈도 함께 출시된다. 코디 홀 매니저는 "PAS7700은 기존 개인용·기업용 운영체제인 '디스크스테이션매니저'에 제품 특성을 고려한 여러가지 기능을 추가한 '패러럴 액세스 매니저'를 탑재 예정이며 이용자 인터페이스는 큰 차이가 없다"고 설명했다. 이어 "각종 소프트웨어의 라이선스 모델과 비용 등 정책은 아직 결정되지 않았지만 타사가 출시한 제품 대비 경쟁력을 유지할 수 있는 수준으로 결정할 것"이라고 덧붙였다.

2025.05.22 07:49권봉석 기자