[기고] 아태지역 AI 인프라, '데이터 시스템' 중심 설계해야

대규모 모델을 학습시키고 AI를 실험 단계에서 실제 운영 환경으로 확산시키는 것이 당면 과제였던 시기에는, 이러한 컴퓨팅 중심의 접근이 충분히 합리적인 선택이었다. 그러나 아태지역 전반에서 AI 도입이 성숙 단계에 접어들면서, 컴퓨팅과 데이터 사이의 구조적 격차가 핵심 과제로 부상하고 있다. AI 학습의 중요성은 여전히 크지만, AI의 다음 단계는 조직이 얼마나 많은 컴퓨팅 자원을 확보하느냐만으로 결정되지 않는다. 시간이 흐를수록 AI 시스템이 얼마나 많은 데이터를 소비하고, 생성하고, 보존하며, 다시 활용할 수 있는지가 중요한 경쟁력으로 자리 잡을 것이다. 이러한 차이는 AI가 비즈니스 가치를 창출하기 위해 운영 환경과 추론 단계로 본격 진입할수록 더욱 뚜렷해진다. AI는 데이터를 단순히 사용하는 데 그치지 않는다. 맥락과 메타데이터부터 출력값, 처리 이력, 운영 과정에서 축적되는 부가 데이터에 이르기까지 새로운 데이터를 지속적으로 생성한다. 많은 조직은 이러한 데이터를 거버넌스 준수, 모델 개선, 또는 향후 활용을 위해 장기간 보존하고자 할 것이다. AI 워크로드마다 요구하는 스토리지 계층도 다르다. 데이터 수집과 학습부터 추론, 장기 보존에 이르기까지 각 단계는 성능, 용량, 비용 측면에서 서로 다른 요건을 갖기 때문이다. 추론이 시작되면 이 차이는 더욱 분명해진다. 컴퓨팅 자원은 수요에 따라 단계적으로 확장될 수 있지만, 데이터는 멈추지 않고 계속 축적된다. 시간이 지날수록 AI 운영 환경은 순수한 컴퓨팅 시스템보다 데이터 시스템에 가깝게 작동한다. 축적되는 데이터가 시스템의 확장 방식, 운영 방식, 가치 창출 방식을 규정하기 시작하기 때문이다. 이는 규모, 비용 압박, 에너지 제약, 규제 복잡성이 시장마다 다르게 나타나는 아태지역에서 특히 중요한 의미를 갖는다. 아태지역 AI 성장, 데이터 확장성이 핵심 과제로 부상 아태지역의 성장세는 뚜렷하다. 딜로이트 보고서에 따르면, 아태지역은 2030년까지 약 8000억 달러(약 1219조원) 규모의 데이터센터 투자가 예상되며 세계의 차세대 데이터센터 허브로 부상할 전망이다. 한국도 이러한 흐름에 발맞추고 있다. 지난 5월 '인공지능 데이터센터 산업 진흥에 관한 특별법', 이른바 AIDC 특별법이 국회 본회의를 통과했다. 해당 법은 글로벌 AI 3대 강국 도약이라는 비전을 뒷받침하기 위해 관련 규제 부담을 완화하는 것을 목표로 하며, 2027년 2월 시행될 예정이다. 동시에 아태지역의 AI 인프라 전략은 결코 단순하지 않다. 아태지역에는 빠르게 성장하는 디지털 경제권, 이미 인프라가 고도화된 성숙 시장, 새롭게 부상하는 AI 네이티브 환경이 함께 공존한다. 각 시장이 직면한 우선순위와 제약 조건도 제각각이다. 이에 따라 AI의 실질적인 병목은 순간적인 처리 성능보다 대규모 데이터 관리 역량 쪽으로 이동하고 있다. AI 환경이 확장될수록 조직은 데이터 생애주기 전반에 걸쳐 서로 다른 데이터 계층을 지원해야 한다. 빠른 접근이 필요한 핫 데이터, 간헐적으로 활용되는 웜 데이터, 장기 보존을 위한 콜드 데이터가 대표적이다. 모든 데이터를 하나의 고성능 계층에 저장하는 방식은 소규모 환경에서는 작동할 수 있지만, 데이터 규모가 커질수록 비효율적이며 경제적으로도 지속 가능하지 않다. 실질적으로 아태지역의 AI 성장은 컴퓨팅 자원 배치뿐 아니라, 장기적으로 AI를 책임 있고 경제적으로 지원하기 위한 더 넓은 데이터 아키텍처 전반에 부담을 가중시킬 것이다. 이 때문에 이제 아키텍처 설계는 순수한 처리 속도만큼이나 중요해지고 있다. 확장성의 관점에서 핵심은 가용성, 내구성, 복원력, 그리고 데이터를 장기간 보존하고 관리하는 데 따르는 경제성이다. 결국 데이터 규모가 커지고, 워크로드가 변화하며, 비용 압박이 심화되는 상황에서 기반 아키텍처가 그 속도를 따라갈 수 있는지가 관건이다. AI의 장기 비용을 좌우하는 데이터 관리 AI가 지속적으로 데이터를 생성하는 단계로 접어들면서, AI의 장기 비용은 컴퓨팅 자원뿐 아니라 조직이 데이터를 얼마나 효율적으로 보존하고 관리하느냐에 따라 결정될 것이다. 대규모 환경에서 총소유비용(TCO)은 드라이브, 전력 소비, 냉각 장치, 랙 공간, 그리고 급증하는 데이터 규모를 관리하는 운영 부담이 복합적으로 작용해 형성된다. 이에 따라 지속 가능성은 인프라 설계에서 빼놓을 수 없는 요소가 됐다. 핵심은 컴퓨팅 자원에 전력을 어떻게 공급할 것인가에만 있지 않다. 데이터 수집과 학습부터 추론, 장기 보존에 이르기까지 용량, 에너지, 공간을 효율적으로 활용하는 데이터 시스템으로 AI 인프라를 어떻게 설계할 것인가가 중요하다. 모든 데이터를 동일한 성능 계층에 저장할 필요는 없다. 워크로드 요건에 맞게 스토리지 자원을 배치하면, 조직은 데이터 생애주기 전반에서 용량, 에너지, 냉각, 물리적 공간을 보다 효율적으로 활용할 수 있다. 인프라 리더에게 이는 지속 가능성과 총소유비용을 설계 초기 단계부터 핵심 기준으로 삼아야 한다는 의미다. 데이터 보존, 계층화, 내구성, 가용성에 대한 초기 판단은 시스템이 실제 운영 단계에 들어선 뒤 장기적인 영향을 미친다. 대규모 환경에서 이를 뒤늦게 재검토하고 수정하려면 상당한 비용이 발생할 수 있다. 전체 데이터 생애주기를 염두에 두고 인프라를 설계하는 조직은, 경제적으로 지속 가능하면서도 운영 복원력을 갖춘 방식으로 AI를 확장하는 데 더 유리한 위치에 설 수 있다. AI의 다음 단계, 아키텍처가 좌우한다 업계는 AI 인프라를 칩 성능, 벤치마크 점수, 최고 모델 성능 중심으로 바라보던 단계를 지나고 있다. 다음 단계는 사용 확대 속에서도 시스템이 비용 효율성, 적응력, 지속 가능성을 유지할 수 있는지를 결정하는 아키텍처 선택에 좌우될 것이다. 이는 더 근본적인 질문을 던져야 한다는 의미이기도 하다. 데이터를 얼마나 많이, 얼마 동안 보존해야 하는가. 어떤 워크로드에 프리미엄 성능이 필요하고, 어떤 워크로드에는 그렇지 않은가. 조직은 접근성, 복원력, 거버넌스, 비용 사이에서 어떤 균형을 잡아야 하는가. 이제 이러한 질문들은 부차적인 고려사항이 아니다. AI가 상업적으로 실현 가능하고 운영 측면에서도 지속 가능한 방식으로 확장될 수 있는지를 좌우하는 핵심 요소다. AI의 다음 승자는 단순히 가장 많은 컴퓨팅 자원을 배치한 조직이 아닐 것이다. 시간이 지남에 따라 AI 시스템이 어떻게 작동하는지를 이해하고, AI가 지능을 만들어내는 동시에 데이터를 생성한다는 현실을 바탕으로 인프라를 설계하는 조직이 될 것이다. 대규모 환경에서는 그 데이터 자체가 곧 시스템이 된다.