• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
ZDPick
인공지능
AI의 눈
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'최고정보책임자'통합검색 결과 입니다. (2건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

AI는 필수, TCO는 부담…기업 CIO '진퇴양난'

기업 내 인공지능(AI) 도입이 본격화하면서 최고정보책임자(CIO)들의 고민도 깊어지고 있다. AI 경쟁력 확보를 위한 인프라 투자는 불가피하지만 서버·메모리·반도체 등 핵심 자원 가격이 오르면서 총소유비용(TCO) 부담도 빠르게 커지고 있어서다. 투자를 줄이자니 서비스 안정성과 보안 리스크가 걸리고 인프라를 늘리자니 비용 압박이 커지는 진퇴양난에 놓였다는 평가가 나온다. 6일 업계에 따르면 주요 기업 CIO들은 AI 인프라 확대에 따른 TCO 부담을 낮출 대응책 마련에 나서고 있다. 다만 강화된 보안 요구와 업권별 규제로 비용 절감 여지가 갈수록 좁아지면서 마땅한 해법을 찾지 못하고 있다. 특히 금융권은 규제와 장애 대응 부담까지 겹치면서 일반 기업보다 비용 최적화가 더 어렵다는 지적이다. TCO 키운 AI 인프라…메모리 수요·가격 동반 상승 업계에서는 AI인프라 비용 부담이 일시적 현상에 그치지 않을 것으로 예상하고 있다. 생성형 AI와 대규모언어모델(LLM) 활용이 늘면서 기존 IT 시스템보다 높은 연산 성능과 대용량 메모리를 필요로 하는 인프라 수요가 빠르게 커지고 있기 때문이다. 특히 AI 서버는 일반 서버보다 훨씬 많은 D램을 필요로 하는 것으로 알려져 있다. 글로벌 빅테크의 AI 인프라 투자 확대까지 맞물리면서 메모리 수요가 전반적으로 늘고 가격 상승 압력도 커지는 흐름이다. 실제로 시장에서는 범용 D램 가격 전망치가 잇따라 상향 조정되면서 기업들의 인프라 예산 부담도 예상보다 빠르게 커지고 있다. 문제는 장비 구매 비용만 늘어나는 데 그치지 않는다는 점이다. 전력과 냉각, 유지보수, 보안, 성능 검증 등 운영 전반에 드는 비용도 함께 증가하고 있다. AI 인프라 투자가 확대될수록 초기 구축 비용보다 운영 부담이 더 가파르게 커질 수 있다는 분석이 나오는 배경이다. 클라우드 역시 해법으로 보기는 어렵다는 평가다. 사용량이 늘수록 과금 부담이 빠르게 커지고 고성능 연산 자원을 안정적으로 확보해야 하는 AI 환경에서는 비용 통제가 쉽지 않아서다. 최근 출시한 앤트로픽의 미토스의 경우 API 가격이 기존대비 2배 이상 높게 책정돼 외부 AI 서비스 활용 비용 부담도 커지고 있다. 더불어 기업 내 민감한 정보를 보호하기 위해서는 별도 온프레미스 환경을 병행해야 하는 경우도 많다. 결국 클라우드와 온프레미스를 함께 운영하는 구조가 되면서 중복 투자가 불가피하고 TCO 상승 압력을 피하기 어렵다는 반응이다. 생존위한 AI 투자, 비용 부담 커도 줄이기 어려워 비용이 급등하는데도 기업이 투자를 쉽게 늦추지 못하는 것은 AI 도입이 더 이상 선택이 아니라 경쟁력과 사업 연속성을 좌우하는 핵심 과제로 자리 잡고 있어서다. 실제 현장에서는 AI 투자를 단순한 효율화 차원이 아니라 생존의 문제로 받아들이는 분위기도 확산하고 있다. 기업들은 우선 기존 자산 활용도를 높이는 방식으로 대응하고 있다. 운영 환경에서 빠진 장비를 개발·테스트용으로 재배치하거나 유휴 자원을 줄여 전체 인프라 효율을 끌어올리는 전략이 대표적이다. 클라우드 사업자와 매니지드서비스제공업체(MSP)들이 자원 사용률 제고를 통한 비용 절감 방안을 앞세우는 것도 같은 맥락이다. 그러나 현장에서는 이런 방식만으로는 한계가 뚜렷하다는 반응이 적지 않다. AI 인프라는 서비스가 본격화할수록 성능과 안정성, 보안 수준을 함께 끌어올려야 해 운영비 부담이 더 빠르게 불어나기 때문이다. 한 업계 관계자는 "기존 시스템은 일정 수준의 효율화만으로도 비용 절감 효과를 기대할 수 있었지만 AI 인프라는 성능과 안정성을 동시에 맞춰야 해 절감 여력이 크지 않다"고 말했다. 보안 강화 기조도 비용 부담을 키우는 요인으로 꼽힌다. 과거에는 운영에서 빠진 장비를 개발·검증용으로 재활용하는 방식이 대표적인 비용 절감 수단으로 활용됐지만 최근에는 이런 전략도 예전만큼 힘을 쓰지 못하고 있다. 노후 장비나 재활용 장비가 상대적으로 보안 취약점에 노출될 가능성이 크다는 우려가 커지면서 개발·테스트 환경까지 최신 장비와 최신 보안 패치를 적용해야 한다는 요구가 확대되고 있어서다. 비용 절감을 위해 기존 장비 활용도를 높이려 해도 강화된 보안 기준이 오히려 추가 투자 요인으로 작용하는 구조다. 한 기업 CIO는 "운영 서버 효율화만 고민할 수 있는 상황이 아니다"라며 "개발·검증 장비까지 최신화 요구가 커지면서 비용 부담이 더 커졌다"고 말했다. 금융권, 규제·트래픽·배상 '삼중 부담' 금융권은 규제와 안정성 부담으로 비용 최적화에 대한 고민이 더욱 큰 상황이다. 일반 기업은 시스템 자원 사용률을 높여 유휴 자원을 줄이는 방식으로 효율화를 시도할 수 있다. 반면 금융권은 장애 가능성과 급격한 트래픽 증가에 대비해 평상시에도 충분한 여유 용량을 확보해야 하기 때문이다. 금융감독원의 성능관리 가이드라인도 시스템 자원 사용률 50% 초과를 '위험(critical)' 단계로, 30% 이하를 평상시 기준선으로 제시하고 있어 구조적으로 높은 가동률 운영이 어렵다. 증권사는 공모주 청약이나 증시 급변동 국면처럼 특정 시점에 접속이 한꺼번에 몰리는 경우가 잦아 수요가 발생한 뒤 대응하기보다 평소부터 넉넉한 용량을 확보하는 보수적 운영이 불가피하다. 장애나 주문 지연이 곧바로 고객 손실과 배상 문제로 이어질 수 있다는 점도 비용 효율보다 무중단 서비스와 안정성 확보를 우선하게 만드는 요인이다. 한 금융권 CIO는 "일반 기업은 일정 수준까지 자원 활용률을 끌어올리며 효율화를 시도할 수 있지만 금융회사는 감독 기준과 트래픽 변동성, 배상 부담 때문에 같은 방식으로 접근하기 어렵다"며 "금융권에 맞는 별도의 비용 최적화 모델이 필요하다"고 말했다.

2026.08.06 13:32남혁우 기자

이준호 한국화웨이 부사장, 한국CIO포럼 회장 취임…첫 실무형 리더 주목

한국CIO포럼에 최초로 최고정보책임자(CIO)와 최고보안책임자(CISO) 현장 실무를 모두 거친 리더가 수장으로 올랐다. 한국CIO포럼은 24일 서울 서초구 엘타워에서 열린 정기 조찬행사에서 이준호 한국화웨이 부사장 겸 최고보안책임자(CSO)를 제15대 회장으로 선임했다. 이번 선임은 국내 CIO 커뮤니티의 변화 흐름을 보여주는 상징적 사례라는 평가다. 그동안 포럼 회장은 대기업 경영자나 IT 산업계 인사가 주로 맡아왔지만, 현장 중심의 실무형 리더가 수장에 오른 것은 이례적이다. AI, 데이터, 사이버보안이 기업 경쟁력의 핵심으로 떠오르면서 CIO와 CISO 역할이 전략적 경영 파트너로 확대되고 있는 흐름과 맞물린 변화다. 이준호 신임 회장은 2004년 한국정보산업연합회 CIO아카데미 제3기를 수료한 CIO 출신이다. 이후 다음커뮤니케이션 CIO, 네이버 CISO 등을 거치며 IT와 보안을 아우르는 경험을 쌓았다. 현재는 한국화웨이에서 부사장 겸 CSO로 재직하며 보안과 기술 전략을 총괄하고 있다. 그는 CIO와 정보보안 분야 모두에서 성과를 인정받았다. 한국CIO포럼이 수여하는 '올해의 CIO상'을 2006년과 2016년 두 차례 수상하며 IT 리더십과 보안 역량을 동시에 입증했다. CIO와 CISO를 모두 경험한 이력은 이번 회장 선임의 핵심 배경으로 꼽힌다. 이준호 회장은 취임사에서 "AI와 데이터, 사이버보안은 이제 기업 경쟁력을 좌우하는 핵심 요소"라며 "CIO의 역할은 단순한 IT 운영을 넘어 기업의 미래를 설계하는 리더십으로 확대되고 있다"고 말했다. 이어 "기술을 관리하는 수준을 넘어 조직의 가능성을 확장하는 역할이 CIO에게 요구된다"고 강조했다. 또한 "CIO는 기술과 경영을 연결하는 전략적 리더로서 기업의 디지털 혁신을 이끄는 핵심 역할을 맡게 될 것"이라며 "CIO, CISO, CDO 등 다양한 디지털 리더들이 협력하는 구조가 중요해지고 있다"고 밝혔다. 향후 포럼 운영 방향도 제시했다. 그는 AI 시대 CIO 전략 리더십 강화, 사이버보안 및 디지털 신뢰 의제 확대, 산업 간 CIO 협력 네트워크 확대, IT 기업과의 협력 강화를 주요 과제로 제시했다. CIO 커뮤니티를 중심으로 기술과 경영 혁신을 연결하는 플랫폼을 구축하겠다는 구상이다. 특히 2027년 창립 30주년을 앞둔 한국CIO포럼의 역할도 강조했다. 그는 "다음 30년은 AI와 디지털 기술이 산업과 사회를 근본적으로 변화시키는 시기가 될 것"이라며 "대한민국 CIO가 그 변화의 중심에서 역할을 해야 한다"고 말했다. 이어 "회원들과 함께 배우고 고민하며 미래를 준비하겠다"고 덧붙였다. 이날 조찬행사에서는 AI 도입 확산과 함께 증가하는 IT 운영 복잡성과 보안 리스크도 주요 화두로 다뤄졌다. 'AI 에브리웨어 시대, 기업 경쟁력을 결정짓는 최적의 인프라 거버넌스'를 주제로 이동운 수세 코리아 지사장과 김승우 이사가 초청 연사로 나서 급증하는 가상화 라이선스 비용 및 생성형 AI 도입에 따른 복잡성 문제 해결을 위한 '인프라 현대화 전략'과 안전한 '프라이빗 AI(Private AI)' 도입 방안을 소개했다. 이준호 신임 회장은 행사를 마무리하며 "급변하는 기술 환경 속에서 한국CIO포럼이 앞으로도 디지털 리더들의 지혜를 모으고 대한민국 디지털 혁신을 이끄는 든든한 공동체가 되기를 기대한다"며 "회장으로서 회원 여러분과 함께 배우고 고민하며, 대한민국 CIO의 다음 30년을 철저히 준비해 나가겠다"고 포부를 다졌다.

2026.03.24 11:33남혁우 기자

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

하정우·이해민 AI 새 라인업에 업계 "AI 강국 도약할 리더십 갖췄다"

K-온디바이스 AI 과제, 최종 컨소시엄 확정…모빌린트·하이퍼엑셀 '두각'

7천만원대 세단부터 3억짜리 SUV까지…대형 전기차 하반기 격돌

네이버 지도에 뜬 ‘세계지도’…韓 공략 속도 내는 구글에 맞불?

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.