• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
스테이블코인
배터리
AI의 눈
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'AI 테크 서밋 2026'통합검색 결과 입니다. (2건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

[현장] "GPU 개수 경쟁 끝났다"…엔비디아가 제시한 '수직 통합' AI 인프라

"그래픽처리장치(GPU) 몇 장을 도입할지 경쟁하는 시대는 지났습니다. 이제는 기업 전체 구조를 다시 설계하는 단계로 들어섰습니다." 정구형 엔비디아 코리아 팀장은 26일 서울 마곡 사이언스파크에서 열린 'LG CNS AI 테크 서밋 2026'에서 애플리케이션부터 데이터센터, 전력까지 아우르는 차세대 AI 인프라 청사진을 제시했다. 정 팀장은 AI 인프라를 ▲애플리케이션 ▲모델 ▲AI 플랫폼 ▲가속 컴퓨팅 인프라 ▲데이터센터, 에너지 인프라 등 5개 레이어로 구분해 설명했다. 그는 "AI는 한 층만 잘 만든다고 완성되지 않는다"며 "애플리케이션부터 전력까지 수직 통합 관점에서 설계해야 한다"고 말했다. 가장 위에는 기업이 실제로 사용하는 업무용 AI 애플리케이션과 에이전트가 있다. 그 아래로는 대형 언어모델 등 모델 레이어, 이를 학습·배포·운영하는 플랫폼 레이어가 이어진다. 이어 GPU, CPU, 네트워킹, DPU 등으로 구성된 가속 컴퓨팅 인프라가 이를 떠받친다. 마지막으로 대규모 전력과 냉각을 감당하는 데이터센터, 에너지 인프라가 기반을 이룬다. 정 팀장은 "AI 경쟁은 이제 GPU 수량이 아니다"며 "이 5개 레이어를 얼마나 유기적으로 설계하느냐의 문제"라고 강조했다. 엔비디아 내부 사례도 공개했다. 그는 단순히 요약된 답을 제시하는 것이 아니라 어떤 문서의 어느 부분을 참고했는지까지 추적 가능하도록 설계했다는 것을 강조했다. 정 팀장은 "우리도 사내에서 에이전틱 AI를 적극 활용하고 있다"며 "컨플루언스, 셰어포인트 등 내부 협업 시스템과 직접 연동해 답변의 근거를 함께 제시하는 구조를 구축했다"고 설명했다. 이 같은 내부 적용을 통해 제품 개발과 의사결정 속도가 빨라졌다고도 밝혔다. 반복적으로 확인해야 했던 기술 문서, 설계 변경 이력, 사내 정책 자료 등을 에이전트가 즉시 찾아 제시하면서 업무 시간이 단축됐다는 설명이다. 정 팀장은 "엔터프라이즈 환경에서는 정확도만큼이나 '출처 투명성'이 중요하다"며 "이를 통해 개발자와 엔지니어가 정보 검색에 쓰는 시간을 줄이고 실제 설계와 검증에 더 집중할 수 있게 됐다"고 말했다. 엔비디아는 이러한 시행착오와 운영 경험을 정리해 '엔터프라이즈 AI 팩토리 디자인' 가이드로 공개했다. 가이드에는 에이전트 설계 방식, 내부 데이터 연동 구조, 플랫폼 구성, 인프라 선택 기준 등 기업이 AI를 도입할 때 고려해야 할 기술적 의사결정 요소가 담겼다. 모델 전략에 대해서는 오픈소스 기반 접근을 강조했다. 시스템 구조가 얼마나 개방돼 있는고 실제 서비스에서 얼마나 효율적인지가 실제 업무 성능을 좌우하기 때문이다. 그는 오픈 모델 제품군인 '네모트론3'를 언급하며 "성능 지표뿐 아니라 서빙 효율 측면에서도 의미 있는 진전을 이뤘다"며 "기업이 자체 모델을 고도화할 때 충분히 고려할 수 있는 기반이 될 것"이라고 설명했다. 하드웨어와 인프라 설계 방향도 구체적으로 제시했다. 그는 차세대 GPU 아키텍처 기반 랙 단위 통합 설계를 소개하며 "수십 개 GPU를 하나의 도메인처럼 묶어 동작시키는 구조가 표준이 되고 있다"고 말했다. 이어 "고속 네트워킹과 DPU를 결합해 서버, 스토리지, 네트워크를 유기적으로 연결해야 진짜 AI 인프라가 완성된다"고 강조했다. 데이터센터와 에너지 이슈에 대해서도 언급했다. 정 팀장은 "AI 인프라의 끝은 결국 전력"이라며 "기가와트급 데이터센터 시대가 이미 시작됐다"고 말했다. 이어 "디지털 트윈 기반 설계를 통해 가상 환경에서 충분히 검증한 뒤 실제 구축에 들어가야 시행착오를 줄일 수 있다"고 설명했다. 그러면서 "AI 인프라는 장비 조합의 문제가 아니라 애플리케이션에서 에너지까지 하나로 이어진 설계 철학의 문제"라며 발표를 마무리했다.

2026.02.26 15:17남혁우 기자

[현장] LG CNS AI 테크 서밋 2026 개막…엔비디아부터 오픈AI까지 총출동

LG CNS가 엔비디아, 오픈AI, 팔란티어 등 국내외 주요 인공지능(AI) 반도체 기업 함께 실행 중심 기업형 AI 전략을 제시했다. 26일 LG CNS는 AI 기술과 비즈니스 전략을 공유하는 'LG CNS AI 테크 서밋 2026'을 서울 마곡 사이언스파크에서 개최했다. 이번 행사는 AI가 기업 전반에 확산되는 상황에서 안정적인 도입과 통제 체계 구축, 데이터 폭증에 따른 인프라 효율화, 자율적으로 판단하고 행동하는 에이전틱 AI 전환, 데이터 주권을 확보하는 소버린 AI 구축 방안을 모색하기 위해 마련됐다. 엔비디아, 팔란티어, 오픈AI, 시스코, IBM, HPE, VM웨어, 델 테크놀로지스 등 글로벌 테크 기업과 함께 망고부스트, 퓨리오사AI, 리벨리온 등 국내 AI 반도체 기업이 참여해 기술 전략과 실제 적용 사례를 공유했다. 김태훈 LG CNS 부사장은 "AI는 이제 가능성의 시대를 지나 실제 실행과 성과를 만들어내는 시대로 들어섰다"며 "이제 생성형 AI의 단순 응답을 넘어 업무 프로세스 안에서 스스로 계획하고 실행하는 '에이전틱 AI'로 빠르게 진화하고 있다고 설명했다. 동시에 기업 현장에서는 보안, 컴플라이언스, 거버넌스가 내재화된 '엔터프라이즈 AI'가 새로운 표준으로 자리 잡고 있다고 강조했다. 인프라 변화도 핵심 화두로 제시했다. 김 부사장은 학습뿐 아니라 추론의 중요성이 커지고 있으며, 추론 비용 효율화와 운영 자동화, 관측 가능성 확보가 기업 경쟁력을 좌우하고 있다고 진단했다. 또한 산업과 국가별 규제에 대응하는 프라이빗 AI와 소버린 AI가 주요 요구사항으로 부상하고 있다고 덧붙였다. 행사는 키노트를 시작으로 엔터프라이즈 AI와 거버넌스, AI 인프라 효율화, 에이전틱 AI와 데이터 관리, 소버린 AI 등 주제별 트랙으로 구성됐다. 각 세션은 현장 적용 중심의 인사이트 공유에 초점을 맞췄다. 진요한 AI센터장은 올해를 'AI실전 배치의 해'로 삼고 실제 운영 역량을 갖춘 소버린 엔터프라이즈로 전환하는 출발점이 되기를 기대한다고 밝혔다. 그는 "지난 1년의 변화가 그 이전 20년보다 더 컸다"고 진단하며, 2017년 트랜스포머 등장 이후 2025년 현재는 AI가 실제 산업과 물리적 세계까지 확장되는 전환점에 와 있다고 설명했다. 특히 생성형 AI 이후 모델이 비약적으로 똑똑해지면서 B2C 경험과 B2B 현실 사이의 기대 격차가 커졌다고 지적했다. 개인은 즉시 활용하지만 기업은 보안, 데이터 정합성, 시스템 연계 등 복합 요건을 충족해야 한다는 점을 짚었다. 그는 엔터프라이즈 AI의 핵심을 '모델, 데이터, 운영'의 통합 전략으로 제시했다. 단일 모델 선택이 아니라 경량 모델과 고성능 모델을 작업 특성에 따라 라우팅하는 전략이 필요하며, 데이터 연결과 권한 관리, 배치 전략이 곧 소버린 역량이라고 강조했다. "모델을 보유하는 것이 아니라, 모델을 실전에 배치해 운영할 수 있는 능력이 기업 경쟁력"이라고 말했다. LG CNS는 이에 대응해 자사 AI 플랫폼을 에이전틱 구조로 고도화하고, '에이전트웍스' 체계를 통해 기업용 에이전트 운영 환경을 제공하겠다는 구상도 밝혔다. 모델 라우팅, 다중 모델 운영, 기업 데이터 연계, 권한 통제, UI 설계까지 포함한 통합 운영체계를 지향한다는 설명이다. 인프라 전략도 구체화했다. 퍼블릭 클라우드와 온프레미스 이분법을 넘어 상황별 혼합 구조가 필요하며, 추론 수요 확대에 대응해 XPU 기반 서비스도 준비하고 있다고 밝혔다. GPU를 모두 직접 구매하는 방식이 아니라 온디맨드 서비스 활용 등 유연한 전략이 필요하다고 강조했다. 외교부, 경기도교육청 등과의 로드맵 기반 AX 프로젝트 사례도 소개하며 선도 사례가 캐즘을 넘는 전환점이 될 수 있다고 강조했다. 또한 글로벌 파트너와의 협업을 통해 기술과 운영 역량을 결합한 실행형 AI 전략을 확대하겠다고 밝혔다. 김 부사장은 "LG CNS는 AX 마스터 플랜 수립부터 데이터 플랫폼, 인프라 구축, 보안과 거버넌스, 운영 자동화까지 고객의 AI 라이프사이클 전 과정을 책임지는 AX 이노베이터"라며 "오늘 공유되는 아이디어와 사례가 각 기업의 다음 실행을 더 빠르고 안전하게 만드는 출발점이 되길 바란다"고 밝혔다.

2026.02.26 13:51남혁우 기자

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

[사스포칼립스 위기 ㊤] AI가 SaaS 산업 흔드나…"경쟁 구도 재편으로 봐야"

"앱 찾는 시대 끝났다"…노태문 사장, 구글과 손잡고 'AI OS' 승부수

20년간 761대→13만대...미니, 올해 한정판 11종 출시

엔비디아 "AI 인프라 투자, 일시적 사이클 아니다"

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.