검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'LG CNS AI 테크 서밋 2026'통합검색 결과 입니다. (5건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

[현장] 오픈AI "AI는 기업 운영의 일부…지금 의사결정이 미래를 좌우"

"인공지능(AI)은 기업 운영의 일부가 되고 있습니다. AI를 단순도구로 사용할 것인지 기업 운영체제(OS)로 만들지는 지금 의사결정에 달려있습니다." 김양용 오픈AI AD(Account Director)는 26일 서울 마곡 LG사이언스파크에서 열린 'LG CNS AI 테크 서밋 2026'에서 생성형 AI를 조직 자산으로 전환하기 위한 전략과 엔터프라이즈 AI 플랫폼 방향성을 제시했다. 김 AD는 AI 확산 속도를 언급하며 기술 전환의 가속도를 강조했다. 그는 "인터넷이 1억 사용자를 확보하는 데 7년이 걸렸고, 페이스북은 4년 반이 걸렸다"며 "챗GPT는 2개월 만에 1억 사용자를 확보했다"고 말했다.이어 "이는 기술의 문제가 아니라 수용 속도의 문제"라며 "AI는 이미 전 산업에 보편적으로 스며들고 있다"고 설명했다. 김 AD는 수 많은 기업에서 다양한 생성형 AI 툴을 도입해 활용하고 있지만, 진짜 과제는 전사적 전환이라고 짚었다. 그는 "모델 성능은 빠르게 발전하고 있지만, 이를 조직 전체의 생산성 혁신으로 연결하는 운영 체계는 아직 충분히 갖춰지지 않았다"며 "사내 데이터가 여러 시스템에 분산돼 있고, 개발자 중심 API 영역과 사용자 중심 툴 사이에 간극이 존재하고 있다"고 설명했다. 이를 해결하기 위해 오픈AI는 기업 내부에 통합 AI 레이어를 구축하는 '엔터프라이즈 AI 플랫폼' 전략을 추진하고 있다고 밝혔다. 김 AD는 "데이터를 연결하고 비즈니스 맥락을 이해하는 AI 기반 위에 에이전트를 배포하고, 이를 단일 콘솔에서 관리하는 구조를 제공하고 있다"며 "자연어로 에이전트를 만들고 런타임 환경에 배포해 실제 업무 워크플로를 자동화하는 방식"이라고 설명했다. AI 조직 전환은 3단계로 접근해야 한다고도 강조했다. 구성원 각자가 AI를 일상적으로 활용하고, 도메인 전문가가 자신의 노하우를 반영한 유스케이스를 만들며 이를 연결해 엔드투엔드 프로세스를 자동화하는 구조로 확장해야 한다는 설명이다. 김 AD는 "AI 도입의 성과를 단순히 인력 감축으로 계산하는 것은 한계가 있다"며 "전체 구성원이 AI를 활용하고 그 결과가 조직 자산으로 축적될 때 진짜 혁신이 일어난다"고 강조했다.

2026.02.26 18:00남혁우 기자

[현장] 시스코 "AI 운영, 모델부터 네트워크·데이터까지 전 구간 검토해야"

"인공지능(AI)는 그래픽처리장치(GPU), 네트워크, 스토리지, 데이터, 에이전트까지 전 계층이 동시에 얽혀 있는 복합 시스템입니다. 어느 한 지점만 봐서는 장애 원인, 성능 병목, 비용 문제도 정확히 알 수 없습니다. 그래서 AI 운영은 전 구간을 통합해 들여다보는 옵저버빌리티가 필수입니다." 인필교 시스코 상무는 26일 서울 마곡 LG사이언스파크에서 열린 'LG CNS AI 테크 서밋 2026'에서 'AI를 위한 옵저버빌리티 전략'을 주제로 발표에 나섰다. 그는 "AI는 모델만의 문제가 아니라 인프라 전반의 문제"라며 모든 인프라를 통합적으로 들여다보는 가시성이 필요하다고 강조했다. 인 상무는 먼저 AI 인프라의 복잡성을 짚었다. GPU 서버 도입이 급증했지만, 실제 운영 단계에서는 GPU 사용률, 병목 구간, 네트워크 지연, 스토리지 성능, 전력과 냉각까지 모두 영향을 미친다고 설명했다. 그는 "GPU가 정상이라고 해서 AI 서비스가 정상은 아니다"라며 "CPU, 메모리, GPU 간 연결, 클러스터 네트워크, 데이터 공급 체계까지 함께 봐야 한다"고 말했다. 이어 '옵저버빌리티 포 AI(Observability for AI)' 개념을 소개했다. 이는 기존 포인트 모니터링을 넘어 인프라 메트릭, 로그, 트레이스, 이벤트 데이터를 통합 수집해 전체 흐름을 한 번에 파악해야 한다는 개념이다. 또 오픈텔레메트리 기반 데이터 수집과 '피델리티 데이터(fidelity data)' 확보의 중요성도 이날 강조했다. 인 상무는 "AI 환경은 일반 IT 시스템보다 훨씬 많은 데이터를 실시간으로 생성한다"며 "데이터가 빠짐없이 수집돼야 정확한 분석과 원인 규명이 가능하다"고 말했다. AI 모델 관측 영역에 대해서도 언급했다. 그는 "이제는 모델과 에이전트 자체도 모니터링 대상"이라며 "환각 문제, 프롬프트별 응답 품질, 토큰 사용량과 비용까지 분석해야 한다"고 설명했다. 이어 "모든 프롬프트와 응답을 데이터로 확보해야 환각 여부와 품질을 판단할 수 있다"며 "운영 품질과 비용 최적화를 동시에 달성해야 한다"고 덧붙였다. 운영 과정에서 발생하는 장애를 방지하기 위한 에이전틱 AI도 소개했다. 인 상무는 기존에는 운영자가 AI에 질문해 원인을 찾는 방식이었다면, 앞으로는 AI 에이전트가 스스로 데이터를 수집하고, 문제를 감지하며 원인을 분석한 뒤 필요 시 자동 복구까지 수행하는 구조로 진화한다고 설명했다. 다만 모든 조치를 자동화하는 것은 아니라고 선을 그었다. 코드 수정이 필요한 사안 등은 사람의 승인과 판단을 거치도록 설계했다고 덧붙였다. 또 서비스형 소프트웨어(SaaS) 기반 제공을 기본으로 하되, 보안 요구가 높은 기업을 위해 온프레미스 환경도 지원할 계획이라고 밝혔다. 인 상무는 "엔터프라이즈 AI 운영에는 더 완벽한 가시성과 더 빠르고 정확한 문제 감지가 필요하다"며 "AI 기반 지능형 원인 분석을 통해 복잡해진 AI 인프라 운영을 더 간편하게 만들겠다"고 말했다.

2026.02.26 17:38남혁우 기자

[현장] "챗봇 도입이 기업 AI 아냐"…팔란티어가 제시하는 실패 없는 기업 AI 구축법

"기업용 인공지능(AI)은 단순한 챗봇 도입이 아니라 회사 운영 전반에 AI를 녹여내는 전략입니다. 활용 정의 없이 기술만 도입하면 결국 아무도 쓰지 않는 프로젝트로 끝나버리게 됩니다." 권남오 팔란티어 총괄이 26일 서울 마곡 사이언스파크에서 열린 'LG CNS AI 테크 서밋 2026'에서 '기업 AI를 위한 팔란티어의 접근 방식'을 주제로 이와 같이 말하며 엔터프라이즈 AI 구축 전략을 공개했다. 권 총괄은 "엔터프라이즈 AI는 회사 운영에 직접적으로 AI를 활용하는 것"이라며 "단순히 챗봇을 도입하거나 문서를 요약하는 수준으로는 기업 AI라고 말하기 어렵다"고 강조했다. 이어 "AI를 어디에, 어떻게 쓸 것인지에 대한 정의 없이 기술만 도입하면 결국 쓰는 사람이 없는 프로젝트가 된다"고 지적했다. 그는 최근 2~3년간 많은 기업이 대규모언어모델(LLM 도입)과 인프라 구축에 집중했지만 실제 현업 오퍼레이션에는 연결되지 못한 사례가 적지 않다는 점도 짚었다. 권 총괄은 "특정 부서에서는 성공 사례라고 발표하지만, 회사 전체로 보면 아무도 쓰지 않는 경우가 있다"며 "운영을 고려하지 않은 AI 도입은 실패로 이어질 가능성이 높다"고 말했다. 그러면서 그는 엔터프라이즈 AI 도입이 막히는 원인으로 세 가지를 제시했다. ▲오퍼레이션이 고려되지 않은 기술 중심 접근 ▲AI를 챗봇이나 요약 도구로 한정하는 제한적 정의 ▲기술 조직, 현업, 경영진 간 전략 정렬 부족 등이 원인으로 꼽힌다. 권 총괄은 "엔지니어링 팀, 현업, 경영진이 같은 방향을 바라보지 않으면 장기적으로 갈 수 없다"며 "3년, 5년, 길게는 10년을 보는 비전이 필요하다"고 말했다. 팔란티어의 접근 방식은 '뇌만 사는 것'으로는 부족하다는 점으로 비유했다. 거대언어모델(LLM)이라는 똑똑한 두뇌를 도입해도 회사의 맥락을 모르면 제대로 작동할 수 없다고 강조하며 회사의 데이터를 연결하고, 실제 업무 의사결정 로직을 시스템에 인코딩해야 한다고 주장했다. 그러면서 이를 '디지털 트윈'과 '온톨로지' 구축 과정으로 설명했다. 구체적으로는 데이터 통합, 비즈니스 로직 인코딩, 공통 관점 구축이 핵심 단계라고 밝혔다. 그는 "데이터만 연결해서는 안 되고, 사람들이 어떻게 의사결정을 하는지 그 로직을 시스템에 녹여야 한다"며 "그 위에서 AI가 작동해야 비로소 기업 AI가 된다"고 설명했다. AI의 역할에 대해서도 분명히 했다. 권 총괄은 "AI는 사람을 대체하는 것이 아니라 사람이 할 수 있는 일의 총량을 늘리는 것"이라며 "이를 증강에서 자동화로 가는 과정이라고 본다"고 말했다. 이어 "반복 업무는 자동화하고, 사람은 더 복잡하고 의미 있는 문제에 집중하게 만드는 구조가 목표"라고 덧붙였다. 실행 전략으로는 '작지만 중요한 문제'를 먼저 해결하는 방식을 제시했다. 그는 "쉬운 과제부터 시작하는 것이 아니라, 회사가 가장 어려워했던 문제를 정의하고 해결해야 한다"며 "하나의 핵심 과제를 제대로 풀면 인접 영역으로 자연스럽게 확산된다"고 설명했다. 그러면서 "이 과정에서 데이터 거버넌스, 보안, 접근 통제 체계도 함께 구축해야 한다"고 부연했다. 또 팔란티어의 '고객 현장 파견 엔지니어(Forward Deployed Engineer)' 방식을 소개하며 현장 밀착형 문제 해결을 강조했다. 권 총괄은 "문제를 제대로 정의하지 않으면 해결할 수 없다"며 "현장에 들어가 실제 업무를 보고, 기술로 해결하고, 그 경험을 반복 가능한 구조로 만든다"고 설명했다. 그러면서 그는 궁극적으로는 고객 조직 내부에 같은 역량을 내재화하는 것이 목표라고 밝혔다. 또 장기 전략 수립의 중요성도 거듭 강조했다. 권 총괄은 "기업 AI는 단기 성과 프로젝트가 아니라 체질 개선으로 쉽지 않은 길이지만, 운영과 조직을 바꾸지 않으면 진정한 엔터프라이즈 AI는 어렵다"며 "AI는 비용 절감 도구가 아니라 기업의 의사결정 체계를 재설계하는 기반"이라고 피력했다.

2026.02.26 17:25남혁우 기자

[현장] "GPU 개수 경쟁 끝났다"…엔비디아가 제시한 '수직 통합' AI 인프라

"그래픽처리장치(GPU) 몇 장을 도입할지 경쟁하는 시대는 지났습니다. 이제는 기업 전체 구조를 다시 설계하는 단계로 들어섰습니다." 정구형 엔비디아 코리아 팀장은 26일 서울 마곡 사이언스파크에서 열린 'LG CNS AI 테크 서밋 2026'에서 애플리케이션부터 데이터센터, 전력까지 아우르는 차세대 AI 인프라 청사진을 제시했다. 정 팀장은 AI 인프라를 ▲애플리케이션 ▲모델 ▲AI 플랫폼 ▲가속 컴퓨팅 인프라 ▲데이터센터, 에너지 인프라 등 5개 레이어로 구분해 설명했다. 그는 "AI는 한 층만 잘 만든다고 완성되지 않는다"며 "애플리케이션부터 전력까지 수직 통합 관점에서 설계해야 한다"고 말했다. 가장 위에는 기업이 실제로 사용하는 업무용 AI 애플리케이션과 에이전트가 있다. 그 아래로는 대형 언어모델 등 모델 레이어, 이를 학습·배포·운영하는 플랫폼 레이어가 이어진다. 이어 GPU, CPU, 네트워킹, DPU 등으로 구성된 가속 컴퓨팅 인프라가 이를 떠받친다. 마지막으로 대규모 전력과 냉각을 감당하는 데이터센터, 에너지 인프라가 기반을 이룬다. 정 팀장은 "AI 경쟁은 이제 GPU 수량이 아니다"며 "이 5개 레이어를 얼마나 유기적으로 설계하느냐의 문제"라고 강조했다. 엔비디아 내부 사례도 공개했다. 그는 단순히 요약된 답을 제시하는 것이 아니라 어떤 문서의 어느 부분을 참고했는지까지 추적 가능하도록 설계했다는 것을 강조했다. 정 팀장은 "우리도 사내에서 에이전틱 AI를 적극 활용하고 있다"며 "컨플루언스, 셰어포인트 등 내부 협업 시스템과 직접 연동해 답변의 근거를 함께 제시하는 구조를 구축했다"고 설명했다. 이 같은 내부 적용을 통해 제품 개발과 의사결정 속도가 빨라졌다고도 밝혔다. 반복적으로 확인해야 했던 기술 문서, 설계 변경 이력, 사내 정책 자료 등을 에이전트가 즉시 찾아 제시하면서 업무 시간이 단축됐다는 설명이다. 정 팀장은 "엔터프라이즈 환경에서는 정확도만큼이나 '출처 투명성'이 중요하다"며 "이를 통해 개발자와 엔지니어가 정보 검색에 쓰는 시간을 줄이고 실제 설계와 검증에 더 집중할 수 있게 됐다"고 말했다. 엔비디아는 이러한 시행착오와 운영 경험을 정리해 '엔터프라이즈 AI 팩토리 디자인' 가이드로 공개했다. 가이드에는 에이전트 설계 방식, 내부 데이터 연동 구조, 플랫폼 구성, 인프라 선택 기준 등 기업이 AI를 도입할 때 고려해야 할 기술적 의사결정 요소가 담겼다. 모델 전략에 대해서는 오픈소스 기반 접근을 강조했다. 시스템 구조가 얼마나 개방돼 있는고 실제 서비스에서 얼마나 효율적인지가 실제 업무 성능을 좌우하기 때문이다. 그는 오픈 모델 제품군인 '네모트론3'를 언급하며 "성능 지표뿐 아니라 서빙 효율 측면에서도 의미 있는 진전을 이뤘다"며 "기업이 자체 모델을 고도화할 때 충분히 고려할 수 있는 기반이 될 것"이라고 설명했다. 하드웨어와 인프라 설계 방향도 구체적으로 제시했다. 그는 차세대 GPU 아키텍처 기반 랙 단위 통합 설계를 소개하며 "수십 개 GPU를 하나의 도메인처럼 묶어 동작시키는 구조가 표준이 되고 있다"고 말했다. 이어 "고속 네트워킹과 DPU를 결합해 서버, 스토리지, 네트워크를 유기적으로 연결해야 진짜 AI 인프라가 완성된다"고 강조했다. 데이터센터와 에너지 이슈에 대해서도 언급했다. 정 팀장은 "AI 인프라의 끝은 결국 전력"이라며 "기가와트급 데이터센터 시대가 이미 시작됐다"고 말했다. 이어 "디지털 트윈 기반 설계를 통해 가상 환경에서 충분히 검증한 뒤 실제 구축에 들어가야 시행착오를 줄일 수 있다"고 설명했다. 그러면서 "AI 인프라는 장비 조합의 문제가 아니라 애플리케이션에서 에너지까지 하나로 이어진 설계 철학의 문제"라며 발표를 마무리했다.

2026.02.26 15:17남혁우 기자

[현장] LG CNS AI 테크 서밋 2026 개막…엔비디아부터 오픈AI까지 총출동

LG CNS가 엔비디아, 오픈AI, 팔란티어 등 국내외 주요 인공지능(AI) 반도체 기업 함께 실행 중심 기업형 AI 전략을 제시했다. 26일 LG CNS는 AI 기술과 비즈니스 전략을 공유하는 'LG CNS AI 테크 서밋 2026'을 서울 마곡 사이언스파크에서 개최했다. 이번 행사는 AI가 기업 전반에 확산되는 상황에서 안정적인 도입과 통제 체계 구축, 데이터 폭증에 따른 인프라 효율화, 자율적으로 판단하고 행동하는 에이전틱 AI 전환, 데이터 주권을 확보하는 소버린 AI 구축 방안을 모색하기 위해 마련됐다. 엔비디아, 팔란티어, 오픈AI, 시스코, IBM, HPE, VM웨어, 델 테크놀로지스 등 글로벌 테크 기업과 함께 망고부스트, 퓨리오사AI, 리벨리온 등 국내 AI 반도체 기업이 참여해 기술 전략과 실제 적용 사례를 공유했다. 김태훈 LG CNS 부사장은 "AI는 이제 가능성의 시대를 지나 실제 실행과 성과를 만들어내는 시대로 들어섰다"며 "이제 생성형 AI의 단순 응답을 넘어 업무 프로세스 안에서 스스로 계획하고 실행하는 '에이전틱 AI'로 빠르게 진화하고 있다고 설명했다. 동시에 기업 현장에서는 보안, 컴플라이언스, 거버넌스가 내재화된 '엔터프라이즈 AI'가 새로운 표준으로 자리 잡고 있다고 강조했다. 인프라 변화도 핵심 화두로 제시했다. 김 부사장은 학습뿐 아니라 추론의 중요성이 커지고 있으며, 추론 비용 효율화와 운영 자동화, 관측 가능성 확보가 기업 경쟁력을 좌우하고 있다고 진단했다. 또한 산업과 국가별 규제에 대응하는 프라이빗 AI와 소버린 AI가 주요 요구사항으로 부상하고 있다고 덧붙였다. 행사는 키노트를 시작으로 엔터프라이즈 AI와 거버넌스, AI 인프라 효율화, 에이전틱 AI와 데이터 관리, 소버린 AI 등 주제별 트랙으로 구성됐다. 각 세션은 현장 적용 중심의 인사이트 공유에 초점을 맞췄다. 진요한 AI센터장은 올해를 'AI실전 배치의 해'로 삼고 실제 운영 역량을 갖춘 소버린 엔터프라이즈로 전환하는 출발점이 되기를 기대한다고 밝혔다. 그는 "지난 1년의 변화가 그 이전 20년보다 더 컸다"고 진단하며, 2017년 트랜스포머 등장 이후 2025년 현재는 AI가 실제 산업과 물리적 세계까지 확장되는 전환점에 와 있다고 설명했다. 특히 생성형 AI 이후 모델이 비약적으로 똑똑해지면서 B2C 경험과 B2B 현실 사이의 기대 격차가 커졌다고 지적했다. 개인은 즉시 활용하지만 기업은 보안, 데이터 정합성, 시스템 연계 등 복합 요건을 충족해야 한다는 점을 짚었다. 그는 엔터프라이즈 AI의 핵심을 '모델, 데이터, 운영'의 통합 전략으로 제시했다. 단일 모델 선택이 아니라 경량 모델과 고성능 모델을 작업 특성에 따라 라우팅하는 전략이 필요하며, 데이터 연결과 권한 관리, 배치 전략이 곧 소버린 역량이라고 강조했다. "모델을 보유하는 것이 아니라, 모델을 실전에 배치해 운영할 수 있는 능력이 기업 경쟁력"이라고 말했다. LG CNS는 이에 대응해 자사 AI 플랫폼을 에이전틱 구조로 고도화하고, '에이전트웍스' 체계를 통해 기업용 에이전트 운영 환경을 제공하겠다는 구상도 밝혔다. 모델 라우팅, 다중 모델 운영, 기업 데이터 연계, 권한 통제, UI 설계까지 포함한 통합 운영체계를 지향한다는 설명이다. 인프라 전략도 구체화했다. 퍼블릭 클라우드와 온프레미스 이분법을 넘어 상황별 혼합 구조가 필요하며, 추론 수요 확대에 대응해 XPU 기반 서비스도 준비하고 있다고 밝혔다. GPU를 모두 직접 구매하는 방식이 아니라 온디맨드 서비스 활용 등 유연한 전략이 필요하다고 강조했다. 외교부, 경기도교육청 등과의 로드맵 기반 AX 프로젝트 사례도 소개하며 선도 사례가 캐즘을 넘는 전환점이 될 수 있다고 강조했다. 또한 글로벌 파트너와의 협업을 통해 기술과 운영 역량을 결합한 실행형 AI 전략을 확대하겠다고 밝혔다. 김 부사장은 "LG CNS는 AX 마스터 플랜 수립부터 데이터 플랫폼, 인프라 구축, 보안과 거버넌스, 운영 자동화까지 고객의 AI 라이프사이클 전 과정을 책임지는 AX 이노베이터"라며 "오늘 공유되는 아이디어와 사례가 각 기업의 다음 실행을 더 빠르고 안전하게 만드는 출발점이 되길 바란다"고 밝혔다.

2026.02.26 13:51남혁우 기자