ZDNet 검색 페이지

'LG CNS AI 테크 서밋 2026'통합검색 결과 입니다. (9건)

[현장] 델 테크놀로지스 "AI, 기술 아닌 기업 문화의 전환"

"인공지능(AI)은 기술이 아니라 기업 전체를 갈아엎는 문화의 변화입니다." 윤원상 델테크놀로지스 상무는 26일 서울 마곡 LG사이언스파크에서 열린 'LG CNS AI 테크 서밋 2026'에서 이같이 말하며 AI를 단순 기술 도입 차원이 아닌 전사적 전략 전환의 문제로 접근해야 한다고 강조했다. 윤 상무는 이날 '2026년 AI 팩토리 전략'을 주제로 발표에 나섰다. "클라우드는 기술이 아니라 문화를 바꿨다"며 "AI는 IT를 넘어 기업 전체의 구조, 조직, 일하는 방식을 통째로 바꿀 더 큰 물결"이라고 말했다. 부서별로 개별 AI를 도입하는 방식은 위험하며 거버넌스를 먼저 세우고 단계적으로 추진해야 한다고 짚었다. 그는 AI 시대의 데이터 구조가 기존과 완전히 달라진다고 설명했다. 기존 RDBMS 기반의 행·열 중심 데이터가 아니라, 벡터 데이터베이스와 그래프 데이터베이스처럼 관계성과 의미 기반의 데이터 구조가 핵심 연료가 된다는 것이다. 이미지, 영상, 음성 같은 비정형 데이터와 노드 간 관계를 중심으로 한 그래프 구조까지 통합 관리해야 진정한 엔터프라이즈 AI가 가능하다고 밝혔다. 에이전틱 AI 시대에 대한 준비도 강조했다. 윤 상무는 "앞으로는 에이전트끼리 통신하며 의사결정을 내리는 멀티 에이전트 구조가 확산될 것"이라며 "이 경우 토큰 사용량은 기존 산정 대비 몇 배가 아니라 몇십 배, 몇백 배로 폭증할 수 있다"고 말했다. 이에 따라 기존 아키텍처를 재설계해야 할 가능성이 크다는 전망했다. AI 인프라의 회복 탄력성도 주요 화두로 제시했다. 그는 "지금은 AI가 없어도 업무를 할 수 있지만, 앞으로는 AI가 멈추면 ERP와 이메일, PC가 동시에 다운된 것보다 더 큰 충격을 줄 수 있다"고 경고했다. 단순 백업이나 재해복구를 넘어, AI 전용 복구 전략과 데이터 리커버리 체계가 필요하다고 설명했다. 국내 구축 사례도 소개했다. 한 대규모 제조사는 기존 수율 시스템에 AI를 접목하고 비정형·벡터·그래프 데이터를 통합한 데이터 레이크하우스를 구축해 생산성을 끌어올렸다. 또 다른 기업은 생성형 AI 플랫폼에 비정형 데이터를 결합해 운영 시스템을 3개월 만에 구축했다. 증권사는 투자자 대상 앱에 AI를 적용해 기업 실적 발표와 공시 정보를 요약 제공하는 서비스를 구현했다. 이들 사례의 공통 기반으로는 '델 AI 데이터 플랫폼'을 제시했다. 해당 플랫폼은 정형, 비정형, 벡터, 그래프 데이터를 한 곳에 저장하고 쿼리·연동까지 지원하는 어플라이언스 형태의 통합 아키텍처다. 윤 상무는 "AI 구축 속도를 좌우하는 것은 결국 데이터 통합과 인프라 완성도"라고 말했다. 그는 2026년을 엔터프라이즈 AI가 본격적으로 드라이브를 거는 해로 규정했다. 중앙 LLM 중심 구조에서 엣지 단의 마이크로 LM과 연결되는 분산형 구조로 진화하고 피지컬 AI, 즉 로봇과 연동하는 아키텍처까지 고려해야 할 시점이라는 설명이다. 윤원상 상무는 발표를 마무리하며 "AI는 선택이 아니라 기업 생존을 좌우하는 핵심 인프라가 되고 있다"며 "거버넌스부터 데이터, 인프라, 회복 탄력성까지 준비한 기업만이 AI 시대의 경쟁력을 확보할 수 있을 것"이라고 말했다.

2026.02.27 08:38남혁우 기자

[현장] VM웨어 "AI 팩토리 회복 탄력성,기업 경쟁력 좌우"

"인공지능(AI)는 이제 국가와 기업 경쟁력을 좌우하는 핵심 인프라입니다. 회복 탄력성을 갖춘 AI 팩토리와 소버린 AI 전략 정렬이 앞으로의 승부를 결정할 것입니다." 허진성 VM웨어 솔루션 아키텍트는 26일 서울 마곡 LG사이언스파크에서 열린 'LG CNS AI 테크 서밋 2026'에서 이같이 말하며 기업 AI 인프라 전략의 핵심을 '플랫폼화'와 '주권 전략 정렬'로 제시했다. 허 아키텍트는 발표에서 AI 도입이 실험 단계를 넘어 전사 확산 단계로 접어들면서 인프라 안정성과 거버넌스 체계가 무엇보다 중요해졌다고 진단했다. 특히 AI 워크로드가 급증하는 환경에서는 단순한 GPU 확충이 아니라 장애 상황에서도 서비스가 유지할 수 있는 AI 팩토리 수준 회복 탄력성이 확보돼야 한다는 설명이다. 그는 "AI를 공장처럼 운영하려면 생산성뿐 아니라 중단 없는 운영 구조가 전제돼야 한다"고 강조했다. 최근 한국을 비롯해 미국, 중국 등 주요 국가에서 부상하고 있는 '소버린 AI' 전략을 언급하며 기업 AI 거버넌스가 국가 전략과 정합성을 갖추는 것이 중요하다고 말했다. 데이터 주권, 모델 통제권, 인프라 자립성 등이 국가 경쟁력과 직결되는 상황에서, 기업 역시 자사 AI 전략을 국가 프레임 안에서 설계해야 한다는 것이다. 그는 "기업 AI 거버넌스 전략이 국가 소버린 AI 방향성과 어긋나면 장기적으로 리스크가 될 수 있다"고 짚었다. 허 아키텍트는 LG AI연구원이 국내 소버린 AI 후보군으로 유력하게 거론되는 점도 언급했다. 그는 "LG 그룹은 소버린 AI 흐름 속에서 유리한 고지에 있다"며 "그룹 차원의 인프라 역량과 AI 연구 역량을 결합할 경우 글로벌 경쟁에서도 차별화된 위치를 확보할 수 있다"고 평가했다. 이어 AI 팩토리를 통해 실제 구축한 사례도 간략히 소개했다. 해당 사례에서는 GPU 자원 통합 관리, 모델 거버넌스 체계화, 데이터 보안 통제를 동시에 구현해 비용 효율성과 안정성을 확보했다고 설명했다. 특히 플랫폼 기반으로 모델을 서비스화해 여러 조직이 공동 활용하도록 하면서도 데이터는 분리 관리하는 구조를 적용했다고 밝혔다. 허진성 아키텍트는 "AI는 더 이상 실험이 아니라 국가와 기업의 경쟁력을 좌우하는 핵심 인프라"라며 "회복 탄력성을 갖춘 AI 팩토리와 소버린 AI 전략 정렬이 앞으로의 승부를 결정할 것"이라고 말했다.

2026.02.27 08:38남혁우 기자

[현장] LLM보다 20배 자원 쓰는 에이전틱 AI…레드햇 "해법은 추론 최적화"

"에이전틱 AI는 하나의 질문에도 모델을 여러 번 호출하며 일반 챗봇 대비 GPU 자원을 5배에서 최대 20배까지 더 소모하는 구조입니다. 기업이 이를 도입해 수익을 창출하려면 비용 통제와 성능 확보, 서비스 안정성을 동시에 달성할 수 있는 추론 최적화가 필수입니다." 이호진 레드햇 솔루션 아키텍트는 26일 서울 마곡 LG사이언스파크에서 열린 'LG CNS AI 테크 서밋 2026'에서 이같이 강조했다. 그는 '에이전틱 AI로의 진화와 추론 최적화 전략'을 주제로 발표하며, 생성형 AI를 넘어 에이전틱 AI 시대로 전환되는 흐름과 이에 따른 인프라 전략 변화를 짚었다. 이 아키텍트는 가트너와 IDC 리서치를 인용하며 올해 기업 애플리케이션 40%가 업무 특화 AI 에이전트를 탑재하거나 AI 에이전트와 함께 일하게 될 것이라고 설명했다. 단순 질의응답을 수행하는 생성형 AI에서 벗어나, 멀티스텝 업무 자동화와 워크플로우 판단·실행까지 수행하는 구조로 진화하고 있다는 분석이다. 문제는 자원 소모다. 에이전틱 AI는 하나의 요청에도 모델 호출과 도구 실행, 검색과 재시도를 반복한다. 그 결과 일반 챗봇 대비 GPU 자원이 5배에서 최대 20배까지 더 필요할 수 있다. 그는 "이 구조에서는 추론 비용이 급격히 증가할 수밖에 없다"며 "추론 최적화 없이 에이전틱 AI를 확장하는 것은 현실적으로 어렵다"고 말했다. 이어 추론의 개념과 운영 환경에서의 과제를 설명했다. 대규모언어모델(LLM) 추론은 입력을 토큰으로 변환하고 토큰 간 관계를 계산해 답변을 생성하는 과정이다. 현재 AI 시장의 예산과 컴퓨팅 중심이 학습에서 추론 영역으로 이동하고 있으며 상시 운영 환경에서는 성능과 비용 최적화의 효과가 더욱 크게 나타난다고 강조했다. 특히 엔터프라이즈 환경에서는 GPU 자원 효율화뿐 아니라 보안 검증, 모델 안정성 확보, 지연 편차 관리까지 함께 고려해야 한다고 짚었다. 레드햇은 이를 해결하기 위한 전략으로 가상대규모언어모델(vLLM), LLM 컴프레서, 검증된 모델 컬렉션, 대규모 분산 추론 기술(LLM-D)을 제시했다. vLLM은 고성능 모델 서빙 엔진으로, 신규 모델과 다양한 AI 가속기를 지속적으로 지원하며 업계 표준처럼 활용되고 있다고 설명했다. LLM 컴프레서는 양자화를 통해 모델 크기와 GPU 메모리 사용량을 줄이면서도 정확도를 유지하는 기술이다. 실제 70B 모델을 GPU 8장에서 2장으로 줄이면서 99% 이상의 정확도를 확보한 사례도 소개했다. 또한 오픈시프트 기반으로 검증·최적화된 모델을 제공해 엔터프라이즈 AI의 품질과 안정성을 빠르게 확보할 수 있다고 밝혔다. LLMD는 대규모 분산 추론을 지원하는 기술로 여러 서버에 모델을 분산 배치하고 라우팅과 로드밸런싱, KV 캐시 효율화를 통해 고성능과 비용 효율을 동시에 달성할 수 있도록 돕는다고 설명했다. BC카드 사례도 공유했다. 초기에는 오라마 기반으로 최대 20건 요청을 처리했으나, vLLM 전환과 API 캐싱, 튜닝을 거치며 최대 25만건 요청을 처리하는 구조로 확장했다. 특히 LLM 컴프레서를 통한 양자화로 모델 크기를 절반으로 줄이고 성능은 3배 높이면서도 정확도 차이는 0.01% 수준에 그쳤다고 밝혔다. 이 과정에서 기업이 모든 기술 레이어를 자체적으로 감당하기보다 안정적인 플랫폼을 기반으로 전문 역량을 결합하는 전략이 필요하다고 강조했다. 이호진 아키텍트는 "에이전틱 AI 시대에는 추론이 곧 경쟁력"이라며 "레드햇 AI 플랫폼과 전문 역량, 컨설팅을 통해 고객의 추론 최적화와 AI 혁신을 지원하겠다"고 말했다.

2026.02.27 08:38남혁우 기자

[현장] IBM "AI 거버넌스, 규제 아닌 고객 신뢰 확보 요소"

"인공지능(AI) 거버넌스는 규제가 아닙니다. AI 확산 과정에서 고객 신뢰를 확보하기 위한 핵심 요소입니다." 김현태 IBM 전략고객본부 커스터머 석세스 엔지니어 차장은 26일 서울 마곡 LG사이언스파크에서 열린 'LG CNS AI 테크 서밋 2026'에서 AI 거버넌스를 단순한 통제 수단이 아닌 '신뢰 확보 체계'라고 강조했다. 김 차장은 발표 초반 은행, 병원, AI를 나열하며 공통점으로 '신뢰'를 제시했다. "은행이 신뢰를 잃으면 고객이 떠나고, 병원이 신뢰를 잃으면 환자가 떠난다"며 "AI도 신뢰를 잃으면 비즈니스 전반에 리스크로 작용한다"고 말했다. 기술 완성도만으로는 부족하며 신뢰를 설계하는 구조가 필요하다는 설명이다. 이어 글로벌 규제 환경을 짚었다. EU의 AI 관련 규제가 실제 시행 단계에 들어가면서 워터마크 표시, 신뢰성 확보 의무 등 구체 조치가 요구되고 있다고 설명했다. 국내는 '인공지능 기본법'을 통해 산업 육성과 신뢰성 확보를 함께 추진하는 구조라면 EU가 규제 중심으로 특히 투명성과 책임성에 초점을 둔 모델이라는 비교다. 김 차장은 많은 IT 리더가 우려하는 지점으로 '리스크 관리 체계 부족'을 언급했다. AI 블랙박스 문제, 프로세스 실패, 운영 중단 등의 배경에는 거버넌스 공백이 있다는 진단이다. 이를 해결하기 위해선 방향 설정, 지속적 모니터링, 규제 기준에 맞춘 관리라는 3단계 사이클이 반복적으로 작동해야 한다고 강조했다. IBM은 이에 대비한 '왓슨X 거버넌스'를 제시했다. 김 차장은 이 솔루션의 특징을 3가지로 설명했다. 첫째, 기획부터 개발, 운영, 모니터링까지 AI 전 과정을 하나의 플랫폼에서 통합 관리한다. 둘째, 위험을 사전에 식별하고 대응하는 선제적 리스크 관리에 초점을 둔다. 셋째, 규제 대응을 자동화하고 모델의 행동을 투명하게 검증할 수 있도록 설계됐다. 특정 모델이나 환경에 종속되지 않는 확장성도 강점으로 내세웠다. 주요 기능으로는 모델 인벤토리, 리스크 어세스먼트, AI 팩트시트, 옵저버빌리티가 소개됐다. AI 팩트시트는 모델 개발과 운영 전 과정을 자동으로 기록해 감사와 컴플라이언스 대응에 활용할 수 있도록 한 기능이다. 수작업 보고서가 아닌 시스템 기반 이력 관리 구조라는 점을 강조했다. 또한 AI 거버넌스는 특정 조직의 일이 아니라고 지적했다. 유스케이스를 등록하는 과제 담당자, 모델을 개발하는 AI 엔지니어, 승인과 규제 매핑을 담당하는 감사 및 컴플라이언스 팀이 하나의 플랫폼에서 협업해야 한다는 것이다. 각 단계의 활동과 변경 이력이 자동으로 기록되며, 이를 통해 가시성과 투명성을 확보할 수 있다는 설명이다. 실제 사례도 공유했다. 브라질의 한 은행은 AI 라이프사이클 전반을 자동화하고 실시간 규정 준수 모니터링 체계를 구축했다. 글로벌 IT 서비스 기업 인포시스는 AI 관리 시스템을 구축해 국제 표준을 충족하고 EU 규제 대응 체계를 마련할 수 있었다. 김현태 차장은 "AI 거버넌스는 더 이상 발전을 막는 규제가 아니라 책임감 있는 AI 확산을 위한 기반"이라며 "도구와 프로세스, 무엇보다 역할자 간 커뮤니케이션이 핵심"이라고 말했다. 이어 "AI 거버넌스는 다양한 이해관계자가 연결될 때 비로소 고객 신뢰를 확보할 수 있다"고 덧붙였다.

2026.02.27 08:38남혁우 기자

오픈AI "AI는 기업 운영의 일부…지금 의사결정이 미래 좌우"

"인공지능(AI)은 기업 운영의 일부가 되고 있습니다. AI를 단순도구로 사용할 것인지 기업 운영체제(OS)로 만들지는 지금 의사결정에 달려있습니다." 김양용 오픈AI AD(Account Director)는 26일 서울 마곡 LG사이언스파크에서 열린 'LG CNS AI 테크 서밋 2026'에서 생성형 AI를 조직 자산으로 전환하기 위한 전략과 엔터프라이즈 AI 플랫폼 방향성을 제시했다. 김 AD는 AI 확산 속도를 언급하며 기술 전환의 가속도를 강조했다. 그는 "인터넷이 1억 사용자를 확보하는 데 7년이 걸렸고, 페이스북은 4년 반이 걸렸다"며 "챗GPT는 2개월 만에 1억 사용자를 확보했다"고 말했다.이어 "이는 기술의 문제가 아니라 수용 속도의 문제"라며 "AI는 이미 전 산업에 보편적으로 스며들고 있다"고 설명했다. 김 AD는 수 많은 기업에서 다양한 생성형 AI 툴을 도입해 활용하고 있지만, 진짜 과제는 전사적 전환이라고 짚었다. 그는 "모델 성능은 빠르게 발전하고 있지만, 이를 조직 전체의 생산성 혁신으로 연결하는 운영 체계는 아직 충분히 갖춰지지 않았다"며 "사내 데이터가 여러 시스템에 분산돼 있고, 개발자 중심 API 영역과 사용자 중심 툴 사이에 간극이 존재하고 있다"고 설명했다. 이를 해결하기 위해 오픈AI는 기업 내부에 통합 AI 레이어를 구축하는 '엔터프라이즈 AI 플랫폼' 전략을 추진하고 있다고 밝혔다. 김 AD는 "데이터를 연결하고 비즈니스 맥락을 이해하는 AI 기반 위에 에이전트를 배포하고, 이를 단일 콘솔에서 관리하는 구조를 제공하고 있다"며 "자연어로 에이전트를 만들고 런타임 환경에 배포해 실제 업무 워크플로를 자동화하는 방식"이라고 설명했다. AI 조직 전환은 3단계로 접근해야 한다고도 강조했다. 구성원 각자가 AI를 일상적으로 활용하고, 도메인 전문가가 자신의 노하우를 반영한 유스케이스를 만들며 이를 연결해 엔드투엔드 프로세스를 자동화하는 구조로 확장해야 한다는 설명이다. 김 AD는 "AI 도입의 성과를 단순히 인력 감축으로 계산하는 것은 한계가 있다"며 "전체 구성원이 AI를 활용하고 그 결과가 조직 자산으로 축적될 때 진짜 혁신이 일어난다"고 강조했다.

2026.02.26 18:00남혁우 기자

[현장] 시스코 "AI 운영, 모델부터 네트워크·데이터까지 전 구간 검토해야"

"인공지능(AI)는 그래픽처리장치(GPU), 네트워크, 스토리지, 데이터, 에이전트까지 전 계층이 동시에 얽혀 있는 복합 시스템입니다. 어느 한 지점만 봐서는 장애 원인, 성능 병목, 비용 문제도 정확히 알 수 없습니다. 그래서 AI 운영은 전 구간을 통합해 들여다보는 옵저버빌리티가 필수입니다." 인필교 시스코 상무는 26일 서울 마곡 LG사이언스파크에서 열린 'LG CNS AI 테크 서밋 2026'에서 'AI를 위한 옵저버빌리티 전략'을 주제로 발표에 나섰다. 그는 "AI는 모델만의 문제가 아니라 인프라 전반의 문제"라며 모든 인프라를 통합적으로 들여다보는 가시성이 필요하다고 강조했다. 인 상무는 먼저 AI 인프라의 복잡성을 짚었다. GPU 서버 도입이 급증했지만, 실제 운영 단계에서는 GPU 사용률, 병목 구간, 네트워크 지연, 스토리지 성능, 전력과 냉각까지 모두 영향을 미친다고 설명했다. 그는 "GPU가 정상이라고 해서 AI 서비스가 정상은 아니다"라며 "CPU, 메모리, GPU 간 연결, 클러스터 네트워크, 데이터 공급 체계까지 함께 봐야 한다"고 말했다. 이어 '옵저버빌리티 포 AI(Observability for AI)' 개념을 소개했다. 이는 기존 포인트 모니터링을 넘어 인프라 메트릭, 로그, 트레이스, 이벤트 데이터를 통합 수집해 전체 흐름을 한 번에 파악해야 한다는 개념이다. 또 오픈텔레메트리 기반 데이터 수집과 '피델리티 데이터(fidelity data)' 확보의 중요성도 이날 강조했다. 인 상무는 "AI 환경은 일반 IT 시스템보다 훨씬 많은 데이터를 실시간으로 생성한다"며 "데이터가 빠짐없이 수집돼야 정확한 분석과 원인 규명이 가능하다"고 말했다. AI 모델 관측 영역에 대해서도 언급했다. 그는 "이제는 모델과 에이전트 자체도 모니터링 대상"이라며 "환각 문제, 프롬프트별 응답 품질, 토큰 사용량과 비용까지 분석해야 한다"고 설명했다. 이어 "모든 프롬프트와 응답을 데이터로 확보해야 환각 여부와 품질을 판단할 수 있다"며 "운영 품질과 비용 최적화를 동시에 달성해야 한다"고 덧붙였다. 운영 과정에서 발생하는 장애를 방지하기 위한 에이전틱 AI도 소개했다. 인 상무는 기존에는 운영자가 AI에 질문해 원인을 찾는 방식이었다면, 앞으로는 AI 에이전트가 스스로 데이터를 수집하고, 문제를 감지하며 원인을 분석한 뒤 필요 시 자동 복구까지 수행하는 구조로 진화한다고 설명했다. 다만 모든 조치를 자동화하는 것은 아니라고 선을 그었다. 코드 수정이 필요한 사안 등은 사람의 승인과 판단을 거치도록 설계했다고 덧붙였다. 또 서비스형 소프트웨어(SaaS) 기반 제공을 기본으로 하되, 보안 요구가 높은 기업을 위해 온프레미스 환경도 지원할 계획이라고 밝혔다. 인 상무는 "엔터프라이즈 AI 운영에는 더 완벽한 가시성과 더 빠르고 정확한 문제 감지가 필요하다"며 "AI 기반 지능형 원인 분석을 통해 복잡해진 AI 인프라 운영을 더 간편하게 만들겠다"고 말했다.

2026.02.26 17:38남혁우 기자

[현장] "챗봇 도입이 기업 AI 아냐"…팔란티어가 제시하는 실패 없는 기업 AI 구축법

"기업용 인공지능(AI)은 단순한 챗봇 도입이 아니라 회사 운영 전반에 AI를 녹여내는 전략입니다. 활용 정의 없이 기술만 도입하면 결국 아무도 쓰지 않는 프로젝트로 끝나버리게 됩니다." 권남오 팔란티어 총괄이 26일 서울 마곡 사이언스파크에서 열린 'LG CNS AI 테크 서밋 2026'에서 '기업 AI를 위한 팔란티어의 접근 방식'을 주제로 이와 같이 말하며 엔터프라이즈 AI 구축 전략을 공개했다. 권 총괄은 "엔터프라이즈 AI는 회사 운영에 직접적으로 AI를 활용하는 것"이라며 "단순히 챗봇을 도입하거나 문서를 요약하는 수준으로는 기업 AI라고 말하기 어렵다"고 강조했다. 이어 "AI를 어디에, 어떻게 쓸 것인지에 대한 정의 없이 기술만 도입하면 결국 쓰는 사람이 없는 프로젝트가 된다"고 지적했다. 그는 최근 2~3년간 많은 기업이 대규모언어모델(LLM 도입)과 인프라 구축에 집중했지만 실제 현업 오퍼레이션에는 연결되지 못한 사례가 적지 않다는 점도 짚었다. 권 총괄은 "특정 부서에서는 성공 사례라고 발표하지만, 회사 전체로 보면 아무도 쓰지 않는 경우가 있다"며 "운영을 고려하지 않은 AI 도입은 실패로 이어질 가능성이 높다"고 말했다. 그러면서 그는 엔터프라이즈 AI 도입이 막히는 원인으로 세 가지를 제시했다. ▲오퍼레이션이 고려되지 않은 기술 중심 접근 ▲AI를 챗봇이나 요약 도구로 한정하는 제한적 정의 ▲기술 조직, 현업, 경영진 간 전략 정렬 부족 등이 원인으로 꼽힌다. 권 총괄은 "엔지니어링 팀, 현업, 경영진이 같은 방향을 바라보지 않으면 장기적으로 갈 수 없다"며 "3년, 5년, 길게는 10년을 보는 비전이 필요하다"고 말했다. 팔란티어의 접근 방식은 '뇌만 사는 것'으로는 부족하다는 점으로 비유했다. 거대언어모델(LLM)이라는 똑똑한 두뇌를 도입해도 회사의 맥락을 모르면 제대로 작동할 수 없다고 강조하며 회사의 데이터를 연결하고, 실제 업무 의사결정 로직을 시스템에 인코딩해야 한다고 주장했다. 그러면서 이를 '디지털 트윈'과 '온톨로지' 구축 과정으로 설명했다. 구체적으로는 데이터 통합, 비즈니스 로직 인코딩, 공통 관점 구축이 핵심 단계라고 밝혔다. 그는 "데이터만 연결해서는 안 되고, 사람들이 어떻게 의사결정을 하는지 그 로직을 시스템에 녹여야 한다"며 "그 위에서 AI가 작동해야 비로소 기업 AI가 된다"고 설명했다. AI의 역할에 대해서도 분명히 했다. 권 총괄은 "AI는 사람을 대체하는 것이 아니라 사람이 할 수 있는 일의 총량을 늘리는 것"이라며 "이를 증강에서 자동화로 가는 과정이라고 본다"고 말했다. 이어 "반복 업무는 자동화하고, 사람은 더 복잡하고 의미 있는 문제에 집중하게 만드는 구조가 목표"라고 덧붙였다. 실행 전략으로는 '작지만 중요한 문제'를 먼저 해결하는 방식을 제시했다. 그는 "쉬운 과제부터 시작하는 것이 아니라, 회사가 가장 어려워했던 문제를 정의하고 해결해야 한다"며 "하나의 핵심 과제를 제대로 풀면 인접 영역으로 자연스럽게 확산된다"고 설명했다. 그러면서 "이 과정에서 데이터 거버넌스, 보안, 접근 통제 체계도 함께 구축해야 한다"고 부연했다. 또 팔란티어의 '고객 현장 파견 엔지니어(Forward Deployed Engineer)' 방식을 소개하며 현장 밀착형 문제 해결을 강조했다. 권 총괄은 "문제를 제대로 정의하지 않으면 해결할 수 없다"며 "현장에 들어가 실제 업무를 보고, 기술로 해결하고, 그 경험을 반복 가능한 구조로 만든다"고 설명했다. 그러면서 그는 궁극적으로는 고객 조직 내부에 같은 역량을 내재화하는 것이 목표라고 밝혔다. 또 장기 전략 수립의 중요성도 거듭 강조했다. 권 총괄은 "기업 AI는 단기 성과 프로젝트가 아니라 체질 개선으로 쉽지 않은 길이지만, 운영과 조직을 바꾸지 않으면 진정한 엔터프라이즈 AI는 어렵다"며 "AI는 비용 절감 도구가 아니라 기업의 의사결정 체계를 재설계하는 기반"이라고 피력했다.

2026.02.26 17:25남혁우 기자

[현장] "GPU 개수 경쟁 끝났다"…엔비디아가 제시한 '수직 통합' AI 인프라

"그래픽처리장치(GPU) 몇 장을 도입할지 경쟁하는 시대는 지났습니다. 이제는 기업 전체 구조를 다시 설계하는 단계로 들어섰습니다." 정구형 엔비디아 코리아 팀장은 26일 서울 마곡 사이언스파크에서 열린 'LG CNS AI 테크 서밋 2026'에서 애플리케이션부터 데이터센터, 전력까지 아우르는 차세대 AI 인프라 청사진을 제시했다. 정 팀장은 AI 인프라를 ▲애플리케이션 ▲모델 ▲AI 플랫폼 ▲가속 컴퓨팅 인프라 ▲데이터센터, 에너지 인프라 등 5개 레이어로 구분해 설명했다. 그는 "AI는 한 층만 잘 만든다고 완성되지 않는다"며 "애플리케이션부터 전력까지 수직 통합 관점에서 설계해야 한다"고 말했다. 가장 위에는 기업이 실제로 사용하는 업무용 AI 애플리케이션과 에이전트가 있다. 그 아래로는 대형 언어모델 등 모델 레이어, 이를 학습·배포·운영하는 플랫폼 레이어가 이어진다. 이어 GPU, CPU, 네트워킹, DPU 등으로 구성된 가속 컴퓨팅 인프라가 이를 떠받친다. 마지막으로 대규모 전력과 냉각을 감당하는 데이터센터, 에너지 인프라가 기반을 이룬다. 정 팀장은 "AI 경쟁은 이제 GPU 수량이 아니다"며 "이 5개 레이어를 얼마나 유기적으로 설계하느냐의 문제"라고 강조했다. 엔비디아 내부 사례도 공개했다. 그는 단순히 요약된 답을 제시하는 것이 아니라 어떤 문서의 어느 부분을 참고했는지까지 추적 가능하도록 설계했다는 것을 강조했다. 정 팀장은 "우리도 사내에서 에이전틱 AI를 적극 활용하고 있다"며 "컨플루언스, 셰어포인트 등 내부 협업 시스템과 직접 연동해 답변의 근거를 함께 제시하는 구조를 구축했다"고 설명했다. 이 같은 내부 적용을 통해 제품 개발과 의사결정 속도가 빨라졌다고도 밝혔다. 반복적으로 확인해야 했던 기술 문서, 설계 변경 이력, 사내 정책 자료 등을 에이전트가 즉시 찾아 제시하면서 업무 시간이 단축됐다는 설명이다. 정 팀장은 "엔터프라이즈 환경에서는 정확도만큼이나 '출처 투명성'이 중요하다"며 "이를 통해 개발자와 엔지니어가 정보 검색에 쓰는 시간을 줄이고 실제 설계와 검증에 더 집중할 수 있게 됐다"고 말했다. 엔비디아는 이러한 시행착오와 운영 경험을 정리해 '엔터프라이즈 AI 팩토리 디자인' 가이드로 공개했다. 가이드에는 에이전트 설계 방식, 내부 데이터 연동 구조, 플랫폼 구성, 인프라 선택 기준 등 기업이 AI를 도입할 때 고려해야 할 기술적 의사결정 요소가 담겼다. 모델 전략에 대해서는 오픈소스 기반 접근을 강조했다. 시스템 구조가 얼마나 개방돼 있는고 실제 서비스에서 얼마나 효율적인지가 실제 업무 성능을 좌우하기 때문이다. 그는 오픈 모델 제품군인 '네모트론3'를 언급하며 "성능 지표뿐 아니라 서빙 효율 측면에서도 의미 있는 진전을 이뤘다"며 "기업이 자체 모델을 고도화할 때 충분히 고려할 수 있는 기반이 될 것"이라고 설명했다. 하드웨어와 인프라 설계 방향도 구체적으로 제시했다. 그는 차세대 GPU 아키텍처 기반 랙 단위 통합 설계를 소개하며 "수십 개 GPU를 하나의 도메인처럼 묶어 동작시키는 구조가 표준이 되고 있다"고 말했다. 이어 "고속 네트워킹과 DPU를 결합해 서버, 스토리지, 네트워크를 유기적으로 연결해야 진짜 AI 인프라가 완성된다"고 강조했다. 데이터센터와 에너지 이슈에 대해서도 언급했다. 정 팀장은 "AI 인프라의 끝은 결국 전력"이라며 "기가와트급 데이터센터 시대가 이미 시작됐다"고 말했다. 이어 "디지털 트윈 기반 설계를 통해 가상 환경에서 충분히 검증한 뒤 실제 구축에 들어가야 시행착오를 줄일 수 있다"고 설명했다. 그러면서 "AI 인프라는 장비 조합의 문제가 아니라 애플리케이션에서 에너지까지 하나로 이어진 설계 철학의 문제"라며 발표를 마무리했다.

2026.02.26 15:17남혁우 기자

[현장] LG CNS AI 테크 서밋 2026 개막…엔비디아부터 오픈AI까지 총출동

LG CNS가 엔비디아, 오픈AI, 팔란티어 등 국내외 주요 인공지능(AI) 반도체 기업 함께 실행 중심 기업형 AI 전략을 제시했다. 26일 LG CNS는 AI 기술과 비즈니스 전략을 공유하는 'LG CNS AI 테크 서밋 2026'을 서울 마곡 사이언스파크에서 개최했다. 이번 행사는 AI가 기업 전반에 확산되는 상황에서 안정적인 도입과 통제 체계 구축, 데이터 폭증에 따른 인프라 효율화, 자율적으로 판단하고 행동하는 에이전틱 AI 전환, 데이터 주권을 확보하는 소버린 AI 구축 방안을 모색하기 위해 마련됐다. 엔비디아, 팔란티어, 오픈AI, 시스코, IBM, HPE, VM웨어, 델 테크놀로지스 등 글로벌 테크 기업과 함께 망고부스트, 퓨리오사AI, 리벨리온 등 국내 AI 반도체 기업이 참여해 기술 전략과 실제 적용 사례를 공유했다. 김태훈 LG CNS 부사장은 "AI는 이제 가능성의 시대를 지나 실제 실행과 성과를 만들어내는 시대로 들어섰다"며 "이제 생성형 AI의 단순 응답을 넘어 업무 프로세스 안에서 스스로 계획하고 실행하는 '에이전틱 AI'로 빠르게 진화하고 있다고 설명했다. 동시에 기업 현장에서는 보안, 컴플라이언스, 거버넌스가 내재화된 '엔터프라이즈 AI'가 새로운 표준으로 자리 잡고 있다고 강조했다. 인프라 변화도 핵심 화두로 제시했다. 김 부사장은 학습뿐 아니라 추론의 중요성이 커지고 있으며, 추론 비용 효율화와 운영 자동화, 관측 가능성 확보가 기업 경쟁력을 좌우하고 있다고 진단했다. 또한 산업과 국가별 규제에 대응하는 프라이빗 AI와 소버린 AI가 주요 요구사항으로 부상하고 있다고 덧붙였다. 행사는 키노트를 시작으로 엔터프라이즈 AI와 거버넌스, AI 인프라 효율화, 에이전틱 AI와 데이터 관리, 소버린 AI 등 주제별 트랙으로 구성됐다. 각 세션은 현장 적용 중심의 인사이트 공유에 초점을 맞췄다. 진요한 AI센터장은 올해를 'AI실전 배치의 해'로 삼고 실제 운영 역량을 갖춘 소버린 엔터프라이즈로 전환하는 출발점이 되기를 기대한다고 밝혔다. 그는 "지난 1년의 변화가 그 이전 20년보다 더 컸다"고 진단하며, 2017년 트랜스포머 등장 이후 2025년 현재는 AI가 실제 산업과 물리적 세계까지 확장되는 전환점에 와 있다고 설명했다. 특히 생성형 AI 이후 모델이 비약적으로 똑똑해지면서 B2C 경험과 B2B 현실 사이의 기대 격차가 커졌다고 지적했다. 개인은 즉시 활용하지만 기업은 보안, 데이터 정합성, 시스템 연계 등 복합 요건을 충족해야 한다는 점을 짚었다. 그는 엔터프라이즈 AI의 핵심을 '모델, 데이터, 운영'의 통합 전략으로 제시했다. 단일 모델 선택이 아니라 경량 모델과 고성능 모델을 작업 특성에 따라 라우팅하는 전략이 필요하며, 데이터 연결과 권한 관리, 배치 전략이 곧 소버린 역량이라고 강조했다. "모델을 보유하는 것이 아니라, 모델을 실전에 배치해 운영할 수 있는 능력이 기업 경쟁력"이라고 말했다. LG CNS는 이에 대응해 자사 AI 플랫폼을 에이전틱 구조로 고도화하고, '에이전트웍스' 체계를 통해 기업용 에이전트 운영 환경을 제공하겠다는 구상도 밝혔다. 모델 라우팅, 다중 모델 운영, 기업 데이터 연계, 권한 통제, UI 설계까지 포함한 통합 운영체계를 지향한다는 설명이다. 인프라 전략도 구체화했다. 퍼블릭 클라우드와 온프레미스 이분법을 넘어 상황별 혼합 구조가 필요하며, 추론 수요 확대에 대응해 XPU 기반 서비스도 준비하고 있다고 밝혔다. GPU를 모두 직접 구매하는 방식이 아니라 온디맨드 서비스 활용 등 유연한 전략이 필요하다고 강조했다. 외교부, 경기도교육청 등과의 로드맵 기반 AX 프로젝트 사례도 소개하며 선도 사례가 캐즘을 넘는 전환점이 될 수 있다고 강조했다. 또한 글로벌 파트너와의 협업을 통해 기술과 운영 역량을 결합한 실행형 AI 전략을 확대하겠다고 밝혔다. 김 부사장은 "LG CNS는 AX 마스터 플랜 수립부터 데이터 플랫폼, 인프라 구축, 보안과 거버넌스, 운영 자동화까지 고객의 AI 라이프사이클 전 과정을 책임지는 AX 이노베이터"라며 "오늘 공유되는 아이디어와 사례가 각 기업의 다음 실행을 더 빠르고 안전하게 만드는 출발점이 되길 바란다"고 밝혔다.

2026.02.26 13:51남혁우 기자

지금 뜨는 기사

이시각 헤드라인

미·이란 종전협상 결렬...밴스 "핵 포기 확약 못받아"

LGU+, 내일부터 유심 업데이트-무료 교체

'미토스'에 놀란 세계..."사이버보안 새 시대 예고"

하나만 잘해선 안 된다…AI 열풍에 ‘하이브리드’ 인재 각광

ZDNet Power Center