ZDNet 검색 페이지

'레드햇 AI'통합검색 결과 입니다. (48건)

델, '레드햇 오픈시프트 AI용 델 에이펙스 클라우드 플랫폼' 출시

델테크놀로지스는 레드햇과 협력해 AI 인프라 구축을 간소화하는 턴키 솔루션 '레드햇 오픈시프트 AI를 위한 델 에이펙스 클라우드 플랫폼'을 출시한다고 9일 밝혔다. '레드햇 오픈시프트를 위한 델 에이펙스 클라우드 플랫폼'은 레드햇 오픈시프트를 위해 설계된 완전 통합형 애플리케이션 딜리버리 플랫폼이다. 기업이나 공공기관들이 온프레미스에서 가상 머신과 함께, 컨테이너를 구축하고 관리, 운영할 수 있도록 돕는다. 델은 '레드햇 오픈시프트 컨테이너 플랫폼'에 대한 컨트롤 플레인 호스팅 지원을 에이펙스에 추가했다. 관리 비용을 줄이고, 클러스터 구축 시간을 단축하며, 워크로드 관리 부담을 줄여 애플리케이션에 온전히 집중할 수 있도록 돕기 위해서다. 레드햇 오픈시프트 AI를 위한 델 에이펙스 클라우드 플랫폼은 기업과 기관에서 더 많은 GPU를 활용해 AI 결과물의 범위를 넓힐 수 있도록 설계됐다. 고유한 요구사항에 부합하는 맞춤형 인프라를 구성할 수 있는 유연성을 제공하며, 특히 가장 까다로운 AI 애플리케이션에도 적합한 엔비디아 L40S GPU를 탑재했다. 규모에 관계없이 설계에 따라 다양한 스토리지 요구 사항에도 대응할 수 있도록 델 파워플렉스와 델 오브젝트스케일 스토리지를 모두 지원한다. 오브젝트 스토리지는 확장 가능하고 비용 효율적인 데이터 관리를 지원해 대규모 언어 모델과 대규모 데이터 세트를 수용하는 데 이상적이다. 델은 에이펙스 클라우드 플랫폼에서 제공할 수 있는 레드햇 오픈시프트 AI의 잠재력을 실현하기 위해 검증 설계의 디지털 어시스턴트를 업데이트 함으로써 대규모 언어 모델(LLM)과 검색 증강 생성(RAG) 프레임워크를 70억개의 매개변수 모델을 130억개로 늘렸다. 기업 및 각 기관에서는 LLM만으로 조직에 대한 도메인별 최신 정보를 확보하기 어려우므로, RAG를 사용해 자체 보유한 데이터로 LLM을 보강해 최신 정보를 빠르게 학습시킬 수 있다. 델은 다양한 오픈소스 오퍼레이터를 활용하여 손쉽게 복제하고 각각의 비즈니스의 요구 사항에 맞게 디자인을 조정할 수 있도록 지원한다. 레드햇 오픈시프트 AI는 특정 퍼블릭 클라우드 전용 툴에 종속되거나, 인프라에 대한 걱정 없이 모델을 구축할 수 있는 협업 기반 오픈소스 도구 세트와 플랫폼을 제공하여 규범적인 AI/ML 제품들에 대한 대안을 제공한다. 델은 또한 AI를 사용해 자동화된 음성 인식(ASR) 및 텍스트 음성 변환(TTS) 기능을 구현하는 솔루션을 선보인다. 혁신적인 설계의 이 오퍼링은 GPU 가속 음성 AI 애플리케이션을 구축하는 마이크로서비스인 '엔비디아 리바'를 통해 델 에이펙스 클라우드 플랫폼에서 레드햇 오픈시프트 AI의 성능을 확장한다. 이를 통해 자체 자연어 처리(NLP) 솔루션의 배포를 간소화할 수 있다. 델은 서비스 사업부를 통해 레드햇 오픈시프트 AI 플랫폼의 가치 실현 시간을 단축할 수 있도록 돕는다. 델의 검증된 방법론을 기반으로 하는 프로컨설트 자문 서비스에서부터 구현 서비스에 이르기까지 다양한 고부가가치 AI 활용 사례에 요구되는 성공 전략을 제공한다. RAG 기술을 활용해 고객의 데이터에 맞게 모델을 맞춤화하고 이를 AI 아바타, 챗봇 또는 기타 애플리케이션에 원활하게 통합해 더 관련성 높고 영향력 있는 결과를 도출할 수 있다. 데이터 준비 및 LLM 훈련을 최소화하고, 조직에 요구되는 필수 기술과 모범 사례를 제공함으로써, 현재와 미래의 ROI를 극대화할 수 있도록 돕는다. 김경진 한국델테크놀로지스 총괄 사장은 “AI 속도 경쟁의 승패를 좌우하는 것은 복잡성을 어떻게 극복하는지에 따라 달려있다”며 “델은 레드햇과의 긴밀한 협력으로 고객이 간소하고 검증된 방법으로 온프레미스에서 이상적인 AI 인프라를 마련해 가치 창출 시간을 앞당길 수 있도록 노력하고 있다”고 밝혔다.

2024.05.09 14:49김우용

'레드햇 오픈시프트 AI' 업데이트, 엣지로 AI 모델 배포 지원

레드햇은 개방형 하이브리드 인공지능(AI) 및 머신러닝(ML) 플랫폼인 '레드햇 오픈시프트 AI'의 업데이트 내용을 8일 발표했다. 레드햇 오픈시프트 AI는 기업이 하이브리드 클라우드 전반에 걸쳐 AI 지원 애플리케이션을 대규모로 생성하고 제공할 수 있도록 돕는다. 이번 업데이트는 기본 하드웨어부터 주피터나 파이토치와 같이 플랫폼 구축에 사용되는 서비스 및 도구에 이르기까지 지능형 워크로드에 대한 고객의 선택권을 보장하고자 하는 레드햇의 AI 비전을 강조한다. 레드햇의 AI 전략은 하이브리드 클라우드 전반에서 유연성을 지원하고, 고객 데이터로 사전 학습되거나 선별된 파운데이션 모델을 강화할 수 있는 기능 및 다양한 하드웨어·소프트웨어 가속기를 자유롭게 사용할 수 있는 기능을 제공한다. 새롭게 업데이트된 레드햇 오픈시프트 AI는 최신 AI·ML 혁신에 대한 액세스와 AI 중심의 광범위한 파트너 에코시스템 지원을 통해 이러한 요구 사항을 충족한다. 최신 버전인 레드햇 오픈시프트 AI 2.9는 엣지에서의 모델 서빙 기능을 제공한다. 엣지에서의 모델 서빙은 단일 노드 오픈시프트를 통해 AI 모델 배포를 원격으로 확장한다. 이는 외부와 연결이 끊겼거나(air-gapped) 간헐적(intermittent)인 네트워크 액세스 등 리소스의 제약이 있는 환경에 추론 기능을 제공한다. 이 기술 프리뷰는 조직에 코어부터 클라우드, 엣지에 이르기까지 확장 가능하고 일관된 운영 환경을 제공하며, 즉시 사용 가능한 통합 가시성을 포함한다. 향상된 모델 서빙 기능은 여러 모델 서버를 사용해 예측형 및 생성형 AI를 모두 지원할 수 있게 한다. 지원되는 내용으로는 모든 유형의 모델에 대한 서빙을 오케스트레이션하는 쿠버네티스 커스텀 리소스 정의인 K서브, vLLM 및 텍스트 생성 추론 서버(TGIS), LLM용 서빙 엔진, 자연어 처리(NLP) 모델과 작업을 다루는 Caikit-nlp-tgis 런타임 등이 포함된다. 향상된 모델 서빙을 통해 사용자는 단일 플랫폼에서 여러 사용 사례를 위한 예측형 및 생성형 AI 실행이 가능해, 비용을 절감하고 운영을 간소화할 수 있다. 이는 즉시 사용할 수 있는 모델 서비스를 LLM에 제공하고 주변 사용자 워크플로우 또한 간소화한다. 더 빠르고 효율적인 데이터 처리와 모델 학습을 위해 여러 클러스터 노드를 사용하는 코드플레어와 큐브레이를 통해 레이로 워크로드를 분산한다. 레이는 AI 워크로드 가속화를 위한 프레임워크이며, 큐브레이는 쿠버네티스에서 이러한 워크로드 관리를 돕는다. 코드플레어는 레드햇 오픈시프트 AI의 분산 워크로드 기능의 핵심으로, 작업 오케스트레이션 및 모니터링 간소화에 도움이 되는 사용자 친화적인 프레임워크를 제공한다. 또한 중앙 큐잉 및 관리 기능으로 최적의 노드 활용이 가능하고 GPU와 같은 리소스를 적절한 사용자 및 워크로드에 할당할 수 있다. 프로젝트 작업 공간과 추가 워크벤치 이미지를 통해 모델 개발을 개선해, 데이터 과학자가 다양한 사용 사례와 모델 유형에 대해 현재 기술 프리뷰로 제공되는 VS Code 및 RStudio, 향상된 CUDA를 포함한 IDE와 툴킷을 유연하게 사용할 수 있도록 한다. 성능 및 운영 메트릭에 대한 모델 모니터링을 시각화하여 AI 모델의 성능에 대한 가시성을 개선한다. 관리자가 모델 개발 및 모델 제공 워크플로우에 사용 가능한 다양한 유형의 하드웨어 가속기를 구성할 수 있도록 새로운 가속기 프로필이 추가됐다. 사용자는 이를 통해 특정 워크로드에 적합한 가속기 유형에 셀프서비스 방식으로 간단히 접근할 수 있다. 현재 IBM의 왓슨x.ai뿐 아니라 AGESIC과 오텍 파이낸스 등 다양한 산업 분야의 기업이 더욱 큰 AI 혁신과 성장을 추진하기 위해 레드햇 오픈시프트 AI를 도입하고 있다. 또한 다양한 파트너들과 협업을 통해 에코시스템을 확장하고 있다. 레드햇은 레드햇 오픈시프트 AI에서의 엔터프라이즈 AI 활용 강화를 위해 인텔과 협력한다고 발표했다. 양사는 가우디 AI 가속기, 제온 프로세서, 코어 울트라 및 코어 프로세서, 아크 GPU 등의 인텔 AI 제품에서 하이브리드 클라우드 인프라 전반에 걸친 모델 개발·교육, 제공, 관리, 관리·모니터링을 위한 엔드투엔드 AI 솔루션을 제공할 예정이다. 레드햇 오픈시프트 AI는 인텔의 AI 제품에 대한 일관된 지원을 제공해 조직이 다양한 환경에서 AI 애플리케이션을 원활히 배포할 수 있도록 지원한다. 양사는 이번 협력을 통해 데이터 센터에서 엣지까지 유연하고 탄력적인 AI 솔루션을 제공해 상호 운용성을 보장하고 확장 가능한 소프트웨어 제품을 통해 AI 혁신을 가속화할 예정이다. AI 워크로드의 구축, 배포, 관리에 대한 고객 선택권 확대를 위한 AMD의 협력도 발표했다. 레드햇과 AMD는 AMD GPU를 레드햇 오픈시프트 AI에 통합함으로써 AI 아키텍처에 더 큰 선택권과 유연성을 제공하고 AI 워크로드를 채택하는 기업의 진입 장벽을 낮춰 엔터프라이즈 AI 역량을 강화할 계획이다. 양사는 레드햇 오픈시프트 AI에서 AMD GPU 오퍼레이터를 지원해 AI 워크플로우의 간소화, 인프라 격차 해소, 지능형 애플리케이션의 시장 배포 가속화를 돕고, AMD 인스팅트 가속기에서 레드햇 오픈 하이브리드 클라우드 기술을 지원해 AI 혁신을 더욱 촉진하고 고객에게 향상된 GPU 리소스 선택권을 제공할 예정이다. 아셰시 바다니 레드햇 최고 제품 책임자 겸 수석 부사장은 "엔터프라이즈 AI를 도입하는 것은 이제 '만약'의 문제가 아니라 '언제'의 문제”라며 “기업은 생산성을 높이고 수익을 창출하며 시장에서 차별화될 수 있도록, 보다 안정적이고 일관되며 유연한 AI 플랫폼이 필요하다”고 설명했다. 그는 “레드햇 오픈시프트 AI는 엔터프라이즈 AI를 향한 대규모 수요에 대한 해답”이라며 “IT 리더는 레드햇 오픈시프트 AI를 통해 하이브리드 클라우드의 모든 곳에 지능형 애플리케이션을 배포하는 동시에, 운영 및 모델을 필요에 따라 성장시키고 미세 조정하여 프로덕션 애플리케이션과 서비스를 지원할 수 있다”고 강조했다.

2024.05.08 09:47김우용

레드햇, 생성형 AI 플랫폼 'RHEL AI' 출시

레드햇은 7일(현지시간) 개최한 '레드햇서밋2024'에서 사용자의 생성형 AI 모델 개발·테스트·배포를 지원하는 파운데이션 모델 플랫폼 '레드햇 엔터프라이즈 리눅스 AI(RHEL AI)'를 출시했다고 발표했다. RHEL AI는 IBM리서치의 오픈소스 라이선스 그래니트 LLM제품군과 챗봇을 위한 대규모 정렬(LAB) 방법론에 기반한 인스트럭트랩 모델 정렬 도구, 인스트럭트랩 프로젝트를 통한 커뮤니티 중심의 모델 개발 접근 방식을 결합한 솔루션이다. 전체 솔루션은 하이브리드 클라우드의 개별 서버 배포를 위해 최적화된 RHEL 이미지로 패키징돼 있으며, 분산 클러스터 환경에서 모델과 인스트럭트랩을 대규모로 실행하기 위해 레드햇의 하이브리드ML옵스 플랫폼인 오픈시프트 AI에 포함됐다. 챗GPT 가 생성형 AI에 대한 폭발적인 관심을 불러일으킨 이래 혁신의 속도는 더욱 빨라지고 있다. 기업은 생성형 AI 서비스에 대한 초기 평가 단계에서 AI 기반 애플리케이션 구축 단계로 전환하기 시작했다. 빠르게 성장하는 개방형 모델 옵션 생태계는 AI 혁신에 박차를 가하고 있으며, '모든 것을 지배하는 하나의 모델'은 존재하지 않을 것임을 시사한다. 고객은 다양한 선택지 중에서 특정 요구 사항 해결을 위한 모델을 선택할 수 있으며, 이러한 혁신은 개방형 접근 방식을 통해 더욱 가속화될 것이다. AI 전략 구현을 위해서는 단순히 모델을 선택하는 것만으로는 부족하며, 특정 사용 사례에 맞게 주어진 모델을 조정하고 AI 구현에 드는 막대한 비용을 처리할 수 있는 전문 지식을 필요로 한다. 데이터 과학 기술의 부족은 ▲AI 인프라 조달 또는 AI 서비스 사용 ▲비즈니스 요구 사항에 맞도록 AI 모델을 조정하는 복잡한 프로세스 ▲엔터프라이즈 애플리케이션에 AI 통합 ▲애플리케이션과 모델 라이프사이클의 관리 등 여러 분야에 비용을 요구해 더욱 어려움을 겪을 수 있다. AI 혁신의 진입 장벽을 확실히 낮추려면 AI 이니셔티브 참여자의 범위를 넓히는 동시에 이러한 비용을 통제할 수 있어야 한다. 레드햇은 인스트럭트랩 정렬 도구, 그래니트 모델, RHEL AI를 통해 접근과 재사용이 자유롭고 완전히 투명하며 기여에 개방적인 진정한 오픈소스 프로젝트의 장점을 생성형 AI에 적용함으로써 이러한 장애물을 제거할 계획이다. IBM리서치는 분류법(taxonomy) 기반 합성 데이터 생성과 새로운 다단계 튜닝 프레임워크를 사용하는 모델 정렬 방식인 LAB 기술을 개발했다. 이 접근 방식은 비용이 많이 드는 사람의 주석이나 독점 모델에 대한 의존도를 줄임으로써 모든 사용자가 보다 개방적이고 접근하기 쉬운 AI 모델 개발을 가능하게 한다. LAB 방식을 사용하면 분류법에 수반되는 기술과 지식을 특정하고, 해당 정보로부터 대규모로 합성 데이터를 생성해 모델에 영향을 주고, 생성된 데이터를 모델 학습에 사용함으로써 모델을 개선할 수 있다. LAB 방식이 모델 성능을 크게 향상시키는 데 도움이 될 수 있다는 것을 확인한 IBM과 레드햇은 LAB 방식과 IBM의 오픈소스 그래니트 모델을 중심으로 구축된 오픈소스 커뮤니티인 인스트럭트랩을 출범하기로 결정했다. 인스트럭트랩 프로젝트는 타 오픈소스 프로젝트에 기여하는 것만큼 간단하게 LLM을 구축하고 기여할 수 있도록 함으로써 개발자들의 LLM 개발을 돕는 것이 목표다. IBM은 인스트럭트랩 출시의 일환으로 그래니트 영어 모델 및 코드 모델 제품군도 공개했다. 아파치 라이선스에 따라 출시된 이 모델들은 모델 학습에 사용된 데이터 세트에 대한 완전한 투명성을 갖췄다. 그래니트 7B(Granite 7B) 영어 모델은 인스트럭트랩 커뮤니티에 통합됐으며, 최종 사용자는 다른 오픈소스 프로젝트에 기여할 때와 마찬가지로 이 모델의 공동 개선을 위해 기술과 지식을 기여할 수 있다. 인스트럭트랩 내 그래니트 코드 모델에 대해서도 유사한 지원이 곧 제공될 예정이다. RHEL AI는 AI 혁신에 대한 이러한 개방형 접근 방식을 기반으로 구축됐다. 하이브리드 인프라 환경 전반에서 배포를 간소화하기 위해 세계 선도적인 엔터프라이즈 리눅스 플랫폼과 결합된 인스트럭트랩 프로젝트 및 그래니트 언어 및 코드 모델의 엔터프라이즈 지원 버전을 통합한다. 이를 통해 오픈소스 라이선스 생성형 AI 모델을 엔터프라이즈에 도입할 수 있는 파운데이션 모델 플랫폼이 만들어진다. RHEL AI는 레드햇에 의해 전적으로 지원되고 면책되는 오픈소스 라이선스 그래니트 언어 모델 및 코드 모델이다. LLM 기능을 향상하고 더 많은 사용자가 지식과 기술을 활용할 수 있도록 확장 가능하고 비용 효율적인 솔루션을 제공하는 인스트럭트랩의 라이프싸이클을 지원한다. RHEL 이미지 모드를 통해 부팅 가능한 RHEL 이미지로 제공하며 엔비디아, 인텔, AMD에 필요한 런타임 라이브러리 및 하드웨어 가속기와 파이토치(Pytorch)를 포함한다. 신뢰할 수 있는 엔터프라이즈 제품 배포, 연중무휴 생산 지원, 모델 라이프사이클 연장 지원, 모델 지적 재산권 면책 등 레드햇의 완전한 엔터프라이즈 지원 및 라이프사이클 서비스를 제공한다. 사용자는 RHEL AI에서 새로운 AI 모델을 실험하고 조정할 때, RHEL AI가 포함된 레드햇 오픈시프트 AI를 통해 이러한 워크플로우를 확장할 수 있는 준비된 진입로를 확보할 수 있다., 여기서 AI 모델의 대규모 학습을 위한 오픈시프트의 쿠버네티스 엔진과 모델 라이프사이클 관리를 위한 오픈시프트 AI의 통합 ML옵스 기능을 활용할 수 있다. 또한 오픈시프트 AI와 RHEL AI는 엔터프라이즈 AI 개발과 데이터 관리, 모델 거버넌스를 위한 추가 기능을 제공하는 IBM 왓슨X와 통합될 예정이다. 오픈소스 기술은 지난 30년 이상 IT 비용을 크게 절감하고 혁신의 장벽을 낮춰 빠른 혁신에 기여해 왔다. 마찬가지로 레드햇은 2000년대 초 RHEL을 통해 개방형 엔터프라이즈 리눅스 플랫폼을 제공한 이래 레드햇 오픈시프트를 통해 컨테이너와 쿠버네티스를 오픈 하이브리드 클라우드 및 클라우드 네이티브 컴퓨팅의 기반으로 자리잡게 하는 등 이러한 변화를 선도해 왔다. 이러한 추진력은 레드햇이 오픈 하이브리드 클라우드 전반에 걸쳐 AI/ML 전략을 강화하는 것으로 계속되어, 데이터센터나 여러 퍼블릭 클라우드, 엣지 등 데이터가 있는 모든 곳에서 AI 워크로드를 실행할 수 있도록 지원한다. 워크로드뿐만 아니라, 레드햇의 AI 비전은 모델 학습 및 조정을 동일한 방법으로 제공함으로써 데이터 주권와 규정 준수, 운영 무결성과 관련된 한계를 더 잘 해결할 수 있게 한다. 이와 같은 환경 전반에서 레드햇 플랫폼이 제공하는 일관성은 실행되는 위치와 무관하게 AI 혁신의 흐름을 유지하는 데 매우 중요하다. RHEL AI와 인스트럭트랩 커뮤니티는 이러한 비전의 실현을 한층 더 고도화하여 AI 모델 실험 및 구축의 많은 장벽을 허물고 차세대 지능형 워크로드에 필요한 도구, 데이터 및 개념을 제공한다. RHEL AI는 현재 개발자 프리뷰 버전으로 제공된다. 이제 IBM 클라우드는 그래니트 모델을 학습하고 인스트럭트랩을 지원하는 IBM 클라우드의 GPU 인프라를 기반으로 하여 RHEL AI 및 오픈시프트 AI에 대한 지원을 추가할 예정이다. 이러한 통합으로 기업은 미션 크리티컬 애플리케이션에 생성형 AI를 보다 쉽게 배포할 수 있다. 아셰시 바다니 레드햇 최고 제품 책임자 겸 수석 부사장은 "생성형 AI는 기업에게 혁신적인 도약을 제시하지만, 이는 기술 조직이 그들의 비즈니스 요구 사항에 맞는 방식으로 AI 모델을 실제로 배포하고 사용할 수 있을 때만 실현 가능하다”며 “RHEL AI와 인스트럭트랩 프로젝트는 레드햇 오픈시프트 AI와 큰 규모로 결합돼 제한된 데이터 과학 기술부터 필요한 리소스에 이르기까지 하이브리드 클라우드 전반에서 생성형 AI가 직면한 많은 허들을 낮추고 기업 배포와 업스트림 커뮤니티 모두에서 혁신을 촉진하도록 설계됐다"고 밝혔다.

2024.05.08 09:38김우용

레드햇 "효과적 앱 현대화, '오픈시프트AI'로 한 번에"

"기업이 앱 현대화를 제대로 하려면 데이터 수집을 비롯한 분석, 앱 모니터링 등 모든 과정을 빠르고 유연하게 진행해야 합니다. 인공지능(AI)과 머신러닝(ML) 기술을 활용하면 더 효과적인데, '오픈시프트AI'는 앱 현대화를 AI·ML을 통해 기존보다 효과적으로 구현하는 역할을 합니다." 한국레드햇 김종규 상무는 지디넷코리아가 17일 서울 인터컨티넨탈 코엑스에서 개최한 '어드밴스드 컴퓨팅 컨퍼런스 플러스(ACC+) 2024'에서 이같이 밝혔다. 기존 가상머신(VM)으로 비용 효율적이고 유연한 앱 현대화를 구축하려면 AI·ML이 필요하다고 주장했다. 앱 현대화란 오래된 레거시 시스템을 업데이트를 통해 비즈니스에 맞게 구축하는 기술을 말한다. 레거시시스템을 쿠버네티스 기반 클라우드 플랫폼으로 재구성하는 식이다. 김종규 상무는 기업이 VM을 지속적으로 사용할 것이라고 주장했다. 레드햇 보고서 결과에 따르면, 기업은 2030년까지 기존 VM을 계속 활용하는 것으로 나타났다. 김 상무는 "VM은 버릴 것이 아니라 계속 가져가야 할 기술"이라고 강조했다. 그는 클라우드 네이티브 형태의 VM 시대가 왔다고 봤다. 그동안 기업은 컨테이너 환경과 VM 환경을 따로 구성했는데, 앞으로는 이를 클라우드상에서 한 플랫폼으로 구축해야 한다고 목소리를 높였다. 이 경우 운영 비용도 절반으로 줄일 수 있다. 개발자도 시스템 개발을 한 플랫폼에서 진행할 수 있다. 작업 간소화가 가능한 셈이다. 그는 "기존 VM도 간편성과 유연성 등 클라우드 특장점을 누릴 수 있다"고 강조했다. 운영자 역시 이점을 얻을 수 있다. 컨테이너와 클라우드 네이티브 장점을 한 번에 받을 수 있어서다. 운영자는 플랫폼과 인프라 유지만 관리하면 된다. 김 상무는 이날 강연에서 클라우드 네이티브 VM이 앱 현대화를 효과적으로 구축할 수 있는 방안도 설명했다. AI와 ML 기능을 여기에 추가하는 방식이다. 김종규 상무는 이와 관련된 솔루션으로 오픈시프트AI를 소개했다. 오픈시프트AI는 컨테이너 관리 플랫폼 위에 AI와 ML 기능을 얹은 형태다. 사용자는 VM과 컨테이너를 한 번에 활용할 수 있을 뿐 아니라 AI·ML 기능까지 앱 현대화 과정에 넣을 수 있다. 김 상무는 "오픈시프트AI 사용자는 간편하게 AI를 접할 수 있다"며 "앱 현대화 과정을 비용 효율적으로 진행할 수 있다"고 말했다. 오픈시프트AI에는 '오픈 데이터 허브 프로젝트'가 적용됐다. 이 프로젝트는 100% 오픈소스로 이뤄졌다. 김 상무는 "오픈시프트 내에서 원활한 AI 사용 환경을 제공하는 프로젝트"라며 "여기에 확장성을 더해 AI를 앱 현대화 과정에 적용한다"고 강조했다. 이어 "오픈시프트AI는 데이터 정제와 모델링 과정까지 갖췄다"며 "앱 개발부터 배포, 추론까지 전체적인 과정을 한 번에 수행할 수 있다"고 강조했다.

2024.04.17 14:59김미정

VM과 컨테이너를 병용하며 AI를 도입하는 확실한 전략

클라우드는 인프라 현대화를 넘어 애플리케이션 현대화 시대로 나아가고 있다. 클라우드 네이티브 기술의 핵심인 컨테이너, 쿠버네티스 등이 새롭게 만들어지는 클라우드향 애플리케이션의 토대를 이루고 있다. 그러면서 한때 IT시스템 혁신의 선두역할을 했던 서버 가상화 기술이 레거시 기술로 여겨진다. 애플리케이션 현대화는 구식 시스템을 최신 클라우드 네이티브 기술 기반으로 교체해 급변하는 IT 트렌드에 유연하고 민첩하게 대응하려 추진된다. 현재 당연하게 활용되는 기저의 클라우드 네이티브 기술이 컨테이너와 쿠버네티스다. 기존에 구축한 시스템을 한꺼번에 교체하기 어려울 수 있다. 서버 가상화 기술은 앞으로도 많이 사용될 전망이다. KBV리서치의 조사에 따르면, 세계 가상머신(VM) 시장은 2030년까지 303억달러 규모를 형성할 것으로 예측된다. 그사이 연평균 성장률(CAGR)이 15.8%로 예상됐다. 컨테이너를 VM과 통합하는 환경을 구축하면 워크로드 관리에 더 유연성을 얻을 수 있고, 컨테이너와 VM 간 원활한 전환을 추구할 수 있다. 서버 가상화는 장기적으로 애플리케이션 현대화에 걸림돌일 수 있다. 하지만 가상화 환경과 컨테이너 환경을 이원화 운영하기는 어렵고 복잡하다. 그래서 우선 컨테이너와 가상화를 단일한 제어환경으로 통합한 뒤 점진적으로 컨테이너 기반의 마이크로서비스 환경으로 전환해 가는게 적절한 방안으로 제시된다. 인공지능(AI)·머신러닝(ML) 같은 최신 워크로드는 리소스를 많이 할애해야하므로 컨테이너 환경이 적합하다. 다만, 기존의 기업용 애플리케이션까지 컨테이너로 전환해야 하는가는 세부 상황을 따져봐야 한다. 레드햇은 가상화 또한 클라우드 네이티브 가상화를 실현할 수 있도록 지원하며 레거시 가상화 기술과 최신 컨테이너 기술이 공존할 수 있는 방법을 제시하고 하고 있다. 레드햇은 오픈시프트AI를 비롯한 AI 솔루션을 통해 AI·ML 및 ML옵스를 더욱 효과적으로 도입할 수 있도록 지원하는 개방형 아키텍처를 제공한다. 레드햇은 기존 가상화를 활용할 수 있는 방안과 더불어 AI 솔루션을 효과적으로 도입하기 위한 방안을 제시한다. 레드햇은 단계적 해법을 제안한다. 먼저, 가상화와 컨테이너를 오픈시프트 플랫폼으로 통합 운영하고, 한번에 모든 인프라를 변경하기보다 VM을 컨테이너와 혼용하면서 단계적으로 전환하며, 컨테이너 도입 비중을 늘려서 애플리케이션 현대화를 완수하는 것이다. 이 전략을 통해 기존 가상화 시스템과 인프라를 활용하면서도 리소스가 많이 활용되는 워크로드도 해결할 수 있게 된다. 무엇보다 클라우드 네이티브 가상화에서 나아가 컨테이너를 통한 애플리케이션 현대화를 위한 기반을 마련할 수 있다. 개발자는 오픈시프트를 통해 쿠버네티스의 이점을 유지하면서 VM에 필요한 아키텍처를 활용하고, 레거시를 운영하면서 동시에 애플리케이션을 컨테이너로 리팩토링할 수 있다. 컨테이너, VM, 서버리스 등의 워크로드를 통합된 환경에서 단일한 개발 방법론과 경험으로 개발할 수 있게 된다. 컨테이너로 VM을 변경하는 과정을 거치지 않고도 VM에 클라우드 네이티브의 이점인 확장성과 자동화 요소를 접목할 수 있다. 운영자는 데브옵스를 매우 효율적으로 구성할 수 있다. 오픈시프트의 셀프서비스 기능을 VM에서 이용하면, 워크로드 관리권한을 담당 현업이나 개발팀에 넘겨주고 인프라와 플랫폼 유지보수에 더 집중할 수 있다. 기업은 레드햇 오픈시프트 가상화(Redhat OpenShift Virtualization)를 활용해 기존 VM을 쿠버네티스 기반으로 이동한다. 다음으로 비즈니스 로직에 큰 변화를 주지 않고 VM웨어를 컨테이너로 전환할 수 있다. 운영중인 애플리케이션을 마이크로서비스로 리팩토링하는 게 가능하다.마지막으로 클라우드 네이티브 개발 접근법을 활용해 새로운 버전의 애플리케이션을 개발하는 동안 레거시 환경을 지속적으로 실행할 수 있는 기반을 재구축한다. 레드햇 오픈시프트는 기본적으로 KVM이란 가상화 기술 위에서 작동한다. 레드햇가상화(RHV), 오픈스택에서도 활용되는 가상화 환경과 동일하다. 레드햇 오픈시프트 가상화는 레드햇엔터프라이즈리눅스(RHEL) 코어OS 기반의 게스트 OS를 무제한으로 생성할 수 있다. 마이크로소프트 서버가상화검증프로그램(SVVP)을 통해 마이크로소프트 윈도 게스트 OS도 지원한다. 레드햇 오픈시프트는 세가지 종류로 나뉜다. 리눅스 환경에 쿠버네티스와 쿠버네티스 클러스터 서비스를 포함하는 '레드햇 오픈시프트 쿠버네티스 엔진'과, 그 엔진 위에 워크로드 관리, 클라우드 네이티브 앱 빌드, 데이터 서비스, 개발자 생산성 기능 등을 제공하는 '레드햇 오픈시프트 컨테이너 플랫폼', 여기에 멀티클러스터 관리, 클러스터 보안, 글로벌 레지스트리, 클러스터 데이터 관리 등의 기능까지 제공하는 '레드햇 오픈시프트 플랫폼 플러스' 등이다. VM을 오픈시프트 가상화로 이전하면 이같은 레드햇 오픈시프트 제품군의 모든 기능을 이용할 수 있다. 레드햇은 기존 VM웨어 환경의 VM을 오픈시프트로 이전할 수 있는 '마이그레이션 툴킷 포 버추얼라이제이션((Migration Toolkit for Virtualization, MTV)'을 제공한다. 이 도구를 활용하면 대규모 VM을 무중단에 가깝게 마이그레이션할 수 있다. 전통적인 VM 작업인 관리자 개념과 작업, 네트워크 및 스토리지 연결, 라이브 마이그레이션 등을 최신 플랫폼에서 동작시킬 수 있다. 전통적인 VM에 담긴 비즈니스 크리티컬 애플리케이션을 유지 관리하면서 시간을 두고 기술 세트를 현대화할 수 있다. 운영자는 오픈시프트 프로젝트 단위로 VM 권한을 현업 담당자나 개발자에게 부여할 수 있다. VM 프로비저닝도 레드햇 앤서블 자동화 도구를 활용해 하드웨어부터 모든 설정에 이르기까지 단순화할 수 있다. VM은 컨테이너와 기본적으로 동일한 네트워크 상에 올라가 있으므로, VM과 컨테이너의 연결이 매우 자유롭다. 오픈시프트 위의 VM은 컨테이너와 동일한 소프트웨어정의네트워킹(SDN) 네트워크에 연결되며, 쿠버네티스의 서비스, 라우트, 인그레스, 서비스메시, 파이프라인, 깃옵스 등 표준 방식으로 접근할 수 있다. 네트워크 정책은 컨테이너 POD와 동일한 방식으로 VM에 적용된다. 네트워크 연결에 따라 SDN이나 인그레스를 통해 VM-POD 혹은 반대로 통신도 가능하다. 전세계적인 AI 열풍에 따라가려면 신규 AI·ML 도입을 위한 효과적인 애플리케이션 현대화 전략이 필요하다. 디지털 환경에서 데이터는 중요한 경쟁력은 데이터의 양뿐 아니라 데이터를 어떻게 활용하느냐다. 컨테이너와 쿠버네티스는 데이터 활용에 필요한 시스템을 유연하고 민첩하게, 확장가능하게 구축할 수 있으므로 AI/ML에서 대부분 활용된다. 레드햇 오픈시프트AI는 검증된 기술 포트폴리오, 입증된 전문성, 전략적 파트너십 등을 제공해 기업의 AI/ML 목표 실현을 지원한다. 레드햇 오픈시프트는 온디맨드 컴퓨팅 리소스, 하드웨어 및 GPU 가속 지원, 온사이트와 퍼블릭 클라우드 및 엣지 환경 전반의 일관성을 통해 성공 필요한 속도와 유연성을 제공한다. 레드햇 오픈시프트 AI는 AI/ML 모델 및 애플리케이션의 라이프사이클을 교육, 서비스, 모니터링, 관리할 수 있고, 엔비디아, 인텔, 스타버스트, 아나콘다, IBM, 파키덤(Pachyderm) 등 주요 인증 파트너 제품을 통합하는 일관된 협업 환경을 통해 실험 단계에서 프로덕션으로 이동할 수 있다. 이같은 기존 VM 활용과 신규 AI 도입을 위한 효과적인 애플리케이션 현대화 방안은 오는 17일 인터컨티넨탈서울코엑스 하모니볼룸에서 열리는 'ACC+ 2024' 행사에서 더 자세히 확인할 수 있다. ACC+ 2024는 AI와 더불어, 빅데이터, 클라우드, 보안 등 최신 IT 솔루션과 서비스를 확인할 수 있는 세미나와 함께 직접 경험할 수 있는 기업 전시부스를 다양하게 운영한다. 사전 등록을 통해 행사에 참가할 수 있으며, 현재 얼리버드 등록 이벤트를 통해 할인 혜택을 제공하고 있다. 사전 등록과 등록 문의는 공식 웹사이트를 통해 가능하다.

2024.04.15 11:24김우용

"AI 기술을 가장 쉽고 안전하게 활용할 수 있는 플랫폼"

“레드햇이 한국에 존재하는 이유는 한국 고객의 경쟁력 강화에 기여하기 위해서다. 현재 고객의 경쟁력 강화를 위한 논의는 인공지능(AI)에 있다. 레드햇은 엔터프라이즈 AI 플랫폼을 방향으로 잡았고, 고객이 AI 기술을 가장 잘 활용할 수 있도록 지원한다.” 김경상 한국레드햇 대표는 최근 본지와 인터뷰에서 자사의 사업 전략에 대해 이같이 밝혔다. 2021년부터 한국레드햇 수장을 맡아온 김경상 대표는 “지난 3년 사이 고객에게 주로 듣는 이야기의 키워드가 클라우드 도입에서 클라우드 네이티브 애플리케이션 AI, 엣지 등으로 바뀌었다”며 “특히 작년 가장 많이 논의된 주제가 AI였고, 레드햇도 어떻게 AI에 대응해야 할 지 고민을 많이 했다”고 강조했다. 작년 한해 많은 기업이 생성형 AI에 관심을 갖고 발빠르게 투자에 나섰다. 일단 생성형 AI의 유즈케이스와 기술적 검증이 주된 투자처였다. 이제 검증 단계를 거쳐 본격적인 도입의 시기가 오고 있다. 그와 함께 전과 다른 새로운 고민거리가 기업에 부담을 주고 있다. 김경상 대표는 “기존 기업용 앱 개발 및 관리 과정과 AI를 활용해 서비스하는 과정 사이에 특성 차이가 있다”며 “기존 기업용 앱과 달리 AI는 대량 데이터 관리와 고성능 GPU 서버 제어, 초기 모델 학습과 서비스 개시 후 지속적인 모델 최적화 과정 등이 잘 진행돼야 한다”고 설명했다. 그는 “인프라 과점에서 초기 대량 데이터 학습 시점과 서비스 시점의 인프라 관리 지점이 달라진다”며 “이런 부분에 초점을 둬서 레드햇의 컨테이너와 쿠버네티스 기술인 오픈시프트를 기반으로 전체 과정을 지원하는 플랫폼인 '오픈시프트 AI'란 것을 출시해 기업용 앱과 다른 요구사항을 가진 AI 활용 부분을 지원하고 있다”고 덧붙였다. 그에 따르면, 생성형 AI는 기업에 막 도입되기 시작한 초기 단계기 때문에 전세계 많은 전문업체와 서비스업체가 각자의 소프트웨어와 하드웨어를 내놓고 있다. 무분별한 도입시 관리 복잡성이 커지고, 지속적으로 업데이트돼야 하는 AI 플랫폼의 특성을 유지하지 못할 수 있다. 레드햇의 오픈시프트 AI는 오픈소스 소프트웨어를 기반의 개방형 아키텍처를 갖고 있고, 다양한 소프트웨어 회사와 협업 가능하도록 설계됐다. 레드햇은 엔터프라이즈 리눅스를 수십년간 제공해온 노하우를 통해 AI 기술을 더 안정적이고 호환성 검증된 환경에서 이용하게 한다. 김 대표는 “레드햇의 오픈 하이브리드 클라우드는 퍼블릭 및 프라이빗 클라우드와 엣지 어디서든 자유롭도록 상호운용을 보장한다”며 “이게 오픈시프트의 기본 사상이며 프라이빗에서 AI를 준비하고 디바이스 엣지 단에 보내 퍼블릭에서 활용하게 하는 등의 자유도를 줄 수 있다”고 말했다. 그는 “또 한편으로 레드햇 제품에 생성형 AI 역량을 심고 있는데, 레드햇 앤서블 자동화 솔루션에 생성형 AI를 접목했다”며 “운영체제부터 서비스형 플랫폼(PaaS)에 이르는 인프라 관리 관련 경험과 데이터를 AI에 학습시켜서 자동화 코드를 생성하는 서비스인 '앤서블 라이트스피트'를 제공하고 있으며, 앞으로 생성형 AI 역량을 고도화해 다양한 제품군으로 확대할 계획”이라고 강조했다. 김 대표는 지난 3년 간 이룬 고객 확보 사례로 삼성전자의 사례를 들었다. 단순히 솔루션을 제공하는 것에 그치지 않고 고객의 경쟁력 향상에 기여한다는 기본 전략을 실현한 사례란 것이다. 그는 “삼성전자와 레드햇은 2년전부터 협약을 맺었고, 그 첫 사례로 차세대 CXL 메모리 분야에서 협력하고 있다”며 “앞으로 차세대 메모리로 각광받는 CXL을 서버에서 사용할 때 가장 많이 활용될 OS인 레드햇엔터프라이즈리눅스(RHEL)를 제품 개발 과정부터 성능을 검증해 출시하는 것”이라고 말했다. 그는 “레드햇 소프트웨어에서 삼성전자 CXL이 최적 성능을 내는 지 검증하고, 확인하고 출시함으로써 해당 메모리가 시장에 나왔을 때 훨씬 더 경쟁력있게 활약할 수 있는 윈윈 사례라고 생각한다”고 덧붙였다. 그는 또 다른 상호 협력 사례로 삼성SDS와 한전KDN을 들었다. 삼성SDS는 자사 퍼블릭 클라우드 플랫폼에서 레드햇 오픈시프트를 서비스 품목으로 제공하게 됐다. 한전KDN은 에너지 관련 공공기관에 제공하는 클라우드 네이티브 애플리케이션 전환 서비스에서 레드햇의 솔루션 역량을 활용하고 있다. 김 대표는 “계속해서 아이템을 발굴해서 고객과 서로 윈윈하는 케이스를 많이 만드려 하고 있다”며 “한국 시장에 기여하는 노력을 꾸준히 해왔고 앞으로도 계속할 것”이라고 강조했다. 레드햇은 작년과 올해 여러 시장 변화를 마주하고 있다. 2020년부터 RHEL의 오픈소스 다운스트림 프로젝트인 센트OS 리눅스를 업스트림 프로젝트인 '센트OS 스트림'으로 변경했고, 그 일환으로 RHEL의 소스코드를 고객과 파트너에게 한정적으로 제공하고 있다. 센트OS 리눅스의 대체재를 강조하는 경쟁사의 공격적 영업이 글로벌 시장과 국내 시장에서 활발히 일어났다. 김 대표는 “가격이든 품질이든 경쟁은 시장 자체의 크기를 키우기 때문에 좋은 것이라 생각한다”며 “그런 차원에서 이미 검증된 솔루션이냐 안정적이냐 부분에 초점을 두고 최고의 품질을 보장한 상태에서 고객이 사용할 수 있다는데 초점을 맞춰 시장을 대하고 있다”고 밝혔다. 서버 가상화 시장도 변화를 맞고 있다. VM웨어가 서버 가상화 솔루션의 라이선스를 구독형으로 전면 전환하고, 가격 체계를 개편하면서 기 고객의 대안 솔루션 검토가 늘고 있다. 레드햇 가상화(RHV)와 레드햇 오픈시프트 가상화, 레드햇 오픈스택 가상화 등도 대안 솔루션으로 관심받고 있다. 김 대표는 “서버 가상화 부분도 고객의 고민이고 무언가 솔루션을 받길 원하는 상태인데, 레드햇은 그들의 고민을 함께 해결할 수 있는 여러 솔루션 옵션을 가졌다”며 “고객 각자 처한 상황이 다 다르고,. 오픈시프트 중심의 애플리케이션 현대화 방향으로 가려는 고객이나 기존 가상화 형태로 가려는 고객도 있을 것이어서 상황을 잘 검토하면서 많은 해결책을 드릴 수 있을 것이라 여긴다”고 밝혔다. 그는 기업의 엣지 환경에 대한 접근에도 신경쓰고 있다고 했다. 레드햇은 데이터센터를 산업 현장과 지점에 근접 배치하는 것 외에도 소프트웨어를 포함해 구동하는 사용자 단계의 최종 단말기까지 엣지로 본다. 통신기업의 MEC, vRAN, 리테일의 디지털 스토어 및 POS 단말기, 커넥티드카와 소프트웨어정의자동차 등도 레드햇에게 엣지다. 김 대표는 “단말기에 필요한 경량의 OS, 그리고 단말기 속 여러 애플리케이션과 소프트웨어를 관리하기 위한 오픈시프트 컨테이너 플랫폼 등을 혼합해 패키징해서 엔터프라이즈용 엣지 플랫폼을 제공하고 있다”며 “GM이 레드햇 오픈시프트 플랫폼으로 인비히클 소프트웨어를 개발, 배포하고 있으며, 이를 통해 아키텍처와 기술을 표준화해 관리 인력과 구입비용 등을 절감하고 일상적 개발 배포 주기를 단축하고 있다”고 말했다. 그는 “항상 고객과 눈높이를 맞춰야 더 잘할 수 있고 더 많이 도울 수 있다고 생각하고 있다”며 “그것이 한국레드햇의 성장”이라고 강조했다.

2024.04.01 10:47김우용

한국레드햇, '컨테이너 데이' 개최…IT 현대화 방안 공유

한국레드햇은 12일 서울 코엑스 컨벤션에서 '컨테이너데이'를 개최했다고 13일 밝혔다. 레드햇 컨테이너데이는 'VM으로 수비하고 AI로 공격하는 애플리케이션 현대화'를 주제로 열렸다. 애플리케이션 현대화를 고려하고 있지만 기존 투자된 가상화 환경으로 인해 컨테이너 도입을 망설이거나, AL/ML 등 새로운 워크로드를 위한 클라우드 네이티브 환경의 필요성을 고민하는 고객, 파트너에게 애플리케이션 현대화를 위한 다양한 노하우를 공유했다. 이날 행사에 고객 및 파트너 250여명이 참석했다. 프렘 파반 레드햇 SEAK 총괄 부사장과 김경상 한국레드햇 사장의 개회사와 함께 시작된 이번 행사에서 ▲기업의 컨테이너 전환 여정에 대한 시사점 ▲ VM 마이그레이션 전략과 컨테이너 환경에서 기존 VM을 실행하고 단일 플랫폼에서 배포하는 방법 ▲유연하고 확장 가능한 MLOps ▲엣지컴퓨팅을 위한 경량화된 쿠버네티스 등 효율적인 인프라 활용에 관한 세션 발표가 이어졌다. 첫번째 발표자로 나선 한국레드햇 김희진 상무는 기업의 컨테이너 전환 여정에 대해 논하며, 신기술 도입 효과를 극대화하기 위해서는 인프라, 애플리케이션, 보안, 운영모델 등에 대한 다차원적 검토가 필요함을 시사했다. 레드햇은 이를 바탕으로 고객의 컨테이너 전환을 지원하기 위해 기획-실행-운영 등 모든 단계에서 엔드 투 엔드의 로드맵을 지원하고 있다. 김 상무는 레드햇 컨테이너 기술을 활용한 글로벌 통신, 운송 업계 다양한 고객들의 디지털 혁신 여정을 함께 한 사례를 소개했다. 두번째 세션에서 한국레드햇 고강필 부장은 레드햇이 제공하는 가상화 기술을 소개하고, 애플리케이션 현대화 여정에서 VM 유지가 필요한 기존 워크로드를 위한 레드햇 오픈시프트 기능을 설명했다. 레드햇은 클라우드 네이티브 및 애플리케이션 현대화 여정에서 기존 VM을 좀 더 쉽게 관리하고 컨테이너와 연계할 수 있도록 쿠버네티스의 이점을 활용한 '클라우드 네이티브 VM'이라는 혁신 전략을 제시하였다 이는 클라우드 네이티브 기능을 VM에도 적용해 VM과 컨테이너를 동시에 운용하고 통합 관리할 수 있도록 하는 방법이다. 통합 플랫폼과 단일 데브옵스 프로세스를 바탕으로 애플리케이션 혁신 속도를 높이고 효율적으로 관리할 수 있다. 레드햇 오픈시프트를 통해 제공되는 오픈시프트 버추얼라이제이션 기능은 통합 플랫폼을 제공해 컨테이너와 VM이 손쉽게 연결되고, 고객은 자신만의 속도로 VM을 마이그레이션해 현대화를 진행할 수 있다. 이로써 레드햇은 비용 효율성, 매출 성장, 전략 개선의 측면에서 고객 및 파트너들의 비즈니스 목표를 달성을 지원한다. 세번째 세션으로 AI와 머신러닝(ML)의 성공적인 도입을 위한 MLOps 플랫폼과 레드햇 오픈시프트 AI에 관한 한국레드햇 이명진 이사의 발표가 이어졌다. AI/ML에 대한 니즈는 증가하고 있으나 데이터, 소프트웨어의 부족 등으로 인해 이를 도입하고 관리하는 것은 쉽지 않다. 쿠버네티스는 AI/ML 환경을 프로비져닝하고 자동화된 컴퓨팅 리소스 관리로 신속하게 대응할 수 있는 유연하고 확장 가능한 솔루션이다. 레드햇 오픈시프트 AI는 AI/ML 실험 및 모델의 전체 라이프사이클에 필요한 도구를 제공하는 AI 중심 플랫폼으로서, 대부분의 AI 워크로드를 지원하며 일관된 하이브리드 클라우드 애플리케이션 플랫폼을 제공한다. 엔터프라이즈급 오픈소스 하이브리드 AI 및 MLOps 플랫폼으로 실험부터 운영환경까지 AI/ML 모델 및 애플리케이션의 라이프사이클을 개발, 학습, 제공, 모니터링 및 관리한다. 네번째 세션에서 한국레드햇 김종규 상무가 엣지컴퓨팅을 위한 소형화된 오픈시프트로 레드햇 디바이스 엣지에 대해 설명하였다. 현재 엣지컴퓨팅은 스마트팩토리, 이동통신, 자율주행 등 다양한 분야에서 활용되고 있으나 디바이스가 접근하기 어려운 위치에 있고, 사용 가능한 리소스가 제한되어 있으며, 수만 대에 대한 보안을 관리해야 한다는 과제를 안고 있다. 김 상무는 이에 대한 해결책으로 레드햇 디바이스 엣지를 제시했다. 레드햇 디바이스 엣지는 쿠버네티스와 엔터프라이즈 리눅스가 결합된 오케스트레이션 솔루션으로, 소형 디바이스의 요구사항을 충족하는 마이크로시프트(MicroShift) 기반 경량화된 쿠버네티스다. 이에 더해 엣지 배포에 최적화된 지능형 운영체제를 통해 운영 일관성을 보장한다. 마지막 패널 세션에서 레드햇의 고객인 신한카드 ICT본부의 황인환 차장과 에스코어 서성한 팀장이 디지털 혁신을 위한 오픈소스와 컨테이너 기술의 내재화 및 활용에 관한 대화를 주도하였다. SW의 복잡성이 높아짐에 따라 비용과 운영 측면에서 오픈소스는 선택이 아닌 필수가 되었으며, 많은 고객들이 앱 현대화를 위해 컨테이너 기술을 도입하고 오픈소스를 내재화하고 있다는 점을 강조했다. 한국레드햇 김경상 사장은 본 행사를 마무리하며 “디지털 트랜스포메이션에 있어 애플리케이션 현대화는 기업의 중요한 과제”라며 “레드햇은 비용 효율성과 운영 안정성이라는 두가지 측면에 집중하여 기업의 클라우드 네이티브 전환, 인프라 운영, 컨테이너 보안을 기존 VM 환경까지도 레드햇 오픈시프트로 지원받을 수 있다"고 밝혔다. 그는 “레드햇은 다양한 영역에서 비즈니스를 혁신하고 신뢰할 수 있는 파트너로서 애플리케이션 현대화 여정을 함께 해 나갈 것”이라고 강조했다.

2024.03.13 13:56김우용

레드햇-NTT, IOWN 기술로 엣지 AI 분석 강화

레드햇과 일본 통신 기업 NTT는 차세대 통신 표준 협의체 아이온(IOWN) 이니셔티브의 일환으로 엔비디아 및 후지쯔와 협력해 엣지에서 실시간 생성형 AI 데이터 분석을 향상하고 확장할 수 있는 솔루션을 공동 개발했다고 27일 밝혔다. 이 솔루션은 아이온 글로벌 포럼에서 개발한 기술을 사용해 쿠버네티스 기반 레드햇 오픈시프트 상에 구축됐으며, 실제 실행 가능성 및 사용 사례에 대해 '아이온 글로벌 포럼의 개념 증명(POC)을 획득했다. AI 센싱 기술과 네트워킹 혁신이 가속되고 특히 데이터 소스가 빠르게 확장됨에 따라, 네트워크 엣지에서 데이터를 평가하고 분류하는데 있어 AI 분석 활용의 중요성이 더욱 커지고 있다. 그러나 AI 분석을 대규모로 사용하는 것은 속도가 느리고 복잡할 수 있으며, 새로운 AI 모델과 추가적인 하드웨어로 인한 관리 비용과 소프트웨어 유지 비용이 증가할 수 있다. 더 많은 원격지에서 엣지 컴퓨팅이 가능하게 되면 AI 분석을 센서에 더 가깝게 배치함으로써 지연 시간을 줄이고 대역폭을 늘릴 수 있게 된다. 레드햇과 NTT의 이번 솔루션은 아이온 올 포토닉스 네트워크(APN)과 아이온 데이터 중심 인프라(DCI) 내의 데이터 파이프라인 가속 기술로 구성돼 있다. NTT의 AI용 가속 데이터 파이프라인은 APN을 통한 원격 직접 기억장치 접근(RDMA) 방식을 채택해 엣지에서 대량의 센서 데이터를 효율적으로 수집하고 처리한다. 레드햇 오픈시프트의 컨테이너 오케스트레이션 기술은 지리적으로 분산돼 있는 원격 데이터 센터들에 걸쳐 있는 가속 데이터 파이프라인 내에서 워크로드를 보다 유연하게 운영할 수 있도록 지원한다. 레드햇과 NTT는 이번 솔루션이 엣지에서 이뤄지는 실시간 AI 분석을 위한 저지연성과 낮은 전력 소비량을 확보할 수 있음을 성공적으로 입증했다. 양사는 개념 증명(PoC)을 통해 일본 요코스카 시를 센서 설치 거점으로, 무사시노 시를 원격 데이터센터로 go 두 곳 모두 APN으로 연결된 상태에서 실시간 AI 분석 플랫폼을 평가했다. 그 결과, 많은 수의 카메라를 포함한 경우에도 AI 분석을 위한 센서 데이터를 집계하는 데 필요한 지연 시간이 종래의 AI 추론 워크로드 대비 60% 줄었다. 엣지의 각 카메라 별 AI 분석에 필요한 전력 소비량이 기존 기술보다 40% 절감될 수 있음이 입증됐다. 이 실시간 AI 분석 플랫폼을 사용하면 CPU의 병목 현상 없이 더 많은 수의 카메라를 수용할 수 있도록 GPU를 확장할 수 있다. 시범 계산에 따르면 1천대의 카메라를 수용할 수 있는 규모라고 가정한다면 전력 소비량을 60%까지 줄일 수 있을 것으로 예상된다. NTT가 제공하는 AI 추론을 위한 가속 데이터 파이프라인은APN을 통한 RDMA를 활용해 각지의 대규모 센서 데이터를 원격 데이터 센터의 가속기 내 메모리로 직접 가져와 기존 네트워크의 프로토콜 처리 오버헤드를 줄인다. 이후 더 적은 CPU 제어 오버헤드로 가속기 내에서 AI 추론의 데이터 처리를 완료해 AI 추론의 전력 효율을 개선한다. 레드햇 오픈시프트 기반의 실시간 대규모 AI 데이터 분석은 쿠버네티스 오퍼레이터가 하드웨어 기반 가속기(GPU, DPU 등) 구현의 복잡성을 최소화할 수 있도록 지원해 원격 데이터센터를 비롯한 분산된 위치 전반에 걸쳐 유연성을 개선하고 배포를 용이하게 한다. 이 개념 증명은 AI 추론을 위해 엔비디아 A100 텐서 코어 GPU와 엔비디아 커넥트X-6 NIC를 사용한다. 이번 솔루션은 지능형 AI 지원 기술의 기반을 마련하고 이를 통해 비즈니스의 지속 가능한 확장을 돕는다. 크리스 라이트 레드햇 최고기술책임자, 글로벌 엔지니어링 수석 부사장 겸 아이온 글로벌 포럼 이사회 이사는 "우리는 아이온 글로벌 포럼의 일원으로서 지난 몇 년 동안 오픈소스 기반 AI 혁신의 무대를 마련하고 미래를 위한 더 현명한 선택을 가능케 하는 기술을 제공하기 위해 노력해왔다”며 “이번 결과를 통해 우리는 전세계 기업을 위한 지속 가능하고 혁신적인 AI 기반 솔루션을 구축할 수 있음을 입증할 수 있었다"고 밝혔다. 카츠히코 카와조에 NTT 수석 부사장 겸 아이온 글로벌 포럼 회장은 "NTT 그룹은 파트너와 긴밀하게 협업하며 지속 가능한 사회를 실현하기 위해 아이온의 발전에 박차를 가하고 있다”며 “이번 아이온 PoC는 AI의 집단 지성을 지원하는 AI용 그린 컴퓨팅을 향한 중요한 진전”이라고 강조했다.

2024.02.27 11:39김우용

지금 뜨는 기사

이시각 헤드라인

넷플릭스, '워너브라더스' 106조원에 품는다

게임 축제 'AGF 2025', 뜨거운 열기…일산 킨텍스 '인산인해'

"손님보다 직원이 더 많아"…폐점 앞둔 홈플러스 가양점 가보니

李대통령 "한일 AI 협력 중요"...손정의 "ASI 시대 준비해야"

ZDNet Power Center