검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'AI 컨퍼런스'통합검색 결과 입니다. (58건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

"불황 극복할 DX·AI 전략, 한눈에 확인한다"

불황 속 기업의 경쟁력 향상을 위한 디지털 혁신(DX) 전략이 '하이퍼오토메이션 컨퍼런스'에서 대거 제시됐다. 지디넷코리아는 2일 서울 양재 엘타워 그레이스홀에서 개최한 노코드·로우코드 하이퍼오토메이션 컨퍼런스 2024를 성황리에 마무리했다. 올해 행사는 생성형 인공지능(AI) 도입 등 DX혁신 전략을 고민 중인 기업을 위해 실제 도입 사례와 효율적인 해결 방안 등을 선보였다. 삼성SDS, IBM, 업스테이지, 비아이매트릭스, STEG, 영림원소프트랩, 이젠고, 포티투마루 등이 참가해 4개의 키노트와 8개 세션을 채웠다. 과기정통부 송상훈 실장은 "소프트웨어와 AI 인재 양성 방식에 변화가 있어야 한다"며 "개발자가 창의적이고 뛰어난 능력을 발휘할 수 있는 아키텍처 설계 구현과 노코드·로우코드 플랫폼 활용 역량이 중요해질 것으로 생각한다"고 강조했다. 이어서 "새로운 기술 확산이 소프트웨어 개발자 수요를 줄이는 것이 아니라 개발자가 창의적 업무에 집중하도록 한다"며 "민관이 협력해 새로운 기회를 잘 살릴 수 있기를 기대하며 정부도 적극 지원하겠다"고 축사했다. 첫 키노트를 맡은 과학기술정보통신부 이상민 과장은 "이제는 일반 개인도 창작을 할 수 있도록 돕는 노코드·로우코드가 AI시대 흐름의 중심이 되고 있다"며 "정부는 SaaS 등 이러한 미래 유망 먹거리 산업의 성장을 독려하기 위해 다양한 지원을 아끼지 않을 예정"이라고 밝혔다. 이어서 비아이매트릭스 배영근 대표는 AI와 함께 노코드가 필요한 이유를 설명하며, 두 서비스를 연계한 사례를 소개했다. 또한 삼성SDS 신계영 상무는 AI를 활용하기에 앞서 고려해야 할 대규모 언어모델(LLM)의 주의점을 지적하며 사용에 신중을 가할 것을 조언했다. 더불어 이날 정식 출시한 생성형AI 서비스 패브릭스도 함께 선보여 이목을 집중시켰다. 이번 행사는 AI도입을 고려하거나 기업 생산성을 높이기 위한 고민을 가진 기업을 위한 대안이 대거 제시됐다. 한국IBM 정욱아 실장은 AI 플랫폼 왓슨엑스를 활용한 노코드, 로우코드 기반 솔루션과 하이퍼오토메이션 실현을 위한 사용사례를 공유했으며 STEG는 노코드 플랫폼을 적용해 생산성을 가속화하는 방법을 제안했다. 영림원 소프트랩은 전사적자원관리(ERP)에 노코드로 개발한 솔루션을 도입해 생산성을 높인 사례를 소개하고, GS네오텍는 오픈소스 AI모델 허깅페이스를 실제 사용한 성과를 제시했다. 이 밖에도 이젠고, 킨드릴, 스윗, 업스테이지, 포티투마루 등이 AI와 자동화 도구를 활용해 생산성을 높이고 기업을 혁신한 방안을 선보였다. 지디넷코리아 관계자는 "지속되는 불황으로 인해 많은 기업들이 한정된 예산으로 어떻게 혁신하고 기업 경쟁력을 갖출 것인지 많은 고민을 안고 있다”며 “이번 노코드 로우코드 하이퍼오토메이션 행사가 기업들에게 통찰력을 제공한 계기가 되길 바란다”고 말했다.

2024.05.02 18:14남혁우

스윗 "'AI 도입 장벽' 데이터 파편화, 해결 급선무"

"인공지능(AI) 도입 과정에서 주요 진입장벽 중 하나는 데이터와 업무 파편화입니다. 디지털전환(DX)을 시행하기 위해선 이것부터 해결하는 것이 급선무라고 봅니다." 스윗 테크놀로지 손주영 수석 전략 부사장은 2일 서울 양재 엘타워 그레이스홀에서 개최한 노코드·로우코드 하이퍼오토메이션 컨퍼런스에서 기업에서 AI를 도입하기 위해 선결해야 할 과제로 단절된 시스템을 지목했다. 손 부사장에 따르면 미국 중견기업의 경우 구글 워크스페이스나 마이크로소프트 365등 협업 도구를 적극적으로 사용하고 있지만 각 도구가 모두 파편화된 경우가 상당수를 차지하는 것으로 나타났다. 각 도구에서 발생한 데이터는 파편화돼 실시간으로 필요한 데이터에 접근하거나 버전관리가 제대로 이뤄지지 않아 AI도입의 장애물로 작동한다. 또 조직원 간 업무 흐름을 제대로 파악할 수 없어 불필요한 업무 부하가 발생하고 생산성 저하로 이어지게 된다. 스윗은 기업의 생산성을 향상하고 파편화된 데이터를 통합하기 위해 생성형AI를 활용한 AI 서비스 '스냅'을 제시했다. 스냅은 여러 협업 도구와 채팅 등의 데이터를 하타의 플랫폼에서 관리할 수 있도록 지원하는 AI플랫폼이다. 다양한 거대언어모델(LLM)을 활용해 기술 설명서·연구 보고서·마케팅 자료·뉴스 기사 등 비정형 데이터를 포함한 자료를 통합하고 AI챗봇을 이용해 자연어 만으로 업무를 요약하거나 데이터를 분석하는 등 협업을 원활하게 진행할 수 있도록 지원한다. 손주영 부사장은 "스냅은 다른 사람과의 협업 과정을 돕기 위한 AI비서일 뿐 아니라 파편화된 데이너와 업무를 통합해 기업의 DX와 AI 도입을 촉진하는 혁신을 위한 기반 도구"라고 소개했다. 이어 "DX의 완성이자 핵심은 AI DX이라고 생각한다"며 "기업이 AI를 도입하고 직원들이 AI 기반 문화에 익숙해지는 과정이 자연스럽게 이뤄질 수 있도록 스윗이 꾸준히 발전하며 지원하겠다"고 포부를 밝혔다.

2024.05.02 17:13남혁우

한국IBM "디지털 레이버, 2026년까지 5천200억 달러 규모 성장"

인공지능(AI) 도입을 통한 생산성 향상이 기업의 주요 화두로 떠오르며 AI 자동화를 통한 '하이퍼 오토메이션'에 대한 관심이 높아지는 가운데 이에 대한 컨퍼런스가 진행됐다 2일 서울 양재 엘타워에서 개막한 '노코드·로우코드 하이퍼오토메이션 컨퍼런스 2024'에는 한국IBM, 삼성SDS, 비아이매트릭스 등 국내 주요 기업의 다양한 기조강연이 진행됐다. 노코드·로우코드협의회가 주최하고 지디넷코리아가 주관하는 '노코드·로우코드 하이퍼오토메이션 2024'는 AI원년의 해를 맞아 'AI로 가는 지름길, 노코드·로우코드 DX혁신'의 주제로 공공⋅금융⋅제조 등 산업 각 분야에서의 업무 자동화를 위한 AI도입 방안과 불황 속 기업의 생존 전략을 심도있게 논의하는 컨퍼런스다. 한국IBM 정욱아 실장은 이날 현장에 자리해 '생성형 AI기반 디지털 레이버(Digital Labor)와 함께 실현하는 하이퍼오토메이션, IBM왓슨엑스(watsonx)' 강연을 진행하고 IBM의 데이터 및 AI 플랫폼 왓슨엑스를 활용한 노코드, 로우코드 기반 솔루션과 하이퍼오토메이션 실현을 위한 사용사례를 공유했다. AI 디지털 레이버는 AI 및 자동화를 이용해 비즈니스 프로세스 및 애플리케이션에 대한 전문지식 없이도 작업을 수행할 수 있는 디지털 노동력 플랫폼이다. 정욱아 실장은 생성형 AI에 대한 관심이 과거 크게 유행했던 빅데이터-AI에 대한 관심과 비슷하지만 그 속도와 양은 더욱 역동적이라고 설명했다. 이어 "기업 리더들은 생성형 AI를 통해 의미 있는 투자대비수익률(ROI)를 기대하고 있다"며 "이는 팬데믹 당시 급증하고 검증된 기본 AI 효과성을 기반으로 더욱 가속화될 전망"이라고 덧붙였다. 정욱아 실장의 설명에 따르면 생성형 AI 투자 확대는 전체 AI 시장을 견인하고 있으며 기업의 AI 지출은 오는 2027년까지 매년 20% 이상 성장할 것으로 전망된다. 특히 기업의 생성형 AI 도입 기조는 국내와 글로벌 시장 모두에서 강하게 나타나고 있다. 직원 수 1천 명 이상 기업을 대상으로 진행한 생성형 AI 도입 여부에 대한 조사에서 이미 사업에 생성형 AI를 적극 도입하고 있다는 국내 기업은 27%, 글로벌 기업은 38%로 나타났다. 정욱아 실장은 ▲인적자원 ▲고객 서비스 ▲앱 현대화 등 실제로 효과가 입증된 생성형 AI 기반 업무 자동화 사례도 함께 소개했다. 생성형 AI 도입을 통해 인적자원은 40% 생상선이 향상됐으며 고객 서비스는 90%, 앱 현대화는 60% 수준의 효율성 향상이 일어났다. 다만 기업에서 AI를 전사적으로 확장하는데 주저하는 경향도 있다는 설명도 이어졌다. 설문조사에 참여한 기업 중 80%가 ▲생성형 AI가 내린 결정이 충분히 설명 가능하지 않다 ▲안정성과 윤리적 측면에 대한 우려 ▲이미 확립된 편향을 AI가 전파할 가능성 ▲생성형 AI에 대한 신뢰 부족 등을 전사적으로 AI를 도입하는데 우려되는 요소로 꼽았다. 정 실장은 "기업이 대규모로 가치를 실현하기 위해서는 전략 및 가치, 기술 및 데이터, 경험 디자인, 운영 모델, 인재 및 문화 등 광범위한 고려 사항을 해결해야 한다"라며 "AI의 전체 가치를 실현하려면 운영 모델에 대한 전체적인 관점 고려가 필요하다"라고 지적했다. 정욱아 실장이 AI의 전체 가치를 실현하기 위해 고려해야 하는 요소로 꼽은 것은 ▲목적 및 전략 ▲구조 ▲작업 방식 ▲거버넌스 및 우선순위 ▲리더십 ▲메트릭 ▲인적 자원 ▲기술 등이다. IBM이 지난 2023년 7월 출시한 기업형 AI 플랫폼 왓슨x(watsonx)에 대한 소개도 이어졌다. 왓슨x는 ▲왓슨x.ai ▲왓슨x.data, ▲왓슨x.거버넌스 등으로 구성되는 플랫폼으로 모둘화된 아키텍처 기반 패키지로 기업 요구에 맞는 필요 영역만 구성됐으며 기존 AI와 생성형 AI를 모두 지원하는 것이 특징이다. 정 실장은 왓슨x을 기반으로 비즈니스 혁신을 가속화할 수 있다며 AI와 자동화로 디지털팀의 효율성과 생산성을 높인 골프 대회 마스터스와 설비 정비 및 생산 최적화를 이룬 멕시코 건축자재 기업 세멕스의 사례를 설명해 눈길을 끌었다. 마스터스는 왓슨x를 활용해 모든 라운드에서 모든 홀과 선수에 대한 예측을 제공하고 있다. 6년치 약 12만 개 샷에 대한 데이터 분석과 1천600여 개의 머신러닝 모델 빌드를 활용한 결과다. 또 비디오 클립에서 갤러리 환호도를 평가해 모든 선수의 라운드를 하이라이트 릴스로 자동 생성하는 기능도 지원하고 있다. 세멕스는 왓슨x를 도입한 후 분석 모델 개발에 대한 생산성이 향상됐다. 기존 딥러닝 기반 회귀모델은 공정 및 품질에 필요한 8~10개 모델을 개발하는데 6개월을 소요해 평균 7% 절대 백분율 오류를 나타냈으나 왓슨x의 시계열에 대한 파운데이션 모델을 사용해 6~8주를 들여 공정 및 품질에 대해 동적으로 캡처한 2개 모델을 개발했으며 1% 평균 절대 백분율 오류를 기록했다. 정욱아 실장은 IBM 왓슨x 기술을 활용한 대화형 디지털 레이버 플래폼 '왓슨x 오케스트레이트'를 소개하기도 했다. 왓슨x 오케스트레이트를 활용한 사례에 대한 시연도 이어졌다. HR 채용 업무에 왓슨x 오케스트레이트를 이용하면 화면에 이력서 내용을 찾아서 요약해 이메일을 보낸 후 슬랙에 자동으로 답변을 올리는 모든 작업을 간단한 문장을 입력하는 것만으로도 화면 전환 없이 진행할 수 있다. 또 구매담당자가 투자 정보를 찾아서 폴더를 생성하고 해당 폴더에 입력하는 것도 문장 입력만으로도 업무가 자동으로 진행되는 형태다. 정욱아 실장은 "AI 디지털 레이버 마켓은 2026년까지 5천200억 달러(약 715조 8천억 원) 규모로 성장할 것으로 기대한다"며 "역동적인 시퀀스, 유지, 상호작용, 멀티태스킹, 발견, 보안 등에서 디지털 레이버 기술은 봇 이상의 결과를 이끌어낸다"고 말했다.

2024.05.02 12:23김한준

[컨콜] 삼성SDS "생성형 AI, 공공·유통·제조업종으로 확산 전망"

삼성SDS가 25일 올해 1분기 실적 컨퍼런스 콜을 열고 "생성형 AI 시장이 공공이나 유통, 제조업종으로까지 확산될 것"이라고 전망했다. 이어 "생성형AI는 각 산업분야 생산성을 제고할 것"이라면서 "또 효율성과 혁신을 촉진하고 2026년까지 1조원 규모로 확대될 것"이라고 내다봤다. 그러면서 "2025년부터 AI 응용서비스가 고성장할 것"이라면서 "고객 특성에 맞는 사업을 병행하겠다"고 강조했다.

2024.04.25 14:43이한얼

생성형AI 도입 가로막는 장벽, 해결 방법은

차세대 생존을 위한 필수 기술로 주목받는 인공지능(AI) 도입을 본격화하고, 디지털 전환 가속을 위한 인사이트가 노코드·로우코드 하이퍼오토메이션 컨퍼런스에서 제시된다. 노코드로우코드협의회와 지디넷 코리아가 공동 주최하는 이번 컨퍼런스는 다음 달 2일 서울 양재 엘타워 그레이스홀에서 개최하며 온라인 중계도 진행할 예정이다. 국내외 주요 AI, 자동화 전문기업들이 공공⋅금융⋅제조 등 산업 각 분야에서의 업무 자동화를 위한 AI도입 방안과 불황 속 기업의 생존 전략을 선보인다. 과학기술정보통신부 강도현 차관이 축사하며 과학기술정보통신부 이상민 과장이 키노트 발표를 진행할 예정이다. 노코드로우코드 협의회 회장인 배영근 비아이매트릭스 대표가 생성형 AI를 접목한 노코드 솔루션을 선보이며, 삼성SDS 신계영 상무와 한국IBM 정욱아 실장은 기업의 AI 도입을 위한 전략과 사례 등을 발표한다. 이어진 세션에서는 실제 산업 현장에서 노코드와 로우코드, AI를 활용한 자동화 혁신 전략을 제시한다. 관람객이 현장에서 참가사의 솔루션을 체험할 수 있는 전시부스도 마련된다. 전 산업분야에서 생성형 인공지능(AI)의 중요성이 커지며 빅테크들은 관련 기술 확보를 위해 경쟁적으로 대규모 투자를 진행하고 있다. 하지만 실제 현장도입은 이러한 인식에 미치지 못하고 있다. IBM이 지난해 작년 11월 한국을 포함한 전 세계 20개국의 2천342명의 IT 전문가를 대상으로 실시한 설문조사에 따르면 응답자 중 40%가 여전히 AI를 배포하지 못한 채 검토하는 단계라고 답했다. 시스코가 발표한 조사자료에서는 AI 도입 및 활용 준비가 완료된 기업은 5%에 불과한 것으로 나타났다. 지속된 불황으로 투자 심리가 얼어붙었을 뿐 아니라 경영진의 AI기술에 대한 이해도 부족이 AI 도입을 막는 진입장벽으로 작용한다는 분석이다. 성공적인 국내 롤모델이 아직 제시되지 못한 것 역시 AI 확산이 더딘 요인으로 꼽힌다. 이러한 장벽을 넘어서기 위해 노코드, 로우코드 등 자동화 솔루션을 먼저 도입하며 IT역량을 확보하고 디지털전환(DX)에 적합한 기업 문화를 임직원에게 학습시키는 사례가 늘고 있다. 배영근 노코드로우코드 협의회 회장은 “이번 행사에서는 AI 시대에 주요 키워드로 주목받고 있는 노코드와 로우코드, 그리고 고급 자동화 기술인 하이퍼오토메이션을 활용한 디지털 혁신 전략을 소개한다”며 “이러한 혁신적인 기술은 A의 발전과 함께 더욱 확장되어 우리의 비즈니스와 사회에 혁명적인 변화를 가져올 것”이라고 말했다. 이어서 “이번 컨퍼런스를 통해 AI 기술과 융합된 로우코드, 하이퍼오토메이션등 최신기술에서 디지털 혁신의 가능성을 발견하고 인사이트를 얻을 수 있기를 바란다”고 강조했다.

2024.04.23 17:11남혁우

세일즈포스 "AI 시대에도 통합과 연계는 중요한 과제"

“AI 시대에 통합과 연계는 여전히 중요한 과제다. 기업의 개발자가 번아웃을 일으키는 주요 요건 중 하나가 통합, 연계, 자동화 같은 일 때문에 생산적인 일에 몰두하지 못하기 때문이다.” 세일즈포스코리아 이성 상무는 지디넷코리아가 17일 서울 인터컨티넨탈코엑스에서 개최한 '제21회 어드밴스드컴퓨팅컨퍼런스플러스(ACC+) 2024'에서 이같이 밝혔다. 세일즈포스 뮬소프트는 얼마전 자동화 및 디지털 통합 현황과 AI 전략 구축 인사이트를 담은 '2024 연결성 벤치마크' 보고서를 발표했었다. 뮬소프트의 이번 보고서는 미국, 영국, 프랑스, 일본 등 전 세계 9개국의 1천50명의 CIO 및 IT 부문 리더들을 대상으로 작년 10월부터 11월까지 진행한 연구조사에 기반한다. 조직 내 IT 부문 리더 중 85%는 AI를 통해 개발자의 업무 생산성이 향상할 것이라고 응답했다. 반면, AI의 중요성에도 불구하고 62%는 조직에서 아직 AI 활용에 필요한 데이터 시스템 통합이 준비되어 있지 않다고 답했다. 보고서에 따르면, 기업의 운영 효율성, 생산성, 직원 및 고객경험 향상 등을 위한 성공적인 AI 전략은 데이터 통합에 달린 것으로 나타났다. 설문 응답자의 80%는 이미 조직 내에서 생성형 AI 또는 예측형 AI를 활용하고 있는 가운데, 근 3년 내 조직이 활용하고 있는 LLM 수가 69% 이상 늘어날 것이라고 예상했다. 기업 내 데이터 및 시스템에 연동된 앱은 약 28%에 불과했으며, 응답자의 95% 이상은 기업의 AI 도입에 시스템, 장치, 소프트웨어, 데이터 소스 등의 '디지털 통합'이 당면과제라고 답했다. 이성 상무는 “평균적으로 기업이 보유한 애플리케이션 수가 900여개 정도라고 하는데, 트랜잭션 한번 일어날 때마다 32개 시스템을 연결해야 한다”며 “투자 비용은 늘지 않지만, 점점 더 많은 기술 스택을 지원해야 하는 과제 때문에 통합의 복잡성은 중요한 문제가 되고 있다”고 말했다. 그는 뮬소프트의 API 관리와 통합 영역을 설명하면서 복잡한 시스템 연계를 어떻게 자동화할 수 있는지 설명했다. 그는 “뮬소프트는 API를 레이어별로 구분해 느슨하게 연계하는 방식으로 기술을 지원하고 있다”며 “이를 통해 타임투마켓에 맞춰 애플리케이션을 개발한 다음에 API를 땡겨가면 되므로 실제로 전체적인 영향도나 안정성 이에 대해서 시간을 최소화하고, API 재사용성을 극대화할 수 있다”고 밝혔다. AI 도입 및 통합된 고객경험을 제공하기 위해서는 데이터 사일로 해결이 급선무인 것으로 나타났다. 조사 결과, 81%의 IT 리더는 데이터 사일로가 디지털 혁신에 있어 가장 큰 어려움이라고 답했으며, 약 26%만이 전체 디지털 채널에서 연결된 사용자 경험을 제공하고 있다고 밝혔다. 이와 관련해 뮬소프트는 AI를 도입하고 운영하기 위해서 모든 비즈니스 데이터를 통합할 수 있는 시스템의 필요성이 증가하고 있다고 설명했다. 뮬소프트는 노코드 기반의 자동화, API, 데이터 및 시스템 통합을 지원하는 유니파이드 플랫폼으로 새로운 장치, 소프트웨어, 버전 및 데이터 소스를 쉽고 빠르게 통합 및 연동할 수 있도록 지원한다. 이를 통해 기업은 빠르게 변화하는 내·외부 환경에도 민첩한 대응 역량을 확보할 수 있다. 지난 18년간 뮬소프트는 글로벌 생활용품 기업 유니레버, 유럽 항공기 제작사 에어버스, 미국의 통신사인 AT&T, 프랑스의 보험 금융 그룹 AXA, 스포츠 브랜드 아식스 등 전 세계 기업의 디지털 혁신을 지원했다.

2024.04.17 16:59김우용

"오라클 데이터베이스 23c는 생성형 AI의 기반"

“곧 정식 출시될 오라클 데이터베이스 23c는 기업에서 필요로 하는 AI 핵심 요소를 제공한다. 오라클 데이터베이스는 지속적으로 다양한 포맷을 수용하는 통합 데이터베이스를 표방한다. 새 버전은 JSON과 관계형 DB를 혼합하고, AI에 가장 필요한 검색증강생성(RAG)을 지원하는 벡터 검색을 제공하게 된다. 오라클 데이터베이스 23는 AI의 근간 인풋인 데이터의 기반을 제공한다.” 허양호 한국오라클 전무는 지디넷코리아가 17일 서울 인터컨티넨탈코엑스에서 개최한 '제21회 어드밴스드컴퓨팅컨퍼런스플러스(ACC+) 2024'에서 이같이 밝혔다. 향후 출시되는 오라클 데이터베이스 23c는 새로운 기능으로 JSON 듀얼리티 뷰와 AI 벡터 검색 등을 제공한다. 관계형 데이터베이스 형식과 JSON 형식을 한 테이블에 저장할 수 있는 기능과 AI의 기업 내부 데이터 접근을 가능하게 하는 벡터 DB 기능이다. 허양호 전무는 “오라클 데이터베이스 23c의 JSON 듀얼리티 뷰를 이용하면 JSON 데이터 변환작업을 DB 차원에서 자동으로 해주고, JSON 데이터를 DB 테이블에 자동으로 알아서 저장한다”며 “이 테이블에 있는 데이터를 읽으면 JSON 포맷으로 다시 복귀해 보여준다”고 설명했다. 그는 “그 리턴 값을 다시 수정해서 JSON 뷰에 넣으면 그 업데이트된 내용이 자동으로 다시 DB 테이블에 저장돼 모든 변환에 필요한 복잡한 과정을 자동화할 수 있다”고 강조했다. 생성형 AI의 기술은 데이터에 연관성을 부여하는 벡터화를 활용한다. 벡터 정보를 위한 별도 데이터베이스가 요구되는데, 오라클 데이터베이스 23c를 사용하면 기존 DB로 벡터 검색을 지원할 수 있다. 허 전무는 “AI 환각을 해결하는 단어로 요즘 RAG가 각광받고 있다”며 “벡터 DB는 정형 및 비정형 데이터를 수치화해 벡터 형태로 저장하는 것으로, 그 의미 검색을 지원해 최신화된 데이터를 언제든 연동해서 사용할 수 있게 한다”고 말했다. 그는 “오라클 데이터베이스 23c에서 이 벡터 DB를 함께 매핑해 지원함으로써 기업 내부에 데이터를 LLM에 더해 프롬프트를 자동으로 생성할 수 있고, 기업에게 실질적으로 필요한 전문적 답변을 받게 한다”고 강조했다. 그는 데이터베이스 제품 외에 오라클클라우드인프라(OCI) 서비스의 AI 요소도 설명했다. 그는 “오라클 OCI는 AI 데이터의 수집, 저장, 처리, 분석, 학습, 활용, 배포, 관리 등에 이르는 엔드투엔드 데이터 파이프라인 관리 서비스를 제공한다”고 밝혔다. 오라클은 자사의 퍼블릭 클라우드 서비스의 강점으로 저렴한 비용, 고성능, 유연성, 보안 등으로 꼽는다. OCI의 모든 기능과 요소를 프라이빗 클라우드, 전용 리전, 멀티클라우드에 걸쳐 동일하게 제공하는 구성도 제공한다. 허 전무는 “AI의 가장 중요한 것 중 하나가 보안이므로, 프라이빗 클라우드를 원하는 고객에게 OCI의 클라우드앳커스터머와 전용 리전은 매우 큰 이점을 제공한다”고 말했다.

2024.04.17 16:42김우용

지코어 "삶을 바꾸는 생성 AI의 위치는 엣지"

“인공지능(AI)이 인류의 미래를 바꿀 것이라 전망되지만, AI가 어떻게 산업에 연결돼 서비스로 다가오고 경제 생활을 만들어낼 지 알 수 없다. 가시적인 변화는 AI가 생산성으로 이어져야 가능할 것이다. 일반인공지능(AGI)도 중요한 문제고 인류의 미래를 바꾸겠지만, 기업의 먹거리와 인류의 삶을 바꾸는 AI는 결국 엣지에서 있을 것이다.” 지코어코리아 김진용 팀장은 지디넷코리아가 17일 서울 인터컨티넨탈코엑스에서 개최한 '제21회 어드밴스드컴퓨팅컨퍼런스플러스(ACC+) 2024' 기조연설에서 이같이 밝혔다. 김진용 팀장은 "생성형 AI는 2년도 안 돼 부풀려진 기대치의 정점을 찍었고, 곧 환멸의 골짜기에 도달할 것으로 보인다”며 “생성형 AI 기업의 운영 비용은 월 100만달러에 달하는 큰 부담을 주고 실질적인 이익을 벌어들이지 못하는 상황이기 때문”이라고 설명했다. 김 팀장은 “현 시점에서 필요한 것은 기존 자산을 잘 조합하고 새로운 아이디어를 고안해내서 새로운 혁신을 이루는 것”이라며 “AI 학습과 추론, 모델을 묶어서 사용자 가까이 있는 디바이스와 안전한 통신으로 연결되는 모든 세트를 갖춰야 한다”고 강조했다. 지코어는 160개 이상의 국가와 지역에 PoP를 운영하고 있다. 강력하고 안전한 클라우드 및 엣지 AI에 대한 노하우를 보유하고 있는 기업이라고 스스로를 강조한다. 특히 생성형 AI 학습과 추론에 필요한 전용 인프라를 클라우드 서비스로 제공하고 있다. 최근 지코어코리아는 한국 데이터센터를 개소했다. 품귀현상을 보이는 엔비디아 H100 텐서코어 GPU 서버를 설치했다.지코어의 H100 기반 AI 퍼블릭 클라우드 서비스는 SMX5 타입의 H100 GPU를 각 8개씩 탑재한 서버들을 대규모 클러스터로 구성해 강력한 컴퓨팅 능력을 제공한다. AI학습 성능에 가장 큰 영향을 미치는 GPU간 연결을 모두 인피니밴드 NDR(400Gbps)로 구성해 각 서버당 대역폭을 3.2Tbps로 제공한다. 김진용 팀장은 “생성형 AI의 아키텍처는 기존 엔터프라이즈용 애플리케이션과 달리 서비스 부분에서 많은 자원이 필요하다”며 “지코어는 훈련용과 추론용 인프라로 GPU 자원을 제공하며, 더 특별한 수요에 대응하는 IPU도 제공한다”고 말했다. 지코어의 또 다른 강점은 네트워킹 인프라다. 콘텐츠딜리버리네트워크(CDN)에서 시작한 회사란 장점을 살려 초저지연시간을 보장하는 고속 네트워크를 생성 AI에 제공할 수 있다. 지코어의 클라우드 컴퓨팅은 '서버리스 컴퓨팅'에 기반한다. 거대언어모델(LLM)을 사용할 때 자원 할당을 별도로 하지 않아도 되며, 실제로 모델을 작동시키는 양만큼만 비용을 내면 된다. 그는 “AI는 지연시간에 민감한 서비스기에 지코어는 글로벌 평균 26밀리초의 지연시간을 유지하며, 한국의 경우 한자릿수 밀리초의 지연시간으로 이용할 수 있다”며 “다양한 LLM을 기업이 모두 미리 깔아놓을 수 없으므로 정말 필요할 때 자원과 모델을 곧바로 활용할 수 있도록 서버리스 컴퓨팅으로 제공하고 있다”고 설명했다. 지코어는 중앙의 인프라와 네트워킹에 더해 엣지 단계에서 AI 모델 추론을 수행할 수 있는 환경도 제공한다. '인퍼런스앳더엣지'란 서비스는 160여개 지코어 POP의 캐싱서버에 암페어 알트라맥스와 엔비디아 L40S 칩을 두고 고객의 AI 서비스를 구동할 수 있게 한다. 필요한 LLM도 캐싱해 빠르게 제공할 수 있으며, 유사한 추론을 반복적으로 하게 되는 상황을 감안해 모델응답을 캐시할 수 있다. 김 팀장은 “사용자가 지코어 기잔의 AI 서비스에 접속하면 인퍼런스앳더엣지의 AI 칩으로 다양한 모델을 끌어와 서비스를 돌릴 수 있다”며 “지리적 혹은 정치적 이유에 따른 규제 차이에 맞게 답변과 모델에 차이를 둬야 할 때도 맞춤형으로 대응가능하다”고 말했다. 그는 여기에 '5G 보안 네트워크' 기반으로 생성 AI와 사용자 디바이스를 연결할 수 있다고 했다. 사용자, 기업 등의 데이터가 외부에 유출되지 않도록 제로트러스트 네트워크를 통해 정보를 주고 받을 수 있다. 그는 “어떤 IoT 디바이스든 데이터를 실제 AI 서비스 장소까지 안전하게 전달하는 센서 데이터 보안 확보가 가능하다” 그는 “지코어의 서비스를 통해 '모든 것의 인터넷(IoT)'에서 '모든 것의 AI(AioT)'라 할 수 있게 된다”며 “지코어는 앞으로 AI 시장이 우리 현실 속에 들어온 엣지 디바이스에서 일어날 것으로 생각하며 이를 실현하기 위해 어느 기업보다 먼저 아키텍처를 고안해 선보이고 실제로 잘 움직이도록 잘 조율해 서비스에 녹여왔다”고 강조했다.

2024.04.17 11:53김우용

AWS코리아, 다음달 'AWS서밋서울 2024' 개최

아마존웹서비스(AWS)코리아는 다음달 16일과 17일 양일간 서울 코엑스에서 'AWS 서밋 서울 2024'를 개최한다고 16일 발표했다. 올해로 10주년째인 'AWS 서밋 서울'은 클라우드 기술 컨퍼런스다. 2015년부터 10만 명 이상의 고객이 참여했다. 이 행사는 각 기업 및 정부 부처의 리더와 개발자 및 일반 대중이 한자리에 모여 생성형 AI 및 업계의 최신 동향과 AWS 서비스에 관해 소통·협업하고 배울 수 있는 무료 교육 행사다. 올해 AWS 서밋 서울은 10주년을 기념해 2015년 첫 행사 이래 최대 규모로 개최될 예정이다. 서밋 참가자들은 지난 10년 간의 AWS 서밋의 여정을 살펴보는 동시에, 혁신을 강화하고 미래를 변화시키고자 하는 AWS의 비전을 현장에서 경험할 수 있다. 이번 서밋에서는 기조연설과 세션, 엑스포를 통해 생성형 AI를 중점적으로 다룰 예정이다. 행사는 클라우드 및 생성형 AI 혁신을 다루는 70개 이상의 고객사 세션을 포함한 100개 이상의 세션으로 구성되며, 60개 이상의 파트너사가 세션 및 엑스포 부스를 통해 AWS 에서 운영되는 다양한 서비스를 선보인다. 행사 첫날은 함기호 AWS 코리아 대표의 기조연설로 시작된다. 함기호 대표는 올해로 10주년을 맞이하는 서밋의 의의, 올해 행사 내용 소개와 함께 AWS의 국내 투자 및 지원에 대해 발표하고, 이어서 프란체스카 바스케즈 AWS 프로페셔널 서비스 및 생성형 AI 혁신센터 부사장이 AI 기반 혁신의 미래에 대해 이야기할 예정이다. AWS 고객사와 파트너사인 앤스로픽, SK텔레콤, 우아한형제들이 AWS와의 협력 및 클라우드 기술 기반 디지털 혁신 성공사례를 기조연설을 통해 공유할 예정이다. 행사 둘째 날 기술적인 영역에 집중해 생성형 AI를 중심으로 AI와 머신러닝(ML), 분석, 보안, 데브옵스, 최신 애플리케이션, 서비스형 소프트웨어(SaaS), 마이그레이션 전략 등의 최신 기술에 대해 심도 있게 다룰 예정이다. 버너 보겔스 아마존 부사장 겸 CTO와 맷 우드 AWS 제품 담당 부사장의 화상 기조연설, 그리고 인프랩, 카카오페이증권, 센드버드 및 윤석찬 AWS 수석 테크 에반젤리스트의 현장 기조연설을 통해 AWS의 주요 서비스 및 기술에 대한 종합적인 인사이트를 선보일 예정이다. 방문객은 양일 간 현장 엑스포를 통해 새로운 기술 아이디어와 최신 트렌드를 경험할 수 있다. 특히 체험존에서는 모빌리티, 로보틱스 등 다양한 산업군과 연계된 생성형 AI 기반의 창의적인 솔루션에 대한 데모가 시연될 예정이다. 고객들은 현대자동차와 AWS의 협업을 기반으로 생성형 AI로 구동되는 스마트 모빌리티의 혁신을 체험할 수 있으며, 다양한 AWS 서비스를 통해 작동하는 언어와 댄스 동작을 구현하는 AI 기반 로봇도 만나볼 수 있다. 함기호 AWS코리아 대표는 “지금까지 10만여 명에게 새로운 인사이트를 제공해 온 AWS 서밋 서울이 어느덧 올해로 10주년을 맞았다”며 “AWS는 앞으로도 생성형 AI 시대를 위한 핵심 역할을 하며, 고객과 함께 산업과 기업 전반의 혁신을 주도해 나갈 것”이라고 밝혔다. 그는 “국내 최대 규모의 클라우드 행사인 이번 AWS 서밋 서울 2024를 통해 조직의 효율성과 성장력 제고를 위한 생성형 AI와 클라우드 기술 활용에 관한 귀중한 인사이트와 경험을 얻어 가실 수 있기를 바란다”고 강조했다.

2024.04.16 10:23김우용

VM과 컨테이너를 병용하며 AI를 도입하는 확실한 전략

클라우드는 인프라 현대화를 넘어 애플리케이션 현대화 시대로 나아가고 있다. 클라우드 네이티브 기술의 핵심인 컨테이너, 쿠버네티스 등이 새롭게 만들어지는 클라우드향 애플리케이션의 토대를 이루고 있다. 그러면서 한때 IT시스템 혁신의 선두역할을 했던 서버 가상화 기술이 레거시 기술로 여겨진다. 애플리케이션 현대화는 구식 시스템을 최신 클라우드 네이티브 기술 기반으로 교체해 급변하는 IT 트렌드에 유연하고 민첩하게 대응하려 추진된다. 현재 당연하게 활용되는 기저의 클라우드 네이티브 기술이 컨테이너와 쿠버네티스다. 기존에 구축한 시스템을 한꺼번에 교체하기 어려울 수 있다. 서버 가상화 기술은 앞으로도 많이 사용될 전망이다. KBV리서치의 조사에 따르면, 세계 가상머신(VM) 시장은 2030년까지 303억달러 규모를 형성할 것으로 예측된다. 그사이 연평균 성장률(CAGR)이 15.8%로 예상됐다. 컨테이너를 VM과 통합하는 환경을 구축하면 워크로드 관리에 더 유연성을 얻을 수 있고, 컨테이너와 VM 간 원활한 전환을 추구할 수 있다. 서버 가상화는 장기적으로 애플리케이션 현대화에 걸림돌일 수 있다. 하지만 가상화 환경과 컨테이너 환경을 이원화 운영하기는 어렵고 복잡하다. 그래서 우선 컨테이너와 가상화를 단일한 제어환경으로 통합한 뒤 점진적으로 컨테이너 기반의 마이크로서비스 환경으로 전환해 가는게 적절한 방안으로 제시된다. 인공지능(AI)·머신러닝(ML) 같은 최신 워크로드는 리소스를 많이 할애해야하므로 컨테이너 환경이 적합하다. 다만, 기존의 기업용 애플리케이션까지 컨테이너로 전환해야 하는가는 세부 상황을 따져봐야 한다. 레드햇은 가상화 또한 클라우드 네이티브 가상화를 실현할 수 있도록 지원하며 레거시 가상화 기술과 최신 컨테이너 기술이 공존할 수 있는 방법을 제시하고 하고 있다. 레드햇은 오픈시프트AI를 비롯한 AI 솔루션을 통해 AI·ML 및 ML옵스를 더욱 효과적으로 도입할 수 있도록 지원하는 개방형 아키텍처를 제공한다. 레드햇은 기존 가상화를 활용할 수 있는 방안과 더불어 AI 솔루션을 효과적으로 도입하기 위한 방안을 제시한다. 레드햇은 단계적 해법을 제안한다. 먼저, 가상화와 컨테이너를 오픈시프트 플랫폼으로 통합 운영하고, 한번에 모든 인프라를 변경하기보다 VM을 컨테이너와 혼용하면서 단계적으로 전환하며, 컨테이너 도입 비중을 늘려서 애플리케이션 현대화를 완수하는 것이다. 이 전략을 통해 기존 가상화 시스템과 인프라를 활용하면서도 리소스가 많이 활용되는 워크로드도 해결할 수 있게 된다. 무엇보다 클라우드 네이티브 가상화에서 나아가 컨테이너를 통한 애플리케이션 현대화를 위한 기반을 마련할 수 있다. 개발자는 오픈시프트를 통해 쿠버네티스의 이점을 유지하면서 VM에 필요한 아키텍처를 활용하고, 레거시를 운영하면서 동시에 애플리케이션을 컨테이너로 리팩토링할 수 있다. 컨테이너, VM, 서버리스 등의 워크로드를 통합된 환경에서 단일한 개발 방법론과 경험으로 개발할 수 있게 된다. 컨테이너로 VM을 변경하는 과정을 거치지 않고도 VM에 클라우드 네이티브의 이점인 확장성과 자동화 요소를 접목할 수 있다. 운영자는 데브옵스를 매우 효율적으로 구성할 수 있다. 오픈시프트의 셀프서비스 기능을 VM에서 이용하면, 워크로드 관리권한을 담당 현업이나 개발팀에 넘겨주고 인프라와 플랫폼 유지보수에 더 집중할 수 있다. 기업은 레드햇 오픈시프트 가상화(Redhat OpenShift Virtualization)를 활용해 기존 VM을 쿠버네티스 기반으로 이동한다. 다음으로 비즈니스 로직에 큰 변화를 주지 않고 VM웨어를 컨테이너로 전환할 수 있다. 운영중인 애플리케이션을 마이크로서비스로 리팩토링하는 게 가능하다.마지막으로 클라우드 네이티브 개발 접근법을 활용해 새로운 버전의 애플리케이션을 개발하는 동안 레거시 환경을 지속적으로 실행할 수 있는 기반을 재구축한다. 레드햇 오픈시프트는 기본적으로 KVM이란 가상화 기술 위에서 작동한다. 레드햇가상화(RHV), 오픈스택에서도 활용되는 가상화 환경과 동일하다. 레드햇 오픈시프트 가상화는 레드햇엔터프라이즈리눅스(RHEL) 코어OS 기반의 게스트 OS를 무제한으로 생성할 수 있다. 마이크로소프트 서버가상화검증프로그램(SVVP)을 통해 마이크로소프트 윈도 게스트 OS도 지원한다. 레드햇 오픈시프트는 세가지 종류로 나뉜다. 리눅스 환경에 쿠버네티스와 쿠버네티스 클러스터 서비스를 포함하는 '레드햇 오픈시프트 쿠버네티스 엔진'과, 그 엔진 위에 워크로드 관리, 클라우드 네이티브 앱 빌드, 데이터 서비스, 개발자 생산성 기능 등을 제공하는 '레드햇 오픈시프트 컨테이너 플랫폼', 여기에 멀티클러스터 관리, 클러스터 보안, 글로벌 레지스트리, 클러스터 데이터 관리 등의 기능까지 제공하는 '레드햇 오픈시프트 플랫폼 플러스' 등이다. VM을 오픈시프트 가상화로 이전하면 이같은 레드햇 오픈시프트 제품군의 모든 기능을 이용할 수 있다. 레드햇은 기존 VM웨어 환경의 VM을 오픈시프트로 이전할 수 있는 '마이그레이션 툴킷 포 버추얼라이제이션((Migration Toolkit for Virtualization, MTV)'을 제공한다. 이 도구를 활용하면 대규모 VM을 무중단에 가깝게 마이그레이션할 수 있다. 전통적인 VM 작업인 관리자 개념과 작업, 네트워크 및 스토리지 연결, 라이브 마이그레이션 등을 최신 플랫폼에서 동작시킬 수 있다. 전통적인 VM에 담긴 비즈니스 크리티컬 애플리케이션을 유지 관리하면서 시간을 두고 기술 세트를 현대화할 수 있다. 운영자는 오픈시프트 프로젝트 단위로 VM 권한을 현업 담당자나 개발자에게 부여할 수 있다. VM 프로비저닝도 레드햇 앤서블 자동화 도구를 활용해 하드웨어부터 모든 설정에 이르기까지 단순화할 수 있다. VM은 컨테이너와 기본적으로 동일한 네트워크 상에 올라가 있으므로, VM과 컨테이너의 연결이 매우 자유롭다. 오픈시프트 위의 VM은 컨테이너와 동일한 소프트웨어정의네트워킹(SDN) 네트워크에 연결되며, 쿠버네티스의 서비스, 라우트, 인그레스, 서비스메시, 파이프라인, 깃옵스 등 표준 방식으로 접근할 수 있다. 네트워크 정책은 컨테이너 POD와 동일한 방식으로 VM에 적용된다. 네트워크 연결에 따라 SDN이나 인그레스를 통해 VM-POD 혹은 반대로 통신도 가능하다. 전세계적인 AI 열풍에 따라가려면 신규 AI·ML 도입을 위한 효과적인 애플리케이션 현대화 전략이 필요하다. 디지털 환경에서 데이터는 중요한 경쟁력은 데이터의 양뿐 아니라 데이터를 어떻게 활용하느냐다. 컨테이너와 쿠버네티스는 데이터 활용에 필요한 시스템을 유연하고 민첩하게, 확장가능하게 구축할 수 있으므로 AI/ML에서 대부분 활용된다. 레드햇 오픈시프트AI는 검증된 기술 포트폴리오, 입증된 전문성, 전략적 파트너십 등을 제공해 기업의 AI/ML 목표 실현을 지원한다. 레드햇 오픈시프트는 온디맨드 컴퓨팅 리소스, 하드웨어 및 GPU 가속 지원, 온사이트와 퍼블릭 클라우드 및 엣지 환경 전반의 일관성을 통해 성공 필요한 속도와 유연성을 제공한다. 레드햇 오픈시프트 AI는 AI/ML 모델 및 애플리케이션의 라이프사이클을 교육, 서비스, 모니터링, 관리할 수 있고, 엔비디아, 인텔, 스타버스트, 아나콘다, IBM, 파키덤(Pachyderm) 등 주요 인증 파트너 제품을 통합하는 일관된 협업 환경을 통해 실험 단계에서 프로덕션으로 이동할 수 있다. 이같은 기존 VM 활용과 신규 AI 도입을 위한 효과적인 애플리케이션 현대화 방안은 오는 17일 인터컨티넨탈서울코엑스 하모니볼룸에서 열리는 'ACC+ 2024' 행사에서 더 자세히 확인할 수 있다. ACC+ 2024는 AI와 더불어, 빅데이터, 클라우드, 보안 등 최신 IT 솔루션과 서비스를 확인할 수 있는 세미나와 함께 직접 경험할 수 있는 기업 전시부스를 다양하게 운영한다. 사전 등록을 통해 행사에 참가할 수 있으며, 현재 얼리버드 등록 이벤트를 통해 할인 혜택을 제공하고 있다. 사전 등록과 등록 문의는 공식 웹사이트를 통해 가능하다.

2024.04.15 11:24김우용

"AI 대중화 주도"…뤼튼, 유저 컨퍼런스 성료

뤼튼테크놀로지스(대표 이세영)가 인공지능(AI) 대중화 시대를 이끌겠다고 발표했다. 뤼튼은 지난 6일 서울 마포구 프론트원에서 '제1회 유저 컨퍼런스'를 성료했다고 9일 밝혔다. 'OO할 땐 뤼튼!'을 주제로 열린 이번 컨퍼런스는 뤼튼 사용자 대상으로 데이터 과학자, 교사, 소프트웨어(SW) 엔지니어, 비즈니스 전문가, 크리에이터 등 다양한 분야 연사를 초청해 AI 활용법과 노하우를 공유하는 자리다. 이번 행사는 뤼튼 서비스 출시 후 오프라인에서 처음 개최한 사용자 컨퍼런스다. 전국 각지에서 200여명의 참가자가 사전 신청을 통해 참가했다. 10대부터 70대까지 모든 연령대에서 고르게 참석했다. 참석자는 기업 임원, 교사, 교수, 방송작가, 학생, 마케터, 개발자, 금융·여행·의료업 종사자 등 다양한 직업군으로 이뤄졌다. 이날 컨퍼런스를 시작하며 뤼튼 고객경험팀 진대연 리드는 "예상보다 다양한 연령대와 직군 사용자들이 참가해 한편으로는 큰 책임감도 느꼈다"며 "지속적으로 이런 자리를 마련해 사용자 의견에 귀를 기울이고 유용한 AI 활용 노하우를 공유하겠다"고 밝혔다. 이어진 본 순서에서는 각 분야 전문 연사들이 등단해 ▲특수학생 개별화교육의 뤼튼 활용 사례 ▲MZ 대학생을 위한 AI 활용법 ▲공교육 환경 혁신으로 바라본 AI 리터러시 ▲AI를 활용한 일하는 방식 혁신, ▲AI 콘텐츠로 마케팅 역량 강화, ▲AI 크리에이터 경쟁력 ▲뤼튼과 SNS 새 패러다임 등 7개 세션을 진행하며 AI 활용법과 노하우를 공유했다. 세션 후에는 연사와 참가자들이 함께 소통하는 패널 토크와 네트워킹 시간이 이어졌고, 컨퍼런스 현장에서는 AI 검색 및 AI 캐릭터 제작 체험관과 포토존도 운영됐다. 이세영 뤼튼 대표는 "아무리 좋은 AI 기술이 있어도 일반 대중들이 쉽게 이용하지 못하거나 혜택을 체감할 수 없다면 한계가 명백하다"며 "뤼튼은 앞으로 이번 컨퍼런스와 같은 자리를 통해 사용자들과 적극 소통하며 더 좋은 서비스와 기술로 AI 대중화를 주도해 나가겠다"고 밝혔다.

2024.04.09 10:02김미정

AI 플랫폼, 성능과 지속가능성 함께 잡는 전략은

전 세계 기업이 AI로 다양한 문제를 해결하고 비즈니스 성장을 이끌고 있는 가운데, 기존의 데이터 관련 접근 방식은 막대한 초기 투자와 높은 에너지를 소비해 지속가능성 면에서 우려를 낳고 있다. 대화형 AI 서비스, 문서 초안 작성, 이미지 및 동영상 생성, 작곡 등을 수행하는 모든 AI 모델은 시간당 메가와트 단위의 막대한 서버 운영 비용을 발생시킨다. AI 모델의 전력 소비량을 정확히 추정하는 건 어렵다. AI 개발과 운영에 필요한 GPU의 전력 외에 CPU, 저장매체, 스토리지, 네트워킹 등의 전력도 전체 에너지 소비에 영향을 주며, 데이터센터의 냉각과 공조에 소비되는 전력도 무시할 수 없다. AI 모델의 소비 전력량은 이같은 여러 요소를 종합적으로 판단하고, 각 인프라 상황에 따라 달라질 수 있다. AI 모델의 전력 소비량은 학습과 추론에 따라 다르게 볼 수 있다. 2022년 발표된 한 논문에 따르면, 오픈AI의 GPT-3를 학습시키는 데 1천300메가와트시(MWh) 수준의 전력이 필요한 것으로 추정된다. 이는 넷플릭스 동영상 스트리밍을 162만5천시간동안 지속하는 양이다. 허깅페이스와 카네기멜론대학교의 알렉산드라 사샤 루치오니 박사의 작년 12월 연구 조사에 의하면, AI 모델의 샘플 1천건 분류에 0.002킬로와트시(kwh)를 소비하는 반면, 텍스트 생성 작업을 1천번 실행하는데 평균 0.0476kWh의 에너지를 사용한다. 이미지 생성 모델은 1천회 추론당 평균 2천907kWh 전력을 사용하는 것으로 나타났다. 이 연구는 학습보다 추론에 더 많은 전력을 사용한다는 것을 보여준다. 또 엔비디아 GPU의 비트코인 채굴 시 전력 소비량을 계산했던 알렉스 드 브리에스 VU 암스테르담 박사과정 후보자의 작년 연구에 의하면, AI 부문은 2027년까지 매년 85~134테라와트시(TWh)를 소비할 것으로 예측됐다. 이는 네덜란드 연간 전력수요와 비슷한 수준이다. 드 브라이스는 2027년까지 AI 전력 소비가 전세계 전력 소비의 0.5%를 차지할 것이라고 전망했다. 국제에너지기구는 2022년 현재 데이터센터의 전력 사용량을 약 460TWh로 추정하면서 2026년까지 620~1천50TWh로 증가할 것이라고 최근 보고서에서 추정했다. 이같은 급격한 전력 소비량 증가세는 AI 수요의 영향 때문이다. 여러 연구자들은 AI 모델을 전력 소비를 절감하는 방향으로 구성하면 에너지 소비량을 크게 줄일 수 있다고 강조한다. 지금까지 AI 모델 개발과 운영은 주로 성능 개선에만 초점을 맞추고 발전해왔고, 현 상황부터 에너지 절감에 초점을 맞추면 얼마든지 개선할 수 있다는 것이다. 연구자들은 AI 인프라 관련 제조사에서 제품 전략을 지속가능성이란 한방향으로 맞추면 달성할 수 있다고 조언한다. AI 모델의 성능과 에너지 절감 즉, 지속가능성을 함께 달성하는 여러 방법 중 하나로 가장 활발한 주장을 내놓는 회사는 퓨어스토리지다. 퓨어스토리지는 고가용성 올플래시 스토리지인 플래시블레이드를 AI 데이터 플랫폼 솔루션으로 제시하면서 데이터센터의 에너지 절감을 주요 강조점을 내세우고 있다. AI 프로젝트의 성공은 방대하고 다양한 종류의 데이터 처리에 달려 있다. 정형 데이터뿐 아니라 수집, 저장, 분석이 까다로운 비정형 데이터 관리에 최적화된 퓨어스토리지의 플래시블레이드는 파일과 오브젝트 모두를 지원하며, 데이터 크기나 액세스 패턴에 관계없이 우수한 성능을 제공한다. 플래시블레이드는 데이터 증가에도 성능을 유지하는 스케일아웃 구조를 갖추고 있어, 성능과 용량을 필요에 따라 유연하게 확장할 수 있으며 다양한 스케일의 AI 수요를 충족시킨다. 퓨어스토리지는 올플래시 스토리지를 통해 AI 데이터 운영을 간소화하고, 컨테이너화된 AI 환경에서 셀프 서비스 기능 및 서비스수준협약(SLA) 기반 리소스 프로비저닝을 제공한다. 경쟁 솔루션 대비 에너지 사용량과 데이터센터 내 상면 공간을 최대 80%까지 절감하고, 전자 폐기물을 85%까지 감소시켜 데이터센터 비용 절감에도 크게 기여한다. 기존 AI 데이터 스토리지는 용량 확장만 가능할 뿐, GPU 발전에 따른 성능 향상은 어려웠다. 구축과 최적화에 장시간이 소요되며, 내구연한에 이를 경우 최신 하드웨어로의 업그레이드가 필요하지만 무중단 업그레이드는 불가능했다. 이에 퓨어스토리지는 클라우드와 같은 구독형 모델을 올플래시 스토리지에 접목했다. 퓨어스토리지는 클라우드와 같은 구독형 모델을 올플래시 스토리지에 적용하여, 기업이 스토리지를 사용하는 만큼만 비용을 지불하게 하고, 스토리지 업그레이드 시 기존 제품의 교체 번거로움과 데이터 마이그레이션 중 발생할 수 있는 서비스 중단 문제를 해결했다. 퓨어스토리지의 구독 서비스인 에버그린(Evergreen) 포트폴리오를 통해, 데이터 플랫폼을 항상 최신 하드웨어와 소프트웨어로 유지함으로써 최고의 성능을 제공하고, 업그레이드 과정에서도 시스템 중단 없이 작업을 이어갈 수 있다. 이러한 접근 방식은 AI 혁신 가속화, 비용 절감, 운영 효율성 향상, 환경 보호 등 다양한 이점을 제공하며, 기업들이 지속가능한 AI 데이터 파이프라인을 구축하는 데 핵심적인 역할을 한다. 이에 대해 퓨어스토리지는 AI 혁신 가속화를 위한 효율적인 데이터 파이프라인 구축 전략을 제시하고 지속가능한 IT 인프라 구축의 중요성을 강조한다. 퓨어스토리지는 데이터 파이프라인을 통한 인프라 간소화 및 프로세스 효율화로 AI 역량 강화와 속도를 극대화하고, 지속가능성 목표 달성을 위한 방안을 제시하고자 한다. 퓨어스토리지의 플래시블레이드는 포춘 100대 기업 중 25% 이상이 사용하고 있으며, 금융, 제조, 의료 및 IT 서비스 등 AI 관련 연구를 선도하는 국내외 기업 및 연구기관들의 AI 컴퓨팅 환경에서 활발하게 활용하고 있다. 엔씨소프트의 경우 AI 프로젝트를 가속화하기 위해 플래시블레이드를 확대 도입한 사례다. 플래시블레이드 도입 후 수일이 소요되던 데이터 이동 및 로딩 작업을 당일 내 처리할 수 있게 되었으며, 클라우드와 같이 스케일링이 가능한 AI 환경을 온프레미스에 구축하여 총소유비용(TCO)을 대폭 절감하고, 추가 비용 없이 온프레미스 인프라를 유연하게 확장할 수 있는 역량을 확보했다. 카카오는 AI 애플리케이션에서 발생하는 방대한 양의 데이터를 처리하고 GPU의 성능을 극대화하기 위해 플래시블레이드를 도입했다. 도입 이후, 카카오는 네트워크 인터페이스 및 스토리지 병목 현상을 제거하여 GPU로부터 높은 컴퓨팅 리소스를 확보했으며, 사내 관제 시스템과 유기적으로 통합된 플래시블레이드는 데이터 파이프라인에 대한 직관적인 관리를 제공하고, 중복된 데이터 사일로의 제거 및 데이터 압축 저장을 통해 운영 및 관리 비용을 절감했다. 미디어젠은 플래시블레이드를 통해 최대 12개월이 소요되던 음성인식 모델링 작업을 2주(96% 향상)로 단축했으며, 충북테크노파크는 플래시블레이드를 도입해 데이터 처리 성능을 2배 이상 향상하고, GPU 서버 내 데이터 읽기 속도를 개선해 GPU 활용률을 기존 30%에서 80%로 약 2.6배 증가시켰다. 이같은 AI 데이터 플랫폼의 성능과 지속가능성 개선이란 두 목표를 달성하기 위한 방안은 오는 17일 인터컨티넨탈서울코엑스 하모니볼룸에서 열리는 'ACC+ 2024' 행사에서 더 자세히 확인할 수 있다. ACC+ 2024는 AI와 더불어, 빅데이터, 클라우드, 보안 등 최신 IT 솔루션과 서비스를 확인할 수 있는 세미나와 함께 직접 경험할 수 있는 기업 전시부스를 다양하게 운영한다. 사전 등록을 통해 행사에 참가할 수 있으며, 현재 얼리버드 등록 이벤트를 통해 할인 혜택을 제공하고 있다. 사전 등록과 등록 문의는 공식 웹사이트를 통해 가능하다.

2024.04.08 11:25김우용

한국MS, 30일 개발자 대상 AI 컨퍼런스 개최

한국마이크로소프트는 오는 30일 서울 양재 aT센터에서 '개발자와 엔지니어를 위한 AI의 모든 것'을 주제로 '마이크로소프트 AI 투어 인 서울'을 개최한다고 4일 밝혔다. '마이크로소프트 AI 투어'는 '한발 앞선 AI 트랜스포메이션의 실현'이라는 주제 아래 지난해 9월 미국 뉴욕에서 시작돼 전 세계 14개 도시를 순회하고 있다. 이번에 한국에서 개최되는 이 행사는 개발자와 엔지니어뿐만 아니라 AI 기술에 관심 있는 누구나 등록 페이지를 통해 무료로 신청할 수 있다. 마이크로소프트 애저와 마이크로소프트 코파일럿을 활용한 AI 기술과 기능을 직접 체험하고 배울 수 있는 다양한 세션이 열리며, 공식 파트너사인 엔비디아와 함께 AI 기술 콘텐츠와 노하우도 제공할 예정이다. 조원우 한국마이크로소프트 대표와 스콧 한셀만 마이크로소프트 개발자 커뮤니티 부사장이 '개발자를 위한 차세대 AI'를 주제로 키노트 세션을 진행한다. 해당 세션에서는 마이크로소프트 애저와 코파일럿을 활용해 업무 생산성을 높이는 노하우와 혁신적인 AI 시스템 구축 방법이 소개된다. 스콧 한셀만은 한글이 대형언어모델(LLM)에서 어떤 의미를 가지는지, 그리고 앞으로의 발전 방향성에 대한 인사이트도 공유할 예정이다. 그는 최신 기술 동향과 마이크로소프트의 지원 정책을 개발자들과 공유하며, 그들의 의견을 듣고 정책에 반영하는 등 개발자 생태계의 성장과 발전에 기여하고 있다. 브레이크 아웃 세션에서는 새로운 AI 기술과 기능들이 소개된다. ▲생성형 AI의 새로운 기능 ▲마이크로소프트 패브릭에서 코파일럿으로 AI 앱 빌드하기 ▲비즈니스 앱 및 데이터로 마이크로소프트 365 코파일럿 확장하기 ▲GPT 및 비전 AI를 사용한 멀티모달 대화형 인터페이스 등 4개의 주제가 발표된다. 이를 통해 참가자들은 최신 AI 기술 트렌드와 발전 상황을 파악하고, 사용자 경험 개선과 혁신적인 솔루션 개발에 필요한 AI 기술과 노하우를 습득할 수 있다. 워크숍 세션은 개발자들의 실전 AI 기술 향상을 위한 실습 형태로 진행된다. 마이크로소프트 코파일럿 스튜디오를 활용해 나만의 코파일럿을 만들고, 마이크로소프트 패브릭을 사용해 AI를 위한 데이터 및 머신러닝 및 애저 오픈AI 서비스 생성형 AI 솔루션을 구현해 볼 수 있다. 커넥션 허브에서 마이크로소프트 제품 및 엔지니어링 전문가와의 대면 상담 기회를 제공한다. 참가자들은 16개의 주제별 부스에서 전문가와 만나 자신의 프로젝트에 대한 조언을 듣고, 기술적인 문제에 대한 궁금증을 해소할 수 있다. 이와 함께 코파일럿을 체험해 볼 수 있는 시간도 마련된다. 네트워킹 리셉션에서는 발표자, 업계 리더, 개발자들이 모여 지식과 경험을 공유하고 새로운 협업 기회를 찾을 수 있다. IT 업계 동향과 최신 기술에 대한 인사이트를 나누며 새로운 커뮤니티에 참여하는 것도 가능하다. 마이크로소프트는 지난 2월 8일부터 'AI 오디세이' 이니셔티브를 진행 중이다. 해당 캠페인은 한국을 포함한 아시아 전역 개발자를 대상으로 하며, 국내에서는 최대 1만 명의 참여를 목표로 하고 있다. 참여자들은 마이크로소프트의 기술 챌린지를 통해 AI 솔루션을 만들고 배포하는 방법을 배울 수 있으며, 마이크로소프트 응용 기술 자격증 취득을 통해 AI 분야 전문가로서 자신의 커리어를 한층 더 발전시킬 수 있는 기회를 얻게 된다. 오는 6월 25일까지 아시아 AI 오디세이 코리아 웹페이지를 통해 무료로 신청할 수 있다.

2024.04.04 10:25김우용

아시아 대표 '스마트공장·자동화산업전' 열린다…27일부터 코엑스서

아시아의 대표적인 스마트공장 자동화산업 전문 전시회인 '2024 스마트공장·자동화산업전(Automation World)'이 27일 서울 삼성동 코엑스에서 사흘 일정으로 열린다. 코엑스(대표 이동기)와 한국산업지능화협회, 스마트제조혁신추진단, 한국머신비전산업협회, 첨단이 공동 주최하는 이번 전시회는 최대 규모인 국내·외 450개사, 2천개 부스가 참가한다. 아시아 대표 전시회답게 혁신적인 인공지능(AI) 기술을 바탕으로 빠르게 진화하는 제조 산업 생태계를 선보이는 동시에 제조 산업 기술 혁신의 각축장이 될 전망이다. 코엑스 3층 C·D홀에서 열리는 '스마트팩토리엑스포'에서는 LS일렉트릭·미쓰비시전기오토메이션·지멘스·로크웰·한화로보틱스·POSCO DX·SK C&C 등 글로벌 제조혁신 선도업체들이 빅데이터·AI·클라우드컴퓨팅·협동로봇·디지털 트윈 등 다양한 스마트 공장 솔루션을 제시한다. D홀에 조성된 '스마트물류특별관'에서는 LG CNS·CJ 올리브네트웍스 등이 참여해 AGV/AMR·물류자동화시스템 등 스마트 물류 솔루션 신기술을 볼 수 있다. 1층 A홀에서 열리는 '공장자동화산업전'에서는 오토닉스·인아그룹·보쉬렉스코리아·백호프 오토메이션 등 글로벌 자동화 선도기업이 센서·모션콘트롤·산업안전 등 공장자동화 설비 및 솔루션을 선보인다. B홀 '머신비전산업전'에서는 라온피플·바슬러·화인스텍·뷰웍스 등 AI 딥러닝, 카메라, 3D비전을 활용한 최신 비전 기술들을 선보인다. 또 산업 지능화 컨퍼런스와 AI 자율제조혁신포럼 등 22개 주제 150여 개 전문 컨퍼런스 프로그램을 통해 첨단 기술과 글로벌 시장의 산업 동향을 파악할 수 있는 정보를 제공한다.

2024.03.21 15:24주문정

구글, 연례개발자행사 '구글 I/O 2024' 5월14일 개최

구글, 연례 개발자행사 '구글I/O 24'를 오는 5월14일과 15일 미국 캘리포니아주 마운틴뷰의 '쇼어라인 앰피시어터'에서 개최한다고 14일(현지시간) 밝혔다. 구글 I/O 2024는 구글을 비롯한 알파벳 계열사의 인공지능(AI) 기술과 서비스의 최신 정보를 발표하는 자리다. 순다 피차이 알파벳 최고경영자(CEO)를 비롯한 주요 임원이 기조연설에서 신규 서비스와 소프트웨어 기술, 하드웨어를 발표할 예정이다. 제미나이 새 버전 및 에디션, 새 AI 모델, 안드로이드15 AI 기능 등의 발표가 예상되며, 픽셀8A 공개도 추측되고 있다. 작년 행사에서 구글은 거대언어모델(LLM)인 'PaLM2'와 안드로이드14의 AI 기능, 바드 개선사항, 픽셀7A 등을 발표했었다. 첫날 기조연설은 오전 10시(태평양 표준시)에 열린다. 구글은 유튜브와 웹사이트에서 기조연설을 실시간으로 중계한다.

2024.03.15 11:50김우용

래블업, 엔비디아 GTC 2024에 실버스폰서로 참가

래블업은 오는 18일부터 21일까지 미국 새너제이 컨벤션센터에서 열리는 엔비디아의 'GTC 2024' 컨퍼런스에 실버 스폰서로 참가한다고 14일 밝혔다. 엔비디아의 GTC 행사는 5년 만에 대면 행사로 개최된다. 30만 명 이상의 참가자가 온·오프라인으로 참여할 것으로 기대되는 GPU 분야에서 가장 큰 기술 행사다. 래블업은 이번 컨퍼런스에서 AI 기술의 최전선에 서 있는 두 가지 주제에 대해 발표할 예정이다. 첫 번째 발표 'From Idea To Crowd: Manipulating Local LLMs At Scale'을 래블업 신정규 대표와 김준기 CTO가 진행하며, 이 세션에서 양자화, QLoRA 등의 리소스 절약 및 모델 압축 기술과 vLLM, TensorRT-LLM 결합을 통해 백엔드닷AI가 어떻게 대규모 로컬 LLM을 효율적으로 조작하는지 소개한다. 이는 AI 모델의 성능을 최적화하고, 리소스 사용을 최소화하는 혁신적인 접근 방식을 제공할 예정이다. 김준기 CTO는 두 번째 발표인 'Personalized Generative AI: Operation and Fine-Tuning in Household Form Factors'를 20일에 진행한다. 이 세션에서 클라우드 및 개인 PC의 GPU를 이용하여 사용자 맞춤형 생성형 AI를 개발하고 서비스할 수 있는 방법을 시연한다. AI 기술을 일상 생활에 더욱 밀접하게 통합하는 개인화된 AI의 새로운 가능성을 제시할 예정이다. 래블업은 전시부스에서 APAC 지역 유일의 엔비디아 DGX레디 소프트웨어인 백엔드닷AI 엔터프라이즈를 시연한다. 백엔드닷AI는 엔비디아 DGX 시스템 및 기타 GPU 가속 컴퓨팅 리소스의 성능을 극대화하며, 사용자 환경을 변경하지 않고도 GPU 사용성을 높여주는 AI 인프라 운영 플랫폼이다. 부스에서 생성 AI 개발을 간소화하고 자동화하는 ML옵스 소프트웨어 플랫폼인 '패스트트랙'으로 파운데이션 모델을 다양한 산업 분야에 특화하거나 나만의 챗봇으로 자동 미세 조정하는 실시간 시연도 제공된다. 래블업 측은 “MWC에 이어 이번 GTC에서 엔비디아 및 델, AMAX, 웨카 같은 글로벌 파트너사와 협력을 강화하며 함께 본격적인 글로벌 진출을 꾀할 예정”이라고 밝혔다.

2024.03.14 10:50김우용

마이크로소프트, '빌드2024' 5월21일 시애틀서 개최

마이크로소프트의 연례 개발자 컨퍼런스 '빌드'의 행사 일정이 확정됐다. 14일(현지시간) 더버지 등에 따르면, 마이크로소프트는 올해 5월 21일부터 3일동안 미국 시애틀과 온라인에서 연례 개발자 컨퍼런스 '빌드 2024'를 개최한다고 공지했다. 올해 행사는 '인공지능(AI)'과 '마이크로소프트 코파일럿'의 무대일 것으로 예상된다. 작년 빌드2023에서 마이크로소프트는 코파일럿 스튜디오와 윈도 AI 스튜디오 등 각종 AI 개발도구와 데이터 플랫폼 '마이크로소프트 패브릭' 등을 발표했다. 올해 행사의 상세한 일정은 아직 미공개다. 행사 참여 등록도 언제 시작될 지 알려지지 않았다.

2024.02.15 09:45김우용

패스트캠퍼스, 직무별 AI 활용 사례 공유한다

성인 교육 스타트업 데이원컴퍼니(대표 이강민)의 사내독립기업 패스트캠퍼스가 26일 과학 기술 컨벤션 센터(ST Center)에서 '2024 GENCON AI 컨퍼런스'를 개최한다. 2024 GENCON AI 컨퍼런스는 본격적인 AI 시대의 도래와 함께 급변하는 AI 기술과 트렌드를 누구보다 발 빠르게 읽기 위해 기획됐다. '생성 AI에 대한 가장 앞선 이야기'를 주제로, AI 시대를 앞서 나가는 각계 전문가 및 국내 대표 기업들이 AI의 현재와 미래, 활용 사례에 대한 다양한 경험을 공유한다. 본 컨퍼런스는 두 개의 트랙으로 진행된다. 트랙 1 'Creative With AI'는 디자인과 글쓰기 등 크리에이티브 영역과 관련된 생성형 AI의 활용 방법과 산업 전망 등의 강의가 진행된다. ▲디자이너를 위한 생성 AI 활용법 ▲생성형 AI와 인터페이스의 미래 ▲Digital Human AI 기술의 현재와 미래 ▲Designing for AI-Product 디자이너의 관점 ▲AI를 통한 새로운 글쓰기 Interaction과 Media ▲생성형 AI 시대, 크리에이터 찰나의 선택 #ComfyUI 등의 강의가 예정돼 있다. 트랙 2 'Software With AI'에서는 ▲생성형 AI를 이용한 오디오 비디오 콘텐츠 제작의 현재와 미래 ▲ChatGPT와 OpenAI 서비스 구축 사례 ▲Gen AI Research in Computer Vision ▲클라우드 기반 AI application 전략 및 AWS AI 기술과 사례 ▲코드 작성 LLM과 AI로 변화되는 개발 환경 ▲생성형 AI 서비스 도입 여정 그리고 미래 등 콘텐츠 제작과 산업 전망을 비롯해 생성형 AI로 변화되는 기술과 프로그래밍을 중심으로 강의가 진행된다. 이번 컨퍼런스에는 패스트캠퍼스의 디자인 교육 전용 플랫폼 '쉐어엑스'에서 BX(브랜드 경험) 디자인 강의를 제공하고 있는 국내 브랜드 디자인 컨설팅 대표기업 플러스 엑스(PLUS X)도 함께한다. 플러스 엑스의 변사범 고문은 트랙 1의 첫 번째 강의인 '디자이너를 위한 생성 AI 활용법' 강의를 진행할 예정이다. 이밖에 마이크로소프트 고광범 엔터프라이즈 커머셜 사업부문장, 한국과학기술원(KAIST) 주재걸 부교수, 네이버 클라우드 김성주 테크 리드, NVIDIA 서재우 수석연구원 등 다양한 SW 전문 기업에서 활동하고 있는 전문가들이 연사로 참여한다. 컨퍼런스는 총 12명의 연사로 구성됐으며, 이들은 실무에서 습득한 귀중한 인사이트와 경험을 공유하고 생성 AI가 접목된 소프트웨어 분야의 산업 동향 및 전략을 발표할 예정이다. 신해동 패스트캠퍼스CIC 대표는 "현재 AI는 우리 생활 전반에 막대한 영향을 끼치고 있다. 이에 따라 트렌드와 산업 동향도 빠르게 변하고 있다"며 "얼마나 빠르게 AI 트렌드를 파악하고 습득하냐에 따라 개인의 성장과 경쟁력이 결정된다"고 말했다. 이어 "패스트캠퍼스가 준비한 GENCON AI 컨퍼런스를 통해 각 직군에서 어떻게 AI를 활용할 수 있을지에 대한 인사이트를 얻고, 성장의 열쇠를 얻어 가길 바란다"고 덧붙였다. 컨퍼런스는 26일 오전 10시부터 오후 5시까지 과학 기술 컨벤션 센터에서 진행되며, AI 기술 및 트렌드에 관심이 있다면 패스트캠퍼스 홈페이지 사전 예약을 통해 누구나 참여할 수 있다.

2024.01.24 09:17백봉삼

Prev 1 2 3 Next