검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'AI 데이터'통합검색 결과 입니다. (839건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

KTNET, 몽골 관세청과 전자통관 고도화 협력 강화

한국무역정보통신(KTNET·대표 차영환)은 인공지능(AI)·빅데이터 등 디지털 기술을 활용해 몽골 전자통관 시스템 고도화를 위해 몽골 관세청과 협력을 강화하기로 했다. 차영환 KTNET 사장은 23일 몽골 관세청을 방문, 렉지부 오트건자르갈 청장을 면담하고 몽골 관세행정의 디지털 전환에 대해 논의했다. KTNET은 몽골 관세청이 보유한 통관 데이터를 활용해 AI 기반 위험관리시스템을 적용, 일반 화물과 승객, 승객화물의 신속한 통관 서비스를 추진할 계획이다. 위험관리시스템은 불법화물로 의심되는 화물을 선별하고 실물 검사를 하는 대신 일반 화물은 서류 승인만으로 실물 검사 없이 신속 통관을 허용하는 시스템이다. 현재 몽골 관세청은 대부분의 화물을 실물 검사하고 있고 서류심사 통관은 전체의 5% 미만 수준이다. 위험관리시스템이 적용되면 신속 통관 비율을 높일 수 있다. KTNET은 또 최근 수요가 증가하고 있는 몽골 기업의 원산지증명 수요에 대해 효율적으로 업무처리를 위한 원산지관리시스템의 구축방안에 대해서도 몽골 관세청과 논의했다. 몽골은 2016년 일본과 경제동반자협정(EPA)을 체결했고 2021년에는 아시아·태평양무역협정(APTA)을, 지난해 말부터는 우리나라와도 EPA 협상을 시작했다. KTNET은 몽골의 전자통관 시스템인 CAIS(Customs Automated Information system)을 2008년부터 2010년중에 구축한 바 있다. CAIS는 수출입통관 신고 및 화물 신고를 인터넷으로 할 수 있는 관세행정 시스템이다. ADB는 CAIS 도입이 몽골 관세행정의 현대화에 크게 기여한 것으로 평가했다. ADB는 몽골의 관세 수입이 2009년 3억8천만 달러에서 CAIS 개통 후 2011년에는 11억4천500만 달러로 약 3배 증가했다. 수출통관 심사시간도 평균 2시간 20분에서 13분으로 절감됐다. 몽골 국민의 관세청 투명성 평가에도 CAIS 도입 전에는 몽골 정부기관 중 17위였으나 시스템 도입 후에는 11위로 개선됐다. KTNET은 몽골의 재해복구센터 구축, 몽골 전자무역시스템 타당성 조사 컨설팅 등 다수 프로젝트를 수행한 바 있다. 차영환 KTNET 사장은 “몽골 관세청의 디지털 전환이 이뤄지면 투명하고 신속한 관세행정 서비스가 제공돼 몽골 무역기업 환경이 크게 개선될 것”이라며 “우리나라 전자무역 시스템의 개발, 운영 경험을 몽골 등 여러 국가와 공유해 국제 무역의 원활화에 기여하도록 하겠다”고 말했다. KTNET은 몽골·탄자니아·파라과이 등에 전자통관 시스템을 구축하는 등 총 35개 국가에 디지털 시스템과 솔루션을 수출해 왔다.

2024.04.24 11:28주문정

데이터브릭스, 한국 시장서 연간 100% 성장

데이터브릭스는 23일 서울 인터컨티넨탈코엑스에서 개최한 '데이터 인텔리전스 데이' 컨퍼런스' 관련 기자간담회에서 지난 회계연도에 한국에서 연간 100% 이상의 성장을 달성했다고 발표했다. 국내 기업의 데이터 및 AI 수요 급증에 따른 결과라고 회사측은 설명했다. 데이터브릭스는 급속한 제품 혁신에 힘입어 지난 1월 31일 마감된 회계연도를 기준으로 전 세계적으로 16억 달러 (약 2조2천억원)이상의 매출을 기록했으며, 연간 50% 이상의 성장을 달성했다. 데이터브릭스는 지난 3월 출시 당시 표준 벤치마크에서 모든 오픈소스 모델을 능가하는 범용 대형언어모델(LLM) DBRX를 선보였다. 데이터 선도 기업들은 이미 데이터브릭스의 데이터 인텔리전스 플랫폼을 활용해 다양한 워크로드에서 비용 효율성과 고성능을 보장하는 동시에 비즈니스 운영을 최적화하고, 예측 분석 및 AI 애플리케이션 등을 통해 혁신을 이끌며, 고급 데이터 거버넌스 및 분석 기능을 통해 의사 결정을 개선해나가고 있다. 데이비드 마이어 데이터브릭스 제품 담당 수석부사장은 기조연설에서 “기업의 데이터 프로젝트를 AI와 결합하고자 할 때 실패로 귀결되기 쉬운데, 이는 워낙 다양한 사일로 시스템이 존재하기 때문”이라며 “데이터와 AI 시스템의 사일로는 내재적으로 복잡하며 거버넌스와 보안도 이 때문에 더 어려워지고, 여러 개발언어와 시스템을 이해해 쉽게 만들 수 있는 고도화된 기술인력도 확보하기 어렵다”고 말했다. 그는 “데이터브릭스의 레이크하우스 '델타레이크'는 비정형과 정형 데이터 모두를 레이크로 가져와서 정교화한 다음 데이터 복제와 이동없이 레이크 자체에서 활용하게 하므로 근본적으로 단순하다”며 “데이터레이크하우스만으로 충분하지 않고, 그 위에 거버넌스 레이어 '유니티 카탈로그'를 얹어 SQL, 스칼라, 자바, R 같은 각기 다른 엔트리 진입지점을 관리하고 데이터모델이나 노트북까지 모두 관리할 수 있다”고 강조했다. 데이터브릭스의 유니티 카탈로그는 전체 데이터 플랫폼의 거버넌스를 관리하는 계층이다. 모든 데이터 쿼리는 유니티 카탈로그를 거치게 되고, 사용자별로 데이터 접근권한을 관리할 수 있다. 유니티 카탈로그는 데이터브릭스 솔루션 외에 다양한 외부 거버넌스 시스템과도 통합가능하다. 데이터브릭스는 모자이크ML을 인수하고 최근 DBRX란 개방형 언어모델을 출시하는 등 생성형 AI 분야에 공격적인 투자를 하고 있다. 생성형 AI를 자사 플랫폼에 접목해 자연어로 데이터를 활용하게 하는 데이터 민주화를 추구한다. 데이비드 마이어 부사장은 “생성형 AI 자체를 레이크하우스에 녹여 근본적으로 새로운 것을 가능하게 했다”며 “데이터 인텔리전스 엔진을 델타레이크와 유니티 카탈로그 위에 얹어서 생성형 AI로 데이터 의미를 이해한다”고 말했다. 그는 “플랫폼에서 파티셔닝, 인덱싱, 레이어링, 리퀘스트 등의 기능을 자동화했으며, AI가 데이터 트래픽 패턴을 학습해 데이터를 재작성하고 사용자의 사용 행태에 따라 더 적은 비용으로 쿼리를 수행하도록 진화한다”며 “최고의 데이터웨어하우스는 훨씬 더 간결한 레이크하우스”라고 강조했다. 그는 “1년전 인수한 모자이크ML은 고객의 모델 학습과 미세조정을 더 저렴한 비용으로 할 수 있게 하며, 최대 10배의 비용을 절감시켜준다”며 “DBRX는 미세조정이나 자체 모델을 완벽히 제어할 수 있다”고 덧붙였다. 이날 기조연설에서 염화음 크래프톤 딥러닝실 데이터실장과 문효준 엘지전자 데이터플랫폼실 팀장이 무대에 올라 자사의 데이터브릭스 플랫폼 활용 사례를 공유했다. 에드 렌타 데이터브릭스 아태지역 총괄 부사장은 “데이터브릭스 클라우드의 한국 리전 범위를 확대하고 서버리스 SQL을 5월 출시할 예정”이라며 “한국어 기술 지원을 시작하고, 제품 교육 및 인증 프로그램의 한국어 지원도 5월 중 이뤄질 것이며, 생성형 AI 기능의 한국 리전 확대와 모델 서빙, 벡터 서치 등도 한국에서 쓸 수 있을 것”이라고 밝혔다. 에드 렌타 데이 부사장은 “한국은 아태지역에서 가장 빠르게 성장하는 시장 중 하나”라며 “한국이 기업의 AI 도입에 대한 야심찬 목표를 가지고 있는 시장인 만큼, 데이터브릭스는 보다 많은 한국 고객들이 자체적인 프라이빗 데이터를 사용해 안전하게 AI를 활용할 수 있도록 지속적으로 지원해나갈 계획”이라고 말했다. 데이터브릭스의 데이터 인텔리전스 데이는 데이터브릭스 고객, 업계 리더, 기술 전문가, 파트너가 주도하는 심층 세션을 통해 자연어로 데이터 인사이트를 확보하는 방법부터 데이터 프라이버시 보호 및 제어를 유지하면서 생성형AI 애플리케이션을 개발하는 혁신적인 방법까지 자세히 살펴볼 수 있다. LG전자, 크래프톤, 여기어때컴퍼니, 정육각, 하이퍼커넥트, 신세계I&C, 스캐터랩, 아임웹 등이 연사로 나서 데이터 및 AI 여정을 공유했다.

2024.04.23 16:05김우용

세일즈포스코리아, '2024 디지털 혁신 트렌드 보고서' 발표

세일즈포스는 국내 기업의 CRM, AI, 데이터 기반 디지털 혁신 현황과 인사이트를 담은 '2024 디지털 혁신 트렌드 리포트'를 23일 발표했다. 보고서에 따르면 국내 기업은 생성형 AI 기술 등장 이후 새로운 방식으로 고객과 관계를 맺고자 하는 수요가 증가하고 있는 것으로 나타났다. AI 기술과 CRM 간의 시너지를 기반으로 소비자인 외부고객 뿐만 아니라 내부고객인 임직원들의 경험 및 업무 생산성 향상을 위한 혁신에 대한 관심도가 증가하고 있으며, 디지털 혁신을 바탕으로 전반적인 비용절감을 기대하고 있는 것으로 해석된다. 다만 응답자의 대부분이 성공적인 디지털 혁신을 위해서는 경영진의 적극적인 투자 및 지원이 필요하다고 응답했다. 이 보고서는 국내 약 1천 명 이상의 비즈니스 리더와 현업 전문가를 대상으로 지난 1월 진행한 연구조사 결과에 기반한다. 세일즈포스는 AI 혁신 시대를 맞이하여 국내 기업의 성공적인 디지털 혁신을 위해 CRM, AI, 데이터, 신뢰라는 네 가지 측면에서의 디지털 혁신 현황, 목표 및 주요 어려움 등을 기업의 규모, 업무 영역 및 산업별로 분석했다. 보고서에 따르면, 절반 이상의 응답자(55.8%)는 디지털 혁신 이후 가장 기대하고 있는 효과로 '반복 및 중복 업무 감소로 인한 비용 절감'을 꼽았으며, 디지털 혁신의 주된 목표로 '업무 생산성 향상과 부문 간 유기적인 협업(44.5%)'인 것으로 나타났다. 조사 결과 생성형 AI에 대한 관심이 높은 가운데 실제 기업에서 중요하게 인식하고 있는 디지털 혁신 요소는 '데이터'가 82.5%로 가장 높았으며 'CRM(80.8%)', 'AI(71.2%)'가 그 뒤를 이었다. 이와 관련해 세일즈포스는 생성형 AI와 같은 기술을 활용하기 위해 대다수의 국내 기업이 데이터의 품질과 정확성은 물론, 체계적인 관리 체계를 구축하기 위한 움직임을 강화하고 있다고 설명했다. 그 외에도 전문가들은 CRM 측면의 디지털 혁신을 시행할 때 가장 중요한 요소로 '정확도 높은 데이터 확보 및 활용 환경 구축(53.8%)'을 꼽았다. AI 측면에서는 '생산성 향상을 위한 업무 자동화 및 업무지원(48.8%)'을 디지털 혁신 시행 시 가장 중요한 요소로 지목했으며 이 밖에도 데이터 측면에서 국내 기업은 디지털 혁신 시행 시 '데이터 품질 정확도 향상(48.0%)'을 우선적으로 고려하고 있는 것으로 나타났다. 디지털 혁신을 추진하는 데 있어 기업이 겪고 있는 CRM, AI, 데이터 측면에서의 어려움 또한 상이했다. CRM 측면에서 '경영진의 투자 및 지원 미흡(41.9%)'을 꼽았으며, 데이터 측면에서는 '데이터 전문가의 부재(44.3%)'를, AI 측면에서는 '기술 활용에 필요한 교육 부재(45.1%)'가 성공적인 디지털 혁신을 위해 넘어야 할 허들인 것으로 나타났다. 대다수의 응답자가 AI 기반 디지털 혁신의 중요성에 대해 인지하고 있는 반면, 이를 위한 조직 내 디지털 혁신 노력 및 투자 정도는 부족한 것으로 보인다. 전체 응답자 중 디지털 혁신 추진 활동과 조직 내 투자 우선순위 간의 일치도는 약 40.4%에 불과했다. 급변하는 디지털 환경에서 업무 효율성 및 생산성 향상, 고객과의 연결성 향상을 위해서는 경영진의 적극적인 투자와 지원이 필요한 것으로 해석된다. 최근 IT 기술을 둘러싼 윤리, 데이터 보안, 개인정보보호 등에 대한 관심도가 높아지고 있는 가운데, 전체 응답자 중 81%는 CRM, AI, 데이터 측면의 디지털 혁신에 있어 '신뢰'가 가장 중요한 요소라는데 동의했다. 이와 관련하여 세일즈포스는 최근 생성형 AI 활용에 대한 사내 규정 및 윤리강령 정립, 안전한 데이터 보안 환경 등이 디지털 기술력에 앞서 기업, 소비자, 파트너를 포함한 모든 이해관계자가 가장 우선적으로 고려해야 할 필수 요소라고 설명했다. 세일즈포스코리아 손부한 대표는 “성공적인 디지털 혁신에 있어서 CRM, AI, 데이터, 신뢰라는 네 가지 키워드는 매우 밀접한 상관관계가 있으며, 신뢰할 수 있는 데이터를 올바른 방법으로 통합 및 활용할 수 있을 때 AI는 강력한 비즈니스 조력자 역할을 수행할 수 있다”며 “이번 보고서가 새로운 기회를 포착하고 시장 내 경쟁우위를 갖추기 위해 필요한 인사이트를 확보하는 데 있어 유용한 나침반이 되길 희망한다"고 밝혔다.

2024.04.23 11:58김우용

AI가 불러온 '전력 위기'…대비 나선 샘 알트먼, '이것'에 276억 '베팅'

'챗GPT'의 아버지 샘 알트먼 오픈AI 최고경영자(CEO)가 태양광 스타트업 투자에 나선다. 생성형 인공지능(AI)의 급부상으로 데이터센터가 잇따라 건설되면서 전력 수요가 급증하자 차세대 전력 공급 수단으로 청정에너지를 택한 것이란 분석이 나온다. 23일 월스트리트저널(WSJ)에 따르면 샘 알트먼 CEO는 태양광 스타트업인 엑소와트에 투자한다. 2천만 달러(약 276억원)의 돈을 투자한 이들 중 알트먼 CEO 외에 월가 유명 벤처캐피털(VC)인 앤드리슨호로비츠도 참여했다. 엑소와트는 빅데이터 센터에 필요한 에너지 수요를 해결하기 위해 설립된 스타트업이다. 이곳은 널찍한 태양광 패널 대신 태양광 렌즈를 이용해 에너지를 모으는 컨테이너 크기의 대형 모듈을 개발했다. 이 렌즈는 태양광을 한데 모은 후 열로 변환하기 때문에 발전 효율이 높고 하루 24시간 내내 에너지를 저장할 수 있는 것이 특징이다. 또 엑소와트는 미국의 인플레이션 감축법(IRA) 보조금을 받기 위해 중국산 부품 의존도를 줄이고 미국산 부품을 우선 사용했다. 보조금 없이 kWh당 1센트의 저렴한 비용으로 전력을 제공하는 것을 목표로 하고 있는데, 이는 에너지가 풍부해 전력 요금이 싼 텍사스주보다도 낮은 수준이다. 엑소와트는 미국 내 데이터센터 대부분이 태양광 발전에 용이한 지역 근처에 세워져 있다는 데이터를 바탕으로 태양광 산업을 시작했다. 하난 파르비지안 엑소와트 CEO는 "데이터센터 전력 문제를 해결하기 위해 화석연료로 회귀할 필요는 없다"며 "그것은 되려 역효과를 낳을 것"이라고 밝혔다. 알트먼 CEO는 이전에도 에너지 스타트업에 투자해 주목 받았다. 그는 소형모듈원전(SMP) 개발사 오클로뿐 아니라 지난 2021년 핵융합 발전을 통해 전기 에너지를 생산하는 스타트업인 헬리온에 3억7천500만 달러(5천178억원)를 투자한 바 있다. 헬리온은 지난해 5월 마이크로소프트(MS)와 오는 2028년부터 핵융합 발전을 통해 전기를 공급한다는 계약을 체결했다. 알트먼 CEO의 이 같은 투자는 AI를 가동시키기 위한 안정적인 재생에너지 공급망을 확보하기 위한 전략으로 보인다. 최근 AI 시장 확대에 따른 데이터센터 증설로 전력 확보가 갈수록 어려워지고 있어서다. 실제로 세계 최대 데이터센터 허브인 미국의 버지니아 북부 지역에서는 미국 유틸리티 기업(수도·전기·가스 공급업체)인 도미니언 에너지가 지난 2022년 새로운 데이터센터 연결을 일시 중단했다. 지난해 10월 버지니아 규제 당국에 제출한 서류에선 "데이터센터 개발로 인한 전력 부하 증가가 상당하다"라고 밝혔다. 미국 애리조나주의 최대 전력회사 APS도 초대형 데이터센터 신규 사업을 당분간 보류하겠다고 선언했다. 세계 최대 사모펀드 운용회사 블랙스톤의 창업자 겸 회장 스티브 슈워츠먼 역시 최근 "미국 여러 주에서는 이미 전력이 고갈되기 시작했다"고 말했다. 이에 AI 기업들의 최근 고민은 데이터 센터 투자를 위한 자금이 아니라 '전력 공급'이라는 평가가 나오고 있다. 파이낸셜타임스(FT)는 "새로운 AI 경제에서 한계 중 하나는 데이터 센터를 어디에 구축하고 어떻게 전력을 확보하느냐"라고 평가했다. 여기에 앞으로 전력 위기 문제는 더 심해질 것이란 전망도 나왔다. 국제에너지기구(IEA)에 따르면 전 세계에서 운영 중인 데이터 센터가 쓰는 전력량은 지난 2022년 연간 460테라와트시(TWh)에 달했다. 이는 프랑스의 2022년 전력 소비량(425TWh)과 맞먹는 수준이다. IEA는 전 세계적으로 데이터 센터에서 소비되는 전력이 2026년까지 두 배 이상 증가할 것으로 예상했다. 전력 공급 문제는 환경적인 영향도 미치고 있다. 데이터 센터 수요를 맞추려면 석탄·천연가스 같은 화석연료 의존도를 오히려 높여야 해서다. 이는 기후 변화 위기를 해결하기 위한 전 세계적인 노력과 반대된다는 점에서 우려되고 있다. 전 세계 주요국은 2050년 넷제로(탄소중립)를 약속한 바 있다. WSJ는 "현재의 태양광, 풍력, 배터리 기술은 전 세계 많은 지역에서 24시간 내내 비용 효율적인 전력을 요구하는 데이터 센터의 수요를 충족할 만큼 발전하지 않았다"며 "AI 붐은 태양광·에너지 저장 시설이 데이터 센터의 엄청난 전력 수요 일부를 처리할 수 있을 것이라는 데 베팅하고 있다"고 말했다.

2024.04.23 10:04장유미

[기고] 기업 경쟁력 좌우하는 생성형 AI, 어떻게 시작할 것인가

2023년 우리 모두는 챗GPT가 제공한 새로운 서비스를 경험했다. 생성형 AI와 대규모 언어 모델(LLM)은 개인과 직업의 환경을 혁신적으로 변화시키고 있다. 기업들도 불과 1년 만에 대다수가 생성형 AI에서 제공하는 서비스를 통해 비즈니스 역량을 강화하려는 시도를 하고 있다. 본 글에서는 생성형 AI와 대규모 언어 모델(이하 LLM)이 무엇이며 기업들은 이 서비스를 어떤 분야에 활용할 수 있는지 살펴보고자 한다. 생성형 AI는 신경망과 딥러닝 알고리즘을 사용하여 기존 머신러닝 모델과는 근본적으로 다른 복잡한 콘텐츠, 이미지, 동영상, 오디오 또는 코드를 생성하는 AI의 한 종류이다. 생성형 AI는 전통적인 머신러닝, 딥 러닝 모델보다 훨씬 많은 양의 데이터가 필요하다. 이렇게 훈련된 범용 모델을 파운데이션 모델이라고 한다. 파운데이션 모델을 개발하려면 방대한 양의 데이터와 고성능 컴퓨팅 리소스가 필요하기 때문에 일부 빅테크 회사만이 LLM 개발 및 개선 작업에 적극적으로 참여해왔다. 하지만 최근에는 오픈 소스 파운데이션 모델이 널리 공유돼 파운데이션 모델을 직접 개발하지 않아도 활용할 수 있게 되었다. 덕분에 일반 기업들도 '파인 튜닝'을 통해 LLM을 특정 도메인에 맞게 훈련시키고 자체 비즈니스 요건에 맞게 애플리케이션을 개발하여 사용할 수 있게 됐다. 파인 튜닝은 특정 비즈니스 요건이나 업무 도메인에 맞게 사전 훈련된 LLM에 특정 데이터셋을 사용해 추가적인 학습을 수행하는 작업을 말한다. 챗GPT의 성공 후, 이 시장에 뛰어든 후발 주자 빅테크 기업들은 경쟁력을 확보하기 위한 수단으로 자체 개발하는 LLM의 매개변수를 기하급수적으로 늘려 빠르게 성능을 올리는 전략을 채택했다. 매개변수는 사람의 뇌에서 정보를 처리하고 통합하는 시냅스와 같은 역할을 한다. 매개변수가 많을수록 LLM은 더 많은 정보를 저장하고 더 다양한 패턴을 학습함으로써 세밀한 언어 이해와 콘텐츠 생성을 할 수 있다. 하지만 더 많은 컴퓨팅 자원과 저장 공간이 필요하고 이 모델을 학습하는 데 더 많은 시간이 걸릴 수밖에 없다는 한계가 있다. 이에 반해 매개변수가 적은 LLM은 학습할 때 컴퓨팅 리소스가 덜 필요하기 때문에 파인 튜닝이나 배포가 상대적으로 용이하다. 최근에 공개되고 있는 대다수 LLM의 성능은 상향 평준화되고 있다. 특히 메타의 오픈소스 LLM인 '라마'가 다른 모델에 비해 상대적으로 적은 매개변수를 사용하면서 일정 수준의 성능을 보장한다. 이렇듯 모델 경량화와 최적화는 오늘날 LLM을 선택하는 데 중요한 기준으로 자리 잡았다. ■ LLM에 대한 이해 범용 LLM은 자연어와 컴퓨터 프로그램 언어를 이해할 수 있으며 광범위한 작업을 처리할 수 있다. 인터넷상에 존재하는 방대한 양의 데이터로 사전학습 되어 있으며, 모델 목적과 관련된 특정한 데이터 소스를 활용해 추가 학습할 수도 있다. 이러한 특성 때문에 LLM은 거의 모든 주제에 대한 문맥과 관련된 정보를 생성할 수 있다. 앞서 언급한 파운데이션 모델은 특정 도메인에 국한되지 않고 사용할 수 있는 생성형 AI 모델의 하나이다. 특정 작업이나 도메인 업무에 유용성을 높이기 위해 파운데이션 모델은 사용 목적에 맞게 전문화, 파인 튜닝 또는 수정이 가능하다. 일반적인 파운데이션 모델은 다음과 같이 구분할 수 있다. 작업에 특화된 LLM: 메타의 코드 라마와 같이 특정 업무 영역별 LLM은 프로그래밍 코드 작성과 같은 전문화된 작업에 특화됐다. 도메인에 특화된 LLM: 특정 주제나 산업에 생성형 AI 기술을 적용할 수 있다. 예를 들어, 의료 산업에 대해 학습한 엔비디아의 BioBERT는 제약 업계의 신약 개발과 관련한 논문을 이해하고 의료 문서에서 정보를 검색 및 추출할 수 있다. 앞서 살펴본 LLM은 법률, 미디어, 사이버 보안과 같은 다양한 분야의 도메인에 맞는 데이터를 통해 파인 튜닝될 수 있다. 이는 텍스트에만 국한되지 않으며, 오디오, 이미지, 동영상과 같은 다양한 멀티모달 콘텐츠 역시 생성할 수 있기 때문에 활용 분야는 굉장히 다양해질 수 있다. LLM이 문장뿐만 아니라 문맥을 이해할 수 있는 것은 데이터 세트를 다차원 공간에서 벡터 형식으로 변환한 단어를 활용하기 때문이다. 벡터 임베딩 기술은 자연어의 정량적 표현을 처리하고 저장하는 가장 효율적인 방법이다. 두 단어를 표현하는 벡터 간의 거리와 유사한 메트릭을 기반으로 데이터를 식별하고 처리함으로써 모델 내부에서 정보를 쉽게 비교·분석할 수 있고 정보 처리 시간 또한 크게 단축할 수 있다. 아래 그림과 같이 단어를 공간상의 벡터로 표현하고, 연관된 단어들을 인접한 곳에 배치함으로써 단어의 문맥적 언어를 이해하고 판단하는 것이다. 때문에 LLM 내부에서 벡터 데이터베이스를 사용하면 생성 및 추론 과정에서 AI 시스템이 관련 데이터를 빠르게 검색할 수 있으며, 검색, 추천, 텍스트 생성과 같은 다양한 용도로 활용할 수 있다. 또한, 검색증강생성(RAG), 벡터 유사성 검색(VSS)과 같이 문장을 맥락화하는 데 유용한 기술들이 백터 검색 기능으로 구동된다. 여기서 주목해야 하는 기술은 바로 RAG다. RAG는 맞춤형 데이터를 통해 LLM의 검색 정확도를 개선할 수 있는 프레임워크다. 파운데이션 모델은 광범위한 인터넷 정보를 기반으로 학습되었기 때문에 하나의 모델로 다양한 유형의 질문에 응답할 수 있지만, 학습되지 않은 데이터에 대한 질문을 받는 경우 오답을 할 확률이 높아진다. 기업 환경에서 사용하려는 LLM은 범용 데이터가 아닌 특정 도메인을 이해해야 하며, 이 도메인 정보를 기반으로 답변을 제공할 필요가 있다. 하지만 파운데이션 모델이 특정 도메인에 맞게 재학습하는 데는 비용이 너무 많이 들고 학습하는 시간도 오래 걸린다. 이 같은 문제를 해결하기 위해 RAG는 LLM이 사전에 학습한 데이터에만 의존하는 것이 아니라 질문받은 시점에 동적으로 관련된 데이터를 검색하고 증강된 문맥 속에서 답변을 생성한다. 이 과정을 거치면 답변 정확도가 크게 개선된다. 기업들은 RAG를 통해 LLM을 파인 튜닝하거나 사전 학습에 필요한 비용과 시간을 절약하고, 소량의 데이터만으로도 모델 정확도를 높일 수 있다. 다음 그림은 RAG로 파운데이션 모델의 정확도를 얼마나 효율적으로 개선할 수 있는가에 대한 연구 결과이다. ■ 기업 환경에서 활용할 수 있는 생성형 AI LLM은 콘텐츠 생성, 논리 추론, 언어 번역, 텍스트 검색, 프로그램 코드 생성, 콘텐츠 요약 및 검색 등을 주요 기능으로 삼는 수많은 고급 애플리케이션의 기반을 마련했다. 1. 콘텐츠 생성 간소화 생성형 AI는 텍스트, 사운드, 이미지 등 다양한 유형의 미디어를 생성하여 콘텐츠 제작을 간소화할 수 있다. 기업의 마케팅 부서에서는 캠페인 업무를 위한 맞춤형 이미지 제작을 포함해, 블로그, 기사, 소셜미디어 콘텐츠, 그리고 제품 설명 초안을 생성하는 데 활용할 수 있다. 다른 부서에서도 현업 사용자를 위한 챗봇 애플리케이션을 개발하거나 판매, CRM과 같은 고객 데이터를 활용해 고객 개인화 서비스 개선 또는 맞춤형 캠페인을 위한 콘텐츠 생성에 활용할 수 있다. 2. 논리적 추론 엔진으로 활용 AI 분야에서 자연어 이해는 인간의 복잡한 의사소통의 의미를 이해하는 데 사용된다. LLM은 제품 리뷰, 소셜미디어의 게시글, 고객 설문조사 결과와 같은 텍스트의 의미를 이해하고 콘텐츠 속 감정을 분석하거나 기타 복잡한 추론 작업에 활용될 수 있다. 3. 언어 번역 정확도 개선 다중 언어 간 번역 정확도를 높여 언어 장벽이 있는 사람들의 소통을 더 쉽게 도와준다. 4. 검색 및 요약 LLM은 방대한 양의 데이터를 사전 학습해 언어의 맥락을 파악하고 텍스트의 의미를 이해할 수 있다. 때문에 대규모 데이터베이스나 인터넷의 데이터를 검색하여 사용자 질문에 맞춤형 답변을 찾을 수 있다. 또한, 원래 데이터의 정보를 기반으로 간결한 요약본을 생성할 수 있다. 앞서 살펴본 생성형 AI와 LLM은 거의 모든 분야와 주제에 대해 사용할 수 있기 때문에, 개인 삶뿐만 아니라 업무 방식 역시 혁신적으로 변화시킬 수 있다. 이에 기업들은 생산성 향상, 프로세스와 수익성 개선 등을 위해 생성형 AI가 가진 엄청난 잠재력을 활용해 다양한 분야에서 적용 및 도입을 고려하고 있다. 하지만, 생성형 AI를 기업 환경에서 활용하기 위해서는 고려해야 할 사항이 많다. 지식재산권, 데이터 개인 정보 보호, 콘텐츠 오용 가능성 문제 등 지금껏 일반적으로 알려진 사항뿐만 아니라 '생성형 AI를 기업환경에 구축하기 위해 뒷받침되어야 할 것은 무엇인가', '어떤 업무에 적용할 것인가', '어떤 모델을 사용할 것인가', '투자 비용은 얼마가 적정한가'와 같이 다양한 현실적인 고민거리가 있을 수밖에 없다. 다음 글에서 기업에 AI, LLM 환경 구축을 지원하는 스노우플레이크의 신규 생성형 AI 기능을 소개하고자 한다. 생성형 AI의 잠재력을 극대화하기 위한 스노우플레이크의 비전을 통해 다양한 기업들의 고민을 해결할 수 있는 방안을 찾을 수 있을 것이다.

2024.04.22 09:48조성현

SAS 바이야, 생성형 AI 기능 강화

SAS는 지난 16일부터 19일까지 미국 라스베이거스에서 개최한 'SAS 이노베이트 2024'에서 최신 AI 및 데이터 분석 관련 제품과 비즈니스 사례를 발표했다고 22일 밝혔다. SAS는 데이터 분석 플랫폼인 'SAS 바이야'에 대규모언어모델(LLM) 오케스트레이션 기능을 제공한다고 밝혔다. 이를 통해 생성형 AI를 활용하고자 하는 고객은 LLM에 대한 설명력을 제공받아 업무 프로세스에 LLM을 쉽게 통합할 수 있게 됐다. SAS는 'SAS 데이터 메이커'를 출시하고, 생성형 AI 구현에 필요한 합성 데이터 생성을 지원한다. 더불어 산업별로 특화된 생성형 AI 비서 기능을 통해, 신뢰성 있는 생성형 AI의 적용을 확대하며 혁신을 이어나갈 예정이다. SAS 바이야는 LLM 오케스트레이션 기능을 통해 외부 생성형 AI 모델을 기존 비즈니스 프로세스 및 시스템과 쉽게 통합할 수 있어, 활용성을 높여준다. SAS 바이야 코파일럿 기능을 통해 분석 및 산업별 업무를 지원하는 개인 비서를 활용할 수 있다. 'SAS 바이야 코파일럿'은 코드 생성, 데이터 정리, 데이터 탐색, 마케팅 계획, 여정 설계 및 지식 격차 분석과 같은 작업에 활용되며, 개발자, 데이터 과학자 및 비즈니스 사용자의 생산성을 높여준다. SAS 데이터 메이커는 민감한 정보를 손상시키지 않으면서 고품질의 합성 데이터를 생성해 데이터 개인 정보 보호 및 데이터 부족 문제를 해결해 준다. SAS의 마케팅 솔루션인 'SAS 커스터머 인텔리전스 360'도 마케팅 계획, 여정 설계 및 콘텐츠 개발에 생성형 AI 지원을 제공한다. 'SAS 커스터머 인텔리전스 360'에서 자연어 프롬프트를 통해 타겟 고객층을 선정하거나, 채팅 서비스, 이메일 제목 추천 등에 생성형 AI를 활용할 수 있다. SAS는 'SAS 바이야'의 생성형 AI 및 LLM 오케스트레이션 기능의 사례로 미국 종합 제지 및 포장 제조 기업 조지아 퍼시픽 사례를 소개했다. 'SAS 바이야'의 센서 데이터, 비즈니스 룰, 추천 시스템, 스트리밍 분석 및 지능형 의사 결정 관리 지원을 통해 조지아-퍼시픽은 이벤트 발생 시, 빠르게 올바른 결정을 내림으로써 즉각적인 가치를 창출하고 있다. 조지아-퍼시픽은 SAS LLM 오케스트레이션과 제조에 특화된 생성형 AI 비서를 활용해 실시간으로 운영 문제를 해결하고 있다. 작년 5월 AI 산업 솔루션 개발에 10억 달러 투자 계획을 발표했던 SAS는 그 일환으로 패키지 형태의 산업특화형 AI 모델을 공급한다고 밝혔다. SAS는 개별 라이선스 방식으로 이용할 수 있는 산업별 맞춤형 경량 AI 모델을 제공함으로써 기업 고객들은 효율적인 방식으로 모델 패키지 도입 즉시 AI 기술 활용이 가능하다. SAS는 수십 년간 전 세계 금융, 의료, 제조 및 정부 기관에 확장 가능하고 신뢰성 있는 AI 모델을 배포하는 데 독보적인 입지를 보유하고 있다. 이번에 발표된 산업특화형 AI 모델을 통해 SAS는 LLM을 넘어, 사기 탐지, 공급망 최적화, 문서 기반 대화 서비스 및 의료비 사기 적발 등의 분야에서 사용이 입증된 결정론적 AI 모델을 제공하게 됐다. 특히, SAS의 산업별 AI 모델은 신속한 통합이 가능하도록 설계돼, 기업은 신뢰성 있는 AI 기술을 운영하고 가시적인 이익과 신뢰할 수 있는 결과를 더욱 빠르게 얻을 수 있다. SAS는 AI 모델 개발을 위한 경량 플랫폼 'SAS 바이야 워크벤치' 출시를 발표했다. 'SAS 바이야 워크벤치'는 개발자 및 모델작업자를 위한 셀프서비스 방식의 컴퓨팅 환경으로, 데이터 준비, 탐색 데이터 분석, 분석 모델 및 머신러닝 모델 개발 작업을 할 수 있다. 개발자와 모델작업자는 'SAS 바이야 워크벤치'를 이용해 클라우드 기반의 확장형 환경에서 SAS 나 파이썬 중 선호하는 언어로 작업이 가능하다. 현재 SAS와 파이썬으로 이용 가능하며, 2024년 말에는 R도 지원 예정이다. 또한, 주피터 노트북 및 주피터 랩과 비주얼 스튜디오 코드 등 두 가지 개발 환경 옵션을 제공한다. 'SAS 바이야 워크벤치'에서 제공하는 강력한 SAS 분석 프로시저(PROCs)와 네이티브 파이썬 API를 통해 고성능의 AI 모델을 더욱 빠르게 개발할 수 있다. 'SAS 바이야 워크벤치'는 아마존 AWS 마켓플레이스에서 올 2분기 내에 공급 예정이며, 추후 추가적인 클라우드 및 SaaS 옵션이 발표될 예정이다. SAS는 'SAS 호스티드 매니지드 서비스'를 아마존웹서비스(이하 AWS)로 확대한다고 밝혔다. SAS는 'SAS 매니지드 서비스' 포트폴리오에 AWS를 추가함으로써 고객들의 퍼블릭 클라우드 플랫폼에 대한 선택권을 넓히게 되었으며, 또한 클라우드 기반 데이터 및 AI 플래폼인 'SAS 바이야'를 포함해 자사의 다양한 첨단 기술 및 제품을 호스티드 매니지드 서비스의 형태로 고객들에게 공급할 수 있게 됐다. SAS는 이미 마이크로소프트 애저, 구글클라우드플랫폼 등을 포함한 다양한 클라우드 포털을 통해 SAS 바이야를 공급해 왔다. 이번 발표는 'SAS 호스티드 매니지드 서비스'의 확대로, SAS 제품의 설치, 구성, 운영 및 유지 보수에 이르는 전과정을 SAS의 전문적인 클라우드 서비스를 통해 제공하는 것이다. 이를 통해 이미 AWS를 사용 중인 'SAS 9' 고객들은 보다 간소하게 'SAS 바이야'로 전환할 수 있게 됐다. 'SAS 매니지드 서비스'는 가동시간을 극대화하고 관리 비용은 최소화하는 동시에 데이터의 가치 실현까지의 시간을 단축한다. SAS는 AI 거버넌스 및 지원 모델의 신뢰도와 투명성을 향상하기 위해 새로운 신뢰성 있는 AI 제품 및 서비스인 '모델 카드'와 'AI 거버넌스 자문 서비스'를 소개했다. 이를 통해, 기업들은 급변하는 AI 환경에서 올바른 선택을 하고, 리스크를 완화하며, 보다 확신 있게 AI 목표를 달성할 수 있다. SAS 바이야에서 제공되는 '모델 카드'는 AI 모델을 위한 '영양 성분표'와 같은 개념으로 정확도, 공정성, 모델 드리프트와 같은 지표를 보여준다. 모델의 최종 수정 시기, 모델에 기여한 사람, 모델에 대한 책임자와 같은 거버넌스 정보가 포함돼 있어, 조직이 비정상적인 모델 성능을 내부적으로 해결할 수 있게 해준다. 이처럼 개발자와 의사결정권자 등 모든 사용자에게 AI 수명 주기 전반에 걸쳐 독자 모델과 오픈소스 모델을 지원하는 엄선된 툴을 공급함으로써 신뢰성 있는 AI의 가치를 창출하게 될 것이다. 2024년 중반에 출시되는 '모델 카드'는 SAS 제품에서 콘텐츠를 가져와 등록된 모델에 대한 '모델 카드'를 자동으로 생성해, 개별 사용자가 '모델 카드'를 생성해야 하는 부담을 덜어준다. SAS 바이야는 이미 오픈소스 관리를 위한 기존 아키텍처를 보유하고 있어, 파이썬 모델을 시작으로 오픈소스 모델에도 '모델 카드'를 사용할 수 있다. '모델 카드'와 함께 'AI 거버넌스 자문 서비스'는 AI와 데이터 활용 방법을 고민하는 고객을 위해 제공하는 부가서비스로, 고객과의 미팅을 통해 조직의 현 상황을 파악하고 관련 서비스를 제공한다.

2024.04.22 09:36김우용

시스코, AI 기반 클라우드 보호 기술 '시스코 하이퍼쉴드' 공개

시스코는 데이터센터 및 클라우드 보호 기술 '시스코 하이퍼쉴드'를 최근 공개했다고 22일 밝혔다. 인공지능(AI) 확대로 IT 인프라 요구 수준이 높아지는 가운데, 시스코는 AI과 워크로드의 활용 및 보호 방식을 재구성하겠다는 방침이다. 시스코 하이퍼쉴드는 퍼블릭 및 프라이빗 데이터센터, 클라우드 등 고객이 필요로 하는 모든 장소에서 애플리케이션, 기기, 데이터를 보호한다. 설계 단계부터 AI 기술이 고려돼 사람의 힘으로 달성하기 어려운 높은 수준의 보안 시스템을 구축할 수 있도록 지원함으로써 보안 담당자가 업무를 보다 원활히 할 수 있도록 돕는다. 시스코는 이와 함께 최근 발표한 이더넷 스위칭, 실리콘, 컴퓨팅 포트폴리오를 통해 AI 인프라 가속화를 진행해 나가고 있다. 시스코 하이퍼쉴드는 신규 보안 아키텍처로 하이퍼스케일 퍼블릭 클라우드를 위해 개발된 기술이 사용됐으며, 모든 IT 팀이 조직 규모에 따른 제약 없이 구축할 수 있다. 보안 울타리보다는 보안 패브릭에 가까워 데이터센터 내 모든 애플리케이션 서비스, 퍼블릭 클라우드 내 모든 쿠버네티스 클러스터, 가상머신(VM) 및 컨테이너까지 모든 보안을 강화하는 것이 가능하다. 또한, 네트워크 포트를 고성능 보안 적용 지점으로 변환시켜 클라우드뿐만 아니라 데이터센터, 공장, 병원 영상실 등 다양한 공간에서 새로운 보안 기능을 제공할 수 있다. 이로써 애플리케이션 취약점 공격을 몇 분 이내로 차단하고 측면 이동 공격을 막는다. 하이퍼쉴드를 통한 보안 강화는 하이퍼스케일의 퍼블릭 클라우드에서 광범위하게 사용되는 강력한 하드웨어 가속기를 활용해 ▲소프트웨어 ▲가상머신 ▲네트워크, 컴퓨팅 서버, 어플라이언스 등 세 계층에서 이뤄진다. AI 네이티브로 구축 단계부터 자율화와 예측이 가능하도록 설계돼, 시스템이 스스로를 자체적으로 관리할 수 있어 대규모의 초분산 구조의 지원 접근이 가능하다. 하이퍼스케일 클라우드 안에서 클라우드 네이티브 워크로드를 연결하고 보호하기 위해 사용되는 기본 메커니즘인 오픈소스 기술 확장버클리패킷필터(eBPF)를 기반으로 구축됐다. 시스코는 기업용 eBPF 선도업체인 아이소밸런트 인수를 이번 달 초 마무리했다. 시스코는 서버와 네트워크 패브릭 자체에 고급 보안 제어 기능을 탑재해 네트워크 보안 작동 방식을 변화시키고 있다. 시스코 하이퍼쉴드는 모든 클라우드에 걸쳐 데이터 처리 장치(DPU)와 같은 하드웨어 가속 장치를 활용해 애플리케이션 및 네트워크 동작의 이상 징후를 분석하고 대응한다. 또한, 보호가 필요한 워크로드에 보안을 더 적용한다. 네트워크, 보안 및 광범위한 파트너 에코시스템 분야에서 업계 최고의 전문성을 갖춘 시스코는 엔비디아와 함께 데이터센터를 보호하고 확장하기 위해 AI 네이티브 솔루션을 구축 및 최적화하는 데 노력을 기울이고 있다. 엔비디아와의 협력은 네트워크 이상 징후를 탐지하는 엔비디아 모르페우스 사이버보안 AI 프레임워크와 엔터프라이즈를 위한 맞춤형 보안 AI 어시스턴트를 구동하는 엔비디아 NIM 마이크로서비스를 활용하는 것을 포함한다. 엔비디아의 컨버지드 가속기는 GPU 및 DPU 컴퓨팅의 성능을 결합해 클라우드부터 엣지까지 강력한 보안을 갖춘 시스코 하이퍼쉴드를 강화한다. 케빈 디어링 엔비디아 네트워킹 부문 수석 부사장은 “기업들은 산업 분야에 상관없이 끊임없이 확정되는 사이버 위협으로부터 기업을 보호할 수 있는 방법을 찾고 있다”며 “시스코와 엔비디아는 AI가 가진 힘을 활용해 강력하고 안전한 데이터센터 인프라를 제공해 기업들이 비즈니스를 혁신하고 전 세계 모든 고객들이 혜택을 누릴 수 있도록 지원하고 있다”고 밝혔다. 시스코 하이퍼쉴드는 오늘날의 정교한 위협 환경으로부터 인프라를 방어하고 고객이 직면하는 세 가지 문제를 해결할 수 있다. 분산 취약점 방어의 경우 공격자는 새로운 취약점 발표 후 보안 패치 적용 전에 빠르게 활용해 공격한다. 시스코의 보안 전문 조직 탈로스에 따르면, 방어자들은 매일 100 여개의 취약점을 새롭게 발견하고 있으며 이는 치명적인 결과로 이어질 수 있다. 시스코 하이퍼쉴드는 보안 적용 지점의 분산된 패브릭에서 테스트를 진행하고 보완 컨트롤을 추가해 불과 몇 분 내로 네트워크를 보호할 수 있다. 공격자가 네트워크에 접근했을 때 세그멘테이션은 공격자의 측면 이동 공격을 차단하는 데 핵심적인 역할을 한다. 하이퍼쉴드는 기존에 가지고 있는 정책을 지속적으로 관찰하고 자동추론 및 재평가를 진행해 네트워크를 자율적으로 세분화함으로써 대규모의 복잡한 환경에서도 문제를 해결한다. 시스코 하이퍼쉴드는 이중 데이터 평면을 활용해 매우 복잡하고 오랜 시간이 소요되는 많은 테스트 및 업그레이드 배포 과정을 자동화한다. 고객 고유의 트래픽, 정책 및 기능 조합을 사용해 소프트웨어 업그레이드 및 정책 변경 사항을 디지털 트윈에 반영하고, 다운타임 없이 이를 적용한다. 시스코의 AI기반 교차 도메인 보안 플랫폼인 '시큐리티 클라우드'에 탑재된 시스코 하이퍼쉴드는 올해 8월에 정식 출시될 예정이다. 최근 이루어진 스플렁크 인수로 인해 시스코의 기업 고객들은 모든 디지털 시스템에 대한 전례 없는 가시성과 인사이트를 확보하고 높은 수준의 보안 태세를 구축할 수 있게 됐다. 지투 파텔 시스코 보안 및 협업 부문 부회장 겸 총괄 매니저는 "AI는 전 세계 80억 인구의 영향력을 800억 명의 규모로 늘릴 수 있는 거대한 잠재력을 가지고 있다”며 “이러한 변화로 인해 연결부터 보안, 운영, 확장 방식 등 데이터센터의 역할도 변해야 한다”고 설명했다. 이어 “시스코 하이퍼쉴드를 사용하면 소프트웨어와 서버, 그리고 향후에는 네트워크 스위치까지 필요한 모든 곳에 보안을 적용할 수 있다”며 “수십만 개의 보안 적용 지점을 가진 분산된 시스템은 관리 방법의 간소화, 비용 감소를 이루고 시스템을 자율화하는 것이 중요하다”고 밝혔다. 척 로빈스 시스코 회장 겸 최고경영자(CEO)는 “시스코 하이퍼쉴드는 시스코 역사 상 가장 중요한 보안 혁신 중 하나”라며 “시스코는 보안, 인프라, 가시성 플랫폼의 강점을 바탕으로 고객이 AI를 활용할 수 있도록 지원할 수 있는 차별화된 포트폴리오를 갖고 있다”고 강조했다.

2024.04.22 09:24김우용

잡코리아, LLM 기반 자체 생성형 AI 솔루션 '루프' 출시

잡코리아는 LLM(거대언어모델) 기반 자체 생성형 AI 솔루션 '루프'(LOOP)를 출시했다고 22일 밝혔다. 자체 생성형 AI를 통해 더욱 정교한 매칭 기술로 인재와 기업을 연결시키겠다는 취지다. 루프 출시와 함께 새로운 로고도 공개했다. 잡코리아 브랜드 컬러와 같은 '블루'를 시그니처 컬러로 사용해 기존 브랜드 가치에 일관성을 더했다. '무수한 데이터와 정보의 바다 속을 유영한다'는 의미로 파동형태의 그래픽을 시각화한 것이 특징이다. 잡코리아는 다년간 쌓아온 업력과 지속적인 기술혁신으로 지난해부터 AI를 활용한 인재 매칭 서비스 '원픽', 자사 데이터 기반 커리어설계 서비스 '커리어첵첵' 등 다수의 서비스를 개발·운영하고 있다. 이 과정에서 쌓은 관련 노하우를 이번 잡코리아 루프에 적용했다. 특히 루프는 한국어 구인구직 LLM을 상용화해 이력서, 구인공고 등 HR 데이터를 활용함에 있어 더욱 정확하고 빠른 결과 산출이 가능하다는 강점을 보유하고 있다. 또 HR 도메인에 특화된 기능 위주로 개발돼 고객 서비스 활용에 최적화된 결과를 제공한다. 이번 루프는 기존 인재 추천 및 검색 서비스와 연계한 생성형 AI 서비스에 우선 적용될 예정이다. 이 외에도 자체 솔루션 운영을 통해 보안 위협으로부터 고객 개인정보보호와 데이터의 보안도 더욱 강화될 전망이다. ▲보안 ▲규정 준수 ▲ID ▲디바이스 관리 ▲개인정보 보호에 걸친 모든 환경을 보호한다. 또 기존 퍼블릭 LLM 운영 대비 인력 리소스를 줄이고, 전 기술분야에 업무 효율화와 비용 절감을 지원한다. 임지홍 잡코리아 데이터AI본부 상무는 "LOOP는 잡코리아의 AI 기술 노하우가 집약된 HR업계 최초 LLM AI 솔루션으로 오랜 시간 개발해 출시한 만큼, 완성도 높은 서비스를 선보이기 위해 노력하겠다"며 "향후에는 SaaS AI 솔루션과 결합해 다양한 사용자의 요구사항을 충족하는 차별화된 서비스와 매출 상승에 기여할 수 있는 새로운 비즈니스 모델을 구축할 예정"이라고 말했다. 잡코리아는 구직자의 니즈에 맞는 이력서 작성 및 관리, 데이터 분석 등 자체 AI 솔루션 기반 신규 서비스도 추진 중이다. 또 내부 구성원의 데이터 리터러시(Literacy, 문해력) 역량 강화를 위한 챗봇 서비스도 계획하고 있다. 지디넷코리아는 5월22일 강남구 봉은사로에 위치한 슈피겐홀에서 HR 담당자 대상의 'HR테크 커넥팅 데이즈' 세미나 행사를 연다. 이번 행사에는 리멤버(드라마앤컴퍼니)·잡플래닛(브레인커머스)·스펙터·블라인드·클랩(디웨일)·무하유(프리즘·몬스터)·잡코리아(나인하이어) 등 HR테크 분야 대표 기업들이 참여해 인적자원 관리(HRM)에 관한 최신 트렌드를 짚어보고, 데이터에 기반한 인사이트를 제시할 예정이다. 또 팀스파르타·데이원컴퍼니(패스트캠퍼스) 등 성인 교육 기업들도 참여해 인적자원 개발(HRD)에 필수인 '업스킬'과 '리스킬'에 대한 노하우도 풀어낼 계획이다. 이 밖에 HR 직무 현직자·노무 관련 전문 변호사 강연, 네트워킹 오찬 등이 마련될 예정이다. HR테크 커넥팅 데이즈 현장 참여를 원하는 HR 리더 및 임원은 [☞이곳]을 통해 사전 등록하면 된다. 사전 등록자 중 선정된 지원자들에게 4~5월 중 정식 초청장이 발송될 예정이다.

2024.04.22 08:47백봉삼

ACC+2024 관통한 트렌드 'AI 혁신·데이터 보안'

급변하는 IT업계의 혁신 트렌드를 한 눈에 파악할 수 있는 'ACC+'의 올해 핵심 포인트는 AI 전환과 데이터 보안이었다. 지디넷코리아는 17일 서울 강남구 인터컨티넨탈 코엑스에서 개최한 '어드밴스드 컴퓨팅 컨퍼런스 플러스(ACC+) 2024'를 성황리에 마무리했다. ACC+는 업계 주요 키워드와 최신 동향을 한 자리에서 확인할 수 있어 IT 산업 전반에 걸쳐 주목하는 행사다. 인터컨티넨탈 서울 코엑스 하모니볼룸에서 개최한 올해는 지코어, 팀뷰어, 퓨어스토리지, 레드햇, 삼성SDS 등 국내외 IT 업계 리더들이 참가해 첨단 기술 동향과 비즈니스 혁신을 위한 전략을 제시했다. 4개의 키노트와 12개의 세션으로 이뤄진 이번 행사는 전 산업에서 주목하고 있는 AI 기반 혁신사례와 함께 필수적으로 대비해야 할 요소로 AI 혁신과 보안을 중점적으로 다뤘다. 아직 많은 기업들이 AI에 대한 관심이 높지만 아직 검토 단계에 머물러 있기 때문인 것으로 분석된다. 첫 키노트를 담당한 유럽의 주요 기업을 중심으로 AI도입 사례를 소개했으며, 팀뷰어코리아의 이찬종 솔루션 컨설턴트는 다양한 산업에 AI를 도입하기 위한 전략을 제시했다. 특히 AI 도입을 고민하는 기업을 위한 세션들이 마련돼 주목 받았다. 삼성SDS는 생성형 AI를 도입하기에 앞서 필수적으로 거쳐야 하는 데이터처리 과정의 최적화 방안을 제시했으며, 알리바바는 엔터프라이즈 환경에 활용할 수 있는 생성형 AI와 LLM을 소개하며 좌석을 가득 채웠다. 오라클과 스노우플레이크도 AI도입에 앞서 기업의 데이터를 활용할 수 있도록 최적화하기 위한 기반 작업과 플랫폼을 제시했다. 이와 함께 AI 도입과정에서 급증하는 데이터로 인한 취약점 노출을 최소화하기 위한 방안을 IBM과 퓨어스토리지가 제안했다. 이 밖에도 레드햇과 레노보, 세일즈포스가 AI기반 디지털 혁신을 위한 기술을 선보였으며 오픈서베이는 디지털 전환 이후 기업의 성장 전략을 선보였다. 기업을 비롯해 정부부처의 올해 AI 지원 계획도 소개됐다. 이번 행사의 마지막 발표를 맡은 정보통신산업진흥원(NIPA)의 김득중 부원장은 올해 AI산업 육성을 위한 사업 추진 방향을 발표했다. 김 부원장은 올해 기업들의 AI지원을 위해 적극적으로 나설 것임을 강조하며 이를 위해 조직개편까지 단행한다고 강조했다. 지디넷코리아 관계자는 "엔데믹 이후 디지털 혁신 기술의 물결이 거세게 밀려오고 있다"며 "이번 ACC+ 2024 행사가 기업 디지털 전환의 방향타 역할을 할 것으로 기대된다"고 밝혔다.

2024.04.17 17:22남혁우

세일즈포스 "AI 시대에도 통합과 연계는 중요한 과제"

“AI 시대에 통합과 연계는 여전히 중요한 과제다. 기업의 개발자가 번아웃을 일으키는 주요 요건 중 하나가 통합, 연계, 자동화 같은 일 때문에 생산적인 일에 몰두하지 못하기 때문이다.” 세일즈포스코리아 이성 상무는 지디넷코리아가 17일 서울 인터컨티넨탈코엑스에서 개최한 '제21회 어드밴스드컴퓨팅컨퍼런스플러스(ACC+) 2024'에서 이같이 밝혔다. 세일즈포스 뮬소프트는 얼마전 자동화 및 디지털 통합 현황과 AI 전략 구축 인사이트를 담은 '2024 연결성 벤치마크' 보고서를 발표했었다. 뮬소프트의 이번 보고서는 미국, 영국, 프랑스, 일본 등 전 세계 9개국의 1천50명의 CIO 및 IT 부문 리더들을 대상으로 작년 10월부터 11월까지 진행한 연구조사에 기반한다. 조직 내 IT 부문 리더 중 85%는 AI를 통해 개발자의 업무 생산성이 향상할 것이라고 응답했다. 반면, AI의 중요성에도 불구하고 62%는 조직에서 아직 AI 활용에 필요한 데이터 시스템 통합이 준비되어 있지 않다고 답했다. 보고서에 따르면, 기업의 운영 효율성, 생산성, 직원 및 고객경험 향상 등을 위한 성공적인 AI 전략은 데이터 통합에 달린 것으로 나타났다. 설문 응답자의 80%는 이미 조직 내에서 생성형 AI 또는 예측형 AI를 활용하고 있는 가운데, 근 3년 내 조직이 활용하고 있는 LLM 수가 69% 이상 늘어날 것이라고 예상했다. 기업 내 데이터 및 시스템에 연동된 앱은 약 28%에 불과했으며, 응답자의 95% 이상은 기업의 AI 도입에 시스템, 장치, 소프트웨어, 데이터 소스 등의 '디지털 통합'이 당면과제라고 답했다. 이성 상무는 “평균적으로 기업이 보유한 애플리케이션 수가 900여개 정도라고 하는데, 트랜잭션 한번 일어날 때마다 32개 시스템을 연결해야 한다”며 “투자 비용은 늘지 않지만, 점점 더 많은 기술 스택을 지원해야 하는 과제 때문에 통합의 복잡성은 중요한 문제가 되고 있다”고 말했다. 그는 뮬소프트의 API 관리와 통합 영역을 설명하면서 복잡한 시스템 연계를 어떻게 자동화할 수 있는지 설명했다. 그는 “뮬소프트는 API를 레이어별로 구분해 느슨하게 연계하는 방식으로 기술을 지원하고 있다”며 “이를 통해 타임투마켓에 맞춰 애플리케이션을 개발한 다음에 API를 땡겨가면 되므로 실제로 전체적인 영향도나 안정성 이에 대해서 시간을 최소화하고, API 재사용성을 극대화할 수 있다”고 밝혔다. AI 도입 및 통합된 고객경험을 제공하기 위해서는 데이터 사일로 해결이 급선무인 것으로 나타났다. 조사 결과, 81%의 IT 리더는 데이터 사일로가 디지털 혁신에 있어 가장 큰 어려움이라고 답했으며, 약 26%만이 전체 디지털 채널에서 연결된 사용자 경험을 제공하고 있다고 밝혔다. 이와 관련해 뮬소프트는 AI를 도입하고 운영하기 위해서 모든 비즈니스 데이터를 통합할 수 있는 시스템의 필요성이 증가하고 있다고 설명했다. 뮬소프트는 노코드 기반의 자동화, API, 데이터 및 시스템 통합을 지원하는 유니파이드 플랫폼으로 새로운 장치, 소프트웨어, 버전 및 데이터 소스를 쉽고 빠르게 통합 및 연동할 수 있도록 지원한다. 이를 통해 기업은 빠르게 변화하는 내·외부 환경에도 민첩한 대응 역량을 확보할 수 있다. 지난 18년간 뮬소프트는 글로벌 생활용품 기업 유니레버, 유럽 항공기 제작사 에어버스, 미국의 통신사인 AT&T, 프랑스의 보험 금융 그룹 AXA, 스포츠 브랜드 아식스 등 전 세계 기업의 디지털 혁신을 지원했다.

2024.04.17 16:59김우용

"오라클 데이터베이스 23c는 생성형 AI의 기반"

“곧 정식 출시될 오라클 데이터베이스 23c는 기업에서 필요로 하는 AI 핵심 요소를 제공한다. 오라클 데이터베이스는 지속적으로 다양한 포맷을 수용하는 통합 데이터베이스를 표방한다. 새 버전은 JSON과 관계형 DB를 혼합하고, AI에 가장 필요한 검색증강생성(RAG)을 지원하는 벡터 검색을 제공하게 된다. 오라클 데이터베이스 23는 AI의 근간 인풋인 데이터의 기반을 제공한다.” 허양호 한국오라클 전무는 지디넷코리아가 17일 서울 인터컨티넨탈코엑스에서 개최한 '제21회 어드밴스드컴퓨팅컨퍼런스플러스(ACC+) 2024'에서 이같이 밝혔다. 향후 출시되는 오라클 데이터베이스 23c는 새로운 기능으로 JSON 듀얼리티 뷰와 AI 벡터 검색 등을 제공한다. 관계형 데이터베이스 형식과 JSON 형식을 한 테이블에 저장할 수 있는 기능과 AI의 기업 내부 데이터 접근을 가능하게 하는 벡터 DB 기능이다. 허양호 전무는 “오라클 데이터베이스 23c의 JSON 듀얼리티 뷰를 이용하면 JSON 데이터 변환작업을 DB 차원에서 자동으로 해주고, JSON 데이터를 DB 테이블에 자동으로 알아서 저장한다”며 “이 테이블에 있는 데이터를 읽으면 JSON 포맷으로 다시 복귀해 보여준다”고 설명했다. 그는 “그 리턴 값을 다시 수정해서 JSON 뷰에 넣으면 그 업데이트된 내용이 자동으로 다시 DB 테이블에 저장돼 모든 변환에 필요한 복잡한 과정을 자동화할 수 있다”고 강조했다. 생성형 AI의 기술은 데이터에 연관성을 부여하는 벡터화를 활용한다. 벡터 정보를 위한 별도 데이터베이스가 요구되는데, 오라클 데이터베이스 23c를 사용하면 기존 DB로 벡터 검색을 지원할 수 있다. 허 전무는 “AI 환각을 해결하는 단어로 요즘 RAG가 각광받고 있다”며 “벡터 DB는 정형 및 비정형 데이터를 수치화해 벡터 형태로 저장하는 것으로, 그 의미 검색을 지원해 최신화된 데이터를 언제든 연동해서 사용할 수 있게 한다”고 말했다. 그는 “오라클 데이터베이스 23c에서 이 벡터 DB를 함께 매핑해 지원함으로써 기업 내부에 데이터를 LLM에 더해 프롬프트를 자동으로 생성할 수 있고, 기업에게 실질적으로 필요한 전문적 답변을 받게 한다”고 강조했다. 그는 데이터베이스 제품 외에 오라클클라우드인프라(OCI) 서비스의 AI 요소도 설명했다. 그는 “오라클 OCI는 AI 데이터의 수집, 저장, 처리, 분석, 학습, 활용, 배포, 관리 등에 이르는 엔드투엔드 데이터 파이프라인 관리 서비스를 제공한다”고 밝혔다. 오라클은 자사의 퍼블릭 클라우드 서비스의 강점으로 저렴한 비용, 고성능, 유연성, 보안 등으로 꼽는다. OCI의 모든 기능과 요소를 프라이빗 클라우드, 전용 리전, 멀티클라우드에 걸쳐 동일하게 제공하는 구성도 제공한다. 허 전무는 “AI의 가장 중요한 것 중 하나가 보안이므로, 프라이빗 클라우드를 원하는 고객에게 OCI의 클라우드앳커스터머와 전용 리전은 매우 큰 이점을 제공한다”고 말했다.

2024.04.17 16:42김우용

정명애 을지대 교수 "AI·빅데이터 교육 및 창업·보육 지원 확대"

“협회 역할을 AI 교육과 빅데이터 분석 및 활용 교육 등으로 확대할 것입니다. 또한 스타트-업과 투자자를 연계하는 창업·보육 지원에도 일정 부분 협회 역할을 만들어 갈 계획입니다.” 17일 취임한 정명애 대한의료데이터협회(KMDA) 제3대 회장은 “빅데이터와 AI를 바탕으로 하는 의료 데이터의 새로운 서비스나 비즈니즈와 관련한 사업을 눈여겨보고 있다”며 이 같이 말했다.정명애 신임 회장은 현재 을지대학교(총장 홍성희) 빅데이터의료융합학과 교수로 재직 중이다. 임기는 오는 2026년 4월 16일까지 2년이다. 정 신임 회장은 “협회가 창립한 지 3년이 됐다”며 “협회가 안착기에 접어든 만큼 이제부터는 실질적인 일(사업)을 만들어 갈 것”이라고 말했다. 정 신임 회장은 교육과 창업·보육 지원 외에도 오픈 이노베이션 소모임을 만드는 등 의료 데이터 생태계 구축에 공을 들일 계획이다.“정부가 최근 통합바이오빅데이터 인프라 구축 사업에 착수하는 등 바이오헬스 혁신과 국민건강 증진을 도모하고 나섰습니다. 협회도 이에 발맞춰 양질의 의료(바이오) 데이터가 안전하게 보호되고 유통·활용되도록 최선을 다할 것입니다.” 사람 뿐만아니라 반려동물 의료데이터에도 관심 정 신임 회장은 “사람뿐만 아니라 반려동물 데이터 관련 사업에도 관심이 있다”며 “멀기만 한 이야기로 들릴지 모르나 데이터가 돈이 되는 서비스와 비즈니스 발굴 및 육성에 적극 나설 계획”이라고 사업 확대 방안에 대한 입장을 밝혔다. 첫 행보로 정 신임회장은 17일 개막한 '제3회 K-PetBiz Start-up IR'에 참석해 대한의료데이터협회와의 협력을 강조했다. 이 행사는 반려동물을 주제로 제조, 유농, 서비스, 플랫폼, 공유경제, 커뮤니티, 커머스, AI 등을 진행하는 스타트업 12개 업체의 IR피칭 행사다. 대한의료데이터협회 반려동물분과를 비롯한 강남상공회, 카이스트원클럽(KOC)이 공동 주관한다. 대한의료데이터협회는 의료데이터와 혁신적인 IT 등 과학기술을 어떻게 융합할 것인가를 고민 중이다.이를 통해 보건 의료 및 관련 산업의 혁신과 산업 생태계를 조성하고 인류 건강과 의료서비스의 질적 향상에 기여한다는 것이 협회 설립 목표다. “의료데이터를 분석하면 진단의 정확성을 향상할 수 있습니다. 치료 계획을 최적화하고, 의료비용도 효과적인 관리가 가능해집니다. 이는 궁극적으로 건강보험 수가를 낮추는 효과가 있습니다. 환자에게는 건강을 효율적으로 관리하는 데 큰 도움을 줄 것입니다. 정 신임 회장은 의료데이터의 중요성을 강조하며 전통적인 방식과 AI 방식에 의한 신약개발 기간을 예로 들었다. AI 활용하면 신약개발 기간 절반으로 줄어 ”보건산업진흥원에 따르면 기존의 신약 개발 기간은 타깃 발굴 2~3년, 발굴 및 스크리닝 0.5~1년, 물질 최적화 1~3년, 독성시험 1~3년, 임상1~3상 5~6년, 허가1~2년 등 최소 10.5년에서 최대 18년이 걸립니다. 하지만 AI를 활용할 경우 6~9년이면 신약을 볼 수 있지요.“ 의료데이터는 AI를 활용하는 기반이다. 의료데이터를 먼저 쌓은 뒤 이를 가공하고 정제하는 과정 없이는 치료든 신약개발이든 AI 모델링이 어렵다. 하긴 최근엔 유사 데이터를 AI로 모두 만들어내는 사례도 나오고 있다. 정 신임 회장은 협회가 추구하는 의료데이터의 개인화 서비스에 대해서도 자세히 설명했다.기존의 진단 및 치료 중심 의료에서 개인의 유전체 정보를 기반으로 하는 4P(예측, 예방, 참여, 개벌환자 특화) 의료로 의학의 패러다임이 변화하고 있기 때문에, 의료 서비스도 이 추세에 맞춰 혁신이 이루어져야 한다는 것이다. 이 혁신 방법으로 정 신임 회장은 ▲개인화된 진단과 치료 ▲건강한 라이프스타일 촉진(맞춤형 운동 및 식사 계획 등) ▲의료비 절감(질병 조기발견 및 예방) ▲의료 연구와 혁신 촉진(의료데이터 활용 새 치료법 등 개발) ▲기록 기반 의료 서비스 최적화 등을 꼽았다. 정 신임 회장은 의료 데이터셋과 AI의 향후 나아가야할 방향에 대해서도 목소리를 높였다. AI성능 향상 위해선 대량 의료 데이터셋 구축 필수 ”의료 데이터셋의 규모와 다양성은 AI알고리즘 성능을 향상시키는 핵심입니다. 앞으로 더 많은 환자 의료 기록과 생물학적 데이터, 의료 이미지 등을 포함하는 더 큰 규모의 데이터셋이 수집되고 구축되어야 할 것입니다.“ AI가 개인의 의료 데이터를 분석, 정밀 의료와 개인 맞춤형 치료를 제공하는 시대가 조만간 일반화할 것으로도 내다봤다. 또 의료 영상의 자동 분석과 해석 분야에서도 AI기술 수준이 상당부분 올라와 있어 영상을 통한 질병 및 이상 탐지도 현재보다 훨씬 원활해질 것으로 전망했다. ”AI는 의료 연구와 혁신을 가속화하는 데 큰 역할을 할 것입니다. 의료데이터를 기반으로 한 AI 모델은 새로운 치료법 개발과 질병의 이해, 바이오마커 발견 등에 크게 기여할 것입니다.“ 정 신임 회장은 ”빅데이터와 AI가 의료 서비스의 효율성을 향상시키고, 의료비 절감에 큰 도움을 줄 것“이라며 ”특히, AI를 활용한 의료 진단 보조 시스템은 의료 서비스의 질 개선은 물론 진료 시간도 크게 단축시킬 것“이라고 재차 강조했다. “데이터의 생산이나 유통, 활용 측면에서 아직도 규제가 사업화 걸림돌로 작용하고 있다는 지적이 많습니다. 개인정보보호(규제)와 데이터 안정성 간에 조화가 필요합니다. 현재 의료기관은 데이터 보유 기관으로서 의무와 책임만 규정하고 강조하는 문제를 해결해야 합니다. 의료데이터의 생성 및 보유 기관에 대한 정의와 권리, 권한 등에 대한 명확한 정리가 선행돼야겠지요." 정 신임 회장은 이외에도 익명화 암호화된 데이터에 대한 유통 활용이 좀더 자유로워야 한다고 덧붙였다. [주요 이력] △독일 TU-크라우스탈 화학과 고분자 물리화학 박사 △현재 을지대학교 빅데이터의료융합학과 교수 △전 독일 TU-크라우스탈 박사후연구원 △전 독일 막스-프랑크 연구소 고분자연구원 △전 한국전자통신연구원 책임연구원 △전 국가가학기술자문회의 단장 △전 국가과학기술연구회 R&D정책자문 전문위원

2024.04.17 14:00박희범

오라클DB, 생성형 AI 만났다…"앱 구축·데이터 분석 간소화"

"생성형 인공지능(AI)이 '오라클데이터베이스(DB)'에 스며들었다. 고객은 이런 융합형DB과 자율운영DB를 통해 현대 애플리케이션 운영과 데이터 분석 작업을 간소화할 수 있다." 오라클 앤디 멘델손 DB 서버 기술개발사업부 총괄 부사장은 지난 16일 서울 삼성동에서 열린 '모던 데이터 플랫폼 및 데이터베이스 혁신 전략' 기자간담회에서 최신 오라클DB 소개와 사업 전략을 발표했다. 기업이 데이터 중심 클라우드 전환을 위해선 최신 오라클DB 구축이 필수라고 재차 강조했다. 멘델손 부사장은 DB 솔루션에 생성형 AI를 접목한 '융합형DB'와 이를 구동하는 '자율운영DB'를 소개했다. 융합형DB는 기업 경영진과 개발자 모두 필요로 하는 통합된 데이터를 지원한다. 퍼블릭 클라우드, 클라우드앳커스터머, 사내구축형 환경에서 작동한다. 자율운영DB는 온라인 트랜잭션 처리를 비롯한 분석, 배치 서비스 등을 지원한다. 오라클DB와 오라클 엑사데이터 기반으로 이뤄졌다. 엑사데이터 클라우드앳커스터머와 OCI 전용 리전을 통해 사내구축형 환경에서도 작성한다. 그는 "두 솔루션은 모던 앱과 분석을 자동 생성할 수 있다"며 "사람이 작업하는 시간 자체를 줄일 수 있다"고 설명했다. 이어 "융합 개방형 SQL DB가 기존 단일목적 상용DB를 대체할 수 있다"며 "개발자와 전문가들은 데이터 통합 시간을 줄이고 혁신에 집중할 수 있을 것"이라고 덧붙였다. 앤디 멘델손 부사장은 DB 및 분석 서비스에 지속적으로 투자하고 있다고 강조했다. 그는 대표 솔루션 '오라클 엑사데이터 클라우드앳커스터머', '마이SQL 히트웨이브', '오라클 에어펙스', '오라클 애널리틱스'. '오라클 애널리틱스' 등도 이날 소개했다. 오라클 엑사데이터 클라우드앳커스터머는 고객 데이터 센서 안에서 클라우드 DB 서비스를 제공한다. 이를 통해 데이터 주권과 보안 요건 충족을 지원한다. 마이SQL 히트웨이브는 완전 관리형 DB 서비스 겸 단일 마이SQL DB에 트랜잭션, 분석 서비스 등을 결홉한 클라우드 DB 서비스다. ETL 복제 복잡성과 레이턴시, 비용 없이 실시간으로 분석을 진행한다. 오라클 에이펙스는 로우코드 개발 플랫폼이다. 기업이 확장 가능한 데이터 기반 앱을 구축하고 사내구축형 또는 클라우드 환경에서 구동할 수 있도록 지원한다. 오라클 애널리틱스는 통합 분석 서비스 플랫폼이다. 오라클 퓨전 클라우드 애플리케이션, 오라클 자율운영 DB, 기타 제품 등 사용 중 오라클 제품과 관계없이 데이터로부터 통찰력을 보다 신속하게 확보하고 예측 정확도를 높인다. 앤디 멘델손 부사장은 "앞으로 DB 서비스는 융합형으로 데이터 관리를 지원할 것"이라며 "여기에 생성형 AI까지 더해 작업 간소화를 이룰 수 있다"고 강조했다.

2024.04.17 09:17김미정

에이모, CES 통해 국내외 기업 21곳 '4Core' AI 데이터 솔루션 공급

AI 데이터 플랫폼 에이모(AIMMO, 대표 오승택)가 지난 1월 선보인 신제품 AI 데이터 솔루션 '4Core'로 21개의 국내외 유수 기업과 공급 계약을 체결했다고 16일 밝혔다. 에이모는 지난 CES 2024 기간 중 단독 컨퍼런스를 열고 데이터 수집부터 정제, 가공, 평가까지 전주기를 통합 관리하는 AI 솔루션 4Core를 출시했다. 고품질 데이터가 필수적인 자율주행, 로보틱스 등 전 산업 분야에 적용 가능한 솔루션으로 데이터 관리에 필요한 시간단축 및 비용절감, 오류 확률 최소화 등이 특징이다. 컨퍼런스 기간 동안 신제품은 많은 관심을 받으며 100여개 기업의 리드를 확보했다. 이 중 약 20% 기업과 제품의 각 코어별 기능 및 데이터 공급에 대한 계약을 통해 데이터 최적화를 제공한다. 현재 이외 기업과도 기술평가(POC)를 논의하고 있는 만큼 계약은 추가될 것으로 기대하고 있다. 이번 계약은 국내 IT 기업을 비롯해 유럽, 북미 기업까지 글로벌 기업과 성사된 것에 의의가 있다. AI 데이터에 대한 수요가 증가하는 가운데 기술력을 인정받아 높은 계약률로 이어진 것. 또 자율주행을 넘어 스마트시티 및 스마트팩토리 등에 공급하며 분야를 확장했다. 특히 트리플렛 등 AI 솔루션 업체와 상생, 협력으로 동반 성장하는 AI 데이터 생태계 조성을 꾀하고 있다. 신동화 트리플렛 대표는 "에이모의 데이터 관리 기술과 자사의 AI 영상분석 기술이 만나 시너지가 날 것으로 기대해 계약을 체결했다"고 밝혔다. 에이모는 신제품 출시와 동시에 글로벌 확장에 박차를 가하고 있다. 캐나다, 영국, 독일, 베트남, 미국까지 5개의 해외 법인을 운영하고, 지속적인 해외 전시 참가를 통해 글로벌 기업과 데이터 솔루션 공급 협력 관계를 강화 및 확대해 나갈 계획이다. 에이모 관계자는 "국내외 유수의 기업과의 공급 계약을 통해 에이모의 기술력과 사업 파트너로서의 강점을 지속적으로 인정받고 있다"며 "그간 쌓아온 경험과 실적을 바탕으로 전 세계 AI 데이터 시장을 적극 공략할 것"이라고 밝혔다.

2024.04.16 11:12백봉삼

"생성형 AI의 보안은 '안전'과' 정확성'을 함께 원한다"

“기업은 AI를 활용할 때 관리 가능하고 안전할 뿐만 아니라, 매우 정확하고 관련성 높은 결과물을 요구한다. 이미 챗봇이 '환각' 현상으로 인해 고객에게 부정확한 답변을 제공하고, 이로 인해 기업이 어려움을 겪은 사례도 많이 존재한다. 좋은 AI 전략을 세우려면 강력한 데이터 전략이 필요하다. 기업은 사내에서 자체 AI 모델을 구축하고, 기업 내부 데이터로 해당 모델을 학습시켜 부정확한 답변을 생성하지 않도록 하며, 궁극적으로 지적재산(IP)에 대한 소유권을 갖기를 원하고 있다.” 페르민 세르나 데이터브릭스 최고보안책임자(CSO)는 본지와 서면인터뷰에서 최근 생성형 인공지능(AI) 트렌드 속에서 나타나는 데이터 보안 분야의 체크포인트를 이같이 요약했다. 그는 “AI는 자동화로 생산성을 향상시키고, 데이터에 기반한 의사 결정을 통한 효율성 증대와 성공적인 비즈니스 등 다양한 이점을 제공한다”며 “미국을 비롯한 전 세계 조직이 이러한 이점을 인지함에 따라 AI를 도입하는 사례가 늘고 있지만 동시에 보안과 개인정보 보호에 관한 우려로 인해 AI 프로젝트를 실제 업무에 적용할 때 신중을 기하는 추세”라고 설명했다. 기업의 데이터 보안 전략은 생성형 AI 환경에서 새롭게 업그레이드돼야 하는 상황이다. 데이터 통제 및 관리, 규제 준수 같은 안전을 보장하는 생성형 AI를 만들면서도, 맥락에 적합한 정확한 답변과 성능을 구현해야 한다. IT 보안이 생성형 AI를 맞아 전보다 더 넓은 범위를 고려해야 하는 것이다. 이에 대해 페르민 세르나 CSO는 중요한 조언을 몇가지 제시했다. 그는 단일한 데이터 플랫폼을 구축해 통합적인 보안과 거버넌스 체계를 갖춰야 한다고 강조했다. 데이터 및 AI에 대한 통합 가시성, 데이터 및 AI에 대한 단일 권한 모델, AI 기반 모니터링 및 통합 가시성 등의 접근 방안을 소개하기도 했다. Q. 기업용 생성형 AI에 대해 내부 데이터를 접근할 때 권한 및 보안등급 관리, 규제 준수 등 거버넌스와 컴플라이언스 이슈가 있다. 이에 대한 조언을 한다면? 지난해 JP 모건 체이스, 버라이즌, 삼성전자 등이 고객 정보 및 소스 코드에 대한 통제권을 잃을 수 있는 잠재적 위험을 줄이기 위해 챗GPT 사용을 금지한다고 발표한 바 있다. 이는 거버넌스 도구를 '데이터의 세계'에서 '데이터와 AI의 세계'로 확장해야 하는 이유를 보여주는 대표적인 예다. 서로 다른 여러 플랫폼, 시스템 및 공급업체에 걸쳐 데이터와 AI를 관리하는 일은 매우 복잡하다. 모든 조직이 직면하고 있는 가장 큰 과제 중 하나는, 데이터 사일로와 데이터 개인정보 보호 및 제어에 관한 문제다. 조직에서 사용하는 시스템이나 플랫폼마다 데이터가 중복되거나 시스템 간에 이동될 수 있으며, 또 플랫폼마다 보안 및 거버넌스에 대한 접근 방식이 다를 수 있다. 레이크하우스 아키텍처에 구축된 데이터브릭스 데이터 인텔리전스 플랫폼과 같은 단일 통합 플랫폼을 선택하면 통합 보안 및 거버넌스를 통해 하나의 데이터 사본을 AI에서 비즈니스 인텔리전스(BI)에 이르는 다양한 사용 사례에 저장하고 사용할 수 있어, 이러한 보안 위험을 완화할 수 있다. Q. 데이터브릭스는 생성 AI 시대의 데이터 거버넌스와 컴플라이언스에 어떤 해법을 제시할 수 있나? 데이터브릭스는 2020년에 데이터 웨어하우스와 데이터 레이크의 장점을 결합하고 통합하기 위해 레이크하우스를 분야를 개척했다. 레이크하우스는 (1) 조직 내 모든 데이터 소스(정형, 반정형, 비정형 데이터)를 함께 쿼리하고 (2) 데이터를 사용하는 모든 워크로드(BI, AI 등)를 통합된 방식으로 관리할 수 있는 통합 시스템을 제공한다. 레이크하우스는 독자적인 데이터 플랫폼 범주로 자리 잡았으며, 현재 기업에서 널리 채택되어 대부분의 벤더 스택에 통합되어 있다. MIT 테크놀로지 리뷰 인사이트 보고서에 따르면, 전 세계 CIO의 74%가 자사의 레이크하우스를 보유하고 있다고 답했다. 레이크하우스 도입은 이미 시장에서 대세로 자리 잡았지만, 데이터브릭스는 레이크하우스와 생성형 AI를 결합해 데이터 인텔리전스 플랫폼이라는 새로운 범주의 데이터 플랫폼을 만들었다. 데이터 인텔리전스 플랫폼을 통해 기업은 자연어를 사용하여 한 곳에서 데이터를 통합, 관리 및 활용할 수 있다. 데이터 인텔리전스 플랫폼은 생성형 AI 모델을 사용하여 기업 데이터의 의미를 파악하고 플랫폼의 모든 부분에서 이렇게 이해한 내용들을 활용한다. 데이터브릭스의 통합 거버넌스 솔루션인 유니티 카탈로그를 통해 조직은 모든 클라우드 및 플랫폼에서 정형 및 비정형 데이터, 머신러닝 모델, 노트북, 대시보드 및 파일을 원활하게 관리할 수 있다. Q. 회사 내부 보안조직의 대응법이 있으면 소개해달라. 데이터브릭스의 데이터 및 AI 거버넌스 접근 방식은 아래와 같다 1. 데이터 및 AI에 대한 통합 가시성: 조직은 생성형 AI를 통해 자연어를 사용하여 데이터와 AI를 안전하게 검색하고, 이해하고, 인사이트를 추출하여 생산성을 높일 수 있다. 2. 데이터 및 AI에 대한 단일 권한 모델: 통합 인터페이스로 액세스 관리를 간소화해 데이터 및 AI 자산에 대한 액세스 정책을 정의하고 모든 클라우드 또는 데이터 플랫폼에서 이러한 정책을 일관되게 적용 및 감사할 수 있다. 또한, 조직은 행과 열을 세밀하게 제어하여 보안을 강화하는 동시에 원활하게 확장되는 로우코드 속성 기반 액세스 정책을 통해 액세스를 효율적으로 관리할 수 있다. 3. AI 기반 모니터링 및 통합 가시성: AI를 사용하면 모니터링을 자동화하고 오류를 진단하며 데이터 및 ML 모델 품질을 유지할 수 있다. 조직은 개인 식별 정보(PII) 데이터를 자동으로 감지하고, 모델 드리프트를 추적하며, 데이터 및 AI 파이프라인 내의 문제를 효과적으로 해결하여 정확성과 무결성(integrity)을 유지하는 사전 예방적 알림의 이점을 누릴 수 있다. Q. 방어자 입장에서 AI를 어떻게 받아들여야 바람직할까? AI는 조직이 방대한 양의 데이터를 선별해 패턴을 모니터링하고 분석하는 데 도움을 준다. AI는 이렇게 학습된 패턴을 기준선으로 삼아 비정상적인 행동을 감지하고 시스템에 대한 무단 액세스를 제한할 수 있다. 또한, AI는 위험의 우선순위를 정하고 멀웨어와 침입의 가능성을 즉시 감지하여 분석가의 1차 작업을 보강하는 데 도움을 줄 수 있다. 데이터 인텔리전스 플랫폼과 생성형 AI를 사용하면 조직 내 사이버 보안 팀들은 자연어를 사용하여 사고의 영향과 보안 속성에 대해 질문을 할 수도 있다. Q. 세계 각국에서 AI 안전에 대한 규제가 나오기 시작했다. 조직에서 AI 안전을 담당하는 주체는 누가 돼야 하고, 어떻게 무수한 규제에 대응하고 정책변경에 빠르게 적응할 수 있을까? 새롭게 생겨나는 AI 규제는 다양하고 복잡한 요구 사항을 가지고 있지만, 한편으로는 반복되는 주제를 담고 있다. 일반적으로 5가지 주요 영역에서 의무가 발생한다: 1. AI 개발 및 배포 주기의 모든 단계에서 필요한 데이터 및 모델 보안과 개인 정보 보호 2. 출시 전 위험 평가, 계획 및 완화 - 데이터 학습과 가드레일 구현에 중점을 두고 편향성, 부정확성 및 기타 잠재적 피해를 해결 3. 출시 시 필요한 문서 - 개발 과정에서 수행한 단계와 AI 모델 또는 시스템의 특성(기능, 제한 사항, 학습 데이터 설명, 위험, 완화 조치 등)에 관한 내용 포함 4. 출시 후 모니터링 및 지속적인 위험 완화 - 부정확하거나 기타 유해한 결과물 생성 방지, 보호 대상 그룹에 대한 차별 방지, 사용자가 AI를 다루고 있음을 인지하도록 하는 데 중점을 둠 5. 대규모 모델을 학습하고 실행하는 데 사용되는 에너지가 환경에 미치는 영향 최소화 이러한 목표를 달성하려면 모든 조직이 데이터와 AI 모델에 대한 완전한 소유권과 통제권을 확보하고 AI 개발 및 배포의 모든 단계에서 포괄적인 모니터링, 개인정보 보호 제어, 거버넌스를 이용할 수 있어야 한다. 조직은 데이터 품질을 제공하고, 더 안전한 애플리케이션을 제공하며, 규제 표준을 준수하는 데 도움이 되는 책임 있는 AI 목표를 달성하기 위한 통합된 접근 방식을 필요로 한다.

2024.04.16 10:07김우용

아직 갈길 먼 AI 도입, 가장 큰 과제는 '데이터'

글로벌 빅테크를 중심으로 생성형AI 기술이 하루가 다르게 급격한 발전을 이루고 있다. 하지만 아직 상당수의 기업들은 AI를 도입하는 데 어려움을 겪는 것으로 나타났다. AI 기술은 빠르게 발전하고 있지만 정작 AI학습 및 운영을 위한 기업 내 데이터가 아직 충분히 갖춰지지 않거나 체계화되지 않아 제대로 활용할 수 없기 때문이다. 최근 세일즈포스가 발표한 '2024 연결성 벤치마크 보고서'에 따르면 62%의 기업에서 “아직 AI 활용에 필요한 데이터 시스템 통합이 준비돼 있지 않다”고 답했다. 15일 관련 업계에 따르면 기업들이 AI 도입을 검토하는 과정에서 가장 부담을 느끼거나 피로감을 느끼는 부분도 데이터로 나타났다. GPT-4 등 생성형AI는 대규모언어모델(LLM)이라는 용어처럼 방대한 양의 데이터를 기반으로 한 사전학습이 필요하다. 데이터를 학습할수록 AI로부터 자연스러운 반응을 이끌어내고 오류율을 낮출 수 있기 때문이다. 오픈AI, 구글 등 빅테크 기업들은 이미 사전에 확보한 데이터를 거의 소진했으며, 보다 높은 AI성능을 확보하기 위해 저작권 규정도 무시한 채 추가 데이터 확보에 사활을 걸고 있다. 반면 일반 기업들은 내부 데이터도 AI학습을 위해 체계화하거나 일원화하지 않은 사례가 상당수인 것으로 알려졌다. 아직 많은 기업들이 IT역량이 부족해 AI 서비스를 도입 과정에서 데이터 통합이 필요하다는 것을 모르는 경우가 상당수라는 지적이다. 조직 또는 부서 간 갈등도 데이터 통합을 막는 주요 원인 중 하나로 지목됐다. 각 조직은 데이터를 개인자산이라고 생각하는 경우가 많아 데이터 통합 과정에서 이를 공개하는 것을 꺼리거나 공유를 반대한다는 것이다. 이로 인해 세일즈포스 설문조사 결과에 따르면 IT 리더 중 98% 이상이 조직의 디지털 혁신에 어려움을 겪고 있으며, 이중 81%는 데이터가 산발적으로 격리된 데이터 사일로가 AI 도입과 운영의 가장 큰 장벽이라고 밝혔다. 관련 기업들은 AI 도입에 앞서 자동화 도구 등을 활용해 데이터를 AI 학습에 적합한 방식으로 전환하는 과정을 반드시 거칠 필요가 있다고 강조했다. 특히 AI 전문 기업과의 소통을 통해 AI와 데이터의 연관 관계를 이해하고 AI 학습을 위해 사내 데이터를 어떻게 데이터베스화 할 것이지 충분히 고려해야 한다고 조언했다. 조규곤 파수 대표는 “기존 데이터가 아무리 많더라도 데이터베이스화하지 않으면 AI에서 에서 제대로 활용하기 어렵다”며 “기업에서 활용할 목적에 따라 AI를 활용할 수 있도록 체계화해 데이터베이스를 구축해야 한다”고 강조했다. 옵스나우 조용석 IoT옵스 개발팀장은 “수많은 설비와 장비로 이뤄진 공장은 수만 개 이상의 센서에서 데이터가 끊임없이 생성되고 축적되지만 이를 그대로 AI에 활용할 수 있는 곳은 존재하지 않는다”며 “데이터의 특성이나 종류에 따라 적합한 DB모델로 분배하고 관리할 수 있는 플랫폼을 구축하지는 과정을 거치지 않으면 AI 도입을 위해선 더욱 많은 시간과 비용을 지출해야 한다”고 말했다.

2024.04.15 15:08남혁우

마이크로스트레티지코리아, 정경후 신임 지사장 선임

마이크로스트레티지는 정경후 신임 한국지사장을 선임했다고 15일 밝혔다. 정경후 지사장은 BI 및 데이터 분석 분야에서 20년이 넘는 경험을 보유한 업계 베테랑으로서 마이크로스트레티지 코리아의 전반적인 운영을 이끌고 사업 확장을 추진한다. 데이터는 비즈니스의 핵심 자산이며 특히, AI 시대에 접어들면서 기업들의 데이터 분석 및 활용 능력은 기업 경쟁력의 중요한 요소로 자리매김하고 있다. 기업은 데이터에 입각한 의사결정을 통해 생산성과 업무효율성을 향상시키고, 새로운 시장 발굴 및 고객 인사이트를 확보하며, 혁신적인 제품과 서비스를 개발할 수 있다. 이와 같은 AI 시대에, 마이크로스트레티지는 분석 통합 플랫폼 '마이크로스트래티지원'과, 최근 발표한 AI 기능인 '마이크로스트래티지 오토 봇'을 기반으로 국내 기업의 데이터 분석 및 활용과 차별화된 경쟁력 확보를 지원하고 있다. 정경후 신임 지사장은 마이크로스트레티지 합류 이전에 IBM에서 기술 엔지니어로 근무했으며, 2011년 마이크로스트레티지 코리아에 입사해 수석 기술 엔지니어로서 경험과 성과를 쌓다 마이크로스트레티지 아시아태평양지역의 최고 기술 총괄을 역임하면서 비즈니스 전략 수립 및 운영 능력을 인정받았다. 이후 아세안 및 중국 지역의 지사장을 맡으면서 마이크로스트레티지의 경쟁력과 위상을 높이는데 공헌했다. 정경후 지사장은 “국내 시장에서 마이크로스트레티지의 비즈니스 성장을 견인하는 역할을 맡게 되어 기쁘다. 선진화된 '마이크로스트래티지원' 분석 플랫폼과 탁월한 고객 서비스로 가장 신뢰할 수 있고 인정받는 비즈니스 인텔리전스(BI) 업체로 업계를 선도해 나가겠다”고 밝혔다. 그는 “마이크로스트레티지는 AI 분석 기능의 선두주자로서 리테일, 제조업, 게임, 헬스케어, 서비스 분야를 중심으로 수많은 AI 분석 도입 사례와 전문 인력을 가졌다”며 “국내 기업이 AI 분석을 통해 글로벌 시장에서 경쟁 우위를 선점할 수 있도록 한국 지사 차원에서 지속적인 교육을 실시하고, 국내외 AI 분석 성공 사례를 바탕으로 최고의 전문가 팀이 클라우드를 통한 신속한 AI 분석이 구현될 수 있도록 적극 지원하겠다”고 덧붙였다.

2024.04.15 11:35김우용

중동 오일달러, AI 데이터센터 '정조준'..."사막지형 탓 한계도 뚜렷"

중동 지역 국가들이 인공지능(AI) 데이터센터 건립 경쟁에도 불이 붙은 모습이다. 원유 기반 사업에서 탈피하기 위해 국가 경제 체질을 전향적으로 변모시키기 위해서다. 사우디아라비아와 아랍에미리트(UAE)는 거액을 들여 투자 펀드도 조성할 태세다. 다만 전제군주제라는 체제와 사막 지형은 한계로 거론된다. 최근 블룸버그 통신 등 복수의 외신에 따르면 미국의 데이터 센터 개발 기업 에퀴닉스(Equinix)는 UAE에서 네 번째 데이터 센터를 건립한 데 이어 최근엔 사우디로까지 확장을 논의 중인 것으로 알려졌다. 에퀴닉스의 데이터센터 확장은 사우디와 UAE 등 중동 국가의 이해관계와 맞아떨어진다. 양 국가 모두 원유 기반 사업에서 벗어나 AI 초강대국이라는 도전적인 목표를 설정했다. 앞서 사우디는 미국의 벤처캐피탈 앤드리슨 호로위츠와 협약을 체결하고 AI 분야에 400억달러(약 55조원)를 투자하는 방안을 검토 중이다. UAE 역시 지난 3월 최대 1천억달러(약 137조원)에 달하는 AI 투자 펀드를 발표한 바 있다. 특히 생성형 AI 모델에서 수위를 달리고 있는 샘 알트만 오픈AI 최고경영자(CEO)는 UAE 정부 관계자들과 만나 대규모 AI 인프라를 지원하기 위한 협력방안을 논의하기도 했다. AI 산업이 양국에 불러올 경제적 파급효과는 어마어마하다. 글로벌 컨설팅 기업 PwC는 오는 2030년까지 UAE가 AI로 인해 960억달러(약132조원), 사우디가 1천350억달러(약185조원의) 경제적 이득을 볼 것이라고 추산했다. 현재 중동 국가들의 데이터센터 처리 용량 역시 부족하다. 글로벌 리서치 기업 DC바이트에 따르면 지난해 말 기준 UAE의 데이터센터 처리 용량은 235메가와트(MW), 같은 기간 사우디의 처리 용량은 123MW에 불과하다. 반면 독일의 데이터센터 처리 용량은 1천60MW다. 두 국가 모두 AI 산업 육성을 비롯해 데이터산업 유치에도 혈안이지만 한계가 여럿 존재한다. 사우디는 전제 군주제 군가다. 외국 빅테크 기업의 데이터센터가 들어설 경우 정보 유출이 우려된다는 점이다. 즉, 이 문제는 사우디의 국가 운영이 민주적으로 작동하지 않다는 데 있다. 실제 무함마드 빈 살만 왕세자는 국가 운영의 전권을 쥔 상황에서 왕실은 입법·행정·사법 영역 모두를 주무르고 있다. 또 척박한 사막으로 이루어진 국토 탓에 데이터센터에 들어가는 컴퓨팅 시설이 효과적으로 작동하는 게 어렵다는 점이다. 더위 탓에 열이 올라간 데이터 센터에 냉각 장치를 달아줘야 하고 이 때문에 전력 공급은 더욱 많아질 수밖에 없다. 두바이에 본사를 둔 하다아라 컨설팅(Hadaara Consulting) 칼 로버츠 고문은 "AI를 위해서는 수백 기가와트의 데이터 센터 전력이 필요하지만 인프라가 없다"면서 "AI에 초점을 맞춘 빅 데이터 센터를 갖추려면 아직 갈 길이 멀다"고 진단했다.

2024.04.13 10:12이한얼

HPE AI 스토리지 '알레트라 MP 파일' 집적도 대폭 향상

지난달 HPE는 인공지능(AI), 기계학습(ML), 고성능컴퓨팅(HPC) 등의 전용 스토리지인 'HPE 알레트라 MP 파일 스토리지'의 신규 업데이트를 출시했다. HPE 알레트라 MP 파일 스토리지는 엔터프라이즈 대규모 AI 환경, 데이터레이크 등의 데이터 중심의 고성능 워크로드에 최적화된 스토리지로 활용되고 있다. 가장 큰 변화는 고집적성이다. 기존 대비 랙 유닛당 4배 많은 용량과 2배 향상된 성능을 제공한다. 그에 따라 AI 업무 처리량을 2배로 늘릴 수 있고, 전력 소비를 최대 50%까지 절감할 수 있게 됐다. 컨트롤러의 접적성 향상 뿐만 아니라 1RU당 1.3PB 용량의 올NVMe를 제공하는 드라이브 샤시의 혁신을 통해 비용을 크게 줄이며 데이터 센터의 상면과 전력 소비를 크게 절감할 수 있다. 이러한 개선 사항을 통해 HPE는 AI 및 데이터레이크 등 데이터 중심의 고성능 워크로드에서 성능, 운영 편의성, 효율성 향상을 달성할 수 있도록 도움을 준다. 작년 출시된 HPE 알레트라 MP 파일 스토리지는 지속적인 업데이트와 혁신 적용을 약속해 왔으며 최신 업데이트에서 기존 대비 7배 높은 고집적도를 제공하면서 그 약속을 실현했다. 이번 업데이트를 통해 HPE 알레트라 MP 파일스토리지는 경쟁사의 파일 스토리지 대비 2.3배 높은 집적성을 제공한다고 회사측은 강조했다. HPE는 특히 AI 워크로드에서 성능과 역량적인 측면을 더욱 개선해왔다. 이는 폭발적으로 증가하는 AI 워크로드에 대응해 가장 범용적인 스케일아웃 파일 스토리지에 투자하길 원하는 고객을 선제적으로 지원하기 위한 HPE의 노력을 반영한다. 많은 기업이 AI를 최우선 당면 과제로 여기고 있으며 신속하게 도입, 적용하고 확대함에 따라 HPE는 그에 맞는 AI 전용 스토리지를 출시하여 고객들의 고민을 함께 해결해왔다. HPE 알레트라 MP 파일은 작은 규모로 시작해 대규모로 확장할 수 있는 유연성과 효율성을 제공하고, 스냅샷, 원격복제, 중복제거·압축·유사성제거, QoS, 고가용성 아키텍처 등 엔터프라이즈급 환경을 지원한다. 고성능을 통해 학습, 튜닝, 추론의 모든 AI 단계를 아우를 수 있다. 그렇기에 생성형 AI, 대규모 언어 모델(LLM) 등 다양한 AI 워크로드에서 각광을 받고 있다. AI 워크로드를 처리함에 있어 기존의 레거시 스케일아웃 NAS 스토리지는 성능 확장성의 제한이라는 한계점이 존재한다. 비공유 아키텍처로 인해 발생하는 한계다. 기존의 스케일아웃 스토리지는 다수의 노드로 구성되며, 각 노드는 컨트롤러 CPU, 메모리, 드라이브, NIC가 함께 구성된다. 각 노드 내부에 저장된 데이터는 해당 노드 자신만이 데이터를 볼 수 있으며, 다른 노드와 공유 및 분산저장, 처리하려면 고속의 네트워크로 구성돼야 하며, 그로 인해 발생하는 이스트웨스트 트래픽으로 인해 성능 확장성의 한계를 가지게 된다. 즉, 단 하나의 파일을 접근하는 작업이라도 항상 모든 노드들과 통신을 해야만 하는 단점이 존재한다. HPE 알레트라 MP 파일 스토리지의 공유 아키텍처는 컨트롤러와 드라이브 노드를 분리 구성해 모든 컨트롤러는 모든 드라이브를 직접 볼 수 있는 구조로 노드 간 이스트웨스트 트래픽을 원천적으로 제거했다. 이로 인해 성능 확장이 필요한 경우 컨트롤러만 독립적으로 증설하여 효율적인 성능 확장이 가능하다. 용량 확장이 필요한 경우 드라이브만 독립적으로 증설해 불필요한 컴퓨팅 파워의 증설을 사전에 방지할 수 있다. HPE 알레트라 MP 파일 스토리지는 기본 장착되는 고속의 NVMe SCM이 캐싱역할을 담당해 빠른 응답속도를 제공한다. 모든 데이터는 NVMe SSD에 최종 저장돼 미디어 간 데이터 이동, 티어링을 하지 않아 데이터 집약적인 AI 워크로드에서 성능을 극대화 한다. HPE 알레트라 MP 파일 스토리지는 생성형 AI 및 LLM 등을 비롯한 가장 까다롭고 데이터 집약적인 AI 워크로드 전반에서 빠르고 일정한 수준을 유지하는 성능을 제공할 수 있다. 레거시 파일 스토리지는 또 다른 문제가 있다. 전문 지식을 가진 엔지니어만 스토리지를 다룰 수 있으며 유지보수관리를 위해 복잡하고 어려운 명령어 기반의 수동 작업이 필요한 경우가 바로 그것이다. 이로 인해 조직은 새로운 AI 모델의 가치 창출보다 반복적이고 일상적인 관리 업무에 많은 시간을 소모하게 된다. HPE 알레트라 MP 파일은 누구나 쉽고 간편하게 다룰 수 있는 GUI로 모든 관리를 할 수 있다. 운영 및 관리 오버헤드를 줄이고 AI 를 통한 생산성 향상에 기여를 한다. 더 이상 전문 지식과 복잡한 설정 프로세스가 필요하지 않으며 새로운 개발 및 혁신에 걸리는 시간을 단축할 수 있다. HPE 그린레이크 플랫폼에서 동작하는 클라우드 관리 콘솔을 제공해 언제 어디서나 모든 기기에서 엑세스할 수 있는 통합 관리를 제공한다. 스마트폰처럼 최적의 버전에 대한 업데이트 알림을 주고 시스템 중단 없이 업그레이드를 수행할 수 있다. 블록스토리지, HCI, 백업·복구, 재해복구, SAN 스위치 등을 함께 통합된 환경에서 관리할 수 있어 인프라 관리에 소요되는 시간과 인력, 노력을 최소화 할 수 있다. 데이터 집약적인 AI 모델은 스토리지 용량, 상면, 전력 소비와 관련해 충족해야 할 사항들이 매우 많다. 하지만 레거시 NAS 스토리지는 집적성, 단위 TB당 비용, 전력 효율성 등의 요구사항을 충족하기에 턱없이 부족하다. HPE 알레트라 MP 파일은 단위 랙 유닛 밀도당 4배 더 많은 용량과 절반의 전력 소비로 AI 스토리지 비용을 절감한다. 데이터 중복제거·압축·유사성제거 기술, 무중단 업그레이드, 낭비 자원을 방지하는 애즈어서비스 구독형 AI 스토리지 모델을 통해 탄소 배출량도 줄일 수 있다. 성능과 용량을 독립적으로 확장 가능하여 확장 효율성을 높이면서도 비용은 절감시킬 수 있고, NVIDIA의 GPU다이렉트 스토리지 기능을 완벽 지원하여 GPU 사용률을 극대화함으로써 GPU의 투자수익(ROI)을 최대화할 수 있다. 용량 효율성 측면을 살펴보면, 업계 유일의 유사성 제거 기능을 통해 중복제거, 압축과 더불어 한번 더 용량을 절감하여 저장할 수 있다. 유사성 제거는 매우 정교한 방식으로 데이터를 줄여주는 기술로 생명과학 데이터의 경우 2대1, 중복제거된 백업, 압축 로그 파일, HPC 및 애니메이션 데이터의 경우 3대1, 그리고 비압축 시계열 데이터의 경우 8:1의 비율로 절감 효과가 있다. HPE 알레트라 MP 파일스토리지는 엔비디아 퀀텀-2 플랫폼과 우수한 호환성을 제공하며, 인피니밴드, 엔비디아 GPU다이렉트 연동을 통한 AI 모델 생성시 체크포인트를 신속하게 생성할 수 있어 GPU 활용을 최적화 하고 AI 워크로드를 가속화한다. 데이비드 유 HPE 스토리지 제품 수석 매니저는 “조직이 AI 당면 과제를 해결하고 오늘날의 시장에서 경쟁하려면 엔터프라이즈급 성능, 간편성, 효율성을 모두 제공할 수 있는 전용의 AI 파일 스토리지가 필요하다”며 “AI 워크로드를 진정으로 가속화하려면 이 세 가지 역량을 모두 필수적으로 갖춰야 한다”고 설명했다. 그는 “HPE 알레트라 MP 파일은 각 역량을 모두 제공하도록 설계되었으며 학습, 추론, 튜닝의 모든 AI 단계에 적합하다”며 “AI, HPC, 데이터레이크, 생명과학, 금융, 미디어 & 엔터테인먼트, 교육, 제조 등의 모든 워크로드를 포괄하는 유일한 솔루션으로 데이터를 활용해 가치를 창출해내려는 모든 기업에 최고의 지원을 제공한다”고 강조했다.

2024.04.12 13:34김우용

리벨리온, 'PCIe 5.0' 컴플라이언스 테스트 통과

AI 반도체 스타트업 리벨리온은 데이터센터향 AI반도체 '아톰(ATOM)'을 탑재한 '아톰 카드'가 업계 표준화 단체 'PCI-SIG'가 주관하는 PCIe 5.0 컴플라이언스 테스트를 통과했다고 12일 밝혔다. 리벨리온은 국내 AI 반도체 스타트업으로는 최초로 PCIe 5.0 지원에 대한 공식 검증을 통과했다. 국내에서 해당 검증을 통과한 기업은 삼성전자, SK하이닉스와 리벨리온이 유일하다. PCIe는 컴퓨터 내부에서 다양한 부품들이 빠르고 정확하게 데이터를 주고받을 수 있도록 하는 기술 규격으로 SSD, 그래픽카드 등 다양한 전자 기기에 활용된다. PCI-SIG가 주관하는 컴플라이언스 테스트는 특정 기기 또는 플랫폼이 특정 세대의 PCIe를 얼마나 안정적으로 지원하는지 다양한 항목을 기반으로 평가한다. 리벨리온의 아톰 카드는 이번 테스트의 모든 평가항목을 통과해 최신 5세대 규격인 PCIe 5.0을 지원하기 위한 기술과 성능, 다양한 서버 및 플랫폼에 대한 호환성을 증명했다. 더불어 16개의 레인(Lane)을 지원해 높은 대역폭(bandwidth)과 속도를 확보했다. 레인(Lane): PCIe에서 데이터롤 전송하는 하나의 양방향 경로를 말하며, 레인이 많을수록 컴퓨터 내부에서 데이터를 더 많이, 빠르게 전송할 수 있다. 리벨리온은 여러 대의 아톰 카드를 연결해 AI연산의 성능과 효율성을 높이는 일명 멀티카드 환경에 PCIe 5.0 기술을 활용하며, 언어모델을 포함한 생성형AI 모델을 가속한다. 고객은 공인받은 고속 통신 기술을 기반으로 큰 규모의 AI모델을 더욱 빠르고 효율적으로 연산할 수 있다. 리벨리온은 올해 중순부터 고객에게 멀티카드 환경 기반으로 소규모 언어모델(SLM)을 가속할 수 있도록 지원할 예정이다. 이를 바탕으로 SLM 기반 상용서비스를 기획하는 PoC를 본격적으로 진행하고, ATOM 양산품의 상용화를 추진할 계획이다. 오진욱 리벨리온 CTO는 "수준 높은 AI 추론 연산을 제공하기 위해선 칩 설계 뿐 아니라 카드 단위에 적용되는 통신 기술 또한 중요한 역할을 수행한다"며 “리벨리온은 단순히 최신 통신기술을 선제 적용하는 데 그치지 않고 기술의 안정성까지 철저히 검증받음으로써 생성형 AI 추론의 필수 인프라인 멀티카드 솔루션의 성능과 신뢰성을 모두 확보하고자 했다"고 밝혔다.

2024.04.12 10:01장경윤

Prev 31 32 33 34 35 36 37 38 39 40 Next