• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 인터뷰
  • 인사•부음
  • 글로벌뉴스
인공지능
배터리
양자컴퓨팅
컨퍼런스
칼럼•연재
포토•영상

ZDNet 검색 페이지

'AI 데이터'통합검색 결과 입니다. (839건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

광주 AI반도체 업계 "국산 NPU 우선 도입해야"

과학기술정보통신부(장관 이종호)와 기획재정부 신성장전략기획추진단(단장 유병희)은 21일 광주광역시 소재 국가 AI 데이터센터와 AI창업캠프를 찾아 국산 AI반도체 상용화 현장을 점검하고, 업계 관계자와 간담회를 개최했다. 추진단은 이날 국가 AI 데이터센터에서 국산 NPU(AI연산에 특화된 반도체)기반의 서버팜 구축 상황과 NPU 시험‧검증 플랫폼, AI 응용서비스 실증 현황 등을 점검했다. 또 AI 스타트업들이 집적해 있는 AI 창업캠프를 찾아 입주 기업들의 기술개발 성과와 애로사항을 들었다. 업계 측은 이날 간담회에서 공공 부문에 국산 NPU 우선 도입, AI 학습 데이터 보안 규제 완화, 정부 납부 기술료 부담 완화 등에 대한 정부 지원의 필요성을 언급했다. 이날 간담회에 참석한 기업은 NHN클라우드, 네이버클라우드, 퓨리오사, 사피온코리아, 슈퍼브에이아이, 휴먼ICT 등 6개다. 기획재정부 유병희 추진단장은 “생성형 AI 서비스의 급속한 확산으로 AI반도체의 중요성이 더욱 부각되고 있다"며 "글로벌 빅테크 기업들의 AI 반도체 자체 개발도 치열하다"고 말했다. 유 단장은 또 “신성장 프로젝트에 포함된 AI 분야 핵심과제를 실효성 있게 추진해 국산 AI 반도체의 실증 레퍼런스를 조기에 확보하고 이를 토대로 국산 AI 반도체가 국내 시장은 물론 글로벌 무대에 진출할 수 있도록 지원하겠다”고 밝혔다. 과기정통부 전영수 정보통신산업정책관은 “AI반도체와 클라우드는 AI일상화 시대 핵심 인프라"라며 "세계 최고의 저전력·고효율 국산 AI반도체 고도화를 적극 지원, 광주 국가 AI데이터센터의 성공 모델을 글로벌로 확대해 나갈 계획”이라고 덧붙였다.

2024.03.21 15:03박희범

스노우플레이크, 엔비디아와 풀스택 AI 플랫폼 제공

스노우플레이크는 엔비디아와 파트너십을 강화해 풀스택 AI 플랫폼을 제공한다고 21일 발표했다. 인공지능(AI)을 활용해 기업 고객의 생산성을 높일 수 있도록 지원하는 것으로, 스노우플레이크의 데이터 기반과 안정성 높은 데이터 클라우드의 AI 기술을 풀스택 엔비디아 가속 플랫폼에 결합할 수 있게 된다. 양사는 AI의 생산성과 비즈니스 속도를 높이고 여러 산업군에 걸쳐 새로운 비즈니스 기회를 확대하도록 설계된 인프라와 컴퓨팅 기술을 결합해 안전하고 강력한 기능을 제공한다. 지난해 6월 스노우플레이크와 엔비디아가 엔비디아 네모 통합 기능을 확대한다고 발표했다.. 강화된 파트너십에서 스노우플레이크는 자사 플랫폼에서 데이터 보안, 개인정보보호 및 거버넌스를 원활하게 유지하면서 직접 엔비디아의 네모 리트리버를 활용할 수 있게 된다. 네모 리트리버는 기업이 맞춤형 LLM을 기업 데이터에 연결할 수 있는 생성형 AI 마이크로 서비스다. 이를 기반으로 챗봇 애플리케이션의 성능과 확장성을 개선하고 스노우플레이크 코텍스(프리뷰 공개)로 AI 애플리케이션을 구축한 400개 이상의 기업이 보다 빠르게 비즈니스 가치를 실현할 수 있도록 지원한다. 또한 딥 러닝 추론 애플리케이션에 짧은 지연 시간과 높은 처리량을 제공하는 엔비디아 텐서RT를 활용할 수 있어 기업 고객의 LLM 기반 검색 기능이 향상될 것으로 기대된다. SQL 사용자는 스노우플레이크 코텍스 LLM 기능을 통해 소규모 LLM을 활용해 감정 분석, 번역 및 요약 등의 특정 작업을 몇 초 만에 비용 효율적으로 처리할 수 있다. 미스트랄AI, 메타 등의 고성능 모델을 활용한 AI 애플리케이션의 개발에도 적용할 수 있다. 스노우플레이크의 새로운 LLM 기반 어시스턴트로, 자연어를 통해 스노우플레이크의 코딩 작업에 생성형 AI를 적용한다. 사용자들이 대화 형식으로 질문하면 관련 테이블을 활용해 SQL 쿼리를 작성해 주며 쿼리를 개선하고 인사이트를 필터링하는 등의 작업을 수행할 수 있다. 도큐먼트 AI는 기업들이 LLM을 사용해 문서에서 청구 금액 또는 계약 약관 등의 내용을 쉽게 추출하고 시각화 인터페이스와 자연어를 사용해 결과를 섬세하게 조정할 수 있도록 지원한다. 고객사는 도큐먼트 AI를 사용해 수작업으로 인한 오류를 줄이고 자동 문서 처리를 통해 효율성을 강화한다. 슈리다 라마스워미 스노우플레이크 CEO는 “데이터는 AI의 원동력으로, 효과적인 AI 전략 수립에 매우 중요하다”며 “스노우플레이크는 엔비디아와 협력으로 신뢰할 수 있는 기업 데이터를 위한 안전하고 확장 가능하며 사용이 용이한 플랫폼을 제공하게 됐다”고 밝혔다. 그는 “특히 기술 전문성에 상관없이 모든 사용자가 AI를 사용할 수 있게 해 누구나 AI 기술 혜택을 얻도록 지원한다”고 덧붙였다. 젠슨 황 엔비디아 창립자 겸 CEO는 “기업 데이터는 비즈니스 인텔리전스를 확보할 수 있는 커스터마이징 AI 애플리케이션의 근간”이라며 “엔비디아 가속 컴퓨팅 및 소프트웨어를 스노우플레이크의 데이터 플랫폼에 적용함으로써 고객이 기업 전용의 생성형 AI 애플리케이션을 구축, 배포 및 관리할 수 있게 된다”고 강조했다.

2024.03.21 09:39김우용

데이터브릭스-엔비디아, 기술 통합 강화

데이터브릭스는 엔비디아와 협력을 확대하고 기술 통합을 강화한다고 21일 밝혔다. 엔비디아 GTC 2024 컨퍼런스에서 양사는 데이터브릭스의 데이터 인텔리전스 플랫폼의 데이터 및 AI 워크로드 최적화에 박차를 가할 계획이라고 강조했다. 이 협력은 최근 엔비디아가 데이터브릭스 시리즈I 투자에 참여한 것의 연장선이다. 데이터브릭스 모자이크 AI와 엔비디아는 데이터브릭스의 엔드투엔드 플랫폼에서의 생성형 AI 모델 구축과 배포를 향상하기 위해 모델 훈련 및 추론 분야에서 협력할 방침이다. 데이터브릭스는 데이터 및 모델 전반에 대한 완벽한 제어와 거버넌스는 물론, 생성형 AI 솔루션을 구축, 테스트 및 배포하기 위한 포괄적인 툴 세트를 제공한다. 데이터브릭스 모자이크 AI는 생성형 AI 모델 훈련을 위해 대형 언어 모델(LLM) 개발에 최적화된 엔비디아 H100 텐서 코어 GPU를 사용한다. 이로써 모자이크 AI는 엔비디아 가속 컴퓨팅의 성능을 활용하고, 고객을 위해 LLM을 커스터마이징할 수 있는 효율적이며 확장 가능한 플랫폼을 제공할 수 있게 된다. 한편, 데이터브릭스는 모델 배포를 위해 스택 전반에서 엔비디아 가속 컴퓨팅 및 소프트웨어를 활용한다. 데이터브릭스 모자이크 AI 모델 서빙의 핵심 구성 요소는 최첨단 성능을 제공하고 솔루션의 비용 효율성, 확장성 및 성능을 보장하는 엔비디아 텐서RT-LLM 소프트웨어다. 모자이크 AI는 텐서RT-LLM의 출시 파트너로서 엔비디아 팀과 긴밀한 기술 협력을 이어왔다. 데이터브릭스는 자사의 벡터화된 차세대 쿼리 엔진인 포톤에서 엔비디아 가속 컴퓨팅에 대한 기본적인(native) 지원을 제공하고, 이로써 고객의 데이터 웨어하우징 및 분석 워크로드의 속도와 효율성을 개선한다는 계획이다. 포톤은 업계 최고 수준의 가격 대비 성능과 총소유비용(TCO)을 자랑하는 데이터브릭스의 서버리스 데이터 웨어하우스인 데이터브릭스 SQL을 구동하고 있다. 데이터 쿼리 처리를 위해 GPU를 사용하는 데이터브릭스 고객이 늘어나는 가운데, 양사의 협력은 이러한 성장을 더욱 가속화할 것으로 기대된다. 데이터브릭스 머신러닝은 엔비디아 GPU를 포함하는 사전 구축된 딥러닝 인프라를 제공하며, ML용 데이터브릭스 런타임에는 드라이버와 라이브러리 등 사전 구성된 GPU 지원이 포함되어 있다. 사용자는 이러한 툴을 통해 적합한 엔비디아 인프라를 기반으로 신속하게 작업을 시작할 수 있을 뿐만 아니라, 사용자 간 일관된 환경을 유지할 수 있다. 데이터브릭스는 3대 주요 클라우드에서 엔비디아 텐서 코어 GPU를 지원해, ML 워크로드를 위한 고성능 단일 노드 및 분산 훈련을 지원한다. 데이터브릭스와 엔비디아는 데이터 인텔리전스 플랫폼의 모멘텀을 강화해 보다 다양한 조직이 품질, 속도 및 민첩성을 갖춘 차세대 데이터 및 AI 애플리케이션을 개발할 수 있도록 지원해 나갈 계획이다. 알리 고드시 데이터브릭스 공동창립자 겸 CEO는 “이번 파트너십 확장으로 엔비디아의 가속 컴퓨팅 및 소프트웨어를 통해 데이터브릭스의 워크로드를 가속화하고 고객에 보다 많은 가치를 제공할 수 있게 돼 기쁘다"며 “엔비디아는 분석 사용 사례에서 AI에 이르기까지 데이터브릭스의 기본 모델 이니셔티브를 다수 지원해 왔다"고 밝혔다. 그는 "쿼리 가속화를 위한 상호 협력을 통해 더 많은 기업에게 가치를 입증할 수 있을 것으로 기대한다”고 덧붙였다. 젠슨 황 엔비디아 창립자 겸 CEO는 “AI 시대에서 기업이 보유하고 있는 데이터는 인텔리전스를 도출하는 데 필요한 매우 중요한 자산"이라며 “엔비디아와 데이터브릭스는 효율성을 개선해 더욱 우수한 인사이트와 결과를 얻고자 하는 기업을 위해 데이터 처리를 가속화하고, 이로써 AI의 개발과 배포를 향상할 수 있다"고 강조했다.

2024.03.21 09:35김우용

뉴타닉스 "IT 현대화 주요 동력 AI·보안·지속가능성'”

뉴타닉스는 기업의 클라우드 도입 진행 현황을 조사하는 '제6회 글로벌 엔터프라이즈 클라우드 인덱스(ECI) 설문 및 연구 보고서'의 결과를 21일 발표했다. 올해 ECI 보고서에 따르면, 하이브리드 멀티 클라우드 모델은 향후 1~3년 동안 사용량이 두 배 증가할 것으로 예상된다. 이는 IT 의사결정권자들이 AI, 보안, 지속가능성과 같은 요인으로 인해 IT 인프라 현대화에 대한 새로운 요구에 직면해 있기 때문이다. 기업 조직이 여러 환경 간 애플리케이션과 데이터 이동에 따르는 복잡성 문제를 해결하고자 하는 가운데, 하이브리드 멀티 클라우드 인프라의 중요성은 점점 더 커지고 있다. 보고서에 따르면 지난 한 해 동안 애플리케이션을 다른 환경으로 옮긴 가장 큰 이유는 보안과 혁신이었다. AI가 비즈니스의 중심이 되면서 응답자들은 AI 전략 지원을 위한 투자 확대가 최우선적으로 이뤄진다고 밝혔으며, IT 현대화에 대한 투자가 차순위로 근접한 결과를 보였다. 올해 보고서는 다섯 가지 주요 결과를 도출했다. 첫번째로 하이브리드 멀티 클라우드 인프라 구축은 인프라 표준으로 자리 잡을 것으로 분석하고 있다. ECI 응답자의 90%는 인프라 전략에 '클라우드 스마트' 접근 방식을 채택해 각 애플리케이션에 가장 적합한 데이터센터, 퍼블릭 클라우드, 엣지와 같은 환경을 활용하고 있다. 이러한 접근 방식이 널리 퍼져 있다는 점을 고려할 때 하이브리드 및 멀티 클라우드 환경은 사실상 인프라 표준이 됐다. 기업 조직의 80% 이상은 하이브리드 IT 환경이 애플리케이션 및 데이터 관리 능력에 가장 유리하다고 생각한다고 밝혔다. 나아가 하이브리드 IT 환경은 경영진의 우선순위로 자리잡아, 응답자 중 거의 절반이 하이브리드 IT 구현이 CIO의 최우선 과제라고 답했다. 두번째로 랜섬웨어 방어는 최고 경영자와 실무자 모두에게 가장 먼저 고려되는 사안이지만 대부분의 조직은 이미 진행된 공격의 여파로 계속해서 어려움을 겪고 있다. 2024년에도 랜섬웨어와 멀웨어 공격이 계속되어 기업에 실존적인 위협으로 남을 것이다. 하지만, 랜섬웨어 공격을 경험한 ECI 응답자의 71%가 전체 운영체계를 복구하는 데 수일 또는 여러 주가 걸렸다고 답하며 데이터 보호 및 복구에 대한 어려움을 느끼고 있었다. 이에 따라, 조직의 78%는 올해 랜섬웨어 보호 솔루션에 대한 투자를 늘릴 계획이라고 답했다. 세번째는 조직이 보안과 혁신의 균형을 모색함에 따라 애플리케이션과 데이터 이동이 여전히 복잡한 과제로 남아 있다. 애플리케이션과 데이터를 포함한 엔터프라이즈 워크로드는 온프레미스 데이터센터, 퍼블릭 클라우드, 소규모 엣지 위치, 또는 이 세 가지가 혼합된 환경 등 요구사항에 가장 적합한 IT 환경에 구축되는 경우가 많다. 이러한 다양한 애플리케이션 배치는 ECI 응답자의 95%가 작년에 애플리케이션을 다른 환경으로 전환한 주요 이유 중 하나로, 보안과 혁신을 꼽았다. 기업들은 애플리케이션과 데이터 이동이 지속적으로 이루어질 것을 예상하고 유연성과 가시성을 중점적으로 고려해 인프라를 선택해야 한다. 오늘날 조직은 복잡한 애플리케이션 마이그레이션을 실행할 때 상당한 장벽에 직면해 있으며, ECI 응답자의 35%는 현재의 IT 인프라에서 워크로드 및 애플리케이션 마이그레이션을 할 때 어려움이 있다고 답했다. 네번째는 IT 팀이 지속가능성 프로그램을 계획 선에서 그치지 않고 IT 현대화를 시작으로 적극적으로 실천하고 있다는 점이다. 응답자의 88%는 지속가능성이 조직의 우선순위라고 동의했다. 실행이 제한적이었던 이전 보고서와 달리, 많은 조직이 지속가능성 이니셔티브를 실행하기 위해 IT 인프라 현대화와 같은 적극적인 조치를 취하고 있다고 공통적으로 답했다. 이는 IT 인프라가 지속가능성에 미치는 직접적인 영향을 보여주는 결과로 보인다. 다섯째는 AI, 최신 애플리케이션 및 데이터 증가에 힘입어 인프라 현대화가 당연시되고 있다는 것이다. 응답자의 37%는 현재 IT 인프라에서 AI 애플리케이션을 실행하는 것이 상당한 도전 과제가 될 것이라고 답했다. 이러한 과제를 해결하기 위해 기업들은 데이터 처리 및 접근 속도를 높일 수 있는 IT 현대화 및 엣지 인프라 구축에 우선순위를 두고 있다. 이를 통해 여러 환경의 데이터를 연결하는 기능을 개선하고, 방대한 에코시스템에서 데이터의 위치를 더 잘 파악할 수 있다. 리 캐스웰 뉴타닉스 제품 및 솔루션 마케팅 담당 수석은 "IT 조직은 AI, 지속가능성 또는 보안의 중요성 때문에 지속적으로 신속한 IT 인프라 현대화 압력에 직면해 있다”며 “ECI 응답자의 80%가 IT 현대화에 투자할 계획이며, 85%는 AI 지원을 특정해 투자를 늘릴 계획이라고 했다”고 설명했다. 그는 “올해 보고서에 따르면, 조직들은 오늘의 IT 인프라를 미래에 대비시켜 내일의 기술을 지원해야 한다”며 “하이브리드 멀티 클라우드는 기존의 가상머신과 최신 컨테이너화된 애플리케이션을 지원하고 클라우드와 온프레미스 간 이동을 지원하는 유연성 측면에서 지속적으로 선호되는 인프라 표준으로 부상하고 있다"고 밝혔다. 6년 연속으로 기술 조사업체 밴슨 본은 뉴타닉스의 의뢰로 작년 12월 전 세계 1천500명의 IT 및 데브옵스 및 플랫폼 엔지니어링 의사결정권자를 대상으로 설문조사를 실시했다. 응답자는 북미 및 남미, 유럽, 중동 및 아프리카(EMEA), 아시아태평양 지역의 다양한 산업, 비즈니스 규모 및 지역을 포괄했다.

2024.03.21 09:31김우용

효성인포-에이플랫폼, 레이크하우스·AI 사업 파트너 계약 확대

효성인포메이션시스템(대표 양정규)은 실시간 빅데이터 솔루션 전문기업 에이플랫폼(대표 한정희)과 데이터 레이크하우스·AI 사업 확대를 위한 파트너 계약 체결식을 진행하고 국내 영업 및 마케팅 활동 협력을 강화한다고 20일 밝혔다. 에이플랫폼은 급격히 증가하는 대규모 데이터를 실시간 처리, 분석, 가시화 등이 가능하도록 온프레미스와 클라우드 환경에 최적의 솔루션과 컨설팅 서비스를 제공하는 전문 기업이다. 하나의 플랫폼에서 모든 데이터에 대한 실시간 통찰력을 확보할 있는 클라우드 네이티브 데이터베이스인 '싱글스토어DB'의 국내 독점 총판으로, AI/ML을 비롯 생성형 AI를 도입하고자 하는 기업들을 대상으로 맞춤 솔루션, 컨설팅, 서비스를 제공하며 성장세를 보이고 있다. 효성인포메이션시스템과 에이플랫폼은 초고성능 병렬 파일 시스템 'HCSF'와 싱글스토어DB를 연계해 실시간 데이터 처리와 대용량 DB의 안정적인 저장을 지원, 생성형AI 워크로드를 위한 고성능 데이터 처리와 최적의 데이터 레이크하우스 전략을 제시하며 시너지를 높일 계획이다. 싱글스토어DB를 활용하면 단일 데이터 플랫폼에서 표준 SQL 기반으로 다양한 워크로드를 실시간 처리할 수 있다. NVMe 기반 초고성능 병렬 파일 시스템과 오브젝트 스토리지가 결합된 HCSF를 통해 다양한 유형의 데이터 저장, 실시간 데이터 수집 및 고속 처리 등 유연한 데이터 활용도 가능하다. 싱글스토어DB는 2017년부터 벡터(VECTOR) 기능을 제공해 왔으며, 최근 챗GPT로 부각된 생성형AI 또는 LLM 서비스를 구축∙도입하고자 하는 다양한 기업의 벡터DB로 도입 검토가 확대되고 있다. 양사는 최근 수주한 국내 주요 금융기관의 데이터 레이크 구축 사업을 통해, 고객 제안 단계부터 수행까지 완벽한 시너지 효과를 입증했다. 앞으로도 데이터 레이크하우스를 필요로 하는 고객을 대상으로 공동으로 사업 기회 발굴을 위해 영업력을 강화할 계획이며, 솔루션 기술지원 및 교육, 마케팅 부분에서도 협력을 강화하며 데이터 레이크하우스∙AI 사업 확대를 위해 노력할 계획이다. 에이플랫폼 한정희 대표는 “글로벌에서 인정받고 있는 싱글스토어DB의 기술력을 기반으로 효성인포메이션시스템과 함께 국내 영업 및 마케팅 활동을 적극적으로 펼치며 고객들의 데이터 혁신을 위해 힘쓰겠다”고 밝혔다. 효성인포메이션시스템 양정규 대표는 “AI 비즈니스 혁신이 필요한 고객들에게 에이플랫폼과 함께 초기 사업 발굴 단계부터 협력을 강화하며, 실시간 데이터 분석부터 고성능 데이터 처리까지 최상의 데이터 레이크하우스 전략을 제시할 것”이라고 강조했다.

2024.03.20 11:07김우용

스노우플레이크 CFO "데이터 클라우드로 AI 기술 생산성 높일 것”

스노우플레이크는 마이크 스카펠리 최고재무책임자(CFO) 마이크 스카펠리가 지난 13일 한국을 방문했다고 20일 밝혔다. 스노우플레이크는 13일 소피텔 엠베서더에서 국내 주요 기업 임원들을 초청해 '이그젝큐티브 라운드테이블 고객 세미나'를 진행했다. 이날 행사에서 마이크 스카펠리 CFO와 존 로버슨 APJ 세일즈 총괄, 크리스 차일드 스노우플레이크 제품 시니어 디렉터가 데이터 및 AI 전략과 전망을 공유했다. 스노우플레이크 코리아 최기영 사장과 김우성 한국 딜로이트 그룹 전무를 비롯해 CJ프레시웨이, BC카드, LG유플러스 등의 고객사도 연사로 참여해 데이터 및 생성형 AI 등에 대한 인사이트와 경험을 전했다. 마이크 스카펠리 스노우플레이크 CFO는 “AI 시대에 발맞춰 고객이 애플리케이션 전략을 구축하고 실행하는 과정에 스노우플레이크 데이터 클라우드 플랫폼에서 AI 및 LLM 기술로 생산성을 높일 수 있도록 지속적으로 지원할 것”이라고 강조했다. 마이크 스카펠리 CFO는 AI 검색 엔진 니바 인수, AI 솔루션 제공업체 미스트랄 AI 파트너십 등 AI 지원을 가속화하기 위한 스노우플레이크의 노력을 설명했다. 그는 “전략적인 인수합병과 시의적절한 투자를 통해 고객에게 민주화된 AI 경험을 제공할 수 있게 됐다”며 “고객이 보안과 거버넌스가 보장된 스노우플레이크 플랫폼에서 AI 및 LLM을 활용해 쉽고 비용 효율적으로 애플리케이션을 구축하고, 이를 기반으로 혁신적인 AI 성공 사례를 만들어 나가기를 바란다”고 말했다. 크리스 차일드 시니어 디렉터는 2023년 인수한 데이터 앱 개발 플랫폼 스트림릿에 대해 “스트림릿은 고객이 데이터 분석을 통해 유의미한 인사이트를 빠르게 확보하고 대화형 애플리케이션 구축 기능을 활용해 쉽게 풀스택 AI 앱을 개발할 수 있도록 한다”며 “이처럼 스노우플레이크는 통합된 데이터를 보다 효과적으로 활용하고 새로운 비즈니스 모델을 창출할 수 있도록 지원한다”고 설명했다. 김우성 한국 딜로이트 그룹 전무는 'AI시대의 엔터프라이즈 데이터 관리 방안'을 주제로 발표를 진행했다. “정제되지 않은 데이터로 생성형 AI를 더 잘 활용할 수 있도록 ▲통합 ▲분석 ▲관리 및 표준화 ▲거버넌스 수립이 가능한 시스템 요건을 갖춘 유연한 데이터 플랫폼을 선택해야 한다”며 “스노우플레이크는 4가지 요건을 모두 충족하는 데이터 플랫폼 기업”이라고 강조했다. 패널 토크에서 CJ프레시웨이 김종호 디지털 혁신 담당과 BC카드 데이터 사업본부 오성수 본부장, LG유플러스 데이터 전략 및 관리 총괄 조연호 책임이 각사에서 데이터 클라우드 플랫폼을 활용하는 사례와 효과에 대해 설명했다. CJ프레시웨이 김종호 디지털 혁신 담당은 “데이터를 활용해 새로운 비즈니스 기회를 창출하면서 동시에 기업의 생산성을 높이기 위해 클라우드 전환을 고려하게 됐다”며 “클라우드 전환으로 데이터를 IT부서에서 받아 활용하는 것이 아니라 현업 직원들이 직접 공유하고 분석할 수 있게 됐다”고 전했다. LG유플러스 마이데이터 서비스를 총괄하는 조연호 책임은 스노우플레이크 도입 이유에 대해 “마이데이터 서비스는 고객의 신용정보와 같이 민감한 개인정보를 다루는 만큼 안전한 데이터 관리를 위한 보안 환경 구축이 필수”라며 “스노우플레이크는 금융보안원의 클라우드 서비스 공급자(CSP) 안정성 평가를 완료했을 뿐 아니라 강력한 보안성과 일관된 거버넌스를 제공해 개인화된 데이터 시대에 가장 적합하다”고 밝혔다. 스노우플레이크의 데이터 거래 플랫폼 마켓플레이스에서 데이터 세트를 제공하고 있는 BC카드 데이터 사업본부 오성수 본부장은 데이터 기반 솔루션 제공업체로서 데이터를 통한 수익화 모델을 성공적으로 구축한 경험을 소개했다. 그는 “스노우플레이크 마켓플레이스는 자사가 보유한 유의미한 데이터를 더 많은 잠재 고객에게 도달해 공유할 수 있는 기회를 제공했다”며 “마켓플레이스는 기업이 민감한 정보는 철저히 보호하면서도 데이터 비즈니스를 확장하고 경쟁력을 향상하는 최적의 플랫폼”이라고 말했다.

2024.03.20 10:50김우용

오라클, 엔비디아와 '소버린 AI' 제공 협력 발표

오라클은 엔비디아와 협력 관계를 확장해, 전 세계 고객들을 대상으로 소버린 AI 솔루션을 제공하기 위한 계획을 20일 발표했다. 이 협력을 통해 오라클의 분산형 클라우드와 AI 인프라스트럭처, 생성형 AI 서비스는 엔비디아의 가속 컴퓨팅 및 생성형 AI 소프트웨어와 결합해 각국 정부 및 기업의 AI 팩토리 배포를 지원한다. 양사의 AI 팩토리는 광범위한 운영 통제 기능을 통해 클라우드 서비스를 국가 또는 기업 조직의 안전한 자체 지역 내 로컬 환경에서 운영하고, 이를 통해 경제 성장을 촉진하고 다각화하기 위한 주권 목표를 지원한다. OCI 전용 리전과 오라클 알로이, 오라클 EU 소버린 클라우드, 오라클 정부 클라우드 등에 배포 가능한 오라클의 기업용 AI 서비스는 엔비디아의 풀스택 AI 플랫폼과 결합돼 데이터의 운영과 위치 및 보안에 대한 제어력을 강화하여 고객의 디지털 주권을 지원하는 최첨단 AI 솔루션을 제공한다. 현재 세계 각국은 자국의 문화적, 경제적 목표를 달성하기 위해 AI 인프라 투자를 늘려 나가고 있다. 기업 고객들은 26개국에 위치한 66개의 오라클 클라우드 리전을 통해 인프라 및 애플리케이션 전반에 걸쳐 100여 개 클라우드 및 AI 서비스에 접근할 수 있고, 이를 통해 IT 마이그레이션, 현대화 및 혁신을 추진할 수 있다. 양사의 통합 오퍼링은 유연한 운영 통제 기능을 바탕으로 퍼블릭 클라우드를 통하거나 특정한 위치의 고객사 데이터센터에 직접 배포 가능하다. 오라클은 고객이 원하는 모든 장소에서 로컬 방식으로 AI 서비스 및 자사의 완전한 클라우드 서비스를 제공할 수 있는 유일한 하이퍼스케일러다. OCI는 배포 유형과 관계없이 동일한 서비스 및 가격 정책을 일관되게 제공하여 클라우드 서비스 이용을 보다 간단하게 계획하고 이전 및 관리할 수 있도록 한다. 오라클의 클라우드 서비스는 엔비디아 가속 컴퓨팅 인프라와 엔비디아 AI 엔터프라이즈 소프트웨어 플랫폼 등 다양한 엔비디아 스택을 활용하고 있다. 엔비디아 텐서RT, 엔비디아 텐서RT-LLM, 엔비디아 트리톤 추론 서버 등 엔비디아 추론 소프트웨어를 기반으로 구축되어 최근 발표된 엔비디아 NIM 추론 마이크로서비스도 엔비디아 AI 엔터프라이즈 소프트웨어 플랫폼에 포함된다. 스위스 뱅킹 소프트웨어 제공업체인 아발록은 자체 데이터센터에서 완전한 OCI 퍼블릭 클라우드 리전을 운용하기 위해 OCI 전용 리전을 도입했다. 아발록의 마틴 부치 최고 기술 책임자는 "OCI 전용 리전은 최신 클라우드 인프라에 대한 액세스를 제공하면서도 데이터 보존을 최대한 제어하려는 아발록의 노력과 부합한다"며 "이는 우리가 은행과 자산 관리사의 디지털 혁신을 지속적으로 추진하는 데 큰 도움이 된다”고 설명했다. 뉴질랜드의 선도적인 정보 관리 서비스 제공업체인 팀 아이엠은 뉴질랜드 최초로 현지 기업이 소유 및 운영하는 하이퍼스케일 클라우드인 팀 클라우드를 구축하기 위해 오라클 알로이를 도입했다. 팀 아이엠의 이언 로저스 CEO는 "클라우드의 성능은 십분 활용하면서도 뉴질랜드 국경 내에서 데이터 무결성을 유지할 수 있는 독자적인 하이퍼스케일 클라우드 솔루션에 대한 뉴질랜드 기업들의 수요가 갈수록 증가하고 있다"며 "팀 아이엠은 오라클 알로이와 더불어, 엔비디아 AI 플랫폼을 자사 클라우드 서비스에 통합할 수 있는 가능성을 통해 공공 분야 및 민간 기업, 뉴질랜드 원주민 단체들이 디지털 환경의 복잡성을 해소하고 디지털 혁신 과정을 최적화하는 과정에 기여할 수 있는 클라우드 서비스 제공업체로 자리 매김했다"고 밝혔다. 오라클은 엔비디아 GTC에서 발표된 최신 엔비디아 그레이스 블랙웰 컴퓨팅 플랫폼을 자사의 OCI 슈퍼클러스터 및 OCI 컴퓨트 서비스 전반에 도입함으로써 지속적으로 증가하는 고객의 AI 모델에 대한 요구사항에 대응해 나갈 계획이다. OCI 슈퍼클러스터는 새로운 OCI 컴퓨트 베어 메탈 인스턴스와 초저지연 RDMA 네트워킹, 고성능 스토리지를 통해 훨씬 더 빠른 속도를 제공할 전망이다. OCI 컴퓨트에는 엔비디아 GB200 그레이스 블랙웰 슈퍼칩과 엔비디아 블랙웰 B200 텐서 코어 GPU가 모두 탑재된다. 엔비디아 GB200 그레이스 블랙웰 슈퍼칩은 컴퓨팅의 새로운 시대를 선도할 획기적 성능을 제공한다. 전 세대 GPU 대비 최대 30배 빠른 실시간 대규모 언어 모델(LLM) 추론, 25배 낮은 TCO, 25배 적은 에너지 소모량 등을 자랑하는 GB200은 AI 학습, 데이터 처리, 엔지니어링 설계 및 시뮬레이션 등의 작업 성능을 대폭 강화해 준다. 엔비디아 블랙웰 B200 텐서 코어 GPU는 가장 높은 성능이 요구되는 AI, 데이터 분석, 고성능 컴퓨팅(HPC) 워크로드를 처리하기 위해 설계됐다. 또한 검색 증강 생성(RAG) 추론 배포를 위한 엔비디아 네모 리트리버를 비롯한 엔비디아 NIM 및 쿠다-X 마이크로서비스는 OCI 고객이 자체 데이터를 사용해 생성형 AI 코파일럿 및 기타 생산성 도구에 더 많은 인사이트를 제공하는 동시에, 해당 도구들의 정확성을 향상시키는 작업에도 도움이 될 것으로 보인다. 점점 더 복잡해지는 AI 모델에 대한 고객의 수요 증가에 부응하기 위해 오라클과 엔비디아는 OCI 상에서 구동되는 엔비디아 DGX 클라우드 서비스에 엔비디아 그레이스 블랙웰 슈퍼칩을 추가할 예정이다. 고객들은 LLM의 매개변수가 조 단위에 달하게 된 현 시점에 보다 에너지 효율적인 학습 및 추론을 지원하기 위해 양사가 함께 설계한 슈퍼컴퓨팅 서비스인 엔비디아 DGX 클라우드를 통해 새로운 GB200 NVL72 기반 인스턴스에 액세스 할 수 있다. DGX 클라우드 클러스터의 전체 구성에는 2만개 이상의 GB200 가속기와 엔비디아 CX8 인피니밴드 네트워킹이 포함돼 더욱 탁월한 확장성 및 성능을 갖춘 클라우드 인프라를 제공할 예정이다. 해당 클러스터는 5세대 NV링크가 탑재된 72개의 블랙웰 GPU NVL 72와 36개 그레이스 CPU로 구성된다. 사프라 카츠 오라클 CEO는 "AI가 전 세계의 비즈니스, 산업 및 정책을 재편함에 따라, 국가와 기업 조직은 가장 중요한 데이터를 안전하게 보호하기 위해 디지털 주권을 강화해야 한다"며 "오라클은 엔비디아와의 지속적인 협력 관계와 클라우드 리전을 로컬 차원에서 신속히 배포할 수 있는 독보적인 역량을 통해 전 세계에서 보안에 대한 타협과 우려 없이 AI를 활용할 수 있도록 보장할 것"이라고 밝혔다. 젠슨 황 엔비디아 설립자 겸 CEO는 "생성형 AI가 혁신을 주도하는 시대에 데이터 주권은 문화적, 경제적 필수 요소"라며 "엔비디아의 가속 컴퓨팅 및 생성형 AI 서비스와 결합된 오라클의 통합 클라우드 애플리케이션 및 인프라 서비스는 각 국가 및 지역이 데이터 주권을 바탕으로 스스로 미래를 직접 설계할 수 있는 유연성과 보안을 제공한다."라고 강조했다. 오라클과 엔비디아가 공동 제공하는 소버린 AI 솔루션은 발표와 함께 바로 사용 가능하다.

2024.03.20 10:45김우용

클라우데라, 엔비디아 생성형 AI 기능 확장 협력

클라우데라는 엔비디아와 협력을 확장·강화한다고 20이 발표했다. 클라우데라는 엔비디아 기업용 AI 소프트웨어 플랫폼 가운데 엔비디아 NIM 마이크로서비스를 '클라우데라 머신 러닝'에 통합해 빠르고 안전하며 간소화된 종단간 생성형 AI 워크플로우를 제공한다. 기업 데이터는 대규모 언어 모델(LLM)에 최적화된 포괄적인 풀 스택 플랫폼과 결합돼 조직의 생성형 AI 애플리케이션을 개발하는데 중요한 역할을 한다. 개발자는 엔비디아 NIM과 네모 리트리버 마이크로서비스를 통해 텍스트, 이미지, 막대 그래프, 라인 플롯, 파이 차트 등 시각화 데이터를 포함한 비즈니스 데이터에 AI 모델을 연결, 정확하고 맥락에 맞는 답변을 생성할 수 있다. 마이크로서비스를 사용하는 개발자는 엔비디아 AI 엔터프라이즈를 통해 애플리케이션을 배포할 수 있으며, 이는 기업용 LLM 구축, 사용자 정의 및 배포하는데 최적화된 실행시간을 제공한다. 클라우데라 머신 러닝은 엔비디아 마이크로서비스를 활용함으로써, 고객의 데이터의 위치에 상관없이 고성능 AI 워크플로우, AI 플랫폼 소프트웨어, 가속화된 컴퓨팅을 제공해 클라우데라 데이터 플랫폼(CDP) 기반의 기업 데이터를 최대한 활용할 수 있도록 지원한다. 클라우데라는 엔비디아 마이크로서비스와의 다양한 통합 서비스도 제공한다. 클라우데라 머신 러닝은 엔비디아 마이크로서비스 기반 모델과 모든 워크로드에서 모델의 추론 성능을 향상시키기 위한 애플리케이션 서비스를 통합한다. 이 새로운 AI 모델 서빙 기능을 통해 고객은 퍼블릭 클라우드와 프라이빗 클라우드 모두에서 장애 허용, 저지연 서빙, 자동 확장이 가능하다. 또한 클라우데라 머신 러닝은 사용자 정의 LLM과 기업 데이터의 연결을 간단하게 하기 위해 통합 엔비디아 네모 리트리버 마이크로서비스를 제공한다. 이 기능을 통해 사용자는 실사용을 위한 검색 증강 생성(RAG) 기반 애플리케이션을 구축할 수 있다. 클라우데라는 이전에도 엔비디아와 협력해 GPU에 최적화된 데이터 처리를 위해 아파치 스파크용 엔비디아 RAPIDS 가속기를 클라우데라 데이터 플랫폼(CDP)에 통합한 바 있다. 이제 엔비디아 마이크로서비스와 엔비디아 기업용 AI와의 추가 통합으로 CDP는 독특하게 간소화된 종단간 하이브리드 AI 파이프라인을 독자적인 방식으로 제공한다. 앞으로 모든 산업의 기업들은 혁신적인 생성형 AI 기술을 뒷받침하는 LLM을 보다 빠르고 직관적으로 구축, 커스터마이징 및 배포할 수 있게 됐다. 개발 시간을 단축하기 위한 코딩 코파일럿, 고객 상호작용과 서비스 자동화를 위한 챗봇, 문서를 빠르게 처리하기 위한 텍스트 요약 앱, 간결하고 맥락에 맞는 검색 등 혁신적인 기술은 기업 전반에서 데이터와 발전된 AI 프로세스를 더 쉽고 빠르게 처리해 수익 창출과 비용 최적화로 비즈니스 가치를 극대화한다. 프리얀크 파텔 클라우데라 AI/ML 제품 담당 부사장은 “클라우데라는 엔비디아 NIM과 CUDA-X 마이크로서비스를 통합해 클라우데라 머신 러닝을 강화함으로써 고객이 가진 AI에 대한 기대를 비즈니스에서 실현할 수 있도록 지원하고 있다”며 “이번 협력을 통해 고객에게 강력한 생성형 AI 기능과 성능을 제공할 뿐만 아니라, 오늘날 데이터 환경을 탐색하는 데 중요한 요소인 부정확성, 환각, 예측 오류를 줄이는 동시에 기업이 보다 정확하고 시기 적절한 의사결정을 내릴 수 있도록 지원할 것”이라고 밝혔다. 저스틴 보이타노 엔비디아 기업 제품 담당 부사장은 “기업은 맞춤형 코파일럿과 생산성 툴을 구축하기 위해 방대한 양의 데이터를 생성형 AI에 활용하고자 한다”며 “엔비디아 NIM 마이크로서비스를 클라우데라 데이터 플랫폼에 통합함으로써 개발자는 보다 쉽고 유연하게 LLM을 배포해 비즈니스 혁신을 주도할 수 있게 됐다”고 강조했다. 클라우데라는18일부터 21일까지 미국 캘리포니아 새너제이 맥에너리 컨벤션 센터에서 열리는 엔비디아 GTC 2024에서 새로운 AI 기능을 선보인다.

2024.03.20 10:40김우용

퓨어스토리지, 엔비디아와 RAG 파이프라인 개발

퓨어스토리지는 엔비디아 OVX 지원 검증 레퍼런스 아키텍처를 비롯해, 생성형 AI 사용사례를 운용하기 위한 새로운 검증 레퍼런스 아키텍처를 20일 발표했다. 퓨어스토리지는 엔비디아와 협력해 전 세계 고객들의 성공적인 AI 구축을 위해 고성능 데이터 및 컴퓨팅 요구사항을 관리할 수 있는 검증된 프레임워크를 제공한다. 오늘날 대부분의 AI 구축은 클라우드부터 레거시 스토리지 솔루션에 이르기까지 파편화된 데이터 환경에 분산되어 있다. 그러나 이러한 파편화된 환경은 AI 데이터 파이프라인을 지원하고 기업 데이터의 잠재력을 발휘하는 데 필요한 성능과 네트워킹 요구사항을 지원할 수 없다. 기업이 혁신을 주도하고, 운영을 간소화하며, 경쟁 우위를 확보하기 위해 AI를 더욱 적극적으로 도입함에 따라, 강력하고 고성능이며 효율적인 AI 인프라에 대한 수요가 그 어느 때보다 높다. 특히, 급속도로 성장하는 포춘 500대 기업 고객군을 중심으로 기업용 AI 구축을 선도하고 있는 퓨어스토리지는 기업이 AI의 잠재력을 충분히 활용하는 동시에 관련 리스크, 비용, 에너지 소비를 줄일 수 있도록 간편하고 안정적이며 효율적인 스토리지 플랫폼을 제공한다. 퓨어스토리지는 AI 추론을 위한 검색 증강 생성(RAG) 파이프라인을 제공한다. 퓨어스토리지는 대규모 언어 모델(LLM)을 위한 추론 기능의 정확성, 통화 및 관련성을 향상시키기 위해, 기업용 올플래시 스토리지용 엔비디아 네모 리트리버 마이크로서비스 및 엔비디아 GPU, 그리고 퓨어스토리지를 활용하는 RAG 파이프라인을 개발했다. 이로써 퓨어스토리지는 AI 학습을 위해 자체 내부 데이터를 사용하는 기업들이 더 빠른 인사이트를 얻을 수 있도록 가속화하며, 최신 데이터 사용을 보장하고 LLM의 지속적인 재훈련 필요성을 없앴다. 엔비디아 OVX 서버 스토리지 레퍼런스 아키텍처 인증을 획득했다. 퓨어스토리지는 기업 고객과 채널 파트너에게 비용 및 성능에 최적화된 AI 하드웨어 및 소프트웨어 솔루션을 위한 강력한 인프라 기반을 제공하기 위해, 주요 벤치마크에 대해 검증된 유연한 스토리지 레퍼런스 아키텍처를 제공하는 OVX 서버 스토리지 검증을 획득했다. 해당 검증은 AI 고객들에게 추가적인 선택권을 제공하며, 지난해 발표된 퓨어스토리지의 엔비디아 DGX BasePOD에 대한 인증을 보완한다. 버티컬 산업 부문별 성공적인 AI 도입을 가속화하기 위해 퓨어스토리지는 엔비디아와 협력해 산업별 RAG를 개발하고 있다. 퓨어스토리지는 상용 LLM보다 더 높은 정확도로 방대한 데이터세트를 요약하고 쿼리할 수 있는 금융 서비스 RAG 솔루션을 개발했다. 이를 통해 금융 서비스 기관들은 이제 AI를 사용해 다양한 재무 문서 및 기타 소스에서 즉각적인 요약 및 분석을 생성하여 인사이트를 더욱 빠르게 확보할 수 있게 됐다. 헬스케어 및 공공 부문을 위한 추가적인 RAG도 출시될 예정이다. 퓨어스토리지는 엔비디아와 함께 AI 파트너 생태계에 대한 투자를 더욱 확대하며, 런:AI 및 웨이트 앤 바이어스와 같은 ISV와 새로운 파트너십을 체결하고 있다. 런:AI는 고급 오케스트레이션 및 스케줄링을 통해 GPU 활용을 최적화하며, 웨이트 앤 바이어스 AI 개발 플랫폼은 머신러닝 팀이 모델 개발 라이프사이클을 구축, 평가 및 관리할 수 있도록 지원한다. 퓨어스토리지는 이플러스, 인사이트, WWT 등을 포함한 AI 전문 리셀러 및 서비스 파트너와 긴밀히 협력하여 공동 고객의 AI 구축 업무를 더욱 효율화하고 있다. 퓨어스토리지 롭 리 최고기술책임자(CTO)는 “퓨어스토리지는 초기부터 AI 수요 증가를 예측하고, 최첨단 AI 구축을 위한 효율적이고 안정적인 고성능 플랫폼을 제공해왔다”며 “엔비디아와의 오랜 협업으로 개발한 최신 AI 레퍼런스 아키텍처와 생성형 AI 개념 증명은 글로벌 기업들이 AI의 복잡성을 극복하는 데 결정적인 역할을 하고 있다”고 밝혔다. 엔비디아 밥 피트 엔터프라이즈 플랫폼 부문 부사장은 “엔비디아의 AI 플랫폼 레퍼런스 아키텍처는 퓨어스토리지의 단순하고 효율적이며 신뢰성이 탁월한 데이터 인프라로 한층 강화돼 복잡한 AI, 데이터 분석 및 고도화된 컴퓨팅을 해결하려는 기업에 포괄적인 솔루션을 제공한다”며 “퓨어스토리지의 검증된 최신 레퍼런스 아키텍처와 개념 증명은 기업이 새로운 가능성을 열고 혁신적인 결과를 도출하는 데 필요한 툴을 제공함으로써 AI 혁신을 주도하고 있다.”라고 강조했다.

2024.03.20 10:38김우용

KTR, AI·SW 산업 활성화 지원…인공지능협회와 협약

KTR(한국화학융합시험연구원·원장 김현철)은 19일 한국인공지능협회(회장 김현철)와 시험인증으로 인공지능(AI)·소프트웨어(SW) 기업 경쟁력을 강화하기 위해 협약을 체결했다. 인공지능협회는 AI·데이터 전문기업 1천여 개사를 회원으로 두고 있는 AI 산업 대표단체다. AI 분야 기업과 기술인증·AI 산업컨설턴트 양성 등 AI 생태계 조성과 산업발전 지원, 국제인공지능대전 주최 등 다양한 사업을 수행하고 있다. KTR과 인공지능협회은 협약에 따라 AI·SW 시험, 인증, 기술 지원을 비롯해 국가 연구개발(R&D) 사업 공동 수행 등 다양한 분야에서 협력사업을 진행하기로 했다. 두 기관은 협회 회원사 대상 시험인증 상담·세미나 등 역량 강화 활동을 비롯해 구체적인 기업 지원 사업을 공동 수행한다. 한편, KTR은 과학기술정보통신부의 우수소프트웨어(GS) 시험인증 기관 및 정보보호제품평가(CC평가) 기관으로, 산업용 및 데이터 관리, 임베디드 응용, 디지털 콘텐츠, 보안 등 소프트웨어 시험평가 인증 서비스를 제공 중이다. KTR은 AI·SW 국제표준을 적용한 AI 제품 인증 서비스를 제공하는 등 AI 신뢰성 확보에 박차를 가하고 있다. 김현철 KTR 원장은 “KTR은 산업용은 물론 정보보안·AI 등 핵심 분야까지 아우르는 국내 대표적인 소프트웨어 시험인증기관”이라며 “이같은 인프라와 노하우를 활용해 계속해서 국내 AI 산업 발전과 생태계 확산을 위해 노력하겠다”고 밝혔다.

2024.03.19 17:56주문정

SK하이닉스, 세계 최초 'HBM3E' 본격 양산 …고객사 납품 시작

SK하이닉스가 5세대 HBM인 'HBM3E'를 본격 양산해 고객사에 납품하기 시작했다. SK하이닉스는 초고성능 AI용 메모리 신제품인 HBM3E를 세계 최초로 양산해 3월 말부터 제품 공급을 시작한다고 19일 밝혔다. 이는 회사가 지난해 8월 HBM3E 개발을 알린 지 7개월 만에 이룬 성과다. HBM은 여러 개의 D램을 수직으로 연결해 기존 D램보다 데이터 처리 속도를 혁신적으로 끌어올린 메모리다. HBM3E는 HBM3의 확장(Extended) 버전으로, 5세대 제품에 해당한다. SK하이닉스는 “당사는 HBM3에 이어 현존 D램 최고 성능이 구현된 HBM3E 역시 가장 먼저 고객에 공급하게 됐다”며 “HBM3E 양산도 성공적으로 진행해 AI 메모리 시장에서의 경쟁우위를 이어 가겠다”고 밝혔다. 엄청난 양의 데이터를 빠르게 처리해야 하는 AI 시스템을 구현하기 위해서는 수많은 AI 프로세서와 메모리를 다중 연결(Multi-connection)하는 식으로 반도체 패키지가 구성돼야 한다. 따라서 AI에 투자를 늘리고 있는 글로벌 빅테크 기업들은 AI 반도체 성능에 대한 요구 수준을 계속 높여가고 있으며, HBM3E는 이를 충족시켜줄 현존 최적의 제품이 될 것으로 SK하이닉스는 기대하고 있다. HBM3E는 속도와 발열 제어 등 AI 메모리에 요구되는 모든 부문에서 세계 최고 성능을 갖췄다고 회사는 강조했다. 이 제품은 초당 최대 1.18TB(테라바이트)의 데이터를 처리하며, 이는 FHD(Full-HD)급 영화(5GB) 230편 분량이 넘는 데이터를 1초 만에 처리하는 수준이다. 또한 AI 메모리는 극도로 빠른 속도로 작동해야 하는 만큼 효과적인 발열 제어가 관건이다. 회사는 이를 위해 신제품에 어드밴스드 MR-MUF(매스 리플로우-몰디드 언더필) 공정을 적용해, 열 방출 성능을 이전 세대 대비 10% 향상시켰다. MR-MUF는 반도체 칩을 쌓아 올린 뒤 칩과 칩 사이 회로를 보호하기 위해 액체 형태의 보호재를 공간 사이에 주입하고 굳히는 공정이다. 칩을 하나씩 쌓을 때마다 필름형 소재를 깔아주는 방식 대비 공정이 효율적이고, 열 방출에도 효과적이라는 평가를 받고 있다. 특히 SK하이닉스의 어드밴스드 MR-MUF는 기존 공정보다 칩을 쌓을 때 가해지는 압력을 줄이고, 휨 현상 제어도 향상해 HBM 공급 생태계 내에서 안정적인 양산성을 확보하는 데 핵심이 되고 있다. 류성수 SK하이닉스 부사장(HBM Business담당)은 “당사는 세계 최초 HBM3E 양산을 통해 AI 메모리 업계를 선도하는 제품 라인업을 한층 강화했다”며 “그동안 축적해온 성공적인 HBM 비즈니스 경험을 토대로 고객관계를 탄탄히 하면서 '토털(Total) AI 메모리 프로바이더(Provider)'로서의 위상을 굳혀 나가겠다”고 말했다.

2024.03.19 10:26장경윤

인덴트, 러쉬에 리뷰 솔루션 '브이리뷰' 공급

커머스 서비스 전문 기업 인덴트코퍼레이션(대표 윤태석, 이하 인덴트)이 AI 리뷰 마케팅 솔루션 '브이리뷰'를 러쉬코리아에 제공한다고 19일 밝혔다. 브이리뷰는 동영상을 비롯해 사진, 텍스트 기반의 고객 리뷰를 간편하게 수집하고 활용할 수 있도록 돕는 AI 기반 B2B SaaS 솔루션이다. 특히, 브이리뷰를 활용한 리뷰 수집율은 기존 이커머스 방식 대비 4배에 달한다. 현재 아모레퍼시픽, LG 생활건강, 피지오겔 등 글로벌 뷰티 브랜드사에 솔루션을 공급하고 있다. 러쉬는 이번 협업으로 공식 온라인몰 내 고객 경험을 담은 생동감 있는 후기와 UGC(사용자 제작 콘텐츠)를 활용하는 콘텐츠 체계를 구축하고 브랜드와 고객 및 개별 고객 간의 다방향 소통 공간을 마련할 계획이다. 러쉬는 브이리뷰를 통해 실구매자의 생동감 있는 영상 리뷰 콘텐츠를 간편하게 수집하게 되며, AI 기반의 최적화된 리뷰 노출을 통해 관심사에 기반한 최적의 구매 경험을 제공한다. 신뢰도가 중요한 만큼 소비자 행동 데이터에 기반해 실구매자 여부를 판단하는 시스템까지 갖춰 러쉬 온라인몰에 방문하는 소비자들의 신뢰도 제고도 가능하다. 이밖에도 고객 데이터에 기반한 ▲소비자 니즈와 마켓 트렌드 파악 ▲부정 이슈의 신속한 대응과 서비스 개선 ▲리뷰 속 핵심 키워드 도출 등의 기능을 제공해 브랜드 여정 전반의 경험을 증대시킬 예정이다. 고객 역시 높은 수준의 쇼핑 경험을 누릴 수 있다. 공통된 리뷰 키워드를 중심으로 필요한 정보를 손쉽게 찾는 AI 추천 키워드 기능, 고객 행동 패턴에 기반해 리뷰를 추천하는 AI 리뷰 큐레이션 등을 제공한다. 가령 고객들이 러쉬의 배쓰밤을 찾는다면 거품, 향기, 보습감 등의 세부 리뷰 키워드를 통해 본인이 원하는 유형의 제품을 쉽게 선별하고, 주요하게 확인하는 유형의 리뷰를 소개받는다. 러쉬 크리에이티브 기획팀 이예지 담당자는 "고객과 함께 브랜드를 만들어간다는 러쉬의 철학을 구현하는 방향으로 브이리뷰와 협업을 기획했다"며 "프로젝트를 시작하며 일 평균 리뷰 개수가 30배가량 증가하는 등 고객이 체감하는 러쉬의 가치와 제품력이 조명되고 있어 기쁘다"고 말했다. 윤태석 인덴트 대표는 "숏폼 영상과 UGC를 활용한 마케팅과 리뷰 관리가 이커머스 매출 견인의 핵심으로 떠오른 만큼 서비스 고도화에 더욱 매진하겠다"고 밝혔다.

2024.03.19 10:12백봉삼

시스코, 빅데이터 기업 스플렁크 인수..."생성형 AI 활용 보안 기능 출시"

네트워킹 하드웨어 기업 시스코 시스템즈(시스코)가 빅데이터 소프트웨어 기업 스플렁크(Splunk)를 인수했다. 18일(현지시간) 월스트리트저널(WSJ)에 따르면 시스코는 이날 280억달러(약37조원) 의 금액을 투자해 스플렁크를 인수했다고 발표했다. 이번 인수는 시스코 역사상 최대 규모 거래다. WSJ는 최근 기업들은 데이터와 인공 지능(AI)을 중심으로 사업을 재편하려는 노력을 보이고 있다고 인수 배경을 설명했다. 시스코는 스플렁크에서 나오는 정보 사이의 상관 관계를 파악해 보다 정확한 보안 접근 방식을 취할 수 있도록 AI를 활용할 예정이다. 또 기술적인 교육을 받지 않아도 사람들이 소프트웨어를 사용할 수 있도록 생성형 AI를 활용한 더 많은 기능을 출시할 계획이다. 양사는 이번 결합으로 고객들에게 보안, 가시성, 네트워킹, AI, 경제적 측면에서 이점을 가져올 것으로 기대했다. 스플렁크는 지난 2003년 창립된 회사로 캘리포니아주 샌프란시스코에 위치한 미국의 다국적 기업이다. 기계가 생성한 빅 데이터를 웹 스타일 인터페이스를 통해 검색, 모니터링, 분석하는 소프트웨어를 개발 중이다. 척 로빈스(Chuck Robbins) 시스코 회장 겸 최고경영자(CEO)는 "기업들이 AI를 배포하는 방법, 고려사항과 위험을 더 많이 알게 되고 있다"면서 '그러나 대부분의 기업들은 경쟁에서 뒤처지지 않기 위해 AI 채택을 늦출 수 없다"고 인수 배경을 설명했다. 그러면서 "시스코는 이제 전 세계에서 가장 큰 소프트웨어 기업 중 하나가 됐다"며 "이런 위상을 바탕으로 기업의 모든 부분을 데이터로 연결하고 보안과 고객의 AI 혁명을 지원할 것"이라고 밝혔다.

2024.03.19 10:02이한얼

데이터브릭스, 미스트랄AI에 투자…플랫폼에 모델 통합

데이터브릭스는 유럽의 생성형 AI 솔루션 기업인 미스트랄 AI와 파트너십을 체결하고 시리즈 A 투자에 참여한다고 18일 밝혔다. 양사는 이 파트너십을 통해 데이터브릭스의 데이터 인텔리전스 플랫폼에 기본적으로 통합된 미스트랄 AI의 개방형 모델을 제공한다는 방침이다. 데이터브릭스 고객은 오픈 마켓플레이스인 데이터브릭스 마켓플레이스에서 미스트랄 AI의 모델에 접근하고, 데이터브릭스 콘솔에서 사용 가능한 모자이크 AI 플레이그라운드(에서 모델과 상호 작용할 수 있다. AI 구축, 관리 및 쿼리 통합 서비스인 모자이크 AI 모델 서빙을 통해 미스트랄 AI의 모델을 최적화된 모델 엔드포인트로 사용하고, 고객의 자체 데이터에 맞게 커스터마이징할 수 있다. 고객은 데이터 인텔리전스 플랫폼에 통합된 미스트랄 AI 모델을 즉시 사용할 수 있으며, 기업이 데이터브릭스 플랫폼의 핵심인 보안, 데이터 프라이버시 및 거버넌스를 저해하지 않으면서도, 자체적인 생성형 AI 애플리케이션을 위해 미스트랄 AI의 모델을 신속하게 사용할 수 있도록 지원한다. 믹스트랄 7B 및 믹스트랄 8x7B을 포함한 미스트랄 AI의 개방형 모델은 데이터브릭스 플랫폼에 완전히 통합된다. 아서 멘쉬 미스트랄 AI 설립자 겸 CEO는 “데이터브릭스와 전략적 제휴로 모두를 위한 생성형 AI의 이동성, 개방성 및 접근성을 향상하겠다는 양사의 의지를 재확인하게 돼 기쁘다”며 “미스트랄 AI의 모델을 데이터브릭스의 데이터 인텔리전스 플랫폼에 원활하게 통합함으로써 AI 보편화라는 공동의 목표에 한걸음 더 가까워 졌다”고 밝혔다. 그는 “이번 통합은 미스트랄 AI의 혁신적인 솔루션을 데이터브릭스의 방대한 고객 기반으로 확장시키는 중요한 이정표로, AI의 혁신과 발전을 촉진할 것으로 기대한다”며 “전 세계 사용자에게 접근성이 높고 획기적인 AI 솔루션을 제공하기 위해 지속적으로 노력하겠다"고 강조했다. 프렘 프라카시 데이터브릭스 AI 및 머신러닝(ML) 제품 마케팅 총괄은 "데이터브릭스는 고객이 잘 알려진 오픈소스 모델을 비롯해 업무에 적합한 모델을 선택할 수 있는 유연성과 도구를 제공하는 데 집중하고 있다”며 “올해 초에만 1,000개 이상의 기업이 데이터브릭스에서 미스트랄 모델을 활용해 수백만 건의 모델 추론을 수행했으며, 이번 파트너십 또한 이러한 고객에 대한 지원을 확대하기 위해서”라고 밝혔다. 그는 “고객이 생성형 AI 애플리케이션을 위해 미스트랄 AI 모델을 기본적으로 더욱 쉽게 접근, 커스터마이징, 배포 및 관리할 수 있는 간소화된 환경을 제공할 것"이라고 덧붙였다.

2024.03.18 10:41김우용

조승래 "미래와 가장 먼저 만나는 유성 만들 것"

과학기술 없이 미래를 말하는 건 허망하다. 과학기술이 세상을 바꾸기 때문이다. 정치가 미래를 지향하려면 정치인도 과학기술 이해도를 더 높여야 한다. 과학기술을 이해하려는 정치인이 더 필요하다. 글로벌 IT 전문매체 지디넷코리아는 4.10 총선을 맞아 과학기술IT 출신 후보를 소개하는 인터뷰 시리즈를 마련했다.[편집자주] “유성을 '미래'와 가장 먼저 만나는 도시로 만들어 갈 것이다.” 대전 유성구갑에서 4.10총선 3선에 도전하는 조승래 의원(더불어민주당)이 그리는 유성 비전이다. “이번 총선을 계기로 유성을 데이터 안심도시와 AI(인공지능) 실증 도시로 구현할 계획입니다. 누구나 안심하고 데이터를 주고 받을 수 있는 안전한 도시를 만들 것입니다. 대세로 자리잡은 AI 기술을 마음 놓고 구현할 테스트베드를 구축할 것입니다. 그래야 유성이 미래 테크놀러지와 가장 먼저 만나는 명실상부한 도시가 되지 않겠습니까.” 조승래 의원이 평생 살아온 대전과 정치적 뿌리인 유성을 위해 꼭 이루고 싶어하는 바람이자 약속이다. 조 의원은 논산에서 태어났지만 대전서 초∙중∙고와 대학을 나왔다. 대전 구석구석 무엇이 있는지 훤히 꿰뚫고 있다. 주위에서 말하는 조 의원의 최대 장점은 근면 성실함이다. 무엇이 됐든 일을 맡기면 눈이 오나 바람이 부나 변함없이 앞으로 달려 간다는 평이 중론이다. 서울 국회 등 의정활동이 있는 날이면 어김없이 새벽 5시 55분 첫 기차를 탔다. 지난 8년 간 1천968회나 이용했다. 본회의 출석률 97.8%를 기록했다. 의정활동∙법안통과율 각각 충청권 1위, 공양이행률 대전∙세종∙충남 1위, 국정감사 우수의원상 7년 연속 수상(더불어민주당), 헌정대상 7관왕(법률소비자연맹), 국리민복상 6관왕(국정감사 NGO 모니터단). '일 잘하는 조승래'가 지난 8년 간 살아온 '성적표'다. 조 의원은 국회 상임위에서 더불어민주당 간사만 내리 6년을 맡았다. 당 내에서 그만큼 교섭력과 리더십을 인정받은 결과다. 그를 지난 12일 오후 유성 선거사무실에서 만났다. -우리 사회, 특히 과학기술에 있어 시대정신은 무엇이라고 생각하나. “폭넓게 한 단어를 선택하라면 '회복'이다. 과학기술계로 보면 삭감된 국가 R&D 예산 회복이다. 민생이나 상식, 정치 등도 모두 후퇴했다. 예산이나 문화적, 정서적, 정책적 수준이 그렇다. 이를 모두 되살려야 할 것이다. 굳이 과학기술적 측면에서 시대정신을 얘기하자면 △기후 △에너지 △디지털 △AI 이 네 가지가 변환기적 화두라고 생각한다. 기후 변화나 에너지 문제는 인류 생존과 관련이 있다. 디지털 전환이나 생성형 AI 등은 향후 사회적 변화를 주도하는 과학기술의 큰 이슈이자 유용한 도구로 자리매김했다.” -대한민국, 나아가 세계사적 위기 극복을 지역 발전과 연계시켰던데. “위기 극복 방안은 크게 두 가지다. 하나는 위기를 타개할 솔루션, 즉 해결 리더십이 필요하다. 또 하나는 결론을 만들고, 미래를 준비하고, 통합하는 기술과 정책, 제도적인 리더십이 있어야 한다. 그런데 이 리더십을 풀어내려면 당연히 기술이 전제돼야 한다. 이 기술은 사례가 필요하고, 실증해야 한다. 그러려면 시범사업 모델이 필요하다. 당선된다면 유성을 향후 4년 간 세계사적 전환의 시대, 4가지의 위기 극복 모델 도시로 만들려 한다. 인구위기, 지역소멸위기, 한반도 평화위기,민생위기 등을 해결할 솔루션으로 우선 데이터 안심도시와 AI 실증도시 구현을 공약으로 제안한다. 국가 정책과 지역 현안을 결합했다.” -황정아 후보(유성구을)에게 도움을 많이 줬다고 하던데. “항공우주 분야에서 20년 넘게 근무한 전문가다. 국방분야 자문역할도 다수 수행한데다 우주항공 시스템 거버넌스 참여 경험도 많아 꼭 필요한 인재라고 판단했다. 본래 황정아 후보는 영입이 비교적 일찍 결정됐으나 아쉽게도 해외 업무 등 개인 사정으로 인해 지난 1월 8일 6호로 영입됐다.” -과방위 더불어민주당 간사를 맡아 우주항공청 법안 여야합의를 어렵사리 이끌어 냈는데. “여야 합의로 오는 5월 우주항공청이 출범은 한다. 하지만, 여러 면에서 불안한 요소들이 있고, 아쉬운 면이 많다. 우선 길고 크게 보면 우주청은 국가적 대형 과제를 기획하고 개발하는 업무와 인력 양성 기능이 중요하다. 그러나 현재 정책 집행 기능이 부실하다. 행정이 갑이고, 항공우주연구원은 을의 구도로 세팅돼 자칫 바다로 가는 우주청이 되지 않을까 우려스럽다. 우주청 컨트롤 타워 기능도 모자란다. 국가안보나 재해 등에 대응하는 시스템으로 만들어져야 하는데, 전략적인 고민이나 기획이 다소 부실한 측면이 있다.” -지난 8년간 법안 대표 발의 건수가 162건, 본회의 통과 66건이다. 주목할 만한 법안에 대해 설명해 달라. “대표적으로 연구개발특구법 개정, 국가전략기술육성법과 기후변화대응기술개발촉진법 등을 발의, 통과시켰다. 특히, 대전특별자치시특별법을 발의해 놨다. 단순히 대전을 자치시로 전환하는 것에 그치지 않는, 과학수도 발전법으로 보면 된다. 과학기술 역량을 중심으로 돈, 사람, 기술이 돌게 하는 것이 핵심이다. 예를 들어 AI실증테스트베드 역할의 근거도 담겨 있다. 대전 전역에 실증 특례를 부여한다. 또한 기술 산업화를 위한 투자은행도 설립할 수 있다. 나아가 지역의 발전 근간인 인재육성 방안을 제안했다. 청년과학자가 마음껏 연구할 수 있는 인재 유치‧육성 제도 등을 포함한다. 향후 4년은 이 법안을 통과시키는데 총력을 기울일 것이다.” 완전히 새로운 과학기술 내놓은 것이 선도국가 역할 -우리나라 과학기술과 IT 수준에 대해 평가해달라. “우리는 추격국가에서 선도국가로 도약하는 기로에 서 있다. 지금 선도형 과학기술 체계를 구축하지 않으면 대한민국 과학기술은 정체에 빠질 것이다. 우리나라는 그 동안 선진국을 추격하는 방식으로 성장해왔다. 선진국이 먼저 개발한 기술을 더 빨리, 더 효율적으로 따라잡는 것에 집중해왔다. 그 결과 빠르게 선진국 대열에 진입할 수 있었다. 그러나 이제는 우리가 먼저 새로운 길을 제시해야 하는 상황이다. 완전히 새로운 과학기술을 내놓는 것이 선도국가 역할이다. 기초 학문, 도전적 임무에 대한 꾸준한 투자가 있어야 가능한 일이다. 예를 들어 AI 분야는 기본대수학, 바이오라면 생물이나 화학분야 기초 연구에 더 관심이 있어야 한다. 출연연구기관이나 대학은 원천이나 기초 연구, 기업은 주로 양산으로 가는 끝단을 연구하면 될 것이다.” - 출연연이 공공기관운영에관한법률 상 기타공공기관에서 제외됐다. 갈팡질팡하는 분위기다. 어디로 가야할까. “변화의 물꼬를 텄다는 점에서는 반가운 일이지만, 자율성과 창의성 보장이라는 변화의 방향을 명확히 해야 한다. 단순히 관리자만 바뀌는 수준이라면 무용지물이고, 근본적 변화까지 나아가야 한다. 단편적이고 관료적인 투입-산출 논리에서 벗어나는 것이 본질이다. 지원하되 간섭하지 않는 새로운 거버넌스를 만들어야 한다. 그러나 아직 '성과에 기반한 관리 체계 마련'이라는 추상적 선언 외에는 구체적 방안이 나오지 않았고, 평가 기간 단축 등으로 관료적 통제가 강화되는 것 아니냐는 우려도 있다. 일단 공공기관 족쇄에서는 빠져나온 만큼, 이제 과기정통부가 확실한 철학을 갖고 제도를 설계해야한다. 그 과정에서 연구 현장 의견을 충분히 수렴하고 반영해야한다. R&D 예산 삭감 사태 같은 과오를 반복해서는 안된다.” -당선되면 어느 상임위를 염두에 두고 있나. “당선 후 결정할 일인 만큼, 지금 희망 상임위를 말하는 것은 이르다. 다만, 과학기술 정책은 특정 상임위에 한정되지 않는다. 어떤 상임위에 있든 과학기술 경쟁력을 높이는 의정 활동을 계속 이어나갈 것이다. 지금은 '기정학의 시대'로 불리울 만큼 기술 경쟁력이 국가 경쟁력을 좌우하는 시대가 됐다. ICT부터 농업까지 분야를 막론하고 디지털 전환이 이뤄지고 있다. 과방위 간사로 활동하면서 과학기술정보통신부에 모든 분야를 포괄하는 '플랫폼 부처'로서의 역할을 해달라고 주문한 것도 그런 이유에서다." [조승래 후보 주요약력] ▲국회 예산결산특별위원회 위원 ▲국회 과학기술정보방송통신위원회 더불어민주당 간사 ▲국회 첨단전략산업특별위원회 위원 ▲더불어민주당 과학기술혁신특별위원장 ▲더불어민주당 정책위원회 선임부의장 ▲(전)충청남도 도지사 비서실장 ▲(전)대통령 비서실 사회조정비서관

2024.03.18 08:29박희범

[기고] 생성형 AI 도입, 기업이 반드시 유념해야 할 두 가지 전략

생성형 AI 모델에 대한 뜨거운 관심은 이제 다방면으로 확산되고 있다. 지난 해 까지만 해도 변호사 자격시험 통과나 다양한 주제의 학술 논문 작성은 물론, 정보 검색 지원 등 놀라운 신기능이 화제의 중심이었다. 이제 우리는 생성형 AI가 텍스트 생성과 SQL 쿼리 생성, 코드 작성, 심지어는 예술작품 제작은 물론, 기업의 제품 지원에 이르기까지 거의 모든 분야의 작업을 수행하는 것을 목격하고 있다. 생산성과 수익을 향상시킬 수 있는 방법을 늘 고민중인 기업 경영진의 마음을 생성형AI가 사로잡고 있다고 해도 과언이 아니다. 실제 우리 기업들은 이제 향후 어떤 업무에 생성형 AI의 어떤 기능을 더 추가적으로 도입할 지 심각하게 고민하고 있는 상황이다. 기업은 생성형 AI 기능을 원하는 업무에 도입해 비즈니스 결과를 개선하려면 우선적으로 중요한 원칙을 되새겨야 한다. 즉 해당 AI기능이 자사의 비즈니스 적용업무에 통합되어 그에 적합하고 정확한 결과를 제공하는 대상 모델은 무엇인지 정의하는 것과, 그에 맞게 해당 인프라를 설정하고, 모델을 선택, 맞춤화하고 배포를 어떻게 할 것인지 대한 기획이다. 이와 같은 원칙과 전제하에 기업이 생성형 AI를 도입해 자사의 비즈니스를 향상시키는 방안은 두 가지로 구분할 수 있다. 애플리케이션에서 AI 서비스 및 데이터와 인프라 전반을 아우르는 '풀스택 AI'의 활용 전략과 '특정 비즈니스 업무에 적합한 맞춤형 서비스 활용'이 그것이다. 풀스택 AI 활용과 그 경험을 구현하는 방법은 무엇인가? 이는 생성형 AI에 대한 시스템 차원의 '총체적인 접근방식'으로, 기업이 AI 구현을 위해 필요로 하는 기술 전반을 통합한 환경을 의미한다. 이와 관련해 기업은 자사의 온프레미스(구축형)와 퍼블릭 클라우드로 운영되는 IT시스템 환경의 전반에서 애플리케이션과 서비스, 데이터 및 인프라를 아우르는 단일한 AI 솔루션 적용을 통해 AI의 ROI(투자대비효과)를 거둘 수 있다. 보통 기업에서는 AI 프로젝트를 진행할 경우 여러 곳에 편재한 단편적인 부분과 툴을 결합하는 방식으로 AI를 구현한다. 이와 달리 풀스택 접근방식은 기업 핵심 애플리케이션의 사용 경험에 생성형 AI 기술을 접목할 수 있는 기술력을 갖추고 있다는 장점이 있다. 덕분에 기업은 자사 애플리케이션에 필요한 생성형 AI 기술을 획기적으로 간단히 통합할 수 있다. 필자가 속한 오라클 역시 기업이 생성형 AI를 성공적으로 구현하기 위해 정말 필요한 것이 무엇인지에 대해 고민하면서 생성형 AI에 대해 이러한 총체적인 접근 방식을 취하고 있다. 또한 데이터베이스에 탑재된 AI 기반 운영 자동화 및 벡터 검색 기능은 기업이 추가적인 개발의 노력을 들이지 않아도 데이터베이스 관리 업무와 앱 개발 과정을 대폭 간소화하고 정확도 높은 모델을 지원할 수 있어 비용 절감을 돕는다. 오라클은 자사의 서비스형 소프트웨어(SaaS)에서 시작해 이러한 AI 기술이 접목된 풀스택 서비스와 함께 광범위한 미세 조정 모델 및 즉시 사용 가능한 검색 증강 생성(RAG)을 통해 기업의 차별화된 AI 전략을 지원하고 있다. 두 번째로, 생성형 AI가 기업 내의 다양한 활용을 지원하기 위해 미세 조정 또는 RAG 기술을 통해 대형 언어 모델을 현업 요구 사항에 적합하도록 맞춤화해 제공하는 방안이다. 이 중 '미세 조정'은 대형 언어 모델에 기업의 내부 정보, 지식 문서 등을 학습하는 것으로, 여기에는 많은 시간과 비용이 든다. RAG 기술은 이러한 미세조정을 돕기 위한 기술이다. 데이터 사용자와 자연어 기반의 대화 맥락 속에서 질의를 SQL 쿼리로 자동 변환하고 기업 보유의 벡터 데이터베이스와 연동을 통해 의도에 맞는 답변을 제공한다는 점에서 비용 효과성을 더 높은 수준으로 향상시켜준다. 한 예로 기업의 한 사용자가 RAG 기술을 탑재한 에이전트에 병가에 대한 인사(HR) 정책을 요약해서 알려 달라고 요청할 경우, 모델은 RAG를 통해 기업 HR 정책과 관련된 내부 문서에서 연관 있는 문단을 추출해 내어 자연어 대응 답변을 출처 문서에 대한 하이퍼링크와 함께 맞춤형으로 제공할 수 있다. 향후에는 사용자의 요청에 따라 기존 문서 편집과 같은 후속 조치까지도 지원할 것으로 기대된다. 이처럼 기업 업무의 특수한 맥락에 정교한 성능을 제공하는 생성형 AI 기술은 고객 서비스 자동화를 비롯해 개인화된 마케팅이나 가상 세일즈맨 역할, 계약서 작성, 경쟁사 및 고객 모니터링 등 비즈니스의 많은 영역에 적용해 가치를 창출할 수 있을 것으로 기대되고 있다. 성공적인 생성형 AI 구현은 인프라에 대한 총체적인 접근방식과 더불어, 생성형 AI 모델의 실제 비즈니스 적합성에 달려 있다. 이 두 가지 전략을 함께 고려하고 운용할 수 있을 때 비로소 기업은 생성형 AI 와 관련된 여정을 단계별로 차근차근 밟아 나가며 혁신을 가속화하고 고도화 할 수 있을 것이다.

2024.03.14 15:27나정옥

기업은 생성형 AI의 데이터 유출을 어떻게 막을 수 있나

"기업이 마이크로소프트 365 코파일럿이나 다른 AI를 사용할 때 당연히 기업내 지식베이스의 데이터를 가져와 활용하게 된다. 그 데이터는 중요하고 민감한 정보를 포함할 수 있는데, 코파일럿이 이런 정보를 가져왔을 때 컨피덴셜 데이터를 판별할 수 있어야 한다. 사용자가 열람하고 복사 및 붙여넣기 할 수 없던 기밀 정보를 코파일럿이나 AI에서 제공받아도 안 되고, 생성된 콘텐츠를 외부 생성형 AI에 입력할 수도 없어야 한다. 마이크로소프트 퍼뷰는 기업 내 데이터의 보안 강도를 인식해 무분별한 AI 사용을 방지한다." 박상준 한국마이크로소프트 보안비즈니스 총괄 팀장은 최근 본지와 인터뷰에서 마이크로소프트 코파일럿 등 다양한 생성형 AI 활용 중 필요한 데이터 보안 방안을 이같이 설명했다. 박상준 팀장은 "현재 기업에서 사용하는 생성형 AI는 데이터 보호의 위험을 감지하고 완화할 수 있는 가시성이 부족하다"며 "점차 생성형 AI와 코파일럿 도입을 많이 할수록 이런 문제는 더욱 많아지며, 막 시작된 각국가별 관련 규제도 늘어나면서 규제에 대응하기도 어려워질 것"이라고 진단했다. 그는 "아직 초기 시장이어서 기업과 사용자는 AI 자체에만 관심을 두고 있다"며 "생성형 AI 활용에 대한 데이터 보안에 기업이 관심을 가져야 할 시점이지만 기존의 보안 솔루션 중 이런 위험성을 해결할 제품이 없는 상황"이라고 강조했다. 마이크로소프트 조사에 따르면, 생성형 AI의 위험을 감지하고 완화하기 위한 가시성의 부족을 우려하는 조직의 비율은 43%다. AI에서 공유되는 데이터를 보호할 수 있는 제어력이 부족하다고 우려하는 응답자는 35%라고 한다. 마이크로소프트 365 코파일럿은 오픈AI의 대규모언어모델(LLM)인 GPT를 기반 모델 삼아 워드, 엑셀, 파워포인트, 아웃룩, 팀즈 등에서 자연어 요청으로 다양한 문서와 콘텐츠를 작성해준다. 코파일럿은 사용자 프롬프트를 받아 마이크로소프트 그래프를 통해 셰어포인트 내에 저장되는 기업 내부 데이터를 열람하고, 웹 검색 데이터와 결합해 맥락에 적합한 답변을 하게 된다. 조직의 특성과 상황에 맞는 답변을 얻도록 여러 생성형 AI를 혼합, 최적화하는 증강검색생성(RAG)를 활용하면 마이크로소프트 365 코파일럿처럼 사용자에게 최적화된 AI 환경을 구축할 수 있다. 이 과정에서 AI 모델은 기업의 내부 정보에 접근하고 사용자 답변에 활용한다. 마이크로소프트 365 코파일럿이나 생성형 AI의 가장 흔한 활용 방식은 '복사'와 '붙여넣기'다. 한번에 완벽한 문서를 AI로 작성할 수도 있지만, 대부분 AI로 생성된 콘텐츠를 또다른 업무 애플리케이션이나 제3의 생성형 AI에 입력한다. 만약 이런 사용을 무분별하게 방치하면 무수한 기밀 정보가 무방비로 외부에 유출될 수 있다. 박 팀장은 "코파일럿으로 복사와 붙여넣기를 하다가 민감 정보를 복사해서 일반 또는 공개수준의 문서에 붙이기도 하는데 이는 기밀정보의 유출하는 문제가 있다"며 "또, 엑셀에서 코파일럿에게 물어서 기밀 정보를 보여달라고 프롬프트를 날리는 데이터 과잉 공유 문제도 발생한다"고 말했다. 그는 "경쟁 기업의 주가 조작을 위한 문서를 작성해달라는 식의 비윤리적인 콘텐츠를 요청하는 위험성 콘텐츠 생성을 방지하는 기능도 필요하다"고 덧붙였다. 마이크로소프트 퍼뷰는 데이터 보안, 거버넌스, 컴플라이언스 등의 기능을 제공하는 제품군이다. 퍼뷰 AI 허브는 중요한 데이터와 사용자 위험 컨텍스트를 포함한 프롬프트를 감지하는 가시성을 제공한다. 퍼뷰 데이터 로스 프리벤션은 엔드포인트 DLP 정책을 만들어 중요 정보의 복사 및 붙여넣기나 AI 앱 업로드를 차단한다. 어댑티브 프로텍션 인 마이크로소프트 퍼뷰는 합법적 비즈니스 활동을 차단하지 않도록 DLP 정책을 사용자 위험에 맞게 적용한다. 박 팀장은 "퍼뷰 AI 허브는 기업 내부에서 사용되는 코파일럿과 기타 AI 어시스턴트의 활용 내용을 보여주며, 중요한 정보가 프롬프트를 통해 얼마나 오가는지 탐지해 표시한다"며 "한 회사에서 코파일럿과 여러 AI를 쓴다고 할 때 주민등록번호나 신용카드 번호, 프로젝트 정보 등이 오가는것 자체를 탐지할 수 있으며, 위험도 집계를 통해 현황을 파악하고, 실 사용자에게 주의를 주거나 특정 조치를 취할 수 있게 한다"고 설명했다. 그는 "퍼뷰 DLP는 기밀자료에 대한 무단 복사/붙여넣기를 차단할 수 있다" 며 "다른 일반 AI에 복사 붙여넣기를 할 때 더 낮은 보안 등급의 문서나 앱에서 할 수 없도록 차단한다"고 말했다. 그는 "퍼뷰 커뮤니케이션 컴플라이언스는 이메일이나 채팅창에서 대화 중 문제있는 키워드를 탐지해 데이터 과잉 공유의 위험을 해결한다"며 "예를 들어 '프로젝트 옵시디안'이란 단어를 셰어포인트 사이트 라이브러리에 민감도 레이블을 적용하고 탐지해 '프로젝트 옵시디안' 관련 정보를 공유하지 못하게 막는다"고 덧붙였다. 마이크로소프트 퍼뷰는 중요한 데이터를 포함한 파일에 자동으로 레이블을 지정하고, 암호화, 권한관리, 워터마킹 등을 포함한 보호 제어를 적용해준다. 사용자가 민감도 레이블 관련 요청을 할 때 관련된 권한 관리 제어를 적용한다. 민감 데이터에 접근할 수 있는 사용자의 경우 코파일럿은 참조하는 파일에 가장 제한적인 레이블을 자동으로 상속하고, 무단 사용이나 유출을 방지한다. 퍼뷰 커뮤니케이션 컴플라이언스는 즉시 사용가능하고 학습 가능한 분류자(classifier)를 사용해 비규제적 콘텐츠를 포함하는 프롬프트도 감지한다. 데이터수명주기관리(DLM)를 통해 모든 마이크로소프트 365 코파일럿의 소통을 유지하고, 오딧을 통해 활동 로그를 기록한다. 코파일럿 상호작용을 포함한 모든 관련 데이터를 수집, 검토해 이디스커버리를 통해 조사나 소송에 대응할 수 있다. 박 팀장은 "DRM은 모든 파일을 암호화해 데이터 보호 조치를 취하는 솔루션으로, DRM을 쓴다면 AI의 데이터 읽기 자체가 차단된다"며 "DRM은 레이블없이 모든 외부 접근을 막기 때문에 DRM과 생성형 AI의 양립은 불가능하다고 봐야한다"고 말했다. 그는 "이런 기업들이 생성형 AI를 쓰기 위해 퍼뷰의 마이크로소프트인포메이션프로텍션(MIP)으로 전환하는 추세"라며 "문서에 레이블을 붙여서 AI가 그 레이블을 보고 보안 등급을 판단하는 게 MIP"라고 설명했다. 마이크로소프트 퍼뷰는 단독으로도 구독 가능한 상품이다. 하지만 단말기 관리와 ID 관리를 할 수 있는 마이크로소프트 인튠과 마이크로소프트 엔트라를 함께 활용할 때 그 역량이 극대화된다. 마이크로소프트는 보안 제품군을 자사 솔루션 연동으로 한정하지 않는다. 타사 환경도 포괄한다. 박 팀장은 "마이크로소프트 보안의 방향성은 포괄적 보안을 제공한다는 것이며, 개별적 부분을 강화하면서도 전반적으로 커버하는 보안을 지향한다"며 "마이크로소프트 환경뿐 아니라 멀티 클라우드와 온프레미스까지 포함한다"고 밝혔다. 그는 "마이크로소프트 퍼뷰는 우수한 가시성, 포괄적인 보호, 규정 준수 제어 등을 통합적으로 제공한다"며 "마이크로소프트의 포괄적인 접근방식을 기반으로 안전하고 규정을 준수하는 생성형 AI 환경을 만들 수 있으며, 제3자 솔루션을 포함해 종속성 없이 기업의 통합 플랫폼에 원활하게 통합된다"고 강조했다.

2024.03.14 10:53김우용

에쓰핀테크-덱스컨설팅, 생성형 AI 플랫폼 '깃고GPT' 출시

에쓰핀테크놀로지는 애저 오픈AI 전문 기술력을 보유한 덱스컨설팅과 기업 맞춤형 생성형 AI 플랫폼 'GitgoGPT(이하 깃고GPT)'를 출시했다고 13일 밝혔다. 깃고GPT는 기업 내부 데이터를 기반으로 한 엔터프라이즈 대화형 AI 플랫폼으로 질문의 의도와 문서 내용을 종합적으로 판단한 후 콘텐츠를 생성해준다. 최근 생성형 AI가 큰 주목을 받고 있으나 기업의 문서나 데이터를 학습시키는 과정에서 발생할 수 있는 정보 유출 우려로 기업이 업무에 바로 적용하기에 어려움을 겪고 있다. 깃고GPT는 기업의 클라우드 내 독립적인 운영 환경을 활용해 정보 유출의 우려 없이 기업 내부 데이터를 학습한다는 장점이 있다. 문서뿐 아니라 데이터베이스, 음성, 이미지 등 모든 형태의 데이터를 학습해 업무에 활용가능하며 기업 내부 시스템과 연동해 기업환경에 최적화된 서비스를 제공한다. 또 마이크로소프트 애저 기반에서 제공돼 MS가 보유한 대규모 데이터와 오픈AI의 최신 모델과 같은 MS 기술 고도화에 즉각 대응할 수 있어 시간과 비용을 절감할 수 있다. 이승근 에쓰핀테크놀로지 대표는 "깃고GPT는 기업의 업무 효율을 높여줄 수 있는 최적의 AI 플랫폼이 될 것"이라며 "정확한 답변이 필요한 금융 및 콜센터 업무뿐 아니라, 종합적으로 판단하여 콘텐츠 생성이 필요한 인사, IT, 내부 지식 문서 등 다양한 영역에서 활용되며 직원들의 업무 생산성을 높여 줄 것으로 기대한다"고 말했다. 정성철 덱스컨설팅 대표는 "국내 엔터프라이즈에서 증명된 기술을 기반으로 구현된 깃고GPT는 마이크로소프트 기술 기반이라는 강점을 바탕으로 생성형 AI를 업무에 도입하려는 기업의 기술적, 비용적 한계를 극복하는데 도움이 될 것"이라고 밝혔다.

2024.03.13 18:54백봉삼

한국공대, 연산 기능 갖춘 지능형 메모리 반도체소자 개발

국내 대학 연구팀이 연산기능과 메모리 기능을 통합한 지능형 반도체소자 개발에 성공했다. 한국공학대학교(총장 황수성)는 안승언 교수(나노반도체공학과) 연구팀이 차세대 지능형 반도체에 활용 가능한 로직 연산과 메모리 기능을 통합한 강유전체 기반 프로세스-인-메모리(PIM) 소자 개발에 성공했다고 12일 밝혔다. 이번 연구 결과는 'Exploring Multi-Bit Logic In-Memory with Memristive HfO2-Based Ferroelectric Tunnel Junctions'라는 제목으로 전자 소자·재료과학 분야 저명 학술지 'Advanced Electronic Materials' 3월 8일자 표지논문으로 선정됐다. 연구에는 박사과정 고원우(제1저자), 황현주(공저자) 학생이 참여했다. 연구팀 관계자는 “최근 빅데이터를 기반으로 하는 인공지능(AI) 기술발전이 가속하면서 메모리와 프로세서가 분리돼 데이터를 처리하는 '폰노이만(Von Neumann)' 컴퓨팅 시스템 구조 데이터처리 속도에 한계가 나타나고 있다”며 “저전력·멀티레벨 스위칭·고속 동작이 가능한 프로세서와 메모리를 통합한 신개념 반도체소자 개발 필요성이 대두되고 있다”고 설명했다. 연구팀은 하프늄-지르코늄 산화물을 기반으로 강유전체 터널 접합(FTJ) 형태 멤리지스터(메모리+레지스터)를 구현해 멀티레벨 스위칭과 신뢰성을 확보하고 중간 레벨(inter-state) 간 스위칭을 구동하는 데 성공했다. 소자의 스위칭 특성을 조합해 NAND, NOR, OR 등 16가지 논리 연산 기능을 카르노 맵을 통해 제시해 PIM 응용 가능성도 검증했다. 안승언 교수는 “최근 새로운 개념의 컴퓨팅 시스템 구현을 위해 다양한 PIM 소자 연구 결과가 발표되고 있지만 비휘발성 멀티레벨 신뢰성과 중간 레벨 간 스위칭 구동 연구가 여전히 초기 단계에 있는 상황에서 이번 연구의 진일보한 결과는 차세대 지능형 반도체 분야의 기술적·학문적 도약에 기여할것으로 기대한다”고 밝혔다. 한편, 이번 연구는 과학기술정보통신부와 한국연구재단이 지원하는 중견연구자지원사업과 산업통상자원부가 지원하는 미래반도체개발사업의 지원으로 수행했다.

2024.03.12 21:34주문정

스노우플레이크, 미스트랄AI와 협력…'미스트랄 라지' 모델 제공

스노우플레이크는 최근 프랑스 AI 솔루션 제공업체 미스트랄AI와 파트너십을 체결했다고 11일 일 발표했다. 이 파트너십은 스노우플레이크 산하 벤처 캐피탈인 스노우플레이크 벤처스의 미스트랄AI의 시리즈 A 투자를 포함한다. 양사의 협력으로 스노우플레이크 고객은 미스트랄AI가 가장 최근에 선보인 플래그십 대규모 언어 모델(LLM)인 '미스트랄 라지'를 스노우플레이크 데이터 클라우드 플랫폼에서 적용할 수 있다. 미스트랄AI의 기본 모델인 '미스트랄 7B'와 오픈 소스 모델 '믹스트랄8x7B'에도 액세스할 수 있다. '미스트랄 라지'는 고유한 추론 능력을 갖춘 LLM 모델로 코딩과 수학에 능숙하고 한번의 요청으로 수백 페이지에 달하는 문서를 처리할 수 있다. 프랑스어, 영어, 독일어, 스페인어, 이탈리아어, 5개 언어 처리가 가능하다. 기존 생성형 AI 모델과 '대규모 다중 작업 언어 이해 측정(MMLU)' 비교함에서 뛰어난 성능을 입증하며 챗GPT-4에 이어 API를 통해 사용 가능한 모델 중 2위를 차지하기도 했다. '미스트랄 7B'는 낮은 지연 시간과 메모리 요구사항에 비해 높은 처리량을 갖춘 것이 특징이다. '믹스트랄 8x7B'는 대부분의 성능 비교에서 챗GPT3.5보다 빠르고 품질이 우수한 것으로 나타났다. 미스트랄AI의 모델들은 '스노우플레이크 코텍스'에서 프리뷰 공개 형태로 고객에게 제공된다. 스노우플레이크 코텍스는 스노우플레이크 플랫폼에서 생성형 AI를 활용할 수 있는 완전 관리형 LLM 및 벡터 검색 서비스이다. AI/ML 기술 없이도 쉽고 강화된 보안 환경에서 생성형 AI를 활용할 수 있는 서비스로, 기업 고객은 데이터에 대한 보안, 개인 정보 보호 및 거버넌스는 유지하면서 데이터를 빠른 속도로 분석하고 AI 앱을 구축할 수 있다. 스노우플레이크 지난해 감정 분석, 번역, 요약과 같은 특수 작업을 위한 LLM을 지원하는 코텍스를 처음 공개했다. 또한, 메타 '라마2' 모델을 시작으로 검색증강생성(RAG)을 포함한 기본 LLM 지원을 늘리고 있다. 스노우플레이크는 미스트랄AI와의 파트너십을 통해 생성형 AI에 대한 투자를 이어가면서, 기본형 LLM을 스노우플레이크 코텍스에서 제공해 기업이 다방면 비즈니스에 최첨단 생성형 AI를 도입할 수 있도록 지원하고 있다. 복잡한 GPU 관리 대신 사용자의 AI 활용도를 넓히기 위해 엔비디아와 적극적으로 협력하고 있다. 스노우플레이크 코텍스는 엔비디아 트라이튼 추론 서버를 활용해 풀스택 가속 컴퓨팅 플랫폼을 제공하고 있다. 스노우플레이크 코텍스 LLM 기능이 공개 프리뷰되며 스노우플레이크 기업 고객은 기업 고유의 데이터를 바탕으로 다양하게 AI를 활용할 수 있게 됐다. SQL 기술을 갖춘 사용자라면 누구나 수 초 내에 감정 분석, 번역, 요약과 같은 특수 작업을 비용 효율적으로 진행할 수 있다. 파이썬 개발자라면 스노우플레이크 코텍스에서 제공하는 미스트랄AI의 LLM은 물론, 곧 공개될 스노우플레이크 스트림릿의 대화형 기능을 통해 수 분 내에 챗봇과 같은 풀스택 AI 앱을 개발할 수 있게 된다. 간편해진 경험과 높은 수준의 보안은 역시 곧 공개될 스노우플레이크의 통합 벡터 기능과 벡터 데이터 유형을 통해 RAG에도 동일하게 적용될 예정이다. 슈리다 라마스워미 스노우플레이크 신임 CEO는 “스노우플레이크는 미스트랄AI와의 파트너십을 통해 최정상급 성능의 LLM을 고객에게 직접 제공하고, 사용자는 간편하면서도 혁신적인 AI 앱을 구축할 수 있게 됐다”며 “스노우플레이크 코텍스를 통해 더 많은 기업이 데이터 클라우드의 보안과 개인 정보 보호는 강화하고 새롭고 경제적인 AI 사용 사례를 만들어 내기를 바란다”고 밝혔다. 아르튀르 멘슈 미스트랄AI 공동창립자 겸 CEO 는 “스노우플레이크의 보안, 개인 정보 보호 및 거버넌스에 대한 원칙은 누구나 어디에서든 혁신적인 AI를 활용할 수 있도록 하겠다는 미스트랄AI의 포부와 맞아떨어진다”며 “미스트랄AI는 전세계적으로 기업이 생성형 AI 활용에 더 가까워지도록 고성능, 고효율에 신뢰할 수 있는 AI 모델을 개발하겠다는 스노우플레이크의 목표에 공감한다”고 강조했다. 그는 “스노우플레이크 데이터 클라우드에서 미스트랄AI의 모델을 활용함으로써, 고객이 민주화된 AI를 경험하고 더 큰 가치를 창출하는 고도화된 AI 앱을 생성할 수 있기를 기대한다”고 덧붙였다. 스노우플레이크는 고객, 데이터 클라우드 생태계는 물론, 기술 커뮤니티 전체에 대한 AI 혁신을 위해 노력하고 있다. 이에 스노우플레이크는 최근 개발자, 연구원 및 조직이 개방적이고 안전하며 책임감 있는 AI를 개발하기 위한 국제 커뮤니티인 'AI 얼라이언스'에 가입했다. AI 얼라이언스를 통해 스노우플레이크는 생성형 AI가 가져올 도전과제와 기회에 대해 전방위적이고 개방적으로 대응하며 누구나 AI 기술을 활용하고 혜택을 얻을 수 있도록 지속적으로 노력할 계획이다.

2024.03.11 10:52김우용

  Prev 31 32 33 34 35 36 37 38 39 40 Next  

지금 뜨는 기사

이시각 헤드라인

SKT, 침해사고 이후 해지 위약금 면제...8월 요금 50% 감면

인천공항-면세업계, 임대료 인하 공방…"깎아줘" vs "왜 너만"

"AI 다음은 로봇"…열리는 로봇 칩 선점 전쟁

지주사 주가 치솟자 재계 표정관리...승계 셈법 복잡

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.