• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
AI페스타
배터리
양자컴퓨팅
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'하이퍼엑셀'통합검색 결과 입니다. (6건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

기원테크·하이퍼엑셀·정원엔시스, 차세대 AI 생태계 구축 힘 모은다

국제표준 이메일 보안 전문기업 기원테크(대표 김동철)가 생성 AI 가속 반도체 전문기업 하이퍼엑셀, IT 시스템 통합 전문기업 정원엔시스와 차세대 AI 생태계 구축을 위한 3자 전략적 업무협약(MOU)을 체결했다고 19일 밝혔다. 이번 협약의 핵심은 기원테크의 생성형 AI 기반 민원 분석 솔루션 '민원e'를 중심으로, 하이퍼엑셀의 거대언어모델(LLM) 특화 반도체 LPU를 적용해 GPU+LPU 하이브리드 시스템을 구축하는 것이다. 여기에 정원엔시스의 공공부문 총판 역량을 더해 대규모 음성 및 텍스트 데이터를 안정적으로 처리할 수 있는 차세대 AI 인프라를 완성하고, 공공 민원처리 시장에서 기술 혁신과 공급망 확산을 동시에 추진한다. 하이퍼엑셀은 2023년 설립된 생성 AI 가속 반도체 및 서버 솔루션 전문기업이다. 이 회사는 LLM 추론에 특화된 반도체 LPU(LLM Processing Unit)를 개발하고 있다. LPU는 GPU 대비 10배 이상 높은 가격 대비 성능과 5배 수준의 전력 효율성 향상을 목표로 하는 차세대 AI 반도체다. 정원엔시스는 1978년부터 IT사업을 시작한 기업으로, 시스템 인프라 구축부터 통합, 마이그레이션까지 IT 컨설팅 능력과 기술 지원 노하우를 보유한 IT 전문기업이다. 한국휴렛팩커드의 총판으로서 서버, 스토리지 등 하드웨어와 솔루션을 납품하며, 최근 238억원 규모의 국가AI사업용 인프라장비 공급계약에 참여하는 성과를 거뒀다. 3사 협력을 통해 구축되는 GPU+LPU 하이브리드 시스템은 기존 GPU만으로는 한계가 있던 대규모 음성 상담 데이터와 텍스트 데이터의 동시 고속 처리를 가능하게 한다. 하이퍼엑셀의 LPU가 LLM 추론 작업을 담당하고, GPU가 음성인식과 자연어처리를 처리함으로써 전체 시스템의 처리 성능을 획기적으로 향상시키면서도 전력 효율성과 비용 효율성을 동시에 확보할 수 있게 됐다. 기원테크는 이번 협력을 통해 소프트웨어 전문성을 기반으로 하드웨어-소프트웨어 통합 최적화 솔루션 제공까지 영역을 확장하게 됐다. 하이퍼엑셀의 LPU 기반 플랫폼에서 '민원e'가 최적화되어 구동됨으로써 기존 대비 처리 속도는 30~50% 향상되고, 운영 비용도 크게 절감될 수 있을 것으로 기대된다. 김주영 하이퍼엑셀 대표는 "LPU는 LLM 워크로드에 최적화된 차세대 AI 반도체로, 민원e와 같은 실제 공공 서비스에 적용돼 그 가치를 입증할 수 있게 돼 매우 기쁘다"며 "이번 협력을 통해 국산 AI 반도체 기술의 우수성을 실증하고, 공공 분야 AI 전환의 새로운 표준을 제시하겠다"라고 말했다. 한덕희 정원엔시스 대표는 "설립 이후 축적한 IT 인프라 구축 노하우와 최근의 성과를 바탕으로 혁신적인 AI 솔루션의 안정적 운영 기반을 제공하게 돼 자랑스럽다"며 "국내 기술 기반의 완전 자립형 AI 인프라 구축을 통해 공공 디지털 혁신을 선도하겠다"고 밝혔다. 김동철 기원테크 대표는 "이번 3자 협력은 국제표준 기반 기술력과 국산 AI 반도체의 만남으로 진정한 의미의 기술 자립을 실현하는 계기"라며서 "민원e가 공공 서비스 혁신의 새로운 표준이 되도록 최선을 다하겠다"고 했다.

2025.09.19 17:05백봉삼

KAIST-하이퍼엑셀, NPU 신기술 공개…"챗GPT 추론성능 60% 개선"

챗GPT의 추론 성능을 60%이상 개선할 수 있는 신경망처리장치(NPU) 핵심기술이 개발됐다. KAIST는 전산학부 박종세 교수 연구팀과 (주)하이퍼엑셀(전기및전자공학부 김주영 교수 창업기업)이 챗GPT와 같은 생성형AI 클라우드에 특화된 고성능·저전력 NPU 핵심기술을 새로 설계하는데 성공했다고 4일 밝혔다. 핵심은 2가지다. 키-값(KV) 캐시를 경량화하는 양자화 (quantization) 알고리즘과 이를 가속하는 NPU 기반 하드웨어 모듈(아키텍처)을 새로 개발했다. 트랜스포머 기반 언어 모델 추론 과정에서 생성되는 KV 캐시는 매 요청, 매 토큰마다 생성돼 누적되기 때문에 대규모 시스템에서는 메모리 용량과 대역폭 사용량 대부분을 차지한다. 이로인해 시스템 성능 병목을 초래한다. 연구자들이 이를 타개하기 위한 방편으로 최신 GPU를 최대한 많이 확보하려고 애쓰는 이유다. 연구팀은 이같은 문제 해결을 위해 다양한 모델 및 입력 데이터셋 KV 캐시 값 분포를 분석하고 이를 특성화했다. 연구팀은 "이를 바탕으로 정확도 손실을 최소화하는 양자화 기법을 새로 설계했다"며 "양자화된 KV 캐시 평균 비트 폭 (bitwidth)를 줄이기 위해 양자화가 어려운 값들을 효과적으로 처리하는 경량화 기법도 함께 설계했다"고 설명했다. 하드웨어 모듈은 기존 NPU 아키텍처 연산 로직을 변경하지 않으면서도 메모리 인터페이스와 통합될 수 있도록 설계했다. 연구팀은 이 모듈에 제한된 메모리 대역폭 및 용량을 효율적으로 활용하기 위한 페이지 단위 메모리 관리 기법과 양자화된 KV 캐시에 최적화된 새로운 인코딩 기법 등을 개발, 적용했다. 연구팀은 "이를 적용한 NPU 디바이스는 최신 GPU 기반 기존 경량화 기법 대비 추론 성능(초당 생성 토큰 개수)과 정확도가 60%이상 우수했다"며 "전력 소모도 기존 대비 44%이상 효율성을 확보했다"고 부연 설명했다. 박종세 교수는 "메모리 사용의 대부분을 차지하는 KV 캐시를 양자화함으로써, 적은 수의 NPU 디바이스 만으로 동일 수준의 AI 인프라를 구성할 수 있게 됐다"며 "생성형 AI 클라우드 구축 비용을 크게 절감할 수 있을 것"이라고 말했다. 박 교수는 또 "능동적인 실행형 AI인 '에이전틱 AI '등으로 대표되는 AI 대전환(AX) 환경에서도 핵심 역할을 할 것"으로 기대했다. 연구는 KAIST 김민수 연구생(박사과정)과 ㈜하이퍼엑셀 홍성민 박사가 공동 제1 저자로 진행했다. 연구결과는 지난 달 21일부터 25일까지 일본 도쿄에서 열린 '2025 국제 컴퓨터구조 심포지엄(ISCA)'에 발표됐다. 예산은 한국연구재단 우수신진연구자지원사업, 정보통신기획평가원(IITP), 인공지능반도체대학원지원사업 지원을 받았다.

2025.07.04 09:01박희범

하이퍼엑셀, 국산 AI 반도체 기반 K-클라우드 기술개발 국책과제 수주

LLM 특화 AI 반도체 스타트업 하이퍼엑셀은 과학기술정보통신부와 정보통신기획평가원(IITP)이 추진하는 450억원 규모의 'AI반도체를 활용한 K-클라우드 기술개발사업' 국책과제를 수주했다고 8일 밝혔다. 이번 과제는 국산 AI 반도체 기반 데이터센터 학습 및 추론 시스템 통합 및 검증을 목표로 하며 2030년 12월까지 진행될 예정이다. 하이퍼엑셀이 주관하는 이번 과제에는 리벨리온, 파네시아, 망고부스트, 래블업, 스퀴즈비츠 등 국내 유명 AI 반도체 및 AI 솔루션 기업들과 한국과학기술원(KAIST), 서울대학교 등 국내 유수 대학이 참여하여 최고의 전문성과 기술력을 보유한 AI 인프라 '드림팀'으로 인정받았다. 특히, 국내 최대 데이터센터 운영사이자 AI 반도체 수요처인 네이버클라우드가 직접 과제에 참여하여 기술 개발 이후 사업화 성공 가능성까지 확보했다. 특히, 국내 최대 데이터센터 운영사인 네이버클라우드가 직접 해당 기술의 실증에 적극 참여함으로써 국내 NPU 기술 산업 생태계 확산에 기여한다고 밝혔다. 이동수 네이버클라우드 전무는 “국내 소버린AI 생태계 구축에 있어서 금번 과제가 갖는 의미에 공감하고, 네이버클라우드가 가진 AI 밸류체인 전 영역에 걸친 경험과 역량을 바탕으로 금번 과제의 성공에 적극적으로 기여하고자 참여를 결정했다”고 말했다. 하이퍼엑셀은 이번 과제를 통해 대한민국의 독자적인 AI 반도체 기술 역량을 확보하고, 국산 AI 반도체 기반의 데이터센터 인프라를 구축하여 외산 AI 반도체의 의존성을 줄이고 글로벌 시장에서 경쟁력을 강화할 계획이다. 특히 추론에 최적화한 저전력 고효율 AI 반도체인 LPU(LLM Processing Unit)를 삼성전자 4나노미터 공정을 통해 개발 중이며, 데이터센터의 성능 향상 및 비용 절감 등 운영 효율성을 극대화하는 것을 목표로 하고 있다. 김주영 하이퍼엑셀 대표는 "이번 과제를 통해 국내 최고의 AI 반도체 및 AI 기업들과 함께 시너지를 낼 수 있게 되어 매우 기쁘다"며 "연구개발부터 사업화까지 참여기관들과 협업을 통해 국내 기술 역량을 총결집하여 글로벌 시장에서도 K-클라우드의 경쟁력을 인정받고 현재 정부 주도로 추진 중인 국가 AI컴퓨팅센터 구축에도 기여할 수 있을 것”이라고 말했다.

2025.05.09 14:35장경윤

디노티시아·하이퍼엑셀, AI칩 결합해 최적 추론 시스템 개발

인공지능(AI)·반도체 통합 솔루션 전문기업 디노티시아는 AI 반도체 설계 팹리스 스타트업 하이퍼엑셀과 공동으로 'RAG(검색증강생성) 최적화 AI 추론 시스템' 개발에 나선다고 20일 밝혔다. 이번 협력은 디노티시아의 벡터 데이터 연산 가속기 칩(VDPU)과 하이퍼엑셀의 거대언어모델(LLM) 가속기 칩인 'LLM 프로세싱 유닛(LPU)'을 결합해 하나의 통합 시스템으로 구현하는 방식으로 진행된다. AI 서비스 분야에서 데이터 검색의 중요성이 점차 커지고, 데이터의 모달리티(modality)도 다양해지며 양이 늘어나면서, 더 빠른 데이터 검색이 점점 더 요구되고 있다. 기존 시스템은 소프트웨어에 의존해 데이터를 검색하고, LLM 기반의 GenAI 과정을 별도로 처리해 응답 속도가 느리고 전력 소모가 많았다. 디노티시아는 벡터 데이터베이스 연산 가속기 칩, VDPU를 활용해 AI가 대규모 멀티모달 (Multi-modal) 데이터를 실시간으로 검색·활용할 수 있도록 제공하고, 하이퍼엑셀은 LPU 칩을 통해 AI 모델의 연산 성능을 극대화 한다. 양사는 이 두 칩을 결합해, 검색과 추론을 동시에 처리하는 세계 최초의 RAG 특화 AI 시스템을 완성할 계획이다. 정무경 디노티시아 대표는 “LLM 서비스가 확산되면서 데이터 검색에 대한 요구사항이 급격히 늘어나고 있다”며 “이번 협력을 통해 AI 모델의 추론뿐 아니라 데이터 검색 기능까지 최적화한 새로운 개념의 AI 시스템을 선보이겠다”고 말했다. 김주영 하이퍼엑셀 대표는 “AI 연산의 병목 현상을 해결하고, 성능과 효율성을 동시에 확보하는 것이 AI 반도체의 핵심 과제”라며 “이번 협력을 통해 RAG와 LLM을 최적화한 AI 시스템을 구축함으로써, AI 시스템 운영 방식을 혁신하는 중요한 전환점이 될 것”이라고 말했다.

2025.03.20 10:42장경윤

세미파이브, 하이퍼엑셀과 4나노 AI칩 양산 계약 체결

반도체 설계 솔루션 회사 세미파이브는 하이퍼엑셀과 생성형 인공지능(AI) 반도체 베르다(Bertha)의 양산 계약을 체결했다고 11일 밝혔다. 베르다에는 4나노 공정 기술이 적용될 예정이며, 2026년 1분기 양산을 목표로 하고 있다. 하이퍼엑셀은 트랜스포머 기반 거대 언어 모델(LLM)에 특화된 AI 반도체인 레이턴시 프로세싱 유닛(LPU, LLM 처리장치)를 개발했다. 이 제품은 세계 최초로 LLM 추론에 특화된 반도체 LPU로 저비용, 저지연, 도메인 특화가 장점이다. LLM 추론 부문에서 현존하는 최고의 그래픽 처리 장치(GPU) 대비 성능은 최대 2배, 가격 대비 성능은 19배 향상되어 기존 고비용 저효율 GPU를 대체할 대항마로 떠오르고 있다. 세미파이브는 SoC 플랫폼과 ASIC 설계 솔루션을 전문으로 하는 회사다. 최근에는 AI 반도체 전문 SoC 설계 플랫폼을 개발하는 데 주력하고 있으며, AI 커스텀 반도체에 대한 고객 수요에 대응해 로드맵을 확장할 계획이다. 이를 위해 업계 최고의 파트너들과 협력하며 SoC 칩렛 플랫폼도 적극적으로 개발하고 있다. 김주영 하이퍼엑셀 대표는 “SoC 플랫폼과 포괄적인 ASIC 설계 솔루션을 제공하는 세미파이브와 협력해 양산을 목표로 베르다를 개발하게 돼 기쁘다”며 “이를 통해 데이터센터의 운영 비용을 크게 절감하고 LLM이 필요한 다른 산업 분야로 사업 범위를 확장할 수 있을 것"이라고 말했다. 조명현 세미파이브 대표는 “하이퍼엑셀은 LLM을 위한 가장 효율적이고 확장 가능한 LPU 기술을 보유한 회사다. LLM 연산에 대한 수요가 급증함에 따라 하이퍼엑셀은 글로벌 프로세서 인프라의 새로운 강자가 될 잠재력을 가지고 있다"며 “하이퍼엑셀의 기념비적인 AI칩 베르다의 양산 파트너가 되어 매우 기쁘고, 세미파이브 플랫폼을 기반으로 또 하나의 혁신적인 성공 사례에 기여하게 돼 기대가 크다”고 강조했다.

2024.10.11 08:50장경윤

베슬AI-하이퍼엑셀, 차세대 LLMOps 솔루션 만든다

베슬에이아이(대표 안재만)는 하이퍼엑셀과 전략적 업무 협약(MOU)을 체결했다고 9일 밝혔다. 이번 협약은 LLMOps 솔루션과 반도체기술 분야에서 양사의 첨단 기술을 융합해 차세대 LLMOps 솔루션 개발 및 시장 경쟁력 강화를 목표로 한다. 베슬에이아이는 MLOps와 LLMOps(Large Language Machine Operations) 영역에서 대규모 AI 모델의 운영과 관리를 가능하게 하는 솔루션을 보유하고 있다. 이를 토대로 하이퍼엑셀의 LLM특화 반도체 LPU(LLM Processing Unit)와의 시너지를 구축, 시장의 고가 GPU를 상회하는 높은 전력 효율과 저렴한 가격 경쟁력을 선보일 예정이다. GPU는 AI 학습에 필수적이지만, 높은 비용과 전력 소모가 여전히 해결해야 할 과제로 지적되고 있다. 이런 문제를 해결하기 위한 이번 협업은 국내뿐만 아니라 글로벌 시장에서도 경쟁력을 갖출 것으로 기대된다. 이를 통해 생성형 AI 업계의 기업과 연구기관은 AI 훈련과 작업을 확장하면서도 비용 부담을 효과적으로 줄일 수 있게 된다. 양사는 그 외에도 다양한 분야에서 긴밀히 협력할 계획이다. 기술 정보의 상호 공유와 공동 연구 개발을 촉진하고, 시장 경쟁력을 높이는 동시에 LLM 기반의 모델 개발 및 배포 과정의 효율성을 극대화한다. 더불어 공동 마케팅과 영업 활동을 강화해 사업 기회를 확장하고, 인력 교류와 교육 프로그램 운영을 통해 상호 발전을 도모할 예정이다. 안재만 베슬에이아이 대표는 "이번 MOU 체결은 LLM 개발에 필수적인 AI 인프라와 이에 특화된 반도체 기술의 융합을 통해 혁신을 선도할 수 있는 중요한 기회"라며 "하이퍼엑셀과의 협력을 통해 글로벌 AI 시장에서의 입지를 더욱 강화하고, 세계 최고 수준의 AI 솔루션을 제공하는 데 힘쓰겠다"고 말했다. 김주영 하이퍼엑셀 대표는 "베슬에이아이가 보유한 AI 기술과 하이퍼엑셀이 고도화하고 있는 LPU 반도체 기술의 접목을 통해 더욱 고도화된 서비스 경험을 제공할 수 있을 것"이라면서 "확장성과 안정성이 뛰어난 LLMOps 솔루션으로 기업들이 AI모델을 더욱 손쉽게 도입하고, 학습하며 운영할 수 있도록 기술 발전에 박차를 가하겠다"고 밝혔다.

2024.09.09 13:58백봉삼

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

"韓 기술 원더풀"…6만명 몰린 AI 페스타, 국가대표 AI 행사 '우뚝'

"AI 확산, 이정도 라니"…기술 혁신 보러 북새통

공공 충전기 0.1초면 해킹…추석 연휴 '초이스재킹' 주의

'챗GPT' 다음 승부처는?…AI 기업들, '버티컬'로 미래 시장 선점 나선다

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.