• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
ZDPick
지스타2026
반도체
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'프리퍼드 네트웍스'통합검색 결과 입니다. (1건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

망고부스트, 日 AI 반도체 기업과 맞손…AI 추론 인프라 효율 높인다

망고부스트가 일본 인공지능(AI) 기업과 손잡고 AI 추론 효율을 높이는 기술 개발에 나선다. 서로 다른 AI 반도체에 작업을 나눠 맡겨 처리 속도를 높이고 자원 사용을 줄이겠다는 구상이다. 망고부스트는 미국 시카고에서 열린 국제 슈퍼컴퓨팅 행사 SC26 현장에서 일본 프리퍼드 네트웍스(PFN)와 차세대 AI 추론 인프라 개발을 위한 업무협약(MOU)을 체결했다고 18일 밝혔다. 양사는 그래픽처리장치(GPU)와 PFN이 개발한 AI 전용 프로세서 '엠엔코어(MN-Core)'를 함께 활용하는 기술을 검증한다. 여기에 망고부스트가 보유한 데이터처리장치(DPU)와 메모리·스토리지 최적화 기술을 결합할 계획이다. AI가 답변을 생성하는 과정은 사용자가 입력한 질문을 처리하는 '프리필'과 답변을 순차적으로 만들어 내는 '디코드' 단계로 나뉜다. 두 단계는 필요한 연산량과 메모리 사용 방식이 달라 각각 다른 반도체를 활용하면 처리 효율을 높일 수 있다. 양사는 질문을 처리하는 프리필 단계에는 GPU를, 답변을 생성하는 디코드 단계에는 엠엔코어를 사용하는 방안을 검토한다. 각 반도체가 강점을 가진 작업을 맡도록 해 전체 시스템 효율을 높이려는 전략이다. 서로 다른 반도체 사이에서 데이터를 빠르게 주고받는 기술도 중요하다. 망고부스트는 자체 DPU 기술로 데이터 이동을 최적화하고 'KV 캐시 풀링 스토리지'를 활용해 메모리 사용 부담을 줄일 계획이다. KV 캐시는 AI가 답변을 생성할 때 이전 연산 결과를 저장하는 공간이다. 이를 효율적으로 관리하면 같은 계산을 반복하는 부담을 줄일 수 있다. 망고부스트는 이러한 정보를 저장하고 재사용하는 과정을 개선해 AI 추론 속도와 처리량을 높일 수 있는지 확인할 예정이다. 양사는 우선 시뮬레이션 환경에서 기술 구현 가능성을 평가한다. 이후 PFN의 차세대 AI 프로세서 '엠엔코어 L1000' 시제품을 확보하면 실제 반도체를 활용한 성능 검증에 나설 계획이다. 이번 협력은 아직 기술 검증 단계다. 실제 처리 속도나 자원 사용량이 얼마나 개선되는지는 향후 시험을 통해 확인할 예정이다. 양사는 평가 결과에 따라 공동 연구 논문과 기술자료 발표도 검토하고 있다. 망고부스트는 이번 협력을 계기로 GPU 중심의 최적화 기술을 다양한 AI 반도체가 함께 작동하는 환경으로 확대할 방침이다. PFN 역시 자체 프로세서가 대규모 AI 추론 인프라에서 활용될 수 있는지 검증한다. 망고부스트는 이번 SC26에서 자체 AI 인프라 기술도 공개한다. 15일부터 20일까지 미국 시카고 맥코믹 플레이스에서 열리는 행사에서 GPU와 전용 AI 반도체를 결합하는 기술을 비롯해 메모리·스토리지 최적화 방안을 소개한다. 입력 처리와 답변 생성을 분리하는 추론 기술을 선보이고 서버리스 AI 추론 플랫폼 '망고 인퍼런스'도 시연한다. 서버리스 방식은 고객이 직접 서버를 관리하지 않고 필요한 만큼 AI 추론 자원을 활용하도록 지원한다. 망고부스트는 자체 DPU '부스트X'와 거댜언어모델(LLM) 최적화 소프트웨어 'LLM부스트' 등을 개발해 왔다. AMD를 비롯한 글로벌 기술 기업과 협력하며 GPU 연산부터 데이터 처리, 메모리 관리까지 AI 인프라 전반의 효율을 높이는 사업을 확대하고 있다. 김장우 망고부스트 대표는 "차세대 AI 추론 인프라의 경쟁력은 단순히 더 많은 컴퓨팅 자원을 확보하는 것이 아니라 서로 다른 프로세서와 메모리·스토리지 자원을 얼마나 효율적으로 연결하고 최적화하느냐에 달려 있다"며 "이번 프리퍼드 네트웍스와의 협력은 망고부스트의 DPU 및 풀스택 AI 인프라 최적화 기술을 이기종 컴퓨팅 환경으로 확장하는 중요한 계기가 될 것"이라고 말했다.

2026.11.18 18:23김동원 기자

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

수능 앞두고 SNS엔 'AI 컨닝법' 돌아…플랫폼 대응은

‘지스타 2026’ D-1…41개국 1237개 게임사 부산 집결

웃고 넘긴 AI 딥페이크, 누군가에겐 범죄…플랫폼 책임 어디까지

"끄면 된다?"...부정 수능 차단 '위급재난문자' 발송 원리는

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.