• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
반도체
인공지능
AI의 눈
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'오픈모델'통합검색 결과 입니다. (2건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

엔비디아, '네모트론 3.5 라이트닝' 공개…로컬 AI 생태계 확장

엔비디아가 오픈모델과 소프트웨어·개발자 도구·하드웨어를 아우르는 로컬 인공지능(AI) 생태계 확대에 나섰다. 엔비디아는 30B 규모 오픈 전문가 혼합 모델 '네모트론 3.5 라이트닝'을 공개하고 여러 대 DGX 스파크를 연결하는 '엔비디아 싱크 클러스터 어시스턴트'를 선보였다고 12일 밝혔다. 메타의 '뮤즈 글리머'와 영상 생성 모델 'LTX-2.5' 등 신규 오픈모델에 대한 그래픽처리장치(GPU) 최적화 지원도 확대했다. 네모트론 3.5 라이트닝은 상시 작동하는 AI 에이전트에 특화된 오픈웨이트 모델이다. 엔비디아에 따르면 동급 오픈모델보다 토큰 생성 속도가 최대 4배 빠르고 작업 완료 시간은 30% 짧다. 개발자는 자체 데이터를 활용해 해당 모델을 파인튜닝할 수 있다. 이메일과 보고서 작성 방식부터 전문 분야 용어와 작업 절차, 코딩 규칙, 프레임워크까지 특정 업무 환경에 맞게 조정할 수 있다. 모델은 엔비디아 RTX PC와 DGX 스파크·젯슨에서 로컬로 실행할 수 있다. RTX 프로 워크스테이션과 DGX 스테이션·GB300 데스크사이드 시스템·데이터센터·클라우드로도 확장할 수 있다. 엔비디아는 원활한 로컬 배포를 위해 가상거대언어모델(vLLM)과 올라마(Ollama), 라마닷시피피(llama.cpp), LM 스튜디오 등 주요 추론·배포 도구 개발사와 협력했다. 개발자는 엔비디아의 저정밀 데이터 형식 'NVFP4'와 범용 양자화 모델 형식 'GGUF' 가운데 사용 환경에 적합한 방식을 선택할 수 있다. 에이전트 작업마다 적합한 AI 모델을 자동으로 선택하는 오픈소스 라우팅 라이브러리 '네모 스위치야드'도 제공된다. 정확도와 처리 속도·비용을 기준으로 각 작업 단계를 여러 모델과 서비스에 분산하는 방식이다. 엔비디아 내부 벤치마크에서는 네모 스위치야드가 프론티어 모델 수준의 작업 완료 성능을 유지하면서 비용을 '오퍼스 4.8'의 약 3분의 1로 낮춘 것으로 나타났다. 네모 스위치야드는 깃허브에서 이용할 수 있다. 엔비디아는 대규모 오픈모델을 로컬에서 실행하기 위한 시스템 연결 기능도 강화했다. 엔비디아 싱크의 클러스터 어시스턴트는 두 대 이상의 DGX 스파크를 하나의 고속 클러스터로 구성해 메모리와 추론·훈련 성능을 확장한다. 개발자가 엔비디아 커넥트엑스-7(NVIDIA ConnectX-7) 포트로 시스템을 연결하면 엔비디아 싱크가 네트워크 구성과 노드 간 작업 분배·시스템 상태 점검을 자동으로 수행한다. 윈도와 맥OS에서 연결된 시스템을 감지하고 테일스케일(Tailscale)을 이용한 비공개 원격 접속도 지원한다. 엔비디아는 이달 말 DGX 스파크에 구글 크롬의 네이티브 ARM64 리눅스 버전과 새로운 자원 모니터 기능을 추가할 예정이다. 사용자는 개별 시스템이나 전체 클러스터의 중앙처리장치와 그래픽처리장치 사용량을 실시간 또는 과거 데이터로 확인할 수 있다. 메타가 공개한 300억 파라미터 규모 오픈웨이트 모델 '뮤즈 글리머'에 대한 지원도 확대했다. 코딩과 로컬 에이전트 작업에 특화된 이 모델은 12만 토큰 이상의 컨텍스트 윈도우를 지원하며 RTX 5090에서 초당 200토큰 이상의 처리 성능을 제공한다. 뮤즈 글리머는 단일 소비자용 GPU에서도 실행할 수 있다. 로컬 파일과 이메일을 읽고 요약하거나 인증 정보를 활용해 작업을 수행하고 여러 단계의 도구 호출과 장시간 실행 작업을 처리하도록 설계됐다. 오픈 영상 생성 모델 'LTX-2.5'도 엔비디아 RTX GPU와 DGX 스파크·DGX 스테이션에 최적화됐다. 여러 장면으로 구성된 영상을 생성하면서 캐릭터와 장면·음성의 일관성을 유지하고 기존 영상의 세부 요소를 생성형 AI로 수정할 수 있다. 엔비디아에 따르면 LTX-2.5는 RTX 프로 6000 GPU에서 기존 대비 최대 20% 빠른 처리 성능과 40%의 메모리 절감 효과를 제공한다. 크리에이터는 컴피UI 기반 작업 환경을 이용해 텍스트와 이미지·영상 사이의 변환 작업을 로컬에서 수행할 수 있다.

2026.08.12 15:18김미정 기자

엔비디아-팔란티어, 美 정부용 보안 AI 구축…'네모트론' 적용

엔비디아가 팔란티어와 손잡고 개방형 인공지능(AI) 모델로 미국 정부기관과 핵심 인프라 운영자를 위한 보안형 AI 구축에 나섰다. 엔비디아는 29일(현지시간) 공식 블로그를 통해 "팔란티어가 새 지능형 엔진에 엔비디아 네모트론 오픈모델을 적용해 미국 정부기관 수요에 대응한다"고 밝혔다. 이 엔진은 엔비디아 가속 컴퓨팅 기반 에어갭 환경에서 운영되도록 설계됐다. 에어갭 환경은 보안되지 않은 네트워크와 완전히 분리된 폐쇄형 인프라를 의미한다. 팔란티어는 이 환경에 네모트론 오픈모델을 도입해 정부기관이 자체 인프라에서 모델을 실행하고 자체 데이터로 학습시킬 수 있도록 돕는다. 이번 협력의 핵심은 오픈모델을 민감한 정부 업무에 맞게 조정하면서도 데이터와 모델 통제권을 기관 내부에 남겨두는 데 있다. 기관과 운영자는 학습 결과로 만들어진 모델뿐 아니라 운영 지식을 담은 가중치까지 소유할 수 있다. 팔란티어는 협력을 통해 자사 소버린 AI 운영체제를 적용할 방침이다. 이 운영체제는 AIP, 온톨로지, 파운드리, 아폴로 기반으로 구성됐다. 민감한 환경에서 AI를 배포하기 위한 운영 계층과 데이터 권한 관리 계층을 담당한다. 팔란티어 소버린 AI 운영체제는 명시적 데이터 권한 부여를 비롯한 아키텍처 기반 격리, 전체 감사 가능성을 핵심 구조로 갖췄다. 맞춤형 모델은 실제 운영 과정에서 새 데이터와 피드백을 반영해 기관 내부 환경에서 지속적으로 개선될 수 있다. 엔비디아는 "미국 정부 업무 상당수가 상업, 에너지, 헬스케어, 농업, 교육, 교통 등 민간 기업 영역과 유사하다"며 "직원이 약 300만 명 수준인 미국 정부는 사실상 세계 최대 규모 기업 중 하나로 볼 수 있다"고 설명했다. 엔비디아는 AI가 식품 안전 관리부터 주간 고속도로 인프라 안전 유지까지 다양한 공공 업무 복잡성을 줄이고 생산성을 높이는 데 쓰일 수 있다고 봤다. 특히 폐쇄형 환경에서 모델을 직접 운영하면 국가 안보와 핵심 인프라 분야에서 보안 요구를 맞출 수 있다는 설명이다. 엔비디아는 또 오픈모델 장점으로 투명성과 맞춤화, 통제권, 비용 절감을 꼽았다. 연구자들이 오픈모델을 독립적으로 검토해 취약점과 편향, 의도하지 않은 동작을 찾아낼 수 있고 기업과 정부가 각자 업무에 맞게 모델을 조정할 수 있다고 엔비디아는 밝혔다. 엔비디아는 "우리 협력은 미국 정부기관과 기업 모두를 위한 미국 기술 리더십을 강화할 것"이라고 강조했다.

2026.06.30 09:44김미정 기자

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

빌 게이츠는 왜 韓 SMR 공급망을 택했나

삼성전자, 기흥 신규 R&D팹 '파운드리' 활용 추진…엔비디아 수요 선제 대응

40도 폭염에도 PC 케이스 강화유리 자파현상 '잠잠'...왜?

정부, 'AI 윤리원칙' 초안 공개…업계 "권리 보호·기업 지침 보강해야"

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.