"AI 에이전트 구축 속도↑"…엔비디아, '니모 마이크로서비스' 출시

"인공지능(AI) 에이전트 구축 핵심은 속도와 안전성입니다. '니모(NeMo) 마이크로서비스'는 AI 에이전트 제작에 필요한 데이터부터 모델 학습, 평가, 보안, 정보 검색까지 전 과정을 지원합니다. 기업은 다양한 환경에서 AI 에이전트를 빠르고 안전하게 운영할 것입니다." 엔비디아 조이 콘웨이 AI 소프트웨어 부문 수석 디렉터는 23일 온라인으로 진행한 아시아·태평양 미디어 프리프리핑을 통해 대규모 AI 에이전트 구축 플랫폼 니모 마이크로서비스를 처음 공개하며 이같이 밝혔다. 이날 소개된 니모 마이크로서비스는 기업들이 대규모 AI 에이전트를 신속히 구축하고 운영할 수 있도록 지원하는 통합 플랫폼이다. 이 시스템은 비즈니스 인텔리전스와 사용자 피드백, 추론 데이터 등으로 구성됐다. 해당 서비스는 데이터 준비를 위한 '니모 큐레이터'와 AI 모델을 교육하고 역량을 키우는 '니모 커스터마이저', 모델 성능 검증하는 '니모 평가자'로 이뤄졌다. 여기에 에이전트 운영 안전성을 보장하는 '니모 가드레일', 정보 검색 정확도를 높이는 '니모 리트리버'까지 결합돼 구축 효율성을 높일 수 있다. 콘웨이 디렉터는 "특히 커스터마이저는 학습 후 처리 속도를 기존 대비 최대 두 배 올릴 수 있다"고 강조했다. 또 "서비스 구성 요소인 '니모 평가 자동화' 도구는 오픈소스의 모범 사례를 집약해 API 호출량을 3분의 1로 줄일 수 있다"고 서비스 강점을 소개했다. 이어 그는 "가드레일은 에이전트 집중도 유지를 돕고, 리트리버는 내부 지식 기반에서 정확한 정보를 찾아 제공하는 역할을 한다"고 덧붙였다. 콘웨이 디렉터는 니모 마이크로서비스가 이미 AT&T와 시스코 등에 적용돼 고객 상담 정확도와 소프트웨어 개발 효율성을 높였다고 강조했다. 실제 AT&T는 에이전트 정확도를 40% 끌어올렸고, 시스코는 응답 시간을 10배 낮춰 에러율을 줄였다. 해당 서비스는 SAP, 서비스나우, 액센추어, 딜로이트 등 대기업 업무 환경과 통합돼 클라우드 환경에서도 작동 가능하다. 이를 통해 AI 팀원의 성능을 전반적으로 높이고, 에이전트가 데이터 기반으로 지속 성장할 수 있는 여건을 조성한다. 또 이날 발표된 '라마 니모트론'은 추론 기능에 특화된 오픈모델이다. 이는 화학, 물리, 생물 등 과학적 질문에 대응하거나 수천 줄의 코드 리뷰처럼 복잡한 문제 해결 능력을 강화하는 데 활용된다. 콘웨이 디렉터는 "라마 니모트론은 유사 모델보다 최대 4배 빠른 처리량을 보여준다"며 "AI 에이전트 핵심 추론 기능 강화를 통해 고객의 실질적 문제 해결력을 높일 수 있다"고 밝혔다.