엔비디아 "휴머노이드 상용화 열쇠는 안전"
휴머노이드 로봇 상용화가 가속화되는 가운데 엔비디아가 피지컬 AI 시대의 핵심 과제로 안전과 신뢰성을 전면에 내세웠다. 데이터와 시뮬레이션, 국제표준 기반 검증 체계를 얼마나 빠르게 구축하느냐가 상용화의 관건이라는 진단이다. 리카르도 마리아니 엔비디아 부사장은 최근 '휴머노이드 테크콘' 행사 화상 발표에서 "AI는 이제 물리 세계와 직접 상호작용하는 단계로 진입했다"며 "휴머노이드는 단순히 몸체만이 아니라 학습 컴퓨팅, 시뮬레이션, 검증·평가까지 포함한 개발 전주기 시스템으로 접근해야 한다"고 강조했다. 마리아니 부사장은 피지컬 AI 안전을 기능 안전 차원으로만 볼 수 없다고 지적했다. 그는 "안전은 가용성, 신뢰성, 복원력, 사이버보안, 적시성까지 포함하는 복합 개념"이라며 "이 요소들은 서로 영향을 주기 때문에 통합적으로 설계돼야 한다"고 말했다. 특히 생성형 AI와 AI 에이전트가 로봇 제어에 적용되면서, 기존 산업용 로봇보다 불확실성이 훨씬 커졌다고 설명했다. 엔비디아는 현재 ISO·IEC 국제표준 체계에서 AI 기능 안전 표준 개발에도 참여하고 있다. 마리아니 부사장은 "AI 안전 표준 환경은 빠르게 확대되고 있으며, 기능 안전과 AI를 결합한 TS 22440 시리즈가 핵심이 될 것"이라고 밝혔다. 해당 표준은 AI 시스템 위험 분석, 고장 모드 평가, 검증·모니터링 체계를 포함하며, AI 모델 복잡도와 적용 수준에 따라 요구 강도를 차등 적용하는 구조다. 그는 "AI 안전은 오류를 줄이는 문제가 아니라 불확실성을 정량화하고 관리하는 문제"라고 강조했다. 마리아니 부사장은 휴머노이드 안전의 핵심으로 '불확실성'을 지목했다. 운영 환경 변화, 데이터 분포 이탈, 센서 노이즈 등 다양한 변수로 인해 AI 모델이 예상 밖 행동을 할 수 있다는 것이다. 이를 위해 그는 ▲중복성 ▲다양성 ▲안전 모니터링 기반 안전 아키텍처가 필요하다고 설명했다. 운영설계영역(ODD) 이탈 감지, 불확실성 기반 행동 제한, 필요 시 대체 시스템으로 전환하는 구조가 대표적이다. 그는 또 피지컬 AI 개발을 데이터 수집부터 학습, 시뮬레이션 검증, 현장 배포, 피드백으로 이어지는 '플라이휠' 구조로 정의했다. 그는 "시뮬레이션은 학습을 빠르게 하지만 현장 배포는 가정을 증명하는 단계"라며 "안전성과 신뢰성 확보는 결국 전주기 검증 체계에 달려 있다"고 말했다. AI 적용에 대해서도 신중론을 제시했다. 마리아니 부사장은 "AI는 측정 불가능한 만병통치약이 아니라 구체적인 도구"라며 "성능 개선이나 비용 절감 효과가 입증되지 않으면 시스템에 포함돼서는 안 된다"고 밝혔다. 신뢰는 믿음이 아니라, 운영 이력과 검증 데이터에서 나온다는 점도 강조했다. 그는 "안전은 기업 단독으로 달성할 수 있는 목표가 아니라 집단적 과제"라며 규제기관, 인증기관, 산업 생태계 차원의 협력이 필요하다고 말했다. 엔비디아는 하드웨어, 소프트웨어, 운영체계, 머신러닝 운영(MLOps), 시뮬레이션까지 통합한 안전 플랫폼을 구축하고 있으며, 헤일로 안전 시스템과 인증 지원 체계를 확대하고 있다고 소개했다.
