"AI 실수하면 보상"…일레븐랩스, 에이전트용 보험 운영

일레븐랩스가 기업 인공지능(AI) 도입 리스크를 관리하기 위한 제도 시스템을 공개했다. 일레븐랩스는 AI 리스크 평가 기관 AIUC 손잡고 AI 음성 에이전트 전용 종합 보험 제도를 운영한다고 18일 밝혔다. 이 보험은 고객지원과 영업 현장에서 활용되는 '일레븐에이전트' 오류로 발생한 손해를 보장할 수 있다. 이번 제도 핵심은 AI 에이전트 행위를 인간 업무 실수와 동일하게 취급한다는 점이다. 기업은 AI가 잘못된 정보를 제공하거나 부적절한 응대를 했을 경우에도 보험을 통해 손실을 보상받을 수 있다. 일레븐랩스 AI 에이전트는 AIUC가 개발한 AIUC-1 보안 신뢰성 인증을 받았다. 이 인증은 환각, 프롬프트 인젝션, 데이터 유출, 편향성 등 실제 위험 시나리오 기반으로 5000건 넘는 적대적 테스트를 통과해야 부여된다. 해당 인증을 받은 AI는 법무와 컴플라이언스 기준에서 배포 가능한 수준으로 평가된다. 일레븐랩스 기술은 현재 포춘 500 기업의 75% 이상이 사용하는 것으로 알려졌다. 보험 적용을 위해서는 개별 감사와 인증 절차를 반드시 거쳐야 한다. 인증 유효기간은 12개월이다. 최소 3개월마다 기술 검증을 수행해야 한다. 보험료는 인증 비용과 별도로 에이전트 유형에 따라 책정된다. 일레븐랩스는 이번 제도가 AI 도입 벽으로 지목된 책임 문제를 해소하는 데 초점을 맞췄다고 밝혔다. 환각으로 인한 잘못된 안내나 부적절한 발언에 따른 법적·경제적 리스크를 관리할 수 있는 수단을 제시했다. 마티 스타니셰프스키 일레븐랩스 최고경영자(CEO) 겸 공동창업자는 "이번 인증은 보안 프레임워크와 AI 보험 보장을 제공한다"며 "기업이 리스크를 최소화하고 고객 경험 구축에 집중할 수 있도록 돕는다"고 밝혔다.