[AI는 지금] 구글·메타에 도전장…미스트랄, 기업용 AI 안전시장 본격 공략

프랑스 인공지능(AI) 기업 미스트랄AI가 기업별 정책에 맞춰 유해 콘텐츠 판정 기준을 바꿀 수 있는 소형 안전 모델을 공개하며 기업용 AI 시장 공략에 나섰다. 생성형 AI 활용이 업무 에이전트로 확대되면서 모델 성능뿐 아니라 보안과 규제 준수 역량이 주요 경쟁 요소로 떠오르자 안전 모델까지 오픈 웨이트 전략을 넓힌 모습이다. 미스트랄AI는 4일(현지시간) 공식 홈페이지를 통해 30억 개 파라미터 규모의 멀티모달 안전 분류 모델 '실드스트랄(Shieldstral)'을 아파치 2.0 라이선스로 공개했다. 실드스트랄은 텍스트와 이미지, 이용자 프롬프트와 AI 답변을 검사해 특정 안전 정책을 위반하는지를 확률 형태로 제시한다. 실드스트랄은 안전 기준을 모델에 고정하지 않고 추론 시점에 자연어로 입력하도록 설계된 것이 특징이다. 기업이 "이 콘텐츠가 개인정보를 노출하는가", "미성년자에게 보여줘도 안전한 이미지인가"와 같은 질문을 제시하면 해당 기준에 따라 콘텐츠를 판정한다. 기존 안전 모델은 폭력과 혐오, 성적 표현 등 개발사가 미리 정한 분류 체계를 주로 활용한다. 기업이 산업이나 이용자 특성에 맞춰 새로운 기준을 적용하려면 모델을 다시 학습하거나 별도의 규칙 엔진을 붙여야 한다. 반면 실드스트랄은 정책 문구만 바꿔 새로운 기준을 적용할 수 있어 금융과 의료, 공공, 교육 등 산업별 요구사항을 반영하기 쉽다. 같은 사이버 공격 관련 콘텐츠라도 일반 소비자 서비스에서는 차단하고 보안 연구 도구에서는 허용하는 식으로 서비스 목적에 따라 안전 수준을 조정할 수 있다. 텍스트와 이미지 안전 평가를 하나의 모델로 처리하는 점도 특징이다. 프롬프트와 답변을 각각 검사하거나 두 내용을 함께 평가할 수 있으며, AI가 이용자의 요청을 적절히 거부했는지와 유해한 답변을 내놨는지도 동일한 방식으로 판별한다. 모델은 '예'와 '아니요'에 해당하는 확률을 한 번의 추론으로 산출한다. 기업은 이 점수를 바탕으로 콘텐츠를 즉시 차단하거나 사람의 검토 대상으로 넘기는 등 자체 운영 기준을 설정할 수 있다. 실드스트랄은 16GB 엔비디아 그래픽처리장치(GPU) 1대에서도 구동할 수 있다. 대규모 클라우드 인프라 없이 기업 내부 서버나 프라이빗 클라우드에 배치할 수 있어 고객 대화와 내부 문서를 외부 콘텐츠 검수 서비스로 보내지 않고 처리할 수 있다. 이는 데이터 통제권을 중시하는 기업 고객을 겨냥한 구성으로 해석된다. 금융과 공공, 의료 기업은 생성형 AI를 도입하더라도 개인정보와 내부 데이터가 외부로 전송되는 것을 꺼리는 경우가 많다. 소형 오픈 웨이트 안전 모델을 내부에 구축하면 외부 안전 API 이용료와 민감한 데이터의 외부 전송 부담을 함께 줄일 수 있다. 실드스트랄 공개는 미스트랄AI의 기업용 AI 생태계 확대에도 힘을 보탤 것으로 예상된다. 기업과 개발자가 오픈 웨이트 안전 모델을 도입한 뒤 미스트랄의 생성 모델과 맞춤형 학습·평가 플랫폼 '포지(Forge)'까지 함께 검토할 가능성이 있어서다. 실드스트랄의 데이터 처리와 학습, 정렬, 평가 전 과정도 포지에서 이뤄졌다. 이는 안전 모델을 앞세워 자체 플랫폼의 기업 활용 가능성을 알리려는 전략으로 읽힌다. 이번 일로 미스트랄AI와 구글, 메타 등 기존 오픈 웨이트 안전 모델 사업자들의 경쟁도 확대될 전망이다. 구글은 텍스트용 '실드젬마'와 이미지용 '실드젬마2'를 제공하고 있으며, 메타는 라마 기반 안전 분류 모델 '라마 가드'를 공개했다. 미스트랄AI는 하나의 모델로 텍스트와 이미지, 프롬프트와 답변을 함께 처리한다는 점을 실드스트랄의 차별점으로 내세웠다. 기업이 새로운 정책을 자연어 질문으로 입력해 재학습 없이 판정 기준을 변경할 수 있다는 점도 기존 모델과의 경쟁 요소로 보고 있다. 이번 일은 AWS와 마이크로소프트 등 클라우드 사업자가 제공하는 가드레일 서비스에도 영향을 줄 수 있다. AWS는 아마존 베드록 가드레일을 통해 유해 콘텐츠와 민감정보, 금지 주제를 탐지하고 있으며 마이크로소프트도 애저 기반 콘텐츠 안전 서비스를 제공한다. 기업이 실드스트랄을 자체 인프라에 배치하면 클라우드 기반 안전 API에 대한 의존도를 낮출 수 있다. 오픈 웨이트 안전 모델이 확산할수록 클라우드 사업자도 가격과 처리 속도, 데이터 통제권, 산업별 정책 설정 기능을 강화해야 할 가능성이 커진다. 미스트랄AI는 자체 평가에서 실드스트랄이 텍스트 안전성과 거부 응답 탐지, 정책 적응성, 멀티모달 안전성 부문에서 최대 7배 큰 오픈 가드 모델과 대등하거나 높은 성능을 기록했다고 주장했다. 평가용 표본은 학습 데이터에서 제외했다고 설명했다. 미스트랄AI는 "실드스트랄은 모든 제품에 하나의 고정된 분류 체계를 적용하는 대신 서비스 맥락에 맞춰 적응하는 콘텐츠 조정을 향한 단계"라고 밝혔다.