"AI 정책-운영 간극 줄인다"…레드햇, 오픈소스 프로젝트 '아사고' 출범
레드햇이 인공지능(AI) 정책과 실제 운영 시스템 간극을 줄이기 위한 오픈소스 협업 체계를 구축했다. 레드햇은 AI 안전과 거버넌스 절차를 자동화하는 오픈소스 커뮤니티 프로젝트 '아사고'를 출범했다고 5일 밝혔다. 아사고는 엔지니어링팀과 컴플라이언스팀에 분산된 절차와 도구를 한 워크플로로 연결하는 것을 목표로 한다. 아사고는 기업과 규제기관 AI 거버넌스 정책을 분석한 뒤 이를 실제 시스템에 적용할 수 있는 리스크 통제 체계로 변환한다. 수작업으로 진행되던 정책 해석과 안전 검토 과정을 자동화해 AI 시스템 운영 준비 기간을 수개월에서 수일로 줄인다는 구상이다. 운영 절차는 리스크 매핑과 평가, 완화, 프로덕션 배포 등 네 단계로 이뤄졌다. 우선 조직 정책 요구사항을 미국 국립표준기술연구소 AI 위험관리 프레임워크와 오왑 대규모 언어모델 톱10, IBM AI 리스크 아틀라스 등 검증된 기준에 연결해 실행 가능한 리스크 프로파일로 만든다. 이후 식별된 위험을 토대로 사용 사례별 안전성 시험 시나리오도 자동으로 생성하고 실행한다. 범용 성능 평가에 그치지 않고 실제 운영 과정에서 유해한 행동이 발생할 가능성이 있는지를 중심으로 AI 시스템을 검증한다. 시험 결과가 나오면 안전 가드레일을 포함한 위험 완화 방안을 제안한다. 각 조치가 필요한 이유와 관련 정책 조항, 시험 결과도 기록해 컴플라이언스 담당자와 개발자, 외부 감사인이 동일한 근거를 확인할 수 있도록 돕는다. 검토를 마친 통제 방안은 하이브리드 클라우드와 쿠버네티스 환경에 배포 가능한 구성으로 변환된다. 쿠버네티스와 테라폼, 앤서블용 선언형 구성을 출력해 특정 인프라에 종속되지 않고 여러 클라우드와 온프레미스 환경에 같은 안전 기준을 적용하도록 지원한다. 아사고는 아파치 라이선스 2.0 기반으로 공개된다. 레드햇을 비롯해 브레이브 소프트웨어와 이밸이밸 연합, IBM 리서치, 마이크로소프트, MIT 링컨 연구소, 노스캐롤라이나 주립대, 엔비디아, 앨런 튜링 연구소 등이 프로젝트에 참여한다. 레드햇은 유럽연합(EU) AI법 등 글로벌 AI 규제가 시행되면서 기업이 장기간의 수작업 검토나 통제되지 않은 '섀도우 AI' 운영을 감수하기 어려워졌다고 설명했다. 이에 컴플라이언스팀과 데이터 과학자, 인프라 관리자가 사용할 수 있는 개방형 표준을 마련해 자율 AI 에이전트와 기업용 LLM 안전 통제를 일관되게 운영한다는 방침이다. 스티븐 훌스 레드햇 AI 엔지니어링 부문 부사장은 "기업이 실험 단계의 AI 파일럿에서 장기간 운영되는 자율 에이전트로 전환함에 따라 명확한 운영 가드레일을 마련하는 것이 핵심 인프라 요건이 되고 있다"며 "아사고는 기업의 정책 정의와 실제 운영 중인 에이전트를 자동 연결하는 기업용 AI의 다음 단계를 제시한다"고 밝혔다.
