[SW키트] "보여야 통제한다"…기업 새 과제로 떠오른 '에이전트 거버넌스'

"인공지능(AI) 에이전트가 많아질 수록 기업은 더 큰 과제를 안을 것입니다. 보이지 않는 에이전트를 어떻게 찾을지부터 작동 권한을 어디까지 허용할지, 데이터 접근을 어떻게 감시할지, 문제가 생겼을 때 어떻게 멈출지가 새로운 이슈로 떠올랐습니다. 기업은 AI 에이전트를 업무 생산성 도구가 아니라 관리해야 할 대상으로 봐야 합니다." 네타 하이비 마이크로소프트 시큐리티 AI 보안 부문 파트너 제품 매니저는 4일까지 미국 샌프란시스코에서 열린 '마이크로소프트 빌드 2026'에서 '에이전트 365' 특장점을 소개하며 이같이 밝혔다. AI 에이전트 성능이나 생산성도 중요하지만, 조직 안팎에 흩어진 에이전트를 식별·감시·관리할 수 장치가 필수라는 설명이다. 에이전트 365는 기업 내 AI 에이전트를 등록·감시·통제하는 관리 솔루션이다. 마이크로소프트는 이 제품을 지난해 11월 처음 공개한 뒤 5월 1일 전 세계에서 정식 출시했다. 현재 AI 에이전트는 기업 업무 환경 안으로 깊숙이 들어왔다. 서비스형 소프트웨어(SaaS) 애플리케이션에 기본 탑재된 에이전트부터 개발자가 직접 만든 에이전트, 클라우드 플랫폼 위에서 구동되는 맞춤형 에이전트가 동시에 작동하고 있다. IDC 발표에 따르면 2028년까지 전 세계 조직 내 에이전트 수가 13억 개에 이를 전망이다. 하이비 매니저는 에이전트 증가 속도만큼 관리 체계가 마련되지 못하고 있다는 점을 짚었다. 조직은 에이전트가 어디에 있는지, 누가 만들었는지, 어떤 권한을 갖고 있는지, 실제 어떤 행동을 했는지 모두 확인할 수 없을 것이란 예측이다. 이에 에이전트가 의도한 범위를 벗어나거나, 연결된 도구를 오용하거나, 민감 데이터를 과도하게 공유할 가능성도 관리 대상이 돼야 한다는 주장이다. 그는 이에 발맞춰 '모든 에이전트를 위한 컨트롤 플레인'이 기업 시스템에 구축돼야 한다고 강조했다. 그러면서 '에이전트 365' 필요성을 제시했다. 에이전트 365는 조직 내 에이전트를 등록, 관측하며 정책을 적용하고 위험을 통제하는 관리 플랫폼이다. 하이비 매니저는 에이전트 365가 자사 에이전트만 관리하지 않는다고 말했다. 마이크로소프트 플랫폼에서 만들어진 에이전트뿐 아니라 외부 에이전트, 맞춤형 에이전트, 외부 클라우드 기반 에이전트까지 관리 대삼으로 삼는다고 설명했다. 그는 "이같은 접근은 AI 에이전트 시대 기업 환경이 단일 플랫폼으로 정리되기 어렵다는 현실을 반영한 것"이라고 강조했다. 실제 기업들은 이미 마이크로소프트 365를 비롯한 워크데이, 젠스파크, 아마존 베드록, 구글 버텍스 AI, 랭체인 기반 에이전트를 혼합해 사용 중이다. 그는 "에이전트가 특정 벤더 생태계 안에서만 작동하지 않는 만큼 관리·보안도 이같은 환경을 전제로 설계돼야 한다"고 주장했다. "에이전트, 기업 시스템서 행동하는 주체로" 켄드라 스프링거 에이전트 365 수석 그룹 제품 매니저는 "에이전트가 기업 시스템에서 직접 행동하는 주체 역할을 담당하기 시작했다"고 강조했다. 스프링거 매니저는 에이전트 365 핵심 기능으로 관측, 거버넌스, 보안을 꼽았다. 에이전트 365 관측은 조직 내 어떤 에이전트가 존재하는지 실시간 확인하는 기능이다. 그는 "기업은 숨겨진 에이전트에 보안 정책을 적용하거나 위험을 평가할 수 없다"며 "사고 발생 시 책임 소재를 추적할 수도 없다"고 설명했다. 이어 "에이전트 365는 관측 기능으로 조직 안팎에 보이지 않는 에이전트 존재를 구석구석 확인하는 역할을 한다"고 밝혔다. 거버넌스는 안전한 에이전트 확산을 위한 가드레일이다. 스프링거 매니저는 "에이전트가 어떻게 구축됐든, 누가 만들었든, 위험 수준에 맞는 보호 장치가 일관되게 적용돼야 한다"며 "이는 AI 도입 속도를 늦추기보다 기업이 안심하고 에이전트를 확대하도록 돕는 장치"라고 설명했다. 보안 기능은 에이전트를 직원, 애플리케이션, 데이터 자산처럼 보호해야 한다는 관점에서 출발한다. 스프링거 매니저는 "에이전트는 단순 SW가 아니라 사용자 대신 정보를 조회하고 도구를 실행하며 업무를 처리한다"며 "프롬프트 인젝션, 의도 이탈, 도구 오용, 데이터 유출 같은 새로운 위험을 막는 기능"이라고 소개했다. 스프링거 매니저는 에이전트도 정체성을 갖고 있다고 주장했다. 에이전트가 사용자 대신 권한을 행사하거나, 스스로 업무를 수행할 수 있다는 이유에서다. 그는 "에이전트의 호출 내역이나 권한 관리, 데이터 접근, 도구 실행 기록이 반드시 확인돼야 한다"며 "이는 사고 발생 시 감사와 책임 추적 출발점"이라고 주장했다. "에이전트 365, 식별·감시·통제 핵심" 이날 마이크로소프트는 에이전트 365 구조를 소개했다. 이 솔루션은 '마이크로소프트 엔트라' '디펜더' '퍼뷰' '인튠' 등 기존 보안·관리 제품과 결합된 형태로 이뤄졌다. 기존 보안 정체성 관리는 엔트라, 위협 탐지·차단은 디펜더, 데이터 거버넌스는 퍼뷰, 섀도 AI 탐지는 인튠이 맡는 식이다. '에이전트 365 소프트웨어 개발 키트(SDK)'는 외부 에이전트를 관리 체계 안으로 끌어들이는 역할을 한다. SDK는 기존 에이전트를 에이전트 365 안에서 찾아주거나 에이전트 ID와 관측성, 보안 정책, 도구 연결, 데이터 보안 기능을 붙이는 연결 장치다. 이를 통해 관리자는 조직 내 전체 에이전트·사용자 수, 런타임 시간, 보류 중인 요청, 위험 감지 에이전트, 소유자 없는 에이전트 등을 확인할 수 있다. 특히 소유자 없는 에이전트는 중요한 관리 리스크로 다뤄진다. 에이전트가 조직 안에서 계속 작동하고 있는데 책임자가 없다면, 권한 관리와 사고 대응이 어려워질 수 있어서다. 마이크로소프트는 정책 템플릿도 에이전트 365 핵심 기능으로 제시했다. 엔트라, 디펜더, 퍼뷰, 쉐어포인트 전반 정책을 한 템플릿으로 묶어 에이전트에 적용할 수 있다는 설명이다. 관리자는 에이전트가 어떤 데이터와 도구에 접근하는지 확인한 뒤 위험 수준을 판단하고, 적절한 보호 정책을 적용해 배포를 승인할 수 있다. 마이크로소프트는 섀도 에이전트 관리도 강조했다. 기존에는 직원이나 부서가 개별적으로 AI 도구를 사용하는 섀도 AI가 문제였다면, 앞으로는 관리되지 않는 에이전트가 새로운 위험이 될 수 있다는 이유에서다. 에이전트 365는 이런 섀도 에이전트를 식별하고 차단하거나 관리 체계 안으로 편입하는 방향을 제시할 수 있다는 것이다. 스프링거 매니저는 "AI 에이전트 경쟁은 더 이상 '누가 더 똑똑한 에이전트를 만드느냐'에만 머물지 않는다"며 "기업 환경에서는 '그 에이전트를 누가 볼 수 있고, 누가 승인하며, 어떤 권한으로 움직이고, 문제가 생겼을 때 누가 책임질 수 있느냐'가 핵심 경쟁력이 되고 있다"고 강조했다. 이어 "AI 에이전트 시대 핵심은 자동화 속도가 아니라 통제 신뢰성"이라며 "기업이 에이전트를 얼마나 많이 도입하느냐보다, 그 에이전트를 얼마나 투명하게 보고 안전하게 다룰 수 있느냐가 다음 단계 경쟁력을 가를 가능성이 크다"고 내다봤다.