AI 에이전트 도입 늘어도 실제 운영은 11%…문제는 '통제'
기업들이 인공지능(AI) 에이전트를 빠르게 도입하고 있지만 실제 운영 단계까지 간 사례는 11%에 그친다는 지적이 나왔다. 정승모 아이티센글로벌 AI이노베이션센터장은 8일 서울 코엑스에서 열린 'AI 페스타 2026'의 AIR(AI Realization) 쇼케이스에서 "AI 에이전트 경쟁력은 얼마나 많이 만드느냐가 아니라 얼마나 믿고 맡길 수 있느냐에서 나온다"고 말했다. AI 에이전트 도입 속도는 빠르다. 정 센터장이 인용한 가트너 전망에 따르면 올해 말에는 기업용 애플리케이션 10개 중 4개에 AI 에이전트가 탑재될 것으로 예상된다. 하지만 실제 업무까지 이어지는 비율은 낮았다. 워크플로 자동화 기업 카문다가 IT 리더 등을 대상으로 조사한 결과 71%가 AI 에이전트를 사용하고 있다고 답했지만 지난 1년간 운영 단계까지 간 사례는 11%에 그쳤다. 정 센터장은 "10개를 시도하면 9개는 파일럿에서 멈춘다는 뜻"이라며 "많은 사람이 에이전트를 만들고 있지만 운영 단계까지 가는 사례는 많지 않다"고 말했다. 그는 에이전트 확산을 가로막는 요인으로 거버넌스와 보안, 관리되지 않는 에이전트 증가를 꼽았다. 기존 챗봇이 주로 질문에 답하는 역할이었다면 AI 에이전트는 기업 시스템에 접속해 데이터를 조회하고 실제 업무까지 수행한다. 권한을 잘못 부여하거나 행동 기록을 남기지 않으면 보안 사고로 이어질 수 있다. 정 센터장은 "핵심은 AI가 누구 권한으로 무엇에 접근해 무엇을 했는지 증명할 수 있느냐"라며 "개인정보를 다루는 에이전트라면 접근 권한을 최소화하고 접속 기록도 남겨야 한다"고 밝혔다. 직원들이 직접 만든 에이전트가 늘면서 관리되지 않는 AI도 생겨나고 있다. 실험용으로 만든 뒤 더 이상 사용하지 않는 에이전트가 회사 곳곳에 남거나 누가 만들었는지조차 파악하기 어려워지는 경우다. 정 센터장은 이를 '에이전트 스프롤(Agent Sprawl)'이라고 표현했다. 더 큰 문제는 사용하지 않는 에이전트가 회사 데이터에 접근할 권한을 그대로 보유할 수 있다는 점이다. 반대로 현업 직원의 에이전트 개발을 막으면 승인받지 않은 외부 AI 도구를 몰래 사용하는 '섀도 AI'가 늘어날 수 있다. 아이티센글로벌은 이런 문제를 해결하기 위해 멀티 AI 에이전트 관리 플랫폼 '에이전트고'에서 에이전트 생성부터 실행, 운영까지 한꺼번에 관리하도록 했다. 운영 단계에서는 사용자와 조직별로 사용할 수 있는 에이전트와 접근 가능한 데이터를 구분한다. 부서와 에이전트, AI 모델별 토큰 사용량도 확인할 수 있어 비용을 관리하거나 실제로 쓰이지 않는 에이전트를 찾아낼 수 있다. 업무 기록도 관리한다. 관리자가 AI와 사용자의 대화 내용을 확인하려면 열람 사유를 입력해야 하고 개인정보는 가려서 보여준다. 문제가 발생했을 때 기록을 남기면서도 직원 감시나 개인정보 노출 우려를 줄이기 위한 장치다. 실행 과정 보안은 '에이전트고 가드'가 맡는다. 사용자가 입력한 질문에서 개인정보와 금칙어를 찾아내고, 기존 지시를 무시하도록 유도하는 프롬프트 인젝션 같은 공격도 탐지한다. 여러 차례 대화를 이어가며 민감정보를 빼내려는 공격도 추적한다. 처음에는 고객 응대 매뉴얼을 묻고 이후 본인 확인 정보와 저장 형식을 차례로 질문한 뒤 마지막에 전체 고객의 연락처와 주민번호를 요구하는 식이다. 질문 하나하나는 정상적으로 보여도 대화 흐름 전체를 분석하면 정보 탈취 의도를 찾아낼 수 있다. 에이전트를 만드는 과정에도 통제 절차를 넣었다. 개발자는 코딩 도구를 사용하고 비개발자는 드래그앤드롭 방식으로 업무 흐름을 구성할 수 있다. 완성된 에이전트는 바로 실제 업무에 투입하지 않고 별도 시험 환경에서 검증한 뒤 사람의 승인을 거쳐 운영한다. 실제 도입 사례도 있다. 한 제조기업은 기존 로봇프로세스자동화(RPA) 경험이 있는 현업 직원 약 200명이 직접 AI 에이전트를 만들 수 있도록 에이전트고 구축을 진행하고 있다. 업무를 잘 아는 직원이 에이전트를 만들고 품질과 보안, 권한 관리는 플랫폼에서 맡는 방식이다. 정 센터장은 "만들 때 표준이 있으면 방치되는 에이전트가 관리되는 자산이 되고 실행할 때 방어가 있으면 보안 사고의 통로가 믿고 맡길 수 있는 통로가 된다"며 "통제력은 혁신을 늦추는 브레이크가 아니라 더 멀리, 더 빠르게 달릴 수 있게 하는 가속 페달"이라고 말했다.
