[인터뷰] "AI 에이전트, 보안 허점 순식간에 드러낼 수도"…클라우데라가 경고한 이유는
[싱가포르=장유미 기자] 기업들이 인공지능(AI) 에이전트를 업무에 본격 투입하면서 기존 사람 중심의 보안 체계만으로는 데이터 유출 위험을 통제하기 어려워질 것이란 경고가 나왔다. 자율적으로 판단하고 빠른 속도로 움직이는 AI 에이전트가 사람이 발견하지 못했던 데이터 접근 권한과 거버넌스의 허점을 찾아낼 수 있어서다. 캐롤린 더비(Carolyn Duby) 클라우데라 필드 최고기술책임자(CTO) 겸 사이버보안 리드는 20일(현지시간) 싱가포르 마리나 베이 샌즈 컨벤션 센터에서 진행된 지디넷코리아와의 인터뷰에서 "AI 에이전트는 매우 빠른 속도로 작동하고 자율적으로 움직인다"며 "적절한 모니터링과 개입이 없다면 문제가 수정될 때까지 계속 행동할 수 있다"고 우려했다. "복잡해진 데이터 환경, 일관된 보안·거버넌스 필요" 더비 리드는 AI 시대 기업들이 간과하기 쉬운 보안 문제로 복잡해진 데이터 환경을 꼽았다. 기업 데이터가 퍼블릭 클라우드와 멀티클라우드, 온프레미스 등에 분산된 상황에서 각각 다른 방식으로 보안 정책을 설정하면 AI가 활용하는 데이터를 일관되게 통제하기 어렵다는 지적이다. 그는 "우리가 만나는 기업들의 데이터 환경은 매우 복잡하다"며 "서로 다른 도구를 사용하고 일부 데이터는 클라우드, 일부는 여러 클라우드, 또 다른 데이터는 온프레미스에 있어 무엇을 보유하고 있는지 파악하기조차 어려울 수 있다"고 설명했다. 각 환경마다 보안 정책을 설정하는 방식이 다르다는 점도 문제로 지목했다. 이에 여러 플랫폼에 흩어진 데이터를 하나의 보안·거버넌스 정책 아래 관리할 수 있는 체계가 필요하다고 봤다. 더비 리드는 "모든 플랫폼에 걸쳐 일관된 보안과 거버넌스 계층을 확보하는 것이 중요하다"며 "이를 통해 서로 다른 보안 방식을 각각 익히지 않고 데이터를 관리할 수 있다"고 말했다. AI 모델에 데이터를 전달하고 결과를 받아오는 과정에도 별도의 통제 장치가 필요하다고 강조했다. 모델 자체는 데이터를 사용하는 사람이 누구인지 인식해 해당 사용자의 권한에 따라 데이터를 선별하는 방식으로 작동하지 않기 때문이다. 그는 "모델에 데이터를 제공하면 모델은 이를 사용하는 사용자가 누구인지 알지 못한 채 데이터를 활용해 결과를 만들어낸다"며 "모델에 보내는 데이터와 모델에서 나오는 결과가 올바르고 안전한지 확인해야 한다"고 강조했다. 이를 위해 더비 리드는 기업이 보유한 데이터 보안 정책과 AI의 입력·출력을 관리하는 가드레일을 함께 적용해야 한다고 조언했다. 민감한 정보가 불필요하게 모델에 전달되거나 생성 결과를 통해 노출되는 것을 막기 위한 조치다. 그는 "데이터 보안 정책과 가드레일의 결합이 필요하다"며 "가드레일을 통해 모델의 입력과 출력이 적절한지, 민감한 정보가 유출되지 않는지 확인해야 한다"고 밝혔다. "AI 에이전트, 무엇을 했는지 확인할 수 있어야" 더비 리드는 AI 에이전트의 행동을 사후에 확인할 수 있는 감사와 관찰 가능성 확보도 중요하다고 봤다. 기존 소프트웨어와 달리 AI 에이전트는 정해진 흐름만 따르는 것이 아니라 추론을 기반으로 움직여 상황이나 시스템 상태에 따라 행동이 달라질 수 있어서다. 그는 "AI 에이전트는 비결정론적이어서 상황이나 시스템의 현재 상태에 따라 서로 다른 행동을 할 수 있다"며 "정해진 업무 흐름이나 로직에 따라 움직이는 것이 아니라 추론을 기반으로 행동한다"고 설명했다. 클라우데라는 이런 특성을 고려해 자사 '에이전트 스튜디오(Agent Studio)'에서 에이전트가 수행한 작업을 확인할 수 있도록 지원하고 있다. 기업이 AI 에이전트의 결과만 확인하는 데 그치지 않고 실제 수행 과정을 살펴볼 수 있도록 하기 위해서다. 더비 리드는 "에이전트가 무엇을 했는지 확인할 수 있어야 한다"며 "AI 시스템에 대한 감사와 관찰 가능성을 확보하는 것이 매우 중요하다"고 말했다. "소버린 AI 구축했다고 안심해선 안 돼" 최근 프라이빗 AI나 소버린 AI를 구축하는 움직임이 늘어나고 있지만, 더비 리드는 이를 통해 보안 위험이 모두 해소되는 것은 아니라고 봤다. 데이터와 AI 시스템을 기업 내부나 특정 국가에 두면 외부 유출 위험은 낮출 수 있지만 내부자 위협이나 접근통제 등 기존 보안 문제는 여전히 남아 있어서다. 그는 "소버린 AI는 데이터에 대한 통제권을 유지하는 데 도움을 주지만 다른 보안 조치가 필요하지 않다는 의미는 아니다"며 "여전히 내부자 위험 관리와 플랫폼에서 어떤 일이 벌어지고 있는지에 대한 감사·모니터링이 필요하다"고 강조했다. 더비 리드는 소버린 환경에서도 일반적인 IT 시스템과 마찬가지로 지속적인 모니터링과 통제를 적용해야 한다는 점도 피력했다. 또 소버린 AI의 보안상 강점은 위험 자체를 없애는 것이 아니라 데이터를 외부에 제공하면서 발생하는 제3자 위험을 줄이는 데 있다고도 언급했다. 그는 "소버린 시스템 역시 다른 시스템과 같은 종류의 모니터링과 통제, 사이버 위생이 필요하다"며 "데이터가 제3자에게 넘어가지 않도록 해 제3자 위험을 줄일 수 있지만 모든 위험을 제거하는 것은 아니다"고 설명했다. "AI 에이전트에는 더 많은 제로트러스트 필요" 더비 리드는 AI 에이전트 시대에도 모든 사용자와 시스템을 기본적으로 신뢰하지 않고 접근 때마다 신원과 권한을 검증하는 '제로트러스트' 원칙이 여전히 중요하다고 봤다. 다만 AI 에이전트는 자율적으로 판단하고 다른 시스템과 상호작용하는 만큼 기존보다 통제 범위를 넓힐 필요가 있다고 강조했다. 그는 "제로트러스트 원칙은 AI 시대에도 데이터에 적용된다"면서도 "에이전트는 다르기 때문에 다른 형태의 제로트러스트가 필요하다"고 말했다. 특히 에이전트에 직접 부여된 권한만 통제해서는 충분하지 않다고 지적했다. AI 에이전트가 샌드박스를 벗어나거나 연결된 시스템을 따라 다른 영역으로 이동할 가능성까지 고려해 접근 가능한 전체 범위를 파악해야 한다는 것이다. 더비 리드는 이와 관련해 보안 사고의 피해 확산 범위를 살펴봐야 한다고 강조했다. 특정 시스템에 접근한 AI 에이전트가 이를 발판으로 다른 데이터나 시스템까지 접근할 수 있는지 파악하고 통제해야 한다는 의미다. 그는 "AI 시스템이 특정 대상에 접근할 수 있다면 이를 통해 한 단계 더 나아가 무엇에 접근할 수 있는지까지 살펴봐야 한다"며 "에이전트가 요청받은 일을 요청받은 방식으로 수행하고 있는지도 모니터링해야 한다"고 설명했다. 이에 더비 리드는 AI 에이전트에 기존보다 엄격한 제로트러스트 원칙을 적용해야 한다고 강조했다. 또 최소 권한 부여를 넘어 에이전트의 행동과 연결 범위까지 지속적으로 확인해야 한다고 주장했다. 그는 "AI 에이전트에는 더 많은 제로트러스트가 필요하다"며 "어떤 면에서는 에이전트를 거의 전혀 신뢰할 수 없다고 볼 수도 있다"고 밝혔다. "규제 기다리지 말고 처음부터 보안 설계해야" AI와 AI 에이전트를 둘러싼 보안·거버넌스 기준이 빠르게 변화하고 있다는 점도 기업들이 대비해야 할 부분으로 꼽았다. 특정 규제나 표준이 확정된 뒤 시스템을 수정하기보다 개발 단계부터 보안과 거버넌스를 반영해야 변화하는 규제에 유연하게 대응할 수 있다고도 조언했다. 더비 리드는 "AI와 AI 에이전트에 대한 보안·거버넌스·컴플라이언스 규칙은 계속 진화하고 있다"며 "이 때문에 시스템을 구축할 때부터 보안을 적용하는 '시큐리티 바이 디자인(Security by Design)'이 더욱 중요하다"고 말했다. 현재 애플리케이션·AI 보안 가이드라인을 개발하는 글로벌 비영리단체 OWASP와 클라우드 시큐리티 얼라이언스(CSA) 등에서도 AI 관련 보안 프레임워크와 기준을 마련하고 있다. 더비 리드는 이런 기준이 계속 변화하더라도 기본적인 보안·거버넌스 체계를 처음부터 갖추면 향후 새로운 규제에 대응하기 수월할 것으로 봤다. 그는 "처음부터 보안과 거버넌스를 구축하면 앞으로 어떤 추가 법률이나 정책이 나오더라도 이를 준수할 수 있는 기반을 갖출 수 있다"며 "이는 규제 준수뿐 아니라 고객 데이터를 보호하고 기업 브랜드를 지키기 위해서도 필요하다"고 피력했다. 보안업체와 직접 경쟁보다 '사이버 데이터 플랫폼' 집중 클라우데라는 사이버보안 분야에서도 본업인 데이터 플랫폼 역량을 앞세우고 있다. 여러 보안 도구에 흩어진 데이터를 통합해 대규모로 저장·분석하고 AI에 활용할 수 있는 기반을 제공하는 데 더 집중하는 모양새다. 더비 리드는 "보안 업계에는 각기 다른 기능을 수행하는 많은 도구가 있다"며 "클라우데라가 기업과 정부기관을 지원하는 영역은 데이터 전략"이라고 밝혔다. 특히 클라우데라가 주목하는 것은 개별 보안 솔루션만으로 관리하기 어려운 대규모 사이버 데이터다. 기존 보안 솔루션은 특정 공급업체의 제품에서 생성된 데이터를 중심으로 관리하는 경우가 많아 여러 도구에서 발생한 데이터를 통합하거나 장기간 저장·분석하는 데 제약이 생길 수 있다고 봐서다. 그는 "많은 보안 도구가 자사 제품에서 생성된 데이터를 저장하는 데 초점을 맞추고 있어 여러 도구의 데이터를 함께 다루기 어렵다"며 "데이터 규모가 커질 경우 필요한 데이터를 모두 저장하거나 분석하는 데도 한계가 있을 수 있다"고 설명했다. 이에 클라우데라는 여러 보안 도구에서 생성된 데이터를 하나의 플랫폼에서 다룰 수 있도록 지원하고 있다. 상용 보안 솔루션만으로 대응하기 어려운 복잡한 요구사항이나 특수한 제약을 가진 기업·정부기관도 주요 고객군으로 보고 있다. 더비 리드는 "클라우데라가 맡는 역할은 고객이 모든 사이버 데이터를 위한 확장 가능한 데이터 플랫폼을 확보하도록 돕는 것"이라며 "상용 도구로 구현하기 어려운 복잡한 보안 요구나 특별한 제약이 있는 경우에도 이를 지원하고 있다"고 말했다. 또 그는 보안 데이터를 외부 클라우드로 이전하기 어려운 조직에서 앞으로 데이터 플랫폼의 역할이 커질 것으로 봤다. 정부기관이나 국가, 일부 기업은 보안이나 규제 문제로 민감한 사이버 데이터를 서비스형 소프트웨어(SaaS) 또는 퍼블릭 클라우드 기반 보안 서비스에 전달하는 데 제약을 받을 수 있기 때문이다. 더비 리드는 "많은 보안 도구가 클라우드 플랫폼에서 운영돼 보안 데이터를 클라우드에 넣어야 하지만 일부 정부기관이나 국가, 기업에서는 이것이 불가능하다"며 "클라우데라는 이런 환경에서도 고객이 데이터를 분석하고 AI에 활용할 수 있는 데이터 플랫폼을 제공한다"고 설명했다. 더불어 클라우데라는 사이버 데이터를 저장하는 데서 그치지 않고 보안 솔루션이 활용할 수 있도록 데이터를 정제·제공하는 역할에도 집중하고 있다고 강조했다. 장기간 축적한 데이터를 유지해 AI 분석에 필요한 맥락을 제공하는 것도 주요 영역으로 꼽았다. 그는 "클라우데라가 집중하는 두 영역은 보안 도구에 데이터를 제공·정제하는 것과 장기적인 맥락을 유지하는 것"이라며 "고객에게 데이터를 분석하고 AI에 활용할 수 있는 완전한 데이터 플랫폼을 제공하면서 각 조직의 규칙과 컴플라이언스 요구에 맞춰 보안과 거버넌스를 적용하고 있다"고 밝혔다.
