김태진 라온시큐어 CTO "에이전트 생성 즉시 DID 기반 고유 식별자 발급"
"인사(HR) 업무를 담당하는 인공지능(AI) 에이전트가 있다고 가정해보겠습니다. 이 AI 에이전트는 당연하게도 HR 영역에서만 일할 수 있는 역할과 권한을 부여해야 합니다. 여기에 더해 누가 해당 에이전트에게 업무를 위임했는지도 확인해야 문제가 생겼을 때 책임 추적이 가능합니다. 또한 HR 에이전트가 있다고 해도, HR팀 팀장의 권한과 팀원의 권한은 다릅니다. 에이전트에게 역할을 부여하고, 그 역할을 가진 사람이 실제로 그 업무를 위임할 수 있는 사람인지까지 확인해야 합니다." 김태진 라온시큐어 최고기술책임자(CTO)는7일 지디넷코리아와 인터뷰에서 AI 에이전트 시대의 가장 큰 보안 과제로 에이전트에 대한 통제를 꼽았다. 그는 "AI 에이전트가 이제 많이 만들어지고 있지만 지금까지는 보안보다 기능과 편의성, 빠른 개발에 초점이 맞춰져 있었다"며 "이제 AI 에이전트에 대한 보안 위협이 본격적으로 나타날 것"이라고 우려했다. 실제 AI 에이전트는 단순히 답변을 생성하는 데 그치지 않는다. 사용자를 대신해 다른 애플리케이션을 호출하고, 데이터를 가져오고, 다른 에이전트와 통신하며 실제 업무를 수행한다. 공격자가 에이전트를 장악할 경우 단순한 정보 탈취를 넘어 기업 내부 시스템과 데이터에까지 접근할 가능성이 커지는 이유다. 이에 김 CTO는 "에이전트가 다른 에이전트에게 요청할 때도 상대방이 정말 회사에서 승인된 에이전트인지 확인해야 한다"며 "최종적으로 데이터 서버에 접근할 때도 그 사람의 위임 범위 안에서 데이터를 가져오거나 행동하는지를 통제해야 한다"고 설명했다. 그는 "에이전트 자체는 무결하더라도 올려 보내는 데이터 콘텐츠에 악성 코드가 심어질 수 있다"며 "사전에 정해진 위임 범위 안에서는 에이전트가 자율적으로 움직이고 결제나 민감한 작업처럼 별도 승인이 필요한 행위만 사람에게 승인을 받도록 하는 것이 중요하다. 생성형 AI의 실수는 잘못된 문장이나 작업 하나로 끝날 수 있지만, 에이전틱 AI의 실수는 실제 시스템에 대한 명령으로 이어지고 오류가 연쇄적으로 증폭된다"고 경고했다. "AI 에이전트 시대, '기능'보다 '통제'가 먼저" 김 CTO는 이날 AI 에이전트발 보안 위협을 최소화하고, 통제 가능한 에이전틱 AI 환경 구현을 위한 라온시큐어만의 청사진을 제시했다. 출발점은 신원 검증이다. 사람에게 신분증을 통해 신원을 검증하듯, AI에게도 신분증을 부여하겠다는 복안이다. 김 CTO는 "에이전트가 생성되는 즉시 분산 신원 검증(DID) 기반 디지털 지갑과 고유 식별자를 발급하고, AI에 신원을 부여한다. 또한 관리자에서 메인 에이전트로, 다시 하위 에이전트로 이어지는 위임 과정을 검증 가능한 자격증명으로 연결한다"며 "또 에이전트가 데이터나 시스템에 접근할 때마다 게이트웨이를 거칠 수 있도록 하면서 행위의 침해 여부나 권한 범위를 벗어났는지를 파악하는 구조다. 범위를 벗어나면 즉시 차단되고 권한이 동적으로 회수된다"고 설명했다. 그는 "또한 모든 호출과 접근이 전자서명돼 기록되고, 어떤 에이전트가 어떤 경로로 무엇에 접근했는지 가시성을 확보할 수 있게 시각화하는 구조를 제공하는 것이 라온시큐어 구상"이라며 "나아가 에이전트 자체는 무결하더라도 올려 보내는 데이터 콘텐츠에 악성 코드가 심어질 수 있기 때문에 콘텐츠 레이어의 위협까지 탐지할 수 있도록 확장할 계획이다. 에이전트가 정상적인 권한을 갖고 있더라도 최종적으로 전달하는 데이터에 악성 코드나 공격 페이로드가 포함될 수 있기 때문이다"이라고 밝혔다. 즉 AI 에이전트에게 DID 기반으로 '신분증'을 발급하고, 통제된 환경에서 '검문소'(게이트웨이)를 지나야만 활동이 가능하도록 제한한다. 또한 AI 에이전트가 어디로 이동했는지 모든 경로에 CCTV(기록)가 동작하고 있는 구조다. AI 에이전트에 하달된 명령 자체도 오염되지 않았는지 계속 확인한다. "단품 아닌 '보안 파이프라인'…AI 보안 생태계 전 영역 연결한다" 김 CTO는 향후 라온시큐어가 AI 에이전트를 식별하고 신원과 권한을 관리하는 영역부터 데이터 등급 관리, AI 모델에 대한 가드레일, AI 기반 취약점 점검까지 각각의 기술을 하나의 보안 파이프라인을 만들어 나갈 계획이라고 밝혔다. 그가 이처럼 '연결'을 강조하는 이유는 AI 환경에서 하나의 보안 장치만으로는 충분하지 않기 때문으로 보인다. 에이전트가 안전해도 모델이 공격받을 수 있고, 모델과 에이전트가 정상이어도 데이터에 악성 페이로드가 포함될 수 있다. 반대로 권한 체계가 마련돼 있어도 실제 구현 과정에서 취약점이 존재할 수 있다. 결국 AI 보안은 각각의 영역을 따로 방어하는 것이 아니라 전체 흐름을 연결해 관리해야 한다는 것이 김 CTO의 판단이다. 그는 "라온시큐어가 겉으로 보면 AI 관련 제품을 단품으로 내놓는 것처럼 보일 수 있지만 실제로는 AI 전체 환경을 하나의 파이프라인으로 보고 개발하고 있다"며 "에이전트와 에이전트(A2A), 에이전트와 데이터·리소스 서버 사이의 관계도 같은 방식으로 관리할 것"이라고 말했다. 김 CTO는 "고객사의 입장에서 총체적으로 보면 내부에서 AI 에이전트의 안전한 사용을 보장하고, 외부에서 전체 인프라의 침투 경로를 미리 찾아내 선제적으로 조치할 수 있도록 지원한다"며 "이를 통해 AI 시대 통합 보안 생태계를 완성하는 것"이라고 강조했다. 김 CTO는 이같은 라온시큐어의 AI 기반 통합 보안 생태계를 오는 30일 진행하는 '시큐업&해커톤' 행사에서 직접 피부로 느낄 수 있다고 설명했다. 라온시큐어는 이달 말 행사를 통해 체험 부스 등을 마련하고, 김 CTO가 설명한 각 기능에 대한 브랜드명을 비롯한 전체 로드맵을 공개하고 공식 런칭할 계획이다. 그는 AI 확산을 위해서라도 보안 기술과 함께 표준화도 중요하다고 강조했다. 김 CTO는 "이제는 AI가 더 확산되고 모델도 계속 나오고 있기 때문에 보안이 된 상태에서 AI 에이전트가 잘 활용될 수 있는 환경을 만들어야 한다"며 "다만 현재는 편의성을 위해 사람이 받은 인증키를 에이전트에게 넘겨 대신 사용하게 한다. 이는 새로운 위험을 만들 우려가 있고 보안 측면에서 굉장히 위험하다. 특히 AI 에이전트가 사람을 대신해 인증하고 결제하는 시대에는 기존의 사람 중심 인증 체계를 그대로 적용해서는 안 된다"고 역설했다. 이에 "공통된 규격이 있다면 개발자가 보안을 모두 알지 못하더라도 정해진 기준을 준수하는 것만으로 일정 수준의 보안을 확보할 수 있고, 보안 기업 역시 동일한 기준을 바탕으로 취약점을 점검할 수 있다. 표준이 마련되지 않아 제각각 보안이 다르게 적용돼 있다면, 더욱 취약할 수밖에 없다"며 "라온시큐어는 AI 시대 보안에 걸맞는 표준화 체계에도 이바지할 계획"이라고 말했다. 김 CTO는 지난 1996년 개발자로 시작해 소프트포럼, SK쉴더스 등을 거쳐 2014년부터 라온시큐어에 합류했다.
