"에이전틱 AI, 개인정보보호에 새 위협"
인공지능(AI) 핵심으로 떠오른 '에이전틱 AI'의 개인정보보호 문제가 서울 하얏트 호텔에서 열린 '47차 GPA(Global Privacy Assembly) 총회'에서 다뤄졌다. 우리나라를 비롯해 미국, 유럽연합(EU), 영국, 프랑스, 독일, 일본 등 95개국 148개 개인정보 감독기관이 참여한 '47차 GPA 서울 2025' 행사에서 17일 오전 9시 30분부터 1시간 동안 '에이전틱 AI와 개인정보보호'를 주제로 전문가들 패널 토의가 열렸다. 임용 서울대 교수가 좌장을 맡았고, 영국 개인정보보호 감독기관 ICO(Information Commissioner's Office)의 존 에드워드(John Edwards) 위원장을 비롯해, 줄스 폴리네스키 Future of Privacy Forum(FPF) 최고경영자(CEO)가 패널로 참석했다. 케이트 칼렛(Kate Charlet) 구글 프라이버시·안전·보안 디렉터와 김유철 LG AI연구원 전략실장도 함께 자리했다. 패널들은 에이전틱 AI가 개인정보에 어떤 영향을 미치는지, 새로운 위험이나 취약점을 무엇인지에 대해 논의하고, 어떻게 대응해야 하는지도 모색하는 시간을 가졌다. 이들은 에이전틱 AI에 대해 단순 생성형AI와 달리 스스로 계획·추론·실행하는 자율적 시스템을 기반으로 한 AI라고 정의하며, 목표 지향적이며 여러 도구와 시스템을 넘나들며 작동하고 있다고 설명했다. 줄스 폴리네스키 FPF CEO는 "현재 데이터 보호 체계가 여전히 예전 웹 사이트와 쿠키 동의, 약관 등에 맞춰져 있다"며 "에이전틱 AI는 이런 서비스를 넘나들며 데이터를 주고받고 전략을 실행하는데, 이런 모델에서는 목적 제한 원칙과 같은 기존 규범을 어떻게 적용할지가 핵심 과제"라고 짚었다. 에이전틱 AI가 사용되면서 편의성을 높아졌지만 데이터 보호 체계는 아직 과거 방식에 머물러 있기 때문에 새로운 위협이 될 수 있다는 것이다. 이에 에이전틱 AI의 선두 기업인 구글과 LG AI연구원 측은 자사 에이전틱 AI가 어떻게 개인정보를 보호하고 있는지 실제 적용 사례에 대해 소개했다. 특히 김유철 LG AI연구원 전략실장은 "에이전틱 AI는 자율적으로 모델을 발전시키고 계획을 세우며 목표를 위해 행동하는 AI 시스템"이라며 "LG AI연구원에서는 '넥서스(Nexus)'라는 프로젝트를 진행 중인데, AI 교환 과정에서 데이터를 스캔하고 저작권 문제를 탐지·중재하는 에이전트를 개발하고 있다"고 말했다.