AI 쓰다가 정보 유출될라…사전 차단 솔루션 뜬다

업무에 생성 인공지능(AI)을 활용하는 것이 일상화되면서 AI가 명령을 수행하는 과정에서 허가받지 않은 정보까지 활용하는 등 새로운 보안 위협이 부상하고 있다. 이 같은 위험을 사전에 차단하는 보안 솔루션이 등장했다. 보안 스타트업 핀타에이아이는 6일부터 서울 삼성동 코엑스에서 3일간 열리는 'AI페스타 2026'에 참가, 자체 개발한 AI에이전트 보안 솔루션 '핀타에이아이'를 선보였다. 핀타에이아이는 AI에이전트가 데이터에 접근하는 맥락 등 정보를 가시화하고, AI가 권한이 없는 정보에 접근하는 것을 사전 차단하는 솔루션이다. 기업이나 기관에서 AI를 활용할 때 의도치 않게 허용 범위를 넘어 내부 정보에 접근하는 문제가 발생할 수 있는데, 이를 통제하고 예방한다. 회사는 데이터베이스를 토대로 접근 제어를 제공하는 기존 솔루션들의 경우 이런 AI 에이전트 활용에 따른 정보 유·노출에 대응하지 못한다는 점에 착안해 솔루션을 개발했다. 김도현 핀타에이아이 대표는 "가령 '테스트 DB에 임시 테이블만 정리해줘'라고 터미널에 프롬프트를 입력하는 경우, 임시 테이블 범위를 잘못 인식해 삭제하지 않아야 할 정보까지 삭제하는 상황도 나타날 수 있다"며 "AI에이전트가 이런 상황을 차단할 수 있다"고 언급했다. 솔루션이 유용하게 쓰일 수 있는 사례들도 소개했다. 김 대표는 "고객 상담처럼 외부에서 입력된 내용을 파악해 내부 데이터를 토대로 적절한 답변을 도출해야 하는 경우에도 적절한 데이터 권한 제어와 통제가 이뤄지지 않으면 허가되지 않은 데이터가 외부로 반출될 수도 있다"고 말했다. 이어 "해킹 의도를 갖고 발송된 메일에서 AI가 숨겨진 텍스트를 읽고 명령을 실행하는 등의 상황도 발생할 수 있는데, 이런 상황에서 발생하는 정보 유출을 차단할 수 있다는 것"이라고 덧붙였다. 김 대표는 "대기업 SI 기업들을 주 공략할 시장으로 보고 있고, 미국 등 해외 고객사 확보도 활발히 진행하고 있다"며 "특히 미국은 AI 에이전트의 권한관리 솔루션 도입에 적극적인 편"이라고 설명했다.