"AI는 통제 어려운 10대"…오라클, DB에 보안 내장

[라스베이거스(미국)=이나연 기자] 오라클이 인공지능(AI) 에이전트 보안과 신뢰성 문제를 해결하기 위해 데이터베이스(DB) 중심의 새로운 기술 아키텍처를 제안했다. AI가 정해진 규칙을 따르도록 지시하는 기존 방식에서 벗어나 데이터 접근 권한과 보안 정책을 DB와 애플리케이션 실행 환경에 직접 내장해 위험을 최소화한다는 전략이다. 후안 로이자 오라클 DB 기술 부문 총괄 부사장은 26일(현지시간) 미국 라스베이거스 베네시안 엑스포에서 열린 '오라클 AI 월드 2026' 스포트라이트 세션에서 "AI는 똑똑하지만 지나치게 자신만만한 10대 청소년처럼 답변을 지어내거나 요청을 오해하고 민감한 정보를 노출할 수 있다"며 이같이 밝혔다. 이날 오라클이 공개한 '딥 트러스트 AI' 아키텍처는 소프트웨어 플랫폼과 데이터, 데이터 접근, 애플리케이션 개발 등 4개 계층에 보안과 신뢰성을 내장하는 구조다. AI 모델이 보호장치를 우회하더라도 하부 인프라에서 데이터 접근과 실행 권한을 통제하도록 설계됐다. 핵심 기술인 '딥 데이터 시큐리티'는 사용자별 데이터 접근 권한을 DB 내부에서 직접 검증한다. 오라클은 이번 행사에서 AI 에이전트와 애플리케이션 전반에 걸쳐 권한 통제를 강화하는 기능을 소개했다. 시연에서는 인사관리(HR) 에이전트가 보호장치를 우회해 직원 급여 정보를 조회하는 상황이 가정됐다. 에이전트에 마케팅팀 직원들의 급여를 요청하면 답변이 거부됐지만 이들이 급여로 구매할 수 있는 풍선 개수를 묻는 우회 질문에는 민감 정보가 활용됐다. 반면 딥 데이터 시큐리티를 적용하자 DB가 접근 권한을 확인해 정보 노출을 차단했다. 새롭게 도입한 '딥 NL2SQL'은 기업 내부 업무 용어와 데이터 구조를 AI에 제공하고 잘못된 답변에 대한 전문가 피드백을 반영하는 기술이다. 로이자 부사장은 시연을 통해 상품 매출 분석 과정에서 발생한 오류를 수정하고 기존 답변에 영향을 미치는지 검증하는 과정을 선보였다. AI 기반 애플리케이션 개발 전략도 제시했다. '오라클 에이팩스(APEX) AI 애플리케이션 생성기'는 AI가 앱 기능을 선언형 언어인 '에이팩스랭(APEXlang)'으로 정의하고 실제 실행과 보안, 확장성은 검증된 에이팩스 엔진이 담당하도록 지원한다. AI가 생성한 방대한 코드를 개별적으로 관리해야 하는 부담을 줄이기 위한 접근이다. 로이자 부사장은 기존 시스템에 AI 기능을 단순히 추가하는 방식으로는 기업이 요구하는 신뢰성을 확보하기 어렵다고 강조했다. AI 모델 판단에만 의존하지 않고 데이터와 실행 환경 자체에서 보안 정책을 강제해야 하는 이유다. 그는 "기업이 신뢰할 수 있는 AI 솔루션을 구축하려면 데이터와 기반 소프트웨어 플랫폼 설계를 다시 생각해야 한다"며 "오라클 딥 트러스트 AI 아키텍처는 AI 모델이 우회하거나 무력화할 수 없는 인프라 계층에 신뢰성을 내장한다"고 말했다.