"실수 안 하는 AI 에이전트, '자동 추론'서 나온다"

[필라델피아(미국)=김미정 기자] "인공지능(AI)은 결과를 생성하고, 자동 추론(Automated reasoning)은 그 결과를 검증합니다. 이 두 기술이 함께 작동할 때 더욱 강력한 보안과 신뢰도를 갖춘 에이전트를 구축할 수 있습니다." 아마존웹서비스(AWS) 네하 룽타 아이덴티티 부문 응용과학 디렉터는 18일까지(현지시간) 미국 필라델피아에서 열린 연례 보안 컨퍼런스 'AWS 리인포스 2025'에서 AI의 설명 가능성과 보안 강화를 위한 방안으로 AI와 자동 추론 결합을 제시했다. 자동 추론은 실수하지 않는 계산기 같은 도구 역할을 한다. 어떤 시스템이나 규칙이 제대로 작동하는지 논리적으로 따지는 데 활용된다. 최종 결과에 대한 과정을 수학적으로 증명하는 식이다. 룽타 디렉터는 AWS에서 자동 추론 기술 개발을 주도해왔다. 이전에는 미국항공우주국(NASA)과 마이크로소프트 리서치에서 소프트웨어 검증·자동화 도구 관련 연구를 수행한 경력이 있다. 그는 AWS에서 '아마존 베드록' 가드레일에 자동 추론 기술을 업계에서 처음 적용한 인물로 알려졌다. 룽타 디렉터는 "사용자 정보가 외부로 나가지 않도록 하려면 프롬프트 입력과 출력 경로가 항상 안전한지 수학적으로 검증해야 한다"며 "여기서 자동 추론은 단순한 확률 계산이 아니라 '절대 유출되지 않는다'는 것을 논리적으로 증명한다"고 설명했다. 이 외에도 그는 신원 및 접근관리(IAM) 솔루션 'IAM 액세스 애널라이저'에도 자동 추론 기술을 적용했다. 자동 추론은 솔루션 내에서 누가 어떤 데이터에 접근할 수 있는지, 왜 접근 가능한지를 명확히 판단하고 통제하는 역할을 한다. 룽타 리렉터는 "현재 IAM은 모든 클라우드 서비스에 사용된다"며 "방대한 접근 요청을 수학적으로 분석하고 검증할 수 있는 건 자동 추론이 답"이라고 강조했다. "AI와 자동 추론 연결 필수…MCP·A2A가 도와" 룽타 디렉터는 AI와 자동 추론 결합이 더 밀접해져야 한다고 주장했다. 그는 "보통 거대언어모델(LLM)은 본질적으로 비결정론적"이라며 "이것이 LLM 강점이지만 대규모 환경에서 제대로 작동하려면 결정론적 도구들과 결합해야 한다"고 밝혔다. 룽타 디렉터는 AI와 자동 추론 결합을 돕는 도구로 '모델 컨텍스트 프로토콜(MCP)'을 꼽았다. MCP는 AI가 다른 시스템이나 도구와 자유롭게 정보를 주고받을 수 있게 돕는 인터페이스 기술이다. 기존 API보다 유연하게 동작한다는 평을 받고 있다. 이에 AI와 자동 추론 기술 연결을 원활히 지원할 수 있다. 또 그는 '에이전트 투 에이전트(A2A)'도 신뢰도 높은 AI 자동화를 구현할 수 있다고 강조했다. 룽타 디렉터는 "이는 여러 AI가 각자 맡은 역할을 수행하는 식"이라며 "AI가 서로 작업을 요청하는 식으로 협업한다면 더 신뢰도 높은 자동화와 오케스트레이션을 구현할 수 있을 것"이라고 전망했다. 다만 자동 추론 기술이 지금보다 더 발전해야 한다는 점도 언급됐다. 룽타 디렉터는 "자동 추론은 수학적 표현으로 결과를 증명할 때 우수한 능력을 발휘하지만, 모든 문제를 수학으로 표현할 순 없다"며 "이는 우리가 풀어야 할 결정적 과제"라고 설명했다. 이어 "AI와 추론 자동화 결합은 이제 시작"이라며 "이를 통해 강력한 보안과 신뢰도를 갖춘 AI를 구축할 수 있을 것"이라고 덧붙였다.