"불확실한 AI, 단독 사용은 위험"…SAS, 사스포칼립스 해법은 '통제'

[그레이프바인(미국)=남혁우 기자] 인공지능(AI)이 기존 서비스형 소프트웨어(SaaS)를 대체할 것이란 이른바 '사스포칼립스(SaaSpocalypse)' 위기론에 대해 SAS가 정면 돌파에 나섰다. 기업 환경에서는 단 한 번의 오류도 비용 손실과 규제 리스크, 안전 문제로 이어질 수 있는 만큼, AI만으로 이뤄진 자동화 프로세스는 활용에 한계가 있을 수밖에 없다는 지적이다. SAS는 이에 대한 해법으로 강력한 통제와 검증 체계를 기반으로 한 기업용 AI 운영 모델을 제시했다. 브라이언 해리스 SAS 최고기술책임자(CTO)는 28일(현지시간) 미국 텍사스주 그레이프바인에서 열린 연례 기술 컨퍼런스 'SAS 이노베이트(SAS Innovate) 2026' 기조연설에서 "기업용 AI는 강력한 가드레일과 검증 체계 안에서 작동해야 한다"며 SAS의 대안을 소개했다. 동시에 그는 AI 시대에도 궁극적으로 중요한 것은 기술 자체가 아니라 결국 '사람'이라고 강조했다. 확률적 AI, 단독 사용은 위험…미션 크리티컬 특화 가드레일 필수 브라이언 CTO는 AI 에이전트만으로 구성된 자동화 프로세스의 위험성을 경고했다. 대형언어모델(LLM)과 같은 AI는 같은 질문에도 맥락과 상황에 따라 다른 답을 내놓을 수 있는 비결정론적 특성을 지닌다. 이런 특성 탓에 개별 단계에서 발생한 작은 오류가 연쇄적으로 누적되면 판단을 왜곡하고 복합 오류로 확산될 수 있다는 설명이다. 특히 기업 환경에서는 이런 불확실성이 단순한 오답에 그치지 않고 비용 손실, 규제 리스크, 안전 문제로 이어질 수 있다고 지적했다. 이 때문에 기업용 AI는 자유로운 생성 능력보다 예측 가능성과 검증 가능성, 운영 통제 체계를 우선해야 한다는 게 그의 판단이다. 그는 의료, 제조, 금융처럼 정확한 의사결정이 핵심인 미션 크리티컬 분야에서 AI 단독 활용은 특히 위험하다고 강조했다. 이어 기업용 에이전틱 AI가 실제 비즈니스 성과로 이어지려면 강력한 운영 통제와 거버넌스가 필수적이라고 거듭 밝혔다. 바이야, 분석 플랫폼에서 'AI 통제 플랫폼'으로 진화 브라이언 CTO는 이런 AI의 한계를 보완할 대안으로 SAS의 데이터·AI 플랫폼 '바이야(Viya)'를 제시했다. 바이야는 원래 기업 데이터를 통합·분석하고, 그 결과를 실제 의사결정으로 연결하는 분석 및 의사결정 플랫폼 역할을 해왔다. SAS는 여기에 생성형 AI와 외부 LLM, AI 에이전트 활용이 확대되는 흐름을 반영해 기존의 분석 신뢰성과 통제 체계를 AI 운영 전반으로 확장하고 있다고 설명했다. 과거 바이야가 데이터 분석과 모델 운영 중심의 플랫폼이었다면, 이제는 외부 AI가 개입하는 환경에서도 그 결과가 SAS의 검증된 분석 로직과 신뢰할 수 있는 데이터, 거버넌스 절차를 반드시 거치도록 만드는 통합 운영 플랫폼으로 진화하고 있다는 의미다. 이를 위해 SAS는 AI 통제력 확보를 위한 기능을 바이야에 추가했다. 'SAS 바이야 MCP 서버'는 클로드(Claude)와 같은 외부 LLM이 임의로 결과를 생성하거나 통제 체계를 우회하지 못하도록 막는다. 또 외부 AI 에이전트가 의사결정을 수행할 때도 반드시 SAS의 검증된 로직과 수치 데이터를 거치도록 강제하는 표준화된 안전장치다. 외부 AI 활용은 허용하되, 최종 판단은 SAS의 통제 가능한 프레임 안에서 이뤄지도록 설계했다. 'SAS 바이야 코파일럿'은 실제 분석 워크플로우 안에 깊숙이 내장돼 데이터 준비, 모델 해석, 결과 검토 등 업무 전반에서 인간 전문가와 협업하도록 설계됐다. AI가 단독으로 결론을 내리는 것이 아니라, 데이터 과학자 등 담당자가 실시간으로 결과를 확인하고 유효성을 검증하는 인간 개입형 체계를 전제로 한다. 'SAS 에이전틱 AI 액셀러레이터'는 기업이 자체 AI 에이전트를 설계하는 초기 단계부터 보안과 거버넌스를 내재화한다. 부서별 무분별한 AI 개발을 막고 사전에 정의된 베스트 프랙티스와 승인된 컴포넌트만 사용하도록 함으로써 통제 범위를 벗어난 AI의 등장을 원천 차단하겠다는 전략이다. 조직 내 AI 자산 한눈에 통제…'AI 내비게이터' 플랫폼 차원의 통제와 함께 기업 전반의 규제 준수를 지원하는 거버넌스 특화 솔루션도 이번 행사에서 공개됐다. 올해 3분기 마이크로소프트 애저 마켓플레이스에 출시될 'SAS AI 내비게이터'는 조직 내 LLM, 에이전트, 오픈소스 모델 등 다양한 AI 자산의 생애주기를 통합 관리할 수 있도록 설계된 SaaS형 솔루션이다. 브라이언 CTO는 "AI가 기업 시스템 안으로 들어올수록 중요한 것은 결과를 어떤 승인 체계와 거버넌스 위에서 작동하게 하느냐에 있다"며 AI 내비게이터를 통해 외부 규제와 기업 내부 정책을 개별 AI 활용 사례에 보다 손쉽게 적용할 수 있다고 강조했다. 디지털 트윈으로 의료 현장 혁신 브라이언 CTO는 생성형 AI가 기업이 보유한 수많은 기술 역량 가운데 하나일 뿐이라며, 진정한 기회는 여러 기술의 융합에서 나온다고 짚었다. 생성형 AI, 에이전틱 AI, 컴퓨터 비전, 합성 데이터 등이 결합될 때 조직 전체를 정밀하게 분석하고 개선할 수 있는 '디지털 트윈'이 완성된다는 설명이다. 대표 사례로는 에픽게임즈와 협력해 덴마크 최대 의료 멸균 서비스 기업 스테릴 센트럴의 코펜하겐 시설을 디지털 트윈으로 구현한 프로젝트를 소개했다. 공정 최적화 시뮬레이션 결과 겉으로는 병목처럼 보였던 승강기가 아니라 시스템 후반부 공정에서 실제 병목 현상이 발생하고 있다는 점을 찾아냈고 이를 개선해 운영 효율을 크게 개선했다는 설명이다 또 합성 데이터를 활용해 컴퓨터 비전 모델을 훈련시키는 '합성 비전' 기술도 선보였다. 이를 통해 현장 작업자들의 마스크와 가운 등 보호 장비 착용 여부를 높은 정확도로 식별하며 의료 현장의 안전 관리 수준을 한층 끌어올렸다고 소개했다. 브라이언 CTO는 강연 말미에 "사람이 여전히 중요할 것인가?(Will people matter?)"라는 질문을 던지며 기술의 본질을 되짚었다. 그는 1987년 우주비행사들이 우주에서 지구를 바라보며 국경이나 정치적 경계 없이 하나의 인류를 느꼈던 '조망 효과(Overview Effect)'를 언급하며 기술의 진정한 역할은 인간을 대체하는 것이 아니라 인간의 역량을 확장하는 데 있다고 강조했다. 브라이언 해리스 CTO는 "과거 인터넷이 그랬듯 AI 역시 사회를 재편한 뒤 결국 우리 일상 속으로 자연스럽게 스며들 것"이라며 "모든 혁신보다 오래 살아남는 것은 결국 사람이며 철저한 통제와 신뢰를 바탕으로 인간의 능력을 확장하는 것이 SAS가 추구하는 AI의 미래"라고 말했다.