"챗GPT만으론 부족하다"…SAP가 짚은 기업 AI 한계, 대안은?

챗GPT처럼 글을 쓰고 질문에 답하는 인공지능(AI)만으로는 기업의 복잡한 업무를 해결하기 어렵다는 지적이 나왔다. 19일(현지시간) 독일 소프트웨어 기업 SAP는 블로그를 통해 거대언어모델(LLM)이 기업 데이터 분석과 미래 예측에 한계가 있다고 지적했다. 이를 보완할 기술로 숫자와 표에 담긴 정보를 분석하는 '테이블형 AI'를 제시했다. 챗GPT와 같은 LLM은 문서 작성과 정보 검색, 프로그래밍 등에 강하다. 기업에서는 매출과 재고, 주문 내역처럼 숫자와 표로 정리된 데이터도 많이 사용한다. SAP는 이런 데이터를 제대로 분석하려면 숫자뿐 아니라 데이터 사이의 관계까지 이해해야 한다고 설명했다. SAP가 제시한 테이블형 AI는 이런 숫자와 표를 분석해 앞으로 어떤 일이 일어날지 예측하는 기술이다. 과거 거래 기록과 판매량 등을 살펴 고객이 대금을 제때 낼지, 어떤 제품이 많이 팔릴지, 재고가 언제 부족해질지 등을 예측할 수 있다. SAP는 최근 고객에게 제공하기 시작한 'SAP-RPT-1.6'을 대표 사례로 소개했다. 이 AI는 기업이 쌓아온 데이터를 활용해 다양한 업무에 필요한 예측을 수행하도록 개발됐다. 기존에는 기업이 예측하려는 업무마다 AI를 따로 만들어야 했다. 판매량을 예측하는 AI와 거래처가 대금을 늦게 낼 가능성을 분석하는 AI를 각각 개발하고 학습시켜야 했다. AI를 운영하고 관리하는 데도 시간과 비용이 들어갔다. SAP는 하나의 AI로 여러 예측 업무를 처리하는 '테이블형 파운데이션 모델'이 이러한 부담을 줄일 수 있다고 설명했다. 기업이 새로운 업무를 맡길 때마다 AI를 처음부터 개발하지 않아도 된다는 의미다. 거래처가 대금을 늦게 낼 가능성을 분석하는 업무가 대표적이다. 과거에 돈을 제때 냈는지만 살펴서는 충분하지 않다. 최근 주문량이 줄었는지, 배송 과정에 문제가 있었는지, 해당 업계의 경기가 나빠졌는지 등을 함께 분석해야 보다 정확하게 예측할 수 있다. SAP는 기존 LLM이 숫자와 표의 관계를 분석하는 데 상대적으로 약하다고 지적했다. IBM 리서치와 스탠퍼드대 등이 참여한 연구진이 지난 7월 국제전산언어학회(ACL) 산하 학술 워크숍에서 발표한 논문에서도 LLM이 표의 형식이나 행 순서가 바뀌면 답변이 달라지는 등 한계가 확인됐다. SAP는 관련 기술을 확보하기 위해 지난 7월 테이블형 AI 전문기업 프라이어랩스를 인수했다. 프라이어랩스가 개발한 '탭PFN'과 SAP 자체 AI 모델을 결합해 기업의 숫자 데이터를 더 정확하게 분석하는 기술을 개발하고 있다. SAP는 생성형 AI가 직원들의 업무 속도를 높이는 데는 도움이 됐지만 기업의 수익을 크게 늘리는 데는 아직 한계가 있다고 설명했다. SAP가 인용한 맥킨지 조사에 따르면 AI 이용자 80%는 개인 생산성이 높아졌다고 답했다. 반면 AI 도입으로 영업이익이 크게 늘었다고 평가한 기업은 6%에 그쳤다. SAP는 챗GPT와 같은 LLM과 테이블형 AI를 함께 활용하는 방식을 제시했다. LLM은 사람의 질문을 이해하고 정보를 설명하는 데 활용하고 테이블형 AI는 기업이 보유한 숫자 데이터를 분석해 미래 상황을 예측하는 역할을 맡는 방식이다. SAP는 "중요한 것은 기업이 LLM과 테이블형 파운데이션 모델 중 무엇을 사용하느냐가 아니다"며 "각각 가장 큰 효과를 낼 수 있는 분야에서 두 기술을 결합하는 것이 중요하다"고 밝혔다.