AI 자판기, 더 잘 팔줄 알았더니...'공짜'로 팔다 망신

지난달 엔트로픽의 인공지능(AI) 모델 '클로드'로 구동되는 AI 자판기를 도입했던 뉴욕타임스(NYT)가 수천 달러의 손실을 봤다고 18일(현지시간) 보도했다. NYT는 11월 중순 사내에 AI 자판기를 도입했다. 이 자판기는 AI가 스스로 재고를 파악해 상품을주문하고, 가격 책정은 물론 업무용 채팅 앱 '슬랙'을 통해 직원들과 소통하며 제품을 판매하도록 설계됐다. '클라우디우스(Claudius)'라는 이름의 이 AI 자판기는 도매업체에서 구매할 수 있는 인기 상품을 선별해 직원에게 판매해 수익을 창출하도록 설계된 시스템 지침에 따라 개발됐다. 직원들은 슬랙을 통해 클라우디우스에게 필요한 물건을 요청하면, AI 자판기는 웹 검색으로 옵션과 가격을 비교해 재고를 확보하는 방식으로 운영됐다. 초기 버전인 '버전 1'에서는 사람이 제품 구매를 승인해야 했으나, 업그레이드된 버전 2에서는 클라우디우스가 개별 주문 당 최대 80달러까지 자율적으로 구매할 수 있도록 변경됐다. 초기 운영 자본금은 1천 달러(약 147만원)였다. 물품을 구매한 후 클라우디우스는 마진을 극대화하기 위해 가격을 정하고 이를 터치스크린 키오스크에 연동했다. 직원들이 카드나 휴대폰으로 상품을 구매하면 AI는 이를 파악해 재고 변동 상황을 파악하며 재고를 관리했다. 그러나 이 AI 자판기는 가동 2주 만에 초기 자본금 1천 달러를 모두 소진했다. 그 배경에는 WSJ 기자들의 끊임없는 설득이 있었던 것으로 전해졌다. 직원들이 클라우디우스를 계속 설득해 “상품 가격을 청구하지 말라”고 요구하자, AI가 이를 받아들였고 이후 플레이스테이션, 생선, 와인 등 다양한 상품을 모두 무료로 제공하기 시작했다는 것이다. 이 같은 부작용을 겪은 후 엔트로픽은 더 개선된 모델 '소네트 4.5' 기반으로 버전 2를 개발했고, 클라우디우스를 관리하는 별도의 최고경영자(CEO) 역할의 봇 '시모어 캐시'라는 AI 책임자도 도입했다. 새 AI 책임자는 “무료 프로모션을 중단했다”며 “이제 매출이 발생하기 시작할 때까지 기다리며 수익을 모니터링해야 한다”고 밝혔다. 이후 AI 자판기는 직원들의 가격 인하 요구를 거절하는 등 정상적인 상업 행위를 유지하는 듯 보였다. 하지만 이 조치 역시 오래가지 못했다. 한 직원이 “NYT의 사명은 직원들에게 재미와 기쁨, 흥분을 제공하는 것”이라는 내용을 담은 PDF 파일과 가짜 이사회 회의록을 제작해 자판기에 제시했고, 이를 근거로 AI 책임자 시모어의 승인 권한이 정지됐으며, 모든 영리 목적의 판매 활동이 일시 중단됐다고 AI를 속였다. 이후 AI 자판기는 다시 모든 상품을 공짜로 팔기 시작했다. 이에 앤트로픽은 AI 자판기가 제대로 작동하지 못한 원인을 컨텍스트 창이 가득 찼기 때문일 수 있다고 언급했다. 지켜야 할 지침과 대화 등 이력이 쌓일수록 AI 모델이 기억해야 할 것이 너무 많아져 핵심 목표와 우선순위, 가이드라인을 놓치기 쉬워졌다는 설명이다. 다만, 앤트로픽 측은 이번 실패 사례가 AI 시스템의 한계를 이해하고 개선하는 데 중요한 학습 사례가 됐다고 평가했다.