AI 주식주문 '정상처리'돼도 고객 뜻과 다르면…누가 책임질까

인공지능(AI)이 투자자 말에 따라 주식을 주문하고, 시장 움직임까지 해석하는 시대다. 편의성은 높아졌지만 AI의 판단과 실행에 따른 책임을 어디까지 구분하고 검증할 것인지는 새로운 과제로 떠올랐다. 금융안정위원회(FSB)이 내놓은 모범관행에 비춰 금융회사의 책임과 국내 감독체계의 과제를 짚어본다. [편집자주] 인공지능(AI)에 주식 10주를 사라고 지시했는데 AI가 100주를 주문했다면 누가 책임져야 할까. 증권사 시스템은 전달받은 100주 주문을 정상적으로 처리할 수 있다. 고객이 원한 거래와 실제 주문이 달라졌어도 시스템상으로는 오류가 발생하지 않은 셈이다. 토스증권이 AI 주식매매의 문턱을 대폭 낮추면서 이러한 책임 문제가 새로운 과제로 떠올랐다. AI가 고객의 지시를 잘못 해석하더라도 증권사의 정상 거래기록만으로는 오류가 발생한 지점을 가리기 어렵기 때문이다. FSB도 최근 보고서 (Sound practices for responsible adoption of artificial intelligence)를 통해 AI 자율성이 높아질수록 인간의 감독과 행동 기록, 거래권한 통제가 중요하다는 내용을 담았다. AI가 대신 주식 주문…토스증권, 거래 문턱 낮췄지만 기존 주식거래는 투자자가 직접 증권사 앱에 접속해 종목과 수량, 가격을 입력하는 방식이었다. 반면 AI를 통한 거래는 투자자의 말을 외부 AI와 연결 프로그램이 해석해 실제 주문으로 전환한다. 사전에 정한 조건에 따라 사람이 매번 주문 버튼을 누르지 않고도 거래할 수 있다. 토스증권은 지난 8월 26일 오픈API 서비스를 정식 출시하며 이용 대상을 전체 고객으로 확대했다. 오픈API는 외부 프로그램이 증권사의 주문·계좌 기능을 이용하도록 연결하는 통로다. 개발 지식이 없는 일반 투자자도 챗GPT·클로드 등 외부 AI를 연결해 국내외 주식을 거래할 수 있도록 접근성을 낮춘 것이다. 하지만 거래가 쉬워진 만큼 새로운 위험도 생겼다. AI가 고객의 말을 잘못 해석하거나 부정확한 정보를 토대로 주문을 생성할 수 있어서다. 프로그램 오류에 따른 반복 주문이나 거래 권한을 가진 인증정보 유출로 인한 무단 거래도 경계해야 한다. 토스증권도 이러한 위험을 막기 위해 안전장치를 마련했다. 사전에 등록한 인터넷주소(IP)에서만 접속하도록 제한하고, 최대 주문금액에도 제한을 뒀다. 1억원 이상 고액 주문에는 고객이 해당 금액을 인지했다는 별도의 확인값을 요구한다. 같은 주문 식별번호로 들어온 중복 요청을 관리하는 기능도 갖췄다. 다만, 이들 장치가 고객의 최종 거래 의사까지 확인하는 것은 아니다. 고액주문 확인값이 전달됐다고 해서 투자자가 실제로 종목과 수량, 가격을 눈으로 검토하고 승인했는지는 알 수 없다. 중복 주문 관리 역시 주문 식별번호를 입력했을 때 같은 번호의 반복 요청을 관리하는 기능이다. AI가 잘못 생성한 모든 주문을 걸러내는 장치는 아니라는 얘기다. 외부 개발자는 별도 승인까지…키움도 주문 기본 차단 실제로 토스증권 오픈API를 활용하는 외부 개발자는 별도의 안전장치를 설계했다. 비공식 오픈소스 프로그램 'tossinvest-mcp'는 AI 주문 기능을 기본적으로 꺼두고, 실제 거래 전 주문 내용을 미리 보여준 뒤 별도 화면에서 사람의 승인을 받도록 설계한 것으로 알려졌다. 주문 직전 가격과 잔고 등을 다시 확인하는 절차도 마련했다. 이는 토스증권의 공식 기능이 아닌 외부 개발자의 자체 설계 사례다. 이 사례가 중요한 것은 FSB의 모범관행 지적 사항인데다가, 증권사 시스템이 주문을 정상 처리하는 것과 투자자가 개별 거래를 확인하는 것은 별개의 문제라는 점이기 때문이다. 키움증권도 공식 AI 연결 도구(MCP)의 주문 기능을 기본적으로 꺼두고 모의투자 환경에서 시작하도록 설계했다. 이후 실제 거래를 활성화하더라도 주문 미리보기와 최종 전송 기능을 분리했다. 사람이 거래를 확인하도록 안내하지만, 실제 승인 여부는 AI 연결 프로그램의 설정에도 영향을 받는다. 두 회사의 연결 방식은 다르다. 다만 키움증권은 공식 도구에서 주문 기능의 초기 설정과 확인 절차를 구분해 제시하고 있다. 토스증권 역시 외부 AI와의 연결을 일반 투자자에게 확대한 만큼 고객이 주문권한을 어디까지 부여하고, 실제 거래를 어떤 방식으로 승인하는지에 대한 안내와 통제 범위가 중요해졌다. 거래 기록 10년 보존…고객의 최초 지시는 누가 입증하나 거래가 체결된 이후 더욱 복잡해진다. 토스증권은 오픈API 이용약관 제13조에서 거래 추적과 오류 확인·정정 등에 필요한 정보를 10년간 보존하도록 규정했다. 그러나 증권사의 주문·체결기록과 외부 AI가 고객의 말을 해석한 기록은 관리 주체가 다를 수 있다. 고객이 10주 매수를 지시했지만 AI가 100주 주문을 만들었다면 어느 단계에서 오류가 발생했는지 확인할 수 있어야 한다. 고객의 최종 지시와 승인 내용, AI가 생성한 주문, 증권사가 접수한 거래를 서로 대조해야 책임을 구분할 수 있다는 의미다. 기록을 얼마나 오래 보관하느냐뿐 아니라 무엇을 기록하고 어떻게 연결할 수 있느냐가 핵심이다. FSB는 보고서에서 AI가 어떤 지시를 받아 움직였고, 어떤 정보와 도구에 접근했으며, 허용된 권한 안에서 행동했는지 추적할 수 있는 기록관리를 강조했다. 고액 금융거래에 사람의 사전 확인을 적용하거나 AI의 실행·접근권한을 중단하는 방안도 제시했다. 미국 증권사 '찰스슈왑' 역시 승인되지 않은 외부 AI의 계좌 로그인을 차단하고 있다. 지난 15일 실적설명회에서 릭 워스터 최고경영자(CEO)는 외부 AI의 연결을 허용하면서도 인증 절차를 직접 통제하고, 위험성이 높은 자금 이동 기능에는 접근을 제한한다고 밝혔다. 금융위원회도 지난 6월 AI 에이전트의 권한·책임 규율체계와 전용 감독방안 검토 계획을 밝혔다. 향후 AI 주식거래에서 주문 승인과 접근권한 관리, 거래기록의 확인·대조 방식이 실제로 어떻게 작동하는지 점검할 필요가 있다.