어디까지 고영향 AI인가…AI기본법 적용 현장서 혼선
인공지능(AI) 기본법이 시행됐지만 기업 책임과 이용자 보호에 빈틈이 남아 있다는 지적이 나왔다. 누구에게 어떤 AI 관리 의무를 부과할지 불명확하고 AI가 직접 행동하다 사고를 냈을 때 책임을 가리고 피해를 구제할 절차도 부족하다는 비판이다. 강지원 법무법인 태평양 변호사는 16일 서울 글래드 여의도에서 열린 '2026년 하반기 AI법정책포럼 공개 세미나'에서 AI 기본법상 사업자 범위와 고영향 AI 판단 기준을 구체화해야 한다고 강조했다. 기업이 법을 지키려 해도 적용 대상인지부터 판단하기 어려운 경우가 있다는 설명이다. 강 변호사는 자체 개발한 AI를 내부 업무에 사용하는 경우를 대표 사례로 꼽았다. 금융회사가 AI로 대출을 심사하면서도 고객에게 AI 자체를 제공하지 않았으니 법 적용 대상이 아니라고 해석할 여지가 있다고 지적했다. 고객에게 미치는 영향은 있는데 기업 의무는 불명확해질 수 있다는 뜻이다. 정준화 국회입법조사처 조사관은 사용자 대신 업무를 수행하는 에이전트 AI와 현실에서 움직이는 피지컬 AI에 맞춰 책임 기준도 보완해야 한다고 밝혔다. AI 기본법이 개발사와 운영사 사이 책임 배분과 피해 구제 절차를 충분히 다루지 못하고 있다고 지적했다. 대출 심사에 썼는데…'AI 제공 안 했다'면 의무는 강 변호사는 AI 기본법이 사업자 범위를 정할 때 사용하는 '제공'이라는 표현을 문제로 짚었다. 금융회사가 직접 만든 AI로 대출을 심사하면 고객에게 제공하는 서비스는 대출이고, AI는 회사 내부에서만 사용한다. 그는 회사가 이를 근거로 AI를 제공하는 사업자가 아니라고 해석할 수 있다고 설명했다. 이 해석은 AI 사용 사실을 알리는 의무에도 영향을 준다. 회사가 AI 서비스 제공자가 아니라고 보면, 대출 신청자에게 AI로 심사한다는 사실을 알릴 의무도 빠질 수 있다는 지적이다. 강 변호사는 신청자가 AI 활용 사실을 알아야 결과에 문제를 제기하거나 피해 구제를 요청할 수 있다고 강조했다. 내부에서 썼는지 외부에 제공했는지만으로 판단하면 실제 영향을 받는 사람을 보호하는 데 공백이 생길 수 있다는 취지다. 그는 "자체 개발해서 AI를 대출 심사 같은 고영향에 활용함에도 불구하고 우리는 개발사업자도 아니고 이용사업자도 아니라는 현실과 맞지 않는 해석이 나올 수 있다"고 말했다. 강 변호사는 내부용 AI가 법 적용을 면제받는다고 단정한 것이 아니라, 이런 해석이 나오지 않도록 사업자 범위와 의무를 명확히 해야 한다고 제안했다. 보험료·자동 투자도 영향 큰데…관리 범위는 불명확 법 적용 대상이라고 판단해도 어떤 수준으로 관리해야 하는지가 남는다. 강 변호사는 사람에게 중대한 영향을 미칠 수 있어 더 엄격한 관리 의무가 붙는 '고영향 AI' 기준도 불명확하다고 지적했다. 고영향 AI는 법에서 정한 사용 분야에 해당하는지와 위험이 얼마나 큰지를 함께 따져야 한다. 강 변호사는 이 과정에서 대출 심사 외에 보험료 산정이나 자동 투자까지 포함하는지, 채용 외 다른 인사 업무는 어떻게 판단하는지 해석 문제가 생긴다고 설명했다. 보험료를 정하거나 주식을 자동으로 사고파는 AI도 개인에게 큰 영향을 줄 수 있다. 강 변호사는 이런 서비스를 모두 고영향 AI로 분류하자는 대신, 법에서 관리할 업무 범위를 구체화해 기업이 적용 여부를 예측할 수 있도록 해야 한다고 주장했다. 사람이 최종 결정을 내린다고 판단이 쉬워지는 것도 아니다. AI가 지원자 평가나 대출 심사 점수를 제공하고 직원이 이를 참고했다면, AI 평가가 결과에 얼마나 영향을 미쳤는지 확인해야 한다. 강 변호사는 이때 고영향 AI로 판단할 기준도 더 명확해야 한다고 밝혔다. 그는 법 적용 기준이 불분명한 상황에서도 기업이 위험 관리를 미뤄서는 안 된다고 강조했다. 실제로 기업은 고영향 AI에 해당하지 않아도 소비자 피해를 일으킬 수 있는 서비스를 별도 '중위험군'으로 관리하는 방안을 고민하고 있다고 전했다. 강 변호사는 출시 직전 법무 검토에 그치지 않고 기획·개발 단계부터 위험을 점검해야 한다고 제안했다. 여러 부서에 흩어진 책임을 연결해 개발부터 운영까지 관리 공백을 줄여야 한다는 설명이다. 스스로 행동한 AI 사고…책임 추적·피해 구제도 과제 정준화 조사관은 AI가 직접 업무를 수행하면 사고 책임을 가리는 문제가 더 복잡해진다고 진단했다. AI가 짧은 시간에 여러 단계를 거쳐 판단하고 실행하면, 어느 단계에서 무엇이 잘못됐는지 확인하기 어렵다는 설명이다. 그는 개발사와 서비스를 구성·운영하는 기업 등 참여 주체별 역할을 구분하고 사고 과정을 재구성할 기록을 남겨야 한다고 밝혔다. 공급 당시에는 문제가 없던 모델이 이후 학습이나 업데이트 과정에서 결함을 일으켰을 때도 책임을 어떻게 나눌지 검토해야 한다고 강조했다. 사람이 개입할 시점과 권한도 정해야 한다. AI가 작업을 마친 뒤 확인하면 이미 피해가 발생했을 수 있다. 반대로 모든 단계에서 사람 승인을 요구하면 AI에 업무를 맡기는 효과가 줄어든다. 정 조사관은 AI가 실행하기 전에 사람이 확인할 작업과 스스로 처리하도록 맡길 범위를 구분할 필요가 있다고 설명했다. 피해자가 구제받을 절차도 보완 과제로 꼽았다. 정 조사관은 AI 기본법 안에서 피해 구제와 손해배상을 충분히 다루지 못하고 있다며, 기존 손해배상 제도와 보험 등을 어떻게 연결할지 논의해야 한다고 밝혔다. 다만 문제가 예상된다는 이유만으로 규제를 추가하는 방식에는 신중해야 한다고 강조했다. 어떤 규제가 위험을 줄일 수 있는지, 기업과 사회에는 어떤 부담을 주는지 먼저 평가해야 한다는 취지다. 정 조사관은 "이런 기술과 서비스에 이 정도 규제를 했을 때 사회·경제적으로 어떤 영향이 발생할지 사전 영향평가를 거친 다음 입법으로 나아가야 한다"고 말했다.