AI가 변호사 흉내 내면 불법?…美 뉴욕, 챗봇 법률조언 규제 추진

미국 뉴욕주에서 인공지능(AI) 챗봇이 변호사처럼 법률 조언을 제공하는 행위를 제한하는 법안이 추진된다. 생성형 AI가 전문직 영역까지 빠르게 확산하면서 이용자 피해 가능성이 커지고 있다는 판단에서다. 5일(현지시간) 로이터에 따르면 뉴욕주 의회는 AI 챗봇이 변호사 자격이 있는 것처럼 행동하거나 법률 자문을 제공하는 행위를 제한하는 법안을 검토 중이다. 법안은 AI가 면허가 필요한 전문직 업무를 수행하는 것을 막고, 이를 통해 이용자가 피해를 입었을 경우 기업을 상대로 손해배상 소송을 제기할 수 있도록 하는 내용을 담고 있다. 법안이 통과되면 AI 챗봇 운영 기업의 책임도 크게 강화될 전망이다. 이용자가 챗봇의 조언을 믿고 행동했다가 손해를 입으면 서비스 제공 기업을 상대로 민사 소송을 제기할 수 있기 때문이다. 이 같은 규제 움직임은 생성형 AI가 법률·의료 등 전문 분야까지 활용 범위를 넓히면서 잘못된 정보 제공 위험이 커졌다는 우려가 배경으로 지목된다. 동시에 AI가 생성한 법률 조언을 단순 정보 제공으로 볼지, 실제 법률 자문으로 볼지를 두고 법적 해석 논쟁도 이어지고 있다. 실제 미국에서는 AI가 생성한 존재하지 않는 판례가 법원 문서에 인용되는 사례가 발생해 변호사가 제재를 받은 사건도 있었다. 업계에선 이번 법안이 AI 서비스 책임 구조를 강화하는 초기 입법 사례가 될 가능성에 주목하고 있다. 연방 차원의 포괄적 AI 규제가 마련되지 않은 상황에서 주 단위 규제가 확산될 수 있다는 전망도 나온다. 업계 관계자는 "이 법안은 AI가 면허가 필요한 전문직처럼 행동하는 것을 제한하려는 움직임의 일환"이라며 "생성형 AI가 법률 등 전문 분야로 확산되면서 소비자 보호 필요성이 커지고 있다"고 말했다.