EU, AI법 투명성 구체화…"한국, 책임 주체·면제 기준 보완 필요"
유럽연합(EU)이 챗봇과 인공지능(AI) 생성 콘텐츠 투명성 규제를 구체화하면서 한국 AI법도 보완돼야 한다는 지적이 나왔다. 정부가 국내 법에 AI 개발·운영·유통 단계별 책임을 명확히 하고, 면제 기준을 구체화해야 한다는 제언이다. 5일 IT 업계에 따르면 EU AI법 제50조는 지난 2일부터 생성형·대화형 AI와 딥페이크 등 특정 AI 시스템에 적용됐다. EU 집행위원회는 지난달 관련 지침을 발표하고 AI 개발·공급 단계와 실제 서비스 운영 단계에서 기업이 부담할 의무를 구체화했다. EU는 이용자가 사람 아닌 AI와 직접 상호작용할 경우 이를 명확히 알 수 있도록 시스템을 설계하도록 했다. 챗봇과 AI 에이전트, 가상 인물 등이 대상이며 첫 상호작용이 시작되는 시점부터 이용자가 상대를 AI로 구분할 수 있어야 한다. AI가 생성하거나 조작한 글과 이미지·영상·음성에는 기계가 판독할 표식을 넣어야 한다. 표식은 AI 생성·조작 여부를 효과적이고 안정적으로 탐지할 수 있어야 하며 다른 시스템과 호환 가능한 방식으로 구현돼야 한다. AI를 실제 서비스에 활용하는 운영사업자에게는 별도 고지 책임이 부과된다. 감정인식이나 생체정보 분류 시스템을 사용할 경우 당사자에게 이를 알려야 한다. 딥페이크와 인간의 실질적 검토 없이 공개된 공공 현안 관련 AI 생성 글에도 사람이 알아볼 수 있는 표시를 붙여야 한다. 한국 AI기본법도 고영향 AI와 생성형 AI를 이용한 제품·서비스를 제공할 때 그 사실을 사전에 알리도록 규정한다. 생성형 AI로 만든 결과물에는 AI가 생성했다는 사실도 표시해야 한다. 또 EU AI법과 달리 국내 AI법은 사람이 알아볼 수 있는 방법과 기계가 판독할 방법 가운데 하나를 선택할 수 있다. 사람이 명확히 인식할 수 있는 표시를 반드시 요구하는 대상도 딥페이크로 한정한다. 전문가들은 EU가 한국보다 AI 생성부터 서비스 운영과 최종 노출까지 단계별 투명성 의무를 더 촘촘하게 설계했다고 평가했다. 정원준 법무법인 광장 수석연구위원은 한국 AI법을 최종 이용자 고지·표시 중심의 유연한 규율로 봤다. 반면 EU는 제공자와 운영자의 책임을 나누고 기술적 표식과 이용자 고지를 함께 요구하는 이중적 투명성 체계에 가깝다고 분석했다. 정 수석연구위원은 "EU는 제공자와 운영자에게 서로 다른 의무를 부과하고 기술적 표식과 사람 대상 고지가 서로 대체되지 않도록 설계했다"고 설명했다. 강지원 법무법인 태평양 변호사는 "EU 가이드라인은 한국과 달리 예약·계약·구매 등을 수행할 때 AI 이용 사실과 대리 주체를 주요 단계마다 알리도록 한다"며 "영화와 광고 등 사업자가 만든 AI 결과물도 이용자에게 노출되는 단계에서 표시 의무를 부과한다"고 설명했다. "한국 AI법, 지금 고치지 않으면 이중 부담 떠안아" 전문가들은 한국이 AI 투명성 의무를 실효성 있게 운영하려면 AI 제공자와 서비스 운영자, 유통 플랫폼별 책임을 구분해야 한다고 지적했다. 면제 대상과 준수 입증 기준을 구체화하고 AI 생성물에 삽입된 표식이 편집·유통 과정에서도 유지되도록 해야 한다는 의견이다. 정 수석연구위원은 AI 가치사슬에 참여하는 사업자별 책임을 명확히 나눠야 한다고 봤다. 현행 AI기본법은 AI를 개발하거나 제공·이용하는 사업자를 'AI사업자'로 묶어 의무를 부과한다. 그러나 생성물이 기반모델 제공자와 API 사업자, 응용서비스 사업자, 광고주, 콘텐츠 플랫폼을 거칠 경우 각 사업자가 어느 단계까지 책임져야 하는지는 불분명할 수 있다. 정 수석연구위원은 "제공자에게 기계 판독 표식과 탐지 수단, 기술문서 제공 의무를 부과해야 한다"며 "서비스 운영자에게는 이용자가 콘텐츠에 처음 노출될 때 고지할 책임을 주고 플랫폼과 중개사업자에게는 기존 표식과 출처정보를 보존할 의무를 부여해야 한다"고 주장했다. 그는 위험 수준에 따라 의무를 차등 적용할 필요도 있다고 봤다. 딥페이크와 사칭광고, 선거·재난·보건처럼 사회적 파급력이 큰 분야에는 엄격한 기준을 적용하되 맞춤법 교정이나 통상적 편집, 기업 내부 이용에는 완화된 기준을 적용해야 한다는 설명이다. 강 변호사는 투명성 의무 면제 기준을 구체화하는 일이 가장 시급하다고 지적했다. 현행 시행령은 서비스명과 화면, 결과물 표시 등을 종합해 AI 서비스라는 사실이 명백한 경우 고지·표시 의무를 면제할 수 있도록 했지만 실제 적용 범위는 불분명하다는 주장이다. 강 변호사는 "번역과 맞춤법·문법 수정, 사소한 스타일 변경처럼 의무에서 제외되는 사례를 구체적으로 제시할 필요가 있다"며 "딥페이크에 해당하는 사례와 그렇지 않은 사례도 세분화해야 기업이 규제 적용 여부를 예측할 수 있다"고 강조했다. 기업이 법을 준수했다는 사실을 입증할 수 있는 체계도 필요하다는 의견이 나왔다. EU는 실행규약에 참여한 기업이 규약상 조치를 준수 근거로 활용하도록 하고 참여하지 않은 기업에는 자체 수단이 동등한 수준으로 적절하다는 점을 입증하도록 한다. 정 수석연구위원은 정부가 인정한 표준이나 행동규범을 지킨 기업에는 준수 추정이나 안전지대를 제공해야 한다고 제안했다. 독자 기술을 사용하는 기업에는 같은 수준의 투명성과 탐지 가능성을 입증할 기회를 줘야 한다고 봤다. 중소·중견 기업을 위한 지원책도 필요하다. 공통 표식 도구와 시험·검증 인프라, 표준계약서를 제공해 투명성 규제가 새로운 시장 진입장벽으로 작용하지 않도록 해야 한다는 설명이다. 또 EU 시장에 진출하는 국내 기업은 한국법 준수에 그치지 않고 파일 변환과 재편집, 플랫폼 업로드 이후에도 기계 판독 표식과 출처정보가 유지되는지 점검해야 한다는 제언도 나왔다. 정 수석연구위원은 "국내 기준이 국제적인 콘텐츠 출처·진위 확인 체계와 지나치게 달라지면 단기적으로는 규제가 가벼워 보여도 장기적으로는 국내 기업이 이중 개발과 이중 준수 비용을 떠안게 된다"며 "국내 단계에서부터 상호운용성과 입증 가능성을 확보하면 우리 AI 서비스의 신뢰성과 수출경쟁력을 뒷받침하는 산업정책적 기반이 될 수 있다"고 밝혔다.
