EU, AI 콘텐츠 표시법 구체화…"韓, 기준 보완 필요"
유럽연합(EU)이 인공지능(AI) 생성 콘텐츠 식별 체계를 구체화한 가운데, 국내 업계에선 한국 AI기본법에서도 정교한 기술적 가이드라인이 필요하다는 지적이 나왔다. EU 집행위원회는 지난 3일 AI 생성물 투명성 확보를 위한 'AI 생성 콘텐츠 표시·라벨링 실천 규범(Code of Practice)' 2차 초안을 공개했다. 이 규범은 AI법(AI Act) 제50조에 따른 투명성 의무를 알리는 가이드라인이다. 적용 시점은 올해 8월이다. 초안에 따르면 해당 실천 규범 대상은 AI 시스템 제공사와 배포 기업으로 각각 구성됐다. AI 시스템 제공사는 오픈AI, 구글 등 AI 기술을 직접 개발하는 기업이다. 배포 기업은 영화사, 언론사 등 AI 기술을 실제 서비스에 활용해 콘텐츠를 대중에 전달하는 기업이다. 첫 번째 부문은 AI 기술을 직접 개발·공급하는 기업 대상이다. 이들은 AI 플랫폼 유통 과정에서 AI 표시 정보가 삭제되지 않도록 기술적 장치를 강화해야 한다. AI 개발사는 최소 두 개 이상으로 구축된 기술적 마킹 층위를 구축해야 한다. AI가 만든 콘텐츠라는 표시를 한 가지 방법이 아니라 여러 층위로 설정해야 한다는 의미다. 이를 통해 오디오·이미지 등 콘텐츠에 디지털 서명·타임스탬프 등이 포함된 메타데이터를 삽입해야 한다. 또 콘텐츠 내부에는 비가시적 워터마크를 결합해 표시 정보를 분리할 수 없도록 하는 것도 필수다. 개발사는 누구나 무료로 AI 생성 여부를 확인할 수 있는 탐지 도구도 공개해야 한다. 사업을 중단하더라도 과거에 만든 AI 생성 콘텐츠를 식별할 수 있도록 관련 기술을 유지해야 한다. 필요시 탐지 기술을 정부 당국에 제공할 의무도 부여된다. EU는 중소기업과 스타트업 부담을 고려해 일부 절차를 간소화했다. 이용자 혼란을 줄이기 위해 EU 공통 아이콘과 디자인 표준도 마련할 방침이다. 플랫폼마다 제각각인 표시 방식을 일정 수준 통일하는 것이 목표다. 두 번째 부문은 영화사, 광고 대행사 등 AI로 실제 서비스를 운영하거나 콘텐츠를 대중에게 전달하는 기업 대상이다. 눈에 보이는 'AI 라벨링'에 집중한다. 해당 부문에선 딥페이크 등 AI 생성 텍스트·이미지 표시법에 초점 맞췄다. 이번 초안에선 AI가 완전히 생성한 콘텐츠와 AI가 일부 보조한 콘텐츠를 구분하던 기존 분류 체계를 삭제했다. 대신 AI로 만든 아이콘, 라벨, 안내 문구 디자인과 표시 위치에 대한 최소 기준을 제시했다. 기업이 서비스 특성에 맞게 표시 방식을 설계할 수 있도록 일정 수준의 유연성도 유지했다. 한국 AI기본법, 산업 진흥·안전 균형 고려..."구체화 필요" 국내 업계에선 AI 표시법 부문에서 EU가 한국보다 기술적 기준을 구체적으로 명시했다는 평이 나오고 있다. 한국도 AI 사업자에게 AI 생성 콘텐츠 표시 의무를 제시했다. 이를 위반할 경우 최대 3000만 원 과태료를 부과한다. 현재 정부는 EU처럼 의무자를 세분화하지 않았다. EU는 AI 개발사와 배포사 각각 준수 부문을 고지했지만, 한국 AI법에서는 이를 모두 AI 사업자로 통합했다. 국내 AI법은 EU와 달리 워터마크나 메타데이터 중 기술적 방식을 기업이 선택할 수 있게 자율성을 줬다. EU처럼 외부 검증용 도구 공개 강제성도 없다. 국가가 제시한 단일 규격 사용도 강제하지 않고 있다. 익명을 요청한 국내 AI 업계 관계자는 "한국은 AI 산업 경쟁력 확보를 위해 기업 자율적 혁신을 최대한 존중하는 방향으로 규범을 설계한 것으로 보인다"며 "EU처럼 AI 표시 의무자 대상을 현재보다 세분화하는 방안은 필요해 보인다"고 말했다.
