AI로 옷 벗기면 불법…EU, '누디파이' 12월부터 철퇴

사진 한 장으로 실제 인물의 옷을 벗긴 것처럼 이미지를 만드는 이른바 '누디파이(Nudify)' AI가 유럽에서 엄격하게 금지된다. 유럽연합(EU)이 비동의 성적 이미지 생성 AI를 법으로 직접 금지하면서 생성형 AI의 악용을 사후 콘텐츠 삭제가 아닌 AI 시스템 자체의 규제 대상으로 끌어올린다. 1일(현지시간) EU 집행위원회(EC)에 따르면 AI로 동의하지 않은 성적이며 은밀한 콘텐츠를 생성하거나 조작하는 시스템을 금지하는 인공지능법(AI Act) 규정이 오는 12월2일부터 적용된다. 사진 속 인물을 나체처럼 바꾸는 누디파이 앱 등이 대표적인 규제 대상이다. 이 발표는 유럽의회 의원 100명 이상이 EC에 AI 누디파이 규제를 즉각 집행할 준비를 갖춰달라고 요구하면서 나왔다. 일부 여성 정치인도 AI로 생성된 성적 이미지의 표적이 된 것으로 전해졌다. EC 입장은 강경하다. 토마 레니에 EC 대변인은 이날 브리핑에서 AI 생성 성적 이미지 문제에 대해 “이는 불법이며 유럽에서 설 자리가 전혀 없다”고 잘라말했다. 12월2일 금지 규정 시행과 관련해 “EC가 시행 첫날부터 법을 집행할 준비가 돼 있다는 것을 보장할 수 있다”고 강조했다. EU가 누디파이를 규제하는 방식에서 눈에 띄는 점은 생성된 이미지에만 책임을 묻는 데 그치지 않는다는 것이다. 인공지능법은 비동의 성적으로 노골적이거나 은밀한 콘텐츠를 생성하는 AI 시스템 자체를 '금지된 AI 관행'으로 규정하고 있다. 아동 성착취물을 생성하는 AI 시스템 역시 함께 금지된다. 당초 인공지능법에는 누디파이에 대한 명시적 금지 규정이 없었으나 EC는 관련 규제 공백을 검토한 뒤 AI 옴니버스 개정 과정에서 이를 금지 대상에 추가했고, 지난 5월 유럽의회와 EU 이사회가 정치적 합의에 도달했다. EU는 인공지능법뿐 아니라 디지털서비스법(DSA)도 동원하고 있다. EC는 올해 초 일론 머스크의 xAI가 개발한 '그록(Grok)'이 여성의 비동의 성적 이미지와 아동 성착취물을 생성하는 문제가 불거지자 DSA에 따라 조사에 착수했다. 레니에 대변인은 “오프라인에서 불법인 것은 당연히 온라인에서도 불법”이라며 그록 관련 조사가 현재도 진행 중이라고 밝혔다. 그는 또 이 사례를 들어 EU가 DSA 차원에서도 해당 문제를 “매우 심각하게 다루고 있다”고 설명했다. 이에 따라 EU의 생성형 AI 규제는 두 갈래로 작동하게 된다. 온라인 플랫폼을 통해 불법 콘텐츠가 확산되는 문제는 DSA로 다루는 동시에, 비동의 성적 이미지를 만들어내는 AI 시스템 자체는 인공지능법으로 금지하는 구조다. 특히 범용 AI 모델 제공자가 직접 개발한 AI 시스템이나 DSA상 초대형 온라인 플랫폼에 통합된 AI 시스템 등은 EU AI 오피스가 직접 감독하고 집행할 수 있다. EU는 AI 생성물 전반에 대한 투명성 규제도 이미 시행하고 있다. 지난 8월부터 딥페이크 등 AI로 생성·조작된 콘텐츠에는 이용자가 이를 인식할 수 있도록 표시 의무가 적용되고 있다. 다만 누디파이는 단순히 'AI로 만들었다'고 표시하면 허용되는 영역이 아니라 오는 12월부터 AI 시스템 자체가 금지 대상이 된다는 점에서 차이가 있다. 결국 EU는 생성형 AI가 만들어낸 유해 콘텐츠를 발견한 뒤 지우는 방식에서 한발 더 나아가, 특정 용도의 AI는 시장에서 아예 허용하지 않는 단계로 규제를 확대하고 있다. 누디파이가 그 첫 직접적인 규제 대상 가운데 하나다.