"설계된 여성혐오?"…테일러 스위프트, 머스크 'xAI'서 상반신 노출 영상에 '곤혹'
일론 머스크가 이끄는 인공지능(AI) 기업 xAI가 챗봇 '그록'의 이미지·동영상 생성 기능을 출시하며 또 다시 도마위에 올랐다. 성인 콘텐츠 제작까지 가능하게 한 것도 모자라 구체적인 명령을 하지 않았음에도 스스로 유명인들의 상반신을 노출한 영상을 AI로 생성했기 때문이다. 11일 더 버지, BBC 등 주요 외신에 따르면 '그록'이 최근 선보인 이미지·영상 생성 도구 '그록 이매진'은 성인용 옵션인 '스파이시 모드(Spicy Mode)'에서 무분별하게 상반신 노출 영상을 생성한 것으로 나타났다. '그록 이매진'은 지난 4일 그록이 iOS(아이폰 운영체제) 버전을 통해 출시된 서비스로, 유료 가입자들은 명령어를 입력하기만 하면 몇 초 만에 관련 이미지와 15초 분량의 영상을 생성할 수 있다. 다만 오픈AI '소라', 구글 '비오' 등 기존 AI 이미지 생성 프로그램과 달리 '스파이시 모드'를 통해 성인용 콘텐츠 생성 옵션도 함께 선보였다는 점에서 논란이 되고 있다. '스파이시 모드'에선 누드 등 성인용 이미지를 허용하지만, 노출 수위가 일정 기준을 넘으면 시스템이 자동으로 블러(모자이크)를 입혀 검열하는 것으로 알려졌다. 그러나 최근 사용자가 구체적으로 입력하지 않았음에도 실제 명령보다 더 노골적인 콘텐츠를 생성해 문제로 지적 받았다. 실제 더 버지 기자가 '그록 이매진' 스파이시 모드에 '테일러 스위프트가 남자들과 함께 코첼라(미국 음악 축제)에서 환호하는 모습을 만들어라'고 입력하자, '그록 이매진'은 30장가량의 이미지를 생성하며 노출이 심한 의상을 입은 스위프트의 모습을 여러 장 선보여 눈길을 끌었다. 이 중 한 장을 골라 영상으로 변환했을 때는 스위프트가 입던 옷을 갑자기 벗어 던지고 하의에 속옷만 입은 채 춤을 추는 영상도 생성됐다. 또 다른 영상에선 상반신이 노출됐는데, 더 버지가 수동으로 검은 네모를 넣어 해당 부분을 가린 채 공개했다. 더 버지는 "영상 생성 과정에서 별도의 명령어를 입력하지 않았다"며 "영상 만들기 옵션에서 스파이시 모드를 선택했을 뿐"이라고 설명했다. 그러면서 "xAI가 정책상 '외설적인 방식으로 인물의 모습을 묘사하는 것을 금지한다'고 했지만, 그록 이매진이 부분적인 나체를 포함해 선정적인 영상 제작 서비스를 제공하고 있다"며 "그러면서도 스위프트와 같은 유명인의 이미지·영상 생성 방지에 아무런 노력도 하지 않는 것 같다"고 꼬집었다. xAI의 선정성 논란은 이번이 처음이 아니란 점에서도 우려를 낳고 있다. 앞서 xAI는 'AI 캠패니언(동반자)' 기능에서 캐릭터 '애니(Annie)'를 선보였는데, 금발에 짧은 원피스와 망사 스타킹 혹은 얇은 란제리의 옷차림이어서 논란을 일으켰다. 이에 미국 국립성착취예방센터(NCOSE)는 "미성년자도 애니와 대화할 수 있다"며 애플에 그록 앱 이용 연령 제한을 18세로 바꿔야 한다고 요구하기도 했다. xAI가 '스파이시 모드'를 이용할 때 연령 확인을 제대로 하고 있지 않다는 점도 문제다. 최근 영국 등에서 연령 확인 절차에 대한 제재가 강화됐음에도 xAI는 서비스 이용에 앞서 연령 확인을 단 한 번만 진행하고 있는 것으로 파악됐다. 이 때도 사용자가 입력한 나이가 실제 나이와 맞는지에 대한 아무런 증명도 요구하지 않는다는 점에서 무용지물이란 분석도 나온다. BBC에 따르면 영국에선 지난 달 말부터 성인물을 보여주는 플랫폼이 '기술적으로 정확하고 견고하며 신뢰할 수 있고 공정한 방식으로 연령을 검증해야 한다'는 법을 추진했으나, 발효되진 않았다. 클레어 맥글린 더럼대학교 법학 교수는 "(xAI가) 이를 방지할 수 있었지만 하지 않기로 의도적인 선택을 한 것 같다"며 "이는 우연한 여성혐오가 아니라 설계된 여성혐오"라고 주장했다. 이어 "이런 콘텐츠가 요청 없이 만들어진다는 것은 많은 AI 기술에 내재한 여성혐오적 편향을 보여주는 것"이라며 "이번 사례는 영국 정부가 법을 시행하는 데 더 이상 지체하지 말아야 하는 명확한 이유"라고 덧붙였다. 업계에선 이번 일을 기점으로 딥페이크 문제가 더 심각해질 것이라고 전망했다. 스위프트는 지난 해에도 일론 머스크가 운영하는 소셜미디어 X(옛 트위터)를 통해 음란물 딥페이크 영상이 공유돼 몸살을 앓았다. X는 뒤늦게 스위프트의 검색을 플랫폼에서 일시 차단한 바 있다. 더 버지는 "과거 사건이 있었기 때문에 xAI가 연예인 얼굴 합성을 막는 안전장치를 마련했다면 스위프트가 우선 순위일 것이라고 생각했다"며 "하지만 그건 잘못된 추측이었다"고 강조했다. 업계 관계자는 "최근 글로벌 트렌드는 AI 기반 콘텐츠 규제를 강화하고 있는 반면, xAI의 행보는 정반대의 모습"이라며 "AI를 이용한 가짜 이미지와 영상 제작이 이처럼 사회 문제로 떠오르면서 각국마다 빅테크의 생성형 AI에 대한 윤리적 기준이 앞으로 더 강화될 것"이라고 전망했다.
