[유미's 픽] "감옥에 간 트럼프, 美 차기 대통령?"…딥페이크에 빅테크 '비상'
#. 지난 5월 30일. 도널드 트럼프 전 미국 대통령이 '성추문 입막음 돈' 의혹 사건 형사재판에서 유죄 평결을 받은 이후 사회관계망서비스(SNS)에 그와 관련한 '딥페이크(영상·이미지·음성 조작물)' 이미지가 쏟아져 나왔다. 특히 180만 명의 구독자를 보유한 맷 월리스는 자신의 X 계정에 정장을 입은 트럼프 전 대통령이 감옥에서 두 손을 가지런히 모은 채 굳은 표정으로 카메라를 응시하고 있는 인공지능(AI) 생성 이미지를 올려 11만여 명으로부터 '좋아요' 반응을 받았다. 미국 대통령 선거가 4개월 앞으로 다가온 가운데 빅테크 기업들이 이처럼 AI 기술을 악용한 '딥페이크' 확산을 막기 위해 대응 방안 마련에 분주히 움직이고 있다. 추가 사실을 확인하면 딥페이크 이미지가 가짜란 사실을 알 수 있긴 하지만, 별 관심이 없는 이들이 이미지를 그대로 진실이라 믿을 소지가 많다는 점에서 선거에 악영향을 줄 수도 있어서다. 4일 업계에 따르면 구글은 최근 생성형 AI 등 디지털 방식을 통해 선거 광고를 제작하거나 변경했을 때 이를 의무적으로 공개하겠다는 지침을 마련했다. 선거 광고 게재시 '수정 혹은 합성 콘텐츠' 항목에 표시하는 조항을 만들었는데, 이에 따라 광고주는 디지털 방식으로 생성 및 변경된 정치 선거 관련 광고를 올릴 때 해당 항목에 표시해야 한다. 구글은 지난해 9월에도 빅테크 기업 최초로 선거 광고에 AI 사용 여부 표시를 의무화해 주목 받았다. 구글은 지난해 11월부터 모든 정치적 광고에 들어가는 동영상·사진·음성에서 생성형 AI를 사용한 경우 활용 사실을 '명확하고 눈에 띄게' 명시하도록 하는 규정을 적용했다. 유튜브는 생성형 AI 콘텐츠의 영향을 직접 받는 당사자가 개인정보침해를 사유로 요청할 경우 콘텐츠를 삭제할 수 있도록 했다. 다만 미성년자이거나 컴퓨터에 접근할 수 없을 때, 사망했을 때 등 몇 가지 경우를 제외하곤 당사자가 직접 삭제를 요청해야 한다. 유튜브는 콘텐츠 삭제 요청을 받게 되면 다양한 요소를 고려해 판단을 내린다. 해당 콘텐츠가 특정인을 고유하게 식별할 수 있는지, 패러디나 풍자 또는 대중의 이익을 위한 것으로 간주할 수 있는지 판단한다. 또 해당 콘텐츠에 유명인이 등장하거나 범죄 행위, 폭력, 정치인 지지 등 민감한 내용이 담겼는지도 고려해 삭제 여부를 결정한다. 특히 올해 미국 대통령 선거를 앞두고 생성형 AI 콘텐츠로 표심을 흔들 우려가 높은 만큼 이를 철저히 관리한다는 방침이다. 페이스북, 인스타그램 등을 운영하는 페이스북도 지난 3월 딥페이크를 방지하기 위해 대책을 내놓은 바 있다. 그동안 자체 도구인 메타AI에서 만든 AI 이미지에 라벨을 붙여왔으나, 이를 모든 게시물로 확대했다. 빅테크 기업들이 이처럼 나선 것은 딥페이크 악용으로 인한 가짜뉴스가 선거에 큰 영향을 줄 가능성이 높아서다. 실제로 도널드 트럼프 전 대통령과 공화당 대선 후보 경쟁을 한 론 디샌티스 플로리다 주지사는 경선 과정에서 딥페이크 영상이 48건 제작된 것으로 조사됐다. 디샌티스 후보가 '경쟁을 포기하겠다'고 말하는 등 조작된 영상들은 당시 디센티스 후보의 이미지에 악영향을 줬다는 분석이 많았다. 정치인들이 딥페이크의 주요 타깃이 되고 있다는 점도 우려되는 요소다. 글로벌 딥페이크 보안 업체 센시티에 따르면 딥페이크에 악용된 직업은 정치인이 39.2%로 가장 많고 연예인(29.4%), 기업인(19.6%), 테러범(6.9%) 등이 뒤를 이었다. 이미지 생성형 AI 소프트웨어 '미드저니'는 최근 미국 대통령 이미지를 만들어 달라는 요청에 도널드 트럼프 미국 전 대통령의 모습을 생성해 논란의 중심이 됐다. 이는 미드저니가 미국 대통령 선거를 앞두고 AI가 유력 후보인 트럼프와 바이든의 이미지를 만드는 것을 차단하겠다고 밝힌 후 이뤄졌다는 점에서 더 문제가 됐다. 여기에 미드저니는 차기 미국 대통령 이미지 생성 요청에도 트럼프 전 대통령의 이미지를 만들어 내 눈길을 끌었다. 로이터통신은 "몇 초 만에 텍스트, 이미지, 동영상 등을 만드는 생성형 AI의 빠른 성장은 잠재적 악용에 대한 우려를 불러일으킨다"며 "딥페이크로 인해 진짜와 가짜의 경계가 흐려지고 있다"고 강조했다. 업계 관계자는 "올해 '슈퍼 선거의 해'를 맞아 AI 등으로 제작된 온라인 허위정보가 선거 공정성을 해친다는 우려가 여느 때보다 커진 상황"이라며 "생성형 AI를 이용해 감쪽같이 날조한 이미지들은 특히 요즘 같은 정치적 혼란기에 유권자들의 판단에 영향을 미칠 수 있어 각별한 주의가 요구된다"고 밝혔다.
