AI 생성 '가짜 의사·전문가' 광고 범람...막아질까
소셜네트워크서비스(SNS)를 중심으로 AI 생성 '가짜 의사'·'가짜 전문가' 광고가 급증하며 사회적 피해가 커지자 정부가 대응에 나섰다. 실제 의료인을 연상시키는 가상 인물이 각종 제품을 추천하는 영상이 빠르게 퍼지면서 소비자가 사실 여부를 판단하기 어려워진 탓이다. 정부는 피해 확산을 막기 위해 AI 생성물 표시의무제를 도입하기로 했고, 플랫폼 업계도 이에 맞춰 대비책을 마련할 방침이다. 딥페이크 광고…왜 문제인가 최근 유튜브나 인스타그램 등에서 흰 가운을 입고 전문 용어를 사용하는 의사가 영양제나 다이어트 보조제 등을 추천하는 형태의 짧은 영상 광고를 쉽게 발견할 수 있다. 문제는 이들 상당수가 실제 전문가가 아니라 생성형 AI로 만들어진 '가짜 의사'이거나 '가짜 전문가'라는 점이다. 실제 식·의약품 분야에서 이러한 허위·과장 광고가 빠르게 증가하고 있으며, AI에 익숙하지 않은 노년층 피해 우려가 높아지고 있다는 것이 정부 측 설명이다. 딥페이크 광고가 위험한 이유는 신뢰 프레임을 교묘히 활용한다는 데 있다. 전문 용어, 의료기관 배경 이미지 등 소비자에게 익숙한 권위적 요소를 결합해 시각적으로 높은 신뢰도를 형성할 수 있어서다. 일부러 프랑스어나 독일어 등 영어가 아닌 외국어를 활용한 영상에 자막을 입혀 소비자가 전혀 다른 내용을 인지하도록 현혹시키는 경우도 있다. 여기에 SNS 알고리즘이 결합하면서 노년층에게 추천되는 정보 흐름이 왜곡되는 악순환이 발생한다. 기존 규제로는 막지 못한 '가짜 전문가 광고' 이 같은 문제는 단순한 허위광고 영역을 넘어섰다는 평가가 나온다. 기존 표시광고법과 심의 절차만으로는 생성형 AI가 만들어내는 정교한 딥페이크 광고를 신속히 적발·차단하기 어렵기 때문이다. 현행 심의 체계는 사후 제재 중심으로 운영돼, 이미 광고가 퍼진 뒤에야 조치가 이뤄지는 구조적 한계가 있었다. 또한 플랫폼 기업은 허위광고 신고를 접수하면 삭제 조치를 취할 수 있지만, 광고 제작자가 AI로 새로운 영상·이미지를 반복적으로 생성하면 대응이 뒤따르기 어려운 상황이 이어져 왔다. 광고 제작 방식 또한 빠르게 변화하고 있다. 텍스트 몇 줄만 입력해도 '전문가 조언 영상'처럼 보이는 콘텐츠가 자동 생성되면서, 규제보다 기술 발전 속도가 훨씬 빨라지는 현상이 발생했다. 또 AI가 생성한 의사 등 전문가가 식품·화장품·의약품 등을 추천하는광고가 관련 법령상 소비자를 기만하는 광고에 해당하는지 불분명 한 것도 기존 규제 한계로 지적된다. AI로 생성된 '가짜 의사'라도 소비자 입장에서 실제 의사인것으로 오인할 수 있어, '의사 등 전문가'에 포함되는 것으로 해석이 필요하다는 설명이다. 다만, 현행 규정을 엄격하게 해석할 경우 AI가 아닌 '사람'의 추천 광고만 위법한 것으로 오해 가능해 명확화를 위한 보완 입법이 필요한 실정이다. 정부 'AI 생성물 표시의무제' 시행 정부는 이런 문제를 차단하기 위한 핵심 대책으로 내년 1분기 까지 AI 생성물 표시의무제를 도입한다는 계획이다. 앞으로 AI로 만들어진 사진·영상·음성 콘텐츠를 게시할 때는 제작자가 이를 명확히 표시해야 한다. 이를 플랫폼 이용자가 임의로 지우거나 변조하는 것도 금지된다. 심의·차단 속도 또한 대폭 끌어올린다. 방송미디어통신위원회와 방송미디어통신심위원회는 식·의약품·화장품·의료기기 등 피해가 빈발하는 영역을 24시간 서면심의 대상에 추가한다. 신고가 접수되면 하루 안에 신속한 판단이 이뤄지도록 하는 구조다. 식약처의 패스트트랙 심의 신청 시스템도 기존 마약류에서 식·의약품 광고 전반으로 확대된다. 여기에 방미통위가 플랫폼 기업에 직접 긴급 시정요청을 내릴 수 있는 권한까지 도입해, 심의 완료 전에 차단하는 '즉각 대응 체계'도 마련된다. 허위·과장광고에 대한 징벌적 손해배상(최대 5배)과 과징금 상향도 추진되면서, AI를 악용한 광고 행위에 대한 억제력은 강화될 전망이다. 플랫폼도 AI 콘텐츠 엄격 관리해야 플랫폼 기업에도 책임이 부여된다. 콘텐츠 업로드 과정에서 표시 방법을 안내하고, 제작자가 이를 준수하도록 관리해야 한다. 플랫폼이 단순 중개자로서 책임을 회피하기 어려워지는 구조다. 이미 국내외 플랫폼사들은 AI를 활용한 콘텐츠를 플랫폼에 업로드할 시 이를 표시할 수 있는 라벨 기능을 제공 중이다. 네이버는 블로그나 카페 등에 AI를 활용한 콘텐츠를 공유할 때 AI활용 설정을 하도록 했고, 유튜브와 인스타그램, 틱톡 등도 이미 지난해부터 AI 콘텐츠 라벨을 붙이는 정책을 시행 중이다. AI를 부적절하게 활용해 문제될 수 있는 광고나 콘텐츠와 관련해서도 기업들이 일부 대비하고 있는 것으로 나타났다. 메타의 경우 AI를 활용해서 만든 광고에 AI 정보가 자동으로 포함된다. 또, 사회 문제나 정치 관련 광고에 대해 디지털 방식으로 제작되거나 조작된 광고에 대해서는 해당 사실을 공개해야 하며, 지정된 시나리오를 공개하지 않으면 광고를 삭제할 수 있도록 했다. 구글의 경우 AI 활용 여부와 상관 없이 제품이나 서비스와 관련해 과장되거나 부정확한 주장이 포함된 광고는 정책상 허용하지 않고 있다. 틱톡은 사회에 해를 끼치거나 오해를 불러일으킬 수 있는 특정 유형의 AI 생성 콘텐츠 게시물을 불허하고 있다. 권위 있는 출처인 것처럼 보이도록 콘텐츠를 위조하는 행위나 특정한 맥락에서 위조된 공인을 보여주면서 오해를 일으키는 콘텐츠도 금지한다. 아울러 AI와 기타 디지털 편집 기술이 사실과 허구를 구별하기 어렵게 만들어 개인에게 오해를 불러일으키거나 사회에 해를 끼치는 것도 방지한다. 국내 플랫폼 업계 관계자는 "현재 AI를 활용한 콘텐츠를 표시할 수 있는 기능을 넣어뒀지만, 앞으로 더 명확한 잣대를 가지고 모니터링을 할 계획"이라며 "관련 법령이 구체적으로 공개되면 그에 맞춰 준비를 하겠다"고 말했다. 일각에서는 표시의무제 도입이 실효성을 담보할 수 있을지 의문을 제기한다. 워터마크나 메타 데이터를 변조하면 AI 생성물 표시는 여전히 제거될 수 있고, 국외 플랫폼에 대한 규제 집행력도 제한적이기 때문이다. 이와 관련 방미심위 관계자는 "법령 상으로 AI로 만든 광고에 대한 불법성이 명확하다면 국내 사업자에는 시정요구를 할 수 있고, 해외 사업자의 경우 접속 차단을 할 수 있다"며 "방미심위에서는 이와 관련 별도로 모니터링을 하고있지는 않지만, 식약처가 불법성 여부를 1차적으로 확인한 후 삭제 요청 시 해외 사업자의 경우 별도 협력체계가 있어서 빠르게 접속 차단이 가능하다"고 설명했다.
