"딥페이크 행위 따라 차등 규제 필요...투명성 의무 확보 중요"

국회가 딥페이크 허위영상물에 대한 성범죄에 대응하기 위해 여러 법안을 쏟아내고 있는 가운데, 딥페이크를 활용한 행위에 대해 차등 규제가 필요하다는 전문가의 주장이 거듭 제기됐다. 딥페이크를 통한 행위들을 단 하나의 범주로 볼 수 없고, 이에 대한 규제 논의가 AI 전체에 대한 규제로 번져 일반화의 오류를 범할 수 있다는 우려에 따른 것이다. 최경진 가천대 교수는 19일 정청래 법제사법위원장이 주최한 국회 정책토론회에 발제를 맡아 “명확한 규제 범위가 필요하다”며 “AI애 대한 일반규제를 지양하고 행위에 대해 차등화된 형태로 규제를 도입해야 한다”고 말했다. 딥페이크가 본격적인 사회적 문제로 떠오른 시점은 국내에 앞서 지난 미국 대통령 선거 과정이다. 당시 트럼프, 바이든 양측 후보의 허위조작 영상물이 선거에 영향을 미칠 수 있다는 경각심을 일깨웠다. 그로부터 4년이 지나 국내에서 딥페이크를 활용한 지인의 성적 허위영상물을 비밀 메신저에 유통하고 있는 행위가 만연하단 것이 드러나며 수십여 건의 법안이 발의되고 범정부 차원의 대응 방안이 쏟아지는 사회적인 문제로 부상했다. 이처럼 민주주의의 꽃인 선거에 영향을 미치는 행위와 피해자의 인격을 완전히 파괴하는 신종 성범죄 행위가 모두 딥페이크가 남용된 사례로 꼽힌다. 아직 빈번하게 발생한 사례는 아니지만 딥페이크가 쓰인 피싱이 만연해지면 신종 사기범죄로 국민의 경제에 파괴적인 문제가 될 수도 있다. 예컨대 음성통화로 수사기관을 사칭하는 수준의 보이스피싱을 넘어 가족의 얼굴이 합성된 영상통화가 피해자를 겨냥한다면 현재 우리 사회가 겪는 문제가 극단적으로 확대될 가능성이 크다. 최 교수는 “딥페이크가 남용되는 영역은 다양하고, 각 영역마다 규제 필요성의 정도가 다를 수 있다”며 “일반적인 딥페이크 영상은 초상권이나 개인정보 침해 정도지만 가짜뉴스로 선거에 활용된다면 강력한 처벌이 필요할 것”이라고 말했다. 이어, “나아가 딥페이크 음란물로 인격을 파괴하는 수준까지 가고 있는데, 이에 대해서는 예방과 경고 차원에서 처벌 수위를 높일 필요가 있다고 생각한다”고 강조했다. 행위에 대한 규제 차등화와 함께 투명성 의무를 확보하는 게 중요한 과제로 꼽혔다. 최 교수는 “딥페이크 음란물을 추적하려면 이 영상이 딥페이크인지 확인할 수 있어야 하고, 이에 따른 기술적 장치를 해야 하는데 워터마킹이 방법이 될 수 있다”며 “또 다른 투명성 의무로 표시 의무가 있는데 AI로 생성된 콘텐츠에 자동적으로 표시가 이뤄지게 하는 것으로 서비스 약관 등 사업자 자율규제로 가능한 부분”이라고 설명했다. 이밖에 딥페이크 성범죄가 한국서 빈번하게 나타났지만, 세계적인 문제인 만큼 국제 공조와 협력적 규제체계가 필요하다는 의견도 강조됐다. 최 교수는 “규제 논의에 앞서 리터러시 확대가 매우 중요하다”며 “딥페이크 음란물을 장난으로 만드는 사람이 많은데 매우 심각한 문제라는 것을 스스로 알게 해야 하기 때문에 교육과 리터러시도 강화하는 방안으로 가는 것이 바람직하다”고 말했다.