AI 선거운동 규제 바뀔까…차지호 의원 "금지 대신 처벌 강화"

생성형 인공지능(AI)을 활용한 선거운동 규제를 전면 금지에서 투명성 중심 관리 체계로 전환하는 공직선거법 개정안이 발의됐다. AI 기술 악용에 대한 처벌은 강화하되, 표현의 자유 침해 논란을 최소화하겠다는 취지다. 16일 관련 업계에 따르면 국회 외교통일위원회 소속 더불어민주당 차지호 의원은 최근 딥페이크 등 생성형 AI 기술을 활용한 선거운동 규제를 합리적으로 재설계한 '공직선거법 일부개정법률안'을 대표 발의했다. 해당 법안은 AI 생성물에 대한 규제 방식을 기존의 일괄 금지에서 표시 의무와 유통 관리 중심으로 전환하는 내용을 담고 있다. 또 본회의를 통과하고 대통령 공포 후 3개월이 경과한 날부터 시행될 예정이다. 현행 공직선거법은 선거일 전 90일부터 딥페이크 영상 등 인공지능 기술로 만든 콘텐츠를 이용한 선거운동을 전면 금지하고 있다. 그러나 기술 발전 속도에 비해 규제가 경직돼 있고 헌법상 표현의 자유를 과도하게 제한할 수 있다는 비판이 꾸준히 제기돼 왔다. 개정안의 핵심은 전면 금지 규정을 삭제하고, 선거운동에 활용되는 AI 생성물에 대해 유권자가 쉽게 인식할 수 있도록 인공지능 생성물임을 명확히 표시하도록 의무화한 점이다. AI 기술로 생성·편집된 영상, 음성, 이미지 등 콘텐츠를 제작하거나 유포할 경우 표시 의무가 적용된다. 대신 허위 정보 유포와 여론 조작에 대해서는 규제를 강화했다. AI 생성물임을 표시하지 않거나 거짓으로 표시해 유권자를 오인하게 하는 행위는 명확히 금지된다. 자동화된 계정, 조직적·계획적 방식, 알고리즘의 인위적 증폭을 통해 특정 후보자나 정당에 관한 허위 또는 오도될 수 있는 정보를 대규모로 확산시키는 행위도 처벌 대상이다. 처벌 수위도 구체화됐다. AI 생성물을 이용해 당선되거나 되게 할 목적으로 허위 사실을 공표한 경우 5년 이하의 징역 또는 3천만원 이하의 벌금에 처하도록 했다. 낙선을 목적으로 후보자나 그 가족에 관한 허위 사실을 공표한 경우에는 7년 이하의 징역 또는 500만원 이상 5천만원 이하의 벌금이 부과된다. 온라인 플랫폼 사업자에 대한 책임 규정도 신설됐다. 대통령령으로 정하는 온라인 플랫폼 운영자는 자동화된 계정 차단, 알고리즘 투명성 확보 등 인위적 정보 확산을 막기 위한 합리적인 관리 조치를 취할 노력 의무를 지게 된다. 이를 정당한 사유 없이 이행하지 않을 경우 3천만원 이하의 과태료가 부과될 수 있다. 표현의 자유 보호 장치도 함께 마련됐다. 풍자, 패러디 등 예술적 표현으로 전체 맥락상 AI 생성물임을 충분히 인지할 수 있고 선거의 공정성을 해할 우려가 없는 경우, 그리고 언론 보도를 목적으로 한 명백한 AI 활용 표현은 표시 의무 적용 대상에서 제외된다. 차지호 의원은 제안 이유에서 "생성형 AI 기술의 급격한 발달로 선거 과정에서 딥페이크를 이용한 허위 정보 유포와 여론 조작 위험이 커지고 있다"며 "규제 방식을 투명성 확보와 유통 관리 중심으로 전환해 디지털 시대에 부합하는 선거의 공정성을 실효적으로 확보하려는 것"이라고 밝혔다.