생성형AI 위험 제보 387건...사업자 4곳 중 3곳은 '무응답'

생성형 AI 개인정보 침해와 허위 의약품 정보 등 위험 사례를 신고하는 정부 플랫폼이 운영되고 있지만, 사업자들의 대응은 미흡한 것으로 나타났다. 정부가 전달한 제보 4건 중 3건은 사업자로부터 답변조차 받지 못했다. 29일 국회 과학기술정보방송통신위원회 소속 한준호 의원(더불어민주당)이 방송미디어통신위원회에서 제출받은 자료에 따르면, 올해 1월부터 9월까지 '생성형 AI 이용자 참여플랫폼'에 접수된 신고는 총 387건으로 집계됐다. 이 가운데 방미통위가 사업자에게 전달한 사례는 218건이다. 다만, 사업자가 회신한 사례는 53건으로 전체의 24.3%에 불과했다. 나머지 165건(75.7%)은 답변을 받지 못한 상태다. 특히 성적 딥페이크 제작과 개인정보 유출, 의약품 오남용 등 이용자 피해로 이어질 수 있는 사례도 해외 AI 사업자에게 전달됐지만 회신이 없었던 것으로 확인됐다. 지난해 도입된 생성형 AI 이용자 참여플랫폼은 이용자가 AI 서비스에서 발견한 위험 요소를 신고하는 창구다. 방송미디어통신위원회는 접수된 내용을 검토해 사업자에게 개선을 요청하고, 수집한 사례를 이용자 보호정책 수립에도 활용한다. 전문가 검토를 거친 주요 위험 사례에 대해서도 사업자 대응은 저조했다. 방미통위는 올해 두 차례 전문가 자문을 진행한 뒤 6건에 대해 사실관계 확인과 개선계획 제출을 요구했으나, 제출된 자료에서 확인된 사업자 답변은 1건에 그쳤다. 답변하지 않은 사례에는 전문가들이 중대성이 높다고 판단한 초상권 침해와 인종 편향 문제도 포함됐다. 방미통위는 답변하지 않은 사업자에게 전화로 회신을 요청하고 있다는 입장이다. 일부 사업자는 관련 조치를 마쳤다고 밝혔지만, 구체적으로 어떤 기능이나 서비스를 개선했는지는 충분히 확인되지 않았다. 제보 내용을 정책이나 제도 개선에 반영한 실적도 명확하게 제시되지 않았다. 이에 따라 플랫폼 인지도를 높여 이용자 신고를 활성화하는 동시에 사업자의 개선 조치와 처리 결과를 확인할 수 있도록 운영체계를 보완해야 한다는 지적이 나온다. 한준호 의원은 "이용자가 직접 발견한 위험 사례는 AI를 더 안전하게 이용할 수 있도록 돕는 중요한 자료"라며 "더 많은 국민이 플랫폼을 알고 참여할 수 있도록 알리고 사업자도 위험을 줄이는 데 적극 협력하도록 해야 한다"고 강조했다. 이어 "사업이 시작된 지 1년가량 된 만큼 지금은 플랫폼이 제 역할을 할 수 있도록 기반을 다져야 할 시기"라며 "모인 제보를 분석해 서비스 개선과 이용자 보호정책에 활용하고 그 성과를 국민이 체감할 수 있도록 해야 한다"고 밝혔다.