X 일본법인, 성적 이미지 논란 AI '그록' 불법이용 경고…위반자 계정 동결·법적조치

미국 엑스(X·옛 트위터)의 일본법인 X Corp. 재팬은 X 플랫폼 이용할 수 있는 생성형 AI '그록'으로 불법콘텐츠를 제작하지 말 것을 경고했다고 일본 IT미디어가 보도했다. IT미디어에 따르면 X재팬은 지난 6일 공식 공지에서 규정을 위반하면 계정을 영구정지하는 등 엄정한 조치를 취할 수 있다고 밝혔다. X에서는 지난해 말부터 그록의 이미지 편집기능을 이용해 실존 여성 사진 등을 무단으로 성적 왜곡하는 사례가 이어졌다. X재팬은 X의 안전성 관련 정보를 보내는 공식 계정(@Safety)이 4일 게재한 영문 내용을 번역해 일본 사용자에 주의를 당부했다. 불법 콘텐츠를 포함한 게시물은 삭제하거나 계정 영구동결 등의 조치와 함께 행정당국이나 사법기관 등과 협력해 대응할 수 있다고 전했다. 그록으로 불법 콘텐츠를 만들거나 부추겼을 때도 같은 처분이 내려질 수 있다고 덧붙였다. X는 폭력·괴롭힘·폭력적 발언·아동 성착취·개인정보·합의업는 알몸 사진 등 불법적이거나 규약에 위배되는 행위를 엄격하게 금지하고 있다.