Deepfake : Les fausses images pornographiques de Taylor Swift font exploser la toile

C’est l’un des défis de la modération face à l’avènement de l’intelligence artificielle : comment faire face aux deepfakes ? Une question d’autant plus actuelle qu’une vidéo pornographique générée par une IA et mettant en scène la superstar Taylor Swift circule activement sur X (anciennement Twitter), comme le rapporte The Verge ce jeudi.

45 millions de vues

La fausse vidéo a provoqué un intérêt certain sur le réseau social, où elle a comptabilisé plus de 45 millions de vues ainsi que 24.000 reposts avec des centaines de milliers de mentions « J’aime ». La vidéo originale et le compte X l’ayant publiée ont finalement été supprimés de la plateforme après plus de 24 heures.

Selon nos confrères, cette réaction tardive est une conséquence directe des licenciements massifs dans les équipes de modération et des règles assouplies au sein de l’entreprise. « La publication d’images de nudité non consensuelle (NCN) est strictement interdite sur X et nous appliquons une politique de tolérance zéro à l’égard de ce type de contenu », a toutefois fait savoir la plateforme dans une récente publication.

Les « Swifties » contre-attaquent

Submergés par une vague de partages, les fans de Taylor Swift ont décidé de contre-attaquer pour sauver l’image de leur idole. Ces « Swifties », comme ils se surnomment, ont alors utilisé les hashtags similaires à ceux partageant la vidéo afin d’inonder les réseaux sociaux d’images authentiques et non explicites de l’artiste.

Les partisans de Taylor Swift avaient également ciblé Elon Musk, exigeant la suppression immédiate de ces images pouvant nuire à la réputation de la chanteuse de 34 ans. Une requête à laquelle X a finalement accédé après un long moment.

D’après les informations de 404 Media, la vidéo proviendrait d’un groupe particulièrement actif sur la messagerie Telegram. Ses membres y partageraient des médias créés par l’IA de Microsoft Designer.