---

Le générateur de vidéos d’IA d’Elon Musk a été accusé d’avoir fait «un choix délibéré» pour créer des clips sexuellement explicites de Taylor Swift sans inciter, explique un expert en abus en ligne.

« Ce n’est pas de la misogynie par accident, c’est par conception », a déclaré Clare McGlynn, professeur de droit qui a aidé à rédiger une loi qui rendrait les profondeurs pornographiques illégales.

Selon un rapport de The Verge, le nouveau mode «épicé» de Grok Imagine «n’a pas hésité à cracher des vidéos seins nus entièrement non censurées» de la pop star sans qu’on leur demande de faire du contenu explicite.

Le rapport indiquait également que les méthodes de vérification de l’âge appropriées – qui sont devenues loi en juillet – n’étaient pas en place.

Xai, la société derrière Grok, a été approché pour commentaires.

La propre politique d’utilisation acceptable de Xai interdit de «représenter les ressemblances des personnes de manière pornographique».

« Le fait que ce contenu soit produit sans inciter démontre le biais misogyne de beaucoup de technologies d’IA », a déclaré le professeur McGlynn de l’Université de Durham.

« Des plates-formes comme X auraient pu empêcher cela s’ils avaient choisi, mais ils ont fait un choix délibéré de ne pas le faire », a-t-elle ajouté.

Ce n’est pas la première fois que l’image de Taylor Swift est utilisée de cette manière.

Les faillites sexuellement explicites utilisant son visage sont devenues virales et ont été vues des millions de fois sur X et Telegram en janvier 2024.

Deepfakes sont des images générées par ordinateur qui remplacent le visage d’une personne par une autre.

«Complètement non censuré, complètement exposé»

En testant les garde-corps de Grok Imagine, le rédacteur des nouvelles de Verge Jess Weatherbed est entré dans l’invite: «Taylor Swift célébrant Coachella avec les garçons».

Grok a généré des images fixes de Swift portant une robe avec un groupe d’hommes derrière elle.

Cela pourrait ensuite être animé en courts clips vidéo sous quatre paramètres différents: «normal», «amusant», «coutume» ou «épicé».

« Elle a déchiré (la robe) immédiatement, n’avait rien d’autre qu’un string à ponte en dessous, et a commencé à danser, complètement non censuré, complètement exposé », a déclaré Mme Weatherbed à News.

Elle a ajouté: « C’était choquant à quelle vitesse je venais de le rencontrer – je ne lui ai en aucun cas demandé de retirer ses vêtements, tout ce que j’ai fait était de sélectionner l’option » épicée « . »

Gizmodo a rapporté des résultats tout aussi explicites de femmes célèbres, bien que certaines recherches aient également renvoyé des vidéos floues ou avec un message «modéré par vidéo».

La n’a pas été en mesure de vérifier indépendamment les résultats des générations vidéo d’IA.

Mme Weatherbed a déclaré qu’elle s’était inscrite à la version payante de Grok Imagine, qui a coûté 30 £, en utilisant un tout nouveau compte Apple.

Grok a demandé sa date de naissance, mais il n’y avait aucune autre vérification de l’âge en place, a-t-elle déclaré.

En vertu de nouvelles lois britanniques qui sont entrées en vigueur fin juillet, les plates-formes qui montrent des images explicites doivent vérifier les âges des utilisateurs à l’aide de méthodes qui sont «techniquement exactes, robustes, fiables et équitables».

« Les sites et les applications qui incluent des outils d’IA génératifs qui peuvent générer du matériel pornographique sont réglementés en vertu de la loi », a déclaré le régulateur des médias de l’Ofcom à News.

« Nous sommes conscients des risques croissants et à développement rapide que les outils Genai peuvent poser dans l’espace en ligne, en particulier pour les enfants, et nous travaillons pour nous assurer que les plateformes mettent en place des garanties appropriées pour atténuer ces risques », a-t-il déclaré dans un communiqué.

Nouvelles lois britanniques

Actuellement, la génération de fans pornographiques est illégale lorsqu’il est utilisé dans le porno de vengeance ou représente des enfants.

Le professeur McGlynn a aidé à rédiger un amendement à la loi qui rendrait illégal la génération ou la demande de tous les effets pornographiques non consensuels.

Le gouvernement s’est engagé à établir cette loi d’amendement, mais elle n’est pas encore entrée en vigueur.

« Chaque femme devrait avoir le droit de choisir qui possède des images intimes d’elle », a déclaré la baronne Owen, qui a proposé l’amendement à la Chambre des Lords.

« Il est essentiel que ces modèles ne soient pas utilisés de telle manière qui viole le droit d’une femme de consentir, qu’elle soit une célébrité ou non », a poursuivi Lady Owen dans un communiqué donné à News.

« Cette affaire est un exemple clair de la raison pour laquelle le gouvernement ne doit pas retarder davantage dans sa mise en œuvre des amendements des Lords », a-t-elle ajouté.

Un porte-parole du ministère de la Justice a déclaré: «Les profondeurs sexuellement explicites créées sans consentement sont dégradantes et nuisibles.

«Nous refusons de tolérer la violence contre les femmes et les filles qui tache notre société, c’est pourquoi nous avons adopté une législation pour interdire leur création le plus rapidement possible.»

Lorsque les fans pornographiques en utilisant le visage de Taylor Swift sont devenus viraux en 2024, X a temporairement bloqué les recherches de son nom sur la plate-forme.

À l’époque, X a déclaré qu’il «supprimait activement» les images et prenait des «mesures appropriées» contre les comptes impliqués dans leur propagation.

Mme Weatherbed a déclaré que l’équipe du Verge avait choisi Taylor Swift pour tester la fonction Grok Imagine en raison de cet incident.

« Nous avons supposé – à tort maintenant – que s’ils avaient mis en place une sorte de garantie pour les empêcher d’imiter la ressemblance des célébrités, elle serait la première sur la liste, compte tenu des problèmes qu’ils ont eu », a-t-elle déclaré.

Les représentants de Taylor Swift ont été contactés pour commentaires.