Voici pourquoi le deepfake porno est une nouvelle forme de violence sexuelle
Maintenant que les images générées par l’IA ne représentent plus que quelques clics de souris, il n’y a plus aucun obstacle au deepfake porno ou porno hypertruqué. Des millions de femmes célèbres et ordinaires en sont les victimes. C’est l’une des formes d’abus sexuel à l’évolution la plus rapide. Un tout nouveau côté obscur de l’industrie pornographique est en plein essor. Est-il encore possible de stopper le deepfake porno? Et quid de la législation?
En 2022, le nombre de photos et de vidéos hypertruquées a augmenté de 400%. Depuis que l’IA est passée à la vitesse supérieure, elle n’est plus du tout réservée aux nerds et aux spécialistes de l’informatique. Toute personne sachant un peu se débrouiller avec internet peut aujourd’hui créer une nouvelle image à l’aide de programmes accessibles. Certaines se servent de l’IA à des fins créatives et amusantes. Mais il y a aussi un revers à la médaille maintenant que les images de deepfake porno se multiplient de façon exponentielle. Le porno hypertruqué est une forme d’abus sexuel générée par l’IA. Aux États-Unis, on parle aussi d’«imagebased sexual abuse» (abus sexuel basé sur l’image). Il s’agit généralement de pornographie non consentie, où la tête de n’importe quelle femme est «collée» sur celle des actrices porno. Et plus la technologie est avancée, plus il est facile de faire du deepfake porno et plus il est difficile de faire la distinction à l’œil nu avec le porno ordinaire. Même des programmes spécialisés doivent mettre à jour leur logiciel à chaque update pour pouvoir détecter les hypertrucages.
Une violence contre les femmes
Les femmes sont quasi exclusivement les victimes du deepfake porno. En 2019 déjà, l’expert Sensity avait calculé que 96% des images hypertruquées en ligne étaient des images pornographiques non consenties. Dans 99% des cas, il s’agissait de femmes.
Des stars mondiales comme Billie Eilish et Kristen Bell ont déjà été la cible de ces fausses images à connotation sexuelle. Mais de plus en plus de femmes ordinaires sont désormais aussi confrontées à l’IA pornographique. Une enquête menée par NBC a révélé par exemple que des makers créent pour 65 $ à peine sur l’app de messagerie instantanée Discord une vidéo de porno hypertruqué de 5 minutes mettant en scène des «personal girls», soit des femmes ayant moins de 2 millions de followers sur Instagram.
Lorsque QTCinderella, une streameuse Twitch à petite échelle, a été confrontée en février à ce genre d’images d’elle-même, son monde s’est effondré. «C’est à ça que ça ressemble de se sentir violée, de se sentir abusée. C’est à ça que ça ressemble quand on diffuse contre votre volonté des images de vous nue sur internet», a-t-elle déclaré en pleurant dans un live. «Ça ne devrait pas faire partie de mon travail de devoir payer pour faire disparaître ces choses d’internet. Ça ne fait pas partie de mon travail d’être harcelée, de voir diffuser des ‘photos de nu’ de moi.»
En d’autres termes, le deepfake porno apparaît comme une nouvelle façon d’intimider sexuellement des femmes en vue. «Ce n’est pas seulement du porno, c’est du terrorisme. C’est destiné à punir et à faire taire les femmes», a conclu The Guardian en avril.
Huit dollars pour des milliers de deepfakes
Derrière le porno hypertruqué se cache une industrie commerciale brassant des millions et engrangeant des bénéfices sur le dos des femmes qui apparaissent de façon non consentie dans ces vidéos. La personne qui veut faire réaliser une image hypertruquée ne doit souvent même pas pour ce faire aller sur le darkweb. Récemment encore, une app de deepfake à connotation sexuelle a réussi à faire de la pub via Facebook et Instagram avec des photos d’Emma Watson. On y vantait de pouvoir «remplacer n’importe quel visage par n’importe quel autre visage». Google et Apple ont supprimé l’app de leur store, mais le mal était fait. Depuis, des plates-formes vidéo de deepfake à la Pornhub sont apparues. Rien que le plus gros site web totalise chaque mois 17 millions de visiteurs. Selon NBC, ils obtiennent ces chiffres en faisant de la publicité via Discord ou sur Pornhub. Leur atout majeur est leur référencement: celui qui utilise les bons mots-clés dans Google trouve le site en moins de temps qu’il ne faut pour le dire. De plus, un abonnement, affiché à 8 $, est très abordable. Les deux plus grosses entreprises se développent même tellement vite qu’elles doivent recruter du personnel via Discord. Il est possible de postuler via un simple message. Après une formation en hypertrucage, vous pouvez vous lancer et vous êtes rémunéré en cryptomonnaie.
La formule «Une mauvaise publicité, c’est aussi de la publicité» s’applique d’ailleurs aussi ici. Plus les médias en parlent et citent le nom de l’entreprise, plus les utilisateurs sont nombreux à la trouver. Après que l’histoire de QTCinderella soit devenue virale, il y a eu une explosion des recherches dans Google portant sur des sites de deepfake porno, d’après l’experte en livestream Geneviève Oh. En d’autres termes, le porno hypertruqué est extrêmement lucratif, et pratiquement aussi facile à obtenir qu’une canette de coca dans un supermarché.
Retrouvez toute l’actu sur Metrotime.be