La porno générée par intelligence artificielle vue par les pros

Il y a quelques semaines, un schisme bouleversant a frappé la communauté des créateurs de contenu Twitch. Brendan Ewing, alias Atrioc, a fait un stream où l’on pouvait apercevoir une page de son navigateur ouverte sur un site porno.

Bon, no big deal, peut-on se dire. Mais le site en question était 1) payant, 2) spécialisé dans la pornographie faite par deep fake, c’est-à-dire par intelligence artificielle, et 3) la vidéo que consultait Atrioc était une fausse porno mettant en vedette une autre figure bien connue de Twitch : QTCinderella.

Il n’en fallait pas plus pour que la chicane pogne dans les commentaires. Depuis, le débat autour de la porno faite par deepfake fait rage. Certains y voient une forme d’art, évoquant la liberté d’expression et le droit au divertissement. D’autres soulèvent les enjeux éthiques, moraux et légaux des deepfakes.

« Le niveau de dysmorphie corporelle que j’ai ressenti depuis que j’ai vu ces photos m’a ruinée. Ce n’est pas aussi simple que d’être “simplement” violé. C’est tellement plus que ça », rapportait sur Twitter QTCinderella après la situation avec Atrioc. Elle a également entamé des poursuites judiciaires contre les créateurs des vidéos.

C’est vrai que c’est weird de payer quelqu’un pour faire une fausse vidéo porno d’autrui sans leur consentement, surtout si c’est l’un de vos collègues. Ça vous vaudrait très certainement une rencontre avec le département des RH

Les deepfakes peuvent être utilisées de toutes sortes de façons, surtout dans le monde de l’audiovisuel. Mais la réalité est qu’entre 90 % et 95 % de ces vidéos sont de la porno. La plupart de ces contenus sont souvent générés avec des célébrités féminines comme Gal Gadot et Emma Watson qui se retrouvent dans une variété de scénarios sexuels.

Mais s’il ne faut que quelques photos ou une courte vidéo pour générer une fausse porno, qu’en est-il des travailleuses du sexe, dont les corps nus sont déjà exposés et avec lesquels les créateurs de deepfake peuvent encore plus facilement faire du contenu? On en a jasé avec Lacey, une cameuse montréalaise installée dans l’ouest du pays.

Lacey est lucide et quelque peu blasée face à l’idée de se retrouver dans cette situation, mais elle se fâche surtout pour celles qui se retrouvent dans de pareils contenus sans même être dans l’industrie. « C’est certain que ça m’est déjà passé par la tête qu’on pourrait faire des deepfakes avec mon contenu, dit-elle. Mais vu que je fais vraiment du caming, ça ne me dérange pas plus que ça. Du contenu de moi existe déjà, alors que du nouveau, faux contenu en soit créé, ce n’est pas la fin du monde. »

Ayant une base fidèle de spectateurs avec lesquels elle entretient une relation particulière, Lacey se dit peu préoccupée par la perte d’argent que pourrait occasionner des deepfakes d’elle. « Les gens qui font de la porno deepfake sont des enculés qui, au bout du compte, font beaucoup de mal à l’industrie du sexe, en plus d’en faire à leurs victimes. Mais j’ai vraiment arrêté de me mettre dans tous mes états pour des situations comme celle-là, que je ne peux pas contrôler ou résoudre. C’est une bataille perdue d’avance. »

Il faut savoir que dans la plupart des cas, la création et la distribution de porno deepfake n’est pas illégale. C’est la notion de consentement qui pose problème : ni QTCinderella, ni Emma Watson, ni la plupart des autres personnalités publiques qui se retrouvent sur ces sites n’ont consenti à ce que ces vidéos d’elles soient produites. De se voir à l’écran pratiquer des actes sexuels auxquels on n’aurait jamais soi-même songé, ça peut être troublant.

« Je crois que c’est surtout nuisible pour les gens qui n’ont jamais fait de travail du sexe et n’ont jamais consenti à ce que des images d’eux dans ce genre de position soient diffusées, souligne Lacey. Cela dit, c’est vraiment une industrie de trou de cul. De faire de l’argent en sexualisant les gens sans leur consentement, c’est juste dégueulasse. »

Il est vrai que dans un écosystème en ligne où les violences faites aux femmes sont un réel problème, particulièrement dans le monde du jeu vidéo, la deepfake participe à une culture du viol, ou du moins à quelque chose qui s’en rapproche. Et ça devrait nous pousser à nous poser la question : comment se fait-il qu’à chaque fois qu’une nouvelle technologie pleine de potentiel est rendue publique, on trouve le moyen de l’utiliser pour harceler les femmes?

Comme l’expliquait Sweet Anita – une autre personnalité Twitch dont Atrioc avait consulté des deepfakes – en entrevue avec le média spécialisé Kotaku : « Ils veulent te voir comme une pute, quoi que tu fasses. Et ils veulent te détester, parce que tu es une pute. Peu importe que tu participes ou non, ils te feront participer ».

Légalement, peu de recours existent. La plupart des gouvernements peinent à comprendre les rouages de l’internet en tant que phénomène et à adopter des lois pour régir les contenus potentiellement dangereux qui s’y retrouvent. Comme nous le répétaient nos parents quand on mettait sur Facebook des photos de nous sur le party : « Si c’est sur internet, c’est là pour toujours! »

Et même dans les cas où les victimes parviennent à faire retirer les contenus, ceux-ci ont déjà été téléchargés, partagés et édités, donc le mal est fait. Des proches des victimes, leurs collègues et leurs amis ont peut-être vu ces vidéos, et beaucoup de gens n’ont simplement pas assez de connaissances internet pour deviner qu’elles sont falsifiées. Vraie ou pas, les gens qui ont vu ce contenu auront cette image de vous en tête et ce sera difficile pour eux de l’oublier.

« La seule raison pour laquelle je ne suis pas plus stressée que ça, c’est que j’ai compris que l’internet est trop vaste pour que je le contrôle et trop peu réglementé, estime Lacey. Toutes nos données et infos personnelles se font voler, alors que quelqu’un usurpe mon contenu ne me surprendrait pas. De toute façon, dans le passé, les femmes ont eu peu de succès à combattre ce genre de phénomène. »