On le sait, les premières victimes de l'émergence des intelligences artificielles sont… les femmes. Notamment à cause des deepfakes, et plus particulièrement ceux à caractère pornographique, où des femmes se retrouvent dénudées sur internet et sur les réseaux. Dernièrement, des petits malins ont trouvé une nouvelle façon d’humilier les femmes via des deepfakes. Cette fois-ci, elles ne sont pas déshabillées, mais au contraire… Elles sont rhabillées. L’IA à l'origine de ces montages s’appelle Dignif AI, comme nous l'explique Manon Mariani.
Retrouvez la chronique "Veille Sanitaire" de Manon Mariani sur https://www.radiofrance.fr/franceinter/podcasts/veille-sanitaire
Retrouvez la chronique "Veille Sanitaire" de Manon Mariani sur https://www.radiofrance.fr/franceinter/podcasts/veille-sanitaire
Category
😹
AmusantTranscription
00:00 Mais d'abord il est temps d'un détour du côté des réseaux sociaux avec la Margot
00:03 Roby du service public.
00:04 Est-ce que je vous rappelle le contenu de ce vocal qu'elle avait envoyé à Quentin
00:07 et dans lequel elle racontait se sentir oppressée par les fans ?
00:10 Tout ces gens qui la reconnaissent et la dévisagent dans la rue grosso modo, c'est
00:13 ce que tu dis.
00:14 Un vocal qui avait été rapidement suivi d'un autre.
00:16 N'envoie pas ce voc-amateur parce que ça fait vraiment connasse et qui te la pète.
00:20 Parce que je suis.
00:21 Cette lucidité, c'est admirable.
00:26 Manon, dites-nous, même si ça doit encore braquer les projecteurs une fois de plus
00:29 sur vous, c'est difficile, quoi de neuf sur les réseaux ? Une IA pas comme les autres
00:33 je crois ?
00:34 On le sait, j'en parle beaucoup ici.
00:35 Les premières victimes de l'émergence des intelligences artificielles sont les femmes.
00:39 Notamment à cause des deepfakes, ces fausses images qui mixent le visage d'une personne
00:43 réelle avec un corps qu'elle n'a pas.
00:45 Il y en a des milliers.
00:46 Des deepfakes surtout dits pornographiques où des femmes se retrouvent dénudées sur
00:50 internet et sur les réseaux.
00:51 Des trucages humiliants et sexistes qui ne servent qu'à souviendre les fantasmes de
00:55 certains pervers.
00:56 Mais vous en avez été victime, tout comme la chanteuse Taylor Swift qui a été victime
01:01 d'une vraie campagne de deepfakes sur X, les fans de la chanteuse.
01:04 Se sont tellement mobilisés pour dénoncer cet acharnement que X a bloqué les recherches
01:08 sur la chanteuse pendant 48 heures.
01:10 Les deepfakes sont devenus un véritable sujet de société alors que les IA qui les génèrent
01:14 se multiplient.
01:15 Et dernièrement, des petits malins ont trouvé une nouvelle façon d'humilier les femmes
01:20 via des deepfakes cette fois-ci.
01:21 Elles ne sont pas déshabillées mais au contraire, elles sont rabillées.
01:25 L'IA s'appelle Dignify.
01:28 Ça se termine par AI pour Artificial Intelligence.
01:32 C'est exactement un jeu de mots qui donne le ton de la démarche puisqu'en anglais
01:35 dignify veut dire « digne ». C'est donc une façon de dire que cette IA va rendre
01:39 « digne » les femmes.
01:41 Concrètement, ceux qui l'utilisent s'amusent à faire des avant-après où ils prennent
01:44 des photos de véritables femmes qui se trouvent sur internet et ils les rabillent.
01:48 Je précise que les photos utilisées sont autant des photos d'actrices de X que des
01:52 photos de jeunes femmes sur Instagram, que des unes de magazine.
01:55 Bref, tout y passe.
01:56 Le but ? Enlever leurs tatouages, cacher leur décolleté, leur ventre, leurs fesses, changer
02:01 leur coiffure pour qu'elles correspondent à un modèle qui plaît aux conservateurs,
02:05 aux traditionnalistes.
02:06 Dernièrement, des célébrités en ont aussi fait les frais comme l'actrice Kirsten Stewart.
02:10 Elle a fait la une du Rolling Stone américain, main dans la culotte, ventre à l'air et
02:14 décolleté apparent.
02:15 Une qui a donc été modifiée par cette fameuse IA pour lui mettre une robe qui cache bien
02:20 tout son corps avec un foulard autour du cou, du vernis sur les mains et une coiffure d'épouse
02:25 des années 50.
02:26 Mais elles sont visibles où ces photos ? C'est tout le problème.
02:29 A l'origine, ces avant-après étaient surtout partagés sur le forum 4chan, très utilisé
02:33 par les masculinistes, et se partageaient une sorte de mantra pour expliquer leurs actions.
02:37 Quentin, je vous laisse le lire.
02:39 « Avec le pouvoir de l'IA, nous purifierons les femmes de leurs tatouages, nous les libérerons
02:43 de leurs persignes et nous rallongerons leurs jupes.
02:46 » Ça fait très secte dit comme ça, mais venant de ce type de personnes, ce n'est
02:49 pas très étonnant.
02:50 Ce qui est le problème, c'est que ça a pris beaucoup plus d'ampleur ces derniers
02:53 temps car dorénavant, il y a carrément un compte X dédié à ces photos deepfake qui
02:57 s'appelle tout simplement « dignify » et qui compte 50 000 abonnés.
03:00 Un compte, encore une fois, pas modéré où il n'est pas précisé dans la description
03:04 qu'il s'agit d'un compte de deepfake et qui est évidemment accessible à tout
03:08 le monde.
03:09 Dans sa description, il donne le temps puisqu'il est dit « nous sommes en train de lancer
03:12 un mouvement ».
03:13 Et on sait qui est derrière ça ? Alors pas nommément, mais ça apparaît quand même
03:16 assez clair qu'on est sur le portrait type d'hommes hétéros qui ont fait du sexisme
03:19 leur moteur de pensée.
03:21 Probable aussi que ce soit des conservateurs, parce que couvrir le corps des femmes ressemble
03:25 à une démarche puritaine qu'on retrouve dans ce camp.
03:27 Et puis selon le site Dazed, la première bio du compte X était « make dignity great
03:33 again ». Un remix du fameux slogan présidentiel de Donald Trump, au cas où on l'aurait
03:37 oublié.
03:38 On est donc aussi sur des militants pro-Trump.
03:40 D'ailleurs, si ce compte est devenu viral, c'est en partie à cause de l'influenceur
03:44 conservateur américain pro-Trump, Jack Posobiec, qui l'a partagé sur son compte X, suivi
03:48 par plus de 2 millions de personnes.
03:49 Bref, aucune surprise dans ce portrait robot que je viens de vous dresser.
03:53 Ces hommes qui objectifient le corps des femmes, qui en font leur propriété, qui se permettent
03:57 de le sexualiser, puis de l'habiller à leur guise comme si ces corps étaient des
04:00 poupées à leur merci, des femmes qui pourraient être leur mère, leur sœur ou leur petite
04:05 amie.
04:06 Eux, ils se disent être des trolls d'internet, ça les fait rire.
04:08 Sauf que ça fait aussi des victimes.
04:10 L'une d'entre elles dit au magazine Rolling Stone, je cite « En fin de compte, ce qu'ils
04:14 essaient de faire, c'est de révoquer votre capacité de consentement et de révoquer
04:19 votre autonomie corporelle sur internet.
04:21 C'est juste une énième tentative de nous faire sentir mal à propos des personnes que
04:25 l'on naît en ligne.
04:26 Je trouve que ça résume bien les choses.
04:28 NICOLAS : Merci Manon pour cette magnifique chronique.
04:30 Salomé, attendez la fin de l'émission pour prendre un selfie avec Manon, elle sera à disposition.