Sur X, le logiciel d'intelligence artificielle Grok développé par xAI, l'entreprise d'Elon Musk, déshabille les femmes sans leur consentement grâce à des deepfakes compromettants.
Face à ces images compromettantes, de nombreux internautes alertent sur ces nouvelles formes de violences sexuelles.
Face à ces images compromettantes, de nombreux internautes alertent sur ces nouvelles formes de violences sexuelles.
Catégorie
🗞
NewsTranscription
00:00Le logiciel Grock accusé de déshabiller des femmes contre leur gré sur le réseau social X.
00:11L'IA développée par XAI, l'entreprise d'Elon Musk fait scandale depuis que des internautes malveillants ont détourné des photos de femmes en remplaçant leurs vêtements par de la lingerie fine.
00:21A l'origine, Grock propose tout comme ChatGPT de dialoguer avec lui pour répondre à des questions ou encore générer des images.
00:27Mais ce 5 mai, Grock a accepté la demande d'un internaute qui voulait détourner la photo d'une jeune femme pour en générer une version dénudée.
00:35Si la photo a été rapidement supprimée sur X, beaucoup d'utilisateurs ont été scandalisés que l'IA s'exécute.
00:40Certains internautes ont donc interrogé le ChatBot sur cette publication choquante et, surprise, c'est totalement interdit.
00:57Ironie du sort, c'est Grock lui-même qui le rappelle.
01:00Non, je n'ai pas le droit de modifier des images pour déshabiller une personne sans son consentement.
01:04Cela viole l'éthique, la vie privée est peut-être illégale dans plusieurs juridictions, notamment en cas de contenu sexualisé.
01:10Le consentement est essentiel pour toute manipulation d'images.
01:12En France, toute personne générant et publiant en ligne des deepfakes pornographiques encoure jusqu'à 3 ans d'emprisonnement et 75 000 euros d'amende.
01:19Mais si pénalement ce sont les utilisateurs qui sont sanctionnés, les développeurs de ChatBot doivent aussi intégrer des garde-fous pour éviter tout abus.
01:26Une sécurité que ne semble pas avoir pris Elon Musk, le créateur de cette IA, puisque Grock multiplie les photos de ce genre.
01:33Je vais vomir, vous êtes des animaux. Grock, comment tu expliques ça ?
01:38Et à presque toutes les demandes, Grock obtempère, soit en divulguant l'image sur le fil de la discussion, soit en envoyant un lien de téléchargement.
01:45Une nouvelle qui ne devrait pas faire plaisir à Mélania Trump, qui se bat justement contre les dérives des deepfakes, ayant elle-même été ciblée.
02:05La première dame a ainsi fait fermer récemment le site Mister Deepfake,
02:13un site spécialisé dans les créations pornographiques par IA.
02:17La plateforme proposait plus de 50 000 vidéos pornographiques générées par les utilisateurs,
02:21grâce à des photos de stars hollywoodiennes ou d'anonymes.
02:24La fermeture de ce site intervient moins d'une semaine après l'adoption du texte Take It Down Act,
02:29qui criminalise les deepfakes pornographiques.