Dans cet épisode de Sci-Tech, nous explorons la résurgence rapide des deepfakes, portée par les avancées de l'IA générative.
Category
🗞
NewsTranscription
00:00Et nous avons reçu des mails dégueulasses demandant de l'argent, promettant des choses trop bonnes pour être vraies.
00:09Une intelligence artificielle pourrait être utilisée pour essayer de nous déguiser.
00:13Un deep fake est une copie produite par l'IA d'un être humain.
00:17Et cette technologie rend le fraude d'un nouveau type très très possible.
00:22Une banque lutte contre les deepfakes avec des deepfakes.
00:27Pour les fraudes, c'est un outil puissant qu'ils peuvent utiliser pour voler votre argent.
00:35Bienvenue à cette édition de SciTech de Londres, où nous nous déversons dans la croissance des deepfakes.
00:40Vidéo, audio et photos qui semblent réelles, mais ne le sont pas.
00:44Comme cette introduction, ce n'était pas moi.
00:47En fait, c'était mon avatar, créé en utilisant l'intelligence artificielle.
00:52Pouvez-vous dire la différence ?
00:56Mon avatar a été créé avec mon consentement grâce à une plateforme dirigée par Synthesia.
01:01Elle produit des contenus générés par l'intelligence artificielle pour des raisons légitimes.
01:06Comme des vidéos de formation, de marketing et de service client.
01:10Avec des garanties strictes en place.
01:13Nous n'aurions jamais créé un avatar de quelqu'un sans leur explicite consentement.
01:16L'autre est le contrôle.
01:17Nous appliquons la modération des contenus sur les vidéos créées.
01:20Et le troisième est la collaboration.
01:22Nous travaillons avec des groupes d'industrie, avec les gouvernements et les policiers
01:26pour s'assurer que la technologie soit développée et utilisée de manière responsable.
01:32Les deepfakes qui ont un intent malicieux
01:34copient l'image de personnes réelles
01:36de photos, vidéos et audio
01:39pour les mal-représenter ou une organisation.
01:42Le professeur Michael Woodridge,
01:44un expert de l'intelligence artificielle à l'Université d'Oxford,
01:47dit que la technologie s'améliore rapidement.
01:52Si vous pouvez le faire jusqu'au point
01:54où vous pouvez être en contact
01:56avec quelqu'un que vous pensez être votre boss
01:58en regardant une vidéo de quelqu'un
02:00et c'est une vidéo produite par l'intelligence artificielle
02:02sur l'autre côté,
02:03alors ça commence à devenir très difficile
02:05de savoir ce qui est réel et ce qui est faux.
02:07Dans un surveil publié en juillet,
02:10juste plus de 40% des répondants,
02:12âgés 16 ans et plus,
02:14ont dit avoir vu un deepfake
02:16dans les six dernières semaines.
02:18Mais moins de 1 en 10
02:20ont dit avoir pu le voir.
02:24Une banque a maintenant lancé une campagne
02:26qui déploie son propre contenu deepfake
02:28pour amener l'awareness des dangers.
02:31Comme vous l'aurez peut-être imaginé,
02:33ce n'est pas moi, c'est un deepfake
02:35créé pour vous rappeler des deepfakes.
02:37Les entreprises technologiques
02:39tâchent aussi des deepfakes.
02:41Cette nouvelle fonction de téléphone
02:43pète l'intelligence artificielle contre l'intelligence artificielle,
02:46en permettant aux utilisateurs de voir
02:48ce qui est réel et ce qui n'est pas.
02:50L'intelligence artificielle de l'appareil
02:52apporte un scan facial d'une personne
02:54dans une image ou un vidéo.
02:56L'algorithme analyse les choses comme la composition,
02:58s'il y a des imperfections de pixels
03:00ou s'il y a des anomalies
03:02dans les fonctionnalités faciales
03:04de la personne dans l'image ou le vidéo.
03:06Et crucialement, il permet aux utilisateurs
03:08de voir en temps réel si cette personne est réelle.
03:10Voyons un exemple spécifique.
03:12Si nous regardions cette dame,
03:15que pensez-vous? Réel ou faux?
03:17C'est difficile à dire, n'est-ce pas?
03:19Je ne sais pas si c'était un deepfake ou non.
03:21Voyons un exemple.
03:23Si je clique sur la capsule magique,
03:25vous pouvez voir que l'intelligence artificielle
03:27apporte un scan facial
03:29pour déterminer si cette personne est réelle.
03:31Et dans quelques secondes, nous avons une réponse.
03:33Ici, nous pouvons voir que le swap de visage
03:35a été détecté et la probabilité
03:37que cette personne n'est pas réelle est de 93%.
03:39Cela alerte l'utilisateur
03:41que la personne n'est pas réelle,
03:43et qu'elle peut être en danger
03:45d'être frappée.
03:47Donc maintenant, vous êtes une entreprise
03:49technologique qui lutte contre la technologie.
03:51Pour nous, c'est une question
03:53d'assurer la sécurité et la privilégie
03:55de nos utilisateurs.
03:57Je pense que nous savons tous que la technologie
03:59a développé à un certain rythme
04:01grâce à l'intelligence artificielle.
04:03Et il y aura certainement des gens
04:05qui seront déterminés à l'exploitation
04:07grâce à la création des deepfakes.
04:09Et à un niveau industriel, je pense qu'il y a
04:11beaucoup d'intérêt dans la création
04:13des deepfakes à l'avenir.
04:15La fraude n'est pas le seul souci.
04:17Les deepfakes sont aussi un moteur
04:19d'abuse d'image intime en ligne.
04:21Une victime dont l'identité réelle
04:23est protégée par cet avatar
04:25a été deepfakée par un ancien ami.
04:27J'ai été confus et j'ai été attiré.
04:29Un documentaire sur ce genre
04:31d'abuse de deepfake a créé
04:33un groupe de campagnes
04:35qui demandent maintenant
04:37des réglementations plus difficiles
04:40J'ai parlé à plus de 30 survivants.
04:42Et dans chaque cas,
04:44leurs vies ont diminué.
04:46Cela a eu un impact sur leur emploi,
04:48sur leur carrière, sur leur corps,
04:50sur leur identité.
04:52Les risques ne pouvaient pas être plus élevés.