Bienvenue dans un nouvel épisode de Tendances Inno, le podcast qui vous plonge au cœur des technologies émergentes qui façonnent notre avenir.
Dans cet épisode, Marine Adatto, cofondatrice de Wagmi Trends, et Olivier Senot, Directeur de l'Innovation chez Docaposte, vous invitent à explorer les dilemmes éthiques posés par l'IA générative et son impact sur notre société.
Notre invité est Étienne de Rocquigny, mathématicien et entrepreneur visionnaire, qui place la stratégie et le sens au cœur de la technologie. Ensemble, nous discutons des défis et opportunités que l'IA générative présente, allant des innovations fascinantes aux préoccupations éthiques et morales qu'elle soulève.
Dans cet épisode captivant, découvrez :
Les dilemmes éthiques posés par l'IA générative et comment les aborder ;
Les applications pratiques de l'IA générative dans divers secteurs, et son potentiel pour enrichir notre humanité ;
Des conseils pratiques pour intégrer l'IA générative dans vos projets ou entreprises de manière éthique et responsable.
Pourquoi écouter cet épisode ?
Pour naviguer dans le monde complexe de l'IA générative avec une compréhension plus profonde de ses enjeux éthiques et de son potentiel pour transformer notre société.
Ne ratez pas cette exploration profonde de l'IA générative, où éthique, technologie et humanité se rencontrent pour définir l'avenir de notre interaction avec les machines.
Appuyez sur ▶️ et laissez-vous guider par les insights de nos experts dans cette aventure au cœur de l'IA générative.
Retrouvez cet épisode de “Tendances Inno” sur votre plateforme de podcast préférée : https://smartlink.ausha.co/tendances-inno-le-podcast-innovation-de-docaposte
#TendancesInno #Web3 #Innovation #Docaposte #WagmiTrends #FuturDeLaTech #IntelligenceArtificielle #IA #IAGen
Retrouvez également Docaposte sur :
LinkedIn : https://www.linkedin.com/company/docaposte
X (ex-Twitter) : https://twitter.com/Docapost
Instagram : https://www.instagram.com/docaposte/
＠ Threads : https://www.threads.net/@docaposte
Facebook : https://www.facebook.com/Docaposte
YouTube : https://www.youtube.com/c/Docapost_Officiel
Dailymotion : https://www.dailymotion.com/docaposte
Pinterest : https://www.pinterest.fr/Docaposte_/
Webikeo : https://webikeo.fr/chaine/les-webinaires-de-docapost-1/
Podcast D.clic : https://smartlink.ausha.co/docaposte-dclic
Podcast Tendances Inno : https://smartlink.ausha.co/tendances-inno-le-podcast-innovation-de-docaposte
Podcast L'instant numérique : https://smartlink.ausha.co/l-instant-numerique-3-minutes-pour-decrypter-les-enjeux-du-numerique
Dans cet épisode, Marine Adatto, cofondatrice de Wagmi Trends, et Olivier Senot, Directeur de l'Innovation chez Docaposte, vous invitent à explorer les dilemmes éthiques posés par l'IA générative et son impact sur notre société.
Notre invité est Étienne de Rocquigny, mathématicien et entrepreneur visionnaire, qui place la stratégie et le sens au cœur de la technologie. Ensemble, nous discutons des défis et opportunités que l'IA générative présente, allant des innovations fascinantes aux préoccupations éthiques et morales qu'elle soulève.
Dans cet épisode captivant, découvrez :
Les dilemmes éthiques posés par l'IA générative et comment les aborder ;
Les applications pratiques de l'IA générative dans divers secteurs, et son potentiel pour enrichir notre humanité ;
Des conseils pratiques pour intégrer l'IA générative dans vos projets ou entreprises de manière éthique et responsable.
Pourquoi écouter cet épisode ?
Pour naviguer dans le monde complexe de l'IA générative avec une compréhension plus profonde de ses enjeux éthiques et de son potentiel pour transformer notre société.
Ne ratez pas cette exploration profonde de l'IA générative, où éthique, technologie et humanité se rencontrent pour définir l'avenir de notre interaction avec les machines.
Appuyez sur ▶️ et laissez-vous guider par les insights de nos experts dans cette aventure au cœur de l'IA générative.
Retrouvez cet épisode de “Tendances Inno” sur votre plateforme de podcast préférée : https://smartlink.ausha.co/tendances-inno-le-podcast-innovation-de-docaposte
#TendancesInno #Web3 #Innovation #Docaposte #WagmiTrends #FuturDeLaTech #IntelligenceArtificielle #IA #IAGen
Retrouvez également Docaposte sur :
LinkedIn : https://www.linkedin.com/company/docaposte
X (ex-Twitter) : https://twitter.com/Docapost
Instagram : https://www.instagram.com/docaposte/
＠ Threads : https://www.threads.net/@docaposte
Facebook : https://www.facebook.com/Docaposte
YouTube : https://www.youtube.com/c/Docapost_Officiel
Dailymotion : https://www.dailymotion.com/docaposte
Pinterest : https://www.pinterest.fr/Docaposte_/
Webikeo : https://webikeo.fr/chaine/les-webinaires-de-docapost-1/
Podcast D.clic : https://smartlink.ausha.co/docaposte-dclic
Podcast Tendances Inno : https://smartlink.ausha.co/tendances-inno-le-podcast-innovation-de-docaposte
Podcast L'instant numérique : https://smartlink.ausha.co/l-instant-numerique-3-minutes-pour-decrypter-les-enjeux-du-numerique
Category
🤖
TechnologieTranscription
00:00 Bienvenue dans Tendancy Now, votre rendez-vous pour explorer les technologies émergentes
00:06 présentées par DocaPost, le référent français de la confiance numérique.
00:10 Je suis Marina Datto, cofondatrice de WildMeatTrends, et j'ai le plaisir d'être accompagnée
00:14 par Olivier Senaud, directeur de l'innovation chez DocaPost.
00:18 Dans ce podcast, nous vous emmenons à la rencontre des innovateurs et des créateurs
00:22 qui redéfinissent notre monde numérique.
00:25 Que votre curiosité vous porte vers le Web3, l'IA ou toute autre technologie émergente,
00:30 vous êtes au bon endroit.
00:32 Préparez-vous à une dose d'inspiration et d'information, au programme des découvertes,
00:37 des défis et des solutions innovantes.
00:39 Alors, branchez vos écouteurs, ouvrez votre esprit et plongez avec nous dans l'univers
00:44 de Tendancy Now.
00:54 Imaginez un monde où la technologie pose des questions éthiques aussi complexes que
00:58 les algorithmes qu'elle crée.
01:00 Où chaque avancée nous pousse à réfléchir au sens que nous donnons à l'innovation.
01:04 C'est dans cet espace de réflexion que nous nous engageons aujourd'hui.
01:07 Nous accueillons Etienne De Rocchini, mathématicien et entrepreneur, visionnaire qui place la
01:13 stratégie et le sens au cœur de la technologie.
01:16 Ensemble, nous allons explorer les dilemmes posés par l'IA générative et les contradictions
01:21 de notre société face à l'innovation.
01:23 Nous chercherons à comprendre comment, dans un monde saturé d'algorithmes, nous pouvons
01:29 utiliser la technologie pour enrichir notre humanité plutôt que de nous en éloigner.
01:33 Pour m'accompagner et nous offrir une perspective plus concrète sur ces enjeux éthiques et
01:38 technologiques, Olivier Senaud, directeur de l'innovation de DocaPost.
01:43 Olivier, c'est à toi.
01:45 Merci Marine.
01:46 Bonjour Etienne.
01:47 Bonjour Olivier.
01:48 Etienne, tu parles 7 langues.
01:50 Reste avec nous, tu colleras les timbres.
01:52 En grand amateur d'humour, tu as la référence.
01:54 Mathématicien, entrepreneur, penseur, analyste de tes contemporains, diplômé de l'ICSS,
02:00 de l'Imperial College of London et de l'Université de Paris-Saclay.
02:03 Tu as eu plusieurs vies en une seule.
02:05 Chercheur, enseignant, expert en modélisation et en algorithme, en gestion de risque, fondateur
02:11 de chaire de recherche.
02:12 Je reprends mon souffle, la liste est encore longue.
02:15 Vice-président de la SMI, Société de Mathématiques Appliquées et Industrielles, un passage comme
02:20 chief scientist chez EDF.
02:22 Tu as dirigé un consortium européen de R&D.
02:24 Et je m'arrête là pour ne citer que ces quelques expériences techniques, agrémentées
02:28 de plusieurs publications de référence dans le domaine.
02:31 Bref Etienne, tu es ce que l'on appelle un cerveau, mais pas que, puisqu'en parallèle
02:35 tu es entrepreneur depuis 10 ans et tu sièges au sein de plusieurs boards de sociétés
02:38 innovantes.
02:39 Mais ta caractéristique principale, et ce qui fait de toi un être singulier dans la
02:43 galaxie de l'innovation, c'est ton ancrage dans cette chose complexe qu'est l'humain.
02:47 Tu as cofondé espérance et algorithme pour s'interroger sur les enjeux éthiques et
02:52 spirituels de la révolution numérique, en réunissant autour d'une même table les
02:56 acteurs de la société civile, de la culture, de la religion et de la politique pour imaginer
03:01 et réfléchir aux impacts de l'intelligence artificielle sur l'homme et la société.
03:06 Sur tous ces sujets, Etienne, nous t'écoutons.
03:09 Bonjour Etienne.
03:10 Bonjour Marine.
03:11 Quelle joie d'être avec Marine et Olivier.
03:15 Le plaisir est partagé.
03:16 Alors messieurs, pour démarrer, je vous propose un quiz qui va nous permettre de mieux comprendre
03:22 les enjeux de l'IA générative.
03:25 Est-ce que vous êtes prêts ?
03:26 On est prêts.
03:27 On est prêts.
03:28 Première question.
03:29 Pour assurer une utilisation éthique de l'IA générative, quelle mesure est essentielle
03:33 selon les experts ? Imposer des watermarks, limiter son accès, éduquer les utilisateurs
03:39 ou développer des lois strictes ?
03:40 Évidemment acculturer, développer la formation sur l'IA c'est essentiel.
03:45 Le développement de watermarks peut être un pansement, mais c'est vraiment l'acculturation
03:51 qui est importante, comprendre pour agir.
03:53 Etienne, ton avis ?
03:55 Je dirais sans aucun doute éduquer.
03:57 Pourquoi ? Parce que nous avons affaire évidemment à des technologies qui sont en évolution
04:02 extrêmement rapide, qui sont tentaculaires et la réglementation ne suit jamais l'évolution
04:08 des technologies.
04:09 Et la limitation de l'accès c'est une, disons, idée fantasmatique contournée par
04:17 tout le monde.
04:18 Le plus important c'est d'éduquer.
04:20 Et d'ailleurs, comme disait Maria Mortessori, à quoi ça sert d'éduquer au monde d'aujourd'hui
04:24 alors que le monde de demain on ne le connaît pas ?
04:26 Donc sans aucun doute, je pense que la priorité absolue c'est de former tout un chacun,
04:32 les entreprises et les citoyens sur les enjeux et que par eux-mêmes ils puissent faire
04:36 oeuvre de discernement.
04:37 Alors, une question sur tout ce qui est prévention des abus de l'IA.
04:42 Qu'est-ce que le watermarking ? Une méthode qui est proposée pour prévenir justement
04:46 des abus de l'IA générative.
04:48 Est-ce que c'est un tampon numérique ? Est-ce que c'est une signature cryptographique
04:52 ou un filigrane invisible ?
04:53 Etienne se laisse répondre.
04:55 Moi j'en use et en abuse des watermarks.
04:58 Bon, je crois qu'on parle plutôt de signaler une sorte de tampon, même si je pense que
05:05 la traduction littérale de watermark c'est filigrane, mais on est là pour signaler parce
05:09 qu'effectivement l'un des grands dangers en fait c'est le mensonge.
05:13 C'est qu'on est à faire des choses qui paraissent la création authentique d'une
05:17 personne alors qu'en fait elles ont été faites par des algorithmes qui ont mélangé,
05:22 interprété, interpellé, etc.
05:23 Donc je crois que la transparence est extrêmement importante.
05:26 Et voilà, une des premières étapes c'est de montrer, de marquer avec le watermarking
05:33 l'origine.
05:34 Très bien.
05:35 Continuons.
05:36 Quel pourcentage de l'enseignement de l'IA dans les écoles est dédié à l'éthique
05:40 d'après l'UNESCO ? 18%, 7% ou 14% ?
05:44 Je ne connais pas ce sondage mais je pense hélas que c'est sans doute le taux le plus
05:48 bas car l'éthique est une préoccupation assez récente dans l'intelligence artificielle
05:54 et en réalité on va le voir pas forcément en soi motivante.
05:57 Il va falloir aller plus loin pour donner envie de discerner sur l'IA.
06:01 C'est 7%.
06:02 L'éthique dans l'IA est un sujet important dans l'éducation, tu le dis, mais ça ne
06:06 représente qu'une toute petite partie de l'enseignement global de l'IA et de l'informatique.
06:10 Dernière question.
06:11 Les générateurs d'art IA ont été critiqués pour créer des images avec des préjugés.
06:16 Quel pourcentage des images générées par stable diffusion avec le mot-clé "détenu"
06:20 contiennent des personnes à la peau plus foncée selon vous ? 80%, 70% ou 68% ?
06:26 Les biais de l'IA, on pourrait en parler pendant des heures.
06:30 On ne va pas s'étendre dessus.
06:33 L'IA, ça reste un algorithme, une masse de données qui prédit le plus finement possible
06:39 le mot qui suit ou l'image qui suit.
06:41 Donc l'IA n'est pas du tout intelligente.
06:44 C'est vraiment juste un algorithme prédictif.
06:47 Donc je ne sais pas répondre, probablement élevé.
06:51 Etienne, ton avis ?
06:54 Je suis très d'accord avec toi Olivier.
06:56 Je pense que probablement en lien avec les grandes fractures de la société américaine,
07:03 le sujet racial est terrible.
07:05 Pas tout à fait le même en France, même si on a aussi nos problèmes.
07:08 Mais je crois qu'il faut adler au-delà et être lucide sur le fait que derrière le biais,
07:13 la véritable question, c'est celle du modèle de justice.
07:16 Car comme tu l'as dit, Olivier, un algorithme probabiliste est construit sur de la reproduction.
07:23 Et donc on reproduit ce qu'il y a dans les données.
07:26 Évidemment, si on a des iniquités, on va reproduire les iniquités.
07:30 Donc la question, c'est vraiment celle du modèle de justice que je recherche
07:34 derrière la décision algorithmique.
07:36 C'est ça la question, plus que le biais au sens purement mathématique.
07:41 Absolument.
07:42 Du coup, la réponse est 80 %, mais c'est exactement ça.
07:46 Etienne, c'est le biais et la justice qui est derrière ces algorithmes.
07:51 Alors maintenant que nous sommes au point sur le thème, je vous propose d'écouter
07:54 ce que les gens pensent de l'avenir de l'IA générative et de son impact dans leur quotidien.
08:00 Je vous propose d'écouter ce que les gens pensent de l'avenir de l'IA générative
08:03 et de son impact dans leur quotidien.
08:04 Nous sommes allés à leur rencontre et leur avons demandé leur point de vue sur le sujet.
08:09 Est-ce que tu t'es déjà fait berner par une photo créée par une IA générative ?
08:13 Non, pas du tout.
08:14 Après, je peux berner les gens, moi, avec mes photos.
08:16 Donc ce que j'ai fait, c'est que j'ai pris la photo.
08:18 Derrière, je suis allé sur Firefly de Adobe et j'ai tout retouché pour faire un lac.
08:21 De malade mental, j'ai enlevé tous les nuages pour foutre un énorme ciel bleu.
08:25 J'ai refoutu des petits oiseaux, etc.
08:26 La photo était malade.
08:27 Je l'ai envoyée à ma mère, à ma grand-mère, je l'ai montrée à mes collègues, etc.
08:30 Tout le monde a dit que c'était une rando de malade.
08:32 Je leur ai dit "Oh ouais !" alors qu'en fait, c'était claqué au sol.
08:34 La technologie volite très vite et tout le monde n'arrive pas à suivre le même rythme.
08:38 Penses-tu que cela crée un fossé entre ceux qui la maîtrisent
08:41 et ceux qui sont moins à l'aise avec la tech ?
08:43 Oui, je pense que oui.
08:45 C'est quelque chose qu'on voit depuis assez longtemps.
08:47 Le sujet de l'inclusivité dans la technologie n'est pas forcément quelque chose
08:50 qui est forcément abordé par les entreprises qui développent des nouvelles technologies.
08:55 Donc il y a déjà de toute façon une fracture numérique qui est claire
08:58 et un peu continue depuis ces dernières années.
09:00 Et donc, je pense que ce n'est pas un sujet qui a été abordé assez en profondeur.
09:04 Est-ce que tu penses qu'avec l'IA, c'est encore pire, cette fracture numérique ?
09:08 Je pense qu'avec l'IA, et je vais parler de l'IA générative,
09:11 le problème avec l'IA générative, c'est que ce n'est pas forcément dans la maîtrise de l'outil,
09:15 mais dans la maîtrise du prompt.
09:17 Donc la manière de demander à l'IA ce qu'on recherche.
09:22 Et donc, je pense qu'à ce niveau-là, il y a beaucoup de choses à faire encore, oui.
09:25 Penses-tu que l'IA soit une opportunité ou une menace pour l'humain ?
09:28 À mon avis, c'est une énorme opportunité,
09:30 dans le sens où ça permet de rationaliser pas mal de process de travail, d'être plus efficient.
09:35 Ça va nous permettre de supprimer toutes les tâches à faible valeur ajoutée.
09:38 Plus on utilise l'IA, plus on se rend compte à quel point,
09:41 à un certain niveau, quand les humains utilisent l'IA.
09:43 Genre, on arrive à cramer directement les posts LinkedIn créés par ChatGPT,
09:47 on arrive à cramer directement une photo MeetJourney avec cette petite patte un peu
09:51 comics ou je ne sais quoi de MeetJourney.
09:54 Donc c'est bien pour un premier process, pour faire un plan, ou alors pour avoir un moodboard, etc.
09:58 Mais derrière, il faut qu'il y ait la touche, l'human touch derrière.
10:01 Je pense que l'IA est une opportunité, puisque ça reste un outil.
10:04 Je pense que le débat sur le Meet,
10:07 l'IA qui prendrait trop de contrôle en fait sur nos vies quotidiennes,
10:11 c'est simplement un problème de ce qu'on évoquait précédemment,
10:15 qui est la bonne maîtrise, l'inclusivité des personnes
10:20 dans l'apprentissage de cet outil-là.
10:23 Donc, je ne pense pas.
10:24 Etienne, Olivier, vos réactions ?
10:28 Est-ce que vous retouchez vos photos de vacances avec de l'IA ?
10:33 Non, alors déjà, la bonne nouvelle, c'est que quand on parle d'IA générative,
10:37 on n'a pas la question "qu'est-ce que c'est ?"
10:39 quand on pose la question aux citoyens.
10:43 Donc ça, c'est plutôt une bonne nouvelle,
10:44 puisque la première étape, c'est vraiment d'acculturer,
10:47 de comprendre, de savoir ce dont on parle.
10:52 Ensuite, non, je ne retrouve pas mes photos avec l'IA.
10:57 J'ai assez peu de photos,
10:58 mais la perspective de l'IA en entreprise n'est pas tout à fait abordée,
11:05 sauf par une personne,
11:06 sauf que c'est probablement là qu'on va avoir les plus importants gains de productivité.
11:12 Et c'est là où tout va changer.
11:14 Etienne ?
11:15 Alors, moi, j'ai joué un petit peu avec les images,
11:19 notamment, je reparlerai, j'ai sorti un livre sur le sens de l'intelligence artificielle.
11:23 Et je joue avec le portrait de son inventeur d'il y a quatre siècles,
11:28 le contemporain de Molière, Blaise Pascal.
11:30 Et je le projette dans la science-fiction grâce à Sam Alpain, grâce à Dalhi.
11:34 Et le jeu est très amusant.
11:36 Derrière le jeu, évidemment, de toute éternité, la propagande se sert des images.
11:42 Ça ne date pas de l'IA générative.
11:44 Les soviétiques étaient des grands experts.
11:46 Et évidemment, avec l'IA générative, la manipulation d'images devient fondamentale et totalement ubiquitaire.
11:56 Et donc là, je pense qu'il faut absolument, sur un sujet très important,
12:00 qui est celui de la recherche de la vérité.
12:03 Il faut revenir à la civilisation écrite, c'est à dire qu'un journaliste, un avocat,
12:12 quelqu'un qui cherche la vérité, il va écrire, il va dépasser l'image parce que dans l'écrit,
12:17 on va prendre du recul. Et donc, il est vrai qu'aujourd'hui, je pense que dans l'éducation,
12:21 mais comme dans les entreprises, il faut se servir des images qui sont très intéressantes pour la communication.
12:27 Mais quand on rentre sur des sujets vraiment importants pour la raison d'être de l'entreprise,
12:30 il faut revenir à la maîtrise de l'écrit, sur lequel il y a aussi des choses à dire avec l'IA générative, bien sûr.
12:35 Après, il y a une autre réaction régulière, on l'a vu un peu dans le micro-trottoir.
12:41 Finalement, l'IA générative, c'est de la balle.
12:44 Je vais pouvoir optimiser des trucs, toutes les tâches répétitives, j'ai plus besoin de rien.
12:49 Et là aussi, je vais prendre le parti pris de Blaise Pascal parce que le grand malheur de l'homme,
12:55 c'est de ne pas savoir rester au repos dans sa chambre.
12:58 Donc, si on automatise tout, qu'on n'a plus rien à faire, qu'est ce qu'on va faire ?
13:01 On va avoir besoin de trouver un nouveau lièvre parce qu'on a tous besoin d'un lièvre dont on ne voudrait pas s'il était tué.
13:07 Et donc, cette fantasme de la libération du travail en automatisant tout, je pense que c'est une erreur profonde.
13:13 En revanche, comme l'a dit Olivier, bien sûr, il y a des promesses incroyables et essentiellement,
13:18 sans doute, dans les entreprises pour se servir de ces outils d'une efficacité prodigieuse pour mieux servir sa raison d'être.
13:28 Voilà. Maintenant, il y a aussi cette question là, est ce que l'IA est une menace pour la personne humaine ?
13:34 Je dirais de manière plus précise que l'IA est une menace pour que des personnes humaines en menacent d'autres.
13:40 Bon, et c'est vrai que l'IA est un outil rêvé pour tous les dictateurs qui ont toujours utilisé, existé.
13:46 Et donc, c'est ça le grand risque, c'est qu'il y ait effectivement des personnes plus ou moins bien intentionnées
13:53 et qui se servent de ces outils là avec le prétexte sympathique de dire c'est la faute à la machine,
13:58 mais en fait, qui deviennent des loups pour l'homme. Voilà pour moi la grande chose à redouter.
14:06 Etienne, tu as une vision très holistique de la technologie en cherchant à l'aligner avec les valeurs humaines.
14:12 Comment penses-tu que les entreprises devraient équilibrer l'innovation technologique avec les principes éthiques ?
14:18 Alors ça, c'est une grande question. Nous sommes dans une société d'innovation.
14:23 Alors, je dirais pour moi, le plus important d'abord, c'est d'être clair sur la quête.
14:30 Finalement, pourquoi je me lève le matin ? Pourquoi est-ce que j'ai créé cette entreprise ?
14:35 Qu'est-ce que cette entreprise apporte à des clients ?
14:38 Parce que la crise éthique la plus grave, c'est la trahison de ce pour quoi les gens vous font confiance.
14:44 Si vous êtes un boulanger et que vous servez une farine avariée, ça, c'est extrêmement grave.
14:50 Maintenant, si on n'a pas demandé votre consentement pour savoir si vous avez commandé trois baguettes
14:55 au levain la semaine dernière dans le fichier RGPD, c'est annexe.
14:58 Donc pour moi, la première chose la plus importante, c'est d'être clair sur la raison d'être de l'entreprise
15:05 et ce en quoi effectivement l'innovation va la servir.
15:07 Et là, évidemment, je pense à Doc Aposte avec cette magnifique raison d'être que j'ai comprise.
15:13 S'il n'a pas changé, permettre à chacun de choisir en confiance son destin numérique.
15:18 Quelle belle raison d'être !
15:20 Et donc, c'est ça la question que je me poserai par rapport à l'innovation.
15:23 Est-ce que cette innovation accroît la confiance de chacun ?
15:26 Est-ce qu'elle respecte le fait que chacun va vouloir un destin différent ?
15:30 Donc c'est ça pour moi la première question à se poser dans le discernement.
15:34 Est-ce que je sers la raison d'être ?
15:36 L'IA générative soulève de nombreux dilemmes éthiques.
15:39 Quel est ton point de vue sur la manière dont nous pouvons intégrer une dimension éthique
15:43 dès la conception des algorithmes pour qu'ils servent réellement le bien commun ?
15:49 Vaste question, puisqu'évidemment, l'IA générative arrive avec un déluge d'efficacité et de facilité.
15:58 Donc on est tous soumis à des contraintes d'efficacité.
16:01 Donc on a tous envie de la mettre partout.
16:03 Alors, moi je pense que la première chose sur laquelle il faut être clair,
16:07 c'est qu'on a affaire à des machines qui sont entraînées pour être dans l'efficacité
16:12 et non pas dans la véracité.
16:14 Alors donc la première question éthique à se poser, c'est pour cette application-là,
16:19 est-ce que l'impératif, c'est celui de l'efficacité ou c'est celui de la véracité ?
16:24 Et là, le discernement est très important.
16:27 Si par exemple, vous faites de la détection de cancer,
16:30 eh bien si votre IA est juste à 99% et que vous avez 1% de cancer,
16:35 vous la mettez à la poubelle parce que ce que vous devez prédire,
16:38 c'est avec justesse les risques.
16:39 Si en revanche, vous êtes un boulanger et que vous servez de l'IA générative
16:44 pour agrémenter les post-linked-in,
16:46 ce n'est pas très grave parce qu'en réalité, ce n'est pas là-dessus qu'on vous attend.
16:49 Donc je pense qu'il faut être très clair sur finalement
16:52 ce en quoi les erreurs qui sont consubstantielles à une IA qui est entraînée pour être juste,
16:58 la plupart du temps pour tout le monde,
17:00 c'est ce que je demande à la fonction coup de Salmatman,
17:04 prédis-moi la suite de mots, d'images, de sons qui,
17:08 la plupart du temps, engagera la personne.
17:10 Donc je lui demande de faire quelque chose de propre.
17:12 Est-ce que ça s'est aligné avec ce que je demande à l'IA
17:15 ou est-ce qu'en réalité, le fait que ça marche en moyenne mais pas toujours,
17:21 c'est tragique ?
17:21 Donc là, il y a un point de discernement qui est évidemment très important.
17:25 Il y a un deuxième point de discernement éthique qui est très important
17:28 autour du sujet de transparence.
17:30 Ces machines sont tellement efficaces qu'en réalité,
17:34 pas grand monde ne sait exactement pourquoi elles le sont.
17:38 Et pour avoir été mathématicien,
17:42 déjà quand vous avez un espace de probabilité à 100 dimensions,
17:45 on voit assez vite qu'on fait des contresens,
17:47 on ne comprend pas bien ce qui se passe.
17:49 Mais là, on parle de milliers de milliards ou de dizaines de milliers de milliards de paramètres
17:53 qui ont été entraînés.
17:53 Ça veut dire qu'on parle à des choses dont on ne comprend pas bien
17:57 comment elles fonctionnent.
17:58 Alors ça, c'est le sujet de l'explicabilité, de la transparence.
18:01 Et là encore, est-ce que c'est grave ?
18:04 Oui, si mon métier, c'est celui d'être un journaliste,
18:08 c'est celui d'être en quête de la vérité.
18:10 Alors si je ne comprends pas ce que fait l'IA générative
18:14 et ce en quoi elle va effectivement être juste sur les termes,
18:18 alors c'est dramatique.
18:20 Si en revanche, encore une fois,
18:21 je me sers de l'IA générative pour des fonctions annexes
18:24 qui n'ont pas grand chose à voir avec l'essentiel,
18:26 alors l'explicabilité n'est pas très grave.
18:29 D'ailleurs, quand vous allez devant un distributeur de billets,
18:32 vous n'exigez pas de comprendre exactement comment l'algorithme
18:36 qui va reconnaître votre code secret fonctionne,
18:39 parce que ce n'est pas ça qu'on apprend.
18:41 Donc là, finalement, on a un critère de discernement important
18:44 qui va venir avec, bien sûr, le règlement européen sur l'IA
18:47 qui va imposer un certain nombre de conditions.
18:49 J'en ai parlé de quelques-unes.
18:51 On a parlé des billets, on a parlé de la transparence, de l'explicabilité.
18:54 Il faut rapporter toujours cela à la finalité de l'entreprise
18:58 et savoir si on est sur des choses engageantes
19:00 sur lesquelles les gens comptent sur vous
19:02 ou sur des choses annexes.
19:03 Dans tes écrits, tu poses la question de savoir
19:05 si la technologie, et en particulier l'IA,
19:08 sert réellement notre quête authentique
19:10 ou si elle alimente nos peurs.
19:12 Peux-tu nous expliquer comment tu envisages de rediriger la tech
19:15 pour qu'elle serve une raison d'aide technologique authentique
19:18 et comment cela se traduit dans les projets que tu accompagnes ?
19:22 Je vais prendre un premier exemple.
19:24 J'ai discuté avec le patron charismatique
19:28 d'une magnifique scale-up d'informatique quantique
19:32 qui a levé 100 millions.
19:33 Finalement, on a discuté ensemble de sa quête.
19:36 Pourquoi est-ce que je développe ces machines quantiques
19:39 absolument fascinantes ?
19:41 En creusant au fur et à mesure,
19:44 on s'aperçoit que pour beaucoup de gens dans ce monde-là,
19:47 il y a tout de même une chose qui est absolument fascinante avec le quantique,
19:50 c'est qu'on a des calculs qui sont extrêmement efficaces
19:53 et qui, en fait, vont consommer beaucoup moins d'énergie.
19:57 Allons bon, voilà quelque chose de très intéressant,
19:59 voilà quelque chose pour lequel je vais peut-être me lever le matin
20:01 au moment où le climat est en train de flamber.
20:04 Et si, effectivement, avec ces machines quantiques,
20:07 je pouvais réduire d'un facteur dix 100 000
20:09 qui c'est 10 000 la facture énergétique,
20:12 les émissions carbone associées au calcul,
20:14 le calcul dont on a besoin de partout
20:15 et qui devient une consommation exponentielle avec l'IA génératif,
20:20 alors voilà une magnifique raison d'être technologique du quantique.
20:25 Et si je pars là-dessus,
20:27 alors je peux maintenant me dire,
20:28 mais après tout, la façon dont je développe les ordinateurs quantiques,
20:31 est-ce que je ne pourrais pas intégrer dès la conception l'objectif énergétique ?
20:35 Est-ce que je ne pourrais pas finalement transformer
20:37 et mettre dans les critères numéro un
20:39 le fait effectivement d'avoir un bilan énergétique ?
20:41 Et si je fais les choses comme ça de manière éthique,
20:43 il faut que je le fasse en analyse de cycle de vie,
20:44 il faut que je regarde l'ensemble.
20:46 Et voilà qu'avec ça, nous avons décidé de lancer un concours international
20:49 qui s'est appelé le Blaise Pascal Regenerative Quantum Challenge,
20:53 qui a reçu des centaines de candidatures dans le monde entier.
20:56 On l'a envoyé cet été, on a été débordé de candidatures,
21:00 on a réussi à créer une appétence incroyable pour les ingénieurs du monde entier
21:04 pour aller prendre cette tour, l'efficacité énergétique.
21:08 Voilà une nouvelle évidemment fantastique pour une scale-up.
21:11 Toutes les scale-up ont des problèmes de recrutement,
21:13 toutes les scale-up ont besoin d'engager durablement les personnes
21:17 qu'elles continuent à se lever du matin et donner du meilleur de même.
21:20 Voilà un exemple à partir duquel, en discernant finalement la raison d'être
21:24 et ensuite en essayant d'être assez précis sur l'alignement
21:28 entre la technologie et la raison d'être,
21:30 on peut, je crois, même si c'est le début de l'aventure,
21:32 engager durablement cette entreprise de service du bien commun.
21:36 La quête donc.
21:38 La quête.
21:39 Alors Etienne, Olivier, ce podcast a pour vocation d'acculturer
21:42 et de donner des conseils pratiques aux auditeurs.
21:44 Donc quels sont vos conseils pour tous dans l'utilisation de l'IA ?
21:50 J'ai toujours le même mot, mais je vais laisser Etienne développer.
21:53 Comprendre, acculturer, tester.
21:58 Etienne, je te laisse développer.
22:00 Je ne pourrais pas dire mieux, cher Olivier.
22:03 Peut-être que je démarrerai par tester avant de comprendre,
22:07 car l'IA générative a ce site fascinant
22:11 qu'elle est d'abord une révolution de l'usage.
22:13 C'est essentiellement en proposant une interface extrêmement intuitive
22:17 que Sam Altman a réussi le plus grand hold-up de notoriété de l'histoire.
22:22 100 millions d'utilisateurs en quelques semaines.
22:25 Ça, c'est jamais vu de toute l'histoire humaine.
22:27 Donc c'est d'abord en fait un usage qui est simple.
22:30 Donc la première chose, il faut rentrer dedans.
22:32 C'est une révolution de faiseur.
22:34 Il faut s'en servir.
22:35 C'est simple, c'est assez sympa.
22:37 Et en fait, en testant assez vite,
22:39 on avance sur ce que disait Olivier, on commence à comprendre.
22:42 On commence à voir là où effectivement la logique probabiliste
22:45 est parfois un petit peu lointaine de la vérité.
22:47 Donc ça, c'est vraiment la première chose.
22:50 La deuxième chose, bien sûr, c'est évident.
22:53 Il faut comprendre l'IA générative comme un haut-parleur.
22:56 Donc les choses que vous ne voudriez pas qu'elles soient sues de tout le monde,
23:00 vous les taisez.
23:02 Car l'IA générative est entraînée sur des données
23:06 les plus ouvertes, les plus multiples.
23:08 Donc tout ce que vous mettez dedans est potentiellement utilisé, publié par d'autres.
23:12 Donc s'il vous plaît, jamais rien que vous ne voudriez pas
23:15 qu'il soit créé en haut de la tour Eiffel.
23:17 Et troisième chose,
23:19 ça vous allez le comprendre assez vite.
23:22 Quand on comprend que ça fonctionne de manière probabiliste,
23:24 alors il ne faudrait jamais faire confiance à l'IA
23:27 quand vous avez besoin, à l'IA générative,
23:29 quand vous avez besoin de vraiment être certain du résultat.
23:32 Vous avez une réponse probable,
23:34 il faut s'en servir si les erreurs ne sont pas très graves.
23:37 Et à ce moment-là, on fonce.
23:39 Alors du coup, on se pose la question au niveau des entreprises.
23:42 L'utilisation de l'IA dans les entreprises
23:44 et quels conseils est-ce que vous donneriez l'un et l'autre ?
23:48 Surtout Étienne, tes conseils pour les entreprises dans l'utilisation de l'IA.
23:54 Alors la première chose, évidemment, c'est de mettre en place,
23:57 maintenant que la plupart des cas dans les sondages,
24:00 on voit que les gens plutôt à titre personnel,
24:02 d'ailleurs en général plus qu'à titre professionnel,
24:04 ont déjà testé.
24:06 Ce qu'il faut mettre en place, c'est des droits et devoirs,
24:08 puisqu'on voit bien maintenant que toutes les choses
24:10 peuvent être dites sur la place publique.
24:12 Il faut tout de suite, de manière sympathique,
24:15 mettre en place des droits et devoirs et faire comprendre à chacun
24:18 que tout ce qu'on dit sur l'entreprise peut être su des autres.
24:21 Et donc il faut effectivement, typiquement,
24:23 plutôt utiliser l'IA générative sur des instances
24:28 qui soient contractualisées avec OpenAI, Azure ou d'autres
24:32 et dans lesquelles il y a un engagement suivant lesquels
24:34 les données ne vont pas être réutilisées.
24:36 Ça, c'est quand même une chose importante
24:38 et de dire clairement que si on ne fait pas ça,
24:40 eh bien vous le faites à titre privé,
24:41 vous ne pouvez pas le faire à titre professionnel.
24:43 Ça, c'est une petite mesure de sécurité
24:45 pour éviter beaucoup d'autres choses.
24:48 La deuxième chose, c'est qu'on est face à un choc d'efficacité.
24:52 Donc il faut rentrer dans le match assez vite
24:55 et en particulier, on a intérêt à tester rapidement des quick wins,
24:59 des choses simples qui changent déjà de la vie,
25:01 par exemple des comptes rendus automatiques de réunion
25:04 qui ne sont pas forcément des réunions très graves ou très confidentielles.
25:07 L'IA fait ça très bien.
25:09 La traduction de documents qui ne sont pas très confidentiels,
25:13 l'IA fait très bien.
25:14 Il faut mettre en place des quick wins
25:16 parce que c'est avec des premiers quick wins
25:18 que les gens commencent à comprendre assez vite
25:19 ce en quoi ils peuvent rendre leur métier plus efficace.
25:22 Et une fois qu'on a fait des quick wins,
25:23 on a intérêt ensuite, le dirigeant a intérêt à s'impliquer
25:27 pour chercher ces cas d'usage qui vont maximiser l'efficacité
25:32 sans trahir la raison d'être dont je parlais tout à l'heure.
25:34 Et là, c'est plutôt un travail un peu plus de,
25:37 on ne va pas dire de longue haleine
25:38 parce que les cycles sont assez courts avec l'IA génératif,
25:42 mais c'est plutôt un travail d'innovation avec une tasse force
25:45 pour finalement identifier là où éventuellement je suis le plus inefficace
25:51 et commencer à tester des choses.
25:52 Est-ce qu'il y a un sujet particulier pour les entreprises
25:56 au niveau des agents GPT ?
25:58 L'utilisation d'agents est à mon sens un projet d'entreprise
26:04 qui doit être vu au travers des différentes perspectives d'efficacité,
26:08 mais aussi de confidentialité, de conformité.
26:11 Et donc, c'est la compliance, le métier et la techno
26:15 qui doivent être réunis autour de la table
26:16 pour mettre sur pied ce type de projet agent.
26:19 Effectivement, là, pour le coup,
26:21 vous ne pouvez pas laisser tous les collaborateurs jouer avec les agents.
26:24 Ça peut vite dériver.
26:26 Les collaborateurs, parlons-en.
26:29 Quels sont vos conseils pour les collaborateurs ?
26:31 Etienne ?
26:32 Un peu comme tout le monde, c'est-à-dire d'abord, il faut tester.
26:36 Il faut rentrer dans la partie,
26:39 mais il faut évidemment le faire en respectant les droits et devoirs
26:42 qui ont été mis en place dans l'entreprise
26:43 parce qu'il faut se rendre compte
26:45 qu'on peut effectivement engager l'entreprise dans une voie périlleuse
26:48 si on ne suit pas les cadres
26:51 et si en particulier on se sert de comptes chat GPT privés,
26:55 même si vous payez 20 dollars,
26:56 on peut se retrouver dans des pièges, dans des fuites
26:59 de choses assez sensibles pour l'entreprise.
27:01 Donc, il faut respecter les droits et devoirs
27:04 et typiquement s'en servir avec des comptes professionnels
27:06 sur lesquels on a sécurisé la non-récupération des données.
27:09 Et ensuite, il faut tester. Il faut y aller.
27:11 Olivier ?
27:11 100% d'accord.
27:13 Plus que les collaborateurs,
27:15 c'est l'entreprise qui a le devoir de mettre à disposition
27:18 les droits et devoirs d'utilisation de l'IA génératif
27:21 pour ses collaborateurs.
27:23 Mais les entreprises doivent absolument
27:25 ouvrir ce nouvel outil aux collaborateurs.
27:28 Sinon, les collaborateurs vont aller sur GPT à 20 dollars par mois,
27:33 ce qui n'est quand même pas une barrière financière importante.
27:36 Et l'entreprise va prendre le risque au travers de ce collaborateur
27:39 qui aura été frustré de ne pas pouvoir y accéder
27:41 par les moyens de l'entreprise,
27:43 de mettre en risque l'entreprise elle-même.
27:45 Est-ce que vous avez des ressources à partager à nos auditeurs,
27:48 justement, pour comprendre, pour apprendre,
27:51 pour continuer aussi à s'éduquer tous les jours sur l'IA,
27:55 pour en comprendre l'éthique, les droits et devoirs ?
27:58 Alors, j'ai une excellente ressource qui est sur la table.
28:01 Là, je la montre.
28:03 C'est un bouquin d'Étienne,
28:04 "Le sens de l'IA" à l'école de Pascal, entrepreneur.
28:07 Alors, pourquoi c'est une excellente ressource ?
28:10 Au-delà de l'aspect technique, des thèses,
28:12 de tout ce qu'on a dit, Étienne et moi,
28:14 sur l'approche de l'IA générative,
28:17 il y a un élément qu'on n'a pas mentionné
28:19 et qui est, à mon sens, essentiel
28:23 dans le placement de l'homme dans l'IA,
28:26 c'est sa capacité à conserver un esprit critique,
28:29 sa capacité à interroger et à utiliser l'outil
28:32 dans un environnement critique
28:34 et de ne pas se laisser berner
28:37 par tous ceux qui utiliseront l'IA
28:40 à des fins, on va dire, malveillantes
28:42 ou faussement bienveillantes.
28:45 L'esprit critique, c'est le sens de l'homme et de l'IA
28:49 et ce bouquin est un recueil extraordinaire d'histoire
28:54 et c'est une histoire extraordinaire
28:56 pour replacer l'homme au centre de l'IA.
28:59 Étienne, une autre ressource éventuellement ?
29:01 C'est très, très élogié, Olivier,
29:03 mais peut-être je ferai le lien aussi
29:06 avec une question concrète qui est,
29:09 à la fin de ce podcast, comment est-ce que je peux avancer ?
29:12 Moi, je dirais ce qui est très important,
29:14 ce que, en général, je fais avec des dirigeants,
29:17 je commence par un diagnostic à 360
29:19 dans lequel on va faire travailler la raison et le cœur
29:23 et voilà deux choses très importantes chez Pascal.
29:26 Pascal, qui est probablement l'un des plus grands scientifiques
29:29 de toute l'histoire, va vous dire
29:31 le cœur a ses raisons que la raison ne peut connaître
29:34 et qu'est-ce que ça veut dire chez Pascal ?
29:36 Ça veut dire que le cœur, c'est en fait l'accès intime
29:39 que chaque personne humaine a
29:42 sur ce qui est finalement juste et vrai.
29:45 On a cet accès-là et cet accès-là ne passe pas en réalité
29:49 par la raison scientifique,
29:50 ne passe pas par l'intelligence artificielle.
29:52 C'est une caractéristique de l'homme
29:54 d'avoir cette capacité de discernement dans son cœur.
29:57 Et donc, la première chose à faire dans un diagnostic,
30:00 c'est de se regarder les yeux dans les yeux et se dire
30:02 suis-je vraiment fier de ce que je fais ?
30:05 Est-ce que je pourrais vraiment le raconter à ma fille qui a 7 ans
30:09 sans avoir l'impression de mentir ou de cacher une partie de la réalité ?
30:12 Donc de faire appel au cœur et ensuite évidemment,
30:15 comme on l'a dit avec Olivier, à la raison en comprenant, en tessant, etc.
30:19 Il faut vraiment utiliser les deux
30:21 et je pense que c'est ça la ressource que chacun d'entre nous a.
30:25 Il faut s'autoriser à utiliser ces deux ressources
30:28 et c'est comme ça que je vous invite à avancer
30:30 par un diagnostic et ensuite par une trajectoire
30:33 pour donner plus de sens dans votre aventure.
30:35 Merci Etienne.
30:36 Pour terminer cet épisode,
30:37 je vous propose d'ouvrir nos chakras de la réflexion
30:40 avec Olivier.
30:41 Olivier, c'est à toi.
30:43 Merci Marine.
30:44 L'IA et particulièrement l'IA générative dont nous venons de parler
30:47 repose sur des techniques avancées d'apprentissage automatique.
30:51 Nous l'avons évoqué, les réseaux de neurones profonds
30:53 capables de générer de nouvelles séries de données
30:55 basées sur l'apprentissage initial.
30:57 C'est bien lui, je parle de l'homme,
30:59 qui façonne ses moteurs révolutionnaires,
31:01 libérés des contraintes par la conjonction
31:03 entre l'avènement du modèle transformeur et le développement des GPU.
31:07 Elle, je parle de l'IA générative,
31:09 offre des possibilités infinies de création de contenus originaux,
31:12 des œuvres d'art, des musiques, des poèmes, des histoires,
31:15 des jeux, des codes, des logos, des slogans, des recettes,
31:17 des designs, des avatars, des visages, des voix, des langues,
31:19 des mondes virtuels.
31:21 Elle peut aussi aider à résoudre des problèmes complexes
31:24 comme la synthèse de médicaments, la détection de maladies,
31:26 la restauration du patrimoine, la simulation de scénarios,
31:29 la personnalisation de services, pour lui plaire.
31:33 Elle, lui, apporte un merveilleux outil pour apprendre,
31:36 s'entraîner, s'améliorer dans les domaines intellectuels ou sportifs.
31:40 Elle permet aussi une meilleure inclusivité
31:42 par le truchement de la voix, rendant accessibles
31:44 les parcours numériques aux déficients visuels ou linguistiques,
31:47 parcours devenus indissociables de la vie citoyenne.
31:50 Elle est aussi un partenaire, un collaborateur, un inspirateur,
31:54 un éducateur, un ami et même un boyfriend ou une girlfriend,
31:57 si l'on en croit les éditeurs de certains robots conversationnels.
32:02 Elle peut interagir avec lui,
32:04 comprendre ses besoins, ses émotions, ses préférences, ses valeurs.
32:08 Elle peut l'accompagner, le conseiller, le soutenir, le divertir,
32:11 l'émerveiller, l'épanouir, le stimuler, le surprendre, l'enrichir,
32:15 le faire grandir, le relier à ses semblables,
32:17 le faire dialoguer sans barrière, le faire coopérer.
32:22 Elle ouvre la voie à une société plus créative,
32:24 plus innovante, plus ludique, plus solidaire, plus humaine,
32:28 une société où elle n'est pas une esclave, mais une partenaire,
32:32 une société où elle n'est pas une autre, mais une nous.
32:36 Mais elle peut tout autant produire de fausses informations,
32:39 des propagandes, des discours, des mensonges, des rumeurs,
32:41 des complots, des injures, des menaces.
32:43 Elle peut aussi créer des faux documents, des faux témoignages,
32:46 des faux souvenirs, des faux visages, des faux profils,
32:48 des faux comptes, des faux votes.
32:50 Elle peut encore générer des virus, des malwares, des ransomware,
32:54 des cyberattaques, des sabotages.
32:55 Elle peut devenir le pire ennemi, un adversaire, un usurpateur,
32:59 un imposteur, un traître.
33:00 Elle est une opportunité ou une menace sans précédent,
33:03 lui offrant le choix d'une société plus consciente ou plus manipulée,
33:07 plus autonome ou plus dominée, plus sage ou plus violente,
33:11 plus égalitaire ou plus inégalitaire, plus humaine ou plus inhumaine,
33:16 une société où elle est une rivale, pas une amie,
33:20 où elle est une maîtresse, pas une partenaire,
33:22 une société où elle est une autre, pas une nous,
33:26 elle, lui, nous, vous avez quatre heures.
33:29 Merci Olivier, merci à tous les deux d'avoir partagé vos connaissances
33:32 et vos points de vue.
33:33 Je vous propose donc à l'issue de cette écoute de faire travailler
33:35 votre raison et votre cœur, l'accès intime au juste et vrai,
33:40 d'être vraiment fier de ce que vous faites et faire preuve de raison
33:42 en testant l'IA générative.
33:44 Nous vous mettons le lien du livre d'Étienne en commentaire
33:47 et je vous dis à très bientôt pour un nouvel épisode.
33:50 Et voilà, chers auditeurs, c'est tout pour cet épisode de Tendancy Now.
33:54 Un grand merci pour votre écoute.
33:55 Nous espérons que vous avez trouvé cette discussion aussi enrichissante
33:58 et inspirante que nous.
34:00 N'oubliez pas de vous abonner pour ne manquer aucun de nos futurs épisodes.
34:04 Vous pouvez retrouver Tendancy Now sur toutes les plateformes de podcast,
34:07 YouTube et Dailymotion.
34:09 Si vous aimez ce podcast, faites-le nous savoir et aidez-nous à le faire connaître
34:12 grâce à vos commentaires et à vos partages.
34:15 Pour plus de contenu sur les technologies émergentes,
34:17 suivez-nous sur les réseaux sociaux de DecaPost et de Wagmeetrends.
34:21 À bientôt pour un nouvel épisode placé sous le signe de la tech,
34:24 du Web3 et de l'innovation.
34:26 D'ici là, continuez à explorer, à innover et à créer.
34:30 [Musique]