Mercredi 18 décembre 2024, SMART TECH reçoit Murielle Popa-Fabre (experte en traitement automatique du langage, Conseil de l'Europe) et Véronique Saubot (Directrice Générale, Simplon)
Category
🗞
NewsTranscription
00:00La stratégie de la France en matière d'IA est-elle la bonne ? Comment on va
00:07penser ces nouvelles politiques publiques à l'ère de l'IA et de tous ces
00:11développements technologiques et puis la formation de tous à tout âge ? On fait
00:15quoi ? On fait comment ? Et cet âge antique AI dont on nous parle comme une nouvelle
00:20tendance, qu'est-ce que c'est exactement ? Voilà les sujets qu'on va aborder
00:23aujourd'hui avec mes deux expertes en plateau. Véronique Sobo, bonjour.
00:27Bonjour. Vous êtes directrice générale de Simplon qui est un organisme de
00:31formation dont la mission est vraiment de démocratiser l'accès aux compétences
00:35numériques et aux métiers de la tech et donc vous êtes très engagée sur cette
00:39question de la formation en matière d'intelligence artificielle.
00:42À côté de vous Muriel Popafabre, bonjour. Bonjour. Experte en traitement
00:46automatique du langage au Conseil de l'Europe, vous intervenez sur les
00:49questions de réglementation de l'IA et de protection des données.
00:52Alors on commence avec peut-être ce rapport parlementaire qui nous
00:57vient de l'OPEX avec cette question posée par trois sénateurs Sabatou, Chez
01:02et Narassiguin. Chat GPT et après bilan et perspective de l'intelligence
01:07artificielle. Il y a beaucoup de choses sur les enjeux économiques, politiques
01:10dans ce rapport, culturel aussi et scientifique. On peut peut-être démarrer
01:14sur la partie formation puisqu'il y a un point vraiment très détaillé là-dessus.
01:18En tout cas, transformation du travail avec la nécessité de mettre en place des
01:24politiques publiques nous dit-on dans ce rapport. Qu'est-ce qu'on doit mettre en
01:27place comme politique publique pour accompagner cette transformation selon
01:30vous ? Alors effectivement ce rapport dédie toute une partie à l'évolution du
01:36marché du travail avec l'arrivée de l'intelligence artificielle et ce que je
01:41trouve assez intéressant c'est que par rapport aux peurs potentielles des
01:45remplacements, du grand remplacement par l'IA, le rapport souligne qu'en fait
01:49plus que de supprimer un certain nombre d'emplois ou de remplacer des emplois
01:54par l'IA, il va y avoir plutôt une transformation profonde du marché du
01:57travail. Ça me semble assez intéressant et cette transformation profonde
02:02évidemment ça signifie qu'il faut que les salariés dans les entreprises soient
02:09accompagnés mais aussi, alors ça c'est pour les salariés qui sont déjà des
02:13adultes, mais aussi qu'on accompagne tout au long de la vie de l'école en
02:17passant par l'université puis au-delà toutes les populations et qu'on fasse de
02:23l'acculturation. Alors ce rapport est intéressant parce qu'il a formulé un
02:26certain nombre de recommandations, il y en a 18 me semble-t-il ou 25 et la 9 et
02:31la 10 sont dédiées sur ce sujet, comment est-ce qu'on acculture et cette
02:36acculturation pourrait peut-être en France un peu s'inspirer de ce qui est
02:39fait en Finlande où ils ont commencé depuis déjà pas mal d'années à
02:43acculturer, à se sensibiliser, démystifier en fait, il faut démystifier un peu l'IA
02:48qui fait peur aussi beaucoup. Mais ça cette acculturation elle dépend pas du
02:52politique ? Ben non, elle dépend pas que du politique, ça peut se faire en
02:57entreprise, ça peut se faire effectivement en entreprise, alors ça peut être décidé
03:00aussi par des instances type l'éducation nationale, l'éducation de
03:04l'enseignement supérieur et de la recherche, donc il y a quand même une
03:07petite partie politique pour flécher peut-être un certain nombre de soutien
03:12budgétaire d'investissement mais il y a aussi un gros besoin de formation
03:17dans les entreprises. Hier j'étais à une séance d'acculturation dans l'enceinte du
03:23conseil régional de l'Île-de-France où on avait 400 personnes qui sont arrivées
03:27le matin à 9h pour se faire former et j'étais surprise de voir qu'il y a
03:31beaucoup beaucoup d'intérêt, 450 personnes à 9h du matin au conseil
03:35régional de l'Île-de-France à Saint-Ouent qui étaient très intéressés.
03:38Vous voulez dire que c'est rare ? J'étais surprise de l'engouement et ce qui m'a aussi beaucoup
03:43surpris c'est que finalement au-delà de l'appétit qui est souligné par cette
03:47présence et cette participation il y a aussi plus que de l'appétit à
03:52comprendre il y a déjà un bon taux d'utilisation donc ce qui me semble aussi
03:56très important c'est un peu d'encadrer cet apprentissage parce qu'utiliser
04:01chat.gpt ou pou.com ou perplexity ça s'apprend et enfin on pourra éventuellement
04:10y revenir ça ne se fait pas n'importe comment il peut y avoir un certain nombre
04:15d'écueils et il y a un certain nombre de règles à respecter voilà donc donc ce
04:20rapport de ce point de vue là très intéressant quand même. Alors je voulais
04:23vous faire réagir Muriel sur plutôt la partie régulation, réglementation
04:27le rapport nous dit bon on doit éviter que l'Europe devienne une colonie
04:30numérique si ce n'est pas déjà le cas en tout cas l'union européenne mise sur
04:34la régulation du lien mais cela reste insuffisant voilà ce que nous disent les
04:38trois sénateurs après avoir procédé à de nombreuses consultations
04:42vous êtes d'accord avec ça ? Alors moi je pense qu'il y a à la fois une partie
04:48qui doit être jouée par la régulation mais aussi une partie qui doit être
04:51jouée par la création d'un écosystème qui puisse avoir des réponses
04:54pertinentes pour arriver chez les utilisateurs
04:57il y a une question de fond de comment l'Europe va réussir à créer des
05:01produits qui correspondent à ses valeurs et à son éthique et de ce point de vue
05:06là je trouve que ce type de rapport est extrêmement positif parce qu'il
05:12imprime si vous voulez le fait qu'il y ait ce dialogue entre le parlement et ce
05:18qui est développé dans un gouvernement est fondamental parce que ça imprime une
05:22marque démocratique à la gouvernance de l'IA c'est extrêmement important que
05:27nos institutions préservent cette capacité de dialogue sur des enjeux qui
05:32sont à très très grande échelle comme la gouvernance de l'IA donc c'est aussi
05:36ce qui se passe au niveau européen le parlement européen a créé un groupe de
05:40travail pour superviser l'implémentation de la réglementation
05:43européenne et notamment l'action de la commission
05:46donc il y a quelque chose de très important que je trouve qui se passe
05:51aussi par la formation c'est de renforcer le jeu démocratique par la
05:56compréhension des utilisateurs de cette technologie parce que cette
06:01troisième vague avec la façon dont elle a imprimé le langage comme
06:05interface fait qu'en fait on est de plus en plus devant des questions
06:10d'utilisateurs final et d'enjeux éthiques sur l'utilisateur final et les
06:16entreprises sont un relais de cette formation et c'est pour ça que je pense
06:20que c'est aussi important que les gouvernements et une politique d'éducation
06:24parce que c'est la citoyenneté en fait qui est aussi en jeu
06:28alors il y a cette question alors effectivement d'ailleurs le rapport fait
06:33état de l'absence de représentants parlementaires dans le pilotage du
06:38sommet de Paris sur l'IA donc il y a un souci effectivement ça
06:43intéresse beaucoup de monde cette question de l'IA y compris le politique
06:46qui a envie de s'y engager tant mieux on peut s'en réjouir mais ils disent
06:50aussi en matière de réglementation qu'on a une approche par les risques
06:53uniquement qu'il faut sortir de cette approche est ce que vous avez ce
06:56sentiment aussi qu'en Europe on aborde l'IA uniquement par les risques ?
07:00Alors disons que la façon dont cela s'est matérialisé en France en termes de
07:05gouvernance de l'IA c'est le travail de fonds de création d'un écosystème
07:09donc j'ai pas l'impression la façon dont en Europe on constitue par exemple
07:15l'office de l'IA enfin le bureau de l'IA c'est de créer une partie qui gère les
07:20risques et trois branches qui gèrent AI for good qui gèrent le financement
07:28avec des augmentations quand même assez importantes de
07:33financement dans l'innovation donc pour ce qui est de la France
07:37moi je suis impliquée au niveau plutôt international de façon générale
07:41professionnellement mais par contre j'ai participé à France 2030 et j'ai
07:45évalué un peu plus d'une quinzaine de projets de financement et ce que je vois
07:50c'est que dans un indice comme le global AI index la France est passée de
07:562023 à 2024 de la treizième position à la cinquième position donc cette
08:04capacité de créer un écosystème est quand même là et l'Europe veut s'en
08:09inspirer donc je pense qu'en fait on est en train d'avoir tous les éléments pour
08:16avoir des vraies réponses qui peuvent atterrir chez les utilisateurs et donc
08:20qu'on n'est pas que dans les risques bon et tant mieux mais et puis si je peux
08:24me permettre de compléter je trouve que cette approche qui est aussi de
08:29déployer l'intelligence artificielle dans les entreprises elle se fait pas
08:33avec l'approche des risques enfin elle se fait un peu avec l'approche des risques
08:35mais elle se fait surtout avec l'approche des opportunités et
08:38l'identification des cas d'usage en fait les entreprises qui commencent à
08:42déployer l'utilisation de l'intelligence artificielle
08:44elles cherchent des cas d'usage et des cas d'usage avec l'IA il y en a plein sur
08:48de la production de contenu sur l'intelligence documentaire sur les
08:53agents conversationnels et tout ce qui est interactif et donc ça porte aussi
08:58l'ensemble d'un écosystème vers un IA plutôt orienté opportunité que
09:04Je vais rajouter un petit risque aussi c'est l'uniformisation cognitive parce
09:07que ça aussi c'est bien souligné dans le rapport il y a un risque d'accentuer
09:11fortement l'hégémonie culturelle des Etats-Unis donc il faut qu'on soit
09:16offensif en matière d'infrastructures de création de modèles de langage mais
09:22comment est ce qu'on fait pour lutter contre cette hégémonie culturelle dans
09:25l'IA c'est possible ça ? Vu l'avance qui est prise aujourd'hui par ces grands
09:30modèles ? Je pense que c'est possible je pense que c'est possible par une vraie
09:34culture de la donnée et surtout une culture de l'évaluation c'est à dire
09:39qu'on se rend compte de façon assez intuitive qu'il y a une hégémonie
09:44culturelle et même linguistique par un par moment on s'en rend compte avec
09:50quelques études qui sortent aux Etats-Unis de grandes universités mais
09:56par contre on n'a on ne s'est pas encore donné les moyens d'avoir des
10:00observatoires et je pense que la culture de l'évaluation est déterminante en
10:06entreprise parce que ce sont des professions qui ne sont pas habituées à
10:10qui n'auraient pas adopté l'IA autrement et qui du coup n'ont pas toute
10:15cette culture industrielle d'évaluer les outils et pour être bien certain que
10:22même un outil de génération d'images pour des jeux vidéo n'a pas uniquement
10:29ces personnages et ces avatars qui rentrent dans des boulangeries remplies
10:32de donuts par exemple ou que les rues ressemblent à Cracovie par exemple donc
10:40il y a tout un enjeu culturel derrière l'IA générative même d'un point de vue
10:44visuel que je pense qui est en train de surgir tout doucement au niveau des
10:49ministères de la culture européen et qui passe par une culture de la
10:54donnée et de l'évaluation.
10:55Ça va être un des sujets d'ailleurs du sommet de Paris la culture en
10:59revanche il n'y a pas l'éducation.
11:01Oui alors non mais alors justement par rapport à cette question de
11:05l'uniformisation de la pensée parce qu'effectivement ces modèles de
11:13langage sont basés sur le texte anglo-saxon qui est diffusé sur
11:17internet donc c'est la réalité de la matière première et il est très
11:21très largement anglo-saxon donc il y a mais c'est pour ça que c'est très
11:24important de garder son esprit critique par rapport à l'utilisation de ces
11:30outils et la formation ça sert à ça c'est en tout cas la formation telle
11:34qu'on la pense en France et de façon quasi universelle c'est
11:40de comment je garde mon esprit critique par rapport à ce que me sort chaque
11:43GPT et les potentielles hallucinations ou biais de conclusions.
11:52Bon alors après les questions qu'on se pose aujourd'hui est-ce qu'on va se les
11:54poser demain de la même façon parce qu'il y a une nouvelle tendance et je
11:57voulais en savoir plus qu'est ce que c'est que cet agentique AI Murielle ?
12:01Alors c'est vraiment la tête de proue de l'arrivée de l'IA vraiment dans
12:11l'entreprise parce qu'il y a deux avantages fondamentaux à ces systèmes
12:16qui orchestrent plusieurs briques à la fois d'IA générative mais aussi de
12:20moteurs de recherche ou d'automatisation de tâches de paiement
12:25donc c'est quelque chose de très très global c'est une architecture qui va
12:29permettre à différents éléments d'interagir et donc ça ça a deux
12:33avantages fondamentaux le premier c'est que ça garde beaucoup plus le contrôle
12:37on a beaucoup plus une idée avec des règles précises de comment...
12:41Ça c'est contre-intuitif parce qu'on se dit justement si la machine enfin le logiciel
12:44par le logiciel sans intervention humaine on aura moins de contrôles
12:46dites-nous. Alors au moment du développement on a beaucoup plus de
12:50contrôles c'est à dire qu'on peut beaucoup plus prédire quelles vont être
12:53les interactions entre les différents éléments on va pouvoir prédire à quel
12:58moment il faut lancer une recherche sur internet ou pas parce que votre base de
13:02données d'entreprise n'a pas cette réponse donc il y aura beaucoup plus de
13:07contrôles dans la partie de développement il y aura aussi beaucoup
13:11plus d'adaptivité donc c'est là à mon avis qu'on va avoir les vrais cas d'usage
13:15pour l'éducation parce qu'on va avoir une possibilité d'adapter beaucoup
13:20plus au parcours d'apprentissage et d'insérer de la théorie de chaque élève
13:25et notamment de challenger le savoir de l'élève avec des méthodes qu'on
13:30appelle socratiques donc ça ça va être deux éléments il y a un mais
13:36il y a un mais et notamment c'est un mais qui nous occupe pas mal dans un comité dans lequel
13:43je suis au conseil d'europe sur la liberté d'expression et l'IA générative
13:47c'est qu'il y a trois semaines l'université de Stanford, un labo de
13:53l'université de Stanford sortait une étude qui faisait écho à une autre
13:57étude de 2023 sur la simulation de personnalité et donc il y a mille
14:04personnes qui ont participé à une interview guidée par l'IA à l'oral de
14:09deux heures et après sur la base de cette information on a enrichi la mémoire
14:16d'un système agentique et on s'est retrouvés à pouvoir simuler les traits
14:23de personnalité les choix et les réponses de ces mille personnes sur des
14:28questionnaires longs vraiment c'est beaucoup de données c'est pas une étude
14:31qui est juste au tapas à l'oeil et de pouvoir prédire avec 85% de précision
14:39les choix et les choix aussi d'envie de besoin que ferait
14:47chaque personne sur des questionnaires qui n'étaient pas inclus évidemment dans
14:50les deux heures d'interview donc on est dans un système en fait où vous pourrez
14:54avoir un agent IA et donc ça c'est un peu en dehors de ce que dit Gartner sur
15:00l'entreprise c'est vraiment sur les usagers qui arrivent chez le consommateur
15:04vous pourrez avoir quelqu'un enfin quelqu'un quelque chose qui approxime et
15:11simule bien votre personnalité dans des achats de manière assez autonome
15:16ça va être magnifique pour le commerce ça et pour la publicité ciblée
15:21vous pourriez demander à chaque GPT de faire l'achat de votre billet de train et de
15:25payer avec le compte en banque. Choisir la destination pour le chêne de nos vacances.
15:29C'est formidable mais bon ça pose quelques questions et puis il y a quand même un gros
15:36chantier d'adoption d'abord des intelligences artificielles génératives
15:40avant ça mais c'est prospectif et c'est amusant. Oui et puis ça commence à
15:45arriver quand même donc il ne faut pas, ça va tellement vite que voilà il ne faut pas
15:49freiner à s'y intéresser. On a une start-up française qui travaille sur le sujet qui
15:52s'appelle, qui a pas mal fait parler d'elle, qui avait levé des fonds 220 millions au printemps
15:58qui s'appelle H à Paris, qui travaille sur le sujet. On va recevoir bientôt.
16:05Tout à fait, voilà vous savez tout. Merci beaucoup à toutes les deux Muriel Popafabre, experte en
16:10traitement automatique du langage au conseil de l'Europe et Véronique Sobo, directrice générale
16:14de Saint-Plon. Merci encore on va parler maintenant de la course à l'investissement dans l'IA.