SANTÉ FUTURE du 14 avril 2025
Catégorie
🗞
NewsTranscription
00:00L'IA transforme déjà la médecine, mais quels enjeux soulève-t-elle pour l'accès aux soins et la relation soignant-soignée face à l'innovation ?
00:13Comment préserver l'essence humaine de la médecine ? C'est le thème de ce débat.
00:18Pour commencer, une question pour vous Guy, et puis tout le monde pourra réagir.
00:22Avant toute chose, et très concrètement, dans quelles mesures l'IA transforme-t-elle déjà la pratique médicale ?
00:29De façon très profonde, je vais vous donner un exemple concret.
00:36L'hôpital Erasmus à Rotterdam, qui est parmi les hôpitaux européens les plus réputés,
00:42ils viennent d'acheter un système pour l'interprétation des clichés de thorax.
00:47Ils en font 100 000 par an.
00:52On n'a pas la main d'oeuvre pour faire le travail.
00:55Et donc, ils ont mis en route ce processus de lecture des clichés de thorax par intelligence artificielle,
01:03dans l'objectif, bien sûr, de détecter tout ce qui est anormal,
01:07mais dans un pays où il y a beaucoup de fumeurs, par exemple, de détecter des cancers du poumon au stade précoce.
01:12Voilà un exemple concret.
01:14Un autre exemple, il y a de très nombreux hôpitaux en Europe et en France également,
01:19où il n'y a pas de radiologue 24 heures sur 24.
01:24Et c'est très important d'interpréter les clichés de squelettes,
01:29parce que les gens viennent aux urgences en général, parce qu'ils se font un bobo, ils ont mal,
01:33est-ce qu'il y a une fracture ou pas ?
01:34Et ces systèmes, déjà, sont utilisés dans de nombreux hôpitaux.
01:39Donc voilà deux exemples concrets.
01:40Charles ?
01:42Alors moi, je ne suis pas au niveau des systèmes qui fonctionnent.
01:47D'un point de vue réflexion de base, on sait que c'est les systèmes qui vont traiter l'imagerie,
01:52qui vont rapidement mieux marcher que les autres et qui déjà marchent mieux que les autres.
01:57Alors que les systèmes où on traite les données cliniques, il y a d'autres soucis un peu plus compliqués.
02:03On nous a mis dans les journaux un système d'IA qui avait passé l'examen médical aux États-Unis,
02:10mais sauf qu'on lui avait donné les données et que l'examen clinique avait déjà rendu les données.
02:15Alors l'examen clinique, c'est peut-être la chose la plus importante que doit prendre un médecin.
02:20Donc il y a des choses comme ça qui vont peut-être t'attendre un peu pour que ça marche bien.
02:25Par ailleurs, nous par contre, les outils d'IA, on les utilise tout le temps.
02:29C'est-à-dire, on met en place des entrepôts de données de santé,
02:33ce que tous les CHU sont en train de mettre en place en France et probablement en Europe.
02:37Et dans ces entrepôts de données de santé, on a besoin d'outils pour traiter les données,
02:41pour permettre les essais cliniques.
02:43Et ces outils, nous, on utilise des LLM, on utilise des tas d'outils d'IA.
02:48Mais en tant qu'ingénieur d'IA, pour mettre à disposition des médecins leurs données
02:53de la meilleure façon et dans le meilleur format qui soit le plus utilisable.
02:58Camille, du point de vue de l'entrepreneur, pardon.
02:59Alors, du point de vue de l'entrepreneur, maintenant, on a parlé de l'IA dans la partie diagnostique.
03:04On a parlé de l'IA dans la partie recherche.
03:07Et c'est vraiment les deux domaines de l'intelligence artificielle où c'est le plus poussé actuellement.
03:11Mais il y a d'autres domaines qui apparaissent où l'IA fait de plus en plus de progrès.
03:16Alors que ce soit dans le soin, ça, c'est particulièrement vrai en radiothérapie,
03:20où l'IA permet de cibler les tumeurs de manière très précise lorsqu'on fait des sessions de radiothérapie.
03:27Donc, on n'est plus dans le diagnostic, on est dans le soin.
03:30Et c'est aussi de plus en plus vrai dans la stratégie thérapeutique.
03:35C'est-à-dire que les modèles d'IA prédictifs permettent de donner énormément d'informations
03:40sur des scénarios d'évolution potentielle de maladies pour des patients en fonction de beaucoup de points de santé.
03:48Et cette information permet aux médecins de mettre en place des stratégies thérapeutiques
03:54qui soient plus pertinentes et de faire ce qu'on appelle en oncologie de la médecine personnalisée.
03:59C'est-à-dire des traitements qui correspondent vraiment à une personne donnée
04:03par rapport à l'ensemble des personnes qui pourraient avoir a priori les mêmes symptômes.
04:08Donc, ce qu'on observe, c'est que ça a commencé par le diagnostic,
04:11beaucoup en recherche, mais ça s'étend au-delà de ça pour le soin, pour la stratégie thérapeutique.
04:17Guy, vous voulez aller ?
04:17Je voudrais donner un chiffre. Sur les 1000 systèmes d'intelligence artificielle
04:23qui ont été certifiés par la FDA, qui est l'organisme de certification nord-américaine,
04:281000, il y en a 80% qui sont consacrés à l'imagerie.
04:34Deuxième point, un bénéfice considérable de l'intelligence artificielle,
04:39c'est dans les pays sous-développés.
04:41Et vous allez voir qu'on va pouvoir importer ce bénéfice chez nous.
04:43Le dépistage de la tuberculose, aujourd'hui, repose sur la pratique d'un cliché de thorax
04:52interprété par un système d'intelligence artificielle à distance.
04:56Et ensuite, bien sûr, revu.
04:58Donc déjà, si vous voulez, l'intelligence artificielle permet à la technologie, à l'imagerie,
05:05d'aller auprès des patients.
05:06Un deuxième exemple, les ultrasons, les examens échographiques,
05:11qui sont fondamentaux pour suivre la grossesse et la délivrance.
05:15Et vous savez que dans ces pays-là, la mortalité périnatale est extrêmement élevée, effroyable.
05:21Et bien aujourd'hui, on a des systèmes d'ultrasons qui permettent de faire l'examen automatiquement
05:27et d'envoyer les données pour que celles-ci soient interprétées à distance.
05:30Alors, cette possibilité pour l'intelligence artificielle d'aller auprès du malade,
05:37eh bien, je crois qu'il faudrait qu'on soit un peu inventif pour essayer de régler
05:43des problèmes d'accès aux soins en France, par exemple.
05:46Oui, mais parce que néanmoins, certains disent que l'IA pourrait exacerber les inégalités
05:49d'accès aux soins.
05:51Là, c'est le contraire.
05:52De coups technologiques.
05:55Je sais, mais est-ce que c'est une inquiétude que vous partagez sur cet aspect-là ?
05:58Non, mais je pense que c'est le contraire. Au contraire, si vous voulez, l'IA va permettre
06:02aux techniques d'aller auprès du malade, alors qu'aujourd'hui, si vous habitez
06:08dans certaines provinces en France, il faut faire 50 km pour avoir un examen radiologique
06:12et il faut attendre 3 mois.
06:13Oui, mais ça va présenter un coût. Tous les hôpitaux ne pourront pas en bénéficier.
06:17Vous savez, installer un appareil portable de rayons X et un appareil d'ultrasons,
06:23et aujourd'hui, on fait des appareils d'ultrasons portables également qui ne coûtent pas trop cher,
06:27à mon avis, c'est plus un problème, si vous voulez, de maturation au niveau des professions
06:34et des pouvoirs publics pour se dire, tiens, c'est vrai, on pourrait être complètement innovant là
06:38et essayer de trouver des systèmes pour combler cette difficulté d'accès aux fonds.
06:43Il faut des systèmes. Effectivement, le coût est supportable s'il est pris en charge
06:47par la sécurité sociale, c'est-à-dire si le dispositif qu'on met en place est considéré
06:51comme un dispositif médical, avec le nerf de la guerre remboursé par la sécurité sociale,
06:57même si c'est à 60-70%, on n'aura pas trop d'inégalités d'accès.
07:03En même temps, on est dans des périodes où les inégalités d'accès sont déjà là et sans l'IA,
07:08donc on a d'autres problèmes.
07:10Après, la réalité, c'est que les coûts de calcul, les coûts d'inférence pour faire tourner les modèles
07:14sont en chute libre. Et donc, des choses qui étaient vraies il y a deux ans,
07:18où il fallait des centaines de millions de dollars pour avoir des modèles à peu près performants,
07:23ça se transforme de plus en plus en centaines de milliers de dollars, voire en milliers de dollars.
07:26Donc, il y a des effets d'échelle qui sont très importants et qui vont bénéficier à tous
07:32du point de vue des coûts, oui.
07:33Mais aujourd'hui, les logiciels d'IA pour faire de l'interprétation de distance,
07:39c'est quelques milliers d'euros par an. Ce n'est pas du tout des centaines de milliers.
07:43Donc, il y a un imaginaire, en fait.
07:44C'est rien du tout. Vous comprenez ? Dans le cadre du budget d'un hôpital, c'est rien du tout.
07:48Qui était vrai il y a quelques années, c'est juste que ça... Voilà, ça baisse.
07:52Et autre problématique, à quel point, selon vous, l'IA peut-elle réellement répondre
07:57aux pénuries de personnel médical dans certains secteurs ?
08:00J'ai peur que ce ne soit pas à court terme, quand même.
08:03Enfin, peut-être sur certains systèmes de dépistage, quoi.
08:06Mais sinon, justement, permettre que les médecins soignent mieux avec des systèmes d'IA,
08:11ça veut dire qu'ils comprennent comment marche le système.
08:13On parlait de formation.
08:15Alors, le gouvernement met en place doucement ce qu'on appelle les formations à la santé numérique.
08:21Pas que l'IA, tout ce qui tourne autour des systèmes informatiques.
08:23Et là, il y a quand même pas mal de travail.
08:27Et il faut quand même que le couple médecin-machine,
08:31comme je parlais tout à l'heure,
08:33puisse fonctionner réellement au bénéfice du médecin, du patient,
08:37pour qu'on avance, quoi.
08:38La qualité des données représente un vrai enjeu pour le développement de l'IA.
08:45Quel défi ça pose dans le domaine médical ?
08:48Ça pose plusieurs défis.
08:50Un défi qui est important, c'est de s'assurer que les qualités ne sont pas biaisées.
08:55Il y a une étude importante qui avait montré qu'une intelligence artificielle
08:59qui était capable de détecter des mélanomes à partir de lésions cutanées
09:03fonctionnait très bien pour les populations blanches.
09:06En revanche, elle ne fonctionnait absolument pas pour les populations noires
09:08parce que les modèles sous-jacents n'avaient pas été entraînés sur des populations noires.
09:12Donc il faut s'assurer que les modèles sous-jacents soient le moins biaisés possible
09:19pour qu'in fine, on arrive à quelque chose qui puisse convenir au plus grand nombre
09:24et pas uniquement à une élite en particulier.
09:27Là, vous soulevez un point fondamental qui est la qualité.
09:31Parce que c'est bien de mettre des logiciels d'IA,
09:35mais il faut être sûr, si vous voulez, que la qualité de l'usage est constante.
09:41Et quand la technologie évolue, ce qui est le cas aujourd'hui,
09:45en imagerie, elle évolue pas tous les jours, mais presque,
09:48eh bien, il a été montré que les systèmes d'IA dérivent.
09:52C'est-à-dire qu'ils deviennent moins bons.
09:54Et c'est fondamental de dépister cette dérive.
09:57Alors, on ne peut pas le faire comme ça.
09:58Eh, est-ce que tu dérives ?
10:01Non, c'est plus compliqué.
10:04Et ça veut dire qu'il faut penser à développer des systèmes de management de la qualité.
10:09Et pour ça, je pense qu'on n'est pas très avancé.
10:13Plus avancé aux États-Unis qu'en Europe et en France en particulier.
10:18Et donc, il va falloir...
10:20Donc voilà, une des conséquences de l'IA,
10:22ça va amener à créer de nouveaux métiers.
10:25Le système de management de la qualité,
10:26à mon avis, il est fondamental.
10:28Parce qu'on ne peut pas mettre comme ça un système.
10:31Et puis, c'est comme les médicaments, si vous voulez.
10:32Les médicaments, c'est la pharmacovigilance.
10:34Et là, il faudrait de l'intelligence artificielle vigilance un petit peu, quoi.
10:39Et ça, c'est un des points qui me paraît fondamental.
10:41Préserver la qualité.
10:42Et je rajouterais qu'il n'y a pas que des problèmes de qualité.
10:45Il y a aussi l'IA prétend réutiliser et réutiliser des données avec des...
10:50Parce qu'il y avait des entrepôtes, enfin, des données partout qu'on n'utilisait pas.
10:55Mais il faut faire très attention à ce que l'IA utilise des données qui,
10:59n'ont pas été faites, ce pour quoi ils les utilisent.
11:02Par exemple, ça, c'est un peu technique.
11:04Mais les gens qui sont dans les hôpitaux, ils sont codés avec le PMSI.
11:08C'est-à-dire qu'on leur a décrit une maladie.
11:11On décrit pourquoi il a été dans l'hôpital.
11:13Et c'est ce qu'on appelle le code PMSI.
11:14Et on donne une maladie qui décrit le patient.
11:18Et ça remplit la grande base de données du LAS-NDS
11:21et avec lequel on peut...
11:23On s'enorgueillit de pouvoir faire des stats sur les 70 millions de Français.
11:28Mais par exemple, on sait que le codage PMSI des patients
11:31est un codage médico-économique
11:33et qu'il est beaucoup biaisé par rapport à la médecine elle-même.
11:36Donc voilà, là, on a des données de qualité,
11:39mais qui ont été faites pour le médico-économique
11:41et qu'il faut utiliser en faisant très attention
11:43pour le pur médical.
11:46Donc là aussi, c'est les biais possibles des données de l'IA.
11:49Ce point me paraît très important que vous venez de soulever.
11:52Et c'est en fait, si vous voulez,
11:55le problème de l'agrégation des données.
11:58En cancérologie, quand vous prenez un patient,
12:01vous avez des données qui viennent de partout.
12:03Vous avez de la protéomique, de la génomique,
12:06de la biologie de base, de la radiologie, de l'anapath
12:10et des données du suivi des patients qui sont fondamentales.
12:14Et tout ça, ça crée un écosystème très complexe.
12:18Mais il faut considérer toutes ces données,
12:20si vous voulez choisir le meilleur traitement possible,
12:22on sait aujourd'hui la complexité en matière de cancérologie,
12:26ou si vous voulez savoir si tel patient est éligible
12:29pour un essai thérapeutique.
12:30Et donc, ce problème de l'agrégation des données,
12:33il est fondamental, et il n'y a que l'IA qui peut le faire.
12:36Et je crois beaucoup, moi, en radiologie,
12:39on est confronté à ce type de questions,
12:42parce que quand on fait des réunions de concertation pluridisciplinaire,
12:45en cancérologie, nous, on arrive avec les images,
12:48mais il n'y en a pas qui arrive de son côté,
12:50le radiothérapeute, le chirurgien,
12:52mais on n'a pas, si vous voulez,
12:54le ciment qui fait l'unité de tout ça.
12:57Et cette question d'agrégation des données
12:59me paraît personnellement fondamentale.
13:00Alors, nous, en tant que start-up,
13:02c'est vraiment un sujet absolument fondamental.
13:04C'est ce qu'on a, des contraintes d'interopérabilité,
13:07donc de faire en sorte que les différents systèmes de santé
13:09puissent se parler pour qu'on puisse échanger ces données.
13:12Et ça, en théorie, les industriels sont censés pousser pour le faire.
13:18En pratique, ils ne le font absolument pas,
13:20parce qu'ils sont débordés,
13:21ils ont d'autres sujets avec leurs expertise.
13:24Oui, mais ça, on peut le faire à leur place.
13:26On sait le faire.
13:27On peut le faire à leur place, parce que ça coûte très cher.
13:29Et ça ne coûte pas cher.
13:30À une époque, ils ne le faisaient pas par stratégie.
13:34Oui, à une époque, ils ne le faisaient pas.
13:35Et maintenant, tout le monde s'est dit,
13:37OK, il faut faire de l'interopérabilité.
13:38Pas de problème.
13:39Et on connaît les normes d'interopérabilité.
13:41Et c'est vrai que souvent, ça peut être les chercheurs
13:43qui aident à les faire,
13:44même quand les industriels ne veulent pas les faire.
13:46Mais là, sur ce côté-là,
13:48l'IA, elle crée et le problème et la solution.
13:51Sur les normes d'interop,
13:52on avance vraiment très bien.
13:55Et vous pensez qu'il y a des freins culturels
13:57ou organisationnels qui existent
14:00lorsqu'il s'agit de collaborer
14:02entre ingénieurs, médecins, régulateurs ?
14:06Alors, il y a une étude systémique,
14:08donc une étude qui avait analysé
14:09plein de données de différentes études
14:11pour voir quelles étaient les barrières
14:12à l'utilisation de l'intelligence artificielle
14:14du côté des médecins.
14:16Et ce qui ressortait, c'était trois choses.
14:19La première, c'était la perception
14:22qu'utilisaient des outils d'IA
14:24à aller leur rajouter de la charge de travail.
14:26Ce qui était surtout vrai au début,
14:27qui est de moins en moins vrai
14:28parce qu'on comprend bien les bénéfices.
14:30Mais il n'empêche qu'ils avaient déjà
14:32dix outils à utiliser.
14:34Il fallait en rajouter un onzième,
14:35un douzième, un treizième.
14:36Et ce n'est pas toujours évident pour un médecin.
14:39Le deuxième sujet qui était ressorti
14:41de cette étude, c'était que certains médecins
14:44doutaient dans la valeur réelle de ces outils.
14:49Et là aussi, il y a de plus en plus de progrès
14:51puisqu'on est capable de démontrer
14:52que les IA sont de plus performantes.
14:55Et ensuite, le dernier sujet,
14:57toujours mon dada,
14:58mais l'interopérabilité faisait
15:00que ça n'était pas forcément évident
15:02d'utiliser ces outils pour les médecins.
15:06Guy, vous voyez des freins culturels, vous ?
15:08Il y a des modèles inspirants ?
15:10Dans le milieu radiologique, moi, je n'en vois pas.
15:13C'est plutôt le contraire.
15:15Oui, d'ailleurs, la radiologie est souvent citée
15:16comme un domaine où...
15:17Oui, les radiologues sont plutôt proactifs.
15:19Alors maintenant, il faut savoir là où ça sert.
15:23Par exemple, dans la prise en charge de l'AVC,
15:26si vous voulez,
15:29le groupe Gessinger aux États-Unis,
15:31qui est un groupe de cliniques très important,
15:35ils utilisent l'IA pour la prise en charge de l'AVC
15:37et ils ont montré qu'ils réduisent le délai de prise en charge
15:43de presque 50%.
15:44Donc, vous voyez, vous savez ça,
15:47il y a forcément un bénéfice pour le malade
15:49parce qu'on sait très bien que plus la prise en charge est précoce,
15:53c'est meilleur le traitement de l'AVC.
15:55Donc, voilà un domaine où il n'y a pas photo.
15:57Un autre domaine, je vous ai parlé de la radio standard,
16:01des clichés de thorax,
16:02qui sont interprétés pratiquement nulle part.
16:06Aujourd'hui, vous avez des systèmes qui vont pouvoir le faire.
16:11Alors, ça n'entraîne pas de travail supplémentaire pour les radiologues,
16:14au contraire,
16:15et ça contribue à améliorer la qualité des soins.
16:19Donc, vous voyez, on les a.
16:22L'usage, il explose.
16:24Il y a deux sondages qui sont parus dans les deux derniers mois.
16:27Un sur l'usage des médecins aux États-Unis.
16:29Les trois quarts utilisent des LLM type OpenAI
16:32pour les aider dans leur pratique médicale.
16:35Et l'autre, c'était du côté des patients.
16:38Et ça disait que 30% des patients,
16:41les patients les plus jeunes de moins de 30 ans,
16:44utilisaient des LLM pour aller chercher des informations de santé
16:47qui les concernaient, eux,
16:50au moins une fois par mois.
16:51Au moins une fois par mois.
16:52Donc, c'est vraiment significatif.
16:55Et ce qui est très important,
16:56parce que la jeune génération,
16:58pardon, la jeune génération,
17:01elle ne vit pas sans IA.
17:04Pour elle, ça fait partie de son, je dirais, de son écosystème.
17:08Et les systèmes de santé qui ne font pas d'IA,
17:11ils vont finir par paraître suspectes.
17:14Donc, il y a une étude qui a été faite aux États-Unis
17:17et qui vient de sortir récemment.
17:18Un hôpital sur deux est équipé d'IA
17:22et avec une tendance à l'augmentation des moyens mis sur l'IA
17:27dans les deux, trois prochaines années.
17:30Donc, c'est réglé.
17:32Moi, je serais un peu inquiet sur l'utilisation des LLM par les patients.
17:39On sait qu'il ne faut pas utiliser un LLM pour de la recherche d'informations.
17:43Il invente des publications qui n'existent pas.
17:45Il faut quand même faire très, très attention aux LLM.
17:47L'IA, elle fait du symbolique, elle fait du numérique.
17:49Et sur la partie numérique, les LLM,
17:52ils sont incroyables parce qu'ils ont l'air intelligents, pour le coup.
17:55Mais non, ils ne le sont pas du tout.
17:57Et on ne peut pas leur faire confiance comme ça.
18:00On leur fait confiance en tant qu'outil qu'on utilise, nous.
18:03Il y a des gens qui sont devenus spécialistes des promptes LLM
18:06pour leur poser les bonnes questions, pour les orienter.
18:09Mais moi, je suis assez inquiet sur l'utilisation du LLM
18:14comme ça, sans que les gens aient bien compris.
18:16Autre problème, utiliser un LLM,
18:18c'est enrichir les gens qui font le LLM,
18:22l'enrichir de données.
18:23Et là aussi, on peut se poser pas mal de questions.
18:26Là, on abordera les questions d'RGPD, d'éthique.
18:29Plus éthique, oui.
18:30Nourrir les LLM, il faut savoir qui on nourrit,
18:33comment ça va avancer.
18:34Je pourrais parler d'autres projets.
18:36Alors effectivement, le médecin libéraux en France,
18:38ils sont moins dans l'IA que peut-être aux États-Unis.
18:42Les médecins hospitaliers qui sont en interaction en permanence
18:44avec des projets d'IA sont plus partie prenante
18:49pour utiliser les systèmes d'IA.
18:51Mais je pense qu'en France, ça n'avance pas beaucoup
18:54côté médecins libéraux parce que c'est compliqué,
18:56parce qu'on vient à peine de les équiper.
18:59Ils sont déjà occupés à remplir le DMP,
19:03enfin maintenant notre espace santé.
19:06Et on peut demander aux gens dans la salle
19:07qui a rempli son espace santé
19:10et qui s'est connecté à son espace santé.
19:12Et ça ne se bouscule pas.
19:13Donc il y a un problème d'installation d'usage.
19:16Camille, vous voulez réagir ?
19:17Oui, je voudrais dire là-dessus
19:19que l'intelligence artificielle, elle aide aussi beaucoup
19:21parce que ce qui se développe actuellement,
19:24c'est ce qu'on appelle les IA ambiantes.
19:27Donc ils vont écouter les consultations
19:28justement pour remplir ces dossiers médicaux partagés.
19:34Et ça, c'est quelque chose qui explose aux États-Unis
19:37et qui, maintenant en France,
19:40notamment parce que Doctolib a lancé sa version de l'IA ambiante
19:43il y a quelques semaines,
19:44est aussi en train de se développer très très fortement.
19:47Oui, ça va marcher, mais il faut faire attention.
19:49J'ai un copain psychiatre qui se sert de Doctolib.
19:52Il a encore du boulot, il m'a dit.
19:54Ça ne marche pas comme il voudrait que ça marche.
19:56Mais je suis d'accord que ça va marcher.
19:58C'est-à-dire faire rédiger les comptes-rendus d'hospitalisation
20:01ou faire les comptes-rendus de RCP,
20:04c'est finalement une espèce d'activité administrative
20:06que l'IA commence à faire et va faire bien,
20:09voire très bien à un moment.
20:11Camille, pour parler concret,
20:13votre startup utilise l'IA génératif
20:15pour améliorer le suivi des symptômes des patients à temps de cancer.
20:19Exactement.
20:19Quelles sont les principales difficultés liées à l'intégration de l'IA
20:23dans le processus de prise de décision thérapeutique ?
20:26Alors nous, on s'est posé beaucoup de questions
20:28et justement l'une des questions qu'on s'est posées,
20:30c'est est-ce qu'on ne pose que des questions fermées aux patients
20:34qui permettent quelque part de guider
20:36où est-ce qu'on veut emmener l'IA derrière
20:38ou est-ce qu'on les autorise à aussi proposer des inputs libres,
20:44des champs de texte libre ou des champs audio libre.
20:47Pour l'instant, on a choisi le chemin de la prudence,
20:50c'est-à-dire n'avoir que des questions fermées,
20:53ça permet de beaucoup plus facilement guider
20:56et quel va être le résultat qui est produit par l'intelligence artificielle.
21:00Mais je pense qu'il ne faut pas qu'on se leurre,
21:03on va forcément aller à terme vers des systèmes plus ouverts
21:06qui vont inclure des éléments qui sont ramenés par les patients
21:10qui ne sont pas uniquement des questions oui, non, 1, 2, 3,
21:13mais je pense que ceci, je n'en ai pas parlé,
21:17et il va falloir qu'on soit effectivement capable de les prendre en compte.
21:19Je voulais venir sur les LLM, là, ce que vous avez dit,
21:25je partage ce que vous avez dit, mais en même temps je suis en désaccord.
21:28Je partage ce que vous avez dit, si effectivement on considère
21:31les intelligences artificielles générales, généralistes,
21:35bon, il y a plein de limites, je ne vais pas revenir là-dessus.
21:37Mais par contre, quand on développe des systèmes appliqués à des sujets précis,
21:42dont on maîtrise, si vous voulez, le champ de connaissances,
21:47c'est formidable.
21:48Je prends un exemple, les dangers des rayons X.
21:51Dans les services de radiologie, nous on est habitués à ça,
21:54en permanence, les patients nous demandent,
21:56ah, docteur, mon fils a passé un scanner,
22:01il y a des risques ou pas ?
22:03Ah, ma femme était enceinte, elle a eu une radio de l'abdomen,
22:08est-ce qu'il y a des risques ou pas ?
22:09Et donc, en fait, si vous voulez, on se rend compte
22:11qu'il y a une préoccupation dans la population
22:13par rapport au risque des rayons X,
22:15et que les radiologues n'ont pas le temps d'expliquer
22:18qu'il n'y en a pas, en fait, si vous voulez.
22:20Et je pense que, si on va développer,
22:24donc des systèmes d'intelligence artificielle conversationnelle,
22:27focalisés sur des sujets assez techniques,
22:30dont le champ de connaissances est bien borné.
22:32Et là, je crois qu'il n'y a pas de critique à faire,
22:34vous voyez, parce qu'il n'y a pas de risque,
22:36c'est un champ de connaissances qui est connu.
22:37Alors, je ne vais pas être en désaccord.
22:42On a tellement de problèmes avec l'ELM et l'éthique
22:45que une grande partie des CHU
22:47viennent de démarrer un projet qui s'appelle Partage,
22:50qui est financé en tant que commun numérique
22:52par le plan 2030,
22:53dans lequel on va demander à des internes
22:57de générer 10 000 faux compte-rendus
22:59qui puissent être partagés par tout le monde,
23:02et qu'ensuite, chacun des CHU va prendre ses 10 000 faux compte-rendus,
23:06il aura une base de départ,
23:08et va le tuner avec ses millions de compte-rendus
23:11contenus dans chacun des CHU.
23:13À la fin, chacun aura une base LLM,
23:16pas si grosse que ça, mais hyper spécialisée,
23:18parce qu'on n'a pas de LLM qui ne sont nourris
23:21que de compte-rendus d'hospitalisation.
23:23On a des LLN qui ont d'abord été nourris sur Internet.
23:25Donc là, on aura des LLM peut-être un peu plus petits,
23:28donc intérêts un peu moins consommateurs d'énergie
23:31et totalement spécifiques à la santé,
23:34et chacun des EDS aura le sien
23:36et ne pourra pas le sortir par ailleurs
23:38parce que les hallucinations du LLM sont toujours possibles.
23:42Mais voilà, pour répondre que les LLM peuvent...
23:45On travaille à faire des LLM mieux protégés,
23:48plus spécifiques, moins consommateurs,
23:51donc ça, c'est intéressant.
23:52Messieurs, malheureusement, le temps passe.
23:54Il ne nous reste plus beaucoup de temps
23:55et j'aimerais qu'on aborde un volet plus éthique,
23:58presque philosophique.
24:00L'utilisation de l'IA peut-elle compromettre
24:03l'autonomie des médecins à terme, selon vous ?
24:07Moi, je ne crois pas.
24:09Je ne crois pas.
24:10C'est un peu ciblé comme un smartphone, quoi.
24:13On s'en sert aujourd'hui.
24:16Moi, je me souviens, quand j'étais président
24:17de la Société Européenne de Radio-Gi,
24:18mon smartphone, je réglais 90% de mes problèmes
24:21en temps réel.
24:23Très temps, mais voilà.
24:24Et ça va être la même chose avec l'IA.
24:27L'IA, ça doit devenir quelque chose, si vous voulez,
24:29d'intuitif dans l'utilisation.
24:34Ça va devenir une forme d'addiction,
24:36d'asservissement, si vous voulez,
24:38mais dans le bon sens du terme, quoi.
24:40Aujourd'hui, on ne peut plus se passer d'un smartphone.
24:43Et je pense que dans 5 ans,
24:44on ne pourra pas se passer d'intelligence artificielle.
24:46Ça fera partie de la vie de tous les jours.
24:47Oui, moi, je pense que, évidemment,
24:50quand on voit que l'IA en radiologie
24:52est plus performante dans 99,99% des cas qu'un médecin,
24:56ça pose la question de...
24:58Ça, ça n'existe pas.
24:59On s'y dirige.
25:01Ça pose la question de...
25:03Est-ce que le médecin doit continuer, finalement,
25:05à apprendre à lui-même analyser des images ?
25:09Je pense qu'il va falloir faire évoluer
25:13la formation des médecins
25:15pour être capable d'utiliser les IA
25:17à la fois comme médecin,
25:18mais aussi pour être capable d'utiliser des outils
25:20pour contrôler ces IA
25:22et donc détecter d'une manière ou d'une autre
25:26les problèmes.
25:26Mais on ne pourra pas leur demander
25:28d'avoir le même temps à louer
25:29qu'ils avaient jusqu'à présent
25:30à la réclure des images.
25:31On va devenir comme les aiguilleurs du ciel.
25:33On va gérer des données
25:35et après, il va falloir savoir
25:37choisir la bonne piste pour le bon endroit.
25:38Ça va être la même chose en médecine.
25:40Le médecin devra avoir
25:42plutôt développé sa capacité
25:44d'analyse des données,
25:45de leur intégration
25:46et de choix
25:48de la meilleure décision possible.
25:52Je suis moins rassuré.
25:53Non, non, c'est parce qu'effectivement,
25:56on a eu des discussions
25:57dans les comités d'éthique.
26:00Il y a cette inquiétude
26:02que le médecin
26:04qui serait de moins en moins
26:05enclin à devoir réfléchir
26:07à des problèmes
26:08ne va plus savoir
26:11un moment prendre le pas sur l'IA
26:13pour dire
26:13« Non, elle a pris une mauvaise décision,
26:15c'en est une autre qu'il faudrait prendre. »
26:17Si on ne fait pas attention
26:19dans les formations des médecins
26:20ou dans l'organisation du couple
26:22médecin-machine,
26:23si à un moment,
26:25les médecins sont moins compétents
26:26que l'IA
26:26sur des tâches de réflexion,
26:29ils ne vont plus être capables
26:30de contredire l'IA.
26:33Et là,
26:33le chef,
26:34ce n'est plus le médecin,
26:34c'est l'IA.
26:35Ça, ce n'est pas quelque chose
26:36que vous redoutez, Guy ?
26:37Non, non, moi,
26:37c'est ce que redoutent
26:38les comités d'éthique.
26:39Moi, je ne redoute pas ça, là.
26:41Et puis, les comités d'éthique,
26:42c'est les comités d'éthique.
26:43Mais les autres
26:44qui font de la médecine,
26:45ils traitent des patients tous les jours
26:47et je pense qu'ils vont être aidés.
26:49Non, et puis ça,
26:51ça démarre du postulat
26:54que les humains,
26:55forcément,
26:57peuvent être meilleurs que l'IA.
26:58Mais moi, je pense que
26:58ce n'est pas le cas.
27:00Donc, certes,
27:01il y aura peut-être un cas
27:02où dans quelques cas de figure,
27:04l'humain sera meilleur que l'IA,
27:06mais si dans l'immense majorité
27:07des cas, c'est le contraire.
27:08Est-ce qu'on a besoin
27:09de soutenir le cas
27:11où l'humain est meilleur que l'IA ?
27:12C'est une vraie question.
27:13Et donc, l'humain ne sera plus
27:15le pilote de la décision ?
27:17Potentiellement.
27:19Je vais vous faire un petit sujet.
27:20Une minute pour faire un petit...
27:21Oui, oui, j'allais dire.
27:21On va terminer sur cette...
27:23Je vais...
27:24La parole de l'oiseau de mauvais augure.
27:26L'être humain.
27:28Je pourrais sortir l'article d'amis
27:30qui ont testé des systèmes d'IA
27:32dans des boxes d'oncologie.
27:34Et à un moment,
27:35dans les procédures,
27:36ils ont mis le système d'IA
27:38dans un box et pas dans l'autre.
27:41Et à ce moment-là,
27:43qui a été le meilleur
27:44pour faire les choix ?
27:45C'était le box
27:47dans lequel il n'y avait pas
27:47le système d'IA,
27:48mais parce que le médecin savait
27:49qu'il y avait un système d'IA
27:50à côté et qu'il fallait
27:51qu'il soit meilleur.
27:53Donc ça, c'est les êtres humains.
27:55C'est bien.
27:56Mais ça veut dire...
27:56Ça m'a fait réfléchir.
27:57Mais ça, ça veut dire...
27:58Alors, il ne faut pas que critiquer
27:59les médecins.
27:59Ça veut dire aussi qu'ils aient du temps
28:01pour faire ce qu'ils ont à faire
28:02pour prendre un certain nombre
28:03de décisions.
28:04Et qu'effectivement,
28:04peut-être que l'IA peut aider
28:06à gagner une partie de ce temps-là.
28:07Oui.
28:07Merci beaucoup, messieurs.
28:10C'est la fin de ce débat.
28:12Merci à tous les trois
28:13d'avoir partagé votre expertise.
28:16Guy Fréja, radiologue,
28:17ancien président
28:18de la Société européenne
28:19de radiologie.
28:20Jean Charlet, chercheur
28:22à l'APHP et à l'Inserm.
28:24Et Camille Tiennot,
28:25cofondateur et CEO de GED.
28:28On passe à la pépite santé.
28:29Merci.