« C'est un concept qui ne va pas nous protéger d'éventuelles dérives de l'IA. »
Lors de la Soirée des hôpitaux organisée par Le Point, le journaliste Boris Georgelin réunit trois figures majeures de la santé et de la technologie : le Pr Jean-Emmanuel Bibault (oncologue radiothérapeute, chercheur en IA, membre du CCNE),
Hela Ghariani (directrice générale de la Plateforme des données de santé) et Charles Guépratte (directeur général de la FEHAP).
Les trois experts ont débattu sur la réalité du terrain : l'illusion de la « garantie humaine », l'essor d'une IA clandestine sur les smartphones des soignants, le risque de perte de compétences chez les jeunes internes et le remboursement conditionné par la Sécurité sociale aux seuls logiciels qui apportent une vraie preuve clinique et dont le principe reste de « ne payer que ce qui marche ».
§ #santé #sdh2026 #soiréedeshôpitaux #lpt #science #ia #inteligenceartificielle #hopital #soignants #soins #bibault
Suivez-nous sur :
Youtube : https://www.youtube.com/c/lepoint/
Facebook : https://www.facebook.com/lepoint.fr/
Twitter : https://twitter.com/LePoint
Instagram : https://www.instagram.com/lepointfr
Tik Tok : https://www.tiktok.com/@lepointfr
LinkedIn : https://www.linkedin.com/company/le-point/posts/
Bluesky : https://bsky.app/profile/lepoint.fr
Threads : https://www.threads.net/@lepointfr
WhatsApp : https://www.whatsapp.com/channel/0029VaDv82FL2ATwZXFPAK3c
www.lepoint.fr §
Lors de la Soirée des hôpitaux organisée par Le Point, le journaliste Boris Georgelin réunit trois figures majeures de la santé et de la technologie : le Pr Jean-Emmanuel Bibault (oncologue radiothérapeute, chercheur en IA, membre du CCNE),
Hela Ghariani (directrice générale de la Plateforme des données de santé) et Charles Guépratte (directeur général de la FEHAP).
Les trois experts ont débattu sur la réalité du terrain : l'illusion de la « garantie humaine », l'essor d'une IA clandestine sur les smartphones des soignants, le risque de perte de compétences chez les jeunes internes et le remboursement conditionné par la Sécurité sociale aux seuls logiciels qui apportent une vraie preuve clinique et dont le principe reste de « ne payer que ce qui marche ».
§ #santé #sdh2026 #soiréedeshôpitaux #lpt #science #ia #inteligenceartificielle #hopital #soignants #soins #bibault
Suivez-nous sur :
Youtube : https://www.youtube.com/c/lepoint/
Facebook : https://www.facebook.com/lepoint.fr/
Twitter : https://twitter.com/LePoint
Instagram : https://www.instagram.com/lepointfr
Tik Tok : https://www.tiktok.com/@lepointfr
LinkedIn : https://www.linkedin.com/company/le-point/posts/
Bluesky : https://bsky.app/profile/lepoint.fr
Threads : https://www.threads.net/@lepointfr
WhatsApp : https://www.whatsapp.com/channel/0029VaDv82FL2ATwZXFPAK3c
www.lepoint.fr §
Catégorie
🗞
NewsTranscription
00:00Merci Charles Guéprat, vous restez avec moi tandis qu'on accueille pour notre troisième table ronde
00:03Ella Gariani et Jean-Emmanuel Bibaud sous vos applaudissements.
00:13Ella Gariani, bonsoir, vous pouvez prendre le micro, vous êtes directrice générale de la plateforme des données de santé,
00:20professeur Jean-Emmanuel Bibaud, bonsoir, vous êtes oncologue, radiothérapeute, professeur de diversité, praticien hospitalier,
00:25chercheur en intelligence artificielle. Charles Guéprat, je ne vous représente pas, vous êtes toujours le directeur général de la FEAP.
00:33Merci donc à tous les trois d'avoir accepté notre invitation. Alors, il se trouve qu'il y a une
00:36petite spécificité.
00:37Jean-Emmanuel, vous êtes oncologue, chercheur, je l'ai dit, depuis 2025 vous siégez au comité consultatif national d'éthique
00:43et vous avez un roman qui paraît aujourd'hui, qui s'appelle La garantie humaine, aujourd'hui, aujourd'hui littéralement.
00:50Il ne m'a pas soudoyé pour ça, il me l'a envoyé en avant-première et franchement j'ai
00:53trouvé ça particulièrement intéressant.
00:55Je pense qu'on aura le loisir d'y revenir, c'est un roman. Vous explorez cette limite clinique.
01:00On a entendu parler de ce terme, la garantie humaine. Alors au quotidien, comment est-ce qu'on maintient cette
01:03fameuse garantie humaine
01:04face par exemple à un algorithme prédictif qui voit des signaux sur une radio que l'œil humain ne voit
01:09pas ?
01:10Alors, l'argument que je fais depuis quelques années, et notamment depuis que la garantie humaine est passée dans l
01:15'IA Act,
01:16fortement poussé par la France, c'est qu'en réalité c'est un concept qui ne va pas nous protéger
01:21d'éventuelles dérives de l'IA.
01:24Il y a grosso modo deux grandes applications de l'IA si on doit faire une classification très simple.
01:29D'abord il y a les applications où les IA sont des outils qui assistent les médecins pour faire ce
01:35qu'ils savent faire.
01:36Moi par exemple, quand je suis à l'hôpital, je me sers d'IA pour contourer des scanners, pour préparer
01:44les séances de radiothérapie par exemple.
01:45Et donc ça, je sais contourer les scanners, et donc je peux vérifier que l'IA n'a pas fait
01:50d'erreur, en tout cas au début.
01:53Et donc dans ce cadre-là, la garantie humaine marche, en tout cas marche un certain temps,
01:57parce qu'on sait pour différentes recherches qu'en réalité quand on a un système qui est suffisamment bon, suffisamment
02:03fiable,
02:03même si on est censé le vérifier, au bout d'un moment l'humain ne le vérifie plus.
02:07Donc il va y avoir cette dérive qui va se passer, c'est presque sûr.
02:10On peut se voiler la face en disant oui, on a ce concept, mais la réalité...
02:14Mais pourquoi on baisse la garde ? Parce qu'on est rassuré ?
02:16Exactement, ce n'est pas spécifique à l'IA d'ailleurs, c'est à tous les processus d'automatisation.
02:21Il y a un risque qu'au bout d'un moment, on ait une telle confiance, que l'outil marche
02:26tellement bien, qu'en fait on ne vérifie pas.
02:28Donc il y a ce premier problème.
02:30Et le deuxième problème, pour rebondir sur la question,
02:33si vous demandez à une IA de prédire à l'avance, par exemple, certains des travaux qu'on a fait
02:38à Stanford,
02:38de 10 ans à l'avance pour prédire vos risques de décéder d'un cancer de la prostate.
02:42Ça existe, des algorithmes comme ça.
02:45Même les meilleurs experts en cancérologie du monde ne sont pas capables de prédire 10 ans à l'avance
02:50si vous avez décédé de votre cancer de prostate, pour plein de raisons.
02:54Et donc dans ce cadre-là, bien évidemment que le concept même de garantie humaine n'a pas de sens.
02:58Parce que moi, vous ne pouvez pas me demander de vérifier quelque chose que je ne sais pas faire.
03:01Et donc dans cette deuxième catégorie des usages, je pense que le concept n'a même pas de véritable sens.
03:06Donc je crois que la vraie honnêteté intellectuelle serait de dire,
03:10il y a des usages où on ne pourra pas de toute façon vérifier et contrôler l'IA.
03:15Il faut déjà le dire aujourd'hui, parce qu'on commence à découvrir les vrais usages dans la vie de
03:21tous les jours.
03:21Mais ça va s'accélérer, là on le voit d'ailleurs, que ça s'accélère très très fortement, même semaine
03:26après semaine.
03:26Mais est-ce que ça veut dire qu'il faut l'accepter ? Est-ce que ce n'est pas
03:28un peu inquiétant ?
03:31Alors, je n'ai pas trouvé la solution d'ailleurs. Je mets juste le doigt sur un problème, entre guillemets.
03:36Ce qui fait que ce n'est pas très confortable. Mais la réalité des choses, c'est ça.
03:40Donc on peut dire qu'effectivement c'est inquiétant. Dans l'absolu, je pense que ça peut l'être.
03:45Mais ça ne veut pas dire que ce n'est pas vrai.
03:47Merci de mettre le doigt dessus Jean-Emmanuel Cassandre.
03:50Alors, Ella Gariani, je vous taquine, vous avez copiloté le numérique en santé pour l'Etat.
03:54L'Europe veut encadrer ses pratiques avec l'espace européen des données de santé.
03:58On a parlé justement de l'IA Act et cette garantie humaine, qui a une influence française.
04:04Comment est-ce qu'on impose finalement une éthique by design dans les tuyaux hospitaliers, sans étouffer l'innovation ?
04:09C'est toujours ce tir à aimant finalement.
04:11Oui, je pense que déjà ce que vient d'évoquer Jean-Emmanuel, c'est une forme de culture critique de
04:17notre propre limite par rapport à ces outils-là.
04:19Moi, ce qui me paraît essentiel pour essayer de concevoir une logique d'éthique by design, c'est que certes,
04:25on va réadapter notre manière d'apprendre,
04:28et particulièrement pour pratiquer la médecine.
04:31Et par contre, ce qu'il faut qu'on garde absolument, c'est notre esprit critique sur les résultats de
04:36ce qui en sortira.
04:37Peut-être qu'effectivement, la garantie humaine, en cela qu'elle a un mode d'intervention individuel,
04:43où c'est une personne qui, pour un cas, va systématiquement aller vérifier,
04:47petit âme ne passe pas à l'échelle et petit âme rencontre des limites logiques, que sont celles qu'évoque
04:51Jean-Emmanuel.
04:52Mais par contre, on peut concevoir des modèles de contrôle de ces IA, par exemple.
04:56Si on veut vérifier qu'une IA est toujours aussi performante, on peut avoir un jeu de données qui n
05:04'aura jamais servi à l'entraînement de ces IA,
05:07et qu'on garde caché pour pouvoir vérifier régulièrement si, oui ou non, l'IA n'a pas divergé, digressé
05:16par rapport à son intention initiale.
05:18Nous, ça fait partie des propositions qu'on porte aujourd'hui, c'est-à-dire que si demain, la sécurité
05:23sociale arrive à rembourser des IA,
05:26ce qui n'est pas encore le cas, donc le problème n'est pas un problème pour aujourd'hui mais
05:29pour demain,
05:30mais à mon sens, on y viendra nécessairement, en tout cas, je ne vois pas aujourd'hui comment on n
05:35'y arriverait pas,
05:36alors il faudrait qu'on puisse mettre en place un mécanisme de contrôle collectif de ces IA pour éviter leur
05:43fameuse digression,
05:44et donc qu'on dispose de jeux de données qui permettent d'en garantir la validité scientifique.
05:49Et à mon avis, on aurait comme ça une manière de garantir que ce que notre collectivité paye,
05:56ce que notre système de sécurité sociale dans son universalisme choisit d'intégrer et de généraliser dans nos systèmes hospitaliers,
06:05aurait une forme de garantie, alors là, non pas humaine au sens individuel, mais sociétale et scientifique,
06:11c'est-à-dire qu'on aurait les données pour vérifier que cet algo n'a pas déconné, n'a
06:15pas complètement digressé.
06:18Pour rebondir sur ce que vous disiez, pour envisager qu'un jour des modèles d'IA soient pris en charge
06:22par la sécurité sociale,
06:23il faudrait que ce soit ceux qui apportent le plus de valeur, et vous me disiez, ce qui est important,
06:27il y a une notion d'équité qui entre en ligne, c'est-à-dire que tout le monde puisse
06:31avoir la même chance, puisse être soigné par les mêmes IA.
06:34Exactement, donc c'est pour ça qu'à mon avis, la seule manière de déployer de l'IA qui reste
06:38conforme à notre système de santé,
06:40c'est de faire en sorte qu'elle soit remboursée, et effectivement, comme on le sait tous dans cette salle,
06:45et les débats des semaines et des mois à venir ne cesseront de nous le rappeler,
06:48on n'a pas de l'argent de se le payer comme ça, il faudra choisir celle qu'on se
06:51paye, et donc choisir les plus efficaces.
06:52Efficaces par rapport à ce que sont aujourd'hui nos principaux problèmes en termes de soutenabilité de notre système de
06:59santé,
07:00que ce soit les maladies chroniques, ça a été évoqué dans la table ronde précédente, le cancer, ou d'autres
07:05maladies rares,
07:05on peut choisir l'angle que l'on veut, mais par contre on doit pouvoir en évaluer l'impact,
07:10c'est-à-dire on doit pouvoir tester dans un système de prise en charge une IA,
07:15et évaluer sur des données en vie réelle si c'est mieux ou moins bien, et ne payer que ce
07:20qui marche.
07:20Alors ce que je vous dis là, ce n'est pas du tout de la science-fiction,
07:25en fait l'année dernière dans le LFSS, la loi de financement de la sécurité sociale de 2027,
07:30on a voté un article qui est l'article 31, qui prévoit exactement ça,
07:34c'est la prise en charge des systèmes d'aide à la décision médicale,
07:37donc là l'assurance maladie dit à un éditeur de logiciel, ou il y aurait de l'IA dans son
07:41logiciel,
07:41qui fait de l'aide à la décision médicale, si ton truc il est mieux que pas utiliser ton truc,
07:48alors je te paye, toi, éditeur de logiciel, directement.
07:51Maintenant, le sujet c'est comment je prouve que c'est mieux de l'utiliser que de ne pas l
07:56'utiliser.
07:57Et pour ça, on a besoin des données en vie réelle,
07:59alors ça a été évoqué à la table ronde juste avant,
08:01on a un truc génial en France qui sont le système national des données de santé,
08:04les données de remboursement de l'assurance maladie,
08:06et donc on peut vérifier si c'est mieux avant ou après,
08:10et donc on peut mettre en place des mécanismes de financement à l'impact,
08:13qui s'appuie notamment sur notre système d'évaluation de l'impact des IA.
08:18Jean-Manuel ?
08:18Les Etats-Unis ont déjà fait à peu près ça, depuis d'ailleurs pas mal d'années,
08:22notamment pour un logiciel, une IA de détection automatique des AVC hémorragiques,
08:27et ce qui est intéressant, c'est qu'ils n'ont pas simplement regardé
08:30s'il y a diagnostiqué plus d'AVC hémorragique qu'un médecin normal,
08:34ils ont regardé le vrai bénéfice clinique,
08:36c'est-à-dire la réduction du temps de prise en charge,
08:39puisqu'on sait qu'il faut être très rapide pour les AVC.
08:41Et donc, il y a un message important, je pense, à avoir sur l'évaluation des IA,
08:45il y a une évaluation qui est purement scientifique,
08:48qu'on lit d'ailleurs très souvent dans la presse,
08:50du type, oui, une IA a mieux diagnostiqué qu'un médecin de tant de pourcentages, etc.
08:54Mais ce genre de bénéfice-là, ça ne se translate pas,
08:57ça ne devient pas automatiquement un vrai bénéfice clinique.
09:02C'est un peu ce qu'on a dit tout à l'heure sur le dépistage,
09:04dépister, faire plein d'examens, peut-être ok,
09:06mais est-ce que ça va vraiment avoir un vrai impact sur la qualité de vie ou sur l'espérance
09:10de vie ?
09:11Et donc, c'est très difficile, il y a très peu d'études justement,
09:14qui montrent qu'il y a un vrai bénéfice clinique à utiliser de l'IA.
09:18Il y a sans doute des milliers d'études qui montrent qu'une IA fait tant de pourcents mieux qu
09:23'un humain,
09:24mais très très peu d'études qui montrent que ce pourcentage en plus apporte un vrai bénéfice.
09:28Et c'est sur ça, je pense, qu'il faudra baser vraiment le remboursement.
09:32En France, on a aussi des remboursements sur des solutions de télésurveillance,
09:35dans lesquelles il y a des formes d'IA qu'on pourrait appeler symboliques,
09:38qui sont loin de ce qu'on peut connaître avec les LLM et le chat de GPT.
09:43Mais effectivement, il n'y a pas encore de solution d'IA,
09:45même s'il y a beaucoup de solutions d'IA qui sont utilisées dans les hôpitaux,
09:48mais qui sont payées par les hôpitaux sans remboursement direct.
09:54Charles, il a tout à l'heure parlé d'équité et de même chance pour les patients.
09:58Qu'en est-il de l'égalité d'accès pour les structures ?
10:01Vous l'avez dit justement, les établissements n'ont pas tous les mêmes moyens humains ou financiers pour appréhender l
10:05'IA.
10:05Comment est-ce qu'on peut mutualiser les compétences et les expérimentations
10:09pour éviter une IA de vitesse finalement entre les grands hôpitaux et les petits établissements ?
10:15Comme ça a été dit à l'instant, même les grands hôpitaux n'ont pas forcément de modèle économique
10:20et font ça sur fonds propres et ressources propres
10:24et font le choix de déployer les programmes qui ont été présentés.
10:29Puisqu'aujourd'hui, on est assez peu accompagnés sur ce sujet dans le modèle économique tel qu'il est construit.
10:38Le modèle d'accompagnement et les programmes du numérique ne sont pas encore sur ces sujets.
10:43Vous l'avez évoqué sur le modalité de potentiel remboursement
10:47qui pourraient s'appliquer d'une façon un peu similaire aux établissements de santé notamment.
10:52Donc il y a un vrai enjeu à essayer de voir si on ne peut pas embarquer dans le modèle
10:55de financement des établissements
10:57les coûts qui sont supportés sur la base de l'efficacité constatée.
11:04C'est des choses qu'on connaît dans d'autres secteurs du paiement à la performance.
11:10Donc de payer à l'usage et à la performance de l'usage.
11:15Ensuite, effectivement, il faut essayer de sortir un peu du Far West des centaines, des milliers de solutions
11:21qu'on a aujourd'hui sur le marché qui peuvent vivre quelques semaines, quelques mois, disparaître,
11:26reprendre une nouvelle forme, se fusionner avec d'autres produits du marché.
11:30Aujourd'hui, c'est extrêmement compliqué de faire le tri.
11:34Alors il y a conforme, pas conforme, déjà ça enlève un peu de choses, en tout cas pour les établissements
11:39sanitaires et médico-sociaux.
11:41Et ensuite, il faut essayer de proposer des formes de listes, d'écosystèmes, je dirais,
11:51de solutions pour rendre tout ça supportable pour les établissements
11:56et supportable aussi pour notre système de santé qui, on va dire, il y a juste besoin de le payer.
12:01Ce serait trop simple. Et si c'était aussi simple, ce serait déjà fait.
12:05Donc on a un vrai enjeu quand même de soutenabilité aussi financière de ce nouveau modèle.
12:10Jean-Emmanuel, on va venir sur votre métier.
12:12L'IA s'entraîne par définition sur des données du passé.
12:15En cancérologie, comment est-ce qu'on peut éviter que l'algorithme fige les protocoles,
12:19peut-être reproduise d'anciens biais médicaux et finisse par lisser finalement la prise en charge
12:23au détriment des patients qu'on pourrait trouver atypiques ?
12:27C'est une fois de plus tout le paradoxe ou la difficulté à faire de la médecine personnalisée.
12:32Donc la médecine personnalisée, ça vient surtout de l'oncologie, mais c'est dans beaucoup de spécialités aussi.
12:36Et ça repose sur la caractérisation la plus précise possible d'un patient
12:40et l'adaptation de la stratégie à ces caractéristiques-là.
12:43Le problème, c'est que les caractéristiques des patients sont mouvantes.
12:47La population générale, il y a 50 ans ou même peut-être 10 ans, elle n'est pas la même
12:51qu'aujourd'hui.
12:53Et au-delà de ça, en plus, heureusement, il y a aussi des nouveaux médicaments.
12:57Et donc si je prends une IA qui a été entraînée sur, une fois de plus, le cancer de la
13:01prostate
13:02que je citais tout à l'heure, dans lequel il y a eu pas mal de progrès sur les toutes
13:06dernières années,
13:08eh bien les résultats de prédiction et donc de personnalisation vont être forcément faux
13:13puisque dans les données que vous avez utilisées...
13:16Mais il n'y a pas des IA qui se mettent à jour, qui se tiennent au courant ?
13:20En fait, c'est quasi impossible. Pourquoi ?
13:22Parce que typiquement, pour valider un nouveau médicament dans le cancer de la prostate,
13:26il faut avoir, je vais dire, à peu près 5 à 10 ans de recul.
13:29En général, un nouveau médicament, il apparaît quand on a fait une étude
13:32qui a montré un bénéfice sur un critère précis avec suffisamment de recul.
13:35Mais pour avoir ce recul-là, il faut attendre.
13:38Et donc pour entraîner des IA sur ces nouvelles données-là, il faut aussi attendre ce temps-là
13:43puisque sinon vous entraînez sur des choses que vous ne connaissez pas bien.
13:46Et donc ça veut dire qu'il y aura forcément un décalage plus ou moins important
13:48en fonction de la pathologie que vous allez chercher à modéliser
13:52entre le moment où il y a une nouvelle molécule, il y a un nouveau biomarqueur
13:55et puis le moment où vous allez pouvoir vous en servir dans la vie de tous les jours.
13:59Et là, vous parliez tout à l'heure, on l'a dit, on a une énorme chance d'avoir une
14:03base de données sensationnelle en France.
14:05Vous me disiez qu'on a préparé cet échange pour développer finalement ces vaccins personnalisés
14:10ou ces thérapies personnalisées. On a besoin de données génomiques,
14:13de plateformes industrielles. Mais vous me disiez, les données, on les a sans doute,
14:18mais c'est l'investissement industriel qui est complexe.
14:21Est-ce qu'on sera capable de trouver les fonds d'investissement ?
14:24Qui pourront payer cette émergence de ces nouvelles médecines ?
14:26En fait, effectivement, les données, on les a.
14:30Entre guillemets, les grandes orientations sur le champ des innovations,
14:33notamment en termes de médecine personnalisée, que ce soit sur les thérapies personnalisées.
14:38Là, on le voit, ça a été pas mal d'actualité cet été, en cette rentrée sur des nouvelles études
14:45phase 3
14:45qui avancent quand même bien sur différentes thérapies très ciblées.
14:50La question, c'est en fait, demain, ces trucs-là, comment est-ce qu'on se les paye ?
14:54Donc en moyenne, si on prend sur les dernières thérapies, celles personnalisées,
14:59on est environ à 500 000 dollars par patient par an.
15:04Et comment est-ce que ça, ça rentre dans le modèle économique de notre sécurité sociale ?
15:07Donc je reviens sur le seul et unique modèle que nous, on sache mettre en oeuvre aujourd'hui,
15:13c'est du financement à l'impact.
15:15Là encore, pareil, je parle pas de science-fiction, on l'a déjà fait.
15:20Il y a quelques années, dans la loi de financement de la sécurité sociale,
15:23il y avait un article qui vise les MTI pour les nouveaux médicaments et thérapies innovantes.
15:29Et donc la Sécu a dit, pareil, je te paye si ça marche.
15:33Donc l'année 1, on va payer tout le prix.
15:36L'année 2, si ça marche, je te paye tout le prix.
15:40Et si ça marche moins bien, en fait, j'ai une sorte de décote du montant qui est versé aux
15:44fabricants.
15:45Et donc tout ça, c'est encore orienté autour de notre capacité collective à exploiter des données en vie réelle.
15:51Donc ça fait depuis 2019 que ça a été voté par les parlementaires.
15:54C'était pas possible en production parce que tout simplement, on avait pas la possibilité de faire cette évaluation des
16:00résultats cliniques pour de vrai.
16:01Et donc là, l'année prochaine, à l'été, on aura ce mécanisme d'évaluation du bénéfice clinique des MTI,
16:08avec donc ce modèle de financement à l'impact pour les thérapies les plus chères,
16:13qui nous coûtent à nous les plus chères en tant que sécurité sociale,
16:16et qui permettront du coup de ne payer que ce qui marche.
16:19Et c'est la seule et unique manière d'adresser cette question de l'accès à de l'innovation,
16:23de l'innovation qui coûte de plus en plus cher, qui est de plus en plus personnalisée,
16:27dans un système qui reste solidaire et universaliste comme celui de notre sécurité sociale.
16:32Je voudrais qu'on parle avec vous, Jean-Emmanuel, de la généralisation de l'IA dans les services.
16:36Est-ce que vous craignez ce qu'on appelle le « desk cleaning » en anglais,
16:39c'est-à-dire la perte progressive de l'instinct clinique chez nos jeunes internes ?
16:44Oui, la perte de compétence, il y a une étude pour l'instant qui la documente,
16:49notamment dans la réalisation des coloscopies, pour détecter les polypes, vous savez,
16:54où ils ont pris, avant, après, ils étaient dans un système d'IA,
16:57et ils ont montré que les médecins qui s'étaient servis du système avaient perdu un petit peu de compétence.
17:01L'étude en question, vous pouvez la trouver sur internet,
17:04elle est très discutable sur le plan méthodologique, et les résultats le sont aussi,
17:08mais ça n'empêche que dans la vie de tous les jours, on voit quand même,
17:13et ça semble un peu logique.
17:14Je reprends l'exemple de la radiothérapie, puisque c'est ma spécialité.
17:17On a besoin en radiothérapie de contourer, c'est-à-dire de connaître l'anatomie des patients sur scanner,
17:21et de la dessiner pour chacun des patients qui vont être traités.
17:24Et ce travail, il a souvent été fait, enfin il est encore fait souvent, par les internes,
17:29parce que les internes, ils apprennent en le faisant,
17:31comme on a toujours fait à la médecine, quand on est interne, on apprend en faisant.
17:35Et maintenant, depuis à peu près deux ans, on a un système de contourage domatique à Pompidou,
17:40et donc les internes, au lieu de passer deux heures ou trois heures pour un dossier il y a quelque
17:45temps,
17:46ils passent maintenant, enfin le dossier est fait en deux à trois minutes par l'IA,
17:49et ensuite ils doivent passer derrière pour le corriger.
17:52Mais forcément, c'est évident qu'ils ne vont pas acquérir les non-compétences,
17:57puisqu'ils vont corriger quelque chose qui est déjà fait.
17:59Et ça a été relativement mal évalué pour l'instant dans la radiothérapie,
18:04on fait des travaux avec le groupe d'IA de la société européenne de radiothérapie.
18:07Est-ce que ça voit dès maintenant une incidence sur la qualité de la prestation offerte ?
18:12Non, parce que sur la qualité des soins, non, il n'y a pas d'incidence,
18:15puisqu'en fait, à l'heure actuelle, il y a encore nous qui sachons corriger,
18:19eux aussi ça va encore corriger, mais la vraie question c'est...
18:22Donc il reste une garantie humaine ?
18:24Oui, mais le problème c'est la génération suivante, c'est ce que je dis souvent,
18:27c'est que là vous avez des gens qui, en fait, n'ont peut-être jamais vraiment contouré
18:31un scanner tout nu, tout seul, et puis...
18:34Donc c'est l'histoire d'étudiant qui va revenir une semaine après, ce qu'on racontait tout à l
18:37'heure ?
18:37Non, mais le semestre suivant, ou les années suivantes,
18:40est-ce qu'il va être capable d'apprendre au suivant à le faire,
18:42et ainsi de suite, est-ce que peut-être un jour plus personne ne sache le faire ?
18:45Et donc plus personne ne puisse vérifier ce que fait l'IA.
18:47Et l'IA, malheureusement, elle n'est pas à 100% de précision.
18:50Et là, justement, sur la formation, vous me disiez que ce qui est important pour vous,
18:53c'est former surtout à l'esprit critique, plus qu'à l'IA.
18:57Oui, enfin, en tout cas, je pense que la technologie évolue beaucoup trop rapidement
19:01pour qu'on puisse aujourd'hui se baser sur un corpus, on va dire, bibliographique,
19:06qui soit valable, ne serait-ce qu'une année académique entière.
19:10Donc de fait, il va falloir qu'on cultive plutôt cet esprit critique,
19:14mais c'est le cas depuis des années sur toutes les formations, notamment scientifiques,
19:18c'est pour pouvoir s'adapter, c'est comme ça que ça fonctionne.
19:21Moi, ce qui me paraît important, donc là, depuis quelques années,
19:24on a financé une sorte de socle de compétences de base
19:29dans toutes les formations des équipes qui sont amenées à intervenir dans le système de soins,
19:34donc médical et paramédical.
19:36Tout le monde a un socle de formation qui est un référentiel unique de compétences
19:40sur tous les sujets numériques, et ça va de la cybersécurité à l'IA.
19:44Ce qui nous manque encore, c'est l'équivalent au troisième cycle.
19:47Justement avec les internes, ceux qui commencent à avoir de la pratique
19:50et ceux auprès de qui il serait utile de créer une forme d'incitation
19:58à eux-mêmes faire des projets de recherche, à faire leur thèse sur ces questions-là,
20:01parce que c'est aussi là qu'on verra émerger peut-être des innovations
20:05qui, demain, donneront lieu à des entreprises
20:07et qui, je l'espère, trouveront leur marché en France et en Europe.
20:10Oui, mais vous me disiez que, justement, avec ces troisièmes cycles,
20:13on a en France, on a les esprits, mais il y aura sans doute une problématique de capitaux.
20:19Oui, ça, après, les capitaux, ils viendront si l'idée est bonne,
20:22s'il y a des perspectives de marché, etc.
20:24C'est bien, vous êtes plus positif que quand on a discuté en amont.
20:27C'est vrai, je devais être inquiète, ce jour-là.
20:31Charles, vous soulignez qu'utiliser une IA,
20:34ça ne signifie pas forcément savoir l'utiliser correctement.
20:36On l'a dit, on va accompagner les soignants pour qu'ils conservent ce regard,
20:40cet esprit critique, afin de savoir quand faire confiance à la machine,
20:44voire aussi, peut-être, quand ne pas l'utiliser.
20:48Oui, tout à fait, et c'est là où il faut vraiment travailler sur le design des IA qu'on
20:53utilise,
20:54sur leur déploiement, sur leur non-déploiement aussi.
20:57Je pense qu'il y a un gros sujet de formation et d'obligation à la formation.
21:02On a bien un permis de conduire, et si on ne l'a pas, on n'a pas le droit
21:04de conduire.
21:05En revanche, sur les outils informatiques, on peut faire ce qu'on veut quasiment tout de suite,
21:09sans jamais avoir été formé, et en allumant son poste.
21:13Donc, il y a quand même cette nécessité d'accompagner, de former et d'encadrer,
21:19notamment l'embarquement de nouveaux salariés à ces outils d'intelligence artificielle.
21:25Et ensuite, il faut avoir aussi une politique d'établissement,
21:28et c'est là où on essaie d'aider en tant que fédération sur ces sujets-là,
21:33pour justement donner le cap et donner l'intensité avec laquelle on va déployer les outils ou pas,
21:39ou choisir des secteurs.
21:40Il y a des endroits où c'est plus facile que d'autres.
21:42Le secteur administratif, c'est un peu plus simple, c'est moins risqué,
21:48la gestion de la facturation, des achats, des bons de commande, de la logistique,
21:52c'est des choses où c'est moins sensible, où on peut se tromper, c'est triste,
21:56mais il ne va pas se passer grand-chose.
21:59Ou, au contraire, aller tout de suite sur les secteurs qui sont plus complexes, plus critiques,
22:04que sont les services de soins, où il y a des patients, des données médicales.
22:08Mais il y a une appétence générale, on sait qu'il y a de l'IA clandestine
22:13qui est utilisée avec des smartphones, on a tous un smartphone et du Wi-Fi,
22:18donc on peut utiliser de l'IA sur son lieu de travail sans aucune difficulté.
22:21Et donc, il faut être plutôt dans cet accompagnement,
22:23et surtout la formation continue.
22:26C'est-à-dire qu'on ne peut pas se former une fois pour toutes et se dire,
22:29pendant 10 ans, je suis tranquille parce qu'on voit que les choses s'accélèrent
22:33et qu'il faut être quand même assez aguerri sur au moins les conditions générales
22:37d'utilisation et l'environnement dans lequel on se situe.
22:40Et là, pour revenir sur des considérations éthiques,
22:43vous étiez à la manœuvre sur mon espace santé.
22:46Quid du consentement ?
22:48Est-ce que le patient français, aujourd'hui prêt à accepter éthiquement
22:50que son dossier médical puisse nourrir des IA génératives à large échelle ?
22:54Où il y a des garde-fous ?
22:56Je ne vais pas vouloir demander la question.
22:59Sincèrement, en tout cas, aujourd'hui, ce mécanisme n'existe pas.
23:03C'est-à-dire qu'il n'y a pas de mécanisme qui permette à des IA
23:06de s'entraîner à large échelle sur les dossiers patients individuels
23:11et nominatifs des Français, ce qui n'est pas du tout le cas aux Etats-Unis
23:14où par exemple EPIC a fait un super partenariat avec OpenAI
23:18et du coup, il y aura du chat GPT qui tournera littéralement sur les DPI
23:21pour faire à la fois des recommandations aux médecins dans l'établissement,
23:25voire aux patients, mais aussi entraîner les algos d'OpenAI.
23:29Donc nous, en France, on n'a pas ça.
23:31Et on a tout un tas de garanties qui permettent de faire en sorte
23:34que l'usage secondaire des données cliniques qui sont produites dans le contexte du soin,
23:38donc en gros, moi, je vais me faire soigner.
23:40Jean-Emmanuel, il a mis des données dans son DPI.
23:43Derrière, on arrive avec un système de pseudonymisation
23:45qui permet de faire en sorte qu'on ne puisse pas revenir à moi,
23:48mais on peut quand même savoir que la veille, j'étais chez le médecin
23:52ou le lendemain, j'étais à la pharmacie.
23:53Et sur cette base-là, entraîner des algos.
23:56Nous, on a aujourd'hui à la plateforme des données de santé
23:59des entreprises qui viennent entraîner des algos
24:02sur des données soit qu'elles ramènent avec elles
24:05parce qu'elles les ont récupérées de contexte clinique
24:07dans le cadre de partenariats, soit sur des données du SNDS,
24:10à condition qu'elles visent un intérêt public,
24:14c'est-à-dire que derrière, on publie les résultats
24:16et qu'on sache ce qui est fait sur la base de ces données-là.
24:19Je pense que c'est ça, en tout cas, le cadre éthique
24:21qui est le nôtre en France et maintenant en Europe,
24:23c'est de dire que les données de santé,
24:26on peut les réutiliser pour de la recherche, pour de l'innovation,
24:30en considérant que cette recherche, cette innovation,
24:32elle doit participer à l'intérêt public,
24:34et derrière, le cadre de les résultats de ces études
24:39sont rendus publics, c'est-à-dire qu'on doit savoir
24:41de façon transparente ce qui a été fait par le biais de ces données
24:44et ensuite, entre guillemets, le contre-pied de ça,
24:47c'est de permettre à chacun des patients, s'ils le souhaitent,
24:50de sortir, entre guillemets, de la cohorte,
24:52c'est-à-dire de s'opposer à ce que ces données soient réutilisées.
24:55C'est ça le cadre qui encadre l'usage des données de santé.
24:58Jean-Manuel ?
24:59En deux secondes, sur cette thématique-là,
25:01je pense qu'on est dans un grand paradoxe français
25:03puisqu'on a eu cette polémique dans l'été,
25:06fin du mois de juillet, début du mois d'août,
25:08avec les données de Doctolib qui avaient été anonymisées
25:11et puis utilisées pour priori faire des LLM
25:14avec des équipes de recherche.
25:16Donc les gens, il y a eu vraiment une levée de boucliers
25:18et puis en parallèle, il y a énormément de patients,
25:21et moi je les vois tous les jours,
25:23qui mettent leurs propres données,
25:24leurs propres PDF d'examen scan ou biologique, etc.,
25:28sur le chat GPT, évidemment, ça va chez OpenAI.
25:31D'ailleurs, on a encore une illustration récemment
25:34sur une polémique qui a eu lieu
25:35sur la résolution d'un grand problème mathématique
25:38où ils avaient en fait utilisé des données
25:40d'autres chercheurs, etc.
25:41Donc on sait que OpenAI utilise les données
25:43que vous lui fournissez.
25:44Et donc je trouve qu'on a quelque chose
25:46qui n'est pas très clair.
25:47Les Français ne veulent pas qu'on se serve de leurs données
25:49parce qu'il y a eu cette polémique.
25:50Et en même temps, ils ne se rendent peut-être pas compte,
25:52mais ils la donnent tous les jours
25:54à un grand acteur américain.
25:55Je ne dis pas que Doctolib est parfait,
25:57je ne dis pas non plus que OpenAI est le diable,
26:00mais je crois qu'il faut être au moins juste conscient
26:03de cette contradiction-là.
26:05Au point d'ailleurs, et on terminera avec votre roman,
26:08finalement, c'est Kafka au temps de l'IA,
26:10dans un futur très très proche.
26:12Vous décrivez une situation qui est tantôt tragique,
26:14tantôt comique, d'une personne qui travaille dans l'IA
26:17et qui en quelques instants doit faire des choix,
26:19qui travaille pour l'IA en cliquant oui, non.
26:22C'est une plongée un peu flippante, finalement,
26:24je le répète, quasi kafkaïenne.
26:27Est-ce qu'il surnage finalement une chose,
26:30et là, c'est peut-être votre réflexe de médecin,
26:31c'est-à-dire que dans le passé du narrateur,
26:34il y a eu une décision qui a été faite par un médecin,
26:37mais avec l'aide de l'IA, donc en bonne intelligence,
26:39on voit ce que pourrait être le futur,
26:40et tout le reste, donc il y a une histoire
26:41d'usurpation d'identité, enfin de perte d'identité,
26:43je ne veux pas vous déflorer, c'est très intéressant,
26:45c'est fascinant, c'est drôle et tragique à la fois,
26:47tout le reste est plutôt noir.
26:48On se situe où, là ?
26:51Le livre se passe en 2032,
26:53pour les prochaines élections présidentielles, d'ailleurs,
26:56donc il y a vraiment beaucoup d'actualités.
26:59Je pense que
27:01ce n'est pas évident d'écrire un livre
27:03de science-fiction qui se passe aussi proche de nous,
27:05mais je pense qu'en 2032, ce qui est écrit dans le livre
27:07est loin d'être totalement irréaliste.
27:11Eh bien c'est flippant.
27:12Achetez-le néanmoins.
27:13Merci à tous les trois, on vous applaudit.
27:20Sous-titrage Société Radio-Canada
27:22Sous-titrage Société Radio-Canada
27:24Sous-titrage Société Radio-Canada