- il y a 26 minutes
Mardi 3 novembre 2026, retrouvez Léonie Schröder (cofondatrice et présidente, HUVY) et Fatiha Gas (Directrice innovation et programme IA génératives, groupe La Poste) dans SMART TECH, une émission présentée par Delphine Sabattier.
Catégorie
🗞
NewsTranscription
00:08Bonjour à tous, à la une de Smartech aujourd'hui.
00:11Deux questions, comment décider à l'ère de l'IA et quelle est cette nouvelle solution
00:15qui permet de dépister des mélanomes en quelques secondes ?
00:23Ma première invitée s'appelle Fatia Gass.
00:25Bonjour Fatia, vous êtes directrice innovation et programme IA Générative au groupe La Poste.
00:32Vous contribuez donc à un groupe de travail aussi au sein du Hub France IA sur cette question des IA
00:39Génératives
00:39et en particulier de leurs risques.
00:41Aujourd'hui ce qui m'intéresse c'est le sujet d'une conférence que vous allez donner au Tech Show
00:45Paris
00:46qui se tient là très prochainement, les 18 et 19 novembre prochains, d'ailleurs on sera présent sur ce salon.
00:53Vous vous interrogez la question de la décision à l'ère de l'IA.
00:58Est-ce que l'IA aujourd'hui ça vous semble un atout pour mieux décider ou au contraire un risque
01:03?
01:03Vous vous rangez dans quelle catégorie ?
01:05Je dirais aucune des deux.
01:07Ça dépend du type de décision que l'on a à prendre.
01:12Clairement l'IA est une aide indéniable quand on a à décider,
01:18mais dans des circonstances bien particulières, c'est-à-dire que quand on a un objectif qui est bien déterminé,
01:23qui ne bouge pas, quand on a des données qui sont propres, qui sont validées, vérifiées
01:29et évidemment lorsque la décision a été prise et qu'il y a une erreur,
01:36on puisse revenir en arrière et qu'il n'y a pas d'enjeu avec cette décision-là.
01:42D'accord. Ce qu'il y a c'est que ça, j'ai l'impression peut-être que ça peut
01:47rendre encore plus complexe la prise de décision
01:49parce qu'on va se baser sur des données qu'on possédait déjà auparavant,
01:54des réflexes peut-être que nous avons en tant que chef d'entreprise.
01:57Et puis d'un seul coup, il y a en plus un autre avis qui apparaît, qui est celui de
02:01l'intelligence artificielle.
02:03Eh bien c'est à nous de décider, encore une fois, si on va prendre en compte cet avis ou
02:07pas.
02:08Donc il y a soit...
02:09Il n'y a pas un risque quand même d'estimer que finalement le logiciel dit intelligent va être supérieur
02:15?
02:15Ah ben bien sûr, et le risque est là, c'est cette espèce de confiance que l'on a en
02:20la machine,
02:20en se disant c'est une machine donc elle ne peut pas se tromper.
02:23D'ailleurs, on est beaucoup plus sévère vis-à-vis d'une machine qui se trompe que vis-à-vis
02:28d'un humain qui se trompe
02:30parce qu'on considère que la machine ne peut pas se tromper.
02:33Et le risque, il est aussi là.
02:34C'est-à-dire que de fait, on a une confiance absolue, on ne vérifie pas,
02:38on pense que la machine est neutre, or ce qu'on oublie, c'est que la machine,
02:42elle véhicule nos propres biais, nos propres défauts.
02:47Une IA, elle a été faite par des hommes avec un grand H,
02:49donc elle véhicule, entre guillemets, tous nos travers.
02:53Et ça, on a tendance à l'oublier ou on ne le sait pas
02:57parce qu'on ne sait pas exactement comment ça fonctionne.
03:00En sachant mieux, on peut mieux effectivement décider.
03:05D'accord.
03:06C'est aujourd'hui ce que vous donneriez comme conseil justement aux décideurs en entreprise
03:14sur la manière de prendre en considération ces recommandations, on va dire, de l'intelligence artificielle.
03:21Alors moi, je travaille dans le domaine de l'intelligence artificielle,
03:26je fais confiance à l'intelligence artificielle dans certains domaines.
03:31En revanche, je reste très critique et tout ce que me fournit l'intelligence artificielle,
03:36j'y mets un œil critique, je vérifie quand le sujet me paraît important.
03:41et donc c'est ça que je recommande, c'est soyez critique.
03:44Alors qu'est-ce qu'on vérifie ?
03:45Les données en 30, c'est ça ?
03:47Les données en 30, c'est beaucoup plus compliqué de les vérifier
03:49parce qu'elles sont pléthoriques et donc on a du mal à vérifier ça.
03:53En revanche, on peut vérifier la sortie.
03:55Quand on demande quelque chose à une IA générative,
03:58on peut lui demander ses sources et on peut vérifier ses sources.
04:01Moi, c'est ce que je fais et il m'est arrivé de cliquer sur une source
04:04en me disant, tiens, qu'est-ce qu'elle dit cette source ?
04:07Et en fait, la source n'existe pas, n'existait pas.
04:09Ça avait été inventé parce qu'une IA, c'est un algorithme
04:13qui fait ce qu'on lui a demandé de faire.
04:14Donc je lui demande de me fournir des sources,
04:16il va me fournir des sources quitte à les fabriquer
04:18et quitte à ce qu'elles soient fausses.
04:20Donc voilà, restons critiques et disons-nous bien
04:24que la machine, en réalité, elle n'est pas intelligente.
04:27On fait en sorte qu'elle ressemble à notre comportement,
04:31qu'elle est à peu près notre comportement et qu'elle soit,
04:33qu'elle ait l'air intelligente.
04:35Mais en réalité, elle n'est pas intelligente.
04:37Et ça, il ne faut jamais le perdre de vue.
04:39Est-ce qu'il y a un risque de perdre la richesse
04:41des différents points de vue au sein de l'entreprise ?
04:44Tout à fait, tout à fait.
04:46Et c'est pour ça que lorsqu'on conçoit un système,
04:49si on veut diminuer du nombre d'angles morts,
04:53alors il faut diversifier les équipes qui conçoivent les systèmes.
04:57On ne peut pas confier la conception d'un système
04:59à un seul type de population.
05:02Il nous faut des jeunes, des seniors, des femmes,
05:05des personnes de différences ethno-culturelles
05:08et les équipes techniques avec les équipes métiers.
05:12Et là, on a des chances de diminuer au maximum les angles morts.
05:16On peut arriver comme ça à une décision augmentée,
05:19plus intelligente ?
05:21Tout à fait, à une meilleure décision
05:24ou à une décision plus pertinente
05:26par rapport à l'objectif qu'on s'est fixé.
05:28Parce qu'il ne faut jamais perdre de vue
05:29que derrière cette décision, il y a un objectif.
05:32Donc, ce que vous nous dites,
05:35c'est qu'il faut garder la main, de toute façon,
05:38sur la décision.
05:39Oui, tout à fait.
05:40Et il y a plusieurs façons de la garder.
05:42Donc, de regarder ce qui sort de cette décision,
05:45quelles sont les sources.
05:46D'avoir des équipes multiples et variées
05:48qui travaillent sur la création des systèmes
05:50de prise de décision.
05:51Tout à fait.
05:52Quoi d'autre ?
05:53La qualité des données.
05:55Oui.
05:56La qualité des données.
05:57Et tout le monde va vous dire,
05:58deux mauvaises données en entrée,
06:00ça vous donne deux mauvais résultats en sortie.
06:03Et donc, se préoccuper de la qualité des données.
06:06Aujourd'hui, les entreprises ont énormément...
06:07Et ça, c'est le travail de qui dans l'entreprise ?
06:09C'est le travail de ceux qui s'occupent des données.
06:12Justement, tous les data managers,
06:15tous les data scientists, les data analysts,
06:17ces personnes-là sont en prise directe avec la donnée
06:21et sont en capacité de dire
06:23c'est de la donnée fiable,
06:25ça n'est pas de la donnée fiable.
06:26Et c'est tout un travail.
06:28Aujourd'hui, on veut aller vers l'intelligence artificielle
06:31et on oublie parfois de se préoccuper
06:33de la qualité de la donnée que l'on a.
06:35Merci beaucoup, Fatih Agas, d'avoir témoigné dans Smartech.
06:38Je rappelle que vous êtes la directrice innovation
06:40et programmée générative au sein du groupe La Poste.
06:43Merci beaucoup.
06:44Merci à vous.
06:49On s'intéresse désormais à un progrès dans la santé.
06:53On est connecté pour cela avec Léonie Schröder.
06:55Bonjour Léonie.
06:57Vous êtes cofondatrice et présidente de UVI,
06:59qui est un dispositif médical basé sur l'intelligence artificielle
07:02qui permet aux pharmaciens, aux médecins généralistes,
07:05d'analyser très rapidement une lésion cutanée suspecte
07:09et d'orienter comme ça le patient.
07:10Comment ça fonctionne ?
07:13Bonjour, merci de me recevoir.
07:16Effectivement, pour vous parler un peu de UVI,
07:18nous, on est une société d'intelligence artificielle
07:20pour la dermatologie.
07:21Et on a aujourd'hui un dispositif médical numérique
07:24qui permet effectivement, à partir d'une bonne photo
07:26qui est prise avec ce qu'on appelle un dermatoscope,
07:29d'avoir une analyse qui est fournie par l'IA
07:31aux professionnels de santé de proximité,
07:33donc le pharmacien, le médecin généraliste,
07:35qui effectivement va avoir un système de feu rouge,
07:37feu orange, feu vert,
07:38pour l'aider à orienter le patient
07:40selon s'il estime qu'il y a un risque de mélanome
07:43et donc pouvoir accélérer une prise en charge
07:45par le dermatologue s'il y a un risque,
07:47puisque le mélanome, c'est la forme de cancer cutané
07:50la plus grave en dermatologie,
07:52ou au contraire de pouvoir aussi aider à surveiller
07:55et désengorger potentiellement les parcours
07:56avec des signaux qui, au contraire,
07:58sont plutôt rassurants parfois.
08:00Alors, ça fait quand même quelques temps maintenant
08:02qu'on parle justement de l'intérêt
08:04d'utiliser l'intelligence artificielle
08:05pour détecter plus vite les mélanomes.
08:08Là, vous rendez cette solution,
08:11ce service, j'ai envie de dire,
08:14disponible pratiquement à tout le monde,
08:16puisque c'est via les pharmaciens,
08:17via les médecins généralistes
08:19et plus uniquement pour les spécialistes.
08:22Ça a été la principale difficulté, ça,
08:25de rendre cette avancée, ce progrès,
08:29cette innovation disponible au plus grand nombre ?
08:33Tout à fait, et vous faites bien de le préciser,
08:35les premiers algorithmes qui permettent de reconnaître
08:38les mélanomes sont sortis il y a plus de 15 ans maintenant
08:40dans les publications scientifiques.
08:42Mais en fait, là où nous, on a identifié chez UV
08:45le fait qu'on ne trouvait pas vraiment une solution
08:47qui était pleinement bénéfique pour les patients,
08:50c'est en fait le fait qu'on n'adressait pas
08:52la bonne problématique.
08:54Concrètement, un dermatologue sait très bien
08:56diagnostiquer un mélanome.
08:58L'intelligence artificielle va lui permettre
08:59de gagner quelques pourcentages,
09:00d'éviter parfois quelques opérations
09:02qui ne sont pas nécessaires.
09:04Mais là où on a un vrai problème,
09:06aujourd'hui, à l'échelle globale,
09:08c'est une problématique d'accès,
09:10puisqu'il y a moins de 3 000 dermatologues
09:12pour prendre en charge 308 millions de patients.
09:14Et donc, on a plutôt besoin d'aller plus près du patient,
09:17d'être plutôt sur le premier recours,
09:18la première étape du parcours de soins,
09:20pour pouvoir qualifier le besoin du patient
09:22et orienter les patients qui sont réellement
09:25avec des risques avérés vers le dermatologue,
09:28faciliter une prise en charge plus optimisée,
09:30plutôt à l'étape de l'aiguillage et de l'orientation.
09:33Et au contraire aussi, comme on l'évoquait,
09:34de contribuer à des gestes qui permettent
09:36d'être un peu plus dans la surveillance,
09:38dans l'évitement de la surmédicalisation
09:41lorsque c'est un nécessaire.
09:43Donc, c'est plutôt sur ce principe-là
09:44que nous avons travaillé.
09:45Et effectivement, c'est ce qui est aujourd'hui aussi
09:47un challenge aussi bien technique que de déploiement,
09:51puisqu'on n'est pas sur les mêmes profils,
09:54donc il n'y a pas forcément les mêmes habitudes
09:55d'accompagnement, de prise de photo.
09:57Donc, bien sûr, il y a toujours des enjeux
10:00de sensibilisation, d'accompagner les bons patients,
10:03de former aussi ces professionnels de santé.
10:06Et aussi, bien sûr, de garantir la construction
10:09et l'intégration de notre dispositif
10:11au sein des parcours locaux existants,
10:13puisque nous, l'ambition, c'est bien sûr
10:15pas de créer des circuits parallèles,
10:16mais de s'intégrer aux belles initiatives
10:19qui sont déjà en cours
10:20et qui sont déjà en train de se structurer
10:22et où l'IA va apporter un vrai bénéfice
10:24pour justement avoir des patients
10:26qui sont mieux qualifiés
10:27sur la suite de la prise en charge.
10:29Alors, ça va être vraiment très concret pour tout le monde.
10:32Vous êtes aujourd'hui la seule IA médicale
10:34qui a obtenu une certification en Europe
10:37sur cet usage.
10:40On est effectivement la première solution
10:42à avoir la certification de classe 2B.
10:45Donc, il y a une nouvelle réglementation
10:47qui est en place depuis quelques années maintenant
10:48sur les dispositifs médicaux.
10:51Donc, l'IA en fait partie
10:52puisque l'IA fournit un paramètre
10:54qui impacte la prise en charge du patient.
10:56Donc, c'est considéré comme un dispositif médical.
10:59Alors, parfois, c'est un peu abstrait
11:00puisqu'un dispositif médical, on imagine un scanner,
11:02un échographe, quelque chose d'un peu tangible
11:05et un peu costaud.
11:06Mais en fait, l'IA en fait partie.
11:08Et nous, effectivement, on est la première solution
11:10de ce type à avoir obtenu cet agrément
11:12de la part de l'Europe,
11:13ce qui nous permet effectivement
11:14d'être déployés en soins courants.
11:17Et bien sûr, pour obtenir cet agrément,
11:19ça a nécessité de démontrer pas mal de choses,
11:21notamment, bien sûr, les performances cliniques
11:23associées à notre IA.
11:24Il faut que notre IA a la porte de l'information
11:26qui est pertinente
11:27pour mieux prendre en charge les patients,
11:28mais aussi, bien sûr, toute une dimension de sécurité,
11:31de prise en charge, de conformité
11:34à toutes les valeurs
11:36et les besoins réglementaires
11:39que nous avons en Europe notamment.
11:40Et il fallait un niveau de fiabilité minimale ?
11:47Alors, tout à fait.
11:48Alors, tout dépend, bien sûr,
11:49de comment est-ce qu'on positionne l'outil.
11:51Nous, comme on est sur un outil
11:52qui vise à améliorer la prise en charge
11:54des patients dans les deux sens,
11:56entre guillemets,
11:57mais alors, le plus important, bien sûr,
11:58c'est de ne pas rater des patients
11:59qui sont à risque,
12:00donc d'éviter des faux négatifs.
12:02Donc ça, ça a été vraiment le paramètre
12:04qu'on a le plus monitoré.
12:05Et donc, au cours de nos études de certification,
12:07on a démontré qu'on était au moins
12:09à 96 % de sensibilité
12:11pour éviter de rater des patients
12:13qui sont à risque.
12:14Mais bien sûr, ça ne va pas sans la contraposer,
12:16qui est aussi la capacité
12:17à pouvoir potentiellement fournir
12:20des tendances qui sont au contraire
12:21plutôt dans le sens de montrer
12:23que la lésion n'est pas un mélanome,
12:24et donc nécessite une forme d'accompagnement
12:26qui est beaucoup plus légère
12:27et pas forcément de solliciter rapidement
12:29un dermatologue
12:31pour une prise en charge plus urgente.
12:33Et donc ça, c'est ce qu'on appelle
12:34la spécificité.
12:35Donc, on est plutôt sur la notion
12:37de tri, entre gros guillemets.
12:39C'est dit un peu vulgairement,
12:41mais c'est pour essayer
12:42de faciliter la compréhension.
12:44Et là, nous, on a donc une capacité
12:46qui a été démontrée
12:47d'au moins 72 %
12:49au moment de la mise sur le marché
12:51de notre dispositif.
12:52Merci beaucoup, Léonie Schröder.
12:54Je rappelle que vous êtes
12:54la cofondatrice présidente de UVI.
12:57Merci pour votre témoignage.
12:59On est ravis de voir comment l'IA
13:00permet aussi ses progrès en santé
13:02de manière très concrète.
13:04Merci à tous de nous suivre
13:05sur la chaîne Bsmart.
13:07On se retrouve dès demain
13:08pour de nouvelles discussions sur la tech.
13:09Sous-titrage Société Radio-Canada
13:14Sous-titrage Société Radio-Canada