• il y a 15 minutes
L’intelligence artificielle représente à la fois un risque et une opportunité pour la santé. Capable de générer des informations trompeuses, elle peut aussi faciliter l’accès aux connaissances scientifiques. C’est le pari de PaperDoc, qui développe des outils d’IA dédiés aux professionnels de santé et au grand public. Eliot Calimez, son cofondateur, était l'invité de la Pépite Santé.

Catégorie

🗞
News
Transcription
00:04L'intelligence artificielle peut produire des informations médicales trompeuses,
00:08mais elle peut aussi aider à mieux exploiter les connaissances scientifiques.
00:12C'est l'ambition de PaperDoc, une entreprise française qui développe des outils d'IA
00:15pour les professionnels de santé et le grand public.
00:18Pour en parler, je reçois Elliot Kalimé, cofondateur et directeur technique de PaperDoc.
00:22Bienvenue Elliot.
00:23Bonjour, merci de me recevoir.
00:24Je disais, vous vous adressez à des pros, d'ailleurs originellement,
00:28ce sont aux professionnels de santé que vous adressiez,
00:30et puis vous avez décidé d'élargir aux patients.
00:32Pourquoi ce choix ?
00:33Oui, effectivement, initialement, PaperDoc a commencé à développer
00:38à destination des professionnels de santé,
00:39car lorsque Nicolas Gattul, le fondateur de la société, a lancé cette start-up,
00:46il est parti d'un constat clair que face à une information médicale qui explose,
00:50les professionnels de santé et chercheurs ont besoin d'outils
00:54pour accéder à des informations fiables, traçables et vérifiées.
00:58Et donc, c'est ce qu'on a essayé de faire dans un premier temps,
01:01avec notamment notre premier agent qui s'appelait Archie,
01:04qui permettait justement à ces professionnels de santé
01:06d'avoir des réponses basées sur la littérature scientifique
01:10et des recommandations officielles comme celle de l'AHAS.
01:13Et alors, oui, dites-moi.
01:14Et ensuite, on a essayé de transférer ce savoir-faire-là
01:18à destination du grand public pour s'attaquer à un second problème
01:21qui était celui de la désinformation.
01:23Il y a un autre agent.
01:24Il y a un autre agent, mais en s'appuyant sur les mêmes briques technologiques.
01:28Et cette fois-ci, en s'associant avec des associations de patients
01:32et des experts de l'expérience patient,
01:35nous avons développé Gustave, qui est un compagnon IA souverain en santé,
01:39qui aide les soignants et les aidants à s'informer sur leur santé
01:43et à s'orienter dans leur parcours de soins.
01:45Et alors justement, vous vous appuyez sur une sélection
01:47de publications scientifiques et de référentiels médicaux.
01:50Comment faites-vous le tri entre les sources fiables et celles qui ne le sont pas ?
01:53Alors, l'objectif ici, c'est de ne pas avoir paper doc qui s'érige en juge de paix.
01:58Donc, on essaye de s'indexer sur les références, en France notamment.
02:02Donc, la source principale, ça va être les recommandations officielles
02:05de la Haute Autorité de la Santé.
02:07Pour ce qui est de la littérature scientifique,
02:09on va s'efforcer surtout de faire le tri sur les informations
02:11qui ont été indiquées comme non fiables.
02:13Donc, notamment tout ce qui est revues prédatrices,
02:15qui en fait sont de la pseudo-science avec un certain nombre de fake news
02:21qui ne sont pas forcément validées par les pairs.
02:23Et l'idée, ça va surtout être de visibiliser la qualité de ces sources-là
02:26pour que l'utilisateur, qu'il soit pro ou patient,
02:29puisse se faire son avis sur la qualité de ces sources.
02:32Les connaissances médicales et les recommandations évoluent constamment.
02:36Comment est-ce que vous garantissez que les réponses suivent ces évolutions ?
02:39C'est tout l'intérêt d'utiliser un outil et un agent IA comme Gustave,
02:44puisque derrière, il y a des bases de données que nous mettons à jour régulièrement,
02:48quotidiennement, hebdomadairement, sur différents canaux.
02:51Et grâce à cela, on va incorporer dans les poids de l'agent
02:56des critères de récence et de qualité.
02:59Et donc, une recommandation qui est sortie en 2002
03:01va être en retrait par rapport à une mise à jour de cette recommandation
03:05qui a été publiée, par exemple, cette année ou l'année dernière.
03:07Une source scientifique peut être sérieuse, sans apporter une réponse définitive.
03:11Comment votre IA gère-t-elle les résultats contradictoires ou les incertitudes ?
03:16Totalement. Déjà, la notion de consensus dans la littérature scientifique,
03:21ce n'est pas forcément quelque chose de très répandu.
03:23Ça l'est quand même beaucoup moins dans les recommandations officielles,
03:26qui sont souvent un petit peu en retrait au niveau de la recherche de pointe.
03:29Et c'est tout l'intérêt aussi de faire cette sélection
03:31sur les sources qui sont pertinentes à destination des professionnels,
03:34qui vont être capables de gérer ce dit census dans l'information
03:37et les recommandations qui, elles, vont apporter une vision un petit peu plus claire de l'information.
03:44Après, au niveau de la manière dont on transmet le contenu,
03:47il y a un effort, notamment avec Gustave, d'une certaine transparence,
03:51et c'est peut-être la particularité par rapport à des IA généralistes,
03:54d'appuyer toutes les informations qui sont transmises par des sources,
03:58en visibilisant ce lien.
03:59Et pour terminer cet échange, Eliott, quel est le principal défi finalement
04:03pour déployer ces outils à grande échelle maintenant ?
04:05À grande échelle, c'est justement de rattraper l'usage qui a devancé les outils.
04:09Aujourd'hui, la majorité des gens utilisent des IA généralistes
04:12pour des questions de santé, ce qui est un vrai problème
04:15aussi au niveau de la sécurité des données.
04:17Et donc, notre job en tant que développeur,
04:21c'est justement de proposer des solutions,
04:23des alternatives plus adaptées à ces usages.
04:25Merci beaucoup. Merci Eliott Kalimé.
04:27Merci à Camille Rewal qui produit cette émission.
04:31Merci à vous de nous avoir suivis.
04:32À très bientôt sur Bsmart.
04:33Sous-titrage Société Radio-Canada
04:40Sous-titrage Société Radio-Canada

Recommandations