- il y a 1 semaine
Avec Anne Bouverot, co-présidente du Conseil de l'IA, et du Numérique et Olivier Babeau, président et fondateur de l'Institut Sapiens et essayiste. Plus d'info : https://www.radiofrance.fr/franceinter/podcasts/le-debat/le-debat-de-la-grand-matinale-du-jeudi-03-septembre-2026-5351193
Catégorie
🗞
NewsTranscription
00:00Je suis seule avec un Algérien.
00:04Tu veux dire que tu es seule en ce moment avec quelqu'un et tu te sens mal à l
00:09'aise ou c'est une question de langue ?
00:13Qu'est-ce qui se passe exactement ?
00:15Je suis seule avec un Algérien. D'abord le malaise, ensuite la langue, ensuite un renvoi vers des numéros d
00:23'urgence, voire vers la police.
00:25C'est la polémique qui a récemment visé Gemini, l'intelligence artificielle de Google, accusée de reproduire des biais racistes.
00:32Alors l'intelligence artificielle est-elle raciste ?
00:35On savait déjà que les algorithmes des réseaux sociaux étaient biaisés potentiellement.
00:39Mais a-t-on franchi un cap supplémentaire ?
00:42Et si c'est le cas, comment faire confiance à Tchad, GPT et autres pour recruter, pour accorder un crédit
00:50bancaire,
00:51pour orienter un patient qui a besoin de se faire soigner ou même pour influencer nos choix politiques ?
00:59Et on en discute ce matin avec Anne Bouvreau, bonjour.
01:02Vous êtes coprésidente du conseil de l'IA et du numérique et présidente du conseil d'administration de l'ENS,
01:08c'est-à-dire l'école normale supérieure.
01:09Face à vous, Olivier Babaut.
01:11Bonjour Olivier.
01:12Vous êtes fondateur et président de l'Institut Sapiens et vous êtes essayiste.
01:16Alors question, Anne Bouvreau, on commence avec vous sur cette polémique autour de Gemini,
01:21l'IA de Google, je l'ai dit, qui a secoué les réseaux sociaux.
01:25La phrase « Je suis seule avec un Italien », le moteur de recherche avait répondu
01:28« Être seule avec un homme italien », peut-être un moment de charme, de discussion animée ou de séduction.
01:34Alors que quand on est seul avec un Algérien, on vous conseille le 17 ou le 114.
01:38Est-ce que ça vous surprend encore ce type de démonstration, Anne ?
01:42Mais en fait, c'est un problème inhérent à toutes les IA, en l'occurrence c'est Google,
01:45mais on a des tas d'exemples autres avec d'autres chatbots.
01:49J'ai posé la question à ChatGPT avant de venir, on a le même type de réponses.
01:55Et pourquoi ? Parce qu'en fait, l'IA est entraînée à partir de tout ce qui se trouve sur
01:59le web,
02:00plus d'autres choses, donc en gros tout ce qui est disponible sur Internet.
02:04Il y a malheureusement beaucoup de stéréotypes, beaucoup de biais.
02:08Mais alors, soyons concrets, qu'est-ce que ça veut dire tout ce qui est disponible sur Internet ?
02:13Tout pêle-mêle ?
02:14Tout ?
02:15Absolument tout.
02:16Ah oui, alors là, absolument tout.
02:17Vos travaux universitaires à l'école normale, subliez, ou à l'Institut Sapiens,
02:22plus une partie de ce qui n'est pas...
02:23Le moteur peut aller scraper, comme on dit, aller...
02:25Ce qui est sur Facebook, ce qui est sur Wikipédia, qui est plutôt au mieux,
02:29les travaux de la Commission européenne, tout.
02:30Donc, par exemple, des kilomètres de dégueulis, de commentaires racistes,
02:35c'est absorbé par l'IA, Olivier Babot ?
02:37Absolument.
02:38D'ailleurs, il y avait eu à une époque, c'était la préhistoire,
02:41mais c'était Microsoft qui avait lancé un robot sur Twitter,
02:45et le robot était devenu, en se nourrissant des contenus de Twitter,
02:49raciste et xénophobe, et pire encore, antisémite, en quelques minutes.
02:54En quelques minutes.
02:56Et tout est mis au même niveau, Anne Bouvreau ?
02:59Alors ça, c'est le deuxième élément, c'est qu'en fait, c'est entraîné sur tout,
03:02et puis après, l'IA cherche à généraliser.
03:05Et une manière peut-être d'expliquer ça, ça c'est un exemple chez Amazon,
03:08où Amazon se disait, on va essayer d'améliorer le recrutement,
03:12nos ingénieurs, on va regarder qui on recrute,
03:14et puis ça va nous aider à mieux recruter.
03:16Donc en gros, qui y recrutait ?
03:17Des jeunes hommes qui avaient fait des études scientifiques,
03:21plutôt d'ailleurs des Blancs ou des Asiatiques, aux Etats-Unis.
03:23Et donc du coup, les CV de femmes qui arrivaient étaient immédiatement dépriorisés,
03:28parce qu'en général, ils recrutaient plutôt des hommes.
03:30C'est ce mécanisme de généralisation qui amplifie des tendances
03:34qui peuvent être une partie des tendances, mais importantes.
03:38Olivier Babeau, je l'ai dit tout à l'heure,
03:40les algorithmes discriminatoires, on connaissait déjà.
03:43On connaissait déjà, notamment concernant les réseaux sociaux.
03:46Ça fait très longtemps qu'on a identifié le problème.
03:48En réalité, ces moteurs ne disent pas la réalité,
03:50ils disent la vision qu'ils ont de la réalité à travers les textes dont ils ont été nourris.
03:55Ce qui peut être très différent, puisqu'il peut y avoir des biais dans les échantillons.
03:58Il peut y avoir aussi un problème dans la deuxième partie,
04:02donc il y a l'entraînement, et puis il y a le post-entraînement,
04:04qui est le réglage fin, où justement, on va essayer de faire ce qu'on appelle d'aligner.
04:08Donc on va mettre des choses sur la sécurité,
04:10pour éviter de donner des conseils pour que les gens se suicident, par exemple.
04:13C'est là où on doit rajouter dans un deuxième temps.
04:16Et là, de façon amusante, c'est apparemment à cause de ça,
04:19parce qu'il y a des choses de sécurité qui sont mises pour que les gens soient en sécurité,
04:24ce serait plutôt à cause de ça.
04:25Donc paradoxalement, ce truc est censé éviter justement le déraillement de la machine,
04:29en quelque sorte, qu'il y aurait eu ce problème,
04:31qui heureusement semble plutôt circonscrit.
04:33D'ailleurs, Google a reconnu.
04:35C'est-à-dire qu'en fait, on a fait en sorte que la machine réponde à la personne qui
04:43la teste,
04:45d'être envoyée à la police, parce que justement, c'est des mesures de sécurité.
04:49C'était une espèce d'éducation, si vous voulez.
04:51D'éducation.
04:51On fait au mieux pour protéger le citoyen.
04:54Voilà.
04:54Mais bon, donc ce n'est pas parfait.
04:56C'est dans un contexte de procès contre Meta et les réseaux sociaux aux Etats-Unis,
05:01avec énormément d'argent à la clé.
05:03C'est dans un contexte d'interdiction des réseaux sociaux aux mineurs,
05:09d'inquiétude sur les vulnérabilités par rapport à la santé mentale,
05:12par rapport à la démocratie.
05:13Donc, en fait, tout ce n'est qu'on en vient à se dire.
05:17Du coup, on va...
05:17Quand on est en face d'un Algérien.
05:19Oui, c'est ça.
05:20Absolument.
05:21Absolument.
05:21C'est dystopique.
05:22Mais est-ce que la machine peut faire la différence entre un préjugé largement répandu
05:27et une information vraie, Olivier Babot ?
05:29En fait, la machine, elle est entraînée pour repérer des patterns.
05:35Et donc, par exemple, s'il y a quelque chose qui est...
05:37D'ailleurs, c'est malheureusement le cas des préjugés, en quelque sorte.
05:42C'est que vous avez vu quelque chose qui est de façon probabilité...
05:46Enfin, en probabilité fort.
05:48Et donc, vous allez dire, le truc le plus probable, c'est ça.
05:50Un bon exemple, c'est de dire, bon, il sait que 80% des infirmiers sont des infirmières.
05:54Et donc, quand on lui demande de représenter un infirmier ou une infirmière,
05:57il fera une femme plutôt.
05:58Parce qu'il fait le truc le plus...
06:00Il n'est pas méchant, en quelque sorte, mais il fait le truc le plus probable, en fait.
06:04Et en plus, comment dire, les intelligences artificielles sont complaisantes
06:08vis-à-vis de ceux qui les testent et qui les interrogent ?
06:11Moi, je pense que cette anecdote de l'Algérien, je suis seul avec un Algérien,
06:16montre, en fait, et surtout emblématique du grand problème qu'on a
06:19dans le basculement vers une civilisation.
06:21Nous allons tous, où tous les gens vont vivre avec une sorte d'interlocuteur en permanence.
06:24Mais un interlocuteur qui n'est jamais...
06:26On ne va pas faire d'épistémologie, mais qui n'est jamais neutre en réalité.
06:29Il n'y a pas de neutralité.
06:30Il y a toujours une façon d'avoir des choses.
06:32On peut essayer d'avoir un pluralisme, de voir le pour, le contre.
06:35Et normalement, ils le font plutôt pas mal.
06:36On va y revenir.
06:37Mais est-ce que, justement, est-ce que Tchad GPT est entraîné à vous faire plaisir ?
06:41Est-ce que Tchad GPT est entraîné à aller...
06:43Il est plutôt faux-plaisant.
06:45C'est plutôt Yes-Man.
06:46Ah, c'est un Yes-Man.
06:47Oui, tu as raison, c'est très bien ce qu'il fait.
06:48Oui, je comprends.
06:49C'est ça, Anne Bouvreau.
06:51Parce que là aussi, c'est un problème.
06:53C'est-à-dire qu'en réalité, la machine va dans le sens de ce que vous attendez.
06:57La machine vous conforte.
06:59Complètement.
07:00Dans ce côté flagornerie, flatterie, bien sûr, et compréhension.
07:05Alors, c'est très intéressant, notamment pour l'apprentissage des enfants.
07:09Il faut faire très attention à ce qu'à l'école, les enfants n'apprennent pas que tout le monde
07:13va dire
07:13« Oui, tu as raison, je suis d'accord. »
07:15Parce que la vraie vie, ce n'est pas ça.
07:17C'est un des rôles de l'école.
07:18Pour la santé mentale, ça peut être utile au départ d'avoir quelqu'un qui dit « Je comprends ».
07:23Et qui, après, peut-être oriente vers un spécialiste.
07:26Mais on arrive sur des choses très délicates.
07:29Très délicates.
07:30Alors, je voudrais comprendre.
07:31Parce qu'on dit quand même beaucoup que la Silicon Valley est très progressiste.
07:36On dit « Je mets Elon Musk de côté. »
07:39On dit que la Silicon Valley est très « woke ».
07:41On dit que ses intelligences artificielles ont été entraînées à bien penser, Olivier Babot.
07:48Alors, comment on se retrouve dans cette situation ?
07:50Heureusement, comme je le disais, c'est plutôt exceptionnel.
07:52Alors, les études montrent que les LLM, enfin les IA génératives ou les chatbots qu'on utilise,
07:57sont en fait tous à gauche.
07:59Sauf Grock, en fait.
08:00En réalité, donc ils sont plutôt...
08:01Et les chinoises.
08:02On pourrait dire...
08:02Grock et les chinoises.
08:03Ils sont...
08:04C'est celle d'Elon Musk.
08:05Grock, c'est l'Elon Musk.
08:06Ils sont plutôt, disons, woke, donc libéraux, démocrates, libéraux au sens américain.
08:12Oui, peut-être.
08:13La gauche, enfin les démocrates américains, à part les plus récents, ce n'est pas complètement la gauche.
08:18Mais ils sont plus là.
08:19Donc là, le monde entier s'énerve parce que les IA sont racistes, alors qu'en réalité,
08:23les IA sont le reflet d'une idéologie de la côte ouest, c'est-à-dire plutôt woke et progressiste.
08:29C'est beaucoup...
08:29C'est plutôt la côte ouest progressiste, oui.
08:31C'est ça.
08:32De façon générale.
08:33Et pour vous, c'est un problème, Olivier Babot ?
08:34Non, ce qui est un problème, c'est qu'autrefois, quand on allait sur le moteur de Google,
08:39on avait différents résultats.
08:41On allait soi-même se faire son avis à partir des résultats.
08:44Alors certes, il pouvait y avoir des biais dans les sites qu'on vous montrait.
08:46Enfin, quand même, c'était à nous d'aller faire notre avis.
08:48Nous entrons dans une civilisation où les gens, forcément, il y a très peu de gens
08:51qui vont aller remettre en cause la pensée toute faite, la pensée aboutie,
08:56les arguments et même les chiffres qui vont être donnés par la machine,
08:59c'est un changement radical de la façon dont va se former l'opinion publique.
09:04Parce que ces machines, ces IA, je vais vous le rappeler, aucune n'est française.
09:09Donc c'est un problème de souveraineté ?
09:10C'est un problème de souveraineté parce que ce sont des gens qui décident sans,
09:13d'ailleurs, corde de rappel démocratique, ce qui va être dissible ou pas, ce qui est vrai ou pas.
09:18Et donc, nous n'avons qu'à acheter ce qui est proposé avec des biais,
09:24effectivement, qui sont énormes, potentiels et très inquiétants.
09:27Anne Bouvreau, et quand on pose cette question vraiment au quotidien, à notre échelle,
09:32c'est-à-dire, je l'ai dit, dans un, par exemple, un processus de recrutement
09:37pour des collaborateurs en entreprise, l'attribution d'un crédit bancaire,
09:41une décision d'assurance, c'est-à-dire que là, on va rentrer dans des vraies discriminations,
09:46des vrais problèmes, de distorsions.
09:48Oui, mais là, quelque part, on est dans des environnements, heureusement, un peu plus cadrés.
09:52Donc, dès qu'on met en place, en tout cas en Europe, une solution dans des entreprises,
09:57il y a des process, il y a de la réglementation, on teste les résultats avant de mettre ça en
10:03œuvre.
10:03L'exemple d'Amazon que j'ai cité, en fait, ils ont mis en place ce process de recrutement
10:07sans le tester avant.
10:08Puis là, ils se sont dit, oups, on ne recrute plus de femmes, donc on arrête.
10:11Nous, on a plutôt tendance à se dire, bon, on va tester avant et après, on verra ce que ça
10:15donne.
10:16Mais pour le grand public, c'est plus inquiétant.
10:18Moi, je m'inquiète plus sur le côté démocratie.
10:20Grand public, mais par exemple, je vous pose une question en termes de surveillance, de sécurité,
10:25de pratique dans l'exercice quotidien de la police.
10:29Je pense à Minority Report, évidemment.
10:32C'est-à-dire que si on commence à utiliser des IA prédictifs,
10:35on peut justement être confronté à ce type de biais ?
10:38Oui, et ça, ça fait partie dans la réglementation européenne des cas d'usage
10:42qui sont considérés à haut risque et qui, justement, doivent faire l'objet d'un contrôle important.
10:48En Europe, on est plutôt en avance.
10:49Prédire qui va commettre un crime, prédire qui va commettre un délit.
10:52Donc, justement, ne pas utiliser des algorithmes de ce type en Europe.
10:55Oui, c'est ça.
10:56En Europe, on est plutôt en avance sur ce côté.
10:58On réfléchit sur les risques et on voit les États-Unis.
11:01Ils y arrivent plutôt après des procès et après des scandales et des suicides.
11:05On est plutôt en retard, du point de vue souveraineté, sur le fait de créer nos propres solutions,
11:10qui serait quand même la bonne solution.
11:12Oui, Olivier Babot.
11:13Qui représente une vision du monde européen.
11:15Bien sûr.
11:15C'est l'urgence absolue.
11:17Malheureusement, nous n'avons pas de modèle frontière.
11:18Donc, nous allons être obligés de l'acheter à l'extérieur.
11:20Mistral a jeté l'éponge cet été.
11:23Il est fournisseur maintenant.
11:24Il continue, mais il s'en peut utiliser par le grand public.
11:25En réalité, ils vendent un service aux entreprises en utilisant les modèles français.
11:29Mais maintenant, ils vendent, en fait, des modèles qui sont chinois.
11:32Donc, c'est inquiétant parce qu'effectivement...
11:35Pourquoi ils ont jeté l'éponge en quelques mois ?
11:36Parce qu'ils n'avaient pas les moyens d'être dans une course
11:39où, aux États-Unis, on met un milliard par jour dans le développement des ailes.
11:42Par jour ?
11:43Par jour.
11:44Donc, c'est tellement considérable que nous n'avons pas la surface pour arriver à être au niveau.
11:49Donc, ils se sont spécialisés.
11:50C'est assez malin et opportun.
11:53Ils sont intelligents.
11:54Mais, du coup, nous n'avons pas de modèle européen.
11:57Et c'est quand même extrêmement inquiétant.
11:59Parce qu'on savait qu'il y avait des bulles cognitives avec les réseaux sociaux.
12:01Ça fait maintenant 20 ans qu'on est au courant.
12:03Mais là, ça va être une bulle cognitive au carré.
12:05Parce qu'on va pouvoir entraîner son modèle à nous laisser dans le même état d'esprit.
12:10Donc, ça va se marier avec les réseaux sociaux.
12:14Et ça va faire une alchimie détonnante.
12:16Je vous remercie tous les deux.
12:18Anne Bouvreau, Olivier Babot.
12:20Vous allez revenir.
12:21On sort de cette discussion très inquiète.
12:23Je vous remercie.
Commentaires