00:00Et avant ça, on écoute tous religieusement William Galibert.
00:04Galibert raconte l'actu, on s'intéresse ce matin, William, avec vous,
00:07à cet ingénieur qui affirme que l'intelligence artificielle
00:11pourrait tous nous tuer avant la fin de la décennie.
00:13Jacob Coxon, britannique de 27 ans, n'est pas le seul à dire ça,
00:17pas le seul à prévenir que l'humanité est en danger,
00:19mais ce qui est embêtant, c'est qu'il a l'air de savoir à peu près de quoi il
00:22parle.
00:23Il a travaillé chez Anthropik, chez OpenAI,
00:25deux des géants de l'intelligence artificielle qui ont développé les modèles Claude et ChatGPT.
00:30Alors, ce n'est pas vraiment ce que Galibert raconte ce matin.
00:33Faute de pouvoir parler avec les dirigeants de l'intelligence artificielle,
00:36c'est plutôt que Galibert pose les questions directement à ChatGPT.
00:41J'ai enregistré les réponses il y a quelques minutes.
00:43J'ai donné une seule consigne à l'IA, comme pour tous les invités de RTL.
00:47Réponses plutôt courtes, sincères et les plus claires possibles.
00:51Vous êtes prêts ?
00:51Allons-y.
00:52Bonjour ChatGPT.
00:53Bonjour RTL et merci de m'accueillir.
00:56D'abord, qui est cet ingénieur Jacob Coxon ?
00:59Est-ce qu'il occupait un poste important chez vous ?
01:01Est-ce qu'il est qualifié pour parler de l'IA et de ses dangers ?
01:04Oui, il sait de quoi il parle.
01:05Il a bossé trois ans directement sur l'entraînement des modèles,
01:08mais ce n'était pas un patron ni quelqu'un qui décidait de la stratégie.
01:12Il était dans le moteur, pas au volant.
01:14Donc, son témoignage compte.
01:16C'est comme un ingénieur de Formule 1 qui vous dit que la voiture va trop vite.
01:19Ce n'est pas le patron de l'écurie, mais vous l'écoutez.
01:22Est-ce qu'il est trop alarmiste ?
01:24Dire l'IA peut tous nous tuer, c'est évidemment maximal.
01:28Mais ce qui est frappant, c'est qu'il n'est pas seul.
01:31Beaucoup de chercheurs tirent la sonnette d'alarme
01:33parce qu'ils voient les modèles devenir plus puissants,
01:36plus autonomes, plus vite qu'on ne sait les contrôler.
01:38En clair, le moteur progresse plus vite que les freins.
01:42Est-ce que ChatGPT ou est-ce qu'une autre IA peut déjà faire du mal aux humains ?
01:47Aujourd'hui, non, pas tout seul.
01:49Je n'ai ni volonté propre, ni accès libre au monde réel.
01:52Mais sans garde-fou, si on donne à une IA des accès sensibles et le droit d'agir seul,
01:57elle peut faire énormément de dégâts.
01:59Exemple concret.
02:00Trouver une faille informatique et lancer automatiquement une attaque
02:04contre des hôpitaux ou un réseau électrique.
02:06Donc, le danger, ce n'est pas forcément une IA qui veut nous tuer.
02:09C'est une IA qui peut agir à très grande échelle
02:12avant qu'un humain ait le temps de l'arrêter.
02:15Un jour, l'IA pourrait considérer les humains comme un problème ?
02:19Oui, c'est théoriquement possible.
02:21Mais pas parce qu'une IA se mettrait à nous détester.
02:23Le risque, c'est plus froid que ça.
02:25On lui donne un objectif et l'être humain devient un obstacle à cet objectif.
02:29Exemple.
02:30Une IA très autonome chargée d'accomplir une mission
02:32pourrait considérer qu'être arrêté l'empêche de réussir
02:36et chercher à contourner l'humain.
02:37Donc, le scénario inquiétant, ce n'est pas la machine nous hait.
02:41C'est la machine n'a tout simplement plus besoin de nous pour décider.
02:46Pourquoi, en sachant tout ça, la boîte qui t'a créé et les autres
02:49continuent un développement aussi frénétique,
02:52parfois on a l'impression, sans les garde-fous suffisants ?
02:55Oui, c'est exactement le paradoxe.
02:57Tout le monde voit le mur, mais personne ne veut être le premier à freiner.
03:00Parce qu'il y a une course économique, stratégique, militaire aussi.
03:04Si OpenAI ralentit et que Google, Anthropik ou la Chine continuent,
03:09OpenAI perd du terrain.
03:10Et chaque acteur se dit la même chose.
03:12Mieux vaut que ce soit moi qui arrive le premier parce que moi je serai prudent.
03:16Le problème, c'est que si tout le monde raisonne comme ça,
03:19on transforme la prudence en course de vitesse.
03:22Voilà, c'était mon entretien avec l'IA.
03:24Assez troublante de sincérité.
03:26On n'est pas encore dans Terminator,
03:28mais aujourd'hui il n'y a pas de loi pour encadrer le développement des modèles.
03:31Et de plus en plus de voix, notamment aux Etats-Unis,
03:34réclament la suspension du développement de ces modèles d'intelligence artificielle
03:39jusqu'à la mise en place d'un régulateur.
03:41Le moteur progresse plus vite que les freins.
03:44L'intelligence artificielle a aussi le sens de la formule.
03:46C'était assez saisissant de l'avoir comme invité ce matin dans Galibert Raconte.
03:51On a tous écouté ça très religieusement.
03:53Merci beaucoup William Galibert.
Commentaires