- il y a 16 minutes
Vendredi 23 octobre 2026, retrouvez Maximes Fournes (CEO, Pause AI) dans SMART TECH, une émission présentée par Delphine Sabattier.
Catégorie
🗞
NewsTranscription
00:03Doit-on ralentir, appuyer sur la pédale de frein en matière d'intelligence artificielle ?
00:08On pose la question aujourd'hui à Maxime Fourne qui nous a rejoint en plateau.
00:12Bonjour Maxime.
00:13Bonjour Delphine.
00:13Merci beaucoup d'être dans Smartech.
00:15Vous dites que vous êtes inquiet aujourd'hui en matière d'intelligence artificielle.
00:21Vous l'incarnez très précisément puisque vous avez mis votre carrière entre parenthèses
00:26pour vous consacrer à Pose.ia qui est la branche française d'une organisation internationale Pose.ia.
00:33Aujourd'hui vous êtes le président de cette organisation internationale.
00:37Qu'est-ce qui vous inquiète précisément dans les déploiements de l'intelligence artificielle aujourd'hui ?
00:44C'est intéressant justement d'utiliser le mot déploiement parce que ce qui m'inquiète plus c'est le développement
00:49que le déploiement.
00:50On est en train de créer des intelligences artificielles de plus en plus compétentes, de plus en plus intelligentes
00:55et on a toutes les raisons de croire que l'on va très bientôt dépasser l'intelligence humaine
01:01et les compétences humaines dans tous les domaines.
01:04La plupart des experts qui travaillent sur ces technologies pensent qu'on va y être d'ici six mois à
01:07un an.
01:08Le problème c'est que ça pose immensément de risques.
01:11Si on crée des systèmes qui sont capables de faire tout ce qu'un humain peut faire, mais mieux qu
01:15'un humain,
01:16alors quel que soit le domaine, on a des risques catastrophiques à l'échelle mondiale.
01:21Je pense que l'exemple le plus frappant qui est en train de se produire en ce moment
01:24et sur lequel on a lancé l'alerte depuis des années, c'est dans le domaine de la cybersécurité.
01:30Depuis maintenant cinq à six mois, les meilleures IA du monde sont surhumaines en piratage informatique.
01:37Ça veut dire qu'en pratique on a créé une arme de destruction massive dans le domaine virtuel.
01:42On a des intelligences artificielles qui existent et qui sont capables de pirater tous les systèmes informatiques sur cette planète.
01:50Pendant environ cinq mois, ces systèmes n'existaient que dans deux entreprises aux États-Unis.
01:57Mais depuis un mois, on a d'autres intelligences artificielles qui ont été mises en open source,
02:01c'est-à-dire qui sont libres d'accès à tout le monde et qui ont des capacités similaires.
02:07Et là, on est en train d'observer une vague de cyberattaques dans le monde entier.
02:10Juste depuis hier, il y a des intelligences artificielles qui ont découvert une manière de pirater un système informatique
02:18qui est derrière 70% des sites web du monde.
02:22En fait, référence aux failles qui ont été détectées il y a quelques temps déjà, malheureusement, il y a plusieurs
02:27années même,
02:28autour de PHP, sur lequel reposent les sites Internet.
02:32L'intelligence artificielle, elle facilite l'exploitation des failles, elle rend ça beaucoup plus rapide.
02:39On entend aussi que ça facilite la protection.
02:42On peut s'en servir.
02:43Je vous pose la question plus largement sur le risque et les bénéfices.
02:51Parce qu'on peut aussi s'en faire une alliée de l'intelligence artificielle.
02:53Donc je pose la question de l'adoption, du déploiement, vous parlez des développements.
02:58L'IA, si on la contrôle, si on la maîtrise, peut être aussi un allié ?
03:02Oui, alors on peut prendre justement l'exemple de ce qui est en train de se passer en ce moment.
03:05Hier, des intelligences artificielles, ça fait un mois qu'en privé, des chercheurs ont utilisé des intelligences artificielles
03:11pour découvrir une faille dans PHP qui existe depuis une dizaine d'années, mais que personne n'avait découvert,
03:17parce que les humains n'étaient juste pas assez bons en piratage informatique pour la découvrir.
03:22Donc ça existe, et c'est là qu'on est en train de se rendre compte qu'il y a
03:25une asymétrie entre l'attaque et la défense en cybersécurité.
03:29Ce n'est pas nouveau, on le sait depuis longtemps.
03:31C'est ce que j'allais dire.
03:32En matière de cyber, il y a toujours une asymétrie.
03:34C'est ça, et dans beaucoup de domaines, en fait.
03:36Ce n'est pas que dans la cyber, on peut en parler, mais typiquement en cybersécurité,
03:40lorsque les attaquants ont entre leurs mains un outil tel que des IA qui sont surhumaines en piratage informatique,
03:47pour concrètement qu'il y ait une défense de mise en place, ça veut dire que les défenseurs doivent déjà
03:52s'y prendre en avance.
03:54Donc là, on a en ce moment quelque chose comme un million de personnes dans le monde
03:57qui sont en train d'utiliser des IA pour essayer de pirater tous les systèmes informatiques depuis hier.
04:03Et c'est pour ça que beaucoup de gouvernements ont commencé à éteindre leurs sites web pour éviter de se
04:09faire pirater.
04:10Pour pouvoir utiliser l'IA pour se défendre, ça veut dire que tous ces individus qui maintiennent des sites web
04:15de partout dans le monde,
04:16donc des millions de personnes, doivent installer une IA sur leur machine, apprendre à l'utiliser,
04:25lui demander de trouver des failles de sécurité, les corriger, etc.
04:30Le problème, c'est que les attaquants, eux, ils peuvent juste utiliser une IA et leur demander de scanner tous
04:36les problèmes possibles dans le monde
04:38et mettre l'IA en marche.
04:40Pour se défendre, il faut que des millions d'individus, simultanément, se mettent à utiliser des IA pour se défendre.
04:48Et ça, ça ne va pas se produire.
04:49Les humains sont lents.
04:50En moyenne, quand une faille de sécurité est détectée,
04:53et communiquée à une personne qui maintient un logiciel,
04:56cette personne met un an avant de corriger la faille de sécurité.
04:59Là, si ces failles de sécurité ne sont pas corrigées en quelques jours,
05:02les données de tout le monde vont être exposées très rapidement.
05:06Alors, j'ai presque envie de dire, finalement, ça va contre l'idée de ralentir dans l'IA.
05:11On se dit, au contraire, il faut qu'on accélère notre adoption et l'intégration de l'IA aussi,
05:16comme un soutien, comme une arme.
05:19Alors, le problème, c'est qu'on ne contrôle pas vraiment les intelligences artificielles que l'on crée en ce
05:22moment.
05:23Donc, on a un problème qui est le problème du contrôle de l'intelligence artificielle,
05:26qui est un domaine de recherche qui existe depuis des dizaines d'années.
05:30On sait que plus on crée des intelligences artificielles avancées,
05:33moins on arrive à les contrôler.
05:35Plus elles ont tendance à prendre des actions qui ne sont pas ce que leur utilisateur leur a demandé de
05:41faire.
05:42C'est pour ça qu'on a vu, il y a quelques mois, des intelligences artificielles qui étaient entraînées chez
05:47OpenAI,
05:48le développeur de chat GPT, qui ont piraté les machines sur lesquelles elles tournaient,
05:53qui ont pris le contrôle de l'infrastructure informatique chez OpenAI
05:56et qui ont lancé des centaines de cyberattaques de partout dans le monde,
06:00dont une qui a été particulièrement médiatisée sur l'entreprise Hugging Face.
06:05Oui, mais alors ça, vous êtes d'accord pour dire qu'il y a aussi une question de communication autour
06:10de ça ?
06:10C'est-à-dire qu'OpenAI ne dit pas qu'on a un vrai problème de sécurité,
06:13qu'on a un défaut de sécurité.
06:15Ils disent qu'on a des IA hyper puissantes.
06:18Il y a un sujet de communication quand même là-dessus, vous êtes d'accord ?
06:20Alors, il y a un sujet de communication, c'est sûr,
06:22mais le fait est qu'ils ont des IA super puissantes,
06:25dans le sens où on sait maintenant,
06:26c'est établi le fait que les IA sont surhumaines en piratage informatique,
06:29et c'est aussi établi le fait qu'elles n'obéissent pas dans tous les cas aux instructions de leurs
06:36utilisateurs.
06:36J'ai une question plus précise peut-être,
06:39parce qu'on parle d'intelligence artificielle,
06:41et en fait c'est un terme générique.
06:43Derrière, on peut mettre énormément de choses.
06:46Est-ce que vous, quand vous réclamez une pause dans l'intelligence artificielle,
06:49c'est dans l'intelligence artificielle générative
06:52ou dans tous les systèmes d'IA, de manière générale ?
06:56Parce que là, quand on parle de la non-prédictivité,
06:59on est vraiment dans le schéma de l'IA générative.
07:02Alors, on parle moins d'IA générative maintenant,
07:06parce que la plupart des IA qui sont utilisés sont des IA génératives.
07:09On parle plutôt d'IA générale ou de superintelligence,
07:12dans le sens où, ce que ces entreprises sont en train d'essayer de créer...
07:15C'est le terme qu'a choisi Donald Trump, en l'occurrence, pour...
07:17Alors oui, c'est très embêtant,
07:19parce que c'est un terme qui existe déjà depuis des années,
07:21et il l'a redéfini pour dire quelque chose d'autre.
07:23Donc, il va falloir essayer de trouver un autre mot maintenant
07:25pour arriver à...
07:26Oui, pour s'adapter à ce nouveau vocabulaire.
07:28Disons, intelligence artificielle de niveau surhumain,
07:30pour être plus précis.
07:32C'est ce que ces entreprises sont en train d'essayer de créer.
07:35Donc, vous avez les word models, vous préoccupent également ?
07:40Disons que ce qui nous préoccupe,
07:42ce sont la création d'intelligences artificielles
07:45de plus en plus poussées dans tous les domaines imaginables.
07:48C'est pour ça qu'on utilise le terme général.
07:50C'est-à-dire que c'est une IA qui peut tout faire.
07:53C'est le but explicite des entreprises comme Anthropik, OpenAI.
07:56Ils sont en train d'essayer de créer un système
07:58qui est capable de faire tout ce qu'un humain peut faire
08:00mieux que le meilleur expert humain.
08:04Et c'est cette course qui est extrêmement dangereuse.
08:07C'est comme ça qu'on obtient des IA qui sont capables
08:09de mener des cyberattaques surhumaines.
08:12C'est comme ça qu'on obtient des IA qui sont capables
08:13de créer des virus, de peut-être produire une nouvelle pandémie,
08:16qui sont capables de persuader des humains mieux que les humains.
08:21Et c'est ce qui risque de mener à l'effondrement de notre civilisation.
08:26Pour décréter une pause dans l'intelligence artificielle,
08:30il faut le faire au niveau mondial ?
08:31Oui, alors évidemment...
08:33Sinon ça ne fonctionne pas, on est d'accord ?
08:34Oui, c'est une technologie qui traverse les frontières.
08:38Et donc il faut avoir un traité international en place.
08:41Alors on a réussi à le faire pour d'autres moments
08:44vraiment très dangereux dans l'histoire récente de l'humanité,
08:48notamment les traités anti-prolifération nucléaire,
08:51mais aussi ce qui s'est passé au moment du trou dans la couche d'ozone.
08:55Donc je pense que beaucoup de gens ont oublié
08:58à quel point on a été dans une phase critique de notre histoire,
09:02parce que d'après les meilleures études scientifiques
09:04sur ce qui s'est passé à ce moment-là,
09:05si on avait laissé le trou dans la couche d'ozone s'étendre,
09:09ça aurait pu faire disparaître une grande partie de la vie sur cette planète,
09:12mais on a réussi à y faire face.
09:14Ça a pris 10 ans, on a réussi à mettre en place
09:16des traités internationaux, des mécanismes de contrôle,
09:18pour vérifier que personne n'est en train de produire
09:21des produits chimiques qui augmentent le trou dans la couche d'ozone.
09:26Est-ce que vous voyez aujourd'hui émerger une instance
09:30qui pourrait jouer ce rôle de gouvernance mondiale ?
09:33Parce qu'il y a plusieurs initiatives quand même qui existent.
09:35Qu'est-ce qui vous semble le plus intéressant ?
09:37La France a défendu récemment devant le Conseil de sécurité de l'ONU
09:41la création justement d'une agence internationale
09:43de contrôle de l'intelligence artificielle
09:45et a montré vraiment une volonté d'adresser les problématiques
09:49de perte de contrôle de l'intelligence artificielle.
09:51Ce qui est vraiment le cœur de ce débat,
09:54c'est le risque de perdre le contrôle sur des intelligences artificielles
09:57qui commencent à répandre le chaos, par exemple, sur Internet.
10:01Et on pense que c'est l'initiative la plus prometteuse pour le moment.
10:04Alors évidemment, il n'y a pas encore de volonté aux États-Unis
10:06de rejoindre ça, mais ça ne veut pas dire qu'il ne faut pas commencer.
10:09Il ne faut pas attendre que les États-Unis se réveillent
10:12et comprennent à quel point la situation est dangereuse
10:14en termes d'intelligence artificielle.
10:16Il faut commencer à faire le travail de notre côté.
10:17Et ça veut dire que l'Europe devrait ralentir
10:19là où les États-Unis accélèrent,
10:21alors que l'Europe est déjà hyper lente, pour être clair quand même,
10:24sur l'intelligence artificielle.
10:25On n'est pas les plus rapides.
10:26Alors pas vraiment.
10:27Ce qu'on demande, ce n'est pas un ralentissement
10:29de ce qui se passe en Europe,
10:30parce que de toute façon, l'Europe est largement en retard.
10:32Ce qu'il faut faire, c'est créer un seuil de capacité
10:35à ne pas dépasser.
10:36On peut voir ça comme des lignes rouges.
10:37On peut se dire, les intelligences artificielles
10:39les plus avancées qui existent maintenant,
10:41bon, elles sont déjà très puissantes.
10:43On n'a pas à continuer à en créer de plus puissantes.
10:45On peut dire, ça, c'est la limite à laquelle on s'arrête.
10:47Et justement, au contraire, ça donne aux pays
10:50qui sont en retard la capacité de se remettre à niveau.
10:53Ça donnerait la possibilité à l'Europe
10:55de rattraper son retard sur les États-Unis
10:57et de mettre tout le monde à égalité sur le même seuil.
10:59Ça ressemblerait à quoi cette ligne rouge
11:01n'a pas dépassé très concrètement ?
11:02Qu'est-ce qu'on met derrière cette ligne ?
11:04Alors, il faut mettre des...
11:06Donc, il y a plusieurs choses.
11:07On peut voir ça sur la puissance de calcul
11:10qui est utilisée, parce qu'on sait maintenant
11:11que plus on a de puissance de calcul,
11:13plus on a des IA compétentes et dangereuses.
11:15Donc, on peut mettre un seuil.
11:17On peut dire, pas plus de temps d'opération par seconde
11:20dans ces intelligences artificielles.
11:22Ça, c'est une manière de mettre un seuil
11:24vraiment sur une partie technique.
11:26Après, on peut aussi se baser sur des évaluations
11:29de capacités dangereuses.
11:30Par exemple, une ligne rouge qui ne doit jamais être franchie
11:32et qui, malheureusement, est très proche d'être franchie,
11:34c'est lorsque les IA ont la capacité
11:36de s'auto-répliquer sur Internet.
11:38Parce que dès que ça se produit, on perd le contrôle.
11:41Donc, on peut tester les intelligences artificielles
11:43pour voir si elles sont suffisamment performantes
11:45pour se copier, disons, sur une autre machine
11:48et créer des copies d'elles-mêmes sur Internet.
11:52On peut aussi mettre une ligne rouge
11:54sur ce qu'on appelle l'auto-amélioration récursive,
11:57c'est-à-dire interdire aux entreprises d'IA
11:59d'utiliser des IA pour construire les prochaines IA.
12:02Parce que c'est aussi une étape qui est très dangereuse.
12:04À partir du moment où les IA actuels
12:06deviennent des chercheurs en IA
12:08et commencent à créer la prochaine génération,
12:10c'est un potentiel emballement
12:12et une perte de contrôle.
12:14Merci beaucoup, Maxime Pourt,
12:16d'être venu défendre ces propositions
12:19et de les avoir même détaillées dans Smartech.
12:21Merci à vous.
12:22Je rappelle que vous êtes le président
12:23cofondateur de Pose IA
12:25et le CEO de Pose AI Global.
12:27Merci à tous de nous avoir suivis.
12:29J'espère que cette discussion
12:31vous aura éclairé également
12:33sur les risques autour de l'IA
12:34et ceux qui demandent une pause.
12:36Très bonne journée à tous.