00:00Voilà un petit jingle comme ça dans la figure le matin pour se réveiller.
00:03Anthony Morel en ce moment parle beaucoup des risques existentiels sur l'intelligence artificielle
00:08devenu incontrôlable, qui pourrait faire peser sur l'humanité des menaces.
00:13Peut-être que le vrai danger finalement c'est l'utilisation de l'IA par l'homme
00:19pour décupler ses capacités de nuisance quand même, on est bien dans cette ambiance.
00:24C'est ce qui ressort en tout cas d'un rapport publié par Anthropique.
00:26Oui, rapport qui fait un peu froid dans le dos, je dois vous le dire, qui fait à peu près
00:29150 pages
00:30et qui recense toutes les utilisations les plus extrêmes, les plus dangereuses de l'intelligence artificielle
00:36par des êtres humains. On ne parle pas d'une IA autonome devenu incontrôlable.
00:40Non, c'est des humains, j'allais dire des criminels en puissance, mais même pas forcément,
00:43ça peut être juste des gens inconscients, des gens qui testent aussi les limites de l'intelligence artificielle.
00:47Et c'est vrai que les résultats sont un peu effrayants.
00:50Alors, ceux qui font le plus peur, pardon d'ajouter à l'ambiance un petit peu anxiogène du moment,
00:54mais c'est pour tout ce qui concerne les armes biologiques.
00:58Anthropique recense au moins cinq cas où des scientifiques ont utilisé son intelligence artificielle,
01:04Claude, pour essayer de rendre des virus existants plus dangereux qu'ils ne le sont.
01:09Donc, il cite l'exemple de scientifiques qui ont utilisé Claude, par exemple,
01:11pour demander une subvention pour travailler sur un gain de fonction du chikungunya,
01:16donc pour rendre le chikungunya plus transmissible qu'il ne l'est déjà aujourd'hui.
01:20Ou encore ce scientifique qui a échangé des milliers de fois avec Claude
01:24sur une grippe aviaire hautement pathogène pour étudier des mutations
01:28qui permettraient au virus de devenir plus transmissible.
01:30On ne sait pas, attention, ça peut être des scientifiques qui veulent travailler
01:33sur des nouvelles générations de vaccins, mais on n'en sait rien.
01:35Donc, les comptes ont été supprimés.
01:37Il y a aussi l'utilisation de l'IA par des États à des fins de surveillance
01:40ou pour des applications de défense.
01:43Alors là, Anthropique cite le cas des services de renseignement du Mali
01:46qui ont utilisé Claude Code pour créer un système qui serait capable
01:49de surveiller 25 millions de cartes SIM pour pouvoir intercepter
01:53n'importe quelle conversation, n'importe quel SMS.
01:55Donc là, on est sur de la surveillance généralisée.
01:57Il cite également une équipe de développeurs basée en Russie
02:01qui a utilisé Claude pour concevoir des essaims de drones autonomes kamikazes.
02:04Donc ça, c'est dans le domaine de la défense.
02:06Et puis, il y a aussi tout ce qui est désinformation et opérations d'influence.
02:10Et là, le rapport cite une agence de pub française
02:13qui a utilisé Claude pour générer près de 9000 articles politiques
02:17divers et variés pour le compte de différents gouvernements.
02:20Anthropique parle de propagande as a service.
02:23Mais attendez, quand on demande des choses comme ça
02:25à l'intelligence artificielle qui sont aussi dangereuses,
02:27elle n'est pas censée refuser de répondre ?
02:30Si. Alors, en théorie, il y a des garde-fous.
02:32Effectivement, quand on pose des questions,
02:33notamment qui ont trait au sujet de sécurité informatique,
02:37d'armes biologiques,
02:38soit l'IA refuse tout net de répondre
02:40ou alors la réponse qui va être donnée va être rendue
02:43par un modèle d'IA moins performant
02:45pour qu'on ne puisse pas en faire grand-chose d'une certaine manière.
02:47Sauf que ces garde-fous, c'est toujours pareil.
02:50Ils sont contournables.
02:51Alors, Anthropique cite l'exemple d'un groupe armé au Yémen
02:54qui a voulu utiliser Claude
02:56pour l'aider à concevoir un missile à longue portée.
03:00Et donc, évidemment, si vous demandez à l'IA
03:02« Aide-moi à concevoir un missile à longue portée »,
03:03elle ne va pas vous répondre, elle va refuser.
03:05Sauf qu'en fait, on peut être beaucoup plus subtil que ça.
03:07Si vous fragmentez votre conversation
03:10en plein de mini-conversations
03:11avec des questions qui sont apparemment anodines,
03:14du genre « Aide-moi à corriger cet algorithme de navigation »,
03:16ça, on peut s'en servir pour un missile,
03:18mais on peut s'en servir pour tout à fait quelque chose d'autre.
03:20Et donc, du coup, si vous mettez plein de petites conversations anodines
03:23et qu'à la fin, vous les regroupez,
03:24en fait, l'IA ne voit pas forcément...
03:26Elle voit les pièces du puzzle,
03:27mais elle ne voit pas le puzzle global,
03:29elle ne voit pas l'objectif caché.
03:31Et donc, ça, ça permet d'atteindre des objectifs
03:33qui sont parfois inavouables.
03:34Là, on parle des cas qui ont été, entre guillemets,
03:38« attrapés » par Anthropique,
03:39mais certains sont probablement passés entre les mailles du filet.
03:41Bah oui, parce que si on additionne les politiques,
03:43les révolutionnaires, les criminaires, les testeurs et les inconscients,
03:45comme vous dites, ça fait quand même...
03:46Ça fait beaucoup.
03:47Ça commence à faire beaucoup de monde.
03:48Et dans ce cas-là, qu'est-ce qui se passe ?
03:49On prévient la police ?
03:50Alors oui, dans certains cas,
03:52la première étape, c'est que les comptes sont supprimés
03:54et on fait en sorte qu'ils ne puissent pas être recréés.
03:56Du genre, le compte sur le chikungunya,
03:58bon, s'il est supprimé et que le lendemain,
03:59il y a d'autres questions un peu bizarres sur le chikungunya.
04:01On dit « bon, bah non, c'est bizarre, on resupprime le compte ».
04:03Bon, très bien.
04:04Et effectivement, les forces de l'ordre peuvent être prévenues.
04:07Alors, c'est Open AI,
04:08c'est pas Anthropique qui avait expliqué tout leur processus.
04:10En gros, le fait que nos conversations sont en fait analysées en permanence
04:14et que s'il y a des choses un peu louches qui ressortent,
04:17eh bien, à ce moment-là, ça peut remonter jusqu'aux forces de l'ordre.
04:19En France, on a eu un cas il y a quelques mois
04:21où un homme a été arrêté par le RAID à Strasbourg
04:23après avoir demandé à Tchad GPT
04:25comment tuer un agent du renseignement.
04:27Donc voilà, ça fait partie aussi des utilisations
04:29de l'intelligence artificielle.
04:30Alors, le truc, c'est que lorsque ce sont des individus,
04:33c'est assez facile finalement.
04:35Lorsque ce sont des États qui se servent de l'IA,
04:37encore une fois, par exemple, à des fins de surveillance,
04:39qui est-ce que vous voulez prévenir ?
04:40C'est un peu compliqué.
04:41Et qui est-ce que vous voulez empêcher ?
04:42C'est beaucoup plus compliqué à gérer.
04:44Donc voilà, encore une fois,
04:45on parle beaucoup de ces IA,
04:46des dangers de l'IA devenus incontrôlables.
04:48Peut-être qu'un danger plus immédiat,
04:49c'est son utilisation par l'homme.
04:51Ça fait tout à fait peur ce que vous venez de nous dire.
04:53Désolé.
04:53En revanche, il faudrait maintenant parler de super-intelligence.
04:55Vous seriez gentil.
04:56Ah oui, c'est vrai.
04:57C'est Donald Trump qui a demandé ça.
04:58Mais oui.
04:58Voilà, à la tribune de l'ONU.
Commentaires