00:00R.N.C. en n'arrête pas le progrès
00:04Anthony, on parle évidemment beaucoup de l'IA dans cette émission, du risque qu'une IA devenue incontrôlable pourrait faire
00:10peser sur l'humanité
00:12mais en fait le vrai danger c'est pas l'IA, c'est les humains
00:15Bah oui, c'est pas Terminator, c'est nous, c'est l'utilisation qu'on fait de l'intelligence artificielle
00:19et c'est ce que montre un rapport qui fait franchement froid dans le dos qui a été publié par
00:23Anthropik
00:23Anthropik vous situez, c'est l'entreprise qui fait Claude, Claude c'est le grand concurrent de ChatGPT
00:28et donc ils ont fait une étude qui recense toutes les utilisations les plus dingues, les plus extrêmes
00:34de leur intelligence artificielle par des humains, donc par définition
00:37et je dois avouer que c'est un petit peu flippant, donc dans ce rapport, et bien ils notent par
00:42exemple
00:42je commence par les trucs un peu les plus effrayants j'allais dire, c'est le côté armes biologiques
00:46donc il y a au moins 5 cas où des scientifiques ont utilisé Claude, donc l'IA d'Anthropik
00:51pour essayer de rendre plus dangereux qu'ils ne le sont des virus déjà existants
00:56c'est un peu embêtant, donc par exemple il y a des scientifiques qui se sont amusés
01:00à travailler sur des gains de fonction pour le chikungunya
01:02donc l'objectif c'était d'augmenter la transmissibilité du chikungunya
01:05il y en a un autre, un autre chercheur qui a échangé des milliers de messages
01:08sur une grippe aviaire hautement pathogène pour la transmettre plus efficacement aux mammifères
01:13alors on peut se dire...
01:14et comment on le sait ça ?
01:14et bien eux ils le savent, parce qu'évidemment ils ont tous les logs de tout le monde
01:17donc ils savent, ils doivent fonctionner par mots-clés, s'il y a des alertes sur certains mots
01:21si on tape un peu trop chikungunya, comment rendre plus dangereux le chikungunya
01:24on peut peut-être les arrêter ces gens ?
01:26alors ils sont justement, on les arrête, c'est-à-dire que là les comptes ont été supprimés par exemple
01:29mais il y en a probablement qui sont passés entre les mailles du filet
01:31alors quand je dis ça, ça peut aussi être peut-être des scientifiques qui travaillent sur des nouvelles générations de
01:35vaccins
01:35et qui se sont servis de l'intelligence artificielle
01:37mais le truc c'est qu'on n'en est pas sûr
01:39le deuxième exemple, ce sont des états qui utilisent beaucoup l'intelligence artificielle
01:43alors là pour les coups à des fins de surveillance de masse
01:45par exemple on a les services de renseignement du Mali
01:48qui ont utilisé Claude visiblement
01:50pour créer un système qui serait capable de surveiller 25 millions de cartes SIM
01:54donc 25 millions de cartes SIM, la capacité d'intercepter n'importe quelle conversation
01:58d'intercepter des SMS, ce genre de choses
02:00on va pouvoir s'en servir aussi pour essayer de concevoir des armes
02:03il y a aussi tous les systèmes d'influence et de propagande
02:06et là il y a une agence de pub française qui est dans le viseur de ce rapport
02:09qui aurait, enfin qui a, parce que là c'est documenté
02:13rédigé avec l'intelligence artificielle des milliers d'articles
02:16pour le compte de différents gouvernements pour les publier en masse sur internet
02:18donc c'est de la propagande à la demande quoi
02:21générée par l'intelligence artificielle
02:22mais ça normalement quand on fait des demandes
02:25genre voilà je veux fabriquer une bombe nucléaire
02:28à l'IA elle n'est pas censée dire non ?
02:29alors si elle est censée dire non
02:30sauf qu'on peut contourner si on est un petit peu malin
02:33c'est-à-dire que si vous fractionnez votre discussion
02:36en plein de mini-questions qui ont l'air anodines
02:38si vous demandez, il y a le cas d'un groupe armé au Yémen
02:40qui est pris dans le rapport
02:41ils demandent de l'aider à fabriquer un missile à longue portée
02:46donc ça évidemment l'IA refuse
02:47mais par contre si vous demandez aide-moi à fabriquer
02:50par exemple à corriger cet algorithme de navigation
02:53ce qui peut servir pour un missile à longue portée
02:54mais ça peut servir à plein d'autres trucs
02:55ça ça passe
02:56et en fait l'IA elle voit pas le puzzle global
02:58elle voit les pièces du puzzle
02:59mais elle voit pas l'objectif caché si l'on peut dire
03:02et donc du coup on peut détourner ou contourner plutôt les garde-fous comme ça
03:05c'est un petit peu flivant
03:07mais encore une fois
03:08bon là tous ces comptes ont été supprimés
03:11arrêtés
03:11il y a quand même un système de surveillance
03:13et de petites alertes
03:15de petites lumières rouges qui s'affichent
03:17quand il y a ce genre de choses
03:17c'est ça qui fait peur aussi
03:18ça veut dire qu'ils peuvent lire nos prompts
03:19c'est aussi ça
03:20absolument
03:20il y a des systèmes de surveillance
03:22tout à fait
03:22merci beaucoup Anthony Morel
03:24de nous avoir bien plombé notre journée
03:25désolé
03:26j'ajoute à l'ambiance
03:28merci Anthony
03:29désolé
03:29demain sera beaucoup plus joyeux
03:32ah ouais
03:32un traitement aux Etats-Unis extraordinaire
03:34on va peut-être en finir avec les lunettes
03:35des gouttes pour les yeux
03:37qui pourraient remplacer nos lunettes
03:39ça vient d'être autorisé aux Etats-Unis
03:40voilà
03:41écoutez super
03:41on a hâte d'être à demain
03:42merci beaucoup Anthony
03:43midi 50
03:44tous les jours
03:45dans Estelle Midi
