00:00On fabrique des IA autonomes, c'est ça les IA agents, ça veut dire ça, ça veut dire qu'ils
00:07peuvent effectuer une tâche par elles-mêmes.
00:09Ils ne savent pas comment s'assurer que les choix qui sont faits par ces IA autonomes sont les bons
00:14d'un point de vue moral, éthique, etc.
00:19Voilà, on observe ce qu'on observe, c'est quelque part pas complètement surprenant et ça fait même au moins
00:26deux décennies que les chercheurs,
00:28en fait même un des fondateurs de l'informatique, Alan Turing, a écrit là-dessus en 1951 en disant «
00:38si les ordinateurs deviennent un jour plus intelligents que nous, on est cuit ».
00:42Les IA s'améliorent et sont rendus au niveau humain ou plus dans la capacité de persuasion.
00:49On peut déjà penser aux impacts sur la démocratie, mais ça veut dire aussi que l'IA pourrait convaincre ne
00:55serait-ce que des criminels de faire des choses pour de l'argent.
00:58par exemple. Donc, si l'IA peut faire faire des choses à des êtres humains contre des promesses, contre de
01:06l'argent, contre des menaces,
01:09ces gens-là pourraient faire dans le monde réel des choses que l'IA elle-même ne peut pas faire
01:14directement.
01:15Ou simplement que des pays l'utilisent pour dominer d'autres pays.
01:18Ça peut être une domination économique, ça peut être une domination militaire, ça peut être une domination à travers l
01:23'influence sur les citoyens, l'opinion publique et tout ça.
01:26Il y a plein de scénarios où l'IA peut être un instrument de pouvoir et encore là, c'est
01:32un enjeu international.
01:33C'est un peu comme les armes nucléaires sont un enjeu international.
01:35Il faut que la communauté internationale comprenne le pouvoir qu'on est en train de mettre au monde et qu
01:43'il faut gérer.
01:44Il faut que les gens comprennent l'ampleur du danger.
01:47Oui, à un extrême, ça pourrait être la fin de l'humanité, mais ça c'est un extrême.
01:53Je veux dire, il y a des risques, même si c'est juste le système bancaire qui est foutu par
01:59terre, c'est quand même très, très grave.
Commentaires