00:00On va s'arrêter ce matin, un ingénieur qui a travaillé pendant trois ans quand même chez OpenAI,
00:04donc c'est la maison mère de Tchad GPT, et chez Anthropique, c'est la maison mère de Claude,
00:08a démissionné en laissant ce message.
00:11Ces systèmes pourraient nous tuer tous d'ici la fin de la décennie.
00:15C'est sérieux ?
00:16Alors il s'appelle Jacob Coxon, et il n'est pas le premier à annoncer la fin de l'humanité
00:21à cause des IA.
00:23Elon Musk, Sam Altman, le papa de Tchad GPT, ont déjà mis en garde.
00:27Il y a un exemple qui illustre très bien ces hésitations du monde de la recherche.
00:31Vous avez trois hommes qui sont les pères de l'intelligence artificielle,
00:34parce qu'ils ont travaillé sur ce qu'on appelle le deep learning,
00:37c'est-à-dire la capacité à apprendre de la machine.
00:40Vous avez Geoffrey Hinton, Joshua Benjio,
00:43ils sont persuadés que l'intelligence artificielle est un danger de mort pour l'humanité,
00:49et le troisième, c'est un français, c'est Yann Lequin,
00:52et lui, il est convaincu que l'IA est une opportunité.
00:55Donc personne ne sait vraiment répondre à cette question.
00:58Dans le podcast Parlons Éco de cette semaine,
01:00j'ai même demandé à James Dyson, donc les aspirateurs,
01:03si l'IA était un bon ingénieur, la réponse est très claire.
01:06Ah non, pas à mes yeux.
01:09Elle n'est pas créative du tout.
01:11Elle peut reformuler, recombiner, restituer ce qui existe déjà,
01:16mais je ne crois pas qu'elle soit capable de produire une vraie rupture,
01:19quelque chose de profondément original ou inattendu.
01:24Très aspiré, le patron de Dyson dans votre podcast.
01:28Est-ce que les IA pourraient échapper au contrôle des humains ?
01:30Oui, et ça s'est déjà passé.
01:33Si on lève les interdits habituels,
01:35des intelligences artificielles peuvent,
01:37elles l'ont démontré, mentir, comploter, arnaquer.
01:40Pour l'instant, je dirais qu'on est en 1979 dans le film Alien.
01:45Rappelez-vous, l'IA, c'est Mother dans ce film,
01:48c'est un ordinateur qui contrôle le vaisseau et répond aux questions de Sigourney Weaver.
01:52C'est ce que font aujourd'hui les Tchad, GPT, Claude ou Gemini.
01:55L'état d'après, c'est quoi alors ?
01:57C'est des machines qui ont conscience de l'environnement où elles se trouvent,
02:01qui intègrent de la psychologie dans leur raisonnement.
02:04Et c'est sur ça d'ailleurs que travaille notre Français, Yann Lequin.
02:06Et si je vous parle de films,
02:08c'est parce que la science-fiction, bien sûr, a déjà donné un nom
02:10à ce qui est en train de se passer et nous fait si peur.
02:13Ça s'appelle la singularité.
02:14C'est-à-dire, c'est le moment où les machines s'émancipent de la tutelle de l'homme,
02:18inventent une langue, se reproduisent entre elles et prennent des initiatives.
02:21Donc, le danger existe.
02:22Oui, c'est vers ça qu'on va sans doute.
02:24Et il faut donc un code, des règles internationales pour encadrer ce que peut faire une IA,
02:29indiquer quand on a eu recours à une IA, protéger les humains.
02:33Ça existe en Europe.
02:34C'est vu comme un frein qui nous retarde dans cette course à des milliers de milliards de dollars.
02:39En Chine, l'administration, bien sûr, contrôle pour garantir la sécurité de l'État.
02:43Et aux États-Unis, c'est le Far West.
02:45Il n'y a pas de règles.
02:46On n'en veut pas.
02:47Il est évident qu'il va falloir mettre un shérif pour éviter que l'IA soit à la fois le
02:51bon, la brute et le truant.
02:52Merci beaucoup.
02:53Merci beaucoup.
