00:00Tout le monde devrait regarder cette interview.
00:18Lui, c'est Jacob Coxon. Il a 27 ans, il est chercheur en intelligence artificielle et il a travaillé chez
00:24OpenAI et Anthropic, deux géants mondiaux de l'intelligence artificielle.
00:27Et il y a quelques jours, il a claqué la porte de cette industrie avec cette alerte qui a climatisé
00:32tout le monde.
00:32Les personnes qui développent l'IGA croient sincèrement qu'elles pourraient nous tuer d'ici la fin de la décennie.
00:36Son message est rapidement devenu viral et dans une interview accordée à CNN, il a expliqué pourquoi il a décidé
00:42de tout claquer malgré un salaire extrêmement confortable,
00:46mais surtout pourquoi, selon lui, la course effrénée à l'intelligence artificielle pourrait représenter une menace existentielle pour l'humanité.
00:53Donc, le scénario précise semble un peu comme science-fiction.
00:57Il semble comme quelque chose qui n'est pas réel, mais je pense que c'est vraiment réellement réellement réellement.
01:00Et c'est plus facile de comprendre si tu penses sur des choses réelles qui ont eu lieu deux mois.
01:04Donc, deux mois ailleurs, OpenAI agents, AIs, hackaient dans la infrastructure de l'infrastructure,
01:11entièrement à leur propre accord.
01:12Et c'était comme un concrétant hacking spree que ils ont pris de leur propre volition.
01:18Et je pense que si vous extrapolate dans le futur, le niveau de l'avion de l'avion de l
01:22'avion de l'avion de l'avion,
01:23avec le même independent volition, ils pourraient cause des hauts,
01:26par exemple, hacking critical infrastructure, building extinction-level bioweapons.
01:32Il y a beaucoup de ways que l'avion peut actuer de l'avion de l'avion de l'avion.
01:37Est-ce que, c'est-ce que, quand avez-vous des sentiments de l'avion de l'avion de l
01:41'avion de l'avion de l'avion de l'avion?
01:42Est-ce que, c'est-ce que vous avez des résultats de l'avion de l'avion de l'avion
01:44de l'avion?
01:45Oui, je pense que c'est vraiment important de regarder la rate de progress.
01:48Et, par exemple, en areas comme la science ou la maths,
01:51un couple de ans, ces AIs étaient juste pour aider les humains un peu.
01:54Ils peuvent donner des suggestions.
01:56Maintenant, ils sont près de remplacer les humains.
01:57Nous nous avons encore besoin de l'avion de l'avion de l'avion,
01:59mais, en plus, dans un mois, nous ne nous avons plus besoin de l'avion de l'avion de l
02:03'avion de l'avion de l'avion.
02:05Only sur le Tuesday, OpenAI solvait un problème de l'avion de l'avion de l'avion de l'avion
02:09de l'avion,
02:11c'est-ce que c'est-ce que c'est-ce que c'est-ce que c'est-ce que
02:15c'est-ce que c'est-ce que c'est-ce que c'est-ce que c'est-ce que
02:17c'est-ce que c'est-ce que c'est-ce que c'est-ce que c'est-ce que
02:21c'est-ce que c'est-ce que c'est-ce que c'est-ce que c'est-ce que
02:25c'est-ce que c'est-ce que c'est-ce que c'est-ce que c'est-ce que
02:26c'est-ce que c'est-ce que c'est-ce que c'est-ce que c'est-ce que
02:29c'est-ce que c'est-ce que c'est-ce que c'est-ce que c'est-ce que
02:31c'est-ce que c'est-ce
02:39We mentioned a former colleague of yours that currently works
02:42at Anthropic basically endorsing the assessment that AI could potentially kill everyone within
02:46a decade.
02:47In a follow-up post he said,
02:48To be clear, as we say, in our latest risk report, I think the risk from the present models
02:53is low.
02:53What I'm worried about is superintelligence arising from recursive self-improvement.
02:58As we said, is happening faster than we thought.
03:01I assume the recursive self-improvement is what you've just spoken about.
03:05Do you agree with him that the current models, the risk is low,
03:09but it's just the speed with which this is now improving?
03:13Exactly, I completely agree.
03:14Right now there's no risk of extinction.
03:17The current models, the worst they can do is maybe hack into something,
03:21potentially cause a lot of damages in infrastructure,
03:24but they're not intelligent enough to outsmart us at a level that would lead to extinction.
03:29I think what's just crazy is to look at the rate of progress,
03:34and there is a very real possibility that in the immediate future,
03:38these are years that, like, next year, the year after,
03:41recursive self-improvement will happen and will enter the phase of Evan's post
03:45where he argues that there's a chance we could all die.
03:48Like, that is coming soon.
