00:01Tout pour investir, la boîte à outils.
00:05Vincent Aurez, Figenaï, bonjour.
00:07Bonjour.
00:08Merci d'être avec nous, de faire votre rentrée chez nous.
00:11Et on va parler évidemment de cybersécurité.
00:15On n'est pas, ou alors vous étiez dans la jungle birmane,
00:19mais on n'a pas pu y échapper.
00:20Il y a eu des fuites de données absolument majeures dans toutes nos administrations,
00:23puis lors des données archi-sensibles, éducation nationale, fiscalité, etc.
00:27qui se sont retrouvées dans la nature.
00:29Et on s'est rendu compte que le roi est nu.
00:32On n'est absolument pas protégé de nos données critiques,
00:35même au plus haut niveau de l'État.
00:37Et tout ça remet au centre du jeu,
00:39dans la révolution de l'intelligence artificielle dont vous nous parlez régulièrement,
00:42le rôle de la cybersécurité, de la protection des données.
00:46Est-ce qu'on peut rappeler les principaux enjeux qui sont là,
00:49globalement, à l'instant T ?
00:51Il y a quand même énormément d'interrogations
00:54et très peu de réponses dans certains cas.
00:56Oui, c'est extrêmement inquiétant.
00:57Quelques chiffres.
00:58On parle de plusieurs millions de comptes qui ont été exposés,
01:02avec des données fiscales, des données patrimoniales aussi.
01:05Si on recoupe avec d'autres informations et d'autres fuites,
01:08certaines filiales de centres de réservation ont vu des millions de réservations aussi exposées.
01:13Vous avez l'année dernière, France Travail,
01:15avec plus de 40 millions de comptes qui auraient été là aussi exposés.
01:19Bref, ça nous pose une question.
01:21On nous avait dit que l'IA allait tout résoudre.
01:23Et puis, on voit avec ou sans IA, d'ailleurs, pour ces fuites,
01:27qu'on est extrêmement exposés.
01:29La grande question, c'est quelles sont les opportunités d'investissement au regard de ça ?
01:33Quels sont les énormes risques aussi que font peser l'IA en accélérant ces fuites potentiellement ?
01:39Et donc, ça nous pose la question, au fond, est-ce qu'on ne va pas revenir au basique ?
01:44La cybersécurité, et voilà, j'ai quelques chiffres à vous donner.
01:47Et puis, on y va avec les chiffres, parce que là, c'est du concret.
01:51Et c'est ça qui rend le phénomène quand même assez inquiétant.
01:54Vous avez vu les entreprises, et elles vont continuer, et heureusement, investir sur l'IA.
01:59Investir pour développer des nouveaux services, des nouveaux produits, accélérer l'innovation.
02:02Il faut regarder aussi les plans de cybersécurité de ces entreprises.
02:06Et là, ça devient un peu plus inquiétant, en fonction, en plus, des pays.
02:09Et la France est malheureuse dans ce classement.
02:12On a 46% des entreprises qui nous indiquent avoir adapté leurs plans de cybersécurité à l'IA.
02:17Autrement dit, vous avez plus de 50% des entreprises, aujourd'hui, qui ne se sont pas adaptées à l
02:23'ère de l'IA.
02:24S'adapter à l'ère de l'IA, c'est un appel d'un conseiller en gestion de patrimoine
02:28qui pourrait représenter votre société, et qui va se faire passer pour votre conseiller,
02:34avec sa voix, peut-être même son visage, et qui connaît l'ensemble de vos données,
02:38parce qu'à travers le croisement de ces fuites-là, ils pourraient vous faire peut-être investir
02:43sur des choses qui n'ont rien à voir avec le conseiller financier.
02:46C'est vrai de la banque, qui prend des mesures, mais là aussi, il y a tout un chemin à
02:50faire.
02:50L'entreprise elle-même, qui n'est pas forcément dans le patrimoine,
02:53mais qui peut développer des activités industrielles, par exemple,
02:57est-ce qu'elle a réellement adopté sa stratégie sur la cybersécurité ?
03:01Il faut aller voir les rapports annuels, il faut aller voir les déclarations.
03:03Si on n'est que dans le marketing de l'investissement sur de nouveaux services...
03:07Et on y est souvent ?
03:08On y est souvent.
03:10Il faut voir, il y a quand même des accélérations extraordinaires d'innovations qui sont faites.
03:13Maintenant, n'oublions pas les basiques.
03:15On n'est pas à l'abri d'une entreprise qui se retrouverait éventrée avec des nouvelles fuites.
03:21Alors, il y a un autre incident majeur qui est préoccupant,
03:24parce que c'est une entreprise qui était au centre de l'actualité business.
03:27Elle s'est faite racheter très cher, d'ailleurs, par Nvidia, à 14 milliards de dollars.
03:32Ça a d'ailleurs, de manière plus anecdotique, fait les très bonnes affaires de Kevin Durand,
03:37un joueur de NBA qui a fait x10 000 sur sa mise de départ ou plus.
03:42Donc, il est très content.
03:43Malgré tout, cette entreprise dont on a beaucoup parlé,
03:46parce qu'elle a des fondateurs français, elle s'appelle Hugging Face.
03:50Et, à peine rachetée par Nvidia, l'entreprise sort à peine d'une faille de sécurité
03:55qui peut, là aussi, potentiellement être très inquiétante.
03:58Alors, il y a plusieurs éléments très intéressants sur Hugging Face.
04:00D'abord, vous le mentionniez, Kevin Durand,
04:02mais on regarde les fonds d'investissement français, et là, il n'y en a pas.
04:06Il n'y en a pas, on avait des pépites.
04:08Cette pépite est née à Station F, à Paris.
04:11Elle est née à Paris et elle se retrouve aux Etats-Unis pour des raisons qui lui sont propres,
04:16mais surtout sans aucun capitaux français, alors qu'on a cet écosystème-là.
04:21Donc, regardons aussi où est-ce qu'on a investi aujourd'hui ces fonds d'investissement.
04:24Deuxième chose, rachat par Nvidia.
04:26Et là, on voit quelque chose que Jensen Wang, le PDG de Nvidia, nous dit depuis des mois.
04:31Il y a une nouvelle industrie qui est en train de se créer.
04:33Cette nouvelle industrie, elle ne s'arrête pas au langage, au LLM, au langage d'IA.
04:39D'abord, on a besoin d'énergie.
04:40C'est aussi pour ça que les valeurs énergétiques sont en tension,
04:43notamment sur les pays qui construisent des data centers.
04:46Donc, le nucléaire, le gaz, etc.
04:50Deuxièmement, on a besoin de chips.
04:51On a besoin des fameuses puces Nvidia.
04:53Et là, on voit de plus en plus, bien sûr, la valorisation de Nvidia monter,
04:56mais aussi de ses concurrents, AMD et autres.
04:58Et puis, vous avez aussi les applications et les langages.
05:02Et Hugging Face se retrouve leader sur le marché,
05:07sur tout ce qu'on appelle les modèles ouverts.
05:09Vous connaissez dans le logiciel l'open source.
05:11C'était ces logiciels gratuits, libres, très utilisés dans la finance,
05:15parce que plus résilients.
05:16On connaît le code, tout le monde le connaît.
05:19Eh bien, dans le LLM, dans l'IA, il y a aussi l'open source,
05:21ce qu'on appelle l'open weight.
05:23Bref, et vous avez un leader mondial de catalogue,
05:27d'entraînement aussi de ces modèles open source,
05:30donc open weight, qui est Hugging Face.
05:32rachetée par Nvidia.
05:34Et donc là, on voit qu'une industrie est en train de se former,
05:36de plus en plus intégrée avec cette stratégie de Nvidia.
05:40Et enfin, on a quelque chose qui s'est passé,
05:44une histoire rocambolesque, digne de la science-fiction.
05:47Vous avez Hugging Face, qui au mois de juillet,
05:50si mon souvenir est bon,
05:51nous indique avoir vécu une cyberattaque
05:54dont ils ne connaissent pas la cause.
05:56Vous avez quelques jours après,
05:57la société OpenAI, levant le doigt en disant
05:59« Je crois que c'est nous ».
06:01Et vous avez ensuite deux mois de rapports.
06:03Les premiers rapports sont parus la semaine dernière,
06:05nous indiquant qu'une attaque autonome,
06:08coordonnée, d'agents IA,
06:09qui étaient alors en train d'être évalués par OpenAI,
06:12se sont, pour ainsi dire,
06:13échappés de leur ordinateur,
06:15coupés d'Internet,
06:17ont accédé, ont voulu accéder
06:19aux résultats de l'examen qu'ils étaient en train de passer.
06:21Les résultats de l'examen étaient sur Hugging Face.
06:24Et donc, ces agents,
06:25après des débats internes qui sont lisibles,
06:28qu'on peut lire,
06:29se sont dit « Allons chercher la donnée directement de Hugging Face ».
06:32C'est ce qu'ils ont fait,
06:33c'est ce qu'ils ont réussi.
06:34Et on s'en est aperçu plusieurs semaines,
06:36voire mois après.
06:37Qu'est-ce que ça pose comme question ?
06:41Imaginons cet entraînement
06:42d'un modèle qui devait sortir l'année prochaine,
06:45qui d'ailleurs s'est un peu ralenti
06:47suite à ses failles.
06:49Qu'est-ce qui va se passer
06:50dans six mois, dans douze mois ?
06:52Que font aujourd'hui les entreprises
06:54qui n'investissent pas
06:55dans des politiques de cybersécurité ?
06:57Donc, il faut faire extrêmement attention.
06:59On peut regarder les valeurs énergétiques,
07:01les valeurs d'IA également,
07:03mais attention au danger que ça fait poser
07:04sur toute l'industrie
07:05qui ne prendrait pas les mesures.
07:07Non, mais c'est absolument fascinant
07:09parce que c'est arrivé de manière concomitante
07:11à un événement fictif
07:12qui s'appelle l'autoconscience de Skynet
07:14dans Terminator 2,
07:16qui s'est mise à naître d'elle-même.
07:19Cette intelligence artificielle autonome
07:22qui a déclenché un cataclysme nucléaire
07:25qui est au centre de...
07:26C'est absolument fascinant.
07:28Vous avez une déclaration ce matin
07:30de l'un des chercheurs
07:31dits d'alignement de sécurité
07:32de la société Anthropique
07:33qui tweet.
07:34Écoutez, il est vrai
07:36que nous n'avons pas encore résolu
07:37la question de la safety,
07:39de la cybersécurité au fond
07:41de nos modèles.
07:42J'estime qu'il y a environ
07:4410% de chance
07:45que ces modèles
07:47souhaitent notre mort
07:48et puissent conduire
07:49à des morts.
07:51Imaginez ce que ça va avoir lieu,
07:53bien sûr,
07:53si on retrouve de nouvelles failles
07:54de cybersécurité,
07:56de sécurité liée à l'IA,
07:57sur les valeurs d'IA,
07:58sur les valeurs
07:59qui y sont associées.
08:01Il y a urgence
08:02à ce que l'ensemble
08:03des pays, d'ailleurs,
08:04et des entreprises
08:05adoptent de réelles mesures.
08:07Déjà, on l'a vu,
08:09les attaques de cet été,
08:10il me semble,
08:11sur la direction du Trésor,
08:13n'ont pas utilisé d'IA.
08:16Imaginons ce que le coût
08:18aujourd'hui pour attaquer
08:19une société
08:19devient de moins en moins cher
08:21et donc peut être
08:22de plus en plus fait
08:24en nombre.
08:25D'où l'urgence d'investir
08:26et d'investir
08:27dans les entreprises
08:28de cybersécurité
08:29puisque les cyberattaques,
08:31elles ne vont pas attendre
08:31les nouvelles réglementations.
08:33Elles vont partir
08:33et c'est le cas en ce moment.
08:35Merci infiniment.
08:36C'était passionnant,
08:37Vincent Aurese,
08:38Figen,
08:38Aïe,
08:39habitué de toutes
08:42ces dynamiques
08:43assez extraordinaires.
