00:06Bienvenue Arnaud Tanguy, président du Cercle de la Donnée, expert en cybersécurité.
00:11On a été très bavard, donc on n'a plus beaucoup de temps pour aborder ce sujet.
00:14Le sujet en tout cas qui vous tenez à cœur, c'est celui de la confiance dans l'IA.
00:18On a vu beaucoup d'affaires de cybersécurité dans lesquelles on retrouvait des IA et des agents IA.
00:26Posez-nous un petit peu le cadre de ce qui vous préoccupe.
00:28Ce qu'on voit aujourd'hui, et d'ailleurs il y a eu une annonce hier de Microsoft qui est
00:32assez saisissante,
00:33qui finalement illustre grandement le risque que les experts cyber voyaient se pointer depuis quelques mois.
00:41C'est le fait qu'un groupe d'attaquants étatiques a utilisé massivement de l'IA agentique pour perpéter des
00:47attaques.
00:48Si je vous donne quelques chiffres, c'est 2500 entreprises piratées.
00:51C'est des actions qui vont jusqu'à 2900 connexions par minute, donc bien au-delà de ce qu'un
00:56humain peut faire.
00:57Et c'est pour certaines sociétés un piratage en moins de trois heures depuis le ciblage jusqu'à l'exécution.
01:04Tout ça en s'appuyant sur des produits open source dont le contenu a déjà été sorti d'Internet par
01:10le créateur,
01:11mais non, pas sorti d'Internet puisque le produit peut être dupliqué et peut être utilisé.
01:16Et c'est intéressant à deux titres, c'est inquiétant d'ailleurs à deux titres.
01:20Le premier, c'est que finalement, les personnes qui ont cette plateforme-là pourraient l'utiliser à des fins malicieuses,
01:27enfin des fins d'attaque, malécheuses.
01:30Et le deuxième élément, c'est que finalement, on n'est pas à l'abri, comme on a pu le
01:34voir dans les cas d'OpenAI contre Gingface,
01:37d'agents dédiés à l'attaque qui attaqueraient et qui perpétraient toute l'attaque de bout en bout.
01:44Donc ça soulève une question qui est très bien élevé dans le rapport,
01:47c'est comment est-ce qu'on sépare l'intelligence de l'autorité ?
01:50Et ça, c'est vraiment le sujet clé de la confiance dans l'IA.
01:53Oui, et la confiance, c'est un sujet que vous traitez beaucoup au sein du cercle de la donnée.
01:58Donc quelles sont selon vous les conditions pour qu'on soit dans un cadre de confiance avec l'IA aujourd
02:02'hui ?
02:03Alors, on s'appelle le cercle de la donnée, donc il y a déjà la première brique pour nous, c
02:06'est la donnée.
02:06C'est-à-dire, comment est-ce qu'on s'assure, comment on démontre aujourd'hui qu'un modèle qui
02:11a été entraîné,
02:12comment est-ce qu'on qualifie la qualité des données, l'exhaustivité, les limites des données,
02:16et les données sur lesquelles il n'a pas été entraîné ?
02:19Donc il y a ce premier enjeu-là.
02:20D'ailleurs, on en parlait en 2019 dans une étude qui s'appelle
02:23« IA décidée en toute connaissance de données » et qui finalement est toujours d'actualité.
02:29Et le deuxième élément, c'est les modèles eux-mêmes.
02:30C'est-à-dire que comment est-ce qu'on s'assure que ces modèles qui sont mis sur le
02:34marché
02:35ne viennent pas avec des risques qui sont non maîtrisables ?
02:38Et donc ça veut dire qu'aujourd'hui, on est dans une dimension où il est important
02:42que ces risques-là soient identifiés en amont, idéalement par une entité indépendante
02:48qui permette de qualifier les risques.
02:50L'idée, ce n'est pas d'empêcher un modèle de sortir sans risque ou avec zéro risque,
02:55mais c'est bien de les connaître, de les suivre et de les contrôler le plus que l'on peut.
03:00Et est-ce que vous pouvez donner très rapidement comme conseil aux entreprises
03:04qui adoptent justement l'IA et qui cherchent le bon cadre ?
03:07Alors, il y a plusieurs règles.
03:09La première, c'est qu'il faut considérer un agent en particulier comme un collaborateur.
03:14Donc, maîtriser l'environnement dans lequel il travaille.
03:16Vous lui donnez les droits que vous donneriez à un collaborateur qui ferait cette tâche-là.
03:21Et puis, l'environnement technique est important aussi.
03:24On l'a vu, les défauts et les sorties d'agents qui ont pu avoir lieu chez OpenAI
03:28venaient d'environnements qui étaient perméables.
03:31Donc, contrôler aussi l'environnement dans lequel l'agent est exécuté
03:34de façon à éviter qu'il sorte et qu'il soit non contrôlable.
03:37À nous donc de donner un cadre à l'IA.
03:39C'est votre plaidoirie aujourd'hui.
03:42Arnaud, j'imagine qu'on est tous d'accord avec ça.
03:44Ça tombe bien parce qu'on n'a plus le temps de commenter la chronique d'Arnaud.
03:48Merci beaucoup.
03:49Mais carton vert pour Arnaud Tanguy, président du Cercle de la Donnée,
03:54expert en cybersécurité.
03:56Et carton vert aussi à vous, Julien Pillot, Alain Staron et Pascal Malotti étaient avec nous.
04:01Excellente journée à tous.
04:03On se retrouve dès demain sur la chaîne Bsmart pour de nouvelles discussions sur la tech.
