• il y a 19 minutes
Guillaume Ruty, directeur produit chez HarfangLab, était l'invité de François Sorel dans Tech & Co, la quotidienne, ce jeudi 19 novembre. Il s'est penché sur les solutions proposées aux entreprises pour encadrer les agents IA afin de se prémunir contre les cyberattaques, sur BFM Business. Retrouvez l'émission du lundi au jeudi et réécoutez la en podcast.

Catégorie

📺
TV
Transcription
00:00Tech & Co, la quotidienne sur BFM Business.
00:05Et pour terminer ce Tech & Co, la quotidienne depuis l'OVH Semid,
00:09je l'accueille maintenant Guillaume Ruti.
00:11Bonsoir Guillaume.
00:12Bonsoir.
00:13Un grand merci d'être avec nous.
00:14Vous êtes le directeur produit chez Arfang Lab.
00:17Et on va parler avec vous de cybersécurité et d'intelligence artificielle.
00:23Parce qu'on le voit, les attaques de cybersécurité se multiplient aujourd'hui.
00:28Et tout ça, c'est grâce ou à cause de l'IA qui arrive à accélérer la recherche de failles,
00:36etc.
00:37Et c'est un vrai problème aujourd'hui, à la fois pour les sociétés et pour tout le monde.
00:44Quel est votre métier chez Arfang Lab ? Expliquez-nous ce qu'est Arfang Blag.
00:48Alors, Arfang Lab, on est une société française de cybersécurité, de protection du workspace.
00:54Le workspace, ça a été évoqué plusieurs fois aujourd'hui pendant l'équipe, etc.
00:58C'est une notion assez floue qui désigne en gros l'ensemble des assets et des données numériques des entreprises.
01:06Donc, notre solution, c'est d'essayer de se mettre partout pour protéger ces assets.
01:13Mais comment faire, en fait ? Parce qu'aujourd'hui, là, vous vous adressez aux entreprises, donc aux salariés, aux
01:19collaborateurs.
01:20Aujourd'hui, je suis collaborateur, j'ai ChatGPT, j'ai Cloud, je peux avoir Perplexity, je peux être connecté à
01:27des agents IA qui vont me faciliter mon quotidien.
01:30C'est un cauchemar pour vous, tout ça, non ?
01:31C'est un cauchemar, un rêve, une opportunité, c'est beaucoup de choses à la fois.
01:35C'est une bonne question. Nous, on vient du monde de l'endpoint.
01:39L'endpoint, c'est votre ordinateur, c'est les serveurs qui portent l'activité de vos entreprises.
01:43Et c'est ce qui est au plus proche de ce qui se fait attaquer par les pirates.
01:47Donc, nous, on vient de ce monde-là parce que c'est vraiment le point central et névralgique de l
01:54'IT.
01:54Mais effectivement, ce qu'on observe, c'est que ce point se déplace maintenant, beaucoup avec l'arrivée de l
02:00'IA, vers les agents IA qui ont des capacités absolument phénoménales, mais traitent des saucisses également.
02:05Donc, c'est aussi effectivement des périmètres qu'on regarde parce qu'elles ont une criticité énorme dans vos organisations.
02:12Pour qu'on comprenne bien et qu'on imagine bien tout cela, est-ce que vous pouvez nous donner un
02:17peu un scénario catastrophe d'une entreprise qui serait attaquée par un agent IA ?
02:22Alors, je vais en donner même deux qui sont très différents.
02:26Faites-nous peur un peu.
02:26Voilà, c'est mon métier.
02:28Le premier, ça va être un exemple qui va être en fait très traditionnel dans son déroulé, mais où l
02:35'IA aura amené une vélocité et une persistance qu'un humain n'aurait pas eue.
02:39Donc là, ça va être des vulnérabilités qui existent depuis longtemps ou de typologies proches de ce qui existe depuis
02:45longtemps.
02:45Et là où auparavant, un humain irait itérer sur les vulnérabilités et essayer de trouver celle qui y est ouverte,
02:51serait sans doute échouer à beaucoup d'opportunités.
02:58Parce qu'il y a des protections en place, au bout d'un moment peut-être abandonnerait ou alors s
03:02'il est très persistant, continuerait, mais à une échelle de temps humaine.
03:05Donc avec en face des analystes qui verraient son activité et qui s'en protégeraient.
03:08Aujourd'hui, ces actions, elles vont être dans une succession extrêmement rapide, pilotée par de l'IA, qui va avoir
03:13une capacité d'itérer et de chercher sur peut-être un milieu de vulnérabilité.
03:18Peut-être que 900 seront protégés et que la 9001 ne le sera pas.
03:23Elle va la trouver. Avant, c'était un humain qui cherchait ça, où avec des outils, il pouvait mettre des
03:28heures, des jours, des mois.
03:30Là, maintenant, avec l'IA, ça peut être instantané ou en quelques heures.
03:33Exactement, et quelques minutes potentiellement.
03:35Et c'est à la fois dans le déroulé de l'attaque comme dans le déroulé de l'exploitation d
03:41'une nouvelle vulnérabilité.
03:42C'est-à-dire qu'auparavant, un éditeur pouvait dire, ok, j'ai découvert une faille dans mon logiciel qu
03:47'il faut donc mettre à jour.
03:48Et en fait, si c'était fait assez rapidement, il fallait du temps pour essayer de faire un logiciel de
03:55piratage qui allait pouvoir exploiter la vulnérabilité.
03:58Maintenant, entre le moment où les premières traces apparaissent sur des réseaux sociaux, sur le Darknet, sur Twitter, etc.,
04:03et le moment où elle est effectivement exploitée, on peut parler en termes d'heures, voire de dizaines de minutes.
04:09Donc, c'est une réactivité à avoir qui est bien, bien plus grande que ce qu'il y avait avant.
04:13Et puis après, il y a évidemment ce qui s'est passé cet été avec GingFace.
04:17Les exemples se multiplient, en fait, où on se rend compte que les IA prennent même des initiatives,
04:23créent des forums de discussion, allouent des tâches à certains agents.
04:29C'est cauchemardesque, en fait.
04:31C'est le deuxième scénario, en fait, dont j'avais parlé, justement.
04:33Ah ben voilà, je vous ai devancé.
04:35C'est toujours mieux comme ça.
04:37Le premier scénario, on est vraiment sur un scénario où l'IA va accélérer des méthodes déjà connues.
04:45Le second scénario, c'est le scénario le plus difficile à traiter,
04:49parce que c'est le scénario où, en fait, l'IA, elle est un outil légitime d'une entreprise,
04:54mais avec des capacités d'action et des droits qui sont extrêmement élevées,
04:58et une capacité, du coup, d'ouvrir des portes extrêmement élevée également.
05:01Donc là, c'est le scénario où on va avoir des personnes à qui on va donner des outils de
05:05productivité
05:06basés sur de l'IA, qui vont quasiment leur donner le pouvoir qu'aurait eu avant un développeur,
05:12mais ce pouvoir-là, sans forcément la maîtrise des conséquences.
05:14Donc ça peut être, comme scénario catastrophe, je l'ai déjà vu,
05:18ça peut être quelqu'un d'une équipe commerciale qui veut utiliser son CRM
05:22qui est un peu lent ou qui ne sait pas ce qu'il veut,
05:24qui va répliquer son CRM sur son ordinateur et qui va l'ouvrir au cas de vent.
05:28Et donc, à la fin, avoir une base de clients qui va être complètement accessible sur Internet.
05:31Et là, il n'y a pas de piratage, mais là, il y a par contre une brèche complètement ouverte
05:34et catastrophique pour l'entreprise.
05:37Quelle est l'histoire la plus abracadabonde que vous ayez pu vivre dans une entreprise ?
05:43Ou qui vous a marqué, on va dire ?
05:45Je dirais que là, l'idée de l'IA qui accélère les attaques,
05:51ça fait un moment qu'on en parle dans la cybersécurité.
05:52Ce n'est pas quelque chose de nouveau.
05:54Par contre, là, ça se produit maintenant sous nos yeux.
05:56Et là, on commence même à avoir des cas où on voit des agents d'IA
06:00qui pilotent des exploits présents sur des parcs qu'on protège
06:05et qui vont quasiment essayer de parler avec notre propre agent de protection
06:09pour essayer d'en trouver les portes dérobées.
06:11Donc, on commence maintenant à avoir des agents qui vont essayer de s'insérer dans nos propres systèmes
06:15pour en faire des choses.
06:16Ça, c'est quelque chose qu'on n'imaginait pas il y a un an.
06:18Mais alors, vous, votre job, c'est quoi, là, dans tout ça ?
06:20Notre job, c'est...
06:23Je parlais du workspace.
06:24Le workspace, c'est quelque chose qui, comme je disais, est très flou et qui évolue beaucoup.
06:27Notre job, c'est d'essayer d'identifier quels sont les endroits du workspace
06:31les plus vulnérables et les plus critiques
06:33et de s'assurer que la protection qu'on fournit sur ces éléments-là est à l'état de l
06:37'art.
06:38Et donc, par exemple, c'est là où l'IA, on l'a dit, c'est catastrophique,
06:41mais c'est aussi une opportunité.
06:44Et bien, typiquement, ce qu'on se rend compte, c'est que le temps de réaction humain n'est plus
06:48suffisant.
06:49Et donc, nous, on va utiliser des outils similaires, des technologies similaires
06:52pour prendre des décisions extrêmement rapides de remédiation, d'isolation de postes par rapport au réseau, etc.,
06:59pour contrevenir à ce qui se passe.
07:01Donc, en gros, vous allez surveiller, en fait, l'activité des salariés avec l'IA.
07:05On est d'accord ?
07:07Alors, on va plutôt surveiller l'activité du numérique
07:11qui peut se manifester par la tête du salarié et par d'autres choses.
07:14C'est deux choses un peu différentes, mais ça en fait partie, oui.
07:17Je me mets à la place du salarié.
07:20Il n'y a pas des problèmes de perso là-dedans, en tout cas de vie privée ?
07:25Complètement, et c'est un des gros enjeux de nos solutions.
07:28En fait, auparavant...
07:29Vous surveillez même les employés, finalement.
07:30C'est vrai, c'est des outils qui peuvent avoir cette capacité-là.
07:35C'est pour ça qu'il y a une grosse partie de la gestion du produit,
07:38qui en l'occurrence est ma prérogative,
07:39qui est justement de fournir des garanties de configuration, d'auditabilité,
07:44qui permettent de passer outre ces mécanismes.
07:47Typiquement, un bon exemple,
07:49on fait un produit de contrôle de l'usage de GenEI sur les postes.
07:53Et bien, typiquement, comment on va faire ça pour nos clients ?
07:56On va leur dire qu'on peut détecter l'usage de comptes personnels
07:58et le différencier de l'usage de comptes professionnels.
08:01Et on va pouvoir dire, par exemple,
08:02qu'on ne va pas tracer l'usage de comptes personnels
08:05dans la console qu'on remonte.
08:06On va pouvoir l'analyser localement sur l'endpoint
08:09pour détecter ce qui se passe dessus,
08:11mais on n'en va jamais remonter le contenu des promptes
08:13qu'un usager va envoyer.
08:14Donc, c'est effectivement une contrainte importante
08:16qu'on se rajoute en plus dans notre lutte contre les pirates.
08:20Dernière question, Guillaume.
08:22Aujourd'hui, on assiste à une montée en puissance
08:25des agents IA un peu partout,
08:27mais même au niveau perso,
08:28pour surveiller ses comptes,
08:30pour surveiller ses mails,
08:31son activité numérique du quotidien.
08:34C'est une bonne idée ou pas ?
08:36Est-ce que tout ça, on est prêt à ça ou pas ?
08:39Est-ce que vous le feriez, vous, tiens ?
08:42Personnellement, je le fais progressivement
08:44et en contrôlant assez bien
08:45ce à quoi je donne accès à mes agents.
08:47Mais j'ai une expertise du domaine
08:49que tout le monde n'a pas.
08:50Je pense que la question n'est pas
08:51est-ce que c'est bien, ça se passe,
08:53c'est en train d'arriver.
08:55Et lors de la keynote de ce matin, par exemple,
08:56la question a été posée
08:57de ce que les gens présents au Summit,
08:59donc en plus, plutôt connaisseurs,
09:01attendent de l'IA,
09:01et c'était la productivité
09:03qui arrivait en tête à 80%.
09:05Donc, ça arrive.
09:06La question est, pour nous,
09:08comment on encadre ça ?
09:10De toute façon, les entreprises vont les utiliser,
09:11ils ont des gains à faire,
09:11énormes à utiliser.
09:13Et donc, nous, on doit venir là ensuite
09:15et proposer des solutions
09:16pour qu'on puisse conserver
09:18ces gains de productivité
09:18pour l'entreprise
09:19et même dans un voyage personnel,
09:21tout en encadrant l'usage
09:23et en permettant d'en éviter les écueils.
09:25Et ce n'est pas facile, hein ?
09:27C'est un métier.
09:28Et puis, c'est une course contre la montre,
09:30en fait, ça ne s'arrête jamais.
09:31C'est un jeu du chalet de la souris
09:32qui s'est accéléré.
09:33Merci beaucoup, Guillaume.
09:35Guillaume Ruti,
09:35directeur produit chez Arfang Lab
09:37pour terminer ce Tech & Co
09:39ici, au Carrossel du Louvre.
09:41Merci à vous.
09:42A l'occasion de sauver H. Schmitt.
09:43Merci beaucoup, Guillaume.
Commentaires

Recommandations