- 3 mesi fa
Categoria
📺
TVTrascrizione
00:04Un attacco senza precedenti, ben ritrovati in questo speciale Class NBC dedicato di fatto al primo attacco hacker fatto da
00:14un agente autonomo AI su una piattaforma HagingFace che serve proprio agli agenti e modelli per allenarsi.
00:22Ne parliamo con un grande esperto, qui con noi in collegamento Pierguido Iezzi, che è direttore Cyber Security di Zenita
00:29Group. Ben ritrovato, un grande piacere averla con noi.
00:32Grazie ancora per l'invito.
00:34Allora, partiamo da che cosa è successo. Faccio un breve recap per la cronaca e poi commentiamo insieme perché dobbiamo
00:40capire effettivamente perché anche si tratta di un attacco che ha una complessità importante.
00:47Ebbene, tutto parte di fatto dal annuncio che Sam Waltman ha fatto su X con un post dicendo siamo stati
00:56di fatto noi ad attaccare HagingFace per renderla molto semplice.
01:01Ma cosa succede? L'attacco è stato fatto attraverso e nonostante una sandbox, che ora ti chiederò di spiegarci esattamente
01:09come funziona, all'interno della exploit gym di OpenAI, cioè dove gli agenti si allenano ma in teoria dovrebbero seguire
01:18delle guardrail.
01:19Partiamo da qui per spiegare di fatto come è possibile a poche settimane dal caso Mythos Fable che di fatto
01:28aveva allertato proprio su questo rischio.
01:30Che cosa è successo? Che cos'è un exploit gym? E come è avvenuto questo attacco? Zero day. E quindi
01:38che cosa significa per Guido a te?
01:40Allora, cerchiamo di dare un significato ai vari inglesismi, ai vari concetti prettamente tecnici.
01:47Fondamentalmente, come si, come fanno tutte e quante le aziende, in questo caso le aziende dei AI, hanno un'area
01:53chiusa, quindi abbiamo una sorta di sandbox, un'area protetta.
01:56All'interno di questa area protetta c'è la possibilità di testare e verificare l'efficacia e l'efficienza di
02:02determinate soluzioni.
02:04Il punto vero è che i sviluppatori, i progettisti di OpenAI hanno dato un obiettivo specifico alla soluzione, in questo
02:13caso la versione 5.6 Soul,
02:16gli hanno dato un obiettivo specifico, non gli hanno detto come doveva fare i passaggi per ottenere quell'obiettivo.
02:23L'oggetto in questione praticamente ha cercato un modo, andando all'esterno, ha cercato di uscire dall'esterno, dalla sandbox,
02:30perché non riusciva a trovarlo all'interno di quell'area chiusa, ha quindi identificato quella che si chiama uno zero
02:36day,
02:37cioè una vulnerabilità che nessun altro conosceva, che gli ha permesso di uscire da quell'area chiusa
02:43e ha colpito direttamente la terza parte perché immaginava, ipotizzava, che potesse trovare in quell'altra azienda
02:50la soluzione per ottenere il risultato, l'obiettivo che era stato identificato.
02:56Partiamo dal presupposto che questa modalità di azione, cioè questa operazione che fondamentalmente
03:02nel nostro, nel nostro termine, nel contesto cyber, si chiama red team, cioè un'azione di attacco
03:08in tutta la sua sequenza, è un'operazione che fino a ieri veniva fatta a livello completamente umano,
03:14oggi da mitos, così come è stato citato qualche settimana fa e con l'esempio di oggi,
03:21dimostra che questa tipologia di attacco informatico è diventata completamente agentica.
03:27Chiaro, ecco, di fatto quello che si diceva dell'exploit gym, l'obiettivo che tu spiegavi
03:34è un cosiddetto benchmark, cioè era stato dato proprio agli agenti, benissimo, devi raggiungere
03:39quell'obiettivo, però stupisce di fatto la capacità, perché è chiaro che OpenAI agisse
03:45all'interno di sandbox, quindi seguendo delle regole, ma questa totale mancanza di seguire
03:53le regole da parte degli attaccanti, tu sei un grande esperto di cyber security, tra l'altro
03:57hai di fatto eseguito tanti security test, quindi i famosi squadre, squadra rossa, squadra
04:03nera, squadra bianca, insomma attaccanti e difensori, in questo caso come si possono costruire
04:10dei parametri, da poche settimane è una ricerca pubblicata proprio su questo e sull'impatto
04:15che l'EI possa avere anche nei governi, di fatto anche la mossa degli Stati Uniti ci fa
04:19capire le grandi vulnerabilità di questi sistemi.
04:23Partiamo dal più supposto che questo avvento dell'EI agentica è stato sollevato anche
04:28dalla stessa BCE, è stato sollevato una mano indicando quello che è l'effettivo rischio.
04:34Noi oggi dobbiamo cambiare direttamente l'approccio con cui facciamo oggi la difesa, perché
04:40l'avvento di attaccanti agentici porta una nuova sida che è legata soprattutto a una
04:46nuova superficie d'attacco, una sorta di rischio asimmetrico.
04:50Oggi ci troviamo di fronte a un problema di tempo, le misure di sicurezza delle aziende
04:55e anche delle stesse banche operano sostanzialmente a velocità uomo e a potenza uomo, mentre potenzialmente
05:03con l'avvento di questa soluzione di OpenAI, ma così come con Mythos, dovremo affrontare
05:10una velocità che noi non siamo pronti e preparati.
05:13E non è un caso che oggi si sta dicendo e indicando che dobbiamo iniziare a ragionare
05:18con il concetto di AI, cioè l'intelligenza artificiale deve combattere la stessa intelligenza artificiale,
05:25quindi dotarci negli strumenti di difesa di soluzioni AI, soluzioni potenziate proprio
05:32con l'AI per poter contrastare questo tipo di minaccia.
05:36Il perché l'AI possa superare il guardia è perché c'è stato un errore fondamentalmente
05:41nella definizione del perimetro di ciò che era permesso e di ciò che non era permesso.
05:46Però partiamo dal presupposto che questi oggetti, anche se io oggi riesco a contenerli
05:53in un contesto, possono essere oggetti utilizzati proprio per sferrare attacchi informatici.
05:58E questo è il punto di attenzione che noi oggi dobbiamo affrontare, perché da un lato
06:03questo aspetto del tempo diventa una nuova sfida, dall'altro diventa una nuova sfida
06:08il concetto puro di vulnerabilità, perché la vulnerabilità può essere sfruttata per condurre
06:13completamente l'attacco nella sua interenza.
06:17Però possiamo dire che questo è stato un episodio storico che segna un prima e un dopo, perché
06:23di fatto se passati alla concretezza è stato definito su web come un momento Skynet, la Terminator
06:29per l'intelligenza artificiale, da qui si alzano le barriere e serve maggiore sicurezza.
06:35Io ringrazio Pierguido Jezzi, direttore Cyber Security di gruppo Zenita, ci risentiremo assolutamente
06:42per riparlarmi, grazie per essere stato con noi.
06:44Grazie a tutti voi, di nuovo.
06:46Per averci seguito, restate con noi in diretta su ClassiBC.