• 7 minuti fa

Categoria

📺
TV
Trascrizione
00:06Benvenuti a tutti i telespettatori di classe MSI all'interno del nostro approfondimento
00:09dedicato al mondo degli agenti AI con noi Marcella D'Andrade, admin.ai. Buongiorno Marcella.
00:15Buongiorno, buongiorno a tutti. Oggi parliamo di cybersicurezza perché tutte le cose che
00:20stanno succedendo mi viene un dubbio a me. Ma sono gli agenti Marcella? Sono gli agenti
00:26che vanno per i fatti loro o sono indirizzati da qualcuno? Cosa sta succedendo? Attacco e
00:32difesa è il titolo della puntata di oggi. Marcella?
00:34Ecco, infatti questi giorni tante persone si stanno chiedendo giustamente cosa c'è
00:41dentro. Sono sempre AI, sono agenti, sono agenti da sole, agenti scappati. Quindi adesso
00:46facciamo un punto su un po' gli attacchi principali e anche sulle scoperte che sono abbastanza,
00:53diciamo, sono, dal punto di vista di innovazione, sono molto importanti ma possono anche essere
01:02un segno per ognuno aggiornare i propri sistemi perché siamo proprio...
01:07Siamo lì? Siamo lì.
01:09È il caso di aggiornare i propri sistemi anche perché veramente oramai anche ai malfattori
01:15diciamo gli abbiamo dato dei superpoteri con la storia degli agenti degli LLM. Però
01:21già che anche loro che se ne vanno per i fatti loro, la gente in sé. Allora dai, attacco
01:25difesa e velocità degli agenti. Allora, gli attacchi delle ultime settimane. Esatto. Ecco,
01:31allora parliamo un po' degli attacchi che sono quelli più, diciamo, che sono diventati
01:35quelli più importanti. Esatto. Ok. In agosto, paper cut. 395 organizzazioni in 48 paesi
01:43sono state attaccate. Sì. E qua agenti guidati. Agenti guidati da un umano. Esatto. Qua praticamente
01:50il hacker ha trovato una falla in questo software che si chiama paper cut che gestisce le stampanti.
01:58ha sviluppato con AI, diciamo, l'attacco. Quindi ha creato degli agenti per attaccare,
02:06è riuscito ad attaccare in pochissimi secondi, anche in 30 secondi, era già dentro diverse
02:11istituzioni di cui metà scuole in tutto il mondo. Sono riusciti a fare tutto in pochi secondi
02:21e a estrarre, diciamo, tutti i dati che volevo estrarre. Esatto. Perché oramai nelle stampanti
02:26rimane tutti i file che stampi, rimangono lì. Eh, le stampanti per assurdo hanno permessi admin.
02:32Sì, si hanno permessi admin. Admin. Sono d'accordo. Sì, sì. Lo vedo anche io quando, insomma, oramai
02:37i sistemi che anche noi abbiamo qua in azienda, centralizzato, tu vai lì e poi trovi la tua stampa
02:42attraverso il codice tuo e stampi la tua roba. Però sono lì, sono nei server tutte le robe. Sì, sì.
02:48Mandi la stampa e la stampa fa solo la stampa, no? No, no, accesso a tutto. Inizia uno attacca
02:54alla stampante e poi... Ma tu vai a pensare alla stampante, è incredibile. Esatto, sì, sì.
03:0012 ottobre e 2 novembre c'è stato l'attacco ai frigoriferi e al plasma, supermercati e banche
03:05del sangue e qua AI non provata. No, AI non provata, esatto. Cosa significa AI non provata? Eh, non hanno
03:11ancora capito chi è stato o chi c'era dietro per tutti gli effetti. Non hanno trovato delle
03:19tracce sui loghi di sistemi. Se non ricordo male i francesi subito, ma sono stati gli iraniani.
03:24Eh, qua, diciamo, ci sono... Forti dubbi? Sì, sì. Quindi, diciamo, è non provata. Probabilmente avranno
03:32utilizzato dei sistemi moderni, ma non possiamo dirlo che sia stato. Non abbiamo la certezza, insomma. No, no, infatti.
03:38Poi c'è stato l'attacco a Binance, 6,3 miliardi di bitcoin evaporati. Esatto.
03:46Qua? Qua c'è stata la AI. Qua è stata una cosa interessante, perché praticamente
03:51gli hackers hanno creato un finto colloquio di lavoro, quindi hanno fatto scouting su uno
03:57degli ingegneri di Binance. Quindi lì hanno mandato un link, lui si è scaricato questo link,
04:03ha fatto il colloquio, però questo link in realtà poi era dentro il suo computer, ha avuto accesso
04:10all'AI di Binance e quindi ha usato l'AI di Binance contro...
04:15Binance.
04:15Contro Binance, esatto. E lì è riuscito a farlo.
04:17Sì, ora l'ingegnere non è che è un fulmine di guerra, perché a me mi insegnano dalla mattina
04:21alla sera che non devo cliccare sui link. Tu dici che oramai questi li costruiscono
04:25bene le cose, quindi colloquio di lavoro, magari hanno parlato anche con qualcuno, quindi
04:32insomma bisogna sempre stare più attenti. Esatto.
04:34Quindi qua l'AI dell'attaccato è stata utilizzata come porta d'ingresso per poi far sparire i soldi.
04:45Si ingegnano oramai a dei livelli altissimi.
04:49Bisogna capire che l'AI è arrivata a un punto in cui è velocissima, è potentissima
04:54e può essere utilizzata sia per il bene che per il male.
04:56Eh sì. Quindi...
04:58Attenzione.
04:59Molta.
05:00Artex, allerta FBI, banche, governi, aziende IT e qua sono agenti guidati.
05:06Ecco, qua Artex è una cosa interessante perché è uscita a fine luglio come un sistema
05:11diciamo per simulare un attacco a se stesso, quindi spesso le aziende grosse fanno queste
05:18simulazioni.
05:21Sì.
05:21un sistema intelligente che simula un attacco fatto da un agente AI o da un sistema...
05:27Ma all'interno di una sandbox o...?
05:30Sì, tu fai il test su se stesso.
05:32Su se stesso.
05:33Esatto.
05:33Quindi tu hai lì il server, quindi tu dici a voce, no?
05:36Questo sistema lo stagli, lo scarichi, è su un GitHub pubblico.
05:41Era, che adesso è stato rimosso.
05:43Quando è uscito a luglio quindi le aziende andavano lì e dicevano voglio attaccare,
05:48estrarre questi questi dati, dava diciamo gli indirizzi digitali dei propri server e
05:55lì si capiva quali erano, se ci fossero delle falle.
05:59Falle, erano indeboli.
06:01Esatto.
06:01E' uscito a luglio.
06:02Poi adesso il 13 novembre l'FBI ha detto che ha scoperto che da agosto i hackers usano
06:08questo stesso sistema per invadere le aziende.
06:12Perché giustamente...
06:14Se tu stesso gli dai pure i server, i codici lì o l'indirizzo IP dove stanno i server...
06:19Esatto.
06:20Con gli accessi immagino.
06:22Sì, neanche gli accessi, perché tu dai l'indirizzo, vuoi attaccare...
06:25Non so, mi metti un'azienda, vuoi attaccare Apple e li dai a Artex.
06:30Artex ok, ci sono queste e queste e queste falle.
06:32Tu che sei un hacker cosa fai?
06:34Ah, vai a lavorare...
06:35Vabbè, è geniale questa cosa qua.
06:37Gli faccio fare il lavoro sporco, individuare le falle a Artex e io che sono dentro uso quello che ha
06:44scoperto Artex per entrare.
06:46Sì, ma infatti qua hanno trovato anche quegli attacchi che sono usciti su CNN...
06:52Sì, su tutte le...
06:54Fox, esatto così.
06:55Hanno utilizzato questo sistema qua.
06:57Quindi sempre qua guidato perché c'è una mente umana dietro che dice...
07:02Che dice così.
07:03Esatto.
07:04Il 16 novembre arriva Exploit Agent Google, siti francesi dati rubati.
07:09Esatto.
07:09Agenti da soli.
07:10Esatto, e qua è la notizia un po' più preoccupante di tutte, perché appunto il 16 novembre, quattro giorni fa,
07:17Google ha lanciato, pubblicato questo report in cui dice di aver scoperto un sistema chiamato Exploit Agent.
07:26Exploit è un termine che si usa, diciamo che è un programma di attacco.
07:30Ok?
07:31Quindi ha scoperto su un server di un attaccante che ha lasciato, diciamo, online e scoperto.
07:38Lì dentro ha scoperto questo sistema che è gli agenti che guidano i propri agenti.
07:44Con il loro obiettivo praticamente è trovare delle falle in diverse, n tipologie di server in tutto il mondo e
07:54sviluppare da soli gli attacchi, attaccare, portarsi a casa dei dati, fare i danni che riescono a fare.
08:02Se è un'istituzione finanziaria di rubare soldi, se sono dati di rubare dati, ma fanno da solo.
08:09Nessuno gli ha detto un imprinting quantomeno iniziale?
08:13Uno probabilmente l'avrà creato, l'avrà guidato, ma questo sistema adesso agisce da solo, che è quello che ha
08:20pubblicato Google.
08:21Che è sempre lì, ok? Ci affidiamo a quello che ci sta dicendo Google, di stati attenti, ma poi vediamo
08:28adesso un po' avanti anche, diciamo, lato difesa, come si stanno muovendo.
08:34Questo è il lato attacchi, ok?
08:35Esatto.
08:36Open AI, causa in USA, perché gli agenti in test sfuggiti, agenti che sono sfuggiti, l'abbiamo raccontato.
08:42Esatto, sì, adesso li stanno facendo causa perché hanno scoperto che hanno perso il controllo più di 80 volte.
08:48Ah, 80 volte, non quell'una, due, tre volte che ci hanno detto loro.
08:52Però la cosa preoccupante è che fino agosto, poi arriviamo 12 ottobre, 29 ottobre, 13 novembre, 16 ottobre, c'è
09:00sempre più frequenza qua, eh?
09:02Sì, sì, infatti la tendenza è... purtroppo.
09:08Allora, agenti guidati, ah beh, questo è quello che abbiamo raccontato di Papercut, qua dobbiamo dire qualcosa?
09:15Ecco, sì, qua in effetti c'è, perché ci sono diverse tipologie di che, diciamo, le aziende devono stare attente,
09:22quindi, diciamo, sia dal punto di vista dei, diciamo, degli attacchi e i propri sistemi di sicurezza, server, eccetera.
09:30Quindi qua, diciamo, la persona, l'attaccante sceglie un bersaglio, quindi vuole attaccare quell'azienda, quindi qua si parla, diciamo,
09:40di essere al sicuro dal punto di vista complessivo.
09:44Quindi le aziende che possono essere, diciamo, queste aziende spesso che gestiscono anche altre aziende, che sono software, che vanno
09:51installati,
09:51quindi queste aziende possono essere dei bersagli per questi attaccanti, che sono persone, che hanno un obiettivo e dice, vogliamo
09:59attaccare quelli.
10:00Quindi qua ci sono questi due esempi, il Papercut che abbiamo detto, e poi l'Artex, che è lo strumento
10:06che, anche se adesso con l'FBI hanno rimosso questo GitHub che aveva il codice pubblico,
10:12ma sono usciti anni, codice, con le copie, chi se l'ha scaricato ce l'ha a casa.
10:19Quindi diciamo che c'è una minaccia, dal punto di vista di cyber security, che punta a dei bersagli precisi.
10:28Cioè, sanno quello che stanno facendo, sembra quasi.
10:31Esatto.
10:32Allora, qua è Explore Agent.
10:33Esatto, qua invece il dettaglio dell'Exploit Agent, che praticamente questo lavora sulle aziende che non hanno ancora corrette le
10:43falle che hanno appena scoperto.
10:45Qua è una cosa interessante, ci sono diversi sistemi di sicurezza online, quindi quando un'azienda qualsiasi individua un errore,
10:56c'è una falla e lo corregge, qua entra in gioco Explore Agent, quindi qua appunto si chiama Zero Day.
11:03Si scopre una falla, non c'è ancora la cura, chi lo sviluppa per primo è il sicuro.
11:13Poi questo sistema qua prende questo sistema aggiornato e mette a confronto con tutti i sistemi non aggiornati e lì
11:22scopre la porta di entrata.
11:24Di tutti gli altri?
11:25Sì, sì. Quindi se una persona, un'azienda utilizza un sistema di sicurezza e un altro aggiorna perché ha trovato
11:34una falla,
11:35quindi questa diventa sposta subito.
11:38Questo Explore individua subito chi non ha ancora fatto l'aggiornamento.
11:41Chi non ha fatto l'aggiornamento.
11:42Esatto.
11:43Quindi qua, per dire, siamo alla velocità della luce praticamente.
11:48Forse questa è una delle cose che ti fanno pensare, un po' di più su questo Explore.
11:54Esatto, perché ci sono veramente, si parla di qualsiasi tipologia di sistema, dal server semplicissimo cloud che tutti abbiamo a
12:01casa,
12:01praticamente tutte le aziende hanno oggi un cloud, a dei sistemi anche più complessi, ma sono tutti praticamente a rischio.
12:10E qua, quello che abbiamo detto prima, i sistemi ai interni possono diventare delle porte d'entrata.
12:18D'entrata.
12:19Appunto anche c'è un caso di cloud code che è stato, l'azienda è stata attaccata tramite cloud code.
12:29Quindi praticamente clicca un link piuttosto che va su una pagina che ha una spia.
12:38Usi il loro sistema di AI per traviare la via e trovare le...
12:44Sì, ha anche accesso alle chiave API, appunto adesso sono anche sul report di Google, dice di mettere al sicuro
12:50tutte le chiave API che le aziende utilizzano, i codici.
12:55Perché poi passano attraverso la chiave API e vanno dall'altra parte.
12:58Esatto.
12:58Magari si connessi con la tua banca, cose del genere.
13:01Sì, sì, appunto dicono di proteggere queste chiavi, come si protegge oggi una password di una banca con diversi sistemi.
13:09Con diversi, con doppia autenticazione, cose del genere.
13:12Perché appunto, una volta dentro, i propri sistemi AI possono soffrire dei prompt injection e attaccare se stessi.
13:23Siamo partiti tutti contenti con questo approfondimento, ah gli agenti AI che più va avanti e più ci stiamo preoccupando.
13:30No, ma bisogna appunto essere preparati e sapere cosa sta succedendo per riuscire anche a capire come difendersi.
13:37No, sì, sì, il problema è che fa paura perché sembra quasi che attacca sempre più avanti nella difesa.
13:46Cioè la difesa la scopri, non è che sei ante, cioè tu blocchi le cose, cioè tu scopri la falla
13:54dove probabilmente quando c'è già stato l'attacco allora metti a posto.
14:00Esatto.
14:00Però sei sempre una rincorsa, non sei mai davanti, quello è il discorso.
14:04No, bisogna appunto mettere a prova i propri sistemi e correggere subito le falle.
14:09Perché, ripeto, se uno la fa per primo, tu diventi un bersaglio.
14:16Allora, chi attacca trova la falla, scrive il programma e colpisce.
14:20Chi difende bisogna trovare la falla, scrivere la correzione e chiudere la porta.
14:24E qua lo stesso sistema, anche l'exploit agent, diciamo volendo, si può utilizzare lo stesso sistema per la difesa.
14:33Ah, tu dici per la difesa, ho capito.
14:35Esatto, perché gli agenti, l'AI, non è che è buono o cattiva.
14:39No, sì, loro fanno quello che dicono.
14:41Loro, esatto, parlano la lingua del sistema, dei codici, esatto.
14:46Quindi lì si può utilizzarli per il bene e per il male.
14:50Quindi qua bisogna prendere appunto i sistemi AI e usarli proprio per creare delle difese.
14:57Sì, magari adesso con il senno di poi penserei che forse rilasciare gli LLM così,
15:04o Urbi e Torbi, forse qualche piccolo accorgimento prima era utile.
15:09Eh, ormai no.
15:11Dici no, ormai è...
15:12No, no, sì, anche con la Cina in gioco, anche no.
15:15Ah, con la Cina in gioco.
15:16Non abbiamo il controllo.
15:18Linux.
15:19Ecco, qua, proprio questi giorni hanno fatto questo test di Linux e hanno trovato, credo,
15:29qua in, ecco, 30 ore proprio, qua praticamente 950 falle sui sistemi Linux.
15:36Su Linux, capito?
15:37Ma qua in maniera, diciamo, preventiva.
15:40Quindi hanno già trovato, hanno già chiuso queste, queste falle.
15:45E quindi, diciamo, adesso i propri sistemi, le proprie aziende iniziano appunto a utilizzare le stesse...
15:53A tu dici gli agenti li facciamo utilizzare, diciamo, in maniera malevola per capire dove siamo,
16:01dove abbiamo le falle nuove.
16:02Esatto.
16:02E andarle poi a correre.
16:04Esatto, esatto, quindi prova a invadermi, trova subito e corregge subito, quindi...
16:09Ma lo fai in automatico?
16:11Cioè, dal mio comando, insomma, loro arrivano a trovare tutto e a correggere in sé anche la falla.
16:19Sì, devi poi, giustamente, cioè una persona, diciamo, va guidato anche, va seguito anche da un professionista.
16:27Esatto, perché bisogna ovviamente dare accesso ai propri sistemi, al server, quindi...
16:32Sì, ma darglielo in maniera, diciamo, ragionata.
16:36In maniera ragionata, sì, sì, sì, sì.
16:38Eh sì, forse conviene affidarsi a un professionista, va perché piuttosto, se magari gli dai l'apertura a tutto,
16:46quello magari l'hai fallata.
16:49Esatto.
16:50Signal, Dani a settimana.
16:52Signal, di che si tratta questo?
16:54Ecco, qua è una terza, diciamo, utilizzo della difesa, utilizzando i sistemi AI.
17:03Signal è una piattaforma di chat.
17:05Ah, Signal, lo conosco bene, assolutamente, sì, sì, sì.
17:09E quindi qua hanno fatto la prova matematica, sai, queste prove che sono quelle proprio che ti confermano, no?
17:18Che poi nessuno lo fa, perché ci può volere anche fino a vent'anni, sono milioni e milioni di righe
17:23di codice
17:23che ti devi mettere a prova ogni tipologia, esatto, di quello che ti prometto, quello che ti consegno.
17:30Quindi sono queste prove che tutti i sistemi, cioè quasi nessuno al mondo oggi ce l'ha la prova matematica,
17:37Signal è stata forse la prima a farla.
17:39L'ha fatta in quattro settimane con un team di cinque persone,
17:42e ovviamente è un team di agenti AI, e sono riusciti a fare la prova e a chiudere il sistema.
17:49Quindi adesso, diciamo, a tutti gli effetti è diventato un sistema che non è attaccabile.
17:56Non attaccabile.
17:57Esatto.
17:58Quindi questa cosa, diciamo, può apportare un valore a chi lo fa, è abbastanza interessante,
18:06perché poi se uno deve scegliere cosa utilizzare...
18:09Sì, utilizzi già le cose che sono chiuse, assolutamente.
18:13Esatto.
18:13Poi Signal già aveva una chiave di crittografia molto forte, è utilizzato, è utilizzato,
18:19però così magari anche meglio.
18:21Esatto, sì, sì.
18:23Vabbè.
18:24Il messaggio resta, stiamo attenti davvero, tutto quello che è esposto online va messo al sicuro il più presto possibile.
18:34Il più presto possibile, sì, sì, sì.
18:36Va bene, Marcela, siamo arrivati al termine della nostra puntata, abbiamo anche terminato perfettamente
18:43la nostra spiegazione degli attacchi e le difese che si sono susseguite nel corso delle ultime settimane
18:48e quali sono magari i tools per ovviare a questa cosa e noi ci risentiamo venerdì prossimo.
18:56Marcela D'Andrade, admin.ai, grazie mille Marcela.
18:58Grazie.
18:59Terminiamo qui il nostro approfondimento Age of Agents, grazie mille per l'attenzione,
19:04rimanete su Classi MC.