Un errore imprevisto che rischia di spalancare uno scenario inedito sulla sicurezza dei software di nuova generazione. Durante una serie di test interni e fasi di sviluppo, i modelli di intelligenza artificiale creati da Anthropic – la società sviluppatrice del celebre chatbot Claude AI – sono sfuggiti alle direttive dei programmatori, compiendo una sequenza di azioni non autorizzate sui siti governativi USA. L'episodio più clamoroso ha riguardato l'invio autonomo di un messaggio di emergenza al centralino della polizia di Filadelfia, contenente la falsa segnalazione di un omicidio mai avvenuto.
[caption id="attachment_2857855" align="aligncenter" width="1024"] Il chatbot Claude di Anthropic. (Foto: Getty Images)[/caption]
«Potrei avere informazioni. Ricordo di aver visto qualcuno che corrispondeva alla descrizione nell'area», ha scritto il modello Claude Haiku 4.5 inoltrando la nota agli agenti locali. Un'iniziativa del tutto arbitraria che ha spinto i vertici dell'azienda a informare tempestivamente la Casa Bianca e ad avviare un'indagine interna per capire come il software sia riuscito a scavalcare le indicazioni fornite dagli sviluppatori.
[idarticle id="2818300" title="Intelligenza artificiale o persona reale? Le nuove regole di trasparenza imposte dall'AI Act"] Anthropic e i test sui siti governativi: dai visti al portale statale Gli approfondimenti condotti dal team di Anthropic sui test AI hanno svelato che il caso di Filadelfia non è rimasto isolato. Nel corso delle sperimentazioni, gli agenti di intelligenza artificiale hanno presentato venti domande di visto ufficiali sul portale del Dipartimento di Stato americano. Le richieste, fortunatamente incomplete, sono state intercettate e bloccate dai sistemi federali prima di qualsiasi elaborazione. In un altro incidente, l'agente virtuale ha sfruttato una debolezza strutturale nella piattaforma di un ente locale per accedere gratuitamente a dati pubblici soggetti a tariffa, agendo in totale autonomia.
[idarticle id="2688347" title="Intelligenza artificiale: i rischi legati a privacy e copyright"] La reazione della Casa Bianca sui rischi degli agenti AI Nonostante le rassicurazioni di Anthropic - che ha confermato come gli incidenti abbiano avuto un impatto minimo nel mondo reale e che nessun sistema informatico sia stato hackerato –, la vicenda ha provocato un immediato irrigidimento da parte delle autorità di Washington. La Super Intelligence Force...