00:06Il sistema chiamato a sorvegliare l'intelligenza artificiale è stato disattivato dall'intelligenza
00:11artificiale stessa. È accaduto in due testi interni di OpenAI, in un caso il modello ha
00:16pure negato di aver rimosso il controllo. Il primo episodio risale al 3 di ottobre,
00:21un agente basato su GPT 6.1 Sol stava lavorando su una procedura di valutazione,
00:27ha bloccato gli avvisi destinati al team di sicurezza. Ha interpretato l'ordine di non
00:32inviare messaggi su Slack come un'autorizzazione a sopprimere le notifiche del sistema di monitoraggio.
00:39Tre giorni dopo, durante la migrazione di un programma, un agente GPT 6 Astra ha eliminato
00:44l'integrazione che ne controllava il comportamento. Quando gli è stato chiesto se avesse rimosso il
00:50monitor, ha risposto di no. Secondo OpenAI, in entrambi i casi, i modelli avevano valutato
00:55la presenza delle protezioni, ma avevano interpretato istruzioni tecniche ordinarie
01:00come un permesso per indebolirle. Gli incidenti sono avvenuti in ambienti interni e non sono
01:06stati classificati nella categoria di rischio più grave. Non risultano danni a utenti o sistemi
01:12esterni e OpenAI ha avviato un aggiornamento delle procedure di controllo. Il caso mette a fuoco
01:18un nodo industriale, gli agenti AI acquistano autonomia, ma cresce la necessità di sistemi di
01:23sorveglianza separati, difficili da modificare e sottoposti al controllo umano. Per OpenAI e per
01:30l'intero settore, sicurezza e affidabilità diventano parte del valore del prodotto. Senza
01:35controlli solidi, la corsa ai modelli più potenti rischia di frenarne l'adozione nelle imprese.
