OpenAI rivela 6 nuovi comportamenti «preoccupanti» dell’intelligenza artificiale

Milano, 17 set. (askanews) - OpenAi ha fatto sapere che ci sono stati altri sei casi in cui l'intelligenza artificiale ha agito in modo "imprevisto e preoccupante", due termini usati dalla stessa azienda di Sam Altman.

I sistemi hanno nascosto errori, inventato dati e trasferito file su Internet senza autorizzazione, una tipica situazione di "disallineamento", cioé quando l'intelligenza artificiale pur di eseguire il compito assegnato trova soluzioni diverse da quelle immaginate, a volte superando limiti imposti e non rispettando regole di sicurezza.

[idarticle id="2818300" title="Intelligenza artificiale o persona reale? Le nuove regole di trasparenza imposte dall'AI Act"]

Nessuna conseguenza grave in questi casi, ma OpenAi ha deciso di diffondere la notizia nel pieno del dibattito sulla sicurezza dell'Ai, seguendo una nuova policy aziendale che prevede proprio di comunicare rapidamente eventuali comportamenti anomali, anche in casi in cui i danni sono stati limitati, nel nome della trasparenza e della sicurezza.

[idarticle id="2774902" title="La badante artificiale esiste già. Quando a fare compagnia ai genitori anziani c'è l'AI"]

"Dobbiamo costruire un consenso più ampio e meglio informato sui progressi della ricerca sull'allineamento - ha scritto OpenAi annunciando il nuovo protocollo - Non riteniamo che il settore abbia risolto i problemi dell'allineamento e del monitoraggio in misura sufficiente per continuare a espandersi in modo responsabile alla massima velocità ancora per molto tempo", conclude l'azienda, in totale accordo con quanto detto da Dario Amodei di Anthropic, fra i primi a chiedere di rallentare lo sviluppo per la sicurezza di tutti.