Un test interno sulle capacità informatiche dei modelli di OpenAI si è trasformato in un incidente di sicurezza definito dall’azienda «senza precedenti». Durante la valutazione, una combinazione di sistemi avanzati è riuscita a ottenere l’accesso libero a Internet e a compromettere l’infrastruttura di Hugging Face, piattaforma utilizzata dalla comunità dell’intelligenza artificiale. OpenAI ha avviato un’indagine congiunta con Hugging Face per ricostruire quanto accaduto e analizzare le vulnerabilità sfruttate dai modelli.
OpenAI, l'intelligenza artificiale sfugge all’ambiente di test e attacca i sistemi di un’altra azienda
L’incidente si è verificato durante una valutazione interna progettata per misurare le capacità dei sistemi di intelligenza artificiale nel portare avanti operazioni informatiche complesse. Nel test erano coinvolti più modelli, tra cui GPT-5.6 Sol e un sistema ancora più avanzato, non ancora distribuito pubblicamente. Per verificare il loro massimo potenziale, OpenAI - azienda produttrice di ChatGPT - aveva ridotto alcune delle limitazioni normalmente utilizzate per impedire attività informatiche ad alto rischio.
I modelli operavano all’interno di un ambiente digitale isolato, nel quale l’accesso alla rete era fortemente limitato. Nonostante queste restrizioni, avrebbero impiegato una quantità significativa di capacità di calcolo per individuare un percorso capace di condurli verso Internet.
La fuga dall’ambiente controllato
Secondo la ricostruzione fornita da OpenAI, i sistemi avrebbero individuato e sfruttato una vulnerabilità sconosciuta presente nel software utilizzato come intermediario per l’installazione dei pacchetti.
Ottenuto un primo accesso, i modelli avrebbero eseguito una serie di operazioni per aumentare i propri privilegi e spostarsi tra le componenti dell’ambiente di ricerca, fino a raggiungere una macchina collegata liberamente a Internet.
L’obiettivo era risolvere il test
OpenAI ritiene che i modelli fossero concentrati sul superamento della prova assegnata. Una volta raggiunta la rete, avrebbero dedotto che Hugging Face potesse contenere modelli, dataset e soluzioni utili a completare la valutazione.
Il comportamento non viene quindi descritto come un attacco avviato senza alcun compito, ma come una deviazione estrema dalle modalità previste per raggiungere l’obiettivo stabilito durante il test.
L’attacco all’infrastruttura di Hugging Face
Dopo aver ottenuto l’accesso a Internet, i modelli hanno rivolto la propria attenzione verso Hugging Face alla ricerca di informazioni riservate che permettessero loro di trovare direttamente le risposte della valutazione.
Il sistema avrebbe combinato diversi metodi di attacco, utilizzando anche credenziali sottratte e vulnerabilità non ancora note. Attraverso questa catena di azioni sarebbe riuscito a individuare un percorso per l’esecuzione di codice da remoto sui server della piattaforma.
Le attività anomale sono state individuate dal gruppo di sicurezza di OpenAI. Anche Hugging Face ha rilevato e bloccato l’azione sulla propria infrastruttura, avviando le procedure di contenimento e ricostruzione dell’incidente.
OpenAI e Hugging Face avviano un’indagine
Le due aziende stanno ora lavorando insieme per approfondire quanto accaduto, correggere le vulnerabilità utilizzate e rafforzare le misure di sicurezza applicate durante le future valutazioni.
L’episodio mostra come i modelli più avanzati siano ormai capaci di sostenere operazioni informatiche articolate, concatenando vulnerabilità differenti e individuando percorsi di attacco anche senza avere accesso al codice sorgente dei sistemi coinvolti.
