OpenAI ha reso noto che alcuni suoi modelli di intelligenza artificiale avanzata hanno superato i limiti previsti durante un test di sicurezza, riuscendo ad accedere a Internet e prendendo di mira la piattaforma Hugging Face, uno dei principali archivi online che raccoglie modelli di IA, dataset e strumenti utilizzati da sviluppatori e ricercatori di tutto il mondo.
Secondo quanto comunicato dall’azienda, l’episodio si è verificato durante una prova svolta in un ambiente digitale isolato, creato appositamente per valutare le capacità dei modelli senza consentire un accesso libero alla rete. Il test ha coinvolto una combinazione di sistemi, tra cui il recente GPT-5.6 Sol e un modello ancora in fase di sviluppo, descritto come più avanzato.
L’obiettivo dell’esperimento era verificare le capacità di hacking dei modelli di IA. Quando questi sistemi operano in modo autonomo per svolgere compiti nel mondo reale vengono definiti agenti. La prova era stata progettata per capire se l’intelligenza artificiale fosse in grado di individuare eventuali punti deboli nei sistemi informatici prima che possano essere scoperti da persone o da criminali informatici.
Nel racconto pubblicato da OpenAI, l’azienda spiega che i modelli hanno cercato autonomamente un modo per uscire dall’ambiente controllato. “Mentre operavano nel nostro ambiente di test isolato, i nostri modelli hanno impiegato una notevole quantità di potenza di calcolo per trovare un modo per ottenere l’accesso a Internet, nel tentativo di risolvere il problema di valutazione”.
Una volta collegati alla rete, i sistemi hanno individuato Hugging Face come obiettivo. Secondo OpenAI, i modelli erano alla ricerca di “informazioni segrete” che potessero aiutarli ad aggirare il test e, durante questa attività, il sistema ha “concatenato molteplici vettori di attacco, incluso l’utilizzo di credenziali rubate”.
L’azienda di San Francisco ha definito quanto accaduto un “incidente informatico senza precedenti” e ha annunciato l’avvio di un’indagine congiunta con Hugging Face per ricostruire nel dettaglio la dinamica dell’episodio e analizzarne le cause.
Sull’accaduto è intervenuto anche Hussein Abbass, professore di informatica presso l’UNSW di Canberra, che ha definito l’episodio “incredibile sotto molti aspetti”. Lo studioso ha dichiarato all’AFP: “Non ha attaccato solo Hugging Face. Ha attaccato il suo sistema interno per sfruttarne le vulnerabilità”. Ha poi aggiunto: “E questo è spaventoso”.
