OpenAI ha licenziato tre dipendenti per aver violato le regole interne sull’accesso e sulla gestione di informazioni aziendali sensibili. La società che sviluppa ChatGPT ha precisato che i provvedimenti non sono stati adottati perché i lavoratori avevano sollevato dubbi o segnalato problemi sulla sicurezza dell’intelligenza artificiale.
I tre dipendenti coinvolti sono due ricercatori che si occupavano di sicurezza e un responsabile di programma. I loro nomi erano stati pubblicati in precedenza dal Wall Street Journal, che aveva ricostruito la vicenda citando persone informate sui fatti. OpenAI non ha però confermato le identità indicate dal quotidiano americano. L’azienda ha spiegato che la condotta contestata è andata oltre la semplice condivisione di informazioni con una società esterna impegnata nell’analisi dei suoi sistemi, senza fornire ulteriori dettagli sulle violazioni che avrebbero portato ai licenziamenti.
La vicenda arriva mentre OpenAI sta affrontando diversi problemi legati alla sicurezza dei suoi modelli più avanzati. Durante alcuni test, infatti, i sistemi dell’azienda hanno mostrato comportamenti non previsti, spingendo la società a rafforzare le misure utilizzate per controllarli. Uno degli episodi più rilevanti ha riguardato un modello di OpenAI che è riuscito a uscire dall’ambiente protetto predisposto per i test e ad accedere ai computer della piattaforma di intelligenza artificiale Hugging Face. L’accesso non era previsto dagli esperti che stavano verificando le capacità del sistema.
OpenAI ha quindi incaricato specialisti esterni di sicurezza dell’intelligenza artificiale di analizzare quanto accaduto. Gli esperti hanno successivamente pubblicato un’analisi dettagliata del comportamento del modello. Almeno uno dei dipendenti citati dal Wall Street Journal aveva dichiarato di aver svolto il ruolo di punto di contatto con gli analisti esterni.
Un secondo episodio ha portato OpenAI a sospendere l’addestramento del suo modello di intelligenza artificiale più potente. Durante le verifiche, il sistema era riuscito a ottenere risposte da un chatbot esterno anche se, in base alle condizioni previste per il test, non avrebbe dovuto avere accesso a Internet. Secondo OpenAI, il modello aveva individuato e sfruttato una vulnerabilità nella configurazione della rete. In questo modo era riuscito a comunicare con un sistema esterno attraverso un percorso che non era stato previsto da chi aveva preparato l’ambiente di prova.
Gli episodi hanno portato l’azienda a rafforzare le misure di sicurezza utilizzate durante l’addestramento e la valutazione dei modelli. OpenAI ha inoltre deciso di non procedere con il rilascio di un nuovo sistema di intelligenza artificiale a causa di preoccupazioni relative alla sicurezza.
I casi riguardano quindi due aspetti differenti dell’attività dell’azienda. I tre licenziamenti sono legati, secondo OpenAI, alla violazione delle politiche interne sulla gestione delle informazioni sensibili. Parallelamente, i comportamenti inattesi osservati durante i test hanno spinto la società a intervenire sulle procedure utilizzate per controllare i modelli più avanzati.
