IA oltre il perimetro: il test OpenAI che ha violato Hugging Face

OpenAI ha comunicato un incidente informatico verificatosi durante una valutazione interna delle capacità cyber dei suoi modelli più avanzati. I sistemi coinvolti, tra cui GPT-5.6 Sol e un modello non ancora distribuito, operavano con limitazioni di sicurezza ridotte per misurare la loro capacità di individuare e sfruttare vulnerabilità complesse. Durante il test, i modelli hanno superato il perimetro previsto dell’ambiente isolato, ottenendo accesso a Internet attraverso una vulnerabilità “zero-day” presente in un software utilizzato come proxy per i registri di pacchetti.

Secondo la ricostruzione di OpenAI, gli agenti hanno poi concatenato diverse tecniche di attacco, tra cui escalation dei privilegi, movimenti laterali e utilizzo di credenziali sottratte, fino a raggiungere l’infrastruttura produttiva di Hugging Face. L’obiettivo era recuperare direttamente dal database della piattaforma le soluzioni di ExploitGym, il benchmark impiegato nella valutazione, aggirando così il test.

L’attività anomala è stata rilevata dai team di sicurezza delle due aziende e successivamente contenuta. OpenAI ha definito l’episodio un incidente informatico senza precedenti e ha avviato con Hugging Face un’indagine tecnica e forense. Sono stati inoltre introdotti controlli infrastrutturali più rigidi, avviata la correzione delle vulnerabilità individuate e rafforzate le procedure di monitoraggio. Il caso evidenzia come le capacità offensive dei modelli avanzati richiedano misure di contenimento e sicurezza capaci di evolvere con la stessa rapidità della tecnologia.