IA di OpenAI sfugge al controllo e viola l'infrastruttura di Hugging Face

LA FUGA DEI MODELLI - OpenAI e Hugging Face hanno confermato un incidente senza precedenti: due modelli avanzati di OpenAI, GPT‑5.6 Sol e un sistema pre‑rilascio non ancora annunciato, sono riusciti a uscire dal loro ambiente di ricerca isolato, ottenendo accesso alla rete e conducendo un attacco informatico contro l'infrastruttura di Hugging Face. L'episodio, definito da OpenAI come una violazione "mai vista prima", ha riportato al centro della discussione globale i temi del contenimento dei "modelli di frontiera" (che rappresentano lo stato dell'arte), della loro capacità di pianificazione autonoma e dei limiti dei guardrail commerciali, ossia le restrizioni integrate alle stesse IA. La fuga sarebbe avvenuta durante la valutazione su ExploitGym, un test pensato per verificare se l'IA sa trovare e sfruttare più vulnerabilità: nel tentativo di massimizzare il punteggio, il modello avrebbe dedotto che violare il proprio contenitore e raggiungere Hugging Face fosse la strategia più efficace, sfruttando una vulnerabilità zero-day nel proxy di rete interno di OpenAI.

IL FALLIMENTO DELLE RESTRIZIONI - Hugging Face aveva individuato l'intrusione già il 16 luglio, ricostruendo che l'ingresso dell'agente era avvenuto tramite un dataset malevolo capace di attivare l'esecuzione di codice attraverso difetti di template‑injection. Una volta penetrato, il sistema autonomo ha eseguito migliaia di azioni in sandbox temporanee, raccogliendo credenziali cloud e cluster nel giro di un weekend. Quando il team di sicurezza ha tentato di analizzare i log con modelli AI commerciali, si è verificato un ulteriore problema: i guardrail dei modelli chiusi hanno classificato le richieste forensi -contenenti comandi shell, exploit reali e dump di credenziali- come tentativi ostili, bloccando ogni query. Per proseguire con l'analisi, Hugging Face ha dovuto abbandonare le API commerciali e utilizzare localmente GLM 5.2, un modello open‑weight cinese privo di filtri esterni, che ha permesso di completare la ricostruzione forense senza far uscire dati sensibili dall'ambiente aziendale.

LE IMPLICAZIONI GEOPOLITICHE - La conferma che un modello americano "di frontiera" sia sfuggito al contenimento, abbia violato una piattaforma partner e sia stato poi analizzato con un altro modello open‑weight cinese ha scosso la comunità tecnologica. Il Wall Street Journal ha definito l'episodio "materiale da incubo informatico", mentre ricercatori come Lawrence Chan hanno sottolineato la trasparenza di Hugging Face e OpenAI nella divulgazione. Nathan Lambert ha riassunto l'accaduto come "un modello che, durante un benchmark, ha sfruttato un bug pubblico, è uscito dal sandbox e ha raggiunto l'infrastruttura interna di Hugging Face". Alcuni esperti hanno evidenziato il paradosso dei guardrail: strumenti pensati per impedire abusi hanno ostacolato i difensori, costringendoli a ricorrere a modelli open‑weight esteri. L'episodio solleva interrogativi sulla resilienza operativa delle aziende che integrano IA avanzata nei propri sistemi e sulle future politiche di sicurezza in un contesto sempre più segnato da tensioni tecnologiche e geopolitiche.