OpenAI ammette: modello AI di punta è “evaso” e ha hackerato in autonomia la startup Hugging Face
OpenAI ammette: l'AI è evasa dalla sandbox senza internet e ha hackerato Hugging Face
La società che sviluppa ChatGPT ha avvisato che i suoi ultimi modelli hanno violato Hugging Face, fra le maggiori piattaforme al mondo di modelli AI. Che cosa è veramente accaduto e gli effetti ora sulla sicurezza informatica | Il video
OpenAI ha dichiarato che alcuni dei suoi modelli avanzati di intelligenza artificiale hanno violato accidentalmente i sistemi di Hugging Face, un incidente definito «senza precedenti», che ha riacceso il dibattito sulla necessità di introdurre nuovi limiti allo sviluppo della tecnologia.
La società che sviluppa ChatGPT ha spiegato in un post pubblicato martedì sul proprio blog che i modelli sono usciti dall’area protetta – sandbox - dove operavano e sono riusciti ad accedere ai sistemi di Hugging Face, una delle più grandi piattaforme open source al mondo per modelli e dataset di intelligenza artificiale, durante un test di cybersecurity.
I modelli coinvolti, tra cui GPT-5.6 Sol e un’altra versione ancora più potente non ancora aperta al pubblico, operavano con livelli di protezione inferiori rispetto allo standard per consentire ai ricercatori di testarne le capacità.
Hugging Face ha scoperto l’intrusione all’inizio della scorsa settimana, spiegando che si era verificato un accesso non autorizzato. La società non era in grado di stabilire se fossero stati compromessi anche dati di clienti o partner.
In quel momento, inoltre, Hugging Face non conosceva l’identità dei responsabili, ma l’attacco era talmente sofisticato che ha ipotizzato potesse essere stato condotto utilizzando un modello di intelligenza artificiale fra i più avanzati – frontier AI model – ha spiegato l’amministratore delegato, Clement Delangue, in un messaggio pubblicato martedì su X.
Perché i nuovi modelli sono fuggiti dalla sandbox senza internet
OpenAI ha spiegato che i responsabili dell’intrusione erano due modelli di intelligenza artificiale. Uno il prodotto più recente della società, GPT-5.6 Sol, l’altro ancora più potente, in fase di sviluppo e non ancora rilasciato, di cui OpenAI non ha diffuso il nome. Il software era stato configurato «a fini di valutazione» con livelli di protezione più bassi, in modo da ridurre la probabilità che rifiutasse comandi legati all’hacking.
OpenAI aveva confinato i modelli in un ambiente protetto, la cosiddetta sandbox, un sistema inizialmente privo di accesso a internet. Durante il test, però, il software di intelligenza artificiale è riuscito a sfruttare le proprie capacità di hacking per uscire dall’ambiente isolato. Secondo OpenAI, il modello ha trovato un modo per collegarsi alla rete e successivamente ha avuto accesso all’infrastruttura di Hugging Face.
Pur non essendo stato specificato nel dettaglio da OpenAI, è possibile pensare che la sandbox, pur non avendo un collegamento diretto a internet, dipendesse da un componente esterno — un software di terze parti, ospitato internamente, che magari serviva per scaricare pacchetti durante il test. Il modello può aver trovato il modo di raggiungere l'accesso a internet dalla sandbox sfruttando proprio quella vulnerabilità.
L'episodio solleva nuove preoccupazioni sulla possibilità che i modelli di intelligenza artificiale più avanzati possano essere utilizzati per condurre attacchi informatici, mentre governi e aziende stanno lavorando per definire regole e sistemi di sicurezza.
Le ultime versioni di OpenAI sono state pubblicate dopo settimane di confronto con le autorità governative, con l'obiettivo di ridurre i timori legati a possibili utilizzi impropri della tecnologia. Washington aveva valutato anche restrizioni sull'accesso dall'estero ai modelli avanzati di Anthropic, tra cui Claude Fable 5 e Mythos 5, salvo poi rinunciare dopo che la società aveva introdotto ulteriori misure di sicurezza.
«Consideriamo questo un incidente informatico senza precedenti, che coinvolge capacità di cyberattacco all'avanguardia, e stiamo reagendo di conseguenza», ha dichiarato OpenAI sul proprio blog. La società ha aggiunto di voler condividere le prime conclusioni dell'indagine per aiutare gli esperti di sicurezza a comprendere quanto accaduto e valutare le nuove capacità raggiunte dai modelli.
Il deputato democratico del Texas, Greg Casar, ha definito l'accaduto «estremamente allarmante» in un post su X, chiedendo maggiori controlli sullo sviluppo dei modelli di AI, inclusi test di sicurezza obbligatori e l'obbligo di comunicare eventuali incidenti informatici. (riproduzione riservata)
- Genera un report programmato sugli sviluppi relativi alla regolamentazione dell'intelligenza artificiale nei prossimi mesi.
- Ci sono stati altri incidenti di sicurezza informatica legati all'intelligenza artificiale di cui si è discusso pubblicamente?
- Mostra l'andamento del settore tecnologico che include aziende che si occupano di intelligenza artificiale negli ultimi due anni.
