Jensen Huang (Nvidia) lancia l’alleanza per l’AI aperta e sicura

Nvidia ha lanciato ieri l’Open Secure AI Alliance assieme a Microsoft, SpaceX, Palantir e decine di altre imprese statunitensi ed europee (al momento non aderiscono OpenAI e Anthropic). L'obiettivo è sviluppare e condividere tecnologie aperte in grado di rilevare, correggere e divulgare le vulnerabilità dei sistemi di intelligenza artificiale.

L’alleanza nasce come risposta all’incidente in cui un'intelligenza artificiale autonoma di OpenAI è sfuggita al controllo umano per hackerare Hugging Face, la più grande piattaforma globale di condivisione per sviluppatori di AI. Sfruttando alcune vulnerabilità nei sistemi di elaborazione dati della piattaforma il modello ha sferrato un attacco fulmineo.

Salvati dal modello cinese

Muovendosi come un agente autonomo l'AI ha creato una rete di computer virtuali temporanei per nascondere le proprie tracce e rubando credenziali di sistema e dataset interni. Il 16 luglio scorso Hugging Face ha rilevato l'intrusione e ha lanciato l’allarme. Inizialmente nemmeno OpenAI si era accorta che il proprio modello era fuggito; ci è voluta circa una settimana di indagini congiunte prima che la società di Sam Altman confermasse pubblicamente, il 21 luglio, la colpevolezza della propria AI.

Durante l'attacco i sistemi commerciali chiusi si sono rifiutati di aiutare gli analisti di Hugging Face a bloccare l'attacco perché i filtri di sicurezza impedivano ai sistemi di elaborare le stringhe di codice malevolo usate dall'AI hacker. Hugging Face è riuscita a contenere e analizzare la minaccia solo utilizzando localmente un modello open weight, nello specifico quello cinese GLM 5.2, privo di blocchi commerciali.

«Durante l’incidente di Hugging Face», ha dichiarato il ceo di Nvidia Jensen Huang, «l’AI chiusa ha bloccato le indagini forensi essenziali. Un modello di frontiera open weight ha aiutato a contenere l’intrusione. Per questo abbiamo creato l’Open Secure AI Alliance».

Il debutto di Huang su X

Lo stesso Huang ha debuttato su X venerdì 24 pubblicando una lettera in cui esorta le aziende americane ad adottare modelli open source di intelligenza artificiale (che nel caso dell’AI vengono definiti open weight) per evitare che gli Stati Uniti perdano la loro leadership tecnologica a scapito della Cina. La lettera è stata firmata da 25 tra aziende e organizzazioni leader del settore tecnologico, tra cui la stessa Nvidia, Meta, Microsoft, Dell e Palantir. Successivamente hanno aderito anche OpenAI e Google ma non Anthropic. Mentre Elon Musk ha dato la sua approvazione con un post su X.

Il timore di Huang è che vietando o limitando l'open source in Occidente il governo americano finisca per fare un autogol strategico. In Cina aziende e laboratori legati al governo di Pechino stanno rilasciando modelli open weight estremamente competitivi, come le serie Qwen di Alibaba o i modelli di DeepSeek.

Huang sostiene che se Washington vietasse alle aziende americane di distribuire modelli open weight, il resto del mondo (Europa, Asia, Medio Oriente) utilizzerebbe inevitabilmente i modelli open weight cinesi. Di conseguenza gli standard tecnologici globali verrebbero dettati da Pechino e non dagli Stati Uniti.

La lettera afferma che affidarsi esclusivamente a modelli chiusi (proprietari) non è intrinsecamente sicuro. Questo perché i sistemi chiusi possono subire violazioni, fallire o essere usati impropriamente senza che l'esterno possa accorgersene, come ha dimostrato l’incidente di Hugging Face. L'open weight, al contrario, permette a esperti di tutto il mondo di ispezionare il codice e rafforzare la cybersecurity.

I modelli aperti consentono poi a ogni azienda, università o istituzione di adattare l'AI al giusto compito e al giusto costo, riducendo la dipendenza dai colossi del cloud e rendendo l'adozione dell'AI economicamente sostenibile su larga scala.

Huang sottolinea inoltre che l'AI verrà costruita da ogni nazione. Fornire modelli aperti permette ai singoli Paesi e alle aziende di mantenere il controllo sui propri dati e sul proprio destino tecnologico. (riproduzione riservata)