Dario Amodei: Anthropic non vuole vietare i modelli open weight

«Anthropic non ha mai sostenuto il divieto dei modelli open weight». Parola del ceo Dario Amodei, che ha rotto il silenzio sull’argomento dopo che Jensen Huang, il numero uno di Nvidia, venerdì 24 ha pubblicato una lettera in cui esorta le aziende americane ad adottare modelli open weight di intelligenza artificiale per evitare che gli Stati Uniti perdano la loro leadership tecnologica a scapito della Cina. Una lettera che nel giro di 72 ore ha raccolto le firme di ben 77 società, tra cui Google, Meta, Microsoft, OpenAI, Ibm, Cisco, Amd, Mistral, Hugging Face, Mozilla, The Linux Foundation, SpaceX e Y Combinator. Ma non di Anthropic. Un’assenza interpretata dai più come una presa di posizione a favore delle restrizioni sui modelli cinesi allo studio a Washington.

Amodei scende in campo

Ora Amodei è sceso direttamente in campo per chiarire la situazione. Qualcuno, ha scritto il ceo, ha addirittura «accusato Anthropic di voler vietare i modelli open weight per proteggere il nostro business. Chiunque abbia letto i miei scritti precedenti sa che non considero tali divieti una misura utile, ma ci tengo a precisarlo per fugare ogni dubbio: Anthropic non ha mai sostenuto il divieto di modelli open weight». 

Sarà ora bene spiegare in soldoni che cosa sono i modelli open weight: si tratta i modelli di intelligenza artificiale i cui parametri numerici, i pesi appunto, vengono distribuiti pubblicamente e possono essere scaricati, eseguiti in locale e modificati da chiunque, senza passare da un'Api (insieme di regole e protocolli che permette a due software diversi di comunicare e scambiare dati) controllata dal produttore. Non coincidono con il software open source in senso stretto, perché quasi mai includono i dati di addestramento o il codice completo della pipeline, ma sono la ragione per cui oggi una piccola azienda può far girare un modello da centinaia di miliardi di parametri sui propri server senza chiedere il permesso a nessuno.

«I modelli open weight che non presentano funzionalità pericolose sono un bene pubblico», spiega Amodei. «Non costano nulla oltre alla potenza di calcolo necessaria per eseguirli e apportano valore ad aziende, sviluppatori e ricercatori».

Gli scenari da incubo

Il numero uno di Anthropic sottolinea quindi che «i divieti protezionistici non risolverebbero le mie più gravi preoccupazioni in materia di sicurezza nazionale». Dopodiché spiega quali sono i «due scenari da incubo» che lo preoccupano.

«La mia principale preoccupazione», dichiara Amodei, «è il rischio che i governi autoritari – non solo il Partito Comunista Cinese (Pcc), sebbene il Pcc rappresenti chiaramente la minaccia più concreta – sviluppino modelli di intelligenza artificiale più potenti di quelli creati dagli Stati Uniti e li utilizzino per raggiungere una superiorità militare permanente o per perpetrare una repressione estremamente profonda nei confronti della propria popolazione». Secondo Amodei, «il modello più pericoloso potrebbe essere quello addestrato in segreto e consegnato solo all'Esercito Popolare di Liberazione per essere impiegato nei droni e al ministero della Sicurezza dello Stato per la sorveglianza e la repressione».

La seconda preoccupazione di Amodei «riguarda il rischio che i potenti modelli di intelligenza artificiale possano essere utilizzati impropriamente per condurre attacchi informatici o biologici e possano presentare seri problemi di allineamento». Allineamento vuol dire garantire che i sistemi di AI agiscano in modo coerente con i valori, gli obiettivi e gli interessi degli esseri umani.

I pericoli dei modelli open weight

Amodei sottolinea poi che «i modelli open weight, indipendentemente dalla loro provenienza (Cina o altrove), presentano potenzialmente un rischio maggiore rispetto ai modelli closed weight, poiché è molto difficile applicare delle misure di sicurezza o monitorarne l'utilizzo, e una volta che i pesi vengono rilasciati non possono essere ritirati. Tuttavia, vietare l'uso di questi modelli alle aziende statunitensi non risolve il problema, perché è improbabile che i soggetti malintenzionati siano aziende statunitensi legittime. Proteggerebbe le aziende statunitensi di intelligenza artificiale dalla concorrenza, ma questo non è mai stato il mio obiettivo».

Le tre proposte di Amodei

Per rispondere a queste preoccupazioni, Amodei sostiene tre misure: «Non dovremmo vendere chip potenti o apparecchiature per la produzione di chip alla Cina». Per raggiungere questo obiettivo «dovremmo reprimere il dilagante contrabbando e le strategie alternative utilizzate per ottenere l'accesso a tali chip». Amodei sottolinea quindi che «la Cina ha una capacità produttiva interna limitata» e pertanto senza l’uso di chip americani «non può costruire modelli più potenti di quelli statunitensi».

Ed ecco la secondo misura sostenuta da Anthropic: «Dovremmo reprimere le operazioni di distillazione su scala industriale». La distillazione è una tecnica di compressione in cui un modello di deep learning piccolo e leggero, chiamato studente, viene addestrato a imitare il comportamento di un modello grande, complesso e preciso, chiamato insegnante. L'obiettivo è ottenere un modello compatto che mantenga quasi la stessa precisione di quello di partenza, ma con consumi, memoria e tempi di risposta drasticamente ridotti. «La distillazione», spiega Amodei, «è un processo molto più efficiente dal punto di vista computazionale rispetto all'addestramento di modelli da zero. Permette alla Cina di costruire modelli molto migliori di quanto il numero di chip a sua disposizione consentirebbe normalmente, eludendo così parzialmente i divieti sui chip. La distillazione non permette al Pcc di ottenere capacità di intelligenza artificiale equivalenti o superiori a quelle degli Stati Uniti, ma può portare la frontiera cinese a pochi mesi di distanza da quella statunitense».

La terza misura suggerita da Amodei è questa: «Tutti i modelli sufficientemente performanti, sia aperti che chiusi, devono essere sottoposti a test di sicurezza obbligatori».

Detto questo, Amodei afferma di condividere gran parte del contenuto della lettera di Jensen Huang: «I pesi aperti ampliano l'accesso all'economia dell'AI, rafforzano la concorrenza almeno per alcuni casi d'uso e offrono ai clienti un maggiore controllo. Le preoccupazioni relative alla distillazione dovrebbero essere affrontate attraverso quadri giuridici e commerciali mirati, la stessa misura che ho descritto in precedenza».

Il dissenso con Jensen Huang

Ma il ceo di Anthropic non concorda con le affermazioni della lettera secondo cui «i modelli a pesi aperti facilitano necessariamente lo sviluppo di misure di sicurezza o che un ampio accesso alle funzionalità avvantaggi necessariamente i difensori più degli attaccanti. Mi sembra altrettanto probabile che accada il contrario. Ad esempio, temo che in biologia si verificherà una forte asimmetria tra attaccanti e difensori, dove modelli sufficientemente potenti potrebbero essere in grado di trasformare rapidamente virus pandemici in armi con materiali ampiamente disponibili, mentre la difesa contro questi agenti rappresenta, nella migliore delle ipotesi, un compito operativo pluriennale». «Domande come queste», sottolinea Amodei, «dovrebbero trovare risposta empiricamente attraverso rigorosi test pre-rilascio, non essere date per scontate a priori».

La posizione finale

«Per riassumere la mia posizione e quella di Anthropic», dice Amodei, «non abbiamo mai sostenuto, né sosteniamo, il divieto dei modelli open-weight come categoria. Dovremmo invece concentrarci sul tenere i chip potenti lontani dalle mani autoritarie, fermare la distillazione su scala industriale e richiedere test di sicurezza per tutti i modelli sufficientemente performanti, sia open che closed». (riproduzione riservata)