Amodei replica a Huang sull'AI

«Anthropic non ha mai sostenuto il divieto dei modelli open weight». Parola del ceo Dario Amodei, che ha rotto il silenzio sull'argomento dopo che Jensen Huang, il numero uno di Nvidia, venerdì 24 ha pubblicato una lettera in cui esorta le aziende americane ad adottare modelli open weight di intelligenza artificiale per evitare che gli Stati Uniti perdano la loro leadership tecnologica a scapito della Cina. Una lettera che nel giro di 72 ore ha raccolto le firme di ben 77 società, compresi colossi come Google, Meta, Microsoft, OpenAI e SpaceX. Ma non di Anthropic. Un'assenza interpretata dai più come una presa di posizione a favore delle restrizioni sui modelli cinesi allo studio a Washington.

Ieri Amodei è sceso direttamente in campo per chiarire la situazione: qualcuno, ha scritto il ceo, ha «accusato Anthropic di voler vietare i modelli open weight per proteggere il nostro business». «Ci tengo a precisarlo per fugare ogni dubbio: Anthropic», ha proclamato Amodei, «non ha mai sostenuto il divieto di modelli open weight». Tali modelli consentono a una piccola azienda di far girare un modello da centinaia di miliardi di parametri sui propri server senza chiedere il permesso a nessuno.

Amodei dice di essere preoccupato da due scenari da incubo. Il primo, spiega il ceo di Anthropic, è «il rischio che i governi autoritari – non solo il Partito Comunista Cinese (Pcc), sebbene il Pcc rappresenti chiaramente la minaccia più concreta – sviluppino modelli di intelligenza artificiale più potenti di quelli creati dagli Stati Uniti e li utilizzino per raggiungere una superiorità militare permanente o per perpetrare una repressione estremamente profonda nei confronti della propria popolazione». Il secondo «riguarda il rischio che i potenti modelli di intelligenza artificiale possano essere utilizzati impropriamente per condurre attacchi informatici o biologici e possano presentare seri problemi di allineamento». Allineamento vuol dire garantire che i sistemi di AI agiscano in modo coerente con i valori, gli obiettivi e gli interessi degli esseri umani.

Per rispondere a queste preoccupazioni, Amodei sostiene tre misure: «Non dovremmo vendere chip potenti o apparecchiature per la produzione di chip alla Cina». Per raggiungere questo obiettivo «dovremmo reprimere il dilagante contrabbando e le strategie alternative utilizzate per ottenere l'accesso a tali chip». Amodei sottolinea quindi che «la Cina ha una capacità produttiva interna limitata» e pertanto senza l'uso di chip americani «non può costruire modelli più potenti di quelli statunitensi».

La secondo misura sostenuta da Anthropic è questa: «Dovremmo reprimere le operazioni di distillazione su scala industriale». La distillazione è una tecnica di compressione in cui un modello di deep learning piccolo e leggero, chiamato studente, viene addestrato a imitare il comportamento di un modello grande, complesso e preciso, chiamato insegnante. L'obiettivo è ottenere un modello compatto che mantenga quasi la stessa precisione di quello di partenza, ma con consumi, memoria e tempi di risposta drasticamente ridotti.

Ed ecco la terza misura suggerita da Amodei: «Tutti i modelli sufficientemente performanti, sia aperti che chiusi, devono essere sottoposti a test di sicurezza obbligatori».

Amodei dice infine di non concordare con le affermazioni del numero uno di Nvidia secondo cui «i modelli a pesi aperti facilitano necessariamente lo sviluppo di misure di sicurezza o che un ampio accesso alle funzionalità avvantaggi necessariamente i difensori più degli attaccanti. Mi sembra altrettanto probabile che accada il contrario». (riproduzione riservata)