L’intelligenza artificiale ucciderà tutti gli esseri umani?

«Oggi mi sono dimesso da Anthropic. Ho trascorso gli ultimi tre anni a occuparmi di ricerca sul pre-addestramento sia in OpenAI sia in Anthropic. Nessuna delle due aziende sta agendo in modo responsabile. Stanno correndo a tutta velocità verso una super intelligenza capace di auto-migliorarsi, mettendo a rischio le nostre vite». Postato su X martedì 8 settembre da Jacob Coxon, 27 anni, ricercatore. Il messaggio diventa virale in pochi minuti.

Fra i primi a dire la sua è Evan Hubinger, uno dei più eminenti scienziati di Anthropic, che su X scrive: «Crediamo davvero, e sinceramente, che l'AI possa uccidere tutti gli esseri umani! Personalmente ritengo che la probabilità sia superiore al 10% nel prossimo decennio». Nel giro di ventiquattr’ore Coxon viene intervistato dal Wall Street Journal e dalla Cnn e il suo post raggiunge numeri vertiginosi: 150 milioni di visualizzazioni.

La reazione di Huang (Nvidia)

«La fine dell'umanità, un’assurdità totale», ha commentato Jensen Huang nel corso di una conferenza organizzata da Goldman Sachs. Il ceo di Nvidia ha bollato le affermazioni di Coxon sui rischi catastrofici imminenti dell’AI come «profondamente false», suggerendo una lettura alternativa della vicenda. Huang ha infatti sostenuto che alimentare l'isteria e i timori apocalittici sull'AI sia in realtà una mossa commerciale che fa comodo al settore della cybersecurity per generare panico, creare il problema e di conseguenza stimolare una nuova e massiccia domanda di software di protezione.

Subito dopo la conferenza, la ricercatrice di OpenAI Jasmine Wang ha replicato sui social per difendere l'ex collega, dichiarando che le affermazioni di Coxon non sono affatto «ignoranti o arroganti» (come invece ha sostenuto Huang) e rivelando che una fetta consistente di scienziati all'interno dei laboratori condivide gli stessi identici timori sul ritmo insostenibile dello sviluppo tecnologico.

La proposta di Bernie Sanders

Con grande tempismo è comparso sugli schermi televisivi anche Bernie Sanders, il padre nobile dei Democratici di sinistra alla Alexandria Ocasio-Cortez, per illustrare la sua proposta di legge che ha l’obiettivo di vietare permanentemente lo sviluppo e il dispiegamento di sistemi di AI «super intelligenti», ovvero modelli in grado di superare le capacità umane o di eludere i comandi di spegnimento.

Sanders propone quindi uno stop forzato allo sviluppo dei modelli avanzati di frontiera fino a quando non saranno stabilite rigide regole di sicurezza federali; pene severissime, fino a 20 anni di carcere, per i dirigenti d'azienda che violano il divieto; l'istituzione di una nuova Agenzia federale con poteri di super visione drastici, inclusa la capacità di ordinare la distruzione di codici e infrastrutture considerati pericolose.

A dare manforte a Sanders è arrivato il governatore Democratico dell’Illinois JB Pritzker, aspirante candidato alla presidenza degli Stati Uniti per il 2028. Citando il post di Coxon, ha detto che è arrivato il momento di «lanciare l'allarme» sulla necessità di arginare l'intelligenza artificiale. «La minaccia che l’AI rappresenta per l'umanità», ha spiegato, «sta diventando sempre più evidente; per questo chiedo un intervento immediato da parte del settore e di Washington».

ll report di Anthropic

Per una coincidenza, che non tutti reputano causale, Anthropic ha pubblicato giovedì 10 un report intitolato Detecting and countering misuse of AI. Si tratta del resoconto più dettagliato e completo mai diffuso dall'azienda guidata da Dario Amodei riguardo all'uso illecito dei propri modelli di intelligenza artificiale, in particolare Claude.

Il documento copre circa 40 casi reali di abuso neutralizzati tra dicembre 2025 e agosto 2026 e mappa le violazioni bloccate in settori critici come attacchi informatici, campagne di disinformazione e propaganda, sorveglianza di dissidenti, truffe, tentativi di distillazione non autorizzata dei modelli e perfino lo sviluppo di armi convenzionali e biologiche. Particolarmente inquietante quest’ultimo capitolo. Anthropic ha scelto deliberatamente di mantenere riservate le identità e i Paesi esatti di provenienza degli attaccanti, limitandosi a delineare il contesto generale dei cinque casi di studio principali legati al rischio biologico.

Gli attori coinvolti non hanno chiesto direttamente a Claude «come creare un'arma biologica», ma hanno adottato tattiche sofisticate. I ricercatori hanno cercato di aggirare i filtri di sicurezza originari formulando domande tecniche altamente specifiche, frammentando le richieste e offuscando lo scopo finale dei loro studi per non far insospettire l'AI. In un caso specifico, Claude è stato utilizzato per ricevere assistenza nella stesura di una richiesta di finanziamento per la ricerca su un virus trasmesso dalle zanzare.

L'obiettivo degli attori malevoli era usare l'AI per colmare il divario di competenze tecniche e superare passaggi critici e complessi nella sintesi, ottimizzazione e ingegnerizzazione di virus, veleni e tossine ad alto potenziale pandemico.

Poiché la ricerca biologica legittima (come lo studio per la creazione di vaccini) condivide moltissimi passaggi tecnici con la creazione di armi batteriologiche, Anthropic si è trovata davanti a una forte ambiguità. Non potendo determinare con assoluta certezza se l'intento finale fosse accademico o distruttivo, l'azienda ha applicato una politica di tolleranza zero basata sul principio di precauzione.

Per i Repubblicani è tutto un complotto

Tutto bene quindi? Non proprio. Secondo David Sacks, grande amico di Elon Musk ed ex consigliere speciale della Casa Bianca per l'intelligenza artificiale e le criptovalute, «si è trattato di un’operazione mediatica ben orchestrata per spaventare il pubblico» e usare «una mano molto pesante nella regolamentazione governativa dell’AI».

Insomma, secondo gli ambienti vicini ai Repubblicani, dietro l'allarme apocalittico di Coxon ci sarebbero due secondi fini: spingere le persone a credere che l’AI diventerà inevitabilmente super intelligente e distruttiva, in modo da abituarle all'idea che il governo debba controllarla in modo totale; creare leggi severissime sulla sicurezza che solo colossi come Google, OpenAI e Anthropic potranno permettersi di rispettare, distruggendo la concorrenza dell'open source e delle startup più piccole. (riproduzione riservata)