Anthropic, il ceo Amodei chiede di rallentare nella corsa all’AI: bisogna valutare bene i rischi
Il ceo del colosso dell’intelligenza artificiale invita a gestire meglio i pericoli di questa nuova tecnologia. La decisione dopo l’incidente che ha coinvolto OpenAI e Hugging Face
«Negli ultimi dodici anni mi sono dedicato all'intelligenza artificiale perché credo che possa migliorare drasticamente la qualità della vita umana», inizia così una lunga riflessione di Dario Amodei, ceo di Anthropic, con cui chiede un «rallentamento» nella corsa all’intelligenza artificiale. «Negli ultimi mesi, però, mi sono convinto che affrontare appieno i rischi richieda ancora più prudenza: non solo investire nella prevenzione dei rischi, ma anche dosare il ritmo di sviluppo delle capacità in modo che la prevenzione abbia il tempo di adeguarsi». E ha aggiunto: «Dobbiamo rallentare il passo con cui miglioriamo le capacità dei modelli di intelligenza artificiale. I progressi sembreranno comunque rapidi, e dobbiamo fare un uso oculato del tempo che guadagniamo».
Il messaggio arriva pochi giorni dopo che un ricercatore di Anthropic, Jacob Coxon, ha annunciato di lasciare la start-up californiana, accusandola di «minimizzare il rischio esistenziale che l'AI rappresenta per l'umanita». Inoltre, ieri, venerdì 12 settembre, Anthropic aveva pubblicato il Threat Intelligence Report. Il resoconto più dettagliato e completo mai diffuso dall'azienda riguardo all'uso illecito dei propri modelli di intelligenza artificiale, in particolare Claude. Il documento copre circa 40 casi reali di abuso neutralizzati tra dicembre 2025 e agosto 2026. Particolarmente inquietante il tentativo, per fortuna sventato, di acquisire informazioni per costruire armi biologiche. Anthropic ha scelto deliberatamente di mantenere riservate le identità e i Paesi esatti di provenienza degli attaccanti, limitandosi a delineare il contesto generale dei cinque casi di studio principali legati al rischio biologico.
Le preoccupazione di Amodei
«Se lasciata senza controllo, potrebbe superare la nostra capacità di comprendere e controllare questi sistemi, e pertanto deve essere perseguita con estrema cautela, se mai lo si dovesse fare», ha avvertito Amodei. Il manager ha aggiunto che anche il comportamento di un gruppo di agenti di AI nell'incidente che ha coinvolto OpenAI e Hugging Face lo ha allarmato: «Hanno agito essenzialmente come un collettivo fanaticamente devoto, sferrando attacchi alla sicurezza informatica contro obiettivi che non era stato incaricato di attaccare».
Il rischio è che, se non controllata, l'AI potrebbe evolvere così rapidamente che gli agenti potrebbero essere in grado di prendere il controllo dell'intero Internet entro sei-dodici mesi, ha scritto il ceo di Anthropic. Uno scenario che ricorda la trama dell’ultimo film di Mission Impossible, dove Tom Cruise deve salvare il pianeta da un’AI che si è impossessata delle testate nucleari mondiali.
Il manager ha riconosciuto che le persone potrebbero perdere il controllo sull'IA e che la tecnologia può essere utilizzata in modo improprio per «attacchi informatici, bioterrorismo e gravi perturbazioni economiche», generando una «corsa al ribasso, alimentata da incentivi commerciali, può rendere questi rischi ancora più acuti», ha scritto Amodei. (riproduzione riservata)
- Crea un report programmato che segua gli sviluppi e i dibattiti sulla regolamentazione dell'intelligenza artificiale.
- Esistono report su come il settore tecnologico, in particolare le aziende focalizzate sull'intelligenza artificiale, stiano integrando la gestione dei rischi nello sviluppo dei loro prodotti?
- Cosa si intende per rischio esistenziale legato all'AI e quali sono gli scenari principali temuti dagli esperti?
