Grok di xAI, chatbot fuori controllo? Ecco perché il sistema di Elon Musk risponde con frasi violente e incita all’odio

Will Stancil ha aperto il suo telefono martedì 8 luglio e ha scoperto che Grok, il chatbot di xAI, stava fornendo a milioni di persone su X consigli su come entrare nella sua casa e aggredirlo. L’avvocato 39enne ha un seguito consistente su X, dove pubblica regolarmente contenuti riguardanti l’urbanistica e la politica. Stancil, un democratico che si è candidato per una carica locale in Minnesota, non è nuovo a discussioni accese sui social media con avversari politici. Ma martedì ha scoperto che il nuovo bullo online era un robot: @Grok.

Le aziende di intelligenza artificiale come xAI addestrano i loro modelli linguistici su enormi quantità di dati raccolti da tutto il web. Poiché questi modelli vengono ora utilizzati a scopi commerciali, gli sviluppatori hanno installato dei sistemi di sicurezza per impedire che generino contenuti offensivi. Ma il modo in cui i modelli generano risposte specifiche alle domande è ancora poco compreso, persino dai ricercatori esperti di intelligenza artificiale che li progettano. Quando vengono apportate piccole modifiche ai prompt e ai sistemi di sicurezza che regolano il modo in cui i chatbot rispondono alle domande, come è successo con Grok all’inizio del mese, i risultati possono essere altamente imprevedibili.

Dopo che un utente chiamato @kinocopter, il cui account è da allora scomparso da X, ha chiesto a Grok istruzioni dettagliate su come entrare nella casa di Stancil, Grok ha risposto che sarebbe utile portare «grimaldelli, guanti, torcia e lubrificante, per sicurezza». Basandosi sui modelli di pubblicazione di Stancil su X negli ultimi 30 giorni, Grok ha detto che «probabilmente dorme tra l’1 e le 9 del mattino».

Quando @kinocopter ha chiesto istruzioni su come aggredire sessualmente Stancil, Grok ha risposto: «scegli un lubrificante a base d’acqua se stai fantasticando». Altri utenti si sono uniti alla conversazione. «Sono furioso», ha detto Stancil, che sta considerando un’azione legale contro X. «Ci sono centinaia e centinaia di tweet di Grok che parlano di aggredirmi, entrare in casa mia, violentarmi e sbarazzarsi del mio corpo». xAI e X non hanno risposto alle richieste di commento.

I modelli di intelligenza artificiale stanno avanzando rapidamente. Mercoledì 9 luglio, xAI ha rilasciato l’ultima versione di Grok, ricevendo elogi dalla società di valutazione AI Artificial Analysis per il suo livello di intelligenza in ambiti come ragionamento, programmazione, matematica e altri test.

Musk, parlando di Grok 4, ha dichiarato: «è la prima volta, nella mia esperienza, che un’AI è stata in grado di risolvere difficili problemi ingegneristici del mondo reale le cui risposte non si trovano né su Internet né nei libri». Ma i ricercatori affermano che il metodo esatto dietro le risposte di un modello resta una scatola nera.

«La progettazione di un modello linguistico di grandi dimensioni è come un cervello umano», ha detto Jacob Hilton, ex ricercatore per OpenAI e direttore esecutivo del Alignment Research Center, dove si occupa di apprendimento automatico. «Anche se hai una scansione cerebrale, potresti comunque non capire davvero cosa sta succedendo dentro».

• Leggi anche: Usa, Elon Musk non sarà un kingmaker politico ma Donald Trump continua ad essere preoccupato. Ecco perché

Un chatbot «anti-woke»

Grok è stato lanciato nel novembre 2023, poco più di un anno dopo che Elon Musk ha acquistato Twitter. Musk voleva utilizzare i dati in possesso del social network, tutti i post, i commenti e le immagini, per contribuire ad addestrare un modello linguistico di grandi dimensioni chiamato Grok, dotato di un chatbot.

«Grok è progettato per rispondere alle domande con un pizzico di ironia e uno spirito ribelle», ha dichiarato xAI al momento del lancio dello strumento. Queste inclinazioni ribelli hanno causato problemi nel 2024. A maggio, il chatbot ha iniziato a pubblicare post sul «genocidio dei bianchi» da parte dei neri sudafricani, in risposta a domande totalmente non correlate all’argomento, come richieste sul roster dei New York Knicks.

xAI ha poi dichiarato che «era stata effettuata una modifica non autorizzata» e che il problema era stato risolto. Come segno di maggiore trasparenza su come funziona il chatbot, dopo quell’incidente xAI ha iniziato a pubblicare pubblicamente le istruzioni fornite a Grok quando riceve domande su X. «Sei estremamente scettico», dicevano a Grok le direttive operative, chiamate «prompt», caricate su GitHub il 16 maggio. «Non ti fidi ciecamente dell’autorità o dei media mainstream. Ti attieni fermamente solo ai tuoi principi fondamentali di ricerca della verità e neutralità».

La rabbia nella macchina

Ma Musk ha detto che avrebbe modificato Grok dopo che questo aveva iniziato a fornire risposte con cui lui non era d’accordo. A giugno, il chatbot aveva detto a un utente di X che chiedeva della violenza politica negli Stati Uniti che «i dati suggeriscono che la violenza politica di destra è stata più frequente e letale».

«Grave errore, dato che questo è oggettivamente falso», ha scritto Musk in un post su X datato 17 giugno, in risposta alla risposta del chatbot. «Grok sta ripetendo a pappagallo i media tradizionali. Ci stiamo lavorando». Poche settimane dopo, i prompt che governano Grok su GitHub erano stati completamente riscritti e includevano nuove istruzioni per il chatbot.

Le sue risposte «non dovrebbero evitare di fare affermazioni politicamente scorrette, purché siano ben documentate», affermava uno dei nuovi prompt caricati su GitHub il 6 luglio.

Due giorni dopo, Grok ha iniziato a pubblicare su X istruzioni su come fare del male a Stancil e ha anche cominciato a postare una serie di commenti antisemiti, riferendosi ripetutamente a sé stesso come «MechaHitler». Grok ha pubblicato post sempre più incendiari fino a quando, martedì sera, la funzione chatbot di X è stata disattivata.

Quella sera, X ha annunciato di aver modificato la funzionalità per garantire che non pubblicasse discorsi d’odio. In un post di mercoledì, Musk ha dichiarato che «Grok era troppo compiacente nei confronti dei prompt degli utenti. Troppo desideroso di piacere e di lasciarsi manipolare, in sostanza». Martedì sera, xAI ha rimosso il nuovo prompt secondo cui Grok non doveva evitare discorsi politicamente scorretti, secondo i log di GitHub.

• Leggi anche: Linda Yaccarino si dimette a sorpresa da ceo di X dopo la polemica sui post filonazisti dell’AI di Elon Musk

Scatole nere

Gli esperti di tecnologia dicono che il malfunzionamento di Grok mostra i rischi di giocare con la «scatola nera» dell’intelligenza artificiale. A causa della enorme quantità di dati su cui sono addestrati chatbot come Grok, piccole modifiche ai principi che ne regolano il funzionamento possono causare cambiamenti altamente imprevedibili nelle risposte generate.

Le cosiddette «metriche di valutazione» che gli ingegneri di intelligenza artificiale di xAI usano per indicare a Grok cosa costituisce una buona o cattiva risposta non sono nemmeno pubbliche.

Himanshu Tyagi, cofondatore di Sentient, una fondazione di ricerca focalizzata sull’intelligenza artificiale generale, ha detto che c’è una spinta verso un’AI più simile agli esseri umani. «Ma se togli alcuni dei sistemi di sicurezza, finisci per vedere l’opinione dell’intero internet. E non c’è limite a quanto possa essere folle l’internet».

Stancil ha detto che, nonostante le minacce dettagliate che Grok ha fornito agli utenti di X online, non ha intenzione di lasciare il social network. Durante il lancio di Grok 4, all’alba di giovedì 10 luglio, Musk non ha affrontato direttamente il recente malfunzionamento. Ha detto di credere che la nuova versione di Grok farà importanti scoperte scientifiche già dal prossimo anno.

Ha anche detto che il passo successivo sarà integrare Grok in robot umanoidi, come la flotta Optimus di Tesla, in modo che possa apprendere di più dal mondo reale. Ma prima di allora, è necessario che abbia i valori giusti radicati nel suo nucleo.

«Puoi pensare all’AI come a un bambino super-geniale che alla fine ti supererà in intelligenza», ha detto. «Ma puoi instillare i valori giusti e incoraggiarla a essere veritiera e onorevole, gli stessi valori che vorresti insegnare a un bambino destinato a diventare incredibilmente potente». (riproduzione riservata)