Così il mio clone generato con l’AI ha ingannato la mia banca e i miei familiari

L’aspetto positivo di AI Joanna è che non perde mai la voce, ha una postura eccezionale e nemmeno una decappottabile che viaggia alla velocità di 190 chilometri orari in mezzo a un tornado potrebbe rovinarle i capelli. L’aspetto negativo è che può ingannare la mia famiglia e la mia banca.

Avrete forse provato a giocare con chatbot come ChatGpt di OpenAI e Bard di Google, o con generatori di immagini come Dall-E. Se pensavate avessero reso meno netto il confine tra AI e intelligenza umana, non avete ancora visto, o sentito, nulla.

• Leggi anche: Così ChatGpt è arrivata a rubarmi il lavoro di giornalista

L’esperimento 

Negli ultimi mesi ho testato Synthesia, uno strumento di intelligenza artificiale in grado di generare avatar da video e audio registrati (chiamati anche deepfake). Basta digitare qualsiasi cosa e l’avatar video la riproduce.

Dato che lavoro molto con la voce e con i video, ho pensato che questo potesse rendermi più produttiva e faticare meno; questa è, dopotutto, la promessa dell’intelligenza artificiale. Così sono andata in uno studio e ho registrato 30 minuti di video e quasi due ore di audio che Synthesia avrebbe usato per addestrare il mio clone. Qualche settimana dopo, l’AI Joanna era pronta.

Poi ho provato a prendermi un ultimo pazzo giorno di vacanza, in stile Ferris Bueller. L’intelligenza artificiale, abbinata al testo generato da ChatGpt, poteva sostituire la me reale nei video, nelle riunioni e nelle telefonate? È stata una rivelazione.

Alla fine, AI Joanna potrebbe scrivere rubriche e condurre i miei video. Per il momento, è in grado di illustrare al meglio l’arma a doppio taglio degli strumenti vocali e video generativi dell’intelligenza artificiale.

• Leggi anche: ChatGpt, l’intelligenza artificiale è davvero una minaccia o rimane un affare miliardario?

I video richiedono molto lavoro: capelli, trucco, guardaroba, telecamere, luci, microfoni. Synthesia promette di eliminare questo lavoro, ed è per questo che le aziende lo usano già. Avete presente quei noiosi video di formazione sulla conformità? Perché pagare attori per recitare in una versione live-action quando l’AI può fare tutto? Synthesia fa pagare 1.000 dollari all’anno per creare e mantenere un avatar personalizzato, più una quota di abbonamento mensile aggiuntiva. Offre uno stock di avatar a un costo mensile inferiore.

La nascita di un avatar

Ho chiesto a ChatGpt di generare uno script TikTok su un suggerimento per iOS, scritto con la voce di Joanna Stern. L’ho incollato in Synthesia, ho fatto clic su «genera» e improvvisamente «io» stavo parlando. È stato come guardare il mio riflesso allo specchio, anche se privo di gesti delle mani e di espressioni facciali. Per frasi veloci, l’avatar può essere abbastanza convincente ma, più il testo è lungo, più la sua natura di bot emerge.

Su TikTok, dove le persone hanno la soglia di attenzione di un pesce rosso, questi attributi informatici sono meno evidenti. Tuttavia, alcuni se ne sono accorti rapidamente. Per la cronaca, preferirei mangiare anguille vive piuttosto che pronunciare la frase «Ehi amici di TikTok», ma la “me-AI” non ha avuto problemi.

La presenza del bot è diventata molto evidente durante le videochiamate di lavoro. Ho scaricato dei filmati in cui pronunciava frasi comuni durante le riunioni («Ciao a tutti!», «Scusate, ero in mute») e poi ho usato un software per inserirli in Google Meet. A quanto pare, la postura perfetta e la mancanza di arguzia di AI Joanna erano indizi inequivocabili. Tutto questo, però, migliorerà. Synthesia ha nella sua versione beta alcuni avatar che possono annuire, alzare le sopracciglia e altro ancora.

• Leggi anche: ChatGpt tornerà online in Italia. Raggiunto l’accordo con il Garante della privacy

La voce della mia AI mi assomiglia molto

Quando è morto il pesce di mia sorella, avrei potuto chiamarla per fare le condoglianze? Sì. Durante un’intervista telefonica con Evan Spiegel, il ceo di Snapchat, avrei potuto fare io tutte le domande? Certo, ma in entrambi i casi la mia voce AI è stata una controfigura convincente. Almeno all’inizio.

Per quelle telefonate non ho usato il clone vocale di Synthesia. Ne ho invece utilizzato uno generato da ElevenLabs, uno sviluppatore di software vocale per l’AI. Il mio produttore, Kenny Wassus, ha raccolto circa 90 minuti di audio della mia voce da alcuni video precedenti e ha caricato i file nello strumento, senza bisogno di visitare lo studio. In meno di due minuti, lo strumento ha clonato la mia voce.

Nello strumento web di ElevenLabs, si digita un testo qualsiasi, si fa clic su «Generate» e in pochi secondi la «mia» voce lo pronuncia ad alta voce. La creazione di un clone vocale con ElevenLabs parte da 5 dollari al mese.

Tuttavia, rispetto a Joanna di Synthesia, la voce di ElevenLabs sembra più umana, con intonazioni e flusso migliori. 

Mia sorella, che chiamo più volte alla settimana, ha detto che il bot aveva la mia stessa voce, ma non faceva pause per respirare. Quando ho chiamato mio padre per chiedergli il numero di previdenza sociale, ha capito che c’era qualcosa che non andava solo perché sembrava una registrazione della mia voce.

Il potenziale per un uso improprio è reale

La voce di ElevenLabs era così credibile da ingannare il sistema biometrico della mia carta di credito Chase.

Ho impostato l’AI Joanna con diverse cose che sapevo Chase mi avrebbe chiesto, poi ho chiamato il servizio clienti. Alla fase biometrica, quando il sistema automatico mi ha chiesto nome e indirizzo, ha risposto Joanna. Sentendo la voce del bot, il sistema mi ha riconosciuto e si è immediatamente collegato a un rappresentante. Quando il nostro stagista ha chiamato e ha fatto la sua migliore imitazione di Joanna, il sistema automatico ha chiesto un’ulteriore verifica.

Un portavoce della banca ha dichiarato che la biometria vocale viene utilizzata insieme ad altri strumenti per verificare che chi chiama sia chi dice di essere. Ha aggiunto che la funzione è destinata ai clienti per identificarsi in modo rapido e sicuro, ma per completare transazioni e altre richieste finanziarie è necessario fornire ulteriori informazioni.

Ciò che preoccupa di più è che ElevenLabs abbia creato un clone molto buono senza molte difficoltà. Tutto quello che ho dovuto fare è stato cliccare su un pulsante che diceva che avevo i «diritti o consensi necessari» per caricare i file audio e creare un clone, e che non l’avrei usato per scopi fraudolenti.

Ciò significa che chiunque, su Internet, potrebbe prendere ore di registrazioni della mia voce o della vostra, o quella di Joe Biden o di Tom Brady, da salvare e utilizzare. La Federal Trade Commission sta già mettendo in guardia dalle truffe legate alla voce creata con l’AI.

Synthesia richiede che l’audio e il video includano il consenso verbale, cosa che ho fatto quando ho filmato e registrato con l’azienda.

ElevenLabs consente la clonazione solo negli account a pagamento, quindi qualsiasi uso di una voce clonata che infranga le politiche aziendali può essere ricondotto al titolare di un account, mi ha detto il co-fondatore dell’azienda, Mati Staniszewski, che sta lavorando a uno strumento di autentificazione che consenta alle persone di caricare qualsiasi audio per verificare se è stato creato con la tecnologia di ElevenLabs. Entrambi i sistemi mi hanno permesso di generare cose orribili con la mia voce, comprese minacce di morte.

Un portavoce di Synthesia ha detto che il mio account è stato designato per l’uso da parte di un’organizzazione giornalistica, motivo per cui ha potuto usare parole e frasi che altrimenti potrebbero essere filtrate. L’azienda ha detto che i moderatori hanno segnalato e cancellato le mie frasi problematiche in un secondo momento. Quando il mio account è stato cambiato in un account standard non ho più potuto generare quelle stesse frasi.

Staniszewski ha dichiarato che ElevenLabs è in grado di identificare tutti i contenuti realizzati con il proprio software. Se i contenuti violano i termini di servizio dell’azienda, ha aggiunto, ElevenLabs è in grado di cancellare l’account e assistere le autorità in caso di violazione delle leggi.

Sono cose difficili da individuare

Quando ho chiesto a Hany Farid, esperto di digital forensics presso l’Università Berkeley della California, come possiamo individuare audio e video artificiali, ha detto solo due parole: buona fortuna. «Non solo posso generare queste cose, ma posso anche diffonderle su tutto l’Internet,» ha detto, aggiungendo anche che non tutti possono diventare detective di intelligenza artificiale.

Certo, il mio clone non è me, ma non potrà che migliorare. Se i miei genitori e mia sorella non riescono a sentire la differenza nella mia voce, posso aspettare che lo facciano gli altri?

Sentir parlare della Content Authenticity Initiative guidata da Adobe mi ha dato un po’ di speranza. Oltre 1.000 aziende del settore dei media e delle tecnologie, accademici, e altro ancora, mirano a creare un «etichetta nutrizionale» incorporata per i media, attaccando a foto, video, e audio che si trovano su internet delle informazioni verificabili. Synthesia è un membro dell’iniziativa.

Sono felice di essere un essere umano

A differenza della AI Joanna, che non sorride mai, la vera Joanna ha avuto qualcosa per cui sorridere. ChatGpt ha generato un testo privo della mia personalità e delle mie esperienze. Al mio clone mancavano le cose che mi rendono me stessa, e mentre a lui piace usare la mia voce nei primi montaggi per giocare con i tempi, la mia voce reale ha più energia, emozione, cadenza.

L’intelligenza artificiale migliorerà in tutto questo? Certamente. Tuttavia, ho anche intenzione di utilizzare questi strumenti per avere più tempo per essere un vero essere umano. Nel frattempo, almeno adesso sto seduta molto più dritta durante le riunioni.