Leggi dopo
Caricare foto su ChatGpt è davvero sicuro? I rischi nascosti e cosa non va dato per scontato
Gli utenti dell’AI danno per scontato un certo livello di privacy ma non possono prevedere come le immagini caricate verranno utilizzate
Le persone si rivolgono sempre più spesso ai chatbot di intelligenza artificiale non solo per domande scritte, ma anche per quelle visive, caricando foto per identificare un’eruzione cutanea, riconoscere una pianta in giardino o modificare una foto per il profilo LinkedIn.
Ma, man mano che le interazioni basate sulle immagini con l’intelligenza artificiale diventano più comuni, gli esperti di privacy avvertono che gli utenti potrebbero condividere più di quanto si rendano conto.
Le aziende di AI spesso presentano il caricamento di immagini come un input temporaneo. Tuttavia, ciò che accade a quelle immagini dopo la fine dell’interazione può essere molto meno chiaro. Esistono rischi legati al caricamento di immagini nell’AI, dovuti a vulnerabilità tecniche, a politiche incoerenti e poco trasparenti da parte delle aziende e agli usi futuri ancora sconosciuti.
«È importante evitare di caricare foto che volete essere sicuri che nessuno oltre a voi guardi mai», afferma Jacob Hoffman-Andrews, tecnologo senior della Electronic Frontier Foundation, un’organizzazione per i diritti digitali. Ma la realtà è che troppi utenti dell’AI (proprio come quelli di internet) danno per scontato un certo livello di privacy che in realtà potrebbe non esserci.
Più di quanto si vede
Hoffman-Andrews afferma che gli utenti dovrebbero considerare i chatbot di AI come un altro luogo in cui le proprie immagini vengono archiviate, simile a iCloud o Google Photos, ma con rischi aggiuntivi. Il più basilare di questi rischi è la sicurezza. Come per quelle altre piattaforme, i chatbot di AI possono essere hackerati e gli account degli utenti compromessi.
Ma non si tratta solo di questo. Le stesse aziende di AI hanno accesso ai dati e alle immagini degli utenti. Per valutare le prestazioni dei propri modelli, le aziende di AI esaminano regolarmente un campione delle interazioni degli utenti, comprese quelle che contengono foto caricate. Questo processo è noto come «supervisione con l’uomo nel ciclo» (human-in-the-loop oversight). Ciò significa che, anche se un utente elimina una conversazione con un chatbot, quella chat, con tutti i suoi elementi visivi e non, potrebbe essere già stata selezionata per la revisione da parte di esseri umani.
Questo può sembrare innocuo se si carica, ad esempio, la foto di una pianta in giardino o un primo piano di un’eruzione cutanea sul braccio. Il problema è che le immagini rivelano molte più informazioni di quanto gli utenti intendano condividere. Possono contenere metadati incorporati, che includono dettagli come la posizione e l’orario in cui è stata scattata la foto.
Allo stesso tempo, foto ad alta risoluzione con uno sfondo ambientale possono catturare in modo leggibile documenti o carte di credito lasciati su una scrivania o un ripiano. Potrebbero anche rivelare dettagli identificativi su abitazioni e luoghi di lavoro, oppure i dati biometrici di altre persone presenti nello scatto.
Il punto è che, se le aziende di AI non rimuovono i metadati dalle immagini caricate, finiscono con l’avere a disposizione un’enorme quantità di informazioni sulle abitudini, i luoghi e altri aspetti della vita degli utenti, dati che un’azienda potrebbe utilizzare per migliorare i propri modelli di AI, spiega Jennifer King, ricercatrice in materia di privacy e politiche dei dati presso lo Stanford University’s Institute for Human-Centered Artificial Intelligence.
In altre parole, gli utenti dei chatbot stanno, in alcuni casi, fornendo inconsapevolmente dati gratuiti per l’addestramento delle aziende di AI, qualcosa a cui forse non acconsentirebbero se avessero davvero scelta.
Qual è la policy?
Tutti quei metadati e altre informazioni identificative si affiancano a politiche incoerenti su come le aziende gestiscono le immagini stesse.
Una ricerca condotta da Jennifer King sugli sviluppatori di AI ha rilevato approcci differenti. Microsoft non utilizza per l’addestramento le immagini inserite nel suo assistente AI, Copilot. Lo stesso vale per Anthropic, la società che ha creato i modelli Claude AI, secondo quanto emerso dallo studio.
OpenAI, l’azienda dietro ChatGpt, utilizza invece tutti i dati per l’addestramento a meno che gli utenti non scelgano di disattivare questa opzione. Portavoce di Microsoft e OpenAI hanno confermato questi approcci. Un portavoce di Anthropic ha dichiarato che la società ha aggiornato la propria policy per richiedere agli utenti di decidere se i loro dati possano essere utilizzati per addestrare e perfezionare i sistemi.
La ricerca di King ha inoltre rilevato che gli utenti di Meta AI negli Stati Uniti non hanno la possibilità di rinunciare. Un portavoce di Meta Platforms non ha confermato quanto emerso dallo studio di King e ha rimandato al centro per la privacy di Facebook, dove viene illustrata la policy sull’uso delle informazioni per i modelli e le funzionalità di AI generativa.
Anche se una foto delle vacanze o l’immagine di una ricetta possono perdersi nella massa di dati che questi sistemi di AI elaborano, alcune immagini hanno un rischio maggiore di essere memorizzate dai sistemi, e quindi di ricomparire nei risultati di un chatbot in una forma riconoscibile. Hoffman-Andrews, della Electronic Frontier Foundation, individua due categorie: le immagini che compaiono migliaia di volte online, come la celebre fotografia della «ragazza afgana», che molti dei primi sistemi di AI riescono a riprodurre perfettamente; e quelle con caratteristiche altamente distintive, che le rendono eccezioni statistiche.
Per gli utenti comuni di AI, è improbabile che i loro scatti personali vengano riprodotti esattamente dai sistemi, osserva Hoffman-Andrews. Ma non serve una copia perfetta perché si crei un problema di privacy: un sistema di AI potrebbe generare un’immagine abbastanza simile da risultare riconoscibile, magari con la stessa voglia, una condizione medica visibile o una combinazione di tratti che rendano quel contenuto identificabile da altri.
Altre immagini a rischio di essere memorizzate dai sistemi di AI sono quelle usate per generare personaggi anime, invecchiare i volti o creare foto professionali per i curriculum. Questo perché tali applicazioni richiedono in genere immagini nitide e di alta qualità del volto di una persona, uno scatto unico che contiene dati biometrici.
Anche per gli utenti più attenti alla privacy, impostazioni poco chiare o interfacce confuse possono portare a un’esposizione involontaria delle immagini. Quando Meta ha lanciato la sua app di chatbot AI all’inizio di quest’anno, ad esempio, gli utenti hanno scoperto che alcune conversazioni, complete di foto caricate e nomi reali, venivano pubblicate su un feed pubblico e visibile a chiunque usasse l’app. Un portavoce di Meta ha dichiarato che era previsto un processo in più fasi e che gli utenti potevano sempre rimuovere la condivisione delle chat.
- Leggi anche: Intelligenza artificiale, gli investitori sono troppo ottimisti? Ecco le regole da seguire
Usi imprevisti
Il rischio a lungo termine è che le immagini caricate oggi possano, in futuro, essere riutilizzate in modi che sembrano lontani dallo scopo originale, afferma Sarah Myers West, co-direttrice dell’AI Now Institute, che studia l’impatto dell’AI sulla società.
Microsoft, Anthropic, Meta e OpenAI dichiarano di non consentire la distribuzione dei dati a terze parti. West sottolinea però che, anche se le aziende non vendono i dati a terzi, spesso conservano le immagini caricate. E gli utenti non possono prevedere come queste immagini verranno utilizzate man mano che le capacità dell’AI e le strategie di business evolvono. «Qualunque cosa carichiate avrà una vita che andrà ben oltre il momento in cui state usando il sistema», afferma. (riproduzione riservata)
(Translated from the original version by Milano Finanza Editorial Staff)
