Senza fiducia non ci può essere né AI né tantomeno sviluppo economico

Lo sviluppo dell’intelligenza artificiale non dipende soltanto dalla sua potenza di calcolo o dalla qualità dei dati ma dipende, in misura crescente, dalla fiducia: di chi usa la tecnologia, la compra e, in qualche modo, la subisce. Ovvero, senza fiducia non c’è AI e non c’è sviluppo economico.

Un’azienda non integrerà un sistema di AI nei propri processi se teme errori, responsabilità legali o danni reputazionali. Oppure un consumatore non affiderà a un assistente artificiale le proprie decisioni sanitarie o finanziarie se sospetta che i suoi dati personali possano essere poi appropriati. Ciò vuol dire che senza fiducia non c’è adozione, e senza adozione non c'è ritorno sugli investimenti che oggi sostengono l'intero settore. L’Europa lo ha capito prima di altri: le linee guida per un’AI affidabile (trustworthy AI) elaborate anni fa dal gruppo di esperti della Commissione Europea, e poi il più recente AI Act, hanno fatto della fiducia il perno della strategia regolativa. L'idea è semplice: regole chiare generano fiducia, la fiducia genera mercato.

Una fiducia che ha più dimensioni

Appunto, l’idea par semplice, forse troppo. Il quadro europeo tende a trattare la fiducia come una questione unitaria: un requisito da soddisfare attraverso una lista di proprietà del sistema, tra cui trasparenza, robustezza, supervisione umana, eccetera. Ma chi si fida, di che cosa e per quali ragioni? Quando guardiamo da vicino la fiducia nell’AI si rivela un fenomeno complesso, con compagini che rispondono a logiche diverse e confonderli significa costruire politiche che rassicureranno il pubblico solo fino ad un certo punto.

Il primo livello è la fiducia nello strumento. Qui non basta l’affidabilità tecnica ovvero che il sistema funzioni, non commetta errori, non produca «allucinazioni», come spesso si dice. A questo livello, conta pure l’allineamento etico dello strumento: la ragionevole aspettativa che il sistema incorpori valori compatibili con i nostri, che non ci spinga verso scelte che non avremmo fatto, che tratti i nostri dati come noi vorremmo fossero trattati e così via. È una fiducia, questa, più vicina a quella interpersonale tra esseri umani che a quella che accordiamo agli oggetti di uso comune, come un frullatore.

• Leggi anche: Copiare l’America non basta: perché l’Europa digitale deve restare europea

La fiducia nelle imprese

Il secondo punto riguarda le aziende che producono i sistemi e quelle che li adottano. Hanno seguito le leggi vigenti? Hanno condotto le valutazioni d’impatto richieste, o le hanno trattate come meri adempimenti burocratici? Questa è fiducia istituzionale, e si regge su meccanismi noti: certificazioni, audit indipendenti, sanzioni credibili e quindi richiede un contesto legislativo chiaro e di spessore, come quello europeo ma non quello statunitense, dove ancora non esiste una legge al livello federale sulla AI.

L’impatto su lavoro, ambiente e democrazia

Un terzo ambito riguarda il sistema AI nel suo complesso e il suo impatto sul lavoro. Per esempio, un giovane che si affaccia oggi al mondo del lavoro teme che l’automazione lo sostituisca, che le competenze da lui accumulate perdano valore, oppure che i guadagni di produttività della tecnologia non vengano redistribuiti in modo equo. Tali problemi riguardano l’assetto economico in cui il sistema AI viene calato e l’impatto della tecnologia su di esso.

Ignorare questo livello significa stupirsi, poi, delle resistenze all'adozione anche di fronte a strumenti impeccabili sulla carta. Ricordiamo cosa è avvenuto di recente ai commencement speech di fine anno in alcune prestigiose università americane, dove gli oratori sono stati fischiati sonoramente dagli studenti ogni qualvolta toccassero il tema AI. L’AI ha un impatto sull’ambiente e sugli spazi in cui viviamo. I famigerati data center, in forte espansione e necessari per lo sviluppo di tale tecnologia, non piacciono al pubblico. Sia in Europa sia in America la prospettiva di vedersi costruire un data center sotto casa suscita proteste feroci tra la popolazione che teme costi energetici in aumento e quindi inflazione e maggior costo della vita.

Vi è infine un aspetto politico che tocca la fiducia nell’effetto dell’AI sulla democrazia. Sistemi capaci di generare contenuti indistinguibili da quelli umani mettono sotto pressione l’infrastruttura epistemica su cui la deliberazione pubblica si regge: se non possiamo più distinguere il vero dal verosimile, il costo della cittadinanza informata cresce per tutti. Si aggiunge la concentrazione: poche aziende private controllano i modelli più potenti e le scelte dei loro ceo creano spesso sfiducia e scetticismo nel pubblico. Pensiamo alle impopolari decisioni politiche di Elon Musk nella seconda Amministrazione Trump, per esempio.

I limiti della regolazione

Il quadro europeo non è quindi sbagliato, ma risulta parziale. La conformità normativa può sostenere la fiducia istituzionale e, in parte, quella nello strumento; non può decretare la fiducia nei destini del lavoro né in quelli della democrazia, che dipendono da scelte politiche ed economiche esterne al perimetro della regolazione tecnica. Ciò significa che la fiducia è una relazione tra persone, organizzazioni e istituzioni, e va guadagnata su ciascuno di questi piani. Chi vuole davvero un’intelligenza artificiale affidabile e che produce benessere deve chiedersi non solo se lo strumento in sé meriti fiducia, ma se la merita l’ecosistema che lo produce.

(riproduzione riservata)

*professor in the Philosophy Department & in the School of Data Science at Unc, Charlotte,

**professor of constitutional Law and AI regulation, Bocconi

• Leggi anche: Cybersecurity e l’AI oltre le chatbot: per Zenita Group è il momento dell’Autonomia Delegata