Bisogna diffidare della consulenza automatizzata?

Molti si affidano alla consulenza basata sugli algoritmi in tutti gli aspetti della vita, dalla scelta della rotta più veloce all'aeroporto fino alla decisione su come investire i risparmi. Ma questa fiducia è ben riposta? Alcune ricerche suggeriscono che non bisogna fidarsi troppo, specialmente quando la posta in gioco delle  decisioni finanziarie è alta.

Di recente chi scrive ha condotto uno studio empirico incentrato sul pregiudizio dell'automazione, ovvero la preferenza per l'uso di decisioni algoritmiche rispetto a quelle basate sull’analisi di esperti umani, e il suo impatto nell'area della finanza personale. Sono state fornite a 800 intervistati statunitensi una serie di situazioni di investimento ipotetiche. Ad alcuni è stato detto che i consigli forniti provenivano da un consulente umano, mentre ad altri è stato detto che le raccomandazioni provenivano da un algoritmo online automatizzato.

I partecipanti all'indagine che pensavano di ricevere consigli da un algoritmo hanno costantemente riferito di avere maggiore fiducia nelle raccomandazioni rispetto a coloro che pensavano di essere consigliati da un esperto umano.

Come follow-up, a tutti i partecipanti allo studio è stato poi detto che la consulenza finanziaria ricevuta si è tradotta in risultati deludenti in termini di investimenti e performance. Tuttavia, quando è stato chiesto di nuovo di valutare il loro livello di fiducia nei loro consulenti, e se sarebbero stati disposti ad utilizzarli di nuovo, i partecipanti al sondaggio hanno continuato a preferire i consulenti robotici rispetto agli esperti umani. Come mai?

Nella vita reale, ci sono diverse ragioni per cui alcuni investitori tendono a preferire i consulenti robotici a quelli umani. I robot sono sempre disponibili 24/7, sono accessibili dalla comodità della camera da letto del cliente e non richiedono l'organizzazione di una riunione o di una telefonata in anticipo. Sono anche più economici.

Ma nulla di tutto ciò spiega i risultati dello studio condotto, dato che non era stato detto agli intervistati che gli algoritmi erano più economici o più accessibili. Invece, i risultati sono probabilmente dovuti al fatto che molte persone percepiscono gli algoritmi come un'autorità superiore. Essi vedono un algoritmo come un'equazione matematica, un processo oggettivo che, dopo il calcolo, fornisce sempre la risposta corretta.

Questo pregiudizio sembra particolarmente forte nel settore della finanza al consumo, dove agli investitori viene costantemente detto di guardare ai dati in modo oggettivo e di non lasciare che le emozioni guidino le loro decisioni. Gli algoritmi non hanno emozioni, quindi devono sempre essere oggettivi e razionali, o almeno così va l’immaginario collettivo.

Questa percezione, tuttavia, è sbagliata. Le persone spesso trascurano il fatto che gli algoritmi sono progettati da esseri umani che scelgono quali dati utilizzare e come usarli, e questi esseri umani sono fallibili come i consulenti in carne ed ossa. I codificatori possono incorporare pregiudizi negli algoritmi,  consapevolmente o inconsapevolmente.

Quindi, sebbene i consulenti algoritmici abbiano certamente contribuito al settore della finanza personale, la crescente deferenza nei loro confronti solleva diverse preoccupazioni.

Infatti, a mano a mano che le persone esternalizzano sempre più il loro processo decisionale agli algoritmi, il loro desiderio di cercare una seconda opinione si indebolisce. Poiché hanno già ricevuto un'opinione algoritmica oggettiva, potrebbero pensare che cercare un'altra opinione sia inutile. Ma così come è improbabile che due consulenti umani forniscano a un cliente esattamente gli stessi risultati di investimento, gli algoritmi di investimento possono variare notevolmente in termini di prestazioni.

Ottenere una seconda opinione attraverso un algoritmo diverso è sia razionale che importante. Questo è particolarmente vero per le decisioni che hanno una alta posta in gioco, un'opportunità di business rischiosa ma potenzialmente gratificante,  o quando a un investitore non piace il primo consiglio che ha ricevuto, ma non è qualificato per valutare quanto sia realmente solido.

Un'altra preoccupazione è che la crescente dipendenza e fiducia negli algoritmi potrebbe portare a una minore assunzione di rischi, creatività e pensiero critico in finanza e nella società in generale. Infatti, se le persone iniziassero a considerare i risultati algoritmici come verità fondamentali, potrebbero essere meno disposte ad accettare scommesse a lungo termine su promettenti start up o andare controcorrente alla ricerca di soluzioni innovative ai problemi. Scommesse così rischiose possono portare a fallimenti. Ma anche a enormi successi.

Fortunatamente, ci sono modi per ridurre i rischi associati alla polarizzazione dell'automazione. Per cominciare, i legislatori, gli educatori e i media dovrebbero spingere le persone a cercare una seconda opinione - umana o meno che sia - sulle raccomandazioni che ricevono dagli algoritmi, specialmente quelli il cui funzionamento interno e i cui pregiudizi sono difficili da valutare.

Le autorità di regolamentazione dovrebbero inoltre considerare la possibilità di richiedere ai consulenti robotizzati e ad altri prodotti automatizzati di finanza al consumo di comunicare che possono esserci dei pregiudizi negli algoritmi che utilizzano, analogamente a come le case farmaceutiche devono rivelare i rischi medici associati ai loro prodotti. Il semplice instillare una dose minima di scetticismo informato potrebbe aiutare a ridurre alcuni degli effetti della polarizzazione dell'automazione.

Facendo un ulteriore passo avanti, le autorità di regolamentazione potrebbero richiedere la divulgazione delle ipotesi utilizzate dai codificatori umani che sviluppano algoritmi, così come i set di dati che gli algoritmi utilizzano o non utilizzano, per rendere le persone più consapevoli di eventuali pregiudizi. In alternativa, avvisare gli interessati dell'esistenza di algoritmi concorrenti può aumentare la consapevolezza che essi differiscono in base alle scelte umane.

Nel frattempo, gli investitori devono ricordare che non esiste un algoritmo assolutamente corretto. Invece, dovrebbero trattare i consulenti robotici proprio come trattano quelli umani, cercando recensioni, raccomandazioni e valutazioni. Gli algoritmi sono fallibili, ed è buona norma cercare una seconda, diversa opinione, anche se è l'opinione di un altro algoritmo.

Packin è assistant professor of law presso la Baruch College's Zicklin School of Business della City University di New York.