Responsabilità e trasparenza, la grammatica dell’accountability per Papa Leone XIV

Vale la pena, dopo qualche tempo, ed aver sedimentato la profondità ed ampiezza del suo messaggio, ritornar su un aspetto della lettera enciclica Magnifica Humanitas. Vale a dire il passaggio Papa Leone XIV affronta il tema della custodia della persona umana nel tempo dell’intelligenza artificiale, sottolineando i valori fondamentali della responsabilità e della trasparenza con un passaggio che va però contestualizzato.

Il Pontefice colloca la riflessione nel solco della Dottrina sociale, riprendendo la denuncia di Papa Francesco, nella Laudato si’, del «paradigma tecnocratico»: la tendenza a lasciare che la logica dell’efficienza, del controllo e del profitto governi da sola le scelte personali, sociali ed economiche. La tecnica, osserva Leone XIV, non è un semplice strumento e, quando si fa criterio, finisce per stabilire «che cosa conta e che cosa può essere scartato», riducendo le persone a ingranaggi di un sistema da rendere sempre più performante. L’IA, insieme con scienze cognitive, robotica e biotecnologie, agisce come un acceleratore di questo paradigma.

Il Papa riconosce un dato cruciale: nel contesto digitale, il controllo delle piattaforme, delle infrastrutture, dei dati e della capacità di calcolo non è più appannaggio degli Stati, ma di grandi attori economici e tecnologici che, di fatto, fissano le condizioni di accesso e le possibilità stesse di partecipazione. Quando un potere di tale portata si concentra in poche mani, avverte l’enciclica, tende a farsi opaco, a sfuggire al controllo pubblico e ad alimentare nuove dipendenze, esclusioni, manipolazioni e disuguaglianze.

Come accade in ogni grande svolta tecnologica, osserva il Pontefice, l’IA tende ad accrescere soprattutto il potere di chi dispone già di risorse economiche, competenze e accesso ai dati. Piccoli gruppi molto influenti possono così orientare informazione e consumi, condizionare i processi democratici e incidere sulle dinamiche economiche a proprio vantaggio, in contraddizione con la giustizia sociale e la solidarietà tra i popoli. Per questo l’impiego dell’IA, soprattutto quando coinvolge beni pubblici e diritti fondamentali, deve essere accompagnato da criteri chiari e controlli effettivi, ispirati alla partecipazione e alla sussidiarietà.

I principi della Dottrina sociale applicati all’AI

A questa asimmetria (definita epistemica, economica e politica) il documento oppone i grandi principi della Dottrina sociale: la dignità inalienabile della persona, il bene comune, la destinazione universale dei beni, la sussidiarietà, la solidarietà e la giustizia sociale. Essi diventano criteri per verificare se il potere delle infrastrutture digitali e degli algoritmi favorisca davvero partecipazione e responsabilità, protegga i più fragili e assicuri un accesso equo alle opportunità.

Il capitolo III dedica un passaggio chiarificatore sulla natura stessa di questi sistemi, per evitare l’equivoco di equiparare l’“intelligenza” a quella umana. L’IA imita alcune funzioni dell’intelligenza umana, spesso superandola per velocità e ampiezza di calcolo, ma la sua potenza resta legata esclusivamente al trattamento dei dati: non vive un’esperienza, non possiede un corpo, non matura nella relazione e non ha una coscienza morale. Le moderne intelligenze artificiali, annota Leone XIV, sono «più coltivate che costruite», al punto che aspetti fondamentali del loro funzionamento restano in parte sconosciuti agli stessi sviluppatori.

Su questa base, Leone XIV nega che l’IA possa dirsi moralmente neutra: ogni artefatto tecnico porta con sé scelte e priorità (specificamente, ciò che misura, ciò che ignora, ciò che ottimizza e il modo in cui classifica persone e situazioni). Affidare a un algoritmo il potere di selezionare «chi merita e chi no», senza che nessuno si assuma più il peso della decisione, significa ridefinire i confini delle possibilità umane e rendere l’ingiustizia «silenziosa», ammantandola di una neutralità di fronte alla quale è impossibile protestare.

• Leggi anche: AI, l’Italia dispone di competenze forti ma disorganizzate

L’AI si disarma con la trasparenza e la responsabilità

Da qui la richiesta di responsabilità e trasparenza. Il Pontefice insiste sul concetto di accountability, ossia la possibilità di identificare chi deve rendere conto delle decisioni, motivarle, controllarle e, quando necessario, contestarle. Non basta invocare genericamente l’etica: servono quadri giuridici adeguati, vigilanza indipendente, educazione degli utenti e una politica che non abdichi al proprio compito. Altrimenti, il cambiamento sarà governato solo da logiche tecnocratiche e da chi possiede dati, infrastrutture e capacità di calcolo.

Particolarmente netta è la posizione sui dati: essi, sottolinea il Papa, sono frutto del contributo di molti e non possono essere venduti o affidati a pochi. La loro proprietà non può essere lasciata ai soli privati, ma va regolamentata e gestita come uno dei beni comuni o collettivi, nella logica della condivisione.

Gli sviluppatori di intelligenze artificiali, afferma l’enciclica, portano un particolare peso etico e spirituale, poiché ogni scelta progettuale esprime una visione dell’umanità. A loro è rivolto un appello speciale: sono chiamati a operare con trasparenza, responsabilità verso le comunità coinvolte e attenzione a verificare che ciò che viene «coltivato» sia davvero un bene.

L’enciclica si spinge oltre la sola regolamentazione con un termine che il Papa dichiara di avere a cuore: «disarmare» l’IA. Significa sottrarla alla logica della competizione armata (non più solo militare, ma economica e cognitiva) e rompere l’equivalenza tra potenza tecnica e diritto di governare. Disarmare non vuol dire rinunciare alla tecnologia, ma impedirle di dominare l’umano: sottrarla ai monopoli e renderla «discutibile, contestabile e quindi abitabile». L’IA, conclude il vescovo di Roma, «è già ambiente in cui siamo immersi e potere con cui dobbiamo fare i conti»: per questo non basta regolarla, va resa ospitale.(riproduzione riservata)

*Professore ordinario di diritto costituzionale e regolamentazione dell’intelligenza artificiale, Founder AIdivisory

**PhD Student Università Bocconi

• Leggi anche: Governance, informazione e resilienza in tema AI. Quando il rischio diventa sistemico