Ecco come integrare la proposta del governo per regolare l’AI

Il governo italiano ha varato una proposta di legge per regolare l’uso dell’intelligenza artificiale, che passa ora nelle mani del Parlamento. L’articolazione è complessa e una sintesi del documento risulta piuttosto difficile, ma emerge chiaramente che essa si prefigge quattro obiettivi: la conformità regolatoria all’AI Act europeo; la collocazione delle scelte AI sotto la inderogabile responsabilità umana; la tutela della trasparenza e dei diritti fondamentali della persona umana (privacy, non discriminazione, dignità del lavoratore, sicurezza). La proposta indica chi deve vigilare sul raggiungimento degli obiettivi e quali sanzioni devono essere irrogate per le violazioni.

Il ruolo di Agid e Acm nella vigilanza

L’Agid (Agenzia per l'Italia Digitale) è l'agenzia tecnica della Presidenza del Consiglio dei ministri che ha il compito di guidare la digitalizzazione della Pubblica Amministrazione e del Paese; essa è anche l'autorità nazionale di supervisione degli organismi che vigileranno sull’attuazione della legge; essi verranno sottoposti a valutazione iniziale e ad audit periodici o straordinari e, se del caso, sospesi. In pratica il modello è molto simile a quello già usato per dispositivi medici, di sicurezza industriale o a certificazioni CE. Il braccio operativo è l’Acm (Agenzia per la Cybersicurezza Nazionale), dotata di poteri molto invasivi di vigilanza continua, che esercita effettuando verifiche in remoto, con ispezioni e test in ambiente reale, intervenendo a seguito di reclami o a incidenti gravi. Le risultanze di tali attività, così come gli esiti delle verifiche effettuate, verranno riportate nel Documento di Valutazione dei Rischi (Dvr).

Sperimentazione e supporto scientifico

La proposta del governo intende anche creare uno spazio di sperimentazione italiano per l’AI più efficiente della sand box, fornendo supporto scientifico, analisi dei rischi, valutazione metodologica e tecnica, da condurre in collaborazione con il Cnr e le università.

Profili etici e tutela del lavoratore

La relazione insiste sugli aspetti giuridici e i profili etici. Il lavoratore avrà diritto di sapere in modo comprensibile e da persona fisica con poteri decisionali se le scelte che li riguardano sono state assistite dall’AI, in particolare quale ruolo hanno avuto gli algoritmi e quali parametri sono stati usati. È previsto il divieto di decisioni basate esclusivamente su tecniche AI.

Limiti della proposta e responsabilità dei decisori

Chi ha studiato il problema considera la proposta un passo avanti per impedire l’affermarsi delle tecniche AI fuori dagli scopi perseguiti e dalle leggi vigenti, ma essa resta confinata nell’ambito di una logica che considera l’AI un soggetto da governare giuridicamente, dando fiato a proposte come quelle di recente dibattute sul riconoscimento della personalità giuridica degli «agenti», la figura che si è andata affermando nelle tecniche AI.

Resta invece non chiaramente esplicitata la soluzione da dare alla risposta prioritaria «se l’algoritmo o un loro insieme funzioni» sul piano scientifico, presupposto per passare alla soluzione da dare a ogni altro argomento regolatorio. Invero nel testo viene qui e là menzionato il problema della verifica tecnica, ma non viene considerata come precondizione per attuare le altre attività di vigilanza previste, né vengono specificati i contenuti. Una cosa appare però chiara: le responsabilità dei decisori finali che utilizzano l’AI o programmano di farlo (consigli di amministrazione, ceo e alta dirigenza) aumenteranno, anche se essi sono estranei alle scelte fatte dai collaboratori esperti in materia. Il problema è stato discusso in occasione di una conferenza tenutasi alla Fondazione Cesifin Alberto Predieri di Firenze, nel corso della quale è stato presentato il Modello Vertical Scan messo a punto da un gruppo di ricercatori del centro privato Iiec e del Quantum&AI Lab della Luiss. La sua integrazione nel provvedimento qui brevemente riassunto completerebbe il quadro regolatorio e assegnerebbe veramente all’Italia una posizione leader nella soluzione del problema sollevato dalla diffusione dell’AI. (riproduzione riservata)