C'è un paradosso che accompagna da tempo il dibattito sull'intelligenza artificiale. Quanto più le decisioni sembrano affidate alle macchine, tanto più diventa difficile individuare chi debba risponderne. L'algoritmo seleziona, raccomanda, classifica, prevede. Quando, però, qualcosa va storto, il rischio è che la responsabilità si disperda lungo una catena composta da sviluppatori, fornitori, utilizzatori, dirigenti e consulenti. Tutti coinvolti, nessuno davvero responsabile.
Il decreto legislativo approvato dal Consiglio dei ministri il 4 agosto, nel completare l'adeguamento italiano all'AI Act, prova a interrompere questa fuga dalla responsabilità. Lo fa introducendo nuove fattispecie penali e collegandole al decreto legislativo 231 del 2001, vale a dire al sistema che consente di chiamare l'impresa a rispondere per determinati reati commessi nel suo interesse o a suo vantaggio.
Sarebbe tuttavia sbagliato leggere la novità come una sorta di responsabilità automatica per qualsiasi errore dell'intelligenza artificiale. Non basta che un algoritmo produca un risultato inesatto, discriminatorio o dannoso. E non basta neppure che siano violate le regole europee applicabili ai sistemi ad alto rischio. L'AI Act e il decreto 231 dialogano, ma rimangono strumenti diversi: il primo regola lo sviluppo e l'impiego dei sistemi; il secondo interroga l'organizzazione dell'impresa e la sua capacità di prevenire determinati reati.
È proprio questo il passaggio culturale più significativo. Il diritto non sta attribuendo una soggettività alla macchina. Sta riportando l'attenzione sulle scelte umane che precedono, accompagnano e seguono il suo funzionamento. Chi ha deciso di utilizzare quel sistema? Per quale finalità? Con quali dati? Con quali cautele? Chi poteva interromperne l'uso? Chi ha ignorato i segnali di pericolo?
Dietro l'apparente autonomia dell'algoritmo torna così visibile l'organizzazione che lo ha messo in condizione di decidere. Il raccordo con il decreto 231 ruota soprattutto attorno a due nuove figure di reato.
La prima riguarda l'omissione o la rimozione dolosa delle cautele dirette a prevenire danni derivanti dai sistemi di intelligenza artificiale. La seconda colpisce la diffusione illecita di contenuti generati o manipolati artificialmente: il territorio dei deepfake, nel quale l'alterazione tecnologica dell'immagine o della voce può diventare uno strumento di aggressione personale, economica e reputazionale.
Non siamo di fronte a un'estensione indiscriminata della responsabilità. Il legislatore ha opportunamente distinto la posizione di chi sviluppa o immette sul mercato un sistema da quella dell'utilizzatore professionale che lo inserisce nei propri processi. In particolare, l'omissione della sorveglianza umana da parte di quest'ultimo assume rilievo quando è intenzionale. È una precisazione importante, perché evita di trasformare ogni insufficienza tecnica o organizzativa in responsabilità penale e riconosce che i diversi attori della filiera possiedono poteri, informazioni e capacità di intervento differenti.
Rimane però una domanda che le imprese non possono rinviare: che cosa significa, concretamente, esercitare una sorveglianza umana effettiva? Non basta collocare una persona alla fine del processo e attribuirle formalmente la possibilità di approvare il risultato. Se quella persona non comprende il funzionamento del sistema, non dispone delle informazioni necessarie o non possiede il potere di contestarne l'esito, la supervisione è soltanto scenografica. Un essere umano utilizzato come timbro finale dell'algoritmo non rappresenta un presidio, ma l'alibi di un'organizzazione che ha già rinunciato a governare la tecnologia.
È qui che emerge quella che potremmo definire una colpa di organizzazione algoritmica. L'espressione non appartiene al testo legislativo e non descrive una nuova categoria autonoma di responsabilità. Serve, però, a mettere a fuoco il problema: l'inadeguatezza dell'impresa può manifestarsi anche nel modo in cui essa seleziona, configura, controlla e continua a utilizzare un sistema di intelligenza artificiale.
Il modello 231 non può quindi limitarsi ad aggiungere qualche riferimento all'AI nel codice etico. Né può rinviare genericamente a una policy tecnologica predisposta dai tecnici. Deve entrare nei processi reali dell'organizzazione. Occorre conoscere quali sistemi siano utilizzati, comprese le applicazioni incorporate nei servizi acquistati da terzi; quali decisioni contribuiscano ad assumere; quali dati impieghino; quali danni possano produrre; chi riceva gli alert e chi disponga del potere effettivo di sospenderli.
La mappatura dei rischi algoritmici deve dialogare con la protezione dei dati, la cybersecurity, i controlli interni e i flussi informativi verso l'organismo di vigilanza e il consiglio di amministrazione. Servono contratti capaci di assicurare informazioni e registri, procedure di escalation, conservazione dei log, formazione e verifiche periodiche. Ma serve soprattutto impedire che la governance dell'intelligenza artificiale rimanga confinata in una stanza tecnica, separata dai luoghi nei quali si assumono le decisioni e si distribuiscono le responsabilità.
Il modello 231 resta formalmente facoltativo. Tuttavia, per l'impresa che abbia scelto di adottarlo, ignorare l'AI presente nei propri processi rischia di renderlo rapidamente inadeguato. Non perché ogni incidente algoritmico debba trasformarsi in un procedimento penale, ma perché un modello incapace di vedere dove si sono spostati i poteri decisionali non è più in grado di prevenire i rischi che dovrebbe governare.
La novità più profonda del decreto non consiste, dunque, nell'avvicinare la macchina al banco degli imputati. Consiste nel riportare davanti a quel banco le scelte umane e organizzative che la retorica dell'autonomia tecnologica tende troppo spesso a nascondere. L'intelligenza artificiale non elimina la responsabilità: ne modifica la geografia. E quando cambia la mappa delle decisioni, anche la mappa dei rischi 231 deve essere necessariamente ridisegnata. (riproduzione riservata)
Oreste Pollicino
Professore ordinario di diritto costituzionale e regolamentazione dell'intelligenza artificiale, Bocconi. Founder, Pollicino Aidvisory
