Mirai, nuovo finanziamento dal centro Icsc di Bologna: così la start up combatte i bias dell’AI

La start up Mirai, spin-off dell’Università Statale di Milano che ha messo al centro della sua mission il tema della «responsable AI», ottiene un nuovo finanziamento (il primo dal Mef di 88 mila euro) di 40 mila euro dal Centro nazionale di ricerca in high performance computing, big data e quantum computing di Bologna che ha riconosciuto l’importanza della soluzione sviluppata dalla società in relazione alla fairness algoritmica. Il finanziamento è passato per il bando I4S con l’obiettivo di facilitare il match-making e la condivisione di attività di innovazione tra start up, pmi innovative, spinoff di ricerca e i m.

In pratica, spiega a MF-Milano Finanza il legale rappresentante di Mirai, il professore di Logica e Filosofia della Scienza all’Università Statale di Milano, Giuseppe Primiero, «il nucleo metodologico di Mirai è costruito su anni di lavoro accademico in logica, matematica e informatica teorica. Mentre la maggior parte degli strumenti di AI ethics sul mercato si basa su approcci puramente statistici, utili ma limitati, Mirai li applica in combinazione con metodi formali: sistemi di prova e ragionamento sulle proprietà dei sistemi di AI.

La sfida della fairness algoritmica 

In particolare per la questione della fairness algoritmica controlliamo che il comportamento di un modello di AI operi in modo sufficientemente indistinguibile tra individui e gruppi caratterizzati da proprietà sensibili come età, genere o etnia.

Dal punto di vista metodologico «questo significa che le analisi del nostro tool non producono stime probabilistiche di bias, ma verifiche dimostrabili. È una differenza sostanziale quando si tratta di rispondere a un'autorità di vigilanza o a un giudice o di validare la propria compliance nel contesto supply chain».

• Leggi anche: L’intelligenza artificiale è davvero troppo cara? Guida alla scelta dei titoli tra vincitori e vinti

La piattaforma della start up è totalmente agnostica rispetto al modello su cui vengono fatte le analisi. Ciò significa che l'analisi della soluzione funziona senza accesso al modello sottostante né ai dati di training, perché lavora solo sull'input-output del sistema, «rendendo la nostra strategia applicabile anche a sistemi di terze parti, inclusi i large language model forniti da vendor esterni», continua Primiero.

Vengono così eliminate le barriere di adozione più comuni nelle organizzazioni enterprise, dove condividere modelli proprietari o dataset sensibili e proprietari è spesso difficile, talvolta impossibile o addirittura politicamente impraticabile. In questo senso un dataset o un insieme di interazioni con un chatbot possono essere analizzati indipendentemente dal loro dominio applicativo di origine.

L'impatto dei bias nel settore finanziario e assicurativo

Il settore finanziario è uno dei principali amplificatori di bias algoritmico e con il maggior impatto. Un modello di credit scoring produce un risultato binario che impatta direttamente la vita delle persone: ad esempio la possibilità di studiare o di comprare casa. In questo contesto un bias algoritmico è il risultato di una immagine del mondo potenzialmente distorta e discriminatoria, oppure non più realistica che non si manifesta come tendenza statistica astratta, ma come danno concreto subito da una persona specifica in un momento specifico.

Inoltre, anche se i modelli finanziari non possono usare esplicitamente variabili protette come genere o etnia, impiegano comunque variabili correlate: codice postale, tipo di contratto, storico di acquisti. «Queste variabili», osserva Primiero, «riproducono, amplificandole, disuguaglianze strutturali già presenti nella società, perché riflettono discriminazioni pregresse incorporate nei dati storici su cui il modello è stato addestrato. Anche un bias marginale applicato su milioni di decisioni produce un impatto aggregato enorme. E poiché questi output continuano a produrre dati che poi si usano per allenare altri modelli, un bias non rilevato si autoalimenta iterazione dopo iterazione, diventando progressivamente più difficile da identificare e correggere».

Mirai lavora su tre verticali, ciascuno con applicazioni già operative, partnership e clienti acquisiti. «In finance lavoriamo su credit scoring e risk assessment, conducendo valutazioni etiche dei classificatori AI utilizzati dagli operatori finanziari, con analisi focalizzata su bias e discriminazioni sistematiche nei processi decisionali automatici, ma anche opacità delle logiche del modello e conseguenti incoerenze», indica Primiero. «Nel settore assicurativo su pricing e underwriting, valutando i risultati di modelli predittivi assicurativi lungo le traiettorie valoriali di spiegabilità, equità e conformità normativa. In HR su selezione del personale e valutazione della performance di GenAI, affiancando la valutazione dei modelli predittivi con analisi delle interazioni persona-chatbot».

La speranza per Mirai è di diventare tra 3-5 anni un punto di riferimento per l'AI responsabile sul territorio europeo, «scommettendo su ciò che ci rende unici: la nostra natura ibrida tra accademia e industria», conclude Primiero, «i nostri strumenti basati su ricerca fatta in-house e quindi affidabile e genuina, il nostro richiamo alla trasparenza e alla tracciabilità di inferenze su proprietà dei sistemi governati dall’AI, in linea con l'impianto valoriale che ha ispirato l'AI Act e la normativa nazionale Legge 132/25». (riproduzione riservata)