L’AI sta già sfuggendo al controllo? Il problema che (quasi) nessuno vuole affrontare

Cresce l’incomprensione tra gli stessi esperti di Intelligenza Artificiale, ancora in parte intrappolati nella storica tensione tra logica matematica e logica del linguaggio. Si tratta di una dicotomia che, più che risolta, si è progressivamente trasformata nel corso dei secoli. Saltando per brevità millenni di storia del pensiero, possiamo partire da Isaac Newton, che rappresenta un punto di sintesi tra formalizzazione matematica e aspirazione a un linguaggio universale verificabile, per arrivare al Circolo di Vienna (1922), che ha enfatizzato la centralità della logica formale nella costruzione della conoscenza scientifica.

La nascita ufficiale dell’Intelligenza Artificiale si colloca nel 1956 con la Dartmouth Conference, che segna l’avvio di un programma scientifico volto a formalizzare i processi cognitivi. Da allora, l’evoluzione dell’AI non ha seguito una semplice sostituzione tra logica matematica e linguaggio, ma piuttosto una crescente integrazione tra approcci simbolici e metodi statistici.

Il paradigma statistico e i modelli linguistici

Negli ultimi decenni si è affermato un paradigma prevalentemente empirico-statistico, basato sull’analisi dei dati, che ha trovato la sua massima espressione nelle tecniche di Machine Learning e, più recentemente, nei modelli linguistici di larga scala (Llm). Questi sistemi, resi possibili dall’enorme crescita della potenza di calcolo, non comprendono il linguaggio nel senso umano del termine, ma apprendono distribuzioni probabilistiche su grandi corpora testuali attraverso architetture neurali profonde.

Pur ispirandosi in modo astratto a meccanismi neurali (neuroni e sinapsi), tali modelli non replicano il funzionamento biologico del cervello, ma costituiscono strumenti matematico-statistici estremamente sofisticati per la previsione e generazione di sequenze linguistiche.

La nascita dell’AI generativa - in particolare attraverso chatbot e sistemi conversazionali - rappresenta quindi un salto qualitativo nella capacità di trattare il linguaggio in modo computazionale, segnando una nuova fase della scienza dei dati, in cui il linguaggio diventa al tempo stesso oggetto e strumento di analisi.

Il salto etico e la crisi dell’allineamento

Questa evoluzione ha elevato il dibattito etico dall’ambito delle conseguenze economiche e sociali - come l’impatto sull’occupazione o la dipendenza dalle decisioni automatizzate - a una dimensione più profonda, di natura esistenziale.

Come osservato da Dario Amodei, ci troviamo di fronte a una fase di transizione potenzialmente destabilizzante, in cui l’umanità acquisisce capacità tecnologiche senza precedenti, senza che sia chiaro se i sistemi sociali, politici e istituzionali siano pronti a governarle.

Il nodo centrale è il cosiddetto problema dell’allineamento: sistemi altamente performanti possono perseguire obiettivi formalmente corretti ma sostanzialmente disallineati rispetto ai valori umani. In presenza di funzioni obiettivo mal specificate, sistemi autonomi possono ottimizzare criteri locali producendo esiti globalmente indesiderabili.

Verso una governance globale dell’Intelligenza Artificiale

Per questo motivo emerge l’esigenza di una costituzione dell’Intelligenza Artificiale: non come principio astratto, ma come insieme di vincoli operativi tradotti in standard tecnici, sistemi di audit e metriche verificabili di conformità.

La storia insegna che la costruzione di un tale quadro normativo richiede una chiara definizione dei valori da proteggere. Un precedente significativo è rappresentato dalla Dichiarazione universale dei diritti dell’uomo promossa dalle Nazioni Unite, sotto l’impulso di Eleanor Roosevelt, frutto di un lungo processo culturale e politico.

Oggi, tuttavia, questi principi sono messi sotto pressione dall’uso dell’AI in ambito militare e dalla competizione geopolitica tra Stati, che rischia di accelerare lo sviluppo tecnologico senza adeguati meccanismi di controllo.

È quindi plausibile che, in tempi relativamente brevi, emerga una domanda diffusa - da parte di istituzioni, imprese e opinione pubblica - per sistemi indipendenti di validazione e rating dell’Intelligenza Artificiale, capaci di misurarne in modo oggettivo la compatibilità con valori sociali condivisi.

In questo senso, il futuro dell’AI non dipenderà solo dalla sua potenza tecnologica, ma dalla capacità delle società di costruire strumenti credibili per governarla.

(riproduzione riservata)
*ex presidente Consob

• Leggi anche: AI, quanto è solido il business? Dentro i conti di OpenAI & co. tra valutazioni record e problemi di governance