Cosa può (e non può) fare l’intelligenza artificiale negli ospedali per la tua salute

Samir Abboud, responsabile della radiologia d’emergenza presso Northwestern Medicine, pensava di lavorare già alla massima velocità. Con una routine affinata nel tempo e l’aiuto della dettatura vocale, riusciva a completare un referto radiografico in appena 75 secondi.

Poi, nel 2024, il sistema sanitario di Chicago ha introdotto un’AI generativa in grado di analizzare le immagini dei pazienti e redigere i referti. Abboud, che verifica il lavoro dell’IA prima di eventuali modifiche, racconta che ora la revisione richiede circa 45 secondi.

Il risultato è stato sorprendente — e spiazzante. «È stata la prima volta che ho sentito come se ci fosse un cronometro sulla mia carriera», ha detto Abboud.

Allo stesso tempo, sottolinea, il contributo umano resta indispensabile. E leggere le immagini più rapidamente ha anche dei vantaggi.

«Ti sentiresti in colpa ad alzarti per andare in bagno», racconta. «Ci sono centinaia di pazienti in attesa di una nostra valutazione, e uno di loro potrebbe essere in pericolo di vita».

Adozione dell’AI in crescita: il 27% dei sistemi sanitari la usa a pagamento

I grandi sistemi ospedalieri sono diventati il laboratorio in cui si sperimenta l’adozione su larga scala dell’AI: un banco di prova che mette in luce sia le potenzialità della tecnologia sia - talvolta attraverso errori allarmanti - i suoi limiti.

Secondo un recente sondaggio di Menlo Ventures e Morning Consult, il 27% dei sistemi sanitari paga licenze commerciali di AI, una percentuale tre volte superiore rispetto al resto dell’economia statunitense.

Con l’invecchiamento della popolazione e l’aumento dei bisogni sanitari, gli ospedali cercano soluzioni alla persistente carenza di personale, che rischia di esaurire i clinici e rallentare le cure. Allo stesso tempo, puntano a migliorare l’efficienza in un contesto segnato dalla prospettiva di tagli a Medicaid.

Supporto alle diagnosi, ma la decisione resta umana

L’AI ha trovato particolare applicazione in alcune delle attività meno appariscenti ma più dispendiose in termini di lavoro: la redazione delle note cliniche, la gestione delle telefonate dei pazienti e le pratiche con le assicurazioni.

«Si tratta spesso di processi ripetitivi e fortemente dipendenti dal lavoro umano, svolti migliaia di volte», spiega Rupal Malani, senior partner di McKinsey e consulente dei sistemi sanitari sull’implementazione dell’IA.

Le decisioni mediche restano comunque prerogativa dei medici, anche se l’AI può supportare il processo.

Uno studio dell’Università della California di Los Angeles ha rilevato, ad esempio, che l’AI è in grado di individuare segnali molto sottili di tumori al seno che possono svilupparsi tra uno screening e l’altro. Secondo lo studio, l’uso dell’AI potrebbe ridurre questi casi del 30%.

Allo stesso tempo, non mancano i motivi di cautela.

Il cardiologo della Mayo Clinic Paul A. Friedman si è rivolto a ChatGPT per valutare il caso di un paziente che necessitava dell’impianto di un defibrillatore pochi giorni dopo un intervento al cuore. Friedman riteneva la procedura fattibile e sicura, ma voleva verificare l’esistenza di studi di riferimento. ChatGPT gli ha fornito citazioni di presunti articoli scientifici che definivano l’intervento «sicuro ed efficace». «Sembrava tutto molto realistico», racconta Friedman, finché un collega non ha cercato quegli studi scoprendo che erano completamente inventati.

Dopo quell’esperienza, Friedman ha adottato un approccio di «fidarsi, ma verificare». «Non è che non faccia domande mediche a ChatGPT, ma quando lo faccio controllo sempre le fonti, apro i link e leggo almeno gli abstract», spiega. Il dipartimento di cardiologia dell’ospedale sta testando strumenti di AI interni alternativi.

Un portavoce di OpenAI ha dichiarato che l’azienda conduce «valutazioni continue per ridurre risposte dannose o fuorvianti» e che i modelli più recenti sono molto più affidabili in ambito sanitario rispetto alle versioni precedenti. ChatGPT, ha aggiunto, non è pensato come sostituto del parere di un professionista sanitario.

Il rischio della perdita di competenze

Uno studio pubblicato a ottobre su The Lancet Gastroenterology & Hepatology ha rilevato che i medici che avevano utilizzato l’AI per tre mesi per individuare lesioni durante le colonscopie ne individuavano significativamente meno una volta che lo strumento veniva rimosso.

«Sono costantemente preoccupato del rischio di perdita di competenze», afferma Anthony Cardillo, patologo di New York e direttore di un laboratorio del Memorial Sloan Kettering specializzato in analisi del sangue. «Ogni volta che delego il mio pensiero a qualcosa che non è il mio cervello, temo di perdere quella memoria muscolare».

Cardillo spiega che lui e i colleghi usano l’AI generativa per rivedere i campioni, ma solo come secondo controllo, dopo aver già formulato una diagnosi autonoma.

Nonostante queste riserve, i sistemi sanitari vedono nell’AI un enorme potenziale e una necessità.

«Se pensiamo allo tsunami di bisogni che ci attende come società, la tecnologia è uno dei pochi leve che possiamo azionare», afferma Doug King, chief digital and innovation officer di Northwestern Medicine.

A Northwestern, una revisione con AI di un milione di immagini raccolte in un anno ha individuato 70 casi che non erano stati segnalati dagli esseri umani. Un controllo manuale successivo ha confermato cinque situazioni in cui era necessario un ulteriore approfondimento clinico. L’ospedale utilizza anche un altro strumento di AI per ottimizzare la programmazione delle sale operatorie, riuscendo così a trattare un numero maggiore di pazienti.

Gli ospedali sono stati tra i primi utilizzatori dell’AI, ben prima della diffusione dei grandi data center. Da anni algoritmi predittivi supportano sistemi di allerta precoce per la sepsi, identificano pazienti ad alto rischio e aiutano nella gestione delle agende.

Il monitoraggio dei parametri vitali

Nel Nord della California, i 21 ospedali di Kaiser Permanente utilizzano un sistema che analizza costantemente parametri vitali e cartelle cliniche, assegnando ogni ora un punteggio di rischio ai pazienti. Uno studio pubblicato sul New England Journal of Medicine ha rilevato che il sistema salva oltre 500 vite all’anno.

Recentemente il sistema ha segnalato un paziente con insufficienza cardiaca che richiedeva maggiore attenzione: i medici hanno così scoperto che soffriva anche di una grave infezione respiratoria e necessitava di steroidi, racconta Vincent Liu, pneumologo e intensivista del Kaiser Permanente Santa Clara Medical Center.

Un trial in corso presso Jefferson Health, a Philadelphia, sta valutando se modelli linguistici di grandi dimensioni come ChatGPT possano fornire consigli nutrizionali personalizzati alle pazienti con tumore al seno, tenendo conto dello stadio della malattia, di altre condizioni di salute, del budget e dell’accesso ai negozi.

Ad Augusta, in Georgia, il medico di famiglia Dean Seehusen utilizza l’IA generativa per verificare le linee guida più aggiornate, soprattutto per patologie che incontra raramente. Lo strumento che usa attinge solo a fonti mediche validate, il che lo rende relativamente affidabile ai suoi occhi: controlla le fonti solo nel 25% dei casi.

Resta però prudente sugli effetti complessivi dell’AI sulla medicina. «La mia paura più grande è che riduca ulteriormente la fiducia nella medicina tradizionale e porti a una sorta di Far West per i pazienti», afferma, notando un aumento di persone che arrivano in ambulatorio con autodiagnosi basate sull’AI, spesso errate.

Gli ospedali stanno adottando in modo aggressivo l’AI anche per attività meno visibili, ma molto onerose. Nel 2024 Epic Systems, fornitore di cartelle cliniche elettroniche, ha lanciato uno strumento di AI generativa che analizza i dati dei pazienti e redige bozze di lettere di ricorso contro i rifiuti delle assicurazioni. Circa mille ospedali lo stanno già utilizzando.

Northwestern deve contestare circa il 5-10% dei milioni di richieste di rimborso che elabora ogni anno, spiega David Blahnik, vicepresidente IT. «Si impiega un’enorme quantità di personale e lavoro per contrastare le assicurazioni e giustificare i pagamenti», dice. Con lo strumento di Epic, però, il tempo necessario per gestire ogni richiesta respinta si è ridotto del 23%.

Un’iniziativa simile al Mount Sinai di New York ha portato ad un aumento del 3% delle contestazioni accolte, generando circa 12 milioni di dollari aggiuntivi all’anno, afferma Lisa Stump, chief digital information officer.

Il Mount Sinai ha però sospeso di recente l’uso di uno strumento di AI generativa di Epic che analizzava i messaggi dei pazienti e produceva risposte personalizzate. Dopo alcune settimane di test, i medici hanno giudicato le bozze poco utili e troppo bisognose di riscrittura.

Quando l’IA non funziona

Secondo Ankit Sakhuja, direttore del laboratorio di assurance sull’IA del Mount Sinai, non sono mancati incidenti specifici: in un caso il sistema ha detto a un paziente che chiedeva un deambulatore o un bastone che non poteva aiutarlo; in un altro ha risposto a un paziente con mal di testa elencando possibilità che andavano da un disturbo lieve a un tumore al cervello.

Epic ha dichiarato che solo una minoranza di ospedali ha sospeso l’uso della funzione e che sono in corso miglioramenti. Lo strumento ha permesso agli infermieri di risparmiare fino a 30 secondi per interazione con i pazienti ed è stato distribuito in circa 1.700 ospedali, pur richiedendo sempre la supervisione umana.

«I clinici mantengono il pieno controllo del messaggio che viene inviato al paziente», ha affermato Seth Hain, vicepresidente senior di ricerca e sviluppo di Epic.

Meno burocrazia, più tempo per i pazienti

Cheryl Wilkes, internista di Northwestern Medicine, racconta di aver passato anni a digitare durante le visite, interrompendosi talvolta per fare domande ai pazienti.

Nel 2024 ha iniziato a usare l’AI per trascrivere e sintetizzare le visite. Invece di dedicare due o tre ore al giorno, dopo il lavoro, alla compilazione delle cartelle elettroniche, ora impiega circa mezz’ora per controllare e correggere il lavoro dell’AI.

L’infermiere specializzato Jeremy Lapham, che lavora in una clinica ambulatoriale ad Ann Arbor, nel Michigan, ha provato a usare l’AI per trascrivere alcune visite, ma ha trovato che il tempo necessario per correggere i testi fosse eccessivo. Usa occasionalmente database clinici basati sull’AI, ma controlla sempre le fonti.

Gran parte del suo lavoro, spiega, consiste nel valutare quali trattamenti siano realisticamente applicabili tenendo conto di vincoli come l’abitazione o i problemi di salute mentale, fattori che l’AI non sempre è in grado di considerare. «Resto scettico», conclude. (riproduzione riservata)

• Leggi anche: La finanza si trasforma con l’AI generativa