L’utilizzo dell’Intelligenza Artificiale nel campo della Medicina. E’ il tema che affrontiamo oggi nella rubrica “Non solo trentatré”, curata dai Prof. Enrico Ferri e Claudio Loffreda-Mancinelli, con il contributo del Professor Ramayya Krishnan.

Il Prof. Ramayya Krishnan è laureato in Ingegneria Meccanica presso l’Indian Institute of Technology e l’Università del Texas ad Austin.  Master in ingegneria industriale e ricerca operativa e un dottorato di ricerca in scienze gestionali e sistemi informativi. È un esperto di trasformazione digitale ed è ben noto per il suo lavoro nell’e-commerce e nella gestione del rischio delle informazioni. I suoi attuali interessi di ricerca riguardano l’uso responsabile dell’Intelligenza Artificiale (IA) e gli approcci basati sui dati per supportare lo sviluppo della forza lavoro.

Membro del comitato consultivo politico del GAO (Government Accountability Office), e della Asian Development Bank. Membro esterno dalla Royal Society e dalla Accademia Nazionale per la IA.  Nel 2019 è stato il 25° Presidente di INFORMS, l’Istituto per la ricerca operativa e le scienze gestionali, la Global Operations Research and Analytics Society. È stato nominato membro del Comitato Consultivo Nazionale per l’Intelligenza Artificiale (National AI Advisory Committee) dal Presidente degli Stati Uniti e membro dell’Ufficio Nazionale per le Iniziative di Intelligenza Artificiale (National AI Initiatives office) nel 2022.

Intelligenza Artificiale

Professor Krishnan, cos’è l’intelligenza artificiale?

“L’intelligenza artificiale è la simulazione dei processi di intelligenza umana da parte di sistemi informatici, e quindi la simulazione dell’intelligenza umana in macchine programmate per pensare e agire come esseri umani.

Il principio centrale dell’IA è replicare e migliorare il modo in cui gli esseri umani percepiscono, reagiscono, prevedono e prendono decisioni. Un aspetto importante dell’intelligenza artificiale è l’apprendimento automatico che sfrutta i dati passati per aiutare a promuovere previsioni e decisioni. L’intelligenza artificiale ha un potenziale immenso e può aiutare a risolvere importanti sfide sociali. Presenta anche grandi rischi e abbiamo bisogno di barriere di protezione adeguate mentre sfruttiamo l’intelligenza artificiale per benefici economici e sociali”.

Molti temono che questo miglioramento delle prestazioni provocherà la perdita di posti di lavoro.

“Le persone devono avere le giuste competenze per svolgere un lavoro in presenza della tecnologia.  Con l’avvento dei bancomat automatizzati, si riteneva che i cassieri di banca non sarebbero stati più necessari. La realtà è che oggi fanno cose diverse da quelle che facevano negli anni ’70 e ’80 quando davano principalmente denaro o depositavano denaro su conti, cosa che oggi avviene generalmente in automatico. Il loro lavoro si è evoluto. Oggi, come impiegati di banca, possono avere un rapporto personalizzato e confidenziale con il cliente. Le competenze e le qualità necessarie per svolgere un lavoro di cassiere di banca sono cambiate.

D’altra parte, ci sono lavori che non possono evolversi. Un esempio è il personale addetto alla riscossione dei pedaggi sulle autostrade. Quel tipo di lavoro è stato quasi completamente automatizzato.

In definitiva avremo lavori che scompariranno perché la tecnologia sarà in grado di svolgerli meglio e in modo meno costoso, altri lavori verranno ridefiniti, come nel caso dei bancomat.

Con l’avvento dell’IA, la questione di quali lavori saranno eliminati, si evolveranno o verranno creati è diventato un importante argomento di discussione”.

 Ci può fare un esempio di queste trasformazioni?

“Consideriamo il caso dei piloti di linea. Anni fa, c’erano 3 piloti di linea su ogni aereo, tra cui un ingegnere di volo, un pilota e un copilota. Dopo aver installato il software automatizzato su ogni aereo, il lavoro dell’ingegnere di volo è stato eliminato. Ciò ha suggerito che il sistema avrebbe avuto bisogno di meno piloti addestrati. Non è stato però considerato il fatto che a causa del minor numero di piloti necessari per aereo, i costi operativi sarebbero diminuiti e, di conseguenza, i costi dei biglietti, più persone avrebbero iniziato a volare, e più aerei e nuove rotte sarebbero state necessarie. Alla fine, il numero dei voli e conseguentemente dei piloti richiesti è aumentato. Pertanto, a volte è difficile prevedere come si evolveranno determinati scenari”.

Alcune persone del settore chiedono una pausa di riflessione, un rallentamento negli sviluppi dell’IA.

“Probabilmente siamo a un punto di non ritorno. La concorrenza tra paesi e aziende guiderà lo sviluppo. Tuttavia, c’è motivo di preoccupazione.

Il problema è che solo poche aziende private come Open AI, Google, Microsoft, Amazon e Meta hanno il potere, i dati, le competenze per creare tecnologie come Chatgpt, un software progettato per simulare una conversazione con un essere umano.

Personalmente penso che abbiamo bisogno di studi indipendenti per prevedere dove e soprattutto come si evolverà l’IA. Al giorno d’oggi anche la maggior parte delle persone esperte di tecnologia non capisce bene come e perché certi modelli si comportano in un certo modo. Solo poche persone hanno il controllo del “sistema”.

Quindi, penso che abbiamo bisogno di uno studio aperto e condiviso sulle proprietà, le caratteristiche e i limiti dei programmi di IA emergenti. Nelle applicazioni di importanza e utilità sociale (assistenza sanitaria, reclutamento, polizia, giustizia), è probabile che siano necessarie certificazioni e regole per garantire che l’IA sia stata sviluppata in modo responsabile e testata per assicurarsi che sia sicura e quindi da implementare.

Ci sono ovviamente anche preoccupazioni politiche legate alla possibilità che questa tecnologia possa essere utilizzata per diffondere false informazioni o propaganda per influenzare gli elettori. C’è anche la possibilità di creare facilmente disinformazione utilizzando l’intelligenza artificiale non solo in forma di testo, ma anche creando video dall’aspetto molto reale ma, appunto, falsi.

Cosa e quanto saranno credibili i contenuti online o via etere è una questione significativa e una sfida importante che dovrà essere affrontata. Questo è importante poiché la fiducia nelle informazioni è fondamentale per la nostra democrazia”.

Quindi, avremo bisogno di regolamentazioni?

“Sì, credo che sia necessaria una regolamentazione ponderata. Per evitare problemi potenzialmente seri, sarà importante che governi, settore privato, accademici e rappresentanti di privati cittadini si uniscano e creino una sorta di consorzio per stabilire regole, regolamenti e linee guida chiare.

Ma prima di “regolamentare” è importante che tutti capiscano cosa stanno regolando. È essenziale comprendere le proprietà, le qualità e le potenzialità dei nuovi modelli proposti e sviluppati, le loro implicazioni sociali, economiche, etiche e politiche. In definitiva, gli standard dovrebbero sostenere l’innovazione tanto quanto proteggere i diritti. Ma per fare tutto questo dobbiamo avere una buona comprensione e conoscenza di ciò che sta accadendo, dell’argomento che stiamo trattando. Negli Stati Uniti, il NIST ha sviluppato il framework di gestione del rischio AI. L’UE sta sviluppando la legge sull’IA. Esistono anche normative esistenti che precedono l’IA (ad es. Fair Credit Reporting Act) che possono essere utilizzate per garantire la conformità dei sistemi basati sull’IA. Alcuni hanno chiesto una nuova agenzia per regolamentare e supervisionare l’IA. I prossimi anni forniranno una road map per come sarà governata l’IA”.

IA e Medicina

Qual è il ruolo e il futuro dell’IA in campo medico?

“L’intelligenza artificiale può salvare vite umane e migliorare l’assistenza sanitaria aiutando a personalizzare la cura del paziente, a rendere gli ospedali più efficienti e a migliorare l’accesso all’assistenza sanitaria fornendo strumenti decisionali accurati.

Negli ultimi anni l’aspetto dominante della IA in campo medico è stato la formazione di database ricchi di migliaia di dati accertati, documentati, tipici di particolari patologie in una data popolazione, con similarità diagnostiche, utilizzabili per predire o diagnosticare casi simili.  In pratica si è messo a disposizione del medico un pool di centinaia di migliaia di immagini, dati, a cui gli esami di un dato paziente verranno paragonati.  Un esempio è rappresentato dall’utilizzo di immagini radiologiche.

In campo medico viene spesso utilizzato il modello “human in the loop”, in cui i sistemi di intelligenza artificiale forniscono dati e raccomandazioni ai medici che poi determinano se accettare e agire di conseguenza.

In pratica il sistema fornisce risultati prodotti da un modello informatico che, in presenza di un’enorme mole di dati complessi, li elabora in un processo formativo che ha lo scopo di costruire la propria capacità di prendere/consigliare decisioni o prevedere risultati.

Questo modello informatico è basato sui dati dell’esperienza di migliaia di casi e pazienti, può prevedere se un trattamento funziona e cosa funziona meglio per un dato paziente in base a specifiche condizioni individuali. I modelli di intelligenza artificiale ci aiutano anche a capire se una determinata popolazione è più suscettibile a una particolare malattia e quali interventi sanitari possono offrire una risposta migliore.

Questa generazione di IA è diversa e più interattiva rispetto alle precedenti in cui i software tradizionali presentano una staticità delle funzioni: in altre parole un programma, non importa quante volte venga utilizzato, darà sempre lo stesso risultato in base ai dati inseriti.

Certamente questa peculiarità offre risultati ripetibili, costanti e sicuri da implementare nella pratica clinica di routine, quali possono essere l’utilizzo del computer durante gli interventi di protesi, in cui l’accuratezza nel posizionamento della protesi è fondamentale, nella compilazione di cartelle cliniche o nella prescrizione di farmaci”.

I programmi di intelligenza artificiale di prossima generazione elaboreranno grandi quantità di informazioni multimodali e impareranno ed evolveranno nel tempo, diventando idealmente più “intelligenti” in base al contesto in cui vengono utilizzati e alle informazioni che utilizzano o ricevono.  Come per la maggior parte delle tecnologie, la loro diffusione e adozione diffusa è ancora un fenomeno graduale.

Le regolamentazioni della IA saranno fondamentali ed essenziali anche e soprattutto in campo sanitario.  Sarà importante garantire che i dati utilizzati per costruire i programmi siano rappresentativi dell’intera popolazione umana, che non esistano pregiudizi e che i modelli siano validi, standardizzati e offrano risultati comprovati.

L’intelligenza artificiale sarà parte integrante della medicina in futuro. Pertanto, è importante educare la nuova generazione di medici sui concetti e sull’applicabilità dell’IA e su come interagire in modo efficiente in uno spazio di lavoro di cui i computer sono parte integrante”.

Leggi anche Intelligenza Artificiale e auto: chi guida una Mercedes Benz potrà rivolgersi a ChatGPT