For a Human-Centered AI

Diritto, medicina e nuove tecnologie: l’intelligenza artificiale al servizio dell’uomo

12 Giugno 2020

Rischi e benefici dell'impiego dell'intelligenza artificiale in medicina, fra diritto e tecnologia.

La pandemia da Covid-19 è stata un importante banco di prova per le tecnologie applicate alla salute e per l’intelligenza artificiale in particolare. La medicina è infatti uno degli ambiti più promettenti per quanto riguarda l’applicazione dell’intelligenza artificiale, che negli ultimi anni è stata introdotta in maniera sempre più massiva e puntuale. Capire perché è piuttosto immediato: la digitalizzazione dei dati permette ai sanitari di avere accesso a una grossa quantità di informazioni cliniche e sanitarie in formato digitale grazie al machine learning e al data learning, in numero assai più elevato rispetto a quelle acquisibili “manualmente”. Ciò rende possibile costruire delle relazioni fra i dati analizzati e analizzarli in maniera più efficacie.

Nel caso della pandemia in corso, le potenzialità dell’intelligenza artificiale sono molteplici: dalla diagnosi all’assistenza ai pazienti malati, al monitoraggio dell’epidemia nella popolazione attraverso il controllo della curva epidemiologica e lo studio delle interazioni sociali (es.: app di contact-tracing Immuni); ma anche, pensando soprattutto alla fase di convivenza con il virus, per la misurazione della temperatura corporea, la verifica del distanziamento fisico e dell’utilizzo delle mascherine e, magari, la messa a punto di un vaccino idoneo.

Molti, dunque, i benefici apportati e ulteriormente apportabili dall’intelligenza artificiale ma potrebbero esserci anche dei rischi correlati, da tenere egualmente in considerazione?

Ne ha esaustivamente parlato Marta Fasan, giurista e referente di TRAiL (Trento Artificial Intelligence Laboratory) – progetto Jean Monnet il cui scopo è costruire una rete nazionale di dottorandi che si occupano di intelligenza artificiale da diverse prospettive – all’interno della videoconfrenza “Diritto, medicina e nuove tecnologie: le dimensioni individuale e collettiva della tutela del diritto alla salute” organizzata dall’Università di Trento. All’evento online, che fa parte di un ciclo più ampio, hanno partecipato anche Carlo Casonato (Unitn), in qualità di moderatore, Federico La Vattiata (Facoltà di Giurisprudenza, Unitn), Paolo Traverso, direttore centro ICT di FBK ed Elettra Stradella (Università di Pisa).

I benefici dell’intelligenza artificiale applicata alla gestione della pandemia da Covid-19, oltre a quelli precedentemente esposti, sono:

1. ACCELERAZIONE DEI TEMPI DI RICERCA SULLA MALATTIA E SUL VACCINO: maggiore disponibilità di dati, tempi sensibilmente accorciati, diagnosi precoce degli infetti, accelerazione nel raggiungimento dell’immunità della popolazione;

2. EFFICACIA: analisi dati veloce e puntuale, anche tramite il riconoscimento di immagini, con meno errori e possibilità di eseguire un monitoraggio a distanza (si pensi che durante la pandemia sono stati resti interoperabili agli addetti ai lavori 13.000 articoli sui coronavirus!). Possibilità di effettuare diagnosi anche in assenza o carenza di strumenti di diagnosi (es.: tamponi), con conseguente sgravio di pressione per ospedali e personale sanitario;

3. EGUAGLIANZA: trattamenti sanitari più precisi e personalizzabili sui pazienti, garantendo uniformemente il diritto alla salute, sia individuale che collettiva.

I rischi connaturati al dilagare dell’impiego dell’intelligenza artificiale sono, invece, maggiormente di natura giuridica e legati ad aspetti di tutela della privacy dei dati raccolti:

1. TRATTAMENTO DEI DATI RACCOLTI: come vengono trattati e tutelati e da chi?

2. VARIETÁ E QUALITÁ DEI DATI: bisogna tenere conto di possibili bias (culturali, sociali, ecc.) e informazioni parziali che potrebbero compromettere o intaccare la qualità dei dati raccolti, dando potenzialmente origine, nella peggiore delle ipotesi, a nuove forme di discriminazione e a prestazioni comunque inferiori rispetto ai trattamenti sanitari più tradizionali (es.: se i dati mostrano che le persone di colore si ammalano meno di una determinata patologia è un’informazione attendibile o deriva dal fatto che, nel corso della storia, queste popolazioni hanno avuto meno accesso alle cure sanitarie ed è stata prestata meno attenzione alla loro salute?). Va però detto che, consci di questo rischio, gli sviluppatori ormai vi pongono sempre maggiore attenzione cercando di progettare dei sistemi di intelligenza artificiale anti-discriminatori by design;

3. BLACK BOX: l’aumento della digitalizzazione e dell’impiego di tecnologie informatiche complesse potrebbe portare ad una difficoltà di accesso e di non immediata comprensione delle stesse, il cosiddetto digital divide, soprattutto per le fasce di popolazione più a rischio, come per esempio gli anziani e i non nativi digitali. Il rischio che ne consegue è ovvio: chi non può comprendere queste tecnologie tende a non avere fiducia negli strumenti digitali e a diffidare anche dei processi decisionali che vi sottendono. Similmente, è determinante che gli stessi operatori sanitari possano comprendere la tecnologia che si apprestano ad utilizzare, per poterla poi, a loro volta, spiegare ai loro pazienti (diritto al consenso informato);

4. DISUMANIZZAZIONE DEL RAPPORTO TERAPEUTICO: la diffidenza descritta al punto precedente potrebbe essere traslata anche al medico curante che si fa proponente e in certi casi anche promotore dell’impiego delle nuove tecnologie nei confronti del paziente, portando a un deterioramento del rapporto e della comunicazione medico/paziente, importante tanto quanto la cura stessa. L’intelligenza artificiale deve quindi porsi ed essere vista come un valido assistente del medico, non un suo sostituto.

Ecco quindi che, già dopo questa breve carrellata dei possibili pro e contro dell’intelligenza artificiale, risulta evidente e opportuno un corretto e ponderato bilanciamento del rapporto costi/benefici volto a migliorare gli ambiti di intervento nella piena tutela dei singoli individui. Si rende quindi auspicabile e necessario un costante e sempre maggiore dialogo interdisciplinare che metta in campo le diverse competenze proprie di discipline, appunto, diverse fra loro quali l’informatica, il diritto, la bioetica, ecc.

Su questo ha posto l’accento l’intervento di Federico La Vattiata, dottorando di giurisprudenza che si occupa in particolare di diritto, medicina e nuove tecnologie, che ha parlato dell’importanza della codificazione di regole che siano alla base, per iniziare, della sicurezza e dell’efficacia delle cure e della loro scientificità. Per tali regole, investite dell’opportuna ufficialità, vanno previste anche delle sanzioni in caso di violazione.

Considerando poi che l’intelligenza artificiale si adatta e interviene sulle necessità contingenti della modernità, le regole tese a regolamentarne l’uso non possono essere fisse e immutabili ma devono cambiare ed evolversi di pari passo.

Serve quindi un’attenta valutazione del rischio (risk assessment) in favore della tutela individuale e collettiva ma anche dei tre attori principali su sui ricadono, in ultimo, le responsabilità dell’impiego di tecnologie avanzate nella lotta al virus (culpa in administrando), ovvero gli sviluppatori dei programmi, gli user sanitari e il management delle aziende sanitarie: chi si prende, infatti, la colpa, di non aver messo in atto un’azione suggerita da una tecnologia ad intelligenza artificiale (o viceversa?). Nel caso della pandemia da Covid-19, però, la situazione concitata in cui si è svolto il processo decisionale e attuativo e la necessità di prendere decisioni istantanee non ha dato il tempo materiale di mettere a punto una regolamentazione precisa ed esaustiva.

Paolo Traverso, direttore del centro di Information Technology della Fondazione Bruno Kessler, è ottimista riguardo al fatto che, anche una volta superata la pandemia in corso, l’intelligenza artificiale continuerà ad essere utilizzata in medicina. In particolare, Traverso ha voluto mettere in luce l’estrema importanza dei modelli stocastici di predizione che, unitamente all’analisi dei dati forniti dal machine learning e dal data learning, hanno consentito di studiare la curva del contagio e di prevederne l’evolversi, fornendo anche diversi possibili scenari a seconda delle variabili messe in campo di volta in volta.

Traverso si è soffermato anche sull’importanza di stipulare un patto sotteso col cittadino, aiutando a rassicurare e fugare i dubbi inerenti, per esempio, all’utilizzo della app di contact-tracing, garantendo la totale privacy dei dati forniti (criptati in codici), senza i quali, con una sindrome sconosciuta come quella da SARS-CoV2, risulterebbe impossibile fare progressi in tempi ridotti per arginare il contagio e curare gli infetti. Anche in questo caso, quindi, l’interazione e la comunicazione fra intelligenza artificiale e medicina si pongono al centro della questione, così come la necessità di far rimanere l’essere umano al centro del processo.

 

 

 


Autore/i