For a Human-Centered AI

“L’intelligenza artificiale cambia il modo con cui facciamo tutte le cose”

1 Settembre 2020

Intervista all'esperto in etica delle tecnologie Paolo Benanti

Lo ha detto il professor Paolo Benanti, frate francescano del Terzo Ordine Regolare, che lo scorso giugno alla Fondazione Bruno Kessler è stato protagonista di uno degli incontri di Essent*IA, organizzati dal programma FBK per la Salute, dal titolo Digital Age: epistemologia e antropologia nell’epoca dell’Intelligenza Artificiale.

Paolo Benanti gira il mondo per parlare di questioni etiche nell’Intelligenza artificiale; si occupa di etica, bioetica ed etica delle tecnologie; studia gestione dell’innovazione, tra internet e l’impatto della Digital Age; approfondisce le biotecnologie per il miglioramento umano e la biosicurezza, le neuroscienze e le neurotecnologie. Dal 2008 è docente presso la Pontificia Università Gregoriana, dove ha conseguito anche il dottorato di teologia morale, presso l’Istituto Teologico di Assisi e il Pontificio Collegio Leoniano ad Anagni. Abbiamo quindi voluto cogliere l’occasione del seminario Essent*IA per raccogliere attraverso questa video intervista qualche riflessione e stimolo su uno dei temi più dibattuti di questi anni.

Alcune domande che gli abbiamo posto ci raccontano innanzitutto la sua formazione e il suo lavoro, altre indagano il suo approccio e la sua visione sul tema dell’etica delle tecnologie. Gli abbiamo chiesto cosa lo distingue rispetto ad altri studiosi: perché un religioso parla di etica delle tecnologie? Qual è la sua visione e qual è l’importanza che dà al tema dell’etica? “Nel mio background ho degli studi tecnici: dopo il liceo ho intrapreso gli studi di ingegneria” – ha precisato Benanti. “Poi ad un certo punto ho fatto una scelta di vita diversa che mi ha portato ad occuparmi di discipline teologiche ed umanistiche. Quando si è trattato di scegliere il dottorato ho tentato di riunire queste due anime, e sono stato accolto dalla Georgetown University a Washington (USA) dove ho potuto toccare con mano biotecnologie, uomo, tecnologie digitali”.

“Il mio contributo come docente per la comprensione dell’umano riguarda il porsi al limite, o meglio, porsi come interfaccia tra umano e macchina della questione etica”.

“La macchina deve rispettare delle questioni che per noi sono fondamentali” – continua Benanti. “C’è un esempio che riporto sempre: un veicolo a guida autonoma che ad un incrocio si trova nella sfortunata circostanza di dover decidere chi sacrificare: come deve scegliere? A chi di noi andando dal medico non è capitato di avere una diagnosi diversa o una prospettiva di cura diversa rispetto ad un altro medico? Una è giusta e una è sbagliata? Non è detto, perché con una giusta e una sbagliata ci sarebbe un colpevole e un innocente. C’è una grande zona, all’interno dello scegliere umano” – spiega Paolo Benanti – “in cui soluzioni diverse sembrano attuare qual è il bene che capiamo e che possiamo realizzare in quel momento. Di fatto la macchina più venduta nel mercato automobilistico è una Tesla, che ha delle funzioni di pilota automatico. E ora ci si chiede, soprattutto in Tesla: chi sarebbe disposto a spendere 130mila euro per un’auto che, in caso di incidente, sceglie di sacrificare chi l’ha acquistata anziché degli sconosciuti per strada? Il problema non è la riflessione etica, ma sono le preferenze accordate in base ai valori economici in gioco. La Germania ha detto che la vita del passeggero e del proprietario della macchina valgono quanto quella del pedone. Negli Stati Uniti non è così definita. Noi non abbiamo ancora risposto”.

“La scelta etica, prettamente umana” – incalza Benanti – “in qualche misura deve diventare una competenza della macchina autonoma. Per fare questo io propongo una definizione che è una commistione tra etica e macchina, un nuovo capitolo dell’etica:

“l’Algor-Etica è l’idea di poter sviluppare strumenti algoritmici per gestire dimensioni eticamente sensibili della macchina dotata di intelligenza artificiale”.

Lo abbiamo poi incalzato sull’esistenza di un’etica che possiamo condividere globalmente: “Siamo abituati a pensare l’etica come una dimensione normativa” – ha risposto Benanti. “L’etica delle virtù è un modello che trova universalmente molta più adesione di un’etica normativa. Poi possiamo chiederci quanto è giusto, cosa è giustizia e cosa è equità – questione che abbonda nella filosofia per esempio del Novecento. La macchina deve o non deve essere giusta? È un dibattito aperto”.

Rimane ottimista il professor Benanti rispetto al fatto che grandi player, grandi aziende che si pongono al di sopra degli Stati e che investono miliardi di dollari e risorse, e perseguono obiettivi di business, rimangano centrate sul bene dell’uomo. “Noi ci troviamo in una fase dell’innovazione tecnologica molto particolare, in cui ci sono dei player molto grandi, con bilanci e capitalizzazioni anche superiori a molti stati. Però questi grandi gruppi sono fatti da uomini, da persone che se non trovano  soddisfazione in quello che fanno, se non condividono l’idea di missione per rendere “il mondo migliore”, tutto questo non funziona. Questo dà luogo ad una congiuntura in cui il messaggio etico diventa sempre più importante. Se prima a questa domanda rispondevano “noi facciamo business” ora rispondono che l’etica è una cosa fondamentale” – ha aggiunto Benanti.

“Tenere acceso il dibattito sull’etica è ciò che ci garantisce che l’etica almeno bussi alle porte delle istituzioni e dei grandi player. Se qualcuno le apre poi vedremo..”

Una domanda l’abbiamo dedicata alle Istituzioni o portatori di interessi con cui la Santa Sede sta collaborando per diffondere il tema dell’etica. “A partire dalla rivoluzione industriale la Santa Sede si è vista urgentemente interrogata da quella nuova fascia di ingiustizia che arrivava con gli operai e tutta la questione sociale. Nasce quindi da fine ‘800 – in ritardo rispetto ad altri movimenti – una corrente che si chiama Dottrina sociale della Chiesa che è attenta a questi cambiamenti della società. Oggi sembra essere di fronte ad un nuovo capitolo in cui dover dire qualcosa di nuovo”.

“L’intelligenza artificiale non è una tecnologia che serve a fare qualcosa di specifico, ma cambia il modo con cui facciamo tutte le cose”.

Siamo all’inizio di questa riflessione plurale, ma che ancora non ha portato ad una espressione del vertice della Chiesa e Papa Francesco ancora non ha offerto un’enciclica su questi temi” – aggiunge Benanti.

Esiste la possibilità di applicare delle linee guida, delle indicazioni condivise per lo sviluppo delle nuove tecnologie, e quindi, se si riuscisse a giungere a delle linee guida riconosciute, accordate internazionalmente, chi, quale organo o istituzione potrebbe proporsi come organo di vigilanza, chi potrebbe prendersi la responsabilità di controllare che vengano applicate?

“Le questioni etiche devono appartenere ad un patto sociale e perché un sistema democratico funzioni c’è bisogno di qualcuno che vigili sul patto sociale”.

“L’idea di lanciare semplicemente delle istanze, siano esse normative od etiche, e pensare che queste accadano non funziona” – afferma Benanti. “C’è bisogno di una coscienza civile, c’è bisogno di un’attenzione che diventi una prassi anche delle aziende” conclude il professore.

L’ultima domanda l’abbiamo dedicata ai suoi impegni futuri.
Guarda l’intervista per saperne di più.

NOTA: L’obiettivo dei seminari di Essent*IA è di aiutare a riflettere sui bisogni di innovazione e sul ruolo delle tecnologie digitali per la salute, attraverso un approccio multidisciplinare di matrice umanistica e che vedano l’intelligenza artificiale – IA come fil rouge del percorso, in quanto massima espressione del supporto tecnologico in sanità.


Paolo Benanti

Frate francescano del Terzo Ordine Regolare, si occupa di etica, bioetica ed etica delle tecnologie. In particolare i suoi studi si focalizzano sulla gestione dell’innovazione: internet e l’impatto della Digital Age, le biotecnologie per il miglioramento umano e la biosicurezza, le neuroscienze e le neurotecnologie. Dal 2008 è docente presso la Pontificia Università Gregoriana, dove ha conseguito anche il dottorato di teologia morale, presso l’Istituto Teologico di Assisi e il Pontificio Collegio Leoniano ad Anagni. Oltre ai corsi istituzionali di morale sessuale e bioetica si occupa di neuroetica, etica delle tecnologie, intelligenza artificiale e post-umano. Ha fatto parte della Task Force Intelligenza Artificiale per coadiuvare l’Agenzia per l’Italia digitale. E’ membro corrispondente della Pontificia accademia per la vita con particolare mandato per il mondo delle intelligenze artificiali. A fine 2018 è stato selezionato dal Ministero dello sviluppo economico come membro del gruppo di trenta esperti che a livello nazionale hanno il compito di elaborare la strategia nazionale sull’intelligenza artificiale e la strategia nazionale in materia di tecnologie basate su registri condivisi e blockchain. Nel novembre 2019 papa Francesco lo ha nominato Consultore del Pontificio consiglio della cultura. In aprile del 2020 ha pubblicato un breve scritto dal titolo: “Se l’uomo non basta. Speranze e timori nell’uso della tecnologia contro il Covid-19”, attraverso il quale cerca di fare i conti con l’esigenza di pensare come e cosa fare per uscire dal presente ed essere ancora umani nel futuro.

 


Autore/i