Irreligiosità, big data ed etica dell’intelligenza artificiale: più grande è necessariamente meglio?

Il Centro per le Scienze Religiose della Fondazione Bruno Kessler ha recentemente pubblicato un documento programmatico – intitolato Shaping the AI Transformation: The Agency of Religious or Belief Actors – che esplora la complessa relazione tra Big Data, etica dell’IA, religione e irreligione. Una sintesi dei punti chiave sollevati dal documento programmatico è disponibile sulla pagina web di FBK-ISR. In questo breve articolo, vorrei affrontare brevemente uno degli aspetti che questo documento programmatico mette in evidenza. Vale a dire, la rappresentanza delle realtà (ir)religiose nei campioni di addestramento.

In poche parole, un campione di addestramento è un Vasto set di dati utilizzato per addestrare “l’intelligenza” di algoritmi e agenti basati sull’intelligenza artificiale. In linea di massima, più si alimenta il modello con dati e migliore sarà la capacità di riconoscere gli stimoli e di reagire di conseguenza. Quando, però, i dati utilizzati per addestrare l’IA sono distorti, c’è il rischio di incorporare tali distorsioni nel modello stesso. Lungi dall’essere una possibilità remota, questo scenario costituisce un problema piuttosto frequente. In effetti, i campioni di addestramento possono contenere informazioni stereotipate e/o avere dati sproporzionati, per esempio in termini di genere, etnia o provenienza geografica. È per questo motivo che la sola quantità di dati è, di per sé, insufficiente.

Mentre i ricercatori esprimono sempre più la loro preoccupazione per quanto riguarda la qualità dei dati (vedi Paullada et al., 2021), la ricerca sui bias, o distorsioni, legati alla religione come quella sulle conseguenze della falsa rappresentazione delle comunità religiose nei campioni di addestramento è attualmente ancora in erba.La situazione dell’irreligione è sostanzialmente simile anche se leggermente diversa. Nel corso degli ultimi quattro decenni la percentuale di persone che non professano alcuna religione ha continuato a crescere in maniera costante. Ad oggi, l’irreligione è la nuova maggioranza in diversi paesi occidentali. Tuttavia, la normalizzazione dell’irreligione ha probabilmente avuto una conseguenza importante in Occidente: è diventato più difficile inquadrare l’irreligione come una forma di fede e le realtà irreligiose come potenziali destinatari di discriminazione. Infatti, al di fuori del campo emergente degli studi irreligiosi, l’irreligiosità è raramente considerata o adeguatamente problematizzata.

Quando si parla di religione, è relativamente facile immaginare come la digitalizzazione di stereotipi negativi possa danneggiare e discriminare le comunità religiose. Si pensi, ad esempio, al fatto che è più probabile che GPT-3 (un modello linguistico di grandi dimensioni) associ la parola “musulmano” a termini etichettati negativamente quali “sparare”, “bombe”, “omicidio” o “violenza” (Garrido-Muñoz et al., 2021). Ciononostante, la ricerca si è concentrata finora principalmente su altre caratteristiche socio-demografiche quali il genere o l’etnia, lasciando spesso indietro l’analisi della religione. E che dire dell’irreligiosità? Ci sono anche stereotipi negativi sugli irreligiosi? Sono veramente discriminati? Gli occidentali potrebbero essere tentati di rispondere “no” a queste domande o di sminuire la questione sottolineando che oggigiorno non essere religiosi è normale e socialmente accettato. Anche se questo è parzialmente vero, le cose sono un po’ più complicate di così. Secondo l’ultimo rapporto di Humanists International, le persone irreligiose in circa 70 paesi del mondo subiscono ancora discriminazioni “serie” o “gravi” per quanto concerne la loro libertà di espressione.Questo numero aumenta ulteriormente se si considera anche la discriminazione “sistemica”. Il problema non si limita ai paesi africani e mediorientali come qualcuno potrebbe pensare. Infatti, anche in paesi come gli Stati Uniti, gli irreligiosi devono qualche volta fare i conti con atteggiamenti negativi e discriminazioni (Cragun et al., 2012; Mackey et al., 2020).

La conclusione è piuttosto semplice, sia la religione che l’irreligione svolgono ancora un ruolo nello svolgersi delle varie tensioni sociali che si verificano in tutto il mondo ai giorni nostri. È quindi importante migliorare la nostra comprensione delle potenziali rappresentazioni errate della religione nei campioni di addestramento e rimediare esplicitamente alla trascuratezza che ha subito l’irreligione. La natura di questo problema non è solo etica, è anche una questione di efficacia. Al fine di affidare scelte importanti a decisori opachi e automatizzati, il che ci consente di risparmiare considerevoli quantità di tempo e altre risorse, dobbiamo essere certi che il processo sia equo. In altre parole, occorre rendere il processo meno opaco e più trasparente definendo standard di qualità accettabili e adeguati meccanismi di controllo. In questo senso, il documento programmatico di FBK-ISR è, tra l’altro, un invito a problematizzare il ruolo delle componenti religiose e irreligiose della popolazione nella formazione di sistemi intelligenti che sempre più governano la nostra quotidianità.