Dallo schermo alla realtà: la violenza di genere nell’era dei deep fake

Una donna parlamentare ha una probabilità 33 volte superiore rispetto a un collega uomo di vedere la propria immagine associata a contenuti pornografici manipolati o diffusi senza consenso. È quanto emerge da uno studio condotto da Agora Digitale Transformation, che ha preso in esame i 720 membri del Parlamento europeo in carica incrociando i loro nomi con 200 siti web noti per ospitare deepfake pornografici, leak di celebrità o foto rubate: su 50 casi identificati, 46 riguardano donne. Un dato preoccupante, che solleva una questione più ampia su  quanto il rischio di subire violenza online possa incidere sulla scelta delle donne di esporsi pubblicamente, oggi e nelle generazioni future.

Si tratta di forme di violenza che avvengono nello spazio digitale, ma le cui conseguenze sono del tutto reali. Possono compromettere la reputazione, la sicurezza e il benessere delle persone, e lo fanno attraverso strumenti sempre più accessibili, veloci ed economici.

“Alla Fondazione Bruno Kessler ci occupiamo di sviluppare strategie e strumenti per rendere più sicuro l’ambiente digitale e mitigarne i rischi che possono colpire persone e organizzazioni. I deepfake mostrano bene come una stessa tecnologia possa essere utilizzata per scopi molto diversi: l’intelligenza artificiale permette di creare contenuti falsi sempre più realistici, ma può anche aiutarci a riconoscerli e a contrastarne la diffusione in caso di utilizzi malevoli. La ricerca ha quindi un ruolo fondamentale, non solo per comprendere queste nuove minacce, ma anche per sviluppare strumenti capaci di limitarne le conseguenze”, ha commentato Cecilia Pasquini, ricercatrice del Centro per la Cybersicurezza di FBK.

Come possiamo dunque difenderci da queste minacce e quali strumenti tecnologici e giuridici abbiamo a disposizione per contrastarle?

Sono alcune delle domande affrontate il 22 ottobre nell’incontro Dallo schermo alla realtà: la violenza di genere nell’era dei deep fake, organizzato dal Centro per la Cybersicurezza della Fondazione Bruno Kessler in collaborazione con Women4Cyber Italia, associazione impegnata a promuovere la partecipazione delle donne nel settore della sicurezza informatica e a contrastare gli stereotipi di genere. A presentarla è stata Maria Vittoria Zucca, dottoranda in Cybersecurity presso IMT Lucca e Scuola Superiore Sant’Anna.

Le modalità con cui è possibile manipolare i contenuti digitali sono numerose. Si parla di deepfake, immagini, video o audio generati o alterati attraverso l’intelligenza artificiale, ma anche di deep nude, falsi contenuti di nudità, e voice cloning, la clonazione della voce che può essere realizzata anche a partire da una breve registrazione audio. Termini inglesi che rischiano di farci percepire come lontano un fenomeno che, invece, può riguardare chiunque.

A illustrarne il funzionamento è stata Giulia Boato, professoressa ordinaria all’Università di Trento ed esperta di analisi forense multimediale e intelligenza artificiale che ha presentato anche le possibili soluzioni al problema che la stessa tecnologia offre.

Proprio sul fronte del riconoscimento dei contenuti manipolati, l’analisi forense digitale consente di individuare tracce invisibili a occhio nudo, rilevare incoerenze nelle immagini e nei video o identificare segnali riconducibili ai sistemi di generazione artificiale. Altri strumenti sono la marchiatura (watermarking) dei contenuti sintetici e l’inserimento di metadati digitalmente firmati per dichiararne la provenienza, entrambi previsti anche dall’AI Act europeo, che introduce obblighi di trasparenza per determinati contenuti prodotti o manipolati attraverso l’intelligenza artificiale. Nessuna di queste soluzioni, tuttavia, è sufficiente da sola: i sistemi di rilevamento si trovano a “rincorrere” queste tecnologie di generazione in continua evoluzione.

Il contrasto alla violenza digitale richiede quindi un approccio interdisciplinare, che affianchi alla ricerca tecnologica gli strumenti normativi e una riflessione sulle dinamiche sociali che alimentano questi fenomeni.

Su quest’ultimo aspetto si è concentrato l’intervento di Elena Pavan, professoressa associata all’Università di Trento ed esperta di studi sui movimenti sociali e di genere. La violenza online non può essere compresa senza considerare il modello economico delle piattaforme digitali, nel quale l’attenzione, le interazioni e la circolazione dei contenuti generano valore. In questo contesto, applicazioni che promettono di soddisfare qualsiasi richiesta dell’utente possono contribuire a normalizzare pratiche lesive della dignità e del consenso altrui.

Le piattaforme sono già chiamate a precise responsabilità dal Digital Services Act, che prevede strumenti per segnalare i contenuti illegali e obblighi di gestione dei rischi, mentre l’AI Act interviene su specifici utilizzi dell’intelligenza artificiale. La regolamentazione, però, non può essere l’unica risposta. Per Pavan, un ruolo fondamentale spetta all’educazione sessuo-affettiva, necessaria per affrontare anche le nuove forme di violenza mediate dalla tecnologia. Comprendere il consenso, riconoscere le relazioni di potere e sviluppare una maggiore consapevolezza delle proprie azioni online sono competenze che riguardano la vita digitale quanto quella fuori dallo schermo.

È proprio questa separazione, del resto, a risultare sempre meno sostenibile. La tecnologia cambia gli strumenti attraverso cui la violenza viene esercitata, ma non ne cancella le radici sociali. Per contrastarla servono sistemi più sicuri, norme efficaci e persone capaci di riconoscerla. Perché un’immagine può essere falsa, ma la violenza che produce è reale.