For a Human-Centered AI

Hatemeter, una contro-narrativa all’odio in Rete

26 Luglio 2019

Una piattaforma di intelligenza artificiale a supporto delle ONG per monitorare e arginare il fenomeno dell'islamofobia online

Sistematizzare, aumentare e condividere la conoscenza sui discorsi d’odio in rete e accrescere l’efficienza e l’efficacia dell’operato delle Organizzazioni non Governative e delle Organizzazioni della società civile nella prevenzione di episodi di islamofobia a livello europeo.

È questo l’obiettivo di Hatemeter – Hate speech tool for monitoring, analyzing and tackling Anti-Muslim hatred, il progetto coordinato dall’Università degli studi di Trento a cui partecipano Fondazione Bruno Kessler, Amnesty International Italia, Centre National de la Recherche Scientifique e Collectif Contre l’Islamophobie en France – Association de Défense des Droits de l’Homme (Francia), Teesside University e Stop Hate UK (Inghilterra), che ha sviluppato una piattaforma capace da un lato di monitorare e analizzare automaticamente i dati online e i social media, dall’altro di produrre possibili risposte e suggerimenti utili alla creazione di contro-narrative online e campagne di sensibilizzazione ad hoc.

Il progetto vuole fornire un aiuto tecnologico che alle ONG nelle attività di monitoraggio dell’islamofobia online – spiega Sara Tonelli, ricercatrice della Fondazione Bruno Kessler – . Le organizzazioni hanno infatti al loro interno degli operatori che attivamente monitorano quello che accade sul web e in alcuni casi, seguendo delle loro linee guida, intervengono nelle conversazioni che iniziano a diventare violente. Come si può intuire, è un lavoro molto dispendioso e quello che con Hatemeter vogliamo realizzare è uno strumento che velocizzi questi processi“.

È stata quindi realizzata una piattaforma –  sperimentata e validata in Italia da Amnesty – capace di monitorare in tempo reale il web e allo stesso tempo di fornire delle indicazioni alle ONG sul come e quando intervenire nei thread online.

Si è partiti da un grande lavoro di analisi e ricerca. In particolare sono stati monitorati Twitter e Instagram utilizzando circa venti hashtag specifici che ci hanno consentito di individuare e analizzare i contenuti veicolati in rete, la loro provenienza e la loro diffusione – prosegue la ricercatrice – I dati analizzati ci hanno fornito una rappresentazione purtroppo importante del fenomeno dell’islamofobia in rete, con oltre tre milioni di contenuti individuati in pochi mesi. Questi dati sono poi stati utilizzati per la realizzazione di una piattaforma basata sull’intelligenza artificiale capace di suggerire delle possibili risposte agli operatori delle ONG, i quali possono così intervenire nelle conversazioni online cercando di abbassarne i toni. Abbiamo potuto constatare – conclude Sara Tonelli – che effettivamente l’intervento mirato nelle conversazioni produce dei risultati, con molti haters che abbandonano le discussioni e con un abbassamento generale del livello di odio nelle conversazioni“.

Hatemeter si aggiunge ad altri due progetti avviati dalla Fondazione Bruno Kessler per arginare il fenomeno della violenza e della discriminazione, non solo online: DicodiNo, iniziativa avviata con le scuole sugli stereotipi, i pregiudizi, le discriminazioni e la violenza verbale nei confronti delle minoranze religiose, e il progetto CREEP, che affronta la tematica del cyberbullismo, proponendo strumenti di prevenzione attraverso la creazione di nuove tecnologie.


Autore/i