FBK e la grande sfida della compliance nell’IA

Per interrogarsi attorno a questa domanda, la comunità della ricerca di FBK ha ospitato un evento che ha riunito i ricercatori più attivi in questo ambito, presentando soluzioni innovative per affrontare la compliance dell’AI, dalla progettazione alla verifica, fino all’implementazione pratica.

Dopo il primo evento sullo stesso tema organizzato lo scorso anno, il cui scopo era principalmente conoscitivo, il Centro DIGIS ha realizzato lo scorso 22 aprile un workshop tecnico per tutta FBK dedicato ad approfondire la compliance nella società digitale – con un focus particolare sull’impatto dell’AI compliance su robustezza, sicurezza, fairness, affidabilità, gestione dei vincoli di contesto e delle normative emergenti. 

L’iniziativa è stata promossa con l’intento di mappare e mettere in relazione le attività di ricerca già in corso all’interno di FBK, stimolando un confronto aperto e multidisciplinare su come in FBK si affronta, modella e declina il concetto di compliance nei vari progetti.

Il workshop ha visto la partecipazione del Servizio People innovation for Research, con un focus sulla privacy, e di metà dei centri di ricerca della Fondazione: Digital Society, Cyber Security, Digital Industry, Digital Health Well Being, Augmented Intelligence e Istituto per la Ricerca Valutativa sulle Politiche Pubbliche. 

Aperto a tutta la comunità di FBK, l’incontro ha visto partecipare oltre 100 esperte/i, coinvolgendo in particolare chi lavora su ambiti quali AI e machine learning, data governance e data quality, cybersecurity, privacy e protezione dei dati, digital law, policy e modelli regolatori, human-computer interaction e aspetti socio‑tecnici, sistemi digitali complessi e software compliance, analisi di trust, fairness e trasparenza, società digitale responsabile. 

Una quindicina di esperte/i hanno presentato quello che “bolle in pentola”, ciascuno/a per il proprio ambito di specializzazione, raccogliendo i feedback dei e delle colleghe/i intervenute/i. 

La cornice europea

La roadmap dell’AI Act rappresenta il quadro normativo di riferimento, in evoluzione e in ritardo rispetto alla tabella di marcia inizialmente stabilita due anni fa: l’entrata in vigore delle norme è slittata infatti dall’agosto di quest’anno alla fine del prossimo.

“I problemi correlati – commenta la direttrice FBK DIGIS, Prof. Michela Milano – sono due: il primo consiste nella necessità di migliorare la regolamentazione sull’AI, che deve essere resa meno stringente ma soprattutto più semplice per le aziende, in modo da favorire la penetrazione più capillare possibile dei nuovi sistemi nei cicli produttivi, migliorandone la produttività e generando impatto. Il secondo è il fatto che le grandi aziende tecnologiche americane hanno spesso preferito assorbire il costo delle sanzioni per violazione, ad esempio, della proprietà intellettuale come una voce di bilancio prevedibile, piuttosto che sostenere i costi, economici e operativi, di una piena conformità normativa. Si sta andando verso una semplificazione ma serviranno degli strumenti.”  

GS: “Cosa accomuna i focus tematici in fase di sviluppo in FBK?” 

MM: “Si tratta quasi sempre di applicazioni relative alla società, alla pubblica amministrazione e all’industria. Non mancano anche quelle in ambito spaziale, che sono molto importanti per quanto riguarda la sicurezza, la robustezza, l’affidabilità, dei modelli. Il contributo si estende anche sugli effetti dell’AI all’interno dei sistemi scolastici ed educativi, su cui non sono ancora stati effettuati molti studi, un’occasione per raccogliere evidenze utili a mappare come l’AI è usata a scuola, comprendere quali necessità formative e di supporto emergono, e informare future policy di settore.” 

Un laboratorio interdisciplinare 

GS: “Si può dire che questa attenzione specifica all’AI compliance rappresenti una risorsa inedita nel panorama nazionale?”      

MM: “Il nostro lavoro, per mole e qualità, rappresenta una importante concentrazione di competenze capaci di accompagnare l’evoluzione delle tecnologie interessate dalla grande trasformazione in atto. L’esperienza che abbiamo maturato ad esempio rispetto ai metodi formali oppure per quanto riguarda il gemello digitale urbano della città di Bologna e più in generale nell’elaborazione della cosiddetta AI integrativa, ci rende consapevoli sia delle potenzialità che si aprono che delle criticità da sciogliere.”     

GS: “Quali sono i primi risultati conseguiti?” 

MM: “Un primo esempio è la convenzione stipulata dal centro Cybersecurity con Synapsed.ai, menzionata dal direttore Silvio Ranise in apertura dell’incontro. Nei giorni scorsi abbiamo iniziato importanti interlocuzioni con Confartigianato stabilendo linee guida etiche per l’AI per le aziende del comparto, che comprendono anche realtà che si occupano di comunicazione, grafica, pubblicità e comunicazione. Inoltre, a ottobre partirà il progetto Evelyn rivolto alla robustezza dei modelli per la riduzione dell’inquinamento. 

FBK come laboratorio di compliance per un’AI responsabile

Quali sono i principali ambiti in cui la ricerca produrrà impatto nei prossimi anni? 

Dalla teoria alla pratica: standard, checklist (ad es. in ambito sanitario, menzionati da Leonardo Sanna durante il workshop) e processi per un’AI conforme permetteranno di assicurare compliance by design, attraverso procedure operative capaci di implementare i principi in fase di progettazione, nel rispetto di requisiti di equità, trasparenza e responsabilità. Tali modelli, oltre ad accrescere la sicurezza, potranno garantire che l’AI si comporti come promesso e operi dentro il perimetro dettato dalle normative vigenti, requisito sempre più stringente per settori safety-critical. Le presentazioni dell’unità Formal Methods del centro Digital Industry hanno mostrato risultati importanti sulla verifica di questi sistemi.

Equità, privacy e affidabilità: sfide trasversali per un’AI inclusiva

La fairness è un altro pilastro della compliance. Marco Pistore ha illustrato come garantire equità e robustezza nei gemelli digitali urbani, sistemi che stanno diventando centrali nella pianificazione delle città intelligenti. Camilla Casula ha portato alla luce problemi nascosti di equità nei modelli linguistici avanzati (LLMs), come GPT-4, e Riccardo Gallotti ha mostrato come questi possano influenzare la persuasione conversazionale e la rappresentazione delle minoranze.

Co-design e collaborazione: verso un’AI regolamentata e al servizio della società

Un sistema AI è tanto affidabile quanto è inclusivo il suo sviluppo. Giulia Deppieri ha presentato un framework di co-design che coinvolge stakeholder diversi per garantire che i requisiti di compliance siano soddisfatti fin dalle prime fasi di progettazione.

Grazie al workshop è stato possibile far emergere e condividere competenze e risultati scientifici sulle tematiche della AI compliance normativa, tecnica ed etica; evidenziare approcci legati a trustworthiness dell’AI, robustezza dei sistemi digitali, valutazioni di fairness, accountability e trasparenza; offrire a ricercatori e ricercatrici l’occasione di presentare nel dettaglio casi d’uso, metodologie, dataset, strumenti, prospettive interdisciplinari; stimolare collaborazioni trasversali tra le diverse Unità del Centro DIGIS e con altri Centri e linee di ricerca di FBK.

Un’elaborazione che promette nuove promettenti applicazioni nell’immediato futuro e su cui non spegneremo i riflettori.