La salute digitale e l’Importanza dei segnali sentinella

Chiudiamo “L’AI ci aiuta a lavorare meglio?”, il nostro viaggio in tre puntate con Federico Cabitza, direttore del Centro Digital Health and Wellbeing in FBK, esplorando come prevenire il danno prima che diventi manifesto.

Il vero progresso tecnologico nasce sempre da un’intelligenza disponibile all’ascolto e dalla volontà di cercare ciò che unisce. In quest’ottica, la salute dei lavoratori non può più essere intesa solo come assenza di malattia fisica, ma come tutela dell’integrità psicofisica e della qualità delle prestazioni in un ambiente digitalizzato. 

L’IA trasforma radicalmente l’ambiente di lavoro e, se non governata, può generare fenomeni di “invisibilità tecnologica” — come la Shadow AI — che aumentano l’ansia da prestazione e l’incertezza sulle responsabilità. Per evitare che l’innovazione diventi una minaccia alla dignità, è necessario spostarsi da una logica reattiva a una anticipatoria.

Chiudiamo la nostra serie “l’AI ci aiuta a lavorare meglio?”, con Federico Cabitza, analizzando i segnali deboli che precedono il danno manifesto. 

GS: La salute non è solo assenza di malattia, ma anche uno stato di benessere fisico, mentale e sociale che l’IA può compromettere attraverso rischi sottili come lo “stress da sorveglianza” o la “perdita di agentività”. Quali sono i principali “segnali sentinella” (analoghi agli infortuni mancati) che il Medico Competente o il Servizio di Prevenzione e Protezione dovrebbero monitorare per intercettare precocemente un degrado del benessere psicologico causato dall’interazione con gli algoritmi?

FC: La nozione di “segnale sentinella” è molto utile, perché ci aiuta a non intervenire solo quando il danno è già manifesto. Nel caso dell’IA nei luoghi di lavoro, molti rischi sono inizialmente sottili: non producono subito un infortunio o un incidente, ma modificano progressivamente il rapporto tra lavoratore, compito, responsabilità e organizzazione.

Un primo segnale è l’aumento del disagio legato alla sorveglianza, nel senso di “surveillance”. Se le persone percepiscono di essere costantemente misurate, classificate, valutate o confrontate da sistemi automatici, possono sviluppare forme di stress specifiche: ipercontrollo di sé, ansia da prestazione, riduzione della spontaneità professionale, paura di essere penalizzati da metriche non pienamente comprensibili. Il punto non è solo la quantità di monitoraggio, ma la sua opacità: essere valutati da criteri che non si capiscono aumenta il senso di vulnerabilità.

Un secondo segnale è la perdita di agentività, che paradossalmente può essere alimentata dalla sorveglianza, ma nel senso di oversight (nell’ AI Act purtroppo è tradotto così), cioè quel tipo di supervisione del comportamento e dell’output dei sistemi IA che molti dipendenti che usano tali sistemi saranno tenuti ad esercitare costantemente. La loss of agency, come si chiama nella letteratura specialistica anglofona, si osserva quando i lavoratori iniziano a dire, esplicitamente o implicitamente: “Lo decide il sistema”, “non posso farci niente”, “non ha senso contestare”, “meglio seguire l’algoritmo anche se non sono convinto”. Questo è un indicatore molto importante, perché suggerisce che la tecnologia non sta solo supportando il lavoro: sta ridefinendo chi ha titolo a giudicare, decidere e assumersi responsabilità.

Un terzo segnale è il deterioramento della qualità del giudizio esperto, il deskilling. Può manifestarsi come riduzione della capacità di argomentare una decisione senza il supporto del sistema, minore propensione a verificare gli output automatici, oppure difficoltà crescente nel gestire casi non standard. Questo è l’equivalente cognitivo del “near miss”: non è ancora un errore conclamato, ma indica che il sistema socio-tecnico sta perdendo resilienza.

Un quarto segnale riguarda il conflitto tra responsabilità formale e controllo reale. Quando un lavoratore resta formalmente responsabile di una decisione, ma nella pratica non ha tempo, informazioni, autorità o competenze per contestare l’output algoritmico, si crea una zona grigia molto pericolosa. È una condizione che può generare stress morale, frustrazione, disimpegno e senso di esposizione ingiusta.

Il Medico Competente e lo SPP dovrebbero quindi monitorare non solo indicatori classici come stress, burnout, assenteismo o turnover, ma anche indicatori più specifici dell’interazione uomo-macchina e dell’ingegneria dei fattori umani: percezione di controllo, comprensibilità dei criteri decisionali, possibilità di contestazione, carico cognitivo, fiducia calibrata nel sistema, qualità della supervisione umana, mantenimento delle competenze. Nel mio gruppo di ricerca in Bicocca abbiamo definito il concetto di appropriate reliance, affidamento appropriato (qui un tool che permette di misurarlo: https://www.entechne.com/metimeter/haiassessment/) , che integrerò anche nelle valutazioni condotte in ambito clinico dal centro DHWB e che spero diventi sempre più comune valutare quando in un contesto organizzativo si usano sistemi a supporto delle decisioni basati su IA.

In sintesi, ogni tecnologia informatica, e in particolare la IA, va trattata come una trasformazione delle pratiche e quindi dell’ambiente di lavoro, non come un semplice software. Per questo la prevenzione deve spostarsi da una logica reattiva a una logica anticipatoria: osservare i segnali deboli, valutare le condizioni reali d’uso, progettare meccanismi di controllo e correggere il processo prima che il disagio individuale o l’errore organizzativo diventino danno.

Il ruolo di FBK nel futuro del lavoro 

Questa riflessione nasce all’interno della comunità di ricerca e innovazione della Fondazione Bruno Kessler, da sempre impegnata nell’esplorare le frontiere tecnologiche con uno sguardo attento all’impatto sociale. Attraverso il centro Digital Health and Wellbeing (DHWB), FBK si pone l’obiettivo di trasformare queste sfide in opportunità, sviluppando metodologie e soluzioni prototipali per garantire che l’innovazione digitale generi valore in modo sicuro, sostenibile e, soprattutto, responsabile per la salute e la dignità di chi lavora.