Velocità o competenza? La sfida dell’AI nelle organizzazioni

Con questo primo contributo inauguriamo una serie di approfondimenti “L’AI ci aiuta a lavorare meglio?” dedicata al nesso tra “intelligenza” artificiale e benessere lavorativo.

In dialogo con Federico Cabitza, direttore del Centro di ricerca FBK-Digital Health and Wellbeing, per esplorare il delicato equilibrio tra l’efficienza algoritmica e la salvaguardia del capitale umano.

Come sottolinea Cabitza, queste tecnologie possiedono una specifica “qualità interazionale”: parlano, scrivono fluentemente e propongono raccomandazioni in forme che inducono un profondo affidamento cognitivo e una tentazione costante alla delega decisionale (outsourcing). 

In un’epoca che tende a velocizzare e frammentare, citando la recente enciclica Magnifica Humanitas, dobbiamo chiederci se siamo ancora capaci di custodire luoghi e tempi in cui la presenza fisica e l’ascolto rimangono decisivi.  

Giancarlo Sciascia: In contesti aziendali che puntano alla massima produttività, emerge il trade-off tra decisioni potenzialmente sempre più veloci (e profittevoli nell’immediato) e il rallentamento del processo decisionale per preservare il sapere esperto. Non c’è il rischio che il management consideri svantaggioso temporeggiare e finisca per optare per una delega totale all’algoritmo realizzando un investimento che nel lungo periodo si rivelerà meno redditizio?

Federico Cabitza: “Sì, il rischio esiste, ed è uno dei punti più delicati della trasformazione digitale contemporanea. Molte organizzazioni tendono a valutare l’intelligenza artificiale soprattutto in termini di efficienza immediata: riduzione dei tempi, abbattimento dei costi, standardizzazione dei processi, aumento della produttività. Tutti obiettivi legittimi, che non intendo sminuire. Il problema però nasce quando questa logica viene interpretata in modo troppo ristretto, come se il valore di una tecnologia coincidesse soltanto con la velocità con cui permette di prendere decisioni o con il numero di decisioni che consente di automatizzare.

In realtà, in molti contesti ad alta responsabilità,  penso ovviamente alla sanità, ma anche alla sicurezza, alla gestione delle persone, a scelte commerciali strategiche,  il sapere esperto non è un peso. È una risorsa organizzativa, è capitale epistemico. È ciò che permette di riconoscere i casi anomali, interpretare segnali deboli, contestualizzare una raccomandazione algoritmica, capire quando un output formalmente plausibile è invece sostanzialmente pericoloso.

La delega totale all’algoritmo può dunque apparire conveniente nel breve periodo, ma creare fragilità nel medio-lungo periodo. Il rischio non è solo l’errore puntuale della macchina. Il rischio più profondo è la degradazione progressiva della competenza umana e organizzativa (deskilling): se le persone smettono di esercitare giudizio, perdono gradualmente la capacità di valutare, correggere e governare il sistema. A quel punto l’organizzazione diventa più veloce, ma anche più cieca.

Per questo credo che la domanda corretta non sia: “Quanto possiamo automatizzare?”. La domanda corretta è: “Quale combinazione tra capacità umane e capacità algoritmiche genera valore in modo sicuro, sostenibile e governabile?”. Questo è anche il senso del lavoro che stiamo portando avanti nel centro DHWB: produrre evidenze, metodologie e soluzioni prototipali per capire non solo se una tecnologia funziona, ma a quali condizioni può essere adottata senza impoverire le competenze degli operatori sanitari, senza aumentare rischi opachi e senza trasferire responsabilità decisionali a sistemi che non possono assumersi responsabilità in senso proprio.

Quindi sì: rallentare, in certi casi, non è inefficienza. È una forma di investimento nella qualità della decisione, nella resilienza organizzativa e nella sostenibilità dell’innovazione. Il management più maturo non dovrebbe chiedersi soltanto quanto tempo risparmia grazie all’IA, ma anche quali capacità rischia di perdere se la delega viene progettata male.” 

Verso nuovi modelli di gestione
Se la competenza umana è il vero argine contro la “cecità” organizzativa, chi deve vigilare su questi nuovi rischi? Nel prossimo articolo approfondiremo come le figure preposte alla sicurezza aziendale debbano evolvere per governare l’opacità degli algoritmi.