Human-centric AI: i limiti dell’intelligenza artificiale e il valore di una tecnologia al servizio delle persone

L’intelligenza artificiale ha limiti strutturali che non possono essere ignorati. Ma proprio a partire da questa consapevolezza è possibile costruire sistemi più affidabili, trasparenti e realmente utili per le persone. È questo il filo conduttore della keynote speech dal titolo “Human-centric AI. AI We Trust. Building Responsible & Transparent Tech” tenuta da Paolo Traverso, direttore Pianificazione Strategica di Fondazione Bruno Kessler,  durante l’EBN Congress 2026, l’appuntamento europeo di riferimento per la comunità dei Business and Innovation Centres e delle organizzazioni che supportano innovazione, imprenditorialità e sviluppo territoriale organizzato da Trentino Sviluppo a Rovereto e Riva del Garda dal 17 al 19 giugno.

Paolo Traverso ha aperto la sua riflessione richiamando alcuni punti deboli dell’intelligenza artificiale contemporanea. I dati di addestramento sono sempre incompleti; i modelli statistici operano in condizioni di incertezza; i sistemi di intelligenza artificiale generativa producono risposte basate sulla probabilità. Le reti neurali, inoltre, imparano correlazioni, non relazioni causali. Questo significa che possono riconoscere schemi ricorrenti nei dati, ma non comprendono necessariamente le cause dei fenomeni che osservano.

Da qui nasce il tema della fiducia. Un sistema che apprende senza comprendere la causalità non può essere considerato affidabile in senso assoluto. La fiducia nell’AI, ha sottolineato Traverso, non può quindi fondarsi sull’idea che la tecnologia sia perfetta o autonoma rispetto alla responsabilità umana.

«Le reti neurali apprendono correlazioni, non causalità. Per questo dobbiamo conoscere i limiti dell’intelligenza artificiale e costruire sistemi che aiutino le persone a decidere meglio, senza sostituirsi a loro», ha affermato Traverso.

Ma c’è un “ma”. Proprio riconoscendo questi limiti, l’intelligenza artificiale può essere progettata e utilizzata in modo human-centric, ovvero tenendo la persona al centro: non come tecnologia che prende il posto dell’essere umano, ma come strumento che ne rafforza le capacità, migliora i servizi e contribuisce a rispondere a bisogni concreti della società.

Un esempio concreto riguarda la sanità e, in particolare, l’analisi delle immagini della retina per prevedere il rischio collegato al diabete. Il sistema non è perfetto e può produrre un piccolo numero di falsi negativi. Tuttavia consente di effettuare screening su larga scala e di raggiungere molte persone che oggi non accedono regolarmente a questi controlli. In Italia, secondo quanto richiamato da Traverso, il tema riguarda milioni di persone. In questo caso l’IA non sostituisce il medico: lo supporta, lo aiuta a lavorare meglio e può migliorare l’accesso alla prevenzione.

Lo stesso approccio è stato richiamato per le malattie neurodegenerative, con riferimento a sistemi sviluppati dalla Fondazione Bruno kessler tra Trento e Rovereto per prevedere alcuni rischi associati al Parkinson, come ad esempio il pericolo di caduta del paziente. Anche qui il punto non è affidare la decisione alla macchina, ma integrare strumenti predittivi nella pratica clinica quotidiana, a supporto del lavoro dei medici.

Il messaggio è chiaro: non esiste un’intelligenza artificiale buona o cattiva in sé. Esistono usi diversi della tecnologia. Gli algoritmi non sono moralmente buoni o cattivi: è il modo in cui vengono progettati, applicati e governati a fare la differenza.

Per questo l’AI può avere un ruolo importante anche in altri ambiti, come i numerosi progetti di FBK dimostrano. In agricoltura può aiutare a prevedere con maggiore precisione il fabbisogno idrico di colture come mele, olivi e vigneti, in un contesto in cui l’acqua sarà una risorsa sempre più preziosa. Nelle previsioni meteorologiche può contribuire ad anticipare eventi atmosferici estremi e fenomeni catastrofici. Nelle imprese può supportare l’ottimizzazione dei processi produttivi e la riduzione degli sprechi, una delle sfide centrali per il futuro.

Traverso ha poi indicato una direzione di ricerca cruciale: passare dalla correlazione alla causalità. Comprendere le cause, e non solo le regolarità statistiche, è uno dei passaggi necessari per costruire sistemi più robusti e affidabili. In questo quadro si inserisce anche il tema dell’Agentic AI, sistemi capaci di maggiore autonomia, adattamento continuo a contesti mutevoli e risposta a situazioni impreviste. La vera sfida sarà sviluppare modelli in grado di apprendere una rappresentazione più profonda del mondo e delle sue dinamiche causali.

La quantità di dati disponibili, in particolare nei sistemi sanitari nazionali, apre scenari di grande rilievo. Ma la disponibilità di dati non basta. Servono competenze scientifiche, attenzione etica, capacità di governo e collaborazione tra soggetti diversi.

E, in conclusione, la call to action lanciata da Traverso: costruire reti tra centri di ricerca, imprese e settore pubblico. La fiducia nell’intelligenza artificiale non nasce da una sola tecnologia, ma da processi condivisi di ricerca, sperimentazione e co-innovazione.

È in questa prospettiva che si colloca il ruolo di Fondazione Bruno Kessler. FBK lavora da anni allo sviluppo di tecnologie digitali e sistemi di intelligenza artificiale orientati all’impatto sociale, alla qualità dei servizi e alla collaborazione con il territorio, le istituzioni e le imprese. Un approccio che unisce ricerca scientifica, responsabilità e innovazione applicata.