AI at the Edge and Sensors: opportunità tecnologiche per un’Intelligenza Artificiale sostenibile

Lo scorso 29 ottobre si è svolto presso Fondazione Bruno Kessler il workshop “AI at the Edge and Sensors”, un evento interno dedicato a condividere i risultati di avanguardia e prospettiva di questo nuovo ambito di ricerca, che vede fortemente integrato il sapere legato all’Intelligenza Artificiale a quello dei dispositivi micro-nano elettronici.

Una delle risorse distintive di FBK è infatti quella di poter contare non solo su una trentennale esperienza in ambito AI, ma di unire queste competenze alla capacità di sviluppo e produzione anche in serie di sensori e dispositivi che stanno alla base di tutta l’attuale applicazione dell’intelligenza artificiale nella società e  nelle imprese, spaziando in ambiti legati all’ambiente, alla sanità, all’agritech e a numerosi altri settori innovativi.

Lorenza Ferrario e Paolo Traverso, organizzatori dell’evento e rispettivamente responsabile dell’unità di ricerca Micro Nano Facility MNF e direttore Pianificazione Strategica FBK, hanno aperto la giornata sottolineando l’importanza di eventi di questo tipo per la condivisione e la riflessione con comunità scientifica di riferimento. “Portare l’AI sui dispositivi edge non è solo una questione di efficienza, sicurezza e innovazione, ma richiede un approccio interdisciplinare” ha osservato Ferrario, facendo riferimento al recente Nobel per la Fisica assegnato a scienziati con una formazione interdisciplinare e che hanno contribuito proprio all’AI. “È una dimostrazione di come dalla  fusione di competenze che nascono le soluzioni più innovative.” ha spiegato Lorenza Ferrario.

Per dispositivi edge si intende una categoria di dispositivi elettronici dotati di capacità di calcolo e di elaborazione che operano ai margini della rete, ossia in prossimità della fonte dei dati. A differenza dei server centralizzati o dei data center, i dispositivi edge processano i dati localmente, riducendo la necessità di trasmetterli in un cloud remoto per l’elaborazione, favorendo in questo modo sistemi meno energivori, risposte piu’ veloci, maggiore controllo della privacy

“L’intersezione tra AI e sensori è nelle radici stesse della nostra ricerca” ha commentato Paolo Traverso, richiamando le origini di FBK e la figura di Luigi Stringa, primo direttore del Centro S&D a cui è intitolata l’aula in cui si è svolto l’evento. “Comprendere i risultati dell’integrazione tra questi due mondi è essenziale per costruire le basi di un’AI realmente utile e responsabile“. 

La giornata è proseguita con l’intervento di Alessandro Cremonesi di STMicroelectronics, che ha affrontato l’impatto della “Edge AI” sulla sostenibilità futura, evidenziando come questa tecnologia possa migliorare l’efficienza energetica e ridurre la necessità di trasferire grandi quantità di dati su cloud. Sabina Spiga del CNR IMM ha approfondito il tema delle tecnologie memristive – tecnologie che si basano su memristori ovvero dei dispositivi in grado di memorizzare e modificare la loro resistenza elettrica in risposta al passaggio di corrente – illustrate come una delle possibili vie per sviluppare chip ispirati al funzionamento del cervello umano; infine Maurizio Patrick De Marchi di FBK ha discusso le possibilità di accelerare le reti neurali direttamente nei sensori d’immagine, con applicazioni pratiche che spaziano dalla sicurezza alla privacy-by-design.

Elisabetta Farella, responsabile dell’unità Energy Efficient Embedded Digital Architectures E3DA del centro Digital Society di FBK, ha parlato di tinyAI (o TinyML) un filone di ricerca all’intersezione fra Artificial Intelligence e Internet of Things, nel quale si esplorano approcci e tecnologie per portare gli algoritmi di Intelligenza artificiale a sistemi embedded come i microcontrollori, ovvero sistemi a basso consumo energetico e con poche risorse computazionali. Le tecniche di TinyML portano l’intelligenza artificiale vicino ai sensori, riducendo la necessità di trasmettere grandi volumi di dati al cloud. Questa tecnologia permette un’elaborazione rapida e locale delle informazioni raccolte, favorendo reazioni in tempo reale e assicurando una maggiore protezione della privacy, grazie alla riduzione del flusso di dati verso server esterni.

Farella ha illustrato diverse tecniche di ottimizzazione che rendono possibile questo approccio, come le tecniche di riduzione delle dimensioni dei modelli neurali (ad esempio la distillazione e la quantizzazione delle reti neurali), l’integrazione tra hardware e software che sfrutta dispositivi avanzati (smart sensors, acceleratori hardware e architetture neuromorfiche) e infine l’esplorazione di approcci architetturali, come l’hardware-aware scaling, ovvero una tecnica di progettazione di reti neurali che parte dai requisiti hardware e permette di generare reti neurali efficienti, in modo veloce,e che sfruttano tutte le risorse a disposizione. Grazie a queste innovazioni, l’AI non solo può operare in contesti decentralizzati e in tempo reale, ma riesce a farlo con un consumo di risorse drasticamente ridotto, aprendo la strada a nuove applicazioni sostenibili e accessibili anche su dispositivi a capacità limitata.

Farella ha illustrato diverse tecniche di ottimizzazione che rendono possibile questo approccio, come la distillazione e la quantizzazione delle reti neurali, per ridurre le dimensioni e il consumo energetico dei modelli. Tra le direzioni più promettenti di questa ricerca, ha menzionato l’integrazione tra hardware e software, che sfrutta dispositivi avanzati come smart sensors, acceleratori hardware e architetture neuromorfiche per migliorare l’efficienza e la precisione. Grazie a queste innovazioni, l’AI non solo può operare in contesti decentralizzati e in tempo reale, ma riesce a farlo con un consumo di risorse drasticamente ridotto, aprendo la strada a nuove applicazioni sostenibili e accessibili anche su dispositivi a capacità limitata.

Nel panel conclusivo si sono confrontati il direttore del centro Sensors & Devices Richard Hall-Wilton, Davide Marani di Sony e Sabina Spiga di CNR IMM, ed  è emersa l’importanza dell’interdisciplinarità: il recente Nobel assegnato a due fisici per i contributi all’intelligenza artificiale è stato citato come esempio dell’importanza di non limitarsi al proprio settore. In questo senso, il lavoro di team eterogenei, composti da specialisti di AI, hardware e management, rappresenta un modello efficace per affrontare le sfide complesse e multidisciplinari legate all’Intelligenza Artificiale.

Il workshop è parte di una serie di incontri periodici che FBK sta dedicando a temi cruciali per il futuro dell’AI. Dopo un primo appuntamento sulle tecnologie dirompenti nell’AI generativa, questo secondo workshop si è concentrato su AI e sensori, con una particolare attenzione alla sostenibilità, alla privacy e alla sicurezza dei dati elaborati. Un terzo incontro è previsto per febbraio e si focalizzerà su Intelligenza Artificiale ed energia, per approfondire sia sfide come quella legata al consumo di energia per lo sviluppo di tecnologie AI, sia opportunità come l’applicazione dell’AI in progetti per il risparmio e la gestione energetica.