Il ruolo della razionalità nella robotica moderna

L’approccio classico all’IA mirava a costruire sistemi razionali in fase di esecuzione: tali sistemi disponevano di rappresentazioni esplicite di credenze, obiettivi e piani ed eseguivano algoritmi di inferenza online per selezionare le azioni. 

L’approccio dell’agente razionale è stato criticato dai sostenitori dell’approccio comportamentista e successivamente riformulato alla luce dei metodi probabilistici, ma è comunque sopravvissuto, seppure in forme diverse. 

Negli ultimi anni, gli approcci end-to-end basati su dati relativamente non strutturati hanno ottenuto risultati straordinari in un’ampia varietà di ambiti e hanno iniziato a delinearsi come una strada promettente verso la realizzazione di robot intelligenti per uso generale. Tuttavia, stiamo iniziando a riconoscere i limiti del puro apprendimento comportamentale e molti ricercatori stanno reintroducendo forme di ricerca e di ragionamento esplicito nei loro approcci.

Pack Kaelbling ha riesaminato l’approccio dell’agente razionale alla progettazione di robot intelligenti, valutandolo dal punto di vista dello sforzo ingegneristico, dell’efficienza computazionale, della modellazione cognitiva e della comprensibilità. 

Ha inoltre presentato alcune delle sue ricerche più recenti, incentrate sul ruolo dell’apprendimento negli agenti razionali in fase di esecuzione, con l’obiettivo finale di sviluppare robot intelligenti di livello umano e per uso generale.

Giancarlo Sciascia (GS): Lei ha osservato che molti ricercatori stanno iniziando a riconoscere i limiti dell’apprendimento puramente comportamentale.  Secondo lei, quali sono i segnali più significativi che indicano quando un approccio esclusivamente basato sui dati sta raggiungendo i propri limiti e potrebbe trarre beneficio dall’integrazione di tecniche di ricerca e di ragionamento esplicito?

Leslie Pack Kaelbling (LPK): Se ogni nuova abilità o ogni nuovo scenario richiede una quantità analoga di dati aggiuntivi, significa che non stiamo ottenendo una vera capacità di generalizzazione. Anche in un approccio prevalentemente basato sui dati, il ragionamento esplicito può svolgere un ruolo importante, a condizione che ciò che viene appreso dai dati sia una conoscenza generale, riutilizzabile e ricombinabile attraverso il ragionamento per affrontare e risolvere nuovi problemi.

GS: In che cosa le moderne forme di ricerca e ragionamento, che oggi vengono reintrodotte nei sistemi di IA, differiscono dagli algoritmi di inferenza utilizzati nel “periodo classico” dell’intelligenza artificiale?

LPK: Per molti aspetti sono simili. Le tecniche classiche di ricerca e persino i metodi formali di dimostrazione automatica dei teoremi sono tuttora impiegati.  La differenza è che oggi operano su rappresentazioni e/o utilizzano modelli appresi dai dati oppure generati da modelli linguistici di grandi dimensioni (LLM).

GS: Per quanto riguarda l’architettura degli agenti, come riuscite a trovare un equilibrio tra apprendimento ed efficienza computazionale in fase di esecuzione?

LPK: In realtà, la questione è trovare un equilibrio tra il ragionamento esplicito e l’efficienza computazionale in fase di esecuzione, dal momento che possiamo ragionare anche a partire da modelli appresi. Dobbiamo certamente individuare modi per rendere il ragionamento più efficiente, e l’apprendimento può aiutarci in questo. Possiamo, ad esempio, memorizzare i casi più frequenti addestrando modelli predittivi più piccoli, apprendere euristiche o scorciatoie di ragionamento, oppure ricorrere a tecniche di decomposizione per suddividere un problema di ragionamento complesso in più sottoproblemi di dimensioni ridotte.

GS: Nello specifico, quali aspetti dovrebbero essere affidati all’apprendimento e quali, invece, dovrebbero rimanere di competenza del processo di ragionamento dell’agente?

LPK: (Ancora una volta voglio insistere sul fatto che il ragionamento può essere eseguito su modelli appresi, quindi il contrasto tra apprendimento e ragionamento non è corretto) 
– Apprendimento vs conoscenza “incorporata”: penso che dovremmo costruire invarianti strutturali che siano validi nel nostro mondo e incorporare principi algoritmici e di elaborazione dei dati (ad esempio, l’uso delle convoluzioni nell’elaborazione delle immagini, la decomposizione gerarchica temporale e forse anche i principi più elementari di fisica e cinematica), lasciando invece che il sistema apprenda (sia offline, prima della distribuzione del robot, sia online, durante il suo impiego) modelli e politiche dettagliati, in particolare a livello sensoriale-motorio.
– Rappresentazione delle politiche vs rappresentazione dei modelli del mondo: in generale, le politiche possono essere molto più efficienti dal punto di vista computazionale, ma sono più difficili da apprendere e più costose da memorizzare; i modelli del mondo possono essere più generali, ma anche più lenti da utilizzare. Ritengo che dovremmo “compilare” il ragionamento in policies che coprano i casi più comuni, così da gestire i comportamenti di routine e le reazioni rapide, ricorrendo invece al ragionamento per affrontare i casi insoliti e preservare la generalità del sistema.

GS: Lei valuta l’approccio dell’agente razionale dal punto di vista della comprensibilità. Ritiene che reintrodurre rappresentazioni esplicite di credenze e obiettivi sia la chiave per rendere i robot più sicuri e più spiegabili agli esseri umani?

LPK: Non so se sia “la chiave”, ma potrebbe certamente essere utile. Gli esseri umani possono comprendere meglio l’elaborazione interna di un robot se questa è strutturata in questo modo e se le singole componenti del modello hanno una semantica interpretabile e verificabile dall’esterno.

GS: L’obiettivo finale della Sua ricerca è la costruzione di robot intelligenti per uso generale, con un livello di intelligenza pari a quello umano.  Quale ritiene sia l’ostacolo più difficile da superare nel passaggio da robot specializzati in ambiti ristretti a sistemi veramente versatili?

LPK: È sempre una questione di generalizzazione.  Gli esseri umani (e gli altri animali) si adattano efficacemente alle più diverse circostanze. Questa capacità di adattamento si manifesta a tutti i livelli: nel muoversi su terreni difficili, nell’utilizzare oggetti in modi sorprendenti come strumenti e nel risolvere problemi cognitivi. Ognuna di queste capacità è difficile da riprodurre e combinarle armoniosamente è ancora più arduo.

GS: Dato il Suo interesse per il ragionamento in condizioni di incertezza, come dovrebbero gestire i futuri agenti generici situazioni completamente nuove, per le quali non dispongono di dati di addestramento precedenti?

LPK: Dipende da cosa intendiamo per “nessun dato di addestramento precedente”. Se le rappresentazioni apprese hanno la corretta struttura combinatoria e la soluzione del problema può essere costruita combinando elementi già appresi, allora il sistema è in grado di generalizzare efficacemente a una nuova situazione. Ma, naturalmente, a volte non disporremo di un numero sufficiente di questi elementi e ci troveremo in una situazione di reale incertezza.  La chiave per un comportamento robusto in condizioni di incertezza è una rappresentazione esplicita dell’incertezza stessa: questo consente al robot di (a) scegliere azioni prudenti quando, ad esempio, gli esiti sono incerti e (b) scegliere deliberatamente azioni finalizzate ad acquisire nuove informazioni, così da ridurre l’incertezza.

GS: Avendo rivolto la Sua attenzione all’«IA agentica» molto prima che diventasse una tendenza, quali lezioni fondamentali del passato ritiene che l’attuale generazione di ricercatori rischi di dimenticare?

LPK: Era una battuta, in un certo senso. Ma penso davvero che sia facile dimenticare quanti strumenti abbiamo a disposizione dal punto di vista intellettuale e algoritmico e concentrarsi soltanto su quelli più recenti. Se però quelli meno recenti sono così importanti, l’attuale generazione finirà per riscoprirli!

GS: In che modo la Sua formazione in filosofia influenza la Sua concezione di ciò che costituisce un «agente razionale» e come si riflette questo nella progettazione tecnica dei Suoi robot?

LPK: La mia formazione filosofica mi aiuta a formulare i problemi in termini formali, così da poterli affrontare con algoritmi o metodi di apprendimento. Un esempio recente riguarda il modo di concepire un robot a cui venga chiesto, per esempio, di recuperare una mela. Come dovrebbe organizzare la propria ricerca quando non sa ancora nulla delle mele? Che cosa dovrebbe fare quando trova una mela, ma conclude che è fuori dalla sua portata? Dovrebbe cercarne «un’altra», ma che cosa significa esattamente questo in termini formali e come possiamo costruire un sistema che si comporti in questo modo in maniera efficiente? Un altro esempio riguarda il ripensamento dei piani. Immaginiamo che il robot abbia deciso di prepararsi un certo tipo di panino per pranzo e stia cercando il pane. In quali circostanze dovrebbe riconsiderare il proprio piano di alto livello? Quando scopre che il pane è raffermo? Quando non trova pane? Oppure quando vede che qualcun altro ha preparato un pranzo diverso e più appetitoso e lo ha lasciato in frigo? Non possiamo rimettere continuamente in discussione tutte le nostre decisioni, ma è evidente che, in alcune circostanze, dobbiamo farlo!

———————————————————————————————————————————

Leslie Pack Kaelbling, docente presso l’MIT , ha conseguito una laurea in Filosofia e un dottorato in Informatica a Stanford, ed è stata in precedenza membro del corpo docente della Brown University. È stata caporedattrice fondatrice del Journal of Machine Learning Research. Il suo programma di ricerca è incentrato sulla realizzazione di robot intelligenti utilizzando metodi che includono l’apprendimento, la pianificazione e il ragionamento in condizioni di incertezza. Si occupava di IA agentica ben prima che diventasse un tema di grande interesse.