II convegno AISC

Ivrea (TO), 19-21 marzo 2004

Cambiare idea: dai modelli formali della belief revision ad architetture cognitive per agenti realistici
Fabio Paglieri paglieri@media.unisi.it
Dottorato in Scienze cognitive Universit degli Studi di Siena 0. Introduzione

Questo intervento presenta i risultati preliminari di una ricerca interdisciplinare sulla belief revision, condotta integrando approcci logico-formali e modelli socio-cognitivi. Si tratta di un lavoro da me svolto in collaborazione con lISTC-CNR, in particolare con Cristiano Castelfranchi e colleghi, e con lInstitute for Logic, Language, and Computation (ILLC) dellUniversit di Amsterdam, sotto la supervisione di Johan van Benthem. Lespressione belief revision indica uno specifico settore di studi in logica e AI, interessato alla caratterizzazione formale dei modi in cui un agente razionale modifica la propria base di credenze. A questo tema stato rivolto un notevole interesse negli ultimi ventanni: filosofia della mente, logica formale, computer science, teorie probabilistiche e approcci game-teoretici si sono alternati e (parzialmente) integrati in questo filone di ricerca. Lo studio formale della belief revision nato come tentativo di catturare i principi di razionalit astratta che permettono di modificare correttamente una base di credenze alla luce di nuove evidenze: in altre parole, unanalisi di cosa significa cambiare idea in modo razionale. Successivamente, questi modelli formali hanno acquistato importanza in altri domini di ricerca, caratterizzati da esigenze diverse: ad esempio, nei sistemi multi-agente, per descrivere in modo univoco i processi di revisione delle credenze di un agente cognitivo. Questi ambiti pongono nuove richieste e nuovi vincoli ai formalismi esistenti: emergono esigenze di realismo, flessibilit e computabilit dei modelli formali preoccupazioni in larga parte assenti nelle teorie originali. Ne nasce lesigenza di rafforzare ulteriormente le collaborazioni interdisciplinari nello studio della belief revision, includendovi a pieno titolo il lavoro di psicologi cognitivi e sociali. I risultati preliminari presentati in questo intervento esplorano il terreno in questa direzione, per evidenziare i limiti pi stringenti degli strumenti formali a nostra disposizione e suggerire possibili correttivi, alternative e sviluppi. Vengono presentati e discussi alcuni vincoli cognitivi della belief revision, necessari per garantire il realismo e il potere espressivo dei modelli formali (cfr. 1). Questi desiderata sono sinteticamente messi a confronto con i formalismi esistenti, per evidenziare lacune e possibili sinergie (cfr. 2). Infine, nuove linee di ricerca, attualmente sviluppate nel mio lavoro, vengono presentate e argomentate, fornendo alcune indicazioni sul loro potere esplicativo e sulla loro fattibilit (cfr. 3). 1. Sette vincoli cognitivi per la belief revision

Nel momento in cui ci si interessa alla descrizione di agenti cognitivi realistici, e non a criteri universali di razionalit in un agente idealizzato, ogni modello formale della belief revision deve tenere conto di alcuni vincoli cognitivi di base. I seguenti requisiti sono presentati e discussi in questa sede: 1) distinguere fra d a t i e credenze , cio distinguere fra informazioni in possesso dellagente (ricordate) e informazioni ritenute attendibili come basi del ragionamento e dellazione (credute); 2) articolare i dati in strutture con vincoli relazionali complessi, anzich in semplici insiemi caratterizzati da uno o pi criteri di ordinamento; 3) analizzare lacquisizione di nuovi dati (information update) come un processo complesso, che coinvolge non solo laggiornamento dei dati, ma anche la revisione delle relazioni strutturali fra dati diversi; 4) studiare la forza delle credenze come un valore che emerge dallinterazione di pi fattori cognitivi, anzich una misura diretta di un solo parametro (e.g. plausibilit); 5) descrivere i processi di formazione e modificazione della forza delle credenze, anzich considerare tale nozione come primitiva (e.g. ordinamenti); 6) considerare processi graduali di revisione delle credenze, anzich fenomeni discreti di espansione o contrazione di un insieme di proposizioni; 7) modellare strategie di gestione delle contraddizioni, sia al livello dei dati, sia al livello delle credenze, anzich escludere a priori che tali contraddizioni possano presentarsi. 2. Confronto con i modelli formali esistenti

I vincoli cognitivi descritti vengono sinteticamente confrontati con lampia letteratura sulla belief revision (cfr. Riferimenti bibliografici), per verificare se e in quale misura gli attuali formalismi siano concettualmente adatti per descrivere le prestazioni di agenti cognitivi realistici. Questo confronto porta a un risultato duplice (e critico):

II convegno AISC I) II)

Ivrea (TO), 19-21 marzo 2004

nessuno degli attuali formalismi per la belief revision tiene conto di tutti i necessari vincoli cognitivi, e neppure della maggior parte di essi bench singoli requisiti cognitivi siano spesso affrontati e risolti localmente da specifici approcci; gli strumenti per arricchire gli attuali modelli formali della belief revision sono spesso gi disponibili in altri settori di ricerca al confine fra logica formale e Intelligenza Artificiale: ad esempio, le logiche dei protocolli di comunicazione per esprimere lattendibilit di una fonte, o le logiche dinamiche dellinformation update per modellare processi complessi di revisione dei dati. Tuttavia, i collegamenti fra questi settori sono ancora sporadici e la ricerca sembra procedere, con poche eccezioni significative, a compartimenti stagni. Nuove linee di ricerca

3.

Dal confronto fra modelli socio-cognitivi e formalismi logici per la belief revision emergono nuove linee di ricerca, che sono oggetto della ricerca attualmente in corso. I primi risultati di questo lavoro vengono qui presentati, soffermandosi in particolare sui seguenti punti: A) articolazione della belief revision in un processo a due fasi: una revisione della base di dati (caratterizzata da relazioni di influenzamento reciproco fra i nodi informazionali di una rete), seguita da una selezione delle credenze (caratterizzata dallapplicazione di funzioni di scelta sulla nuova base di dati); B) analisi strutturale della base di dati, con particolare attenzione ai seguenti aspetti: relazioni di supporto e di contrasto, tipologie diverse di supporto (necessario vs. aggiuntivo, certo vs. probabile) e di contrasto (aperto vs. chiuso), calcolo dei valori di credibilit, importanza e rilevanza, procedure finite per valutare le propriet strutturali della base di dati, equivalenze funzionali fra strutture superficialmente diverse; C) applicazione alla belief revision di strumenti formali sviluppati in altri settori di ricerca, quali le logiche dei protocolli di comunicazione, le logiche dinamiche di information update e le analisi game-teoretiche dellinformazione (cfr. 2); D) sviluppo di modelli simulativi dei processi di belief revision, a cominciare da casi semplici: lesempio della caratterizzazione parametrica di agenti scettici o fiduciosi; E) integrazione della belief revision in una pi ampia architettura socio-cognitiva, per favorire limplementazione dei modelli formali di revisione delle credenze in sistemi multi-agente (cfr. figura 1). Figura 1

AZIONE SULLAMBIENTE

Credenze
information update interno selezione delle credenze calcolo della rilevanza

Scopi

Dati
information update esterno

INFORMAZIONI DALLAMBIENTE percezione e comunicazione

Riferimenti bibliografici La bibliografia sulla belief revision su cui si basa questa ricerca disponibile on line: http://www.media.unisi.it/cirg/fp/biblio_br.pdf Per ulteriori approfondimenti: Paglieri, F. (2003). Belief revision: cognitive constraints for modeling more realistic agents. Working paper, ILLC Amsterdam (http://www.media.unisi.it/cirg/fp/illc03.pdf) Paglieri, F. (2004). Belief revision for cognitive agents: individual variation in multi-agent systems. Submitted paper to AAMAS 2004 (http://www.media.unisi.it/cirg/fp/aamas04.pdf) Paglieri, F., Castelfranchi, C. (2004). Changing minds: towards an integrated framework for belief revision and argumentation. Submitted paper to ECAI 2004 (http://www.media.unisi.it/cirg/fp/ecai04.pdf)