Processi stocastici soluzione di equazioni differenziali

Consideriamo lequazione differenziale (o pi precisamente il problema di Cauchy) dx t dt  b t, x t , x 0  x0.

Se tutti i termini, cio b t, x e x 0 , sono deterministici, la soluzione sar deterministica. Se invece o il dato iniziale x 0 oppure b t, x aleatoria, la soluzione sar un processo stocastico. Il caso di un dato iniziale x 0 aleatorio interessante ma piuttosto elementare, per cui ci concentriamo sul caso di b t, x aleatoria. Consideriamo un caso molto particolare, in cui lequazione ha la forma dx t dt bxt  x t  t , x 0  x0.

dove b dipende solo da x e  t un processo stocastico assegnato, diciamo di media nulla e varianza unitaria, per cui  misura la sua deviazione standard. Per essere ancora pi specifici, supponiamo che  t sia un white noise. Non diamo la definizione rigorosa di white noise, accontentandoci di descrivere alcuni risultati e svolgere alcune simulazioni. Notiamo solo che molto spesso unequazione di tale tipo viene scritta nella forma dx t  b x t dt   x t dB t dove B t un moto browniano. Infatti, abbiamo gi osservato altrove che il white noise la derivata del moto browniano:  t  dB t , uguaglianza che lega le due formulazioni dt dellequazione. Il motivo che spinge a scrivere solamente dB t e non dB t che le dt traiettorie del moto browniano non sono derivabili, quindi in un certo senso lequazione non unequazione differenziale ma solo unequazione per incrementi dx t , dB t . Accettando che con una certa fatica matematica si possa dar senso a tutte le espressioni ed equazioni dette sopra, vediamo i risultati. La soluzione x t un processo stocastico. Senza entrare nei dettagli, si pu dimostrare che un processo di Markov. Cosa molto importante, ad ogni istante t  0 la v.a. x t ha densit di probabilit p t, x che soddisfa una certa equazione. Prima di scriverla sottolineiamo un fatto teorico non banale: anche se il dato inziale x 0 deterministico, cio il processo stocastico x t al tempo t 0  0 vale identicamente x 0 , con probabilit uno, quindi non ha densit, tuttavia ha densit ad ogni istante t  0. Si parla infatti di processo di diffusione. E come se allistante t 0  0 ci fossero infinite particelle tutte concentrate nel punto x 0 , che poi immediatamente si muovono in diverse direzioni con traiettorie erratiche (tipo moto browniano), per cui ad ogni successivo istante t  0 troviamo le particelle distribuite un po ovunque (non in modo uniforme), distribuite secondo una densit p t, x . La funzione p t, x soddisfa lequazione alle derivate parziali p t, x t  1 2
2

x2

 2 x p t, x

b x p t, x

detta equazione di Fokker-Planck. Abbiamo scritto tutto nel caso di x uni-dimensionale, ma la teoria si generalizza senza difficolt. Ci sono varianti di questa teoria per dinamiche stocastiche markoviane di vario tipo, non necessariamente descritte da equazioni differenziali stocastiche del tipo enunciato sopra. In certi casi lequazione che corrisponde a Fokker-Planck si chiama Master Equation.

A volte interessa la soluzione x t che esce dal dato iniziale deterministico x 0 , ma altre volte pu essere pi interessante ragionare su soluzioni x t non legate a dati iniziali specifici, ma aventi la propriet di essere stazionarie: in particolare, aventi densit p t, x indipendente da t. In tal caso la densit p x risolve lequazione 1 2
2

x2

2 x p x

d bx px dx

0

che decisamente pi semplice della precedente. Nel caso uni-dimensionale si pu impostare una risoluzione generale. Infatti scriviamola nella forma d dx da cui ricaviamo 1 d 2 x p x 2 dx b x p x  C1 1 d 2 x p x 2 dx bx px 0

per una opportuna costante C 1 . Prendiamo il caso particolare C 1  0 e supponiamo per un momento  2 x  0.Col metodo delle variabili separate si ottiene in pochi passi 1 d 2 x p x 2 dx d 2 x p x 2 x p x log  2 x p x bx px 2 bx dx 2 x bx  2 2 dx  x
x b t 1 exp 2 dt 2 2 Z x 0  t

px 

per unopportuna costante Z  0. Riassumendo, data b x , se risulta Z : allora px 

x b t 1 exp 2 dt 2 Z  2 x 0  t

 x
2

exp 2

x 0

bt dt dx  2 t

una soluzione stazionaria dellequazione di Fokker-Planck. E la densit di probabilit, ad ogni istante di tempo, di un processo stocastico stazionario che risolve lequazione differenziale scritta sopra. Si pu inoltre dimostrare che la densit p x , se esiste, lunica soluzione del problema precedente. Le ultime elaborazioni dei calcoli valgono sotto lipotesi  2 x  0. Per ragionando caso per caso in genere si riescono ad estendere i risultati anche quando  2 x  0 per certe x, ad es.  2 x  0 per x 0. Naturalmente si intender che la formula scritta sopra vale nellintervallo delle x in cui  2 x  0.

Come si pu applicare questa teoria

Applicazione diretta
Un primo modo di applicare questa teoria quello diretto: se sappiamo gi che il

processo stocastico x t da noi esaminato soddisfa lequazione stocastica scritta sopra, allora possiamo simularne varie cartteristiche tramite gli strumenti precedenti. Ad esempio, supponiamo di studiare una macromolecola immersa in un fluido fermo insieme a tante altre macromolecole e supponiamo di riassumere la fisica del fenomeno nellequazione dx t  x t dt  dB t pensando che ad ogni istante la macromolecola subisce uno spostamento dx t dato da due componenti: lo spostamento dB t dovuto agli urti con le macromolecole circostanti, meno il termine x t dt che si fa carico genericamente dellattrito o dissipazione dovuta allinterazione col fluido. Quindi lequazione gi in nostro possesso. Possiamo scrivere lequazione di Fokker-Planck p t, x t
2   2 2

p t, x  x2

xp t, x

e tentare di simularla con programmi appositi per equazioni alle derivate parziali (in questo caso particolarissimo si pu anche risolvere esplicitamente). per lo meno, possiamo affermare che p x  Z 1 exp 2 x 2 2

una soluzione stazionaria di Fokker-Planck e quindi una densit invariante. Si noti che 2 una densit gaussiana di media zero e varianza  . 2 Inoltre possiamo simulare le traiettorie dellequazione del moto, ad esempio un po rozzamente col metodo di Eulero esplicito: x t  t  1 t x t   B t  t  B t

generando gli incrementi B t  t  B t come numeri gaussiani indipendenti di media zero e varianza t (deviazione standard t ): xk  1  1 lambda h xk rnorm 1, 0, 1 sqrt h dove abbiamo indicato con h il numero t.

sigma

Identificazione sperimentale dei parametri

Proseguiamo lesempio precedente ma supponendo che sia noto solo il modello dx t  x t dt  dB t nella sua struttura, non numericamente i parametri  e . Supponiamo per di conoscere una realizzazione sperimentale (una serie storica) x 1 , x 2 , ... Allora possiamo da questa stimare  e . 2 Da un lato, per certi scopi, sufficiente conoscere il rapporto  , cio la varianza della 2 distribuzione stazionaria. Allora, invocando un teorema ergodico, il numero

1 n
k1
2

xk

x
n

uno stimatore di  . Qui come sempre x  1 x . n 2 k1 k Se per volessimo svolgere simulazioni dellequazione del moto, dovremmo conoscere separatamente  e . Si pu allora osservare che  legato al tempo di rilassamento (decadimento) allequilibrio: in assenza del termine dB t lequazione del moto sarebbe dx t dt  x t

1 la cui soluzione x t  x 0 e t , che impiega un tempo dellordine di  a diventare molto 1 piccola: x   x 0 e 1  0.36  x 0 . Si capisce che si sta parlando dellordine di grandezza del tempo di rilassamento, altrimenti bisognerebbe stabilire a priori cosa si intende per molto piccolo. A volte si preferisce parlare del tempo di dimezzamento. 1 Stabilito che  lordine di grandezza del tempo di rilassamento, si pu calcololare la funzione di autocorrelazione della serie x 1 , x 2 , ... e calcolare da essa un numero che corrisponda al tempo di rilassamento della serie storica (tempo di scorrelazione). Da qui si 2 pu stimare . Poi, stimato , si stima  dal momento che  stato pure stimato. 2 Questo procedimento un po vago, nel senso che non prescrive esattamente come 1 calcolare lanalogo di  sulla serie storica. Per ha il pregio di far capire lidea. Per unidentificazione pi precisa di  si pu usare il seguente fatto, che non ci mettiamo a giustificare nei dettagli:

Cov x t , x 0  Cov x 0 e e
t

t

, x 0  Cov

0 e  t s dB s , x 0

2  0 2  xt, x0  e
t

quindi, detta  lautocorrelazione, .

In altre parole, la funzione e t proprio uguale allautocorrelazione (in questo semplicissimo modello lineare). Da qui, ad esempio calcolando lautocorrelazione sperimentale al tempo t  1, si stima , o grossolanamente ad occhio, o con la formula  lim
t

log  x t , x 0 . t

Si noti che bisogna fare molta attenzione alla scala temporale vera nel calcolo dellautocorrelazione sperimentale. Unultima osservazione: se lequazione differenziale fosse stata pi complessa (non lineare), non avremmo potuto calcolare  x t , x 0 . Allora sufficiente simulare con R lequazione differenziale calcolando lacf e cercando (anche solo per tentativi) dei valori dei parametri che forniscono una acf simile a quella sperimentale.

Applicazione inversa
Supponiamo di avere una serie storica sperimentale x 1 , x 2 , ..., stazionaria, e di volerla descrivere tramite un modello dinamico del tipo visto sopra:

dx t  b x t dt   x t dB t . Dalle serie storiche possiamo ricavare due classi di informazioni:  lautocorrelazione sperimentale (acf)  la funzione di distribuzione cumulativa empirica (ecdf). Chiamiamo F x una funzione che corrisponda alla ecdf: ad esempio, dopo aver esaminato la ecdf possiamo aver scelto un modello Weibull, gaussiano ecc., che chiamiamo F x . Sia f x la densit corrispondente: f x  F x . Poniamo 1 Z x
2

exp 2

x 0

bt dt 2 t

fx.

Nel senso: f assegnata, b e  sono incognite. Risparmiando i calcoli, che si possono ricostruire con un po di pazienza, si trova la seguente equazione, nelle incognite b e  2 : 2b x  d  2 x   x  2 x . dx dove abbiamo posto  x  d log f x . dx Remark Ecco i calcoli: bt dt  Z 2 x f x 2 0  t x b t 2 dt  log Z 2 x f x 2 0  t d 2 x f x bx dx 2 2   x 2 x f x d d f x dx  2 x   2 x dx f x  2b x fx d  2 x   2 x d log f x  2b x . dx dx Si noti che possiamo giocare su molti gradi di libert. Quindi la prima scelta che viene in mente  2  costante da cui
d dx

exp 2

 2 x  0, 2b x   x  2 , quindi
2 b x   d log f x . 2 dx

Example Se ad esempio f x una gaussiana di media nulla e deviazione , x2 f x  C exp 2 2 allora

d log f x  dx quindi bx  Lequazione trovata dx t 

x 2

 2 x. 2 2

 2 x t dt  dB t . 2 2 2  Chiamato  il rapporto 2 2 , si trova il modello del paragrafo precedente. Controlliamo la compatibilit dei risultati. Nel paragrafo precedente avevamo detto che la varianza era 2 2 2 , che per   2 2 diventa  2   2 . Questa la varianza qui ipotizzata. 2
2
2 2

Remark Abbiamo un grado di libert in pi: possiamo scegliere la costante  a piacere. La stimiamo in modo da avere il tempo di decadimento del modello teorico pari a quello della acf. Esaminiamo un caso pi difficile. Supponiamo che dalle osservazioni sperimentali emerga come plausibile o opportuna una densit f x di tipo esponenziale: fx  e 0
x

per x

per x  0

Se tentiamo di seguire la strada precedente dobbiamo calcolare log f x che non ha senso per x  0. Questo fa venire in mente un altro problema: la scelta  costante non pu funzionare in quanto lequazione differenziale produrrebbe inevitabilmente delle traiettorie ogni tanto negative, e questo sarebbe incompatibile con una densit f concentrata sui numeri positivi. Quindi la strategia di  costante non va pi bene. Questo il motivo per cui non abbiamo scelto  costante sin dallinizio, anche se questo avrebbe semplificato molti passaggi. Prendiamo allora una funzione  x che tende a zero per x 0  , in modo che leffetto del moto browniano svanisca quando ci si avviciana allorigine. Per ora prendiamo  x    x. Allora considerando lequazione solo per x  0, dove x   calcoliamo 2b x 
d dx

 2 x   x  2 x , ovvero b x   2 x 2
1

  2 x 2 . 2

Prendiamo ad esempio  

1 2

: x  x 2 bx   2  2 x. 2

Lequazione

dx t 

2 2

 2 x t 2

dt   x t dB t .

E interessante simularla con R. Lo schema di Eulero esplicito per questa equazione x k  1  x k  0.5 0.5  sigma sigma^2 sqrt h xk h xk h rnorm 1, 0, 1 .

lambda

sigma^2

Purtroppo c un problema numerico: anche se in teoria la soluzione sta sempre nel semiasse positivo, discretizzando pu capitare che un incremento del moto browniano la portino nel semiasse negativo ed in tal caso il termine sqrt h x k non sarebbe ben definito. Il modo giusto di risolvere questo problema consisterebbe nello scrivere un codice pi accurato di Eulero esplicito, a passo variabile, che abbrevia il passo se si supera lo zero. Per i nostri scopi troppo complesso. Usiamo uno stratagemma: se x k  1 diventa negativo, lo poniamo uguale a zero. Il parametro  a scelta. Vediamo se lo si pu usare per avere una acf simulata somigliante alla ecf empirica. Si pu agire ad occhio per tentativi oppure calcolare sulla ecf empirica il numero  lim
t

log  emp x t , x 0 t

che rappresenta il tasso di decadimento a zero della ecf empirica, poi cercare  in modo che la stessa quantit sulla serie simulata sia uguale. Attenzione sempre alla scala dei tempi.