Procesos Estocsticos

Simulacin 2001
Profesor: Hctor Allende
 Introduccin
Las caractersticas de un fenmeno aleatorio puede ser
descrito a travs de la distribucin de probabilidad de una
variable aleatoria que representa el fenmeno.

En la teora de probabilidad, las propiedades estadsticas de

un fenmeno aleatorio que ocurre de manera aleatoria
respecto al tiempo no son considerados.

Profesor Dr. Hctor Allende 2

Desarrollado por Rodrigo Salas
 Introduccin
Ejemplos de fenmenos aleatorios en el tiempo:
Movimiento de una partcula en el movimiento
Browniano
Emisin de fuentes radioactivas
Flujo de corriente en un circuito elctrico.
Comportamiento de una onda en el oceano.
Respuesta de un avin al viento y movimiento de un
barco en el mar.
Vibracin de un edificio causado por un temblor o
terremoto.

Profesor Dr. Hctor Allende 3

Desarrollado por Rodrigo Salas
 Proceso Estocstico
Definicin: Una familia de variables aleatorias x(t) donde t
es el parmetro perteneciente a un conjunto indexado T es
llamado un proceso estocstico (o proceso aleatorio), y se
denota por:
{x(t ), t T }

tambin es definido como:

{x(t , ), t T , }
donde es el espacio muestral.

Profesor Dr. Hctor Allende 4

Desarrollado por Rodrigo Salas
 Proceso Estocstico
Observacin:
Si t es fijo, x( ) es una familia de variables aleatorias.
(ensemble).
Para fijo, x(t) es una funcin del tiempo llamada
funcin muestrada.
1
x(t )
2
x(t )

3
x(t )

k
x(t )

n
x(t )
Profesor Dr. Hctor Allende 5
t1 Desarrollado por Rodrigo Salas t 2
 Proceso Estocstico
Estado
Continuo Discreto
Continuo
Tiempo
Discreto

Estado y tiempo discreto y continuo.

Profesor Dr. Hctor Allende 6
Desarrollado por Rodrigo Salas
 Funcin de Medias
1. Sea {x(t ), t T } un proceso estocstico, se llama funcin
de medias:
x (t ) : T
t x (t ) E[ xt ]

Obs: x (t ) E[ x(t )] cte t T se dice que es un

proceso estocstico estable en media.

Profesor Dr. Hctor Allende 7

Desarrollado por Rodrigo Salas
 Funcin de Varianzas
2. Sea {x(t ), t T } un proceso estocstico, se llama funcin
de varianzas:
x2 (t ) : T
t x2 (t ) V [ xt ] E{( xt E[ xt ]2 }

Obs: x2 (t ) cte t T se dice que es un proceso

estocstico estable en varianza.

Profesor Dr. Hctor Allende 8

Desarrollado por Rodrigo Salas
 Funcin de Autocovarianzas
3. Sea {x(t ), t T } un proceso estocstico, se llama funcin
de varianzas:

C xx (t ) : T T
(t1 , t 2 ) C xx (t1,t 2 ) Cov[ xt , xt2 ]
1

E{( xt1 x (t1 ))( xt2 x (t 2 ))}

Profesor Dr. Hctor Allende 9

Desarrollado por Rodrigo Salas
 Funcin de Autocovarianza
La funcin de Autocovarianza C xx (t1 , t 2 ) de un proceso
estocstico viene dado por:

C xx (t1 , t 2 ) Cov[ x(t1 ), x(t 2 )]

E[( x(t1 ) E[ x(t1 )])( x(t 2 ) E[ x(t 2 )])]
1 n k
{ x(t1 ) x(t1 )}{ k x(t 2 ) x(t 2 )}
n k 1

1 n k
donde x(ti ) E[ x(ti )] x(ti ) i 1,2
n k 1

Si est en funcin de las diferencias de tiempo:

R( ) Cov[ x(t ), x(t )]
Profesor Dr. Hctor Allende 10
Desarrollado por Rodrigo Salas
 Funcin de Autocorrelacin
3. Sea {x(t ), t T } un proceso estocstico, se llama funcin
de varianzas:

x (t ) : T T
Cov[ xt , xt2 ]
(t1 , t 2 ) x (t1,t 2 ) 1

(t1 ) (t 2 )

Profesor Dr. Hctor Allende 11

Desarrollado por Rodrigo Salas
 Distribucin conjunta finito
dimensional
Sea (, , P) un espacio de probabilidad y un conjunto de
ndices T, y X : T un proceso estocstico.
El sistema:
FX {FX (t1 ),..., X (tn ) : t1 ,....,tn T , n }
es una Distribucin conjunta finito dimensional

Profesor Dr. Hctor Allende 12

Desarrollado por Rodrigo Salas
 Proceso estocstico de 2 orden
Sea X un proceso estocstico, se dice de 2 orden ssi
E[ x 2 (t )] t T
o sea
2 (t ) 2 12 t T

Profesor Dr. Hctor Allende 13

Desarrollado por Rodrigo Salas
 1.- Proceso Estacionario
OBS: Las caractersticas de un proceso aleatorio son
evaluados basados en el ensemble.
a) Proceso Estocstico Estacionario Estricto:
Si la distribucin conjunta de un vector aleatorio n-
1 2 n
dimensional, { x(t ), x(t ),...., x(t )}
y {1 x(t ),2 x(t ),....,n x(t )}
es la misma para todo , entonces el proceso
estocstico x(t) se dice que es un proceso estocstico
estacionario (o estado estacionario).
Es decir, las propiedades estadsticas del proceso se
mantienen invariante bajo la traslacin en el tiempo.

Profesor Dr. Hctor Allende 14

Desarrollado por Rodrigo Salas
 1.- Proceso Estacionario
b) Proceso Estocstico Evolucionario:
Es aquel proceso estocstico que no es estacionario.

c) Proceso Estocstico Dbilmente Estacionario:

Un proceso estocstico se dice dbilmente estacionario
(o estacionario en covarianza) si su funcin de valor
medio E[x(t)] es constante independiente de t y su
funcin de autocovarianza Cov[x(t),x(t+)] depende de
para todo t.

Profesor Dr. Hctor Allende 15

Desarrollado por Rodrigo Salas
 2.- Proceso Ergdico
Un proceso estocstico x(t) se dice que es un proceso
ergdico si el tiempo promedio de un simple registro es
aproximadamente igual al promedio de ensemble. Esto es:

1 n
n x(ti ) para un proceso de tiempo discreto.
i 1
E[ x(t )] T
1 x(t )dt para un proceso de tiempo continuo.
T
0

Profesor Dr. Hctor Allende 16

Desarrollado por Rodrigo Salas
 2.- Proceso Ergdico
Obs:
En general, las propiedades ergdicas de un proceso
estocstico se asume verdadera en el anlisis de los
datos observados en ingeniera, y por lo tanto las
propiedades estadsticas de un proceso aleatorio puede
ser evaluado a partir del anlisis de un nico registro.

Profesor Dr. Hctor Allende 17

Desarrollado por Rodrigo Salas
 3.- Proceso de Incrementos
Independientes
Un proceso estocstico x(t) se dice que es un proceso de
incrementos independientes si x(ti 1 ) x(ti ) , i=0,1,, es
es estadsticamente independiente (Por lo tanto,
estadsticamente no correlacionado).
Sea el proceso estocstico x(t) un proceso estacionario de
incrementos independientes. Entonces, la varianza de los
incrementos independientes x(t 2 ) x(t1 ) , donde t1 t 2
,es proporcional a t 2 t1

Profesor Dr. Hctor Allende 18

Desarrollado por Rodrigo Salas
 4.- Proceso de Markov
Un proceso estocstico x(t) se dice que es un proceso de
Markov si satisface la siguiente probabilidad condicional:

P{x(t n ) xn | x(t1 ) x1 , x(t 2 ) x2 ,..., x(t n 1 ) xn 1}

P{x(t n ) xn | x(t n 1 ) xn 1}, donde t1 t 2 ....t n 1 t n

Cadena de Markov: Proceso de Markov con estado

discreto.
Proceso de Difusin: Proceso de Markov con estado
continuo.
Profesor Dr. Hctor Allende 19
Desarrollado por Rodrigo Salas
 4.- Proceso de Markov
La ecuacin anterior puede ser escrita como:
f {x(t n ) | x(t1 ), x(t 2 ),..., x(t n1 )} f {x(t n ) | x(t n1 )}
entonces se tiene:
f {x(t1 ), x(t 2 ),..., x(t n )}
f {x(t n ) | x(t1 ), x(t 2 ),..., x(t n 1 )} f {x(t1 ), x(t 2 ),..., x(t n 1 )}
f {x(t n ) | x(t n 1 )} f {x(t1 ), x(t 2 ),..., x(t n 1 )}
f {x(t1 ), x(t 2 ),..., x(t n 1 )}
f {x(t n 1 ) | x(t n 2 )} f {x(t1 ), x(t 2 ),..., x(t n 2 )}

n
f {x(t1 ), x(t 2 ),..., x(t n )} f {x(ti )} f {x(t n ) | x(t r 1 )}
r 2

Profesor Dr. Hctor Allende 20

Desarrollado por Rodrigo Salas
 4.- Proceso de Markov
Conclusin:
La funcin de densidad de probabilidad conjunta de un
proceso de Markov puede ser expresado por medio de
las densidades marginales f {x(t1 )} y un conjunto de
funciones de densidad de probabilidad condicional
f {x(t r ) | x(t r 1 )} ,el cual es llamado densidad de
probabilidad de transicin.
Un proceso de Markov se dice Homogeneo en el tiempo si
la densidad de probabilidad de transicin es invariante en
el tiempo :
f {x(t r ) | x(t r 1 )} f {x(t r ) | x(t r 1 )}

Profesor Dr. Hctor Allende 21

Desarrollado por Rodrigo Salas
 5.- Proceso de Conteo
Un proceso estocstico de tiempo continuo y valores
enteros se llama proceso de conteo de la serie de eventos si
N(t) representa el nmero total de ocurrencias de un evento
en el intervalo de tiempo t=0 a t.
N(t)
4
3
2
1

0 t1 t2 t3 Time Intervalos de tiempo

entre sucesivas
T1 T2 T3 T4 ocurrencias
Profesor Dr. Hctor Allende 22
Desarrollado por Rodrigo Salas
 5.- Proceso de Conteo
Proceso de renovacin (Renewal Process):
Los tiempos entre llegadas son v.a. i.i.d.
Proceso de Poisson:
Proceso de renovacin en la cual los tiempos entre
llegadas obedecen una distribucin exponencial.

Profesor Dr. Hctor Allende 23

Desarrollado por Rodrigo Salas
 6.- Proceso de Banda-Angosta
Un proceso estocstico de tiempo continuo y estado
estacionario x(t) es llamado un proceso de banda angosta si
x(t) puede ser expresado como:
x(t ) A(t ) cos{ 0 (t )}
donde 0 = constante . La amplitud A(t), y la fase (t) son
variables aleatorias cuyo espacio de muestreo son
0A(t) y 0 (t) 2, respectivamente.

2 2 2 2 2
0 0 0 0 0
Profesor Dr. Hctor Allende 24
Desarrollado por Rodrigo Salas
 7.- Proceso Normal(Gaussiano)
Un proceso estocstico x(t) se dice que es un proceso
normal (o gaussiano) si para cualquier tiempo t, la variable
aleatoria x(t) tiene distribucin Normal.

Obs:
Un proceso normal es importante en el anlisis
estocstico de un fenmeno aleatorio observado en las
ciencias naturales, ya que muchos fenomenos aleatorios
pueden ser representados aproximadamente por una
densidad de probabilidad normal. Ejm: movimiento de
la superficie del oceano.

Profesor Dr. Hctor Allende 25

Desarrollado por Rodrigo Salas
 8.- Proceso de Wiener-Lvy
Un proceso estocstico x(t) se dice que es un proceso de
Wiener-Lvy si:
i) x(t) tiene incrementos independientes estacionarios.
ii) Todo incremento independiente tiene distribucin
normal.
iii) E[x(t)]=0 para todo el tiempo.
iv) x(0)=0

Se conoce como Proceso de movimiento Browniano el

cual describe el movimiento de pequeas particulas
inmersas en un lquido o gas.
Profesor Dr. Hctor Allende 26
Desarrollado por Rodrigo Salas
 8.- Proceso de Wiener-Lvy
Se puede demostrar que la varianza de un proceso Wiener-
Lvy aumenta linealmente con el tiempo.

Profesor Dr. Hctor Allende 27

Desarrollado por Rodrigo Salas
 9.- Proceso de Poisson
Un proceso de conteo N(t) se dice que es un proceso de
Poisson con razn media (o intensidad) si:
i) N(t) tiene incrementos independientes estacionarios.
ii) N(0)=0
iii) El nmero de la longitud en cualquier intervalo de
tiempo est distribuido como Poisson con media . Esto
es:
()
k
P{N (t ) N (t ) k} e , k 0,1,2,...
k!
tambin es llamado como proceso de incremento de
Poisson.
Profesor Dr. Hctor Allende 28
Desarrollado por Rodrigo Salas
 9.- Proceso de Poisson
Para un proceso estocstico de incrementos
independientes, se tiene la siguiente funcin de
autocovarianza:

Var[ N (t1 ) N (t 2 )] para 0 t 2 t1

Cov[ x(t1 ), x(t 2 )]
0 e.t.o.c

Si x(t) tiene distribucin de Poisson, entonces:

(t1 t 2 ) ( (t 2 t1 )) para 0 t 2 t1
Cov[ x(t1 ), x(t 2 )]
0 e.t.o.c

Por lo tanto un proceso de incremento de Poisson es

estacionario en covarianza.
Profesor Dr. Hctor Allende 29
Desarrollado por Rodrigo Salas
 10.- Proceso de Bernoulli
Considerar una serie de intentos independientes con dos
salidas posibles: xito o fracaso. Un proceso de conteo Xn
se llama proceso de Bernoulli si Xn representa el nmero
de xitos en n intentos.

Si p es la probabilidad de xito, la probabilidad de k xitos

dado n intentos est dado por la distribucin binomial:

n k nk
P{ X n k} p q , donde q 1 p
k

Profesor Dr. Hctor Allende 30

Desarrollado por Rodrigo Salas
 11.- Proceso Ruido Blanco
Sea {a(t )}tT un p.e., se llama ruido blanco ssi:
i. E[a(t )] 0
ii.
1 si s t
Cov[at , as ] st
0 e.t.o.c.
Obs:
1. El ruido blanco es un proceso estocstico estacionario
(por construccin).
2. Si a (t ) ~ N ( 0 , 2
a) t T , en tal caso el ruido
blanco se dice Gaussiano.
3. Si t1 , t2 ,..., tn T son independientes
entonces es ruido blanco puro
Profesor Dr. Hctor Allende 31
Desarrollado por Rodrigo Salas
 12.- Proceso de Medias Mviles
Sea {x(t ), t T } un p.e., se dice de media mvil de orden
q ssi:
xt at 1at 1 2 at 2 ..... q at q
donde
1 ,...., q , q 0
y {a(t )}tT es ruido blanco.

Notacin: X ~ MA(q)

Profesor Dr. Hctor Allende 32

Desarrollado por Rodrigo Salas
 13.- Proceso Autoregresivo
Sea {x(t ), t T } un p.e., se dice autoregresivo de orden p
ssi:
xt 1 xt 1 2 xt 2 ... p xt p at
donde
1 ,...., p , p 0
y {a(t )}tT es ruido blanco.

Notacin: X ~ AR( p)

Profesor Dr. Hctor Allende 33

Desarrollado por Rodrigo Salas
 14.- Proceso ARMA
Sea {x(t ), t T } un p.e., se dice autoregresivo de media
mvil de orden (p,q) ssi:
xt 1 xt 1 ... p xt p at 1at 1 ... q at q
donde
1 ,...., p ,1 ,..., q , p 0, q 0
y {a(t )}tT es ruido blanco.

Notacin: X ~ ARMA( p, q)

Profesor Dr. Hctor Allende 34

Desarrollado por Rodrigo Salas
 Bibliografa
Applied Probability & Stochastic Processes.
Michel K. Ochi.
Applied Probability Models with Optimization
Applications.
Sheldon M. Ross.

Profesor Dr. Hctor Allende 35

Desarrollado por Rodrigo Salas
Consultas o Preguntas?