Processos Estocásticos e Variáveis Aleatórias

Processos Estocásticos
Jorge Dantas de Melo

Sumário
• Probabilidade
• Variáveis Aleatórias
• Funções de Uma Variável Aleatória
• Funções de Várias Variáveis Aleatórias
• Momentos e Estatística Condicional
• Teorema do Limite Central
• Processos Estocásticos
• Análise Espectral
• Filtragem e Predição Estocástica
• Processos Markovianos
V. A. Multidimensionais Discretas
• Suponha duas V.A. X e Y definidas sobre um
espaço amostral S, cujos valores são
denotados por x e y, respectivamente. Então
qualquer par ordenado (x,y) pode ser
considerado um ponto aleatório no plano xy.
• Isso ocorre quando existe interesse em se
observar várias características numéricas de
um dado experimento.
• Observe que, enquanto {Xx}, {Y y}
representam eventos no espaço S, eventos do
tipo {Xx} e {Y y} representam eventos no
espaço conjunto SC.
Interesse de
estudo da
inter-relação
dessas
variáveis.
• Definição 3.1:
– Sejam X1, X2, ..., Xn V.A. definidas em S. À n-
upla (X1, X2, ..., Xn) denomina-se V.A. n-
dimensional. Ela associa a cada ponto  de S a n-
upla (X1, X2, ..., Xn).
• Exemplo 3.1: Um estudo envolveu os alunos do
PPgEE da UFRN. Perguntou-se se trabalhavam (X1),
qual sua área de concentração (X2) e se possuiam
bolsa de estudos (X3).
• Estatística Conjunta de V.A.:
– Deseja-se basicamente obter-se as inter-relações ou
independências entre as diversas V.A. envolvidas no
experimento.
– Definição 3.2:
• A distribuição de probabilidade da V.A. (X1, X2, ..., Xn)
discreta é uma tabela que associa a cada valor (x1, x2, ...,
xn) dessa variável sua correspondente probabilidade
P[X1=x1, X2=x2, ..., Xn=xn]. Observe que
 X1  x1, X 2  x2 , , X n  xn    | X1    x1   | X 2    x2     | X n    xn 
• Para o caso de V.A. discretas, temos uma

tabela de n+1 colunas.
X1 X2 ... P(X1=x1, X2=x2, ...)
a1 b1 k1
a2 b2 k2
... ... ... ...
• Exemplo 3.2: Uma região foi sub-dividida em 10
sub-regiões. Em cada uma delas, foram
observadas duas variáveis: número de poços
artesianos e número de riachos ou rios presentes.
Os resultados são apresentados na tabela:
n m
 P  X  x ,Y  y   1
i 1 j 1
i j
• Para o caso de V.A. bidimensional:
– X  FX(x) = P(Xx)
– Y  FY(y) = P(Y  y)
– FX,Y(x,y) = P(Xx, Y  y)  Função distribuição de
probabilidade conjunta de X e Y.
– P(x1  Xx2; y1  Y  y2) = ? Y
Volume cuja base
é dada pelos limites FX,Y(x,y) y2
Y
em X e Y.
y2
y1
y1
x1 x2 X x1
X
x2
• Para o caso de V.A. bidimensional:

– FX,Y(x,y) = P(Xx; Y  y) = ij P(X=xi, Y=yj)
• Exemplo 3.3: Assuma que o espaço amostral conjunto tem somente
3 valores possíveis: (1,1), (2,1) e (3,3). As probabilidades desses
elementos são: P(1,1)=0.2, P(2,1)=0.3 e P(3,3)=0.5. Esboce
FX,Y(x,y).
• Propriedades de FX,Y(x,y)
1 FX ,Y  ,    0; FX ,Y  , y   0; FX ,Y  x,    0
 2 FX ,Y  ,    1
 3 0  FX ,Y  x, y   1
 4 FX ,Y  x, y  é não decrescente em x e y
 5 FX ,Y  x2 , y2   FX ,Y  x1 , y1   FX ,Y  x1 , y2   FX ,Y  x2 , y1  
 P  x1  X  x2 , y1  Y  y2   0
 6 FX ,Y  x,    FX  x  FX ,Y  , y   FY  y 
• A propriedade (6) estabelece que a função distribuição
de uma V.A. pode ser obtida a partir de FX,Y(x,y). As
funções FX(x) ou FY(y) obtidas dessa forma sõ
chamadas funções distribuição marginais.
– Caso bidimensional:
• Dada FX,Y(x,y), calcular a distribuição de X, independentemente do
valor de Y  Distribuição Marginal de X.
• Fx(x) = Fxy(x,+) ; {y<+ }
• FY(y) = Fxy(y,+) ; {x<+ }
• P(Y=yj) = i P(X=xi, Y=yj)
• Exemplo
2
P  X  0   P  X  0,Y  y 
j
j 0
 P  X  0, Y  0  P  X  0, Y  1  P  X  0, Y  2
 1 2 2 5
10 10 10 10
• Distribuições Marginais:
– Caso n-dimensional
P  X 1  x1   
x2
 P X
xn
1  x1 , X 2  x2 , , X n  xn 
P  X 1  x1 , X 2  x2   
x3
 P X
xn
1  x1 , X 2  x2 , , X n  xn 
• Distribuições Marginais:
– Exemplo 3.4: Determine as distribuições
marginais de X e Y.
X\Y 1 2 3 4 P(X)
1 0,10 0,05 0,02 0,07
2 0,08 0,05 0,10 0,19
3 0,10 0,20 0,04 0,00
P(Y) 1
• V.A. Independentes
– Definição 3.3: As V.A. X1, ..., Xn são ditas
independentes se, para todos os seus valores tivermos:
P  X 1  x1 , X 2  x2 , , X n  xn   P  X 1  x1  P  X 2  x2  P  X n  xn 
– Se as V.A. são independentes, então a distribuição

conjunta é dada pelo produto das distribuições
marginais.
FX1 X 2 Xn  x1 , x2 , , xn   FX1  x1  FX 2  x2  FX n  xn 
– Exemplo 3.5: Uma urna contém 3 bolas vermelhas e 5 bolas brancas.
Retiram-se 3 bolas da urna com reposição. Seja Xi, i=1,2,3 a V.A. que assume
o valor 1 se a i-ésima bola for vermelha e 0 se a for branca. Determine a
distribuição conjunta de X1, X2 e X3. A distribuição conjunta pode ser
expressa pelo produto das marginais, já que as V.A. são independentes.
P  X 1  1, X 2  1, X 3  1  P  X 1  1 P  X 2  1 P  X 3  1
– Exemplo 3.6: Para o mesmo experimento do exemplo
anterior, defina X4=X1+X2+X3. Quais os valores que X4
pode assumir? Encontre P[X4=2].
– P[X4=2] = P[X1=1, X2=1, X3=0] + P[X1=1, X2=0, X3=1] +

P[X1=0, X2=1, X3=1]=3(3/8)2(5/8)
• V.A. Independentes:
– Lema 3.1: As V.A. X e Y com função de
distribuição FX,Y(x,y) são independentes se e
somente se:
FX ,Y  x, y   FX  x  FY  y 
– Demo: FX ,Y  x, y    
i:xi  x j: y j  y
P  X  xi , Y  y j 
   P  X  x  P Y  y 
i:xi  x j: y j  y
i j
  P X  x  
i:xi  x
i
j: y j  y
P Y  y j   FX  x  FY  y 
– Lema 3.2: Se as V.A. X e Y são independentes
tem-se:
E  XY   E  X  E Y 
 
– Demo: E  XY    x y P  X  x ,Y  y 
i 1 j 1
i i i i
 
  x y P  X  x  P Y  y 
i 1 j 1
i i i j
 
  x P  X  x   y P Y  y   E  X  E Y 
i 1
i i
j 1
i j
– Lema 3.3: Sejam X1, X2, ..., Xn V.A.
independentes cujas funções geradoras de
momentos são denotadas por Xi, para i=1,2,...,n.
A função geradora de momentos de X1+X2+...+Xn
designada por X1+ X2 +...+ Xn satisfaz, para todo t:
 X1  X 2   Xn t    X t   X t 
1 2
 X n t 
• Covariância
– Sejam as V.A. X e Y. As suas esperanças
fornecem uma medida da posição de suas
distribuições e as suas variâncias fornecem uma
medida de dispersão em relação às suas médias.
– A covariância fornece uma medida de dispersão
de uma v.a. bidimensional em relação ao ponto
(E[X], E[Y]).
• Covariância
– Definição 3.3: Seja (X,Y) uma V. A.
bidimensional. A covariância de X e Y, denotada
por Cov(X,Y) é definida por:
Cov  X , Y   E  X  E  X   Y  E Y   
 
   x  E  X    y
i 1 j 1
i j  E Y   P  X  xi , Y  y j 
• Covariância
– A covariância é a esperança dos desvios dos valores das
V. A. em relação às suas médias. Se as V.A. tendem a
variar no mesmo sentido, a covariância é positiva, caso
contrário é negativa. Outra forma de expressar a
covariância é através da expressão:
Cov  X , Y   E  XY   E  X  E Y 
– Observação:
Cov  X , X   Var  X 
• Covariância
– Exemplo 3.7: Considere uma urna com 3 bolas brancas e 2 vermelhas.
Retiram-se 2 bolas da urna, uma após a outra sem reposição. Defina X
como sendo a V.A. que assume o valor 1 se a primeira bola é branca e
0 se é vermelha. Y é outra V.A. análoga a X relacionada com a
segunda bola. Calcule a covariância entre X e Y.
– Seja B1={escolha da primeira bola} e B2={escolha da segunda bola}.
Então,
P  B1B2   P  B1  P  B2 | B1 
• Covariância
P  X  0  8 P Y  0   8 P  X  1  12 P Y  1  12
20 20 20 20
2
E ( X )   xi P  X  xi   12
i 1
20
E Y   E  X   12
20
E  XY    xi y j P  X  xi , Y  y j   6
2 2
i 1 j 1
20
Cov  X , Y   E  XY   E  X  E Y    24
400
• Covariância
– Lema 3.4: Se X e Y são V.A. independentes
Cov(X,Y)=0. O inverso não é necessariamente
verdadeiro.
– Exemplo 3.10: Sejam X e Y V.A. que assumem os
valores -1,0,1 e cuja distribuição conjunta é dada
por
1
P  X  1, Y  0   P  X  1, Y  0   P  X  0, Y  1  P  X  0, Y  1 
4
Calcular Cov(X,Y) e verificar se são

independentes
• Covariância
– Exemplo 3.10: X e Y são identicamente
distribuídas (mesmas distribuições marginais).
Além disso, E(X)=E(Y)=0 e E(XY)=0, pois em
todo ponto ou X=0 ou Y=0. Assim, Cov(X,Y)=0
1
FX ,Y  1,0      P  X  xi , Y  y 
j  P  X   1, Y  0  
i:xi 1 j: y j  0 4
1
FX  1   P  X  1 
i:xi 1 4
1
FY  0    P Y  1  P Y  0 
i: y j  0 2
FX ,Y  1,0   FX  1 FY  0 
• Covariância
– Var(X+Y) = Var(X) + Var(Y) + 2Cov(X,Y)
– Sejam duas V.A. X e Y. Se X’= aX e Y’= bY,
então Cov(X’,Y’) = ab Cov(X,Y), uma vez que
Cov(X,Y) = E[XY] – E[x] E[Y]
– Então, a covariância depende das escalas das V.A.
– Seria interessante se trabalhar com uma medida
de dispersão independente de escala!
• Coeficiente de Correlação
– Definição 3.4: O coeficiente de correlação das
variáveis aleatórias X e Y, denotado por (X,Y), é
definido por:
Cov  X , Y 
  X ,Y  
  X   Y 
– Lema 3.5: O coeficiente de correlação (X,Y)

das V. A. X e Y satisfaz a desigualdade:
  X ,Y   1
• Coeficiente de Correlação
– Se X’= aX e Y’= bY, então:
 
Cov( X ', Y ')  E  X ' E  X '   Y ' E Y '    abCov  X , Y 
  X '  E  X '    E  X '   a  X 

2 2
abCov  X , Y 
  X ', Y '     X ,Y 
a  X  b Y 
• Se Y = aX + b  (X,Y) = signal(a) . 1
– Correlação forte!
• E[XY] = E[X] E[Y]  Descorrelação!
– Cov(X,Y)=0
– Independência  descorrelação
• E[XY] = 0  X e Y são ortogonais.
• Se X e Y são descorrelacionadas, então tem-
se que [X-E(X)] e [Y-E(Y)] são ortogonais
• Exemplo 3.9: Em uma população de 20 indivíduos do sexo
masculino, foram aplicados questionários sobre a auto-
estima de cada um e coletados dados sobre as alturas dos
mesmos. Deseja-se estudar o influência da altura na auto-
estima da população escolhida.
E  X    xi P  X  xi   1.658
i
E Y    y j P Y  y j   3.755
j
 2  X   E  X 2    E  X    0.011746
2
 2 Y   E Y 2    E Y    0.172475
2
E  XY    xi y j P  X  xi , Y  y j   6.25875
i j
Cov  X , Y   E  XY   E  X  E Y   0.03296
Cov  X , Y 
  X ,Y    0.7322
 2
 X  Y 
2
• Matriz de Covariância
 C11 C12 C1n 

C C22 C2 n 
CX   21 
 
 
Cn1 Cn 2 Cnn 
  2  X i  , se i  j

Cij  E  X i   X i  X  X j  
Cov  X i , X j  , se i  j
 j

V. A. Multidimensionais Contínuas
• Densidade de probabilidade conjunta
– Definição 3.5: Uma função f(x,y) definida para -<x< , - <y< ,
não negativa e satisfazendo a condição
 
  f  x, y  dxdy  1
 
é denominada uma função densidade de probabilidade da V.A.

bidimensional (X,Y) se, para todo subconjunto B de pontos do 2
P  X , Y   B    f  x, y  dxdy
B
• Densidade de probabilidade conjunta
P  x  X  x  x, y  Y  y  y   FXY ( x  x, y  y )
 FXY ( x, y  y )  FXY ( x  x, y )  FXY ( x, y )
x x y y
  f XY (u, v)dudv  f XY ( x, y )xy.
x y
D y
x
X
• Densidade marginais

fX  x   f  x, y  dy


fY  y    f  x, y  dx

– Exemplo 3.10: Seja (X,Y) uma V.A. bidimensional cuja
densidade de probabilidade é dada por:
 xe x y 1 , se x  0
f XY  x, y   
0, caso contrário
– Determinar as densidades marginais de X e Y e calcular a
probabilidade P[X+Y≤3].

 
 e 
 xy
f X  x    xe
 x  y 1
dy  xe  x  e  xy dy  xe  x    e
x
0 0  x 0

  x 1  1
fY  y    xe
 x  y 1  x  y 1
dx  e    
0

  y  1  y  1
2

0  y  1
2
3 x  x y 1    xy 3 x

x  e
3 3
P  X  Y  3     xe dy dx   xe  dx 
0 0  0  x 0 
• Funções distribuição e densidade de probabilidade
 2 FXY  x, y 
f XY  x, y  
xy
x y
FXY  x, y    f XY  u , v  dudv
 
 n FX1 X 2  x1 , x2 , , xn 
f X1 X 2  x1 , x2 , , xn  
Xn
x1x2 xn
Xn
x1 x2 xn
FX1 X 2 Xn  x1 , x2 , , xn     f X1 X 2 Xn 1 ,  2 , ,  n  d1d 2  n

  
• Exemplo 3.11: Determinar a função de distribuição
da V.A. bidimensional cuja densidade de
probabilidade é dada por:
3 2
  x  xy  , 0  x  2 e 0  y  4
f XY  x, y    80
 0, caso contrário
• Exemplo 3.11:
– Região 1: x<0 e y qualquer ou y<0 e x qualquer
FXY  x, y   0
– Região 2: x>2 e y>4
FXY  x, y   1
• Exemplo 3.11:
– Região 3: 0<x<2 e 0<y<4
x
v2  
y x
x
y 3 2  3 2 3  u3 2

FXY  x, y       u  uv  dv du     u v  u  du   y  y 2  
u 1 2
x y  4x  3 y 
0  0 
   0
0 0
80  80 2 80 3 4 320
– Região 4: 0<x<2 e y4

x
4 3 2  x3 3 2
FXY  x, y       u  uv  dv du   x
0 0 
80 20 20
– Região 5: x  2 e 0<y<4
y
2 3 2 
FXY  x, y       u  uv  du dv   y 2
y 3
0 0 
80 10 80
• Exemplo 3.11:
• Independência
– Definição 3.6: As V.A. cuja densidade conjunta é f(x,y),
para -<x<  e -<x<  e cujas densidades marginais
são fX(x) e fY(y), são ditas independentes se, para todo par
(x,y)
f  x, y   f X  x  f Y  y 
ou
FXY  x, y   FX  x  FY  y 
• Independência
– Lema 3.6: Sejam X e Y V.A. contínuas. Se elas são
independentes, então
E  XY   E  X  E Y 
• Distribuições de Funções de V. A.
– Dado f(x,y) e Z= g(X,Y)
– fZ(z)=?
– FZ(z) = P[Z  z] = P[(X,Y)  Dz];
• Dz = {(x,y):g(x,y)  z}
– Caso 1: Z=X+Y
• Dz = {(x,y): x+y  z}
• FZ(z) = Dzf(x,y)dxdy
= -,  {- ,z-x f(x,y)dy}dx
• FZ (z) = -,  {- ,z f(x,u-x)du}dx
– u=x+y  y = u - x
• FZ (z) = - ,z {-,  f(x,u-x)dx}du  integrando não negativo
• fZ (z) = {-,  f(x,z-x)dx}
• Se X e Y forem independentes: fZ (z) = fX(x) . fY(y)
– fZ (z) = -,  fX(x) fY(z-x)dx  Integral de Convolução
– Exemplo 3.12: fz(z) = fx(x)  fy(y)
f(x)
f(z)
a X 1/a
f(y)
a 2a Z
a Y
• Distribuições Condicionais
– Sejam X e Y duas V.A. contínuas cuja densidade conjunta
fXY(x,y) é contínua. Suponha que para todo x e x>0
arbitrário, o evento [x<X≤x+ x] tenha probabilidade
positiva. A probabilidade condicional é definida por:
P Y  y, x  X  x  x 
P[Y  y | x  X  x  x] 
P  x  X  x  x 
x 
y 
x   f  u, v  dv  du
 x    
 
x   f  u, v  dv  du
– A densidade condicional de Y, dado X=x e denotada por
f(y|x) é dada para cada x fixo por:
f  x, y 
f  y | x 
fX  x
– Exemplo 3.13: Seja f(x,y)=21x2y3 para 0<x<y<1 e
f(x,y)=0 no complementar. Determinar as densidades
marginais e a densidade condicional.
1
21x 2 1  x 4 
f X  x    21x 2 y 3dy 
x
4
y
fY  y    21x 2 y 3dx  7 y 6
0
f  x, y  21x 2 y 3 4 y3
f  y | x   
f X  x  21x 1  x  1  x 4 
2 4
4
• Esperança condicional
– A esperança condicional de Y dado X=x é definida por

E Y | X  x    yf  y | x  dy

– Exemplo 3.13:
4 y3
f  y | x 
1  x4 
4 1  x 
1 3 5
4y
E Y | X  x    y dy 
x 1  x4  5 1  x  4
• Convergência e teoremas limites
– Certos procedimentos só são válidos se o tamanho da
amostra é grande. Neste caso é importante o estudo das
distribuições de V.A. definidas para amostras grandes. Se
estar interessado no comportamento estatístico da
amostra.
– A questão que se coloca é: o que esperar se podemos
coletar os dados de infinitas amostras?
– Conceito determinístico de convergência: Diz-se que a
seqüência {an} converge para a se, dado >0, existe n0 tal
que |an-a|≤  para todo n> n0.
– Definição 3.7: Seja {Xn} uma seqüência de V.A. e X uma
V.A.
• {Xn} converge quase certamente para X se
 
P lim X n  X  1
n 
• {Xn} converge em probabilidade para X se

lim P  X n  X     1
n
• {Xn} converge em distribuição para X se
lim P  X n  x   P  X  x 
n 
– Lema 3.7 (Desigualdade de Tchebycheff): Seja X uma
V.A. com variância finita. Para todo >0, tem-se:
2
P  X       2 ;   E  X 

X
   
X

2
– Demo 3.7 (Desigualdade de Tchebycheff):

  E  ( X   )    ( x   ) 2 f X ( x )dx
2 2

  x:| x  |  
( x   ) 2 f X ( x) dx   x:| x  |  
( x   ) 2 f X ( x) dx
  | x  | 
 2 f X ( x)dx  2
| x  | 
f X ( x )dx
  2 P  | X   |  
– Lei (fraca) dos grandes números: Seja X1,X2,... uma
seqüência de V.A. independentes e identicamente
distribuídas – i.i.d., com média  e variância σ2. Seja
n
Yn   X i
i 1
Tem-se
Yn p

n
– Teorema do Limite Central: Seja X1,X2,... uma seqüência
de V.A. independentes e identicamente distribuídas – i.i.d.,
com média  e variância σ2. O teorema estabelece que a
soma Yn=X1+X2+..+Xn, converge em distribuição normal
ou gaussiana.
– Além disso,
E[Yn ]  E[ X 1 ]  E[ X 2 ]   E[ X n ]  n
Var Yn   Var[ X 1 ]  Var[ X 2 ]   Var[ X n ]  n 2
 Yn  n 
Z    Z ~ N  0,1
  n 
– O teorema do limite central estabelece que a soma de um
grande número de V.A. independentes, com variância
finita, tende a se comportar como uma V.A. gaussiana.
Assim, as funções densidade de probabilidade de cada
V.A. Não tem importância para a análise do conjunto de
variáveis.
– Se um fenômeno ruidoso é modelado pela soma de um
grande número de V.A. independentes, então o teorema
nos permite concluir que o ruído se comporta como uma
V.A. gaussiana.
– Exemplo 3.14: Um dado é lançado 2.500 vezes. Calcular a
probabilidade de que a soma dos pontos obtidos seja
menor que 8.850.
• Como n = 2.500 é muito grande  aproximação normal.
• X = X1+X2+ ...+ X2500
• P(Xj=i) = 1/6 ; i é a número da face no j-ésimo lançamento.
• E[Xj] = 1/6=3,5 ; Var[Xj] = 2,92  (Xj) = 1,71
• E[X] = 2.500 * 3,5 = 8.750; Var[X] = 2.500 * 2,92 =7.310 
(X) = 85,5
• P[X<8.850] = P[Z< (8.850-8.750)/85,5] = P[Z<1,17] = 0,879
– Exemplo 3.15: Em uma certa cidade, a duração de
conversas telefônicas em minutos, originárias de telefones
públicos, segue um modelo exponencial com parâmetro
α=1/3. Observando-se uma amostra aleatória de 50 dessas
chamadas, qual a probabilidade delas, em média, não
ultrapassarem 4 minutos?
• Xi ~ Exp(1/3)  E(Xi) = 1/α = 3; Var(Xi) = 1/α2 = 9
• Média amostral Y = (X1+X2+ ...+ X50)/50  E(Y) = E(Xi) = 3;
Var(Y) Var(Xi) = 1/50α2 = 9/50
• P[Y≤4] = P[Z< (4-3)/√(9/50)] = P[Z<2.36] = 0,9909

Processos Estocásticos e Variáveis Aleatórias

Caricato da

Informazioni sul documento

Descrizione originale:

Titolo originale

Copyright

Formati disponibili

Condividi questo documento

Condividi o incorpora il documento

Opzioni di condivisione

Hai trovato utile questo documento?

Questo contenuto è inappropriato?

Copyright:

Formati disponibili

Processos Estocásticos e Variáveis Aleatórias

Caricato da

Copyright:

Formati disponibili

Processos Estocásticos

Jorge Dantas de Melo

• Para o caso de V.A. discretas, temos uma

• Para o caso de V.A. bidimensional:

– Se as V.A. são independentes, então a distribuição

– P[X4=2] = P[X1=1, X2=1, X3=0] + P[X1=1, X2=0, X3=1] +

Calcular Cov(X,Y) e verificar se são

– Lema 3.5: O coeficiente de correlação (X,Y)

  X '  E  X '    E  X '   a  X 

 C11 C12 C1n 

é denominada uma função densidade de probabilidade da V.A.

FX1 X 2 Xn  x1 , x2 , , xn     f X1 X 2 Xn 1 ,  2 , ,  n  d1d 2  n

– Região 4: 0<x<2 e y4

• {Xn} converge em probabilidade para X se

• {Xn} converge em distribuição para X se

Potrebbero piacerti anche