Estimacao pontual

Vicente G. Cancho
garibay@icmc.usp.br
Departamento de Matematica Aplicada e Estatstica
Universidade de Sao Paulo
Vicente, G. Cancho (ICMC-USP) Estimacao Pontual 1 / 19
Estimac

ao pontual
Seja X alguma caracterstica da popula cao com funcao de probabilidade
ou funcao de densidade f (x; ), onde e o parametro da distribuicao.
Suponha que conhecida a forma funcional de f (x; ), como por exemplo, a
distribui cao normal, mas nao se sabe o valor de . Portanto, sorteia-se
uma amostra aleatoria de tamanho n e desenvolve-se uma funcao dos
valores amostrais

= h(X
1
, . . . , X
n
)
que forneca uma estimativa de .

e conhecido como um estimador, e
um valor numerico particular assumido pelo estimador e conhecido como
uma estimativa.
Vicente, G. Cancho (ICMC-USP) Estimacao Pontual 2 / 19
Propriedades dos estimadores
Denicao
O estimador

e nao-viesado para se
E(

) = ,
se o estimador e viesado, entao a diferen ca,
E(

) ,
e chamado de vies do estimador .
Vicente, G. Cancho (ICMC-USP) Estimacao Pontual 2 / 19
Exemplo
Considere uma populacao com N elementos e a variancia populacional

2
=
1
N
N

i =1
(X
i
)
2
, (1)
onde =

N
i =1
X
i
N
e a media populacional. Um possvel estimador para
2
,
baseada uma amostra aleatoria (a.a.) de tamanho n extrada dessa
popula cao, e

2
=
1
n
n

i =1
(X
i


X)
2
, (2)
Mostre que esse estimador e nao veisado.
Vicente, G. Cancho (ICMC-USP) Estimacao Pontual 3 / 19
Considere a seguinte relacao:
n

i =1
(X
i


X)
2
=
n

i =1
(X
i
+

X)
2
=
n

i =1
(X
i
)
2
2
n

i =1
(X
i
)(

X ) +
n

i =1
(

X )
2
=
n

i =1
(X
i
)
2
n(

X )
2
.
Segue-se que
E(
2
) =
1
n
_
n

i =1
E(X
i
)
2
nE(

X )
2
_
=
1
n
_
n

i =1
Var (X
i
) nVar (

X)
_
=
n 1
n

2
Vicente, G. Cancho (ICMC-USP) Estimacao Pontual 4 / 19
O vies de
2
e dado por
E(
2
)
2
=

2
n
,
Como o vies e negativo, o estimador
2
em geral subestima o verdadeiro
parametro
2
. Mas o vies de
2
tende para zero quando n
Pode-se mostrar que a variancia amostral
S
2
=
1
n 1
n

i =1
(X
i


X)
2
, (3)
e uma estimador nao-viesado para
2
.
Vicente, G. Cancho (ICMC-USP) Estimacao Pontual 5 / 19
O vies de
2
e dado por
E(
2
)
2
=

2
n
,
Como o vies e negativo, o estimador
2
em geral subestima o verdadeiro
parametro
2
. Mas o vies de
2
tende para zero quando n
Pode-se mostrar que a variancia amostral
S
2
=
1
n 1
n

i =1
(X
i


X)
2
, (3)
e uma estimador nao-viesado para
2
.
Vicente, G. Cancho (ICMC-USP) Estimacao Pontual 5 / 19
Denicao
Se

n
e um estimador de com base em uma a.a. de tamanho n, dizemos que

n
e consistente para se para todo > 0,
lim
n
P
_
|

n
| >
_
= 0.
Resultado

n
e um estimador consistente para se
lim
n
E(

n
) =
lim
n
Var (

n
) = 0
Exemplo
Seja X
1
, . . . , X
n
uma a.a. de uma popula cao normal com media e variancia
2
.
Mostre que: (a) a media amostral,

X
n
e um estimador consistente para (b) a
variancia amostral e um estimador consistente para
2
. (Considere
Var (S
2
) =
2
2
n1
)
Vicente, G. Cancho (ICMC-USP) Estimacao Pontual 6 / 19
Denicao
Se

n
e um estimador de com base em uma a.a. de tamanho n, dizemos que

n
e consistente para se para todo > 0,
lim
n
P
_
|

n
| >
_
= 0.
Resultado

n
e um estimador consistente para se
lim
n
E(

n
) =
lim
n
Var (

n
) = 0
Exemplo
Seja X
1
, . . . , X
n
uma a.a. de uma popula cao normal com media e variancia
2
.
Mostre que: (a) a media amostral,

X
n
e um estimador consistente para (b) a
variancia amostral e um estimador consistente para
2
. (Considere
Var (S
2
) =
2
2
n1
)
Vicente, G. Cancho (ICMC-USP) Estimacao Pontual 6 / 19
Denicao
Se

n
e um estimador de com base em uma a.a. de tamanho n, dizemos que

n
e consistente para se para todo > 0,
lim
n
P
_
|

n
| >
_
= 0.
Resultado

n
e um estimador consistente para se
lim
n
E(

n
) =
lim
n
Var (

n
) = 0
Exemplo
Seja X
1
, . . . , X
n
uma a.a. de uma popula cao normal com media e variancia
2
.
Mostre que: (a) a media amostral,

X
n
e um estimador consistente para (b) a
variancia amostral e um estimador consistente para
2
. (Considere
Var (S
2
) =
2
2
n1
)
Vicente, G. Cancho (ICMC-USP) Estimacao Pontual 6 / 19
Denicao
Se

1
e

2
sao dois estimadores nao-viesados de mesmo parametro e
ainda
Var (

1
) < Var (

2
),
entao e

1
mais eciente do que

2
.
Exemplo
Seja X
1
, . . . , X
n
uma a.a. de uma populacao normal com media e
variancia
2
. A media amostral,

X e a mediana amostral, md sao
estimadores nao-viesados. Vimos

X N(,

2
n
) e pode-se mostrar que
mediana amostral tem distribui cao aproximadamente normal. Isto e
md N(,
2
/2n).
Ja que
Var (md)
Var (

X)
=

2
> 1,

X e mais eciente do que md
Vicente, G. Cancho (ICMC-USP) Estimacao Pontual 7 / 19
Denicao
Se

1
e

2
sao dois estimadores nao-viesados de mesmo parametro e
ainda
Var (

1
) < Var (

2
),
entao e

1
mais eciente do que

2
.
Exemplo
Seja X
1
, . . . , X
n
uma a.a. de uma populacao normal com media e
variancia
2
. A media amostral,

X e a mediana amostral, md sao
estimadores nao-viesados. Vimos

X N(,

2
n
) e pode-se mostrar que
mediana amostral tem distribui cao aproximadamente normal. Isto e
md N(,
2
/2n).
Ja que
Var (md)
Var (

X)
=

2
> 1,

X e mais eciente do que md
Vicente, G. Cancho (ICMC-USP) Estimacao Pontual 7 / 19
Denicao
Se

1
e

2
sao dois estimadores nao-viesados de mesmo parametro e
ainda
Var (

1
) < Var (

2
),
entao e

1
mais eciente do que

2
.
Exemplo
Seja X
1
, . . . , X
n
uma a.a. de uma populacao normal com media e
variancia
2
. A media amostral,

X e a mediana amostral, md sao
estimadores nao-viesados. Vimos

X N(,

2
n
) e pode-se mostrar que
mediana amostral tem distribui cao aproximadamente normal. Isto e
md N(,
2
/2n).
Ja que
Var (md)
Var (

X)
=

2
> 1,

X e mais eciente do que md
Vicente, G. Cancho (ICMC-USP) Estimacao Pontual 7 / 19
Chamamos de
e =

,
o erro amostral que cometemos ao estimar o parametro pelo estimador

baseada numa amostra.

Denicao
O erro quadratico medio de um estimador(EQM) de um estimador

e
denido como
EQM(

) = E(

)
2
= Var (

) + (vies)
2
Se

1
e

2
sao dois estimadores de um mesmo parametro e ainda
EQM(

1
) < EQM(

2
),
entao e

1
mais eciente do que

2
.
Vicente, G. Cancho (ICMC-USP) Estimacao Pontual 8 / 19
Chamamos de
e =

,
o erro amostral que cometemos ao estimar o parametro pelo estimador

baseada numa amostra.

Denicao
O erro quadratico medio de um estimador(EQM) de um estimador

e
denido como
EQM(

) = E(

)
2
= Var (

) + (vies)
2
Se

1
e

2
sao dois estimadores de um mesmo parametro e ainda
EQM(

1
) < EQM(

2
),
entao e

1
mais eciente do que

2
.
Vicente, G. Cancho (ICMC-USP) Estimacao Pontual 8 / 19
Chamamos de
e =

,
o erro amostral que cometemos ao estimar o parametro pelo estimador

baseada numa amostra.

Denicao
O erro quadratico medio de um estimador(EQM) de um estimador

e
denido como
EQM(

) = E(

)
2
= Var (

) + (vies)
2
Se

1
e

2
sao dois estimadores de um mesmo parametro e ainda
EQM(

1
) < EQM(

2
),
entao e

1
mais eciente do que

2
.
Vicente, G. Cancho (ICMC-USP) Estimacao Pontual 8 / 19
Estimador de maxima verossimilhan ca
Seja X
1
, . . . , X
n
uma amostra aleatoria de tamanho n de uma populacao
com caracterstica X f
X
(x; ) onde e o parametro desconhecido. A
funcao de verossimilhanca dada a amostra observada x
1
, . . . , x
n
denotada por L() e dada por
L() = f
X
(x
1
; )f
X
(x
2
; ) . . . f
X
(x
n
; ) =
n

i =1
f
X
(x
i
; ). (4)
O estimador de maxima verossimilhan ca (EMV) de e o valor

que
maximiza L(). Isto e,
L(

) = max

L().
Maximizar L() equivale a maximizar ln(L()), ja que, a funcao
logaritmo e uma funcao crescente.
Vicente, G. Cancho (ICMC-USP) Estimacao Pontual 9 / 19
Estimador de maxima verossimilhan ca
Seja X
1
, . . . , X
n
uma amostra aleatoria de tamanho n de uma populacao
com caracterstica X f
X
(x; ) onde e o parametro desconhecido. A
funcao de verossimilhanca dada a amostra observada x
1
, . . . , x
n
denotada por L() e dada por
L() = f
X
(x
1
; )f
X
(x
2
; ) . . . f
X
(x
n
; ) =
n

i =1
f
X
(x
i
; ). (4)
O estimador de maxima verossimilhan ca (EMV) de e o valor

que
maximiza L(). Isto e,
L(

) = max

L().
Maximizar L() equivale a maximizar ln(L()), ja que, a funcao
logaritmo e uma funcao crescente.
Vicente, G. Cancho (ICMC-USP) Estimacao Pontual 9 / 19
Estimador de maxima verossimilhan ca
Seja X
1
, . . . , X
n
uma amostra aleatoria de tamanho n de uma populacao
com caracterstica X f
X
(x; ) onde e o parametro desconhecido. A
funcao de verossimilhanca dada a amostra observada x
1
, . . . , x
n
denotada por L() e dada por
L() = f
X
(x
1
; )f
X
(x
2
; ) . . . f
X
(x
n
; ) =
n

i =1
f
X
(x
i
; ). (4)
O estimador de maxima verossimilhan ca (EMV) de e o valor

que
maximiza L(). Isto e,
L(

) = max

L().
Maximizar L() equivale a maximizar ln(L()), ja que, a funcao
logaritmo e uma funcao crescente.
Vicente, G. Cancho (ICMC-USP) Estimacao Pontual 9 / 19
Observacao
No caso que X seja uma v.a discreta temos que a funcao de
verossimilhanca de e dada por:
L() = P(X
1
= x
1
, X
2
= x
2
, . . . , X
n
= x
n
). (5)
Ou seja L() e a probabilidade de obter valores amostrais x
1
, . . . , x
n
. E o
estimador de maxima verossimilhanca e aquela que maximiza a
probabilidade de ocorrencia dos valores da amostra.
Vicente, G. Cancho (ICMC-USP) Estimacao Pontual 10 / 19
Exemplo
Seja X
1
, . . . , X
n
uma amostra aleatoria de tamanho n de uma popula cao
bernoulli com parametro (0 < < 1). Obtenha o EMV de .
A funcao de probabilidade e
f
X
(x) =
_

x
(1 )
1x
, x = 0, 1
0, c.c.
A funcao de verossimilhanca de dada amostra observada e dada por
L() =
n

i =1

x
i
(1 )
1x
i
=
n

i =1
x
i
(1 )
(n
n

i =1
x
i
)
Vicente, G. Cancho (ICMC-USP) Estimacao Pontual 11 / 19
O logaritmo da funcao de verossimilhanca () = ln(L()) e dada por
() = (
n

i =1
x
i
) ln + (n
n

i =1
x
i
) ln(1 )
Agora,
()

n
i =1
x
i

n
i =1
x
i
1
Igualando a equacao em zero e resolvendo para resulta

n
i =1
x
i
n
.
Ja que,

2
()

2
|

< 0. Entao,

=

X e o EMV de .
Vicente, G. Cancho (ICMC-USP) Estimacao Pontual 12 / 19
Exemplo
O tempo de falha de um modulo eletronico, usado em um controlador de
um motor de carro, e testada a uma temperatura elevada para acelerar o
mecanismo de falha. O tempo de exposi cao e distribudo
exponencialmente com um parametro desconhecido. Oito unidades sao
selecionadas ao acaso e testadas com os seguintes de tempos (horas)de
falha: x
1
= 11, 96 x
2
= 5, 03,x
3
= 67, 40, x
4
= 16, 07 x
5
= 31, 50,
x
6
= 7, 73, x
7
= 11, 10 e x
8
= 22, 38 . Obtenha uma estimativa MV de .
A funcao de verossimilhanca de dada amostra observada e dada por
L() =
n

i =1
e
x
i
=
n
e

i =1
x
i
O logaritmo da funcao de verossimilhanca () e dada por
() = (n ln
n

i =1
x
i
)
Vicente, G. Cancho (ICMC-USP) Estimacao Pontual 13 / 19
Agora,
()

=
n

i =1
x
i
Igualando a equacao em zero e resolvendo para resulta

=
n

i = 1
n
x
i
=
1

X
.
Ja que,

2
()

2
|

< 0. Entao,

= 1/

X e o EMV de .
Dos dados temos x = 21, 65. Da temos, que a estimativa de MV e igual

= 0, 0462.
Vicente, G. Cancho (ICMC-USP) Estimacao Pontual 14 / 19
Agora,
()

=
n

i =1
x
i
Igualando a equacao em zero e resolvendo para resulta

=
n

i = 1
n
x
i
=
1

X
.
Ja que,

2
()

2
|

< 0. Entao,

= 1/

X e o EMV de .
Dos dados temos x = 21, 65. Da temos, que a estimativa de MV e igual

= 0, 0462.
Vicente, G. Cancho (ICMC-USP) Estimacao Pontual 14 / 19
0.00 0.05 0.10 0.15 0.20
0
e
+
0
0
2
e

1
5
4
e

1
5
6
e

1
5

L
((

))
0.00 0.05 0.10 0.15 0.20

5
5

5
0

4
5

4
0

3
5

l
((

))
Vicente, G. Cancho (ICMC-USP) Estimacao Pontual 15 / 19
Exemplo
Seja X
1
, . . . , X
n
uma amostra aleatoria de tamanho n de uma popula cao
normal com media e variancia
2
Obtenha o EMV de e
2
.
Lembrando que a f.d.p. de X N(,
2
) e
f (x; ,
2
) =
1

2
e
(x)
2
/(2
2
)
, x R.
A funcao de verossimilhanca e
2
dada a amostra observada
L(,
2
) =
n

i =1
1

2
e
(x
i
)
2
/(2
2
)
e
(,
2
) = log(L(,
2
)) =
n
2
ln(2
2
)
1
2
2
n

i =1
(x
i
)
2
Vicente, G. Cancho (ICMC-USP) Estimacao Pontual 16 / 19
Agora
(,
2
)

=
1

2
n

i =1
(x
i
)(1)
(,
2
)

2
=
n
2
2

1
2
4
n

i =1
(x
i
)
2
Da solucao da seguintes equacoes:
(,
2
)

|
,
2 = 0 e
(,
2
)

2
|
,
2
=0
temos os EMV de e
2
sao respectivamente
=
1
n
n

i =1
X
i

2
=
1
n
n

i =1
(X
i


X)
2
Vicente, G. Cancho (ICMC-USP) Estimacao Pontual 17 / 19
Agora
(,
2
)

=
1

2
n

i =1
(x
i
)(1)
(,
2
)

2
=
n
2
2

1
2
4
n

i =1
(x
i
)
2
Da solucao da seguintes equacoes:
(,
2
)

|
,
2 = 0 e
(,
2
)

2
|
,
2
=0
temos os EMV de e
2
sao respectivamente
=
1
n
n

i =1
X
i

2
=
1
n
n

i =1
(X
i


X)
2
Vicente, G. Cancho (ICMC-USP) Estimacao Pontual 17 / 19
Propriedades dos EMV
Sob certas condi coes de regularidade, quando amostra de tamanho n for
grande e

for EMV do parametro , tem-se

e aproximadamente nao-viesado para

tem distribuicao normal aproximado.

A propriedade de Invari

ancia
Sejam

1
, . . . ,

p
estimadores de maxima verossimilhanca dos estimadores

1
, . . . ,
p
. Entao o EMV de qualquer funcao h(
1
, . . . ,
p
) desses
parametros e a mesma fun cao h(

1
, . . . ,

p
) dos estimadores

1
, . . . ,

p
.
Exemplo
No exemplo anterior onde X N(,
2
) qual e o EMV de CV = /
Vicente, G. Cancho (ICMC-USP) Estimacao Pontual 18 / 19
Propriedades dos EMV
Sob certas condi coes de regularidade, quando amostra de tamanho n for
grande e

for EMV do parametro , tem-se

e aproximadamente nao-viesado para

tem distribuicao normal aproximado.

A propriedade de Invari

ancia
Sejam

1
, . . . ,

p
estimadores de maxima verossimilhanca dos estimadores

1
, . . . ,
p
. Entao o EMV de qualquer funcao h(
1
, . . . ,
p
) desses
parametros e a mesma fun cao h(

1
, . . . ,

p
) dos estimadores

1
, . . . ,

p
.
Exemplo
No exemplo anterior onde X N(,
2
) qual e o EMV de CV = /
Vicente, G. Cancho (ICMC-USP) Estimacao Pontual 18 / 19
Propriedades dos EMV
Sob certas condi coes de regularidade, quando amostra de tamanho n for
grande e

for EMV do parametro , tem-se

e aproximadamente nao-viesado para

tem distribuicao normal aproximado.

A propriedade de Invari

ancia
Sejam

1
, . . . ,

p
estimadores de maxima verossimilhanca dos estimadores

1
, . . . ,
p
. Entao o EMV de qualquer funcao h(
1
, . . . ,
p
) desses
parametros e a mesma fun cao h(

1
, . . . ,

p
) dos estimadores

1
, . . . ,

p
.
Exemplo
No exemplo anterior onde X N(,
2
) qual e o EMV de CV = /
Vicente, G. Cancho (ICMC-USP) Estimacao Pontual 18 / 19
Propriedades dos EMV
Sob certas condi coes de regularidade, quando amostra de tamanho n for
grande e

for EMV do parametro , tem-se

e aproximadamente nao-viesado para

tem distribuicao normal aproximado.

A propriedade de Invari

ancia
Sejam

1
, . . . ,

p
estimadores de maxima verossimilhanca dos estimadores

1
, . . . ,
p
. Entao o EMV de qualquer funcao h(
1
, . . . ,
p
) desses
parametros e a mesma fun cao h(

1
, . . . ,

p
) dos estimadores

1
, . . . ,

p
.
Exemplo
No exemplo anterior onde X N(,
2
) qual e o EMV de CV = /
Vicente, G. Cancho (ICMC-USP) Estimacao Pontual 18 / 19
Propriedades dos EMV
Sob certas condi coes de regularidade, quando amostra de tamanho n for
grande e

for EMV do parametro , tem-se

e aproximadamente nao-viesado para

tem distribuicao normal aproximado.

A propriedade de Invari

ancia
Sejam

1
, . . . ,

p
estimadores de maxima verossimilhanca dos estimadores

1
, . . . ,
p
. Entao o EMV de qualquer funcao h(
1
, . . . ,
p
) desses
parametros e a mesma fun cao h(

1
, . . . ,

p
) dos estimadores

1
, . . . ,

p
.
Exemplo
No exemplo anterior onde X N(,
2
) qual e o EMV de CV = /
Vicente, G. Cancho (ICMC-USP) Estimacao Pontual 18 / 19
Exemplo
Suponha que o tempo de vida de um dispositivo eletronico (X, em anos) e
uma variavel aleatoria com a seguinte funcao de distribuicao acumulada A
funcao de probabilidade e
F
X
(x; ) =
_
1 e

x
x > 0,
0, c.c.
(a) Para uma amostra aleatoria de tamanho n desses dispositivos, obtenha
o estimador de maxima verossimilhan ca (EMV) de . (b) Suponha que
para uma amostra aleatoria de n=36 dispositivos deu um tempo medio de
vida de 2 anos. Qual e probabidade estimada do dispositivo durar no
mnimo um perodo de 10 meses? (c) Qual e a distribuicao aproximada do
EMV de obtida em (a).
Vicente, G. Cancho (ICMC-USP) Estimacao Pontual 19 / 19