Lezione 23 - 27/4/21

Ora che abbiamo visto vari metodi, vorrei trovare un modo di capitare se uno stimatore è
meglio di un altro.
Andiamo a vedere alcune proprietà degli stimatori

Proprietà degli stimatori

Definizione correttezza (non distorsione)
Uno stimatore T = g(X 1 , … , X n ) funzione del campione casuale e del parametro � è
detto corretto se:
ET = �
⏨⏨
NB
T è una V.A. e quindi ha una distribuzione di probabilità
Quindi in media facendo la realizzare cioè fare:
T(�) = g(X1 (�), … , Xn (�)) = g(x 1 , … , x n )
io vorrei che questa realizzazione sia sufficientemente vicino a �
e per richiedere questo allora sto chiedendo che il mio valore atteso sia proprio �

Questa cosa viene anche chiamata "non distorsione"

Se Z = (Z 1 , … , Z d ) vettore aleatorio è d-dimensionale, allora

EZ = (EZ 1 , … , EZ d )
Nel caso bidimensionale:
Z = (Z 1 , Z 2 )
T = g(Z 1 , Z 2 ) anch'esso bidimensionale
ET = E[(T 1 , T 2 )] = (ET 1 , ET 2 )
Avremo a che fare anche con stimatori distorti.
Perchè a volte non sarà possibile determinare uno stimatore corretto.
Definizione distorsione
La quantità b(T) = ET - � è denominata distorsione di T.

Ma questa grandezza non basta, tra due stimatori corretti ce n'è di molto più concentrati
sul
valore atteso.
Se il grafico è molto più "stretto" sul valor medio sarà preferibile.
Cioè quando la struttura di probabilità dello stimatore è molto concentrata intorno a �.

Perciò devo guardare anche la varianza.

E(X - EX) 2
che nel nostro caso sarà
E(T �) 2
Definizione errore quadratico medio (mean square error)
Sia T uno stimatore per il parametro �. Definiamo errore quadratico medio la quantità:
MSE(T) = E(T - �) 2
Io voglio stimare la dispersione da � dello stimatore.
Cerchiamo di decomporre il nostro errore quadratico medio.
Osservazione

MSE(T) = E(T - �) 2 = E(T - ET + ET - �) 2 =

= E(T - ET) 2 + 2(ET - �) E(T - ET) + (ET - �) 2 = E(T - ET) 2 + (ET - �) 2 =
⏠⏣⏣⏣=⏡⏣⏣⏣
0 ⏢
= VarT + [b(T)] 2
⏠⏣⏣
⏡⏣⏣
⏢ ⏠⏣⏣
⏡⏣⏣⏢
⩾0 ⩾0
Perchè questa grandezza è importante?
Se noi abbiamo un stimatore di fatto non corretto, ma molto concentrato ad un valore
abbastanza vicino al nostro parametro va comunque meglio di uno stimatore corretto, ma
pochissimo concentrato.

Per prendere in considerazione entrambe le grandezze uso, appunto, l'errore quadratico

medio.
Esempio
Sia X = (X 1 ,........., X n ) un C.C. tale che X ∼ Be(�) � ∈ [0, 1]
Considero gli stimatori:
X1 + X2 +…+ Xn
⏨n =
T1 = X
n
X1 + X2 +… Xn + 1 n 1
T2 = = ⏨
Xn +
n+2 n+2 n+2
Vogliamo capire quale dei due si comporta meglio per la stima.
Usiamo ovviamente l'errore quadratico medio:

MSE(T 1 ) = E (T 1 - �) 2 = VarT 1
⏨⏨
NB
E⏨X n = EX = �
cioè T 1 è corretto
[b(T 1 ) = 0]
Per gli stimatori corretti l'errore quadratico medio è la varianza.
1 VarX �(1 - �)
MSE(T 1 ) = E (T 1 - �) 2 = VarT 1 = 2
nVarX = =
n n n
Ho così calcolato l'errore quadratico medio del primo stimatore.
L'errore quadratico medio siccome è così definito sarà funzione di �
A questo punto
2
X1 + X2 +…+ Xn + 1
MSE(T 2 ) = E (T 2 - �) 2 = E -� =
n+2
2
X1 +…+ Xn + 1 - n� - 2�
=E =
n+2
applicando il valore atteso
nEX=n�

X1 +…+ Xn - n�
2 2 ⏜⏟⏟⏟⏟⏝⏟⏟⏟⏟
X +… X
⏞ - n�
1 - 2� 1 n 1 - 2�
=E + +2 ⋅ =
n+2 n+2 n+2 n+2
variabile aleatoria suo valore atteso
2
1 ⏜⏟⏟⏟ ⏝⏟⏟⏟ ⏞ - ⏜⏟⏟⏟ ⏝⏟⏟⏟ ⏞2 (1 - 2�)
= E X 1 +…+ X n n� + =
( n + 2) 2 ( n + 2) 2
⏠⏣⏣⏣⏣⏣⏣⏣
lo riconosciamo⏡⏣⏣⏣⏣⏣⏣⏣
come la varianza ⏢

1 (1 - 2�) 2
= Var(X1 +…+ Xn ) + =
( n + 2) 2 ( n + 2) 2
1 (1 - 2�) 2
= n�(1 - �) + , � ∈ � = (0, 1)
( n + 2) 2 ( n + 2) 2
Devo ora confrontare questi due errori quadratici medi.

MSE(T 1 ) =
MSE(T 2 ) =

0 1

Se uno dei due fosse sempre stato sopra l'altro la scelta sarebbe stata semplice, ma in
questo caso non posso scegliere né T 1 , né T 2
Devo in generale scegliere la funzione che sta più sotto (che ha l'errore quadratico medio
più
basso)

In questo caso per confrontare facciamo:

MSE(T 1 ) < MSE(T 2 )
 �(1 - �) n�(1 - �) (1 - 2�) 2
< +
n ( n + 2) 2 ( n + 2) 2
Lo risolviamo è otteniamo due radici
n
1± 1-
(2n + 1)
� 1,2 =
2
Nel caso non ci siano intersezioni è evidente che lo stimatore sarà migliore dell'altro e
basta,
ma in questo caso non posso concludere in favore di uno dei due stimatori.

Abbiamo uno strumento tecnico per dire qualcosa su stimatori differenti.

Vediamo cosa succederebbe per n molto grande:

MSE(T 1 ) =
MSE(T 2 ) =

0 1

Diventano quasi la stessa funzione.

Tutto questo discorso ci ha fatto capire che devo trovare degli stimatori con un errore
quadratico medio molto piccolo.
Quindi ora dobbiamo capire se gli stimatori che noi creiamo con i due metodi che
conosciamo abbiano o meno un piccolo errore quadratico medio.

Io posso pensare solo la classe degli stimatori corretti, sottoinsieme di tutti i possibili
stimatori per il nostro parametro � per il nostro modello statistico.
A questo punto posso valutare solo la varianza.

La prossima volta introduceremo gli stimatori corretti uniformemente a varianza minima.

Essi sono detti UMVUE.