Esercitazione 3 stat - 5/05/2021

Esercizio 1 Consideriamo un campione casuale X = (X 1 ,........., X n ) estratto da una

popolazione normale inversa di parametri � e �. Determinare gli stimatori di massima
verosimiglianza per i parametri sapendo che:
1
2
� �(x - �) 2
f X (x; �, �) = exp - ⋅ 1 R+ (x) con �, � > 0
2�x 3 2� 2 x

Soluzione servono due stimatori di massima verosimiglianza

Prima di tutto scriviamo la funzione di verosimiglianza:
1
n n 2
� �(x i - �) 2
L(�, �) = ∏ f Xi (x i ; �, �) = ∏ exp - ⋅ 1 R + (x i ) =
i=1 i=1 2�x i3 2� 2 x i
Tutte queste sono valutate in punti differenti perchè sono calcolate ciascuna nella
coordinata
del campione realizzato.
n n n n
� (x i - �) 2 1
=
-
� 2 (2�) 2 exp - 2
∑ ∏ 3 2
⋅ 1 R + (x i ) =
2� i=1 xi i=1 x i

Calcoliamo la log-verosimiglianza:
n
n n � n (x i - �) 2 1
log L(�, �) = log � - log(2�) - ∑ + log ∏ ⋅ 1 R + (x i ) =
2 2 2� 2 i=1 xi i=1
3

⏠⏣⏣⏣⏣ ⏡⏣⏣⏣⏣ ⏢ x i2
portiamo dentro � 2
n 2 n
n n � 1 xi 1
= log � - log(2�) - ∑ -1 + log ∏ 3
⋅ 1 R + (x i )
2 2 2 i=1 x i � i=1
x i2
Facciamo ora la derivata rispetto ai due parametri:
n n
∂ � 1 xi xi � xi
log L(�, �) = -2 ∑ -1 - = ∑ -1 =
∂� 2 i=1 x i � �2 � 2
i=1 �
n
�
= ∑ (xi - �) = 0 (1)
� 3 i=1
Questa è la mia prima equazione.
Derivo rispetto a �
n
∂ n 1 (x i - �) 2
log L(�, �) = - ∑ =0 (2)
∂� 2� 2� 2 i=1 xi
Recuperiamo (1)
n
n
∑ (x i - �) n
�
3
∑ (xi - �) = 0 ⟺
i=1
3
= 0 ⟺ ∑ (x i - �) = 0 ⟺
� i=1 � i=1
n
n
∑ (x i - �)
⟺ ∑ x i - n� = 0 ⟺ �(x) =
i=1 (3)
= x⏨n
i=1 n
Ottenuto questo risultato per �. Prendiamo (2)
n 2
n 1 (x i - �)
- 2
∑ =0
2� 2� i=1 xi
�=�(x)=x⏨n
⟺
-1
2
n
1 xi
�=n ∑ -1 (4)
i=1 xi �
�=x⏨n
⏠⏣⏣⏣ ⏡⏣⏣⏣
sviluppiamo questo⏢

⏨⏨
NB
n 2 n 2 n
1 xi 1 xi 2x i 1 2n 1 n
∑ -1 = ∑ +1- =∑ - + ∑ xi =
i=1 xi � i=1 xi � 2 � i=1 xi x⏨n x⏨n2 i=1
�=x⏨n �=x⏨n ⏠⏣⏣
⏡⏣⏣
⏢
nx⏨n
n n
1 2n 1 1 1
=∑ - + 2
n x⏨n = ∑ -
i=1 xi x⏨n x⏨n i=1 xi x⏨n

Cioè, tornando a (4)

-1
n
1 1
�(x) = n ∑ -
i=1 xi x⏨n

Capiamo il punto (�, �) è punto di massimo?

Riprendiamo (1) e deriviamo ulteriormente
n
∂2 3� 2n� � 3 n
log L(�, �) = - ∑ x i + = - ∑ xi - 2n
∂� 2 � 4
i=1
3
� �3 � i=1
(5)
⏠⏣⏣
⏡⏣⏣
⏢
nx⏨n
quindi si
semplica con �
Similmente riprendiamo (2)
∂2 �
log L(�, �) = -
∂� 2 2� 2
Infine facciamo la derivata mista:
n
∂2 ∂2 1
log L(�, �) = log L(�, �) = 3
∑ (xi - �)
∂�∂� ∂�∂� � i=1
Abbiamo costruito la matrice hessiana e vogliamo che essa sia giusta nel nostro punto di
interesse.
Iniziamo col prendere (5) e valutiamo la derivata nel punto:(�, �)
>0
⏥
∂2 �
log L(�, �) = - n<0
∂� 2 �
3
�=�
�=� ⏦
>0
2
∂ n
log L(�, �) = - <0
∂� 2 2
�=� 2�
�=�

∂2 ∂2 1 n
log L(�, �) = log L(�, �) = ∑ (x i - x⏨n )
∂�∂�
�=�
∂�∂�
�=�
x⏨n3 i=1
�=� �=�
⏠⏣⏣⏣ ⏡⏣⏣⏣
= n x⏨n -n x⏨n = ⏢
0

Ora sono in grado di calcolare il determinante della matrice Hessiana H

∂2 ∂2
log L(�, �) log L(�, �
∂� 2 ∂�∂�
det H = det =
∂2 ∂2
log L(�, �) log L(�, �)
∂�∂� ∂� 2
∂2 ∂2
= log L( �, �) ⋅ log L(�, �) > 0
∂� 2 ∂� 2
⏠⏣⏣⏣⏣
<⏡⏣⏣⏣⏣
0 ⏢ ⏠⏣⏣⏣⏣
<⏡⏣⏣⏣⏣
0 ⏢
Ricordo che:
∂
log log L(�, �) < 0
∂2�
Quindi il primo termine e negativo con determinante positivo, perciò abbiamo un punto di
massimo relativo.
Quindi (�, �) è un punto di massimo relativo.
Allora:

� ML = ⏨
Xn
-1
n
1 1
� ML = n ∑ -
i=1 Xi ⏨
Xn
E' lo stimatore di massima verosimiglianza per (�, �).
Esercizio 2 Sia X = (X 1 ,........., X n ) campione casuale estratto da una popolazione
uniforme:
X ∼ Unif[a - b, a + b] , a, b > 0
Determinare stimatori di a e b
1 con il metodo dei momenti
2 con il metodo della massima verosimiglianza
Soluzione
1
1 1
f X ( x) = 1 [a-b,a+b] (x) = 1 [a-b,a+b] (x)
(a + b) - (a - b) 2b
Calcoliamo i momenti della popolazione:
a+b + a-b 2a
� 1 = EX = = =a
2 2
aM =⏨Xn
2 2 [(a + b) - (a - b)] 2 2 4b 2 2 b2
� 2 = EX = VarX + [EX] = +a = +a = + a2
12 12 3
Quindi:
n
b2 1
+a = 2 ∑ Xi2
3 n i=1
n
3
2
b = ∑ Xi2 - 3a 2
n i=1
a=aM
n
⏜⏟⏟
⏝⏟⏟
⏞ 3
b 1,2 = ± ⏨n2
∑ Xi2 - 3 X
n i=1
Scelgo la V.A. quasi certamente positiva:
n
3
bM = X n2
∑ Xi2 - 3 ⏨
n i=1
2
n n n
n
1 1
L(a, b) = ∏ f X1 (x i ; a, b) = ∏ 1 [a-b,a+b] (x i ) = ∏ 1 [a-b,a+b] (x i )
i=1 i=1 2b 2b i=1
⏠⏣⏣⏣ ⏡⏣⏣⏣
significa che:
⏢
a - b ⩽ min (xi )
i=1,…,n
a + b ⩾ max (xi )
i=1,…,n

Quindi sfruttiamo le relazioni che abbiamo ricavato per scrivere:

 max (x i ) ⩽ a + b ⩽ b + min (x i ) + b = 2b + min (x i )
i i i
max (x i ) ⩽ 2b + min (x i )
i i
Cioè:
max (x i ) - min (x i )
i i (6)
b⩾
2
n
1
Visto il coefficiente nella funzione di verosimiglianza sceglierò b il più piccolo
2b
possibile, ma che soddisfi (6), cioè
max (Xi ) - min (Xi )
i i
b ML =
2
Per quanto riguarda a:
max (x i ) - min (x i )
i i
a ⩽ min (x i ) + b = min (x i ) + =
i i 2
2min (x i ) + max (x i ) - min (x i ) min (x i ) - max (x i )
i i i i i
= =
2 2
max (x i ) - min (x i ) min (x i ) + max (x i )
i i i i
a ⩾ max (x i ) - b = max (x i ) - =
i i 2 2
Cioè
max (Xi ) + min (Xi )
i i
a ML =
2
Esercizio 3 Sia X = (X 1 ,........., X n ) un campione casuale con genitrice X con densità :
f X (x; �) = (5� - 1)x 5�-2 1 (0,1) (x) , � > 1
1 stimare � con il metodo dei momenti
2 stimare � con il metodo della massima verosimiglianza
Soluzione
1
1
+∞ 1 5� - 1
EX = ∫ x(5� - 1)x 5�-2
1 (0,1) (x) dx = ∫ (5� - 1)x 5�-1
dx = x 5�
=
-∞ 0 5� 0
1
= 1-
5�
⏨n
EX = X
 1
1- ⏨n
=X
5�
-1
n
1 1
�(x) = 1- ∑ xi
5 n i=1
Cioè:
1
� M = (1 - ⏨
X n ) -1
5
2
n n
L(�) = ∏ f Xi (x i ; �) = ∏ (5� - 1)x i5�-2 1 (0,1) (x i ) =
i=1 i=1
5�-2
n n
= (5� - 1) n ∏ xi ∏ 1(0,1) (xi )
i=1 i=1
n n
log L(�) = n log(5� - 1) + (5� - 2)log ∏ x i + log ∏ 1 (0,1) (x i )
i=1 i=1
n
∂ 1
log L(�) = 5n + 5∑ log x i = 0
∂� 5� - 1 i=1
⟺
n
n
= - ∑ log(x i )
5� - 1 i=1
⟺
1 n
�= - n
5
5 ∑ log(x i )
i=1
∂2 25n
log L(�) = - < 0 ∀� ∈ �
∂� 2 (5� - 1) 2
1 n
� ML = - n
5
5 ∑ log Xi
i=1