Documenti di Didattica
Documenti di Professioni
Documenti di Cultura
q.c. e in L1 .
(1)
Teorema 1.2. Siano Xi , i 1, variabili aleatorie i.i.d. con varianza nita e sia = E(Xi ).
Posto Sn = X1 + X2 + . . . + Xn risulta, per n ,
Sn
,
n
q.c. e in L2 .
(2)
Osservazione 1.3.
1. La sigla i.i.d. signica indipendenti e identicamente distribuite.
Si richiede pertanto che le Xi siano indipendenti e abbiano tutte la stessa legge (o
distribuzione). In particolare tali variabili hanno lo stesso valore atteso e la stessa
varianza.
2. Richiedere che le Xi abbiano valore atteso nito equivale a richiedere che appartengano
a L1 ovvero che risulti E|Xi | < . Analogamente richiedere che le Xi abbiano
varianza nita equivale a richiedere che appartengano a L2 ovvero che risulti E|Xi |2 <
.
3. I teoremi enunciati prendono il nome di legge forte dei grandi numeri. Esistono numerose varianti di tali risultati. Laggettivo forte fa riferimento al fatto che la convergenza nelle formule (1) e (2) `e intesa (anche) in senso quasi certo. I risultati in cui
tale convergenza `e intesa in probabilit`a prendono il nome di leggi deboli dei grandi
numeri.
Nel seguito faremo riferimento ad altri due teoremi limite: il teorema limite centrale e
la legge del logaritmo iterato.
Teorema 1.4. (Teorema limite centrale) Siano Xi , i 1, variabili aleatorie i.i.d. con
varianza nita e indichiamo = E(Xi ), 2 = V ar(Xi ). Posto Sn = X1 + X2 + . . . + Xn
risulta, per n ,
(
)
Sn
Sn n L
Z N (0, 2 ).
n
=
n
n
Teorema 1.5. (Legge del logaritmo iterato) Siano Xi , i 1, variabili aleatorie i.i.d.
con varianza nita e E(Xi ) = 0. Indicando
2 = V ar(Xi ) supponiamo 2 > 0. Posto
2
Sn = X1 + X2 + . . . + Xn e (n) = 2 n log(log n) risulta
(
)
(
)
Sn
Sn
P lim sup
= 1 = 1,
P lim inf
= 1 = 1.
n (n)
n (n)
1
Notiamo che laermazione sul lim inf si ottiene come conseguenza di quella sul lim sup
applicata alla successione Xi , tenendo conto del fatto che risulta lim supn (an ) =
lim inf n an per ogni successione numerica an .
Notiamo anche che la tesi si pu`o scrivere nel modo seguente: per quasi ogni , scelto ad
arbitrio > 0,
1. esiste N (dipendente da e ) tale che per ogni n > N
Sn () > (1 + )(n);
Sn () < (1 + )(n),
Sn () < (1 )(n).
2.1
La legge binomiale B(n, p) `e quella di una variabile aleatoria Sn che si pu`o esprimere nella
forma Sn = X1 + X2 + . . . + Xn dove Xi sono indipendenti con legge di Bernoulli B(p)
di parametro p. Poiche = EXi = p, 2 = V ar Xi = p(1 p) segue dal teorema limite
centrale che
S np L
n
Z N (0, 1).
np(1 p)
2.2
La legge chi-quadrato 2n con n gradi di libert`a `e quella di una variabile aleatoria Sn che
si pu`o esprimere nella forma Sn = Z12 + Z22 + . . . + Zn2 dove Zi sono indipendenti con legge
N (0, 1). Poniamo Xi = Zi2 e notiamo che
= EXi = EZi2 = V ar Zi = 1,
2 = V ar Xi = V ar Zi2 = E(Zi4 ) 2 = 3 1 = 2.
Z N (0, 1).
2n
2.3
La legge t di Student con n gradi di libert`a, indicata tn , `e quella di una variabile aleatoria
Tn che si pu`o esprimere nella forma
Tn =
Z
Sn /n
q.c. e quindi Tn Z. Si conclude che la legge tn converge debolmente verso N (0, 1).
La legge forte dei grandi numeri (teorema 1.1) ammette una sorta di reciproco, e precisamente:
Teorema 3.1. Siano Xi , i 1, variabili aleatorie i.i.d. e sia Sn = X1 + X2 + . . . + Xn .
Allora se E|Xi | = (cio`e Xi
/ L1 ) risulta
)
(
Sn ()
`e convergente per n = 0.
P :
n
Non daremo la dimostrazione di questo risultato, ma ci limitiamo a osservare che il
seguente corollario `e una conseguenza immediata.
Corollario 3.2. Siano Xn , n 1, variabili aleatorie i.i.d. e sia Sn = X1 + X2 + . . . + Xn .
Allora
E|X1 | <
se e solo se
Sn
converge q.c.
n
Applicazione: la probabilit`
a come limite di frequenze
P (Xi = 0) = 1 p,
Fn (x) =
i=1
(3)
i=1
quasi certamente e in L2 , e ci`o giustica luso della funzione di ripartizione empirica per
stimare la funzione di ripartizione del campione osservato.
La conclusione ora indicata si pu`o raorzare arrivando a concludere che la convergenza
di Fn (x) verso F (x) ha luogo uniformemente rispetto a x R, nel senso precisato dal
seguente teorema.
Teorema 5.1. (Glivenko-Cantelli) Con le ipotesi e notazioni precedenti risulta, quasi certamente,
sup |Fn (x) F (x)| 0,
n .
xR
La convergenza nella formula (3) si pu`o precisare anche in un altro senso. Per questo
osserviamo che le variabili aleatorie Yi hanno in eetti legge di Bernoulli e si trova perci`o
facilmente
che 2 = V ar Yi = F (x)(1 F (x)). Per il teorema limite centrale, posto Sn =
n
i=1 Yi risulta allora, per ogni x R ssato
( n
)
1
n(Fn (x) F (x)) = n
Yi
n
i=1
(4)
(
)
(
)
Sn
L
2
= n
Z N (0, ) = N 0, F (x)(1 F (x)) .
n
i=1
1
=
(Xi X n )2 .
n1
n
Sn2
i=1
Notiamo che da qui in avanti il simbolo Sn viene usato con questo nuovo signicato, mentre
nei paragra precedenti indicava X1 + . . . + Xn .
6.1
i=1
L
n(X n ) Z N (0, 2 ).
L
n(Sn2 2 ) Z N (0, 4 4 ).
(5)
Il punto (c) si ottiene applicando il teorema limite centrale. Non riportiamo invece la
dimostrazione del punto (d).
6.2
che a sua volta segue dal fatto che limn Fn (x) = (x) per ogni x R, dal momento che
`e una funzione continua.
Per ogni (0, 1) indicheremo con z il punto percentuale di ordine della legge
N (0, 1), cio`e il numero denito dalluguaglianza P (Z > z ) = , dove Z N (0, 1). Notiamo
che risulta
P (z/2 < Z < z/2 ) = 1 .
6.2.1
Supponiamo che sia noto il valore di 2 . Fissiamo ad arbitrio (0, 1) (in pratica si sceglie
L
un valore sucientemente piccolo). Dai risultati precedenti risulta che n(X n )/
Z N (0, 1) e come osservato sopra segue che
(
)
Xn
1 = P (z/2 < Z < z/2 ) = lim P z/2 < n
z/2 ,
n
ovvero
)
(
= 1 .
lim P X n z/2 < X n + z/2
n
n
n
X n z/2 , X n + z/2
n
n
`e un intervallo di condenza asintotico di livello 1 per la media . Si usa anche scrivere
che asintoticamente con livello 1 :
= X n z/2 .
n
E ben noto che nel caso che il campione sia normale (cio`e la legge delle variabili aleatorie
Xi sia gaussiana) tale intervallo ha esattamente livello 1 per ogni valore di n.
6.2.2
Sn
L
grazie al teorema di Slutsky, dato che n(X n )/ Z N (0, 1) e /Sn 1 q.c.
Ripetendo i passaggi precedenti sostituendo con Sn si ottiene
(
)
Xn
1 = P (z/2 < Z < z/2 ) = lim P z/2 < n
z/2 ,
n
Sn
ovvero
lim P
(
)
Sn
Sn
X n z/2 < X n + z/2
= 1 .
n
n
Il procedimento illustrato nel paragrafo precedente puo essere variato a seconda del caso
specico in esame. Illustriamo a titolo di esempio il caso di un campione bernoulliano,
in cui si assume cio`e che le variabili aleatorie Xi , i 1, siano indipendenti e tutte con
legge di Bernoulli B(p) con parametro p ignoto. Risulta in questo caso = EXi = p,
2 = V ar Xi = p(1 p). Cerchiamo ancora un intervallo di condenza asintotico per la
media = p.
Per il teorema limite centrale abbiamo ancora
Xn Xn p L
n
= n
Z N (0, 1),
p(1 p)
e per la legge forte dei grandi numeri X n p q.c. Risulta allora naturale usare come
b2 :=
stimatore della varianza, invece della varianza campionaria Sn2 , la variabile aleatoria
X n (1 X n ) che converge quasi certamente verso p(1 p) = 2 (si potrebbe peraltro
dimostrare che risulta
b2 = ((n 1)/n)Sn2 quasi certamente). Allora
Xn p
p(1 p)
Xn p
L
n
= n
Z N (0, 1),
p(1 p) X (1 X )
X n (1 X n )
n
n
7
Xn p
1 = P (z/2 < Z < z/2 ) = lim P z/2 < n
z/2 ,
n
X n (1 X n )
ovvero
lim P X n z/2
X n (1 X n )
p < X n + z/2
n
X n (1 X n )
= 1 .
n
X
(1
X
)
X
(1
X
)
n
n
n
n
X n z/2
, X n + z/2
n
n
`e un intervallo di condenza asintotico di livello 1 per il parametro p. Si usa anche
scrivere che asintoticamente con livello 1 :
X n (1 X n )
.
p = X n z/2
n
Velocit`
a di convergenza e asintotica normalit`
a
vn (Tn ) T,
n .
(6)
In questa denizione T = 0 signica che T non coincide quasi certamente con la costante
nulla, cio`e P (T = 0) = 1.
P
1
L
vn (Tn ) 0 T = 0,
vn
L
n come
Allora per il teorema limite centrale X n converge verso con velocit`a n e risulta
(
)
2
.
X n AN ,
n
Esempio 7.4. La formula (4) si pu`o riscrivere pi`
u sinteticamente: per ogni x R,
)
(
F (x)(1 F (x)
.
Fn (x) AN F (x),
n
Esempio 7.5. La formula (5) si pu`o riscrivere:
(
)
4
2 4
2
Sn AN ,
.
n
Il metodo delta
di (X n ) verso
con velocit`a n: che cosa si pu`o aermare sulla velocit`a di(convergenza
)
= ()? Pi`
u precisamente avevamo provato che X n AN , 2 /n : si pu`o concludere
che (X n ) `e ancora asintoticamente normale? Quale `e la sua distribuzione asintotica?
In molti casi si pu`o dare risposta a queste domande per mezzo del teorema che segue.
Lapplicazione di questo risultato prende il nome di metodo delta. Il teorema `e formulato in
generale per una successione di variabili aleatorie Tn anche se in queste note lo applicheremo
solo al caso Tn = X n .
Teorema 8.2. Siano Tn , T variabili aleatorie reali che prendono valori in un insieme
misurabile R. Supponiamo che risulti
L
vn (Tn ) T,
n ,
vn ((Tn ) ()) () T,
dove () indica la derivata di nel punto .
9
Corollario 8.3. Supponiamo che le ipotesi del teorema valgano con vn = n e T N (0, q),
L
dove q 0. Allora n((Tn ) ()) ()T N (0, ()2 q). Se q > 0 e () = 0 si ha
pertanto
(
)
( q)
()2 q
=
(Tn ) AN (),
.
Tn AN ,
n
n
Notiamo che il corollario `e una conseguenza immediata del teorema, perche T N (0, q)
implica ()T N (0, ()2 q). Il corollario aerma che passando da Tn a (Tn ) anche
lasintotica normalit`a viene preservata, sotto opportune ipotesi.
Dimostrazione del teorema 8.2. Luguaglianza
( + h) = () + () h + R(h),
denisce una funzione R(h) per ogni h R per cui + h . Poiche `e un punto interno
di , R(h) `e denita in un intorno di 0. Poiche `e dierenziabile in , si ha R(h)/h 0
per h 0. Deniamo
R(h)
per + h , h = 0,
g(h) =
0h
per h = 0,
e deniamo g(h) = 0 anche per ogni altro valore di h. Allora per costruzione vale luguaglianza
( + h) = () + () h + h g(h),
per + h ,
dove g : R R `e una funzione misurabile, continua in h = 0.
Sostituendo h = Tn e moltiplicando per vn si ha
vn ((Tn ) ()) = () [vn (Tn )] + vn (Tn ) g(Tn ).
Notiamo che
Tn =
(7)
1
L
vn (Tn ) 0 T = 0,
vn
L
g(Tn ) g(0) = 0.
Poiche per ipotesi
vn (Tn ) T
si conclude che
vn (Tn ) g(Tn ) T 0 = 0,
per il teorema di Slutsky. Poiche la convergenza ha luogo verso una costante si ha anche
P
vn (Tn ) g(Tn ) 0.
10
(8)
Poiche inne
() [vn (Tn )] () T,
la tesi del teorema segue da (7) e (8) con unaltra applicazione del teorema di Slutsky.
Applichiamo il metodo delta nella situazione dellesempio 8.1 di cui riprendiamo ipotesi
e notazioni.
Siano Xi , i 1, variabili aleatorie i.i.d. con legge Exp(), con parametro > 0 ignoto.
Allora = EXi = 1/, 2 = V ar Xi = 1/2 . Posto pertanto (x) = 1/x approssimiamo il
bn := (X n ) = 1/X n . Abbiamo gi`a notato che
bn q.c.
valore di mediante
Per il teorema limite centrale
(
)
1
L
2
n(X n ) Z N (0, ) = N 0, 2 ,
2 1
b
n(n ) = n((X n ) ()) ()Z N 0, () 2 .
L
bn )
n(
()Z N 0, 2 .
Con dierente notazione possiamo scrivere
bn AN
(9)
)
(
2
.
,
n
bn q.c., e quindi /
bn 1 q.c., segue dal teorema di Slutsky che
Poi, ricordando che
bn
bn L
n
= n
Z N (0, 1) .
bn
bn
ovvero
bn
1 = P (z/2 < Z < z/2 ) = lim P z/2 < n
z/2
n
bn
(
)
bn
bn
bn z/2 <
bn + z/2
lim P
= 1 .
n
n
n
)
,
bn z/2 ,
bn + z/2
n
n
`e un intervallo di condenza asintotico di livello 1 per il parametro . Si usa anche
scrivere che asintoticamente con livello 1 :
bn
bn z/2
=
.
n
11