Elementi di Probabilit‡, Statistica e Processi Stocastici

Franco Flandoli 23 ottobre 2011

ii

Indice

Prefazione																																		ix
1 Elementi di Calcolo delle Probabilit‡																																		1
1.1 Eventi e loro probabilit‡				.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	2
1.1.1 Universo ed eventi elementari											.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	2
1.1.2 Eventi . . .	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	2
1.1.3 Informazione contenuta in una famiglia di eventi																																	.	3
1.1.4 Algebre di eventi				.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	5
1.1.5 -algebre di eventi					.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	6
1.1.6 Spazio probabilizzabile .								.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	7
1.1.7 Probabilit‡	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	7
1.1.8 Probabilit‡ associata ad una densit‡															.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	9
1.1.9 Probabilit‡ associata ad una densit‡ discreta																																	.	11
1.1.10 Probabilit‡ condizionale								.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	13
1.1.11 Indipendenza . . . . . . . .										.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	15
1.1.12 Formula di fattorizzazione .										.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	17
1.1.13 Formula di Bayes e formula di fattorizzazione																																	.	19
1.1.14 Calcolo combinatorico							.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	20
1.2 Variabili aleatorie e valori medi								.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	24
Introduzione 1.2.1 .			.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	24
1.2.2 V.a. continue e loro densit‡ di probabilit‡																																	.	25
V.a. discrete 1.2.3 .			.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	27
1.2.4 DeÖnizione di variabile aleatoria													.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	31
1.2.5 Legge di una					.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	33
1.2.6 Funzione di distribuzione (cdf) di una																																	.	34
1.2.7 V.A. indipendenti					.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	35
1.2.8 Vettori aleatori ed altri enti aleatori																																	.	38
1.2.9 Valori medi o attesi						.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	41
1.2.10 Valor atteso: suo calcolo con le densit‡																																	.	42
1.2.11 Alcuni esempi .			.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	46
1.2.12 Propriet‡ meno elementari del valor medio																																	.	47
1.2.13 Media di v.a. indipendenti .										.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	48
1.2.14 Disuguaglianza di Hˆlder									.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	49
1.2.15 Disuguaglianza di Jensen									.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	49

iii

iv																														INDICE
	1.2.16 Disuguaglianza di Chebyshev								.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	49
	1.2.17 Varianza e deviazione standard									.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	50
	1.2.18 Covarianza e coe¢ ciente di correlazione																														.	53
	Esempi 1.2.19 . . . . . .		.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	57
	Momenti . 1.2.20 . . . . . . .				.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	58
	1.2.21 La funzione generatrice dei momenti																														.	60
	1.2.22 DeÖnizione generale di valor medio																														.	63
	1.2.23 Propriet‡ generali		.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	64
Esempi 1.3 . . . . . . . . . .		.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	65
	1.3.1 Una propriet‡ di concentrazione delle binomiali																														.	66
	1.3.2 Sul teorema degli eventi rari per v.a. di Poisson																														.	68

• 1.3.3 IdentiÖcazione di un modello di Poisson piuttosto che di uno binomiale 68

1.3.4 Processo di Bernoulli, ricorrenze, v.a. geometriche																															.	69
1.3.5 Tempo del k-esimo evento: binomiale negativa																															.	71
1.3.6 Teoremi sulle v.a. esponenziali										.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	72
1.3.7 Propriet‡ delle gaussiane							.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	74
1.3.8 Variabili di Weibull				.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	76
Densit‡ Gamma 1.3.9 . . . . . . .									.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	78
1.3.10 Densit‡ Beta .	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	79
1.3.11 Code pesanti; distribuzione log-normale																															.	80
1.3.12 Skewness e kurtosis .				.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	81
1.4 Teoremi limite . . . .	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	82
1.4.1 Convergenze di variabili aleatorie																															.	82
1.4.2 Legge debole dei grandi numeri										.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	84
1.4.3 Legge forte dei grandi numeri									.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	87
1.4.4 Stima di Cherno§ (grandi deviazioni)																															.	88
1.4.5 Teorema limite centrale						.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	91
1.4.6 Distribuzione del limite di massimi																															.	93
1.5 Approfondimenti sui vettori aleatori																															.	96
1.5.1 Trasformazione di densit‡							.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	96
1.5.2 Trasformazione lineare dei momenti																															.	98
1.5.3 Sulle matrici di covarianza																				.	.	.	.	.	.	.	.	.	.	.	.	99
1.5.4 Vettori gaussiani		.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	103
2 Elementi di Statistica																																113
2.1 Introduzione. Stimatori		.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	113
2.2 Intervalli di conÖdenza .		.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	116
Esempio 2.2.1 . . . .	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	119
2.2.2 Soglie, ammissibili ecc.					.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	125
2.3 Test statistici . . . . .	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	127
2.3.1 Un esempio prima della teoria																			.	.	.	.	.	.	.	.	.	.	.	.	.	127
2.3.2 Calcolo analitico del p-value nel precedente test per la media .																												.	.	.	.	128
Ipotesi nulla . 2.3.3 .	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	129

2.3.4

Errori di prima e seconda specie; signiÖcativit‡ e potenza di un test .

131

INDICE

v

2.3.5 Struttura diretta della procedura di test																																.	133
2.3.6 p-value (struttura indiretta) .										.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	133
2.3.7 Test gaussiano per la media unilaterale e bilaterale, varianza nota																																.	134
2.3.8 Curve OC e DOE nei test								.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	137
2.3.9 Test di ìadattamentoî .							.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	140
3 Processi Stocastici																																	145
3.1 Processi a tempo discreto				.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	145
3.1.1 Legame tra v.a. esponenziali e di Poisson																	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	152
3.2 Processi stazionari .	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	157
3.2.1 Processi deÖniti anche per tempi negativi																	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	159
3.2.2 Serie temporli e grandezze empiriche																																.	160
3.3 Processi gaussiani . .	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	164
3.4 Un teorema ergodico	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	165
3.4.1 Tasso di convergenza .						.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	169
3.4.2 Funzione di autocorrelazione empirica																																.	170
3.5 Analisi di Fourier dei processi stocastici																																.	171
3.5.1 Premesse . .	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	171
3.5.2 Trasformata di Fourier a tempo discreto																																.	172
3.5.3 Propriet‡ della DTFT						.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	175
3.5.4 DTFT generalizzata					.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	177
3.6 Densit‡ spettrale di potenza																		.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	179
3.6.1 Esempio: il white noise							.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	180
3.6.2 Esempio: serie periodica																																.	180
3.6.3 Noise di tipo pink, brown, blue, violet																																.	181
3.6.4 Il teorema di Wiener-Khinchin											.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	182
4 Analisi e Previsione di Serie Storiche																																	189
4.1 Introduzione . . .	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	189
4.1.1 Metodi elementari				.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.	.