See discussions, stats, and author profiles for this publication at: https://www.researchgate.

net/publication/265550293

Fondamenta per la chimica analitica: Applicazioni della statistica

Chapter · January 2014

DOI: 10.13140/2.1.5081.5369

CITATIONS READS

0 515

1 author:

Michele Forina
Università degli Studi di Genova
176 PUBLICATIONS   3,201 CITATIONS   

SEE PROFILE

Some of the authors of this publication are also working on these related projects:

An alternative way to study 3-ways data View project

Developement of Machine Olfaction to Agricultural and Food Products View project

All content following this page was uploaded by Michele Forina on 11 September 2014.

The user has requested enhancement of the downloaded file.

1
 William Sealy Gosset (Student) 1876 –1937

3 – ALCUNE APPLICAZIONI DELLA STATISTICA IN CHIMICA ANALITICA

Le quantità che si misurano in Chimica Analitica sono particolari, nel senso che non hanno
distribuzione perfettamente gaussiana (le quantità chimiche non possono essere negative, ed una
distribuzione gaussiana assegna sempre una, per quanto piccola, densità di probabilità anche a
valori negativi) ed inoltre non sono perfettamente continue in quanto lo strumento di misura pone
un limite alle cifre significative con cui una data quantità può essere determinata. Quanto abbiamo
visto sulla statistica nel Capitolo 2 deve pertanto essere "adattato" alla realtà chimica, e in questo
adattamento occorre sia ricordare le peculiarità delle variabili chimiche, sia applicare il buon senso
chimico, il pragmatismo delle discipline sperimentali.

3.1 - APPLICAZIONI DELLA PROPAGAZIONE DELLE VARIANZE

La varianza di una variabile Y, funzione g(x1 ,x2 ,x3 .. xM ) di una o più variabili indipendenti X
è fornita dalla:
2 2
 δ g( x 1 , x 2 ,..)  2  δ g ( x 1 , x 2 ,..)  2 [2-29]
σ = 
2
Y  σ X1 +   σ X 2 +
 δ x 1   δ x 2 
2
 δ g ( x 1 , x 2 ,...)  2
+   σ X3 +...
 δ x 3 
2
La [2-29] si può estendere alle stime delle varianze:
2 2
 δg ( x1 , x 2 ,..)  2  δg ( x1 , x 2 ,..)  2 [3-1]
s = 
2
Y  s X1 +   s X2 +
 δ x 1   δ x 2 
2
 δ g ( x 1 , x 2 ,...)  2
+   s X3 +.....
 δx 3 
(che dovrebbero essere ottenute con eguale numero di gradi di libertà), e anche (ma con molta
cautela) ai QUADRATI delle semiampiezze degli intervalli di fiducia, le quali misurano la precisione,
o meglio la IMPRECISIONE o incertezza con cui sono note le variabili indipendenti X .
Quando si utilizza la [3-1] vi è qualche complicazione a causa del numero dei gradi di libertà
che occorre attribuire alla varianza della funzione Y, dati quelli con cui sono stati ricavate le
varianza delle variabili indipendenti X.
Abbiamo visto il caso piuttosto semplice della funzione differenza tra due medie y = m1 -
m2 che si utilizza frequentemente nei tests. La sua varianza è stimata con un numero di gradi di
libertà dato dalla:
2 2
 s12   s 22 
   
1 1  N1  1  N2 
=   +  2 2 
[2-40]
ν ν1  s12 s 22  ν2  s1 + s 2 
 N +N  N N 
 1 2   1 2 

In casi più complessi non sono reperibili formule quali la [2-40] e occorre ricorrere a simulazioni.
La applicazione della propagazione ai quadrati degli intervalli di fiducia è lecita solo se essi hanno
lo stesso livello di probabilità e se la varianza di tutte le variabili indipendenti X è stata stimata con
molte determinazioni. Un caso di applicazione grossolana ma lecita è quello in cui non si ha una
stima della varianza delle X ma solo la loro leggibilità (vedi oltre).
Le funzioni g(x1 ,x2 ,x3 .. xM ) di maggiore interesse in chimica sono molto semplici,
riconducibili a SOMME e MOLTIPLICAZIONI. Gli esempi seguenti si riferiscono appunto a questi
casi.

Caso A y = x1 + x 2

3
 2
δy  δ y
=1   =1
δ x1  δ x1 
2
δy  δy
=1   =1
δ x2  δ x2 

s2y = s2x1 + s2x 2 [3-2]

La [3-2] si legge: la varianza di y è la SOMMA delle varianze delle x. Il risultato è facilmente

estensibile alla somma di un numero qualsiasi di variabili X .

Caso B y =a x1 − b x 2
È analogo all'esempio precedente, ma le due variabili x1 e x2 sono moltiplicate per le costanti a, b
rispettivamente. Si ha:
2
δy  δ y
=a   = a
2

δ x1  δ x1 
2
δy  δy
=b   = b
2

δ x2  δ x2 
Pertanto. s2
y = a 2 s2x1 + b 2 s2x 2
Si noti che la funzione y è una differenza, ma il segno - scompare nella elevazione a quadrato, e la
varianza di y è eguale a quella che si calcolerebbe per y = a x1 + b x2 . Un caso particolare è quello
in cui una delle due costanti è nulla: p.e. la varianza di y = a x1 è s2y = a 2 s2x1 .

x1
Caso C y=
x2
2
δy 1  δ y 1
=   = 2
δ x1 x 2  δ x1  x2
2
δy x  δ y x12
= − 21   = 4
δ x2 x2  δ x2  x2
Si ha 1 x12 2 .
s = 2 s2x1 +
2
y sx
x2 x42 2
Si divida ora per x12
y = 2
2

x2

4
 s 2y
sy è la deviazione standard relativa di y. è la varianza relativa. Dalla divisione si ottiene:
y2
y
s2y s2x1 s2x 2 [3-3]
= +
y2 x12 x 22
che si enuncia: la varianza relativa della funzione è eguale alla somma delle varianze relative delle
variabili indipendenti.
Si NOTI che se x1 ha un’imprecisione relativa s x1 x 1 pari a 1% (0.01) e x2 ha una

imprecisione relativa s x2 x 2 del 10% (0.1), la imprecisione relativa di y è 0.1005 (10.05%): in

altre parole la variabile indipendente meno precisa CONDIZIONA in modo determinante la

precisione della funzione y.

La tabella seguente mostra l'effetto della differente precisione relativa delle due variabili
indipendenti sulla precisione relativa della variabile rapporto. La precisione relativa della x1 è
assunta in ogni caso eguale a 1%, ma la tabella può essere generalizzata ad ogni valore di s x 1 x 1 ,

se si suppone di riportare nella seconda colonna il rapporto tra la precisione relativa di x2 e quella
di x1 , e nella quarta colonna il rapporto tra la precisione relativa di y e quella di x1 .

s x1 s x2 s2y sy
100 100 10000 100
x1 x2 y 2 y
1.000 1.000 2.00000 1.41421
1.000 0.500 1.25000 1.11803
1.000 0.333 1.11111 1.05409
1.000 0.250 1.06250 1.03078
1.000 0.200 1.04000 1.01980
1.000 0.167 1.02778 1.01379
1.000 0.143 1.02041 1.01015
1.000 0.125 1.01563 1.00778
1.000 0.111 1.01235 1.00615
1.000 0.100 1.01000 1.00499

L'effetto della variabile meno imprecisa è già trascurabile quando la sua deviazione standard
relativa è 1/5 di quella della variabile meno precisa.

5
Caso D y= x1 x 2
2
δy  δ y
= x2   = x2
2

δ x1  δ x1 
2
δy  δ y
= x1   = x1
2

δ x2  δ x2 

s2y = x 22 s2x1 + x12 s2x 2

Anche in questo caso si divida per y 2 = x 2 x 2 .
1 2

Si ottiene:

s2y x 22 s2x1 x12 s2x2

= +
y2 x12 x 22 x12 x 22
da cui semplificando si ottiene nuovamente la [3-3], che può essere generalizzata nella seguente:
Quando una funzione è ottenuta SOLAMENTE da PRODOTTI e RAPPORTI di variabili indipendenti,
la sua VARIANZA RELATIVA è la SOMMA delle VARIANZE RELATIVE delle variabili indipendenti.
Questa legge NON è valida se la funzione y contiene una somma o una differenza, come appare
dall'esempio seguente.
Caso E y = x1 x 2 + a
L'unica variante rispetto all'esempio della moltiplicazione semplice è l'introduzione di una costante
a. Le derivate, i quadrati, e l'espressione della varianza della y sono esattamente gli stessi
dell'esempio precedente:
2
δy  δ y
= x2   = x2
2

δ x1  δ x1 
2
δy  δ y
= x1   = x1
2

δ x2  δ x2 

s2y = x 22 s2x1 + x12 s2x 2

La divisione per y 2 = x 2 x 2 + 2 a x x + a 2 porta ad una espressione non semplificabile:
1 2 1 2

s2y x 22 s2x1 x12 s2x 2

= +
y2 x12 x 22 + 2 a x1 x 2 + a 2 x12 x 22 + 2 a x1 x 2 + a 2
che tende alla [3-3] solo quando la costante a tende a 0.
La legge di propagazione delle varianze non formula ipotesi circa la distribuzione delle probabilità
delle variabili indipendenti X , ma se queste, come frequentemente accade, sono normali, NON è

6
necessariamente normale la funzione Y.
In particolare Y non è normale quando è il prodotto/rapporto di variabili normali. Nella
Figura 3-1 è riportata la distribuzione di probabilità di due variabili X e quella del loro rapporto,
evidentemente molto asimmetrica. Si noti che la prima variabile ha media 500, la seconda 25, e il
loro rapporto ha conseguentemente media 20. Tuttavia, se la deviazione standard relativa delle
variabili X è piccola, la funzione può essere considerata con distribuzione normale, e per essa è
possibile calcolare l'intervallo di fiducia applicando la distribuzione di Student. Il caso in cui la
deviazione standard relativa è grande (>5%) non ha importanza per la chimica analitica, se non in
casi molto particolari.

Figura 3-1 - Distribuzione di probabilità di due variabili normali e del loro rapporto. Scala differente
per la prima variabile.

7
 3.2 - APPREZZAMENTO

Lo strumento di misura di una quantità fisica y è caratterizzato da un limite di

(Nota 1)
apprezzamento (detto talora sensibilità ) o leggibilità, indicato frequentemente con Δy ma
che nel seguito sarà indicato con LE.
Uno strumento analogico "traduce" una quantità fisica in una lunghezza misurabile su di
una scala graduata. La più piccola graduazione può ancora essere decomposta idealmente
dall'osservatore in mezzi, quinti o decimi, ma l'occhio non può certo apprezzare centesimi di
graduazione. P.e., una buretta usuale, con cui si misura un volume di liquido sino a 50 ml, ha
graduazioni ogni 0.1 ml. L'occhio molto ben esercitato può apprezzare 1/4 di graduazione (0.025
ml). Una misura di volume esige due letture (lo zero e il volume finale) e pertanto un generico
volume è caratterizzato da un apprezzamento di 0.05 ml. Un apprezzamento di 0.1 ml può essere
considerato accettabile per un operatore medio.
Un caso diverso è quello delle determinazioni digitali, in cui l'operatore legge la grandezza
fisica su di un quadrante numerico. Se la lettura è stabile, l’ ultima cifra misura l'apprezzamento, in
questo caso indipendente dall'operatore.
L'apprezzamento può essere considerato equivalente ad un intervallo di fiducia. Con
riferimento all'esempio precedente, si può ritenere che un operatore medio possa prelevare
ripetutamente lo stesso volume nominale da una buretta con una dispersione di 0.1 ml. In questo
caso l'errore sul volume prelevato dipende solo dall'apprezzamento.
Altri fattori condizionano la accuratezza (questo termine, che approssimativamente indica
la differenza tra valore misurato e valore vero, sarà meglio definito in seguito):
- la linearità (relazione tra la graduazione e la quantità fisica);
- le modalità operative.
La linearità è una caratteristica dello strumento. Questo fornisce una lunghezza L
(strumento analogico), o un numero N (strumento digitale) che dovrebbe essere strettamente
proporzionale alla grandezza misurata. P.e., nel caso della buretta dovrebbe essere L = k V. Le
imperfezioni producono un errore di linearità (costante per un certo volume, ma variabile con il
volume), errore che peraltro dovrebbe essere inferiore all'apprezzamento. La "classe" di una
buretta dipende dalla sua linearità e da altre particolarità costruttive, quali la regolarità e lo
spessore delle tacche della graduazione.
Le modalità operative sono caratteristiche dell'operatore: sempre nel caso di una buretta è

8
critica la velocità di erogazione, che deve essere di circa 20 ml min-1 . Velocità superiori lasciano un
velo liquido sulle pareti di spessore superiore a quello previsto dal costruttore, ed il volume letto è
sistematicamente inferiore a quello reale. Tempi di erogazione molto elevati causano un errore in
senso opposto. Tenendo conto di questi fattori l'apprezzamento del volume erogato da una
buretta viene corretto ad un valore compreso tra 0.1 e 0.15 ml, in funzione della classe della
buretta e della abilità dell'operatore. Queste considerazioni sono state riferite ad un fissato
volume nominale, supposto senza errore, con la conseguenza che l'errore sul volume erogato è
dovuto solamente all'apprezzamento.
Diverso è il caso in cui la quantità fisica misurata è una variabile con possibilità di variazione
dipendente da altri fattori. P.e., nelle titolazioni il volume misurato dalla buretta non è un volume
prefissato ma quello per il quale si verifica una determinata condizione, per esempio la variazione
del colore di un indicatore.
Consideriamo ora il caso in cui uno strumento digitale con una data leggibilità LE misuri una
variabile a caso X caratterizzata da una deviazione standard σ .
La Figura 3-2 illustra il caso in cui µ(X) è esattamente eguale a 4.00000 : un valore appena
inferiore viene letto 3 dallo strumento digitale. Nel caso della Figura, σ è eguale a 2 LE. La Figura
mostra la corrispondenza tra il valore di X e il valore misurato.
P.e. I valori tra 4 + σ e 4 + 1.5 σ vengono letti (misurati) come 6.

Figura 3-2 - Leggibilità eguale a metà della deviazione standard di un segnale con distribuzione
normale; shift nullo: la media della popolazione del segnale cade esattamente tra due valori
leggibili (3 e 4).
La Figura 3-3 mostra il caso in cui σ è eguale a LE ed è sempre µ = 4.0000.
In questo caso avremo la seguente corrispondenza:
Valore di X Valore misurato
µ-4 σ ≤ x < µ - 3 σ 0
µ-3 σ ≤ x < µ - 2 σ 1

9
µ-2σ ≤ x < µ - σ 2
µ-σ≤x<µ 3
µ≤x<µ+σ 4
µ+σ≤x<µ+2σ 5
µ + 2 σ ≤ x < µ +3 σ 6
µ+3σ≤x<µ+4σ 7

Figura 3-3 - Leggibilità eguale alla deviazione standard di un segnale con distribuzione normale;
shift nullo: la media della popolazione del segnale cade esattamente tra due valori leggibili (3 e 4).

Figura 3-4 - Leggibilità eguale alla deviazione standard di un segnale con distribuzione normale;
shift eguale a metà della leggibilità: la media della popolazione del segnale cade esattamente al
centro di un valore leggibile (4).

La Figura 3-4 mostra il caso in cui σ è eguale a LE ma non è più µ = 4.0000. La differenza tra µ e 4 è
indicata come SHIFT.

10
Supponiamo ora di ripetere una serie di determinazioni di X (p.e. 10), e stimare da queste sia la
media mx che la deviazione standard s.
La Tabella 3-1 riporta i valori medi delle stime ottenuti da 10000 ripetizioni della serie: dato il
numero elevato delle ripetizioni questi valori medi dovrebbero essere (se non ci fosse l'effetto
della leggibilità) una eccellente misura dei valori veri.
I risultati nella Tabella 3-1 sono riportati come rapporto con σ o anche con LE, tranne che per lo
shift, che è espresso come ventesimi della leggibilità.
P.e., nelle prima riga della Tabella 3-1

LE/σ Shift mx / σ s2 / σ2 s/ σ s/ σ t s/√10 t s/√10

(LE/20) /LE /σ /LE
0.1 0 -0.0033 0.995 0.970 9.700 0.694 6.938
vi è il risultato quando la leggibilità è dieci volte più piccola della deviazione standard (LE = 0.1 σ):
la media stimata coincide in media praticamente con il valore vero (µ = 0), la stima della
deviazione standard è in media praticamente eguale a σ (il rapporto tra s e σ, riportato nella
quinta colonna è eguale a 0.97); l'intervallo di fiducia della media stimata con 10 determinazioni è
(sempre mediamente sulle 10000 ripetizioni della serie) molto vicino a 2.262 (valore 95% di t con 9
gradi di libertà) diviso per la radice di 10, pari a 0.715. Inoltre l'intervallo di fiducia è nettamente
maggiore (circa 7 volte, ultima colonna) della leggibilità. Pertanto in questo caso esprimere
l'intervallo di fiducia della media con i parametri statistici calcolati è lecito, in quanto la incertezza
è superiore alla leggibilità.
Se invece ci riferiamo alla linea:

LE/σ Shift mx / σ s2 / σ2 s/σ s/σ t s/√10 t s/√10

(LE/20) /LE /σ /LE
2.0 0 0.0002 1.301 1.096 0.548 0.784 0.392

(leggibilità due volte la deviazione standard, shift nullo) possiamo osservare una eccellente stima
della media, ma la deviazione standard risulta sovrastimata di un 10%, come il proporzionale
intervallo di fiducia. Ciò non sarebbe molto grave, se non fosse che l'intervallo di fiducia è meno
della metà della leggibilità (0.392, ultima colonna), per cui si avrebbe l'assurdo che l'intervallo di
fiducia che esprime la incertezza sulla determinazione sarebbe meno grande della leggibilità che
esprime la possibilità di apprezzamento.

11
 Pertanto in questo caso l'incertezza non può essere espressa mediante l'utilizzo dei parametri
statistici stimati (usualmente l’intervallo di fiducia calcolato con la statistica di Student e la
deviazione standard stimata per la media) ma deve essere espressa come ±LE.
L'analisi della linea:

LE/σ Shift mx / σ s2 / σ2 s/σ s/σ t s/√10 t s/√10

(LE/20) /LE /σ /LE

2.0 10 1.0011 1.371 1.148 0.574 0.821 0.411

che si riferisce sempre ad una leggibilità pari al doppio della deviazione standard, ma con shift
eguale a metà della leggibilità (10/20-simi, seconda colonna) mostra come, quando la leggibilità è
più grande della deviazione standard i parametri statistici sperimentali sono influenzati anche
dallo shift.
La Figura 3-5 riporta l'intervallo di fiducia medio stimato di parametri statistici in funzione del
rapporto tra leggibilità e deviazione standard della quantità misurata (shift=0): quando esso
diventa minore di 1 (unità di deviazione standard) non è più lecito utilizzare l'intervallo di fiducia
ottenuto dai parametri statistici stimati, ma occorre esprimere l'incertezza mediante la leggibilità.
L'utilizzo dei parametri statistici stimati appare lecito quando la deviazione standard è
almeno due volte la leggibilità; in pratica ciò equivale ad un intervallo di valori sperimentali pari a
6-8 volte la leggibilità.
Il termine “relativa” in Figura 3-5 indica che l’usuale semiampiezza dell’intervallo di fiducia
è stata espressa come rapporto con la leggibilità in funzione del rapporto deviazione
standard/leggibilità. Quando la semiampiezza relativa diventa minore di 1, la semiampiezza
diventa minore della leggibilità, e pertanto il suo utilizzo è illecito.

Tabella 3-1 - Influenza della leggibilità sulla stima dei parametri statistici ottenuta con 10
ripetizioni. I valori riportati per le stime sono valori medi ottenuti da 10000 ripetizioni. Il livello di
fiducia della t di Student è il 95%.
2 2
LE/σ Shift mx / σ s /σ s/ σ s/ σ t s/√10 t s/√10
(LE/20) /LE /σ /LE
0.1 0 -0.0033 0.995 0.970 9.700 0.694 6.938
0.1 1 0.0080 1.007 0.976 9.758 0.698 6.980
0.1 2 0.0114 1.002 0.973 9.735 0.696 6.963
0.1 3 0.0167 1.001 0.973 9.731 0.696 6.960
0.1 4 0.0183 1.009 0.977 9.768 0.699 6.987
0.1 5 0.0228 1.001 0.974 9.737 0.697 6.965

12
0.1 6 0.0331 1.008 0.977 9.769 0.699 6.988
0.1 7 0.0373 0.995 0.971 9.708 0.694 6.945
0.1 8 0.0393 1.001 0.973 9.727 0.696 6.958
0.1 9 0.0455 1.000 0.973 9.729 0.696 6.959
0.1 10 0.0500 1.003 0.974 9.743 0.697 6.969
0.2 0 -0.0038 0.990 0.968 4.839 0.692 3.461
0.2 1 0.0083 1.000 0.972 4.861 0.695 3.477
0.2 2 0.0235 1.007 0.976 4.880 0.698 3.491
0.2 3 0.0303 1.003 0.974 4.870 0.697 3.484
0.2 4 0.0306 0.999 0.972 4.860 0.695 3.476
0.2 5 0.0480 0.997 0.972 4.859 0.695 3.476
0.2 6 0.0576 1.003 0.974 4.872 0.697 3.485
0.2 7 0.0719 1.002 0.974 4.869 0.697 3.483
0.2 8 0.0778 1.008 0.977 4.884 0.699 3.494
0.2 9 0.0949 1.005 0.975 4.877 0.698 3.489
0.2 10 0.0982 1.001 0.974 4.868 0.696 3.482
0.3 0 -0.0065 1.010 0.977 3.256 0.699 2.329
0.3 1 0.0167 1.002 0.974 3.246 0.697 2.322
0.3 2 0.0258 1.000 0.973 3.244 0.696 2.320
0.3 3 0.0424 1.010 0.978 3.259 0.699 2.331
0.3 4 0.0620 1.013 0.979 3.264 0.700 2.334
0.3 5 0.0761 1.012 0.979 3.262 0.700 2.334
0.3 6 0.0879 1.007 0.976 3.254 0.698 2.328
0.3 7 0.1026 1.004 0.975 3.250 0.697 2.325
0.3 8 0.1229 1.009 0.978 3.258 0.699 2.331
0.3 9 0.1313 1.005 0.976 3.252 0.698 2.326
0.3 10 0.1469 1.005 0.974 3.247 0.697 2.323
0.4 0 -0.0074 1.015 0.980 2.451 0.701 1.753
0.4 1 0.0175 1.013 0.979 2.448 0.701 1.751
0.4 2 0.0364 1.003 0.974 2.435 0.697 1.742
0.4 3 0.0631 1.004 0.975 2.437 0.697 1.743
0.4 4 0.0800 1.009 0.977 2.441 0.699 1.746
0.4 5 0.0997 1.020 0.982 2.455 0.702 1.756
0.4 6 0.1239 1.011 0.978 2.444 0.699 1.748
0.4 7 0.1382 1.002 0.974 2.435 0.697 1.742
0.4 8 0.1642 1.015 0.979 2.449 0.701 1.751
0.4 9 0.1742 1.011 0.977 2.442 0.699 1.747
0.4 10 0.2002 1.008 0.976 2.441 0.698 1.746
0.5 0 0.0006 1.019 0.982 1.963 0.702 1.404
0.5 1 0.0260 1.018 0.982 1.964 0.702 1.405
0.5 2 0.0488 1.018 0.981 1.962 0.702 1.404
0.5 3 0.0707 1.020 0.982 1.964 0.702 1.405
0.5 4 0.0929 1.012 0.979 1.957 0.700 1.400
0.5 5 0.1236 1.030 0.987 1.974 0.706 1.412
0.5 6 0.1514 1.020 0.983 1.965 0.703 1.406
0.5 7 0.1727 1.024 0.984 1.968 0.704 1.408
0.5 8 0.2006 1.014 0.979 1.959 0.700 1.401
0.5 9 0.2268 1.020 0.982 1.964 0.702 1.405
0.5 10 0.2543 1.020 0.982 1.965 0.703 1.405
0.6 0 -0.0001 1.031 0.988 1.646 0.707 1.178
0.6 1 0.0267 1.035 0.989 1.649 0.708 1.179
0.6 2 0.0633 1.024 0.985 1.641 0.704 1.174
0.6 3 0.0934 1.031 0.988 1.646 0.706 1.177
0.6 4 0.1222 1.028 0.986 1.644 0.705 1.176

13
0.6 5 0.1485 1.036 0.990 1.650 0.708 1.180
0.6 6 0.1810 1.030 0.988 1.646 0.706 1.177
0.6 7 0.2100 1.029 0.987 1.645 0.706 1.177
0.6 8 0.2357 1.032 0.988 1.647 0.707 1.178
0.6 9 0.2714 1.032 0.988 1.647 0.707 1.178
0.6 10 0.2976 1.033 0.988 1.647 0.707 1.178
0.7 0 0.0018 1.034 0.990 1.414 0.708 1.011
0.7 1 0.0370 1.032 0.988 1.411 0.707 1.010
0.7 2 0.0670 1.033 0.988 1.412 0.707 1.010
0.7 3 0.1051 1.043 0.993 1.419 0.711 1.015
0.7 4 0.1393 1.039 0.991 1.416 0.709 1.013
0.7 5 0.1788 1.045 0.994 1.420 0.711 1.016
0.7 6 0.2075 1.044 0.993 1.419 0.711 1.015
0.7 7 0.2465 1.039 0.992 1.418 0.710 1.014
0.7 8 0.2785 1.035 0.990 1.414 0.708 1.011
0.7 9 0.3138 1.033 0.988 1.412 0.707 1.010
0.7 10 0.3444 1.039 0.991 1.416 0.709 1.013
0.8 0 0.0034 1.051 0.997 1.246 0.713 0.892
0.8 1 0.0463 1.057 1.002 1.252 0.716 0.895
0.8 2 0.0824 1.050 0.997 1.246 0.713 0.891
0.8 3 0.1196 1.053 0.999 1.248 0.714 0.893
0.8 4 0.1647 1.049 0.996 1.245 0.713 0.891
0.8 5 0.2008 1.054 0.999 1.249 0.715 0.893
0.8 6 0.2445 1.058 1.000 1.250 0.716 0.894
0.8 7 0.2817 1.046 0.995 1.244 0.712 0.890
0.8 8 0.3209 1.051 0.998 1.247 0.714 0.892
0.8 9 0.3567 1.050 0.997 1.246 0.713 0.892
0.8 10 0.4031 1.055 0.999 1.248 0.714 0.893
0.9 0 -0.0004 1.063 1.003 1.115 0.718 0.797
0.9 1 0.0473 1.066 1.004 1.115 0.718 0.798
0.9 2 0.0943 1.058 1.001 1.112 0.716 0.796
0.9 3 0.1318 1.068 1.005 1.117 0.719 0.799
0.9 4 0.1773 1.069 1.005 1.117 0.719 0.799
0.9 5 0.2230 1.057 1.000 1.111 0.715 0.795
0.9 6 0.2698 1.072 1.007 1.119 0.720 0.801
0.9 7 0.3164 1.077 1.010 1.122 0.722 0.803
0.9 8 0.3577 1.070 1.006 1.118 0.720 0.800
0.9 9 0.4030 1.059 1.000 1.112 0.716 0.795
0.9 10 0.4495 1.069 1.005 1.117 0.719 0.799
1.0 0 0.0053 1.082 1.012 1.012 0.724 0.724
1.0 1 0.0473 1.081 1.011 1.011 0.723 0.723
1.0 2 0.1008 1.090 1.016 1.016 0.727 0.727
1.0 3 0.1503 1.078 1.010 1.010 0.722 0.722
1.0 4 0.1979 1.085 1.013 1.013 0.725 0.725
1.0 5 0.2473 1.075 1.009 1.009 0.722 0.722
1.0 6 0.2961 1.087 1.014 1.014 0.726 0.726
1.0 7 0.3517 1.090 1.016 1.016 0.727 0.727
1.0 8 0.3984 1.088 1.015 1.015 0.726 0.726
1.0 9 0.4512 1.082 1.012 1.012 0.724 0.724
1.0 10 0.4986 1.084 1.012 1.012 0.724 0.724
1.25 0 0.0079 1.125 1.031 0.825 0.737 0.590
1.25 1 0.0597 1.134 1.036 0.829 0.741 0.593
1.25 2 0.1268 1.132 1.034 0.828 0.740 0.592
1.25 3 0.1855 1.135 1.036 0.829 0.741 0.593

14
1.25 4 0.2522 1.129 1.034 0.827 0.739 0.592
1.25 5 0.3166 1.134 1.036 0.829 0.741 0.593
1.25 6 0.3695 1.133 1.036 0.829 0.741 0.593
1.25 7 0.4411 1.119 1.029 0.823 0.736 0.589
1.25 8 0.5006 1.125 1.031 0.825 0.738 0.590
1.25 9 0.5664 1.127 1.033 0.826 0.739 0.591
1.25 10 0.6234 1.130 1.035 0.828 0.740 0.592
1.5 0 0.0024 1.187 1.059 0.706 0.757 0.505
1.5 1 0.0731 1.184 1.058 0.705 0.757 0.505
1.5 2 0.1502 1.193 1.061 0.708 0.759 0.506
1.5 3 0.2221 1.189 1.060 0.707 0.758 0.506
1.5 4 0.2968 1.187 1.059 0.706 0.757 0.505
1.5 5 0.3788 1.191 1.061 0.707 0.759 0.506
1.5 6 0.4568 1.183 1.058 0.705 0.757 0.504
1.5 7 0.5209 1.189 1.061 0.707 0.759 0.506
1.5 8 0.6006 1.179 1.057 0.705 0.756 0.504
1.5 9 0.6767 1.192 1.063 0.709 0.760 0.507
1.5 10 0.7493 1.194 1.064 0.709 0.761 0.507
2.0 0 0.0002 1.301 1.096 0.548 0.784 0.392
2.0 1 0.1004 1.291 1.091 0.545 0.780 0.390
2.0 2 0.1990 1.302 1.097 0.549 0.785 0.392
2.0 3 0.2958 1.324 1.110 0.555 0.794 0.397
2.0 4 0.3970 1.330 1.116 0.558 0.798 0.399
2.0 5 0.4976 1.326 1.117 0.559 0.799 0.400
2.0 6 0.5987 1.327 1.121 0.560 0.802 0.401
2.0 7 0.6976 1.348 1.135 0.567 0.812 0.406
2.0 8 0.7964 1.354 1.139 0.569 0.814 0.407
2.0 9 0.9007 1.357 1.141 0.571 0.816 0.408
2.0 10 1.0011 1.371 1.148 0.574 0.821 0.411
2.5 0 -0.0016 1.316 1.056 0.422 0.756 0.302
2.5 1 0.1204 1.331 1.065 0.426 0.762 0.305
2.5 2 0.2337 1.356 1.086 0.434 0.777 0.311
2.5 3 0.3498 1.410 1.119 0.448 0.801 0.320
2.5 4 0.4683 1.445 1.145 0.458 0.819 0.328
2.5 5 0.5962 1.539 1.196 0.479 0.856 0.342
2.5 6 0.7113 1.587 1.226 0.490 0.877 0.351
2.5 7 0.8486 1.632 1.255 0.502 0.897 0.359
2.5 8 0.9825 1.690 1.282 0.513 0.917 0.367
2.5 9 1.1154 1.698 1.289 0.516 0.922 0.369
2.5 10 1.2505 1.707 1.294 0.517 0.925 0.370
3.0 0 -0.0046 1.189 0.923 0.308 0.660 0.220
3.0 1 0.1158 1.228 0.946 0.315 0.677 0.226
3.0 2 0.2425 1.320 1.003 0.334 0.717 0.239
3.0 3 0.3677 1.419 1.070 0.357 0.766 0.255
3.0 4 0.4991 1.572 1.159 0.386 0.829 0.276
3.0 5 0.6529 1.750 1.255 0.418 0.898 0.299
3.0 6 0.8010 1.900 1.335 0.445 0.955 0.318
3.0 7 0.9579 2.059 1.406 0.469 1.006 0.335
3.0 8 1.1265 2.186 1.461 0.487 1.045 0.348
3.0 9 1.3176 2.265 1.495 0.498 1.070 0.357
3.0 10 1.5023 2.292 1.506 0.502 1.077 0.359
4.0 0 -0.0059 0.739 0.518 0.130 0.371 0.093
4.0 1 0.0873 0.786 0.553 0.138 0.395 0.099
4.0 2 0.1845 0.960 0.661 0.165 0.473 0.118

15
4.0 3 0.3035 1.257 0.845 0.211 0.605 0.151
4.0 4 0.4523 1.684 1.079 0.270 0.772 0.193
4.0 5 0.6268 2.153 1.309 0.327 0.936 0.234
4.0 6 0.8409 2.684 1.538 0.385 1.100 0.275
4.0 7 1.0781 3.169 1.722 0.431 1.232 0.308
4.0 8 1.3770 3.612 1.871 0.468 1.339 0.335
4.0 9 1.6786 3.908 1.964 0.491 1.405 0.351
4.0 10 2.0073 4.005 1.993 0.498 1.425 0.356
5.0 0 -0.0027 0.305 0.187 0.037 0.134 0.027
5.0 1 0.0445 0.382 0.233 0.047 0.167 0.033
5.0 2 0.1067 0.595 0.357 0.071 0.255 0.051
5.0 3 0.1969 0.972 0.568 0.114 0.407 0.081
5.0 4 0.3352 1.567 0.870 0.174 0.622 0.124
5.0 5 0.5211 2.339 1.233 0.247 0.882 0.176
5.0 6 0.7871 3.321 1.622 0.324 1.160 0.232
5.0 7 1.1368 4.395 1.987 0.397 1.422 0.284
5.0 8 1.5393 5.333 2.258 0.452 1.615 0.323
5.0 9 2.0041 6.011 2.432 0.486 1.740 0.348
5.0 10 2.5024 6.255 2.491 0.498 1.782 0.356
7.5 0 0.0002 0.012 0.005 0.001 0.004 0.000
7.5 1 0.0032 0.028 0.012 0.002 0.008 0.001
7.5 2 0.0104 0.078 0.033 0.004 0.023 0.003
7.5 3 0.0331 0.247 0.103 0.014 0.074 0.010
7.5 4 0.0889 0.659 0.272 0.036 0.194 0.026
7.5 5 0.2268 1.648 0.654 0.087 0.468 0.062
7.5 6 0.5005 3.494 1.297 0.173 0.928 0.124
7.5 7 0.9659 6.319 2.143 0.286 1.533 0.204
7.5 8 1.7083 9.902 2.985 0.398 2.135 0.285
7.5 9 2.6623 12.886 3.544 0.473 2.535 0.338
7.5 10 3.7360 14.067 3.735 0.498 2.672 0.356
10.0 0 0.0000 0.000 0.000 0.000 0.000 0.000
10.0 1 0.0000 0.000 0.000 0.000 0.000 0.000
10.0 2 0.0004 0.004 0.001 0.000 0.001 0.000
10.0 3 0.0026 0.026 0.008 0.001 0.006 0.001
10.0 4 0.0131 0.131 0.041 0.004 0.029 0.003
10.0 5 0.0588 0.585 0.183 0.018 0.131 0.013
10.0 6 0.2311 2.253 0.679 0.068 0.485 0.049
10.0 7 0.6739 6.291 1.759 0.176 1.258 0.126
10.0 8 1.5984 13.432 3.276 0.328 2.343 0.234
10.0 9 3.0773 21.253 4.509 0.451 3.225 0.323
10.0 10 4.9785 24.990 4.977 0.498 3.560 0.356

16
Figura 3-5 - Semiampiezza media relativa dell’intervallo di fiducia stimata dai parametri statistici.

3.3 - CIFRE SIGNIFICATIVE

La precisione (intervallo di fiducia o leggibilità) con cui corrediamo una qualunque variabile
limita il numero delle cifre necessarie per esprimere il risultato.
Supponiamo che si siano ottenuti per la stima della media di una quantità q il valore
0.12345 e per l'intervallo di fiducia la semiampiezza 0.00252 (a livello di fiducia 95%). Il valore di µ
(media della popolazione, che in assenza di errori sistematici coincide con il valore "vero" qv) è
compreso con una probabilità 95% tra 0.12093 e 0.12597.
La terza cifra decimale è incerta: essa è pertanto l'ultima cifra significativa, ed il valore
risultante dalla determinazione verrà espresso come:
qv = 0.123 ± 0.003 ( p = 95%)

La approssimazione risulta dalla seguente operazione, che è quella mediante la quale i calcolatori
eseguono la operazione di arrotondamento:

17
a) Si somma al numero da arrotondare un 5 a livello della prima cifra non significativa:
ultima cifra significativa prima cifra NON significatica

0 . 1 2 3 4 5
+ 0 . 0 0 0 5
= 0 . 1 2 3 9 5
b) Si tronca, lasciando solamente la cifra ottenuta nell'ultima posizione significativa, che
nell'esempio precedente è 3. Si ottiene per la media il valore 0.123.
c) Lo stesso addendo utilizzato per arrotondare la media viene aggiunto alla semiampiezza
dell'intervallo di fiducia:
0.00252
+ 0.0005
= 0.00302
che viene troncato a 0.003.

Il risultato viene pertanto espresso come:

qv = 0.123 ± 0.003

Quando una quantità deve essere utilizzata in calcoli successivi (p.e. quelli necessari per la
propagazione della varianza) è consigliabile AGGIUNGERE una cifra oltre l'ultima significativa,
rispettando le regole dell'arrotondamento. Nel nostro esempio useremo per i calcoli i valori
0.1235 (media) e 0.0025 (semiampiezza dell'intervallo di fiducia).
Talora è opportuno aggiungere una cifra oltre l'ultima significativa per evitare un eccessivo
arrotondamento dell'incertezza: per esempio se i calcoli hanno fornito 0.12345 per la media e
0.0006 per la semiampiezza dell'intervallo, µ è compresa tra 0.12285 e 0.12405. L'ultima cifra
significativa è sempre la terza decimale, per cui si potrebbe esprimere il risultato come 0.123 ±
0.001, da cui appare una incertezza circa doppia di quella calcolata. L'espressione 0.1235 ± 0.0006
appare in questo caso più corretta.

18
3.4 - ULTERIORI CONSIDERAZIONI SUL TEST Q
La ricerca dei valori anomali viene effettuata mediante il test Q o test di Dixon, (R. B. Dean and W. J.
Dixon (Anal.Chem., 23, 636–638 (1951)) e la relativa tabella dei valori critici.

Il test si applica a dati con distribuzione normale.

Nella tabella si entra dopo aver ordinato gli N risultati in ordine crescente:
x1 x2 ..... xN-1 xN
L'intervallo dei risultati è r = xN - x1 , e il test Q viene effettuato ai due estremi dei dati ordinati:
x 2 − x1 x N − x N −1
Q1 = QN =
r r
È evidente che un semplice sguardo ai dati ordinati permette di rilevare se il dato sospettato di
essere anomalo è il più piccolo, x1, o il più grande, xN, e quindi di decidere se effettuare il test con
Q1 o con QN : infatti il test può rilevare un solo valore anomalo.
La probabilità di fiducia p1 ottenuta dalla probabilità di significato α/2 della Tabella 3.2 è la
probabilità che uno dei due valori di Q (p.e. Q1 ) abbia un valore minore del valore critico utilizzato
per il test, quando i risultati provengono dalla stessa popolazione (e quindi non vi sono outliers):
α/2 è pertanto una probabilità di significato riferita ad un evento singolo, evento Q1.> Qp oppure
evento QN > Qp.

Tabella 3-2- Valori critici Qp per il test Q

α/2 0.1 0.05 0.025 0.02 0.0125 0.01 0.005 0.0025
α 0.2 0.1 0.05 0.04 0.025 0.02 0.01 0.005
N
3 0.886 0.941 0.970 0.976 0.985 0.988 0.994 0.997
4 0.678 0.764 0.829 0.847 0.877 0.889 0.920 0.943
5 0.558 0.642 0.710 0.729 0.767 0.783 0.825 0.860
6 0.484 0.563 0.629 0.648 0.685 0.700 0.745 0.785
7 0.434 0.507 0.568 0.586 0.620 0.636 0.679 0.717
8 0.398 0.467 0.527 0.544 0.577 0.591 0.634 0.670
9 0.370 0.435 0.490 0.506 0.536 0.550 0.592 0.630
10 0.349 0.412 0.467 0.483 0.515 0.529 0.568 0.601
11 0.330 0.392 0.444 0.459 0.490 0.504 0.542 0.576
12 0.316 0.376 0.425 0.441 0.471 0.484 0.521 0.554
13 0.304 0.360 0.408 0.423 0.453 0.465 0.502 0.533
14 0.293 0.349 0.397 0.411 0.440 0.453 0.489 0.520
15 0.284 0.339 0.385 0.399 0.425 0.438 0.473 0.507
16 0.275 0.329 0.374 0.387 0.414 0.427 0.462 0.493
17 0.268 0.321 0.365 0.379 0.405 0.417 0.449 0.480
18 0.262 0.313 0.356 0.369 0.395 0.407 0.441 0.472
19
19 0.255 0.307 0.350 0.364 0.390 0.402 0.434 0.465
20 0.251 0.300 0.343 0.355 0.381 0.392 0.426 0.456
21 0.245 0.295 0.336 0.348 0.373 0.384 0.414 0.443
22 0.242 0.290 0.331 0.343 0.366 0.377 0.410 0.439
23 0.237 0.285 0.326 0.338 0.363 0.374 0.405 0.434
24 0.233 0.280 0.320 0.333 0.356 0.366 0.398 0.426
25 0.228 0.276 0.316 0.327 0.350 0.361 0.391 0.419
26 0.226 0.272 0.311 0.323 0.347 0.357 0.389 0.418
27 0.223 0.269 0.308 0.320 0.343 0.354 0.384 0.412
28 0.219 0.265 0.305 0.317 0.339 0.348 0.378 0.406
29 0.217 0.263 0.302 0.313 0.336 0.346 0.377 0.404
30 0.215 0.260 0.298 0.309 0.332 0.342 0.371 0.396

P.e., vi è la probabilità 95% che, avendo campionato 5 risultati senza commettere errori
grossolani, Q1 sia inferiore a 0.642. Vi è la stessa probabilità che Q5 sia inferiore a 0.642. Vi è la
probabilità α/2 (5%) che Q1 sia maggiore di 0.642. Vi è la stessa probabilità che Q5 sia superiore a
0.642.
Poiché, per ogni insieme di N risultati, avremo due valori Q1 e QN , la probabilità α che o Q1
o QN siano superiori al valore critico si ottiene dalla regola per gli eventi somma (OR) [3-4 e 3-5]:
p(Q1 > Q p or Q N > Q p ) = [3-4]
= p(Q1 > Q p ) + p(Q N > Q p ) − p(Q1 > Q p and Q N > Q p )
La probabilità dell'evento prodotto (AND) p(Q1 > Qp and Q N > Qp ) è NULLA quando Qp > 0.5.

Si consideri infatti un esempio con N = 3:

1 2 3

r
x2 - x1

x3 - x2

Figura 3-6 – Il test Q

Osservando la figura 3-6 appare evidente che non può essere contemporaneamente
x2 -x1 > 0.5 r e x N - xN-1 > 0.5 r.
Quando è Qp ≤ 0.5, allora la probabilità dell'evento prodotto p (Q1 > Q p and Q N > Q p ) non è

20
nulla, ma essa è comunque così piccola che può essere trascurata.
La seguente tabella3-3 riporta i soli casi in cui questa probabilità è superiore a 0.00001
(0.001%): solo per N≥10 e per p=0.8 la probabilità p (Q1 > Q p and Q N > Q p ) supera, e di poco,

l'un per mille: in ogni caso essa è trascurabile.

Tabella 3.3 – Probabilità dell’evento prodotto p (Q1 > Q p and Q N > Q p )

α 0.20 0.10
N
7 0.0002 0
8 0.0005 0.00001
9 0.0007 0.00001
10 0.0010 0.00002
11 0.0011 0.00003
12 0.0013 0.00005
13 0.0016 0.00006
14 0.0017 0.00007
15 0.0018 0.00010
16 0.0020 0.00012
17 0.0021 0.00015
18 0.0022 0.00016
19 0.0024 0.00017
20 0.0025 0.00017
21 0.0025 0.00017
22 0.0026 0.00019
23 0.0027 0.00020
24 0.0027 0.00022
25 0.0028 0.00022
26 0.0030 0.00024
27 0.0031 0.00026
28 0.0031 0.00028
29 0.0032 0.00029
30 0.00325 0.00030

Pertanto la [3-4] può essere in pratica riscritta come:

p(Q1 > Qp or QN > Qp ) = p(Q1 > Qp ) + p(QN > Qp ) [3-5]

Poiché un dato viene considerato anomalo sia se esso è significativamente troppo piccolo
che troppo grande, e quindi il test riguarda DUE eventi possibili, per effettuare il test a livello di
significato del 5%, occorre riferirsi alla colonna con α = 0.05 (5%) della Tabella 3-2.

21
 Si noti che se il maggiore dei valori di Q (Q1 o QN ) è inferiore o eguale alla leggibilità il dato
relativo non può essere anomalo: pertanto in questo caso non si effettua il test Q.

3.5 - RELAZIONE SU DI UNA ESERCITAZIONE IN LABORATORIO

L'esercitazione esempio consiste nella determinazione della quantità di un acido in una

miscela solida, preceduta dalla standardizzazione della base forte che verrà utilizzata nella
titolazione della soluzione acida.
Il procedimento è quindi decomponibile in due fasi:
A) Standardizzazione della soluzione di NaOH
B) Titolazione della soluzione acida con NaOH

La standardizzazione della soluzione di NaOH comprende:

A1) Preparazione di una soluzione di NaOH approssimativamente 0.1 M. Per preparare un volume
V di NaOH 0.1 M si pesano alcuni grammi di NaOH in pastiglie e si porta a volume in pallone tarato
da V litri (di regola V = 0.25 l, duecentocinquanta millilitri, e i grammi pesati sono circa 10) (Nota 2).
A2) Calcolo della quantità dello standard primario (lo ftalato acido di potassio) da usare per ogni
titolazione. P.e., se si desidera che il volume della soluzione di NaOH approssimativamente 0.1 M
da usare in una titolazione sia circa 30 ml, essendo 204.233 il peso molecolare (che è anche il peso
equivalente in una reazione acido-base) dello ftalato, occorrerà pesare
0.1 30 10-3 204.233 = 0.6 g
normalità volume (litri) peso equivalente grammi da pesare
Ogni titolazione viene effettuata con una quantità di ftalato vicina a quella calcolata,
generalmente entro ± 20% (nell'esempio si peseranno da 0.48 a 0.72 g, corrispondenti ad un
volume di NaOH da 24 a 36 ml)

A3) Esecuzione di N1 titolazioni di ftalato con NaOH.

Si eseguono generalmente una o due titolazioni preliminari, per addestramento. Quindi si
effettuano N1 titolazioni in condizioni che si assumono omogenee (si rammenti che la percezione
di eventuali errori grossolani comporta la non considerazione del risultato relativo).
Dalla i-esima titolazione si ricava il valore Mi della normalità (o molarità) della soluzione di
NaOH mediante la:

22
 mi [3-6]
Mi =
204.233 Vi
dove mi è il numero di grammi di ftalato pesato, e Vi è il volume della soluzione di NaOH utilizzato
per raggiungere il punto di equivalenza.
Talora, quando lo standard primario non ha una purezza praticamente eguale al 100%, si
introduce un fattore di purezza, fp , che è la percentuale dello ftalato di K nel prodotto
commerciale, raramente inferiore a 0.99%, e fornita dal produttore con un errore inferiore a
0.001% (la incertezza relativa è pertanto di circa 0.1%). La [3-6] diventa in questo caso:

mi fp [3-7]
Mi =
204.233 Vi
Gli N1 valori Mi costituiscono un campione statistico. Su di essi si effettua un test per la
eventuale eliminazione di valori anomali.
È bene ricordare che i test usuali, quale il test Q, si applicano per la ricerca di UN SOLO valore
anomalo. Inoltre qualora lo sperimentatore ravvisi errori grossolani nella procedura, la ripetizione
deve essere scartata, senza neanche calcolare il valore di M , in quanto sicuramente non proviene
dalla stessa popolazione delle altre ripetizioni effettuate correttamente.
Si analizzi la [3-7] mediante le risultanze della propagazione delle varianze.
mi si determina per pesata, con una imprecisione (semiampiezza dell'intervallo di fiducia, detta
anche INCERTEZZA) che non dovrebbe essere superiore a 0.1 mg, pari ad una imprecisione relativa
di 0.1 mg / 600 mg = 0.0002 = 0.02% (la imprecisione relativa è stata riferita ad una pesata media
di 600 mg).
fp ha una incertezza relativa di 0.1%.
Vi comprende la incertezza della lettura del volume erogato dalla buretta (0.1-0.15 ml, pari a 0.3-
0.5%) e quella della valutazione del punto di equivalenza (Nota 3).
La deviazione standard relativa di Vi è critica: per la regola della propagazione delle varianze per
prodotti o rapporti [3-3] applicata alle incertezze relative (al quadrato) risulta infatti che la
incertezza relativa di Mi dovrebbe essere 0.51% se quella sul volume è lo 0.50%. Pertanto le
incertezze relative di mi e di fp danno all'incertezza totale un contributo trascurabile.
Determinando sM (stima della deviazione standard della molarità della soluzione di NaOH)
dal campione degli N1 valori di Mi , può accadere di ottenere un valore di incertezza relativa

23
 t p s M (tp è il valore 95% della t di Student, sM/√N1 è la stima della deviazione standard della
N1 M
media e M è la media dei valori Mi ) minore di 0.5%. Le informazioni sulla leggibilità della buretta
ci obbligano in questo caso a sostituire la incertezza relativa calcolata dagli N1 valori di Mi con
quella (0.3-0.5%) che deriva dalla leggibilità del volume (LE%).
Al termine di queste operazioni si dispone di un valore della normalità M con il suo intervallo di
fiducia:
t p sM molare (p%) [3-8a]
M= M±
N1
oppure
M molare (p%) [3-8b]
M= M± LE%
100

La imprecisione relativa di M risulta:

t p sM [3-9]
∆RM = se è > LE%
N1 M
La imprecisione percentuale si ricava dalla relativa moltiplicata per cento.
La soluzione di NaOH è stata standardizzata.
La titolazione della soluzione acida comprende le seguenti operazioni:
B1) Dissoluzione del campione in matraccio tarato di volume V2 (p.e., 100 ml). La quantità Q
(equivalenti acido base) di acido nel campione è la quantità chimica incognita che si vuole
determinare.
B2) Esecuzione di N2 titolazioni di soluzione acida con la soluzione standard di NaOH.
Per ogni titolazione un volume V3 costante (p.e. 20 ml) di soluzione acida viene prelevato dal
matraccio tarato con una pipetta. La soluzione acida viene trasferita in una beuta. Si titola con un
volume Vj di soluzione di NaOH.
Si scarta UN eventuale dato anomalo (test Q).
Se il numero delle titolazioni valide è minore di 3, è consigliabile procedere ad una nuova
determinazione. Il numero finale delle titolazioni valide N2 sarà quindi almeno 3. Il numero
massimo è regolato dal rapporto V2 /V3 .
Dal campione statistico delle N2 quantità Vj si calcolano il valore medio V e la deviazione standard

24
sV . La imprecisione relativa t 'p sV (t'p è il valore 95% della t di Student con N2 -1 gradi di libertà,
N2 V
sV /√N2 è la deviazione standard della media) dovrebbe essere compresa tra 0.3 e 0.5%, a causa
dell'apprezzamento del volume sulla scala graduata della buretta. Se la imprecisione calcolata
dagli N2 valori di Vj risultasse inferiore, la si deve adeguare all'apprezzamento.

Eseguite queste operazioni si dispone di un valore del volume di NaOH equivalente all'acido
contenuto nel volume V3 , con il suo intervallo di fiducia:

t 'p s V
V= V± ml (p%) [3.10]
N2

La imprecisione relativa di V risulta:

t 'p s V
∆RV = seè > LE% [3-11]
N2 V

Finalmente, la quantità di acido (numero di equivalenti acido-base) contenuta in V3 (volume di

soluzione acida utilizzato nelle titolazioni) è data dalla:
q= V M [3-12]
con M, normalità della soluzione di NaOH, data dalla [3-8].
La quantità totale Q nel campione è data da:
V2 V
Q= q =VM 2 [3-13]
V3 V3

La regola della propagazione delle varianze viene applicata alla [3-13] utilizzando gli
intervalli di fiducia relativi (si rammentino i problemi posti da diversi gradi di libertà, problemi che
in questo caso vengono trascurati, in quanto frequentemente le imprecisioni sono determinate
dalle leggibilità) e si ricava che la imprecisione su Q è data da:

∆RQ = (∆ ) + (∆ ) + (∆ ) + (∆ )
R 2
V
R 2
M
R 2
V2
R 2
V3 |

Le imprecisioni relative sul volume del matraccio tarato e sul volume della pipetta) sono
nettamente minori degli altri due termini, e pertanto la imprecisione relativa può essere calcolata
mediante la:

∆RQ = ∆RV( ) + (∆ )
2 R 2
M [3-14]

25
3.6 - ESEMPIO NUMERICO

È riportato un esempio di relazione relativa ad una determinazione nel laboratorio di analisi

quantitativa. I commenti in caratteri normali si intendono scritti dallo studente che scrive la
relazione, quelli in corsivo sono commenti che danno spiegazioni aggiuntive.

DETERMINAZIONE DELLA QUANTITÀ (mg) DI ACIDO OSSALICO BIIDRATO

Relazione di ........... .............

1) Standardizzazione della soluzione di NaOH: Titolazioni

Titolazione Peso ftalato Volume NaOH Normalità

mg ml
1 584.2 32.4 0.08784
2 698.3 34.35 0.09904
3 642.4 30.1 0.10398
4 594.2 28.125 0.10293
5 661.0 31.25 0.10305
6 642.7 30.1 0.10403

Lo studente apprezza 1/4 di graduazione sulla buretta. Le cifre con cui esprime il volume e la
normalità non sono tutte significative: i dati sono quelli utilizzati nei calcoli.

Commento: La titolazione n.1 è una titolazione di prova e non è stata considerata nei calcoli. Le
normalità calcolate sono state ordinate, ottenendo:
0.09904 0.10293 0.10305 0.10398 0.10403
Sospettando la presenza di un dato anomalo, il primo, è stato calcolato il valore Q1 per il test Q.
Si è ottenuto Q1 = 0.780.
Il valore critico Qp per 5 determinazioni è 0.709 a livello di significato 5% (evento combinato OR), e
con significato per l'evento semplice (evento Q1.> Qp oppure evento QN > Qp) quello riportato nella
Tabella 3-2, di 2.5%.
26
Pertanto il dato ottenuto nella seconda titolazione viene scartato.

2) Calcolo dei parametri statistici

Sono stati considerati i valori di normalità:

0.10293 0.10305 0.10398 0.10403
ottenendo
M = 0.103495 media dei 4 valori
s = 0.00059 deviazione standard
sm = 0.00029 deviazione stand. della media
t (95%) = 3.182 valore 95% della t di Student con 3 d.o.f.
Imprecisione ∆M (95%) = 0.00093
Imprecisione percentuale 100 ∆M/M = 0.90%
Risultato M = 0.1035 ± 0.0009 moli/litro (95%)
(Preferibile a M = 0.103 ± 0.001 %)
Commento: La incertezza è superiore a quella usuale per una titolazione di questo tipo. Pertanto si
è ritenuta opportuna una ulteriore determinazione.
3) Ulteriore(i) Titolazione(i)

Titolazione Peso ftalato Volume NaOH Normalità

mg ml
7 690.5 32.675 0.10295

Commento: dopo la settima titolazione, avendo scartato la prima titolazione in quanto titolazione
di prova e la seconda in quanto anomala al test Q, rimangono utilizzabili i seguenti dati di
normalità:
0.10293 0.10295 0.10305 0.10398 0.10403
Non sono rilevabili valori anomali.
I 5 dati vengono utilizzati per il ricalcolo dei parametri statistici.

4) Ricalcolo dei parametri statistici

M = 0.10339 media dei 5 valori
27
s = 0.00056 deviazione standard
sm = 0.00025 deviazione stand. della media
t (95%) = 2.776 valore 95% della t di Student con 4 d.o.f.
Imprecisione ∆M (95%) = 0.00070
Imprecisione percentuale 100 ∆M/M = 0.68%

Risultato M = 0.1034 ± 0.0007 moli/litro (95%)

(Preferibile a M = 0.103 ± 0.001 %)

5) Titolazione di aliquote di 20 ml della soluzione acida

Aliquota Volume NaOH (ml)
1 26.35
2 26.40
3 26.325
Lo studente non commenta in quanto non riscontra valori anomali

6) Calcolo dei parametri statistici per il volume

V = 26.358 media dei 3 valori

s = 0.038 deviazione standard
sm = 0.022 deviazione stand. della media
t (95%) = 4.303 valore 95% della t di Student con 2 d.o.f.
Imprecisione ∆V (95%) = 0.095
Imprecisione percentuale 100 ∆V/V = 0.36%
Risultato V = 26.4 ± 0.1 ml (95%)
(Tollerabile V = 26.36 ± 0.11, valori che verranno comunque utilizzati nei calcoli successivi)
Commento: La imprecisione percentuale è stata corretta in 0.4%, data la leggibilità sulla buretta.
Conseguentemente è stata corretta in 0.105 la imprecisione assoluta.

7) Calcolo della quantità di acido ossalico nel campione

Si utilizza il peso equivalente dell'acido ossalico 63.035.Il campione iniziale è stato disciolto in 100
ml e il volume di NaOH determinato è quello necessario per titolare 20 ml.
Q = 26.36 0.10339 63.035 5 = 858.97 mg
(∆Q/Q)2 = (∆M/M)2 + (∆V/V)2 = 0.00682 + 0.00402

28
∆Q/Q = 0.0079
∆Q = 6.78

8)RISULTATO FINALE
Q = 859 ± 7 mg (95%)

3.6.1 - – Statistiche “disinvolte”

Come si è detto i chimici analitici hanno molto spesso mostrato interesse pe la statistica e in
qualche caso dato alla statistica contributi importanti. Qualche volta, purtroppo, i contributi non
possono essere valutati positivamente. L’esempio seguente illustra l’attività creativa di un docente
di una disciplina a contenuto chimico-analitico, insegnata da un non-chimico-analitico, il Professor
Pinco, come accade frequentemente nella Università italiana.
Il procedimento evita i test sugli outliers in quanto, effettuate N (5-7) determinazioni, vengono
scartati i due valori estremi, con gli N-2 valori rimasti vengono calcolate la media, la deviazione
standard, la deviazione standard della media. L’intervallo di fiducia viene fornito con ν = N-1 gradi
di libertà e con i valori critici della t di Student.
La tabella sottostante estratta dalla Tabella 2-8 riporta i valori critici della t di Student.
p% 90 95 98
ν
2 2.920 4.303 6.964
3 2.353 3.182 4.541
4 2.132 2.776 3.747
5 2.015 2.571 3.365
6 1.943 2.447 3.143

I valori che dovrebbero essere applicati alla variabile p di Pinco sono i seguenti (ottenuti da 1
milione di esperimenti simulati), e si spiegano con il fatto che l’eliminazione dei due valori estremi
comporta una sottostima pesantissima della varianza.
p% 90 95 98
ν
2 4.51 6.84 11.41
4 3.63 4.95 7.18

Le statistiche di Pinco sono più diffuse di quanto si pensi.

29
3.7 – IL MODELLO STATISTICO DEL RISULTATO ANALITICO

3.7.1 - Assunti e loro violazioni

La procedura chimico analitica poggia su assunti che frequentemente non sono evidenziati
e talora non sono neanche noti.
L'assunto base è che la quantità fisica misurata y sia legata da una certa funzione F alla
quantità chimica da determinare:
y = F( x ) + e y [3-15]

essendo ey un errore casuale, distribuito normalmente, e pertanto con media zero. L'errore è
assunto indipendente dal tempo, e non correlato con l'errore delle determinazioni precedenti o
seguenti.
La stima della grandezza chimica viene ottenuta dalla funzione inversa:

x̂ = F−1 ( y) = x + F−1 (e y ) = x + e x [3-16]

Ogni violazione dell'assunto [3.15] produce un errore sistematico o impedisce di conoscere

la incertezza sul valore stimato x̂ .
Le violazioni dell'assunto [3.15] possono riguardare il primo termine (violazioni del
modello), dove compaiono due elementi, uno che riguarda la funzione e l'altro che riguarda il
campione (x), o il secondo (violazione degli assunti sull'errore).
Per quanto riguarda il modello, le violazioni più frequenti derivano da:
Difetti del campione x
Non rappresentatività
Instabilità
Contaminazione
Difetti della funzione F
Relazione sbagliata
Valori non corretti dei parametri della funzione
Per quanto riguarda l'errore, le violazioni più frequenti sono:
Deriva
Periodicità
Anomalie (outliers, errori grossolani [sbagli])
Errore sistematico, costante o proporzionale

30
 Non normalità dell'errore
Interdipendenza degli errori
La analisi delle violazioni degli assunti è l'arte di ottenere risultati sperimentali senza
discrepanze impreviste. Essa è basata sulla critica di ogni passaggio del procedimento analitico,
sull'utilizzo di mezzi della statistica (quali i test statistici, l'analisi dei residui), e su confronti tra
risultati ottenuti in laboratori diversi, o con metodi diversi o con materiali di riferimento diversi.
Quale che sia la efficacia della analisi delle violazioni del modello, si può ritenere che, in
generale, la differenza tra il valore stimato x$ ed il valore vero xv sia rappresentata non dalla
[3.16], ma dalla
x̂ = x v + ∆ + e x + ω + D + f (u ) [3-17]

dove ∆ indica l'errore sistematico (bias), ω indica un errore sistematico di indole accidentale, un
errore grossolano (blunder), dovuto ad una anomalia (p.e. un errore di trascrizione), ex indica
l'errore casuale al quale possono essere applicate le considerazioni della teoria delle probabilità, D
indica inadeguatezza della funzione F, mentre f(u), errore funzionale o errore di mancanza di
controllo, indica una variazione che è dovuta ad una variabile esterna (p.e., il tempo o la
temperatura), e che si traduce in un errore sistematico non costante, dipendendo dal valore della
variabile esterna al momento della determinazione.
I test statistici e l'analisi dei residui possono aiutare a ridurre ∆, possono eliminare D e i
risultati anomali ω. Il termine f(u) può essere randomizzato (come illustrato sotto) trasformandolo
da errore sistematico in errore casuale, come tale suscettibile di essere trattato mediante la teoria
delle probabilità.

3.7.2 - Accuratezza e Precisione

È buona pratica del laboratorio non analizzare i campioni in blocchi quando vi è un fattore noto o
presunto che rende i blocchi differenti: il fattore f(u) potrebbe essere interpretato come dovuto a
differenze sistematiche tra i blocchi di campioni. L'analisi di una successione randomizzata dei
campioni provenienti dai vari blocchi evita conclusioni erronee. Analoga situazione si ha quando si
devono analizzare campioni per i quali si sa che la composizione è determinata da alcuni fattori
(p.e. di posizione (geografici), o di maturazione, ecc.), ma non si hanno informazioni sulla entità e
la direzione dell’effetto. Se la successione dei campioni coincide con la variazione di uno dei
fattori, si ha un errore sistematico funzionale, che può essere trasformato in casuale (non
eliminato) per randomizzazione.
31
 La [3.17], con la eliminazione degli errori grossolani e di quelli funzionali attraverso il
controllo di qualità del procedimento analitico si riduce alla

x$ = x v + ∆ + e x [3.18]

in cui compaiono solamente l'errore sistematico costante e l'errore casuale, che si assume
distribuito normalmente e con media zero.
Il modello [3.18] è diverso da quello che si considera normalmente nella statistica
univariata, a causa del termine ∆. La media della variabile a caso x̂ (speranza matematica, valore
atteso) non è eguale al valore vero ma è:

E ( x̂ ) = x v + ∆ [3.19]

In base alla [189] la ACCURATEZZA (accordo tra il valore misurato e quello vero) dipende da
due termini, uno sistematico ed uno casuale.
La componente casuale ha una misura nella deviazione standard dell'errore, σ, stimata
dalla deviazione standard ottenuta da un certo numero di repliche, e meglio ancora dall'intervallo
di fiducia ad un livello prescelto di probabilità, intervallo che si ricava dalla t di Student, e dal
numero delle ripetizioni.
Questa componente casuale è detta PRECISIONE. La sua misura mediante s/√N è detta
talora imprecisione, lasciando il termine precisione per la descrizione qualitativa.
Avendo effettuato N repliche, si ha un intervallo di fiducia di xv+∆ intorno alla media stimata x
pari a:

per il valore assoluto dell'errore sistematico si ottiene, conoscendo (mediante l'uso di un

opportuno standard) il valore vero, la stima da

e l'intervallo di fiducia da:

La stima dell'errore sistematico è assunta come misura della ESATTEZZA (trueness), un

tempo detta accuratezza.
La accuratezza (accuracy) è definita come comprensiva dell'errore di tipo sistematico e di
32
quello casuale, mediante la:
s
accuratezza = x − x v + t p [3.20]
N
dove il valore assoluto x− x v tiene conto del fatto che l'errore casuale può essere in qualunque

direzione.
Se per accuratezza si intendesse lo scostamento o bias x− x v , si potrebbe presentare il

caso che l'accuratezza sia superiore alla precisione, quando è

e pertanto un metodo potrebbe essere molto accurato ma poco preciso. Con la definizione [3.20]
un metodo è generalmente più preciso che accurato, e, nella migliore delle ipotesi, in assenza di
bias, è tanto accurato quanto preciso.
La precisione di un metodo viene stimata utilizzando la varianza ottenuta da un certo
numero N di ripetizioni dell'esperimento che fornisce il valore di x$ . Questo esperimento è un
esperimento random, che viene ripetuto in condizioni omogenee. Il significato di "condizioni
omogenee" deve essere chiarito, in quanto il controllo delle condizioni sperimentali può essere più
o meno spinto. Le fonti di variabilità (sia sistematica che casuale) del risultato dell'esperimento
sono infatti molteplici e possono essere ordinate secondo una scala gerarchica, a cui
corrispondono repliche condotte in condizioni diverse:
a) repliche interne: sono ripetizioni effettuate all'interno dello strumento, e spesso lo
sperimentatore non è neanche a conoscenza di queste repliche. La elettronica associata allo
strumento fornisce il valore come media di queste repliche. Un caso tipico è quello degli strumenti
multicanale.
b) ripetizioni: sono le repliche condotte nello stesso laboratorio, dallo stesso sperimentatore, con
lo stesso strumento e la stessa metodica, in tempi ravvicinati (generalmente poche ore), che
definiscono la durata di una sessione di misura. A queste ripetizioni si riferisce una variabilità
(precisione) la cui deviazione standard misura la ripetibilità (che si potrebbe chiamare anche
irripetibilità).
Le norme ISO definiscono una deviazione standard di ripetibilità, ed un valore di ripetibilità r.
Questo è l'intervallo di fiducia al 95% ottenuto con almeno due determinazioni effettuate in
condizioni di ripetibilità. Se le determinazioni sono due, esso risulta approssimativamente eguale a

33
2.8 volte la deviazione standard.
c) repliche giorno-giorno: si intendono le repliche condotte in giorni diversi nello stesso
laboratorio, con lo stesso strumento, dallo stesso operatore. A questo livello può essere sostituito
o aggiunto quello definito dalla variabilità di operatore. Per queste repliche si parla di ripetibilità
intermedia.
d) repliche laboratorio-laboratorio: si intendono repliche condotte in laboratori differenti, ma con
lo stesso metodo, che uno dei laboratori copia dall'altro, nel senso che si cerca di riprodurre al
meglio le condizioni in cui viene effettuata la determinazione. La precisione misurata in queste
condizioni viene chiamata riproducibilità.
Le norme ISO definiscono una deviazione standard di riproducibilità, ed un valore di
riproducibilità R, che è l'intervallo in cui con la probabilità del 95% cadono i risultati delle (almeno
due) determinazioni effettuate in condizioni di riproducibilità. Nel caso di due determinazioni R
risulta approssimativamente eguale a 2.8 volte la deviazione standard.
e) repliche metodo-metodo: si intendono repliche della stessa determinazione (stesso analita,
stessi campioni) eseguite con metodi di determinazione differenti, nello stesso laboratorio o in
laboratori differenti.
La imprecisione sale scendendo lungo questa successione. Componenti dell'errore che
sono sistematiche ad un certo livello diventano casuali ad un livello gerarchico superiore: p.e.,
l'errore sistematico di un laboratorio diventa almeno in parte casuale quando si considerano
laboratori differenti.
La significatività di ogni ipotetica fonte di variabilità può essere agevolmente studiata
facendo ricorso a test sulle medie, o su dati accoppiati (matching pairs, vedi Capitolo 2.15) o
mediante analisi della varianza (vedi 2.20).

3.7.3 -Sensibilità, Limiti di rilevamento e quantizzazione

5.7.3.1 - Sensibilità, demerito

Il termine sensibilità è utilizzato con una varietà di accezioni in chimica; si parla di:
- sensibilità assoluta dell'analisi, per indicare la più piccola quantità assoluta (moli, grammi) di
materiale che dà un segnale "soddisfacente";
- sensibilità relativa dell'analisi, per indicare la più piccola concentrazione che fornisce un segnale
fisico "soddisfacente".

34
 Per questi due primi significati noi useremo meglio il termine limite di quantizzazione LOQ;
- talora il termine sensibilità viene utilizzato per indicare la più piccola quantità rilevabile, ed in
questo caso noi preferiremo il termine limite di rilevamento (limit of detection LOD) o meglio
ancora il limite di garanzia di purezza o di purezza garantita (LGP).
L’utilizzo dei limiti LGP, LOD, LGP non ci impedisce di utilizzare ancora il termine sensibilità,
a cui assoceremo tre significati:
- sensibilità della misura fisica. È espressa dalla pendenza della relazione tra la quantità fisica y e
la quantità chimica x:
dy ∆y [3.21]
sf = b = ≈
dx ∆x
dove b è la pendenza della retta di regressione di y su x, quando la relazione tra le due quantità è
rettilinea almeno in un apprezzabile intervallo.

- sensibilità del metodo. È connessa con la pendenza, e quindi con la sensibilità della misura, e con
la incertezza sulla quantità chimica, come ottenuta dalla calibrazione. Si ricordino le:

A = b 2 − t 2p s 2b

che esprime l'indice di non-centralità,

1/ 2
tps  A ( y 0 −m y ) 
2
x 0( vero) = x 0c ± A + + 
A  I I c 20 

fornisce l'intervallo di fiducia della x0 (valore incognito) intorno al suo valore centrale x0c , quando
la quantità fisica y0 è stata ottenuta da una sola determinazione, e
1/ 2
y0 − m y t p s  A A ( y0 −m y ) 2 
x 0( vero) = mx + b ±  + + 
A A  I0 I Ic20 
 
che si deve utilizzare quando la quantità fisica è stata ottenuta come media da I0 determinazioni.

Ammettendo che b 2 >> t 2p s 2b (come deve essere quando la imprecisione è abbastanza

piccola da poter accettare il metodo come metodo analitico), l'indice di non centralità diventa
praticamente eguale a b2 e le equazioni precedenti si modificano in
1/ 2
y 0 −a t p s  1 1 ( y 0 −m y ) 
2
x 0( vero) = ±  + + 2
 [3.22]
b b  I0 I I c b 
 20

La [3.22] è utilizzata frequentemente in chimica analitica, in sostituzione delle espressiono

35
con l’indice di non centralità, quando b 2 >>t 2p s 2b (in pratica quando b >20 sb ).

La [3.22] indica come la imprecisione sulla determinazione sia funzione di parametri di

disegno (c20 , I, I0 ) e del rapporto s/b. La sensibilità del metodo è definita come l'inverso di questo
rapporto:
sm = b / s [3.23]
e corrisponde alla sensibilità della misura fisica "corretta" per la sua dispersione.
Analogamente si definisce una sensibilità relativa (di un metodo rispetto ad un altro, o di
uno strumento rispetto ad un altro), indicata talora con ψ.
Siano y1 e y2 le quantità fisiche misurate dai due strumenti (o nei due metodi), e s1 e s2 le
rispettive deviazioni standard. La sensibilità relativa dello strumento 1 rispetto al 2 è data dal
rapporto tra le due sensibilità sm1 e sm2 , che si può esprimere mediante la
b1
s m1 s b 12
ψ12 = = 1 = [3.24]
s m2 b2 s1
s2 s2

dove b12 è la pendenza della relazione tra la quantità misurata da uno strumento (o in un metodo)
e quella misurata dall'altro strumento.
Si osservi ora che la varianza della determinazione chimica (x0) contenuta nella [3.22]

s 2  1 1 ( y 0 −m y ) 
2
s 2x =  + +  [3.25]
b 2  I0 I Ic 20 b 2 

può essere decomposta in

s2 1 s2  1 ( y 0 −m y ) 2 
s 2x = 2 + 2  +  [3.26]
b I0 b  I I c 20 b 2 

in cui il primo termine è puramente accidentale, mentre il secondo è un termine semisistematico,

o sistematico di indole accidentale, nel senso che esso diventa sistematico se si continua ad
utilizzare la stessa retta di calibrazione per un certo numero di determinazioni.
Se I (numero delle misure effettuate per ottenere la retta di calibrazione) è grande (come

converrebbe per avere un piccolo errore di tipo semisistematico), la varianza s 2x diventa

semplicemente:

s2 1
s 2x = [3.27]
b 2 I0

36
da cui
b 1
sm = = [3.28]
s s x I0

Questa equazione ci dice che se vogliamo avere una data incertezza su x0, misurabile mediante sx e
se ci possiamo permettere I0 determinazioni della quantità fisica, la sensibilità del metodo deve
essere quella fornita dalla equazione, oppure maggiore.
Quando confronto due metodi, supponendo che ψ12 sia minore di 1 (il metodo 1 è meno
sensibile del metodo 2), e se b1 = b2 (stessa sensibilità della misura fisica), l'utilizzo del metodo 2
più sensibile fornisce con una sola determinazione (I0=1) la stessa imprecisione che è fornita dal
metodo 1 utilizzando I0 = (1/ψ12)2 determinazioni.
Infatti

2 s 2m1 s 2x 2 I 02
ψ12 = =
s 2m 2 s 2x1 I 01

Per avere la stessa varianza s 2x1 =s 2x 2 dai due metodi, e ponendo per il secondo I02= 1, si ottiene
appunto
1
I 01 = 2
[3.29]
ψ12

Anche se si tratta di una relazione approssimata, ottenuta trascurando l'incertezza sulla

retta di calibrazione, questa relazione può essere sfruttata per determinare il demerito economico
relativo di uno strumento rispetto ad un altro µ12, demerito che si ottiene dal costo medio di una
determinazione, p1 e p2 rispettivamente per i due strumenti (o metodi):
I 01 p1 I 01 p1 p
µ12 = = = 21 [3.30]
I 02 p 2 p2 ψ12 p 2
In questa equazione I01 e I02 sono nella prima eguaglianza le ripetizioni con i due metodi che

forniscono eguale varianza s 2x1 =s 2x 2 . Con la seconda eguaglianza si considera il caso di I02 = 1 e I01 è
il numero di determinazioni con il metodo 1 che permettono varianza eguale a quella ottenuta dal
metodo 2 con 1 sola determinazione.
Il demerito del metodo 1 risulta elevato se il suo prezzo per determinazione è alto e se è
relativamente bassa la sua sensibilità relativa.

37
5.7.3.2 - I limiti
Come si è detto all'inizio di questo paragrafo, vi sono significati desueti di sensibilità che
attualmente vengono sostituiti da limite di rilevamento e da limite di quantizzazione, LOD e LOQ (il
termine quantizzazione è utilizzato nella letteratura anglosassone invece del vecchio limite di
determinazione, limit of determination, in modo da evitare lo stesso acronimo per limit of
detection e limit of determination). Questi limiti esprimono il vecchio concetto di sensibilità
utilizzando linguaggio e strumenti della statistica.

Figura 3.7 - Limiti di rilevamento (detection) e purezza garantita

Si suppone che il segnale (la quantità fisica da determinare) sia distribuito intorno ad un
valore medio con una dispersione (rumore) gaussiana, e che questa si traduca in una dispersione
egualmente gaussiana per la quantità chimica derivata dalla quantità fisica, essendo la varianza
sulla quantità chimica fornita dalla [205], che trascura l'effetto di non-centralità. Si suppone che
tale varianza sia costante per piccole variazioni della quantità chimica.
Quando la quantità chimica è zero (si definisce "bianco" un campione in cui la specie da
determinare è assente), la sua stima è dispersa intorno al valore 0.
A causa di questa dispersione, che consente l'ottenimento di valori di X maggiori di zero
anche quando il vero valore è nullo, quando potremo prendere la decisione che la specie chimica è
veramente presente?
38
 Dobbiamo determinare un valore critico xc tale che per X < xc accettiamo l'ipotesi x = 0
(Ipotesi nulla H0 ), mentre per X > xc l'ipotesi nulla viene respinta e viene accettata l'ipotesi
alternativa H1 , che la specie chimica è presente (e quindi è rivelata).
Questo valore critico, il limite di rilevamento, xc si ottiene dalla varianza del bianco,
mediante la
LOD = xc = 3 σbianco [3.31]
La [3.31] presuppone la conoscenza della varianza del bianco, o almeno una sua stima accurata da
un grande numero di determinazioni.
Vi sono notevoli discordanze sul significato di questi termini (i limiti), in particolare di LOD. In un
primo tempo LOD, il minimo valore rilevabile per la quantità chimica, è stato definito come un
appropriato multiplo della deviazione standard, generalmente 3σ [3.31], che corrisponde ad un
errore del tipo I dello 0.135%. Gli errori del tipo I o falsi positivi accettano l’ipotesi alternativa (che
l’analita sia presente) quando l’analita è assente, mentre gli errori del tipo II, falsi negativi,
accettano l’ipotesi nulla (analita assente) quando l’analita è presente. La probabilità degli errori
del primo tipo è indicata con α, la probabilità degli errori di secondo tipo è indicata con β; i valori
raccomandati dalla IUPAC per α e β sono 0.05. Il valore di α corrispondente a 3 σ è nettamente
inferiore ma in un certo senso tiene conto del fatto che σ non è nota ma stimata con una
incertezza notevole. Il valore di β con questa definizione di LOD è eccessivo, 0.5 (Figura 3-7, A). In
altre parole, se l’analita fosse presente a concentrazione 3 σ, a causa dell’errore di misura non
verrebbe rilevato nel 50% dei casi. Per equilibrare (come si fa in generale) α e β, fu proposto (Kaiser,
H., Z. Anal. Chem. 216 (1966) 80; 260 (1972) 252) un limite di garanzia di purezza o limite di purezza
garantita, LGP. Alcuni Autori definiscono il valore calcolato dalla [3.31] come criterio di
rilevamento e riservano il termine LOD a quello che qui è indicato come limite di purezza garantita.
In effetti anche utilizzando LGP come misura della sensibilità, la soglia decisionale, il valore critico,
è sempre fornita da LOD.
Si ha
LGP = 2 LOD = 2 xc = 6 σbianco [3.32]
Se un campione contiene esattamente la quantità LGP nel 50% dei casi otterremo
sperimentalmente, a causa dell’errore simmetrico, un valore minore di LGP. Ma in pochissimi casi
il valore sperimentale sarà minore di LOD.
La Figura 3-7 A, in basso, illustra come, se la quantità chimica è eguale a LGP, si ha
solamente lo 0.13% di probabilità di prendere la decisione "assente" (errore di secondo tipo o

39
falso negativo). Quindi la quantità LGP è rilevabile con sicurezza quasi assoluta.
In conclusione LGP misura bene la «sensibilità della analisi»: diremo p.e. che un metodo ha limite
LGP = 10 intendendo che se la quantità dell’analita è 10 quasi sicuramente il metodo indicherà che
l’analita è presente.
Le definizioni di LOD e LGP indicate da Kaiser hanno peraltro il difetto di non rispettare la norma
IUPAC circa i valori raccomandati per α e β (0.05). L. A. Currie, (Pure &Appl. Chem., l. 67, 1699 (1995),
Nomenclature in evaluation of analytical methods, (IUPAC Recommendations 1995) utilizza i valori appropriati
(Figura 3-7 B), con una nomenclatura leggermente differente (LC é il livello critico, LD il livello di
detection, corrispondente al LGP).
LD = 2 LC = 3.29 σbianco [3.33]
Quando non è nota σ, e si utilizza la sua stima, i coefficienti per LC e LD devono essere calcolati
utilizzando la statistica di Student, e ricordando che α è un significato unilaterale a cui corrisponde
l’intervallo di fiducia a livello p = 1 - 2α.
La varianza del bianco è stimata, in caso di regressione, dalla varianza dell'intercetta
sull'asse. Quando è possibile registrare per lunghi periodi la quantità fisica in assenza di analita, la
deviazione standard σ della quantità fisica è nota molto bene (bianco "ben conosciuto"); da essa si
stima la σbianco semplicemente dividendo per la pendenza, e la [3.33] è applicabile rigorosamente.

Viene definito anche

Il limite di quantizzazione o di determinazione (LOQ) mediante la
LOQ = 10 σbianco [3.34]
Esso è il valore di X per il quale si ha la probabilità 68% di non commettere un errore superiore al
10% e una probabilità 95% di non commettere un errore superiore al 20% (come risulta dai valori
p% della distribuzione standard normale). Come per gli altri limiti, quando la deviazione standard
del bianco è stimata da un numero ridotto di determinazioni, occorre variare opportunamente il
coefficiente. Occorre infine ribadire che non vi è un completo accordo tra i chimici analitici circa i
livelli di probabilità da utilizzare nella valutazione dei limiti LOD, LGP, LC, LD e LOQ, , e ciò
probabilmente a causa delle differenti esigenze e dei differenti fenomeni fisici dei quali ciascuno
ha esperienza: l'origine della dispersione del bianco e del campione contenente analita hanno
suggerito definizioni più complesse, che tengono p.e. conto anche del variare della varianza con la
concentrazione dell'analita, ma che numericamente non si discostano molto dai valori sopra
riportati per il caso di un bianco ben conosciuto.

40
3.7.4 - Modelli statistici

Un modello per lo studio della accuratezza di un metodo può essere espresso dalla
equazione
x̂ lvr = x v
+ αm + αl +
[3.35]
+ (β m − 1) x v + (β l − 1) x v +
+ λ lv + γ lvr

dove x̂ lvr è il valore di x v (valore vero del v-esimo campione: la x v è variabile) stimato dal

laboratorio l-esimo nella r-esima ripetizione.

L'errore sistematico ∆ è stato decomposto in quattro termini,
il primo α m è il bias costante del metodo
il terzo (β m − 1) x v è il bias proporzionale del metodo
il secondo α l è il bias costante del laboratorio
il quarto (β l − 1) x v è il bias proporzionale del laboratorio

La prima e la terza componente, α m e (β m − 1) x v possono essere stimate solo quando vi sono

molti laboratori; αl è il bias costante per il laboratorio, indipendente dalla quantità xv ; il quarto,

(β l − 1)x v , è il bias proporzionale caratteristico del laboratorio e dipendente dalla quantità

stimata.
L'errore casuale è stato a sua volta decomposto nella [3.35] in due termini:
γ lvr è l'errore di replicazione, a x costante, mentre l'errore λ lv comprende fonti molteplici, quali

errori di calibrazione, errori di non-linearità nella relazione utilizzata per ottenere la quantità
chimica, ed altri derivanti dalle più varie violazioni degli assunti.

Si ammette, quando si effettuano studi collaborativi (interlaboratori) con lo stesso

metodo, che i termini αl e (β l − 1) x v , bias costante e proporzionale dei laboratori, siano

variabili random con media zero. In altre parole si suppone che la media interlaboratori sia data
dalla:
x̂ .vr = x v + α m + (β m − 1) x v + λ .v + γ .vr [3.36]

Ciò può essere considerato lecito solo per un gran numero di laboratori partecipanti allo
studio collaborativo, ma è assai opinabile se il numero dei laboratori è piccolo. D'altra parte, la
giustificazione dell'assunto è nel suo valore limite e nel fatto che questa è l'unica possibilità di
41
separare il bias di metodo da quello di laboratorio (sempre che siano disponibili gli standard).
Gli esempi seguenti illustrano alcuni casi tipici di determinazioni, e la relativa analisi
dell'errore. Negli esempi non compare l'analisi degli outliers, unicamente per alleggerirli, in quanto
la analisi dei valori anomali è una parte fondamentale della analisi dell'errore.

3.7.4.1 – Un laboratorio

Un solo livello, un solo laboratorio, standard disponibile

Risultati sperimentali di 6 ripetizioni:
2.43 2.47 2.34 2.39 2.45 2.44

Valore dello standard x v = 2.00

(Il punto a pedice indica
media dei risultati x̂ . = 2.42 la media delle ripetizioni)
deviazione standard s = 0.047
deviazione standard della media s/√6= 0.019
intervallo di fiducia 95% 0.050

Relazione sommaria
x v + ∆ = 2.42 ± 0.05 (p = 95%)

bias 0.42 (di metodo e/o di laboratorio)

imprecisione 0.05
inaccuratezza 0.47

Talora, invece dell'intervallo di fiducia viene fornito l'intervallo di tolleranza (Vedi Capitolo 2, Nota
9, con tabella dei fattori di tolleranza K), con una fissata probabilità di tolleranza ed una di fiducia
(generalmente la probabilità di tolleranza 0.9 e quella di fiducia 0.95) .
Nel nostro caso l'intervallo di tolleranza ha una semiampiezza 0.175 (s K = 0.047 3.723),
intorno a 2.42: vi è il 90% di probabilità che almeno il 95% dei risultati ottenuti dalla ripetizione
dell'esperimento cadano nell'intervallo da 2.42 - 0.175 a 2.42 + 0.175, da 2.22 a 2.60.

42
Un solo laboratorio, vari livelli, standard disponibili

Valori degli standard x v

2.00 6.00 10.00 15.00

Risultati sperimentali di quattro ripetizioni per ogni standard x̂ vr

2.03 5.99 10.03 14.93

2.07 5.95 10.04 14.98
2.02 5.97 10.00 14.97
2.05 5.91 10.07 14.96
Media sulle quattro ripetizioni dei risultati sperimentali x̂ v.

2.045 5.955 10.035 14.96

Stime delle deviazioni standard per i quattro standard s v

0.0222 0.0342 0.0289 0.0216

Stime delle deviazioni standard della media s v / 4

0.0128 0.0197 0.0167 0.0125

Semiampiezza degli intervalli di fiducia al 95% t p s v / 4

0.029 0.044 0.038 0.028

Le stime ai vari livelli della deviazione standard sv possono essere sostituite da una stima
raggruppata (pooled):

( x̂ vr −x̂ v. ) 2
s 2p = ∑∑
v r 16 − 4

dove x$ v. indica la media sulle quattro ripetizioni a x v costante.

s 2p è la stima della varianza associata all'errore di replicazione, che abbiamo indicato come errore

γ vr nella [195] (rispetto alla [195] manca il pedice l in quanto abbiamo un solo laboratorio).
In questo caso l'utilizzo della varianza raggruppata è autorizzato dal fatto che le quattro varianze,
ai diversi valori di x v , non sono significativamente differenti, come si potrebbe dimostrare
utilizzando un test sul rapporto delle varianze.

Risulta s 2p = 7.398 10-4 , s p = 2.72 10-2 .

La regressione lineare (non pesata) sui 16 dati fornisce

43
a = 0.03131 sa = 0.02274
b = 0.99598 sb = 0.0023
Le ipotesi α = 0 e β = 1 sono accettate dai relativi test t; è accettata anche l'ipotesi congiunta.
Utilizzando la [87] si ottiene un livello di significato 27%.
La varianza dell'errore nella regressione risulta:
s2 = 2.102 10-3 , s = 0.04586

Il rapporto F = s 2 s 2p = 2.842 è il rapporto di due stime della stessa varianza, una con 14 gradi di

libertà (16 - intercetta e pendenza), l'altra con 12 gradi di libertà (16 - le quattro medie locali). Il
test, che ha come ipotesi nulla che le due varianze siano misure della stessa varianza non passa a
livello 5%, in quanto il livello di significato è 3.8%.

Possiamo pertanto concludere:

- non vi sono errori sistematici, né costanti né proporzionali (test su intercetta e pendenza);

- vi è un errore casuale del tipo λ, la cui varianza viene stimata da s 2 − s 2p = 0.00136 .

I test statistici ci dicono quindi che, nelle condizioni in cui si è operato in quel laboratorio, il
modello [195] si riduce a:
x̂ vr = x v + λ v + γ vr

con varianza complessiva 2.102 10-3, varianza dell'errore di tipo γ pari a 7.4 10-4, varianza
dell'errore di tipo λ pari a 0.00136.
La imprecisione varia con la distanza dal centroide, secondo la [92], e il suo minimo è tp s/4. A
livello di fiducia 95%, tp (14 gradi di libertà) è 2.144, e pertanto la imprecisione minima è 0.0246, la
massima (all'estremo dell'intervallo dei valori di xv) è circa 0.042.

44
3.7.4.2 – Studi collaborativi
Vi sono due tipi di attività che implicano la collaborazione di un certo numero di laboratori.
Un caso è quello dei test di competenza (proficiency tests) in cui l’obiettivo è quello di confrontare
i risultati di un laboratorio con quelli di altri in modo da valutare le prestazioni del laboratorio. Il
laboratorio è l’oggetto della investigazione.
Gli studi collaborativi propriamente detti sono quelli in cui lo scopo è quello di valutare una
metodologia di determinazione.
In ambedue i casi accanto alla parte sperimentale vi è una pesante parte statistica necessaria per
la valutazione dei risultati.

Vari livelli, vari laboratori, standard disponibili

Valori degli standard x v

1.80 2.40 4.90 6.60 12.30 20.30

Risultati sperimentali di due ripetizioni per ogni standard x$ lvr per ciascuno dei quattro laboratori
Laboratorio
(l)
1 2.108 2.736 5.180 6.838 12.514 20.534
1 2.097 2.703 5.189 6.838 12.532 20.563
2 2.014 2.623 5.010 6.711 12.300 20.123
2 2.026 2.597 5.005 6.654 12.255 20.083
3 2.137 2.711 5.160 6.824 12.543 20.505
3 2.112 2.711 5.168 6.857 12.518 20.481
4 2.144 2.726 5.210 6.961 12.729 20.862
4 2.079 2.700 5.225 6.958 12.739 20.903

Media sulle otto ripetizioni (2 per ciascuno dei 4 laboratori) dei risultati sperimentali x$ .v.
2.090 2.688 5.143 6.830 12.516 20.507

45
Media sulle due ripetizioni di ogni laboratorio x$ lv.
2.103 2.720 5.185 6.838 12.523 20.549
2.020 2.610 5.008 6.683 12.278 20.103
2.125 2.711 5.164 6.841 12.531 20.493
2.112 2.713 5.218 6.960 12.734 20.883

La varianza s 2pv e la deviazione standard entrolaboratori raggruppate vengono calcolate

utilizzando le medie x̂ lv. , medie delle repliche (Pooled within-laboratory variance). I gradi di

libertà sono 8-4.

Varianza entrolaboratori s2pv

0.00064 0.00031 0.00005 0.00054 0.00038 0.00059

Deviazione standard entrolaboratori s pv

0.02529 0.01747 0.00703 0.02331 0.01960 0.02423

La varianza generalizzata s2gv e la deviazione standard generalizzata di colonna (di standard)

vengono calcolate utilizzando le medie di colonna x$ .v. . I gradi di libertà sono 8-1. Una varianza
generalizzata è una varianza raggruppata: il termine generalizzata viene utilizzato per distinguere
tra la varianza entrolaboratori e quella entrostandard.

Varianza generalizzata entrocolonna s2gv

0.00228 0.00253 0.00748 0.01137 0.03012 0.08780

Deviazione standard generalizzata entrocolonna sgv

0.04777 0.05026 0.08647 0.10662 0.17356 0.29631

Dalla differenza tra le due varianze s2gv - s2pv (generalizzata di colonna e entrolaboratori) viene

46
calcolata la componente della varianza interlaboratori, dovuta alle differenze tra i laboratori.
2
Varianza interlaboratori s gv - s2pv

0.00164 0.00222 0.00743 0.01082 0.02974 0.08722

2
Deviazione standard interlaboratori s gv − s 2pv

0.04053 0.04712 0.08619 0.10404 0.17245 0.29532

Le varianze raggruppate non mostrano significative differenze, cioè una dipendenza dalla
colonna: il test sulla eguaglianza delle varianze eseguito utilizzando un livello di significato critico
del 5% (F4,4 = 6.39) non passerebbe solo se coinvolgesse la terza colonna, che ha una variabilità
molto piccola. Si noti peraltro che il test viene ripetuto 15 volte, tante quante sono le
combinazioni tra le colonne. Pur tenendo conto del fatto che le combinazioni non sono
indipendenti (ogni varianza compare 5 volte), considerazioni analoghe a quelle effettuate nel
Capitolo 2.18 a proposito degli outliers, ci dicono che il test dovrebbe essere effettuato a livello
critico di significato dell' 1% circa. Si ha F = 16 circa e l'ipotesi di una differenza significativa tra le
varianze di colonna non passa.

Pertanto è possibile calcolare una varianza raggruppata ed una varianza generalizzata, non
considerando la dipendenza dalle colonne: la prima avrà 48-24 gradi di libertà, la seconda 48-6
gradi di libertà:

( x$ lvr − x$ lv. ) 2
s =
2
p ∑∑∑
l v r 48 − 24
= 0.000418

( x$ lvr − x$ .v. ) 2
s =
2
g ∑∑∑
l v r 48 − 6
= 0.02360

La differenza s2g - s2p misura la componente della varianza interlaboratori, che risulta pari
a 0.02318, con radice 0.1522: questa è la misura della riproducibilità. Questo valore ha tuttavia

solamente un significato medio: appare infatti chiaro che s2gv e s2gv - s2pv dipendono dalla xv :
ciò indica che le differenze tra i laboratori non sono costanti, ma crescono all'aumentare della

47
quantità. Pertanto, la riproducibilità varia da 0.04 a 0.3 circa nell'intervallo di quantità di analita
considerato.
Per quantizzare la dipendenza dalla quantità delle differenze interlaboratori, si procede a
due serie di regressioni lineari. Ogni serie implica una regressione per ogni laboratorio, effettuata
con 12 dati. La prima serie viene effettuata sui valori standard (che in questo caso sono

disponibili). La seconda sui valori medi x$ .v. .

Si ottiene, per la regressione sui valori veri xv:

Laboratorio a lv blv b lv − 1 slv sval s blv

(l)
1 0.2996 0.9962 -0.0038 0.0299 0.0134 0.0013
2 0.2440 0.9780 -0.0220 0.0271 0.0122 0.0012
3 0.3126 0.9935 -0.0065 0.0236 0.0106 0.0010
4 0.2663 1.0149 0.0149 0.0250 0.0112 0.0011

e per la regressione sui valori medi x$ .v. :

Laboratorio a lm blm b lm − 1 slm smal sblm
(l)
1 0.0188 1.0006 0.0006 0.0193 0.0089 0.0008
2 -0.0317 0.9822 -0.0178 0.0220 0.0101 0.0009
3 0.0325 0.9979 -0.0021 0.0137 0.0063 0.0006
4 -0.0197 1.0193 0.0193 0.0206 0.0095 0.0009

e infine, per la regressione dei valori medi x$ .v. su quelli veri xv :

am bm bm − 1 sm sam smb
0.2806 0.9957 -0.0043 0.0183 0.0113 0.0011
dove alla consueta simbologia della regressione a, b, s, sa , sb , si sono aggiunti un pedice l che è
l'indice di laboratorio, ed un apice che indica se la regressione è stata effettuata sui valori veri (v) o
su quelli medi (m).
48
Ricordando il modello:

x$ lvr = x v
[3.35]
+ α m + αl +
+ (β m − 1) x v + (β l − 1) x v +
+ λ lv + γ lvr
che è modificabile in:

x$ lvr = (α m + α l ) + (β m + β l − 1) x v + λ lv + γ lvr [3.37]

osserviamo che le regressioni sui valori veri forniscono stime di:

αm + αl fornita da a lv
βm + βl − 1 fornita da b lv
βm − 1 + βl − 1 fornita da b lv −1
e della deviazione standard dovuta complessivamente ai termini λ lv + γ lvr , fornita da slv .
I valori medi x$ .v. sono:

∑ ∑ x$ lvr
[3.38]
x$ .v. = l r
LR
(L: numero totale dei laboratori, R: numero delle repliche per ogni laboratorio e ogni valore di xv ).
Ricordando la:

x$ .vr = x v + α m + (β m − 1) x v + λ .v + γ .vr [3.36]

nella modifica

x$ .vr = α m + β m x v + λ .v + γ .vr [3.39]

rileviamo che la regressione dei valori medi x$ .v. su quelli veri xv fornisce stime di:
αm fornita da am
βm fornita da bm
βm − 1 fornita da bm − 1 .

Pertanto si ottiene dalla differenza tra:

49
la stima di αm + αl data da a lv
e quella di αm data da am
la stima di αl che è a lv - a m
Dalla differenza tra
la stima di βm − 1 + βl − 1 data da b lv −1
e quella di βm − 1 data da bm −1
si ottiene la stima di β −1 data da blv − b m
l

Dai corrispondenti dati numerici ottenuti dalle regressioni si ricava:

α$ m = a m β$ m − 1 = = b m − 1 α$ l = a lv − a m
0.2806 -0.0043 0.2996-0.2806= 0.0160
0.2440-0.2806=-0.0366
0.3126-0.2806= 0.0320
0.2663-0.2806=-0.0143
β$ l − 1 = blv − bm
-0.0038+0.0043= 0.0005
-0.0220+0.0043=-0.0177
-0.0065+0.0043=-0.0022
0.0149+0.0043= 0.0192

I coefficienti stimati dalla regressione sui valori medi a lm e b lm − 1 sono una peggiore

stima di αl e di βl − 1 , tanto più quanto maggiore è il bias di metodo (costante o

proporzionale), cioè quanto più i valori medi sono lontani dai valori veri.
Possiamo concludere:
a) che vi è un bias costante a m di metodo (dell’unico metodo utilizzato dai 4 laboratori), pari a
circa 0.28, molto significativo ( s m è eguale a 0.0113);
a

b) che vi è un bias proporzionale di metodo β − 1 (-0.0043) ma non è molto significativo ( s m =

m b

0.0011), soprattutto perché nettamente inferiore al bias proporzionale di laboratorio;

c) che il bias costante dei laboratori a lm è sempre trascurabile, ai limiti della significatività

(rapporto con s m relativamente piccolo, 2-5 volte);

al

d) che, al contrario, i laboratori 2 e 4 hanno un elevato bias proporzionale b lm − 1;

e) e, infine, seguendo il procedimento visto nell'esempio precedente, che l'errore casuale di tipo λ
è trascurabile di fronte a quello di tipo γ.

50
3.7.4.3 – Tests per gli outliers
Molte organizzazioni ufficiali hanno preparato raccolte di norme per la esecuzione di studi
collaborativi. Tra esse la International Conference on Harmonization of Technical Requirements for
Registration of Pharmaceuticals for Human Use (ICH), la International Organization for
Standardization (ISO), il International Vocabulary of Metrology (VIM, il Joint Committee for Guides
in Metrology (JCGM), lo International Bureau of Weights and Measures (BIPM), la International
Organization of Legal Metrology (OIML), la International Laboratory Accreditation Cooperation
(ILAC), la Association of Official Agricultural Chemists (AOAC). Vi sono inoltre molte
organizzazioni nazionali.
Quasi tutte le norme prevedono di effettuare test per la ricerca e la conseguente eliminazione di
outliers. Oltre alla individuazione di outliers, si individuano con opportuni test (e si scartano)
laboratori o ripetizioni caratterizzati da una varianza anormalmente elevata.
Tuttavia vi sono considerazioni che suggeriscono un uso estremamente limitato e cauto di questi
test.
R.A. Fisher fece (The Logic of Inductive Inference, Journal of the Royal Statistical Society, 98: 39-54 (1935)) la
seguente osservazione “All statisticians know that data are falsified if only a selected part is used”.
J. Mandel aggiunge che ogni outlier ha una causa, ed è importante individuarla. I buoni laboratori
sanno evitare gli errori grossolani. Se gli outlier sono dovuti a difetti della tecnica di misura o della
sua descrizione, tali errori non potranno essere evitati in futuro (salvo revisione del procedimento)
e il loro effetto deve essere incluso nelle conclusioni relative allo studio.

3.7.4.3.1 – Test di Grubbs

Il test di Grubbs per gli outliers é noto anche come test del residuo massimo normalizzato. Si
assume che i dati siano estratti da una popolazione normale. È il test per gli outliers più consigliato
nelle norme.
Il test può rilevare un solo outlier. Nel caso l’outlier può essere eliminato e il test può essere
ripetuto per ricercare un secondo outlier.
La variabile di Grubbs per il test bilaterale é:
max x i − m
Gb =
s
e per il test unilaterale:

51
 x max − m m − x min
G max = or G min =
s s
La dizione “test bilaterale e unilaterale” è equivoca.
In realtà tutti i test di Grubbs sono unilaterali, in quanto si riferiscono alla variabile G e non alla x.
La Figura 3-8 illustra la distribuzione della variabile Gb nel caso di N = 10 ripetizioni.

Figura 3-8 – Distribuzione di Grubbs Gb per N = 10

La distribuzione è stata ottenuta da una simulazione con un milione di esperimenti e distribuzione
normale. L’istogramma è stato allisciato con il metodo di Savitzky-Golay e sette punti. L’interesse è
ovviamente unilaterale destro, in quanto i valori di G a sinistra sono collegati a valori della x che
non si discostano molto dalla media. α è il significato unilaterale destro. Le formule sotto riportate
per il calcolo dei valori critici della G risentono della definizione di test “bilaterale” e nella loro
formulazione originale indicano con α il valore “bilaterale”, cioè il doppio.
La distribuzione della variabile di Grubbs é collegata alla distribuzione di Student e il suo valore
critico a livello di significato α per il test Gb (si intende il significato unilaterale destro illustrato in
figura 3-8) si ottiene dal valore critico della t di Student con N-2 d.o.f. e significato 2α/2N, t2α/2N, N-
2,as

N −1 t 22α / 2 N, N − 2
G α, N =
N N − 2 + t 22α / 2 N , N − 2

52
Per i test “unilaterali” in cui la variabile è Gmax o Gmin, si ha:

N −1 t 22α / N, N − 2
G α, N =
N N − 2 + t 22α / N, N − 2

Figura 3-9 – Distribuzione di Grubbs Gmax per N = 10

Figura 3-10 – Distribuzione di Grubbs Gmax per N = 3

53
La Figura 3-10 mostra la distribuzione della G di Grubbs con N=3 (l’area appare relativamente
piccola in quanto il massimo estremamente elevato obbliga ad un rimpicciolimento). La
distribuzione è limitata ai valori 1 (che corrisponde a dati equidistanti) e 2/√3 ( che corrisponde a
due valori coincidenti). I valori critici per N <7 non dipendono molto da α, in quanto i valori di G
elevati sono addensati.

Le tabelle seguenti riportano i valori critici del test di Grubbs. Si noti come i valori critici del criterio

T, illustrato in 2.18.1, si ottengono da quelli nella Tabella 3-4 moltiplicandoli per
.


Tabella 3-4 - Valori critici per diversi valori di α per il test di Grubbs Gb
N 20 10 5 2.5 1 0.5
3 1.148 1.153 1.154 1.155 1.155 1.155
4 1.424 1.462 1.481 1.491 1.497 1.498
5 1.601 1.671 1.714 1.742 1.763 1.773
6 1.728 1.823 1.889 1.936 1.974 1.993
7 1.827 1.938 2.018 2.080 2.139 2.171
8 1.909 2.033 2.127 2.200 2.274 2.314
9 1.978 2.110 2.216 2.301 2.387 2.439
10 2.036 2.176 2.292 2.383 2.486 2.546
11 2.088 2.234 2.353 2.452 2.561 2.624
12 2.131 2.281 2.409 2.516 2.633 2.704
13 2.173 2.328 2.461 2.572 2.689 2.768
14 2.211 2.371 2.504 2.624 2.755 2.833
15 2.245 2.408 2.545 2.661 2.796 2.882
16 2.278 2.442 2.585 2.711 2.848 2.942
17 2.308 2.475 2.619 2.746 2.893 2.984
18 2.331 2.502 2.651 2.781 2.933 3.035
19 2.357 2.527 2.675 2.809 2.958 3.063
20 2.382 2.557 2.708 2.840 3.002 3.111
21 2.405 2.582 2.738 2.874 3.035 3.152
22 2.423 2.597 2.751 2.895 3.059 3.167
23 2.443 2.622 2.779 2.917 3.085 3.192
24 2.462 2.639 2.796 2.941 3.102 3.206
25 2.481 2.665 2.824 2.968 3.132 3.242
26 2.493 2.676 2.840 2.983 3.154 3.274
27 2.515 2.695 2.860 3.005 3.174 3.303
28 2.530 2.718 2.879 3.026 3.202 3.325
29 2.542 2.725 2.888 3.039 3.218 3.342
30 2.555 2.740 2.905 3.053 3.232 3.351
31 2.569 2.756 2.922 3.073 3.261 3.388
32 2.580 2.771 2.937 3.080 3.266 3.391
33 2.596 2.780 2.951 3.103 3.295 3.418
34 2.608 2.793 2.964 3.123 3.309 3.437
35 2.617 2.806 2.974 3.129 3.310 3.445
36 2.632 2.818 2.994 3.149 3.335 3.469
37 2.641 2.830 2.999 3.159 3.343 3.470
38 2.653 2.845 3.017 3.171 3.362 3.498
39 2.660 2.850 3.020 3.182 3.372 3.505
40 2.672 2.861 3.033 3.190 3.379 3.502

54
41 2.680 2.870 3.042 3.199 3.386 3.511
42 2.692 2.885 3.058 3.221 3.415 3.539
43 2.700 2.896 3.066 3.231 3.419 3.559
44 2.708 2.901 3.074 3.233 3.423 3.560
45 2.715 2.910 3.086 3.247 3.436 3.571
46 2.726 2.921 3.094 3.254 3.450 3.589
47 2.731 2.926 3.103 3.264 3.462 3.596
48 2.741 2.937 3.110 3.273 3.460 3.606
49 2.749 2.943 3.121 3.290 3.481 3.618
50 2.759 2.954 3.130 3.294 3.491 3.627

Tabella 3-5 - Valori critici per i test di Grubbs Gmax e Gmin

N 20 10 5 2.5 1 0.5
3 1.130 1.148 1.153 1.154 1.155 1.155
4 1.349 1.424 1.461 1.481 1.493 1.497
5 1.489 1.601 1.671 1.715 1.748 1.764
6 1.594 1.729 1.824 1.890 1.947 1.974
7 1.678 1.827 1.939 2.018 2.096 2.139
8 1.749 1.909 2.034 2.1287 2.220 2.274
9 1.810 1.979 2.110 2.216 2.324 2.387
10 1.863 2.036 2.176 2.292 2.411 2.486
11 1.911 2.088 2.234 2.353 2.480 2.560
12 1.951 2.131 2.281 2.409 2.547 2.632
13 1.990 2.174 2.329 2.461 2.601 2.690
14 2.025 2.212 2.371 2.504 2.658 2.756
15 2.056 2.245 2.408 2.545 2.695 2.796
16 2.088 2.279 2.441 2.585 2.746 2.849
17 2.115 2.310 2.476 2.619 2.781 2.894
18 2.138 2.333 2.501 2.650 2.819 2.933
19 2.164 2.360 2.527 2.676 2.845 2.958
20 2.186 2.383 2.557 2.708 2.879 2.999
21 2.207 2.407 2.582 2.739 2.916 3.035
22 2.226 2.426 2.597 2.752 2.939 3.056
23 2.247 2.445 2.623 2.780 2.962 3.085
24 2.265 2.466 2.640 2.797 2.986 3.104
25 2.283 2.485 2.665 2.824 3.012 3.133
26 2.296 2.496 2.676 2.840 3.027 3.153
27 2.315 2.520 2.696 2.859 3.050 3.173
28 2.327 2.535 2.719 2.880 3.072 3.203
29 2.343 2.545 2.726 2.888 3.085 3.220
30 2.355 2.560 2.739 2.906 3.100 3.233
30 2.356 2.560 2.743 2.905 3.095 3.232
31 2.369 2.574 2.757 2.921 3.122 3.261
32 2.382 2.585 2.771 2.937 3.125 3.267
33 2.397 2.601 2.781 2.951 3.155 3.294
34 2.406 2.612 2.794 2.966 3.172 3.310
35 2.417 2.623 2.808 2.974 3.174 3.309
36 2.430 2.637 2.820 2.994 3.193 3.333
37 2.439 2.646 2.831 2.998 3.210 3.343
38 2.452 2.660 2.847 3.018 3.221 3.362
39 2.459 2.665 2.851 3.021 3.231 3.372
40 2.472 2.678 2.863 3.034 3.239 3.379
41 2.479 2.686 2.871 3.042 3.247 3.384
42 2.490 2.698 2.887 3.058 3.267 3.415
43 2.497 2.706 2.898 3.068 3.278 3.423
44 2.505 2.715 2.902 3.074 3.282 3.423
45 2.514 2.721 2.912 3.087 3.296 3.436
55
46 2.525 2.733 2.924 3.095 3.303 3.450
47 2.531 2.739 2.929 3.103 3.316 3.461
48 2.539 2.747 2.938 3.110 3.325 3.461
49 2.545 2.755 2.945 3.122 3.339 3.482
50 2.556 2.767 2.957 3.132 3.344 3.492

L’usuale test di Grubbs ha come ipotesi che i dati siano estratti da una popolazione normale.
La tabella seguente riporta i valori critici per dati estratti da una popolazione uniforme.
La differenza è notevole, e risalta nel confronto in Figura 3-11.
Tabella 3-6 - Valori critici per diversi valori di α per il test di Grubbs Gb per dati da una popolazione
uniforme
N 20 10 5 2.5 1 0.5
3 1.150 1.153 1.155 1.155 1.155 1.155
4 1.428 1.465 1.484 1.492 1.497 1.498
5 1.582 1.663 1.714 1.743 1.765 1.775
6 1.676 1.786 1.867 1.921 1.969 1.992
7 1.731 1.860 1.959 2.036 2.111 2.153
8 1.773 1.913 2.026 2.119 2.216 2.270
9 1.804 1.941 2.063 2.165 2.284 2.357
10 1.824 1.962 2.089 2.201 2.331 2.411
11 1.845 1.982 2.107 2.222 2.351 2.438
12 1.859 1.994 2.118 2.234 2.378 2.475
13 1.869 2.003 2.125 2.241 2.385 2.484
14 1.875 2.003 2.122 2.235 2.376 2.474
15 1.885 2.011 2.131 2.243 2.392 2.494
16 1.891 2.019 2.138 2.245 2.382 2.482
17 1.894 2.019 2.132 2.240 2.372 2.476
18 1.896 2.017 2.130 2.236 2.372 2.474
19 1.898 2.020 2.131 2.233 2.367 2.467
20 1.903 2.022 2.130 2.233 2.362 2.454
21 1.901 2.017 2.122 2.227 2.354 2.447
22 1.901 2.016 2.119 2.218 2.343 2.436
23 1.905 2.015 2.116 2.214 2.341 2.435
24 1.906 2.015 2.112 2.208 2.331 2.423
25 1.908 2.014 2.110 2.201 2.316 2.397
26 1.906 2.013 2.111 2.202 2.312 2.404
27 1.910 2.013 2.109 2.201 2.310 2.392
28 1.904 2.006 2.101 2.187 2.299 2.383
29 1.905 2.004 2.095 2.183 2.300 2.379
30 1.905 2.003 2.094 2.179 2.287 2.367
31 1.905 2.003 2.093 2.181 2.287 2.359
32 1.903 1.999 2.089 2.172 2.279 2.353
33 1.903 1.995 2.082 2.163 2.264 2.336
34 1.905 1.996 2.079 2.158 2.260 2.336
35 1.903 1.995 2.078 2.155 2.250 2.329

56
36 1.903 1.993 2.076 2.158 2.256 2.322
37 1.901 1.990 2.070 2.145 2.241 2.315
38 1.901 1.989 2.069 2.144 2.240 2.313
39 1.901 1.987 2.068 2.142 2.237 2.303
40 1.898 1.985 2.066 2.141 2.230 2.299
41 1.898 1.983 2.060 2.134 2.221 2.283
42 1.896 1.980 2.057 2.131 2.223 2.282
43 1.898 1.979 2.056 2.128 2.216 2.283
44 1.896 1.977 2.051 2.123 2.210 2.279
45 1.894 1.974 2.048 2.116 2.203 2.266
46 1.894 1.974 2.047 2.118 2.203 2.267
47 1.895 1.974 2.046 2.111 2.197 2.258
48 1.893 1.972 2.043 2.110 2.191 2.253
49 1.891 1.969 2.039 2.109 2.189 2.249
50 1.891 1.969 2.038 2.102 2.184 2.245

Figura 3-11 – Distribuzioni di Grubbs (N=50) per dati con distribuzione uniforma (a sinistra) e
normale (a destra).

57
3.7.4.3.2 – Test di Grubbs sulle deviazioni standard

Un test differente, presentato in pubblicazioni della AOAC come test di Grubbs, è basato sulle
quantità:
s
G = 100 1 − 
s
s
G = 100 1 − 
s
dove s è la deviazione standard calcolata con gli N oggetti, sL è la deviazione standard calcolata
eliminando il valore inferiore e sH è la deviazione standard calcolata eliminando il valore maggiore.
La variabile G è il massimo tra GL e GH. Essa ha quindi il significato di diminuzione della deviazione
standard provocata dalla eliminazione del valore più lontano, possibilmente outlier.
Due distribuzioni sono presentate nelle Figure 3-12 e 3-13.
La tabella 3-7 riporta i valori critici. AOAC suggerisce α = 2.5%.
Questo test può essere utilizzato anche in altre forme, p.e. calcolando le deviazioni standard dopo
eliminazione dei due valori minori o dei due maggiori.

Tabella 3-7 - Valori critici per diversi valori di α per il test di Grubbs sulle deviazioni standard G

N 20 10 5 2.5 1 0.5
3 85.25 92.57 96.25 98.15 99.29 99.65
4 61.43 72.44 80.58 86.39 91.68 94.22
5 48.43 58.83 67.04 73.66 80.56 84.54
6 40.53 49.72 57.69 64.64 71.59 75.82
7 35.13 43.13 50.00 56.35 63.59 68.42
8 31.27 38.43 44.80 50.50 57.33 61.69
9 28.31 34.63 40.51 45.94 52.35 56.74
10 25.88 31.62 37.10 42.03 48.39 52.61
11 23.95 29.21 34.11 38.65 44.37 48.06
12 22.26 27.03 31.66 36.02 41.36 44.99
13 20.90 25.36 29.68 33.69 38.45 42.02
14 19.72 23.92 27.84 31.76 36.57 39.76
15 18.66 22.61 26.31 29.77 34.23 37.37
16 17.79 21.44 25.02 28.47 32.67 35.81
17 16.97 20.46 23.78 27.03 31.17 33.97
18 16.17 19.49 22.71 25.78 29.77 32.71
19 15.51 18.62 21.62 24.57 28.20 30.98
20 14.92 17.94 20.83 23.60 27.30 30.03
21 14.38 17.29 20.11 22.80 26.28 29.04
22 13.83 16.53 19.16 21.84 25.18 27.58
23 13.37 16.01 18.56 21.01 24.25 26.49

58
24 12.95 15.44 17.87 20.29 23.25 25.31
25 12.55 15.03 17.40 19.71 22.60 24.68
26 12.12 14.48 16.80 19.00 21.86 24.03
27 11.84 14.07 16.32 18.45 21.17 23.39
28 11.50 13.75 15.86 17.95 20.65 22.70
29 11.16 13.28 15.32 17.37 20.02 21.98
30 10.86 12.92 14.92 16.86 19.39 21.20
31 10.60 12.60 14.55 16.46 19.03 20.91
32 10.32 12.30 14.18 15.92 18.38 20.14
33 10.10 11.96 13.82 15.62 18.08 19.78
34 9.87 11.68 13.49 15.31 17.62 19.32
35 9.63 11.42 13.14 14.85 17.03 18.75
36 9.45 11.17 12.92 14.59 16.76 18.43
37 9.24 10.92 12.57 14.23 16.30 17.84
38 9.06 10.73 12.36 13.92 16.02 17.62
39 8.85 10.46 12.02 13.62 15.64 17.16
40 8.70 10.25 11.80 13.30 15.25 16.62
41 8.52 10.05 11.54 13.02 14.90 16.24
42 8.38 9.90 11.37 12.86 14.77 16.08
43 8.22 9.73 11.14 12.61 14.42 15.85
44 8.07 9.51 10.92 12.30 14.07 15.44
45 7.92 9.34 10.74 12.11 13.83 15.15
46 7.80 9.20 10.54 11.87 13.61 14.94
47 7.65 9.01 10.35 11.67 13.39 14.64
48 7.54 8.88 10.16 11.46 13.05 14.38
49 7.42 8.72 10.02 11.33 12.93 14.16
50 7.32 8.61 9.86 11.11 12.73 13.91

Figura 3-12 – Distribuzione di Grubbs sulle deviazioni standard G per N =10

59
 Figura 3-13 – Distribuzione di Grubbs sulle deviazioni standard G per N =4

3.7.4.3.3 – Test di Cochran

Il test di Cochran si utilizza per individuare una (solo una) varianza abnormalmente elevata in un
gruppo di L varianze, corrispondenti a L laboratori ciascuno dei quali ha effettuato N ripetizioni.
La statistica di Cochran è:
s
C = Max  
∑ s
Il test é un test unilaterale destro e i valori critici si calcolano dalla:

L−1
C,, = 1 + #
F,,()()


dove α è il significato unilaterale destro, e F é il valore critico della variabile di Fisher con
significato unilaterale destro α/N, N-1 gradi di libertà a numeratore e (N-1)(L-1) gradi di libertà a
denominatore.
La Figura 3-14 mostra una distribuzione di Cochran. Il numero dei laboratori L ed il numero delle
ripetizioni N sono quelli dell’esempio in 3.7.4.2.4

60
 Figura 3-14 – Distribuzione di Cochran per N=2 e L = 18

Tabella 3-8 - Valori critici per diversi valori di α per il test di Cochran. Le colonne sono relative al
numero N delle ripetizioni, le righe al numero L dei laboratori.

α = 0.05
2 3 4 5 6 7 8 9 10 11 12 13 14 15
2 0.9985 0.9750 0.9392 0.9057 0.8772 0.8534 0.8332 0.8159 0.8010 0.7880 0.7765 0.7662 0.7570 0.7487
3 0.9669 0.8709 0.7977 0.7457 0.7070 0.6770 0.6531 0.6333 0.6167 0.6025 0.5902 0.5794 0.5698 0.5613
4 0.9065 0.7679 0.6839 0.6287 0.5894 0.5598 0.5365 0.5175 0.5018 0.4884 0.4769 0.4668 0.4579 0.4500
5 0.8413 0.6838 0.5981 0.5440 0.5063 0.4783 0.4564 0.4387 0.4241 0.4118 0.4012 0.3920 0.3839 0.3767
6 0.7807 0.6161 0.5321 0.4803 0.4447 0.4184 0.3980 0.3817 0.3682 0.3568 0.3471 0.3387 0.3313 0.3247
7 0.7270 0.5612 0.4800 0.4307 0.3972 0.3726 0.3536 0.3384 0.3259 0.3154 0.3064 0.2987 0.2918 0.2858
8 0.6798 0.5157 0.4377 0.3910 0.3594 0.3362 0.3185 0.3043 0.2927 0.2829 0.2746 0.2674 0.2611 0.2556
9 0.6385 0.4775 0.4027 0.3584 0.3285 0.3067 0.2901 0.2768 0.2659 0.2568 0.2491 0.2424 0.2365 0.2313
10 0.6020 0.4450 0.3733 0.3311 0.3028 0.2823 0.2666 0.2541 0.2439 0.2353 0.2281 0.2218 0.2163 0.2115
11 0.5697 0.4169 0.3482 0.3080 0.2811 0.2616 0.2468 0.2350 0.2254 0.2173 0.2105 0.2046 0.1994 0.1949
12 0.5410 0.3924 0.3264 0.2880 0.2624 0.2440 0.2299 0.2187 0.2096 0.2020 0.1955 0.1900 0.1851 0.1808
13 0.5152 0.3709 0.3074 0.2707 0.2463 0.2286 0.2152 0.2046 0.1960 0.1888 0.1827 0.1774 0.1728 0.1687
14 0.4919 0.3517 0.2907 0.2554 0.2321 0.2153 0.2025 0.1924 0.1841 0.1773 0.1714 0.1664 0.1620 0.1582
15 0.4709 0.3346 0.2758 0.2419 0.2195 0.2034 0.1912 0.1815 0.1737 0.1671 0.1616 0.1568 0.1526 0.1489
16 0.4517 0.3192 0.2624 0.2298 0.2083 0.1929 0.1812 0.1719 0.1644 0.1582 0.1528 0.1483 0.1443 0.1408
17 0.4341 0.3053 0.2504 0.2190 0.1983 0.1835 0.1722 0.1633 0.1561 0.1501 0.1450 0.1407 0.1368 0.1335
18 0.4180 0.2927 0.2395 0.2092 0.1892 0.1750 0.1641 0.1556 0.1487 0.1429 0.1380 0.1338 0.1302 0.1269
19 0.4032 0.2811 0.2296 0.2003 0.1810 0.1672 0.1568 0.1486 0.1419 0.1364 0.1317 0.1277 0.1241 0.1210
20 0.3894 0.2705 0.2205 0.1921 0.1735 0.1602 0.1502 0.1422 0.1358 0.1305 0.1259 0.1221 0.1187 0.1157
21 0.3767 0.2607 0.2122 0.1847 0.1667 0.1538 0.1441 0.1364 0.1302 0.1251 0.1207 0.1169 0.1137 0.1108
22 0.3648 0.2516 0.2045 0.1778 0.1604 0.1479 0.1385 0.1311 0.1251 0.1201 0.1159 0.1123 0.1091 0.1063
23 0.3537 0.2432 0.1974 0.1715 0.1545 0.1425 0.1333 0.1262 0.1204 0.1155 0.1115 0.1079 0.1049 0.1022
24 0.3434 0.2354 0.1908 0.1656 0.1491 0.1374 0.1286 0.1216 0.1160 0.1113 0.1074 0.1040 0.1010 0.0984
25 0.3337 0.2281 0.1846 0.1601 0.1441 0.1328 0.1242 0.1174 0.1120 0.1074 0.1036 0.1003 0.0974 0.0949
26 0.3245 0.2213 0.1789 0.1550 0.1395 0.1284 0.1201 0.1135 0.1082 0.1038 0.1001 0.0969 0.0941 0.0916
27 0.3159 0.2149 0.1735 0.1503 0.1351 0.1244 0.1162 0.1099 0.1047 0.1004 0.0968 0.0937 0.0910 0.0886
28 0.3078 0.2089 0.1685 0.1458 0.1311 0.1206 0.1127 0.1064 0.1014 0.0973 0.0937 0.0907 0.0881 0.0858
29 0.3002 0.2033 0.1638 0.1416 0.1272 0.1170 0.1093 0.1033 0.0984 0.0943 0.0909 0.0879 0.0854 0.0831
30 0.2929 0.1980 0.1593 0.1377 0.1236 0.1137 0.1061 0.1003 0.0955 0.0915 0.0882 0.0853 0.0828 0.0806
31 0.2860 0.1929 0.1551 0.1340 0.1203 0.1105 0.1032 0.0974 0.0928 0.0889 0.0857 0.0829 0.0804 0.0783
32 0.2795 0.1881 0.1511 0.1305 0.1171 0.1075 0.1004 0.0948 0.0902 0.0865 0.0833 0.0806 0.0782 0.0761
33 0.2733 0.1836 0.1474 0.1272 0.1140 0.1047 0.0977 0.0923 0.0878 0.0841 0.0810 0.0784 0.0761 0.0740
34 0.2673 0.1793 0.1438 0.1240 0.1112 0.1021 0.0952 0.0899 0.0855 0.0819 0.0789 0.0763 0.0741 0.0721
35 0.2617 0.1753 0.1404 0.1210 0.1085 0.0996 0.0929 0.0876 0.0834 0.0799 0.0769 0.0744 0.0722 0.0702

61
36 0.2563 0.1714 0.1372 0.1182 0.1059 0.0972 0.0906 0.0855 0.0813 0.0779 0.0750 0.0725 0.0704 0.0685
37 0.2511 0.1677 0.1342 0.1155 0.1035 0.0949 0.0885 0.0835 0.0794 0.0760 0.0732 0.0708 0.0686 0.0668
38 0.2462 0.1641 0.1312 0.1130 0.1011 0.0927 0.0865 0.0815 0.0776 0.0743 0.0715 0.0691 0.0670 0.0652
39 0.2415 0.1607 0.1284 0.1105 0.0989 0.0907 0.0845 0.0797 0.0758 0.0726 0.0698 0.0675 0.0655 0.0637
40 0.2369 0.1575 0.1258 0.1082 0.0968 0.0887 0.0827 0.0779 0.0741 0.0709 0.0683 0.0660 0.0640 0.0622
41 0.2326 0.1544 0.1232 0.1059 0.0948 0.0868 0.0809 0.0763 0.0725 0.0694 0.0668 0.0645 0.0626 0.0609
42 0.2284 0.1515 0.1208 0.1038 0.0928 0.0850 0.0792 0.0747 0.0710 0.0679 0.0654 0.0632 0.0612 0.0596
43 0.2244 0.1486 0.1184 0.1017 0.0910 0.0833 0.0776 0.0731 0.0695 0.0665 0.0640 0.0618 0.0600 0.0583
44 0.2205 0.1459 0.1162 0.0998 0.0892 0.0817 0.0761 0.0717 0.0681 0.0652 0.0627 0.0606 0.0587 0.0571
45 0.2168 0.1432 0.1140 0.0979 0.0875 0.0801 0.0746 0.0703 0.0668 0.0639 0.0614 0.0594 0.0576 0.0560
46 0.2132 0.1407 0.1120 0.0961 0.0858 0.0786 0.0731 0.0689 0.0655 0.0626 0.0602 0.0582 0.0564 0.0549
47 0.2097 0.1383 0.1100 0.0943 0.0842 0.0771 0.0718 0.0676 0.0642 0.0614 0.0591 0.0571 0.0553 0.0538
48 0.2064 0.1359 0.1081 0.0927 0.0827 0.0757 0.0705 0.0664 0.0630 0.0603 0.0580 0.0560 0.0543 0.0528
49 0.2032 0.1337 0.1062 0.0910 0.0813 0.0744 0.0692 0.0652 0.0619 0.0592 0.0569 0.0550 0.0533 0.0518
50 0.2000 0.1315 0.1044 0.0895 0.0799 0.0731 0.0680 0.0640 0.0608 0.0581 0.0559 0.0540 0.0523 0.0509

16 17 18 19 20 21 22 23 24 25 26 27 28 29 30
2 0.7411 0.7341 0.7278 0.7219 0.7164 0.7114 0.7066 0.7022 0.6980 0.6941 0.6904 0.6869 0.6836 0.6805 0.6775
3 0.5536 0.5466 0.5402 0.5343 0.5289 0.5239 0.5193 0.5150 0.5109 0.5071 0.5036 0.5002 0.4970 0.4941 0.4912
4 0.4430 0.4365 0.4307 0.4254 0.4205 0.4159 0.4118 0.4079 0.4042 0.4008 0.3976 0.3946 0.3918 0.3891 0.3866
5 0.3703 0.3645 0.3592 0.3544 0.3500 0.3459 0.3421 0.3386 0.3354 0.3323 0.3294 0.3267 0.3242 0.3218 0.3196
6 0.3189 0.3136 0.3088 0.3044 0.3004 0.2967 0.2933 0.2901 0.2871 0.2844 0.2818 0.2794 0.2771 0.2749 0.2729
7 0.2804 0.2756 0.2712 0.2672 0.2635 0.2601 0.2570 0.2541 0.2514 0.2489 0.2466 0.2443 0.2423 0.2403 0.2384
8 0.2506 0.2461 0.2421 0.2384 0.2350 0.2319 0.2290 0.2263 0.2239 0.2216 0.2194 0.2174 0.2154 0.2136 0.2119
9 0.2267 0.2226 0.2188 0.2154 0.2122 0.2094 0.2067 0.2042 0.2019 0.1998 0.1978 0.1959 0.1941 0.1925 0.1909
10 0.2072 0.2033 0.1998 0.1966 0.1936 0.1910 0.1885 0.1862 0.1840 0.1821 0.1802 0.1784 0.1768 0.1752 0.1738
11 0.1908 0.1872 0.1839 0.1809 0.1782 0.1756 0.1733 0.1712 0.1692 0.1673 0.1656 0.1639 0.1624 0.1609 0.1596
12 0.1770 0.1735 0.1704 0.1676 0.1650 0.1627 0.1605 0.1585 0.1566 0.1548 0.1532 0.1517 0.1502 0.1488 0.1476
13 0.1651 0.1618 0.1589 0.1562 0.1538 0.1516 0.1495 0.1476 0.1458 0.1441 0.1426 0.1411 0.1398 0.1385 0.1373
14 0.1547 0.1517 0.1489 0.1463 0.1440 0.1419 0.1400 0.1381 0.1365 0.1349 0.1334 0.1320 0.1308 0.1295 0.1284
15 0.1457 0.1427 0.1401 0.1377 0.1355 0.1335 0.1316 0.1299 0.1283 0.1268 0.1254 0.1241 0.1229 0.1217 0.1206
16 0.1376 0.1348 0.1323 0.1300 0.1279 0.1260 0.1242 0.1226 0.1211 0.1196 0.1183 0.1171 0.1159 0.1148 0.1137
17 0.1305 0.1278 0.1254 0.1232 0.1212 0.1193 0.1176 0.1161 0.1146 0.1133 0.1120 0.1108 0.1097 0.1086 0.1076
18 0.1241 0.1215 0.1192 0.1171 0.1152 0.1134 0.1118 0.1103 0.1089 0.1076 0.1063 0.1052 0.1041 0.1031 0.1022
19 0.1183 0.1158 0.1136 0.1116 0.1097 0.1080 0.1065 0.1050 0.1037 0.1024 0.1013 0.1002 0.0991 0.0982 0.0973
20 0.1130 0.1106 0.1085 0.1066 0.1048 0.1031 0.1016 0.1003 0.0990 0.0978 0.0967 0.0956 0.0946 0.0937 0.0928
21 0.1082 0.1059 0.1039 0.1020 0.1003 0.0987 0.0973 0.0959 0.0947 0.0935 0.0925 0.0914 0.0905 0.0896 0.0888
22 0.1038 0.1016 0.0996 0.0978 0.0962 0.0947 0.0933 0.0920 0.0908 0.0897 0.0886 0.0876 0.0867 0.0859 0.0851
23 0.0998 0.0977 0.0957 0.0940 0.0924 0.0909 0.0896 0.0883 0.0872 0.0861 0.0851 0.0842 0.0833 0.0824 0.0817
24 0.0961 0.0940 0.0922 0.0905 0.0889 0.0875 0.0862 0.0850 0.0839 0.0828 0.0819 0.0809 0.0801 0.0793 0.0785
25 0.0927 0.0906 0.0888 0.0872 0.0857 0.0843 0.0831 0.0819 0.0808 0.0798 0.0789 0.0780 0.0772 0.0764 0.0756
26 0.0895 0.0875 0.0858 0.0842 0.0827 0.0814 0.0802 0.0790 0.0780 0.0770 0.0761 0.0752 0.0744 0.0737 0.0730
27 0.0865 0.0846 0.0829 0.0813 0.0799 0.0786 0.0775 0.0764 0.0753 0.0744 0.0735 0.0727 0.0719 0.0712 0.0705
28 0.0837 0.0819 0.0802 0.0787 0.0773 0.0761 0.0749 0.0739 0.0729 0.0720 0.0711 0.0703 0.0695 0.0688 0.0681
29 0.0811 0.0793 0.0777 0.0763 0.0749 0.0737 0.0726 0.0715 0.0706 0.0697 0.0688 0.0681 0.0673 0.0666 0.0660
30 0.0787 0.0769 0.0754 0.0740 0.0727 0.0715 0.0704 0.0694 0.0684 0.0676 0.0667 0.0660 0.0653 0.0646 0.0639
31 0.0764 0.0747 0.0732 0.0718 0.0705 0.0694 0.0683 0.0673 0.0664 0.0656 0.0648 0.0640 0.0633 0.0627 0.0621
32 0.0742 0.0726 0.0711 0.0698 0.0685 0.0674 0.0663 0.0654 0.0645 0.0637 0.0629 0.0622 0.0615 0.0609 0.0603
33 0.0722 0.0706 0.0691 0.0678 0.0666 0.0655 0.0645 0.0636 0.0627 0.0619 0.0611 0.0604 0.0598 0.0592 0.0586
34 0.0703 0.0687 0.0673 0.0660 0.0648 0.0638 0.0628 0.0619 0.0610 0.0602 0.0595 0.0588 0.0582 0.0576 0.0571
35 0.0685 0.0669 0.0656 0.0643 0.0632 0.0621 0.0611 0.0602 0.0594 0.0586 0.0579 0.0573 0.0567 0.0561 0.0556
36 0.0668 0.0653 0.0639 0.0627 0.0616 0.0605 0.0596 0.0587 0.0579 0.0571 0.0565 0.0558 0.0552 0.0547 0.0542
37 0.0651 0.0637 0.0623 0.0611 0.0600 0.0590 0.0581 0.0572 0.0565 0.0557 0.0551 0.0545 0.0539 0.0533 0.0528
38 0.0636 0.0621 0.0608 0.0597 0.0586 0.0576 0.0567 0.0559 0.0551 0.0544 0.0538 0.0532 0.0526 0.0521 0.0516
39 0.0621 0.0607 0.0594 0.0583 0.0572 0.0563 0.0554 0.0545 0.0538 0.0531 0.0525 0.0519 0.0514 0.0508 0.0504
40 0.0607 0.0593 0.0581 0.0569 0.0559 0.0550 0.0541 0.0533 0.0526 0.0519 0.0513 0.0507 0.0502 0.0497 0.0492
41 0.0594 0.0580 0.0568 0.0557 0.0547 0.0537 0.0529 0.0521 0.0514 0.0508 0.0502 0.0496 0.0491 0.0486 0.0481
42 0.0581 0.0567 0.0555 0.0545 0.0535 0.0526 0.0517 0.0510 0.0503 0.0497 0.0491 0.0485 0.0480 0.0475 0.0471
43 0.0568 0.0555 0.0544 0.0533 0.0523 0.0514 0.0506 0.0499 0.0492 0.0486 0.0480 0.0475 0.0470 0.0465 0.0461
44 0.0557 0.0544 0.0532 0.0522 0.0512 0.0504 0.0496 0.0489 0.0482 0.0476 0.0470 0.0465 0.0460 0.0455 0.0451
45 0.0546 0.0533 0.0522 0.0511 0.0502 0.0494 0.0486 0.0479 0.0473 0.0467 0.0461 0.0456 0.0451 0.0446 0.0442
46 0.0535 0.0522 0.0511 0.0501 0.0492 0.0484 0.0476 0.0470 0.0463 0.0457 0.0452 0.0447 0.0442 0.0437 0.0433
47 0.0524 0.0512 0.0501 0.0491 0.0482 0.0475 0.0467 0.0461 0.0454 0.0448 0.0443 0.0438 0.0433 0.0429 0.0424
48 0.0514 0.0503 0.0492 0.0482 0.0473 0.0466 0.0458 0.0452 0.0446 0.0440 0.0435 0.0430 0.0425 0.0421 0.0416
49 0.0505 0.0493 0.0483 0.0473 0.0465 0.0457 0.0450 0.0443 0.0437 0.0432 0.0426 0.0422 0.0417 0.0413 0.0409
50 0.0496 0.0484 0.0474 0.0464 0.0456 0.0449 0.0442 0.0435 0.0429 0.0424 0.0419 0.0414 0.0409 0.0405 0.0401

α = 0.02
2 3 4 5 6 7 8 9 10 11 12 13 14 15
2 0.9998 0.9900 0.9672 0.9411 0.9164 0.8944 0.8749 0.8577 0.8425 0.8290 0.8169 0.8060 0.7961 0.7871
3 0.9867 0.9184 0.8521 0.8004 0.7602 0.7281 0.7019 0.6801 0.6616 0.6457 0.6318 0.6195 0.6086 0.5988

62
4 0.9488 0.8290 0.7440 0.6849 0.6417 0.6085 0.5821 0.5605 0.5425 0.5271 0.5138 0.5022 0.4919 0.4828
5 0.8985 0.7485 0.6572 0.5973 0.5547 0.5227 0.4975 0.4771 0.4603 0.4460 0.4337 0.4230 0.4135 0.4052
6 0.8463 0.6804 0.5882 0.5297 0.4889 0.4586 0.4350 0.4160 0.4003 0.3871 0.3758 0.3659 0.3573 0.3496
7 0.7966 0.6233 0.5325 0.4763 0.4376 0.4090 0.3869 0.3692 0.3547 0.3424 0.3320 0.3229 0.3150 0.3079
8 0.7510 0.5751 0.4869 0.4331 0.3965 0.3696 0.3489 0.3323 0.3187 0.3074 0.2977 0.2893 0.2819 0.2754
9 0.7096 0.5340 0.4487 0.3974 0.3627 0.3373 0.3179 0.3024 0.2897 0.2791 0.2700 0.2622 0.2554 0.2493
10 0.6723 0.4987 0.4165 0.3675 0.3345 0.3105 0.2922 0.2776 0.2657 0.2557 0.2473 0.2399 0.2335 0.2279
11 0.6386 0.4679 0.3887 0.3419 0.3106 0.2879 0.2705 0.2568 0.2455 0.2361 0.2282 0.2213 0.2153 0.2100
12 0.6082 0.4410 0.3647 0.3199 0.2900 0.2684 0.2520 0.2389 0.2283 0.2195 0.2119 0.2054 0.1998 0.1948
13 0.5806 0.4171 0.3435 0.3007 0.2721 0.2516 0.2359 0.2235 0.2135 0.2051 0.1979 0.1918 0.1864 0.1817
14 0.5554 0.3958 0.3249 0.2837 0.2564 0.2368 0.2219 0.2101 0.2005 0.1925 0.1857 0.1799 0.1748 0.1703
15 0.5325 0.3768 0.3083 0.2687 0.2426 0.2238 0.2095 0.1982 0.1891 0.1815 0.1750 0.1695 0.1646 0.1604
16 0.5115 0.3596 0.2934 0.2553 0.2302 0.2121 0.1985 0.1877 0.1790 0.1717 0.1655 0.1602 0.1556 0.1515
17 0.4922 0.3440 0.2799 0.2432 0.2190 0.2017 0.1886 0.1783 0.1699 0.1629 0.1570 0.1520 0.1475 0.1437
18 0.4743 0.3298 0.2677 0.2323 0.2090 0.1923 0.1797 0.1698 0.1618 0.1551 0.1494 0.1445 0.1403 0.1366
19 0.4578 0.3168 0.2566 0.2224 0.1999 0.1838 0.1717 0.1621 0.1544 0.1480 0.1425 0.1378 0.1338 0.1302
20 0.4425 0.3048 0.2465 0.2133 0.1916 0.1761 0.1644 0.1552 0.1477 0.1415 0.1363 0.1318 0.1279 0.1244
21 0.4282 0.2938 0.2371 0.2050 0.1840 0.1690 0.1577 0.1488 0.1416 0.1356 0.1306 0.1262 0.1224 0.1191
22 0.4149 0.2836 0.2285 0.1973 0.1770 0.1625 0.1515 0.1429 0.1360 0.1302 0.1253 0.1211 0.1175 0.1143
23 0.4025 0.2741 0.2205 0.1902 0.1705 0.1564 0.1459 0.1375 0.1308 0.1252 0.1205 0.1165 0.1129 0.1098
24 0.3908 0.2653 0.2131 0.1837 0.1645 0.1509 0.1406 0.1326 0.1260 0.1206 0.1161 0.1121 0.1087 0.1057
25 0.3799 0.2570 0.2062 0.1776 0.1590 0.1457 0.1358 0.1279 0.1216 0.1164 0.1119 0.1082 0.1049 0.1020
26 0.3696 0.2493 0.1998 0.1719 0.1538 0.1409 0.1312 0.1236 0.1175 0.1124 0.1081 0.1044 0.1012 0.0984
27 0.3598 0.2421 0.1937 0.1666 0.1490 0.1364 0.1270 0.1196 0.1137 0.1087 0.1046 0.1010 0.0979 0.0952
28 0.3506 0.2353 0.1881 0.1616 0.1444 0.1322 0.1231 0.1159 0.1101 0.1053 0.1012 0.0978 0.0947 0.0921
29 0.3419 0.2289 0.1828 0.1569 0.1402 0.1283 0.1194 0.1124 0.1068 0.1021 0.0981 0.0948 0.0918 0.0892
30 0.3337 0.2229 0.1778 0.1526 0.1362 0.1246 0.1159 0.1091 0.1036 0.0991 0.0952 0.0919 0.0891 0.0865
31 0.3259 0.2172 0.1730 0.1484 0.1325 0.1212 0.1127 0.1060 0.1007 0.0962 0.0925 0.0893 0.0865 0.0840
32 0.3184 0.2118 0.1686 0.1445 0.1289 0.1179 0.1096 0.1031 0.0979 0.0935 0.0899 0.0868 0.0840 0.0817
33 0.3113 0.2067 0.1643 0.1408 0.1256 0.1148 0.1067 0.1004 0.0952 0.0910 0.0875 0.0844 0.0817 0.0794
34 0.3046 0.2018 0.1603 0.1373 0.1224 0.1118 0.1039 0.0978 0.0928 0.0886 0.0851 0.0822 0.0796 0.0773
35 0.2981 0.1972 0.1565 0.1340 0.1194 0.1091 0.1013 0.0953 0.0904 0.0864 0.0830 0.0801 0.0775 0.0753
36 0.2920 0.1928 0.1529 0.1308 0.1165 0.1064 0.0989 0.0929 0.0882 0.0842 0.0809 0.0780 0.0756 0.0734
37 0.2861 0.1886 0.1495 0.1278 0.1138 0.1039 0.0965 0.0907 0.0861 0.0822 0.0789 0.0761 0.0737 0.0716
38 0.2805 0.1846 0.1462 0.1249 0.1112 0.1015 0.0943 0.0886 0.0840 0.0803 0.0771 0.0743 0.0720 0.0699
39 0.2751 0.1807 0.1431 0.1222 0.1088 0.0993 0.0922 0.0866 0.0821 0.0784 0.0753 0.0726 0.0703 0.0683
40 0.2699 0.1771 0.1401 0.1196 0.1064 0.0971 0.0901 0.0847 0.0803 0.0767 0.0736 0.0710 0.0687 0.0667
41 0.2649 0.1736 0.1372 0.1171 0.1042 0.0950 0.0882 0.0828 0.0785 0.0750 0.0720 0.0694 0.0672 0.0652
42 0.2601 0.1702 0.1345 0.1147 0.1020 0.0930 0.0863 0.0811 0.0769 0.0734 0.0704 0.0679 0.0657 0.0638
43 0.2555 0.1670 0.1318 0.1124 0.1000 0.0911 0.0846 0.0794 0.0753 0.0718 0.0690 0.0665 0.0643 0.0625
44 0.2511 0.1639 0.1293 0.1102 0.0980 0.0893 0.0829 0.0778 0.0737 0.0704 0.0675 0.0651 0.0630 0.0612
45 0.2468 0.1609 0.1269 0.1081 0.0961 0.0876 0.0812 0.0763 0.0723 0.0690 0.0662 0.0638 0.0617 0.0599
46 0.2427 0.1580 0.1246 0.1061 0.0943 0.0859 0.0797 0.0748 0.0709 0.0676 0.0649 0.0626 0.0605 0.0587
47 0.2388 0.1553 0.1223 0.1042 0.0925 0.0843 0.0782 0.0734 0.0695 0.0663 0.0636 0.0613 0.0594 0.0576
48 0.2349 0.1526 0.1202 0.1023 0.0908 0.0828 0.0767 0.0720 0.0682 0.0651 0.0624 0.0602 0.0582 0.0565
49 0.2312 0.1501 0.1181 0.1005 0.0892 0.0813 0.0753 0.0707 0.0670 0.0639 0.0613 0.0591 0.0571 0.0555
50 0.2277 0.1476 0.1161 0.0988 0.0877 0.0798 0.0740 0.0694 0.0658 0.0627 0.0602 0.0580 0.0561 0.0544

16 17 18 19 20 21 22 23 24 25 26 27 28 29 30
2 0.7789 0.7713 0.7643 0.7578 0.7517 0.7460 0.7408 0.7358 0.7311 0.7267 0.7225 0.7186 0.7149 0.7113 0.7079
3 0.5900 0.5819 0.5746 0.5678 0.5616 0.5558 0.5505 0.5455 0.5408 0.5364 0.5323 0.5284 0.5247 0.5212 0.5179
4 0.4746 0.4671 0.4603 0.4541 0.4484 0.4431 0.4382 0.4337 0.4294 0.4255 0.4217 0.4182 0.4149 0.4118 0.4088
5 0.3976 0.3909 0.3847 0.3791 0.3739 0.3692 0.3648 0.3607 0.3569 0.3533 0.3499 0.3468 0.3438 0.3411 0.3384
6 0.3428 0.3366 0.3310 0.3259 0.3212 0.3169 0.3129 0.3092 0.3058 0.3025 0.2995 0.2967 0.2940 0.2915 0.2891
7 0.3016 0.2960 0.2908 0.2862 0.2819 0.2780 0.2743 0.2710 0.2678 0.2649 0.2621 0.2596 0.2571 0.2549 0.2527
8 0.2696 0.2644 0.2597 0.2554 0.2514 0.2478 0.2445 0.2414 0.2385 0.2358 0.2333 0.2309 0.2287 0.2266 0.2246
9 0.2439 0.2391 0.2347 0.2307 0.2271 0.2237 0.2206 0.2178 0.2151 0.2126 0.2103 0.2081 0.2061 0.2041 0.2023
10 0.2229 0.2184 0.2143 0.2106 0.2072 0.2040 0.2012 0.1985 0.1960 0.1937 0.1916 0.1895 0.1876 0.1858 0.1841
11 0.2053 0.2010 0.1972 0.1937 0.1906 0.1876 0.1850 0.1825 0.1801 0.1780 0.1760 0.1741 0.1723 0.1706 0.1690
12 0.1903 0.1864 0.1828 0.1795 0.1765 0.1738 0.1712 0.1689 0.1667 0.1647 0.1628 0.1610 0.1594 0.1578 0.1563
13 0.1775 0.1738 0.1704 0.1673 0.1644 0.1619 0.1595 0.1573 0.1552 0.1533 0.1515 0.1498 0.1483 0.1468 0.1454
14 0.1664 0.1628 0.1596 0.1566 0.1540 0.1515 0.1493 0.1472 0.1452 0.1434 0.1417 0.1401 0.1387 0.1373 0.1359
15 0.1566 0.1532 0.1501 0.1473 0.1448 0.1425 0.1403 0.1383 0.1365 0.1348 0.1332 0.1317 0.1303 0.1289 0.1277
16 0.1479 0.1447 0.1418 0.1391 0.1367 0.1345 0.1324 0.1305 0.1288 0.1271 0.1256 0.1242 0.1228 0.1216 0.1204
17 0.1402 0.1371 0.1343 0.1318 0.1295 0.1273 0.1254 0.1236 0.1219 0.1204 0.1189 0.1175 0.1163 0.1150 0.1139
18 0.1333 0.1303 0.1276 0.1252 0.1230 0.1210 0.1191 0.1174 0.1158 0.1143 0.1129 0.1116 0.1103 0.1092 0.1081
19 0.1270 0.1242 0.1216 0.1193 0.1172 0.1152 0.1134 0.1118 0.1102 0.1088 0.1075 0.1062 0.1050 0.1039 0.1029
20 0.1213 0.1186 0.1161 0.1139 0.1119 0.1100 0.1083 0.1067 0.1052 0.1038 0.1025 0.1013 0.1002 0.0992 0.0982
21 0.1162 0.1135 0.1112 0.1090 0.1070 0.1052 0.1036 0.1021 0.1006 0.0993 0.0981 0.0969 0.0958 0.0948 0.0939
22 0.1114 0.1089 0.1066 0.1045 0.1026 0.1009 0.0993 0.0978 0.0965 0.0952 0.0940 0.0929 0.0918 0.0908 0.0899
23 0.1071 0.1046 0.1024 0.1004 0.0986 0.0969 0.0954 0.0939 0.0926 0.0914 0.0902 0.0892 0.0882 0.0872 0.0863
24 0.1031 0.1007 0.0986 0.0966 0.0949 0.0932 0.0917 0.0904 0.0891 0.0879 0.0868 0.0858 0.0848 0.0839 0.0830

63
25 0.0994 0.0971 0.0950 0.0931 0.0914 0.0898 0.0884 0.0871 0.0858 0.0847 0.0836 0.0826 0.0817 0.0808 0.0799
26 0.0959 0.0937 0.0917 0.0899 0.0882 0.0867 0.0853 0.0840 0.0828 0.0817 0.0806 0.0797 0.0788 0.0779 0.0771
27 0.0927 0.0906 0.0886 0.0868 0.0852 0.0838 0.0824 0.0811 0.0800 0.0789 0.0779 0.0769 0.0761 0.0752 0.0744
28 0.0897 0.0876 0.0857 0.0840 0.0825 0.0810 0.0797 0.0785 0.0774 0.0763 0.0753 0.0744 0.0736 0.0727 0.0720
29 0.0869 0.0849 0.0831 0.0814 0.0799 0.0785 0.0772 0.0760 0.0749 0.0739 0.0729 0.0720 0.0712 0.0704 0.0697
30 0.0843 0.0823 0.0805 0.0789 0.0774 0.0761 0.0748 0.0737 0.0726 0.0716 0.0707 0.0698 0.0690 0.0682 0.0675
31 0.0819 0.0799 0.0782 0.0766 0.0751 0.0738 0.0726 0.0715 0.0705 0.0695 0.0686 0.0677 0.0670 0.0662 0.0655
32 0.0795 0.0776 0.0759 0.0744 0.0730 0.0717 0.0705 0.0694 0.0684 0.0675 0.0666 0.0658 0.0650 0.0643 0.0637
33 0.0774 0.0755 0.0738 0.0723 0.0710 0.0697 0.0686 0.0675 0.0665 0.0656 0.0647 0.0639 0.0632 0.0625 0.0619
34 0.0753 0.0735 0.0719 0.0704 0.0691 0.0678 0.0667 0.0657 0.0647 0.0638 0.0630 0.0622 0.0615 0.0608 0.0602
35 0.0733 0.0716 0.0700 0.0686 0.0673 0.0661 0.0650 0.0639 0.0630 0.0621 0.0613 0.0606 0.0599 0.0593 0.0587
36 0.0715 0.0698 0.0682 0.0668 0.0655 0.0644 0.0633 0.0623 0.0614 0.0605 0.0598 0.0590 0.0584 0.0578 0.0572
37 0.0697 0.0680 0.0665 0.0652 0.0639 0.0628 0.0617 0.0608 0.0599 0.0590 0.0583 0.0576 0.0569 0.0563 0.0558
38 0.0681 0.0664 0.0649 0.0636 0.0624 0.0613 0.0602 0.0593 0.0584 0.0576 0.0569 0.0562 0.0556 0.0550 0.0544
39 0.0665 0.0649 0.0634 0.0621 0.0609 0.0598 0.0588 0.0579 0.0570 0.0563 0.0556 0.0549 0.0543 0.0537 0.0531
40 0.0649 0.0634 0.0620 0.0607 0.0595 0.0584 0.0574 0.0565 0.0557 0.0550 0.0543 0.0536 0.0530 0.0525 0.0519
41 0.0635 0.0620 0.0606 0.0593 0.0582 0.0571 0.0562 0.0553 0.0545 0.0538 0.0531 0.0524 0.0518 0.0513 0.0508
42 0.0621 0.0606 0.0592 0.0580 0.0569 0.0559 0.0549 0.0541 0.0533 0.0526 0.0519 0.0513 0.0507 0.0502 0.0496
43 0.0608 0.0593 0.0580 0.0568 0.0557 0.0547 0.0538 0.0529 0.0522 0.0515 0.0508 0.0502 0.0496 0.0491 0.0486
44 0.0595 0.0581 0.0568 0.0556 0.0545 0.0535 0.0527 0.0518 0.0511 0.0504 0.0498 0.0492 0.0486 0.0481 0.0476
45 0.0583 0.0569 0.0556 0.0545 0.0534 0.0524 0.0516 0.0508 0.0501 0.0494 0.0488 0.0482 0.0476 0.0471 0.0466
46 0.0572 0.0558 0.0545 0.0534 0.0523 0.0514 0.0506 0.0498 0.0491 0.0484 0.0478 0.0472 0.0467 0.0461 0.0457
47 0.0561 0.0547 0.0534 0.0523 0.0513 0.0504 0.0496 0.0488 0.0481 0.0475 0.0469 0.0463 0.0457 0.0452 0.0448
48 0.0550 0.0536 0.0524 0.0513 0.0503 0.0495 0.0486 0.0479 0.0472 0.0466 0.0460 0.0454 0.0449 0.0444 0.0439
49 0.0540 0.0526 0.0514 0.0504 0.0494 0.0485 0.0477 0.0470 0.0463 0.0457 0.0451 0.0445 0.0440 0.0435 0.0431
50 0.0530 0.0517 0.0505 0.0494 0.0485 0.0477 0.0469 0.0462 0.0455 0.0449 0.0443 0.0437 0.0432 0.0427 0.0423

α = 0.01
2 3 4 5 6 7 8 9 10 11 12 13 14 15
2 0.9999 0.9950 0.9794 0.9586 0.9373 0.9172 0.8988 0.8823 0.8674 0.8539 0.8418 0.8307 0.8206 0.8113
3 0.9933 0.9423 0.8832 0.8335 0.7933 0.7606 0.7335 0.7107 0.6912 0.6743 0.6595 0.6463 0.6346 0.6241
4 0.9676 0.8643 0.7814 0.7212 0.6761 0.6410 0.6129 0.5897 0.5702 0.5536 0.5392 0.5266 0.5154 0.5054
5 0.9279 0.7885 0.6957 0.6329 0.5875 0.5531 0.5259 0.5038 0.4853 0.4697 0.4563 0.4446 0.4342 0.4251
6 0.8828 0.7218 0.6258 0.5635 0.5195 0.4866 0.4609 0.4401 0.4229 0.4084 0.3960 0.3852 0.3757 0.3672
7 0.8376 0.6644 0.5685 0.5080 0.4659 0.4347 0.4105 0.3911 0.3751 0.3616 0.3501 0.3402 0.3314 0.3237
8 0.7945 0.6152 0.5210 0.4627 0.4227 0.3932 0.3705 0.3523 0.3373 0.3248 0.3141 0.3049 0.2968 0.2896
9 0.7544 0.5727 0.4810 0.4251 0.3870 0.3592 0.3378 0.3207 0.3067 0.2950 0.2850 0.2764 0.2689 0.2622
10 0.7175 0.5358 0.4469 0.3934 0.3572 0.3308 0.3106 0.2945 0.2814 0.2704 0.2611 0.2530 0.2459 0.2397
11 0.6837 0.5036 0.4175 0.3663 0.3318 0.3068 0.2876 0.2725 0.2601 0.2497 0.2409 0.2334 0.2267 0.2209
12 0.6528 0.4751 0.3919 0.3428 0.3099 0.2861 0.2680 0.2536 0.2419 0.2321 0.2238 0.2166 0.2104 0.2049
13 0.6245 0.4498 0.3695 0.3223 0.2909 0.2682 0.2509 0.2373 0.2261 0.2169 0.2090 0.2022 0.1963 0.1911
14 0.5986 0.4272 0.3495 0.3042 0.2741 0.2525 0.2360 0.2230 0.2124 0.2036 0.1961 0.1897 0.1841 0.1792
15 0.5747 0.4069 0.3318 0.2882 0.2593 0.2386 0.2228 0.2104 0.2003 0.1919 0.1848 0.1787 0.1734 0.1687
16 0.5527 0.3885 0.3158 0.2738 0.2461 0.2262 0.2111 0.1992 0.1896 0.1815 0.1748 0.1689 0.1638 0.1594
17 0.5324 0.3718 0.3014 0.2609 0.2342 0.2151 0.2006 0.1892 0.1800 0.1723 0.1658 0.1602 0.1553 0.1511
18 0.5136 0.3566 0.2883 0.2492 0.2234 0.2051 0.1911 0.1802 0.1713 0.1640 0.1577 0.1524 0.1477 0.1436
19 0.4961 0.3426 0.2763 0.2385 0.2137 0.1960 0.1826 0.1720 0.1635 0.1564 0.1504 0.1453 0.1408 0.1369
20 0.4799 0.3297 0.2654 0.2288 0.2048 0.1877 0.1748 0.1646 0.1564 0.1496 0.1438 0.1389 0.1346 0.1308
21 0.4647 0.3178 0.2553 0.2199 0.1966 0.1801 0.1676 0.1578 0.1499 0.1433 0.1378 0.1330 0.1289 0.1252
22 0.4505 0.3068 0.2461 0.2116 0.1891 0.1731 0.1611 0.1516 0.1439 0.1376 0.1322 0.1276 0.1236 0.1201
23 0.4372 0.2966 0.2375 0.2040 0.1822 0.1667 0.1550 0.1459 0.1385 0.1323 0.1271 0.1227 0.1188 0.1154
24 0.4247 0.2871 0.2295 0.1970 0.1758 0.1608 0.1495 0.1406 0.1334 0.1275 0.1224 0.1181 0.1144 0.1111
25 0.4130 0.2782 0.2220 0.1904 0.1699 0.1553 0.1443 0.1357 0.1287 0.1229 0.1181 0.1139 0.1103 0.1071
26 0.4019 0.2699 0.2151 0.1843 0.1643 0.1501 0.1395 0.1311 0.1244 0.1188 0.1140 0.1100 0.1065 0.1034
27 0.3914 0.2621 0.2086 0.1786 0.1591 0.1453 0.1350 0.1268 0.1203 0.1149 0.1103 0.1064 0.1029 0.1000
28 0.3815 0.2547 0.2025 0.1733 0.1543 0.1409 0.1308 0.1229 0.1165 0.1112 0.1068 0.1029 0.0996 0.0967
29 0.3721 0.2478 0.1968 0.1682 0.1498 0.1367 0.1268 0.1191 0.1129 0.1078 0.1035 0.0998 0.0965 0.0937
30 0.3632 0.2412 0.1914 0.1635 0.1455 0.1327 0.1231 0.1156 0.1096 0.1046 0.1004 0.0968 0.0936 0.0909
31 0.3548 0.2351 0.1863 0.1591 0.1415 0.1290 0.1197 0.1124 0.1065 0.1016 0.0975 0.0940 0.0909 0.0882
32 0.3467 0.2292 0.1815 0.1549 0.1377 0.1255 0.1164 0.1093 0.1035 0.0988 0.0948 0.0913 0.0883 0.0857
33 0.3390 0.2237 0.1769 0.1509 0.1341 0.1222 0.1133 0.1063 0.1007 0.0961 0.0922 0.0888 0.0859 0.0834
34 0.3317 0.2184 0.1726 0.1471 0.1307 0.1191 0.1104 0.1036 0.0981 0.0936 0.0897 0.0865 0.0836 0.0812
35 0.3247 0.2134 0.1685 0.1435 0.1274 0.1161 0.1076 0.1009 0.0956 0.0912 0.0874 0.0842 0.0815 0.0790
36 0.3181 0.2086 0.1646 0.1401 0.1244 0.1133 0.1050 0.0985 0.0932 0.0889 0.0852 0.0821 0.0794 0.0770
37 0.3117 0.2041 0.1608 0.1369 0.1215 0.1106 0.1025 0.0961 0.0910 0.0867 0.0832 0.0801 0.0775 0.0752
38 0.3056 0.1997 0.1573 0.1338 0.1187 0.1080 0.1001 0.0938 0.0888 0.0847 0.0812 0.0782 0.0756 0.0733
39 0.2997 0.1956 0.1539 0.1309 0.1161 0.1056 0.0978 0.0917 0.0868 0.0827 0.0793 0.0764 0.0739 0.0716
40 0.2940 0.1916 0.1507 0.1281 0.1135 0.1033 0.0956 0.0897 0.0848 0.0809 0.0775 0.0747 0.0722 0.0700
41 0.2886 0.1878 0.1476 0.1254 0.1111 0.1011 0.0936 0.0877 0.0830 0.0791 0.0758 0.0730 0.0706 0.0684
42 0.2834 0.1841 0.1446 0.1228 0.1088 0.0990 0.0916 0.0858 0.0812 0.0774 0.0742 0.0714 0.0690 0.0670
43 0.2784 0.1806 0.1418 0.1204 0.1066 0.0969 0.0897 0.0841 0.0795 0.0758 0.0726 0.0699 0.0676 0.0655

64
44 0.2736 0.1772 0.1391 0.1180 0.1045 0.0950 0.0879 0.0824 0.0779 0.0742 0.0711 0.0685 0.0662 0.0642
45 0.2690 0.1740 0.1364 0.1158 0.1025 0.0931 0.0862 0.0807 0.0763 0.0727 0.0697 0.0671 0.0648 0.0629
46 0.2645 0.1709 0.1339 0.1136 0.1005 0.0914 0.0845 0.0792 0.0749 0.0713 0.0683 0.0658 0.0636 0.0616
47 0.2602 0.1679 0.1315 0.1115 0.0987 0.0896 0.0829 0.0776 0.0734 0.0699 0.0670 0.0645 0.0623 0.0604
48 0.2560 0.1650 0.1292 0.1095 0.0969 0.0880 0.0814 0.0762 0.0720 0.0686 0.0657 0.0633 0.0611 0.0593
49 0.2520 0.1622 0.1269 0.1076 0.0951 0.0864 0.0799 0.0748 0.0707 0.0673 0.0645 0.0621 0.0600 0.0582
50 0.2481 0.1596 0.1248 0.1057 0.0935 0.0849 0.0785 0.0735 0.0694 0.0661 0.0633 0.0610 0.0589 0.0571

16 17 18 19 20 21 22 23 24 25 26 27 28 29 30
2 0.8028 0.7949 0.7875 0.7807 0.7744 0.7684 0.7628 0.7576 0.7526 0.7479 0.7435 0.7393 0.7353 0.7314 0.7278
3 0.6145 0.6058 0.5979 0.5906 0.5838 0.5775 0.5717 0.5662 0.5611 0.5563 0.5518 0.5476 0.5436 0.5398 0.5361
4 0.4964 0.4882 0.4808 0.4740 0.4678 0.4620 0.4566 0.4516 0.4470 0.4426 0.4385 0.4347 0.4310 0.4276 0.4243
5 0.4168 0.4094 0.4026 0.3964 0.3907 0.3855 0.3807 0.3762 0.3720 0.3680 0.3644 0.3609 0.3577 0.3546 0.3517
6 0.3597 0.3529 0.3467 0.3411 0.3360 0.3312 0.3268 0.3228 0.3190 0.3154 0.3121 0.3090 0.3060 0.3033 0.3007
7 0.3167 0.3105 0.3048 0.2997 0.2950 0.2907 0.2867 0.2829 0.2795 0.2763 0.2732 0.2704 0.2677 0.2652 0.2629
8 0.2832 0.2774 0.2722 0.2675 0.2632 0.2592 0.2555 0.2521 0.2489 0.2460 0.2432 0.2406 0.2382 0.2359 0.2337
9 0.2563 0.2509 0.2461 0.2417 0.2377 0.2340 0.2306 0.2275 0.2245 0.2218 0.2193 0.2169 0.2146 0.2125 0.2105
10 0.2342 0.2292 0.2247 0.2206 0.2169 0.2135 0.2103 0.2074 0.2046 0.2021 0.1997 0.1975 0.1954 0.1934 0.1916
11 0.2157 0.2110 0.2068 0.2030 0.1995 0.1963 0.1933 0.1906 0.1881 0.1857 0.1835 0.1814 0.1794 0.1776 0.1759
12 0.2000 0.1956 0.1917 0.1881 0.1848 0.1818 0.1790 0.1764 0.1740 0.1718 0.1697 0.1678 0.1659 0.1642 0.1626
13 0.1865 0.1824 0.1786 0.1752 0.1721 0.1693 0.1667 0.1643 0.1620 0.1599 0.1579 0.1561 0.1544 0.1528 0.1512
14 0.1748 0.1709 0.1673 0.1641 0.1612 0.1585 0.1560 0.1537 0.1516 0.1496 0.1477 0.1460 0.1444 0.1428 0.1414
15 0.1645 0.1608 0.1574 0.1543 0.1516 0.1490 0.1466 0.1445 0.1424 0.1406 0.1388 0.1372 0.1356 0.1342 0.1328
16 0.1554 0.1518 0.1486 0.1457 0.1431 0.1406 0.1384 0.1363 0.1344 0.1326 0.1309 0.1294 0.1279 0.1265 0.1252
17 0.1473 0.1439 0.1408 0.1380 0.1355 0.1332 0.1310 0.1290 0.1272 0.1255 0.1239 0.1224 0.1210 0.1197 0.1184
18 0.1400 0.1367 0.1338 0.1311 0.1287 0.1265 0.1244 0.1225 0.1208 0.1191 0.1176 0.1162 0.1149 0.1136 0.1124
19 0.1334 0.1303 0.1275 0.1249 0.1226 0.1204 0.1185 0.1167 0.1150 0.1134 0.1120 0.1106 0.1093 0.1081 0.1070
20 0.1274 0.1244 0.1217 0.1193 0.1170 0.1150 0.1131 0.1114 0.1097 0.1082 0.1068 0.1055 0.1043 0.1031 0.1020
21 0.1220 0.1191 0.1165 0.1141 0.1120 0.1100 0.1082 0.1065 0.1050 0.1035 0.1022 0.1009 0.0997 0.0986 0.0976
22 0.1170 0.1142 0.1117 0.1094 0.1074 0.1055 0.1037 0.1021 0.1006 0.0992 0.0979 0.0967 0.0955 0.0945 0.0935
23 0.1124 0.1097 0.1073 0.1051 0.1031 0.1013 0.0996 0.0980 0.0966 0.0952 0.0940 0.0928 0.0917 0.0907 0.0897
24 0.1082 0.1056 0.1033 0.1011 0.0992 0.0974 0.0958 0.0943 0.0929 0.0916 0.0904 0.0893 0.0882 0.0872 0.0862
25 0.1043 0.1018 0.0995 0.0975 0.0956 0.0939 0.0923 0.0908 0.0895 0.0882 0.0871 0.0860 0.0849 0.0840 0.0831
26 0.1007 0.0982 0.0960 0.0940 0.0922 0.0906 0.0890 0.0876 0.0863 0.0851 0.0840 0.0829 0.0819 0.0810 0.0801
27 0.0973 0.0949 0.0928 0.0909 0.0891 0.0875 0.0860 0.0846 0.0834 0.0822 0.0811 0.0801 0.0791 0.0782 0.0773
28 0.0942 0.0919 0.0898 0.0879 0.0862 0.0846 0.0832 0.0819 0.0806 0.0795 0.0784 0.0774 0.0765 0.0756 0.0748
29 0.0912 0.0890 0.0870 0.0851 0.0835 0.0820 0.0806 0.0793 0.0781 0.0770 0.0759 0.0750 0.0740 0.0732 0.0724
30 0.0885 0.0863 0.0843 0.0825 0.0809 0.0794 0.0781 0.0768 0.0757 0.0746 0.0736 0.0726 0.0718 0.0709 0.0701
31 0.0859 0.0837 0.0818 0.0801 0.0785 0.0771 0.0758 0.0746 0.0734 0.0724 0.0714 0.0705 0.0696 0.0688 0.0680
32 0.0834 0.0814 0.0795 0.0778 0.0763 0.0749 0.0736 0.0724 0.0713 0.0703 0.0693 0.0684 0.0676 0.0668 0.0661
33 0.0811 0.0791 0.0773 0.0757 0.0742 0.0728 0.0715 0.0704 0.0693 0.0683 0.0674 0.0665 0.0657 0.0650 0.0643
34 0.0790 0.0770 0.0752 0.0736 0.0722 0.0708 0.0696 0.0685 0.0674 0.0664 0.0655 0.0647 0.0639 0.0632 0.0626
35 0.0769 0.0750 0.0732 0.0717 0.0703 0.0690 0.0678 0.0667 0.0656 0.0647 0.0638 0.0630 0.0623 0.0616 0.0609
36 0.0749 0.0731 0.0714 0.0699 0.0685 0.0672 0.0660 0.0649 0.0639 0.0630 0.0622 0.0614 0.0607 0.0600 0.0594
37 0.0731 0.0713 0.0696 0.0681 0.0668 0.0655 0.0644 0.0633 0.0623 0.0614 0.0606 0.0599 0.0592 0.0585 0.0579
38 0.0713 0.0695 0.0679 0.0665 0.0651 0.0639 0.0628 0.0618 0.0608 0.0600 0.0592 0.0584 0.0578 0.0571 0.0565
39 0.0697 0.0679 0.0663 0.0649 0.0636 0.0624 0.0613 0.0603 0.0594 0.0586 0.0578 0.0571 0.0564 0.0558 0.0552
40 0.0681 0.0664 0.0648 0.0634 0.0621 0.0610 0.0599 0.0589 0.0580 0.0572 0.0565 0.0558 0.0551 0.0545 0.0539
41 0.0666 0.0649 0.0634 0.0620 0.0607 0.0596 0.0585 0.0576 0.0568 0.0560 0.0552 0.0545 0.0539 0.0533 0.0527
42 0.0651 0.0635 0.0620 0.0606 0.0594 0.0583 0.0573 0.0564 0.0555 0.0547 0.0540 0.0533 0.0527 0.0521 0.0515
43 0.0637 0.0621 0.0606 0.0593 0.0581 0.0570 0.0560 0.0552 0.0543 0.0536 0.0529 0.0522 0.0516 0.0510 0.0504
44 0.0624 0.0608 0.0594 0.0581 0.0569 0.0558 0.0549 0.0540 0.0532 0.0525 0.0518 0.0511 0.0505 0.0499 0.0494
45 0.0611 0.0596 0.0582 0.0569 0.0557 0.0547 0.0538 0.0529 0.0521 0.0514 0.0507 0.0501 0.0495 0.0489 0.0484
46 0.0599 0.0584 0.0570 0.0558 0.0546 0.0536 0.0527 0.0519 0.0511 0.0504 0.0497 0.0491 0.0485 0.0479 0.0474
47 0.0587 0.0572 0.0559 0.0547 0.0536 0.0526 0.0517 0.0509 0.0501 0.0494 0.0487 0.0481 0.0475 0.0470 0.0465
48 0.0576 0.0561 0.0548 0.0536 0.0525 0.0516 0.0507 0.0499 0.0491 0.0484 0.0478 0.0472 0.0466 0.0461 0.0456
49 0.0565 0.0551 0.0538 0.0526 0.0516 0.0506 0.0498 0.0490 0.0482 0.0475 0.0469 0.0463 0.0457 0.0452 0.0447
50 0.0555 0.0541 0.0528 0.0516 0.0506 0.0497 0.0489 0.0481 0.0473 0.0467 0.0460 0.0455 0.0449 0.0444 0.0439

65
3.7.4.2.4 – Tests h e k di Mandel
La comprensione completa di questo capitoletto richiede la conoscenza delle componenti
principali, spiegate nel Capitolo 3. Del resto l’analisi delle componenti principali tende ad essere
sempre più utilizzata nella elaborazione dei dati in generale, e di quella relativa agli studi
collaborativi in particolare.
I test di Mandel (John Mandel, Chemometrics Intelligent Laboratry Systems, 11 (1991) 109) fanno
parte di una strategia per la convalida delle misure effettuate in studi interlaboratori, strategia che
viene descritta utilizzando i dati dello stesso Mandel, riguardanti le determinazioni del β-carotene
effettuate da 18 laboratori, in doppio, su cinque livelli di concentrazione. Le dtatistiche h e k di
Mandel sono utilizzate come statistiche descrittive (di tutte le determinazioni) più che per
individuare outliers o varianze anomale.
Si indica un risultato con xilq, con i indice di ripetizione l indice di laboratorio e q indice di livello
(quantità.)

Laboratorio A B C D B
1 0.066 0.146 0.472 0.986 1.708
1 0.062 0.143 0.436 0.904 1.564
2 0.070 0.140 0.390 0.840 1.250
2 0.070 0.140 0.390 0.820 1.240
3 0.089 0.213 0.496 1.286 1.897
3 0.082 0.196 0.523 1.241 1.915
4 0.044 0.120 0.452 1.292 1.844
4 0.050 0.120 0.472 1.131 1.824
5 0.064 0.142 0.411 0.883 1.372
5 0.058 0.148 0.416 0.874 1.347
6 0.076 0.149 0.399 0.886 1.204
6 0.073 0.145 0.396 0.859 1.288
7 0.080 0.230 0.390 0.830 1.160
7 0.080 0.250 0.380 0.780 1.160
8 0.062 0.140 0.370 0.890 1.330
8 0.057 0.150 0.390 0.910 1.400
9 0.060 0.170 0.450 1.040 1.520
9 0.070 0.170 0.460 1.070 1.500
10 0.071 0.155 0.458 1.093 1.436
10 0.074 0.159 0.444 1.061 1.555
11 0.050 0.140 0.420 0.970 1.630
11 0.060 0.140 0.420 0.980 1.480
12 0.060 0.080 0.180 0.320 0.470
12 0.050 0.060 0.190 0.350 0.510
13 0.051 0.145 0.371 0.832 1.260
13 0.062 0.145 0.328 0.870 1.210
14 0.100 0.240 0.520 1.380 1.820
14 0.090 0.230 0.590 1.180 2.040
15 0.063 0.146 0.426 0.899 1.405
15 0.060 0.149 0.458 1.002 1.414
16 0.095 0.173 0.437 0.969 1.554
16 0.097 0.177 0.447 0.978 1.571

66
17 0.070 0.138 0.389 0.914 1.408
17 0.069 0.149 0.393 0.919 1.402
18 0.040 0.090 0.230 0.540 0.550
18 0.040 0.090 0.230 0.530 0.530

La Figura 3-15. mostra il risultato della analisi delle componenti principali sulla matrice dei dati di
Mandel, con l’evidente conclusione che i risultati del laboratorio 14 sono molto più elevati di quelli
del laboratorio 12, e che il laboratorio 5 è quello con minore dispersione nelle repliche.

Figura 3-15 – Grafico delle componenti principali dei dati autoscalati

Il primo passo della analisi di Mandel consiste nel calcolo delle medie di laboratorio
Laboratorio A B C D B
1 0.0640 0.1445 0.4540 0.9450 1.6360
2 0.0700 0.1400 0.3900 0.8300 1.2450
3 0.0855 0.2045 0.5095 1.2635 1.9060
4 0.0470 0.1200 0.4620 1.2115 1.8340
5 0.0610 0.1450 0.4135 0.8785 1.3595
6 0.0745 0.1470 0.3975 0.8725 1.2460
7 0.0800 0.2400 0.3850 0.8050 1.1600
8 0.0595 0.1450 0.3800 0.9000 1.3650
9 0.0650 0.1700 0.4550 1.0550 1.5100
10 0.0725 0.1570 0.4510 1.0770 1.4955
11 0.0550 0.1400 0.4200 0.9750 1.5550
12 0.0550 0.0700 0.1850 0.3350 0.4900
13 0.0565 0.1450 0.3495 0.8510 1.2350
14 0.0950 0.2350 0.5550 1.2800 1.9300
15 0.0615 0.1475 0.4420 0.9505 1.4095
16 0.0960 0.1750 0.4420 0.9735 1.5625
17 0.0695 0.1435 0.3910 0.9165 1.4050
18 0.0400 0.0900 0.2300 0.5350 0.5400

Per ogni colonna (livello) la deviazione standard di ripetibilità sIntra si ottiene dagli scarti tra i singoli
valori e la corrispondente media di cella (i gradi di libertà sono 18, 36 dati meno 18 medie):

67
Dev.St. di ripetibilità
0.0045
0.0065
0.0177
0.0511
0.0588
Le varianze di ripetibilità per i vari livelli sono le medie delle varianze di cella, (sotto moltiplicate
per 1000):
Laboratorio A B C D B
1 0.0080 0.0045 0.6480 3.3620 10.3680
2 0.0000 0.0000 0.0000 0.2000 0.0500
3 0.0245 0.1445 0.3645 1.0125 0.1620
4 0.0180 0.0000 0.2000 12.9605 0.2000
5 0.0180 0.0180 0.0125 0.0405 0.3125
6 0.0045 0.0080 0.0045 0.3645 3.5280
7 0.0000 0.2000 0.0500 1.2500 0.0000
8 0.0125 0.0500 0.2000 0.2000 2.4500
9 0.0500 0.0000 0.0500 0.4500 0.2000
10 0.0045 0.0080 0.0980 0.5120 7.0805
11 0.0500 0.0000 0.0000 0.0500 11.2500
12 0.0500 0.2000 0.0500 0.4500 0.8000
13 0.0605 0.0000 0.9245 0.7220 1.2500
14 0.0500 0.0500 2.4500 20.0000 24.2000
15 0.0045 0.0045 0.5120 5.3045 0.0405
16 0.0020 0.0080 0.0500 0.0405 0.1445
17 0.0005 0.0605 0.0080 0.0125 0.0180
18 0.0000 0.0000 0.0000 0.0500 0.2000

Si calcolano le medie generali (di colonna, corrispondenti ai cinque livelli di β-carotene), e le

varianze interlaboratori s$%&'(

: e la sua radice, la deviazione standard di riproducibilità:
Livello Media generale s$%&'(

s$%&'(
1 0.0671 0.0002 0.0151
2 0.1533 0.0018 0.0423
3 0.4062 0.0077 0.0875
4 0.9253 0.0531 0.2305
5 1.3824 0.1500 0.3873

le deviazioni standard di ripetibilità e di riproducibilità solo mostrate nella Figura 3-16.

68
 Figura 3-16 Deviazioni standard di riproducibilità (A) e di ripetibilità (B)

Si calcolano le differenze tra le medie di cella e la media generale:

Laboratorio A B C D B
1 -0.0031 -0.0088 0.0478 0.0198 0.2536
2 0.0029 -0.0133 -0.0162 -0.0952 -0.1374
3 0.0184 0.0512 0.1033 0.3383 0.5236
4 -0.0201 -0.0333 0.0558 0.2863 0.4516
5 -0.0061 -0.0083 0.0073 -0.0468 -0.0229
6 0.0074 -0.0063 -0.0087 -0.0527 -0.1364
7 0.0129 0.0867 -0.0212 -0.1203 -0.2224
8 -0.0076 -0.0083 -0.0262 -0.0252 -0.0174
9 -0.0021 0.0167 0.0488 0.1298 0.1276
10 0.0054 0.0037 0.0448 0.1518 0.1131
11 -0.0121 -0.0133 0.0138 0.0498 0.1726
12 -0.0121 -0.0833 -0.2212 -0.5903 -0.8924
13 -0.0106 -0.0083 -0.0567 -0.0742 -0.1474
14 0.0279 0.0817 0.1488 0.3548 0.5476
15 -0.0056 -0.0058 0.0358 0.0253 0.0271
16 0.0289 0.0217 0.0358 0.0483 0.1801
17 0.0024 -0.0098 -0.0152 -0.0087 0.0226
18 -0.0271 -0.0633 -0.1762 -0.3903 -0.8424

I valori della statistica h di Mandel sono analoghi alla variabile di Grubbs e si ottengono dal
rapporto tra queste differenze e la deviazione standard di riproducibilità. Essi sono pertanto una
misura ponderata dello scostamento dei valori medi di un laboratorio dalla media generale:
Laboratorio A B C D B
1 -0.2036 -0.2074 0.5457 0.0857 0.6546
2 0.1926 -0.3138 -0.1853 -0.4132 -0.3549

69
3 1.2158 1.2105 1.1797 1.4674 1.3517
4 -1.3258 -0.7864 0.6371 1.2418 1.1658
5 -0.4016 -0.1956 0.0831 -0.2028 -0.0592
6 0.4896 -0.1484 -0.0996 -0.2288 -0.3523
7 0.8527 2.0495 -0.2424 -0.5217 -0.5743
8 -0.5006 -0.1956 -0.2995 -0.1095 -0.0450
9 -0.1375 0.3952 0.5571 0.5629 0.3293
10 0.3576 0.0880 0.5115 0.6583 0.2919
11 -0.7977 -0.3138 0.1574 0.2158 0.4455
12 -0.7977 -1.9681 -2.5268 -2.5606 -2.3041
13 -0.6987 -0.1956 -0.6479 -0.3221 -0.3807
14 1.8430 1.9313 1.6994 1.5390 1.4137
15 -0.3686 -0.1365 0.4087 0.1095 0.0699
16 1.9090 0.5134 0.4087 0.2093 0.4649
17 0.1595 -0.2311 -0.1739 -0.0380 0.0582
18 -1.7880 -1.4954 -2.0128 -1.6930 -2.1750

I valori della statistica k di Mandel sono simili alla variabile di Cochran, si ottengono come rapporto
tra la deviazione standard di cella e la deviazione standard di ripetibilità. Sono pertanto una misura
standardizzata della deviazione standard di cella.
Laboratorio A B C D B
1 0.6347 0.3273 1.4404 1.1349 1.7314
2 0.0000 0.0000 0.0000 0.2768 0.1202
3 1.1107 1.8549 1.0803 0.6228 0.2164
4 0.9520 0.0000 0.8002 2.2284 0.2405
5 0.9520 0.6547 0.2001 0.1246 0.3006
6 0.4760 0.4364 0.1200 0.3737 1.0100
7 0.0000 2.1822 0.4001 0.6920 0.0000
8 0.7933 1.0911 0.8002 0.2768 0.8417
9 1.5867 0.0000 0.4001 0.4152 0.2405
10 0.4760 0.4364 0.5601 0.4429 1.4308
11 1.5867 0.0000 0.0000 0.1384 1.8036
12 1.5867 2.1822 0.4001 0.4152 0.4809
13 1.7453 0.0000 1.7205 0.5259 0.6012
14 1.5867 1.0911 2.8007 2.7681 2.6452
15 0.4760 0.3273 1.2803 1.4256 0.1082
16 0.3173 0.4364 0.4001 0.1246 0.2044
17 0.1587 1.2002 0.1600 0.0692 0.0721
18 0.0000 0.0000 0.0000 0.1384 0.2405

Le Figure 3-17 e 3-18 mostrano i valori delle due statistiche di Mandel, e il valore critico a livello
99.5%, lo stesso utilizzato da Mandel, che peraltro utilizza questi valori solo a scopo descrittivo e
non per eliminare outliers.

70
Figura 3-17 – h di Mandel per l’esempio del β-carotene

Figura 3-18 – k di Mandel per l’esempio del β-carotene

71
Valori critici della h e della k di Mandel, a livelli di fiducia da 95 a 99.5%
h k
Laboratori 95 98 99 99.5 95 98 99 99.5
2 * 0.707 0.707 0.707 0.707 1.410 1.414 1.414 1.414
3 1.151 1.154 1.155 1.155 1.648 1.700 1.715 1.723
4 1.425 1.470 1.485 1.492 1.758 1.871 1.919 1.950
5 1.573 1.670 1.714 1.742 1.817 1.973 2.051 2.106
6 1.655 1.796 1.870 1.920 1.851 2.041 2.145 2.219
7 1.710 1.886 1.978 2.049 1.869 2.094 2.215 2.299
8 1.747 1.958 2.067 2.156 1.879 2.114 2.252 2.358
9 1.774 1.992 2.118 2.223 1.893 2.142 2.296 2.416
10 1.801 2.038 2.174 2.297 1.910 2.169 2.319 2.449
11 1.820 2.066 2.217 2.337 1.914 2.179 2.343 2.488
12 1.831 2.086 2.240 2.384 1.917 2.194 2.371 2.514
13 1.841 2.104 2.270 2.410 1.919 2.205 2.388 2.532
14 1.853 2.130 2.295 2.441 1.922 2.213 2.395 2.566
15 1.858 2.140 2.313 2.472 1.929 2.220 2.403 2.570
16 1.864 2.151 2.331 2.487 1.929 2.229 2.420 2.585
17 1.871 2.165 2.350 2.512 1.927 2.224 2.421 2.596
18 1.878 2.170 2.360 2.520 1.931 2.240 2.445 2.625
19 1.879 2.182 2.371 2.540 1.936 2.253 2.460 2.628
20 1.885 2.189 2.381 2.544 1.939 2.253 2.458 2.637
21 1.884 2.190 2.392 2.565 1.935 2.245 2.454 2.642
22 1.893 2.201 2.407 2.591 1.942 2.255 2.459 2.641
23 1.900 2.217 2.415 2.585 1.936 2.261 2.467 2.658
24 1.895 2.219 2.423 2.610 1.940 2.259 2.469 2.657
25 1.900 2.218 2.433 2.607 1.941 2.266 2.478 2.669
26 1.902 2.225 2.428 2.620 1.942 2.263 2.476 2.664
27 1.906 2.230 2.437 2.620 1.939 2.273 2.486 2.682
28 1.905 2.236 2.451 2.632 1.944 2.277 2.486 2.680
29 1.914 2.238 2.449 2.642 1.946 2.277 2.497 2.700
30 1.911 2.233 2.448 2.639 1.939 2.272 2.496 2.706

*: nel caso di due laboratori, h è sempre eguale a 1/√2.

La strategia di Mandel continua con il calcolo delle componenti principali della matrice delle
interazioni, che sono le differenze tra le medie di cella e la somma della media generalizzate e
degli effetti di laboratorio e di livello. La matrice delle interazioni è:
-0.06493 -0.07062 -0.01407 -0.04209 0.19171
0.05477 0.03858 0.03563 -0.04339 -0.08559
-0.18853 -0.15572 -0.10367 0.13131 0.31661
-0.16813 -0.18132 -0.09227 0.13821 0.30351
0.00927 0.00708 0.02263 -0.03139 -0.00759
0.04677 0.03308 0.03063 -0.01339 -0.09709
0.06577 0.13958 0.03163 -0.06739 -0.16959
0.00937 0.00868 -0.00927 -0.00829 -0.00049
-0.06623 -0.04742 -0.01537 0.06561 0.06341
-0.05833 -0.06002 -0.01897 0.08801 0.04931
-0.05423 -0.05542 -0.02837 0.00761 0.13041
0.34777 0.27658 0.13863 -0.23039 -0.53259
0.04887 0.05118 0.00273 -0.01479 -0.08799
-0.20423 -0.15042 -0.08337 0.12261 0.31541
-0.02093 -0.02112 0.02043 0.00991 0.01171

72
-0.03403 -0.04122 -0.02717 -0.01469 0.11711
0.00417 -0.00802 -0.01347 -0.00699 0.02431
0.27277 0.23658 0.12363 -0.09039 -0.5425

L’analisi delle componenti principali fornisce:

Componente Autovalore % Varianza spiegata % varianza spiegata cumulata
1 0.0964344 97.36867 97.369%
2 0.002075 2.09506 99.464%
3 0.0003423 0.34565 99.809%
4 0.0001888 0.19061 100.%

indicando che solo la prima componente è importante.

Vi è una relazione praticamente lineare tra effetto di laboratorio e scores sulla prima componente,
e tra effetto di livello e loadings della prima componente (Figure 3-19 e 3-20).

Figura 3-19 – Relazione tra scores sulla prima componente ed effetto di laboratorio (per l’esempio
del β-carotene)

Figura 3-20 – Relazione tra loadings della prima componente ed effetto di livello (per l’esempio del
β-carotene)
73
L’analisi di Mandel continua con la regressione delle medie di cella sulla prima componente
principale.
L’Autore ritiene che questo passo sia inutile e che possa sviare dalla comprensione. La regressione
viene effettuata qui tra le medie di cella e la media generale. I risultati indicano (logicamente) che
la pendenza è estremamente correlata con l’effetto di laboratorio (Figura 3-21).
Pendenza Intercetta Dev.St.dell’errore sb effetto di laboratorio
1 1.165707 -0.035402 0.068130 0.061226 0.061844
2 0.891452 0.011847 0.011203 0.010068 -0.051856
3 1.388095 -0.020811 0.022506 0.020225 0.206944
4 1.380302 -0.075138 0.024425 0.021950 0.148044
5 0.976872 -0.001783 0.018522 0.016645 -0.015356
6 0.898275 0.020342 0.018370 0.016509 -0.039356
7 0.791523 0.069490 0.037830 0.033996 -0.052856
8 0.991798 -0.012142 0.008846 0.007950 -0.016956
9 1.105318 0.002338 0.022073 0.019836 0.064144
10 1.104001 0.002711 0.037184 0.033416 0.063744
11 1.132176 -0.035424 0.027380 0.024605 0.042144
12 0.331794 0.032285 0.013086 0.011760 -0.359856
13 0.900590 -0.001116 0.015697 0.014106 -0.059456
14 1.386720 0.005196 0.014361 0.012905 0.232144
15 1.023431 0.001594 0.016902 0.015189 0.015344
16 1.103910 0.001964 0.037222 0.033450 0.062944
17 1.016731 -0.011574 0.013619 0.012239 -0.001756
18 0.411305 0.045623 0.079795 0.071709 -0.299856

Figura 3-21 – Relazione tra pendenza (media di cella di laboratorio verso media generale) ed
effetto di laboratorio

I residui delle regresssione possono essere studiati, sia globalmente, mediante analisi delle
componenti principali (Figura 3-22), sia individualmente (per laboratorio). La proiezione sulle

74
componenti principali indica che i laboratori 1 e 18 hanno i residui globalmente più elevati. I
loadings nella Figura indicano, per esempio, che il laboratorio 18 è caratterizzato da un residuo
elevato positivo al livello 4 e da un residuo elevato negativo a livello 5, come conferma
l’osservazione della regressione individuale in Figura 3-23.
Residui della regressione
Laboratorio A B C D E
1 0.021 0.001 0.016 -0.098 0.060
2 -0.002 -0.008 0.016 -0.007 0.001
3 0.013 0.013 -0.034 0.000 0.008
4 0.030 -0.016 -0.024 0.010 0.001
5 -0.003 -0.003 0.018 -0.024 0.011
6 -0.006 -0.011 0.012 0.021 -0.016
7 -0.043 0.049 -0.006 0.003 -0.004
8 0.005 0.005 -0.011 -0.006 0.006
9 -0.011 -0.002 0.004 0.030 -0.020
10 -0.004 -0.015 0.000 0.053 -0.033
11 0.014 0.002 -0.004 -0.037 0.025
12 0.000 -0.013 0.018 -0.004 -0.001
13 -0.003 0.008 -0.015 0.019 -0.009
14 -0.003 0.017 -0.014 -0.008 0.008
15 -0.009 -0.011 0.025 0.002 -0.007
16 0.020 0.004 -0.008 -0.050 0.034
17 0.013 -0.001 -0.010 -0.013 0.011
18 -0.033 -0.019 0.017 0.109 -0.074

Figura 3-22 – Grafico PCA dei residui

75
 Figura 3-23 – Regressione della media di cella del laboratorio 18 verso la media generale

Tutta la strategia di Mandel è volta a studiare i dettagli delle differenze tra laboratori e tra livelli. In
realtà nello studio collaborativo condotto senza (giustamente) la eliminazione di outliers, ciò che è
veramente importante è la deviazione standard di riproducibilità, che caratterizza quelle che sono
le reali prestazioni del metodo studiato per quel particolare tipo di analisi.

76
Un secondo esempio riguarda uno studio di competenza, condotto mediante analisi del contenuto
di zolfo in carbone, effettuato da otto laboratori, a quattro livelli (quattro carboni), con tre
repliche per laboratorio:

Laboratorio Livello 1 Livello 2 Livello 3 Livello 4

1 0.71 1.20 1.68 3.26
1 0.71 1.18 1.70 3.26
1 0.70 1.23 1.68 3.20
2 0.69 1.22 1.64 3.20
2 0.67 1.21 1.64 3.20
2 0.68 1.22 1.65 3.20
3 0.66 1.28 1.61 3.37
3 0.65 1.31 1.61 3.36
3 0.69 1.30 1.62 3.38
4 0.67 1.23 1.68 3.16
4 0.65 1.18 1.66 3.22
4 0.66 1.20 1.66 3.23
5 0.70 1.31 1.64 3.20
5 0.69 1.22 1.67 3.19
5 0.66 1.22 1.60 3.18
5 0.69 1.25 1.68 3.24
6 0.73 1.39 1.70 3.27
6 0.74 1.36 1.73 3.31
6 0.73 1.37 1.73 3.29
7 0.71 1.20 1.69 3.27
7 0.71 1.26 1.70 3.24
7 0.69 1.26 1.68 3.23
8 0.70 1.24 1.67 3.25
8 0.65 1.22 1.68 3.26
8 0.68 1.30 1.67 3.26

L’analisi delle componenti principali dei dati autoscalati in Figura 3-24 mostra chiaramente che uil
laboratorio 3 e il laboratorio 6 si discostano dagli altri sei laboratori. Il laboratorio 6 (lo rivela la
posizione del laboratorio relativamente ai loadings) è caratterizzato da risultati in eccesso, il
laboratorio da risultati in eccesso ai livelli 2 e 4, e in difetto al livello 3.
Le indicazioni della analisi delle componenti principali sono confermate dagli scostamenti in Figura
3-25 , dove lo scostamento è calcolato dalla media dei sei laboratori che hanno dato i risultati più
vicini.

77
 Figura 3-24 – PCA del laboratori partecipanti all’esperimento dello zolfo (dati autoscalati)

Figura 3-25 –Scostamento dei laboratori anomali dalla media degli altri laboratori
L’analisi di Mandel con la statistica h (Figura 3-26) indica che i laboratori 3 e 6 hanno due
(laboratorio 3) e tre (laboratorio 6) valori anomali. La statistica k (Figura 3-27) invece non indica
per i due laboratori una varianza entro laboratorio particolarmente importante.

78
 Figura 3-26 –h di Mandel per l’esempio dello zolfo

Figura 3-27 –k di Mandel per l’esempio dello zolfo

79

View publication stats