Documenti di Didattica
Documenti di Professioni
Documenti di Cultura
1
Conteúdo
1. Introdução ........................................................................................................................... 3
1.1. Quimiometria ................................................................................................................... 3
1.2. Noções de Amostragem ................................................................................................... 5
2
Introdução 1
1.1. Estatística Aplicada
Dados Análise
Descritiva Indutiva
Conhecimento e
informação
3
Alguns campos de aplicação da quimiometria:
• Otimização de experimentos
• Curvas de calibração
• Modelagem de fenômenos
• Detecção e resolução
• Comparação de métodos
• Redes neurais
• Procura bibliográfica
- Apuração dos dados: após a coleta dos dados efetua-se a tabulação de acordo com
critérios pré-estabelecidos. Por exemplo: faixa de concentração, método utilizado, etc.
- A apresentação dos dados: os dados podem ser apresentados em tabelas (ou quadros) e
em gráficos.
- Análise e interpretação: baseados na análise dos dados deverão ser tomadas medidas para
resolução de problemas observados ou melhoria dos processos.
4
Dois conceitos fundamentais devem ser considerados em quimiometria:
É preciso garantir que a amostra usada seja obtida por processos adequados para
seja representativa da população. Isso significa que, em maior ou menor grau, no processo
de amostragem a amostra deve possuir as mesmas características básicas da população.
5
Estatística
População existente Descritiva
População futura
Estatística
Amostra Indutiva
Amostra
6
Estatística Descritiva 2
2.1. Precisão e Exatidão
Os erros descritos acima nos levam a uma classificação genérica de dois tipos de
erros, a saber:
• Erro Sistemático: apresenta tendência e relaciona-se com a média. Ex: utilizar uma
balança não calibrada para pesagem. Para eliminá-lo necessitamos descobrir a fonte
e caso não seja possível devemos utilizar tabelas ou fórmulas para sua correção.
- É unidirecional
- Tem causa assinalável
- Está associada à exatidão
• Erro Aleatório: não apresenta tendência e relaciona-se com o desvio padrão. Ex:
leituras sucessivas em um equipamento com diferentes valores. Não são passíveis
de eliminação, porém podem ser tratados estatisticamente.
- É bidirecional
- Não tem causa assinalável
- Está associado à precisão
7
Precisão – Erros Aleatórios
Exatidão – Erros Sistemáticos
8
As medidas de posição servem para localizar a distribuição de freqüência sobre o
eixo da variável em questão. Três tipos importantes de medidas de posição: média, mediana
e moda.
• Média aritmética: sendo xi (i = 1,2,3, ..., n,), definimos com média aritmética ou
simplesmente média:
n n
xi x i
= i =1
ou x= i =1
N n
n n
xi. fi x i. fi
= i =1
x= i =1
N ou n
• Moda ( x̂ ): é o valor que ocorre com maior freqüência, isto é, é o valor mais
comum. A moda pode não existir e, mesmo que exista, pode não ser única. Uma
distribuição que tem apenas uma única moda é denominada unimodal.
Exemplo
11 12 14 15 15 16 16 18
11 + 12 + 14 + 15 + 15 + 16 + 16 + 18
x= = 14,6
8
15 + 15
mediana = x (4º : 5º ) = = 15
2
9
As medidas de dispersão complementam as informações das medidas de posição,
indicando o grau de variação existente num conjunto de dados. As principais medidas de
dispersão são: amplitude, variância, desvio padrão e o coeficiente de variabilidade.
R = xmáx − xmín
• Variância: Por definição é a média dos quadrados dos valores em relação à média.
Podemos definí-la como:
n n
(x − )
i
2
(x − x)
i
2
2 = i =1
ou S2 = i =1
N n −1
2 2
n n
xi xi
xi − i =1 xi − i =1
n n
2
N
2
n
2 = i =1 ou S 2 = i =1
N n −1
As variações das outras fórmulas ocorrem das formas análogas às variações acima.
As propriedades matemáticas da variância:
• Desvio Padrão: É definido como sendo a raiz quadrada da variância. Sua vantagem
em relação à variância é que se encontra na mesma unidade dos dados amostrais.
S = S2
10
Exemplo
x = 50,1 mg/L
xi − x ( xi − x ) 2
48,4 – 50,1 = -1,7 2,89
50,2 – 50,1 = 0,1 0,01
50,8 – 50,1 = 0,7 0,49
51,0 – 50,1 = 0,9 0,81
Σ 0 4,2
4,2
S2 = = 1,4 (mg/L)2
4 −1
S
CV = 100
x
Exemplo
11
R = 61,0 − 53,8 = 7,2 mg/L
2,38
CV = 100 = 4,1%
57,5
Exemplo
Foram realizadas análises de cloretos em meio aquoso por 4 técnicos em uma mesma
amostra padrão de 10,0 mg/L, encontrando-se os seguintes resultados:
Exercício 2.1
12
a) Calcule a média, a amplitude, o desvio-padrão e o coeficiente de variação para cada
amostra;
b) Comente o uso do desvio-padrão, amplitude e coeficiente de variação como unidade de
precisão de um método analítico.
Problemas
a) 12 6 7 3 15 10 18 5
b) 9 3 8 8 9 8 9 18
c) 75 75 76 77 76 75 76 77 75 76 75
2.2. Uma amostra artificial, padronizada, de soro de sangue humano contém 50,0 gramas de
albumina por litro. Cinco laboratórios (A-E), realizaram seis determinações da
concentração de albumina, com os seguintes resultados:
2.3. Uma solução padrão com 30 mg/L de Pb foi distribuída a 2 Técnicos no laboratório e
solicitado a eles que realizassem 4 ensaios, individualmente, usando o mesmo método e o
mesmo equipamento. Os resultados estão apresentados a seguir:
Técnico 1 33 34 34 33
Técnico 2 29 30 26 35
Através do cálculo das propriedades estatísticas, indique qual tipo de erro pode ser
atribuído a cada Técnico (sistemático ou aleatório) e classifique-os quanto à precisão e
exatidão.
13
2.4. Durante um programa de controle interlaboratorial, um laboratório recebeu uma
amostra de sangue para dosagem de cafeína cuja concentração real é de 5,50 µg/mL. Para
que o laboratório receba o certificado de aprovação nesse tipo de controle, é necessário que
o resultado não exceda o limite de tolerância de ± 0,25µg/mL. Após a análise de quatro
replicatas dessa amostra, foram obtidos os seguintes resultados:
Qual parâmetro a ser melhorado: a precisão ou a exatidão? Na ação corretiva, que tipo de
erro deve ser eliminado?
22 46 9 40 57 22 22 13 50 42
35 2 15 41 34 52 32 75 69 44
26 42 60 56 30 3 17 79 45 37
0 12 62 50 45 41 59 11 66 39
43 33 70 50 47 20 36 40 67 29
14
A distribuição de freqüência será expressa na seguinte ordem:
Temperaturas nº observações
0 ⊢ 10 4
10 ⊢ 20 5
20 ⊢ 30 6
30 ⊢ 40 8
40 ⊢ 50 12
50 ⊢ 60 7
60 ⊢ 70 5
70 ⊢ 80 3
• Ponto médio de classe (xi): É a média aritmética entre o limite superior e inferior de
cada classe. No exemplo, xi da quinta classe é 45.
Também pode ser encontrado por outras fórmulas, como regra de Kelly e etc. No entanto, é
utilizado um número conveniente. No exemplo optamos por 8 classes.
15
• Freqüência absoluta simples (fi): Número de observações em cada classe.
Exemplo
95 96 96 97 97 97 97 98 98 98 98 98
98 99 99 99 99 99 99 99 99 99 99 99
99 100 100 100 100 100 100 100 100 100 100 100
100 100 100 100 100 100 100 101 101 101 101 101
101 101 101 101 101 101 102 102 102 102 102 102
102 103 103 103 103 104 104 105
Em relação aos dados acima, organize uma tabela de distribuição de freqüência por
intervalos e responda as seguintes questões:
16
Temperatura (ºC) xi fi fir Fi Fir
Exercício 2.2
Em um determinado processo foram observadas as seguintes medidas de temperatura, com
um termômetro:
Determine:
a) % de observações ≥ 70 ºC.
b) número de observações ≥ 70 ºC.
c) número de observações < 60 ºC e ≥ 20 ºC.
d) % de observações < 40 ºC.
17
Histogramas
16 18
14 16
12 14
10 12
10
8 8
6 6
4 4
2 2
0 0
14 18
12 16
10 14
12
8 10
6 8
4 6
4
2 2
0 0
14
12
10
8
fi
0
0├ 10 10├ 20 20├ 30 30├ 40 40├ 50 50├ 60 60├ 70 70├ 80
18
Exercício 2.3
Construa o histograma referente ao exemplo da página 15.
19
2.4. Função de distribuições de probabilidade
Escala cor
Especificação 1 2 Total
A 503 120 623
B 250 5 255
Total 753 125 878
20
Figura 2.4. Exemplos de distribuição de probabilidade aplicados à química.
20
18
16
14
12
10
fi
0
94 95 96 97 98 99 100 101 102 103 104 105 106
ºC
21
Quando não conhecemos a distribuição dos dados, podemos admitir sob critérios
rigorosos que a população pode seguir um padrão de distribuição determinado.
Distribuição Normal
( x− )2
1 −
Y= e 2 2
2
• É duplamente assintótica;
22
99,7 %
95,4 %
68,3 %
-
- 2 2
- 3 3
P (19 ≤ μ ≤ 21) =
P (18,5 ≤ μ ≤ 21,5) =
P (19 ≤ μ ≤ 21,5) =
(x − )
z=
23
A tabela disposta no Apêndice deve ser empregada para determinar a probabilidade
de um resultado ocorrer em uma distribuição normal
Exemplo
Um certo material foi analisado em laboratório. A média das determinações foi de 3,40 e o
desvio padrão de 0,14. A especificação deste material fornecida pelo produtor é de
3,36 0,05. Qual a probabilidade de encontrar valores fora de especificação?
μ = 3,40
= 0,14
(3,31 − 3,40)
z1 = = −0,642
0,14
(3,41 − 3,40)
z2 = = 0,071
0,14
Exercício 2.4
Problemas
24
2.6. Seja X : N (100,25), calcule:
a) P (100 x 106)
b) P (89 x 107)
c) P (112 x 116)
d) P (x 108)
e) P (x 95)
2.8. Os resultados das análises de óleo em água das amostras de um efluente final
apresentam valores de média 1,60 ppm e desvio-padrão 0,30 ppm. Supondo que os
resultados estejam normalmente distribuídos, encontre a probabilidade de uma amostra de
efluente final se apresentar:
a) Entre 1,50 e 1,80 ppm.
b) Mais de 1,75 ppm.
c) Menos de 1,48 ppm.
d) Qual deve ser valor mínimo para escolhermos os 10 % dos resultados que apresentaram
valores mais altos.
2.9. A resistência à compressão de amostras de cimento pode ser modelada por uma
distribuição normal com média de 6000 quilogramas por centímetro quadrado e um desvio
padrão de 100 quilogramas por centímetro quadrado.
a) qual é a probabilidade de que a força de uma amostra seja menor que 6250 kgf/cm2?
b) qual é a probabilidade de que a força de uma amostra esteja entre o 5800 e 5900
kgf/cm2?
c) que força é ultrapassada por 95 % das amostras?
2.10. A altura média feminina com idade entre 20-74 anos era de 64 polegadas em 2002,
um aumento de cerca de uma polegada desde 1960
(http://usgovinfo.about.com/od/healthcare). Suponha que a altura feminina é normalmente
distribuída com desvio padrão de 2 polegadas.
a) qual é a probabilidade de que uma mulher aleatoriamente selecionada nesta população
ter entre 58 polegadas e 70 polegadas?
b) qual altura inclui 90 % desta população?
25
2.11. A demanda pelo uso da água em Phoenix em 2003 atingiu uma alta de cerca de 442
milhões galões por dia em 27 de junho de 2003
(http://phoenix.gov/WATER/wtrfacts.html). O uso da água no verão é normalmente
distribuído com uma média de 310 milhões de galões por dia e um desvio padrão de 45
milhões de galões por dia. Reservatórios da cidade têm uma capacidade de armazenamento
combinado de quase 350 milhões de galões.
a) qual é a probabilidade de um dia requerer mais água do que é armazenado em
reservatórios da cidade?
b) que capacidade do reservatório seria necessária para que a probabilidade de que a reserva
de água seja ultrapassada seja apenas de 1 %?
2.12. Um artigo sob revisão para a Air Quality, Atmosphere & Health denominado
“Linking Particulate Matter (PM10) and Childhood Asthma in Central Phoenix” utilizou
dados de PM10 (partículas de <10-6 m de diâmetro) referentes à qualidade do ar medidos
por sensores. O valor de PM10 médio diário para um sensor localizado estrategicamente foi
de 50 mg/m3, com um desvio padrão de 25 mg/m3. Suponha que a média diária de PM10 é
normalmente distribuída.
a) qual é a probabilidade da média diária de PM10 ser superior a 100 mg/m3?
b) qual é a probabilidade da média diária de PM10 ser inferior a 25 mg/m3?
c) para qual valor médio diário de PM10 podemos estabelecer que, a partir dele, teremos
5 % dos resultados mais altos?
26
Estatística Indutiva 3
O objetivo da estatística indutiva é tirar conclusões sobre as populações com base
nos resultados observados nas amostras extraídas dessas populações. Os problemas de
estatística indutiva se concentram em dois grupos:
As medidas obtidas com base em amostras são denominadas estatísticas, que são
obtidas a partir de amostras como estimativas dos parâmetros. Na estimação de parâmetros
por ponto, x serve para estimar μ, assim como S serve para estimar .
27
Admitiremos simetria na probabilidade que os intervalos de confiança contenham os
valores dos parâmetros estimados e, dessa forma, a probabilidade de que o parâmetro fique
fora do intervalo, à direita e à esquerda do mesmo, será igual a /2.
O intervalo de confiança pode ser determinado para uma série de condições. Vamos
considerar estas condições específicas como casos de estudo.
Admitindo-se:
μ = média da população
x = média da amostra
x = valor da variável estudada
= desvio padrão da população
n = tamanho da amostra
e0 = semi-amplitude do intervalo de confiança
x−
e z= x = e0
( e0 ) −
z=
n
e0 = z
n
xz
n
28
P x − z x+z = 1 −
n n
Exemplo
1
e0 = 1,96. = 0,28
49
x e0 = 25,00 0,28
Exercício 3.1.
O teste da concentração de K no sangue não é totalmente preciso. Além disso, a
concentração pode variar significativamente de um dia para outro. Suponha que medidas
repetidas tomadas em dias diferentes do mesmo paciente variem normalmente, com
= 0,2.
a) 1 amostra retirada de um determinado paciente apresentou resultado x = 3,4. Dê o
intervalo com 90 % de confiança para seu nível médio de K;
b) Suponha agora que 3 amostras fossem tomadas e fornecessem média x =3,4. Qual seria
agora o intervalo com 90 % de confiança para a média?
29
Exercício 3.2.
Uma fábrica produz pilhas com = 1 h em termos de vida-útil. Em uma amostra de 36
pilhas, a média de vida-útil foi de 7,5 h. Supondo que a distribuição tenha comportamento
normal, estimar o intervalo que contém μ com 95 % de confiança.
z
Figura 3.1. Comparação entre a distribuição t e a normal em função do tamanho da
amostra.
A probabilidade sob a curva densidade da estatística t pode ser encontrada por meio
de dados tabelados (Apêndice).
30
Exemplo
Exercício 3.4
Encontrar os valores de t na tabela bilateral para :
a) n = 20 95 % de confiança t=
b) n = 30 95 % de confiança t=
c) n = 10 99 % de confiança t=
d) n = 5 90 % de confiança t=
Exercício 3.5
Qual o número de amostras para:
a) 95 % de confiança t = 2,145 n=
b) 99 % de confiança t = 2,704 n=
c) 90 % de confiança t = 1,746 n=
Exercício 3.6
Qual o nível de confiança para :
a) t = 1,325 n = 21 confiança =
b) t = 2,878 gl = 18 confiança =
x tn−1, / 2 S n
onde t é obtido por meio de tabela com n-1 graus de liberdade. A interpretação para o
intervalo de confiança é dada por:
S S
P x − tn −1, / 2 . x + tn −1, / 2 . = 1−
n n
Exemplo
31
tn-1= t9,90% = 1,833
2
eo = 1,833 × = 1,159
10
x e0 = 16,00 1,159
com indicação:
Exercício 3.7
Temos uma amostra de minério para análise de ferro. Obtivemos os seguintes resultados:
Exercício 3.8
Construir o intervalo de confiança (95 %) para a concentração de enxofre em amostra de
carvão mineral. Os resultados obtidos em laboratório foram:
Problemas
3.1. A especificação de um produto garante o teor de cálcio igual a 1,5 %. Foram feitas 12
determinações de cálcio em um lote, sendo a média dos valores obtidos igual a 1,7 % e o
desvio padrão igual a 0,22 %. Verificar se o lote é aceito quando se aceita um risco de 5 %
de erro (95 % de confiança).
32
3.2. Quatro técnicos analisaram uma solução de amônia de concentração de 20,1%,
encontrando-se os seguintes resultados.
Técnico Determinações x S
A 20,2 19,9 20,1 20,4 20,2 20,4 20,2 0,190
B 19,9 20,2 19,5 20,4 20,6 19,4 20,0 0,486
C 20,6 20,5 20,7 20,6 20,8 21,0 20,7 0,179
D 20,1 19,9 20,2 19,9 21,1 20,0 20,2 0,456
Baseado nos dados acima, verifique com um nível de significância de 5 % se algum técnico
apresenta um erro sistemático.
33
Seja:
n
(x − x) i
2
S2 = i =1
n −1
x − x n −1 n −1 2
n 2
= i
2
= 2 S
i =1 n −1
(n − 1) S 2
2 =
2
(n − 1) S 2 (n − 1) S 2
P 2
= 1-
2 , 2
,1−
2 2
(n − 1) S 2 (n − 1) S 2
P = 1-
2 ,2 2 ,1− 2
Exemplo
10 7,08
limites do intervalo: LI = = 3,87
18,307
10 7,08
LS = = 18,0
3,94
34
Exercício 3.9
A vazão de um determinado produto em um processo contínuo é medida por um
instrumento. São feitas as seguintes leituras em um intervalo definido de tempo.
com 90 % de confiança, estabeleça a variação máxima que poderá ser alcançada por este
sistema.
Uma variável é uma função que confere um número real a cada resultado no espaço
amostral de um experimento aleatório. As variáveis podem ser classificadas de duas
formas:
Seja:
n = número de elementos da amostra;
f = freqüência observada do evento;
p = proporção populacional (parâmetro);
p’= estimador do parâmetro (amostral);
f
p' =
n
Quando np ≥ 5 e n(1-p) ≥ 5
p ' (1 − p ' )
2 =
n
se e0 = z
n
35
p ' (1 − p ' )
para a proporção populacional: e0 = z
n
Exemplo
Retirada uma amostra de 1000 peças da produção de uma máquina, verificou-se que 35
eram defeituosas. Qual o IC ao nível de 95 % para a produção de defeitos da máquina?
n = 1000
f = 35
35
p' = = 0,035
1000
z 95 % = 1,96
0,035(1 − 0,035)
e0 = 1,96 = 0,0114
1000
Exercício 3.10
Em uma pesquisa com os 150 alunos do último ano de graduação de uma faculdade, 57
afirmaram que farão pós-graduação. Sendo a população de alunos formandos de 2000 em
todas as faculdades da região, calcule o número mínimo de alunos que com 95 % de certeza
farão pós-graduação.
36
3.2. Tamanho das amostras
2
z
n =
e0
Exemplo
O supervisor dos analistas do laboratório setorial deseja estimar o valor médio para a
determinação de selênio em amostras de ração animal, para checar se o método que ele está
utilizando atende ao erro de 0,2 mg/L, com 90 % de confiança. Baseado em dados do
laboratório central, a estimativa para o desvio padrão do teor esperado é de = 0,50 mg/L.
Qual o número mínimo de determinações que ele precisa efetuar?
37
Exemplo
Para verificar se determinado material está fora de especificação, ou seja, maior que
0,05 mg/L de Pb, o supervisor encaminhou ao analista 7 amostras, obtendo os seguintes
resultados.
x = 0,05171
S = 0,005438
2
1,943 0,005438
n= = 38
0,00171
como n > n’ (38>7), devemos fazer novas determinações e procedermos aos cálculos para a
nova média x e a nova estimativa para desvio padrão, utilizando a estatística “t”
correspondente, ao nível de 5 %, e obtermos o novo número n; e assim por diante, até
chegarmos em n menor ou igual a n’ . O n final vai nos indicar o número mínimo de
amostras necessário para dizermos sobre a concordância a respeito da especificação.
Exemplo
Qual o tamanho da amostra suficiente para estimar a proporção de produtos com defeitos
fornecidos por uma máquina, com precisão de 0,02 e 90 % de confiança, sabendo que
seguramente esta proporção não é superior a 0,20.
2
1,65
n= 0,2(1 − 0,2) = 1089
0,02
38
3.3. Rejeição de valores dispersos
• Se 10% < proporção de valores dispersos < 15%, o responsável pela avaliação dos
resultados deve usar o bem senso acerca da preservação do conjunto de dados para
estudo;
Teste de Cochran
2
S máx
Cc = p
S
i =1
i
2
onde:
S2 = estimativa da variância
S2 máx = maior valor encontrado como estimativa da variância, no conjunto
p = número de laboratórios
39
Exemplo
Aplicar o Teste de Cochran no conjunto de dados abaixo para encontrar valores dispersos.
Laboratório n S S2
1 3 0,005 0,000025
2 3 0,010 0,000100
3 3 0,021 0,000441
4 3 0,010 0,000100
5 3 0,019 0,000361
6 3 0,006 0,000036
7 3 0,012 0,000144
8 3 0,025 0,000625
2
S máx 0,000625
Cc = p
= = 0,341
0,001832
S
i =1
i
2
Ct 5 % = 0,516
Ct 1 % = 0,615
Teste de Grubbs
40
retirados do conjunto e novo teste verificando a existência de dois valores dispersos em
cada extremidade do conjunto é realizado e assim sucessivamente.
Teste de Grubbs para 1 valor disperso: dado um conjunto de resultados gi, para i=1, 2, ...,
p, dispostos em ordem crescente, então para determinar se um determinado valor é um
disperso, usando o teste de Grubbs, devemos calcular as seguintes estatísticas:
(g p − g )
Gp =
S
( g − g1 )
G1 =
S
Teste de Grubbs para 2 valores dispersos: dado um conjunto de resultados gi, para
i=1,2,...,p, dispostos em ordem crescente, então para determinar se dois (maiores ou
menores) valores são considerados como dispersos, devemos calcular as seguintes
estatísticas:
Para testar se dois maiores valores podem ser considerados como dispersos, calcular a
relação entre as diferenças quadráticas (G):
S p2−1, p
G p −1, p =
S 02
onde:
p
S = ( g i − g ) 2 - é a diferença quadrática no conjunto com todos os valores
2
0
i =1
p−2
S p2−1, p = ( g i − g p −1, p ) 2 - é a diferença quadrática no conjunto sem os dois maiores valores
i =1
p −2
gi
g p −1, p = - é a média do conjunto, sem os dois maiores valores
i =1 ( p − 2)
41
Alternativamente, para os dois menores valores
S12, 2
G1, 2 =
S 02
p
S 02 = ( g i − g ) 2 - é a diferença quadrática no conjunto com todos os valores
i =1
p
S12, 2 = ( g i − g1, 2 ) 2 - é a diferença quadrática no conjunto, sem os dois menores valores
i =3
p
gi
g1, 2 = - é a média do conjunto, sem os dois menores valores
i =3 ( p − 2)
Exemplo
Laboratório n x
1 3 0,708
2 3 0,680
3 3 0,667
4 3 0,660
5 3 0,690
6 3 0,733
7 3 0,703
8 3 0,677
42
Calcular a média e o desvio padrão do conjunto de dados
g
g = i = 0,68975
p
(g i − g )2
S= i =1
= 0,024022
p −1
Calcular a estatística.
Para o menor valor:
(0,68975 − 0,660)
G1 = = 1,238
0,0240
Conclusão: como o valor calculado é menor do que os valores tabelados, tanto a 1 % como
a 5 %, ele não é considerado nem disperso, nem suspeito, respectivamente.
(0,733 − 0,68975)
Gp = = 1,800
0,0240
Conclusão: como o valor calculado é menor do que os valores tabelados, tanto a 1 % como
a 5 %, ele não é considerado nem disperso, nem suspeito, respectivamente.
Obs. Tanto o menor valor como o maior valor foram aceitos, seguimos com o teste de
Grubbs, agora com dois valores em cada extremidade.
Calcular a média do conjunto de dados, sem os dois menores valores a serem testados.
p
gi
g1, 2 = = 0,6985
i =3 ( p − 2)
Calcular a soma das diferenças quadráticas, dos dois conjuntos, ou seja, um conjunto com
todos os valores e o outro conjunto sem os dois valores a serem testados.
43
Conjunto com todos os valores
p
S 02 = ( g i − g ) 2 = 0,00404
i =1
Laboratório gi (gi − g ) ( gi − g )2
4 0,66 -0,02975 0,0008851
3 0,667 -0,02275 0,0005176
8 0,677 -0,01275 0,0001626
2 0,68 -0,00975 0,0000951
5 0,69 0,00025 0,0000001
7 0,703 0,01325 0,0001756
1 0,708 0,01825 0,0003331
6 0,733 0,04325 0,0018706
0,00404
S12, 2 0,00218
G1, 2 = 2 = = 0,539
S0 0,00404
Calcular a média do conjunto de dados, sem os dois valores maiores a serem testados.
44
p −2
gi
g p−1, p = = 0,6795
i =1 ( p − 2)
Calcular a soma das diferenças quadráticas, dos dois conjuntos, ou seja, um conjunto com
todos os valores e o outro conjunto sem os dois valores a serem testados.
S p2−1, p 0,00121
G p−1, p = 2
= = 0,299
S 0 0,00404
Exercício 3.11
1,6 4,0 4,2 4,2 4,2 4,4 4,4 4,4 4,6 4,6 6,0 8,0
45
Problemas
3.6. A vida útil em horas de uma lâmpada de 75 watts é conhecida por ser normalmente
distribuída com σ = 25 horas. Uma amostra aleatória de 20 lâmpadas tem uma vida média
de 1014 horas. Construa um intervalo de confiança com 95 % para a vida útil média.
3.7. Uma determinada marca de margarina diet foi analisada para determinar o nível de
ácido graxo poli-insaturado (em percentagem). Uma amostra de seis pacotes resultou nos
seguintes dados:
16,8 17,2 17,4 16,9 16,5 17,1
Calcule o intervalo de confiança e conclua se a amostra atende com 95 % a especificação
de 17,0 %.
46
3.9. O teor de açúcar na calda de pêssegos enlatados é normalmente distribuído. Uma
amostra aleatória de n = 10 latas produz um desvio padrão de amostra de S = 4,8 mg.
Calcule um intervalo de confiança com 95 % para σ.
3.12. Em 2004, o reator esteve parado com problemas em 5 dias. Para 2003, qual o número
mínimo de dias esperado, com 90 % de confiança, em que haverá perda de produção diária
no mesmo equipamento?
3.13. Foram feitas 20 medidas do tempo real gasto para a precipitação de um sal, em
segundos, numa dada experiência:
13 15 12 14 17 15 16 15 14 16
17 14 16 15 15 13 14 15 16 15
Esses dados são suficientes para estimar o tempo médio gasto na precipitação com precisão
de meio segundo e 95 % de confiança? Em caso negativo, qual o tamanho da amostra
necessária?
3.14. Uma amostra de 10 peças forneceu os seguintes valores de certa dimensão (em mm):
80,1 80,0 80,1 79,8 80,0 80,3 79,7 80,0 80,2 80,4
Deseja-se estimar a dimensão média com erro máximo de 5/100 mm e 98 % de confiança,
bem como a proporção de peças com dimensão acima de 80 mm, com precisão de 90 % de
confiança. Dimensione a amostra total que se deverá tomar. (resolva com auxílio do Excel).
3.15. Deseja-se estimar a resistência média de certo tipo de peças com precisão de 2 kgf e
95 % de confiança. Desconhecendo-se a variabilidade da resistência, romperam-se 5 peças,
obtendo-se para elas os seguintes valores para as suas resistências (em kg): 50, 58, 52, 49,
55. Com base nos resultados obtidos, determinou-se que deveriam ser testadas mais 14
peças, a fim de se conseguir o resultado desejado. Qual a sua opinião a respeito da
conclusão?
47
3.16. Quantas amostras serão necessárias para estimar o desvio com α = 5% e α = 1%, de
um determinado técnico ao realizar uma análise, sabendo que é admitido um erro de = 1%
( = 0,179)
3.17. Verificar se existe algum valor discrepante nos resultados de análises de 4 técnicos
conforme dados abaixo :
3.18. Usando o teste de Grubbs, verificar se existe algum resultado discrepante nas
determinações a seguir:
• Aceitar uma hipótese quando deveria ser rejeitada (erro tipo II)
48
Os testes de hipóteses podem ser unilaterais e bilaterais, conhecidos também como
monocaudais e bicaudais, respectivamente, ou seja, correspondendo ao nosso interesse em
verificar se os desvios do valor real ao parâmetro estão unicamente para mais ou
unicamente para menos, ou para mais e para menos, em relação ao valor testado.
• Tomar a decisão:
- Rejeitar H0 se o valor de encontra na região crítica.
- Não rejeitar H0 se o valor não se encontra na região crítica.
49
Testes para 1 amostra
H 0 : μ = μ0 zc > zt()
H 1 : μ > μ0
Exemplo
H0: μ = 5,2 %
H1: μ < 5,2 %
5 − 5,2
zc = = −2
0,2
4
zt = z0,05 = 1,645
Conclusão: Como zc < -zt, rejeita-se a hipótese nula H0. Portanto, podemos afirmar que ao
nível de 5% de significância, o valor médio de P, naquele dia, é menor que 5,2 %.
Exercício 3.11
A especificação de um certo material é estabelecida em 3,36 0,04 mg/L. Considerar
= 0,04. O Técnico analisou uma amostra deste material e encontrou o valor médio para 3
repetições de 3,29. Pode-se aceitar o material como especificado com 5 % de significância?
50
Resposta: |zc| = 1,3; zt = 1,96. Aceita-se H0.
H 0 : μ = μ0 tc > t t(n-1,)
H 1 : μ > μ0
Exemplo
Considerando que o valor acordado é de 3,50 , posso concluir com 1 % de significância que
o material apresenta teor de Ti adequado?
H0: μ = 3,5
H1: μ ≠ 3,5
x = 3,4
S = 0,14
tt = t4;0,005 = 4,604
x−
tc =
S
n
3,4 − 3,5
tc = = −1,6
0,14
5
Conclusão: Como tc < tt, aceita-se H0. O teor de Ti é igual ao especificado ao nível de 1 %
de significância.
51
Testes para 2 amostras
A teoria dos testes de hipóteses aplica-se a casos em que temos duas amostras, em
princípio, provenientes de populações diferentes. Comparam-se parâmetros equivalentes
das populações envolvidas, testando hipóteses referentes ao valor real da diferença entre as
duas médias populacionais.
Por outro lado, testar a hipótese de que a diferença entre as médias de duas
populações emparelhadas seja igual a um certo valor μd equivale a testar a hipótese de que a
média de todas as diferenças (referentes às populações) seja igual a μd. Ou seja, vamos
testar simplesmente a hipótese,
ou
ou
d − d0
t=
Sd
n
52
d é a média da amostra das diferenças;
d 0 é o valor testado da média das diferenças nas populações, em geral, igual a 0;
Sd é o desvio padrão das diferenças;
H0: μd = 0
H1: μd ≠ 0
|tc| > t t(n-1,/2)
Exemplo
Para resolver este problema, devemos calcular a estatística t e compará-la com o valor
tabelado a 5 % de significância.
53
0,164
tc = = 1,155
0,3176
5
Conclusão: Como tc < tt, aceita-se H0. Podemos afirmar que não existe diferença
significativa entre os dois métodos empregados.
• quando os desvios padrão das populações são desconhecidos mas supostos iguais;
• quando os desvios padrão das populações são desconhecidos e não podem ser
supostos iguais.
x1 − x2
zc =
12 22
+
n1 n2
54
Exemplo
H0 : μ1 – μ2 = 0
H1 : μ1 – μ2 ≠ 0
1 = 2
z0,025 = 1,960
z0,005 = 2,578
Conclusão: ao nível de 5 %, pode-se afirmar que o processo ficou fora de controle; porém,
ao nível de 1 % , aceita-se a hipótese nula.
Dados não emparelhados com desvios padrão das populações desconhecidos, mas
supostos iguais:
x1 − x2
tc =
1 1
Sp +
n1 n2
55
Hipóteses Rejeita-se H0 se:
H0: μ1 - μ2 = 0
H1: μ1 - μ2 < 0 tc < -tt(n1+n2-2,)
Exemplo
Fornecedor A Fornecedor B
0,0149 0,0158
0,0160 0,0158
0,0156 0,0155
0,0170 0,0170
0,0150 0,0160
0,0250 0,0240
0,0147 0,0153
x = 0,016886 x = 0,017057
S = 0,003664 S = 0,003109
H0 : μ1 – μ2 = 0
H1 : μ1 – μ2 < 0
(7 − 1)0,003664 2 + (7 − 1)0,003109 2
Sp = = 0,0033979
7+7−2
0,016886 − 0,017057
tc = = −0,09415
1 1
0,0033979 +
7 7
56
tn1+n2-2; = t12;0,05 = 1,782
tc > - tt
Conclusão: Aceita-se a hipótese nula, ou seja, posso aceitar que os resultados obtidos com
os reagentes de ambos os fornecedores são iguais ao nível de 5 % de significância.
Dados não emparelhados com desvios padrão das populações desconhecidos e nem
supostos iguais:
Os valores críticos de t para ν graus de liberdade são obtidos da tabela, cujo cálculo é dado
por:
x1 − x2
tc =
S12 S 22
+
n1 n2
2
S12 S 22
+
= n1 n 2 −2
2 2
S12 S 22
1 + n2
n
n1 + 1 n2 + 1
Exemplo
57
b) Concentração maior no inverno;
Verão Inverno
13,01 12,99
13,00 13,06
12,95 12,98
12,97 13,14
13,01 13,14
12,93
12,94
12,96
12,97
12,94
x = 12,968 x = 13,062
S = 0,02974 S = 0,0776
n = 10 n=5
Questão a
H0 : μ1 – μ2 = 0
H1 : μ1 – μ2 ≠ 0
12,968 − 13,062
tc = = −2,613
0,02974 2 0,0776 2
+
10 5
2
0,02974 2 0,0776 2
+
= 10 5 − 2 = 4,9 5
2 2
0,02974 2 0,0776 2
10 + 5
10 + 1 5 +1
t 5;0,10 = 2,015
Conclusão: como |tc| > tt, rejeita-se H0 e não podemos afirmar que os níveis de Pb em
estações diferentes são iguais.
58
como a distribuição 2 , a distribuição F é assimétrica e depende do número de graus de
liberdade entre o numerador e o denominador conforme apresentado na Figura 3.2.
Figura 3.2. Função de distribuição F de acordo com o número de graus de liberdade das
populações .
S12
F 1, 2 =
S 22
sendo que S12 S 22
Exemplo
59
De duas populações de distribuições normais foram extraídas amostras de 5 e 10 elementos
que forneceram variâncias iguais a 3,5 e 8 respectivamente, Ao nível de 1 % de
significância podemos concluir que as populações têm diferentes graus de dispersão?
H0: 1 =2
H1: 1 ≠ 2
8
Fc = = 2,286
3,5
Ft = F 9;4;0,005 = 21,14
Conclusão: Como Fc < Ft, não rejeitamos a hipótese nula e podemos dizer que as
populações não têm diferentes graus de dispersão.
Exercício 3.12
Supomos que a distribuição populacional de resultados para uma solução de amônia tem
como média 20,0 % de NH3 e desvio padrão 0,171, para o laboratório. Queremos avaliar a
precisão de um analista recém admitido, nesta determinação, através dos dez resultados
para a solução padrão de 20,0 % de NH3 por ele obtido:
20,5 19,9 20,1 20,3 19,9 19,7 20,2 19,6 19,7 20,1
Pode-se admitir que a precisão obtida pelo analista é igual à precisão do laboratório ao
nível de 5 % de significância?
Problemas.
3.15. Dois catalisadores podem ser usados em um processo químico por batelada. Doze
bateladas foram preparadas usando o catalisador 1, resultando em um rendimento médio de
86 e um desvio padrão da amostra igual a 3. Quinze bateladas foram preparadas
empregando o catalisador 2 , resultando um rendimento médio de 89, com um desvio
padrão de 2. Considere que as medidas dos rendimentos sejam distribuídas
aproximadamente de forma normal, com o mesmo desvio padrão. Há evidência que
confirme a afirmação que o catalisador 2 produz um rendimento maior que o catalisador 1?
Use =0,01.
60
3.17. Os pontos de fusão de duas ligas usadas na formulação de solda foram investigados
através da fusão de 21 amostras de cada material. A média e o desvio padrão para a amostra
1 foram x 1 = 420 ºF e S1 = 4 ºF, enquanto que para a liga 2 foram x 2 = 426 ºF e S2 = 3 ºF.
Os dados amostrais confirmam a afirmação de que ambas as ligas tem o mesmo ponto de
fusão? Use = 0,05 e considere que ambas as populações sejam normalmente distribuídas
e tem o mesmo .
3.18. Dois diferentes testes analíticos podem ser usados para determinar o nível de
impurezas em uma liga de aço. Oito espécimes são testados usando ambos os
procedimentos, sendo os resultados demonstrados na tabela a seguir. Há evidência
suficiente para concluir que ambos os testes fornecem o mesmo nível médio de impureza?
Use =0,01.
61
3.20. Está sendo investigada a temperatura em que ocorre uma deflexão, devida à carga, em
dois diferentes tubos de plástico. Duas amostras aleatórias foram testadas e as temperaturas
(em ºF) observadas em que ocorre a deflexão são reportadas a seguir:
Tipo 1 Tipo 2
206 193 192 177 176 198
188 207 210 197 185 188
205 185 194 206 200 189
187 189 178 201 197 203
194 213 205 180 192 192
3.21. Duas companhias químicas podem fornecer uma matéria-prima, cuja concentração de
um determinado elemento é importante. A concentração média para ambos os fornecedores
é a mesma, porém, suspeitamos que a variabilidade na concentração pode diferir entre as
duas companhias. O desvio padrão da concentração de uma amostra aleatória de n1 = 10
bateladas produzidas pela companhia é S1 = 4,7 g/L, enquanto para a companhia 2, uma
amostra aleatória de n2 = 16 bateladas resulta em S2 = 5,8 g/L. Há evidência suficiente para
concluir que a as variâncias das duas populações difiram? Use =0,05.
62
fusão é normalmente distribuído com σ = 1,5 ºF. Através do teste de hipótese, verifique se o
ponto de fusão é igual a 155 ºF com α = 0,05.
3.26. A vida em horas de uma bateria é conhecida por ser aproximadamente normalmente
distribuída com desvio padrão σ = 1,25 h. Uma amostra aleatória de 10 baterias tem uma
vida média de horas de 40,7 h. Há evidência para apoiar a alegação de que a vida útil da
bateria excede 40 horas? Use α = 0,05.
3.27. Um artigo no jornal ASCE Journal of Energy Engineering (1999, Vol. 125, pp. 59–
75) descreve um estudo sobre as propriedades de inércia térmica do concreto aerado
autoclavado, usado como material de construção. Cinco amostras do material foram
testadas em uma estrutura e a média de temperaturas interiores (°C) apresentaram os
seguintes resultados. Verifique se a inércia térmica é igual a 22,5 ºC. Use α = 0,05.
3.28. Um artigo de 1992 no jornal da Associação Médica Americana (“A Critical Appraisal
of 98.6 Degrees F, the Upper Limit of the Normal Body Temperature, and Other Legacies
of Carl Reinhold August Wunderlich”) reportou a temperatura do corpo, gênero e ritmo
cardíaco para várias condições. A temperatura do corpo de 25 mulheres foi verificada
conforme a seguir (ºF):
97,8 97,2 97,4 97,6 97,8 97,9 98,0 98,0 98,0 98,1 98,2
98,3 98,3 98,4 98,4 98,4 98,5 98,6 98,6 98,7 98,8 98,8
98,9 98,9 99,0
É possível afirmar que a temperatura corporal para esse estudo é menor que 98,6 ºF? Use
α = 0,05.
3.29. Determinou-se o teor de sódio de vinte caixas de 300 gramas de flocos de milho
orgânico, os dados (em mg) são os seguintes:
Você pode apoiar a afirmação de que o teor de sódio deste tipo de sucrilhos difere de 130
miligramas? Use α = 0,05.
3.30. Duas máquinas são usadas para encher garrafas de plástico com um volume líquido de
16,0 onças, o volume de preenchimento pode ser assumido normal com desvio padrão σ1 =
0,020 e σ2 = 0,025 onças. Um funcionário da engenharia suspeita que ambas as máquinas
tenham a mesma exatidão de preenchimento do volume. Uma amostra aleatória de 10
garrafas é retirada da saída de cada máquina. Você acha que o engenheiro está correto? Use
α = 0,05.
63
Máquina 1 Máquina 2
16,03 16,01 16,02 16,03
16,04 15,96 15,97 16,04
16,05 15,98 15,96 16,02
16,05 16,02 16,01 16,01
16,02 15,99 15,99 16,00
3.31. Dois tipos de plástico são adequados para utilização por um fabricante de
componentes eletrônicos. A força de ruptura do plástico é importante. É sabido que σ1 = σ2
= 1,0 libra por polegada quadrada. A partir de uma amostra aleatória de tamanho n1 = 10 e
n2 = 12 obtemos x 1 = 160,5 e x 2 = 155,5. A empresa não adotará plástico 1 a menos que
sua média de resistência à ruptura seja superior ao plástico 2. Com base nas informações, a
empresa deveria usar o plástico 1? Use α = 0,05.
3.32. Duas formulações diferentes de um combustível de motor estão sendo testadas para
estudar a octanagem. A variância da octanagem para a formulação 1 é σ2 = 1,5 e para
formulação 2 é σ2 = 1,2. Duas amostras aleatórias de tamanho n1 = 15 e n2 = 20 foram
testadas e as octanagens foram x 1 = 89,6 e x 2 = 92,5. Usando α = 0,05, conclua se a
octanagem da formulação 2 é maior.
3.33. O diâmetro de hastes de aço fabricadas em duas diferentes máquinas de extrusão está
sendo investigado. Duas amostras aleatórias de tamanhos n1 = 15 e n2 = 17 são selecionadas
e as médias e variâncias de amostra são x 1 = 8,73 e S21 = 0,35 e x 2 = 8,68 e S22 = 0,40
respectivamente. Há evidência para apoiar a alegação de que as duas máquinas produzem
hastes com diâmetros médios diferentes? Considere σ1 = σ2 e α = 0,05.
64
Análise de Variância 4
Análise da variância é a técnica utilizada para isolar e estimar as variâncias que contribuem
para a variação total de um experimento, possibilitando identificar as fontes relevantes e
estabelecer meios para estimar seus efeitos.
Exemplos:
65
Soma de quadrados (corrigida) total ou variação total:
SQT = (Yij − Y
) 2
..
i j
SQT = (Yij − Y
) 2 = (Y − Y
.. ij
. + Y
i
. − Y
i
) 2 =
..
i j i j
n (Yi. − Y
) + (Y − Y
..
2
ij
) 2
i.
i i j
n
-E (QMF) = 2 + 1
2
a −1 i
a
Onde τi representa a diferença entre a média total e a média de cada grupo ( 12 = 0 ).
i =1
Caso a razão QMF/ QME seja um valor elevado, indica que 1 0. Assim comparamos sob
as condições do modela a estatística:
QMF
Fo =
QME
66
Caso Fo F ,a −1, N − a , a hipótese da igualdade dos efeitos deve ser rejeitada para o nível de
significância .
Exemplo
Solução:
67
Σ
Termômetro A: 4 3 3,5 10,5
Termômetro B: 3 3 2 8
Termômetro C: 1,5 1 3 5,5
Termômetro D: 3,5 1 2,5 7
Σ 31
312
SQT = Y −
Y..2
ij
2 2
(
= 4 + 3 + 3,5 + 3 + ... + 2,5 −
2 2 2 2
) = 10,9
i j N 12
Ft 0,05 = 4,1
Em cada um de “b” blocos são aplicados, em ordem aleatória, todos os “a” tratamentos.
68
tratamento Bloco 1 Bloco 2 Bloco b total
1 Y 11 Y 12 Y 1b Y 1.
2 Y 21 Y 22 Y 2b Y 2.
3 Y 31 Y 23 Y 3b Y 3.
. . . . .
. . . . .
a Y a1 Y a2 Y ab Y a.
total Y .1 Y .2 Y .b Y ..
Graus de liberdade:
N – 1 = (a –1) + (b – 1 ) +( a – 1 ) (b – 1)
E (QME) = 2
b
E (QMF ) = 2 +
a −1
12
a
E (QMB) = 2 +
b −1
12
Estatística teste para aceitação da influência do fator
QMF
Fo = : F( a −1)(a −1)(b −1)
QME
QMB
Fo =
QME
69
for grande, tem-se uma indicação que os blocos são relevantes na redução do erro.
Y2
C=
N
SQT = Yij2 − C
i j
1
SQF =
b i
Yi.2 − C
1
SQB =
a j
Y j2 − C
Exemplo
70
L1 L2 L3 Σ
TA -5 12 -7 0
TB 4 8 -8 4
TC -2 8 0 6
TD -7 3 -2 -6
TE -6 5 5 4
Σ -16 36 -12 8
82
SQT = Y −
Y..2
ij
2 2
( 2 2 2
)
= - 5 + 12 + - 7 + 4 + ... + 5 − = 573,7
2
i j N 15
1 Y..2 0 2 4 2 6 2 − 6 2 4 2 8 2
SQF = i. N = 3 + 3 + 3 + 3 + 3 − 15 = 30,4
b i
Y 2
−
1 Y..2 − 16 2 36 2 − 12 2 8 2
SQB = j. N = 5 + 5 + 5 − 15 = 334,9
a j
Y 2
−
Total 14 573,7
71
Problemas
4.1. Um produto foi analisado por três métodos diferentes conforme tabela abaixo.
Verifique se existe diferença significativa entre os métodos ao nível de significância de 1 %
e 5 %.
Método I 75 62 71 58 73
Método II 81 85 68 92 90
Método III 73 79 60 75 81
A 68 72 75 42 53
B 72 52 63 55 48
C 60 82 65 77 75
D 48 61 57 64 50
E 64 65 70 68 53
72
4.4. Um laboratório dispõe de 5 técnicos e 4 aparelhos para executar determinada análise
(vide tabela abaixo) Deseja-se verificar se o resultado de uma análise varia para diferentes
operadores. Usando a tabela ANOVA, verifique se existe diferença nos resultados dos
técnicos entre os equipamentos. Use α = 0,05.
Laboratórios
técnicos I II III IV
A 44 38 47 36
B 46 40 40 43
C 44 36 44 38
D 43 38 46 33
E 38 42 49 39
4.5. A análise de dureza é feita pressionando-se uma haste sobre uma placa metálica.
Avaliar se há diferença entre hastes (A, B, C e D) e entre placas (I, II, III e IV), quando
testadas aleatoriamente. Use α = 0,05.
I II III IV
A 9,3 9,4 9,6 10,0
B 9,4 9,3 9,8 9,9
C 9,2 9,4 9,5 9,7
D 9,7 9,6 10,0 10,2
4.6. Quatro pneus de cada uma das marcas A, B e C foram testados quanto à durabilidade.
Os resultados obtidos em milhares de km são mostrados a seguir.
A 34 38 31 35
B 32 34 31 29
C 30 25 28 23
73
Regressão e Correlação Linear 5
Muitas vezes, necessitamos estudar o relacionamento de duas variáveis, coletadas
como pares de valores, para resolver questões, como por exemplo:
Problemas como esses podem ser estudados através uma analise de correlação
simples, onde podemos determinar a intensidade da relação entre as variáveis. As variáveis
estudadas serão: X, denominada variável independente, e Y, denominada variável
dependente. Se o relacionamento entre X e Y for consistente, poderemos realizar uma
predição para o valor de Y, conhecido um valor de X, através de uma análise de regressão
simples dos dados.
Diagrama de Dispersão
74
(a) Relação linear direta (b) Relação linear inversa
nXY − XY
R=
n(X 2 ) − (X ) 2 n(Y 2 ) − (Y ) 2
-1 0 1
□Fraca
■ Forte
75
componente aleatório que representa a influência de outros fatores, bem como os erros de
medição da variável Y. Este componente surge devido à variabilidade dos valores de Y para
cada valor de X.
XY − nXY
b= a = Y + bX
X 2 − n( X ) 2
Exemplo
Tempo (min) 20 22 19 23 17
Temperatura (ºC) 75 80 75 82 78
76
X Y XY X2 Y2
20 75 1500 400 5625
22 80 1760 484 6400
19 75 1425 361 5625
23 82 1886 529 6724
17 78 1326 289 6084
Σ 101 390 7897 2063 30458
X = 20,2
Y = 78
7897 − 5.20,2.78
b= = 0,833 a = 78 + 0,833.20,2 = 61,2
2063 − 5(20,2) 2
Y = 61,2 + 0,833 X
5.7897 − 101.390
R= = 0,645
5.2063 − (101) 2 5.30458 − (390) 2
R2 = 0,417
Problemas
77
a) Ajuste um modelo de regressão linear simples correlacionando a concentração do
licor verde de Na2S com a produção.
b) Encontre o valor de y, correspondente a x = 910, e o resíduo associado.
c) Encontre a concentração média do licor de Na 2S quando a taxa de produção for de
950 t/d.
d) Calcule R2.
5.2. Dados correspondentes ao desgaste abrasivo do aço doce (y), em 10-4 mm3 e a
viscosidade do óleo (x) em mm2/s são apresentados na tabela a seguir:
5.3. A ocorrência de cloreto de sódio nas correntes de superficiais de um rio na parte central
de Rhode Island foi estudada. Os dados a seguir se referem à concentração de cloreto (y,
em mg/L) e à área (x,em %) das encostas exploradas para análise:
x 10 11 12 13 14 15
y 100 112 119 130 139 142
78
116. Sendo:
79
Planejamento de Experimentos 6
Muito do que sabemos nas ciências, especialmente em química, é desenvolvido
através de testes ou experiências. Freqüentemente, os cientistas trabalham em áreas
problemáticas, em que nenhuma teoria é ainda completamente aplicável. Assim, a
experiência e a observação dos dados resultantes constituem as únicas maneiras pelas quais
o problema pode ser equacionado. Mesmo que haja uma boa teoria científica básica em que
possamos confiar na explicação do fenômeno de interesse, é quase sempre necessário
conduzir testes ou experimentos para confirmar que a teoria é, na verdade, operativa na
situação ou no ambiente no qual ela está sendo aplicada. Julgamento estatístico e métodos
estatísticos desempenham um papel importante no planejamento, condução e análise de
dados a partir de experimentos.
• Aumentar produtividade;
80
• Empregam operações matemáticas simples;
Fatores Respostas
F1 R1
F2 Sistema R2
F3 R3
(Temperatura, tempo, (Rendimento, viscosidade
concentração, etc..) elasticidade, etc..)
81
Retornando ao problema anteriormente colocado, o rendimento da reação como
resposta foi observado quando se variou o tempo (Figura 6.2) à uma certa temperatura
estabelecida. Posteriormente, variou-se a temperatura mantendo o tempo de reação em
1,7 h, o melhor valor para se otimizar a reação conforme o experimento anterior (Figura
6.3).
75
70
Rendimento (%) 65
60
55
50
45
40
0 0,5 1 1,5 2 2,5 3
tem po (h)
80
75
70
Rendimento (%)
65
60
55
50
45
40
135 145 155 165 175 185
tem peratura (ºC)
82
210
Ponto de maior rendimento
200
190
Temperatura (ºC)
160
70 %
150
140 60 %
130
0,0 0,5 1,0 1,5 2,0 2,5
tempo (h)
Figura 6.4. Curvas de nível para o rendimento em função da temperatura e tempo.
83
Há ocasiões em que vários fatores são interessantes em um trabalho
experimental, por exemplo, se necessitássemos avaliar simultaneamente o efeito de
temperatura, tempo, pH, concentração dos reagentes e presença de catalisador para o
rendimento da reação, em um determinado processo. Nestes casos é possível ocorrer
interações entre mais de dois fatores e assim um planejamento fatorial deve ser usado.
Todas as combinações possíveis dos níveis dos fatores são investigadas em cada tentativa
ou réplica do experimento no Planejamento Fatorial, assegurando que as possíveis
interações sejam identificadas. A análise e solução dos problemas por meio de
planejamento fatorial envolvem as etapas descritas na Figura 6.6. Conclui-se a análise a
partir da magnitude dos efeitos dos fatores e interações estudados.
Planejamento
Fatorial
Número de fatores Análise
Número de Níveis
Valores dos níveis
Ensaios Respostas
Procedimentos Propriedades
Número de ensaios Identificação de influência
84
95
y+
85
Rendimento (%)
75
65
y−
55
45
30 40 50 60 70
Temperatura (ºC)
R = 90 − 59 = 31
Planejamento Fatorial 22
n = 2 (+ e -)
k = 2 (Catalisador e Temperatura)
r = 2 (1 replicata)
85
Tabela 6.1. Fatores e níveis avaliados no planejamento 22.
Fatores (-) (+)
T - Temperatura (ºC) 40 60
C - Catalisador (tipo) A B
Tabela 6.3. Coeficiente de contrastes para cálculo dos efeitos no planejamento fatorial 22.
Efeito fatorial
Experimento I T C TC Rendimento (%) Média
(1) + - - + 57 61 59
t + + - - 92 88 90
c + - + - 55 53 54
tc + + + + 66 70 68
T = yT + − yT −
t + tc c + (1)
T= −
2 2
86
90 + 68 59 + 54
T= − = 22,5
2 2
C = yC + − y C −
c + tc t + (1)
C= −
2 2
59 + 90 54 + 68
C= − = −13,5
2 2
(1) + tc t + c
TC = −
2 2
59 + 68 90 + 54
TC = − = −8,5
2 2
59 + 68 + 90 + 54
I= = 67,7
4
A avaliação dos contrastes provocados pela mudança de nível dos fatores na matriz
de experimentos planejada pode ser verificada por meio das representações geométricas da
Figura 6.8.
87
+
90 68 90 68
t tc t tc
-13,5 % +
T 22,5 % -
(1) c (1) c
59 54 59 C 54
-
90 68
t tc
-8,5 %
- +
T
(1) c
59 C 54
100
90
Rendimento (%)
80
70
60
50
40
35 40 45 50 55 60 65
Tem peratura (ºC)
88
Embora tivéssemos calculado os efeitos, a rigor não podemos ainda concluir que
estes são de fato significativos para o processo. Lembre-se que todo processo de medida
tem embutido um erro aleatório inerente à precisão do procedimento experimental
empregado. Assim, para estabelecer a relevância dos efeitos, precisamos nos certificar que
a magnitude do erro experimental não é maior que o próprio efeito calculado.
S =
2 ( xi − x ) 2
( 1 S12 + 2 S 22 + 3 S 32 + ... + m S m2 )
=
2
Sp
( 1 + 2 + 3 + ... + m )
8 1 + 8 1 + 2 1 + 8 1
Sp = = 6,5
2
1+1+1+1
S p (efeito) = S p2 = 2,5
Cada efeito calculado é a diferença entre a média dos valores das respostas no nível
alto e no nível baixo.
Efeito = R+ − R−
89
Para calcular a variância de cada efeito, aplicamos o conceito relativo à propriedade
matemática da variância (pág. 9):
V ( Efeito) = V ( R+ − R− ) = V ( R+ ) + V ( R− )
S p2
V ( R+ ) = V ( R− ) =
4
S p2 S p2 S p2 6,5
V ( Efeito) = + = = = 3,25
4 4 2 2
90
Figura 6.10. Operação Evolucionária com um planejamento fatorial 22.
Fatores
Níveis Temperatura (ºC) t (s)
+ 545 2,0
- 538 1,5
Determinar o efeito de cada fator com suas possíveis interações nas respostas dos testes.
Resposta: T tem maior efeito para o rendimento e t para o aumento de olefinas. Como a
concentração de olefinas é indesejável no produto, recomenda-se empregar T alta e t
baixo.
91
Exercício 6.2. A temperatura e o pH foram estudados em um planejamento fatorial 22 para
avaliar o efeito no rendimento de uma reação. Os resultados estão apresentados no gráfico
abaixo. A partir deste, responda:
a) Em qual temperatura a modificação do pH passa a ser significativa ao processo?
Justifique a resposta.
b) Aponte uma condição experimental para aumentar o rendimento da reação em função
dos fatores estudados (pH e temperatura).
A estimativa dos efeitos dos fatores acerca do rendimento da reação pode servir para
a construção de um modelo de predição.
y = 0 + 1 x1 + 2 x2 + 12 x1 x2
yˆ = b0 + b1 x1 + b2 x2 + b12 x1 x2
92
onde: b0 , b1 , b2 e b12 são os estimadores de 0 , 1 , 2 e 12 , respectivamente, obtidos
experimentalmente pelos efeitos calculados.
+1
90 68
t tc
-1 66,75 +1
(1) c
59 54
-1
Planejamento Fatorial 23
n = 2 (+ e -)
k = 3 (Catalisador, Temperatura e Concentração)
r = 2 (1 replicata)
93
Tabela 6.4. Resultados dos experimentos obtidos no planejamento fatorial 23.
Fatores (-) (+)
T - Temperatura (ºC) 40 60
C - Catalisador (tipo) A B
M - Concentração (mol.L-1) 1,0 1,5
Tabela 6.6. Coeficientes de contrastes para cálculo dos efeitos no planejamento fatorial 23.
I T C M TC TM CM TCM Resposta
(1) + - - - + + + - 54,0
t + + - - - - + + 86,5
c + - + - - + - + 48,0
m + - - + + - - + 63,0
tc + + + - + - - - 63,0
tm + + - + - + - - 93,5
cm + - + + - - + - 58,5
tcm + + + + + + + + 72,0
94
Figura 6.12. Representação do planejamento fatorial 23.
À medida que a matriz aumenta com a inserção de novos fatores, torna-se mais
conveniente calcular os efeitos através de um método matricial. Considerando que podemos
associar a resposta a uma tabela de coeficientes de contrastes de sinais, teremos o seguinte
arranjo:
I T C M TC TM CM TCM R
+ − − − + + + − 54,0
+ + − − − − + + 86,5
+ − + − − + − + 48,0
+ − − + + − − + 63,0
X = y=
+ + + − + − − − 63,0
+ + − + − + − − 93,5
+ − + + − − + − 58,5
+ + + + + + + + 72,0
Para calcular os efeitos por meio deste algoritmo necessitamos incluir a unidade na
coluna específica com os sinais. Por exemplo, para calcular o efeito de T multiplicamos a
matriz transposta de T com y:
95
T
− − 1
+ 1
− − 1
− −1
XT = =
+ 1
+ 1
− − 1
+ 1
1 t
T= XT y
4
54,0
86,5
48,0
63,0
T = − 1 1 − 1 − 1 1 1 − 1 1
1
= 22,88
4 63,0
93,5
58,5
72,0
I 67,31
T 22,88
C − 13,88
M = 8,88
TC − 8,63
TM − 0,88
CM 0,88
TCM 0,13
96
Tratamento Rendimentos (%) Média S2
(1) 56 52 54,0 8,0
t 85 88 86,5 4,5
c 49 47 48,0 2,0
m 64 62 63,0 2,0
tc 65 61 63,0 8,0
tm 92 95 93,5 4,5
cm 57 60 58,5 4,5
tcm 70 74 72,0 8,0
Σ= 41,5
41,5
S p2 = = 5,2
8
S p = 2,28
5,2
V ( Efeito) = = 1,3
4
Erro = 1,30 = 1,1
97
Figura 6.8. Interpretação geométrica dos efeitos no planejamento 23.
98
Fatores
Níveis Concentração Sílica
pH
(mol/L) modificada
- 0,1 4 STM
+ 0,5 7 STPM
Experimento C P S ∆E
1 - - - 106
2 + - - 98
3 - + - 139
4 + + - 141
5 - - + 137
6 + - + 123
7 - + + 119
8 + + + 103
Fatores
1 2 3
Níveis
Tempo de hidrólise Temperatura Catalisador
+ 48 h 160 oC AP
- 24 h 130 oC TFA
1 2 3 12 13 23 123
0,040 0,015 -0,004 -0,005 0,005 0,010 -0,015
99
Os ensaios foram realizados em duplicata. Assim, pôde-se determinar o erro experimental
para os efeitos em ±1,53 × 10-2. Responda:
Planejamento Fatorial 24
n = 2 (+ e -)
k = 4 (Catalisador, Temperatura, Concentração e pH)
r = 1 (ensaio único)
100
Figura 6.12. Representação do planejamento fatorial 24.
101
Tabela 6.9. Coeficientes de contrastes para cálculo dos efeitos no planejamento fatorial 2 4.
I T C M P TC TM TP CM CP MP TCM TCP TMP CMP TCMP Resposta
(1) + - - - - + + + + + + - - - - + 54
t + + - - - - - - + + + + + + - - 85
c + - + - - - + + - - + + + - + - 49
tc + + + - - + - - - - + - - + + + 62
m + - - + - + - + - + - + - + + - 64
tm + + - + - - + - - + - - + - + + 94
cm + - + + - - - + + - - - + + - + 56
tcm + + + + - + + - + - - + - - - - 70
p + - - - + + + - + - - - + + + - 52
tp + + - - + - - + + - - + - - + + 87
cp + - + - + - + - - + - + - + - + 79
tcp + + + - + + - + - + - - + - - - 64
mp + - - + + + - - - - + + + - - + 64
tmp + + - + + - + + - - + - - + - - 94
cmp + - + + + - - - + + + - - - + - 58
tcmp + + + + + + + + + + + + + + + + 73
102
Cálculo dos efeitos pelo método matricial está demonstrado a seguir:
I 67,2
T 22,9
C − 14,1
M 8,9
P 0,9
TC − 8,6
TM − 0,6
TP 0,9
CM = − 0,6
CP 0,9
MP 0,4
TCM 0,9
TCP − 0,1
TMP − 0,6
CMP 0,4
TCMP 0,4
O experimento foi realizado em uma única vez, sem replicata, e assim não temos
como estimar o erro dos efeitos através do cálculo da variância agrupada. No entanto,
podemos dispor os resultados em um gráfico de probabilidade normal para realizar esta
análise. Neste procedimento devemos colocar os resultados dos efeitos em uma região
de probabilidade acumulada na distribuição normal.
a)
x1 x2 x3 x4 x5 x6
b)
104
Tabela 6.10. Determinação da probabilidade normal acumulada para efeito do
planejamento fatorial 24.
Fator- Região probabilidade Ponto
Número Efeito z
interação acumulada médio
1 C -14,12 0 - 0,067 0,033 -1,83
2 TC -8,62 0,067 - 0,133 0,100 -1,28
3 TMP -0,625 0,133 - 0,200 0,167 -0,97
4 TM -0,625 0,200 - 0,267 0,233 -0,73
5 CM -0,625 0,267 - 0,333 0,300 -0,52
6 TCP -0,125 0,333 - 0,400 0,367 -0,34
7 TCMP 0,375 0,400 - 0,467 0,433 -0,17
8 MP 0,375 0,467 - 0,533 0,500 0,00
9 CMP 0,375 0,533 - 0,600 0,567 0,17
10 TP 0,875 0,600 - 0,667 0,633 0,34
11 TCM 0,875 0,667 - 0,733 0,700 0,52
12 P 0,875 0,733 - 0,800 0,767 0,73
13 CP 0,875 0,800 - 0,867 0,833 0,97
14 M 8,88 0,867 - 0,933 0,900 1,28
15 T 22,9 0,933 - 1,000 0,967 1,83
2,5
2,0
T
1,5
M
1,0
0,5
0,0
Z
-0,5
-1,0
TC
-1,5
C
-2,0
-2,5
-20 -10 0 10 20 30
Efeito
105
Nota-se que boa parte dos pontos correspondente aos efeitos está próxima a 0 e
sobre estes pontos pode-se traçar uma reta. Tais pontos não têm significado físico e são
irrelevantes ao processo. Outros pontos afastados da reta apresentam significância e
foram identificados no gráfico. Quanto mais afastados da reta podemos mais
significativos são os efeitos e por isso devem servir para a otimização do processo.
1 2 3 4 12 13 14 23
-5,3 -1,7 0,3 -0,2 0,4 2,5 0,3 0,3
24 34 123 124 134 234 1234
0,2 0,1 0 0 0 0 0
a) De acordo com os resultados, qual seria a forma mais efetiva para otimizar a
resolução por meio da alteração dos fatores?
b) Construir um gráfico de probabilidade normal a partir dos resultados.
Fatores
A B C
Níveis Temperatura de Temperatura de Modificador
pirólise atomização Químico
+ 1400 oC 2500 oC presente
- 1100 oC 2200 oC ausente
106
a) O gráfico normal dos efeitos calculados para esse conjunto de experimentos é
apresentado abaixo. Aponte o(s) fator(es) que são relevantes na otimização do
sistema.
2,0
1,5 A
1,0
C
0,5
ABC
0,0 BC
z
-0,5 AC
AB
-1,0
-1,5 B
-2,0
-6 -4 -2 0 2 4 6
Efeito
n = 2 (+ e -)
k = 4 (Catalisador, Temperatura, Concentração e pH)
r = 1 (ensaio único)
107
Os níveis dos fatores no planejamento são dados nas Tabelas 6.7. No
24
planejamento fracionário a meia fração do planejamento completo: = 2 4.2 −1 = 2 3 = 8
2
ensaios.
I = TCMP
108
Tabela 6.11. Experimentos no planejamento fatorial fracionário 24-1 definidos pelo
gerador I = TCMP (em destaque).
Experimento I T C M P TCMP
1 + - - - - +
2 + + - - - -
3 + - + - - -
4 + + + - - +
5 + - - + - -
6 + + - + - +
7 + - + + - +
8 + + + + - -
9 + - - - + -
10 + + - - + +
11 + - + - + +
12 + + + - + -
13 + - - + + +
14 + + - + + -
15 + - + + + -
16 + + + + + +
Tabela 6.12. Pares associados obtidos pelos coeficientes de contrastes da meia fração do
planejamento fatorial.
Relação entre colunas de sinais Contrastes da meia fração do
planejamento 24-1
T = CMP l T → T + CMP
C = TMP l C → C + TMP
M = TCP l M → M + CMP
P = TCM l P → P + TCM
TC = MP l TC = l MP → TC + MP
TM = CP l TM = l CP → TM + CP
TP = CM l TP = l CM → TP + CM
I = TCMP l I → I + ½(TCMP)
109
Tabela 6.13. Coeficientes para cálculo dos contrastes dos pares associados no
planejamento fatorial 24-1.
I T C M P TC TM TP
Resposta
TCMP CMP TMP TCP TCM MP CP CM
(1) + - - - - + + + 54
tc + + + - - + - - 62
tm + + - + - - + - 94
cm + - + + - - - + 56
tp + + - - + - - + 87
cp + - + - + - + - 79
mp + - - + + + - - 64
tcmp + + + + + + + + 73
Nota-se que, com exceção aos contrastes MP, TCP, TMP e TCMP, os resultados
encontrados são aproximados em termos absolutos. Adicionalmente, se considerarmos
que l P ≈ 0, os contrastes que contém P também são insignificantes. Assim podemos
resumir a conclusão aos resultados apresentados na Tabela 6.15.
110
Tabela 6.15. Comparação entre os contrastes significativos dos fatores obtidos pelos
planejamentos fatoriais completos e fracionários.
Contraste Completo 24 Fracionário (l) 24-1
T 23 23
C -14 -15
M 9 9
TC -9 -8
Problemas.
6.1. Os dados abaixo foram obtidos num estudo da influência de alguns fatores no tempo
da pega inicial do gesso, isto é, o tempo em que o gesso começa a endurecer, depois que
o pó é misturado com água. Os ensaios foram realizados em duplicata. Determine todos
os efeitos e interprete os resultados.
111
Ensaio T (ºC) C (mol/L) Volume, (cm3/g)
1 50 0,25 0,285 0,297
2 60 0,25 0,313 -
3 50 0,50 0,168 0,161
4 60 0,50 0,223 0,229
t C P Rendimento (%)
- - - 4,39 4,73
+ - - 6,21 5,75
- + - 14,51 13,45
+ + - 19,57 21,11
- - + 2,09 1,93
+ - + 3,15 3,39
- + + 11,77 12,69
+ + + 19,40 17,98
6.4 Os resultados abaixo foram obtidos numa investigação cujo objetivo era a
otimização do rendimento de uma reação orgânica. Que conclusões você pode tirar
desses resultados?
Fatores - +
1 (Temperatura) Ambiente Refluxo
2 (Base) K2CO3/NaOH K2CO3
3 (Solvente) CH2Cl2 CH3CN
4 (Catalisador) Nenhum TEBA
112
Ensaio 1 2 3 4 Rendimento(%)
1 - - - - 0
2 + - - + 70
3 - + - + 65
4 + + - - 0
5 - - + + 100
6 + - + - 85
7 - + + - 50
8 + + + + 95
Ensaio A B C D Sinal
1 - - - - 52
2 + - - - 61
3 - + - - 124
4 + + - - 113
5 - - + - 85
6 + - + - 66
7 - + + - 185
8 + + + - 192
9 - - - + 98
10 + - - + 86
11 - + - + 201
12 + + - + 194
13 - - + + 122
14 + - + + 139
15 - + + + 289
16 + + + + 286
113
Fatores (-) (+)
A. [H2SO4] (mol/L) 0,16 0,32
B. [KI] (mol/L) 0,015 0,030
C. [H2O2] (mol/L) 0,0020 0,0040
D. Δt (s) 90 130
6.6. Estime os efeitos para o planejamento fatorial fracionário 2 5-1 conforme os dados
apresentados na tabela abaixo. Plote os efeitos em um gráfico de probabilidade normal.
A B C D E Observação
- - - - + 14,8
+ - - - - 14,5
- + - - - 18,1
+ + - - + 19,4
- - + - - 18,4
+ - + - + 15,7
- + + - + 27,3
+ + + - - 28,2
- - - + - 16,0
+ - - + + 15,1
- + - + + 18,9
+ + - + - 22,0
- - + + + 19,8
+ - + + - 18,9
- + + + - 29,9
+ + + + + 27,4
114
Apêndices
115
Tabela 1. Função de Distribuição Normal Reduzida
Z 0 0,01 0,02 0,03 0,04 0,05 0,06 0,07 0,08 0,09
0 0,00000 0,00400 0,00800 0,01200 0,01600 0,01990 0,02390 0,02790 0,03190 0,03590
0,1 0,03980 0,04380 0,04780 0,05170 0,05570 0,05960 0,06360 0,06750 0,07140 0,07530
0,2 0,07930 0,08320 0,08710 0,09100 0,09480 0,09870 0,10260 0,10640 0,11030 0,11410
0,3 0,11790 0,12170 0,12550 0,12930 0,13310 0,13680 0,14060 0,14430 0,14800 0,15170
0,4 0,15540 0,15910 0,16280 0,16640 0,17000 0,17360 0,17720 0,18080 0,18440 0,18790
0,5 0,19150 0,19500 0,19850 0,20190 0,20540 0,20880 0,21230 0,21570 0,21900 0,22240
0,6 0,22570 0,22910 0,23240 0,23570 0,23890 0,24220 0,24540 0,24860 0,25170 0,25490
0,7 0,25800 0,26110 0,26420 0,26730 0,27040 0,27340 0,27640 0,27940 0,28230 0,28520
0,8 0,28810 0,29100 0,29390 0,29670 0,29950 0,30230 0,30510 0,30780 0,31060 0,31330
0,9 0,31590 0,31860 0,32120 0,32380 0,32640 0,32890 0,33150 0,33400 0,33650 0,33890
1 0,34130 0,34380 0,34610 0,34850 0,35080 0,35310 0,35540 0,35770 0,35990 0,36210
1,1 0,36430 0,36650 0,36860 0,37080 0,37290 0,37490 0,37700 0,37900 0,38100 0,38300
1,2 0,38490 0,38690 0,38880 0,39070 0,39250 0,39440 0,39620 0,39800 0,39970 0,40150
1,3 0,40320 0,40490 0,40660 0,40820 0,40990 0,41150 0,41310 0,41470 0,41620 0,41770
1,4 0,41920 0,42070 0,42220 0,42360 0,42510 0,42650 0,42790 0,42920 0,43060 0,43190
1,5 0,43320 0,43450 0,43570 0,43700 0,43820 0,43940 0,44060 0,44180 0,44290 0,44410
1,6 0,44520 0,44630 0,44740 0,44840 0,44950 0,45050 0,45150 0,45250 0,45350 0,45450
1,7 0,45540 0,45640 0,45730 0,45820 0,45910 0,45990 0,46080 0,46160 0,46250 0,46330
1,8 0,46410 0,46490 0,46560 0,46640 0,46710 0,46780 0,46860 0,46930 0,46990 0,47060
1,9 0,47130 0,47190 0,47260 0,47320 0,47380 0,47440 0,47500 0,47560 0,47610 0,47670
2 0,47720 0,47780 0,47830 0,47880 0,47930 0,47980 0,48030 0,48080 0,48120 0,48170
2,1 0,48210 0,48260 0,48300 0,48340 0,48380 0,48420 0,48460 0,48500 0,48540 0,48570
2,2 0,48610 0,48640 0,48680 0,48710 0,48750 0,48780 0,48810 0,48840 0,48870 0,48900
2,3 0,48930 0,48960 0,48980 0,49010 0,49040 0,49060 0,49090 0,49110 0,49130 0,49160
2,4 0,49180 0,49200 0,49220 0,49250 0,49270 0,49290 0,49310 0,49320 0,49340 0,49360
2,5 0,49380 0,49400 0,49410 0,49430 0,49450 0,49460 0,49480 0,49490 0,49510 0,49520
2,6 0,49530 0,49550 0,49560 0,49570 0,49590 0,49600 0,49610 0,49620 0,49630 0,49640
2,7 0,49650 0,49660 0,49670 0,49680 0,49690 0,49700 0,49710 0,49720 0,49730 0,49740
2,8 0,49740 0,49750 0,49760 0,49770 0,49770 0,49780 0,49790 0,49790 0,49800 0,49810
2,9 0,49810 0,49820 0,49820 0,49830 0,49840 0,49840 0,49850 0,49850 0,49860 0,49860
3 0,49865 0,49869 0,49874 0,49878 0,49882 0,49886 0,49889 0,49893 0,49897 0,49900
3,1 0,49903 0,49906 0,49910 0,49913 0,49916 0,49918 0,49921 0,49924 0,49926 0,49929
3,2 0,49931 0,49934 0,49936 0,49938 0,49940 0,49942 0,49944 0,49946 0,49948 0,49950
3,3 0,49952 0,49953 0,49955 0,49957 0,49958 0,49960 0,49961 0,49962 0,49964 0,49965
3,4 0,49966 0,49968 0,49969 0,49970 0,49971 0,49972 0,49973 0,49974 0,49975 0,49976
3,5 0,49977 0,49978 0,49978 0,49979 0,49980 0,49981 0,49982 0,49982 0,49983 0,49984
3,6 0,49984 0,49985 0,49985 0,49986 0,49986 0,49987 0,49987 0,49988 0,49988 0,49989
3,7 0,49989 0,49990 0,49990 0,49990 0,49991 0,49991 0,49992 0,49992 0,49992 0,49993
3,8 0,49993 0,49993 0,49993 0,49994 0,49994 0,49994 0,49994 0,49995 0,49995 0,49995
3,9 0,49995 0,49995 0,49996 0,49996 0,49996 0,49996 0,49996 0,49996 0,49997 0,49997
4 0,49997 0,49997 0,49997 0,49997 0,49997 0,49997 0,49998 0,49998 0,49998 0,49998
116
Tabela 2. Função de Distribuição (t) de Student
Área de Probabilidade (p)
0,2 0,4 0,6 0,8 0,90 0,95 0,98 0,99 0,998 0,999
1 0,325 0,727 1,376 3,078 6,314 12,706 31,821 63,656 318,289 636,578
2 0,289 0,617 1,061 1,886 2,920 4,303 6,965 9,925 22,328 31,600
3 0,277 0,584 0,978 1,638 2,353 3,182 4,541 5,841 10,214 12,924
4 0,271 0,569 0,941 1,533 2,132 2,776 3,747 4,604 7,173 8,610
5 0,267 0,559 0,920 1,476 2,015 2,571 3,365 4,032 5,894 6,869
6 0,265 0,553 0,906 1,440 1,943 2,447 3,143 3,707 5,208 5,959
7 0,263 0,549 0,896 1,415 1,895 2,365 2,998 3,499 4,785 5,408
8 0,262 0,546 0,889 1,397 1,860 2,306 2,896 3,355 4,501 5,041
9 0,261 0,543 0,883 1,383 1,833 2,262 2,821 3,250 4,297 4,781
10 0,260 0,542 0,879 1,372 1,812 2,228 2,764 3,169 4,144 4,587
11 0,260 0,540 0,876 1,363 1,796 2,201 2,718 3,106 4,025 4,437
12 0,259 0,539 0,873 1,356 1,782 2,179 2,681 3,055 3,930 4,318
13 0,259 0,538 0,870 1,350 1,771 2,160 2,650 3,012 3,852 4,221
14 0,258 0,537 0,868 1,345 1,761 2,145 2,624 2,977 3,787 4,140
15 0,258 0,536 0,866 1,341 1,753 2,131 2,602 2,947 3,733 4,073
16 0,258 0,535 0,865 1,337 1,746 2,120 2,583 2,921 3,686 4,015
17 0,257 0,534 0,863 1,333 1,740 2,110 2,567 2,898 3,646 3,965
18 0,257 0,534 0,862 1,330 1,734 2,101 2,552 2,878 3,610 3,922
19 0,257 0,533 0,861 1,328 1,729 2,093 2,539 2,861 3,579 3,883
20 0,257 0,533 0,860 1,325 1,725 2,086 2,528 2,845 3,552 3,850
21 0,257 0,532 0,859 1,323 1,721 2,080 2,518 2,831 3,527 3,819
22 0,256 0,532 0,858 1,321 1,717 2,074 2,508 2,819 3,505 3,792
23 0,256 0,532 0,858 1,319 1,714 2,069 2,500 2,807 3,485 3,768
24 0,256 0,531 0,857 1,318 1,711 2,064 2,492 2,797 3,467 3,745
25 0,256 0,531 0,856 1,316 1,708 2,060 2,485 2,787 3,450 3,725
26 0,256 0,531 0,856 1,315 1,706 2,056 2,479 2,779 3,435 3,707
27 0,256 0,531 0,855 1,314 1,703 2,052 2,473 2,771 3,421 3,689
28 0,256 0,530 0,855 1,313 1,701 2,048 2,467 2,763 3,408 3,674
29 0,256 0,530 0,854 1,311 1,699 2,045 2,462 2,756 3,396 3,660
30 0,256 0,530 0,854 1,310 1,697 2,042 2,457 2,750 3,385 3,646
40 0,255 0,529 0,851 1,303 1,684 2,021 2,423 2,704 3,307 3,551
50 0,255 0,528 0,849 1,299 1,676 2,009 2,403 2,678 3,261 3,496
60 0,254 0,527 0,848 1,296 1,671 2,000 2,390 2,660 3,232 3,460
70 0,254 0,527 0,847 1,294 1,667 1,994 2,381 2,648 3,211 3,435
80 0,254 0,526 0,846 1,292 1,664 1,990 2,374 2,639 3,195 3,416
90 0,254 0,526 0,846 1,291 1,662 1,987 2,368 2,632 3,183 3,402
100 0,254 0,526 0,845 1,290 1,660 1,984 2,364 2,626 3,174 3,390
120 0,254 0,526 0,845 1,289 1,658 1,980 2,358 2,617 3,160 3,373
150 0,254 0,526 0,844 1,287 1,655 1,976 2,351 2,609 3,145 3,357
0,253 0,524 0,842 1,282 1,645 1,960 2,327 2,576 3,091 3,291
117
Tabela 3. Função de Distribuição 2.
Área de Probabilidade
0,995 0,99 0,975 0,95 0,8 0,5 0,2 0,05 0,025 0,01 0,005
1 0,001 0,004 0,064 0,455 1,642 3,841 5,024 6,635 7,879
2 0,01 0,02 0,051 0,103 0,446 1,386 3,219 5,991 7,378 9,210 10,597
3 0,072 0,115 0,216 0,352 1,005 2,366 4,642 7,815 9,348 11,345 12,838
4 0,207 0,297 0,484 0,711 1,649 3,357 5,989 9,488 11,143 13,277 14,860
5 0,412 0,554 0,831 1,145 2,343 4,351 7,289 11,070 12,832 15,086 16,750
6 0,676 0,872 1,237 1,635 3,070 5,348 8,558 12,592 14,449 16,812 18,548
7 0,989 1,239 1,690 2,167 3,822 6,346 9,803 14,067 16,013 18,475 20,278
8 1,344 1,647 2,180 2,733 4,594 7,344 11,030 15,507 17,535 20,090 21,955
9 1,735 2,088 2,700 3,325 5,380 8,343 12,242 16,919 19,023 21,666 23,589
10 2,156 2,558 3,247 3,940 6,179 9,342 13,442 18,307 20,483 23,209 25,188
11 2,603 3,053 3,816 4,575 6,989 10,341 14,631 19,675 21,920 24,725 26,757
12 3,074 3,571 4,404 5,226 7,807 11,340 15,812 21,026 23,337 26,217 28,300
13 3,565 4,107 5,009 5,892 8,634 12,340 16,985 22,362 24,736 27,688 29,819
14 4,075 4,660 5,629 6,571 9,467 13,339 18,151 23,685 26,119 29,141 31,319
15 4,601 5,229 6,262 7,261 10,307 14,339 19,311 24,996 27,488 30,578 32,801
16 5,142 5,812 6,908 7,962 11,152 15,338 20,465 26,296 28,845 32,000 34,267
17 5,697 6,408 7,564 8,672 12,002 16,338 21,615 27,587 30,191 33,409 35,718
18 6,265 7,015 8,231 9,390 12,857 17,338 22,760 28,869 31,526 34,805 37,156
19 6,844 7,633 8,907 10,117 13,716 18,338 23,900 30,144 32,852 36,191 38,582
20 7,434 8,260 9,591 10,851 14,578 19,337 25,038 31,410 34,170 37,566 39,997
21 8,034 8,897 10,283 11,591 15,445 20,337 26,171 32,671 35,479 38,932 41,401
22 8,643 9,542 10,982 12,338 16,314 21,337 27,301 33,924 36,781 40,289 42,796
23 9,260 10,196 11,689 13,091 17,187 22,337 28,429 35,172 38,076 41,638 44,181
24 9,886 10,856 12,401 13,848 18,062 23,337 29,553 36,415 39,364 42,980 45,558
25 10,520 11,524 13,120 14,611 18,940 24,337 30,675 37,652 40,646 44,314 46,928
26 11,160 12,198 13,844 15,379 19,820 25,336 31,795 38,885 41,923 45,642 48,290
27 11,808 12,878 14,573 16,151 20,703 26,336 32,912 40,113 43,195 46,963 49,645
28 12,461 13,565 15,308 16,928 21,588 27,336 34,027 41,337 44,461 48,278 50,994
29 13,121 14,256 16,047 17,708 22,475 28,336 35,139 42,557 45,722 49,588 52,335
30 13,787 14,953 16,791 18,493 23,364 29,336 36,250 43,773 46,979 50,892 53,672
118
Tabela 4. Valores críticos para o teste de Cochran
119
Tabela 5. Valores críticos para o teste de Grubbs
Um valor Dois valores
p 1% 5% 1% 5%
- - - - -
3 1,155 1,155 - -
4 1,496 1,481 - 0,000
5 1,764 1,715 0,002 0,009
6 1,973 1,887 0,012 0,035
7 2,139 2,020 0,031 0,071
8 2,274 2,126 0,056 0,110
9 2,387 2,215 0,085 0,149
10 2,482 2,020 0,115 0,186
11 2,564 2,355 0,145 0,221
12 2,636 2,412 0,174 0,254
13 2,699 2,462 0,202 0,284
14 2,755 2,507 0,228 0,311
15 2,806 2,549 0,253 0,337
16 2,852 2,585 0,277 0,360
17 2,894 2,620 0,299 0,382
18 2,932 2,651 0,320 0,403
19 2,968 2,681 0,340 0,421
20 3,001 2,709 0,359 0,439
21 3,031 2,733 0,376 0,456
22 3,060 2,758 0,393 0,471
23 3,087 2,781 0,401 0,486
24 3,112 2,802 0,423 0,499
25 3,135 2,822 0,438 0,512
26 3,157 2,841 0,451 0,525
27 3,178 2,859 0,464 0,536
28 3,199 2,876 0,476 0,547
29 3,218 2,893 0,488 0,557
30 3,236 2,908 0,499 0,567
31 3,253 2,924 0,509 0,577
32 3,270 2,938 0,519 0,586
33 3,286 2,952 0,529 0,594
34 3,301 2,965 0,538 0,602
35 3,316 2,979 0,547 0,610
36 3,330 2,991 0,555 0,618
37 3,343 3,003 0,564 0,625
38 3,356 3,014 0,571 0,632
39 3,369 3,025 0,579 0,638
40 3,381 3,036 0,586 0,645
120
Tabela 6.1. Função Distribuição F (=0,10).
1 2 3 4 5 6 7 8 9 10 12 15 20 24 30 40 60 120
1 39,86 49,50 53,59 55,83 57,24 58,20 58,91 59,44 59,86 60,19 60,71 61,22 61,74 62,00 62,26 62,53 62,79 63,06 63,33
2 8,53 9,00 9,16 9,24 9,29 9,33 9,35 9,37 9,38 9,39 9,41 9,42 9,44 9,45 9,46 9,47 9,47 9,48 9,49
3 5,54 5,46 5,39 5,34 5,31 5,28 5,27 5,25 5,24 5,23 5,22 5,20 5,18 5,18 5,17 5,16 5,15 5,14 5,13
4 4,54 4,32 4,19 4,11 4,05 4,01 3,98 3,95 3,94 3,92 3,90 3,87 3,84 3,83 3,82 3,80 3,79 3,78 3,76
5 4,06 3,78 3,62 3,52 3,45 3,40 3,37 3,34 3,32 3,30 3,27 3,24 3,21 3,19 3,17 3,16 3,14 3,12 3,10
6 3,78 3,46 3,29 3,18 3,11 3,05 3,01 2,98 2,96 2,94 2,90 2,87 2,84 2,82 2,80 2,78 2,76 2,74 2,72
7 3,59 3,26 3,07 2,96 2,88 2,83 2,78 2,75 2,72 2,70 2,67 2,63 2,59 2,58 2,56 2,54 2,51 2,49 2,47
8 3,46 3,11 2,92 2,81 2,73 2,67 2,62 2,59 2,56 2,54 2,50 2,46 2,42 2,40 2,38 2,36 2,34 2,32 2,29
9 3,36 3,01 2,81 2,69 2,61 2,55 2,51 2,47 2,44 2,42 2,38 2,34 2,30 2,28 2,25 2,23 2,21 2,18 2,16
10 3,29 2,92 2,73 2,61 2,52 2,46 2,41 2,38 2,35 2,32 2,28 2,24 2,20 2,18 2,16 2,13 2,11 2,08 2,06
12 3,18 2,81 2,61 2,48 2,39 2,33 2,28 2,24 2,21 2,19 2,15 2,10 2,06 2,04 2,01 1,99 1,96 1,93 1,90
15 3,07 2,70 2,49 2,36 2,27 2,21 2,16 2,12 2,09 2,06 2,02 1,97 1,92 1,90 1,87 1,85 1,82 1,79 1,76
20 2,97 2,59 2,38 2,25 2,16 2,09 2,04 2,00 1,96 1,94 1,89 1,84 1,79 1,77 1,74 1,71 1,68 1,64 1,61
24 2,93 2,54 2,33 2,19 2,10 2,04 1,98 1,94 1,91 1,88 1,83 1,78 1,73 1,70 1,67 1,64 1,61 1,57 1,53
30 2,88 2,49 2,28 2,14 2,05 1,98 1,93 1,88 1,85 1,82 1,77 1,72 1,67 1,64 1,61 1,57 1,54 1,50 1,46
40 2,84 2,44 2,23 2,09 2,00 1,93 1,87 1,83 1,79 1,76 1,71 1,66 1,61 1,57 1,54 1,51 1,47 1,42 1,38
60 2,79 2,39 2,18 2,04 1,95 1,87 1,82 1,77 1,74 1,71 1,66 1,60 1,54 1,51 1,48 1,44 1,40 1,35 1,29
120 2,75 2,35 2,13 1,99 1,90 1,82 1,77 1,72 1,68 1,65 1,60 1,55 1,48 1,45 1,41 1,37 1,32 1,26 1,19
2,71 2,30 2,08 1,94 1,85 1,77 1,72 1,67 1,63 1,60 1,55 1,49 1,42 1,38 1,34 1,30 1,24 1,17 1,00
Tabela 6.2. Função Distribuição F (=0,05).
1 2 3 4 5 6 7 8 9 10 12 15 20 24 30 40 60 120
1 161,4 199,5 215,7 224,6 230,2 234,0 236,8 238,9 240,5 241,9 243,9 245,9 248,0 249,1 250,1 251,1 252,2 253,3 254,3
2 18,51 19,00 19,16 19,25 19,30 19,33 19,35 19,37 19,38 19,40 19,41 19,43 19,45 19,45 19,46 19,47 19,48 19,49 19,50
3 10,13 9,55 9,28 9,12 9,01 8,94 8,89 8,85 8,81 8,79 8,74 8,70 8,66 8,64 8,62 8,59 8,57 8,55 8,53
4 7,71 6,94 6,59 6,39 6,26 6,16 6,09 6,04 6,00 5,96 5,91 5,86 5,80 5,77 5,75 5,72 5,69 5,66 5,63
5 6,61 5,79 5,41 5,19 5,05 4,95 4,88 4,82 4,77 4,74 4,68 4,62 4,56 4,53 4,50 4,46 4,43 4,40 4,36
6 5,99 5,14 4,76 4,53 4,39 4,28 4,21 4,15 4,10 4,06 4,00 3,94 3,87 3,84 3,81 3,77 3,74 3,70 3,67
7 5,59 4,74 4,35 4,12 3,97 3,87 3,79 3,73 3,68 3,64 3,57 3,51 3,44 3,41 3,38 3,34 3,30 3,27 3,23
8 5,32 4,46 4,07 3,84 3,69 3,58 3,50 3,44 3,39 3,35 3,28 3,22 3,15 3,12 3,08 3,04 3,01 2,97 2,93
9 5,12 4,26 3,86 3,63 3,48 3,37 3,29 3,23 3,18 3,14 3,07 3,01 2,94 2,90 2,86 2,83 2,79 2,75 2,71
10 4,96 4,10 3,71 3,48 3,33 3,22 3,14 3,07 3,02 2,98 2,91 2,85 2,77 2,74 2,70 2,66 2,62 2,58 2,54
12 4,75 3,89 3,49 3,26 3,11 3,00 2,91 2,85 2,80 2,75 2,69 2,62 2,54 2,51 2,47 2,43 2,38 2,34 2,30
15 4,54 3,68 3,29 3,06 2,90 2,79 2,71 2,64 2,59 2,54 2,48 2,40 2,33 2,29 2,25 2,20 2,16 2,11 2,07
20 4,35 3,49 3,10 2,87 2,71 2,60 2,51 2,45 2,39 2,35 2,28 2,20 2,12 2,08 2,04 1,99 1,95 1,90 1,84
24 4,26 3,40 3,01 2,78 2,62 2,51 2,42 2,36 2,30 2,25 2,18 2,11 2,03 1,98 1,94 1,89 1,84 1,79 1,73
30 4,17 3,32 2,92 2,69 2,53 2,42 2,33 2,27 2,21 2,16 2,09 2,01 1,93 1,89 1,84 1,79 1,74 1,68 1,62
40 4,08 3,23 2,84 2,61 2,45 2,34 2,25 2,18 2,12 2,08 2,00 1,92 1,84 1,79 1,74 1,69 1,64 1,58 1,51
60 4,00 3,15 2,76 2,53 2,37 2,25 2,17 2,10 2,04 1,99 1,92 1,84 1,75 1,70 1,65 1,59 1,53 1,47 1,39
120 3,92 3,07 2,68 2,45 2,29 2,18 2,09 2,02 1,96 1,91 1,83 1,75 1,66 1,61 1,55 1,50 1,43 1,35 1,25
3,84 3,00 2,60 2,37 2,21 2,10 2,01 1,94 1,88 1,83 1,75 1,67 1,57 1,52 1,46 1,39 1,32 1,22 1,00
122
Tabela 6.3. Função Distribuição F (=0,025).
1 2 3 4 5 6 7 8 9 10 12 15 20 24 30 40 60 120
1 647,8 799,5 864,2 899,6 921,8 937,1 948,2 956,6 963,3 968,6 976,7 984,9 993,1 997,3 1001 1006 1010 1014 1018
2 38,51 39,00 39,17 39,25 39,30 39,33 39,36 39,37 39,39 39,40 39,41 39,43 39,45 39,46 39,46 39,47 39,48 39,49 39,50
3 17,44 16,04 15,44 15,10 14,88 14,73 14,62 14,54 14,47 14,42 14,34 14,25 14,17 14,12 14,08 14,04 13,99 13,95 13,90
4 12,22 10,65 9,98 9,60 9,36 9,20 9,07 8,98 8,90 8,84 8,75 8,66 8,56 8,51 8,46 8,41 8,36 8,31 8,26
5 10,01 8,43 7,76 7,39 7,15 6,98 6,85 6,76 6,68 6,62 6,52 6,43 6,33 6,28 6,23 6,18 6,12 6,07 6,02
6 8,81 7,26 6,60 6,23 5,99 5,82 5,70 5,60 5,52 5,46 5,37 5,27 5,17 5,12 5,07 5,01 4,96 4,90 4,85
7 8,07 6,54 5,89 5,52 5,29 5,12 4,99 4,90 4,82 4,76 4,67 4,57 4,47 4,41 4,36 4,31 4,25 4,20 4,14
8 7,57 6,06 5,42 5,05 4,82 4,65 4,53 4,43 4,36 4,30 4,20 4,10 4,00 3,95 3,89 3,84 3,78 3,73 3,67
9 7,21 5,71 5,08 4,72 4,48 4,32 4,20 4,10 4,03 3,96 3,87 3,77 3,67 3,61 3,56 3,51 3,45 3,39 3,33
10 6,94 5,46 4,83 4,47 4,24 4,07 3,95 3,85 3,78 3,72 3,62 3,52 3,42 3,37 3,31 3,26 3,20 3,14 3,08
12 6,55 5,10 4,47 4,12 3,89 3,73 3,61 3,51 3,44 3,37 3,28 3,18 3,07 3,02 2,96 2,91 2,85 2,79 2,72
15 6,20 4,77 4,15 3,80 3,58 3,41 3,29 3,20 3,12 3,06 2,96 2,86 2,76 2,70 2,64 2,59 2,52 2,46 2,40
20 5,87 4,46 3,86 3,51 3,29 3,13 3,01 2,91 2,84 2,77 2,68 2,57 2,46 2,41 2,35 2,29 2,22 2,16 2,09
24 5,72 4,32 3,72 3,38 3,15 2,99 2,87 2,78 2,70 2,64 2,54 2,44 2,33 2,27 2,21 2,15 2,08 2,01 1,94
30 5,57 4,18 3,59 3,25 3,03 2,87 2,75 2,65 2,57 2,51 2,41 2,31 2,20 2,14 2,07 2,01 1,94 1,87 1,79
40 5,42 4,05 3,46 3,13 2,90 2,74 2,62 2,53 2,45 2,39 2,29 2,18 2,07 2,01 1,94 1,88 1,80 1,72 1,64
60 5,29 3,93 3,34 3,01 2,79 2,63 2,51 2,41 2,33 2,27 2,17 2,06 1,94 1,88 1,82 1,74 1,67 1,58 1,48
120 5,15 3,80 3,23 2,89 2,67 2,52 2,39 2,30 2,22 2,16 2,05 1,94 1,82 1,76 1,69 1,61 1,53 1,43 1,31
5,02 3,69 3,12 2,79 2,57 2,41 2,29 2,19 2,11 2,05 1,94 1,83 1,71 1,64 1,57 1,48 1,39 1,27 1,00
123
Tabela 6.4. Função Distribuição F (=0,01).
1 2 3 4 5 6 7 8 9 10 12 15 20 24 30 40 60 120
1 4052 4999 5404 5624 5764 5859 5928 5981 6022 6056 6107 6157 6209 6234 6260 6286 6313 6340 6366
2 98,50 99,00 99,16 99,25 99,30 99,33 99,36 99,38 99,39 99,40 99,42 99,43 99,45 99,46 99,47 99,48 99,48 99,49 99,50
3 34,12 30,82 29,46 28,71 28,24 27,91 27,67 27,49 27,34 27,23 27,05 26,87 26,69 26,60 26,50 26,41 26,32 26,22 26,13
4 21,20 18,00 16,69 15,98 15,52 15,21 14,98 14,80 14,66 14,55 14,37 14,20 14,02 13,93 13,84 13,75 13,65 13,56 13,46
5 16,26 13,27 12,06 11,39 10,97 10,67 10,46 10,29 10,16 10,05 9,89 9,72 9,55 9,47 9,38 9,29 9,20 9,11 9,02
6 13,75 10,92 9,78 9,15 8,75 8,47 8,26 8,10 7,98 7,87 7,72 7,56 7,40 7,31 7,23 7,14 7,06 6,97 6,88
7 12,25 9,55 8,45 7,85 7,46 7,19 6,99 6,84 6,72 6,62 6,47 6,31 6,16 6,07 5,99 5,91 5,82 5,74 5,65
8 11,26 8,65 7,59 7,01 6,63 6,37 6,18 6,03 5,91 5,81 5,67 5,52 5,36 5,28 5,20 5,12 5,03 4,95 4,86
9 10,56 8,02 6,99 6,42 6,06 5,80 5,61 5,47 5,35 5,26 5,11 4,96 4,81 4,73 4,65 4,57 4,48 4,40 4,31
10 10,04 7,56 6,55 5,99 5,64 5,39 5,20 5,06 4,94 4,85 4,71 4,56 4,41 4,33 4,25 4,17 4,08 4,00 3,91
12 9,33 6,93 5,95 5,41 5,06 4,82 4,64 4,50 4,39 4,30 4,16 4,01 3,86 3,78 3,70 3,62 3,54 3,45 3,36
15 8,68 6,36 5,42 4,89 4,56 4,32 4,14 4,00 3,89 3,80 3,67 3,52 3,37 3,29 3,21 3,13 3,05 2,96 2,87
20 8,10 5,85 4,94 4,43 4,10 3,87 3,70 3,56 3,46 3,37 3,23 3,09 2,94 2,86 2,78 2,69 2,61 2,52 2,42
24 7,82 5,61 4,72 4,22 3,90 3,67 3,50 3,36 3,26 3,17 3,03 2,89 2,74 2,66 2,58 2,49 2,40 2,31 2,21
30 7,56 5,39 4,51 4,02 3,70 3,47 3,30 3,17 3,07 2,98 2,84 2,70 2,55 2,47 2,39 2,30 2,21 2,11 2,01
40 7,31 5,18 4,31 3,83 3,51 3,29 3,12 2,99 2,89 2,80 2,66 2,52 2,37 2,29 2,20 2,11 2,02 1,92 1,80
60 7,08 4,98 4,13 3,65 3,34 3,12 2,95 2,82 2,72 2,63 2,50 2,35 2,20 2,12 2,03 1,94 1,84 1,73 1,60
120 6,85 4,79 3,95 3,48 3,17 2,96 2,79 2,66 2,56 2,47 2,34 2,19 2,03 1,95 1,86 1,76 1,66 1,53 1,38
6,63 4,61 3,78 3,32 3,02 2,80 2,64 2,51 2,41 2,32 2,18 2,04 1,88 1,79 1,70 1,59 1,47 1,32 1,00
124
Tabela 6.5. Função Distribuição F (=0,005).
1 2 3 4 5 6 7 8 9 10 12 15 20 24 30 40 60 120
1 16212 19997 21614 22501 23056 23440 23715 23924 24091 24222 24427 24632 24837 24937 25041 25146 25254 25358 25466
2 198,5 199,0 199,2 199,2 199,3 199,3 199,4 199,4 199,4 199,4 199,4 199,4 199,4 199,4 199,5 199,5 199,5 199,5 199,5
3 55,55 49,80 47,47 46,20 45,39 44,84 44,43 44,13 43,88 43,68 43,39 43,08 42,78 42,62 42,47 42,31 42,15 41,99 41,83
4 31,33 26,28 24,26 23,15 22,46 21,98 21,62 21,35 21,14 20,97 20,70 20,44 20,17 20,03 19,89 19,75 19,61 19,47 19,32
5 22,78 18,31 16,53 15,56 14,94 14,51 14,20 13,96 13,77 13,62 13,38 13,15 12,90 12,78 12,66 12,53 12,40 12,27 12,14
6 18,63 14,54 12,92 12,03 11,46 11,07 10,79 10,57 10,39 10,25 10,03 9,81 9,59 9,47 9,36 9,24 9,12 9,00 8,88
7 16,24 12,40 10,88 10,05 9,52 9,16 8,89 8,68 8,51 8,38 8,18 7,97 7,75 7,64 7,53 7,42 7,31 7,19 7,08
8 14,69 11,04 9,60 8,81 8,30 7,95 7,69 7,50 7,34 7,21 7,01 6,81 6,61 6,50 6,40 6,29 6,18 6,06 5,95
9 13,61 10,11 8,72 7,96 7,47 7,13 6,88 6,69 6,54 6,42 6,23 6,03 5,83 5,73 5,62 5,52 5,41 5,30 5,19
10 12,83 9,43 8,08 7,34 6,87 6,54 6,30 6,12 5,97 5,85 5,66 5,47 5,27 5,17 5,07 4,97 4,86 4,75 4,64
12 11,75 8,51 7,23 6,52 6,07 5,76 5,52 5,35 5,20 5,09 4,91 4,72 4,53 4,43 4,33 4,23 4,12 4,01 3,90
15 10,80 7,70 6,48 5,80 5,37 5,07 4,85 4,67 4,54 4,42 4,25 4,07 3,88 3,79 3,69 3,59 3,48 3,37 3,26
20 9,94 6,99 5,82 5,17 4,76 4,47 4,26 4,09 3,96 3,85 3,68 3,50 3,32 3,22 3,12 3,02 2,92 2,81 2,69
24 9,55 6,66 5,52 4,89 4,49 4,20 3,99 3,83 3,69 3,59 3,42 3,25 3,06 2,97 2,87 2,77 2,66 2,55 2,43
30 9,18 6,35 5,24 4,62 4,23 3,95 3,74 3,58 3,45 3,34 3,18 3,01 2,82 2,73 2,63 2,52 2,42 2,30 2,18
40 8,83 6,07 4,98 4,37 3,99 3,71 3,51 3,35 3,22 3,12 2,95 2,78 2,60 2,50 2,40 2,30 2,18 2,06 1,93
60 8,49 5,79 4,73 4,14 3,76 3,49 3,29 3,13 3,01 2,90 2,74 2,57 2,39 2,29 2,19 2,08 1,96 1,83 1,69
120 8,18 5,54 4,50 3,92 3,55 3,28 3,09 2,93 2,81 2,71 2,54 2,37 2,19 2,09 1,98 1,87 1,75 1,61 1,43
7,88 5,30 4,28 3,72 3,35 3,09 2,90 2,74 2,62 2,52 2,36 2,19 2,00 1,90 1,79 1,67 1,53 1,36 1,00
125