Documenti di Didattica
Documenti di Professioni
Documenti di Cultura
15 de abril de 2009
Estrutura da Apresentação
1 Motivação
2 Estimação de Densidades pelo Método Kernel
(i) Caso Univariado
(ii) Caso Multivariado
3 Análise Discriminante Kernel
4 Experimentos
5 Conclusões
Kernel (1)
Kernel (2)
Motivação
Histogramas
Para expressar este estimador de forma mais clara, seja a função peso w:
1
se |x| < 1
w(x) = 2 (1)
0 caso contrário.
Então, é fácil ver que uma estimativa para f neste caso é dada por
n
1X1 x − Xi
fˆ(x) = w (2)
n i=1 h h
1
Retangular 2
para |x| < 1, 0 caso contrário
Biweight 15
16
(1 − x2 )2 para |x| < 1, 0 caso contrário
2
Normal √1 exp − x2
2π
√ √
Epanechnikov 3
4
1 − x2 /5 / 5 para |x| < 5, 0 caso contrário
0.6
0.5
densidade estimada
0.4
0.3
0.2
0.1
0.0
−2 −1 0 1 2
onde
π p/2
cp =
Γ((p/2) + 1)
é o volume de uma esfera unitária p-dimensional
Figura: Estimativa da densidade bivariada pelo método kernel. Linha sólida: curvas de
nível da densidade estimada; Linhas tracejadas: curvas de nível das funções kernel
individuais; Amostra: X 1 = (7, 3), X 2 = (2, 4), X 3 = (4, 4), X 4 = (5, 2),
e e e e
1 0.7
X 5 = (5.5, 6.5); Função kernel: gaussiana; Matriz de suavização: H = 0.7 1
e
10
10
8
8
6
6
y
y
4
4
2
2
0
0 2 4 6 8 10 0 2 4 6 8 10
x x
H \
b = arg min EQIM(A) (10)
H∈H
4
2
y
0
−2
−2 0 2 4
5
y
0
−5
−5 0 5 10
75
2
25
75
25
50
y
75
50
75
50
25
25
50
−2
−2 0 2 4
5
y
0
−5
−5 0 5 10
Suporte Computacional: R
70
65
60
Ave life exp
55
50
45
40
Under−5
Density fun
ction
Av
el
ife
ex
−5
der
p
Un
80
70
Ave life exp
60
50
40
30
Under−5
2
1
0
y
−1
−2
−3
−4
−2 −1 0 1 2
3
2
y
1
0
−3 −2 −1 0 1 2 3
Experimentos Numéricos
Voltando...
Cenários Distribuição
" 4 14
#! "4 #!
1 −1 0
A Π1 : f 1 ∼ N 9
; 14 45 ; Π2 : f 2 ∼ N ; 9
−1 4 1 0 4
45 9 9
"2 1
#! " # "
2 1
#!
−1 1
B Π1 : f 1 ∼ N ; 13 5 ; Π2 : f 2 ∼ N ; 13 5
1 1 −1 1
5 3 2 5 3
" # " #! " # " #!
−1 2 1 1 2 1
C Π1 : f 1 ∼ N 1 ; 3 1
5
4 ; Π2 : f 2 ∼ N
−1
; 13 5
4
2 5 9 2 5 9
" # " #! " # " #!
1N −3 4 −1 1N
1 4 −1
Π1 : f 1 ∼ 2 ; 5 2 + 2 ; 5 2 ;
D
2 −3 −1 4 2 1 −1 4
" #2 " 2 5#! " 2# " 2 5 #!
3 4 − 1 − 1 4 − 1
Π2 : f 2 ∼ 1N 2 ; 5 2 + 1N 2 ; 5 2
2 3 −1 4 2 −1 −1 4
2 2 5 2 2 5
" # " #! " # " #!
1 1 1 1
1N −3 3
Π1 : f 1 ∼ 2 ; 12 1
4 + 1N 2 ; 12 1
4 ;
2 0 1 2 0 1
E 4 4
"4 1
#!
0 9 5
Π2 : f 2 ∼ N ; 1 4
0
5 9
" # " #! " # " #!
2 1 3 1
1N −3 3
Π1 : f 1 ∼ 2 ; 10 1
4
3 + 1N 2 ; 10 1
4
3 ;
2 0 2 0
F 4 #! 10 4 10
"4 2
0 5 5
Π2 : f 2 ∼ N ; 2
0 1
5
3 A B C
3
2
2
1
1
X2
X2
X2
0
0
−1
−1
−1
−2
−2
−2
−3
−3
−3
−3 −2 −1 0 1 2 3 −3 −2 −1 0 1 2 3 −3 −2 −1 0 1 2 3
X1 X1 X1
D E F
3
3
2
2
1
1
X2
X2
X2
0
0
−1
−1
−1
−2
−2
−2
−3
−3
−3
−3 −2 −1 0 1 2 3 −3 −2 −1 0 1 2 3 −3 −2 −1 0 1 2 3
X1 X1 X1
Π1 Π1
4
6
Π2 Π2
3
4
2
2
1
X2
X2
0
0
−1
−2
−2
−4
−3
−3 −2 −1 0 1 2 3 −6 −4 −2 0 2 4
X1 X1
Conclusões
Referências Bibliográficas
Duong, T. (2004).
Bandwidth selectors for multivariate kernel density estimation.
Ph. D. thesis, University of Western Australia, School of Mathematics and Statistics.
Epanechnikov, V. A. (1969).
Non-parametric estimation of a multivariate probability density.
Theory of Probability and its Applications 14, 153–158.
Rosenblatt, M. (1956).
Remarks on some nonparametrics estimates of a density function.
The Annals of Mathematical Statistics. 27, 832–837.
Scott, D. W. (1992).
Multivariate Density Estimation: Theory, Practice, and Visualization.
New York: John Wiley & Sons.
Silverman, B. W. (1986).
Density Estimation for Statistics and Data Analysis.
London: Chapman & Hall.
Simonoff, J. S. (1996).
Smoothing Methods in Statistics.
New York: Springer-Verlag.