Página www

MODELOS
Página de Abertura
Clase 5
Contenido
Juan Carlos Correa
JJ II 30 de septiembre de 2019

J I

Página 1 de 23

Regresar

Full Screen

Cerrar

Abandonar
 Página www

Página de Abertura

Contenido

Vector Aleatorio
JJ II
0
Un vector  = (1 , 2 , · · · , p ) de dimensión p×1 decimos que es
J I un vector aleatorio si al menos una de sus componentes es una
variable aleatorio. La función de densidad de probabilidad de 
Página 2 de 23
la denotamos por f () = f (1 , 2 , · · · , p ). Podemos hablar de
matrices aleatorias también.
Regresar

Full Screen

Cerrar

Abandonar
 Página www

Página de Abertura

Contenido
Media de un Vector Aleatorio
JJ II La media de un vector  es el vector que contiene las medias de
las componentes de  y lo denotamos por µ .
J I  
E (1)
Página 3 de 23
 E (2 ) 
E () = µ = 
 .. 
. 
Regresar
E (p)
Full Screen

Cerrar

Abandonar
 Página www

Página de Abertura

Contenido

Resultado 7: Propiedad de Linealidad

JJ II
Sean Aq×p , Cq×1 una matriz y un vector de constantes. De la
J I propiedad de linealidad de E , tenemos

Página 4 de 23
E [A + C] = AE [] + C

Regresar
Prueba: (Hacerla!)

Full Screen

Cerrar

Abandonar
 Página www

Página de Abertura
Matriz de vaianzas y covarianzas de un Vector Aleato-
Contenido
rio
La matriz de un vector  es la matriz que contiene las varianzas
JJ II
de las componentes de  en la diagonal principal y las covarian-
J I
zas entre los pares de elementos de  por fuera de la diagonal
principal y lo denotamos por Σ .
Página 5 de 23
V ar (1) Cov (1, 2) · · · Cov (1, p)
 
 Cov (2 , 1 ) V ar (2 ) · · · Cov (2 , p ) 
Regresar Σ =  ... ... ... ... 

Full Screen Cov (p, 1) Cov (p, 2) · · · V ar (p)

Cerrar

Abandonar
 Página www

Página de Abertura

Contenido

JJ II Resultado 8

J I
Σ = E [0] − µµ0
Página 6 de 23
Prueba: (Hacerla!)
Regresar

Full Screen

Cerrar

Abandonar
 Página www

Página de Abertura
El concepto de covarianza también puede generalizarse para
dos vectores de variables aleatorias x = [(xij )] y y = [(yij )]
Contenido
(no necesariamente de las mismas dimensiones), este operador
JJ II
generalizado lo denotamos por C y se define como:

J I
C[x, y] = [(cov [xi, yj ])]
 0
Página 7 de 23 = E (x − µx) (y − µy )
= E [xy 0] − µxµy 0
Regresar

donde µx = E[x]. Si x y y son independientes estadı́sticamente,

Full Screen
entonces C[x, y] = 0.
Cerrar

Abandonar
 Página www

Página de Abertura

Contenido

Resultado 9
JJ II

Sea Aq×p una matriz de constantes y sea y = A. Entonces

J I
Σy = AΣA0
Página 8 de 23

Prueba: (Hacerla!)
Regresar

Full Screen

Cerrar

Abandonar
 Página www

Página de Abertura

Contenido

Resultado 10
JJ II

Sea cp×1 un vector de constantes y sea y =  + c. Entonces

J I
Σy = Σ
Página 9 de 23

Prueba: (Hacerla!)
Regresar

Full Screen

Cerrar

Abandonar
 Página www

Página de Abertura

Contenido
Modelo de Regresión Lineal Simple Vı́a Máxima
JJ II
Verosimilitud

J I µ(x) = E [Y |x] = µY |x = β0 + β1x

Página 10 de 23 donde β0 y β1 se conocen como los parámetros del modelo.
Estos valores usualmente son desconocidos y el problema es es-
Regresar
timarlos a partir de una muestra de individuos de la población.
Full Screen

Cerrar

Abandonar
 Sea (Y1 , x1 ), (Y2 , x2 ), · · · , (Yn , xn ) una muestra aleatoria extraı́-
Página www da de la población de referencia. Observe como cada individuo
proporciona información simultáneamente sobre x y sobre Y .
Página de Abertura
El individuo i-ésimo puede representarse en términos del mo-
delos ası́:
Contenido

Yi = β0 + β1xi + ei
JJ II

Supuestos:
J I
1. ei ∼ N ormal (0, σ 2 ), varianza constante (homoscedastici-
Página 11 de 23 dad)

Regresar
2. Cov (ei , ej ) = 0 para todo i 6= j

2
Full Screen


Yi|x ∼ N µ(x), σ
Cerrar

Yi|x ∼ N β0 + β1x, σ 2


Abandonar
 Página www

Función de Verosimilitud
Página de Abertura

n
1 (yi − β0 − β1 xi )2
Contenido
 
2

Y 1
L β0 , β1 , σ = √ exp −
2πσ 2 2 σ2
i=1
JJ II Pn !
2
1 1 i=1 (yi − β0 − β1 xi )
= √ n exp −
J I 2πσ 2 2 σ2

Página 12 de 23

Función de Log-Verosimilitud
Regresar

Pn
Full Screen
2 n n
1 i=1 (yi − β0 − β1 xi )2
= − log (2π) − log σ 2 −



log L β0 , β1 , σ
2 2 2 σ2
Cerrar

Abandonar
 Función Score
Página www

∂ log(L(β0 , β1 ,, σ 2 ))
 
Página de Abertura  ∂β0 
2 ∂ log(L(β0 , β1 ,, σ 2 ))


S β0, β1, σ =
 

Contenido  ∂β1 
∂ log(L(β0 , β1 ,, σ 2 ))
∂σ 2
JJ II
 Pn 
2 i=1 (yi −β0 −β1 xi )
−2 P σ2
J I n
2 i=1 (yi −β0 −β1 xi )xi
 
= −2 σ 2n

(y −β −β x )2
 P 
Página 13 de 23
− n2 σ12 + 12 i=1 i(σ2)02 1 i
Regresar Para hallar los e.m.v. hacemos
 
Full Screen
0
2


S β0 , β 1 , σ =  0 
Cerrar
0

Abandonar
y resolvemos este sistema de ecuaciones.
 Página www

Página de Abertura

Contenido Los e.m.v. de β0 , β1 y σ 2 son

JJ II
β̂0 = Ȳ − β̂1x̄
Pn

J I
i=1 Y i − Ȳ (xi − x̄)
β̂1 = Pn 2
Página 14 de 23 i=1 (x i − x̄)
Pn  2
i=1 Yi − β̂0 − β̂1xi
2
Regresar
σ̂ =
n
Full Screen

Cerrar

Abandonar
 Resultado 11
Sea (Y1 , x1 ), (Y2 , x2 ), · · · , (Yn , xn ) una muestra aleatoria extraı́da de la pobla-
Página www
ción de referencia. La i-ésima observación puede representarse en términos
del modelos ası́:
Página de Abertura

Yi = β0 + β1 xi + ei
Contenido
Supuestos:


JJ II 1. ei ∼ N ormal 0, σ 2 , varianza constante (homoscedasticidad)
2. Cov (ei , ej ) = 0 para todo i 6= j
J I
Los e.m.v. de β0 , β1 y σ 2 son
Página 15 de 23

β̂0 = Ȳ − β̂1 x̄
Pn

i=1 Yi − Ȳ (xi − x̄)
Regresar
β̂1 = Pn 2
i=1 (xi − x̄)
Full Screen Pn
2
i=1 Yi − β̂0 − β̂1 xi
σ̂ 2 =
n
Cerrar

Prueba:
Abandonar
Hacerla. No olvidar chequear que la solución maximiza la verosimilitud.
 Página www

Resultados muy fáciles de mostrar

Página de Abertura

Contenido
n
(xi − x̄)
βˆ1 =
X
Pn 2 Yi
JJ II
i=1 j=1 (x j − x̄)
Xn
J I
= ωi Yi
i=1
Página 16 de 23 n 
1

βˆ0 =
X
− x̄ωi Yi
Regresar
i=1
n
Xn
Full Screen
= νi Y i
i=1
Cerrar

Abandonar
 Resultado 12: Distribuciónes muestrales margina-
les de β̂0 y β̂1
Página www Si asumimos que ei ∼ N (0, σ 2 ) tenemos
 
2
Página de Abertura 1. β̂1 ∼ N β1 , σβ̂ donde
1

Contenido σe2
σβ̂21 = Pn
2
JJ II i=1 Xi − X̄

J I
y se estima como

σ̂e2
Página 17 de 23
σ̂β̂21 = Pn
2
i=1 Xi − X̄
Regresar
 
Full Screen 2. β̂0 ∼ N β0, σβ̂20 donde
" #
2
Cerrar 1 X̄
σβ̂20 = σe2 + Pn
2
Abandonar
n i=1 Xi − X̄

Prueba: Hacerla!
 Página www Datos de Huevos...
huevos.dat<-scan()
Página de Abertura 6.70 5.07 98.22 90 24.29 96.42 1
6.58 4.95 87.63 80 26.27 85.92 1
6.81 4.93 94.57 90 15.19 94.27 1
Contenido
6.82 4.87 90.38 83 8.10 90.57 0
6.70 4.86 89.96 83 21.55 89.81 1
JJ II 7.19 4.89 96.72 90 12.06 96.37 1
6.76 4.73 85.84 80 26.10 84.37 1
7.01 4.69 87.68 80 17.12 86.43 1
J I
7.31 4.68 90.01 82 26.18 89.41 1
6.21 4.81 80.47 72 10.25 80.04 1
Página 18 de 23 6.53 4.58 76.82 70 20.14 75.94 1
5.87 4.57 67.83 61 15.02 67.13 1
Regresar
6.18 4.57 71.17 63 26.03 70.45 1
6.19 4.50 70.07 65 24.35 69.43 1
5.75 4.67 69.04 67 10.08 68.81 0
Full Screen
6.04 4.48 67.27 60 8.07 66.68 0
6.06 4.57 70.64 68 12.23 70.59 1
Cerrar 6.11 4.51 68.76 64 17.25 67.76 1
6.81 4.41 72.14 69 20.04 70.51 1
Abandonar
 Página www
5.89 4.60 67.85 61 22.00 65.90 1
5.38 4.02 44.33 41 24.17 44.69 1
5.37 3.99 44.76 40 10.17 44.73 0
Página de Abertura 5.21 3.94 42.97 39 19.58 42.95 1
5.44 3.96 44.41 40 8.05 44.39 0
5.52 4.04 50.16 50 12.15 50.14 1
Contenido
5.12 4.05 43.21 42 26.15 43.21 1
5.19 4.01 45.21 42 15.07 45.19 1
JJ II 5.27 4.07 46.57 44 17.05 46.55 1
5.59 3.83 40.81 41 26.50 37.77 1
J I
5.35 4.05 46.19 45 21.97 46.19 1
5.41 3.98 43.91 45 12.00 43.90 1
5.41 3.98 43.45 43 3.58 43.43 0
Página 19 de 23 5.78 4.26 54.32 57 11.00 54.88 1
5.65 4.29 53.38 54 5.00 53.37 0
Regresar 5.62 4.03 50.67 49 9.00 50.63 0
5.75 4.26 54.27 55 10.00 54.26 0
5.71 4.25 54.54 56 6.00 54.51 0
Full Screen
5.87 4.32 56.50 58 7.05 56.65 0
5.65 4.25 53.67 55 8.01 53.65 0
Cerrar

huevos.dat<-matrix(huevos.dat,ncol=7,byrow=T)
Abandonar
 Página www

Página de Abertura

Contenido

JJ II largo <- huevos.dat[,1]

ancho <- huevos.dat[,2]
peso <- huevos.dat[,3]
J I volumen <- huevos.dat[,4]

Página 20 de 23 modelo<-lm(volumen~largo)
summary(modelo)
Regresar

Full Screen

Cerrar

Abandonar
 Página www

Página de Abertura Call:

lm(formula = volumen ~ largo)
Contenido
Residuals:
Min 1Q Median 3Q Max
JJ II -12.0160 -2.5306 0.2215 2.6935 12.1879

Coefficients:
J I
Estimate Std. Error t value Pr(>|t|)
(Intercept) -87.33 8.62 -10.13 3.21e-12 ***
Página 21 de 23 largo 24.72 1.43 17.28 < 2e-16 ***
---
Regresar
Signif. codes: 0 *** 0.001 ** 0.01 * 0.05 . 0.1 1

Residual standard error: 5.416 on 37 degrees of freedom

Full Screen Multiple R-squared: 0.8898, Adjusted R-squared: 0.8868
F-statistic: 298.6 on 1 and 37 DF, p-value: < 2.2e-16
Cerrar

Abandonar
 Página www

Página de Abertura

Contenido

JJ II

J I

Página 22 de 23

Regresar

Full Screen

Cerrar

Abandonar
 Página www

Página de Abertura

Contenido

JJ II

J I

Página 23 de 23

Regresar

Full Screen

Cerrar

Abandonar