TEMA 2: Propiedades de los estimadores MCO

Econometra I
M. Angeles Carnero
Departamento de Fundamentos del Anlisis Econmico

Curso 2011-12

Econometra I (UA)

Tema 2: Pdades de los estimadores MCO

Curso 2011-12

1 / 19

Propiedades estadsticas de
1

Es un estimador lineal. es una funcin lineal de Y al ser X una

matriz de constantes (dado el Supuesto 1):
1
= (X0 X) X0 Y = WY
Bajo las hiptesis bsicas 1 a 4, es un estimador insesgado de ,
es decir, E = ya que

y por tanto

b
= (X 0 X )

X 0 Y = + (X 0 X )

h i
E b
= + (X 0 X )

X 0 E [u]

X0 u

puesto que E[u]=0

Ntese que el estimador MCO es insesgado con independencia de

que se verifique o no el supuesto 5.
1
Bajo las hiptesis bsicas del MRL, Var = 2 (X0 X) ya que:
Econometra I (UA)

Tema 2: Pdades de los estimadores MCO

Curso 2009-10

2 / 19

h ii h
b

E b

h
h i

= E b
Var b

= E

(X 0 X ) 1 X 0 u

ih

h ii0

E b

(X 0 X ) 1 X 0 u

= (X0 X) 1 X0 E(uu0 )X(X0 X)

=

Ya que E(uu0 )=2 IT

=E

XX

i0

ih

i0

Teorema de Gauss-Markov:
Bajo las hiptesis bsicas del MRL, el estimador MCO de es
ptimo entre la familia de estimadores lineales e insesgados. Es
decir, no es posible encontrar otro estimador de que siendo
lineal e insesgado tenga una varianza menor que el estimador
MCO.
Econometra I (UA)

Tema 2: Pdades de los estimadores MCO

Curso 2009-10

3 / 19

Estimacin de 2 y propiedades estadsticas de

Puede
1. El vector de residuos MCO es e = Y Y = Y X .
interpretarse como la estimacin del vector de errores u.
2. El vector de residuos MCO es una transformacin lineal de u: e =
h
i
1
1
Y X = Y X (X0 X) X0 Y = I X (X0 X) X0 Y = MY = Mu
h
i
1
puesto que M es una matriz M = I X (X0 X) X0 que cumple las
siguientes propiedades:
1 M es una matriz singular: jMj = det(M) = 0 puesto que Rg (M) =
h
i
h
i
1
1
Tr (M) = Tr IT X (X0 X) X0 = Tr (IT ) Tr X (X0 X) X0 =
Tr (IT )

2
3
4

h
Tr (X0 X)

i
X0 X = Tr (IT )

Tr (Ik ) = T

M es una matriz simtrica: M =

M es una matriz idempotente: M = M M
M es ortogonal
a X:
h
i

MX = I

Econometra I (UA)

X (X 0 X )

k<T

M0

X0 X = X

X (X 0 X )

Tema 2: Pdades de los estimadores MCO

X0 X = X

X=0
Curso 2009-10

4 / 19

3. E (e) = 0 puesto que

E[e] = E[Mu] = ME[u]

ya que E[u]=0

4. Var (e) = 2 M puesto que

Var (e) = Var(Mu) = MVar(u)M0 = M2 IM0 = 2 MM0 = 2 M
5. Estimador de 2 : La varianza de los errores, 2 , es un valor
poblacional junto a . Es necesario estimarlo para contrastar
hiptesis acerca de o establecer intervalos de confianza. Intuicin:
2 = E(u2t ) ) 2 =
2 =

+
Econometra I (UA)

1
T

1
T

u2t

t=1

e2t = T e0 e

t=1

(para que sea insesgado)

2 =

1
T K

Tt=1 e2t =

Tema 2: Pdades de los estimadores MCO

1
0
T Ke e
Curso 2009-10

5 / 19

6. 2 =

1
T k

e2t =

t=1

e0 e
T k

(T

k son los grados de libertad) es un

estimador insesgado de 2 puesto que

E 2 = E
7. Otra expresin de

e0 e
T
e0 e

E e0 e =

X = Y0 Y

2 (T k )
= 2
T k

e0 e = Y

Econometra I (UA)

Tema 2: Pdades de los estimadores MCO

0
X0 Y

Curso 2009-10

6 / 19

Matriz de varianzas estimada de y errores estndar

Hemos visto que bajo las hiptesis 1 a 5
h i
Var b
= 2 X0 X

esta matriz es desconocida ya que 2 es desconocido. Para saber la

fiabilidad de b
y poder hacer inferencia es importante disponer de un
estimador de su varianza. Se define la matriz de varianzas estimada de
b
como
h i
\
1
b2 X0 X
Var b
=

En el tema 3 veremos cmo contrastar hiptesis sobre el vector de

h i
\
b
parmetros utilizando y Var b
. Ntese que si no se verifica la
h i
1
b2 (X0 X) 1 no sera un
hiptesis 5, Var b
6= 2 (X0 X) y por tanto
estimador apropiado de la varianza de b
.
Econometra I (UA)

Tema 2: Pdades de los estimadores MCO

Curso 2009-10

7 / 19

Se definen los errores estndar como las raices cuadradas de los

h i
\
elementos de la diagonal principal de la matriz Var b
. Es decir
SE(b
j ) =

b2 (X0 X)jj 1

j = 1, .., k

1
donde b
j es el elemento j del vector b
y (X0 X)jj es el elemento (j, j) de
1
la matrix (X0 X) . SE(b
) es un estimador de la desviacin tpica de b
.
j

Nota: Si cambiamos las unidades de medida de alguna o algunas

de las variables explicativas y/o de la variable dependiente cada
uno de los errores estndar variar en la misma proporcin que el
valor estimado del parmetro correspondiente. Por ejemplo:
b
2 = c b
2
h
i
h i
\
\
2
= c2 Var b
2
Var b

Econometra I (UA)

SE b
2

= cSE b
2

Tema 2: Pdades de los estimadores MCO

Curso 2009-10

8 / 19

Distribucin de formas cuadrticas asociadas a la

distribucin normal

Propiedad de la distribucin normal multivariante

Si X es un vector n 1, X N [, ] , A es una matriz r
aleatoria y b es un vector r 1 no aleatorio, entonces:
(i) AX + b

n (r

n) no

N [A + b, AA0 ]

(ii) En particular

Econometra I (UA)

1/2

(X

N [0, In ]

Tema 2: Pdades de los estimadores MCO

Curso 2009-10

9 / 19

Definicin 1: Chi-cuadrado con 1 grado de libertad

Si Z

N (0, 1), entonces Z2

21 .

Nota: E Z2 = 1, Var Z2 = 2

Definicin 2: Chi-cuadrado con n grados de libertad

Si Z1 , Z2 , ..., Zn son n variables aleatorias independientes e
idnticamente distribuidas (iid) como N [0, 1], entonces
n

Z2i

i=1

2n .

Definicin 3: t de Student con n grados de libertad

Si Z y X son variables aleatorias independientes, Z
X 2n , entonces
Z
q
tn

N [0, 1] y

X
n

Econometra I (UA)

Tema 2: Pdades de los estimadores MCO

Curso 2009-10

10 / 19

Definicin 4: F de Snedecor con n y m grados de libertad

Si X1 y X2 son variables aleatorias independientes X1
X2 2m entonces
X1
n
X2
m

2n y

Fn,m

Teorema 1: Suma de chi-cuadrados

Sean X1 y X2 dos variables aleatorias independientes con
distribucin X1 2n1 y X2 2n2 , entonces X1 + X2 2n1 +n2

Teorema 2:
Si Z1 , Z2 , ..., Zn son n variables aleatorias independientes e
idnticamente distribuidas (iid) como N 0, 2 , entonces
n

i=1

Zi

Econometra I (UA)

2n .

Tema 2: Pdades de los estimadores MCO

Curso 2009-10

11 / 19

Teorema 3: Distribucin de formas cuadrticas de matrices

idempotentes en vectores normales estandarizados.
Sea X N (0, In ) de dimensin (n 1), A una matriz simtrica e
idempotente de dimensin (n n), entonces
X0 AX

2J

donde J=rg(A) = tr(A)

Teorema 4: Independencia de dos formas cuadrticas con matrices

idempotentes en un mismo vector normal estandarizado.
Sea X N (0, In ) y A y B dos matrices idempotentes de dimensin
(n n) tales que AB = 0, entonces las dos formas cuadrticas
X0 AX y X0 BX son independientes.

Econometra I (UA)

Tema 2: Pdades de los estimadores MCO

Curso 2009-10

12 / 19

EJEMPLO: Sea X N (0, In ) y A y B dos matrices n n

idempotentes de rango nA y nB , respectivamente. Utilizando el
Teorema 3
X0 AX

2nA

X0 BX

2nB

Si AB = 0, utilizando el Teorema 4, X0 AX y X0 BX son

independientes y por tanto

(X0 AX) /nA

(X0 BX) /nB

Econometra I (UA)

FnA ,nB

Tema 2: Pdades de los estimadores MCO

Curso 2009-10

13 / 19

Teorema 5: Independencia de una forma lineal y una forma

cuadrtica idempotente de un vector normal estandarizado.
Sea X N (0, In ) y sea L una matriz r n y A una matriz n n
idempotente tales que LA = 0, entonces la funcin lineal LX y la
forma cuadrtica X0 AX son independientes.
EJEMPLO: Sea X N (0, In ), A una matriz n n idempotente de
rango nA y L un vector n 1 tal que L0 L = 1. Como
X N (0, In ) ) L0 X N (0, L0 L) = N (0, 1) y X0 AX 2nA . Si
L0 A = 0, utilizando el Teorema 5, L0 X y X0 AX son independientes
y por tanto
L0 X
p
tnA
(X0 AX) /nA

Econometra I (UA)

Tema 2: Pdades de los estimadores MCO

Curso 2009-10

14 / 19

Teorema 6: Distribucin de formas cuadrticas de matrices de rango

completo en vectores normales.
Sea X un vector n 1, X N [, ] , entonces:
(i) 1/2 (X ) N [0, In ]
(ii) (X )0 1 (X ) 2n

Econometra I (UA)

Tema 2: Pdades de los estimadores MCO

Curso 2009-10

15 / 19

Propiedades de los estimadores MCO con errores

normales

Con la hiptesis adicional de normalidad de los errores, se puede

b2 . Ntese que la media y la
calcular la distribucin exacta de y
varianza de se obtuvieron previamente sin necesidad de imponer
esta hiptesis aunque obviamente la distribucin, sin hacer este
supuesto, es desconocida.
Si u N (0, 2 IT ) y dado que b
= + (X0 X) 1 X0 u, entonces
b

k 1

Econometra I (UA)

N ( , 2 (X 0 X )
k 1

k k

Tema 2: Pdades de los estimadores MCO

Curso 2010-11

16 / 19

La distribucin marginal de cada elemento del vector b

es tambin
normal:
b
i N ( i , 2 (X0 X)ii 1 ) para i = 1, ..., k

donde b
i es el elemento (i, 1) del vector b
, i es el elemento (i, 1) del
1
0
vector y (X X)ii es el elemento (i, i) de la matriz (X0 X) 1 .
Del mismo modo se puede comprobar que bajo la hiptesis adicional
de normalidad se tiene que:
Y = X + u N (X, 2 IT )
Y = X b
N (X, 2 X(X0 X)

Econometra I (UA)

Tema 2: Pdades de los estimadores MCO

X0 )

Curso 2010-11

17 / 19

b2 bajo el supuesto de normalidad de los errores u

Distribucin de

Si u

N (0, 2 IT ), entonces

Demostracin:

b 2 (T k )

2(T

k)

b2 = (Te ek) , queremos demostrar que e2e

Dado que
2(T k) . Sabemos
que
u0 Mu
e0 e
u 0
u
u
=
=
M
y
N (0, IT ).
2
2

y M es una matriz idempotente de rango T k, entonces por el

0
Teorema 3, e2e
2(T k)

Econometra I (UA)

Tema 2: Pdades de los estimadores MCO

Curso 2010-11

18 / 19

b2 bajo el supuesto de normalidad de los errores u

Independencia de y

Si u

b2 son independientes entre s.

N (0, 2 IT ), entonces y

Demostracin:
Ntese que:
( )
= (X 0 X )

b (T k )

u 0

1 X0

!forma lineal en

!forma cuadrtica de M y en
2
( )
b y independientes() b (T2 k) y
Entonces,
independientes ( (X0 X) 1 X0 M = 0
M

Teorema 5

Econometra I (UA)

Tema 2: Pdades de los estimadores MCO

Curso 2010-11

19 / 19