MODELO DE REGRESIN SIMPLE

MODELO DE REGRESIN SIMPLE

Y b1 b 2 X

b1

X1

X2

X3

X4

Supongamos que una variable Y es una funcin lineal de otra variable X, con parmetros b1
and b2 desconocidos y que deseamos estimar.
1

MODELO DE REGRESIN SIMPLE

Y b1 b 2 X

b1

X1

X2

X3

X4

Supongamos que tenemos una muestra de 4 observaciones para los valores de X.

MODELO DE REGRESIN SIMPLE

Y b1 b 2 X

b1

Q1

X1

Q2

X2

Q3

X3

Q4

X4

Si la relacin fuera exacta, todas las observaciones estaran en una lnea recta, y no habra
ninguna dificultad para obtener estimaciones exactas de b1 y b2
3

MODELO DE REGRESIN SIMPLE

Y b1 b 2 X
Q4

b1

Q1

X1

X4

De hecho en este caso bastara con disponer de dos observaciones para obtener la recta
verdadera.
3

MODELO DE REGRESIN SIMPLE

P4

Y b1 b 2 X
P1

b1

Q1

X1

Q2
P2

X2

Q3

Q4

P3

X3

X4

En la prctica las relaciones econmicas no son exactas y los valores observados de Y son
diferentes de los que, de acuerdo con una relacin lineal exacta, le corresponderan.
4

MODELO DE REGRESIN SIMPLE

P4

Y b1 b 2 X
P1

b1

Q1

X1

Q2
P2

X2

Q3

Q4

P3

X3

X4

Para tener en cuenta estas divergencias, escribimos el modelo como Y = b1 + b2X + u,

donde u es un trmino de perturbacin.
5

MODELO DE REGRESIN SIMPLE

P4

Y b1 b 2 X
u1 P1

b1

Q1

b1 b 2 X 1

X1

Q2
P2

X2

Q3

Q4

P3

X3

X4

Cada valor deY tiene por tanto dos componentes: uno no aleatorio, b1 + b2X, y y otro
aleatorio, u. La primera observacin ha sido descompuesta en estos dos componentes.
6

MODELO DE REGRESIN SIMPLE

P4

P1
P2

X1

X2

P3

X3

X4

En la prctica solo vemos los puntos P.

MODELO DE REGRESIN SIMPLE

P4

Y b1 b2 X

P1
P2

b1

X1

X2

P3

X3

X4

Podemos usar los puntos P para dibujar una lnea que ser una aproximacin a la lnea
^
Y = b1 + b2X (FRP). Si escribimos esta lnea como Y = b1 + b2X, b1 (FRM) b1 es un estimador
deb1 y b2 es un estimador de b2.
8

MODELO DE REGRESIN SIMPLE

Y (valor observado)
Y

Y (v. ajustado)

P4

Y b1 b2 X
R3
P1
R1

b1

X1

R2

P2

X2

R4

P3

X3

X4

Esta lnea se denomina modelo ajustado y los valores de Y pronosticados (por el modelo
ajustado) son los valores ajustados de Y. stos estn representados por los puntos R.
9

MODELO DE REGRESIN SIMPLE

Y (v. observado)
Y

Y (v. ajustado)

P4

R3
e1

R2

P1
R1

b1

X1

e2
P2

X2

Y b1 b2 X

e4

Y Y e (residuo)

R4

e3
P3

X3

X4

Las discrepancias entre los valores observados y ajustados de Y se denominan residuos.

10

MODELO DE REGRESIN SIMPLE

Y (observado)
Y

Y (ajustado)

P4

Y b1 b2 X
R3
P1

b1

R1

b1

X1

R2

P2

X2

R4

Y b1 b 2 X

P3

X3

X4

Observar que los valores de los residuos no son los mismos que los del trmino de
perturbacin. El grfico muestra ahora la verdadera relacin desconocida junto con la lnea
ajustada.
11

MODELO DE REGRESIN SIMPLE

Y (observado)
Y

Y (ajustado)

P4

Y b1 b2 X

Y b1 b 2 X
P1

b1

Q1

b1

X1

Q2
P2

X2

Q3

Q4

P3

X3

X4

El trmino de perturbacin de cada observacin es responsable de la divergencia entre la

observacin de Y y el componente no aleatorio de la verdadera relacin.
12

MODELO DE REGRESIN SIMPLE

Y (observado)
Y

Y (ajustado)

P4

Y b1 b2 X
R3
P1

b1

R1

b1

X1

R2

P2

X2

R4

Y b1 b 2 X

P3

X3

X4

Los residuos miden la discrepancia entre los valores observados y los ajustados.

13

MODELO DE REGRESIN SIMPLE

Y (observado)
Y

Y (ajustado)

P4

Y b1 b2 X
R3
P1

b1

R1

b1

X1

R2

P2

X2

R4

Y b1 b 2 X

P3

X3

X4

Si el ajuste es bueno, los residuos y las perturbaciones sern similares, pero son
conceptualmente distintos.
14

MODELO DE REGRESIN SIMPLE

Y (observado)
Y

Y (ajustado)

P4

Y b1 b2 X

u4

Y b1 b 2 X
Q4

b1

b1 b 2 X 4

b1

X1

X2

X3

X4

En el anlisis usaremos ambas lneas. Cada una permite una descomposicin de los
valores de Y. Se ilustra la de la cuarta observacin.
15

MODELO DE REGRESIN SIMPLE

Y (observado)
Y

Y (ajustado)

P4

Y b1 b2 X

u4

Y b1 b 2 X
Q4

b1

b1 b 2 X 4

b1

X1

X2

X3

X4

Usando la relacin terica, Y puede descomponerse en su componente no estocstico

dado por b1 + b2X y en su componente estocstico u.
16

MODELO DE REGRESIN SIMPLE

Y (observado)
Y

Y (ajustado)

P4

Y b1 b2 X

u4

Y b1 b 2 X
Q4

b1

b1 b 2 X 4

b1

X1

X2

X3

X4

Esta es una descomposicin terica porque no conocemos los valores de

valores del trmino de perturbacin.

b1 o b2, o los
17

MODELO DE REGRESIN SIMPLE

Y (observado)
Y

Y (ajustado)

P4

b1

e4

Y b1 b2 X

R4

Y b1 b 2 X

b1 b2 X 4

b1

X1

X2

X3

X4

La otra descomposicin se refiere a la lnea ajustada. Para cada observacin el valor

observado de Y es igual al valor ajustado ms el residuo. Es una descomposicin operativa
que usaremos con propsitos prcticos.
18

MODELO DE REGRESIN SIMPLE

Criterio de los mnimos cuadrados :

Minimizar la suma cuadrtica residual (RSS), donde,
n

RSS ei2 e12 ... en2

i 1

Para obtener la lnea ajustada minimizamos la suma cuadrtica de los residuos, lo que se
conoce como criterio de mnimos cuadrados.
19

MODELO DE REGRESIN SIMPLE

Criterio de Mnimos Cuadrados:

Minimizar RSS, donde
n

RSS ei2 e12 ... en2

i 1

Porqu no minimizar
n

e e ... e
i 1

Por qu no minimizar simplemente la suma de los residuos y no la suma de sus

cuadrados?
20

MODELO DE REGRESIN SIMPLE

P4

P1
P2

X1

X2

P3

X3

X4

La respuesta es que podra obtenerse un ajuste aparentemente perfecto trazando una lnea
horizontal a la altura de la media de Y. La suma de los residuos sera cero.
21

MODELO DE REGRESIN SIMPLE

P4

P1
P2

X1

X2

P3

X3

X4

Hay que evitar que los residuos negativos cancelen los positivos y una forma de hacerlo es
usar los cuadrados de los residuos.
22

MODELO DE REGRESIN SIMPLE

P4

P1
P2

X1

X2

P3

X3

X4

Hay otras formas, pero el criterio MCO tiene el atractivo de que los estimadores obtenidos
tienen buenas propiedades estadsticas si se cumplen ciertas hiptesis de partida.
23

Fin

17.06.06