Tema 6: Regresin simple

Introduccin a la Estadstica Econmica

Jess Ro y M

Covadonga Caso, Esteban Fernndez, Ana Salom Garca, Matas Mayor, M Rosala Vicente

Introduccin a la Estadstica Econmica (

Covadonga Tema Caso, 6 Esteban Fernndez, Ana Salom Garca, 1 / 20

ndice

Correlacin y regresin Rectas de regresin minmo cuadrticas Anlisis de bondad de modelos Prediccin con modelos causales

Introduccin a la Estadstica Econmica (

Covadonga Tema Caso, 6 Esteban Fernndez, Ana Salom Garca, 2 / 20

Correlacin y regresin

Correlacin y regresin
Estudio del tipo e intensidad de las relaciones entre variables estadsticas
Correlacin:

Construir modelos Y=f(X) para representar la relacin causal entre dos variables
Regresin:

Introduccin a la Estadstica Econmica (

Covadonga Tema Caso, 6 Esteban Fernndez, Ana Salom Garca, 3 / 20

Correlacin y regresin

Regresin
La nube de puntos sirve de orientacin sobre la forma de la funcin que mejor aproxima las observaciones (funcin de ajuste Y=f(X))
=Sugiere un ajuste lineal

La funcin de ajuste depender de una serie de que se deben estimar

parmetros

desconocidos

En este tema estudiaremos

Regresin lineal simple La regresin lineal simple no agota las posibilidades: Regresin no lineal Regresin lineal mltiple
Introduccin a la Estadstica Econmica (

Covadonga Tema Caso, 6 Esteban Fernndez, Ana Salom Garca, 4 / 20

Rectas de regresin minmo cuadrticas

Ajuste por mnimos cuadrados I

Sea (X,Y) una variable bidimensional con distribucin de frecuencias (xi , yj , nij )(i = 1, ..., k ; j = 1, ..., m)

Objetivo
Determinar los parmetros que especican la funcin de ajuste Y= f(X) Para cada valor observado de la variable independiente X (xi ) se pueden considerar dos valores de la variable dependiente Y : Valor observado (yj ) Valor terico obtenido mediante la funcin de ajuste yti = f (xi ) La diferencia entre el valor observado y el valor terico recibe el nombre de error o residuo (eij = yj yti )

Introduccin a la Estadstica Econmica (

Covadonga Tema Caso, 6 Esteban Fernndez, Ana Salom Garca, 5 / 20

Rectas de regresin minmo cuadrticas

Ajuste lineal por mnimos cuadrados II

Objetivo
Determinar los parmetros de la funcin de ajuste Yt = f (X ) que minimice la suma de cuadrados de los errores:
i =1j =1
2 nij = eij

k m

i =1j =1

(yj yti )2 nij

k m

Introduccin a la Estadstica Econmica (

Covadonga Tema Caso, 6 Esteban Fernndez, Ana Salom Garca, 6 / 20

Rectas de regresin minmo cuadrticas

Regresin lineal por mnimos cuadrados I

Objetivo
Determinar los parmetros b0 y b1 de la recta de ajuste Yt = b0 + b1 X tales que:

b0 ,b1

min E (b0 , b1 ) =

i =1j =1

2 nij = (yj b0 b1 xi )2 nij eij

k m

k m

i =1j =1

Condicin necesaria de extremo:

Ecuaciones Normales
k m E (b0 , b1 ) = 2 (yj b0 b1 xi ) nij = 0 b0 i =1 j =1 k m E (b0 , b1 ) = 2 (yj b0 b1 xi ) xi nij = 0 b1 i =1 j =1
Introduccin a la Estadstica Econmica (

(1) (2)

Covadonga Tema Caso, 6 Esteban Fernndez, Ana Salom Garca, 7 / 20

Rectas de regresin minmo cuadrticas

Regresin lineal por mnimos cuadrados II

Solucin
S b1 x b1 = XY 2 ; b0 = y SX

Propiedad
La recta de regresin de Y sobre X se puede expresar como:
) = (y y

SXY 2 (x x ) SX

Introduccin a la Estadstica Econmica (

Covadonga Tema Caso, 6 Esteban Fernndez, Ana Salom Garca, 8 / 20

Rectas de regresin minmo cuadrticas

Interpretacin de parmetros
b0 : Ordenada en el origen b1 : Pendiente de la recta b1 = dY dX . Variacin de Y ante un incremento unitario de X

Denicin
La pendiente de la recta de regresin mnimo cuadrtica de Y sobre X se denomina coeciente de regresin de Y sobre X (rY /X )

Propiedad
El coeciente de regresin de Y sobre X puede ser expresado como: S rY /X = rXY Y SX

Introduccin a la Estadstica Econmica (

Covadonga Tema Caso, 6 Esteban Fernndez, Ana Salom Garca, 9 / 20

Rectas de regresin minmo cuadrticas

Ilustracin recta de regresin

X: Renta (miles de euros) Y: Gasto en viajes (miles de euros)
2 = 118, 75 = 5, 5; SXY = 30, 15; SX x = 35, 5; y

Y=-3,5+0,25X

Ante un aumento de la renta de 1.000 euros se espera un aumento del gasto en viajes de 250 euros

Introduccin a la Estadstica Econmica (

Covadonga Tema Caso, 6 Esteban Fernndez, Ana Salom Garca, 10 / 20

Rectas de regresin minmo cuadrticas

Propiedades de la recta de regresin

La suma de errores mnimo cuadrticos es nula

i =1j =1

eij nij = 0

k m

La recta de ajuste mnimo cuadrtica pasa por el centro de gravedad ) de la distribucin ( x,y Si dos variables X e Y son incorreladas, la recta de regresin es paralela al eje de abcisas y = y

Introduccin a la Estadstica Econmica (

Covadonga Tema Caso, 6 Esteban Fernndez, Ana Salom Garca, 11 / 20

Anlisis de bondad de modelos

Descomposicin de la varianza de Y (I)

Si no se dispone de informacin sobre una variable explicativa, la mejor explicacin de la variable Y es y Si se dispone de informacin relevante sobre una variable explicativa, la mejor explicacin de Y es yti = f (xi )

La desviacin respecto a la media para cada observacin puede descomponerse como:

) = (yj yti ) + (yti y ) = eij + (yti y yj y

- Error que queda tras efectuar la regresin eij = (yj yti ) ) - Desviacin que es explicada por la regresin (yti y

Introduccin a la Estadstica Econmica (

Covadonga Tema Caso, 6 Esteban Fernndez, Ana Salom Garca, 12 / 20

Anlisis de bondad de modelos

Descomposicin de la varianza de Y (II)

Deniciones

Se denomina varianza explicada o debida a la regresin y se denota por 2 , al valor de la expresin: SY t

2 SY t =

i =1

)2 fi . (yti y

2 , al valor de la Se denomina varianza residual y se denota por Se expresin: 2 Se = 2 fij eij

k m

i =1j =1

Introduccin a la Estadstica Econmica (

Covadonga Tema Caso, 6 Esteban Fernndez, Ana Salom Garca, 13 / 20

Anlisis de bondad de modelos

Descomposicin de la varianza de Y (III)

Propiedad
En un ajuste lineal, la varianza de la variable dependiente Y puede ser expresada como suma de la varianza explicada y la varianza residual:
2 2 2 SY = SY t + Se

Introduccin a la Estadstica Econmica (

Covadonga Tema Caso, 6 Esteban Fernndez, Ana Salom Garca, 14 / 20

Anlisis de bondad de modelos

Coeciente de determinacin
A partir de la descomposicin de la varianza de Y (caso lineal):
2 2 SY Se 2 = S2 + S2 = t SY 2 + 2 e 1 = SY Yt SYt

Denicin El coeciente de determinacion R 2 se dene como la proporcin de

variacin de Y explicada por el modelo terico: S 2t S2 = 1 e R2 = Y 2 2 SY SY

Introduccin a la Estadstica Econmica (

Covadonga Tema Caso, 6 Esteban Fernndez, Ana Salom Garca, 15 / 20

Anlisis de bondad de modelos

Propiedades del coeciente de determinacin

0 R2 1 El coeciente de determinacin es nulo cuando el modelo no aporta ninguna explicacin sobre el comportamiento de Y Cuando el ajuste es perfecto R 2 = 1 En el caso de regresin lineal simple el coeciente de determinacin coincide con el cuadrado del coeciente de correlacin lineal, es decir, 2 R 2 = rXY

Introduccin a la Estadstica Econmica (

Covadonga Tema Caso, 6 Esteban Fernndez, Ana Salom Garca, 16 / 20

Anlisis de bondad de modelos

Ilustracin coeciente de determinacin

X: Renta (miles de euros) Y: Gasto en viajes (miles de euros) Y=-3,5+0,25X
2 2 2 SY = 11, 55 SY t = 7, 65 Se = 3, 9

R2 = 1

3, 9 7, 65 = = 0, 66 11, 55 11, 55

El 66% de las variaciones del gasto en viajes se explican mediante la recta mnimo cuadrtica a partir de la renta

Introduccin a la Estadstica Econmica (

Covadonga Tema Caso, 6 Esteban Fernndez, Ana Salom Garca, 17 / 20

Prediccin con modelos causales

Prediccin con modelos causales

Prediccin
Si la variable X toma el valor x0 , la prediccin de Y se obtiene como el valor terico de la variable Y condicionado a dicho valor de la variable explicativa: yt 0 = b0 + b1 x0
Fiabilidad de la prediccin

Capacidad explicativa del modelo R 2 Posicin del valor para el que se predice en relacin con los valores de X para los que se estima el modelo (interpolacin-extrapolacin)

Introduccin a la Estadstica Econmica (

Covadonga Tema Caso, 6 Esteban Fernndez, Ana Salom Garca, 18 / 20

Prediccin con modelos causales

Ilustracin prediccin
Prediccin para x0 = 40

Fiabilidad de la prediccin?

Modelo con alta capacidad explicativa El valor 40 se sita lejos del recorrido para el que se estim la recta, por lo que no puede asegurarse que se mantenga el mismo patrn de comportamiento = La prediccin no tiene garantas
Introduccin a la Estadstica Econmica (

Covadonga Tema Caso, 6 Esteban Fernndez, Ana Salom Garca, 19 / 20

Prediccin con modelos causales

Objetivos de aprendizaje
Al nalizar el tema 6 el estudiante debe ser capaz de: Distinguir los conceptos de correlacin y regresin y analizar la conexin entre ambos Calcular rectas de regresin por ajuste mnimo-cuadrtico Interpretar los coecientes de la recta de regresin Analizar la bondad de un modelo mediante el coeciente de determinacin Calcular predicciones a partir de modelos causales y analizar su abilidad

Introduccin a la Estadstica Econmica (

Covadonga Tema Caso, 6 Esteban Fernndez, Ana Salom Garca, 20 / 20