Modelos

Cuantitativos y
Optimización
Sesión 5

Mg. Noelia Delgadillo Rodríguez

MODELO DE REGRESIÓN LINEAL MÚLTIPLE
• El análisis de regresión múltiple es una técnica estadística que
consiste en la extensión del análisis de regresión simple a aplicaciones
que implican dos o mas variables independientes o predictoras:
𝑋1 , 𝑋2 , … , 𝑋𝑘 (𝑘 ≥ 2) para pronosticar el valor de la variable Y.
• Es una técnica muy útil empleada en diversas disciplinas, como por
ejemplo, en economía y finanzas.
• En el modelo de regresión lineal múltiple para k variables
independientes 𝑋1 , 𝑋2 , … , 𝑋𝑘 y un término de error, tiene la siguiente
forma:
• Y= 𝛽0 + 𝛽1 𝑋1 + 𝛽2 𝑋2 + ⋯ + 𝛽𝐾 𝑋𝐾 + 𝜖 (1)
• Donde:
•Y : variable dependiente
• 𝑋1 , 𝑋2 , … , 𝑋𝑘 : variable independiente
• 𝛽0 , 𝛽1 , … , 𝛽𝐾 : parámetros
•𝜖 : error aleatorio
• La ecuación que describe la forma en que el valor medio se relaciona
con 𝑋1 , 𝑋2 , … , 𝑋𝑘 es la ecuación de regresión múltiple:
• 𝐸 𝑦 = 𝛽0 + 𝛽1 𝑋1 + 𝛽2 𝑋2 + ⋯ + 𝛽𝐾 𝑋𝐾 , (2)
• Donde:
• E(y): es la media o valor esperado de Y para determinado los valores
de 𝑋𝑖 .

•
Ecuación de regresión estimada
• La estimación de la ecuación de regresión múltiple es la ecuación de
regresión lineal múltiple estimada cuya expresión es:
• 𝑌෠ = 𝑏0 + 𝑏1 𝑋1 + 𝑏2 𝑋2 + ⋯ + 𝑏𝐾 𝑋𝐾 ; (3)
• Donde:
• 𝑌෠ : es el valor estimado Y para determinado valor de 𝑋𝑖
• 𝑏0 , 𝑏1 , … , 𝑏𝐾 : coeficientes de regresión muestral
• Cada coeficiente de regresión poblacional 𝛽𝑖 se estima mediante el
respectivo coeficiente de regresión muestral 𝑏𝑖 , utilizando el método
de mínimos cuadrados.
METODOS DE MÍNIMOS CUADRADOS
• El criterio del método de mínimos cuadrados es la ecuación:
• 𝑦ො𝑖 = 𝑏0 + 𝑏1 𝑥1𝑖 + 𝑏2 𝑥2𝑖 + ⋯ + 𝑏𝑘 𝑥𝑘𝑖 + 𝑒𝑖 (4)
• Donde 𝑒𝑖 = 𝑦𝑖 − 𝑦ො𝑖 es el término residual.
• Los coeficientes 𝑏0 , 𝑏1 , … , 𝑏𝐾 se calculan por el método de mínimos
cuadrados.
• Este consiste en determinar los coeficientes de manera que hagan
mínima la suma de los cuadrados de los residuals (SCE) expresada
por:
• 𝑆𝐶𝐸 = σ𝑛𝑖=1 𝑒 2 𝑖 = σ𝑛𝑖=1 𝑦𝑖 − 𝑦ො𝑖 2
• = σ𝑛𝑖=1 𝑦𝑖 − 𝑏0 − 𝑏1 𝑥1𝑖 − 𝑏2 𝑥2𝑖 − ⋯ − 𝑏𝑘 𝑥𝑘𝑖 2 (6)
• Derivando SCE cada vez con respecto a 𝑏0 , 𝑏1 , … , 𝑏𝐾 e igualando a
cero, se obtienen las k+1 ecuaciones normales que siguen:
• 𝑛𝑏0 + 𝑏1 σ 𝑥1 + 𝑏2 σ 𝑥2 + ⋯ + 𝑏𝑘 σ 𝑥𝑘 = σ 𝑦 (7)
• 𝑏0 σ 𝑥1 + 𝑏1 σ 𝑥12 + 𝑏2 σ 𝑥1 𝑥2 … + 𝑏𝑘 σ 𝑥1 𝑥𝑘 = σ 𝑥1 𝑦
• 𝑏0 σ 𝑥2 + 𝑏1 σ 𝑥2 𝑥1 + 𝑏2 σ 𝑥22 + ⋯ + 𝑏𝑘 σ 𝑥2 𝑥𝑘 = σ 𝑥2 𝑦
•⋮
• 𝑏0 σ 𝑥𝑘 + 𝑏1 σ 𝑥𝑘 𝑥1 + 𝑏2 σ 𝑥𝑘 𝑥2 + ⋯ + 𝑏𝑘 σ 𝑥𝑘2 = σ 𝑥𝑘 𝑦
• Donde σ 𝑥𝑗 = σ𝑛𝑖=1 𝑥𝑗𝑖 , 𝑝𝑎𝑟𝑎 𝑗 = 1,2, … , 𝑘
• Estas ecuaciones pueden ser resueltas para 𝑏0 , 𝑏1 , … , 𝑏𝐾 por
cualquier método apropiado para resolver sistemas de ecuaciones
lineales.
• Observaciones:
• Para k=2 la grafica de la ecuación de regresión es un plano que
intercepta a Y en 𝛽0 . Los coeficientes de regresión parcial 𝛽0 , son las
pendiente de la línea de regresión de Y con la variable 𝑋𝑖 mientras las
otras variables independientes se mantienen constantes.
• Para k variables independientes (k>2), la gráfica de la ecuación de
regresión poblacional es un hiperplano en el espacio k+1
dimensiones.
• Ejemplo 1: Se realiza un estudio de asociación entre las siguientes
variables:
• Y: gastos mensuales expresados en cientos de soles.
• 𝑋1 : ingreso mensual familiar en miles de soles.
• 𝑋2 : tamaño de la familia.
• En una muestra de 10 familias escogidas al azar se han encontrado los
datos que se presentan en la siguiente tabla:
Y 45 40 38 35 32 30 28 27 25 22
𝑋1 10 9 8 7 7 6 6 4 3 2
𝑋2 : 9 8 6 6 5 4 3 2 2 1
• A)Determine la ecuación de regresión muestral de los gastos
mensuales con respecto a las dos variables: ingreso mensual y
número de integrantes en la familia.
• B)Estime el gasto mensual para una familia de 8 integrantes y cuyo
ingreso mensual es 7000 soles.
• Tabla
i 𝑋1 𝑋𝟐 Y 𝑿12 𝑿2𝟐 𝑋1 𝑋𝟐 𝑋1 𝒀 𝑋𝟐 𝒀
1 10 9 45 100 81 90 450 405
2 9 8 40 81 64 72 360 320
3 8 6 38 64 36 48 304 228
4 7 6 35 49 36 42 245 210
5 7 5 32 49 25 35 224 160
6 6 4 30 36 16 24 180 120
7 6 3 28 36 9 18 168 84
8 4 2 27 16 4 8 108 54
9 3 2 25 9 4 6 75 50
10 2 1 22 4 1 2 44 22
TOTAL 62 46 322 444 276 345 2158 1653
Solución
• A) De la ecuación de regresión múltiple muestral a determinar es:
• 𝑌෠ = 𝑏0 + 𝑏1 𝑋1 + 𝑏2 𝑋2 (8)
• De los datos de la muestra, tenemos:
• n=10, σ 𝑥1 = 62 σ 𝑥2 = 46, σ 𝑥12 = 444, σ 𝑥1 𝑥2 = 345
• σ 𝑥22 = 276, σ 𝑦 = 322, σ 𝑥1 𝑦 = 2158 σ 𝑥2 𝑦 = 1653
• El sistema de ecuaciones de mínimos cuadrados es:
• 10𝑏0 + 62𝑏1 + 46𝑏2 = 322 (9)
• 62𝑏0 + 444𝑏1 + 345𝑏2 = 2158
• 46𝑏0 + 345𝑏1 + 276𝑏2 = 1653
• Las soluciones únicas de este sistema son:
• 𝑏0 = 18.647, 𝑏1 = 0.509, 𝑏2 = 2.195
• Así, la ecuación de regresión múltiple muestral es:
• 𝑦ො = 18.947 + 0.509𝑥1 + 2.195𝑥2
• B)Si una familia tiene 8 integrantes y su ingreso mensual es 7000
soles, entonces su gasto mensual estimado es:
• 𝑦ො = 18.947 + 0.509 7 + 2.195 8 = 40.07
• Es decir 4007 soles
METODO PRÁCTICO
• Un método que convierte el sistema de tres ecuaciones en un sistema
de dos ecuaciones es el siguiente:
• 𝑏1 𝑆𝑋1𝑋1 + 𝑏2 𝑆𝑋1𝑋2 = 𝑆𝑋1𝑌 (10)
• 𝑏1 𝑆𝑋1𝑋2 + 𝑏2 𝑆𝑋2𝑋2 = 𝑆𝑋2𝑌
• Donde:
• 𝑆𝑋1𝑋1 = σ 𝑥12 − 𝑛 𝑥ҧ1 2 , 𝑆𝑋2𝑋2 = σ 𝑥22 − 𝑛 𝑥ҧ2 2
• 𝑆𝑋1𝑋2 = σ 𝑥1 𝑥2 − 𝑛 𝑥ҧ1 𝑥ҧ2 , 𝑆𝑋1𝑌 = σ 𝑥1 𝑦 − 𝑛 𝑥ҧ1 𝑦ത
• 𝑆𝑋2𝑌 = σ 𝑥2 𝑦 − 𝑛 𝑥ҧ2 𝑦ത
• Para el ejemplo anterior, encontrar los coeficientes de regresión
utilizando el método práctico.
• Usando los datos del enunciado, tenemos:
• 𝑆𝑋1𝑋1 = σ 𝑥12 − 𝑛 𝑥ҧ1 2 = 444 − 10 ∗ 6.2 2 = 59.6
• 𝑆𝑋2𝑋2 = σ 𝑥22 − 𝑛 𝑥ҧ2 2 = 276 − 10 ∗ 4.6 2 = 64.4
• 𝑆𝑋1𝑋2 = σ 𝑥1 𝑥2 − 𝑛 𝑥ҧ1 𝑥ҧ2 = 345 − 10 ∗ 6.2 ∗ 4.6 = 59.8
• 𝑆𝑋1𝑌 = σ 𝑥1 𝑦 − 𝑛 𝑥ҧ1 𝑦ത = 2158 − 10 ∗ 6.2 ∗ 32.2 = 161.6
• 𝑆𝑋2𝑌 = σ 𝑥2 𝑦 − 𝑛 𝑥ҧ2 𝑦ത = 1653 − 10 ∗ 4.6 ∗ 32.2 = 171.8
• Luego reemplazando en el sistema de ecuaciones (10) tenemos:
• 𝑏1 59.6 + 𝑏2 59.8 = 161.6
• 𝑏1 59.8 + 𝑏2 64.4 = 171.8
• Resolviendo el sistema obtenemos:
• 𝑏1 = 0.509
• 𝑏2 = 2.195
• 𝑏0 = 𝑦ത − 𝑏1 𝑥ҧ1 − 𝑏2 𝑥ҧ2
• = 32.2 − 0.509 ∗ 6.2 − 2.195 ∗ 4.6
• = 18.9472
• Así, la ecuación de regresión múltiple muestral es:
• 𝑦ො = 18.947 + 0.509𝑥1 + 2.195𝑥2