Apresentacao Analise Linear UEA030417

Modelos
Modelos de de Regresso
Regresso Linear
Linear ee
Mltipla
Mltipla ee Aplicaes
Aplicaes Econmicas
Econmicas
Raimundo Nonato de Souza Morais

03 abril 2017
Modelos de Regresso Simples e Mltipla

Raimundo Nonato de Souza Morais 03 Abril 2017 1/40
e Aplicaes Econmicas
INTRODUO
A anlise de regresso permite que se estabeleam

relaes entre variveis.
Por exemplo, para o economista na busca por
compreender a natureza e o funcionamento de
sistemas econmicos, verificar se:
o volume do comrcio internacional pode ser modelado
como uma funo linear do produto interno bruto dos
pases?
A escolaridade (anos de estudos) pode explicar um maior
ou menor salrio?

INTRODUO
Uma vez estabelecida a regresso, uma forma

funcional, preciso avaliar a confiana que nela
se pode colocar, realizando testes estatsticos.
A presena ou no da relao linear pode ser
investigada sob dois pontos de vistas:
Quantificando a fora dessa relao: CORRELAO
Explicitando a forma dessa relao: REGRESSO

CORRELAO
Um exemplo:
Dados wage1 , cross-section de salrio com 526
observaes e 24 variveis, do Woodridge.
Adaptada para 30 observaes e 3 variveis, salrio
(wage), escolaridade (educ) e experincia (exper).
A escolaridade apresenta alguma relao com o
nvel de salrio?

CORRELAO
Um exemplo:
Dados wage1 , cross-section de salrio com 526
observaes e 24 variveis, do Woodridge.
Adaptada para 30 observaes e 3 variveis, salrio
(wage), escolaridade (educ) e experincia (exper).
A escolaridade apresenta alguma relao com o
nvel de salrio?

CORRELAO
Coeficiente de Correlao de Person

A tcnica usada para calcular este coeficiente, supe
que a associao entre as variveis seja linear, ou
seja, expressa por linha ou reta.
A formula :

CORRELAO
Correlao no R
>cor(wage1$wage, wage1$educ)
[1] 0.5070696
A correlao pode ser positiva, negativa ou nula (no h

correlao).

CORRELAO
Correlao no R
Diagrama de Disperso
> plot(wage1$wage, wage1$educ)

REGRESSO LINEAR SIMPLES (Definio)
Tambm chamada de modelo de regresso de

duas variveis ou bivariada.
O modelo de regresso linear simples explica
uma varivel (y) com base em modificaes em
outra varivel (x).
Ou seja, usado para avaliar a relao entre duas
variveis.
Esse tipo de regresso no muito utilizada em
cincias sociais aplicadas, devido sua simplicidade.

O modelo de regresso de duas variveis ou

bivariada :
sendo:
y valor da varivel dependente (resposta)
0 e 1 parmetros desconhecidos
x valor da varivel independente (preditora)
u- erro amostral ou perturbao da relao

A terminologia para a regresso:
y x
Varivel dependente Varivel Independente
Varivel Explicada Varivel Explicativa
Varivel de Resposta Varivel de Controle
Varivel Prevista Varivel Previsora
Regressando Regressor
Covarivel
Na anlise de regresso simples, todos fatores

(alm de x) que afetam y so tratados como no-
observados.
Se os outros fatores em u so mantidos fixos, de
modo que a variao em u zero (u=0), ento x
tem um efeito linear sobre y, tal como: y=1x;
se u=0.
A linearidade do modelo de regresso linear
simples implica que uma variao de uma
unidade em x tem o mesmo efeito sobre y,
independentemente do valor inicial de x.
Os estimadores de 0 e 1 sero confiveis em

uma amostra aleatria, se o termo no
observvel (u) estiver relacionado varivel
explicativa (x) de modo que o valor mdio de u
na populao seja zero: E(u)=0.
Se u e x no esto correlacionados, ento (como
variveis aleatrias) no so linearmente
relacionados.

REGRESSO LINEAR SIMPLES (Erro Amostral)
O erro amostral uma varivel aleatria no

observvel, e estimado pelos resduos, isto , a
diferena entre o valor observado Y, e o
estimado pela reta y , isto

REGRESSO LINEAR SIMPLES (Derivao das
Estimativas MQO)
Qual o modelo deve ser ajustado?

Um exemplo:
Um exemplo a poupana anual para a famlia i
(yi) dependendo da renda anual desta famlia (xi),
em um determinado ano.

Estimativas MQO)

Estimativas MQO)
Para a estimao dos parmetros 0 e 1 ,

preciso considerar uma amostra da populao:
{(xi, yi): i = 1, 2, , n}
E a equao do modelo :
yi = 0 + 1xi + ui

Estimativas MQO)
Mtodos dos mnimos quadrados

Objetiva minimizar a soma dos quadrados dos
erros
Para que a soma dos quadrados dos erros tenha

um valor mnimo, devem-se aplicar os conceitos
de clculo diferencial com derivadas parciais.

Estimativas MQO)
Os estimadores dos parmetros so:
A reta ajustada :

REGRESSO LINEAR SIMPLES (Interpretao
dos parmetros)
O intercepto 0- valor esperado para a varivel

dependente yi quando igual a zero.
O coeficiente angular - valor esperada na
1
varivel resposta, quando a varivel
independente aumenta uma unidade.

REGRESSO LINEAR SIMPLES (Valores
estimados e resduos)
Encontrados o intercepto e a inclinao,

teremos um valor estimado para y para cada
observao (x) na amostra:
O resduo a diferena entre o valor verdadeiro

de y e seu valor estimado:

REGRESSO LINEAR SIMPLES (Valores
estimados e resduos)

REGRESSO LINEAR SIMPLES (Propriedade
Algbrica das estatsticas)
A soma dos resduos de MQO zero, j que as

estimativas de MQO de 0 e 1 so escolhidas
para fazer com que a soma dos resduos seja
zero:
A covarincia amostral entre os regressores e os

resduos de MQO zero:

Se inserirmos a mdia de x no lugar de xi, o valor

estimado a mdia de y (este ponto est
sempre sobre a reta):
Soma dos quadrados

- Soma dos quadrados total (SQT) uma medida da
variao amostral total em yi (mede a disperso dos yi
na amostra):

Soma dos quadrados explicada (SQE) mede a
variao amostral em:
Soma dos quadrados dos resduos (SQR) mede

a variao amostral em:
Variao total em y a soma da variao

explicada e da variao no-explicada:

REGRESSO LINEAR SIMPLES (Grau de ajuste)
Visa mensurar o quanto bem a varivel

independente (x) explica a varivel dependente
(y). um nmero que representa o quo bem a
reta se ajusta aos dados.
R2: razo entre a variao explicada (SQE) e a
variao total (SQT).

REGRESSO LINEAR SIMPLES (Grau de ajuste)
R2: frao da variao amostral em y que

explicada por x.
SQT = SQE + SQR
SQT/SQT = (SQE + SQR)/SQT
1 = SQE/SQT + SQR/SQT
SQE/SQT = 1 SQR/SQT
O R2 um dos instrumentos de ajuste, mas usar

como principal padro de medida de sucesso de
uma anlise economtrica pode levar a
confuses.
REGRESSO LINEAR SIMPLES (Caso prtico)
Encontrar relao linear entre o nvel de salrio e

a escolaridade.
Base de dados: wage1.dta, Wooddridge
Software: R Studio
Modelo: salario = + educ + u

0 1
Interpretao:
- Para cada ano adicional de educao, h um
aumento fixo no salrio. Esse o aumento tanto para
o primeiro ano de educao quanto para anos mais
avanados.

REGRESSO LINEAR SIMPLES (Caso prtico)
Call:
lm(formula = wage ~ educ, data = wage1)
Residuals:
Min 1Q Median 3Q Max
-5.3396 -2.1501 -0.9674 1.1921 16.6085
Coefficients:
Estimate Std. Error t value Pr(>|t|)
(Intercept) -0.90485 0.68497 -1.321 0.187
educ 0.54136 0.05325 10.167 <2e-16 ***
---
Signif. codes: 0 *** 0.001 ** 0.01 * 0.05 . 0.1 1
Residual standard error: 3.378 on 524 degrees of freedom

Multiple R-squared: 0.1648, Adjusted R-squared: 0.1632
F-statistic: 103.4 on 1 and 524 DF, p-value: < 2.2e-16
Modelo estimado: salario = -0,9048 + 0,5413*educ

REGRESSO LINEAR MLTIPLA (Estimao)
A desvantagem de usar anlise de regresso

simples o fato de ser difcil que todos os outros
fatores que afetam y no estejam correlacionados
com x.
Anlise de regresso mltipla possibilita ceteris
paribus (outros fatores constantes), pois permite

controlar muitos outros fatores que afetam a
varivel dependente simultaneamente.
Um problema importante em muitas aplicaes
da anlise de regresso envolve selecionar o

conjunto de variveis independentes ou
preditoras a ser usado no modelo.
Reta de regresso de MQO :
O mtodo de mnimos quadrados ordinrios

escolhe as estimativas que minimizam a soma
dos resduos quadrados.
Dadas n observaes de y, x , x , ... e x , as
1 2 k
estimativas dos parmetros so escolhidas para
fazer com que a expresso abaixo tenha o menor
valor possvel:

O intercepto o valor previsto de y quando
todas as variveis independentes so iguais a
zero.
As estimativas dos demais parmetros tm
interpretaes de efeito parcial (ceteris paribus).
Da equao da regresso, temos:
O coeficiente de x1 mede a variao em y devido

a um aumento de uma unidade em x1, mantendo
todas as outras variveis independentes
constantes:
REGRESSO LINEAR MLTIPLA (Modelo com
duas variveis)
O modelo
0 o intercepto.
mede a variao em y com relao a x ,
1 1
mantendo os outros fatores constantes.
mede a variao em y com relao a x2,
2
mantendo os outros fatores constantes.

REGRESSO LINEAR MLTIPLA (Modelo com k
variveis)
O modelo
Esse o modelo de regresso linear mltipla

geral ou, simplesmente, modelo de regresso
mltipla.
H k + 1 parmetros populacionais
desconhecidos, j que temos k variveis
independentes e um intercepto.

REGRESSO LINEAR MLTIPLA (Modelo com k
variveis)
Os parmetros 1 a k so chamados de
parmetros de inclinao, mesmo que eles no
tenham exatamente este significado.
A regresso linear porque linear nos ,
j
mesmo que seja uma relao no-linear entre a
varivel dependente e as variveis
independentes:

REGRESSO LINEAR MLTIPLA (Interpretao
da equao da regresso)
Novamente a reta de regresso de MQO:
O intercepto o valor previsto de y quando todas

as variveis independentes so iguais a zero.
As estimativas dos demais parmetros tm
interpretaes de efeito parcial (ceteris paribus).

REGRESSO LINEAR MLTIPLA (Interpretao
da equao da regresso)
Da equao, temos:
O coeficiente de x1 mede a variao em y devido

a um aumento de uma unidade em x1, mantendo
todas as outras variveis independentes
constantes:

REGRESSO LINEAR MLTIPLA (Grau de ajuste)
O R2 nunca diminui quando outra varivel

independente adicionada na regresso.
Isso ocorre porque a soma dos resduos
quadrados nunca aumenta quando variveis
explicativas so acrescentadas ao modelo.
Essa caracterstica faz de R2 um teste fraco
para decidir pela incluso de variveis no

modelo.

REGRESSO LINEAR MLTIPLA (Grau de ajuste)
O efeito parcial da varivel independente (k)

sobre y o que deve definir se a varivel deve
ser inserida no modelo.
R2 um grau de ajuste geral do modelo, assim
como um teste para indicar o quanto um grupo

de variveis explica variaes em y.

REGRESSO LINEAR MLTIPLA (Exemplo no R)
Call:
lm(formula = wage ~ educ + exper, data = wage1)
Residuals:
Min 1Q Median 3Q Max
-5.5532 -1.9801 -0.7071 1.2030 15.8370
Coefficients:
Estimate Std. Error t value Pr(>|t|)
(Intercept) -3.39054 0.76657 -4.423 1.18e-05 ***
educ 0.64427 0.05381 11.974 < 2e-16 ***
exper 0.07010 0.01098 6.385 3.78e-10 ***
---
Signif. codes: 0 *** 0.001 ** 0.01 * 0.05 . 0.1 1
Residual standard error: 3.257 on 523 degrees of freedom
Multiple R-squared: 0.2252, Adjusted R-squared: 0.2222
F-statistic: 75.99 on 2 and 523 DF, p-value: < 2.2e-16


Apresentacao Analise Linear UEA030417

Caricato da

Informazioni sul documento

Copyright

Formati disponibili

Condividi questo documento

Condividi o incorpora il documento

Opzioni di condivisione

Hai trovato utile questo documento?

Questo contenuto è inappropriato?

Copyright:

Formati disponibili

Apresentacao Analise Linear UEA030417

Caricato da

Copyright:

Formati disponibili

Modelos

Raimundo Nonato de Souza Morais

Modelos de Regresso Simples e Mltipla

A anlise de regresso permite que se estabeleam

Modelos de Regresso Simples e Mltipla

Uma vez estabelecida a regresso, uma forma

Modelos de Regresso Simples e Mltipla

Modelos de Regresso Simples e Mltipla

Modelos de Regresso Simples e Mltipla

Coeficiente de Correlao de Person

Modelos de Regresso Simples e Mltipla

A correlao pode ser positiva, negativa ou nula (no h

Modelos de Regresso Simples e Mltipla

> plot(wage1$wage, wage1$educ)

Tambm chamada de modelo de regresso de

Modelos de Regresso Simples e Mltipla

O modelo de regresso de duas variveis ou

Modelos de Regresso Simples e Mltipla

A terminologia para a regresso:

Na anlise de regresso simples, todos fatores

Os estimadores de 0 e 1 sero confiveis em

Modelos de Regresso Simples e Mltipla

O erro amostral uma varivel aleatria no

Modelos de Regresso Simples e Mltipla

Qual o modelo deve ser ajustado?

Modelos de Regresso Simples e Mltipla

Modelos de Regresso Simples e Mltipla

Para a estimao dos parmetros 0 e 1 ,

Modelos de Regresso Simples e Mltipla

Mtodos dos mnimos quadrados

Para que a soma dos quadrados dos erros tenha

Modelos de Regresso Simples e Mltipla

Os estimadores dos parmetros so:

Modelos de Regresso Simples e Mltipla

O intercepto 0- valor esperado para a varivel

Modelos de Regresso Simples e Mltipla

Encontrados o intercepto e a inclinao,

O resduo a diferena entre o valor verdadeiro

Modelos de Regresso Simples e Mltipla

Modelos de Regresso Simples e Mltipla

A soma dos resduos de MQO zero, j que as

A covarincia amostral entre os regressores e os

Modelos de Regresso Simples e Mltipla

Se inserirmos a mdia de x no lugar de xi, o valor

Soma dos quadrados

Modelos de Regresso Simples e Mltipla

Soma dos quadrados dos resduos (SQR) mede

Variao total em y a soma da variao

Modelos de Regresso Simples e Mltipla

Visa mensurar o quanto bem a varivel

variao total (SQT).

Modelos de Regresso Simples e Mltipla

R2: frao da variao amostral em y que

O R2 um dos instrumentos de ajuste, mas usar

Encontrar relao linear entre o nvel de salrio e

Modelo: salario = + educ + u

Modelos de Regresso Simples e Mltipla

Residual standard error: 3.378 on 524 degrees of freedom

Modelo estimado: salario = -0,9048 + 0,5413*educ

Modelos de Regresso Simples e Mltipla

A desvantagem de usar anlise de regresso

paribus (outros fatores constantes), pois permite

da anlise de regresso envolve selecionar o

O mtodo de mnimos quadrados ordinrios