Aula 2 - Capitulo 02 Wooldridge Regressão Simples

8/18/2019 Aula 2 - Capitulo 02 Wooldridge Regressão Simples

1/77

Chapter 2 O Modelo de Regressão SimplesWooldridge, Capítulo 02

Luciano Sampaio


2/77

O Modelo de RegressãoSimples

Objetivos: Defni!o do modelo de regress!o

simples "stimativas de #ínimos $uadrados

Ordin%rios

&ropriedades de #$O em dados

amostrais 'nidades de medida e (orma (uncional


3/77

Defnição do Modelo deRegressão Simples

)n%lise de Dados de Corte *ransversais )ssumimos +ue temos uma amostra aleatria da

popula!o de interesse "-istem duas vari%veis, e , e gostaríamos de estudar: .Como varia com mudanas em ./. "-emplos:

a +uantidade de (ertili1ante e a produ!o de soja

a escolaridade e o sal%rio de uma pessoa

'ma grande parte das teorias estuda umarela!o entre duas vari%veis +ue n!o e-ata


4/77


&ara medir uma rela!o entre 2 vari%veis temos +ue resolver4 problemas:

Outros (atores di(erentes de - podem a(etar 5/▪ Difcilmente 6% uma rela!o e-ata entre as vari%veis

$ual a (orma (uncional da rela!o entre e /

&odemos assumir +ue estamos capturando um e(eitocausal 7.ceteris paribus.8, ou seja, +ue os outros (atoresn!o s!o alterados +uando alteramos -/


5/77

9ari%vel dependente,9ari%vel e-plicada,regressando

9ari%vel independente,9ari%vel e-plicativa,regressor,

*ermo de erro,dist;rbio,

>ntercepto &ar?metro de inclina!o



6/77

Defnição do modelo deregressão linear simples

ndependente

e dependente tambm s!o usados com

9ari%vel dependente 9ari%vel independente9ari%vel e-plicada 9ari%vel e-plicativa

9ari%vel de resposta 9ari%vel de controle

Aegressando regressor

9ari%vel dependente 9ari%vel independente9ari%vel e-plicada 9ari%vel e-plicativa

9ari%vel de resposta 9ari%vel de controle

Aegressando regressor


7/77

Defnição do modelo deregressão linear simples

O termo de erro ou dist;rbio ou (atores n!o=observados anteriormente ) e+ua!o:

permite e-plicitamente +ue outros (atores +ue n!o- a(etem 5

) e+ua!o tambm Bresolve o problema da (orma

(uncional "stamos assumindo +ue 5 tem umarela!o linear com -

C6amamos de intercepto e de par?mentro deinclina!o


8/77

contanto +ue

"sta interpreta!o para a inclina!osomente correta se todos os demais (atorespermanecerem constantes +uando a vari%velindependente aumenta em E unidade

Interpretação do Modelo deRegressão Simples


9/77

Exemplo: Produção de soa e !ertili"ante

Exemplo: E#uação de sal$rio

c6uva,

+ualidade da terra,presena de parasitas,

"-peri@ncia,dura!o no emprego atual,intelig@ncia,



10/77


Dissemos +ue temos +ue en(rentar 4 problemas:

Como permitir +ue outros (atores alm de - a(etem5/

$ual a (orma (uncional da rela!o entre - e 5/ Como podemos ter certe1a de +ue estimamos uma

rela!o .ceteris paribus. entre 5 e -/ O modelo de regress!o simples:

leva em conta todos eles

Como podemos estimar o e(eito causal sesimplesmente assumimos +ue todos o (atores n!o=observados est!o jogados em u/ *emos +ue restringir como - e u est!o relacionados na


11/77


>sto , para termos boas estimativas de da rela!oentre as duas vari%veis, temos +ue supor duas6ipteses:

'ma sobre u

Outra sobre a rela!o entre u e -


12/77


Como limitar a rela!o entre - e u na popula!o para+ue a regress!o leve a um e(eito causal/

- e u s!o vistos como tendo uma distribui!opopulacional

"-emplo: se - F , podemos obter sua distribui!opara uma popula!o de adultos Supon6a +ue umede a 6abilidade cognitiva Se pudermos medi=la,

tambm podemos assumir +ue u tem umadistribui!o na popula!o

"nt!o temos +ue impor uma restri!o na (orma como

u e - se relacionam na popula!o % hip&tese da m'dia (ondi(ional "ero


13/77


&rimeiro precisamos assumir +ue a mdia de iguala 1ero na popula!o:


14/77


Como podemos restringir a relação dedepend)n(ia entre u e x*

&odemos assumir +ue u e - s!o n!o correlacionadosna popula!o:

) correla!o 1ero (unciona em alguns casos, mas ela

apenas implica +ue u e - n!o tem rela!o linear


15/77

,ip&tese da m'dia (ondi(ional "ero:

Exemplo: e#uação sal$rio

) 6iptese da mdia condicional 1ero certamente n!o

satis(eita, pois indivíduos com mais anos de educa!opodem ser, em mdia, mais inteligentes do +ue os +ue tempoucos anos de educa!o

&ortanto esperamos +ue a mdia de 7+ue inclui aintelig@ncia8 seja na verdade uma (un!o da educa!o

"-: intelig@ncia

) vari%vel e-plicativa n!o pode conterin(orma!o sobre a mdia dos (atores

n!o observ%veis



16/77


Exemplo: !ertili"ante e produção de soa

Supon6a +ue F +ualidade da terra

"nt!o, ra1o%vel se a +uantidade de (ertili1ante tiversido escol6ida independentemente da +ualidade daterra

"ssa 6iptese ra1o%vel mas assume +ue a+uantidade de (ertili1ante ten6a sido escol6idaaleatoriamente, como em um e-perimento


17/77



18/77

Gun!o de regress!oda mdia dapopula!o



19/77


Exemplo: nota na uni-ersidade e nota no ensino m'dio Supon6a +ue para a popula!o de alunos +ue (re+uentam a

universidade, sabemos de alguma (orma +ue:

*al +ue a nota na universidade e a nota no ensino mdio

Se , ent!o a nota mdia de todos os estudantes dauniversidade :

>sso n!o signifca +ue um aluno com nota H no ensino mdiov% ter um nota e-atamente igual a I O valor I a notamdia na universidade para toda a .(atia. de estudantes napopula!o +ue tem nota do "# igual a H

)o (a1ermos uma regress!o analisamos o e(eito das vari%veise-plicativas na m'dia da vari%vel dependente


20/77

EJ observa!o

2J observa!o

4J observa!o

n=sima observa!o

9alor da vari%vele-plicativa para ai=sima observa!o

9alor da vari%vel

dependente &ara ai=sima observa!o

Estimação do Modelo deRegressão Simples


21/77

% ideia ' en(ontrar a melhor reta poss.-el /a #ue melhor

se austa aos dados0:

Aeta de regressestimada


resíduo

valor estimado


22/77

O #ue signif(a o melhor auste da reta*

Estimador de M.nimos 1uadrados

Ordin$rios Estimador do M'todo dos Momentos

"stimador de #%-ima 9erossimil6ana



23/77


sando o m'todo dos momentos:/(om as 2 hip&teses -istas0 *emos 2 restriKes +ue decorrem da mdia condicional

1ero:

'samos estes dois momentos para estimar 2 par?metros 7 e 8

)gora substituímos nas e+uaKes acima:

'samos a contrapartida amostral para


24/77


&ara resolver o sistema com 2 e+uaKes e 2 incgnitas:

"nt!o: Substituímos na 2J e+ua!o:


25/77


Com alguma contas mostramos +ue:

+ue (un!o apenas de

Se usarmos 4 propriedades do somatrio:


26/77

)ssim resolvemos o sistema:

Desde +ue a soma dos +uadrados dos desvios de - seja

positiva 7ou seja, +ue 6aja varia!o nos valores de -8:



27/77



28/77


Exemplo (om 3 pontos -isto na aula passada:

E0

M0

5 F m- N b

4 pontos

Aesíduo 2Aesíduo n

Aesíduo E

y


29/77

Aesumindo, pelos 2 mtodos, a declividade estimada por:

) declividade estimada a covari?ncia amostral entre - e 5 divididapela vari?ncia amostral de -

Se - e 5 s!o positivamente correlacionadas, a declividade ser% positiva

Se - e 5 s!o negativamente correlacionadas, a declividade ser%negativa

)penas precisamos +ue - varie em nossa amostra



30/77

Sal$rio de Diretores de empresas e o retorno das aç4es

da empresa /roe0

Regressão estimada

Sal%rio em mil6ares de dlaresAetorno da a!o da empresa do diretor em

>nterceptoSe o retorno da a!o aumentar em E,"nt!o prev@=se +ue o sal%rio aumentaem EH mil e 0E dlares


Interpretação de (ausalidade*


31/77

"+ua!o de regress!oestimada7depende da amostra8mais sobre in(er@ncia aseguir

"+ua!o de regress!o da

popula!o D"SCO


32/77

Sal$rio e edu(ação /5%6E7+dta0:

Regressão estimada:

Sal%rio por 6ora )nos de estudo

>ntercepto


33/77

Per(entual de -otos e gastos de (ampanha /2 partidos0

/8O9E7+dta0:

Regressão estimada:

de votos para o candidato ) dos gastos da campan6a do candidato )com rela!o aos gastos totais

>nterceptoSe a propor!o dos gastos docandidado ) aumentar em E, elerecebe 0MRM pontos percentuais amais do total de votos


Interpretação de (ausalidade*


34/77

Propriedades de M1O em #ual#uer amostra

em;rando #ue para os par tem?se:

Propriedades alg';ri(as da regressão de M1O:

% soma dos res.duos do M1O ' "ero

%ssim> a m'dia amostral dos res.duos de M1O tam;'m ' "ero

% (o-ari


35/77

Propriedades de M1O em #ual#uer amostra

em;rando:

Propriedades alg';ri(as da regressão de M1O:

9alor estimado ou .previsto. Desvio em rela!o a reta de regress!o 7F resídu

) soma dos resíduos7desvio em rela!o

a reta8 igual a 0

) correla!o entre osresíduos e os

regressores igual a 0

Propriedades de M1O


36/77

&or e-emplo, para o diretor E2 osal%rio (oi 2R 024 dlares mais

bai-o do +ue o previsto usando ain(orma!o do retorno s aKes da

Propriedades de M1O


37/77

%uste do modelo

)t +ue ponto o modelo linear ajuda a e-plicarvariaKes nos valores da vari%vel dependente, 5/

a8 o modelo e-plica toda a varia!o em 5, b8 o modelo e-plica +uase toda a varia!o de 5 c8 o modelo e-plica uma pe+uena parte da

varia!o de 5


38/77

Soma dos $uadrados *otal,representa a varia!o totalda vari%vel dependente

Soma dos $uadrados"-plicada,representa a varia!oe-plicada pela regress!o

Soma dos $uadradosdosAesíduos,representa avaria!o n!o e-plicadapela regress!o

%uste do modelo


39/77

%uste do modelo

)t +ue ponto o modelo linear ajuda a e-plicarvariaKes nos valores da vari%vel dependente, 5/

Aeta deregress!o

Aeta 6ori1ontal em

Soma dos $uadradosdos

Aesíduos,representa avaria!o n!o e-plicada

Soma dos $uadrados *otal,representa a varia!o total

da vari%vel dependente


40/77

De(omposição da -ariação total

Medida do auste do modelo /R?#uadrado ou R20

9aria!ototal

&artee-plicada

&arte n!oe-plicada

A2 mede a (ra!o davaria!o total +ue e-plicada pelo modelo

de regress!o linear

%uste do modelo


41/77

Sal$rio dos diretores e retorno das aç4es

8oting out(omes and (ampaign expenditures

Cuidado: m -alor alto de R2 não signif(a ne(essariamente#ue a regressão tem uma interpretação de (ausalidade@

) regress!o e-plicaapenas E4 davaria!o total do sal%riodos diretores

) regress!o e-plica

HR da varia!ototal no resultado daseleiKes

%uste do modelo


42/77

Pro;lemas (om R2

%ns(om;e encontroue-emplos dedados bastantedi(erentes com

medidasdescritivas muitoparecidas

*odas as MregressKes aolado apresentam o

mesmo AT O +uevoc@s ac6am dopoder e-plicativodo modelo/

ATF0RRI

5 10 15

4

6

8

1 0

1 2

y 1

5 10 15

4

6

8

1 0

1 2

y 2

4

6

8

1 0

1 2

y 3

4

6

8

1 0

1 2

y 4

Anscombe's 4 Regression data sets

)nscombe, Grancis U 7EVI48 rap6s in statistical anal5sis American

Statistician, 2A, EIX2E9er no A: data7anscombe8Y e-ample7anscombe8


43/77

In(orporando não


44/77

Regressão estimada

"(eitos diploma podem ser incluídosno modelo 7veremos mais (rente

no curso8

O sal%rio aumenta H4 paracada ano adicional de educa!o7c6amado retorno da educa!o8

*a-a de crescimento do sal%rio igual aH4 para cada anos a mais deeduca!o U% a varia!o do sal%rio acada ano adicional crescente 7ver a

In(orporando não?linearidades

In(orporando não


45/77

#udana no sal%rio

se as vendasaumentam em E


In(orporando não


46/77

N E de vendas est% associado a N 02I no sal%rio


Sal$rio dos CEOs e -endas das frmas: e#uaçãoestimada

) (orma log=log assume +ue o modelo temelasticidade constante

"lasticidade 5 X -, a mudana percentual em 5associada a uma mudana de E em - "-:elasticidade preo da demanda

In(orporando não


47/77

Aesumo das interpretaKes com (ormas logarítmicas


Modelo 8ari$-elDependente

8ari$-elIndependente

Interpretação do(oef(iente


48/77


49/77

In!er)n(ia

Os dados s!o aleatrios e dependem da amostra +ue (oi sorteada dapopula!o

2


50/77

In!er)n(ia

Os dados (ormam uma aleatria de taman6o nda popula!o

"nt!o, cada observa!o segue a e+ua!o populacional7+ue continua sendo descon6ecida8


51/77

In!er)n(ia


52/77

In!er)n(ia

Os valores sorteados

para o i=simo trabal6ador

O erro +ue o modelo populacional

prev@ para o trabal6ador i:


53/77

In!er)n(ia

,ip&teses para o modelo linear /(ont+0

,ip&tese RS+3 /8ariação %mostral da -ari$-el expli(ati-a0

,ip&tese RS+B /M'dia Condi(ional ero0

Os valores da vari%vel e-plicativa n!o s!o os

mesmos para todas as observaKes 7casocontr%rio seria impossível estudar comovalores di(erentes da vari%vel e-plicativalevam a valores di(erentes da vari%veldependente8

O valor da vari%vel e-plicativa n!opode conter in(orma!o a respeito damdia dos (atores n!o observ%veis7termo de erro8


54/77


55/77

In!er)n(ia

Exemplo de simulação /De-ore 72+70: Supon6a +ue con6ecemos a verdadeira rela!o

populacional:

com

&odemos gerar amostras de mesmo taman6o usandoum gerador aleatrios de valores normais com mdia1ero e desvio=padr!o igual a 4

*emos, por e-emplo, 20 amostras di(erentes detaman6o EM

&ara cada uma das 20 amostras, rodamos a regress!oor # O


56/77


57/77

In!er)n(ia


58/77

In!er)n(ia

Aesumo da propriedade )us@ncia de vis

Os estimadores de #$O s!o n!o viesados

) prova de aus@ncia de vis depende de M 6ipteses assumidasX se +ual+uer uma delas (al6a, ent!o o #$O pode gerarpar?metros viesados

)us@ncia de vis uma descri!o do estimador X numa dadaamostra, podemos estar pr-imos ou longe do verdadeiropar?metro

Conclus!o: se a amostra Btípica da popula!o,ent!o os estimadores devem estar pr-imos dosverdadeiros valores da popula!o


59/77

In!er)n(ia

"-emplo de vis 7dada a +uebra de uma das6ipteses8: Se a ALS M n!o satis(eita estimadores 7betas8 ser!o

viesados

Correla!o entre - e u 7veremos no cap 4 a dire!o e otaman6o do vis8

Se u contem (atores +ue a(etam 5 e tambm s!ocorrelacionados com -

"- 2E2: per(ormance em matem%tica e programa delanc6e &ergunta: (undo (ederal para lanc6e a(eta per(ormance em

matem%tica/

"-pectativa: programa tem impacto positivo ceteris paribus7outros (atores f-os8

#at6 F passou no teste de matem%ticaY lnc6pr F


60/77


61/77

In!er)n(ia

O valor da vari%vel e-plicativa n!opode conter in(orma!o a respeito davariabilidade dos (atores n!oobserv%veis 7termo de erro8


62/77


63/77

In!er)n(ia

m exemplo de hetero(edasti(idade: Sal$rio e edu(ação


64/77

In!er)n(ia


65/77

In!er)n(ia

'm estimador da vari?ncia do erro +ue n!o viesado obtido ao corrigirmos para os graus de liberdade

perdidos na estima!o


66/77

In!er)n(ia

)s estimativas dos desvios=padr!o dos coefcientes de regress!o s!oc6amados de .erros=padr!o. "les medem a precis!o na estima!o dos

coefcientes de regress!o Se eles s!o grandes, os coefcientes estimadosvariam muito de amostra a amostra


67/77

Resumo


68/77

Resumo


69/77

Stata

Poje em dia muito (%cil .rodar. um modelo deregress!o, ou seja, obter as estimativas de #$O, seuserros=padr!o e medidas de ajuste do modelo

Di1emos +ue rodamos um modelo de regress!olinear, ou +ue, regredimos y em relação a x , ousimplesmente, regredimos y em x.

O comando do stata muito simples:reg 5 -

) ordem (undamental 'm intercepto adicionado automaticamente


70/77

Stata

Lembrem=se +ue a resolu!o no stata de todos os e-emplos do livro do Wooldridgeest% disponível na p%gina:

6ttp:ZZ(m[[[bceduZgstatZe-amplesZ[ooldridgeZ[ooldridge6tml

"-emplo 2E2 7Desempen6o de "studantes de #atem%tica e o &rograma de#erenda "scolar8

&ergunta: 0 programa de merenda escolar mel6ora o desempen6o dos alunos emmatem%tica/ "speramos +ue o programa ten6a um e(eito positivo no desempen6oescolar dos alunos tudo o mais constante

Como seria um e-perimento ideal para medir este e(eito/ $ue vari%veis voc@sgostariam de utili1ar/

O ar+uivo #")&V4 possui in(orma!o das seguintes vari%veis para M0H escolas de#ic6igan em V2=V4: math10: de alunos do primeiro ano do ensino mdio aprovados em uma e-ame de

matem%tica

lnchprg: ln do de estudantes em uma escola +ue est!o aptos a participar do programa demerenda escolar

S

http://fmwww.bc.edu/gstat/examples/wooldridge/wooldridge.htmlhttp://fmwww.bc.edu/gstat/examples/wooldridge/wooldridge.html


71/77

Stata

use #")&V4, clearreg mat6E0 lnc6pr

S


72/77

Stata

"-emplo 2E2 7Desempen6o de "studantes de #atem%tica e o&rograma de #erenda "scolar8

"stime a regress!o usando o stata

Aesultado:

_cons 32.14271 .9975824 32.22 0.000 30.18164 34.10378

lnchprg -.3188643 .0348393 -9.15 0.000 -.3873523 -.2503763

math10 Coef. Std. rr. t !"#t# $95% Conf. &nter'al(

)otal 44817.1805 407 110.115923 *oot +S , 9.5659

d *-s/ared , 0.1690

*esdal 37151.9145 406 91.5071786 *-s/ared , 0.1710

+odel 7665.26597 1 7665.26597 !ro " , 0.0000

1 406 , 83.77

Sorce SS df +S mer of os , 408

use #")&V4, clearreg mat6E0 lnc6pr

S


73/77

Stata

Como obter os valores previstos pelo modelo e oresíduo

'sar comando predict do stata, aps a regress!o

"-emplo 7W)"E8: "+ua!o sal%rio

reg [age educ predict [age6at, -b

"sse comando cria umavari%vel nova com o nome.[age6at. 7++uer nome poderiater sido usado8 para segundo ae+ua!o estimada

O valor previsto da vari%vel

dependente obtido +uandousamos a op!o .-b.

St t


74/77

Stata

Como obter os valores previstos pelo modelo e o resíduo 'sar comando predict do stata, aps a regress!o

"-emplo 7W)"E8: "+ua!o sal%rio

reg [age educ predict [age6at, -b

reg [age educ predict [ageresid, r

"sse comando cria uma vari%velnova com o nome .[age6at.7++uer nome poderia ter sidousado8 para segundo a e+ua!o

estimada

"sse comando cria uma vari%velnova com o nome .[ageresid.7++uer nome poderia ter sidousado8 para o resíduo segundo a

e+ua!o estimada

St t


75/77

Stata

Ser% +ue a 6iptese de 6omocedasticidade ra1o%vel/ 9amos investigar a rela!o entre os resíduos e os valores

previstos de 5:

"-emplo 7W)"E8: "+ua!o sal%rio reg [age educ predict [age6at, -b reg [age educ predict [ageresid, r

scatter [ageresid [age6at

- 5

0

5

1 0

1 5

R e

s i d u a l s

-2 0 2 4 6 8

inear !rediction

Ga1 o gr%fco com no ei-odas ordenadas e nasabcissasSe a 6omocedasticidade

(osse ra1o%vel, n!o

St t


76/77

Stata

Como mostrar a e+ua!o estimada: gr t[ scatter [age educ gr t[ 7scatter [age educ8 7lft [age educ8

0

5

1 0

1 5

2 0

2

5

0 5 10 15 20educ

"age #itted $alues

7F i t d E . i


77/77

7F ista de Exer(.(ios

Wooldridge: Capítulo 2: 22Y 24Y 2MY 2IY 2EE "-ercícios em Computador: 2EY 24Y 2MY 2Y 2I

ujarati: Capítulo 2:

2E: despesas com alimenta!o e gastos totais de (amílias na>ndia

2EI: pontua!o mdia em teste superior versus renda

Capítulo 4: escol6er um dentre os "-emplos resolvidos: Da se!o 4 R e-emplo do sal%rio vs escolaridade

Documents

Aula 2 - Capitulo 02 Wooldridge Regressão Simples