Transcript
Page 1: Exemplo Regressão Linear Múltipla - IME-USPgiapaula/slides_exemplo_salario_executivos.pdf · Exemplo Regressão Linear Múltipla Gilberto A. Paula Departamento de Estatística IME-USP,

Exemplo Regressão Linear Múltipla

Gilberto A. Paula

Departamento de EstatísticaIME-USP, Brasil

[email protected]

1o Semestre 2013

G. A. Paula (IME-USP) Salário de Executivos 1o Semestre 2013 1 / 27

Page 2: Exemplo Regressão Linear Múltipla - IME-USPgiapaula/slides_exemplo_salario_executivos.pdf · Exemplo Regressão Linear Múltipla Gilberto A. Paula Departamento de Estatística IME-USP,

Salário de Executivos

Sumário

1 Salário de Executivos

2 Análise de Dados Preliminar

3 Ajuste Modelo Linear Normal

4 Diagnóstico Modelo Ajustado

5 Resultados Modelo Ajustado

6 Conclusões

7 Referências

G. A. Paula (IME-USP) Salário de Executivos 1o Semestre 2013 2 / 27

Page 3: Exemplo Regressão Linear Múltipla - IME-USPgiapaula/slides_exemplo_salario_executivos.pdf · Exemplo Regressão Linear Múltipla Gilberto A. Paula Departamento de Estatística IME-USP,

Salário de Executivos

Salário de Executivos

Descrição dos Dados

Como aplicação de modelos lineares normais vamos considerar osdados sobre o salário anual (em mil USD) de uma amostra aleatóriade 220 executivos (145 homens e 75 mulheres). O salário serárelacionado com as seguintes variáveis explicativas: (i) sexo (1:masculino; 0: feminino), (ii) posição na empresa (varia de 1 a 9),quanto maior o valor mais alta a posição e (iii) anos de experiência nocargo (Foster, Stine e Waterman, 1998, pp. 180-188).

G. A. Paula (IME-USP) Salário de Executivos 1o Semestre 2013 3 / 27

Page 4: Exemplo Regressão Linear Múltipla - IME-USPgiapaula/slides_exemplo_salario_executivos.pdf · Exemplo Regressão Linear Múltipla Gilberto A. Paula Departamento de Estatística IME-USP,

Análise de Dados Preliminar

Sumário

1 Salário de Executivos

2 Análise de Dados Preliminar

3 Ajuste Modelo Linear Normal

4 Diagnóstico Modelo Ajustado

5 Resultados Modelo Ajustado

6 Conclusões

7 Referências

G. A. Paula (IME-USP) Salário de Executivos 1o Semestre 2013 4 / 27

Page 5: Exemplo Regressão Linear Múltipla - IME-USPgiapaula/slides_exemplo_salario_executivos.pdf · Exemplo Regressão Linear Múltipla Gilberto A. Paula Departamento de Estatística IME-USP,

Análise de Dados Preliminar

Boxplots Salários Executivos

Feminino Masculino

11

01

20

13

01

40

15

01

60

17

0

Sa

lari

o

G. A. Paula (IME-USP) Salário de Executivos 1o Semestre 2013 5 / 27

Page 6: Exemplo Regressão Linear Múltipla - IME-USPgiapaula/slides_exemplo_salario_executivos.pdf · Exemplo Regressão Linear Múltipla Gilberto A. Paula Departamento de Estatística IME-USP,

Análise de Dados Preliminar

Comparação de Médias

Descrição

Sexo Amostra Média E.PadrãoMasculino 145 144,11 1,03Feminino 75 140,47 1,43

Diferença Teste-t valor-PEstimativa 3,64 2,06 0,04E.Padrão 1,77

O valor-P indica diferença ao nível de 5%. Ignorando-se as demaisvariáveis há indícios de que os executivos ganham em média mais doque as executivas.

G. A. Paula (IME-USP) Salário de Executivos 1o Semestre 2013 6 / 27

Page 7: Exemplo Regressão Linear Múltipla - IME-USPgiapaula/slides_exemplo_salario_executivos.pdf · Exemplo Regressão Linear Múltipla Gilberto A. Paula Departamento de Estatística IME-USP,

Análise de Dados Preliminar

Boxplots Posição e Experiência

Feminino Masculino

24

68

Posi

cao

Feminino Masculino

510

1520

25

Expe

rienc

ia

G. A. Paula (IME-USP) Salário de Executivos 1o Semestre 2013 7 / 27

Page 8: Exemplo Regressão Linear Múltipla - IME-USPgiapaula/slides_exemplo_salario_executivos.pdf · Exemplo Regressão Linear Múltipla Gilberto A. Paula Departamento de Estatística IME-USP,

Análise de Dados Preliminar

Dispersão Variáveis Homens

salarioM

2 3 4 5 6 7 8 9

110

120

130

140

150

160

170

23

45

67

89

posicaoM

110 120 130 140 150 160 170 5 10 15 20 25

510

1520

25

experM

G. A. Paula (IME-USP) Salário de Executivos 1o Semestre 2013 8 / 27

Page 9: Exemplo Regressão Linear Múltipla - IME-USPgiapaula/slides_exemplo_salario_executivos.pdf · Exemplo Regressão Linear Múltipla Gilberto A. Paula Departamento de Estatística IME-USP,

Análise de Dados Preliminar

Dispersão Variáveis Mulheres

salarioF

2 4 6 8

120

130

140

150

160

170

24

68

posicaoF

120 130 140 150 160 170 5 10 15 20

510

1520

experF

G. A. Paula (IME-USP) Salário de Executivos 1o Semestre 2013 9 / 27

Page 10: Exemplo Regressão Linear Múltipla - IME-USPgiapaula/slides_exemplo_salario_executivos.pdf · Exemplo Regressão Linear Múltipla Gilberto A. Paula Departamento de Estatística IME-USP,

Ajuste Modelo Linear Normal

Sumário

1 Salário de Executivos

2 Análise de Dados Preliminar

3 Ajuste Modelo Linear Normal

4 Diagnóstico Modelo Ajustado

5 Resultados Modelo Ajustado

6 Conclusões

7 Referências

G. A. Paula (IME-USP) Salário de Executivos 1o Semestre 2013 10 / 27

Page 11: Exemplo Regressão Linear Múltipla - IME-USPgiapaula/slides_exemplo_salario_executivos.pdf · Exemplo Regressão Linear Múltipla Gilberto A. Paula Departamento de Estatística IME-USP,

Ajuste Modelo Linear Normal

Modelo Linear Normal

Descrição

Nota-se indícios de aumento do salário com o aumento da posição eaumento da experiência para ambos os sexos, sugerindo inicialmenteum modelo linear:

yi = β1 + β2 × sexoi + β3 × experi + β4 × posici + ǫi ,

para i = 1, . . . , 220, em que yi denota o salário do i-ésimo executivo

da amostra com ǫiiid∼ N(0, σ2).

G. A. Paula (IME-USP) Salário de Executivos 1o Semestre 2013 11 / 27

Page 12: Exemplo Regressão Linear Múltipla - IME-USPgiapaula/slides_exemplo_salario_executivos.pdf · Exemplo Regressão Linear Múltipla Gilberto A. Paula Departamento de Estatística IME-USP,

Ajuste Modelo Linear Normal

Estimativas

Descrição

Aplicando o método de Akaike nenhuma variável é retirada do modelo.As estimativas dos parâmetros são dadas abaixo.

Efeito Estimativa Erro padrão valor-t valor-PConstante 115,262 1,401 82,25 0,000Experiência -0,472 0,113 -4,17 0,000SexoM -2,201 1,080 -2,04 0,043Posição 6,710 0,313 21,46 0,000R2 0,712R2-ajustado 0,708s 6,770F 177,90 (3 e 216 g.l.) 0,000

Todas as variáveis são marginalmente significativas ao nível de 5%.

G. A. Paula (IME-USP) Salário de Executivos 1o Semestre 2013 12 / 27

Page 13: Exemplo Regressão Linear Múltipla - IME-USPgiapaula/slides_exemplo_salario_executivos.pdf · Exemplo Regressão Linear Múltipla Gilberto A. Paula Departamento de Estatística IME-USP,

Ajuste Modelo Linear Normal

Interação entre Fatores

Definição

Ocorre quando a variação esperada para a resposta entre dois níveisquaisquer de um dos fatores não for a mesma segundo os níveis dooutro fator.

G. A. Paula (IME-USP) Salário de Executivos 1o Semestre 2013 13 / 27

Page 14: Exemplo Regressão Linear Múltipla - IME-USPgiapaula/slides_exemplo_salario_executivos.pdf · Exemplo Regressão Linear Múltipla Gilberto A. Paula Departamento de Estatística IME-USP,

Ajuste Modelo Linear Normal

Interação entre Fatores

Definição

Ocorre quando a variação esperada para a resposta entre dois níveisquaisquer de um dos fatores não for a mesma segundo os níveis dooutro fator.

Exemplo

Presença de interação entre os fatores sexo e experiência significaque a diferença entre os salários médios de executivos e executivasnão é a mesma à medida que varia o tempo de experiência.Interpretação similar para presença de interação entre sexo e posição.

G. A. Paula (IME-USP) Salário de Executivos 1o Semestre 2013 13 / 27

Page 15: Exemplo Regressão Linear Múltipla - IME-USPgiapaula/slides_exemplo_salario_executivos.pdf · Exemplo Regressão Linear Múltipla Gilberto A. Paula Departamento de Estatística IME-USP,

Ajuste Modelo Linear Normal

Testando Interação entre Fatores

Descrição

Vamos testar a ausência das interações sexo*experiência,sexo*posição e experiência*posição, dado que estão no modeloconstante + sexo + experiência + posição.

Interação valor-F valor-Psexo*exper 1,615 0,20sexo*posicão 0,001 0,97exper*posição 7,594 0,00

Portanto, será incluída no modelo apenas a interaçãoexperiência*posição.

G. A. Paula (IME-USP) Salário de Executivos 1o Semestre 2013 14 / 27

Page 16: Exemplo Regressão Linear Múltipla - IME-USPgiapaula/slides_exemplo_salario_executivos.pdf · Exemplo Regressão Linear Múltipla Gilberto A. Paula Departamento de Estatística IME-USP,

Ajuste Modelo Linear Normal

Modelo Linear Normal

Descrição

O modelo normal linear com interação entre experiência e exposiçãofica dado por:

yi = β1 + β2 × sexoi + β3 × experi + β4 × posici + β5 × experi ∗ posici + ǫi ,

para i = 1, . . . , 220, em que yi denota o salário do i-ésimo executivo

da amostra com ǫiiid∼ N(0, σ2).

G. A. Paula (IME-USP) Salário de Executivos 1o Semestre 2013 15 / 27

Page 17: Exemplo Regressão Linear Múltipla - IME-USPgiapaula/slides_exemplo_salario_executivos.pdf · Exemplo Regressão Linear Múltipla Gilberto A. Paula Departamento de Estatística IME-USP,

Ajuste Modelo Linear Normal

Estimativas

Descrição

As estimativas do modelo final são dadas abaixo.

Efeito Estimativa Erro padrão valor-t valor-PConstante 108,042 2,961 36,48 0,000Experiência 0,336 0,314 1,07 0,285SexoM -2,811 1,087 -2,59 0,010Posição 8,096 0,590 13,73 0,000Posic*Exper -0,135 0.049 -2,76 0.006R2 0,722R2-ajustado 0,716s 6,670F 139,40 (4 e 215 g.l.) 0,000

Exceto experiência, todas as variáveis são marginalmentesignificativas ao nível de 1%.

G. A. Paula (IME-USP) Salário de Executivos 1o Semestre 2013 16 / 27

Page 18: Exemplo Regressão Linear Múltipla - IME-USPgiapaula/slides_exemplo_salario_executivos.pdf · Exemplo Regressão Linear Múltipla Gilberto A. Paula Departamento de Estatística IME-USP,

Diagnóstico Modelo Ajustado

Sumário

1 Salário de Executivos

2 Análise de Dados Preliminar

3 Ajuste Modelo Linear Normal

4 Diagnóstico Modelo Ajustado

5 Resultados Modelo Ajustado

6 Conclusões

7 Referências

G. A. Paula (IME-USP) Salário de Executivos 1o Semestre 2013 17 / 27

Page 19: Exemplo Regressão Linear Múltipla - IME-USPgiapaula/slides_exemplo_salario_executivos.pdf · Exemplo Regressão Linear Múltipla Gilberto A. Paula Departamento de Estatística IME-USP,

Diagnóstico Modelo Ajustado

Diagnóstico Modelo Ajustado

Indice

Me

did

a h

0 50 100 150 200

0.0

20

.06

0.1

0

30139 178

191

213

Indice

Dis

tan

cia

de

Co

ok

0 50 100 150 200

0.0

0.0

20

.04

4

30

144

Indice

Re

sid

uo

Pa

dro

niz

ad

o

0 50 100 150 200

-20

24

Valor Ajustado

Re

sid

uo

Pa

dro

niz

ad

o

120 130 140 150 160

-20

24

G. A. Paula (IME-USP) Salário de Executivos 1o Semestre 2013 18 / 27

Page 20: Exemplo Regressão Linear Múltipla - IME-USPgiapaula/slides_exemplo_salario_executivos.pdf · Exemplo Regressão Linear Múltipla Gilberto A. Paula Departamento de Estatística IME-USP,

Diagnóstico Modelo Ajustado

Resíduos Modelo Ajustado

Percentil da N(0,1)

Res

iduo

Stu

dent

izad

o

-3 -2 -1 0 1 2 3

-4-2

02

G. A. Paula (IME-USP) Salário de Executivos 1o Semestre 2013 19 / 27

Page 21: Exemplo Regressão Linear Múltipla - IME-USPgiapaula/slides_exemplo_salario_executivos.pdf · Exemplo Regressão Linear Múltipla Gilberto A. Paula Departamento de Estatística IME-USP,

Diagnóstico Modelo Ajustado

Variações nas Estimativas

Observações Influentes

Apenas duas observações #4 e #30 causam variaçõesdesproporcionais em algumas estimativas, embora não ocorrammudanças inferencias. Esses pontos causam variações,respectivamente, de -14% e 11%, na estimativa do coeficiente desexo.

G. A. Paula (IME-USP) Salário de Executivos 1o Semestre 2013 20 / 27

Page 22: Exemplo Regressão Linear Múltipla - IME-USPgiapaula/slides_exemplo_salario_executivos.pdf · Exemplo Regressão Linear Múltipla Gilberto A. Paula Departamento de Estatística IME-USP,

Diagnóstico Modelo Ajustado

Variações nas Estimativas

Observações Influentes

Apenas duas observações #4 e #30 causam variaçõesdesproporcionais em algumas estimativas, embora não ocorrammudanças inferencias. Esses pontos causam variações,respectivamente, de -14% e 11%, na estimativa do coeficiente desexo.

Identificação das Observações

A observação de # 4 é de uma executiva com salário anual de USD139 mil, posição 7 e 13,9 anos de experiência e a observação de # 30é de um executivo com salário anual de USD 110 mil, posição 2 e 2,4anos de experiência.

G. A. Paula (IME-USP) Salário de Executivos 1o Semestre 2013 20 / 27

Page 23: Exemplo Regressão Linear Múltipla - IME-USPgiapaula/slides_exemplo_salario_executivos.pdf · Exemplo Regressão Linear Múltipla Gilberto A. Paula Departamento de Estatística IME-USP,

Resultados Modelo Ajustado

Sumário

1 Salário de Executivos

2 Análise de Dados Preliminar

3 Ajuste Modelo Linear Normal

4 Diagnóstico Modelo Ajustado

5 Resultados Modelo Ajustado

6 Conclusões

7 Referências

G. A. Paula (IME-USP) Salário de Executivos 1o Semestre 2013 21 / 27

Page 24: Exemplo Regressão Linear Múltipla - IME-USPgiapaula/slides_exemplo_salario_executivos.pdf · Exemplo Regressão Linear Múltipla Gilberto A. Paula Departamento de Estatística IME-USP,

Resultados Modelo Ajustado

Modelo Ajustado

Valor Predito

O modelo ajustado fica dado por:

y(x) = 108, 042 + 0, 336 × exper − 2, 811 × sexo +

+8, 096 × posic − 0, 135 × posic × exper,

em que x = (exper, sexo, posic)T .

G. A. Paula (IME-USP) Salário de Executivos 1o Semestre 2013 22 / 27

Page 25: Exemplo Regressão Linear Múltipla - IME-USPgiapaula/slides_exemplo_salario_executivos.pdf · Exemplo Regressão Linear Múltipla Gilberto A. Paula Departamento de Estatística IME-USP,

Resultados Modelo Ajustado

Modelo Ajustado

Valor Predito

O modelo ajustado fica dado por:

y(x) = 108, 042 + 0, 336 × exper − 2, 811 × sexo +

+8, 096 × posic − 0, 135 × posic × exper,

em que x = (exper, sexo, posic)T .

Estimativas

Qual o salário previsto para executivos com 5 anos de experiência eposição 4?

Executiva: USD 139,406 mil

Executivo: USD 136,595 mil.

G. A. Paula (IME-USP) Salário de Executivos 1o Semestre 2013 22 / 27

Page 26: Exemplo Regressão Linear Múltipla - IME-USPgiapaula/slides_exemplo_salario_executivos.pdf · Exemplo Regressão Linear Múltipla Gilberto A. Paula Departamento de Estatística IME-USP,

Resultados Modelo Ajustado

Modelo Ajustado Executivas

Descrição

O modelo ajustado para o grupo de executivas fica dado por:

y(x) = 108, 042 + 8, 096 × posic + (0, 336 − 0, 135 × posic)× exper.

G. A. Paula (IME-USP) Salário de Executivos 1o Semestre 2013 23 / 27

Page 27: Exemplo Regressão Linear Múltipla - IME-USPgiapaula/slides_exemplo_salario_executivos.pdf · Exemplo Regressão Linear Múltipla Gilberto A. Paula Departamento de Estatística IME-USP,

Resultados Modelo Ajustado

Modelo Ajustado Executivas

Descrição

O modelo ajustado para o grupo de executivas fica dado por:

y(x) = 108, 042 + 8, 096 × posic + (0, 336 − 0, 135 × posic)× exper.

Interpretações

Portanto, executivas com posição alta e muita experiência tendem aganhar menos do que executivas com posição alta e menosexperiência.Isso quer dizer que aquelas executivas que permanecerem menostempo no cargo tendem a ganhar mais do que aquelas que ficaremmais tempo no cargo.Mesmo resultado para os homens.

G. A. Paula (IME-USP) Salário de Executivos 1o Semestre 2013 23 / 27

Page 28: Exemplo Regressão Linear Múltipla - IME-USPgiapaula/slides_exemplo_salario_executivos.pdf · Exemplo Regressão Linear Múltipla Gilberto A. Paula Departamento de Estatística IME-USP,

Conclusões

Sumário

1 Salário de Executivos

2 Análise de Dados Preliminar

3 Ajuste Modelo Linear Normal

4 Diagnóstico Modelo Ajustado

5 Resultados Modelo Ajustado

6 Conclusões

7 Referências

G. A. Paula (IME-USP) Salário de Executivos 1o Semestre 2013 24 / 27

Page 29: Exemplo Regressão Linear Múltipla - IME-USPgiapaula/slides_exemplo_salario_executivos.pdf · Exemplo Regressão Linear Múltipla Gilberto A. Paula Departamento de Estatística IME-USP,

Conclusões

Conclusões

Considerações Finais

Nota-se neste exemplo a importância da interação na interpretaçãodos resultados. Ignorando-se as variáveis posição e experiência ossalários anuais dos executivos são em média significativamentemaiores do que das executivas. Porém, quando essas variáveisentram no modelo ocorre o contrário, para uma mesma posição emesma experiência as executivas ganham em média mais do que osexecutivos.

G. A. Paula (IME-USP) Salário de Executivos 1o Semestre 2013 25 / 27

Page 30: Exemplo Regressão Linear Múltipla - IME-USPgiapaula/slides_exemplo_salario_executivos.pdf · Exemplo Regressão Linear Múltipla Gilberto A. Paula Departamento de Estatística IME-USP,

Referências

Sumário

1 Salário de Executivos

2 Análise de Dados Preliminar

3 Ajuste Modelo Linear Normal

4 Diagnóstico Modelo Ajustado

5 Resultados Modelo Ajustado

6 Conclusões

7 Referências

G. A. Paula (IME-USP) Salário de Executivos 1o Semestre 2013 26 / 27

Page 31: Exemplo Regressão Linear Múltipla - IME-USPgiapaula/slides_exemplo_salario_executivos.pdf · Exemplo Regressão Linear Múltipla Gilberto A. Paula Departamento de Estatística IME-USP,

Referências

Referências

Referência

Foster, D. P., Stine, R. A. e Waterman, R. P. (1998). BusinessAnalysis using Regression. New York: Springer.

G. A. Paula (IME-USP) Salário de Executivos 1o Semestre 2013 27 / 27


Recommended