Click here to load reader

Análise da Regressão múltipla: Inferência Revisão da graduação

  • View
    28

  • Download
    0

Embed Size (px)

DESCRIPTION

Análise da Regressão múltipla: Inferência Revisão da graduação. Hipóteses do modelo linear clássico (CLM). Sabemos que, dadas as hipóteses de Gauss-Markov, MQO é BLUE . Para realizarmos os testes de hipóteses clássicos, precisamos acrescentar mais uma hipótese. - PowerPoint PPT Presentation

Text of Análise da Regressão múltipla: Inferência Revisão da...

Review of Probability and Statistics

Anlise da Regresso mltipla: InfernciaReviso da graduao

1Hipteses do modelo linear clssico (CLM) Sabemos que, dadas as hipteses de Gauss-Markov, MQO BLUE. Para realizarmos os testes de hipteses clssicos, precisamos acrescentar mais uma hiptese. Vamos supor que u independente de x1, x2,, xk e que u e normalmente distribudo com mdia zero e varincia s 2: u ~ Normal(0,s 2).Hipteses do CLM (cont.) Sob CLM, MQO no apenas BLUE, mas tambm o estimador no-viesado de varincia mnima. Podemos resumir as hipteses do CLM como: y|x ~ Normal(b0 + b1x1 ++ bkxk, s 2) Embora assumamos normalidade, nem sempre ela se verifica. Em grandes amostras, a hiptese de normalidade no necessria.

..x1x2Uma distribuio normal homocedstica com uma nica varivel explicativaE(y|x) = b0 + b1xyf(y|x)Distribuies normaisDistribuio normal amostral

O teste t

O teste t (cont.) O conhecimento da distribuio amostral dos estimadores nos permite fazer testes de hipteses. Comece com a hiptese nula. Por exemplo, H0: bj=0 Se aceitamos a nula, aceitamos que xj, aps controlarmos pelos outros xs, no tem efeito em y.O teste t (cont.)

Teste t: caso unicaudal Alm de nossa, H0, precisamos de uma hiptese alternativa, H1, e um nvel de significncia. H1 pode ser unicaudal ou bicaudal. H1: bj > 0 e H1: bj < 0 so unicaudais. H1: bj 0 bicaudal. Se queremos apenas 5% de probabilidade de rejeitar H0 caso ela seja, ento dizemos que nosso nvel de significncia de 5%.

Alternativa unicaudal (cont.) Escolhido um nvel de significncia, a, olhamos no (1 a)-simo percentil na distribuio t com n k 1 df e chamamos esse valor, c, de valor crtico. Rejeitamos a hiptese nula se a estatstica t maior que o valor crtico. Se a estatstica t for menor que o valor crtico, ento no rejeitamos a nula.

yi = b0 + b1xi1 + + bkxik + ui

H0: bj = 0 H1: bj > 0c0a(1 - a)Alternativa unicaudal (cont.)No rejeitamosRejeitamosUni vs bicaudal Como a distribuio t simtrica, testar H1: bj < 0 direto. O valor crtico simplesmente o negativo do anterior. Rejeitamos a nula se t < c; se t > c, ento no rejeitamos a nula. Para um teste bicaudal, escolhemos um valor crtico baseado em a/2 e rejeitamos H1: bj 0 se o valor absoluto da estatstica t for > c.

yi = b0 + b1Xi1 + + bkXik + ui

H0: bj = 0 H1: bj 0

c0a/2(1 - a)-ca/2Alternativa bicaudalRejeitamosRejeitamosNo rejeitamosResumo de H0: bj = 0 A menos que seja explicitado ao contrrio, estaremos considerando a alternativa bicaudal. Se rejeitamos a nula, dizemos que xj estatisticamente significante ao nvel de a% Se no rejeitamos a nula, dizemos xj estatisticamente no significativo ao nvel de a %

Testando outras hipteses Podemos generalizar a estatstica t testando H0: bj = aj . Neste caso, a estatstica t dada por

Intervalos de confiana Outra forma de usar os procedimentos clssicos de teste de hipteses construindo um intervalo de confiana utilizando o mesmo valor crtico do teste bicaudal. Um intervalo de confiana de (1 - a) % definido por:

Calculando o p-valor do teste t Uma alternativa ao procedimento clssico de teste perguntar: qual o menor nvel de significncia ao qual a nula seria rejeitada? Calcule a estatstica t, e olhe em que percentil ela est na distribuio t apropriada este o p-valor. O p-valor a probabilidade de observarmos valores iguais ou maiores (em valor absoluto) estatstica t obtida se a nula for verdadeira. P-valores, testes ts etc. A maioria dos pacotes calcula o p-valor, assumindo um teste bicaudal. Se se estiver interessado na alternativa unicaudal, basta dividir o p-valor reportado por 2.

Testando uma combinao linear Ao invs de testar se b1 igual a uma constante, podemos testar que ele igual a outro parmetro, ou seja, H0 : b1 = b2. Use o mesmo procedimento para calcular a estatstica t

Testando uma combinao linear (cont.)

Testando uma combinao linear (cont.) Ento, precisamos de s12. Muitos pacotes, como o Eviews, fornecem essa estatstica. Mas o Eviews tem uma opo que permite fazer o teste automaticamente. O teste pode ser reescrito, conforme mostrado a seguir.Exemplo: Suponha que voc esteja interessado nos efeitos dos gastos de campanha no resultado das eleies. O modelo votoA = b0 + b1log(gastoA) + b2log(gastoB) + b3prtystrA + u H0: b1 = - b2, ou H0: q1 = b1 + b2 = 0 b1 = q1 b2; substituindo e rearranjando votoA = b0 + q1log(gastoA) + b2log(gastoB - gastoA) + b3prtystrA + uExemplo (cont.): o mesmo modelo, mas agora voc tem um erro padro para b1 b2 = q1 diretamente da regresso. Qualquer combinao linear de parmetros pode ser testada de forma similar. Outros exemplos de testes de hipteses sobre uma nica combinao linear de parmetros:b1 = 1 + b2 ; b1 = 5b2 ; b1 = -1/2b2; etc Mltiplas restries lineares Os exemplos anteriores eram de uma nica restrio linear (p.e. b1 = 0 or b1 = b2 ) Mas tambm podemos testar conjuntamente mltiplas hipteses sobre os parmetros. Um exemplo do restrio de excluso queremos testar se um grupo de parmetros igual a zero. Teste de restrio de excluso Agora, a hiptese nula algo do tipo H0: bk-q+1 = 0, ... , bk = 0 A alternativa H1: H0 falsa, ou seja, pelo menos um dos bs diferente de zero. No podemos apenas fazer cada teste t isoladamente, porque queremos saber se os q parmetros so conjuntamente significativos a um certo nvel possvel que nenhum seja individualmente significante a este nvel.Teste de restrio de excluso (cont.) O teste feito estimando o modelo restrito sem xk-q+1,, , xk, assim como o modelo irrestrito com todos os xs. Intuitivamente, queremos saber se xk-q+1,, , xk causam uma variao suficientemente grande na SSR

A estatstica F A estatstica F sempre positiva, uma vez que a SSR do modelo restrito no pode ser menor que a do modelo irrestrito. A estatstica F statistic mede o crescimento relativo na SSR quando se passa do modelo irrestrito para o modelo restrito. q = nmero de restries, ou dfr dfur n k 1 = dfurA estatstica F (cont.) Para decidir se o aumento na SSR grade o suficientes para rejeitar as excluses, precisamos conhecer a distribuio amostral de nossa estatstica F. No de se surpreender que F ~ Fq,n-k-1, onde q o nmero de graus de liberdade do numerador e n k 1 o nmero de graus de liberdade do denominador.

0ca(1 - a)f(F)FA estatstica F (cont.)RejeitaNo rejeitaRejeita H0 ao nvel de significncia a se F > cA estatstica F em funo do R2Podemos usar o fato de que, em qualquer regresso, SSR = SST(1 R2) e substituir na frmula:

Significncia da regresso Um caso especial o teste H0: b1 = b2 == bk = 0. Como o R2 do modelo com apenas o intercepto ser zero, a estatstica F ser simplesmente:

Restries lineares gerais A forma bsica da estatstica F vlida para qualquer restrio linear. Primeiro estime os modelos irrestrito e restrito. Em cada caso, anote a SSR e substitua na frmula.Exemplo: O modelo is votoA = b0 + b1log(gastoA) + b2log(gastoB) + b3prtystrA + u. Agora a nula H0: b1 = 1, b3 = 0. Substituindo a restrio: votoA = b0 + log(gastoA) + b2log(gastoB) + u. Agora votoA - log(gastoA) = b0 + b2log(gastoB) + u o modelo restrito.

Estatstica F: Resumo Da mesma forma que no teste t, o p-valor pode ser calculado olhando no percentil da distribuio F apropriada. Se apenas uma excluso est sendo testada, ento F = t2 e o p-valor ser o mesmo.

Search related