Click here to load reader

Análise da Regressão múltipla: Inferência · PDF fileHipóteses do modelo linear clássico (MLC) Sabemos que, dadas as hipóteses de Gauss-Markov, MQO é BLUE. Para realizarmos

  • View
    215

  • Download
    0

Embed Size (px)

Text of Análise da Regressão múltipla: Inferência · PDF...

  • Anlise da Regresso mltipla:

    Inferncia

    Reviso da graduaoReviso da graduao

    Aula 4

    6 de maio de 2013

  • Hipteses do modelo linear

    clssico (MLC)

    Sabemos que, dadas as hipteses de Gauss-

    Markov, MQO BLUE.

    Para realizarmos os testes de hipteses clssicos,

    precisamos acrescentar mais uma hiptese.precisamos acrescentar mais uma hiptese.

    Vamos supor que u independente de x1, x2,, xke que u e normalmente distribudo com mdia zero

    e varincia 2: u ~ Normal(0, 2).

  • Hipteses do MLC (cont.)

    y|x ~ Normal(0 + 1x1 ++ kxk, 2)

    Embora assumamos normalidade, nem sempre ela se verifica.se verifica.

    Em grandes amostras, a hiptese de normalidade no necessria.

  • .

    Uma distribuio normal homocedstica com

    uma nica varivel explicativa

    y

    f(y|x)

    .

    .

    x1 x2

    E(y|x) = 0 + 1x

    Distribuies

    normais

  • Distribuio normal amostral

    ( )[ ]( )

    implica que o ,,Normal ~

    tesindependen variveisdas amostrais valores

    nos ndocondiciona MLC, do hipteses as Sob

    jjj Var( )[ ]( )

    ( ) ( )

    (normais). erros doslinear combinao

    uma porque normal odistribui tem

    0,1Normal ~

    implica que o ,,Normal ~

    j

    j

    jj

    jjj

    sd

    Var

  • O teste t

    ( )( ) . ~

    MLC do hipteses as Sob

    1j

    tse

    knj

    ( )

    1:liberdade de graus nos Repare

    .por estimamos porque

    normal) a no (e a odistribui a agora que Observe

    . ~

    22

    1

    kn

    t

    tse

    kn

    j

  • O teste t (cont.)

    O conhecimento da distribuio amostral dos estimadores nos permite fazer testes de hipteses.

    Comece com a hiptese nula.Comece com a hiptese nula.

    Por exemplo, H0: j=0

    Se aceitamos a nula, aceitamos que xj, aps controlarmos pelos outros xs, no tem efeito em y.

  • O teste t (cont.)

    ( ).

    : para aestatstic

    aobter precisamos Primeiro

    jj

    sett

    j

    ( )

    .H nula, hiptese a aceitamos

    se determinar para rejeio de regra

    alguma e t aestatstic ausar ento Vamos

    0

    jjsej

  • Teste t: caso unicaudal

    Alm de nossa, H0, precisamos de uma hiptese

    alternativa, H1, e um nvel de significncia.

    H1 pode ser unicaudal ou bicaudal.

    H : > 0 e H : < 0 so unicaudais.H1: j > 0 e H1: j < 0 so unicaudais.

    H1: j 0 bicaudal.

    Se queremos apenas 5% de probabilidade de

    rejeitar H0 caso ela seja, ento dizemos que nosso

    nvel de significncia de 5%.

  • Alternativa unicaudal (cont.)

    Escolhido um nvel de significncia, , olhamos no (1 )-simo percentil na distribuio t com n k 1 df e chamamos esse valor, c, de valor crtico.esse valor, c, de valor crtico.

    Rejeitamos a hiptese nula se a estatstica t maior que o valor crtico.

    Se a estatstica t for menor que o valor crtico, ento no rejeitamos a nula.

  • yi = 0 + 1xi1 + + kxik + ui

    H0: j = 0 H1: j > 0

    Alternativa unicaudal (cont.)

    H0: j = 0 H1: j > 0

    c0

    (1 )

    No rejeitamos

    Rejeitamos

  • Uni vs bicaudal

    Como a distribuio t simtrica, testar H1: j < 0 direto. O valor crtico simplesmente o

    negativo do anterior.

    Rejeitamos a nula se t < c; se t > c, ento no Rejeitamos a nula se t < c; se t > c, ento no

    rejeitamos a nula.

    Para um teste bicaudal, escolhemos um valor

    crtico baseado em /2 e rejeitamos H1: j 0 se o valor absoluto da estatstica t for > c.

  • yi = 0 + 1Xi1 + + kXik + ui

    H0: j = 0 H1: j 0

    Alternativa bicaudal

    c0

    /2(1 )

    -c

    /2

    RejeitamosRejeitamos

    No rejeitamos

  • Resumo de H0: j = 0

    A menos que seja explicitado ao contrrio,

    estaremos considerando a alternativa bicaudal.

    Se rejeitamos a nula, dizemos que xj

    estatisticamente significante ao nvel de %estatisticamente significante ao nvel de %

    Se no rejeitamos a nula, dizemos xj

    estatisticamente no significativo ao nvel de %

  • Testando outras hipteses

    Podemos generalizar a estatstica t

    testando H0: j = aj .

    Neste caso, a estatstica t dada porNeste caso, a estatstica t dada por

    ( )( )usual. teste no a

    onde se

    at

    j

    j

    jj

    0

    ,

    =

    =

  • Intervalos de confiana

    Outra forma de usar os procedimentos clssicos de teste de hipteses construindo um intervalo de confiana utilizando o mesmo valor crtico do teste bicaudal. teste bicaudal.

    Um intervalo de confiana de (1 - ) % definido por:

    ( ). odistribui na

    percentil 2

    -1 o c onde ,

    1

    kn

    jj

    t

    sec

  • Calculando o p-valor do teste t

    Uma alternativa ao procedimento clssico de teste

    perguntar: qual o menor nvel de significncia

    ao qual a nula seria rejeitada?

    Calcule a estatstica t, e olhe em que percentil ela Calcule a estatstica t, e olhe em que percentil ela

    est na distribuio t apropriada este o p-valor.

    O p-valor a probabilidade de observarmos

    valores iguais ou maiores (em valor absoluto)

    estatstica t obtida se a nula for verdadeira.

  • P-valores, testes ts etc.

    A maioria dos pacotes calcula o p-valor,

    assumindo um teste bicaudal.

    Se se estiver interessado na alternativa Se se estiver interessado na alternativa

    unicaudal, basta dividir o p-valor reportado

    por 2.

  • Testando uma combinao linear

    Ao invs de testar se 1 igual a uma constante, podemos testar que ele igual a outro parmetro, ou seja, H0 : 1 = 2.

    Use o mesmo procedimento para calcular a Use o mesmo procedimento para calcular a estatstica t

    ( )2121

    =

    set

  • Testando uma combinao linear

    (cont.)

    ( ) ( )( ) ( ) ( ) ( )

    2121 ento ,Varse

    Como

    =

    ( ) ( ) ( ) ( )

    ( ) ( )[ ] ( )[ ]{ }( ).,

    2

    ,2

    2112

    21

    12

    2

    2

    2

    121

    212121

    Cov de estimador um s onde

    ssesese

    CovVarVarVar

    +=

    +=

  • Testando uma combinao linear

    (cont.)

    Ento, precisamos de s12.

    Muitos pacotes, como o Eviews, Gretl, Muitos pacotes, como o Eviews, Gretl,

    fornecem essa estatstica.

    Todos tem uma opo que permite fazer o

    teste automaticamente.

  • Outros exemplos

    Qualquer combinao linear de parmetros pode

    ser testada.

    1 = 1 + 21 = 521 = -1/22; etc

  • Mltiplas restries lineares

    Os exemplos anteriores eram de uma nica restrio linear (p.e. 1 = 0 or 1 = 2 )

    Mas tambm podemos testar conjuntamente mltiplas hipteses sobre os conjuntamente mltiplas hipteses sobre os parmetros.

    Um exemplo do restrio de excluso queremos testar se um grupo de parmetros igual a zero.

  • Teste de restrio de excluso

    Agora, a hiptese nula algo do tipo

    H0: k-q+1 = 0, ... , k = 0

    A alternativa H1: H0 falsa, ou seja, pelo menos um dos s diferente de zero.um dos s diferente de zero.

    No podemos apenas fazer cada teste tisoladamente, porque queremos saber se os qparmetros so conjuntamente significativos a um certo nvel possvel que nenhum seja individualmente significante a este nvel.

  • Teste de restrio de excluso

    (cont.)

    O teste feito estimando o modelo restrito sem xk-q+1,, , xk, assim como o modelo irrestritocom todos os xs.

    Intuitivamente, queremos saber se xk-q+1,, , xkIntuitivamente, queremos saber se xk-q+1,, , xkcausam uma variao suficientemente grande na SSR

    ( )( )

    .irrestritour e restrito r

    onde ,1

    knSSR

    qSSRSSRF

    ur

    urr

  • A estatstica F

    A estatstica F sempre positiva, uma vez que a SSR do modelo restrito no pode ser menor que a do modelo irrestrito.

    A estatstica F statistic mede o crescimento A estatstica F statistic mede o crescimento relativo na SSR quando se passa do modelo irrestrito para o modelo restrito.

    q = nmero de restries, ou dfr dfurn k 1 = dfur

  • A estatstica F (cont.)

    Para decidir se o aumento na SSR grade

    o suficientes para rejeitar as excluses,

    precisamos conhecer a distribuio amostral

    de nossa estatstica F.

    No de se surpreender que F ~ Fq,n-k-1,

    onde q o nmero de graus de liberdade do

    numerador e n k 1 o nmero de graus

    de liberdade do denominador.

  • f(F)

    A estatstica F (cont.)

    No rejeita

    Rejeita H0 ao

    nvel de

    significncia se

    0 c

    (1 )

    F

    Rejeita

    significncia seF > c

  • A estatstica F em funo do R2

    Podemos usar o fato de que, em qualquer

    regresso, SSR = SST(1 R2) e substituir na

    frmula:

    ( )( ) ( )

    .irrestrito ur e restrito r

    onde ,11 2

    22

    knR

    qRRF

    ur

    rur

  • Significncia da regresso

    Um caso especial o teste

    H0: 1 = 2 == k = 0.

    Como o R2 do modelo com apenas o intercepto

    ser zero, a estatstica F ser simplesmente:ser zero, a estatstica F ser simplesmente:

    ( ) ( )11 22

    =

    knR

    kRF

  • Restries lineares gerais

    A forma bsica da estatstica F vlida

    para qualquer restrio linear.

    Primeiro estime os modelos irrestrito e Primeiro estime os modelos irrestrito e

    restrito.

    Em cada caso, anote a SSR e substitua n

Search related