Regresion simple 1 estadistica

C a p í t u l o 3A n á l i s i s d e R e g r e s i ó n S i m p l e

Estadística Informática: casos y ejemplos con el SPSS • 3 •

Elanálisisderegresiónlineal,engeneral,nospermiteobtenerunafunciónlinealdeunaomásvariablesindependientesopredic-toras(X1,X2,...XK)apartirdelacualexplicaropredecirelvalordeunavariabledependienteocriterio(Y).Enelanálisisderegre-sión linealpodemosdiferenciar entre análisisde regresión linealsimple y análisis de regresión linealmúltiple.En el primero, seintentaexplicaropredecirlavariabledependienteYapartirdeunaúnica variable independiente, X1; mientras que en el segundo,contamosconunconjuntodevariablesindependientes,X1,X2,...XK,paraestimarlavariabledependienteY.Enamboscasos,tantolavariabledependientecomola/sindependiente/sestánmedidasenescaladeintervalooderazón.

En este capítulo nos vamos a ceñir al análisis de regresiónlineal simpleposponiendoparaelpróximocapítulo la regresiónlinealmúltipleque,comotendremosocasióndeapreciar,compar-temuchodeloqueenestaslíneasserecoge.Elanálisisderegre-sión lineal simple tiene por finalidad predecir y/o estimar losvaloresde lavariabledependienteapartirde laobtenciónde lafunciónlinealdelavariableindependiente.Laanotaciónmatemá-ticadelaecuaciónderegresiónsimpleseanotacomosigue:

Y=a+b1x1+eó

presente=a+b1pasado+e

endonde: Yeslavariableapredecir; ayb1X1sonparámetrosdesconocidosaestimar; yeeselerrorquecometemosenlaprediccióndelospará- metros.

Noobstante,antesdeprocederalaestimacióndelospará-metros,yconellosalaconcrecióndeunaecuaciónpredictiva,debemos corroborar que, efectivamente, los datos sometidos a

1. Introducción

Capítulo 3Análisis de Regresión Simple


Estadística Informática: casos y ejemplos con el SPSS• 4 •

análisisseadaptanaunmodeloderegresiónlineal.Lalecciónlahemosestructuradoenlossiguientespuntos:

1. Exposiciónde losestadísticosquenospermitenvalora-ciónde labondaddeajustede losdatosalmodeloderegresiónlinealsimple.

2. Silosestadísticoscertificanqueentrelosdatosseprodu-ceunaasociación lineal,podremospasaraestimar losparámetrosdelaecuaciónlineal(B0yB1),apartirdeloscuales podremos efectuar predicciones de la variabledependiente.Cabeadvertirqueenelsupuestocasoenel que los estadísticos rechazaran la asociación linealentrelosdatos,nosignificaqueentreellosseproduzcaotrotipoderelación(comolacurvilínea).

3. Porúltimo,exponemoslasecuenciadepasosquenospermitendeterminar loarribaapuntado.Enel análisisde regresión simple, y con la finalidad de obtener lamayorinformaciónposiblerespectoalarelaciónyaso-ciaciónentrelasdosvariables,vamosatrabajarcontresCuadrosdeDiálogos,a saber:CuadrodeDiálogodeCorrelaciones Bivariadas. Cuadro de Diálogo deGráficos;yCuadrodeDiálogodelAnálisisdeRegresiónLinealMúltiple.

Antesdepoderaplicarelmodeloderegresiónlinealsimpleparapredecirlosvaloresquealcanzaráunadeterminadavariablecriterio,debemoscertificarquelosdatosalosquesometemosadichoanálisisseajustanalmodeloderegresiónlinealsimple;olo que es lomismo, debemos analizar el grado de asociaciónlinealentrelavariabledependienteylaindependienteasícomodeterminarlaproporcióndevariabilidaddelavariabledependien-teexplicadaporlaindependiente.

Los principales estadísticos y pruebas que nos permitenvalora labondaddeajustedelosdatosalmodeloderegresiónlinealsimpleson.

1.- Coeficiente de Correlación Lineal Simple (r). Mideelgradodeasociaciónlinealentredosvariables.Esteestadísticooscilaentre1(fuerteasociaciónlinealpositiva:amedi-

2. Bondad de ajuste de los datos al modelo de regresión lineal simple



daqueaumentenlosvaloresdeunavariableaumentaránlosdela otra) y –1 (fuerte asociación lineal negativa: a medida queaumentenlosvaloresdeunavariabledisminuyenlosdelaotra).Cuando los valores de este estadístico se aproximen a 0 nosestaráindicandoqueentrelasdosvariablesnoexisteasociaciónlinealy,enconsecuencia,carecedesentidodeterminarelmode-lo y/o ecuación de regresión lineal. Resulta muy interesantecompararestecoeficientejuntoconelScatterPlotdelanubedepuntos(gráfico 1 del anexo de resultados),yaqueelgráficonosofreceunarepresentaciónelocuentedeladistribuciónyrelacióndelasdosvariablesrelacionadas.Silanubedepuntosformaunaforma indefinida y muy dispersa, nos indica la inexistencia derelaciónentre lasvariables.Siporelcontrario, seobservaunaforma definida y proximidad entre los puntos, habrá relaciónentre lasvariablescaracterizadapor la formaydistribuciónqueadopte.

Paradeterminarsilaasociaciónesestadísticamentesignifica-tivapodemoscontrastarlaH0dequeelcoeficientedecorrelaciónlinealesiguala0;oloqueeslomismo,quelasdosvariablesestán incorrelacionadas.Sielp-valorasociadoalestadísticodecontraste(r)esmenorqueelniveldesignificaciónelegido(nor-malmente0.05)rechazaremosH0.Enlamatrizdecorrelacionesserecogenestosdosvalores:enprimerlugarapareceelgradoderelación(r)queseproduceentrelasdosvariablesquecruza-mos;yensegundolugar,lasignificaciónestadísticadeesarela-ción.

Debemoshacernotarquepeseaqueestemosefectuandounanálisisderegresiónlinealbivariado,elprocesoquesegui-moseseldelanálisisderegresiónmultivariable.Elcuadrodediálogo del análisis multivariado ofrece una información másricadeahílatendenciageneralizadaautilizarésteendetrimen-todelcuadrodediálogoderegresiónsimple.Poresta razón,vamosavercomoenlassalidasdelordenador,ypeseaestarrealizandounanálisiscondosvariables,aestecoeficienteseledenomina coeficiente de Correlación Múltiple (Multiple R),residiendolaexplicaciónenelhechodequevaasersiempreel análisis multivariable el que apliquemos indistintamente sinosencontramostrabajandocondosvariables,comoesahoraelcaso,oconmásvariables,comoseveráenelpróximocapí-tulo.Nodebemosconfundirelcoeficientedecorrelaciónmúl-tiple(mideelgradodeasociaciónentrelavariabledependienteyunconjuntodevariablesindependientes),delloscoeficientes



decorrelaciónlinealsimple(aparecenenlamatrizdecorrela-ciones).

2.- Coeficiente de Correlación Múltiple al Cuadrado o Coeficiente de Determinación (R Square “R2”). Elcoeficientededeterminaciónsedefineapartirdelcoefi-cientedecorrelaciónmúltiple(R)ymidelaproporcióndevaria-bilidaddelavariabledependienteexplicadaporlavariableinde-pendienteintroducidaoporlarectaderegresión.Sielvalorqueresultalomultiplicamospor100,obtendremoselporcentajedevariabilidadexplicada.

3.- Coeficiente de Determinación Ajustado (Adjusted R Square). PeseaqueR2sevieneutilizandocomomedidadeajustealmodelo,presentaelinconvenientedequeamedidaquevamosincrementando el número de variables que participan en elmodelo(seráelcasopropiodelanálisismultivariable)mayoressuvalordeahíquelaR2sobrestimeelverdaderoRdelapobla-ción. Por esta razón, algunos autores recomiendan utilizar elCoeficiente deDeterminaciónAjustadopues éste no aumenta,necesariamente,amedidaqueañadimosvariablesalaecuación.Esteestadísticoquedaajustadoporelnúmerodeobservacionesy el número de variables independientes incluidas en la ecua-ción.

4.- Error Típico de Predicción (ETB). El error típico de la predicción es la parte de la variabledependiente quedejamosde explicar ya seaporquenos faltealgunavariablepor introducir,obien,porque lasvariablesquehemoselegidonosonmáslasadecuadas.Sucálculoseestable-ceapartirdeladesviacióntípicadelavariabledependienteyelcoeficientededeterminaciónajustado.

5.- Análisis de Varianza. La tabladeanálisisdevarianzaque incluyeensusalidaelSPSSnospermitevalorarhastaquépuntoesadecuadoelmode-lo de regresión lineal para estimar los valores de la variabledependiente.Latabladeanálisisdevarianzasebasaenquelavariabilidad total de la muestra puede descomponerse entre lavariabilidadexplicadapor laregresióny lavariabilidadresidual.LatabladeANOVAproporcionaelestadísticoFapartirdelcualpodemoscontrastarlaH0dequeR2esiguala0,lapendientede larectaderegresiónes iguala0,o loquees lomismo, la



hipótesisdequelasdosvariablesestánincorrelacionadas.Sielp-valorasociadoalestadísticoFesmenorqueelniveldesigni-ficación (normalmente 0.05), rechazaremos la hipótesis nulaplanteada.

6.- Análisis de Residuales. Comoyahemoscomentadolosresiduos,“e”,sonlaestima-cióndelosverdaderoserrores.EnregresiónlinealladistribucióndelavariableformadaporlosresiduosdebeserNormal,estoes,losresiduosobservadosylosesperadosbajohipótesisdedistri-buciónnormaldebenserparecidos.Además,losresiduosdebenserindependientes.Enconsecuencia,elanálisisdelosresidualesnosvaapermitirnosoloprofundizarenlarelaciónquesepro-duceentre lasdosvariables,sino también,ponderar labondaddeajustedelaregresiónobtenida.

Para contrastar la supuesta normalidad de los residualespodemosrecurrir,fundamentalmente,alarepresentacióndedosgráficos:(1)el gráfico de residuales tipificados(gráfico 2 del anexo de resultados)nosdaideadecómosedistribuyenlosresiduos en relación a la distribuciónnormal (que sería la quecabríaesperardelosmismos).Siambasdistribucionessonigua-les(ladistribucióndelosresiduosesnormal)lospuntossesitúansobreladiagonaldelgráfico.Porlocontrario,enlamedidaqueaparecendispersosyformandolíneashorizontalesrespectoaladiagonal,habrámásresiduosyelajusteserápeor;(2)el gráfico de probabilidad normal(gráfico 3 del anexo de resultados)compara gráficamente, al superponer la curva de distribuciónnormal,lafuncióndedistribucionesacumuladaobservadasenlamuestraconlafuncióndedistribuciónacumuladaesperadabajosupuestosdenormalidad.

PorsuparteelestadísticodeDurbin-Watsonmideelgradodeautocorrelaciónentreelresiduocorrespondienteacadaobser-vaciónyelanterior(silosresiduossonindependientes,elvalorobservado en una variable para un individuo no debe estarinfluenciadoenningúnsentidopor losvaloresdeestavariableobservadosenotroindividuo).Sielvalordelestadísticoespróxi-moa2losresiduosestánincorrelacionados;siseaproximaa 4,estaránnegativamenteincorrelacionados;ysiseaproximana0 estaránpositivamenteincorrelacionados.



Unavezqueyahemosanalizadoelcaráctereintensidaddela relaciónentre lasvariables,podemosprocederaestimar losparámetrosdelaecuacióndepredicciónoderegresiónlineal.Elcriterioparaobtener loscoeficientesderegresiónB0yB1eseldemínimos cuadrados.Esteconsisteenminimizarlasumadeloscuadradosdelosresiduosdetalmaneraquelarectaderegre-siónquedefinamoseslaquemásseacercaalanubedepuntosobservadosy,enconsecuencia,laquemejorlosrepresenta.

Losestadísticosasociadosalavariableindependientequeapasadoaformarpartedelmodeloderegresiónsimpleson:

1.- Coeficiente de regresión B. Este coeficiente nos indica el número de unidades queaumentarálavariabledependienteocriterioporcadaunidadqueaumentelavariableindependiente.

2.- SEB. ErrortípicodeB.

3.- Coeficiente Beta. ElcoeficienteBetaeselcoeficientederegresiónestandariza-do.ExpresalapendientedelarectaderegresiónenelcasodequetodaslasvariablesesténtransformadasenpuntuacionesZ.

4.- Constante. Elvalorde laconstantecoincideconelpuntoenelque larectaderegresióncortaelejedeordenadas.Enlaecuacióndepredicción se mantiene constante para todos los individuos.Cuandolasvariableshansidoestandarizadas(puntuacionesZ)osiseutilizanloscoeficientesBeta,laconstanteesiguala0porloquenoseincluyeenlaecuacióndepredicción.

5.- Tolerancia. Toleranciaeslaproporcióndevariabilidadnoexplicadaporelrestodevariables(1-R2).CuantomayorsealaTmásindepen-dienteeslavariableencuestión.

3. Estimación de los parámetros o coeficientes de regresión: la ecuación de predicción o ecuación de regresión simple



6.- Valor T. ElestadísticoTnospermitecomprobarsilaregresiónentreunavariableindependienteyladependienteessignificativa.Sielp-valor asociado al estadístico T (Sig T) es mayor al nivel designificación(normalmente0.05)rechazaremosquelaregresiónseasignificativaparalasdosvariablesrelacionadas.

EnnuestrocasolasignificacióndelestadísticoTasociadoalmodelogeneradoconlaúnicavariableindependientequedispo-nemosesinferiora0.05deahíquepodamosratificarelcarácterpredictivodedichavariableypodamos,enconsecuencia,expo-nerlaecuacióndelmodelo.Enelejemploquerecogemosenlasección de Resultados, la transcripción de los resultados a laecuaciónquedaríacomosigue:

Y = a + b1x1 + eó

presente (p7A) = 0,51 + 0,87pasado (p7B) + e

enelsupuestocasodequelosvaloresdelasvariablessiguieranunaescaladiferente, tendríamosqueestandarizarutilizando loscoeficientes Beta, y no B. Del mismo modo, al contar con lamismaescalalaconstanteserácero.

presente (p7A) = 0 + 0,87pasado (p7B) + e Una vez expuestos, desde un punto de vista teórico, losprincipaleselementosquedebemosconsideraralahoradeabor-dar una análisis de regresión simple, su obtención informáticapartedelaconsideracióndetrescuadrosdediálogos.Estepro-ceso,comotenderemosocasióndeapreciar,sesimplificaenelanálisisderegresiónmúltiple.

Elprimerpasoadesarrollarconsisteendeterminarlaefectivayrealrelaciónlinealentredosvariables;estoes,debemoscontarcon lamatriz de correlaciones. Paraello, enprimer lugar,debemoselegirlasdosvariablesquevanaparticiparenlarela-ciónbivariada.

1er paso: ParapoderseleccionarlasdosvariablesseguiremoslasecuenciaAnalizar: Correlaciones: Bivariadas(figura 1).

4. Cuadro de Diálogo de Correlaciones Bivariadas

Figura 1



2º paso:UnaverenelCuadrodeDiálogodecorrelacionesbivariadas seleccionaremos de la lista de variables las dos quenosintereserelacionar.Laseleccióndeberápasaralcuadrositua-do a la derecha (figura 2). En el ejemplo que reproducimos,hemos seleccionado las variables continuas p7A SITUACIÓNACTUAL ESPAÑOLA (variable dependiente o criterio) y p7BSITUACIÓN ESPAÑOLA PASADA (variable independiente opredictora).Para valorar la relación y el ajuste de los datos almodeloderegresióndebemosseleccionar,enelmismocuadrodediálogo,elCoeficiente de Correlación de Pearson y las Correlaciones significativas con una Prueba de Significación Bilateral.

3er paso: Para valorar la bondad de ajuste de los datospodemos acompañar al coeficiente seleccionado de su corres-pondienteScatter Plot.DichográficolopodemosseleccionarenGráficas: Dispersión: Simple(figuras 3 y 4).

4º paso:UnavezenelcuadrodediálogodelDiagramadedispersiónsimple(figura 5)debemosindicar lavariabledepen-dientecolocándolaenelEje Yasícomolavariableindependien-te situándola, en este caso, en el cuadro del Eje X. En estegráficodedispersióndelosvaloresXcontralosdeYseobservalafuerza,direcciónyformadelarelaciónentrelasvariables.

En el ejemplo que reproducimos, hemos seleccionado lasvariables continuas p7A SITUACIÓN ACTUAL ESPAÑOLA(variabledependienteocriterio)yp7BSITUACIÓNESPAÑOLAPASADA (variable independiente o predictora). El gráfico dedispersión es el que aparece en el gráfico 1 que figura en elanexoderesultados.Desuanálisispodemoscomprobarqueenefecto existe relación entre las dos variables seleccionadas. Lanubedepuntostieneunaformadefinidaylospuntosseencuen-tran,másomenos,agrupados.

Enlaintroduccióndelcapítulohemospresentadoalosaná-lisisdevarianzayderesiduales,comodosbuenoscriteriosparavalorarlabondaddeajustedelosdatosalmodeloderegresión

Figura 2

Figura 3

Figura 4

5. Cuadro de Diálogo de Gráficos de Dispersión

6. Cuadro de Diálogo del Análisis de Regresión Lineal



lineal.Estosanálisis,asícomolosestadísticosR,R2,R2AjustadayErrorTípico,soloseobtienendesdeelCuadrodeDiálogodelAnálisisdeRegresiónLineal,elcual,seconvierteenelcuadroespecíficodelanálisisderegresiónmúltiplealpermitirnosselec-cionarmásdeunavariable independiente.Apartirdeahora,ycomoyahemoscomentado,elAnálisisdeRegresiónBivariado,sigueelmismoprocedimiento,comoveremosmásadelante,queelAnálisisderegresiónMúltiple.Loúnicoquevaacambiareslaeleccióndelnúmerodevariablesconlasquevamosatrabajar.Porlotanto,lassalidasdeambosanálisisserálamisma. Paracompletarlainformaciónrespectoalarelaciónqueseproduceentrelasdosvariablesdebemossolicitarla,pues,enel Cuadro de Diálogo correspondiente al Análisis de Regresión Lineal.

5er paso: Al cuadro de diálogo se llega siguiendo lasecuenciaAnalizar: Regresión: Lineal (figura 6).

6ºpaso:Unavezenél,deberemosespecificare introduciren sus correspondientes cuadros, la variable dependiente y lavariable independiente (figura 7). Aquí nuevamente la variablep7ASITUACIÓNACTUALESPAÑOLAharálasvecesdevaria-ble dependiente o criterio y p7B SITUACIÓN ESPAÑOLAPASADAdevariableindependienteoexplicativa.

7º paso: Cliqueando sobre el botón de comando Estadísticas, situadoen laparte inferiordelcuadrodediálogoprincipal, podremos (figura 8): obtener el estadístico Durbin-Watson,quenospermiterealizarelanálisissobrelosResiduos;losestadísticosDescriptivosbásicos,quepodremosutilizarenlainterpretación y análisis de la relación (entre losquedestaca laMatriz de Correlacionesparaanalizar la relacióny significa-ción); los estadísticos que nos permiten valorar el Ajuste del modelo(R,R2,R2Corregidayelerrortípicodelaestimación);pordefecto,ytambiéncomocriteriodevalidacióndelmodelonospresentael análisisdevarianza; y,porúltimo, solicitaremosquenoscalculelasEstimacionesdelosCoeficientes de regre-sión,loquenospermitiráconcretarlaecuaciónpredictiva.

8º paso: Como complemento al estadístico de Durbin-WatsoncliqueandoenelbotóndeGráficosdelcuadrodediálogoprincipal de regresión lineal podremos solicitar los gráficosHistograma y Gráfico de Probabilidad Normal(figura 9).

Figura 5

Figura 6

Figura 7

Figura 8



Loshechosyfenómenossociales,complejospornaturaleza,sonexplicadosnoporunaúnicacausasinoporunapluralidaddeellas.Conlarevolucióninformáticaseconsolidalaperspecti-va del análisis multivariable relegando a un segundo plano elenfoqueunivariadodelqueelanálisisderegresiónsimpleformaparte.Laaplicacióndeestatécnica,talycomohoyesconcebiday aplicada la investigación en ciencias sociales, se ciñe a darrespuesta puntual de alguna cuestión formando parte de unaestrategiaglobalde investigación.Enesteapartado recogemoscómoesaplicadoesteanálisis enunaspectomuypuntualdelanálisisdemográfico.

• Díez Nicolás, Juan (1997): “La estructura de los hogaresespañoles”,enRafaelPuyol(ed.)(1997),Dinámica de la pobla-ción en España. Cambios demográficos en el último cuarto del siglo XX,Madrid,Síntesis,pp.145-166.

El capítulo, entre otras muchas consideraciones, analiza la reducción del tamaño promedio de los hogares espa-ñoles. Con el objetivo de de comprobar si es la baja fecundidad o el alto número de hogares unipersonales el factor que más influye en el tamaño promedio de los hogares se ha aplicado un análisis de regresión simple tomando como unidad de análisis los 12 paises de la Unión Europea (este análisis también se ha aplicado para el conjunto de CCAA). Se ha comprobado que la correlación entre el índice de fecundidad y el tamaño medio de hogares es muy baja y negativa (r = -0.02); mientras que la correlación entre la proporción de hoga-res unipersonales sobre el total y el tamaño medio de los hogares es muy alta y también negativa (r= -0.90). El análisis ha demostrado que tanto para la Unión Europea como para el conjunto de CCAA, el tamaño medio de los hogares depende más de la proporción de hogares unipersonales que de la fecundidad en el senti-do de que cuanto mayor el la proporción de hogares unipersonales sobre el total de hogares de una sociedad más pequeño es el tamaño medio de los hogares. Lo que explica la reducción del tamaño en los hogares en

Figura 9

7. Bibliografía Comentada



la actualidad no es la baja fecundidad, sino el incremen-to en la proporción de hogares unipersonales.

Enelanexoquesigueserecogen lassalidasderesultadosqueelpaqueteestadísticoSPSSofrececuandoeslatécnicaderegresiónsimplelaquesehaaplicado.

• Enprimerlugar,elprogramanosofreceunatablayungráfico que dan cuenta de la bondad de ajuste de losdatosalmodeloderegresiónsimple: la tablaendondeaparecelamatriz de correlaciones(cuadrodediálo-godecorrelaciónbivariada);yelgráfico scatter plot(delcuadrodediálogodegráficasdedispersión).

A continuación se presentan el resto de tablas y gráficosobtenidosapartirdelasrestriccionesimpuestasenelcuadrodediálogoderegresiónlineal(elqueaplicaremosenelanálisisderegresiónmúltiple).

• Deestemodo,seexponenlastablasquerecogeninforma-ciónbásicatantodelprocesocomodelasvariablessome-tidasaanálisis;estoes,latabladedescriptivos básicosyladematriz de correlaciones parciales.

• A continuación se presenta una tabla (resumen delmodelo)enlaqueserelacionaunaseriedeestadísticosapartirdeloscuálesvalorar labondad de ajustedelosdatosdelmodelo.Conlamismafinalidadsepresentalatabla de análisis de varianza.IncluyeelestadísticoDurbin-Watsonquenospermiteanalizarlaindependen-ciadelosresiduales.Estastablas,ylosestadísticosads-critos a las mismas, complementan la información yaaportadaenlasprimerastablasdeinformación.

• Entercerlugar,nosencontramosconlatablaenlaqueaparecen los coeficientes de la ecuación predictiva.Éstaseformaapartirdeloscoeficientesnoestandariza-dos(B)cuandolosvaloresdelasdosvariablestienenlamismaescala.EnelcasocontrariodeberemoselegirloscoeficientesBeta.

8. Resultados



• Porúltimo,laexposiciónderesultadossecierracondosrepresentaciones gráficas cuya finalidad es facilitar elanálisisrespectoaltipodedistribucióndelosresiduales:gráfico de residuos tipificados y gráfico de pro-babilidad normal.

8.1. Matriz de Correlaciones (Cuadro de diálogo de Correlaciones bivariadas)

8.2. Gráfico de Dispersión (Cuadro de diálogo de Gráficos de Dispersión) (Gráfico 1).



8.3. Estadísticos básicos (Cuadro de diálogo de Regresión Lineal)

8.4. Matriz de Correlaciones Parciales

8.5. Resumen del proceso STEPWISE: relación y eliminación de variables

8.6. Estadísticos de Bondad de Ajuste



8.7. Tabla de Análisis de Varianza

8.8. Estimaciones de parámetros o coeficientes de correlación: la ecuación de predicción

8.9. Grafico de distribución de residuales (gráfico 2)



8.9. Grafico de probabilidad normal (gráfico 3)

Education

Regresion simple 1 estadistica