Statistiques param etriques et non param etriques E.C ...carpenti/Cours/PSR-M1-Stats-CM.pdf · Statistiques param etriques et non param etriques E.C. PSR73B Pr esentation du cours

Master de Psychologie Sociale - PSR73B9

Statistiques parametriques et non

parametriques

E.C. PSR73B

Presentation du cours 2013/2014

Organisation materielle

Cours et TD de Statistiques : 24 heures.

Horaire : mercredi 9h15 - 11h30

Controle des connaissances :Examen ecrit (2 heures)

Bibliographie

– D.C. Howell. Methodes statistiques en sciences hu-maines De Boeck Universite

– P. Rateau, Methode et statistique experimentalesen sciences humaines, Ellipses

– S. Siegel, N. Castellan, Non-parametric Statisticsfor the Behavioural Sciences, Mac Graw-Hill, 1988

– N. Gauvrit, Stats pour psycho, De Boeck, 2005– J. Navarro, L’essentiel de la statistique en psycho-

logie, Editions Ellipses, 2012

Documents fournis

Transparents du cours de statistiquesFiches de TD de statistiques.

Adresse Web

http://geai.univ-brest.fr/~carpenti/

F.-G. Carpentier - 2013-2014 1


Contenu

Statistiques :

Ce cours vise a presenter les concepts et les proceduresde l’analyse statistique des donnees en psychologie,en insistant sur les aspects methodologiques : quellestrategie pour analyser les donnees ? Quelles sont lesmethodes disponibles pour tester telle hypothese ? Ilcomporte egalement des complements aux methodesde statistiques descriptives et inferentielles vues en li-cence :– Statistiques parametriques : tests de normalite desdistributions parentes ; tests d’homogeneite des va-riances. Loi de Fisher Snedecor ; analyse de variance.– Statistiques non parametriques : test de Kolmogorov-Smirnov ; test de Kruskal-Wallis ; test Q de Cochran ;test de Friedman.– Complements sur la correlation et la regression lineairesa 2 ou plusieurs variables. Alpha de Cronbach. Regressionlineaire pas a pas.– Puissance d’un test : effet calibre, taille d’un effet.



Tester les conditions d’application d’un

test parametrique

Conditions d’application du test de Student

Le test de Student est un test parametrique. Commetous les tests de ce type, son utilisation est soumisea des conditions d’application ou hypotheses a priorisur la distribution des variables dans les populationsde reference.

Rappel : L’application du test de Student (egalite desmoyennes) sur deux groupes independants suppose :

– La normalite des distributions parentes

– L’egalite des variances (homoscedasticite des residus)

Problemes :

– Comment etudier si ces conditions sont respectees ?

– Peut-on s’affranchir de ces conditions ?

Tests de normalite d’une distribution

Variable numerique X definie sur une population(xi) : valeurs observees sur un echantillon de taille nAu vu de cet echantillon : est-il legitime de supposerque la distribution de X dans la population est une loinormale ?

Differents tests proposes : Test de Kolmogorov-Smirnov,test de Lilliefors, test de Shapiro-Wilk.



Tests de Kolmogorov-Smirnov et de Lilliefors

Echantillon : 8, 9, 9, 10, 10, 10, 11, 13, 14, 14

H0 : X est distribuee selon une loi normale dans lapopulationH1 : X n’est pas distribuee selon une loi normale.

Construction de la statistique de test :

Moyenne observee : x = 10.8Ecart type corrige : sc = 2.15

Valeurs centrees reduites : zi =xi − xsc

xi 8 9 10 11 13 14zi −1.30 −0.84 −0.37 0.09 1.02 1.49

Determination de la distribution cumulative theoriqueet calcul des ecarts entre distributions cumulatives ob-servee et theorique

zi F (X < xi) F (X ≤ xi) F (zi) Ecart - Ecart +

−1.3024 0.0 0.1 0.0964 0.0964 0.0036−0.8372 0.1 0.3 0.2012 0.1012 0.0988−0.3721 0.3 0.6 0.3549 0.0549 0.24510.0930 0.6 0.7 0.5371 0.0629 0.16291.0233 0.7 0.8 0.8469 0.1469 0.04691.4884 0.8 1.0 0.9317 0.1317 0.0683



Comparaison des deux courbes cumulatives :

7 9 11 13 150,00

0,25

0,50

0,75

1,00 D+D-

Maximum des ecarts absolus : Dobs = 0.2451.Taille de l’echantillon : n = 10.

Dobs est la valeur observee de la statistique de test pourle test de Kolmogorov-Smirnov et celui de Lilliefors.

Ces deux tests utilisent la meme statistique de test,mais des lois statistiques et donc des tables de valeurscritiques differentes.

– Kolmogorov-Smirnov s’utilise lorsque la moyenne etl’ecart type de la loi theorique sont connus a priori etsont donc fixes independamment de l’echantillon.

– Lilliefors s’utilise lorsque la moyenne et l’ecart typede la loi normale theorique sont estimes a partir del’echantillon.



Dans l’exemple ci-dessus, c’est le test de Lilliefors quis’applique.Lobs = 0.2451Consultation de la table : pour α = 5%, Lcrit = 0.258.Conclusion : hypothese de normalite retenue.

Remarque : ce test est frequemment utilise dans lespublications de psychologie.

Si les parametres de la loi theorique avaient ete connusa priori, on aurait utilise le test de Kolmogorov-Smirnovavec les resultats suivants :Consultation de la table : pour α = 5%, Dcrit = 0.41Conclusion : hypothese de normalite retenue.

Test de Shapiro-Wilk

Les statisticiens ont propose un autre test, nettementplus puissant que les deux tests precedents : le test deShapiro-Wilk.

Le calcul de la valeur observee de la statistique detest et de son niveau de significativite est tres fasti-dieux : on utilisera donc un logiciel de statistiques pourle mettre en oeuvre.

Ainsi, sur l’exemple precedent, Statistica nous indique :

W = 0.8849, p = 0.1485

et la conclusion demeure identique.



Sensibilite des tests precedents aux ex aequo.Test de D’Agostino-Pearson

On observe une variable numerique continue sur unechantillon de sujets. Cependant (cas frequent en Psy-chologie), nous ne pouvons pas obtenir des valeursprecises de cette variable. Seules quelques modalites(par exemple 5 a 7 modalites) sont presentes dans lesresultats. Les valeurs observees sont donc des arron-dis des valeurs reelles et comportent de nombreux exaequo. Par exemple, nous avons evalue un parametrecontinu a partir de reponses sur une echelle de Likert.

La presence d’ex aequo et de “trous” entre les valeursobservees a un effet immediat sur les tests precedents :il y a de fortes chances que les tests de Lilliefors et deShapiro-Wilk ne permettent pas d’inferer la normalitede la distribution parente.

Aussi, certains auteurs ont mis au point d’autres testsde normalite, fondes sur l’etude de l’asymetrie (skew-ness) et de l’aplatissement (kurtosis) de la distribution.

Asymetrie

Pour une serie statistique (xi) definie sur une popula-tion finie d’effectif n, l’asymetrie γ1 est definie par :

γ1 =µ3

σ3

ou µ3 =

∑(xi − µ)3

net ou µ et σ designent la moyenne

et l’ecart type.



Les statisticiens utilisent generalement une formuleplus compliquee, qui donne l’estimation g1 de l’asymetriesur une population a partir d’un echantillon (asymetriecorrigee).

Pour une distribution symetrique et notamment pourune distribution normale, γ1 = 0.

Aplatissement

Pour une serie statistique (xi) definie sur une popula-tion finie d’effectif n, l’aplatissement γ2 est defini par :

γ2 =µ4

σ4− 3

ou µ4 =

∑(xi − µ)4

net ou µ et σ designent la moyenne

et l’ecart type.

De meme, une formule derivee donne l’estimation g2

de l’aplatissement sur une population a partir d’unechantillon (aplatissement corrige).

Pour une distribution normale, γ2 = 0.

Test de d’Agostino-Pearson

Deux tests, dont les statistiques Z1 et Z2 suivent ap-proximativement des lois normales centrees reduites,permettent de tester la nullite des parametres γ1 etγ2.

Le test de d’Agostino-Pearson pose comme hypotheses :

H0 : Normalite de la distribution parente

H1 : Defaut de normalite de la distribution parente.



Il utilise comme statistique de test : χ2 = Z21 +Z2

2, quisuit approximativement une loi du χ2 a 2 ddl.

Exemple

(Xi) = (2,4,1,2,3,4,3,2,3,3,3,5,1,4,3,2,4,2,3,0,4,4,3,3,4,3,0,4,3,1,4,3,3,3,1,4,3,3,4,3,3,3,3,1,5,2,3,5)

Les tests de Lilliefors et de Shapiro-Wilk concluent surla non-normalite :

Pour Lilliefors : D = 0.2641, p = 4.872× 10−9

Pour Shapiro-Wilk : W = 0.9018, p = 0.0007196.

En revanche, les tests sur l’asymetrie et l’aplatisse-ment et le test de D’Agostino donnent :

Test Results :STATISTIC :Chi2 | Omnibus : 3.2229Z3 | Skewness : -1.7038Z4 | Kurtosis : 0.5658

P VALUE :Omnibus Test : 0.1996Skewness Test : 0.08843Kurtosis Test : 0.5715



Tests d’homogeneite des variances

Deuxieme condition d’application d’un test t de Student :egalite des variances.

Pour verifier cette condition : tests de Fisher, de Le-vene, de Brown et Forsythe et le test de Bartlett (quenous n’etudierons pas).

Test de Fisher et loi de Fisher Snedecor

Exemple. Etude sur la boulimie. Deux groupes desujets : boulimie simple ou “avec vomissements”.Variable dependante : ecart relatif par rapport au poidsnormal.

Simple Avec vom.xi 4.61 −0.83s2ic 219.04 79.21ni 49 32

Cas general

Deux echantillons de tailles n1 et n2 extraits de deuxpopulations. Moyennes egales ou differentes. Distribu-tion normale de la variable dans les populations pa-rentes.

Probleme : Les variances dans les populations parentessont-elles egales ?

H0 : Les variances sont egalesH1 : La premiere variance est superieure a la deuxieme.

F.-G. Carpentier - 2013-2014 10


Statistique de test

F =s2

1,c

s22,c

F suit une loi de Fisher a n1−1 et n2−1 degres deliberte.

Distributions du F de Fisher

Sur l’exemple considere : Fobs = 219.0479.21

= 2.76Pour α = 5%, ddl1 = 48 et ddl2 = 31, Fcrit = 1.79.

On rejette donc l’hypothese H0.

Inconvenient du test de Fisher : tres sensible a undefaut de normalite.

F.-G. Carpentier - 2013-2014 11


Test de Levene

On dispose des valeurs observees xij d’une variabledependante X dans 2 ou plusieurs groupes.

Au vu de ces valeurs, peut-on admettre l’hypothesed’egalite des variances dans les differents groupes (H0),ou doit-on rejeter cette hypothese, et accepter H1 ?

Principe du test :

Dans chaque groupe, on forme la serie des ecarts ab-solus a la moyenne du groupe : |xij − xj|.

On realise ensuite un test (bilateral) de comparaisonde moyennes sur ces series (t de Student ou analysede variance a un facteur).

Test de Brown et Forsythe

Il s’agit d’une version modifiee du test de Levene, danslaquelle on considere les ecarts absolus aux medianes,au lieu des moyennes.

Ce test est plus robuste (moins sensible a un defautde normalite) que celui de Levene.

F.-G. Carpentier - 2013-2014 12


Test de Student dans le cas de variances heterogenes

Pour le test t de Student, il existe des formules (ap-proximatives) a utiliser lorsqu’on ne fait pas l’hypothesed’egalite des variances.

– La statistique de test est alors :

t′ =x1 − x2

Eavec E2 =

s21c

n1+s2

2c

n2

Cette statistique est identique a celle vue l’an dernierlorsque n1 = n2.

– Le nombre de degres de liberte a prendre en comptedepend des variances observees, mais est en generalstrictement inferieur a n1 + n2 − 2. On retrouve dll =n1 + n2 − 2 lorsque n1 = n2 et s1c = s2c.

F.-G. Carpentier - 2013-2014 13


Analyse de Variance a un facteur

Exemple introductif : Test commun a trois groupesd’eleves. Moyennes observees dans les trois groupes :x1 = 8, x2 = 10,x3 = 12.

Question : s’agit-il d’eleves ”tires au hasard” ou degroupes de niveau ?

Premiere situation :

Gr1 Gr2 Gr36 8 10.5

6.5 8.5 10.56.5 8.5 117 9 11

7.5 9.5 118 10 128 11 13

10 11 1310 12 14

10.5 12.5 14xi 8 10 12

Deuxieme situation :

Gr1 Gr2 Gr35 4 6

5.5 5.5 76 7.5 96 9 10

6.5 9.5 117 10 12

7.5 11 1310 13 1412 15 18

14.5 15.5 20xi 8 10 12

F.-G. Carpentier - 2013-2014 14


Demarche utilisee : nous comparons la dispersion desmoyennes (8, 10, 12) a la dispersion a l’interieur dechaque groupe.

Boıtes a moustaches pour les deux situations pro-posees

Gr1 Gr2 Gr3

68

1012

14

Gr1 Gr2 Gr3

510

1520

F.-G. Carpentier - 2013-2014 15


Comparer a moyennes sur des groupes independants

Plan d’experience : S < Aa >

Une variable A, de modalites A1, A2, . . . , Aa definit agroupes independants.

Variable dependante X mesuree sur chaque sujet.xij : valeur observee sur le i-eme sujet du groupe j.

Probleme : La variable X a-t-elle la meme moyennedans chacune des sous-populations dont les groupessont issus ?

Hypotheses “a priori” :– distribution normale de X dans chacun des groupes– Egalite des variances dans les populations.

Hypotheses du test :

H0 : µ1 = µ2 = . . . = µaH1 : Les moyennes ne sont pas toutes egales.

F.-G. Carpentier - 2013-2014 16


Exemple :

15 sujets evaluent 3 couvertures de magazine. Sont-elles equivalentes ?

C1 C2 C313 17 145 15 16

11 9 149 9 147 15 12

xi 9 13 14 12

Variation (ou somme des carres) totale :

SCT = (13− 12)2 + (5− 12)2 + . . .+ (12− 12)2 = 174

Decomposition de la variation totale :

Score d’un sujet = Moyenne de son groupe + Ecart

C1 C2 C39 13 149 13 149 13 149 13 149 13 14

C1 C2 C34 4 0-4 2 22 -4 00 -4 0-2 2 -2

Variation (ou somme des carres) inter-groupes :

SCinter = (9− 12)2 + (9− 12)2 + . . .+ (14− 12)2 = 70

Variation (ou somme des carres) intra-groupes :

SCintra = 42 + (−4)2 + . . .+ (−2)2 = 104

F.-G. Carpentier - 2013-2014 17


Calcul des carres moyens :

CMinter =SCinter

a− 1= 35 ; CMintra =

SCintraN − a

= 8.67

Statistique de test :

Fobs =CMinter

CMintra= 4.04

F suit une loi de Fisher avec ddl1 = a − 1 = 2 etddl2 = N − a = 12.

Resultats

Source Somme carres ddl Carre Moyen FC 70 2 35 4.04

Resid. 104 12 8.67Total 174 14

Pour α=5%, Fcrit = 3.88 : H1 est acceptee

F.-G. Carpentier - 2013-2014 18


Formules de calcul pour un calcul “a la main”efficace

Construction de la statistique de test :

Notations :n1, n2, . . ., na : effectifs des groupes.N : effectif totalT·1, . . ., T·a : sommes des observations pour chacundes groupes.T·· ou TG : somme de toutes les observations.

Somme des carres totale ou variation totale :

SCT =∑i,j

x2ij −

T 2G

N

Elle se decompose en une variation “intra-groupes” etune variation “inter-groupes” :

SCT = SCinter + SCintra avec :

SCinter =a∑

j=1

T 2·j

nj−T 2G

N

SCintra =∑i,j

x2ij −

a∑j=1

T 2·j

nj

F.-G. Carpentier - 2013-2014 19


Formules de calcul (sans recherche d’efficacite)

– SCT = N× (Variance non corrigee de l’ensemble desobservations)

– SCinter = N× (Variance non corrigee du tableau ob-tenu en remplacant chaque observation par la moyennede son groupe)

C’est la somme des carres (totale) que l’on obtiendraitsi toutes les observations d’un groupe etaient egales ala moyenne de ce groupe.

– SCintra = N× (Variance non corrigee du tableau desecarts a la moyenne de chaque groupe)

C’est la somme des carres (totale) que l’on obtiendraiten “decalant” chaque observation de facon a avoir lameme moyenne dans chaque groupe.

F.-G. Carpentier - 2013-2014 20


Carres moyens :

CMinter =SCinter

a− 1; CMintra =

SCintra

N − a


F =CMinter

CMintra

F suit une loi de Fisher a (a− 1) et (N − a) ddl.

Presentation des resultats

Source de variation SC ddl CM FA (inter-groupes) SCinter a− 1 CMinter Fobs

Residuelle (intra-gr.) SCintra N − a CMintra

Total SCT N − 1

Remarque

S’il n’y a que 2 groupes, l’ANOVA equivaut a un T deStudent (bilateral). F = T 2

F.-G. Carpentier - 2013-2014 21


Pour les deux situations proposees en introduction :

Situation 1

Analysis of Variance Table

Response : x1

Df Sum Sq Mean Sq F value Pr(>F)group 2 80.000 40.000 17.008 1.659e-05 ***

Residuals 27 63.500 2.352

Situation 2

Analysis of Variance Table

Response : x2

Df Sum Sq Mean Sq F value Pr(>F)group 2 80.00 40.00 2.7136 0.08436 .

Residuals 27 398.00 14.74

F.-G. Carpentier - 2013-2014 22


Apres l’analyse de variance : tests post hoc

La statistique F calculee par l’ANOVA est souvent ap-pelee F omnibus. Si H1 est retenue, il existe au moinsune difference significative entre deux groupes, maisl’ANOVA ne renseigne pas sur les paires de groupespour lesquelles la difference est significative.

Utiliser le t de Student pour comparer les groupes deuxa deux ? Peu correct du point de vue statistique.

Plusieurs tests de comparaison post hoc ont ete pro-poses.

Donnons quelques indications sur :- le test LSD de Fisher- le test de Bonferroni-Dunn- le test HSD de Tukey- le test de Dunnett

Le test LSD de Fisher

LSD : least significant difference

Pour comparer le groupe a et le groupe b, on calculeune statistique t de Student :

t =xa − xbE

ou xa et xb sont les moyennes observees dans les deuxgroupes et dans laquelle l’erreur type E est calculee apartir du carre moyen intra-groupe de l’ANOVA par :

E2 = CMintra

(1

na+

1

nb

).

F.-G. Carpentier - 2013-2014 23


Sous H0, t suit une loi de Student dont le nombre deddl est celui de CMintra, c’est-a-dire N − k (nombretotal d’observations moins nombre de groupes).

Le seuil et/ou le niveau de significativite sont evaluesde la meme facon que dans le cas d’un test de Student.

Ce test est peu conservateur (risque important decommettre une erreur de type I, c’est-a-dire de concluresur des differences qui ne sont pas reelles).

Exemple

On considere les donnees suivantes :

Gr1 Gr2 Gr38 7 4

10 8 89 5 7

10 8 59 5 7

6 64

ni 5 6 7xi 9.2 6.5 5.86s2c 0.70 1.90 2.48

Le tableau d’ANOVA est le suivant :

Source Somme carres ddl Carre Moyen F pGroupe 34.84 2 17.42 9.92 .002Resid. 27.16 15 1.81Total 62.00 17

F.-G. Carpentier - 2013-2014 24


Effectuons, par exemple, un test LSD de Fisher pourcomparer les moyennes des groupes 1 et 2.

x1 − x2 = 2.7

E2 = 1.8105

(1

5+

1

6

)= 0.6639

tobs =2.7√

0.6639= 3.31

On a ici ddl = 15. D’ou un niveau de significativitep = 0.004723. Les deux groupes semblent significati-vement differents aussi bien au seuil de 5% qu’au seuilde 1%.

Le test de Bonferroni-Dunn

Soit k le nombre de groupes. On calcule les statis-tiques t comme dans le cas du test LSD de Fisher,mais, pour enoncer un resultat au seuil α (seuil “fa-milywise”), on fait les tests individuels au seuil “par

comparaison” αPC =α

cou c est le nombre de compa-

raisons a effectuer. Dans le cas general c =k(k − 1)

2.

Le test de Bonferroni-Dunn est plus conservatif (moinspuissant) que le test LSD de Fisher. Autrement dit, cetest fait courir moins de risques de commettre une er-reur de type I (conclure sur des differences non reelles),mais plus de risques de commette une erreur de typeII (ne pas voir une difference qui existe).

F.-G. Carpentier - 2013-2014 25


Exemple

On reprend l’exemple precedent.On a ici k = 3 et donc c = 3. Pour obtenir un resultatau seuil global αFW = 1%, chaque test de comparaisonest fait au seuil αPC = 0.0033. On ne trouve pas dansles tables “papier” la valeur critique du t de Studenta 15 ddl pour ce seuil, mais on peut l’obtenir a partirde Statistica ou du site

geai.univ-brest.fr/~carpenti/statistiques/table1.php

On obtient ainsi : tcrit = 3.49, et la difference entre lesgroupes 1 et 2 n’est pas significative selon ce test.

Le test HSD de Tukey

HSD : honestly significant difference

Le test HSD de Tukey represente un moyen termeentre les deux tests precedents. Le test propose audepart par Tukey s’applique a des groupes equilibresmais une variante pour des groupes non equilibres aegalement ete developpee.

Dans le cas de groupes equilibres, la statistique cal-culee Q est egale a la statistique t precedente mul-tipliee par

√2. Mais, pour tester la significativite du

resultat, on utilise la loi de l’etendue studentisee, quiprend comme parametres le nombre de groupes (k) etle nombre de degres de liberte de CMintra (en generalN − k).

F.-G. Carpentier - 2013-2014 26


Exemple

On reprend l’exemple precedent, sans tenir compte dudesequilibre entre les groupes. Pour la comparaisonentre les groupes 1 et 2, on a :

Qobs = 3.31√

2 = 4.68.

Or, pour 3 groupes, 15 ddl et un seuil de 1 %, onobtient comme valeur critique : Qcrit = 4.83. Ici en-core, la difference entre les groupes 1 et 2 n’est passignificative au seuil de 1 %.

Synthese sur ces trois tests

Apres une ANOVA qui a conclu sur H1 :– Le test LSD de Fisher permet de reperer les differences

vraisemblablement non significatives ;– Le test de Bonferroni Dunn permet de reperer les

differences vraisemblablement significatives ;– Le test HSD de Tukey permet d’obtenir un resultat

concernant les cas ambigus.

F.-G. Carpentier - 2013-2014 27


Comparaison de groupes experimentaux a un groupetemoin : test de Dunnett

Lorsqu’il s’agit de comparer un ou plusieurs groupesexperimentaux a un groupe temoin, le nombre de com-

paraisons n’est plusk(k − 1)

2mais (k − 1).

Dans ce cas, on peut utiliser le test de Dunnett. La sta-tistique de test est la meme que celle du test LSD deFisher, mais Dunnett a developpe des tables specifiquesqui tiennent compte :– du nombre de ddl (celui de CMintra)– du nombre de groupes– du type de test (unilateral, bilateral) car le sens dela difference fait souvent partie de l’hypothese de re-cherche dans ce type de situation.

F.-G. Carpentier - 2013-2014 28


Analyse de Variance a plusieurs facteurs

Autres situations couramment rencontrees :

– Plan a mesures repetees : Sn ∗ An sujets observes dans plusieurs conditions.Resultat attendu : effet du facteur A.

– Plan factoriel a 2 facteurs : plan S < A ∗ B >Etude simultanee de 2 facteurs ; groupes independantsde sujets pour chaque combinaison de niveaux des fac-teurs.Resultats attendus : effets de A, de B, de l’interactionAB.

– Plan a mesures partiellement repetees :plan S < A > ∗BGroupes independants de sujets correspondant a chaqueniveau du facteur A ; chaque sujet est observe dansplusieurs conditions (niveaux de B).Resultats attendus : effets de A, de B, de l’interactionAB.

Ces situations seront developpees en TD avec Statis-tica.

F.-G. Carpentier - 2013-2014 29


Tests non parametriques

Parametres : moyenne, variance, covariance, etc ;

Les tests tels que t de Student, ANOVA, etc sont destests parametriques :

– hypotheses relatives a un parametre des populationsparentes– necessite d’estimer un ou plusieurs parametres de ladistribution parente a l’aide des echantillons observes– conditions d’application liees a la forme des distri-butions parentes

Il existe egalement des tests non parametriques ouindependants de toute distribution.

– pas de condition d’application– peu affectes par la presence d’un ou plusieurs scoresextremes– ils ont en general une plus faible puissance que lestests parametriques correspondants

F.-G. Carpentier - 2013-2014 30


Tests non parametriques sur deux groupesindependants

Situation envisagee : un plan S < A2 > avec un facteurA a 2 niveaux definissant deux groupes independantset une variable dependante X ordinale ou numerique

Effectifs des deux groupes : n1 et n2.

Test de la mediane

Hypotheses

H0 : Les deux populations parentes ont meme mediane.H1 : Les deux populations parentes ont des medianesdifferentes

Construction de la statistique de test

On determine la mediane M de la serie obtenue enreunissant les deux echantillons.

On constitue un tableau de contingence en croisant lavariable independante et la variable derivee “positionpar rapport a M”

Gr 1 Gr 2 Ensemble≤M N1 1 N1 2 N1·> M N2 1 N2 2 N2·Total N·1 N·2 N··

On fait un test du χ2 sur le tableau obtenu.

Condition d’application (selon Siegel et Castellan) : lenombre total d’observations doit etre superieur a 20.

F.-G. Carpentier - 2013-2014 31


Test bilateral de Kolmogorov-Smirnov

H0 : La distribution de la VD est la meme dans lesdeux populations parentesH1 : Les distributions sont differentes


Soient n1 et n2 les tailles des deux echantillons.

On choisit un regroupement en classes : b1, b2, . . . , bk

On construit le tableau des frequences cumulees dansles deux groupes :

Gr 1 Gr 2X ≤ b1 F11 F12

X ≤ b2 F21 F22

. . . . . . . . .X ≤ bk Fk1 Fk2

On calcule :

D = max |Fi1 − Fi2|

Pour n1 ≤ 25 et n2 ≤ 25, les valeurs critiques de J =n1n2D sont tabulees.

Pour de grands echantillons (n1 > 25 et n2 > 25), lavaleur Dcrit peut etre calculee par la formule :

Dcrit = λ

√n1 + n2

n1n2

ou λ est une constante dependant du seuil choisi :

seuil 0.10 0.05 0.01 0.001λ 1.22 1.36 1.63 1.95

F.-G. Carpentier - 2013-2014 32


Test unilateral de Kolmogorov-Smirnov

H0 : La distribution de la VD est la meme dans lesdeux populations parentesH1 : L’intensite de la VD est plus forte dans la deuxiemepopulation


Soient n1 et n2 les tailles des deux echantillons.

On choisit un regroupement en classes : b1, b2, . . . , bk

On construit le tableau des frequences cumulees dansles deux groupes :

Gr 1 Gr 2X ≤ b1 F11 F12

X ≤ b2 F21 F22

. . . . . . . . .X ≤ bk Fk1 Fk2

On calcule le maximum des differences, ordonnees enfonction du sens du test :

D = max [Fi1 − Fi2]

Pour n1 ≤ 25 et n2 ≤ 25, les valeurs critiques de J =n1n2D sont tabulees.

Pour de grands echantillons (n1 > 25 et n2 > 25),on utilise l’approximation suivante : sous H0, la statis-tique :

χ2 = 4D2 n1n2

n1 + n2

suit une loi du χ2 a 2 ddl.

F.-G. Carpentier - 2013-2014 33


Exemple

Apprentissage sequentiel par des eleves du 11e gradeet des eleves du 7e grade.

Hypothese : la matiere apprise au debut de la serie estrappelee plus efficacement, mais cet effet est moinsprononce chez les sujets jeunes.

Variable dependante : pourcentage d’erreurs commisessur la premiere partie de la serie.

On fait ici un test unilateral. L’hypothese H1 est : lepourcentage d’erreurs est significativement plus elevedans le 2e groupe.

Donnees :

11e grade 7e grade35.2 39.139.2 41.240.9 46.238.1 48.434.4 48.729.1 55.041.8 40.624.3 52.132.4 47.2

45.2

F.-G. Carpentier - 2013-2014 34


Decoupage en classes et frequences cumulees :

11e grade 7e grade Diff.X ≤ 28 0.111 0 0.111X ≤ 32 0.222 0 0.222X ≤ 36 0.556 0 0.555X ≤ 40 0.778 0.1 0.678X ≤ 44 1 0.3 0.700X ≤ 48 1 0.6 0.400X ≤ 52 1 0.8 0.200X ≤ 56 1 1 0

On obtient : D = 0.7 d’ou J = 9× 10× 0.7 = 63.

Au seuil de 1%, la table indique : Jcrit = 61.

On conclut donc sur H1.

F.-G. Carpentier - 2013-2014 35


Test des suites de Wald-Wolfowitz

Anderson, Wald et Wolfowitz ont propose (1943) untest d’auto-correlation utilise notamment sur des serieschronologiques. Le test etudie ci-dessous (test dessuites) en est une version simplifiee.

Certains auteurs distinguent deux tests des suites :

• L’un est un test sur un echantillon, sur lequel sontobservees une variable dichotomique et une variableordinale ou numerique. Il s’agit alors d’etudier si lesdeux variables sont independantes.

• L’autre est un test sur deux echantillons, et permetd’etudier si la VD a les memes caracteristiques dansles deux populations parentes. Dans ce cas, en general,seule l’hypothese H1 unilaterale a gauche a un sens.

H0 : L’appartenance d’une observation a l’un ou l’autregroupe est independante de son rang.

H1 bilaterale : L’appartenance d’une observation a l’unou l’autre groupe depend de son rang.H1 unilaterale a gauche : Etant donne deux observa-tions consecutives, la probabilite qu’elles appartiennentau meme groupe est superieure a celle resultant du ha-sard.H1 unilaterale a droite : L’alternance entre les obser-vations de l’un et l’autre groupe est trop elevee pouretre due au hasard.

F.-G. Carpentier - 2013-2014 36


Methode : on classe toutes les observations par ordrecroissant. On construit un compteur demarrant a 1, etqui augmente d’une unite chaque fois que l’on changede groupe en parcourant la liste ordonnee. On obtientainsi le nombre de “runs” u.

Exemple : On a fait passer une epreuve a 31 sujets, 14hommes et 17 femmes. Le protocole des rangs observeest le suivant :

Hommes : 1 2 3 7 8 9 10 13 14 15 23 24 26 27

Femmes : 4 5 6 11 12 16 17 18 19 20 21 22 25 28 29 30 31

Determination du nombre de “runs” :

MMM FFF MMMM FF MMM FFFFFFF MM F MM FFFF111 222 3333 44 555 6666666 77 8 99 0000

Ici : u = 10.

Soit n1 et n2 les effectifs des deux groupes.

Pour n1 ≤ 10 ou n2 ≤ 10, on utilise des tables specialisees.

Pour n1 > 10 et n2 > 10, on utilise l’approximation parune loi normale :

µ =2n1n2

n1 + n2+ 1 σ2 =

2n1n2(2n1n2 − n1 − n2)

(n1 + n2)2(n1 + n2 − 1)

Z =u− µ± 0.5

σN.B. ±0.5 est une correction de continuite. Le signedoit etre choisi de facon diminuer la valeur de |Z|.

Ici : µ = 16.35 σ2 = 7.35 Z = −2.16

Remarque : Ce test suppose l’absence d’ex aequo.

F.-G. Carpentier - 2013-2014 37


Test U de Mann-Whitney - Test de WilcoxonMann Whitney

Soient θ1 et θ2 les medianes de la variable dependantedans les populations parentes.

H0 : θ1 = θ2

H1 : θ1 6= θ2 (hypothese bilaterale),H1 : θ1 < θ2 ou θ1 > θ2 (hypotheses unilaterales)

Methode : On construit le protocole des rangs pourl’ensemble des (n1 +n2) observations (avec la conven-tion du rang moyen pour les ex aequo).

W1 : somme des rangs du premier echantillonW2 : somme des rangs du deuxieme echantillon.

Pour n1 ≤ 10 ou n2 ≤ 10, on utilise des tables specialisees.

Si n1 > 10 et n2 > 10, ou si l’un des deux effectifs estsuperieur a 12, on utilise l’approximation par une loinormale :

Test U de Mann-Whitney proprement dit (cf. Statis-tica) :On calcule :

U1 = n1n2 +n1(n1 + 1)

2−W1

U2 = n1n2 +n2(n2 + 1)

2−W2

U = min (U1, U2)

F.-G. Carpentier - 2013-2014 38


Z =U − n1n2

2

Eavec E2 =

n1n2(n1 + n2 + 1)

12

Variante : On calcule les rangs moyens dans les deuxgroupes R1 et R2 puis la statistique :

Z =R1 −R2

Eavec E2 =

(n1 + n2 + 1) (n1 + n2)2

12n1n2

Remarques.

1. Dans le test de Mann-Whitney, la variable X estsupposee continue. La probabilite d’observer des exaequo est donc en theorie nulle. Cependant, certainsauteurs ont propose des formules correctives pour te-nir compte des ex aequo. Pour de grands echantillons,la correction proposee revient a multiplier la statis-tique precedente par s

s′ou s est l’ecart type de la serie

(1,2, . . . , n1 + n2) et s’ l’ecart type des rangs reels.L’effet de la correction est en general peu important.

2. Certains auteurs proposent une formule comportantune correction de continuite.

3. Un test analogue : le test de permutation des rangsde Wilcoxon.

4. Le test de Mann Whitney permet notamment detester l’egalite des medianes, a condition que les va-riances des distributions soient egales. Un autre test(test des rangs robuste) permet de s’affranchir decette derniere condition.

F.-G. Carpentier - 2013-2014 39


Tests non parametriques sur k groupesindependants

Situation envisagee : un plan S < Ak > avec un facteurA a k niveaux definissant k groupes independants etune variable dependante X ordinale ou numerique

Effectifs des groupes : n1, n2, . . . , nk.

Test de la mediane

Le test de la mediane peut encore etre utilise danscette situation.

Test de Kruskal-Wallis

Soient θ1, θ2, . . . , θk les medianes de la variable dependantedans les populations parentes.

H0 : θ1 = θ2 = . . . = θkH1 : Les medianes ne sont pas toutes egales.

Methode : On construit le protocole des rangs pourl’ensemble des observations.

Soit Rj la moyenne des rangs dans le groupe j, N lenombre total d’observations et R = N+1

2le rang moyen

general.


K =12

N(N + 1)

∑nj(Rj −R)2

ou

K =

[12

N(N + 1)

∑njR

2j

]− 3(N + 1)

Si le nombre de groupes est superieur a 3 et le nombred’observations dans chaque groupe est superieur a 5,K suit approximativement une loi du χ2 a (k − 1)ddl.

F.-G. Carpentier - 2013-2014 40


Remarques :

1. Si le nombre de groupes est egal a 2, la statistiqueK est le carre de la statistique Z du test de WilcoxonMann et Whitney. Pour de grands echantillons et destests bilateraux, les deux tests sont donc equivalents.

2. Comme dans le cas precedent, le test concerne enprincipe des situations sans ex aequo. La correctionproposee pour tenir compte des ex aequo revient a

multiplier la statistique K precedente pars2

s′2ou s2 est

la variance de la serie (1,2, . . . , N) et s′2 la variancedes rangs reels. L’effet de la correction est en generalpeu important.

Test post hoc de comparaisons par paires

Dans le cas ou le test de Kruskal-Wallis conclut aune difference significative entre les groupes, on peutcompleter l’etude en realisant des tests de comparai-sons par paires. Plusieurs tests post hoc ont ete pro-poses. Detaillons le test (analogue a celui de Bonferroni-Dunn) qui est disponible dans Statistica.

Pour comparer le groupe a et le groupe b, on calcule :

Z =Ra −RbEab

avec E2ab =

N (N + 1)

12

(1

na+

1

nb

)ou N designe l’effectif total des k groupes et ou lesrangs moyens Ra et Rb sont calcules en considerant leprotocole des rangs sur l’ensemble des k groupes. Laloi suivie est la loi normale.

Pour enoncer un resultat au seuil global (familywise)αFW , chaque test individuel est realise au seuil

αPC =αFW

cavec c =

k(k − 1)

2(nombre de comparai-

sons).

F.-G. Carpentier - 2013-2014 41


Exemple : 12 sujets soumis a 3 conditions differentes.On fait l’hypothese que les sujets du 3e groupe aurontun score significativement superieur.

Valeurs observees de la variable dependante :

G1 G2 G3

.994 .795 .940

.872 .884 .979

.349 .816 .949.981 .890

.978

Protocole des rangs et calcul des rangs moyens :

G1 G2 G3

12 2 74 5 101 3 8

11 69

Rj 17 21 40Rj 5.67 5.25 8

On obtient ici :

K =12

12× 13

[3(5.67)2 + 4(5.25)2 + 5(8)2

]−3(12 + 1)

c’est-a-dire K = 1.51. Pour α = 5%, la table donne :Kcrit = 5.63. On retient donc H0.

Exemple de test post hoc (ici inutile, car on a conclusur H0 ) :Pour un resultat au seuil de 5%, on considere la valeurcritique de la loi normale correspondant a α = 1.67%,c’est-a-dire : Zc = 2.39.G2 v/s G3 : E2 = 13(1

4+ 1

5) = 5.85 d’ou E = 2.42 et

Z = 8−5.252.42

= 1.14. Difference non significative.

F.-G. Carpentier - 2013-2014 42


Tests non parametriques sur 2 groupes apparies

Situation envisagee : un plan S ∗A2 avec un facteur Aa 2 niveaux definissant deux groupes apparies et unevariable dependante X ordinale ou numerique.

Effectif de l’echantillon de sujets : n.

Test du χ2 de Mac Nemar

Il s’applique au cas ou la variable X est dichotomique.

Situation generale :

A1

X = 1 X = 0A2 X = 1 a c

X = 0 b d

Les paires discordantes sont les observations (X = 1en A1, X = 0 en A2) et (X = 0 en A1, X = 1 en A2)L’information utile est alors fournie par les effectifs“de discordance” b et c.

Notationsp1 : frequence de la combinaison (X = 1 en A1, X = 0en A2) par rapport a la discordance totale dans la po-pulation.p2 : frequence de la combinaison (X = 0 en A1, X = 1en A2) par rapport a la discordance totale dans la po-pulation.

Hypotheses du testH0 : p1 = p2(= 50%)H1 : p1 6= p2

F.-G. Carpentier - 2013-2014 43


Statistique de test

χ2 =(b− c)2

b+ c, ddl = 1

ou, avec la correction de Yates (petits effectifs) :

χ2 =(|b− c| − 1)2

b+ c, ddl = 1

Condition d’application : b+ c > 10.

Remarques.

1. Cette statistique est la distance du χ2 calculee entrele tableau d’effectifs observes et le tableau d’effectifstheoriques suivant :

A1

X = 1 X = 0A2 X = 1 a b+c

2X = 0 b+c

2d

2. On peut aussi utiliser la statistique suivante, quipermet eventuellement un test unilateral :

Z =b− c± 1√b+ c

Z suit la loi normale centree reduite.Correction de continuite (±1) : choisir le signe defacon a diminuer la valeur absolue de la statistique.

3. Sous la forme indiquee dans la remarque 2, il s’agiten fait d’un test des signes sur les protocoles 0-0, 0-1,1-0, 1-1.

F.-G. Carpentier - 2013-2014 44


Tests des permutations

Principe : on observe un protocole de differences indi-viduelles di. On observe D+ differences positives et D−differences negatives, soit N = D+ + D− differencesnon nulles. On elimine les differences nulles.

On imagine tous les protocoles obtenus en affectantarbitrairement le signe “+” ou le signe “−” aux dif-ferences absolues |di|. Les 2N protocoles ainsi obtenussont supposes equiprobables.

Pour chaque protocole, on calcule∑di. La zone d’ac-

ceptation de H0 est formee des protocoles conduisanta des sommes

∑di “proches de 0”. La zone de re-

jet est formee des protocoles conduisant a des valeurs“extremes”, positives et/ou negatives.

Deux tests bases sur ce principe :• test des signes : les di sont codees +1 ou −1• test de Wilcoxon : les di sont les rangs signes.

Test des signes

Un echantillon de sujets, places dans deux conditionsexperimentales differentes : groupes apparies.

Variable dependante : ordinale ou numerique.

– protocole du signe des differences individuelles ; mo-dalites : −1, 0, 1– on elimine les differences nulles

D+ : nombre de differences positivesD− : nombre de differences negativesN = D+ + D− : nombre total d’observations apreselimination des differences nulles.

F.-G. Carpentier - 2013-2014 45


Hypotheses du test :

H0 : les differences sont dues au hasard : dans la po-pulation parente, la frequence des differences positivesest 50%.

H1 : Cette frequence n’est pas 50% (test bilateral)ou (tests unilateraux)Cette frequence est inferieure a 50%Cette frequence est superieure a 50%

• Cas des petits echantillons

Sous H0, D+ suit une loi binomiale de parametres Net p = 0.5.

On raisonne en termes de “niveau de significativite”.

Par exemple, dans le cas d’un test unilateral tel queH1 : frequence inferieure a 50%on calcule la frequence cumulee P (X ≤ D+) de D+

pour la loi binomiale B(N,0.5).Pour un seuil α donne :

Si P (X ≤ D+) < α on retient H1

Si P (X ≤ D+) ≥ α on retient H0

• Cas des grands echantillons : approximation par uneloi normale

Z =2D+ ± 1−N√

N

Z suit une loi normale centree reduite.

Correction de continuite (±1) : choisir le signe defacon a diminuer la valeur absolue de la statistique.

F.-G. Carpentier - 2013-2014 46


Test de Wilcoxon sur des groupes appariesTest T, ou test des rangs signes

C’est le test des permutations applique au protocoledes rangs signes.

Un echantillon de sujets, places dans deux conditionsexperimentales differentes : groupes apparies.Variable dependante : numerique.

Soit θ la mediane des differences individuelles dans lapopulation parente.

On construit :

– le protocole des effets individuels di– le protocole des valeurs absolues de ces effets |di|– le protocole des rangs appliques aux valeurs absolues,en eliminant les valeurs nulles.

T+ : somme des rangs des observations tq di > 0T− : somme des rangs des observations tq di < 0N = nombre de differences non nullesTm = min(T+, T−) ;TM = max(T+, T−)

Hypotheses

H0 : θ = 0H1 : θ 6= 0 (hypothese bilaterale),H1 : θ < 0 ou θ > 0 (hypotheses unilaterales)

F.-G. Carpentier - 2013-2014 47


• Cas des petits echantillonsN ≤ 15 : utilisation de tables specialisees

On compare Tm aux valeurs critiques indiquees par latable.

• Cas des grands echantillonsN > 15 : approximation par une loi normale

Z =T+ ± 0.5− N(N+1)

4

Eavec

E2 =N(N + 1)(2N + 1)

24N.B. ±0.5 est une correction de continuite. Le signedoit etre choisi de facon diminuer la valeur de |Z|.

Sous H0, Z suit une loi normale centree reduite.

Remarques.1. Ce test peut aussi servir a comparer une mediane aune valeur fixee a l’avance.2. La variable X est supposee continue. La probabilited’observer des ex aequo est donc en theorie nulle.Cependant, il existe une correction possible pour les exaequo. Cette correction revient a multiplier la valeur

Z precedente par√

SS ′

ou S est la somme des carres

des valeurs 1, 2, ..., N et S′ est la somme des carresdes rangs reels.

F.-G. Carpentier - 2013-2014 48


Tests non parametriques sur k groupes apparies

Situation envisagee : un plan S ∗ Ak avec un facteurA a k niveaux definissant des groupes apparies et unevariable dependante X ordinale ou numerique.

Effectif de l’echantillon de sujets : n.

Test Q de Cochran

Il s’applique au cas ou la variable X est dichotomique.Par exemple : n sujets sont soumis aux k items d’untest. Resultats possibles : succes/echec. Les items ont-ils le meme niveau de difficulte ?

H0 : Dans la population, la probabilite de la modalite“1” est la meme dans toutes les conditions : π1 = π2 =. . . = πkH1 : Dans la population, la probabilite de la modalite“1” n’est pas la meme dans toutes les conditions.

Protocole observe :

Suj. A1 A2 . . . Ak Li L2i

s1 1 1 . . . 0 L1 L21

s2 1 0 . . . 0 L2 L22

. . .sn Ln L2

n

Gj G1 G2 . . . Gk G

Notations :Li : somme sur la ligne iGj : somme sur la colonne jG : somme des Gj avec j = 1,2, . . . , kG : moyenne des Gj

F.-G. Carpentier - 2013-2014 49


Statistique :

Q =(k − 1)

(k∑G2j −G2

)k∑Li −

∑L2i

Calcul equivalent :

Q =k(k − 1)

∑(Gj −G)2

k∑Li −

∑L2i

Loi suivie par Q :

On elimine les lignes composees exclusivement de “0”ou exclusivement de “1”. Soit N le nombre de lignesrestantes.Si N ≥ 4 et Nk > 24, Q suit approximativement uneloi du χ2 a k − 1 ddl.

Exemple :

Trois ascensions tentees par 5 alpinistes. Les trois as-censions presentent-elles le meme niveau de difficulte ?

Suj. A1 A2 A3 Li L2i

s1 1 1 0 2 4s2 1 0 1 2 4s3 0 0 1 1 1s4 0 1 1 2 4s5 1 0 1 2 4Gj 3 2 4 9

Q =2[3 (9 + 4 + 16)− 92

]3× 9− 17

= 1.2

F.-G. Carpentier - 2013-2014 50


Remarques

1. Lorsque k = 2, le test Q de Cochran est exactementle test du χ2 de Mac Nemar, sans correction de Yates.

2. On ne trouve pas couramment de tables du test Qde Cochran pour les petites valeurs de N et k. En effet,les valeurs critiques dependent alors non seulement deN et k, mais aussi de la “signature” correspondant al’echantillon observe. c’est-a-dire du nombre de lignesayant pour somme 1, 2, . . ., k − 1.

3. Tests post hoc de comparaison par paires

Lorsque le test de Cochran conclut sur H1, on peut uti-liser un test analogue a celui de Bonferroni Dunn pourfaire des comparaisons par paires entre les differentesconditions.

Pour comparer la condition a et la condition b, oncalcule :

Z =pa − pbE

ou pa et pb sont les proportions de “1” dans chacunedes conditions et ou E est calculee par :

E2 = 2k∑Li −

∑L2i

n2k(k − 1)

La loi suivie est une loi normale.


αPC =αFW

cavec c =

k(k − 1)


sons).

F.-G. Carpentier - 2013-2014 51


Analyse de variance a deux facteurs par les rangsde Friedman

Ce test s’applique au cas ou la variable X est ordinaleou numerique.

H0 : Dans les differentes conditions, les medianes sontegales : M1 = M2 = . . . = Mk.H1 : Les k medianes ne sont pas toutes egales.


On calcule un protocole de rangs par sujet.

Notations :

n : nombre de sujetsk : nombre de conditionsRj : somme des rangs de la colonne j (dans la conditionAj).

La statistique de Friedman est donnee par :

Fr =

[12

nk(k + 1)

∑R2j

]− 3n(k + 1)

ou, de maniere equivalente :

Fr =12

nk(k + 1)

∑(Rj −

n(k + 1)

2

)2

Fr est tabulee pour les petites valeurs de n et k. Audela, Fr suit approximativement une loi du χ2 a (k−1)ddl.

F.-G. Carpentier - 2013-2014 52


Exemple :

Trois individus statistiques (groupes de sujets) sontsoumis a 4 conditions. Y a-t-il une difference signifi-cative entre les 4 conditions ?

Protocole observe :

ConditionsInd. I II III IVi1 9 4 1 7i2 6 5 2 8i3 9 1 2 6

Protocole des rangs par individu statistique :

ConditionsInd. I II III IVi1 4 2 1 3i2 3 2 1 4i3 4 1 2 3Rj 11 5 4 10

Fr =12

3× 4× (4 + 1)

(112 + 52 + 42 + 102

)−3×3×(4+1)

D’ou : Fr = 7.4

Lecture de la table : Au seuil de 5%, Fr,crit = 7.4. Ilest difficile de conclure sur H0 ou H1.

F.-G. Carpentier - 2013-2014 53


Remarques.

1. Correction possible pour les ex aequo. Elle consistea remplacer la somme des variances “theoriques” deslignes nk(k+1)

12par la somme de leurs variances reelles.

Des logiciels tels que Statistica ou R integrent cettecorrection, qui peut etre importante si le nombre deconditions est petit et le nombre d’ex aequo eleve.

2. Avec la correction pour les ex aequo, le test deFriedman est equivalent avec le test Q de Cochrandans le cas d’une variable dichotomique, et a l’ap-proximation normale du test des signes si le nombrede conditions est 2 (k=2). Le test de Friedman ap-paraıt donc comme une extension du test du signe. Ils’agit d’un test relativement peu puissant.

3. Test post hoc de comparaison par paires

Lorsque le test de Friedman conclut sur H1, on peututiliser un test analogue a celui de Bonferroni Dunnpour faire des comparaisons par paires entre les diffe-rentes conditions.

Pour comparer la condition a et la condition b, oncalcule (en l’absence d’ex aequo) :

Z =Ra −Rb

Eavec E2 =

nk(k + 1)

6

La loi suivie est une loi normale.


αPC =αFW

cavec c =

k(k − 1)


sons).

F.-G. Carpentier - 2013-2014 54


Correlation et regression lineaires

Correlation lineaire

Situation envisagee : un echantillon de sujets, deux va-riables numeriques observees (ou une variable observeedans deux conditions).

Donnees :

X Ys1 x1 y1

s2 x2 y2

. . . . . . . . .

Nuage de points : points (xi, yi)

F.-G. Carpentier - 2013-2014 55


Covariance des variables X et Y

Cov(X,Y ) =1

n

n∑i=1

(xi − x)(yi − y)

ou

Cov(X,Y ) =

(1

n

n∑i=1

xiyi

)− x y

Covariance corrigee des variables X et Y

Covc(X,Y ) =n

n− 1Cov(X,Y )

Coefficient de correlation de Bravais Pearson

On designe par s(X) et s(Y ) les ecarts types de X etY et par sc(X), sc(Y ) leurs ecarts types corriges.

r =Cov(X,Y )

s(X)s(Y )=Covc(X,Y )

sc(X)sc(Y )

Remarques

• r n’est pas une estimation correcte du coefficientde correlation dans la population. Certains logiciels destatistiques donnent comme estimation :

raj =

√1−

(1− r2)(N − 1)

N − 2

• Il existe des relations non lineaires

• Correlation n’est pas causalite

F.-G. Carpentier - 2013-2014 56


Alpha de Cronbach

Dans un questionnaire, un groupe d’items X1, X2, . . .,Xk (par exemple des scores sur des echelles de Likert)mesure un meme aspect du comportement.

Probleme : comment mesurer la coherence de cet en-semble d’items ?

Dans le cas de 2 items : la coherence est d’autantmeilleure que la covariance entre ces items est pluselevee. Le rapport :

α = 4Cov(X1, X2)

V ar(X1 +X2)

– vaut 1 si X1 = X2

– vaut 0 si X1 et X2 sont independantes– est negatif si X1 et X2 sont anti-correlees.

Generalisation :On introduit S = X1 + X2 + . . . + Xk et on considerele rapport :

α =k

k − 1

2∑

i<j Cov(Xi, Xj)

V ar(S)=

k

k − 1

[1−

∑V ar(Xi)

V ar(S)

]Ce rapport est le coefficient α de Cronbach.

F.-G. Carpentier - 2013-2014 57


Justification theorique : Pour chaque item, et pourleur somme :

Valeurmesuree

=“Vraie valeur” del’item sur le sujet

+erreur

aleatoire

La fiabilite (theorique) est :

ρ =Variance(Vraies valeurs)

Variance(Valeurs mesurees)

α est une estimation de la fiabilite de la somme des kitems.

Exemple : On a mesure 3 items (echelle en 5 points)sur 6 sujets.

X1 X2 X3 Ss1 1 2 2 5s2 2 1 2 5s3 2 3 3 8s4 3 3 5 11s5 4 5 4 13s6 5 4 4 13

Var. 2.167 2.000 1.467 13.77

On obtient : α =3

2

[1−

2.167 + 2 + 1.467

13.77

]= 0.886

Signification de α : on considere generalement que l’ondoit avoir α ≥ 0.7. Mais une valeur trop proche de 1revele une pauvrete dans le choix des items.

F.-G. Carpentier - 2013-2014 58


Significativite du coefficient de correlation

• Les donnees (xi, yi) constituent un echantillon• r est une statistique• ρ : coefficient de correlation sur la population

H0 : Independance sur la population ; ρ = 0H1 : ρ 6= 0 (bilateral) ou ρ > 0 ou ρ < 0 (unilateral)

Statistique de test

– Petits echantillons : tables specifiques. ddl = n− 2– Grands echantillons :

T =√n− 2

r√1− r2

T suit une loi de Student a n− 2 degres de liberte.

Conditions d’application

Dans la population parente, le couple (X,Y ) suit uneloi normale bivariee, ce qui implique notamment :

– la normalite des distributions marginales de X et Y ;

– la normalite de la distribution de l’une des variableslorsque l’autre variable est fixee ;

– l’egalite des variances des distributions de l’une desvariables pour deux valeurs distinctes de l’autre va-riable.

F.-G. Carpentier - 2013-2014 59


Correlation et statistiques non parametriques :correlation des rangs de Spearman

Si les donnees ne verifient pas les conditions d’appli-cation precedentes, ou si les donnees observees sontelles-memes des classements, on pourra travailler surles protocoles des rangs definis separement pour cha-cune des deux variables.

Rangs X Rangs Ys1 r1 r′1s2 r2 r′2. . . . . . . . .

Le coefficient de correlation des deux protocoles derangs est appele coefficient de correlation de Spear-man, et note Rs.

Calcul de Rs (en l’absence d’ex aequo)

On calcule les differences individuelles di = ri− r′i, puis

Rs = 1−6∑d2i

N(N2 − 1)

F.-G. Carpentier - 2013-2014 60


Significativite du coefficient de correlation de Spear-man

– Pour N ≤ 30, on utilise en general des tables specialisees.

– Lorsque N > 30 :

Certains auteurs (et Statistica) utilisent :

t =√N − 2

Rs√1−R2

s

et une loi de Student a N − 2 ddl.

D’autres auteurs utilisent la statistique :

Z =√N − 1 Rs

et une loi normale centree reduite.

Remarque. Siegel et Castellan donnent “20 ou 25”comme seuil pour les grands echantillons et indiquentque la premiere statistique est “legerement meilleure”que la seconde.

F.-G. Carpentier - 2013-2014 61


Le coefficient τ de Kendall

Avec un protocole comportant N sujets, on a N(N−1)2

paires de sujets.

On examine chaque paire de sujets, et on note si lesdeux classements comportent une inversion ou non.

s3 3 6s4 5 2

Desaccord, Inversion

s3 3 4s4 5 6

Accord, Pas d’inversion

Le coefficient τ est alors defini par :

τ =Nb d’accords−Nb de desaccords

Nb de pairesou

τ = 1−2×Nombre d’inversions

Nombre de pairesSignificativite du τ de Kendall

H0 : Independance des variables. τ = 0H1 : τ 6= 0

Pour N > 10, sous H0, la statistique

Z = 3τ

√N(N − 1)

2(2N + 5)

suit une loi normale centree reduite.

F.-G. Carpentier - 2013-2014 62


Regression lineaire

Role “explicatif” de l’une des variables par rapport al’autre. Les variations de Y peuvent-elles (au moins enpartie) etre expliquees par celles de X ? Peuvent-ellesetre predites par celles de X ?

Modele permettant d’estimer Y connaissant X

Droite de regression de Y par rapport a X :

La droite de regression de Y par rapport a X a pourequation :

y = b0 + b1x

avec :

b1 =Cov(X,Y )

s2(X); b0 = Y − b1X

F.-G. Carpentier - 2013-2014 63


Remarques

Si les variables X et Y sont centrees et reduites, l’equationde la droite de regression est :

Y = rX

On definit le coefficient de regression standardise par :

β1 = b1s(X)

s(Y )

Dans le cas de la regression lineaire simple : β1 = r.

Comparaison des valeurs observees et des valeurs es-timees

Valeurs estimees : yi = b0 + b1xi : variable YErreur (ou residu) : ei = yi − yi : variable E

Les variables Y et E sont independantes et on montreque :

s2(Y ) = s2(Y ) + s2(E)

avec :

s2(E)

s2(Y )= 1− r2 ;

s2(Y )

s2(Y )= r2

s2(Y ) : variance expliquee (par la variation de X, parle modele)

s2(E) : variance perdue ou residuelle

r2 : part de la variance de Y qui est expliquee par la va-riance de X. r2 est appele coefficient de determination.

F.-G. Carpentier - 2013-2014 64


Exemple : r = 0.86

r2 = 0.75 ; 1− r2 = 0.25 ;√

1− r2 = 0.5.

• La part de la variance de Y expliquee par la variationde X est de 75%.

• L’ecart type des residus est la moitie de l’ecart typede Y .

Interpretation geometrique, du point de vue des va-riables

Lorsque les variables X et Y sont centrees et reduites,elles peuvent etre vues comme des vecteurs OM et ONde norme 1 dans un espace geometrique de dimensionn (le nombre d’observations).

Dans cette interpretation :

– La variable Y est la projection de Y sur X

– Le coefficient de correlation r est le cosinus del’angle (OM,ON).

F.-G. Carpentier - 2013-2014 65


Test du coefficient de correlation a l’aide du F deFisher

Valeurs estimees : yi = b0 + b1xiErreur (ou residu) : ei = yi − yi

On introduit les sommes de carres suivantes :

SCTotale =∑

(yi − y)2

SCRegression =∑

(yi − y)2

SCResidus =∑

(yi − yi)2

Lien avec le coefficient de correlation

r2 =SCRegression

SCTotaleest le coefficient de determination

Tableau d’analyse de variance

Source SC ddl CM F

Regression SCRegression 1 CMReg Fobs

Residuelle SCResidus n− 2 CMRes

Total SCTotale n− 1

Fobs =CMReg

CMRes= (n− 2)

r2

1− r2suit une loi de Fisher a

1 et n− 2 ddl.On retrouve : Fobs = T 2

obs

F.-G. Carpentier - 2013-2014 66


Estimations de y et de y par des intervalles deconfiance

Dans la population, le lien entre X et Y suit le modelemathematique :

Y = B0 +B1X + ε

ou B0 et B1 sont des constantes numeriques et ε estune variable statistique centree et independante de X

A partir de l’echantillon, nous avons calcule b0, b1, e1, . . . , entels que :

yi = b0 + b1xi + ei

yi = b0 + b1xi

Mais un autre echantillon amenerait d’autres valeursde ces parametres : b0, b1 et ei ne sont que des esti-mations de B0, B1 et εi.

Questions que l’on peut se poser :

– Quelle estimation peut-on donner de la variance deε ?

– On peut voir yi comme une estimation ponctuelle dela moyenne des valeurs de Y sur la population lorsqueX = xi. Peut-on determiner un intervalle de confiancepour cette moyenne ?

– Etant donne une valeur xi de X, quel intervalle deconfiance peut-on donner pour les valeurs de Y cor-respondantes ?

F.-G. Carpentier - 2013-2014 67


Estimation de V ar(ε) :

s2 =SCRes

n− 2

Estimation par un intervalle de confiance de la moyennede Y pour X fixe :

Pour une valeur xp fixee de X, la variance des valeursestimees yp est estimee par :

s2yp = s2

(1

n+

(xp − x)2∑x2i − nx2

)Notons Moy(Y |X = xp) la moyenne de la variable Ylorsque la variable X est egale a xp.

Un intervalle de confiance de Moy(Y |X = xp) avec undegre de confiance 1− α est donne par :

yp − tαsyp ≤Moy(Y |X = xp) ≤ yp + tαsyp

ou tα est la valeur du T de Student a n − 2 ddl telleque P (|T | > tα) = α

F.-G. Carpentier - 2013-2014 68


Determination d’un intervalle de confiance pour lesvaleurs de Y : intervalle de prevision

Moy(Y |X = xp) est connue par une estimation ponc-tuelle (yp) et un intervalle de confiance.

La difference Y −Moy(Y |X = xp) est le residu ε, donton peut egalement donner un intervalle de confiance.

Finalement, on pourra ecrire l’intervalle de confiance :

yp − tαsind ≤ y ≤ yp + tαsind

avec :

s2ind = s2

(1 +

1

n+

(xp − x)2∑x2i − nx2

)= s2 + s2

yp

Intervalle de confiance et intervalle de prevision appa-raissent dans les graphiques realises par les logicielssous forme de “bandes” :

F.-G. Carpentier - 2013-2014 69


Regression lineaire multiplePosition du probleme

Un echantillon tire d’une population sur lequel on aobserve un ensemble de variables numeriques.

X1 X2 . . . Xp

s1 x11 x12 . . . x1p

. . . . . . . . . . . . . . .

Exemple avec trois variablesSatis : satisfaction au travailAnc : anciennete dans l’entrepriseResp : responsabilitesn : nombre d’observations (ici : n = 20)

Satis Anc Resp1 3,95 7,44 2,232 2,11 1,29 0,573 2,50 4,85 1,124 6,05 6,00 3,495 3,78 0,68 0,606 6,15 6,81 3,747 2,10 4,15 1,688 6,80 1,77 2,349 5,99 5,78 2,75

10 2,29 5,75 2,8011 3,53 3,53 2,0812 4,55 5,73 1,5213 1,14 4,80 0,7314 4,29 10,66 2,9915 4,86 5,27 2,4616 4,25 4,17 2,6217 4,34 5,80 1,8818 2,77 2,31 1,2419 4,82 7,68 2,0020 3,74 5,53 1,19

F.-G. Carpentier - 2013-2014 70


Nuage de points

Pour trois variables : representation dans l’espace.

Pour plus de trois variables, determination des direc-tions de “plus grande dispersion du nuage” : analyseen composantes principales.

Parametres associes aux donnees

Matrice des covariances, matrice des correlations.

Sur l’exemple : coefficients de correlation des variablesprises 2 a 2 :

SatisAncResp

Satis Anc Resp1 0.23 0.67

0.23 1 0.570.67 0.57 1

rSatis,Anc = 0.23 (NS) :Satis et Anc ne sont pas significativement correleesrSatis,Resp = 0.67 ∗ ∗ :Satis et Resp sont correleesrResp,Anc = 0.57 ∗ ∗ :Resp et Anc sont correlees

F.-G. Carpentier - 2013-2014 71


Regression : equation de regression, “hyperplan”de regression

L’une des variables (Y ) est la variable “a predire”. Lesautres (X1, X2, . . . , Xp) sont les variables “predicatives”.L’hyperplan de regression a pour equation :

Y = b0 + b1X1 + . . .+ bpXp

La regression est faite “au sens des moindres carres”(ordinary least squares regression ou OLS regression ;moindres carres ordinaires ou MCO).

Soient Yi les valeurs estimees a l’aide de l’equation deregression et Ei = Yi − Yi les erreurs ou residus de laregression.

La variable d’erreur E est independante de chacun despredicteurs.

Calcul de b1, b2, . . ., bp : ce sont les solutions dusysteme d’equations lineaires :

j = 1,2, . . . , p∑i

Cov(Xi, Xj) bi = Cov(Y,Xj)

Sur l’exemple, en prenant Satis comme variable dependantea predire, Anc et Resp comme variables predictrices :

Satis = 2.07− 0.15 Anc+ 1.33 Resp

F.-G. Carpentier - 2013-2014 72


Coefficient de correlation multiple

Y : valeurs estimees a l’aide de l’equation de regression.

R = rY Y =Cov(Y, Y )

s(Y )s(Y )

Comme precedemment, R2 est la part de la variance“expliquee par le modele”. R2 est appele coefficient dedetermination.

Sur l’exemple, R = 0.70 et R2 = 0.48.

Analyse de variance et qualite du modele

Lorsque l’on a p predicteurs, le tableau d’analyse devariance devient :

Source SC ddl CM F

Regression SCRegression p CMReg Fobs

Residuelle SCResidus n− p− 1 CMRes

Total SCTotale n− 1

Fobs =CMReg

CMRes=n− p− 1

p

R2

1−R2suit une loi de Fisher

a p et n− p− 1 ddl.

F.-G. Carpentier - 2013-2014 73


Sur l’exemple, le tableau d’analyse de variance estainsi :

Source SC ddl CM FRegression 21.74 2 10.87 7.94Residuelle 23.26 17 1.37

Total 45.00 19

Conclusion : le coefficient de correlation multiple estsignificativement different de 0 ; il existe un effet si-gnificatif des predicteurs sur la variable a predire.

Analyse individuelle de chaque coefficient.

La constante depend seulement des moyennes de va-riables. Elle serait nulle pour des donnees centrees.

Les coefficients des deux variables predictrices dependentleurs ecarts types respectifs. Ces coefficients ne sontpas directement comparables entre eux. Seuls les signespeuvent nous fournir une information.

Ainsi, selon le modele obtenu sur l’exemple :

– Lorsque Resp augmente, Satis augmente.– En revanche, lorsque Anc augmente, Satis diminue,bien que le coefficient de correlation trouve entre cesdeux variables soit positif.

Mais cette analyse suppose que l’on puisse considererl’effet de chaque variable “toutes choses egales parailleurs”. Or, Anc et Resp sont correlees.

F.-G. Carpentier - 2013-2014 74


Coefficients de regression standardises :

Pour i = 1,2, . . . , p, on pose : βi = bis(Xi)

s(Y )

Ce sont les coefficients que l’on obtiendrait en tra-vaillant sur les variables centrees reduites associees auxvariables Y et X1 a Xp.

Contrairement aux bi, les coefficients βi sont compa-rables entre eux.

Sur l’exemple : βAnc = −0.22 ; βResp = 0.80

Les logiciels fournissent egalement le resultat du testde l’hypothese de nullite de chacun de ces coefficientssur la population parente.Ici, seul βResp est significativement different de 0.

Coefficients de correlation partielle

Ce sont les correlations obtenues en controlant unepartie des variables. Par exemple, dans le cas de 3 va-riables X, Y et Z, pour calculer ryz.x :– On calcule les residus de la regression de Z par rap-port a X– On calcule les residus de la regression de Y par rap-port a X– On calcule le coefficient de correlation entre les deuxseries de residus obtenues.

Sur l’exemple :rSatis Resp.Anc = 0.67 ∗ ∗ :rSatis Anc,Resp = −0.25 NS

F.-G. Carpentier - 2013-2014 75


Une application de la regression lineaire multiple :l’analyse de mediation

L’effet d’une VI sur une VD est-il direct, ou releve-t-ilplutot d’un facteur intermediaire M ?

– On effectue la regression lineaire de la VD sur la VI :

V D = b0 + b1V I

Coefficient de regression standardise : β1

– On effectue la regression lineaire de la variable demediation M sur la VI :

M = b′0 + b′1V I

Coefficient de regression standardise : β′1

– On effectue la regression lineaire multiple de la VDsur les deux variables M et VI :

V D = b′′0 + b′′1V I + b′′2M

Coefficients de regression standardises : β′′1, β′′2

Si β′′2 est significativement different de 0, et que β′′1 estnettement plus proche de 0 que β1, il y a mediation(partielle ou totale). En particulier, il y a mediation siβ′′1 n’est pas significativement different de 0 alors queβ1 l’etait.

F.-G. Carpentier - 2013-2014 76


Synthese sur les tests etudies

• Un groupe de sujets - une variable• Ajustement a une loi theorique

– χ2 d’ajustement– Test de Kolmogorov Smirnov a 1 echantillon– Test de Lilliefors (loi normale)– Autres tests de normalite : Shapiro-Wilk, Anderson-

Darling, D’Agostino-Pearson• Comparaison d’une moyenne a une norme

– Variable numerique : comparaison d’une moyennea une normeTest t de Student sur un echantillon

– Variable dichotomique : comparaison d’une pro-portion a une normeTest Z ou χ2

• Un groupe de sujets - plusieurs VD ou plusieursconditions (groupes apparies)• Une seule VD. Etude des differences entre condi-

tions– VD dichotomique∗ 2 conditionsχ2 de Mac Nemar, test des signes

∗ k conditions (k ≥ 2)Test Q de Cochran

– VD numerique quelconque∗ 2 conditions

Test des signes, test de Wilcoxon∗ k conditions (k ≥ 2)

Test de Friedman

F.-G. Carpentier - 2013-2014 77


– VD numerique et normalite des differences in-dividuelles∗ 2 conditions

Test t de Student pour groupes apparies∗ k conditions (k ≥ 2)

ANOVA - plan a mesures repetees (S ∗A).• Deux ou plusieurs VD. Etude des liens entre les

variables– VD numeriques quelconques

Correlation des rangs de Spearman, τ de Ken-dall

– VD satisfaisant certaines conditions de norma-liteCorrelation de Bravais-Pearson (MCO ou OLS).regression lineaire

• Plusieurs groupes de sujets, groupes independants,1 facteur• VD nominale

Test du χ2 sur un tableau de contingence• VD dichotomique− 2 groupes

Test de comparaison de deux proportions, testdu χ2

− k groupes (k ≥ 2)Test du χ2

• VD numerique quelconque− 2 groupes

Test de la mediane, test de Wald-Wolfowitz,test de Kolmogorov-Smirnov a deux echantillons,test de Mann-Whitney

− k groupes (k ≥ 2)Test de la mediane, test de Kruskal-Wallis

F.-G. Carpentier - 2013-2014 78


• VD normale dans chacun des groupes– Comparaison des moyennes∗ 2 groupes

Test t de Student (echantillons independants)∗ k groupes (k ≥ 2)

ANOVA a 1 facteur– Comparaison des variances∗ 2 groupes

Test F de Fisher, test de Levene, test deBrown et Forsythe

∗ k groupes (k ≥ 2)Test de Levene, test de Brown et Forsythe,test de Bartlett

• Plusieurs groupes de sujets, groupes independants,plusieurs facteurs• Plan S < A ∗B >

ANOVA factorielle• Plan S < A > ∗B

ANOVA - plan a mesures partiellement repetees.

F.-G. Carpentier - 2013-2014 79