Le test de normalité de D'Agostino-Pearson

 

 

N.B. Ce document est également accessible en format .doc et en format .pdf.

Il s'agit d'un test de normalité adapté aux variables comprenant de nombreux ex aequo.

 

Position du problème.

 

 Les tests classiques de normalité, tels que Kolmogorov-Smirnov, Lilliefors, Shapiro-Wilk, etc sont très sensibles à la présence d'ex aequo.

 

Considérons par exemple une variable statistique obtenue à partir d'une échelle de Likert en 5 ou 7 points.

 

Si on estime que l'échelle de Likert fournit une variable purement ordinale, les questions de normalité ne se posent pas, car il n'y a pas lieu de chercher une approximation de cette variable par une loi continue. Mais il n'est alors pas pertinent non plus de chercher à définir une variable donnant un score de synthèse en calculant une somme ou une moyenne de telles variables.

 

En revanche, on peut aussi juger que l'échelle de Likert fournit une mesure relativement imprécise d'une variable continue. Ainsi :

X = 1 correspond en fait à X ≤ 1,5

X = 2 correspond en fait à 1,5 < X ≤ 2,5

etc.

 

Dans ce cas, le problème de la normalité de X dans la population parente a un sens. Mais les tests tels que Kolmogorov-Smirnov, Lilliefors, Shapiro-Wilk, Anderson-Darling ont l'inconvénient d'être très sensibles à la présence d'ex aequo, comme le montrent les manipulations ci-dessous.

 

Exemple 1 :

X est la série statistique des réponses de 48 sujets sur une échelle de Likert en 5 points :

X : 3 5 5 3 2 4 5 2 3 1 2 1 2 4 2 2 3 3 3 4 3 3 4 5 4 3 4 3 2 1 3 5 3 4 3 1 3 2 3 4 3 2 1 3 2 1 3 2

 

Seul le test de Kolmogorov-Smirnov (dont l'usage n'est pas véritablement correct ici) conduit à une p-value supérieure à 5%. Les autres tests concluent tous sur un défaut de normalité.

 

>library(nortest)

 

> ks.test(X,"pnorm",mean=mean(X),sd=sd(as.vector(X)))

      One-sample Kolmogorov-Smirnov test

data:  X

D = 0.1932, p-value = 0.05562

alternative hypothesis: two-sided

Message d'avis :

In ks.test(X, "pnorm", mean = mean(X), sd = sd(as.vector(X))) :

  impossible de calculer les p-values correctes avec des ex-aequos

 

> lillie.test(X)

      Lilliefors (Kolmogorov-Smirnov) normality test

data:  X

D = 0.1932, p-value = 0.0001105

 

> shapiro.test(X)

      Shapiro-Wilk normality test

data:  X

W = 0.914, p-value = 0.001842

 

> ad.test(X)

      Anderson-Darling normality test

data:  X

A = 1.6241, p-value = 0.0003092

 

En revanche, si on ajoute à chacune des 48 valeurs entières de la série statistique X une partie décimale aléatoire comprise entre -0,5 et 0,5 (X représente alors l'arrondi entier des valeurs X1 générées), ces différents tests concluent sur la normalité de la série ainsi obtenue :

 

> X1 <- X+runif(48)-.5

 

> ks.test(X1,"pnorm",mean=mean(X1),sd=sd(as.vector(X1)))

 

      One-sample Kolmogorov-Smirnov test

data:  X1

D = 0.0709, p-value = 0.955

alternative hypothesis: two-sided

 

> lillie.test(X1)

      Lilliefors (Kolmogorov-Smirnov) normality test

data:  X1

D = 0.0709, p-value = 0.7893

 

> shapiro.test(X1)

      Shapiro-Wilk normality test

data:  X1

W = 0.9772, p-value = 0.4677

 

> ad.test(X1)

      Anderson-Darling normality test

data:  X1

A = 0.2523, p-value = 0.7232

 

Exemple 2 :

 

A l'inverse, on génère une série statistique de 48 valeurs tirées d'une loi normale dont les paramètres sont ceux de la variable X ci-dessus.

 

> Y <- rnorm(48, mean=mean(X),sd=sd(as.vector(X)))

 

> Y

 [1] 2.3178870 3.7099003 1.4615044 1.7937996 2.8787223 3.6629975 3.0464251 2.2819286 2.6065499 3.4581155 2.8317473 4.6929409 1.0392315 4.0965538

[15] 2.7516116 2.1332957 4.1547208 2.1597656 3.3326866 0.4377083 3.6537238 3.6942626 2.6554317 3.4626125 4.3065276 3.1518447 0.4154250 3.5626645

[29] 3.2156494 0.9715125 3.9933763 2.7724458 2.8450445 2.7503986 1.0119739 4.2808468 2.5277786 3.4208558 3.6717145 2.5735135 2.6232302 3.1563150

[43] 2.6783873 1.4663685 4.7654520 1.7376890 2.8591073 4.7457353

 

Sans surprise,  aucun des 4 tests précédents ne met en évidence de défaut de normalité de cette série.

 

> ks.test(Y, "pnorm",mean=mean(Y), sd=sd(Y))

      One-sample Kolmogorov-Smirnov test

data:  Y

D = 0.1047, p-value = 0.6307

alternative hypothesis: two-sided

 

> lillie.test(Y)

      Lilliefors (Kolmogorov-Smirnov) normality test

data:  Y

D = 0.1047, p-value = 0.2089

 

> shapiro.test(Y)

      Shapiro-Wilk normality test

data:  Y

W = 0.9696, p-value = 0.2447

 

> ad.test(Y)

      Anderson-Darling normality test

data:  Y

A = 0.4167, p-value = 0.319

 

Formons alors la série des arrondis entiers des 48 valeurs précédentes.

 

> Y1 <- as.integer(Y+.5)

> Y1

 [1] 2 4 1 2 3 4 3 2 3 3 3 5 1 4 3 2 4 2 3 0 4 4 3 3 4 3 0 4 3 1 4 3 3 3 1 4 3 3 4 3 3 3 3 1 5 2 3 5

 

Les quatre tests précédents indiquent alors un défaut de normalité de Y1

 

> ks.test(Y1, "pnorm",mean=mean(Y1), sd=sd(Y1))

      One-sample Kolmogorov-Smirnov test

data:  Y1

D = 0.2641, p-value = 0.002477

alternative hypothesis: two-sided

Message d'avis :

In ks.test(Y1, "pnorm", mean = mean(Y1), sd = sd(Y1)) :

  impossible de calculer les p-values correctes avec des ex-aequos

 

> lillie.test(Y1)

      Lilliefors (Kolmogorov-Smirnov) normality test

data:  Y1

D = 0.2641, p-value = 4.872e-09

 

> shapiro.test(Y1)

      Shapiro-Wilk normality test

data:  Y1

W = 0.9018, p-value = 0.0007196

 

> ad.test(Y1)

      Anderson-Darling normality test

data:  Y1

A = 2.2048, p-value = 1.109e-05

 

N.B. Les séries statistiques utilisées dans les exemples ci-dessus sont enregistrées dans la feuille de données Dago-Ex1.csv.

 

2) Le test de D'Agostino - Pearson

 

Le test utilise la forme de la distribution de X, telle qu'elle est mesurée par l'asymétrie (skewness) et l'aplatissement (kurtosis).

Ces paramètres de forme se calculent à partir des moments centrés d'ordre 3 et 4 :

   ;   

Pour une variable définie sur une population, l'asymétrie et l'aplatissement sont définis par :

   ;       ;   

Pour une variable distribuée selon une loi normale, on a :  et .

 

Lorsque X représente les valeurs de la variable dépendante sur un échantillon de taille n, les estimations de l'asymétrie et de l'aplatissement de la variable dépendante dans la population parente (estimateurs sans biais) sont données par :

m3 est l'estimation du moment d'ordre 3 :  et  est l'écart type corrigé : .

k4 (qui n'est en fait pas une estimation du moment d'ordre 4) est calculé par :  et  est l'écart type corrigé : .

 

Test de l'asymétrie d'une distribution

 

Les hypothèses du test sont alors :

            H0 :

            H1 :

           

Tabachnick et Fidell ont montré que l'erreur standard sur l'asymétrie peut être estimée par : . On peut utiliser comme statistique de test la valeur : . Mais cette statistique ne suit pas une loi mathématique classique, et il est nécessaire de recourir à des tables spécifiques. De telles tables sont disponibles par exemple aux adresses :

http://nte-serveur.univ-lyon1.fr/nte/immediato/math2001/tables/asymetrie.htm

http://mvpprograms.com/help/mvpstats/distributions/SkewnessCriticalValues

 

D'Agostino et Zar proposent de calculer à partir de g1 une statistique qui suit approximativement une loi normale centrée réduite.

 

On calcule successivement :

 

Sous H0, cette dernière statistique suit une loi normale centrée réduite.

 

Test de l'aplatissement d'une distribution

 

Les hypothèses du test sont alors :

            H0 :

            H1 :

 

Il a été montré que l'erreur type sur l'aplatissement peut être estimé par

par : . On peut utiliser comme statistique de test la valeur :  à condition de recourir à des tables spécifiques. De telles tables sont disponibles par exemple aux adresses :

http://nte-serveur.univ-lyon1.fr/nte/immediato/math2001/tables/aplatissement.htm

http://mvpprograms.com/help/mvpstats/distributions/KurtosisCriticalValues

 

Comme dans le cas de l'asymétrie, D'Agostino et Zar proposent de calculer une statistique qui suit approximativement une loi normale centrée réduite.

 

On calcule successivement :

Sous H0, cette dernière statistique suit une loi normale centrée réduite.

 

Remarque. Dans l'ouvrage de Sheskin, c'est la valeur absolue de g2 et non sa valeur algébrique qui est utilisée. En revanche, les équations ci-dessus correspondent aux calculs faits par la procédure dagoTest du package fBasics de R.

 

Le test de normalité de D'Agostino

 

L'hypothèse nulle est alors la normalité de la distribution parente, l'hypothèse alternative est le défaut de normalité.

 

La statistique de test (souvent notée K2) proposée par D'Agostino est :

Sous H0, cette statistique suit approximativement une loi du khi-2 à 2 degrés de liberté.

 

Une critique faite au test de D'Agostino : les statistiques  et  ne sont pas indépendantes. La loi suivie par la statistique de D'Agostino n'est donc qu'approximativement un khi-2.

Pour appliquer ce test, on exige généralement que l'effectif de l'échantillon soit supérieur ou égal à 20.

 

Les différents calculs décrits ci-dessus sont réalisés, pour la série statistique X et pour deux autres séries données par Sheskin, dans le classeur Excel Dagostino.xls

 

Le test de normalité de D'Agostino avec le package fBasics de R

 

Le test de D'Agostino est disponible dans le package fBasics de R. Ce test, appliqué aux séries X, X1, Y, Y1 précédentes, produit les résultats suivants.

 

X est la série de valeurs entières comprises entre 1 et 5 fournies par une échelle de Likert soumise à 48 sujets.

 

> library(fBasics)

> dagoTest(X)

Title:

 D'Agostino Normality Test

Test Results:

  STATISTIC:

    Chi2 | Omnibus: 0.8705

    Z3  | Skewness: 0.3799

    Z4  | Kurtosis: -0.8521

  P VALUE:

    Omnibus  Test: 0.6471

    Skewness Test: 0.704

    Kurtosis Test: 0.3941

Description:

 Wed Dec  7 17:59:15 2011 by user:

 

Ainsi, la procédure calcule les statistiques sur l'asymétrie et l'aplatissement (nommées ici Z3 et Z4), puis la statistique de D'Agostino, nommée Chi2 omnibus.

On voit que, contrairement aux tests utilisés en introduction, le test de D'Agostino permet de conclure à la normalité de la distribution parente de l'échantillon.

 

Pour la série X1, obtenue en introduisant des décimales aléatoires à la série X, on obtient :

 

> dagoTest(X1)

Title:

 D'Agostino Normality Test

Test Results:

  STATISTIC:

    Chi2 | Omnibus: 1.7505

    Z3  | Skewness: -0.2867

    Z4  | Kurtosis: -1.2916

  P VALUE:

    Omnibus  Test: 0.4168

    Skewness Test: 0.7743

    Kurtosis Test: 0.1965

Description:

 Wed Dec  7 18:00:27 2011 by user:

 

La normalité est aussi acceptée, en accord cette fois avec les autres tests de normalité.

 

La série Y est une série de 48 valeurs aléatoires générées selon une loi normale. Sans surprise, le test de D'Agostino conclut sur la normalité de cette série :

 

> library(fBasics)

> dagoTest(Y)

Title:

 D'Agostino Normality Test

Test Results:

  STATISTIC:

    Chi2 | Omnibus: 1.5632

    Z3  | Skewness: -1.2496

    Z4  | Kurtosis: -0.0421

  P VALUE:

    Omnibus  Test: 0.4577

    Skewness Test: 0.2114

    Kurtosis Test: 0.9664

Description:

 Tue Dec  6 11:01:43 2011 by user:

 

Enfin, la série Y1 est formée des arrondis entiers de la série précédente. On obtient alors :

 

> dagoTest(Y1)

Title:

 D'Agostino Normality Test

Test Results:

  STATISTIC:

    Chi2 | Omnibus: 3.2229

    Z3  | Skewness: -1.7038

    Z4  | Kurtosis: 0.5658

  P VALUE:

    Omnibus  Test: 0.1996

    Skewness Test: 0.08843

    Kurtosis Test: 0.5715

Description:

 Tue Dec  6 11:01:50 2011 by user:

 

Alors que les autres tests concluaient sur un défaut de normalité de cette série, le test de D'Agostino conclut en sens inverse.

 

Conclusion

 

Les exemples ci-dessus illustrent la sensibilité des tests usuels de normalité (Lilliefors, Shapiro-Wilk, etc) aux ex aequo et l'intérêt du test de D'Agostino sur de telles données. On pourrait penser, au vu de ces exemples, que le test de D'Agostino est très conservatif, et peu puissant. Mais plusieurs auteurs indiquent au contraire que ce test est plus puissant que les tests classiques.

 

On pourra noter également que d'autres tests de normalité ont été proposés, notamment le test de Jarque-Bera. Un exposé plus détaillé pourra être trouvé à l'adresse :

http://eric.univ-lyon2.fr/~ricco/cours/cours/Test_Normalite.pdf

 

Bibliographie.

 

D'Agostino, R.B. (1986), Tests for the Normal Distribution, in D'Agostino, R.B. and Stephens, M.A. (eds.), Goodness-of-fit Techniques (pp. 367-419). New York: Marcel Dekker.

 

D'Agostino, R.B., Pearson, E.S. (1973), Tests of Departure of Normality. Empirical Results for the distribution of b2 and √b1, Biometrika, 60, pp 613-622

 

Sheskin, David J., Handbook of Parametric and nonparametric statistical procedures, 3rd edition, Chapman & Hall, 2004.

 

Tabachnick, B.G., Fidell, L.S., Using Multivariate Statistics, 4th edition, Boston: Allyn & Bacon