-
Notifications
You must be signed in to change notification settings - Fork 0
/
01-intro.Rmd
166 lines (96 loc) · 10.4 KB
/
01-intro.Rmd
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
# Les analyses multivariées {#intro}
## Objectifs
On dispose d'un grand volume de données :
- $n$ individus
- $p$ variables, avec $p>2$, potentiellement de natures différentes (qualitatives, quantitatives, binaires...)
$\Rightarrow$ On ne peut pas examiner tous les croisements des variables 2 à 2.
L'analyse multidimensionelle permet de croiser toutes les variables simultanément et de synthétiser l'information.
**Les méthodes présentées ici entrent dans la famille des statistiques exploratoires, très utiles pour défricher certains jeux de données. Par contre, en général elles ne permettent pas directement de tester des hypothèses et encore moins d'inférer des causalités. **
## Comment synthétiser ?
- On souhaite passer d'un espace trop grand, non visualisable ($p$ dimensions) à un espace plus petit (moins de dimension).
- Mais on souhaite conserver l'essentiel de la variabilité entre individus $\Rightarrow$ Concept **d'inertie du nuage de points**.
**Solution** : On construit un nouvel espace, dans lequel l'inertie est concentrée sur les premiers axes factoriels. Autrement dit, on construit des nouvelles variables (qui définissent le nouvel espace), combinaisons linéaires des variables initiales, pour lesquelle l'inertie est maximale sur le nombre le plus réduit possible.
## Quelles méthodes ?
Une première partie sera consacrée aux **analyses factorielles**. Ces dernières permettent de voir rapidement les corrélations ou liens entre variables dans le jeu de données, et de diminuer l'espace d'analyse en construisant des variables synthétiques. Quelques exemples :
- **ACP** (analyse en composantes principales) : analyse de $p$ variables *quantitatives*
- **AFC** (analyse factorielle des correspondances) : analyse de 2 variable *qualitatives*
- **ACM** (analyse des correspondances multiples) : analyse de $p$ variable *qualitatives*
- etc...
Quand on emploie ces méthodes, la procédure à suivre est toujours la même :
- Implémentation de la méthode choisie $\rightarrow$ création d'un objet R.
- Choix du nombre de variables synthétiques retenues.
- Interprétation des résultats :
+ Comment sont corrélées les variables initiales ?
+ Quel sens puis-je donner à mes variables synthétiques ?
+ Est-ce que des groupes d'individus se dégagent ?
On verra enfin deux méthodes de classification (attention pour vos recherches en anglais : *clustering* est le terme correspondant ; *classification* fait référence aux algorithmes de discrimination). Ces méthodes visent à regrouper $n$ individus en $k$ classes, à partir de $p$ variables (continues ou qualitatives). Quelques exemples :
- **CAH** (classification ascendante hiérarchique)
- **K-moyennes** ou "nuées dynamiques"
- DBscan
- X-means
Une ressource inestimable pour les méthodes de *clustering* (et le machine learning en général) : [Page de Scikit-lean](http://scikit-learn.org/stable/modules/clustering.html#clustering).
## Lien entre ces méthodes
- Toutes visent à diminuer la dimension de l'espace d'analyse et à résumer au mieux l'information.
- Elles se basent toutes sur le critère d'inertie, autrement dit sur l'hétérogénéité des individus.
- Pour toutes, il faut choisir le nombre de variables (ou de classes) à retenir.
- Les analyses factorielles permettent de repérer les variables qui permettent le plus de résumer l'information.
- La classification permet de regrouper les individus aux caractéristiques proches. C'est la méthode la plus synthétique, donc la plus réductrice.
- Il est souvent pertinent d'utiliser une analyse factorielle + une méthode de partitionnement en complément pour bien comprendre l'information contenue dans les données.
## Notion de distance
On parle de proximité entre les individus $\Rightarrow$ comment la mesurer ? Par une distance.
Exemple de la distance euclidienne en 3D : $D = \sqrt{(x_{b}-x_{a})^2+(y_{b}-y_{a})^2+(z_{b}-z_{a})^2}$
Il existe de nombreuses autres distances qui répondent à différents usages. En restant dans le domaine des distances géographiques, il existe par exemple la distance orthodromique, utilisée par les marins, qui est la plus courte à la surface du globe terrestre entre deux points (calculable avec les packages [geosphere](https://cran.r-project.org/web/packages/geosphere/geosphere.pdf) ou [fields](https://cran.r-project.org/web/packages/fields/fields.pdf)), ou la distance curviligne le long d'un réseau hydrographique utilisée par les hydrologues (calculable avec le [package riverdist](https://cran.r-project.org/web/packages/riverdist/riverdist.pdf)).
En génétique des populations, on utilise la distance génétique pour mesurer le degré de dissemblance entre deux génomes.
En écologie des communautés, l'indice de Jaccard permet de comparer la composition en espèces de deux communautés A et B. C'est le pourcentage du nombre total d'espèces présentes dans au moins un des échantillons qui est commun aux deux échantillons :
$J(A,B) = \frac{|A \cap B|}{|A \cup B|}$
<center>{width=50%}</center>
C'est donc un indice de proximité qui varie de 0% (aucune espèce n'est commune aux deux échantillons) à 100% (toutes les espèces sont communes à A et à B).
La distance de Jaccard est $D_j = 1 - J$.
$\Rightarrow$ Il existe de nombreuses autres distances correspondant à différents usages et métiers.
En statistiques, on est amené à utiliser des distances "exotiques" en plus de la distance euclidienne et de la distance de Jaccard : Distance du ${\chi}^2$ (en AFC et ACM), Mahalanobis, Bray-Curtis ...
## Questions à se poser
Mon objectif est de :
1. Déterminer une typologie $\Rightarrow$ classification / partitionnement.
2. Explorer des liens entre variables et entre individus $\Rightarrow$ analyses factorielles.
Puis, si l'on est dans le cas n°2, [cette petite vidéo](https://youtu.be/aiqGyLGrQ48) (en anglais, mais l'accent de l'auteur aide à la compréhension) donne un rapide aperçu des questions à se poser avant de se lancer dans les analyses. On peut la résumer ainsi :
3. Que représente mon tableau de données ?
- Un tableau de contingence $\Rightarrow$ AFC
- Un tableau de $n$ individus x $p$ variables $\Rightarrow$ aller au point 4.
4. Quels sont les éléments (lignes, colonnes) qui seront "actifs", c'est-à-dire qui participeront à la constitution des axes, donc à la détermination des distances entre les individus ? Les autres éléments, dits "supplémentaires", pourront être positionnés après coup sur les axes.
5. Les variables sont-elles quantitatives ou qualitatives ?
- Quantitatives $\Rightarrow$ ACP
- Qualitatives, 2 variables et tableau de contingence $\Rightarrow$ AFC
- Qualitatives, autres cas $\Rightarrow$ ACM
6. Si l'on est dans le cas de l'ACP, doit-on standardiser les variables ?
7. Y a-t-il des valeurs manquantes dans le tableau à analyses ? Si oui, comment les gérer ?
## Nature des variables
On distingue les variables qualitatives des variables quantitatives. Cependant, cette distinction n'est pas absolument évidente.
### Variables quantitatives
Une variable **quantitative** permet de mesurer une grandeur (quantité). Elle peut être :
- **discrète** (un nombre fini de valeurs possibles). *Exemple : un nombre de logements*
- **continue** (*a priori*, toutes les valeurs possibles). *Exemple : une taille, une surface, un revenu*
### Variables qualitatives
Une variable **qualitative** indique des caractéristiques qui ne sont pas des quantités. Les différentes valeurs que peut prendre cette variable sont appelées les catégories ou modalités (`levels` dans R). Elle peut être :
- **ordonnée** (exprimer un ordre). *Exemple : "petit - moyen - grand "*
- **non ordonnée**. *Exemple : une couleur, un groupe sanguin...*
### Entre les deux
Les variables binaires (ou boléennes) peuvent être considérées soit comme quantitatives, soit comme qualitatives.
Les variables ordinales peuvent être codées quantitativement, comme par exemple un indice de satisfaction dans une enquête :
- 0 : Pas satisfait du tout
- 1 : Plutôt pas satisfait
- 2 : Plutôt satisfait
- 3 : Très satisfait
Dans un tel cas, ce n'est pas très élégant car ça dépebd du codage choisi, mais on peut calculer des indices de satisfaction "moyens" par exemple pour comparer des groupes.
À l'inverse, on peut discrétiser une variable quantitative pour la transformer en variable qualitative, avec la fonction `cut` et en précisant les bornes du découpage. En discrétisant, on perd une part de l'information (l'information intra-classe), donc c'est à éviter autant que possible en privilégiant les méthodes applicables aux variables quantitatives.
## Le package FactoMineR
Il existe de nombreux packages R pour les analyses multivariées : `ade4`, `vegan`, `cluster`, `Hmisc`, etc. Il a bien fallu choisir.
Le package `FactoMineR` est décrit dans [cet article du J. Stat. Software de 2008](https://www.jstatsoft.org/index.php/jss/article/view/v025i01/v25i01.pdf). Il a donc fait ses preuves. Il est très employé : en décembre 2018, [l'article est cité plus de 1800 fois depuis 2008 dans Google Scholar]()https://scholar.google.fr/scholar?as_q=factominer&as_epq=&as_oq=&as_eq=&as_occt=any&as_sauthors=husson&as_publication=&as_ylo=&as_yhi=&hl=fr&as_sdt=0%2C5.
Il permet de réaliser toutes les analyses multivariées usuelles et fournit de nombreuses aides graphiques à l'interprétation $\Rightarrow$ "école française de l'analyse multivariée".
Deux de ses fonctionnalités sont particulièrement intéressantes :
- La possibilité de projeter des variables ou des individus supplémentaires.
- La simplicité d'utilisation avec le package [missMDA](http://math.agrocampus-ouest.fr/infoglueDeliverLive/developpement/missMDA) pour imputer les valeurs manquantes.
La documentation associée est très riche, dont une bonne partie en français. Il y a en particulier :
- [Un site web](http://factominer.free.fr/)
- [Des tutos en vidéo](https://www.youtube.com/playlist?list=PLnZgp6epRBbTsZEFXi_p6W48HhNyqwxIu)
Il existe un module complémentaire pour améliorer les graphiques de sortie : [Factoshiny](http://factominer.free.fr/graphs/factoshiny-fr.html).
La plupart des méthodes qui ne sont pas comprises dans `FactoMineR` peuvent être mises en oeuvre avec le package `ade4`, en particulier pour l'analyse discriminante et les analyses à plusieurs tableaux (co-inertie, ACP sur variables instrumentales, analyse canonique des correspondences, analyse RLQ).