Classification multiple#

Explorations autour d’un problème de classification multiple.

Début de l’histoire#

${\mathbf{1}\mathbf{1}}_{y_i}$

Confusions#

Un des premiers réflexes après avoir appris une classification multi-classe est de regarder la matrice de confusion. Certaines classes sont difficiles à classer, d’autres non. Je me demandais s’il existait un moyen de déterminer cela sans apprendre un classifieur. On souhaite apprendre la classification des points $(X_i,y_i)$, $X_i$ est un vecteur, $y_i$ la classe attendue. Si $\widehat{y_i}$ est la classe prédite, l’erreur de classification est :

$$E=\sum _i{\mathbb{1}}_{y_i\ne \widehat{y_i}}$$

On note $c_{ij}={\mathbb{1}}_{y_i=j}$ et $\widehat{c_{ij}}={\mathbb{1}}_{\widehat{y_i}=j}$. On note le vecteur $C_j=(c_{ij}{)}_i$ et $\widehat{C_j}=(\widehat{c_{ij}}{)}_i$. On peut réécrire l’erreur comme :

$$E=\sum _{ij}{\mathbb{1}}_{y_i=j}{\mathbb{1}}_{\widehat{y_i}\ne j}=\sum _{ij}{\mathbb{1}}_{y_i=j}(1-{\mathbb{1}}_{\widehat{y_i}=j})=\sum _{ij}{c}_{ij}(1-\widehat{c_{ij}})=\sum _j<C_j,1-\widehat{C_j}>$$

C’est aussi égal à :

$$E=\sum _{k\ne j}<C_j,\widehat{C_k}>$$

Et $<C_j,\widehat{C_k}>$ correspond au nombre d’erreurs de confusion : le nombre d’éléments de la classe $j$ classés dans la classe $k$. $<C_j,\widehat{C_k}>$ est le nombre d’éléments correctement classés dans la classe $j$. On peut montrer que

$$\sum _{k,j}<C_j,\widehat{C_k}>=N$$

où $N$ est le nombre d’observations.

Clustering#

Et si nous introduisions un clustering intermédiaire. On construit $Q$ cluster, $q_i$ est le cluster du point $X_i$ et on note $d_{il}={\mathbb{1}}_{q_i=l}$ et le vecteur $D_l=(d_{il}{)}_i$.

$$E=\sum _{k\ne j}<C_j,\widehat{C_k}>$$

On note $X.Y$ le produit terme à terme de deux vecteurs.

$$E=\sum _{k\ne j,l}<C_j.D_l,\widehat{C_k}>=\sum _{k\ne j,l}<C_j.D_l,\widehat{C_k}.D_l>$$

Le nombre d’erreurs est la somme des erreurs faites sur chaque cluster. Supposons maintenant qu’un classifieur retourne une réponse constante sur chacun des clusters, on choisit la classe plus représentée. Ca ressemble beaucoup à un classifieur bayésien. On note $f(l)$ cette classe la plus représentée. Elle vérifie :

$$f(l)=\arg \underset{j}{max}<C_j,D_l>$$

Cela signifie que $\widehat{c_{ij}}=\sum _l{\mathbb{1}}_{j=f(l)}{d}_{il}$. Si on note $l(i)$ le cluster associé à $i$. On continue : $\widehat{c_{ij}}={\mathbb{1}}_{j=f(l(i))}$. On définit l’erreur $e(l)$ l’erreur de classification faite sur chaque cluster $l$ :

$$e(l)=\sum _i{d}_{il}\sum _j{c}_{ij}(1-{\mathbb{1}}_{j=f(l)})=\sum _i{d}_{il}(\sum _j{c}_{ij}-\sum _j{c}_{ij}{\mathbb{1}}_{j=f(l)})=\sum _i{d}_{il}(1-c_{i,f(l)})=\sum _i{d}_{il}-\sum _i{d}_{il}{c}_{i,f(l)}$$

Pour résumer, l’erreur est le nombre d’éléments moins le nombre d’éléments dans la classe majoritaire du cluster. Si le nombre de clusters $Q$ devient supérieur ou égal au nombre d’observations, cette erreur devient nulle.

Mise en pratique#

L’idée est de voir comment évolue cette erreur de classification naïve en fonction du nombre de clusters. La différence par rapport à un classifieur est qu’on sait comment sont fabriqués les clusters et qu’on peut imaginer les classes comme un assemblage de clusters d’une forme connue.

[2]: