Kernel KMeans clustering splits for end-to-end unsupervised decision trees
Louis Ohl  1, 2, 3, 4, 5@  , Pierre-Alexandre Mattei  1, 6@  , Frédéric Precioso  1, 2, 5@  , Arnaud Droit  3, 4@  , Mickaël Leclercq  3, 4@  
1 : Equipe Maasai, Inria Sophia Antipolis
Institut National de Recherche en Informatique et en Automatique
2 : Signal, Images et Systèmes
Laboratoire d'Informatique, Signaux, et Systèmes de Sophia Antipolis
3 : Axe Endocrinologie et Néphrologie [CRCHU de Québec]
4 : Université Laval [Québec]
5 : Université Côte d'Azur
Université Côte d'Azur (UCA)
6 : Laboratoire Jean Alexandre Dieudonné
Université Nice Sophia Antipolis (1965 - 2019), Centre National de la Recherche Scientifique, Université Côte d'Azur

Français: Les arbres de décisions sont des modèles utiles pour obtenir des prédictions avec explications pour des jeux de données de tailles raisonnables. Alors qu'il existe de nombreuses propositions d'algorithmes pour construire de tels arbres en supervisé d'un seul coup, aucune proposition d'algorithme d'apprentissage en une étape n'existe pour le cas non-supervisé du clustering. Les travaux connexes se concentrent plutôt sur l'apprentissage supervisé via un arbre du résultat d'un premier algorithme de clustering. Nous présentons ici une première proposition de construction d'arbre de décisions pour clustering en une seule étape~: Kauri. Kauri utilise une optimisation gloutonne du score K-Moyennes à noyau sans calculer ni définir des centroïdes. Nous comparons Kauri à la concaténation K-Moyennes + CART et montrons de meilleurs performances de clustering lorsque le noyau n'est pas linéaire.

English: Trees are convenient models for obtaining explainable predictions on relatively small datasets. Although there are many proposals for the end-to-end construction of such trees in supervised learning, learning a tree end-to-end for clustering without labels remains an open challenge. As most works focus on interpreting with trees the result of another clustering algorithm, we present here a novel end-to-end trained unsupervised binary tree for clustering: Kauri. This method performs a greedy maximisation of the kernel KMeans objective without requiring the definition of centroids. We compare this model with a KMeans + CART combination and show that Kauri displays better performances for other kernels than the linear kernel.



  • Poster
Personnes connectées : 2 Vie privée
Chargement...