A scalable Bayesian method for estimating a fixed number of coordinates in the high-dimensional sparse linear regression model
Alice L'huillier  1@  , Ismael Castillo  1@  , Luke Travis  2@  , Kolyan Ray  2@  
1 : Laboratoire de Probabilités, Statistique et Modélisation
Sorbonne Université, Centre National de la Recherche Scientifique, Université Paris Cité, Sorbonne Université : UMR_8001, Centre National de la Recherche Scientifique : UMR_8001, Université Paris Cité : UMR_8001
2 : Department of Mathematics [Imperial College London]

Dans ce travail, on se place dans le contexte du modèle de régression linéaire en grande dimension sous contrainte de sparsité. On souhaite obtenir un intervalle de confiance pour une coordonnée (ou un nombre fixe de coordonnées) du vecteur de régression par une méthode bayésienne. Pour cela, on définit une loi a priori sur les vecteurs sparses qui cible la coordonnée d'intérêt. L'échantillonage du posterior correspondant étant coûteux, on propose une approximation variationnelle du posterior qui va, elle aussi, cibler la coordonnée d'intérêt. D'un côté, on étudie cette méthode du point de vue théorique en montrant un résultat de type Berstein-von Mises pour l'approximation variationnelle sous des hypothèses de compatibilité sur la matrice de design. Ensuite, la méthode est implémentée sur des données simulées et montre de bonnes performances dans différents cadres, tout en ayant un temps de calcul comparable à d'autres méthodes fréquentistes.



  • Poster
Personnes connectées : 6 Vie privée
Chargement...