Description
Date depot: 1 octobre 2020
Titre: Accélération de l'inférence pour les modèles bayésiens profonds
Directeur de thèse:
Maurizio FILIPPONE (Eurecom)
Domaine scientifique: Sciences et technologies de l'information et de la communication
Thématique CNRS : Non defini
Resumé:
Les modèles basés sur les réseaux neuronaux sont aujourd'hui acceptés comme le standard dans l'apprentissage automatique.
Une préoccupation croissante, cependant, est de savoir comment doter ces modèles de la capacité de raisonner sur l'incertitude de leurs prédictions.
L'approche bayésienne offre les outils mathématiques pour le faire, mais cela pose des défis statistiques et computationelles.
Malgré de nombreuses avancées dans le domaine qui offrent un moyen de caractériser l'incertitude dans ces modèles, il est rapporté que dans de nombreux cas, les performances prédictives des approches bayésiennes des modèles basés sur les réseaux neuronaux ne sont pas compétitives par rapport aux alternatives non bayésiennes.
Ce projet fera des progrès dans le sens de rendre les approches bayésiennes des modèles basés sur des réseaux neuronaux compétitives avec des alternatives non bayésiennes en termes de performances.
En particulier, le projet progressera dans les moyens de définir des priors pour les Deep Nets et les Conv Nets, et proposera des moyens d'améliorer les stratégies d'échantillonnage pour obtenir des performances compétitives par rapport à l'état de l'art, tout en obtenant une meilleure quantification de l'incertitude.
Doctorant.e: Tran Ba-Hien