Description
Date depot: 1 octobre 2020
Titre: interprétabilité des modèles en apprentissage automatique
Directeur de thèse:
Christophe MARSALA (LIP6)
Directrice de thèse:
Marie-Jeanne LESOT (LIP6)
Domaine scientifique: Sciences et technologies de l'information et de la communication
Thématique CNRS : Intelligence artificielle
Resumé: Cette thèse vise à étudier comment de telles connaissances pourraient être utilisées pour renforcer les méthodes actuelles d'interprétabilité, afin de générer des explications plus utiles. Cela suppose la disponibilité de certaines connaissances d'experts, encodées sous une certaine forme : connaissances sur l'importance des attributs utilisés pour classification, sur les limites de l’espace considéré, le manque potentiel de fiabilité de certaines caractéristiques... En particulier, le cas de la connaissance causale (par exemple, encodée sous forme de graphe causal) devra être exploré.La thèse portera sur les méthodes d'interprétabilité post-hoc (par exemple, contrefactuels, modèles de substitution...) pour la classification. En premier lieu, l'interprétabilité locale (c'est-à-dire la génération d'explications pour une seule prédiction) doit être étudiée. Toutefois, il est possible d'étendre l'étude aux méthodes d'interprétabilité globale.
Doctorant.e: Jeyasothy Adulam