Description
Date depot: 23 mars 2020
Titre: Designing User-centered Explainable Interfaces for Machine Learning Interpretability
Directeur de thèse:
Charles TIJUS (CHArt)
Directrice de thèse:
Marie-Jeanne LESOT (LIP6)
Domaine scientifique: Sciences et technologies de l'information et de la communication
Thématique CNRS : Non defini
Resumé:
L'augmentation des données disponibles ainsi que les progrès en analyse de données ont permis d'améliorer les performance des méthodes d'apprentissage automatique, désormais capables de prédire plus précisément des maladies en amont, de conduire des voitures de manière autonome ou encore comprendre le langage et générer des conversations...
Cependant, l'utilisabilité d'un algorithme d'apprentissage automatique est limitée par son incapacité à expliquer sa prédiction à un humain. Cela peut devenir problématique dans des situations où l'éthique est importante —ressources humaines, santé, justice... Si les chercheurs en sciences computationnelles s'intéressent de près à l'interprétabilité des modèles d'apprentissage automatique, il reste un gap important à combler entre fournir une interprétation technique, donnée par LIME ou SHAP par exemple, et une explication accessible et utile pour l'utilisateur final.
Aussi, en complément des approches techniques proposées dans la littérature, une approche centrée utilisateur permettrait de mieux comprendre les besoins en terme d'explications. L'objectif de la thèse est de fournir des lignes directrices pour la conception d'interfaces interactives explicatives pour des systèmes basés sur l'apprentissage automatique. Pour cela, les travaux de thèse étudieront à travers différentes expériences les besoins des utilisateurs en fonction de facteurs variés, tels que le niveau d'expertise et le profil cognitif, et viseront à proposer des interfaces permettant de s'adapter à ces besoins, afin de favoriser l'interprétation individuelle des outils d'apprentissage automatique par des publics divers.
Doctorant.e: Bove Clara