Fiche de JEYASOTHY Adulam

Titre : Génération d'explications post-hoc personnalisées
Date : 20 février 2024
Heure: 14:00
Résumé : La thèse se place dans le domaine de l'IA explicable (XAI). Nous étudions les méthodes d'interprétabilité post-hoc qui expliquent à un utilisateur la prédiction pour une donnée par un modèle de décision entraîné. Pour augmenter l'interprétablité des explications, cette thèse étudie l'intégration des connaissances dans ces méthodes et propose des explications personnalisées. Pour cela, nous proposons un formalisme général qui intègre la connaissance via un nouveau critère dans les objectifs d'interprétabilité. Ce formalisme est décliné pour différents types de connaissances et d'explications, particulièrement les exemples contrefactuels, conduisant à la proposition de plusieurs algorithmes (KICE, rKICE, KISM). L'agrégation des contraintes de qualité classique et de compatibilité avec les connaissances est étudiée en utilisant l'intégrale de Gödel comme opérateur. Nous discutons de la difficulté à générer une unique explication adaptée à tous les utilisateurs et de la notion de diversité
Lieu : 25-26/105