Description
Date depot: 13 décembre 2022
Titre: Gestion des biais en contexte d’apprentissage fédéré pour développer une IA équitable
Directeur de thèse:
Marios KOUNTOURIS (Eurecom)
Domaine scientifique: Sciences et technologies de l'information et de la communication
Thématique CNRS : Non defini
Resumé: Aujourd’hui, grâce aux capacités de calcul et de stockage mais aussi à l’explosion des données, les techniques d’apprentissage automatique/intelligence artificielle (IA) sont de plus en plus utilisées. Cependant l’IA amplifie les risques de décisions biaisées et inéquitables voire discriminantes. Parmi les techniques d’apprentissage, l’apprentissage fédéré présente un intérêt particulier. En rendant possible l’entraînement d’un modèle unique à plusieurs entités, il permet de disposer de données d’entraînement en quantité et qualité suffisante sans pour autant exiger leur stockage centralisé. L’objectif de la thèse est la gestion des biais et la proposition de nouvelles métriques d’équité lors de l’apprentissage fédéré. Une fois que les différentes sources de biais se sont identifiées, nous allons proposer un cadre mathématique qui permette d’identifier, pour chaque cas d’usage, les différentes contraintes existantes (techniques, marketing, légales) qui peuvent être conciliées et en optimiser la combinaison, Il permettra aussi de rendre explicables les modèles d’IA ainsi développés. Nous allons également proposer une ou plusieurs métriques d’équité polymorphes et personnalisables au contexte d’usage d’un opérateur télécom.
Résumé dans une autre langue: Nowadays, thanks to computing and storage capacities but also to the explosion of data, machine learning/artificial intelligence (AI) techniques are increasingly used. However, AI amplifies the risks of biased and unfair, even discriminatory, decisions. Among the different learning techniques, federated learning is of particular interest. By making it possible to train a single model with several entities, it enables to have training data in sufficient quantity and quality without requiring them to be stored centrally. The objective of the thesis is the management of biases and the proposal of new fairness metrics during federated learning. Once the different sources of bias have been identified, we will propose a mathematical framework that makes it possible to identify, for each use case, the different existing constraints (technical, marketing, legal) that can be reconciled and optimize their combination. This will also make it possible to explain the AI models thus developed. We are also going to propose one or more polymorphic and customizable fairness metrics adapted to the context of use of a telecom operator.
Doctorant.e: Monnier Jeanne