Description
Date depot: 5 juillet 2024
Titre: Privacy-enhancing technologies for collaborative machine learning and federated analytics
Directrice de thèse:
Melek ONEN (Eurecom)
Encadrant :
Antonio FAONIO (Eurecom)
Domaine scientifique: Sciences et technologies de l'information et de la communication
Thématique CNRS : Non defini
Resumé: More and more companies have started to collaborate with each other to increase the value of their data sets and build stronger machine learning models. While the benefits of such federated computation over data are multiple, data sharing can result in severe security and privacy issues. Therefore, there is a paramount need for deploying appropriate privacy-enhancing technologies to ensure that data is continuously and effectively protected and used for legitimate purposes only.
The goal of this PhD is to design, develop, and evaluate appropriate privacy-enhancing technologies and more specifically cryptographic primitives based on multi-party computation for federated data processing. The PhD student will first start by investigating potential threat models for federated learning and the existing literature on security solutions for this architecture.
The candidate will further study the impact of clients’ dynamics (frequent joins/leaves) and failures on the performance, accuracy, and security of the actual federated datasharing framework when privacy-enhancing technologies are used. The ultimate goal is to develop, integrate, and evaluate new privacy-preserving solutions that will address all the new challenges that a collaborative setting raises.
Résumé dans une autre langue: De plus en plus d'entreprises ont commencé à collaborer entre elles afin d'accroître la valeur de leurs données et de construire des modèles d'apprentissage automatique plus performants. Bien que les avantages d'un tel calcul fédéré sur les données soient multiples, le partage des données peut entraîner de graves problèmes de sécurité et de confidentialité. C'est pourquoi il est absolument nécessaire de déployer des technologies appropriées de protection de la vie privée afin de s'assurer que les données sont continuellement et efficacement protégées et utilisées uniquement à des fins légitimes.
L'objectif de ce doctorat est de concevoir, de développer et d'évaluer des technologies et plus particulièrement des primitives cryptographiques basées sur le calcul multipartite pour les données fédérées. Le doctorant commencera par étudier les menaces potentielles et les modèles de sécurité pour l'apprentissage fédéré et la littérature existante sur les solutions de sécurité pour cette architecture. Le candidat étudiera en outre l'impact de la dynamique des clients (entrées/sorties fréquentes) et de leurs défaillances, sur la performance, la sécurité et l'efficacité de ce système distribué lorsque des technologies de renforcement de la protection de la vie privée sont utilisées.
L'objectif final est de développer, d'intégrer et d'évaluer de nouvelles solutions de protection de la vie privée qui répondront à tous les nouveaux défis soulevés par ce framework collaborative.
Doctorant.e: Manam Bhargav