Evaluation de La Quantité D’information Partagée Dans Les Systèmes D’apprentissage Fédéré

**Evaluation de la quantité d’information partagée dans les systèmes d’apprentissage fédéré**:

- Réf **ABG-128034**
- Stage master 2 / Ingénieur
- Durée 6 mois
- Salaire net mensuel 600 Euros
- 21/01/2025
- INSA - CVL
- Lieu de travail- Bourges Centre Val de Loire France
- Champs scientifiques- Informatique
- Informatique
- Mots clés- apprentissage fédéré, confidentialité des données, équité

**Établissement recruteur**:
Environnement de travail
Le stagiaire sera intégré à une équipe de recherche dynamique au sein du laboratoire LIFO de l'INSA-CVL à Bourges, et plus précisément dans l’équipe SDS, spécialisée dans l’apprentissage fédéré, la confidentialité des données et la modélisation des connaissances. Il bénéficiera d’un encadrement scientifique rigoureux et d’un environnement propice à la recherche et à l’innovation.

**Description**:
L’apprentissage fédéré (FL) est une approche innovante permettant d’entraîner des modèles d’apprentissage automatique sur des données réparties entre plusieurs clients, tout en préservant la confidentialité des données locales. Cette méthode repose sur la communication entre les clients et un agrégateur central, souvent complétée par l’utilisation de canaux auxiliaires pour échanger des informations spécifiques (telles que des métadonnées, des mises à jour des modèles ou des paramètres partiels). Cependant, cette communication soulève des questions critiques, tant sur la quantité et la nature des informations partagées que sur les risques associés à la confidentialité. En effet, les données échangées, même si elles ne sont pas explicitement sensibles, peuvent contenir des informations implicites exploitables par des attaquants, entraînant des violations potentielles de la vie privée.

Objectifs du stage
Dans ce contexte, le principal objectif de ce stage est d’explorer et de comprendre les mécanismes sous-jacents à ces interactions en FL, en mettant l’accent sur les enjeux liés à l’équité (fairness) et à la confidentialité. Plus précisément, il s’agit de réaliser un état de l’art exhaustif des algorithmes existants et des métriques permettant d’évaluer à la fois l’équité des modèles et la sécurité des canaux auxiliaires. Ce travail visera à identifier les compromis potentiels entre équité, efficacité des modèles et protection des données personnelles.

Missions spécifiques du stagiaire:
Identification des canaux auxiliaires en FL:

- Analyser les différents types de canaux utilisés pour la communication (par exemple, mises à jour des gradients, paramètres partagés, métadonnées).
- Étudier leur rôle dans le processus global d’apprentissage et leur impact sur la confidentialité.

Analyse des risques liés à la confidentialité:

- Examiner les mécanismes potentiels de fuite d’informations (par exemple, inférences sur les données des clients à partir des mises à jour partagées).

Revue approfondie des algorithmes d’équité en FL:

- Recenser les approches existantes qui traitent des biais algorithmiques dans les systèmes FL.
- Identifier les métriques et techniques utilisées pour évaluer et améliorer l’équité des modèles distribués.

Évaluation de la quantité d’informations partagées:

- Étudier les métriques utilisées pour mesurer la quantité et la qualité des informations échangées via les canaux auxiliaires.
- Comparer les approches qui optimisent l’équilibre entre efficacité des modèles et minimisation des données partagées.

Contexte du stage:
Ce stage s’inscrit dans le cadre du projet ANR CITADEL, qui vise à développer des solutions d’intelligence artificielle pour le domaine de la santé tout en respectant les contraintes de confidentialité. Le stagiaire bénéficiera d’un environnement de travail stimulant et collaboratif, ainsi que d’un encadrement scientifique de qualité, impliquant des organismes de recherche, des industriels et des centres hospitaliers universitaires (CHU).

Ce stage peut déboucher sur une thèse de doctorat portant sur un sujet connexe dans le cadre du projet ANR

**Profil**:
**Prise de fonction**:

- Dès que possible