Doctorant (F/H) Évaluation Des Risques Liés Au Partage de Modèles D’ia Issues D’un Eds

**Type de contrat**: CDD

**Niveau de diplôme exigé**: Bac + 5 ou équivalent

**Fonction**: Doctorant

**A propos du centre ou de la direction fonctionnelle**:
Le centre de recherche Inria de l’Université Grenoble Alpes regroupe un peu moins de 600 personnes réparties au sein de 27 équipes de recherche et 8 services support à la recherche.

Son effectif est distribué sur 3 campus à Grenoble, en lien étroit avec les laboratoires et les établissements de recherche et d'enseignement supérieur (Université Grenoble Alpes, CNRS, CEA, INRAE,), mais aussi avec les acteurs économiques du territoire.

Présent dans les domaines du calcul et grands systèmes distribués, logiciels sûrs et systèmes embarqués, la modélisation de l’environnement à différentes échelles et la science des données et intelligence artificielle, Inria Grenoble - Rhône-Alpes participe au meilleur niveau à la vie scientifique internationale par les résultats obtenus et les collaborations tant en Europe que dans le reste du monde.

**Contexte et atouts du poste**:
**Contexte**

Les données de santé, généralement issues du soins, constituent un potentiel important pour la recherche et l’organisation du système de santé. Compte tenu du caractère sensible des données médicales, dont la divulgation non maîtrisée entraîne des risques d’atteinte à la réputation et de préjudices pour les personnes concernées, la mise en place de mesures de protections adéquates est un préalable à leur exploitation. Un cadre normatif strict s’applique d’ailleurs aux traitements réalisés sur ces données (règlement général sur la protection des données, loi informatique et liberté, méthodologies de référence, règles internes des organisations, etc.). Outre leur coût et leur complexité de mise en œuvre, ces mesures de protection limitent le potentiel d’exploitation des données et donc les conséquences positives attendues pour la santé des populations.

Les méthodes visant à garantir la protection des données sensibles sont nombreuses comme **l’anonymisation ou la dé-identification des informations, l’agrégation de données, l’apprentissage fédéré, ou**la génération de données synthétiques**. Dans leurs versions actuelles, ces méthodes ne permettent pas de répondre aux besoins pratiques d’un Entrepôt de Données de Santé (EDS):

- Le choix de la méthode appropriée au cadre légal dans un contexte spécifique dépend de chaque situation et mélange des arguments de nature juridique, scientifique, organisationnel et technique ;
- Mise en œuvre complexe dans un environnement évoluant très rapidement (ex : structure des données souvent complexe, volumétrie importante, évolution rapide des méthodes et modèles de traitement des données, développement de méthodes de ré-identification par exemple sur les modèles entraînés sur des données personnelles, etc.) ;
- Faible niveau de connaissance sur les risques d’atteinte à la vie privée et les possibilités des méthodes de protection au sein des organisations ;
- Les craintes de risques résiduels d’atteinte à la vie privée conduisent souvent les organisation à une limitation préventives des traitements, parfois au-delà du cadre légal.

Au sein de la direction des services numériques de l’AP-HP, le pôle innovation et données assure, parmi d’autres missions, le développement et l’exploitation d’un entrepôt de données de santé (EDS) regroupant les données de soin des hôpitaux de l’AP-HP. Cet entrepôt, l’un des plus importants d’Europe, contient des informations sur des millions de patients (dossiers médicaux, comptes rendus, résultats d’analyse, imagerie, etc.) et offre des perspectives importantes en matière de recherche clinique, d’appui au pilotage et plus largement d’innovation dans le domaine de la santé. Comme les autres entrepôts de données de santé, il est soumis à des impératifs d’exploitation et de transmission des données pour réaliser des missions primaires ainsi qu’à des contraintes réglementaires et éthiques fortes.

Une grande partie de ces données issues d’un EDS sont des documents textuels non structurés sous forme de rapports médicaux. Avec l'essor de l'apprentissage automatique (ML) et l'avènement du traitement automatique du langage naturel (NLP), les grands modèles de langage (LLMs) sont de plus en plus utilisés pour automatiser le traitement de ces rapports médicaux.

Les dossiers médicaux des patients sont des données extrêmement sensibles et privées. Leur utilisation et leur diffusion sont donc soumises à de nombreuses réglementations, telles que la loi HIPAA aux États-Unis ou le RGPD en Europe. Dans cette réglementation, l'une des principales conditions préalables à la diffusion des données médicales est la suppression de tout élément permettant l'identification directe (c'est-à-dire la dé-identification ou la pseudonymisation) ou indirecte (c'est-à-dire l'anonymisation) d'un patient.

Les avancées récentes en NLP basées sur les réseaux de neurones ont démocratisé leur utilisation. Depuis l'avènement de ChatGPT, les LLMS ne