Doctorant (F/H) de Quoi Rêvent Les Gnn - Méthode D'interprétabilité Basée Sur L'extraction de Motifs

**Type de contrat**: CDD **Niveau de diplôme exigé**: Bac + 5 ou équivalent **Fonction**: Doctorant **A propos du centre ou de la direction fonctionnelle**: Le centre Inria de l'Université de Rennes est un des neuf centres d’Inria et compte plus d'une trentaine d’équipes de recherche. Le centre Inria est un acteur majeur et reconnu dans le domaine des sciences numériques. Il est au cœur d'un riche écosystème de R&D et d’innovation : PME fortement innovantes, grands groupes industriels, pôles de compétitivité, acteurs de la recherche et de l’enseignement supérieur, laboratoires d'excellence, institut de recherche technologique. **Contexte et atouts du poste**: **Dans le cadre d’un partenariat** (vous pouvez choisir entre) - public avec ANR **Mission confiée**: **Contexte** Les GNN (Graph Neural Network) [1] sont des réseaux de neurones particulièrement populaires actuellement car ils permettent de traiter des données de type graphes (ex: réseaux sociaux, molécules, graphes de connaissances,etc.). Ces approches sont devenues l'état de l'art pour des tâches comme la prédiction de lien ou la classification de graphes, avec des résultats impressionnants par rapport aux approches antérieures. Toutefois comme les autres approches s'appuyant sur des réseaux de neurones, les décisions des GNN ne sont pas inteprétables : il est quasiment impossible pour un expert humain de comprendre ce qui a conduit à cette décision. Contrairement aux approches de réseaux de neurones classiques (i.e., prenant en entrée du texte ou des images) pour lesquelles de nombreuses méthodes d'explicabilité existent [2,3], peu de travaux se sont intéressés aux cas des graphes. Dans [4] une approche d'explicabilité pour les GNN utilisant la fouille de motifs [5] a été proposée. Cette méthode a la particularité de s'appuyer directement sur les composantes activées pendant la prise de décision du GNN, extrayant des motifs appelés "règles d'activation". Ces règles d'activation sont ensuite reliées aux données graphes d'entrée, permettant de générer des explications sous forme de sous-graphes. Cette méthode préliminaire a plusieurs limitations. En premier lieu, les règles d’activation ne sont extraites que pour une couche donnée du GNN, limitant leur expressivité. De plus, les non-activations ne sont pas prises en compte alors qu’elles peuvent cruciales pour expliquer une décision. L’autre limitation importante est la trop grande quantité de règles d'activation générées, liée à la nature combinatoire l’approche d’extraction. Il faut donc une mesure de qualité pour en sélectionner un sous-ensemble pertinent. La mesure utilisée actuellement par la méthode est basée sur des propriétés statistiques de l'ensemble de règles d'activation, mais ne fait pas le lien entre les règles et les parties des graphes d'entrée auxquelles elles correspondent. **Objectif de la thèse** L’objectif de la thèse est de fournir aux utilisateurs humains des explications riches, précises et compréhensibles des décisions d’un GNN. Dans un premier temps le travail de la thèse se focalisera sur l’expressivité des règles d’activation extraites du GNN. On souhaite ainsi développer une méthode extrayant des règles d’activation de composantes à partir d’un nombre arbitraire de couches du GNN, et prenant en compte aussi bien les activations que les non activations (e.g., patterns négatifs [6]). Cela conduira à l’exploration d’un espace immense de règles potentielles, l’approche proposée devra donc retourner un petit sous-ensemble des règles les plus pertinentes pour expliquer la décision du GNN. Pour cela, des méthodes basées sur la Théorie de l’Information (en particulier le principe de longueur de description mínimale [7]) seront étudiées. [1] F. Scarselli, M. Gori, A. C. Tsoi, M. Hagenbuchner, G. Monfardini. The Graph Neural Network Model. In IEEE Transactions on Neural Networks, vol. 20, no. 1, pp. 61-80 (2009). [2] M. Túlio Ribeiro, S. Singh, C. Guestrin. “Why Should I Trust You?": Explaining the Predictions of Any Classifier. KDD 2016: 1135-1144 [3] Scott M. Lundberg, Su-In Lee: A Unified Approach to Interpreting Model Predictions. NIPS 2017: 4765-4774 [4] L. Veyrin-Forrer, A. Kamal, S. Duffner, M. Plantevit, C. Robardet. On GNN explainability with activation rules. Data Min Knowl Disc (2022). [5] C. Aggarwal, J. Han. Frequent Pattern Mining. Springer, Cham (2014). [6] T. Guyet, R. Quiniou. NegPSpan: efficient extraction of negative sequential patterns with embedding constraints. Data Min. Knowl. Discov. 34(2): 563-609 (2020) [7] P. Grünwald. The Minimum Description Length Principle. The MIT Press (2007) **Principales activités**: Principales activés: - Développer des programmes - Concevoir des plateformes expérimentales - Rédiger des articles - Tester, modifier jusqu’à valider - Diffuser les travaux via des publications et des exposés - Présenter l’avancée des travaux aux partenaires **Compétences**: **A