Cdd Post-doc Sur L Autopsie de L'ia

Descriptif du poste

Face aux différents incidents techniques et sociaux posés par l'IA, ces dernières années ont connu la naissance d un certain nombre de communautés académiques en IA pour traiter le problème de l'interprétabilité ou de l'équité des algorithmes.

Cependant les méthodes qui en sont issues rencontrent des limites. Bien qu'il existe aujourd'hui des méthodes pour interpréter le Machine Learning tabulaire et catégoriel, il n'existe aucune méthode générique pour produire des explications stables et contextuelles du Deep learning. De même, concernant l'équité et les biais des algorithmes, bien qu'il existe des métriques pour mesurer et corriger les biais du ML, il est difficile d'appliquer ces méthodes sur du Deep learning sans variables catégorielles stables. La littérature académique s'accorde à dire que la production d'explication du Machine Learning est contextuelle. Il est donc crucial en XAI de ne pas proposer des outils d'explications top-down indépendants du contexte mais, au contraire, des méthodes d'investigation bottom-up qui partent d'un cas contextuel en situation pour le mettre en récit. Or les incidents générés par l'IA sont largement diffusés et il existe des bases de données recensant les incidents posés par l'IA. Ils offrent des situations idéales, non pas pour tester des méthodes d'explications préexistantes, mais pour co-construire des méthodes d'investigation contextuelle et bottom-up. Pour ce projet nous nous intéressons à des incidents précis : les incidents d'ordre éthique et social de l'IA qui ont pour beaucoup ont la particularité d'être générés par des IA semi-ouvertes. Cette relative ouverture de l'IA offre la possibilité de rétro-engineering certains algorithmes afin de simuler les incidents éthiques et les mettre en récit.

Il s'agit donc dans ce projet pluridisciplinaire de créer un environnement de mise en récit d'incidents éthiques liés au Deep Learning non catégoriel par la simulation d'incidents. Nous proposons la méthode suivante:

- Identifier un incident de l IA ayant fait controverse
- Identifier dans des répertoires publics les bases de données d'apprentissage, les réseaux pré-entraînés utilisés
- Reproduire le classifieur de Deep Learning lié à l incident
- Simuler l'incident éthique
- Développer des outils d'autopsie pour permettre l'investigation et la production d'explication
- Scénariser l'investigation, proposer des mises en récit de l'incident
- Organiser des ateliers de confrontation avec les utilisateurs
- Répertorier l'investigation dans une plateforme d'autopsie de l'IA

Proposer des méthodes et outils de radiographie de l'IA permettra de générer une base de connaissance très utile dans les phases de tests avant la mise en production de l'IA. Les méthodes d'investigation proposés peuvent être utilisées pour simuler des scénarios de tests avant la mise en production, diagnostiquer les incidents et générer des explications robustes pendant la phase de production. Il s agit à la fois de proposer une méthode d investigation mais aussi des outils accessibles pour réaliser une enquête face à un incident de l IA.

Une IA de confiance suppose d'élargir le champ de l explication des experts vers le grand public par la création d outils de visualisation d incidents accessibles tout en prenant en compte la complexité du problème.Un organe de contrôle ex-post, transparent, accessible et disposant de moyens techniques précis, est fondamental pour assurer une confiance durable dans l IA.

Profil recherché

Titulaire d un doctorat avec des connaissances générales en IA et une spécialité en apprentissage automatique.

**Compétences scientifiques et techniques**:

- Les bases scientifiques indispensables pour la maitrise des modèles d apprentissage machine, de leur évaluation, de leur déploiement ;
- Des connaissances technologiques nécessaires pour la conception, la définition et la mise en œuvre des outils de Machine Learning et de développement logiciel (scikitlearn, tensorflow, pytorch, python).

**Qualités professionnelles et relationnelles**:

- Curiosité, esprit d initiative, capacité d analyse et rigueur
- Adaptabilité et autonomie
- Capacité à travailler en mode projet: suivi et avancement des travaux, valorisation et communication des résultats
- Aisance relationnelle, capacité à travailler en équipe, très bonne communication orale et écrite (en français et anglais)

Pour ce poste basé au sein du cluster Paris-Saclay (91), des déplacements occasionnels sont à prévoir en région parisienne. Vous travaillerez au sein d une équipe jeune, sur des projets attractifs et vous bénéficierez d avantages tels que : mutuelle intéressante, subvention de l employeur pour la restauration, 3 semaines de congés en plus du légal, congés supplémentaires en fonction de l ancienneté, 1% logement, comité économique et social, partenariat av