Cdd Post-doc Sur L Autopsie de L'ia
il y a 3 semaines
Descriptif du poste
Face aux différents incidents techniques et sociaux posés par l'IA, ces dernières années ont connu la naissance d un certain nombre de communautés académiques en IA pour traiter le problème de l'interprétabilité ou de l'équité des algorithmes.
Cependant les méthodes qui en sont issues rencontrent des limites. Bien qu'il existe aujourd'hui des méthodes pour interpréter le Machine Learning tabulaire et catégoriel, il n'existe aucune méthode générique pour produire des explications stables et contextuelles du Deep learning. De même, concernant l'équité et les biais des algorithmes, bien qu'il existe des métriques pour mesurer et corriger les biais du ML, il est difficile d'appliquer ces méthodes sur du Deep learning sans variables catégorielles stables. La littérature académique s'accorde à dire que la production d'explication du Machine Learning est contextuelle. Il est donc crucial en XAI de ne pas proposer des outils d'explications top-down indépendants du contexte mais, au contraire, des méthodes d'investigation bottom-up qui partent d'un cas contextuel en situation pour le mettre en récit. Or les incidents générés par l'IA sont largement diffusés et il existe des bases de données recensant les incidents posés par l'IA. Ils offrent des situations idéales, non pas pour tester des méthodes d'explications préexistantes, mais pour co-construire des méthodes d'investigation contextuelle et bottom-up. Pour ce projet nous nous intéressons à des incidents précis : les incidents d'ordre éthique et social de l'IA qui ont pour beaucoup ont la particularité d'être générés par des IA semi-ouvertes. Cette relative ouverture de l'IA offre la possibilité de rétro-engineering certains algorithmes afin de simuler les incidents éthiques et les mettre en récit.
Il s'agit donc dans ce projet pluridisciplinaire de créer un environnement de mise en récit d'incidents éthiques liés au Deep Learning non catégoriel par la simulation d'incidents. Nous proposons la méthode suivante:
- Identifier un incident de l IA ayant fait controverse
- Identifier dans des répertoires publics les bases de données d'apprentissage, les réseaux pré-entraînés utilisés
- Reproduire le classifieur de Deep Learning lié à l incident
- Simuler l'incident éthique
- Développer des outils d'autopsie pour permettre l'investigation et la production d'explication
- Scénariser l'investigation, proposer des mises en récit de l'incident
- Organiser des ateliers de confrontation avec les utilisateurs
- Répertorier l'investigation dans une plateforme d'autopsie de l'IA
Proposer des méthodes et outils de radiographie de l'IA permettra de générer une base de connaissance très utile dans les phases de tests avant la mise en production de l'IA. Les méthodes d'investigation proposés peuvent être utilisées pour simuler des scénarios de tests avant la mise en production, diagnostiquer les incidents et générer des explications robustes pendant la phase de production. Il s agit à la fois de proposer une méthode d investigation mais aussi des outils accessibles pour réaliser une enquête face à un incident de l IA.
Une IA de confiance suppose d'élargir le champ de l explication des experts vers le grand public par la création d outils de visualisation d incidents accessibles tout en prenant en compte la complexité du problème.Un organe de contrôle ex-post, transparent, accessible et disposant de moyens techniques précis, est fondamental pour assurer une confiance durable dans l IA.
Profil recherché
Titulaire d un doctorat avec des connaissances générales en IA et une spécialité en apprentissage automatique.
**Compétences scientifiques et techniques**:
- Les bases scientifiques indispensables pour la maitrise des modèles d apprentissage machine, de leur évaluation, de leur déploiement ;
- Des connaissances technologiques nécessaires pour la conception, la définition et la mise en œuvre des outils de Machine Learning et de développement logiciel (scikitlearn, tensorflow, pytorch, python).
**Qualités professionnelles et relationnelles**:
- Curiosité, esprit d initiative, capacité d analyse et rigueur
- Adaptabilité et autonomie
- Capacité à travailler en mode projet: suivi et avancement des travaux, valorisation et communication des résultats
- Aisance relationnelle, capacité à travailler en équipe, très bonne communication orale et écrite (en français et anglais)
Pour ce poste basé au sein du cluster Paris-Saclay (91), des déplacements occasionnels sont à prévoir en région parisienne. Vous travaillerez au sein d une équipe jeune, sur des projets attractifs et vous bénéficierez d avantages tels que : mutuelle intéressante, subvention de l employeur pour la restauration, 3 semaines de congés en plus du légal, congés supplémentaires en fonction de l ancienneté, 1% logement, comité économique et social, partenariat av
-
Ingénieur de recherche en IA de la décision et IA explicable
il y a 3 semaines
Palaiseau, France Thales Temps pleinQUI SOMMES-NOUS ?Situé sur le campus de l’École polytechnique, au cœur du pôle scientifique et technologique d’envergure mondiale de Paris-Saclay, à Palaiseau, Thales Research & Technology (TRT) France constitue le centre de recherche et technologies français du Groupe Thales, au service des activités mondiales de Thales. Grâce à une politique...
-
Post-doctorante ou Post-doctorant en Ia Robuste Et
il y a 4 semaines
Palaiseau, France Institut Mines-Télécom Temps plein**ENVIRONNEMENT DU POSTE** Télécom Paris, école de l’IMT (Institut Mines-Télécom) et membre fondateur de l’Institut Polytechnique de Paris, est une grande école du top 5 des écoles d’ingénieurs généralistes françaises. Institution à « taille humaine » mais à forte composante internationale, Télécom Paris est reconnue pour sa...
-
Palaiseau, France Institut Mines-Télécom Temps pleinQui sommes-nous ?Télécom Paris, école de l’IMT (Institut Mines-Télécom) et membre fondateur de l’Institut Polytechnique de Paris, est une grande école du top 5 des écoles d’ingénieurs généralistes françaises.La Raison d’Être de Télécom Paris est de former, imaginer et entreprendre pour concevoir des modèles, des technologies et des...
-
Palaiseau, France CEA Temps pleinDescription de l'offre Dans le cadre d’un projet de recherche en association avec d’autres laboratoires du CEA, le LASTI vise à exploiter les technologies du Traitement Automatique des Langues (TAL) pour automatiser l’extraction d’information depuis la littérature scientifique dans le domaine des matériaux. Plus précisément, le domaine...
-
Palaiseau, France CEA Temps pleinDescription de l'offre « Rejoignez le CEA pour donner du sens à votre activité, mener et soutenir des projets de R&D nationaux et internationaux, cultiver et faire vivre votre esprit de curiosité. » EN SYNTHESE, QU’EST-CE QUE NOUS VOUS PROPOSONS ? Le Commissariat à l'Énergie Atomique et aux Énergies Alternatives (CEA) recherche un(e)...
-
Cdd - Mission Temporaire Sur Les Publications Inrae
il y a 4 semaines
Palaiseau, France enssib Temps pleinPRÉSENTATION - MISSIONS - Environnement de travail, missions et activités - Vous serez accueilli(e) au sein de l’Unité Mixte de Recherche 1402 EcoSys - Nom de l'unité d'affectation : UMR 1402 EcoSys - Centre INRAE Versailles-Saclay - Adresse de l'unité d'affectation : INRAE UMR EcoSys - Campus Agro Paris-Saclay - 22 place de l'Agronomie - CS80022 -...
-
Ia de Confiance
il y a 1 mois
Palaiseau, France CEA Temps pleinDescription du poste **Domaine**: - Autre **Contrat**: - Stage **Intitulé de l'offre**: - IA de confiance : Vers une détection d'objets robuste à un contexte nouveau, dans un monde ouvert H/F **Sujet de stage**: **Durée du contrat (en mois)**: - 6 **Description de l'offre**: - Plusieurs méthodes ont étudiées ce sujet dans le cadre de la...
-
Palaiseau, France Institut Mines-Télécom Temps pleinQui sommes-nous ?Télécom Paris, école de l’IMT (Institut Mines-Télécom) et membre fondateur de l’Institut Polytechnique de Paris, est une grande école du top 5 des écoles d’ingénieurs généralistes françaises.La Raison d’Être de Télécom Paris est de former, imaginer et entreprendre pour concevoir des modèles, des technologies et des...
-
Post doctorante ou Post doctorant en modélisation des réseaux 5G
il y a 3 semaines
Palaiseau, France Institut Mines-Télécom Temps pleinQui sommes-nous ?Télécom Paris, école de l’IMT (Institut Mines-Télécom) et membre fondateur de l’Institut Polytechnique de Paris, est une grande école du top 5 des écoles d’ingénieurs généralistes françaises.La Raison d’Être de Télécom Paris est de former, imaginer et entreprendre pour concevoir des modèles, des technologies et des...
-
Post doctorante ou Post doctorant en génie logiciel et cybersécurité
il y a 3 semaines
Palaiseau, France Institut Mines-Télécom Temps pleinQui sommes-nous ?Télécom Paris, école de l’IMT (Institut Mines-Télécom) et membre fondateur de l’Institut Polytechnique de Paris, est une grande école du top 5 des écoles d’ingénieurs généralistes françaises.La Raison d’Être de Télécom Paris est de former, imaginer et entreprendre pour concevoir des modèles, des technologies et des...
-
Assistant(E) Technique
il y a 4 semaines
Palaiseau, France ProfilSearch Temps plein**Profil Search**, cabinet de recrutement spécialisé dans les métiers tertiaires (CDD-CDI), recrute pour un de ses clients, un** ASSISTANT(E) TECHNIQUE (F/H).** En tant qu'assistant(e) technique, en accompagnement du Directeur Développement et du Directeur Technique, vous serez en charge de la gestion courante de l'agence et du suivi des chantiers avec...
-
Chef des ventes
il y a 3 semaines
Palaiseau, Essonne, France HR Group Temps pleinChef des ventes / Outils de formage H/F Industrie Non spécifié De 5 à 10 ans Leader reconnu sur son secteur d'activité, notre client est spécialiste du revêtement pour outils coupants et pièces de précision. Nous recherchons son futur responsable des ventes H/F. Poste et missions : Rattaché au Directeur général, le responsable des ventes est...
-
Post-doctorante ou Post-doctorant en Informatique
il y a 4 semaines
Palaiseau, France Institut Mines-Télécom Temps plein**Qui sommes-nous ?** Télécom Paris, école de l’IMT (Institut Mines-Télécom) et membre fondateur de l’Institut Polytechnique de Paris, est une grande école du top 5 des écoles d’ingénieurs généralistes françaises. La **Raison d’Être** de Télécom Paris est de former, imaginer et entreprendre pour concevoir des modèles, des...
-
Palaiseau, France Institut Mines-Télécom Temps pleinMissionsLes approches comportementales basées sur l’apprentissage machine génèrent de nombreux faux positifs. En particulier, lorsque des méthodes d’apprentissage profond sont utilisées, les faux positifs s’avèrent difficiles à expliquer, l’apprentissage profond étant souvent considéré comme une boîte noire difficile à interpréter. Il...
-
Palaiseau, France Institut Mines-Télécom Temps pleinMissionsL’évaluation de mécanismes de sécurité est un pilier de la certification de produits. La supervision de sécurité souffre d’un manque de méthodes ou de plateformes permettant une évaluation reproductible. En particulier, afin de garantir un haut niveau de sécurité, les détecteurs d’intrusion doivent être soumis à un échantillon...
-
Offre de Thèse
il y a 4 semaines
Palaiseau, France CNRS Temps pleinCette offre est disponible dans les langues suivantes: - Français - Anglais Date Limite Candidature : mercredi 8 mai 2024 **Informations générales**: **Intitulé de l'offre **:Offre de thèse (H/F) - Apprentissage physique exploitant des nanocomposants** Référence : UMR9001-DAMQUE-008 Nombre de Postes : 1 Lieu de travail : PALAISEAU Date de...
-
Ingénieure ou ingénieur de recherche et développement de plateforme
il y a 3 semaines
Palaiseau, France Institut Mines-Télécom Temps pleinQui sommes-nous ?Télécom Paris, école de l’IMT (Institut Mines-Télécom) et membre fondateur de l’Institut Polytechnique de Paris, est une grande école du top 5 des écoles d’ingénieurs généralistes françaises.La Raison d’Être de Télécom Paris est de former, imaginer et entreprendre pour concevoir des modèles, des technologies et des...
-
Ingénieur de recherche en optimisation
il y a 1 mois
Palaiseau, France Thales Temps pleinQUI SOMMES-NOUS ?Situé sur le campus de l’École polytechnique, au cœur du pôle scientifique et technologique d’envergure mondiale de Paris-Saclay, à Palaiseau, Thales Research & Technology (TRT) France constitue le centre de recherche et technologies français du Groupe Thales, au service des activités mondiales de Thales. Grâce à une politique...
-
Ingénieur en traitement automatique de la langue
il y a 1 mois
Palaiseau, France CEA Temps pleinDescription de l'offre « Rejoignez le CEA pour donner du sens à votre activité, mener et soutenir des projets de R&D nationaux et internationaux, cultiver et faire vivre votre esprit de curiosité. » EN SYNTHESE, QU’EST-CE QUE NOUS VOUS PROPOSONS ? Dans le cadre du développement de ses activités pour l’amélioration du traitement des...
-
Data Scientist Confirmé F/H
il y a 4 semaines
Palaiseau, France SOCOTEC Temps pleinDescription de l'entreprise Leader dans son secteur, SOCOTEC est le seul groupe international 100% dédié, depuis 70 ans, à la gestion des risques et au conseil technique dans la construction, l’immobilier et les infrastructures. Travailler chez SOCOTEC, c’est partager un métier au service d’une vision positive : inventer ensemble la ville...
