Generate erroneous reasoning to enhance explainable AI H/F

il y a 6 jours

GifsurYvette, Île-de-France CEA Temps plein


Informations générales

Entité de rattachement

Le CEA est un acteur majeur de la recherche, au service des citoyens, de l'économie et de l'Etat.

Il apporte des solutions concrètes à leurs besoins dans quatre domaines principaux : transition énergétique, transition numérique, technologies pour la médecine du futur, défense et sécurité sur un socle de recherche fondamentale. Le CEA s'engage depuis plus de 75 ans au service de la souveraineté scientifique, technologique et industrielle de la France et de l'Europe pour un présent et un avenir mieux maîtrisés et plus sûrs.

Implanté au cœur des territoires équipés de très grandes infrastructures de recherche, le CEA dispose d'un large éventail de partenaires académiques et industriels en France, en Europe et à l'international.

Les collaboratrices et collaborateurs du CEA partagent trois valeurs fondamentales :

• La conscience des responsabilités

• La coopération

• La curiosité

Référence

Domaine

Mathématiques, information  scientifique, logiciel


Contrat

Stage


Intitulé de l'offre

Generate erroneous reasoning to enhance explainable AI H/F


Sujet de stage

This internship aims to improve human-AI collaboration, where accuracy alone is insufficient as trust requires understanding the AI's reasoning. Explainable AI (XAI) focuses on generating clear, faithful, concise, and user-adapted explanations, since a poor explanation can harm cooperation. The work concerns ExpressIF, a symbolic fuzzy-logic AI from CEA. Though interpretable, it may be hard to select the most relevant rules for users.

The project addresses human-AI disagreement: the AI must detect possible human reasoning errors (lack of knowledge, confirmation or attention bias, illusory correlation, or uncertainty differences) to adapt its explanations. Goals: study fuzzy logic, ExpressIF, and cognitive biases; design a model of user reasoning errors; integrate and evaluate it within ExpressIF.


Durée du contrat (en mois)

6


Description de l'offre

Located in Saclay, in the southern Île-de-France region, CEA LIST is a scientific and technological research center dedicated to the development of software, embedded systems, and sensors for applications in defense, security, energy, nuclear, environment, and healthcare.

CEA LIST has more than 700 researchers focusing on intelligent digital systems, with core areas including artificial intelligence, the factory of the future, innovative instrumentation, cyber-physical systems, and digital health.

Within the institute, the laboratories of the Digital Instrumentation Department work on developing and transferring cutting-edge AI technologies to industry. The technical scope of our engineers and researchers covers signal analysis (i.e., time series as well as spectra) produced by equipment developed internally by CEA teams or by external companies.

The exploitation of these data relies on a broad range of machine learning methods, including both numerical AI (deep neural networks, random forests, SVMs) and symbolic AI (knowledge-based systems).

You will join a team of five permanent researchers working on the ExpressIF platform, a fully in-house developed symbolic artificial intelligence system designed to be interpretable. The goal is not to build a "black box" AI—whose reasoning process cannot be understood by humans—that simply provides decisions to an operator, but rather an AI that can be understood: experts can therefore extract insights for their own research, correct knowledge if it has been misled by data, or simply enrich it when certain elements are missing.


Profil du candidat

We are looking for a second-year Master's student or third-year engineering school student specializing inComputer Science and/or Mathematics, with the following profile :

  • A strong interest in artificial intelligence topics, particularly fuzzy logic ;
  • A strong interest in scientific and technological research ;
  • A genuine interest in cognitive sciences ;
  • Solid object-oriented programming skills, ideally in C# ;
  • Strong English skills.

Site

Saclay


Localisation du poste

France, Ile-de-France, Essonne (91)


Ville


Gif-sur-Yvette

Critères candidat
Langues
  • Anglais (Courant)
  • Français (Intermédiaire)

Diplôme préparé

Bac+5 - Master 2


Possibilité de poursuite en thèse

Oui

  • R&D A.I. Business Owner

    il y a 1 jour

    Gif-sur-Yvette, Île-de-France Servier France Temps plein

    Date de parution: 4 déc. 2025Ville: GIF-SUR-YVETTEPays/Région: FRType de contrat: CDIN° offre: 10491R&D A.I. Business Owner (H/F)Nous sommes un groupe pharmaceutique à dimension humaine, international et indépendant, gouverné par une Fondation. Notre modèle, singulier, fait notre fierté mais, surtout, nous permet de servir pleinement notre vocation :...

  • R&D A.I. Business Owner

    il y a 1 jour

    Gif-sur-Yvette, Île-de-France SERVIER MONDE Temps plein

    Nous sommes un groupe pharmaceutique à dimension humaine, international et indépendant, gouverné par une Fondation. Notre modèle, singulier, fait notre fierté mais, surtout, nous permet de servir pleinement notre vocation : « Engagés pour le progrès thérapeutique au bénéfice des patients ».Aujourd'hui leader mondial en cardiologie, nous avons...

  • PV Compliance Officer

    il y a 6 jours

    Gif-sur-Yvette, Île-de-France Servier France Temps plein

    Date de parution: 28 nov. 2025Ville: GIF-SUR-YVETTEPays/Région: FRType de contrat: CDIN° offre: 9895PV Compliance Officer (H/F)Nous sommes un groupe pharmaceutique à dimension humaine, international et indépendant, gouverné par une Fondation. Notre modèle, singulier, fait notre fierté mais, surtout, nous permet de servir pleinement notre vocation : «...

  • Global Head of Research Neurology

    il y a 4 jours

    Gif-sur-Yvette, Île-de-France Servier France Temps plein

    Date de parution: 30 sept. 2025Ville: GIF-SUR-YVETTEPays/Région: FRType de contrat: CDIN° offre: 9505Global Head of Research Neurology (H/F)Nous sommes un groupe pharmaceutique à dimension humaine, international et indépendant, gouverné par une Fondation. Notre modèle, singulier, fait notre fierté mais, surtout, nous permet de servir pleinement notre...

  • Neutron Multiplication And Detector Count Rates In Subcritical Experiments Using Tripoli-4 Code H/F

    il y a 6 jours

    Gif-sur-Yvette, Île-de-France CEA Temps plein

    Informations générales Entité de rattachement Le CEA est un acteur majeur de la recherche, au service des citoyens, de l'économie et de l'Etat.Il apporte des solutions concrètes à leurs besoins dans quatre domaines principaux : transition énergétique, transition numérique, technologies pour la médecine du futur, défense et sécurité sur un...

  • Post-doc : Development of a thermodynamic database on perovskites for solar cells H/F

    il y a 4 jours

    Gif-sur-Yvette, Île-de-France CEA Temps plein

    General information Organisation The French Alternative Energies and Atomic Energy Commission (CEA) is a key player in research, development and innovation in four main areas :• defence and security,• nuclear energy (fission and fusion),• technological research for industry,• fundamental research in the physical sciences and life sciences.Drawing...

  • Validation of Monte Carlo simulation codes based on high-precision experimental data H/F

    il y a 6 jours

    Gif-sur-Yvette, Île-de-France CEA Temps plein

    General information Organisation The French Alternative Energies and Atomic Energy Commission (CEA) is a key player in research, development and innovation in four main areas :• defence and security,• nuclear energy (fission and fusion),• technological research for industry,• fundamental research in the physical sciences and life sciences.Drawing...

  • Director Regulatory Affairs, China, Hong Kong, Japan

    il y a 1 jour

    Gif-sur-Yvette, Île-de-France Servier France Temps plein

    Date de parution: 29 nov. 2025Ville: GIF-SUR-YVETTEPays/Région: FRType de contrat: CDIN° offre: 9252Director Regulatory Affairs, China, Hong Kong, Japan (H/F)Nous sommes un groupe pharmaceutique à dimension humaine, international et indépendant, gouverné par une Fondation. Notre modèle, singulier, fait notre fierté mais, surtout, nous permet de servir...

  • Postdoctoral Fellow

    il y a 1 jour

    Gif-sur-Yvette, Île-de-France Servier France Temps plein

    Date de parution: 4 déc. 2025Ville: GIF-SUR-YVETTEPays/Région: FRType de contrat: Post-docN° offre: 10485Postdoctoral Fellow (H/F)Nous sommes un groupe pharmaceutique à dimension humaine, international et indépendant, gouverné par une Fondation. Notre modèle, singulier, fait notre fierté mais, surtout, nous permet de servir pleinement notre vocation...

  • Head of R&D Project Management Office

    il y a 1 semaine

    Gif-sur-Yvette, Île-de-France SERVIER Temps plein

    Date de parution: 11 oct. 2025Ville: GIF-SUR-YVETTEPays/Région: FRType de contrat: CDIN° offre: 9786Head of R&D Project Management Office (H/F)Nous sommes un groupe pharmaceutique à dimension humaine, international et indépendant, gouverné par une Fondation. Notre modèle, singulier, fait notre fierté mais, surtout, nous permet de servir pleinement...