AI system validation by fault injection in simulation
il y a 3 semaines
To address the issue of AI system verification, validation, and certification, existing work define a design solution combining AI algorithms and conventional algorithms. AI algorithms include all complex and/or black box algorithms that need to be certified. The conventional algorithms include functions that monitor and supervise AI code execution. These monitors are derived from safety and requirement analysis. With this particular combination, we hope to benefit from both approaches: a system that can handle complex decision processes through the use of artificial intelligence and that can provide high confidence by leveraging a monitor written in conventional code. Meanwhile, evaluating the robustness of such AI-oriented systems often involves understanding the impact of fine-grain perturbation regarding the computations. The ability to study high-level and fine grain aspects at the same time requires a significant runtime instrumentation capacity.
To evaluate the safety and robustness of such an AI-oriented system with its HW and SW parts, we think of a methodological approach based on preliminary safety assessment results, functional testing on a virtual platform, fault injection, and uncertainty measurement. Concretely, the evaluation framework will be based on:
- Risk assessment providing some kind of envelope of permissible behavior for the AI system without compromising safety and list of faults and failures with their effects on the system
- An embedded system simulator capable of injecting fault at functional and hardware levels
- Online (at runtime from devices) and offline (from testbench dataset) fault injection (HW/SW) technique to stress the system with regard to faulty scenarios
- uncertainty measures with an estimation of their confidence level
- runtime monitoring for the tracking of fault propagation, and study of their impact at the algorithmic level
The goal of the project is to implement and validate such an approach on a use case.
Profil recherché
You are passionate about science and novel technologies. You are preparing a Bac+4 or Bac+5 diploma in the field of computer science or alike. You have knowledge of AI, programming languages, embedded systems, simulation, safety assessment.
Présentation de Cea
Le CEA est un acteur majeur de la recherche, au service des citoyens, de l'économie et de l'Etat.
Il apporte des solutions concrètes à leurs besoins dans quatre domaines principaux : transition énergétique, transition numérique, technologies pour la médecine du futur, défense et sécurité sur un socle de recherche fondamentale. Le CEA s'engage depuis plus de 75 ans au service de la souveraineté scientifique, technologique et industrielle de la France et de l'Europe pour un présent et un avenir mieux maîtrisés et plus sûrs.
Implanté au cœur des territoires équipés de très grandes infrastructures de recherche, le CEA dispose d'un large éventail de partenaires académiques et industriels en France, en Europe et à l'international.
Les collaboratrices et collaborateurs du CEA partagent trois valeurs fondamentales :
• La conscience des responsabilités
• La coopération
• La curiosité
-
Palaiseau, Île-de-France ONERA Temps pleinQuelles sont les missions ?Le Département Traitement de l'Information et Systèmes mène des études et recherches pour maîtriser la conception, les opérations et l'autonomie des systèmes aérospatiaux. Il regroupe des compétences en commande des systèmes, traitement de l'information, intelligence artificielle, ingénierie des systèmes et des...
-
Ingénieur d'etudes et de recherche en simulation de systemes
il y a 6 heures
Palaiseau, Île-de-France ONERA Temps pleinQuelles sont les missions ?Le Département Traitement de l'Information et Systèmes mène des études et recherches pour maîtriser la conception, les opérations et l'autonomie des systèmes aérospatiaux. Il regroupe des compétences en commande des systèmes, traitement de l'information, intelligence artificielle, ingénierie des systèmes et des...
-
Palaiseau, Île-de-France ONERA Temps pleinQuelles sont les missions ?Dans l'unité Simulation, Infrastructure et Intégration de Modèles (S2IM) du Département Traitement de l'Information et Systèmes (DTIS), vous intégrez une équipe spécialisée dans le domaine Systèmes de Systèmes couvrant 4 périmètres (Défense, Spatial, Sécurité Civile et Aéronautique). S2IM est en charge du...
-
Ingenieur d'etudes et de recherche en simulation de systemes
il y a 6 heures
Palaiseau, Île-de-France ONERA Temps pleinQuelles sont les missions ?Dans l'unité Simulation, Infrastructure et Intégration de Modèles (S2IM) du Département Traitement de l'Information et Systèmes (DTIS), vous intégrez une équipe spécialisée dans le domaine Systèmes de Systèmes couvrant 4 périmètres (Défense, Spatial, Sécurité Civile et Aéronautique). S2IM est en charge du...
-
Palaiseau, Île-de-France Cea Temps pleinWe are looking for a highly skilled and motivated Research Engineer to join our team to develop cutting-edge technology in the field of Electronic Design Automation (EDA) .In the context of a national project, you will be responsible for developing a simulation environment for chiplet-based SoC architecture, using AI-driven methodologies to improve existing...
-
Palaiseau, Île-de-France Cea Temps pleinWe are looking for a highly skilled and motivated Research Engineer to join our team to develop cutting-edge technology in the field of Electronic Design Automation (EDA) .In the context of a national project, you will be responsible for developing a simulation environment for chiplet-based SoC architecture, using AI-driven methodologies to improve existing...
-
Palaiseau, Île-de-France Cea Temps pleinSimulation tools are essential for the design and validation of digital circuits. They use different levels of abstraction to facilitate hardware/software co-design and co-validation. Architecture simulators, called Instruction Set Simulators (ISSs) , provide high-level abstraction for fast functional verification and early design space exploration, while...
-
Palaiseau, Île-de-France Cea Temps pleinSimulation tools are essential for the design and validation of digital circuits. They use different levels of abstraction to facilitate hardware/software co-design and co-validation. Architecture simulators, called Instruction Set Simulators (ISSs) , provide high-level abstraction for fast functional verification and early design space exploration, while...
-
Palaiseau, Île-de-France ONERA Temps pleinQuelles sont les missions ?Vous intégrez l'unité MPA travaillant principalement sur la simulation numérique de chambres de combustion de turbomachines et de statoréacteurs / statomixtes. Cette équipe met en oeuvre et (co-)développe des outils allant de l'approche système, pour les performances du moteur complet, à la simulation CFD multi-physiques,...
-
Palaiseau, Île-de-France ONERA Temps pleinQuelles sont les missions ?Vous intégrez l'unité MPA travaillant principalement sur la simulation numérique de chambres de combustion de turbomachines et de statoréacteurs / statomixtes. Cette équipe met en oeuvre et (co-)développe des outils allant de l'approche système, pour les performances du moteur complet, à la simulation CFD multi-physiques,...
-
Palaiseau, Île-de-France ONERA Temps pleinQuelles sont les missions ?Au Département Multi-Physique pour l'Energétique, vous intégrez l'unité Modélisation Propulsion Aérobie travaillant principalement sur la simulation numérique de chambres de combustion de turbomachines et de statoréacteurs / statomixtes. Vos missions consisteront à étudier, par CFD, la phénoménologie des écoulements...
-
Palaiseau, Île-de-France ONERA Temps pleinQuelles sont les missions ?Au Département Multi-Physique pour l'Energétique, vous intégrez l'unité Modélisation Propulsion Aérobie travaillant principalement sur la simulation numérique de chambres de combustion de turbomachines et de statoréacteurs / statomixtes. Vos missions consisteront à étudier, par CFD, la phénoménologie des écoulements...
-
Ingenieur en architectures des systemes de defense
il y a 6 heures
Palaiseau, Île-de-France ONERA Temps pleinQuelles sont les missions ?L'unité MARS (Modélisation, Analyse et Restitution de Systèmes de défense et de rentrée) mène des études portant sur la conception, la rétro-ingénierie, la modélisation, et l'évaluation des performances de systèmes de défense et de rentrée atmosphérique. Dans cette unité, vous assurez un rôle de spécialiste de...
-
Ingenieur en architectures des systemes de defense
Il y a 2 mois
Palaiseau, Île-de-France ONERA Temps pleinQuelles sont les missions ?L'unité MARS (Modélisation, Analyse et Restitution de Systèmes de défense et de rentrée) mène des études portant sur la conception, la rétro-ingénierie, la modélisation, et l'évaluation des performances de systèmes de défense et de rentrée atmosphérique. Dans cette unité, vous assurez un rôle de spécialiste de...
-
Ingenieur en modelisation et methodes numeriques aerobie
il y a 6 heures
Palaiseau, Île-de-France ONERA Temps pleinQuelles sont les missions ?Intégrez l'unité MPA travaillant principalement sur la simulation numérique de chambres de combustion de turbomachines et de statoréacteurs/statomixtes. Cette équipe met en oeuvre et (co-)développe des outils allant de l'approche système, pour les performances du moteur complet, à la simulation CFD multi-physiques. Vos...
-
Ingenieur en modelisation et methodes numeriques aerobie
il y a 1 mois
Palaiseau, Île-de-France ONERA Temps pleinQuelles sont les missions ?Intégrez l'unité MPA travaillant principalement sur la simulation numérique de chambres de combustion de turbomachines et de statoréacteurs/statomixtes. Cette équipe met en oeuvre et (co-)développe des outils allant de l'approche système, pour les performances du moteur complet, à la simulation CFD multi-physiques. Vos...
-
Palaiseau, Île-de-France Cea Temps pleinContext: The Embedded and Autonomous Systems Design Laboratory (LSEA) of the CEA LIST works on the development of tools and methodologies to design safe and efficient softwares. The systems developed must provide functions with associated service qualities. The increasing complexity of these systems makes it necessary to approach their design at high levels...
-
Palaiseau, Île-de-France Cea Temps pleinContext: The Embedded and Autonomous Systems Design Laboratory (LSEA) of the CEA LIST works on the development of tools and methodologies to design safe and efficient softwares. The systems developed must provide functions with associated service qualities. The increasing complexity of these systems makes it necessary to approach their design at high levels...
-
Ingénieur d'étude système radar
Il y a 2 mois
Palaiseau, Île-de-France ONERA Temps pleinQuelles sont les missions ?Dans l'unité de recherche « Radar, Mesures de signatures et Études Systèmes » (RMES), vous participerez au développement de démonstrateurs de radars transhorizons (radar à ondes de ciel et radar à ondes de surface) du DEMR. Il s'agira en particulier de contribuer à l'étude de capacités novatrices et ce dans le cadre...
-
Ingénieur d'étude système radar
il y a 6 heures
Palaiseau, Île-de-France ONERA Temps pleinQuelles sont les missions ?Dans l'unité de recherche « Radar, Mesures de signatures et Études Systèmes » (RMES), vous participerez au développement de démonstrateurs de radars transhorizons (radar à ondes de ciel et radar à ondes de surface) du DEMR. Il s'agira en particulier de contribuer à l'étude de capacités novatrices et ce dans le cadre...
