AI system validation by fault injection in simulation H/F

il y a 1 mois


Palaiseau, France CEA Temps plein

Position description

Category

Mathematics, information, scientific, software

Contract

Internship

Job title

AI system validation by fault injection in simulation H/F

Subject

The project aims to evaluate an AI-based system design based on safety-oriented fault-injection simulations through a virtual platform to reinforce AI learning during design.

Contract duration (months)

6

Job description

To address the issue of AI system verification, validation, and certification, existing work define a design solution combining AI algorithms and conventional algorithms. AI algorithms include all complex and/or black box algorithms that need to be certified. The conventional algorithms include functions that monitor and supervise AI code execution. These monitors are derived from safety and requirement analysis. With this particular combination, we hope to benefit from both approaches: a system that can handle complex decision processes through the use of artificial intelligence and that can provide high confidence by leveraging a monitor written in conventional code. Meanwhile, evaluating the robustness of such AI-oriented systems often involves understanding the impact of fine-grain perturbation regarding the computations. The ability to study high-level and fine grain aspects at the same time requires a significant runtime instrumentation capacity.


To evaluate the safety and robustness of such an AI-oriented system with its HW and SW parts, we think of a methodological approach based on preliminary safety assessment results, functional testing on a virtual platform, fault injection, and uncertainty measurement. Concretely, the evaluation framework will be based on:
• Risk assessment providing some kind of envelope of permissible behavior for the AI system without compromising safety and list of faults and failures with their effects on the system
• An embedded system simulator capable of injecting fault at functional and hardware levels
• Online (at runtime from devices) and offline (from testbench dataset) fault injection (HW/SW) technique to stress the system with regard to faulty scenarios
• uncertainty measures with an estimation of their confidence level
• runtime monitoring for the tracking of fault propagation,
and study of their impact at the algorithmic level


The goal of the project is to implement and validate such an approach on a use case.

Methods / Means

Papyrus, Sophia, Simulation platforms

Applicant Profile

You are passionate about science and novel technologies. You are preparing a Bac+4 or Bac+5 diploma in the field of computer science or alike. You have knowledge of AI, programming languages, embedded systems, simulation, safety assessment.

Position location

Site

Saclay

Job location

France, Ile-de-France, Essonne (91)

Location

palaiseau

Candidate criteria

Languages

English (Fluent) French (Fluent)

Prepared diploma

Bac+5 - Diplôme École d'ingénieurs

Recommended training

Informatique

PhD opportunity

Oui

Requester

Position start date

01/07/2024



  • Palaiseau, Île-de-France Cea Temps plein

    To address the issue of AI system verification, validation, and certification, existing work define a design solution combining AI algorithms and conventional algorithms. AI algorithms include all complex and/or black box algorithms that need to be certified. The conventional algorithms include functions that monitor and supervise AI code execution. These...


  • Palaiseau, France Cea Temps plein

    To address the issue of AI system verification, validation, and certification, existing work define a design solution combining AI algorithms and conventional algorithms. AI algorithms include all complex and/or black box algorithms that need to be certified. The conventional algorithms include functions that monitor and supervise AI code execution. These...


  • Palaiseau, Île-de-France ONERA Temps plein

    Quelles sont les missions ?Le Département Traitement de l'Information et Systèmes mène des études et recherches pour maîtriser la conception, les opérations et l'autonomie des systèmes aérospatiaux. Il regroupe des compétences en commande des systèmes, traitement de l'information, intelligence artificielle, ingénierie des systèmes et des...


  • Palaiseau, Île-de-France ONERA Temps plein

    Quelles sont les missions ?Dans l'unité Simulation, Infrastructure et Intégration de Modèles (S2IM) du Département Traitement de l'Information et Systèmes (DTIS), vous intégrez une équipe spécialisée dans le domaine Systèmes de Systèmes couvrant 4 périmètres (Défense, Spatial, Sécurité Civile et Aéronautique). S2IM est en charge du...


  • Palaiseau, France ONERA Temps plein

    Quelles sont les missions ?Le Département Traitement de l'Information et Systèmes mène des études et recherches pour maîtriser la conception, les opérations et l'autonomie des systèmes aérospatiaux. Il regroupe des compétences en commande des systèmes, traitement de l'information, intelligence artificielle, ingénierie des systèmes et des...


  • Palaiseau, France ONERA Temps plein

    Quelles sont les missions ?Dans l'unité Simulation, Infrastructure et Intégration de Modèles (S2IM) du Département Traitement de l'Information et Systèmes (DTIS), vous intégrez une équipe spécialisée dans le domaine Systèmes de Systèmes couvrant 4 périmètres (Défense, Spatial, Sécurité Civile et Aéronautique). S2IM est en charge du...


  • Palaiseau, France Onera Temps plein

    Présentation de l'ONERAL’ONERA, acteur central de la recherche aéronautique et spatiale, emploie plus de 2000 personnes. Placé sous la tutelle du Ministère des Armées, il dispose d’un budget de 289 millions d’euros (2023), dont plus de la moitié provient de contrats d'études, de recherche et d'essais. Expert étatique, l’ONERA prépare la...


  • Palaiseau, France Onera Temps plein

    Présentation de l'ONERAL’ONERA, acteur central de la recherche aéronautique et spatiale, emploie plus de 2000 personnes. Placé sous la tutelle du Ministère des Armées, il dispose d’un budget de 289 millions d’euros (2023), dont plus de la moitié provient de contrats d'études, de recherche et d'essais. Expert étatique, l’ONERA prépare la...


  • Palaiseau, France Onera Temps plein

    Présentation de l'ONERAL’ONERA, acteur central de la recherche aéronautique et spatiale, emploie plus de 2000 personnes. Placé sous la tutelle du Ministère des Armées, il dispose d’un budget de 289 millions d’euros (2023), dont plus de la moitié provient de contrats d'études, de recherche et d'essais. Expert étatique, l’ONERA...


  • Palaiseau, Île-de-France Cea Temps plein

    We are looking for a highly skilled and motivated Research Engineer to join our team to develop cutting-edge technology in the field of Electronic Design Automation (EDA) .In the context of a national project, you will be responsible for developing a simulation environment for chiplet-based SoC architecture, using AI-driven methodologies to improve existing...


  • Palaiseau, France TotalEnergies Temps plein

    Research Innovation&Developpt - PALAISEAU-ROUTE DE SACLAY(FRA) - France - To successfully integrate the electricity and renewable energy businesses, TotalEnergies has created a new entity, OneTech, which brings together all the technical and R&D expertise of the branches (Exploration & Production, Refining & Chemicals, Marketing & Services and Gas,...


  • Palaiseau, France Cea Temps plein

    We are looking for a highly skilled and motivated Research Engineer to join our team to develop cutting-edge technology in the field of Electronic Design Automation (EDA) .In the context of a national project, you will be responsible for developing a simulation environment for chiplet-based SoC architecture, using AI-driven methodologies to improve existing...


  • Palaiseau, France ONERA Temps plein

    Quelles sont les missions ?Vous intégrez l'unité MPA travaillant principalement sur la simulation numérique de chambres de combustion de turbomachines et de statoréacteurs / statomixtes. Cette équipe met en oeuvre et (co-)développe des outils allant de l'approche système, pour les performances du moteur complet, à la simulation CFD multi-physiques,...


  • Palaiseau, France ONERA Temps plein

    A propos de l'entreprise :L'ONERA, acteur central de la recherche aéronautique etspatiale, emploie plus de 2000 personnes. Placé sous la tutelle duministère des Armées, il dispose d'un budget de 289 millionsd'euros (2023), dont plus de la moitié provient de contratsd'études, de recherche et d'essais. Expert étatique, l'ONERAprépare la défense de...


  • Palaiseau, Île-de-France ONERA Temps plein

    Quelles sont les missions ?Vous intégrez l'unité MPA travaillant principalement sur la simulation numérique de chambres de combustion de turbomachines et de statoréacteurs / statomixtes. Cette équipe met en oeuvre et (co-)développe des outils allant de l'approche système, pour les performances du moteur complet, à la simulation CFD multi-physiques,...


  • Palaiseau, Île de France, Essonne Onera Temps plein

    Présentation de l'ONERAL’ONERA, acteur central de la recherche aéronautique et spatiale, emploie plus de 2000 personnes. Placé sous la tutelle du Ministère des Armées, il dispose d’un budget de 289 millions d’euros (2023), dont plus de la moitié provient de contrats d'études, de recherche et d'essais. Expert étatique, l’ONERA...


  • Palaiseau, France ONERA Temps plein

    Quelles sont les missions ?Au Département Multi-Physique pour l'Energétique, vous intégrez l'unité Modélisation Propulsion Aérobie travaillant principalement sur la simulation numérique de chambres de combustion de turbomachines et de statoréacteurs / statomixtes. Vos missions consisteront à étudier, par CFD, la phénoménologie des écoulements...


  • Palaiseau, France CNES - Centre National d'Etudes Spatiales Temps plein

    Doctorat, 36 mois - Temps plein - Aucune expérience exigée - Maitrise, IEP, IUP, Bac+4 - Digital technologies for remote sensing **Mission**: This doctoral project is part of the Onera "MUSIC" research chair, led by Elise Colin, which focuses on developing innovative image processing and AI techniques for unconventional data. Establishing connections...


  • Palaiseau, France INRIA Temps plein

    Contexte et atouts du poste L'équipe-projet M3DISIM développe depuis une vingtaine d'années des modèles mathématiques et biomécaniques du coeur et du système cardiovasculaire, et des méthodes de simulation numérique adaptées à ces modèles. Les modèles en question sont de différents types, allant des équations aux dérivées partielles...


  • Palaiseau, Île-de-France ONERA Temps plein

    Quelles sont les missions ?Au Département Multi-Physique pour l'Energétique, vous intégrez l'unité Modélisation Propulsion Aérobie travaillant principalement sur la simulation numérique de chambres de combustion de turbomachines et de statoréacteurs / statomixtes. Vos missions consisteront à étudier, par CFD, la phénoménologie des écoulements...