Stage - Out-of-distribution Detection for
Il y a 4 mois
Description du poste
**Domaine**:
- Mathématiques, information scientifique, logiciel
**Contrat**:
- Stage
**Intitulé de l'offre**:
- STAGE - Out-of-distribution detection for adversarial attacks evasion H/F
**Sujet de stage**:
- During this internship, you will study the use of AISER's OOD-detection method, PARTICUL,
to identify whether new inputs were tampered with. You will work using the open-source
library CaBRNet(Xu-Darme et al. 2024), developped at CEA LIST, which provides an
implementation of PARTICUL.
**Durée du contrat (en mois)**:
- 5-6
**Description de l'offre**:
- Through the recent developments of AI, the use of models produced by machine learning has become widespread, even in industrial settings. However, studies are flourishing showing the dangers that such models can bring, in terms of safety, privacy or even fair-ness.- To mitigate these dangers and improve trust in AI, one possible avenue of research consists in designing methods for generating explanations of the model behaviour.- Such methods, regrouped under the umbrella term “eXplainable AI” (XAI), empower the user by providing them with relevant information to make an informed choice to trust the model (or not).- Another important topic is to assess the correct domain of operation of a neural network.
Indeed, inputs of a neural network are expected to be drawn from a distribution similar to the training set. To put it bluntly, a program trained to detect pedestrians on a road should not be expected to perform well when presented with pictures of planes.- As 1embedding such limitation in a neural network is unfeasible, there had been a lot of work on the field of “out-of-distribution detection” (OOD-detection).
Through several work Xu-Darme, Girard-Satabin, et al. (2023), the AISER team bridged XAI and OOD-detection together, using case-based reasoning techniques to detect distribution shift from an input. This ability can be used to other means, for instance monitoring the presence of maliciously modified samples (for instance, adversarial examples (Szegedy et al. 2014).During this internship, you will study the use of AISER’s OOD-detection method, PARTICUL, to identify whether new inputs were tampered with. You will work using the open-source library CaBRNet(Xu-Darme et al. 2024), developped at CEA LIST, which provides an implementation of PARTICUL.The broad internship goals are:
- familiarization with the state-of-the-art on XAI (Molnar 2022), OOD-detection Tajwar
et al. (2021) and adversarial examples Carlini and Wagner (2016);
- getting started with the PARTICUL implementation in CaBRNet;
- design and implementation of benchmarks involving the tampering of whole
datasets with adversarial examples;
- evaluation against other OOD-detection methods using for instance the Open-OOD
benchmark (Yang et al. 2022)**Moyens / Méthodes / Logiciels**:
- CaBRNetwe are doing our best to fight them. One of our team member is formally trained against
psychological harassment and sexual abuse.Minimal- master student or equivalent (2nd/3rd engineering school year) in computer science;
- ability to work in a team;
- some knowledge of version control.
- Preferred- formal training in machine learning and/or statistics;
- experience of machine learning theory.
Localisation du poste
**Site**:
- Grenoble
**Localisation du poste**:
- France, Auvergne-Rhône-Alpes, Isère (38)
**Ville**:
- Grenoble
**Langues**:
- Anglais (Courant)
- Français (Courant)
**Diplôme préparé**:
- Bac+5 - Master 2
**Formation recommandée**:
- Computer Science
**Possibilité de poursuite en thèse**:
- Oui
Demandeur
**Disponibilité du poste**:
- 03/03/2025
Informations générales
**Entité de rattachement**:
Le CEA est un acteur majeur de la recherche, au service des citoyens, de l'économie et de l'Etat.
Il apporte des solutions concrètes à leurs besoins dans quatre domaines principaux : transition énergétique, transition numérique, technologies pour la médecine du futur, défense et sécurité sur un socle de recherche fondamentale. Le CEA s'engage depuis plus de 75 ans au service de la souveraineté scientifique, technologique et industrielle de la France et de l'Europe pour un présent et un avenir mieux maîtrisés et plus sûrs.
Implanté au cœur des territoires équipés de très grandes infrastructures de recherche, le CEA dispose d'un large éventail de partenaires académiques et industriels en France, en Europe et à l'international.
Les 20 000 collaboratrices et collaborateurs du CEA partagent trois valeurs fondamentales:
- La conscience des responsabilités
- La coopération
- La curiosité
**Référence **:2024-32919**Description de l'unité**:
- The French Alternative Energies and Atomic Energy Commission (CEA) is a key player in
research, development, and innovation. Drawing on the widely acknowledged expertise
gained by its 16,000 staff spanned over 9 research centers with a budget of 4.1 bill
-
Stage: In-painting Using Generative Ai for The
Il y a 4 mois
Grenoble, France CEA Temps pleinPosition description **Category**: - Mathematics, information, scientific, software **Contract**: - Internship **Job title**: - STAGE: In-painting using generative AI for the evaluation of eXplainable AI (XAI) methods H/F **Subject**: - In-painting using generative AI for the correctness evaluation of eXplainable AI (XAI) methods H/F **Contract...
-
Explanations of Optimal Policies for Markov
Il y a 4 mois
Grenoble, France CEA Temps pleinDescription du poste **Domaine**: - Mathématiques, information scientifique, logiciel **Contrat**: - Stage **Intitulé de l'offre**: - Explanations of Optimal Policies for Markov Decision Processes H/F **Sujet de stage**: - Explanations of Optimal Policies for Markov Decision Processes **Durée du contrat (en mois)**: - 5 to 6 **Description de...
-
Development of a 1-6µm Optical Collection for
Il y a 3 mois
Grenoble, France CEA Temps pleinPosition description **Category**: - Engineering science **Contract**: - Internship **Job title**: - Development of a 1-6µm optical collection for cathodoluminescence H/F **Subject**: - The development of infrared imaging systems requires the creation of pixel arrays in structures based on small-gap materials (1-10µm) such as CdZnTe or HgCdTe...
-
Multi-criteria Planning of Mvdc Distribution
Il y a 2 mois
Grenoble, France G2ELab - Université Grenoble Alpes Temps plein**Multi-criteria planning of MVDC distribution networks**: - Réf **ABG-126803** - Sujet de Thèse- 09/11/2024- Contrat doctoral- G2ELab - Université Grenoble Alpes- Lieu de travail- Grenoble - Auvergne-Rhône-Alpes - France- Intitulé du sujet- Multi-criteria planning of MVDC distribution networks- Champs scientifiques- Energie **Description du...
-
Stage - Détection de Défauts à L'aide de
Il y a 3 mois
Grenoble, France CEA Temps pleinDescription du poste **Domaine**: - Mathématiques, information scientifique, logiciel **Contrat**: - Stage **Intitulé de l'offre**: - Stage - Détection de défauts à l'aide de réseaux de neurones informés par la physique H/F **Sujet de stage**: - Dans un contexte en constante évolution vous travaillerez sur le développement d'un réseau de...
-
Characterization of Dielectric/silicon Interfaces
Il y a 2 mois
Grenoble, France Grenoble INPCROMA Temps plein**Characterization of dielectric/silicon interfaces using second harmonic generation**: - Réf **ABG-127179** - Stage master 2 / Ingénieur- Durée 6 mois- Salaire net mensuel ~500 euros- 25/11/2024- Grenoble INP/CROMA- Lieu de travail- Grenoble Auvergne-Rhône-Alpes France- Champs scientifiques- Sciences de l’ingénieur - Physique - Mots clés-...
-
Stage: Self-explainable Model for Audio
Il y a 4 mois
Grenoble, France CEA Temps pleinPosition description **Category**: - Mathematics, information, scientific, software **Contract**: - Internship **Job title**: - STAGE: Self-explainable model for audio identification of bird species H/F **Subject**: - Self-explainable model for audio identification of bird species H/F **Contract duration (months)**: - 5-6 months **Job...
-
Head of The Instrumentation and Control Group
Il y a 7 mois
Grenoble, France ILL Temps plein**Head of the Instrumentation and Control Group** **Context** The Institut Laue-Langevin (ILL), situated in Grenoble, France, is Europe's leading research facility for fundamental research using neutrons. The ILL operates the brightest neutron source in the world and hosts over 2000 visits by scientists per year, who come to carry out world-class...
-
Fourier Ptychography for Cell Cultures Imaging
Il y a 3 mois
Grenoble, France CEA Temps pleinDescription du poste **Domaine**: - Optique et optronique **Contrat**: - Stage **Intitulé de l'offre**: - Fourier ptychography for cell cultures imaging H/F **Sujet de stage**: - In microscopy, imaging large areas with high resolution has always been challenging. Either we look at small regions with fine details, or we look at large regions with...
-
Détection Et Estimation de Signaux Assistées Par
Il y a 4 mois
Grenoble, France CEA Temps pleinDescription du poste **Domaine**: - Mathématiques, information scientifique, logiciel **Contrat**: - Stage **Intitulé de l'offre**: - Détection et estimation de signaux assistées par de l'intelligence artificielle H/F **Sujet de stage**: - La détection de signaux faibles (c'est-à-dire à faible rapport signal à bruit) est un sujet d'intérêt...
-
Machine Learning Research Scientist for Robotics
Il y a 7 mois
Grenoble, France NAVER LABS Europe Temps plein**What we do**: The Robot Learning team aims at endowing mobile manipulators with generic learning systems to make them able to perform diverse complex physical tasks in a safe, robust and versatile manner. Our learning systems are based on multimodal foundation models, allowing multi-level sequential reasoning, continual self-improvement and incorporation...
-
Contribution to The Development of a Brick for a
il y a 1 mois
Grenoble, France Grenoble INP; Gipsa-lab Temps plein**Contribution to the development of a brick for a Digital Twin in the context of hydroelectric production**: - Réf **ABG-127370** - Stage master 2 / Ingénieur- Durée 6 mois- Salaire net mensuel about 600 euros- 03/12/2024- Grenoble INP; Gipsa-lab- Lieu de travail- GRENOBLE Auvergne-Rhône-Alpes France- Champs scientifiques- Sciences de l’ingénieur -...
-
Stage (F/H)/x Bac +4/5 Détection de Passagers Dans
Il y a 3 mois
Grenoble, France BLUECIME Temps pleinLa société Bluecime (Grenoble) est spécialisée en développement de systèmes matériels et logiciels, principalement pour le loisir de montagne, en particulier dans le cadre de l'aide à l'exploitation des téléportés à l'aide de technologies par analyse d'image et d'apprentissage automatique. **Description du poste** Déjà implantée dans le...
-
Ionic Membrane for Blue Energy
Il y a 4 mois
Grenoble, France Centre de Recherches sur les Macromolécule Végétales (CERMAV-CNRS) Temps plein**Ionic membrane for blue energy**: - Réf **ABG-125816** - Stage master 2 / Ingénieur- Durée 6 mois- Salaire net mensuel 610 euros- 16/09/2024- Centre de Recherches sur les Macromolécule Végétales (CERMAV-CNRS)- Lieu de travail- Grenoble Auvergne-Rhône-Alpes France- Champs scientifiques- Chimie - Matériaux - Mots clés- membrane, blue energy,...
-
Principal Design Engineer for Image Sensors
il y a 1 semaine
Grenoble, Auvergne-Rhône-Alpes, France IC Resources Temps pleinCompany OverviewIC Resources is a leading provider of expert resources and solutions for the electronics industry.Job SummaryWe are currently seeking a highly skilled Principal Design Engineer to join our team in Grenoble. The successful candidate will be responsible for supporting all stages of design and development of custom image sensors.Key...
-
Diaziridines Synthesis for Chemoselective
Il y a 2 mois
Grenoble, France Département de Chimie Moléculaire, CNRS - Université Grenoble Alpes Temps plein**Diaziridines synthesis for chemoselective methionine bioconjugation**: - Réf **ABG-126696** - Stage master 2 / Ingénieur- Durée 6 mois- Salaire net mensuel approximately 600 euros- 06/11/2024- Département de Chimie Moléculaire, CNRS - Université Grenoble Alpes- Lieu de travail- Grenoble Auvergne-Rhône-Alpes France- Champs scientifiques- Chimie -...
-
Security Characterization of a Risc-v Processor
Il y a 2 mois
Grenoble, France CEA Temps pleinDescription du poste **Domaine**: - Mathématiques, information scientifique, logiciel **Contrat**: - Stage **Intitulé de l'offre**: - Security characterization of a RISC-V processor H/F H/F **Sujet de stage**: - The French Alternative Energies and Atomic Energy Commission (CEA) is a key player in research, devel-opment and innovation in four main...
-
Stage Bac+5 Feasibility Study of Embedded Physics
Il y a 4 mois
Grenoble, France CEA Temps pleinDescription du poste **Domaine**: - Mathématiques, information scientifique, logiciel **Contrat**: - Stage **Intitulé de l'offre**: - Stage BAC+5 Feasibility study of embedded Physics Informed Neural Network H/F **Sujet de stage**: - Feasibility study of embedded Physics Informed Neural Network (PINNS) for online Fuel Cell Prognosis and Health...
-
Détection de Malwares Dans Les Systèmes
Il y a 3 mois
Grenoble, France CEA Temps pleinDescription du poste **Domaine**: - Composants et équipements électroniques **Contrat**: - Stage **Intitulé de l'offre**: - Détection de malwares dans les systèmes embarqués basée sur des modèles IA H/F **Sujet de stage**: - Le Service Sécurité des Systèmes Electroniques et des Composants (SSSEC) du Commissariat à l’Energie Atomique et...
-
X-ray-tracing Simulations for Instrumental Function
Il y a 3 mois
Grenoble, France CEA Temps pleinPosition description **Category**: - Mathematics, information, scientific, software **Contract**: - Internship **Job title**: - X-ray-tracing simulations for instrumental function determination H/F **Subject**: - The Nano-Characterization Platform (PFNC) of CEA Grenoble has a large set of state-of-the-art equipment to carry out physicochemical...
