Stage M2: Vulnérabilités des modèles d'IA lors de la phase d'adaptation H/F

il y a 5 jours


GifsurYvette, France CEA Temps plein

Description de l'offre

Nous observons actuellement l’augmentation de la mise à disposition de modèles profonds pré-entrainés (modèles de fondations) qui vont ensuite être adaptés pour la réalisation d’une tache spécifique. Cette phase d'adaptation fournit de nouvelles possibilités d'attaques qui vont être étudiées au cours de ce stage.

Ainsi, le/la candidat(e) sera amener à étudier certains verrous parmi lesquels :

Comment assurer la pérennité de l’empoisonnement (attaque backdoor) d’un modèle pré-entrainé lors de l’étape de fine-tuning ?

Comment empoisonner de façon efficace un modèle pré-entrainé lors d’une étape de fine-tuning ?

La base de données utilisée pour le fine-tuning est-elle particulièrement vulnérable face aux attaques d’appartenance ?

Quelles sont les nouvelles attaques qui peuvent être envisagées autour de l’utilisation d’un RAG (Génération Augmentée par Récupération) ?

Le stage débutera par une étude bibliographique liée aux verrous du stage avant de se focaliser sur l’un d’entre eux avec la proposition et la mise en œuvre d’attaques innovantes. Les cas d’usage envisagés durant le stage seront la détection d’objets (modèle de type Retinanet) et/ou la génération de textes (modèle de type LLM).

Profil du candidat

Le stage s’adresse à un(e) étudiant(e) du cycle ingénieur/universitaire cherchant un stage M2 et manifestant l’envie de travailler dans le milieu de la recherche avec un intérêt manifeste pour la cybersécurité des IA. Idéalement, le/la candidat(e) suit actuellement une formation en lien avec le domaine de l’Intelligence Artificielle/Machine Learning. La connaissance des principaux algorithmes d’optimisation, des différents types de modèles ainsi que la maîtrise de Python sont indispensables. Durant le stage, le/la candidat(e) sera en relation directe avec un expert en cybersécurité de l’IA. Nous attendons qu’il/elle soit capable d'apporter sa rigueur, son enthousiasme et sa curiosité pour la recherche. Nous offrons la possibilité à nos stagiaires de participer à la conférence JDSE (Junior conference on Data Science and Engineering) afin de les familiariser avec le déroulement d’une conférence scientifique.

La durée du stage est de 6 mois minimum et sera rémunéré.

Conformément aux engagements pris par le CEA en faveur de l’intégration de personnes en situation de handicap, cet emploi est ouvert à tous et toutes.



  • Gif-sur-Yvette, France CEA Temps plein

    Description du poste **Domaine**: - Mathématiques, information scientifique, logiciel **Contrat**: - Stage **Intitulé de l'offre**: - Stage M2: attaques de confidentialité en apprentissage fédéré H/F **Sujet de stage**: - En 2016, Google publie les principes fondateurs de l'apprentissage fédéré avec la promesse de faire de l'apprentissage...


  • Gif-sur-Yvette, France CEA Temps plein

    Description de l'offre Le stage aura pour objectif principal d’évaluer la robustesse et la précision de la méthode de champ de phase implémentée dans le code Trio-CFD. Pour cela, le stagiaire mettra en place une série de cas tests comprenant la génération des données d'entrée ainsi que le développement des outils de post-traitement...


  • Gif-sur-Yvette, France CEA Temps plein

    Description du poste **Domaine**: - Thermohydraulique et mécanique des fluides **Contrat**: - Stage **Intitulé de l'offre**: - Stage - Modélisation de l'autovaporisation dans le code CATHARE-3 pour les fluides cryogéniques H/F **Sujet de stage**: - Validation de CATHARE-3 sur une base de données expérimentale d'écoulements de fluides...


  • Gif-sur-Yvette, France CEA Temps plein

    Description de l'offre Contexte Dans l'industrie nucléaire, les écoulements diphasiques, notamment ceux impliquant l’apparition de poches de gaz ou de très grandes bulles, jouent un rôle crucial, en particulier lors de scénarios accidentels dans les réacteurs nucléaires. Ces écoulements se caractérisent par la coexistence de régimes à...


  • Gif-sur-Yvette, France CEA Temps plein

    Description du poste **Domaine**: - Neutronique et physique des réacteurs **Contrat**: - Stage **Intitulé de l'offre**: - DEVELOPPEMENT DE MODELES POUR LES REACTEURS HTR A L’AIDE DU CODE MONTE-CARLO TRIPOLI-5 H/F **Sujet de stage**: - Les réacteurs HTR (High Temperature Reactors) reposent sur l’utilisation de combustible dit « à double...


  • Gif-sur-Yvette, France CEA Temps plein

    Description de l'offre Le but du stage consiste à étudier les attaques de confidentialité dans le cadre de l'apprentissage fédéré [1]. Classiquement, un serveur malveillant (honnête mais curieux) tente d'inférer de l'information sur les données d'apprentissage à partir du gradient envoyé par le client (gradient-based attack [2]). Cela peut...

  • Chef d'équipe Stratégique

    il y a 2 semaines


    Gif-sur-Yvette, Île-de-France Experis France Temps plein

    Nous recherchons un Chef d'équipe stratégique motivé pour rejoindre notre équipe à Gif-Sur-Yvette. Cette fonction est chargée de l'animation d'une équipe dynamique et compétente.Présentation du posteVous aurez la responsabilité de gérer une équipe composée de professionnels expérimentés, avec pour objectif de les aider à atteindre...


  • Gif-sur-Yvette, Île-de-France CNRS Temps plein

    PrésentationL'équipe du GeePs, située à Gif Sur Yvette, recherche un spécialiste en modélisation numérique pour développer des outils de calcul scientifique. Ce poste est localisé au Centre d'Expertise Modélisation Electromagnétique Multi Physique.Salaire et RémunérationNiveau de rémunération : A partir de 2 419,53€ par mois...


  • Gif-sur-Yvette, France CEA Temps plein

    Description du poste **Domaine**: - Chimie **Contrat**: - Stage **Intitulé de l'offre**: - Stagiaire en chimie analytique niveau M2 H/F **Sujet de stage**: - Etude et mise au point de différentes techniques de dépôt sur filament en spectrométrie de masse à thermo-ionisation dans le cadre de la réduction des quantités analysables **Durée du...


  • Gif-sur-Yvette, France CNRS Temps plein

    Informations générales Intitulé de l'offre : Post-doctorant en IA pour la mécanique (H/F) Référence : UMR9026-CLEJAI-002 Nombre de Postes : 1 Lieu de travail : GIF SUR YVETTE Date de publication : vendredi 22 novembre 2024 Type de contrat : Chercheur en contrat CDD Durée du contrat : 12 mois Date d'embauche prévue : 13 janvier 2025 Quotité...

  • Pharmacométricien stagiaire

    il y a 3 semaines


    Gif-sur-Yvette, Île-de-France Servier Temps plein

    Nous recherchons un pharmacométricien stagiaire pour participer à l'élaboration de modèles de pharmacocinétique et de pharmacodynamie.ContexteLa pharmacométrie joue un rôle clé dans le développement des candidats médicaments de Servier, favorisant ainsi une compréhension approfondie des effets des traitements pour le bénéfice des patients....


  • Gif-sur-Yvette, France CNRS Temps plein

    Informations générales Intitulé de l'offre : Post-doctorant-e (H/F) CNRS – modélisation de la productivité biologique lors des réchauffements passés Référence : UMR8212-NATBOU-005 Nombre de Postes : 1 Lieu de travail : GIF SUR YVETTE Date de publication : mardi 1 octobre 2024 Type de contrat : CDD Scientifique Durée du contrat : 12 mois...


  • Gif-sur-Yvette, France CNRS Temps plein

    Informations générales Intitulé de l'offre : Post-doctorant-e (H/F) CNRS – modélisation de la productivité biologique lors des réchauffements passés Référence : UMR8212-NATBOU-005 Nombre de Postes : 1 Lieu de travail : GIF SUR YVETTE Date de publication : mardi 1 octobre 2024 Type de contrat : Chercheur en contrat CDD Durée du contrat :...


  • Gif-sur-Yvette, France IRT SystemX Temps plein

    **Contexte du stage**: Au sein de l’Institut de Recherche Technologique SystemX, situé au cœur du campus scientifique Paris-Saclay, vous prendrez une part active dans les travaux de recherche et développements au sein d’une recherche exploratoire qui s’intéresse à l’amélioration des modèles de langage en s’appuyant sur le feedback de...


  • Gif-sur-Yvette, France CEA Temps plein

    Description du poste **Domaine**: - Mécanique et thermique **Contrat**: - Stage **Intitulé de l'offre**: - Stage "irradiation des bétons" H/F **Sujet de stage**: - Simulation de la dégradation des structures en béton sous irradiation **Durée du contrat (en mois)**: - 6 **Description de l'offre**: - Dans les centrales nucléaires, la...


  • Gif-sur-Yvette, Île-de-France CNRS Temps plein

    Découvrez l'opportunitéRejoignez notre équipe du projet ANR BIOCOD et occupez le poste de spécialiste en modélisation de la productivité biologique. Nous sommes à la recherche d'une personne motivée pour contribuer à comprendre les changements de productivité biologique lors des transitions climatiques.MissionsRéaliser des simulations avec le...

  • Postdoctoral researcher

    il y a 1 mois


    Gif-sur-Yvette, Île-de-France CNRS Temps plein

    Poste de recherche postdoctoralLe CNRS recherche un(e) postdoctorant(e) pour rejoindre l'équipe du projet ANR BIOCOD. Ce projet vise à utiliser un modèle intégrant la modélisation des isotopes pour mieux comprendre et séparer les changements de productivité biologique et leur impact sur le cycle du carbone lors des déglaciations.MissionsLe...


  • Gif-sur-Yvette, France CEA Temps plein

    Description du poste **Domaine**: - Physique du noyau, atome, molécule **Contrat**: - Stage **Intitulé de l'offre**: - Stage - Bac+5 - Mobilité des dislocations dans les alliages à haute entropie cubiques centrés H/F **Sujet de stage**: - Les alliages à haute entropie sont des solutions solides monophasées multi-composants, tous présents en...


  • Gif-sur-Yvette, France CEA Temps plein

    Description du poste **Domaine**: - Mécanique et thermique **Contrat**: - Stage **Intitulé de l'offre**: - Stage "optimisation pour le dimensionnement de structures en béton armé" H/F **Sujet de stage**: - Mise en place d'algorithmes d'optimisation pour le dimensionnement de structures en béton armé **Durée du contrat (en mois)**: -...


  • Gif-sur-Yvette, France Servier Temps plein

    **Date de parution**:17 oct. 2024**Ville**:GIF-SUR-YVETTE**Pays/Région**:FR**Type de contrat**:Stage**N° offre**:7152Stagiaire pharmacométricien (H/F) - Nous sommes un groupe pharmaceutique à dimension humaine, international et indépendant, gouverné par une Fondation. Notre modèle, singulier, fait notre fierté mais, surtout, nous permet de servir...