STAGE Développement d'outillage pour l'audit de modèles d'IA F/H

il y a 3 jours

Palaiseau, Île-de-France EDF Temps plein

Mise en ligne le

Type de contrat : Stage

Niveau de formation : BAC +4 / BAC +5

Spécialité(s) : Sécurité

Pays / Région : France / Ile-de-France

Département : Essonne (91)

Ville : Palaiseau

Description de l'offre

DEVELOPPEMENT D'OUTILLAGE POUR L'AUDIT DE MODELES D'IA

La R&D d'EDF (1900 chercheurs) a pour missions principales de contribuer à l'amélioration de la performance des unités opérationnelles du groupe EDF, d'identifier et de préparer les relais de croissance à moyens et longs termes. Ces missions s'appuient fortement sur les dernières innovations numériques et s'appliquent à la fois sur les systèmes d'information traditionnels ainsi que sur les systèmes d'information industriels (ICS/SCADA). Or, l'évolution des systèmes d'information impliquent de nouveaux risques et de forts enjeux sur le domaine de la sécurité informatique. L'atteinte de ces enjeux nécessite des travaux de recherches important sur les thématiques de la sécurité informatique.

C'est dans ce contexte que le groupe IRC (Innovation et Recherche en Cybersécurité) de la R&D d'EDF a la charge d'étudier, développer et proposer des solutions de sécurité pour le domaine industriel aux différentes directions métiers d'EDF. Le groupe IRC maintient et développe ses compétences en sécurité des systèmes d'information par les études et expérimentations qu'il réalise ainsi que par une veille technologique constante.

L'intelligence artificielle occupe désormais une place croissante au sein des entreprises, qui l'exploitent à des fins variées : synthèse de documents, détection d'anomalies, aide aux opérateurs… Cependant, l'IA présente également des risques de cybersécurité qui lui sont spécifiques, et soulève des inquiétudes quand à la confiance que l'on peut lui accorder.

On trouve dans la littérature scientifique de nombreuses vulnérabilités liées à toutes les phases du cycle de vie des modèles d'IA, allant de l'entraînement du modèle à son utilisation en production.

Dans le cadre des analyses de sécurité réalisées par la R&D d'EDF sur différents modèles d'IA (notamment génératives), l'objectif du stage est de d'aider à l'outillage et à l'automatisation de ces tests et à la construction de benchmarks de test.

Le/La stagiaire sera amené.e à mettre en place une infrastructure d'audit de modèles d'IA, partiellement ou totalement automatisée, au sein du moyen d'essais en cybersécurité de la R&D.

Le stage pourra s'organiser de la façon suivante :

  • Faire un état de l'art sur les risques cyber auxquels sont exposés les modèles d'IA (par exemple : jailbreaks, extraction d'informations sensibles, biais, toxicité, empoisonnement, …), ainsi que les mécanismes de protection associés,
  • Développer une infrastructure de test des modèles d'IA et en évaluer la robustesse,
  • Documenter pour faciliter la continuité des travaux sur ce sujet.
Profil souhaité

Formation : Bac +5 uniquement : école ingénieur ou de Master en informatique, avec une spécialisation en intelligence artificielle ou en cybersécurité et une appétence pour le second domaine.

Compétences requises :

  • Connaissances des systèmes GNU/Linux ;
  • Programmation ;
  • Connaissances en Intelligence Artificielle ;
  • Connaissances en sécurité informatique ;

Qualités recherchées :

  • Grande autonomie et force de proposition ;
  • Capacité d'adaptation ;
  • Esprit critique et de synthèse ;
  • Esprit d'équipe et communication ;
  • Pédagogie
  • Ouverture sur de nouvelles problématiques.

  • STAGE – Ingénieur en IA générative – Vision – Language Models pour l'analyse de scène par fusion multimodale

    il y a 2 semaines

    Palaiseau, Île-de-France Thales Temps plein 30 000 € - 40 000 € par an

    Lieu : Palaiseau, FranceConstruisons ensemble un avenir de confianceThales est un leader mondial des hautes technologies spécialisé dans trois secteurs d'activité : Défense & Sécurité, Aéronautique & Spatial, et Cyber & Digital. Il développe des produits et solutions qui contribuent à un monde plus sûr, plus respectueux de l'environnement et plus...

  • STAGE – Ingénieur en Vérification formelle d'algorithmes à base d'IA

    il y a 2 semaines

    Palaiseau, Île-de-France Thales Temps plein

    Lieu : Palaiseau, FranceConstruisons ensemble un avenir de confianceThales est un leader mondial des hautes technologies spécialisé dans trois secteurs d'activité : Défense & Sécurité, Aéronautique & Spatial, et Cyber & Digital. Il développe des produits et solutions qui contribuent à un monde plus sûr, plus respectueux de l'environnement et plus...

  • STAGE – Ingénieur en Vérification formelle d'algorithmes à base d'IA

    il y a 2 semaines

    Palaiseau, Île-de-France Thales Temps plein

    Lieu : Palaiseau, FranceConstruisons ensemble un avenir de confianceThales est un leader mondial des hautes technologies spécialisé dans trois secteurs d'activité : Défense & Sécurité, Aéronautique & Spatial, et Cyber & Digital. Il développe des produits et solutions qui contribuent à un monde plus sûr, plus respectueux de l'environnement et plus...

  • STAGE – Ingénieur en explicabilité des algorithmes de détection d'objets, basés sur les grands modèles de vision-langage

    il y a 7 jours

    Palaiseau, Île-de-France Thales Temps plein

    Lieu : Palaiseau, FranceConstruisons ensemble un avenir de confianceThales est un leader mondial des hautes technologies spécialisé dans trois secteurs d'activité : Défense & Sécurité, Aéronautique & Spatial, et Cyber & Digital. Il développe des produits et solutions qui contribuent à un monde plus sûr, plus respectueux de l'environnement et plus...

  • Stage – Apprentissage fédéré de l'IA pour l'acoustique sous-marine

    il y a 2 semaines

    Palaiseau, Île-de-France Thales Temps plein

    Lieu : Palaiseau, FranceConstruisons ensemble un avenir de confianceThales est un leader mondial des hautes technologies spécialisé dans trois secteurs d'activité : Défense & Sécurité, Aéronautique & Spatial, et Cyber & Digital. Il développe des produits et solutions qui contribuent à un monde plus sûr, plus respectueux de l'environnement et plus...

  • STAGE – Ingénieur en Intelligence Artificielle et Robotique – IA générative pour la navigation robotique

    il y a 2 semaines

    Palaiseau, Île-de-France Thales Temps plein 40 000 € - 60 000 € par an

    Lieu : Palaiseau, FranceConstruisons ensemble un avenir de confianceThales est un leader mondial des hautes technologies spécialisé dans trois secteurs d'activité : Défense & Sécurité, Aéronautique & Spatial, et Cyber & Digital. Il développe des produits et solutions qui contribuent à un monde plus sûr, plus respectueux de l'environnement et plus...

  • Stage - Etude de l'embarquabilité des réseaux Perceiver IO et Hierarchical Reasoning Model H/F

    il y a 3 jours

    Palaiseau, Île-de-France CEA Temps plein

    Informations générales Entité de rattachement Le CEA est un acteur majeur de la recherche, au service des citoyens, de l'économie et de l'Etat.Il apporte des solutions concrètes à leurs besoins dans quatre domaines principaux : transition énergétique, transition numérique, technologies pour la médecine du futur, défense et sécurité sur un...

  • STAGE – Ingénieur en Apprentissage Fédéré équitable et sécurisé

    il y a 7 jours

    Palaiseau, Île-de-France Thales Temps plein

    Lieu : Palaiseau, FranceConstruisons ensemble un avenir de confianceThales est un leader mondial des hautes technologies spécialisé dans trois secteurs d'activité : Défense & Sécurité, Aéronautique & Spatial, et Cyber & Digital. Il développe des produits et solutions qui contribuent à un monde plus sûr, plus respectueux de l'environnement et plus...

  • STAGE – Ingénieur en Apprentissage Fédéré équitable et sécurisé

    il y a 7 jours

    Palaiseau, Île-de-France Thales Temps plein

    Lieu : Palaiseau, FranceConstruisons ensemble un avenir de confianceThales est un leader mondial des hautes technologies spécialisé dans trois secteurs d'activité : Défense & Sécurité, Aéronautique & Spatial, et Cyber & Digital. Il développe des produits et solutions qui contribuent à un monde plus sûr, plus respectueux de l'environnement et plus...

  • Stage PFE Utilisation des outils IA pour prototyper des solutions de type jumeau num. à l'aide d'IA F/H

    il y a 3 jours

    Palaiseau, Île-de-France EDF Temps plein

    Stage de fin d'études en informatique (PFE bac+5) sur le sujet :Utilisation de méthodes et d'outils d'IA pour prototyper des solutions informatiques de type jumeau numérique à l'aide d'IA générativeContexte et missionEDF R&D a pour missions principales de contribuer à l'amélioration de la performance des unités opérationnelles du Groupe EDF,...