Stage Développement d'Outillage pour l'Audit de Modèles d'IA H/F

il y a 5 jours

Palaiseau, France EDF Temps plein

DEVELOPPEMENT D'OUTILLAGE POUR L'AUDIT DE MODELES D'IA La R&D d'EDF (1900 chercheurs) a pour missions principales de contribuer à l'amélioration de la performance des unités opérationnelles du groupe EDF, d'identifier et de préparer les relais de croissance à moyens et longs termes. Ces missions s'appuient fortement sur les dernières innovations numériques et s'appliquent à la fois sur les systèmes d'information traditionnels ainsi que sur les systèmes d'information industriels (ICS/SCADA). Or, l'évolution des systèmes d'information impliquent de nouveaux risques et de forts enjeux sur le domaine de la sécurité informatique. L'atteinte de ces enjeux nécessite des travaux de recherches important sur les thématiques de la sécurité informatique. C'est dans ce contexte que le groupe IRC (Innovation et Recherche en Cybersécurité) de la R&D d'EDF a la charge d'étudier, développer et proposer des solutions de sécurité pour le domaine industriel aux différentes directions métiers d'EDF. Le groupe IRC maintient et développe ses compétences en sécurité des systèmes d'information par les études et expérimentations qu'il réalise ainsi que par une veille technologique constante. L'intelligence artificielle occupe désormais une place croissante au sein des entreprises, qui l'exploitent à des fins variées : synthèse de documents, détection d'anomalies, aide aux opérateurs Cependant, l'IA présente également des risques de cybersécurité qui lui sont spécifiques, et soulève des inquiétudes quand à la confiance que l'on peut lui accorder. On trouve dans la littérature scientifique de nombreuses vulnérabilités liées à toutes les phases du cycle de vie des modèles d'IA, allant de l'entraînement du modèle à son utilisation en production. Dans le cadre des analyses de sécurité réalisées par la R&D d'EDF sur différents modèles d'IA (notamment génératives), l'objectif du stage est de d'aider à l'outillage et à l'automatisation de ces tests et à la construction de benchmarks de test. Le/La stagiaire sera amené.e à mettre en place une infrastructure d'audit de modèles d'IA, partiellement ou totalement automatisée, au sein du moyen d'essais en cybersécurité de la R&D. Le stage pourra s'organiser de la façon suivante : - Faire un état de l'art sur les risques cyber auxquels sont exposés les modèles d'IA (par exemple : jailbreaks, extraction d'informations sensibles, biais, toxicité, empoisonnement, ), ainsi que les mécanismes de protection associés, - Développer une infrastructure de test des modèles d'IA et en évaluer la robustesse, - Documenter pour faciliter la continuité des travaux sur ce sujet.

  • STAGE Développement d'outillage pour l'audit de modèles d'IA F/H

    il y a 3 jours

    Palaiseau, Île-de-France EDF Temps plein

    Mise en ligne le Type de contrat : StageNiveau de formation : BAC +4 / BAC +5Spécialité(s) : SécuritéPays / Région : France / Ile-de-FranceDépartement : Essonne (91)Ville : Palaiseau Description de l'offreDEVELOPPEMENT D'OUTILLAGE POUR L'AUDIT DE MODELES D'IALa R&D d'EDF (1900 chercheurs) a pour missions principales de contribuer à l'amélioration de...

  • Ingénieur en Scores de confiance pour algorithmes de Machine Learning en détection d'objets

    il y a 6 jours

    Palaiseau, France Thales - CortAIx Factory (AI by Thales) Temps plein

    Lieu : Palaiseau, FranceConstruisons ensemble un avenir de confianceThales est un leader mondial des hautes technologies spécialisé dans trois secteurs d’activité : Défense & Sécurité, Aéronautique & Spatial, et Cyber & Digital. Il développe des produits et solutions qui contribuent à un monde plus sûr, plus respectueux de l’environnement et...

  • Ingénieur en Synthèse neuronale de parole propre à partir de signaux audios fortement dégradés

    il y a 6 jours

    Palaiseau, France Thales - CortAIx Factory (AI by Thales) Temps plein

    Lieu : Palaiseau, FranceConstruisons ensemble un avenir de confianceThales est un leader mondial des hautes technologies spécialisé dans trois secteurs d’activité : Défense & Sécurité, Aéronautique & Spatial, et Cyber & Digital. Il développe des produits et solutions qui contribuent à un monde plus sûr, plus respectueux de l’environnement et...

  • Ingénieur Développement d’un banc automatisé de caractérisation de nouveaux éléments photoniques pour des applications innovantes

    il y a 6 jours

    Palaiseau, France Thales - CortAIx Factory (AI by Thales) Temps plein

    Lieu : Palaiseau, FranceConstruisons ensemble un avenir de confianceThales est un leader mondial des hautes technologies spécialisé dans trois secteurs d’activité : Défense & Sécurité, Aéronautique & Spatial, et Cyber & Digital. Il développe des produits et solutions qui contribuent à un monde plus sûr, plus respectueux de l’environnement et...

  • Ingénieur en circuits photoniques intégrés en niobate de lithium sur isolant

    il y a 6 jours

    Palaiseau, France Thales - CortAIx Factory (AI by Thales) Temps plein

    Lieu : Palaiseau, FranceConstruisons ensemble un avenir de confianceThales est un leader mondial des hautes technologies spécialisé dans trois secteurs d’activité : Défense & Sécurité, Aéronautique & Spatial, et Cyber & Digital. Il développe des produits et solutions qui contribuent à un monde plus sûr, plus respectueux de l’environnement et...

  • Ingénieur développement de nanocapteurs de température à base de matériaux 2D pour mesures par spectroscopie Raman

    il y a 6 jours

    Palaiseau, France Thales - CortAIx Factory (AI by Thales) Temps plein

    Lieu : Palaiseau, FranceConstruisons ensemble un avenir de confianceThales est un leader mondial des hautes technologies spécialisé dans trois secteurs d’activité : Défense & Sécurité, Aéronautique & Spatial, et Cyber & Digital. Il développe des produits et solutions qui contribuent à un monde plus sûr, plus respectueux de l’environnement et...

  • Ingénieur Conception d’absorbants à bandes de fréquence multiples pour la discrétion électromagnétique

    il y a 6 jours

    Palaiseau, France Thales - CortAIx Factory (AI by Thales) Temps plein

    Lieu : Palaiseau, FranceConstruisons ensemble un avenir de confianceThales est un leader mondial des hautes technologies spécialisé dans trois secteurs d’activité : Défense & Sécurité, Aéronautique & Spatial, et Cyber & Digital. Il développe des produits et solutions qui contribuent à un monde plus sûr, plus respectueux de l’environnement et...

  • Ingénieur en Apprentissage Fédéré équitable et sécurisé

    il y a 6 jours

    Palaiseau, France Thales - CortAIx Factory (AI by Thales) Temps plein

    Lieu : Palaiseau, FranceConstruisons ensemble un avenir de confianceThales est un leader mondial des hautes technologies spécialisé dans trois secteurs d’activité : Défense & Sécurité, Aéronautique & Spatial, et Cyber & Digital. Il développe des produits et solutions qui contribuent à un monde plus sûr, plus respectueux de l’environnement et...

  • Ingénieur en IA générative – Vision – Language Models pour l’analyse de scène par fusion multimodale

    il y a 6 jours

    Palaiseau, France Thales - CortAIx Factory (AI by Thales) Temps plein

    Lieu : Palaiseau, FranceConstruisons ensemble un avenir de confianceThales est un leader mondial des hautes technologies spécialisé dans trois secteurs d’activité : Défense & Sécurité, Aéronautique & Spatial, et Cyber & Digital. Il développe des produits et solutions qui contribuent à un monde plus sûr, plus respectueux de l’environnement et...

  • Ingénieur en explicabilité des algorithmes de détection d’objets, basés sur les grands modèles de vision-langage

    il y a 6 jours

    Palaiseau, France Thales - CortAIx Factory (AI by Thales) Temps plein

    Lieu : Palaiseau, FranceConstruisons ensemble un avenir de confianceThales est un leader mondial des hautes technologies spécialisé dans trois secteurs d’activité : Défense & Sécurité, Aéronautique & Spatial, et Cyber & Digital. Il développe des produits et solutions qui contribuent à un monde plus sûr, plus respectueux de l’environnement et...