Stage - Attaques Adverses Et Contre-exemples Pour

Description du poste

**Domaine**:

- Mathématiques, information scientifique, logiciel

**Contrat**:

- Stage

**Intitulé de l'offre**:

- STAGE - Attaques adverses et contre-exemples pour la vérification de réseaux de neurones H/F

**Sujet de stage**:

- Implémentation d'attaques adverses et contre-exemples pour la vérification de réseaux de neurones

**Durée du contrat (en mois)**:

- 4 à 6 mois

**Description de l'offre**:
**Contexte**
- Avec les récents développements en matière d'IA, son utilisation est de plus en plus répandue et soulève de plus en plus de questions quant à sa robustesse, son respect de la vie privée ou autre. Un certain nombre de travaux ont émergés pour augmenter la confiance dans les IAs en se basant sur des méthodes formelles pour obtenir des garanties mathématiques de leur sûreté.

Afin de fournir des guaranties fortes de sûreté et de robustesse sur des réseaux de neurones, les équipes du CEA ont développés un outil appelé PyRAT. Cet outil va essayer de vérifier et de falsifier des propriétés de robustesse du réseau. Actuellement ces méthodes sont rudimentaires utilisant des attaques, dites adverses, simples sur le réseaux. Néanmoins, celles ci ne permettent pas de s'adapter plus précisément au réseau et à la propriété.

**Stage**
- Ce stage consistera donc à améliorer les capacités de PyRAT à trouver des contres exemples en utilisant des informations déjà présentes dans les propriétés de robustesse ou dans l'outil. En plus de cela, des optimisations et des compromis pour éviter une recherche de contre exemple trop longue seront à trouver. Plusieurs axes seront donc explorés:
- Implémentation d'attaques adverses plus fortes dans PyRAT pour rechercher des contres exemples
- Incorprer des informations supplémentaires venant de PyRAT dans la recherche
- Automatiser et optimiser la recherche en termes de performances et de temps
- Le/la stagiaire prendra aussi part à la compétition international de vérification de réseaux de neurones pour tester les nouvelles capacités de recherche de contre exemples.**Moyens / Méthodes / Logiciels**:

- Python

**Qu’attendons-nous de vous ?**Connaissances requises**:

- Développement Python
- Git
- Bases en vision par ordinateur et intelligence artificielles

**Rejoignez-nous, venez développer vos compétences et en acquérir de nouvelles #CEAList**

**Vous avez encore un doute ? Nous vous proposons**:

- L'opportunité de travailler au sein d'une organisation de renommée mondiale dans le domaine de la recherche scientifique,
- Un environnement unique dédié à des projets ambitieux au profit des grands enjeux sociétaux actuels,
- Une expérience à la pointe de l’innovation, comportant un fort potentiel de développement industriel,
- Des moyens expérimentaux exceptionnels et un encadrement de qualité,
De réelles opportunités de carrière à l’issue de votre stage,
- Une participation aux transports en commun à hauteur de 75%,
- Un équilibre vie privé - vie professionnelle reconnu,
- Une politique diversité et inclusion,
- Un CSE actif en termes de loisirs et d’activités extra-professionnelles.
- Tous nos postes sont ouverts aux personnes en situation de Handicap. La Mission Handicap du CEA vous accompagne et met en place les aménagements nécessaires à vos besoins spécifiques.Localisation du poste

**Site**:

- Saclay

**Localisation du poste**:

- France, Ile-de-France, Essonne (91)

**Ville**:

- Palaiseau

Demandeur

**Disponibilité du poste**:

- 01/03/2025

Informations générales

**Entité de rattachement**:
Le CEA est un acteur majeur de la recherche, au service des citoyens, de l'économie et de l'Etat.

Il apporte des solutions concrètes à leurs besoins dans quatre domaines principaux : transition énergétique, transition numérique, technologies pour la médecine du futur, défense et sécurité sur un socle de recherche fondamentale. Le CEA s'engage depuis plus de 75 ans au service de la souveraineté scientifique, technologique et industrielle de la France et de l'Europe pour un présent et un avenir mieux maîtrisés et plus sûrs.

Implanté au cœur des territoires équipés de très grandes infrastructures de recherche, le CEA dispose d'un large éventail de partenaires académiques et industriels en France, en Europe et à l'international.

Les 20 000 collaboratrices et collaborateurs du CEA partagent trois valeurs fondamentales:

- La conscience des responsabilités
- La coopération
- La curiosité

**Référence **:2024-32899**Description de l'unité**:

- Sur le campus Paris-Saclay, le rôle du Laboratoire Sûreté et Sécurité des Logiciels du #CEA-List est de développer des outils d'analyse pour augmenter la
confiance dans les systèmes logiciels, en détecter des vulnérabilités, garantir la conformité à leurs spécifications, et en accélérer l'évaluation y compris dans des démarches de certification. Nos outils open-sou