Stage: R&d Sécurité Et Défense Des Llm

**Faites ressortir le meilleur de vous-même**

**Votre mission**

Compte tenu de l'importance croissante des grands modèles de langage (LLM) dans diverses industries et de leur potentiel pour un impact généralisé, garantir leur sécurité est primordial. Ce stage a pour objectif de développer et maintenir une solution robuste de Sécurité et Défense pour les LLM.

Cette solution servira d'outil essentiel pour protéger le déploiement et l'utilisation des LLM en:

- Réalisant des évaluations de sécurité complètes : La solution évaluera systématiquement les LLM pour détecter les vulnérabilités telles que les biais, la toxicité et les attaques adverses. En identifiant ces risques potentiels de manière proactive, nous pouvons atténuer leur impact et assurer l'utilisation responsable des LLM.
- Mettant en œuvre des mécanismes de protection robustes : La solution intégrera des techniques efficaces de sanitation des entrées et des sorties pour prévenir les entrées malveillantes de compromettre l'intégrité des LLM et protéger les informations sensibles. Cela aidera à protéger les LLM contre une exploitation à des fins nuisibles.
- Fournissant des informations exploitables : La solution générera des rapports clairs et informatifs qui mettront en évidence les vulnérabilités identifiées et offriront des recommandations pour leur remédiation. Cela permettra aux organisations de prendre des décisions éclairées concernant le déploiement et la gestion des LLM, minimisant les risques et maximisant les avantages.

Dans le contexte décrit ci-dessus, les objectifs et tâches spécifiques du stage sont les suivants:

- Recherche : Mener des recherches approfondies sur les meilleures pratiques de sécurité des LLM, les méthodologies d’évaluation des vulnérabilités et les techniques de sanitation.
- Développement de la solution : Concevoir et mettre en œuvre une solution de sécurité et de défense pour les LLM en utilisant Python ou d'autres langages de programmation appropriés.
- Cadre de test de sécurité : Créer un cadre complet pour tester les LLM contre diverses menaces de sécurité, y compris les attaques adverses, l'empoisonnement des données et les biais.
- Algorithmes de détection des vulnérabilités : Développer des algorithmes ou utiliser des techniques existantes pour identifier et classer les vulnérabilités dans les sorties des LLM.
- Techniques de sanitation : Mettre en œuvre des techniques efficaces de sanitation des entrées et des sorties pour atténuer les risques de sécurité et protéger les informations sensibles.
- Évaluation et perfectionnement : Évaluer continuellement l’efficacité de la solution et apporter les ajustements nécessaires en fonction des résultats des tests et des menaces émergentes.
- Documentation : Créer une documentation claire et concise pour la solution de sécurité et de défense des LLM, y compris des guides utilisateurs, des spécifications techniques et des meilleures pratiques.

Nous prévoyons que 40 % du temps sera dédié aux activités de recherche et 60 % au développement.

**Votre profil**
- Master 1 ou 2 en informatique, machine learning
- Connaissances en Python, bases de données SQL/noSQL, PNL (traitement du langage naturel) et bibliothèques de Machine Learning.
- **
Durée**: 6 mois
- ** Date de début**: Février 2025
- Conformément à la législation française, pour toute durée supérieure à 2 mois, ce stage fait l'objet d'une gratification, en alignement avec la grille définie par SAP._

**Votre équipe**

Les clients comptent sur SAP pour fournir des produits sécurisés et fiables. Le « Secure Development Center of Excellence » est responsable du cycle de vie de développement et d'opérations sécurisées des logiciels SAP, ainsi que de la norme de sécurité des produits et de la protection des données.

L'équipe adopte une approche assistée par l'automatisation afin de réduire de manière significative les risques de sécurité émergents lors du développement de logiciels.

**Faites ressortir le meilleur de vous-même**

**L’inclusion, au cœur de notre stratégie**

La culture d'intégration de SAP, l'accent mis sur la santé et le bien-être, et les modèles de travail flexibles contribuent à ce que chacun, quelle que soit son origine, se sente inclus et puisse donner le meilleur de lui-même. Chez SAP, nous sommes convaincus que les capacités et les qualités uniques que chaque personne apporte à notre entreprise nous rendent plus forts. Nous investissons dans nos employés pour leur inspirer confiance et les aider à réaliser leur plein potentiel. En définitive, nous croyons qu'il faut libérer tous les talents et créer un monde meilleur et plus équitable.

Réquisition: 415568 Secteur de travail: Software-Research Déplacement escompté: 0 - 10% Statuts de carrière: Étudiant Type d’emploi: Limited Full Time Emplacements Supplémentaires: #LI-Hybrid