AI Red Teamer
Il y a 2 semaines
Paris, Île-de-France
STORM GROUP
Temps plein
Gratuit avec email ou Google
Enregistrez cette offre et organisez votre recherche
Créez un compte gratuit pour enregistrer des offres d'emploi, créer des alertes et revenir à cette liste depuis votre tableau de bord.
Gratuit avec email ou Google
En continuant, vous acceptez nos Conditions d’utilisation & Politique de confidentialité.
Dans le cadre de la sécurisation de ses systèmes d'IA générative, un grand compte recherche un AI Red Teamer pour tester la robustesse de ses applications basées sur les LLM face aux attaques et détournements.
Veuillez lire attentivement la description de poste suivante pour vous assurer que vous correspondez bien à ce rôle avant de postuler.
Le consultant interviendra notamment sur : ? La conduite de tests offensifs sur les applications IA : prompt injection, jailbreak, extraction de données sensibles, contournement des garde-fous ? L'évaluation de la robustesse des systèmes agentiques : détournement d'outils, escalade de privilèges via les agents ? L'analyse des risques de fuite de données à travers les modèles et les architectures RAG ? La documentation des vulnérabilités identifiées et la formulation de recommandations de remédiation ? La contribution à la définition des garde-fous : filtres, validation des entrées/sorties, supervision ? La mise en place de campagnes de tests récurrentes et l'outillage associé ? La veille sur les nouvelles techniques d'attaque des systèmes IA Profil candidat:
Profil recherché
? Bac+5 en cybersécurité, informatique ou équivalent ? Expérience en sécurité offensive (pentest, red team) complétée par une connaissance concrète des systèmes à base de LLM ? Maîtrise des référentiels de sécurité IA : OWASP Top 10 for LLM, MITRE ATLAS ? Compréhension des architectures GenAI (RAG, agents, function xuezdbg calling) et de leurs surfaces d'attaque ? Rigueur méthodologique et qualités rédactionnelles pour la restitution des audits ? Éthique professionnelle irréprochable Technologies utilisées : OWASP Top 10 for LLM
· MITRE ATLAS
· Techniques de prompt injection & jailbreak
· Python
· Outils de test de sécurité IA (Garak, PyRIT)
· APIs LLM
· Architectures RAG & agentiques
· Frameworks de garde-fous (guardrails)
· NIST AI RMF
Veuillez lire attentivement la description de poste suivante pour vous assurer que vous correspondez bien à ce rôle avant de postuler.
Le consultant interviendra notamment sur : ? La conduite de tests offensifs sur les applications IA : prompt injection, jailbreak, extraction de données sensibles, contournement des garde-fous ? L'évaluation de la robustesse des systèmes agentiques : détournement d'outils, escalade de privilèges via les agents ? L'analyse des risques de fuite de données à travers les modèles et les architectures RAG ? La documentation des vulnérabilités identifiées et la formulation de recommandations de remédiation ? La contribution à la définition des garde-fous : filtres, validation des entrées/sorties, supervision ? La mise en place de campagnes de tests récurrentes et l'outillage associé ? La veille sur les nouvelles techniques d'attaque des systèmes IA Profil candidat:
Profil recherché
? Bac+5 en cybersécurité, informatique ou équivalent ? Expérience en sécurité offensive (pentest, red team) complétée par une connaissance concrète des systèmes à base de LLM ? Maîtrise des référentiels de sécurité IA : OWASP Top 10 for LLM, MITRE ATLAS ? Compréhension des architectures GenAI (RAG, agents, function xuezdbg calling) et de leurs surfaces d'attaque ? Rigueur méthodologique et qualités rédactionnelles pour la restitution des audits ? Éthique professionnelle irréprochable Technologies utilisées : OWASP Top 10 for LLM
· MITRE ATLAS
· Techniques de prompt injection & jailbreak
· Python
· Outils de test de sécurité IA (Garak, PyRIT)
· APIs LLM
· Architectures RAG & agentiques
· Frameworks de garde-fous (guardrails)
· NIST AI RMF