AI Security Officer – LLM, RAG

1. Description de la mission Dans le cadre du développement de ses usages de l'intelligence artificielle, notamment de l'IA générative, des grands modèles de langage (LLM), des architectures Retrieval-Augmented Generation (RAG) et des agents IA, l'organisation souhaite renforcer la maîtrise des risques de cybersécurité associés à ces nouvelles technologies. La mission consiste à intervenir en qualité d'AI Security Officer, en tant que référent sur les sujets de sécurité liés à l'intelligence artificielle, afin d'accompagner l'adoption sécurisée des solutions IA. Le consultant interviendra en étroite collaboration avec les équipes d'architecture, de développement, de cybersécurité, de données et d'innovation, ainsi qu'avec les responsables des solutions et projets IA. Principales responsabilités
• Apporter une expertise technique sur les architectures et solutions d'intelligence artificielle, notamment les LLM, les architectures RAG et les agents IA.
• Analyser les architectures techniques, les flux de données, les composants, les dépendances et les solutions tierces.
• Identifier et évaluer les risques de sécurité liés aux modèles, aux données, aux accès, aux fournisseurs et aux composants externes.
• Réaliser des analyses de risques et du threat modelling adaptés aux spécificités des solutions IA.
• Challenger les choix d'architecture et les implémentations techniques afin de définir les mesures de sécurité appropriées.
• Contribuer aux revues de sécurité et assurer le suivi des écarts, des plans de remédiation, des exceptions et des risques résiduels.
• Définir et faire évoluer le cadre de référence AI Security : méthodologies d'analyse des risques, scénarios de menace, contrôles de sécurité, baselines et critères de validation.
• Accompagner l'intégration des exigences de sécurité dans les cycles de développement des solutions IA (Secure SDLC et DevSecOps).
• Assurer une veille sur les menaces, vulnérabilités, standards et bonnes pratiques émergentes en matière d'AI Security. Périmètre technique Sécurité des LLM et de l'IA générative
• Protection contre les attaques par prompt injection et les manipulations de modèles.
• Protection des données sensibles, des secrets et des informations confidentielles.
• Sécurisation des API, outils, connecteurs et composants externes. Sécurité des architectures RAG
• Sécurisation des sources de connaissances et des mécanismes d'ingestion.
• Contrôle des accès aux données et aux bases vectorielles.
• Sécurisation des mécanismes de retrieval, embeddings et index. Sécurité des agents IA
• Gestion des identités, permissions, accès et secrets.
• Application du principe de moindre privilège.
• Encadrement des capacités d'action et validation des opérations sensibles.
• Mise en place de mécanismes de traçabilité, de supervision et de révocation. AI Security, Secure SDLC & DevSecOps
• Intégration des exigences de sécurité dans le cycle de vie des solutions IA.
• Définition de security gates et de contrôles automatisés dans les pipelines CI/CD.
• Évaluation de la sécurité des modèles, composants open source et dépendances.
• Définition et réalisation de tests de sécurité spécifiques aux environnements IA. 2.

Profil recherché
Nous recherchons un consultant senior en cybersécurité spécialisé en AI Security, capable de combiner une expertise technique approfondie des architectures d'intelligence artificielle avec une solide maîtrise de la gestion des risques et de l'accompagnement des équipes. Le profil devra être en mesure d'intervenir aussi bien sur les aspects techniques et architecturaux que sur la définition des exigences, des contrôles et du cadre de sécurité applicable aux solutions IA. Expérience
• Expérience significative en cybersécurité, avec une spécialisation ou une expérience concrète en AI Security.
• Expérience pratique sur les technologies LLM, les architectures RAG et les agents IA.
• Expérience en sécurité des architectures Cloud, sécurité des données et gestion des identités et des accès.
• Bonne maîtrise des approches Secure SDLC et DevSecOps.
• Expérience dans la réalisation d'analyses de risques, de revues d'architecture et de threat modelling. Expertise technique
• Maîtrise des enjeux de sécurité liés aux modèles IA, prompts, datasets et composants open source.
• Connaissance des attaques spécifiques aux systèmes d'IA générative : prompt injection, data leakage, model abuse et attaques sur les chaînes RAG.
• Expertise en sécurisation des API, connecteurs, identités, permissions et secrets.
• Maîtrise des mécanismes de logging, monitoring, traçabilité et contrôle des accès.
• Capacité à analyser et challenger des architectures techniques et

à propos
er des mesures de sécurité adaptées.
• Connaissance des méthodes de tests de sécurité et d'évaluation des solutions IA. Référentiels et standards Une bonne connaissance des principaux référentiels et standards applicables à la sécurité de l'intelligence artificielle est attendue, notamment :
• OWASP et OWASP Top 10 for LLM Applications.
• MITRE ATLAS.
• NIST AI Risk Management Framework (AI RMF).
• Bonnes pratiques de sécurité Cloud, DevSecOps et gestion des risques cyber. Compétences transverses
• Capacité à jouer un rôle de référent et d'expert auprès des équipes techniques et métiers.
• Aptitude à vulgariser les enjeux de sécurité de l'IA et à communiquer les risques de manière claire.
• Capacité à challenger les choix techniques et à accompagner les équipes dans la mise en œuvre des recommandations.
• Autonomie, esprit d'analyse et force de proposition.
• Excellentes capacités de communication et de collaboration dans des environnements multidisciplinaires.