Consultant - Ingénieur Intégration Llm - IA H/F

Il y a 2 jours

MaisonsLaffitte, Ile-de-France Econocom Temps plein
Contexte : Au coeur de la transformation des capacités d'analyse et d'automatisation du SOC, vous participerez au déploiement et à l'industrialisation d'une plateforme d'intelligence artificielle basée sur les technologies LLM. Votre rôle consistera à intégrer ces nouveaux usages au sein de l'écosystème de cybersécurité existant tout en garantissant des exigences élevées en matière de sécurité, de performance et d'exploitabilité. En collaboration avec les équipes SOC, infrastructure et exploitation, vous contribuerez à la mise en oeuvre de solutions innovantes permettant d'optimiser les processus d'investigation, d'analyse et de réponse aux incidents. Vos

responsabilités:
- Déployer et maintenir la plateforme d'inférence LLM sur un environnement Kubernetes conformément aux standards de sécurisation RHEL.
- Développer les API et services d'intégration avec les différents outils du SOC (SIEM, SOAR, CTI, solutions de ticketing et bases documentaires).
- Concevoir et mettre en oeuvre la couche RAG (Retrieval-Augmented Generation) : ingestion, indexation des connaissances, gestion des bases vectorielles et contrôle des accès.
- Implémenter les mécanismes de sécurité nécessaires au bon usage des modèles : authentification, filtrage, anonymisation, journalisation et contrôle des actions automatisées.
- Industrialiser les processus de développement et de déploiement via des pipelines CI/CD, une approche GitOps et des stratégies de gestion des versions des modèles et des prompts.
- Assurer la supervision de la plateforme à travers la mise en place de métriques, tableaux de bord, mécanismes d'alerting et indicateurs de performance.
- Évaluer et améliorer la qualité des réponses produites par les modèles afin de garantir leur pertinence et leur fiabilité opérationnelle.
- Rédiger la documentation technique et d'exploitation, les procédures de reprise ainsi que les guides destinés aux équipes d'administration et d'exploitation.
- Accompagner les phases de recette avec les analystes SOC, analyser les retours utilisateurs et piloter la résolution des anomalies identifiées.
- Participer à l'amélioration continue de la plateforme en proposant des optimisations techniques et fonctionnelles adaptées aux besoins métiers et aux enjeux de cybersécurité. Liste non exhaustive Contrat : en CDI uniquement Localisation : Maisons-Laffitte 78 Télétravail : pas de télétravail possible Client : Secteur Aéronautique / Défense / Nucléaire. Poste pouvant être soumis à une procédure d'habilitation de protection du secret Nous recherchons actuellement un Ingénieur IA / Plateforme LLM expérimenté (H/F), vous êtes issu(e) d'une formation supérieure en informatique de niveau Bac +2 minimum, idéalement Bac +5 (école d'ingénieur ou université), et justifiez d'une première expérience significative dans l'administration de plateformes Linux, les environnements cloud-native, l'automatisation ou les infrastructures Kubernetes. Vous disposez d'une solide culture des infrastructures et des pratiques DevOps, associée à un fort intérêt pour les technologies d'IA générative et les environnements cybersécurité. Autonome et force de proposition, vous êtes capable de concevoir, déployer et industrialiser des solutions innovantes tout en garantissant les exigences de sécurité, de performance et d'exploitabilité attendues sur des environnements critiques. Les compétences techniques que nous recherchons
- Excellente maîtrise des environnements Linux Red Hat Enterprise (RHEL).
- Expérience des technologies de conteneurisation Docker et Podman.
- Maîtrise de l'automatisation via Ansible et du scripting Bash.
- Solide expertise des plateformes Kubernetes et du déploiement de workloads conteneurisés.
- Maîtrise des approches GitOps (ArgoCD, Flux) et des chaînes de déploiement CI/CD (GitLab CI, Jenkins).
- Expérience de l'exploitation et de l'administration de ressources GPU en environnement Kubernetes (NVIDIA GPU Operator, Device Plugin, MIG, ordonnancement).
- Connaissance des solutions d'inférence et de déploiement de modèles d'IA : vLLM, Text Generation Inference (TGI), NVIDIA Triton, NVIDIA NIM, KServe ou solutions équivalentes.
- Bonne compréhension des problématiques liées aux LLM : quantification, gestion du contexte, performances, latence et débit.
- Expérience de la mise en oeuvre de passerelles LLM : gestion des accès, quotas, journalisation et routage des requêtes.
- Maîtrise des solutions OpenSearch et/ou ElasticSearch.
- Développement d'API et de services en Python (FastAPI, asyncio, Pydantic).
- Conception, intégration et sécurisation d' API REST.
- Bonne maîtrise des mécanismes d'authentification et de sécurité : OAuth2, OpenID Connect (OIDC), mTLS