Ingénieur Inférence
Enregistrez cette offre et organisez votre recherche
Créez un compte gratuit pour enregistrer des offres d'emploi, créer des alertes et revenir à cette liste depuis votre tableau de bord.
En continuant, vous acceptez nos Conditions d’utilisation & Politique de confidentialité.
Au sein de la founding team en construction, tu prends en charge la couche d’inférence :
Si vous souhaitez en savoir un peu plus sur cette opportunité, ou si vous envisagez de postuler, veuillez lire les informations suivantes sur le poste.
- Optimisation des moteurs d’exécution (vLLM, SGLang, TensorRT-LLM)
- Tuning GPU
- Quantisation
- Gestion de la mémoire et du cache
Tu travailles sur des clusters GPU NVIDIA en environnement Kubernetes, dans un contexte de très haute performance et de souveraineté (SecNumCloud, ISO 27001). Tu interagis avec le CTO sur les choix d’architecture et contribues à faire tourner la plateforme en production pour les premiers clients.
Stack technique : vLLM, SGLang, CUDA, Triton, Python, Kubernetes GPU, RDMA/InfiniBand/NCCL, quantisation (GPTQ, AWQ, FP8).
Indispensables :
- Expérience concrète en serving de modèles open source à l’échelle en production (vLLM, TGI, SGLang, TensorRT ou équivalent)
- Maîtrise de CUDA, Triton ou des kernels GPU bas niveau
- Capacité à identifier un goulot d’étranglement mémoire/cache et à y remédier
- Python solide, à l’aise avec Kubernetes GPU
- Curiosité sur les architectures hardware (choix de GPU, mémoire HBM, NVLink, InfiniBand)
Un xuezdbg plus :
- Expérience HPC (RDMA, InfiniBand, RoCE, MPI, NCCL, IO path)
- Contributions open source (vLLM, SGLang, PyTorch, Triton…)
- Sensibilité au contexte souverain / SecNumCloud
Ce qui fait la différence :
quelqu’un capable de nommer une brique qu’il a écrite ou modifiée lui-même en production, pas uniquement opérée.
-
Ingénieur Inférence GPU Haute Performance
Il y a 2 jours
Paris, Île-de-France Bluecoders Temps pleinAu sein de la founding team en construction, vous prenez en charge la couche d’inférence et l’optimisation des moteurs d’exécution sur des clusters GPU NVIDIA.Soyez l'un des premiers candidats, lisez l'aperçu complet du poste ci-dessous, puis envoyez votre candidature pour qu'elle soit étudiée.Vous travaillez dans un cadre de haute performance et...
-
Ingénieur Inférence
Il y a 1 semaine
Paris, Ile-de-France Bluecoders Temps pleinAu sein de la founding team en construction, tu prends en charge la couche d’inférence : - Optimisation des moteurs d’exécution (vLLM, SGLang, TensorRT-LLM), - Tuning GPU, - Quantisation, - Gestion de la mémoire et du cache. Tu travailles sur des clusters GPU NVIDIA en environnement Kubernetes, dans un contexte de très haute performance et de...
-
Ingénieur MLOps F/H
Il y a 2 jours
Paris, Île-de-France Choisir le Service Public Temps pleinInformations générales Organisme de rattachement Siège de l'AP-HP Référence APHP_2026-24217 Date de début de diffusion ...
-
Ingénieur MLOps F/H
Il y a 4 jours
Paris, Île-de-France Assistance hôpitaux de Paris Temps pleinVos missions en quelques mots - Dimensionner et déployer le cluster GPU sur OVHcloud : choix des instances et des cartes, arbitrages coût / mémoire / débit, réseau et stockage adaptés aux poids de modèles, le tout décrit en Terraform comme le reste de notre infrastructure.- Industrialiser la couche GPU : drivers et pilotes CUDA, runtime...
-
Ingénieur/ingénieure IA
Il y a 4 jours
Paris, Île-de-France Ministère de la justice Télétravail Temps pleinVos missions en quelques mots Missions principalesInvestigation et prototypage· En lien avec les product managers et les designers, comprendre les besoins des utilisateurs et le traduire en un cas d’usage IA avec des crtières de succès mesurables· Prototyper rapidement la brique IA (notebook, script, API) pour...
-
Ingénieur Systèmes Embarqués
Il y a 2 jours
Paris, Île-de-France Floware Temps plein 45 000 € - 60 000 € ContratFloware est une startup deeptech labellisée Bpifrance qui développe une solution SaaS combinant intelligence artificielle et IoT pour l'analyse et l'optimisation des flux de mobilité urbaine. Notre plateforme Floware Vision permet aux acteurs publics et privés de disposer de données précises et actionnables pour planifier, gérer et améliorer les...
-
Ingénieur MLOps F/H
Il y a 2 jours
Paris, Île-de-France Assistance publique – Hôpitaux de Paris (AP-HP) Temps plein 45 000 € - 55 000 € ContratMétier Applications - Développement Type de contrat CDD uniquement Rémunération 45 000 - 55 000€ selon profil Présentation du service La Direction des Services Numériques (DSN) de l’AP-HP fournit des services numériques aux patients et aux professionnels, dont le dossier patient, des systèmes pour la biologie et l’imagerie, un espace patient,...
-
Ingénieur IA
Il y a 1 jour
Paris, Île-de-France PSL Université Paris Temps plein 65 000 € - 90 000 € ContratNotre établissement fait partie de l'Université PSL.Située au cœur de Paris, celle-ci fait dialoguer tous les domaines du savoir, de l'innovation et de la création. Classée parmi les 50 premières universités mondiales, elle forme au plus près de la recherche des chercheurs, artistes, ingénieurs, entrepreneurs ou dirigeants conscients de leur...
-
Ingénieur de recherche en Bioinformatique
Il y a 1 jour
Paris, Île-de-France Inovarion Temps plein 48 000 € - 72 000 € ContratÀ propos d'InovarionInovarion est un centre de Recherche et d'Innovation créé en 2013. À l'interface entre recherche fondamentale et développement industriel, Inovarion apporte son savoir-faire et son expertise aux grands acteurs publics et privés de la recherche biomédicale. Devenu en 13 ans un acteur central de la Recherche et du Développement en...
-
Ingénieur MLOps GPU – Infrastructure
Il y a 2 jours
Paris, Île-de-France Assistance publique – Hôpitaux de Paris (AP-HP) Temps plein 45 000 € - 55 000 € ContratMétierApplications - DéveloppementType de contratCDD uniquementRémunération45 000 - 55 000€ selon profilPrésentation du serviceLa Direction des Services Numériques (DSN) de l’AP-HP fournit des services numériques aux patients et aux professionnels, dont le dossier patient, des systèmes pour la biologie et l’imagerie, un espace patient, des...