Senior LLM Serving Engineer – AI Infra
Enregistrez cette offre et organisez votre recherche
Créez un compte gratuit pour enregistrer des offres d'emploi, créer des alertes et revenir à cette liste depuis votre tableau de bord.
En continuant, vous acceptez nos Conditions d’utilisation & Politique de confidentialité.
Doctolib in Paris, France, is seeking a Senior Inference Engineer to own the self-hosted LLM serving platform for healthcare AI products. You will deploy, tune, and scale open-weight models across GPU fleets, drive model registry, and optimize performance and cost while ensuring security and regulatory compliance.
You will collaborate with MLOps to define serving stacks, monitor latency, and build robust dashboards.