Senior LLM Serving Engineer – AI Infra
Enregistrez cette offre et organisez votre recherche
Créez un compte gratuit pour enregistrer des offres d'emploi, créer des alertes et revenir à cette liste depuis votre tableau de bord.
En continuant, vous acceptez nos Conditions d’utilisation & Politique de confidentialité.
Doctolib in Paris, France, is seeking a Senior Inference Engineer to own the self-hosted LLM serving platform for healthcare AI products.
N'oubliez pas de vérifier votre CV avant de postuler. Assurez-vous également de lire toutes les exigences liées à ce poste.
You will deploy, tune, and scale open-weight models across GPU fleets, drive model registry, and optimize performance and cost while ensuring security and regulatory compliance. xwjxdcb
You will collaborate with MLOps to define serving stacks, monitor latency, and build robust dashboards.