Senior ML Inference Systems Engineer | Remote
Enregistrez cette offre et organisez votre recherche
Créez un compte gratuit pour enregistrer des offres d'emploi, créer des alertes et revenir à cette liste depuis votre tableau de bord.
En continuant, vous acceptez nos Conditions d’utilisation & Politique de confidentialité.
Cast AI is seeking a senior ML inference infrastructure engineer to optimize throughput, latency, and cost across our GPU fleet. You will tune loaders, schedulers, and KV caches, ensuring scalable, multi-node inference while maintaining model quality.
You will own the technical direction, work with vLLM/SGLang/TensorRT-LLM stacks, and collaborate across a global, remote-first team. A strong production background is essential.