Senior ML Inference Engineer — Optimize Throughput
Enregistrez cette offre et organisez votre recherche
Créez un compte gratuit pour enregistrer des offres d'emploi, créer des alertes et revenir à cette liste depuis votre tableau de bord.
En continuant, vous acceptez nos Conditions d’utilisation & Politique de confidentialité.
Cast AI is seeking an experienced engineer to optimize inference stacks, focusing on throughput, latency, and cost per token. You’ll tune loaders, schedulers, and KV caches, shaping the technical direction for scalable multi-GPU deployments.
Join a remote-first, globally distributed team that ships fast, with equity options and a strong emphasis on data-driven performance and reproducible experiments.