Senior LLM Inference Architect

Il y a 3 semaines

Valbonne, Provence-Alpes-Côte d'Azur, France Bull Temps plein

Bull recherche un(e) Staff / Principal LLM Inference Engineer pour piloter l'inférence LLM sur BullSequana AI.

Veuillez postuler rapidement si vous correspondez bien à ce poste, en raison du grand nombre de candidatures attendues.

Vous travaillerez sur une pile Kubernetes-native, l'inférence distribuée et l'intégration avec le matériel BullSequana, en collaboration avec les équipes Data, Services IA et Foundation.

Le rôle exige une expertise pointue en serving de modèles ML/AI à grande échelle, avec une xuezdbg orientation vers la réduction des coûts par token et la latence, tout en assurant des déploiements sécurisés en