Emplois pour oss dans Nice
1 offres d'emploi oss en France. Offres mises à jour quotidiennement.
-
Principal Llm Inference Engineer H/F
Il y a 3 jours
Nice, Provence-Alpes-Côte d'Azur, France ATOS Temps plein* Serving et Runtime des modèles : Concevoir et optimiser la plateforme de serving basée sur vLLM, configurer le parallélisme selon l'architecture du modèle et l'interconnexion de l'infrastructure cible, et installer/maintenir llm-d pour l'inférence distribuée et désagrégée (préremplissage/décodage désagrégés, routage conscient du cache KV). *...
