Ingénieur IA H/F
Il y a 5 jours
BoisColombes, Ile-de-France
LR Technologies
Temps plein
Gratuit avec email ou Google
Enregistrez cette offre et organisez votre recherche
Créez un compte gratuit pour enregistrer des offres d'emploi, créer des alertes et revenir à cette liste depuis votre tableau de bord.
Gratuit avec email ou Google
En continuant, vous acceptez nos Conditions d’utilisation & Politique de confidentialité.
Au sein des équipes de notre client, acteur majeur de l'électronique et des télécommunications, vous interviendrez sur une plateforme d'IA distribuée en périphérie (edge), où les requêtes d'IA (LLM, OCR, transcription...) sont traitées sur des serveurs répartis au plus près des utilisateurs. Vous serez responsable de la caractérisation des performances d'inférence, pour savoir précisément ce que chaque modèle peut délivrer sur chaque matériel. Missions
- Mise en oeuvre et comparaison des moteurs d'inférence (vLLM, TensorRT-LLM, llama.cpp)
- Étude de l'impact de la quantification (INT4, INT8, FP8) sur la performance et la qualité
- Profilage GPU et analyse des goulots d'étranglement (Nsight, CUDA)
- Définition et exécution de campagnes de benchmark selon la méthodologie MLPerf
- Mesure de la consommation électrique et calcul de l'efficacité énergétique
- Automatisation des bancs de mesure et intégration dans une démarche MLOps
- Rédaction de rapports de performance et recommandations de configuration
Profil recherché
Diplômé(e) d'une école d'ingénieurs ou d'un Bac +5 en informatique, IA ou calcul haute performance, vous justifiez d'au moins 5 ans d'expérience en ingénierie ML ou en optimisation de performance. Vous maîtrisez les moteurs d'inférence LLM (vLLM, TensorRT-LLM, llama.cpp), les techniques de quantification et le profilage GPU avec les outils Nsight. Une pratique de la méthodologie MLPerf et de la mesure de puissance est attendue ; une bonne connaissance de CUDA et des pratiques MLOps sera un atout apprécié. Naturellement, vous utilisez les outils d'IA au quotidien et pouvez illustrer concrètement la façon dont ils accélèrent votre travail. Méthodique, curieux(se) et attaché(e) à des mesures fiables et reproductibles, vous pratiquez un anglais technique courant. Enfin vous souhaitez participer au développement d'une société à taille humaine, Great Place To Work et labellisée ECOVADIS. LR TECHNOLOGIES GROUPE c’est 500 Libelliens qui nous ont élus Great Place To Work en 2016, 2018 et à présent 3e France et Europe 2021. Nous sommes également la 99e société française labellisée B CORP pour notre engagement RSE.
- Mise en oeuvre et comparaison des moteurs d'inférence (vLLM, TensorRT-LLM, llama.cpp)
- Étude de l'impact de la quantification (INT4, INT8, FP8) sur la performance et la qualité
- Profilage GPU et analyse des goulots d'étranglement (Nsight, CUDA)
- Définition et exécution de campagnes de benchmark selon la méthodologie MLPerf
- Mesure de la consommation électrique et calcul de l'efficacité énergétique
- Automatisation des bancs de mesure et intégration dans une démarche MLOps
- Rédaction de rapports de performance et recommandations de configuration
Profil recherché
Diplômé(e) d'une école d'ingénieurs ou d'un Bac +5 en informatique, IA ou calcul haute performance, vous justifiez d'au moins 5 ans d'expérience en ingénierie ML ou en optimisation de performance. Vous maîtrisez les moteurs d'inférence LLM (vLLM, TensorRT-LLM, llama.cpp), les techniques de quantification et le profilage GPU avec les outils Nsight. Une pratique de la méthodologie MLPerf et de la mesure de puissance est attendue ; une bonne connaissance de CUDA et des pratiques MLOps sera un atout apprécié. Naturellement, vous utilisez les outils d'IA au quotidien et pouvez illustrer concrètement la façon dont ils accélèrent votre travail. Méthodique, curieux(se) et attaché(e) à des mesures fiables et reproductibles, vous pratiquez un anglais technique courant. Enfin vous souhaitez participer au développement d'une société à taille humaine, Great Place To Work et labellisée ECOVADIS. LR TECHNOLOGIES GROUPE c’est 500 Libelliens qui nous ont élus Great Place To Work en 2016, 2018 et à présent 3e France et Europe 2021. Nous sommes également la 99e société française labellisée B CORP pour notre engagement RSE.