AI Engineer Intern

Titre du Poste: AI Engineer Intern (6 mois) Titre de projet: Optimisation de l'efficacité de l'IA : Exploration de la distillation des connaissances pour les modèles Vision-Langage (VLMs) en périphérie (Edge) À propos de SLB Nous sommes une entreprise technologique mondiale, moteur de l'innovation énergétique pour un équilibre planétaire. Chez SLB, nous créons des technologies incroyables qui ouvrent l'accès à l'énergie au bénéfice de tous. C'est notre raison d'être. En tant qu'innovateurs, c'est notre mission depuis 100 ans. Nous faisons face au plus grand défi d'équilibre au monde : réduire simultanément les émissions tout en répondant à la demande croissante en énergie. Nous travaillons chaque jour pour trouver des solutions, un pas après l'autre. Notre avenir collectif dépend de la décarbonisation de l'industrie des énergies fossiles, tout en innovant dans un nouveau paysage énergétique. C'est ce qui nous motive. Assurer le progrès pour les personnes et la planète, dans un cheminement vers la neutralité carbone et au-delà. Pour un équilibre planétaire. Notre mission : Ensemble, nous créons des technologies incroyables qui ouvrent l'accès à l'énergie au bénéfice de tous. Vous pouvez en savoir plus sur nous via ce lien: https://www.slb.com/who-we-are. Localisation Clamart, Paris Description et Périmètre À la suite des succès des travaux précédents sur la distillation des connaissances pour les grands modèles de langage (LLMs), ce stage vise à étendre la recherche aux modèles Vision-Langage (VLMs), avec un accent particulier sur leur déploiement dans des environnements de calcul en périphérie (Edge). Les VLMs ont considérablement amélioré leurs capacités à combiner compréhension visuelle et textuelle, avec des applications dans des domaines tels que l’analyse de documents, la génération de légendes pour les images, la recherche multimodale et les agents autonomes. Cependant, ces modèles nécessitent d'importantes ressources en calcul et en mémoire, rendant leur déploiement difficile dans des scénarios réels où les ressources sont limitées, tels que les plateformes distantes, les dispositifs embarqués ou les systèmes multi-agents en périphérie. En s’appuyant sur des recherches antérieures qui ont exploré : Distillation boîte noire : Utilisation des sorties du modèle enseignant sous forme de JSON, transfert par raisonnement en chaîne (chain-of-thought). Distillation boîte blanche : Perte de Wasserstein, distillation de densité de probabilité au sein d’une même famille de modèles (même tokenizer et vocabulaire). L’approche de distillation de densité de probabilité au sein de modèles de la même famille a montré les résultats les plus prometteurs et sera étudiée plus en détail. Ce stage étendra ces méthodes à la distillation inter-familles (enseignant et étudiant provenant d’architectures différentes) et les adaptera à des scénarios multimodaux où les modalités visuelles et textuelles doivent être distillées conjointement. Objectifs Concevoir et entraîner des modèles VLM étudiants optimisés sur l’infrastructure GPU sur site de SLB. Déployer ces modèles dans des environnements Edge, soumis à des contraintes strictes de calcul et de latence. Appliquer les modèles distillés à des systèmes multi-agents opérant en périphérie, une direction à la fois exigeante et prometteuse qui pourrait représenter une percée en termes d’efficacité pour les systèmes d’IA de nouvelle génération. Responsabilités Apprendre : Acquérir une compréhension approfondie des méthodes de distillation des connaissances dans le contexte des modèles Vision-Langage (VLMs), en s’appuyant sur les méthodes existantes pour la distillation des LLMs. Évaluer : Comparer les méthodes de distillation boîte noire et boîte blanche sur des tâches VLM, en mettant l’accent sur la distillation de densité de probabilité. Explorer : Étudier la distillation entre différentes familles de modèles et étendre les méthodes aux scénarios multimodaux d’entrée-sortie. Appliquer : Déployer des VLMs optimisés dans des environnements contraints en ressources, en particulier dans des systèmes multi-agents opérant en périphérie (Edge). Livrables Un état de l’art sur la distillation des connaissances pour les VLMs, incluant les contextes multimodaux et basés sur des agents. Des implémentations prototypes de diverses stratégies de distillation pour les VLMs. Des résultats de benchmarking comparant les compromis entre performances et efficacité. Le déploiement de modèles distillés sur des dispositifs en périphérie, testés dans un scénario multi-agents. Qualifications Préparation d’un Master en Intelligence Artificielle, Informatique, Mathématiques Appliquées, Data Science, Machine Learning ou une discipline connexe. Natural Language Processing LLMs, VLMs Python, Pytorch SLB est un employeur offrant l'égalité des chances en matière d'emploi. Les candidats qualifiés sont considérés sans distinction de race, de couleur, de religion, de sexe, d'orientation sexuelle, d'identité de genre, d'origine nationale, d'âge, de handicap ou d'autres caractéristiques protégées par la loi. Le processus de recrutement et le poste peuvent être adaptés pour répondre à la plupart des handicaps. N'hésitez pas à le mentionner lors de votre candidature. #J-18808-Ljbffr