Ingénieur en intelligence artificielle pour la compression de Large Language Models

il y a 6 jours


Meylan, Auvergne-Rhône-Alpes, France Orange Business Services Temps plein
Stage de recherche sur la compression de Large Language Models

Vous rejoindrez notre équipe de recherche en intelligence artificielle pour travailler sur un projet novateur lié à la compression de Large Language Models. Vos travaux pourront faire l'objet d'une publication scientifique selon l'avancement et les résultats obtenus.

Profil
  • Vous êtes en train de suivre une formation d'ingénieur ou master en informatique
Mission

Les Large Language Models (LLMs) ont révolutionné l'interaction en langue naturelle, notamment avec des chatbots comme ChatGPT. Cependant, ces modèles nécessitent d'importantes ressources de calcul et de stockage, ce qui pose un défi pour leur déploiement dans des environnements domestiques, souvent limités en ressources. Il est donc crucial d'explorer des méthodes pour réduire leur empreinte numérique tout en maintenant des performances adéquates.

Dans ce stage, vous étudierez expérimentalement la compression de LLMs pour la reconnaissance d'activités humaines :

  • Vous dresserez un état de l'art des techniques de compression de LLM : quantification, pruning, knowledge distillation
  • Vous évaluerez expérimentalement les performances et empreintes de LLMs open source, sur une tâche de reconnaissance d'activités humaines à la maison
  • Vous implémenterez des approches de l'état de l'art de la compression de LLMs
  • Vous comparerez expérimentalement les approches de compression implémentées sur une tache de reconnaissance d'activités humaines à la maison
Compétences
  • Langages de programmation exigé : Python
  • Connaissances en deep learning, large language models (LLM), Generative AI
  • Connaissances appréciées en internet des objets, intelligence ambiante, smart home
  • Très bonne maitrise écrite et orale de l'anglais
Contrat

Stage

Durée : 6 mois

Date de début : 03 février 2025


  • Intelligence Artificielle F/H

    il y a 3 semaines


    Meylan, Auvergne-Rhône-Alpes, France FRAMATOME Temps plein

    Poste : Développeur de Solutions en Intelligence ArtificielleNous recherchons un(e) étudiant(e) en école d'ingénieur pour rejoindre notre département ICT et travailler sur l'utilisation de l'intelligence artificielle.MissionLa mission consiste à créer des séquences de tests pour amener des axes de solutions rapides dans le cadre de projets. Vous...


  • Meylan, Auvergne-Rhône-Alpes, France Orange Business Services Temps plein

    À propos du rôleSCHC est un protocole de compression de paquets innovant qui repose sur des règles de compression. À Orange, nous développons des algorithmes d'apprentissage automatique pour optimiser ces règles de compression en fonction des statistiques du trafic observé. Ce projet de recherche contribue à la spécification des évolutions de SCHC...


  • Meylan, Auvergne-Rhône-Alpes, France Orange Business Services Temps plein

    À propos du rôleSCHC est un protocole de compression de paquets innovant qui repose sur des règles de compression. À Orange, nous développons des algorithmes d'apprentissage automatique pour optimiser ces règles de compression en fonction des statistiques du trafic observé. Ce projet de recherche contribue à la spécification des évolutions de SCHC...


  • Meylan, Auvergne-Rhône-Alpes, France Orange Business Services Temps plein

    À propos du rôleSCHC est un protocole de compression de paquets innovant qui repose sur des règles de compression. À Orange, nous développons des algorithmes d'apprentissage automatique pour optimiser ces règles de compression en fonction des statistiques du trafic observé. Ce projet de recherche contribue à la spécification des évolutions de SCHC...


  • Meylan, Auvergne-Rhône-Alpes, France Orange Business Services Temps plein

    À propos du rôleSCHC est un protocole de compression de paquets de faible complexité s'appuyant sur des règles de compression. À Orange, nous développons des algorithmes d'apprentissage automatique (Machine Learning) pour optimiser ces règles de compression selon les statistiques du trafic observé. Ces travaux de recherche participent à la...


  • Meylan, Auvergne-Rhône-Alpes, France Orange Business Services Temps plein

    A propos du rôleL'évolution de l'Internet des Objets (IoT) nécessite l'intégration de plus en plus d'intelligence au niveau des utilisateurs en combinant des unités de traitement, des capteurs et des systèmes de communication dans un même objet. Cette intelligence dite « Ambiante » nécessite de pouvoir modéliser l'environnement...


  • Meylan, Auvergne-Rhône-Alpes, France Orange Business Services Temps plein

    A propos du rôleL'évolution de l'Internet des Objets (IoT) nécessite l'intégration de plus en plus d'intelligence au niveau des utilisateurs en combinant des unités de traitement, des capteurs et des systèmes de communication dans un même objet. Cette intelligence dite « Ambiante » nécessite de pouvoir modéliser l'environnement...


  • Meylan, Auvergne-Rhône-Alpes, France Orange Business Services Temps plein

    A propos du rôleOrange Business Services est à la recherche d'un ingénieur en recherche et développement pour rejoindre son équipe de recherche et développement. Le candidat idéal sera chargé de l'optimisation des protocoles de compression de paquets pour améliorer les performances des réseaux.A propos de vousVous êtes un diplômé en informatique...


  • Meylan, Auvergne-Rhône-Alpes, France Orange Business Services Temps plein

    À propos du rôleL'objectif de ce stage est de contribuer au développement de modèles de réseaux de neurones pour la reconstruction d'environnements 3D à partir de données de propagation des ondes radio. Vous travaillerez dans le cadre du projet européen 6G-DISAC, qui vise à améliorer les performances des réseaux de communication 5G/6G.Compétences...


  • Meylan, Auvergne-Rhône-Alpes, France Orange Business Services Temps plein

    A propos du projetL'équipe de recherche de Orange Business Services travaille sur le projet 6G-DISAC, un projet collaboratif européen visant à développer les technologies de communication et de détection d'objets et d'activités à partir d'ondes radios 5G/6G. Nous explorons l'utilisation de jumeaux numériques d'environnements...


  • Meylan, Auvergne-Rhône-Alpes, France Orange Business Services Temps plein

    A propos du projetL'équipe de recherche de Orange Business Services travaille sur le projet 6G-DISAC, un projet collaboratif européen qui vise à développer les technologies de communication et de détection d'objets et d'activités à partir d'ondes radios 5G/6G. Nous explorons l'utilisation de jumeaux numériques d'environnements...


  • Meylan, Auvergne-Rhône-Alpes, France Orange Business Services Temps plein

    A propos du projetL'équipe de recherche d'Orange Business Services travaille sur le projet 6G-DISAC, un projet collaboratif européen visant à développer les technologies de communication et de sensibilisation pour les réseaux 5G et 6G. Dans ce contexte, nous explorons l'utilisation de jumeaux numériques d'environnements pour entraîner...


  • Meylan, Auvergne-Rhône-Alpes, France Orange Business Services Temps plein

    À propos du rôleL'objectif de ce stage est de contribuer au développement d'un système de reconstruction d'environnements 3D basé sur des jumeaux numériques et des techniques d'intelligence artificielle. Vous travaillerez dans le cadre du projet européen 6G-DISAC, qui vise à améliorer les performances des réseaux de communication 5G/6G.Compétences...


  • Meylan, Auvergne-Rhône-Alpes, France Orange SA Temps plein

    Contexte et objectifL'Internet des objets (IoT) est un domaine en pleine expansion, attirant l'attention des industriels et des académiques. L'objectif de cette thèse est d'étendre l'écosystème de gestion des objets connectés en proposant une solution de reconfiguration dynamique de flottes de devices adaptée au contexte IoT.Compétences et...


  • Meylan, Auvergne-Rhône-Alpes, France Digigram Temps plein

    Poste d'Ingénieur Support Technique AudioNous recherchons un Ingénieur Support Technique Audio pour renforcer notre équipe et contribuer à la satisfaction client. Le poste consiste à résoudre les problèmes techniques, à assurer le support après-vente et à répondre aux questions techniques liées à l'utilisation ou la configuration des...


  • Meylan, Auvergne-Rhône-Alpes, France Digigram Temps plein

    Poste d'Ingénieur Support Technique AudioNous recherchons un Ingénieur Support Technique Audio pour renforcer notre équipe et contribuer à la satisfaction client. Le poste consiste à résoudre les problèmes techniques, à assurer le support après-vente et à répondre aux questions techniques liées à l'utilisation ou la configuration des...


  • Meylan, Auvergne-Rhône-Alpes, France Orange SA Temps plein

    Votre rôleVous serez chargé(e) de mener une recherche appliquée sur la gestion des équipements connectés dans le cadre d'une thèse. Votre mission consiste à développer des solutions innovantes pour l'IoT, en particulier en ce qui concerne la reconfiguration dynamique de flottes de devices.Contexte global et problématique du sujetLe continuum entre...


  • Meylan, Auvergne-Rhône-Alpes, France Orange SA Temps plein

    Votre rôleVous serez chargé(e) de mener une recherche appliquée sur la gestion des équipements connectés dans le cadre d'une thèse. Votre mission consiste à développer des solutions innovantes pour l'IoT, en particulier en ce qui concerne la reconfiguration dynamique de flottes de devices.Contexte global et problématique du sujetLe continuum entre...


  • Meylan, Auvergne-Rhône-Alpes, France Digigram Temps plein

    Ingénieur Support Technique AudioLa qualité et la fiabilité sont les valeurs fondamentales des produits, logiciels et services de Digigram depuis 40 ans. Nous sommes toujours à la pointe de l'innovation en appliquant les technologies de l'information aux métiers exigeants de l'audio professionnel. Nous recherchons un Ingénieur Support Technique Audio...


  • Meylan, Auvergne-Rhône-Alpes, France Digigram Temps plein

    Poste d'Ingénieur Support Technique AudioNous recherchons un Ingénieur Support Technique Audio pour renforcer notre équipe et contribuer à la satisfaction client. Le poste consiste à résoudre les problèmes techniques, à assurer le support après-vente et à répondre aux questions techniques liées à l'utilisation ou la configuration des...