PostDoc: Co-design strategy

Il y a 2 mois


Palaiseau, France CEA Temps plein

Description de l'offre

Sujet PostDoc en Intelligence Artificielle pour les systèmes embarqués

Stratégie de co-conception pour l'exploitation de la sparsité spatio-temporelle dans les réseaux de neurones Transformer à l'inférence et à l'apprentissage

L'objectif du PostDoc est d'identifier, d'analyser et d'évaluer les mécanismes de modulation de la sparsité spatio-temporel des fonctions d'activation afin de minimiser la charge de calcul du modèle NN de transformateur (apprentissage/inférence). Une approche combinée avec la quantification extrême sera également envisagée.
L'objectif est d'affiner conjointement une stratégie innovante pour évaluer les impacts et les gains potentiels de ces mécanismes sur l'exécution du modèle sous contraintes matérielles. En particulier, cette co-conception devrait également permettre de qualifier et d'exploiter une boucle de rétroaction bidirectionnelle entre un réseau neuronal ciblé et une instanciation matérielle afin d'obtenir le meilleur compromis (compacité/latence).

(see Attached file for English version)

Profil du candidat

Vous êtes titulaire d’un doctorat en IA pour systèmes embarqués avec une expérience en conception de réseau de neurones optimisé ciblant des composants numériques (GPU/FPGA/Asic) avec des contraintes de latence/consommation. Vous êtes curieux et appréciez le travail en équipe tout en faisant preuve d’une bonne autonomie. Intéressé(e) par les problématiques de conception d’inférence de modèle IA et connaissant l’architecture des réseaux Transformers, vous appréhendez parfaitement les techniques de compression de modèle, leur mise en œuvre à l’apprentissage et en partie leur impact sur l’inférence résultante. Vous avez acquis les compétences techniques suivantes :

* Une connaissance des modèles attentionnels (Transformer) pour la vision par ordinateur ;

* Une bonne maîtrise de la conception et/ou déploiement de réseau de neurone mettant en œuvre une ou des techniques dédiées à la compression de modèle (Quantification, Pruning…) ainsi que leur évaluation pour l’inférence.

Expérience et/ou compétences complémentaires souhaitées

* Maîtrise des environnements virtuels (conda, virtualenv…), de librairies de conception de modèles (TensorFlow, PyTorch,Onnx…) ;

* Maîtrise de langages script, de programmation (Python, C/C++) et d’outil de gestion de version (Git) ;

* Une connaissance de la problématique de l’adéquation algorithme architecture et des notions sur les architectures matérielles ciblant le domaine embarqué seraient appréciées.



  • PALAISEAU, France CEA Temps plein

    Sujet PostDoc en Intelligence Artificielle pour les systèmes embarquésStratégie de co-conception pour l'exploitation de la sparsité spatio-temporelle dans les réseaux de neurones Transformer à l'inférence et à l'apprentissageL'objectif du PostDoc est d'identifier, d'analyser et d'évaluer les mécanismes de modulation de...


  • PALAISEAU, 91120, Palaiseau, France CEA Temps plein

    Sujet PostDoc en Intelligence Artificielle pour les systèmes embarquésStratégie de co-conception pour l'exploitation de la sparsité spatio-temporelle dans les réseaux de neurones Transformer à l'inférence et à l'apprentissageL'objectif du PostDoc est d'identifier, d'analyser et d'évaluer les mécanismes de modulation de...

  • Cdd Postdoc

    il y a 1 mois


    Palaiseau, France INSTITUT DE RECHERCHE TECHNOLOGIQUE SYSTEM X Temps plein

    Descriptif du poste Dans le contexte des transitions contemporaines, les filières industrielles et les disciplines scientifiques bien établies sont confrontées à des bouleversements profonds qui prennent place à un rythme inédit. Les acteurs historiques de ces filières et disciplines sont eux-mêmes appelés à se transformer, à acquérir de...

  • Cdd Postdoc

    il y a 2 jours


    Palaiseau, France INSTITUT DE RECHERCHE TECHNOLOGIQUE SYSTEM X Temps plein

    Descriptif du poste Dans le contexte des transitions contemporaines, les filières industrielles et les disciplines scientifiques bien établies sont confrontées à des bouleversements profonds qui prennent place à un rythme inédit. Les acteurs historiques de ces filières et disciplines sont eux-mêmes appelés à se transformer, à acquérir de...


  • Palaiseau, France CNES - Centre National d'Etudes Spatiales Temps plein

    Post-doctorat, 24 mois - Temps plein - Moins de 2 ans d’expérience - Doctorat, Bac+8 - Propulsion **Mission**: == The choice of liquid methane as propellant for the design of new rocket engines brings some new difficulties compared to hydrogen/oxygen engines. One of them is operating conditions involving methane and oxygen both injected liquid through...


  • Palaiseau, France Danone Temps plein

    About the job The Carbohydrate and Sweeteners team, part of the Advanced Technology R&I team, based in our brand new Research & Innovation Centre in Gif-sur-Yvette (91), is looking for a Carbohydrates and Sweetening Systems Senior Scientist. The Carbohydrates and Sweetening System" team aims to: - Develop expertise on the physico-chemical and functional...

  • Sustainability Director

    il y a 1 mois


    Palaiseau, Essonne, France Birdeo Temps plein

    MISSIONS The main responsibilities of the role include, but are not limited to: Supporting the group sustainability ambition and roadmap. Executing the group sustainability strategy and programme through collaboration with senior leadership and departmental managers. Drafting and implementing suitable organisational policies and procedures relating to...


  • Palaiseau, France Quandela Temps plein

    Quandela is a leader in the development and commercialization of quantum computers based on the manipulation of single photons. We are seeking a full-time (permanent contract) Fabrication Engineer to participate in the optimization of Quandela's single-photon sources. We work with quantum dots in micropillar cavities and you will join the research team...


  • Palaiseau, France Quandela Temps plein

    Quandela is a leader in the development and commercialization of quantum computers based on the manipulation of single photons. We are seeking a full-time (permanent contract) Fabrication Engineer to participate in the optimization of Quandela's single-photon sources. We work with quantum dots in micropillar cavities and you will join the research team...