Stage - Etude de l'embarquabilité des réseaux Perceiver IO et Hierarchical Reasoning Model H/F

Informations générales

Entité de rattachement

Le CEA est un acteur majeur de la recherche, au service des citoyens, de l'économie et de l'Etat.

Il apporte des solutions concrètes à leurs besoins dans quatre domaines principaux : transition énergétique, transition numérique, technologies pour la médecine du futur, défense et sécurité sur un socle de recherche fondamentale. Le CEA s'engage depuis plus de 75 ans au service de la souveraineté scientifique, technologique et industrielle de la France et de l'Europe pour un présent et un avenir mieux maîtrisés et plus sûrs.

Implanté au cœur des territoires équipés de très grandes infrastructures de recherche, le CEA dispose d'un large éventail de partenaires académiques et industriels en France, en Europe et à l'international.

Les collaboratrices et collaborateurs du CEA partagent trois valeurs fondamentales :

• La conscience des responsabilités

• La coopération

• La curiosité

Référence

Description de l'unité

Le Commissariat à l'Energie Atomique et aux Energies Alternatives (CEA) intervient dans trois grands domaines : l'énergie, les technologies pour l'information et la santé et la défense. Situé en île de France sud (Saclay), le Laboratoire d'Intégration des Systèmes et des Technologies (LIST) a notamment pour mission de contribuer au transfert de technologies et de favoriser l'innovation dans le domaine des systèmes embarqués. Au sein du LIST, le Laboratoire Intelligence Artificielle Embarquée (LIAE) est chargé de concevoir, de développer et de mettre en œuvre des solutions optimisées (surface, consommation, puissance de calcul) pour les systèmes embarqués.

Domaine

Sciences pour l'ingénieur

Contrat

Stage

Intitulé de l'offre

Stage - Etude de l'embarquabilité des réseaux Perceiver IO et Hierarchical Reasoning Model H/F

Sujet de stage

Dans un contexte en constante évolution vous travaillerez sur l'étude de l'embarquabilité des réseaux de neurones profonds Perceiver, Perceiver IO et Hierarchical Reasoning Model, par l'utilisation des frameworks AIDGE et Pytorch.

Durée du contrat (en mois)

6 mois

Description de l'offre

Rejoignez-nous en Stage  

CEA Tech Corporate from CEA Tech on Vimeo.

En tant que stagiaire au CEA, vous aurez l'opportunité de travailler au sein d'un environnement de recherche de renommée mondiale. Nos équipes sont composées d'experts passionnés et dédiés, offrant un cadre propice à l'apprentissage et à la collaboration. Vous aurez accès à des équipements de pointe et à des ressources de recherche de premier ordre pour mener à bien vos missions.

Description du poste :

Le stage vise à étudier l'embarquabilité des réseaux Perceiver, Perceiver IO et Hierarchical Reasoning Model, par l'utilisation des frameworks AIDGE et Pytorch.

Perceiver
Les modèles de type Transformer ont montré des performances remarquables sur une grande variété de tâches (vision, NLP, audio, etc.), mais ils ont besoin d'un grand nombre de paramètres pour obtenir de bonnes performances. Le Perceiver et son extension Perceiver IO introduisent une architecture universelle d'entrée/sortie capable de traiter des données hétérogènes avec une complexité réduite grâce à l'utilisation d'un espace latent fixe.
Cette propriété en fait un excellent candidat pour les systèmes embarqués, où les ressources (mémoire, puissance de calcul, énergie) sont limitées. Néanmoins, la taille des modèles reste un obstacle pour une exécution temps réel sur des processeurs embarqués comme les ARM Cortex-A ou RISC-V.

Hierarchical Reasoning Model
Le modèle Hierarchical Reasoning Model est une architecture de raisonnement qui décompose les tâches complexes en plusieurs niveaux hiérarchiques. Chaque niveau traite des abstractions différentes : le niveau supérieur définit des objectifs généraux, stratégies et représentations abstraites du problème ; le niveau inférieur réalise les opérations concrètes, exécute les actions et produit les sorties observables (p. ex. mouvements, décisions atomiques). La communication descendante (top-down) sert à guider et restreindre le comportement du niveau inférieur pour rester aligné sur l'objectif global. La communication ascendante (bottom-up) informe le niveau supérieur sur la faisabilité, le progrès, et les conditions locales pour permettre la replanification ou la mise à jour des objectifs.

• HRM:
• Perceiver IO:  

Ces types de réseau semblent de bons candidats pour des applications embarquées (capacité de Perceiver à projeter les entrées dans un espace latent de taille fixe, faible taille du HRM et du dataset requis). Le stage pourrait étudier la distillation d'un gros HRM vers un petit pour l'embarquer après pruning et quantification.

En fonction des attendus de votre école, les sujets pourront être discutés.

Moyens / Méthodes / Logiciels

Bonnes connaissances en IA et modèles génératifs, maitrise de Pytorch

Profil du candidat

Qu'attendons-nous de vous ?

Vous préparez un diplôme de niveau Master dans le domaine des mathématiques ou de l'IA.

Vous êtes passionné par la recherche scientifique et technologique et êtes reconnu pour votre autonomie, curiosité et êtes attiré par l'innovation.

Vous possédez des connaissances en IA.

Rejoignez-nous, venez développer vos compétences et en acquérir de nouvelles 

Vous avez encore un doute ? Nous vous proposons :

• L'opportunité de travailler au sein d'une organisation de renommée mondiale dans le domaine de la recherche scientifique,
• Un environnement unique dédié à des projets ambitieux au profit des grands enjeux sociétaux actuels,
• Une expérience à la pointe de l'innovation, comportant un fort potentiel de développement industriel,
• Des moyens expérimentaux exceptionnels et un encadrement de qualité,
• De réelles opportunités de carrière à l'issue de votre stage
• Un poste au cœur de la métropole grenobloise, facilement accessible via la mobilité douce favorisée par le CEA,
• Une participation aux transports en commun à hauteur de 85%,
• Un équilibre vie privée – vie professionnelle reconnu,
• Un restaurant d'entreprise,
• Une politique diversité et inclusion,

Conformément aux engagements pris par le CEA en faveur de l'intégration des personnes handicapées, cet emploi est ouvert à toutes et à tous. Le CEA propose des aménagements et/ou des possibilités d'organisation pour l'inclusion des travailleurs handicapés.

Site

Saclay

Localisation du poste

France, Ile-de-France, Essonne (91)

Ville

Palaiseau

Critères candidat
Langues

Anglais (Courant)

Diplôme préparé

Bac+5 - Master 2

Formation recommandée

M2 ARTIFICIAL INTELLIGENCE

Possibilité de poursuite en thèse

Oui

Disponibilité du poste

02/02/2026

---