Stage en Compilation Ia Pour Llm

**REF : LLM**:
Montbonnot / STAGE

**Kalray recherche**:
**Un(e) stagiaire en compilation IA basé pour LLM**:
REF : LLM

**SUJET**:
Nous concevons des processeurs innovants basés sur l’architecture RISC-V, destinés à répondre aux besoins croissants en calcul haute performance (HPC) et en intelligence artificielle (IA). En particulier, ces processeurs disposeront d’une unité vectorielle implémentant RVV (Risc-V Vector extension) ainsi que d’une extension matricielle.

Au sein de l’équipe Inference IA, nous développons une stack logicielle complète permettant d’exécuter efficacement des LLM (Large Langage Model) sur ces processeurs, dès les premières étapes de conception.

La compilation joue un rôle clé : de la même manière que GCC ou Clang (LLVM) traduisent du code C en instructions machine, de nouveaux compilateurs IA traduisent désormais directement les LLM en code machine, générant automatiquement le code des kernels. La majorité de ces compilateurs reposent sur MLIR (Multi-Level Intermediate Representation), qui permet à la fois de manipuler les opérateurs de haut niveau (comme les multiplications de matrices) et de s’intégrer à LLVM pour la génération efficace de code machine.

Dans ce cadre, nous souhaitons intégrer et adapter un compilateur IA basé sur MLIR (très probablement IREE) afin d’exploiter pleinement les spécificités de nos processeurs.

Vous contribuerez à l’adaptation, l’amélioration et l’évaluation de ce compilateur au sein de notre stack logiciel.

A ce titre, selon l’avancement du projet, vos missions principales sont les suivantes:

- Prendre en main le compilateur IREE et son écosystème (MLIR, LLVM, etc.)
- Participer au portage ou à la configuration de IREE vers notre architecture RISC-V
- Contribuer à l’analyse de performances et à l’optimisation des kernels générés
- Développer ou améliorer des heuristiques de génération de kernels

**COMPETENCES REQUISES ET A DEVELOPPER**:

- Analyse de la structure des LLM en vue d’une implémentation efficace
- Pratique avancée des techniques de compilation IA modernes (IREE, MLIR)
- Découverte et usage approfondi de l’IR LLVM
- Optimisation bas niveau et génération de code assembleur performant pour l’IA
- Maîtrise de l’assembleur RISC-V et de l’extension vectorielle RVV
- Solides compétences en programmation C++ (C et Python serait un plus)

**PROFIL**:

- Étudiant(e) en école d’ingénieurs ou master informatique. Stage de 6 mois.
- Fort intérêt pour la compilation, l’assembleur et l’optimisation de calculs

**CONTRAT**:

- Type de contrat : Convention de stage
- Gratification : Selon niveau d’étude
- Convention collective : Métallurgie
- Avantages : Travail hybride, titres restaurant, teambuilding et autre activités telles que laser game, escape game, voile, ski, karting, karaoké et bien plus encore
- Lieu : Montbonnot (38)

**_KALRAY : UN ACTEUR EUROPEEN DE REFERENCE EN MATIERE DE PROCESSEURS INTELLIGENTS_**

Essaimage du CEA fondé en 2008, Kalray est un acteur européen de référence dans les technologies matérielles et logicielles pour le traitement intensif des données, du Cloud à l’Edge.

L’offre de Kalray comprend des solutions d’accélération matérielle et logicielle, ainsi qu’une offre de co-développement - ou de design à la demande - de processeurs et de solutions d’accélération optimisées pour des usages spécifiques.

**_ OPENCHIP : UN PARTENAIRE EUROPEEN AU CŒUR DES ENJEUX DE SOUVERAINETE INDUSTRIELLE_**

Créée en 2021, Openchip est une entreprise pionnière dans le développement de Systèmes sur Puce (SoC) modulaires et économes en énergie, basés sur RISC-V. Openchip conçoit des solutions sécurisées, évolutives et durables pour l’intelligence artificielle, le calcul haute performance et l’edge computing, avec un impact direct sur des domaines à forte valeur sociétale comme la génomique, la science du climat ou l’aérospatiale.

Reconnue par la Commission européenne pour ses projets stratégiques (PIIEC, Next Generation EU, Horizon Europe) et soutenue par des acteurs majeurs comme GTD (un important groupe d’ingénierie européen spécialisé dans les logiciels et systèmes critiques) et le Barcelona Supercomputing Center, Openchip allie puissance industrielle et excellence scientifique.

**_ UNE COOPERATION STRATEGIQUE AU CŒUR DES ENJEUX DE SOUVERAINETE INDUSTRIELLE_**

La collaboration entre Kalray et Openchip représente un partenariat unique en Europe autour du développement de solutions européennes souveraines en matière de traitement intelligent des données, fondée sur des technologies ouvertes, efficaces et compétitives à l’échelle mondiale.

Ensemble, elles développent une version du DPU de Kalray visant tout particulièrement les prochains systèmes de calcul à haute performance et les gigafactories d’IA.

Grâce à la collaboration entre Kalray et Openchip, les talents ont l’opportunité de travailler sur un projet d’envergure internationale, de contribuer à bâtir les technologies de demain et d’évoluer dans un environnement stimulant où re