Stage ViT Embarqué: Pruning

Description du poste : Les Vision Transformers (ViT) atteignent d'excellentes performances sur de nombreuses tâches de vision, mais leur coût de calcul et leur empreinte mémoire compliquent leur déploiement sur des plateformes embarquées. Parmi les techniques permettant de réduire leur complexité, le pruning de tokens [1] vise à supprimer...

Stage au CEA à Saclay dans le LIST/LIAE sur la distillation de connaissances cross-architecture pour systèmes embarqués. Vous étudierez et développerez des méthodes permettant de transférer des connaissances d’un modèle ViT/Swin vers un réseau plus compact comme ResNet/MobileNet.Le stage implique l’analyse de l’état de l’art, la conception...

En tant que stagiaire au CEA, vous aurez l'opportunité de travailler au sein d'un environnement de recherche de renommée mondiale. Nos équipes sont composées d'experts passionnés et dédiés, offrant un cadre propice à l'apprentissage et à la collaboration. Vous aurez accès à des équipements de pointe et à des ressources de recherche de premier...

En tant que stagiaire au CEA, vous aurez l'opportunité de travailler au sein d'un environnement de recherche de renommée mondiale. Nos équipes sont composées d'experts passionnés et dédiés, offrant un cadre propice à l'apprentissage et à la collaboration. Vous aurez accès à des équipements de pointe et à des ressources de...

Informations générales Entité de rattachement Le CEA est un acteur majeur de la recherche, au service des citoyens, de l'économie et de l'Etat. Il apporte des solutions concrètes à leurs besoins dans quatre domaines principaux : transition...

Stage Pruning de tokens quantization-aware pour Vision Transformers embarqués -Saclay-H/F Description du poste Sciences pour l'ingénieur Intitulé de l'offre Stage Pruning de tokens quantization-aware pour Vision Transformers embarqués -Saclay-H/F Sujet de stage Dans un contexte d'IA embarquée en constante évolution, vous travaillerez sur l'optimisation...

Informations générales Entité de rattachement Le CEA est un acteur majeur de la recherche, au service des citoyens, de l'économie et de l'Etat. Il apporte des solutions concrètes à leurs besoins dans quatre domaines principaux : transition...

Stage Distillation de connaissance cross-architecture pour systèmes embarqués-Saclay-H/FDescription du posteSciences pour l'ingénieurIntitulé de l'offreStage Distillation de connaissance cross-architecture pour systèmes embarqués-Saclay-H/FSujet de stageÉtude et développement de méthodes de distillation permettant de transférer les connaissances...