Phd Position F/m Generalization Bounds for Neural Networks

Le descriptif de l’offre ci-dessous est en Anglais_ **Type de contrat**: CDD **Niveau de diplôme exigé**: Bac + 5 ou équivalent **Fonction**: Doctorant **Contexte et atouts du poste**: The PhD position will be in the framework of the ERC Starting Grant DYNASTY (Dynamics-Aware Theory of Deep Learning). The position might include traveling to conferences for paper presentation. Travel expenses will be covered within the limits of the scale in force. **Mission confiée**: Understanding generalization in deep learning has been one of the major challenges in statistical learning theory over the last decade. While recent work has illustrated that the dataset and the training algorithm must be taken into account in order to obtain meaningful generalization bounds, it is still theoretically not clear which properties of the data and the algorithm determine the generalization performance. In this phd, we will approach this problem from a dynamical systems theory perspective and exploit the fractal structure that the stochastic optimization algorithms produce [1]. We aim to prove that the generalization error of a stochastic optimization algorithm can be understood by using fractal geometry and dynamical systems theory. The results will be evaluated on modern neural networks, and new efficient algorithms will be developed based on the developed theory. References [1] Camuto, Alexander, et al. "Fractal structure and generalization properties of stochastic optimization algorithms." Advances in Neural Information Processing Systems 34 (2021): 18774-18788. **Principales activités**: Main activities: - Conduct theoretical research Conduct experiments for empirical verification Write scientific articles Disseminate the scientific work in appropriate venues. **Compétences**: Technical skills and level required: Languages: Relational skills: Other valued appreciated: **Avantages**: - Subsidized meals - Partial reimbursement of public transport costs - Leave: 7 weeks of annual leave + 10 extra days off due to RTT (statutory reduction in working hours) + possibility of exceptional leave (sick children, moving home, etc.) - Possibility of teleworking and flexible organization of working hours - Professional equipment available (videoconferencing, loan of computer equipment, etc.) - Social, cultural and sports events and activities - Access to vocational training - Social security coverage **Informations générales**: - **Thème/Domaine**: Optimisation, apprentissage et méthodes statistiques Statistiques (Big data) (BAP E) - **Ville**: Paris - **Centre Inria**: Centre Inria de Paris - **Date de prise de fonction souhaitée**: 2025-10-01 - **Durée de contrat**: 3 ans - **Date limite pour postuler**: 2025-09-06 **Consignes pour postuler**: **Sécurité défense**: Ce poste est susceptible d’être affecté dans une zone à régime restrictif (ZRR), telle que définie dans le décret n°2011-1425 relatif à la protection du potentiel scientifique et technique de la nation (PPST). L’autorisation d’accès à une zone est délivrée par le chef d’établissement, après avis ministériel favorable, tel que défini dans l’arrêté du 03 juillet 2012, relatif à la PPST. Un avis ministériel défavorable pour un poste affecté dans une ZRR aurait pour conséquence l’annulation du recrutement. **Politique de recrutement**: Dans le cadre de sa politique diversité, tous les postes Inria sont accessibles aux personnes en situation de handicap. **Contacts**: - **Équipe Inria**: SIERRA - **Directeur de thèse**: **L'essentiel pour réussir**: There you can provide a "broad outline" of the collaborator you are looking for what you consider to be necessary and sufficient, and which may combine: - tastes and appetencies, - area of excellence, - personality or character traits, - cross-disciplinary knowledge and expertise... This section enables the more formal list of skills to be completed and 'lightened' (reduced): - "Essential qualities in order to fulfil this assignment are feeling at ease in an environment of scientific dynamics and wanting to learn and listen." - " Passionate about innovation, with expertise in Ruby on Rails development and strong influencing skills. A thesis in the field of ** is a real asset." **A propos d'Inria**: Inria est l’institut national de recherche dédié aux sciences et technologies du numérique. Il emploie 2600 personnes. Ses 215 équipes-projets agiles, en général communes avec des partenaires académiques, impliquent plus de 3900 scientifiques pour relever les défis du numérique, souvent à l’interface d’autres disciplines. L’institut fait appel à de nombreux talents dans plus d’une quarantaine de métiers différents. 900 personnels d’appui à la recherche et à l’innovation contribuent à faire émerger et grandir des projets scientifiques ou entrepreneuriaux qui impactent le monde. Inria travaille avec de nombreuses entreprises et a accompagné la création de plus de 200 start-up. L'institut s'efforce ainsi de répondre aux enje