Decentralized Learning in The Presence of

Il y a 2 mois


Sophia Antipolis, France Université Côte d'Azur - Laboratoire I3S Temps plein

**Decentralized learning in the presence of heterogeneous system devices**:

- Réf
- **ABG-112623**
- Sujet de Thèse- 29/03/2023- Financement public/privé- Université Côte d'Azur - Laboratoire I3S- Lieu de travail- Sophia Antipolis - Provence-Alpes-Côte d'Azur - France- Intitulé du sujet- Decentralized learning in the presence of heterogeneous system devices- Champs scientifiques- Sciences de l’ingénieur
- Mots clés- Machine learning, artificial intelligence, signal processing, optimization, applied mathematics, statistical learning**Description du sujet**:
The thesis focuses on developing new decentralized inference approaches for learning from data collected in a distributed and streamed manner. While most of the federated learning approaches assume a fixed set of clients, each with a fixed local dataset [1-6], the thesis considers settings where devices are collecting data in a continuous manner and where the underlying data-generation models are changing over time. Therefore, the solutions must be able to learn continuously from streaming data and to adapt to changes in the environment.

Upon the thesis completion, it is expected that a family of decentralized approaches for learning in heterogeneous statistical settings and heterogeneous data acquisition settings will be delivered. The methods will be able to learn continuously from data and to operate in environments where the communication (bandwidth) and the energy resources are limited. Analyses will be conducted to characterize the behavior of the proposed approaches. The interest of the methods will be illustrated in machine learning frameworks using publicly available datasets.

[1] K. A. Bonawitz, H. Eichner, W. Grieskamp, D. Huba, A. Ingerman, V. Ivanov, C. M. Kiddon, J. Konecny, S. Mazzocchi, B. McMahan, T. V. Overveldt, D. Petrou, D. Ramage, and J. Roselander, “Towards federated learning at scale: System design," In Proc. Conf. Mach. Learn. Syst., Mar. 2019.

[2] B. McMahan, E. Moore, D. Ramage, S. Hampson, and B. A. Y. Arcas. “Communication-efficient learning of deep networks from decentralized data". In Proc. Int. Conf. Artif. Intell. Stat., vol. 54, pp. 1273-1282, 2017.

[4] T. Li, A. K. Sahu, A. S. Talwalkar, and V. Smith, “Federated learning: Challenges, methods, and future directions," IEEE Signal Process. Mag., vol. 37, pp. 50-60, May 2020.

[5] P. Kairouz, H. B. McMahan, B. Avent, A. Bellet, M. Bennis, A. N. Bhagoji,..., and S. Zhao, “Advances and open problems in federated learning," Found. Trends Mach. Learn., vol. 14, no. 1-2, pp. 1-210, 2021.

[6] V. Smith, C.K. Chiang, M. Sanjabi, and A. S. Talwalkar, “Federated multi-task learning," in Proc. Adv. Neural Inf. Process. Syst., Long Beach, CA, USA, Dec. 2017.

[7] R. Nassif, S. Vlaski, C. Richard, J. Chen, and A. H. Sayed, “Multitask Learning over Graphs: An approach for distributed, streaming machine learning," IEEE Signal Process. Mag., vol. 37, no. 3, pp. 14-25, 2020.

**Prise de fonction**:

- 01/09/2023**Nature du financement**:

- Financement public/privé**Précisions sur le financement**:

- Thèse (de durée 3 ans) est financée par un projet ANR**Présentation établissement et labo d'accueil**:

- Université Côte d'Azur - Laboratoire I3SScientific environment:

- Roula Nassif, Maître de Conférences within the MediaCoding group at I3S Laboratory;
- Marc Antonini, Directeur de recherche CNRS within the MediaCoding group at I3S Laboratory.

The student's workplace will be the I3S laboratory (where the MediaCoding group is located), in the Sophia Antipolis technology park of the French Riviera.

**Site web**:
- must be a graduate student with major in applied mathematics, computer or electrical engineering;
- must have a strong background in machine learning as well as good knowledge in signal processing, linear algebra, inverse problems (regularization), and convex optimization;
- must have a good programming experience (Matlab or Python);
- must have high level of written/spoken English.- 07/05/2023


  • Stage de Master

    Il y a 2 mois


    Sophia Antipolis, France Université Côte d'Azur - Laboratoire I3S Temps plein

    **Stage de Master - Decentralized learning in the presence of heterogeneous system devices**: - Réf - **ABG-117916** - Stage master 2 / Ingénieur- Durée 6 mois- Salaire net mensuel Around 600 euros- 15/11/2023- Université Côte d'Azur - Laboratoire I3S- Lieu de travail- Sophia Antipolis Provence-Alpes-Côte d'Azur France- Champs scientifiques- Sciences...


  • Sophia Antipolis, France Inria Temps plein

    Le descriptif de l’offre ci-dessous est en Anglais_ **Type de contrat **:CDD **Niveau de diplôme exigé **:Bac + 5 ou équivalent **Fonction **:Doctorant **A propos du centre ou de la direction fonctionnelle**: The Inria centre at Université Côte d'Azur includes 37 research teams and 8 support services. The centre's staff (about 500 people) is made...


  • Sophia Antipolis, France Université Côte d'Azur Temps plein

    **(Semi)Decentralized Digital Currencies and Mutable Smart Contracts for Permissioned Blockchains Distributed Ledgers for the European Area // _**: - Réf **ABG-122694** **ADUM-56511** - Sujet de Thèse- 11/04/2024- Université Côte d'Azur- Lieu de travail- Sophia Antipolis Cedex - France- Intitulé du sujet- (Semi)Decentralized Digital Currencies and...


  • Technopole de Sophia Antipolis, France INRIA Temps plein

    Contexte et atouts du poste The Postdoctoral appointment is joint with two INRIA research centers, Centre Inria d'Université Côte d'Azur (Samir M. Perlaza) and Centre Inria de Lyon (Jean-Marie Gorce). The position can be developed in either of these centers within a national collaboration network that includes INSA de Rennes (Philippe Mary). This...


  • Sophia Antipolis, France Inria Temps plein

    **Type de contrat **:CDD**Contrat renouvelable **:Oui**Niveau de diplôme exigé **:Bac + 5 ou équivalent**Autre diplôme apprécié **:Thèse**Fonction **:Ingénieur scientifique contractuel**Niveau d'expérience souhaité **:Jeune diplôméA propos du centre ou de la direction fonctionnelle The Inria Sophia Antipolis - Méditerranée center counts 37...


  • Sophia Antipolis, France Inria Temps plein

    Le descriptif de l’offre ci-dessous est en Anglais_ **Niveau de diplôme exigé **:Bac + 4 ou équivalent **Fonction **:Stagiaire de la recherche **A propos du centre ou de la direction fonctionnelle**: The Inria centre at Université Côte d'Azur includes 37 research teams and 8 support services. The centre's staff (about 500 people) is made up of...


  • Sophia Antipolis, France Université Côte d'Azur Temps plein

    **Apprentissage par Renforcement Fédéré // Federated Reinforcement Learning**: - Réf **ABG-122695** **ADUM-56518** - Sujet de Thèse- 11/04/2024- Université Côte d'Azur- Lieu de travail- Sophia Antipolis Cedex - France- Intitulé du sujet- Apprentissage par Renforcement Fédéré // Federated Reinforcement Learning- Mots clés- Apprentissage...


  • Sophia Antipolis, France Inria Temps plein

    Le descriptif de l’offre ci-dessous est en Anglais_ **Type de contrat **:Convention de stage**Niveau de diplôme exigé **:Bac + 4 ou équivalent**Fonction **:Stagiaire de la rechercheA propos du centre ou de la direction fonctionnelle The Inria centre at Université Côte d'Azur includes 37 research teams and 8 support services. The centre's staff...

  • Phd Position F/m

    il y a 5 jours


    Sophia Antipolis, France Inria Temps plein

    Le descriptif de l’offre ci-dessous est en Anglais_ **Type de contrat **:CDD **Niveau de diplôme exigé **:Bac + 5 ou équivalent **Fonction **:Doctorant **Niveau d'expérience souhaité **:Jeune diplômé **A propos du centre ou de la direction fonctionnelle**: The Inria centre at Université Côte d'Azur includes 37 research teams and 8 support...

  • Machine Learning

    il y a 1 mois


    Sophia Antipolis, France EURECOM Temps plein

    Fonction - Enseignant-chercheur - Département - Data Science - Date - 11-2023 - Reference - Assistant or Associate Professor position M/F (Ref: DS/PM/PROF/112023) **Description** **Requirements**: The new Professor is expected to contribute to teaching (possibly new) courses for EURECOM curricula, and to conduct research in (but not limited to) areas such...

  • Internship Research

    Il y a 2 mois


    Sophia Antipolis, France Inria Temps plein

    Le descriptif de l’offre ci-dessous est en Anglais_ **Type de contrat **:Convention de stage **Niveau de diplôme exigé **:Bac + 5 ou équivalent **Fonction **:Stagiaire de la recherche **A propos du centre ou de la direction fonctionnelle**: The Inria centre at Université Côte d'Azur includes 37 research teams and 8 support services. The centre's...

  • Internship Research

    il y a 3 jours


    Sophia Antipolis, France Inria Temps plein

    Le descriptif de l’offre ci-dessous est en Anglais_ **Type de contrat **:Convention de stage **Niveau de diplôme exigé **:Bac + 4 ou équivalent **Fonction **:Stagiaire de la recherche **A propos du centre ou de la direction fonctionnelle**: The Inria centre at Université Côte d'Azur includes 37 research teams and 8 support services. The centre's...

  • Internship Research

    il y a 2 semaines


    Sophia Antipolis, France Inria Temps plein

    Le descriptif de l’offre ci-dessous est en Anglais_ **Type de contrat **:Convention de stage **Niveau de diplôme exigé **:Bac + 5 ou équivalent **Fonction **:Stagiaire de la recherche **A propos du centre ou de la direction fonctionnelle**: The Inria centre at Université Côte d'Azur includes 37 research teams and 8 support services. The centre's...


  • Sophia Antipolis, France Inria Temps plein

    Le descriptif de l’offre ci-dessous est en Anglais_ **Type de contrat **:CDD **Niveau de diplôme exigé **:Bac + 5 ou équivalent **Fonction **:Doctorant **A propos du centre ou de la direction fonctionnelle**: The Inria Université Côte d'Azur center counts 37 research teams as well as 8 support services. The center's staff (about 500 people) is...


  • Sophia Antipolis, France Mines Paris - PSL, Centre PERSEE Temps plein

    **PhD #2 at Mines Paris in Data Science & Energy: "High-dimensional optimization of distributed assets in smart grids"**: - Réf - **ABG-119694** - Sujet de Thèse- 24/01/2024- Autre financement public- Mines Paris - PSL, Centre PERSEE- Lieu de travail- Sophia-Antipolis - Provence-Alpes-Côte d'Azur - France- Intitulé du sujet- PhD #2 at Mines Paris in...


  • Sophia Antipolis, France Mines Paris - PSL, Centre PERSEE Temps plein

    **PhD #2 at Mines Paris in Data Science & Energy: "High-dimensional optimization of distributed assets in smart grids"**: - Réf - **ABG-111183** - Sujet de Thèse- 15/02/2023- Autre financement public- Mines Paris - PSL, Centre PERSEE- Lieu de travail- Sophia-Antipolis - Provence-Alpes-Côte d'Azur - France- Intitulé du sujet- PhD #2 at Mines Paris in...


  • Sophia Antipolis, France NXP Semiconductors Temps plein

    In addition, emerging architectures need to be considered during the development of future products. The second part of the mission will thus be to analyze the computational requirements of new architectures such as (V)Mamba (in terms of operators, FLOPS, memory bandwidth), evaluate their compatibility with current products and inform teams responsible for...


  • Sophia Antipolis, France Centre de Mise en Forme des Matériaux (CEMEF) Temps plein

    CEMEF is a research lab. of MINES ParisTech I PSL University associated with CNRS, the French National Centre for Scientific Research (Unité Mixte de Recherche CNRS, UMR7635). Overall, our missions are research and training in collaboration with industry. Our research focuses specifically on materials and their transformation processes in the broadest...


  • Sophia Antipolis, France Inria Temps plein

    Le descriptif de l’offre ci-dessous est en Anglais_ **Type de contrat **:CDD **Contrat renouvelable **:Oui **Niveau de diplôme exigé **:Bac + 5 ou équivalent **Fonction **:Chercheur contractuel **A propos du centre ou de la direction fonctionnelle**: The Inria Sophia Antipolis - Méditerranée center counts 34 research teams as well as 7 support...


  • Sophia Antipolis, France Digital Systems for Humans Graduate school - Université Côte d'Azur Temps plein

    **8 fully funded PhD positions - Digital Systems / Digital Society (Université Côte d'Azur, France)**: - Réf - **ABG-113380** - Sujet de Thèse- 13/04/2023- Contrat doctoral- Digital Systems for Humans Graduate school - Université Côte d'Azur- Lieu de travail- Biot Sophia Antipolis - Provence-Alpes-Côte d'Azur - France- Intitulé du sujet- 8 fully...