Capacités de Généralisation Des Algorithmes
il y a 7 jours
**Capacités de généralisation des algorithmes d'apprentissage automatique // Generalization Capabilities of Machine Learning Algorithms**:
- Réf **ABG-122380**
**ADUM-56215**
- Sujet de Thèse- 06/04/2024- Université Côte d'Azur- Lieu de travail- Sophia Antipolis Cedex - France- Intitulé du sujet- Capacités de généralisation des algorithmes d'apprentissage automatique // Generalization Capabilities of Machine Learning Algorithms- Mots clés- Apprentissage Supervisé, Statistique, Théorie de l'Information
- Supervised Learning, Statistics, Information Theory**Description du sujet**:
- Dans [1, 2], nous avons introduit la notion de mesure de probabilité génératrice de données dans le pire des cas (WCDG), qui a été un instrument clé pour l'étude des capacités de généralisation des algorithmes d'apprentissage automatique. En particulier, la mesure de probabilité WCDG est l'outil mathématique clé pour caractériser l'erreur de généralisation de tout algorithme d'apprentissage automatique [3]. Il s'agit d'un résultat majeur car une telle caractérisation n'était connue que pour un seul algorithme : l'algorithme de Gibbs [4]. Cette caractérisation de l'erreur de généralisation a conduit à la conclusion qu'il est impossible de construire des algorithmes avec une erreur de généralisation nulle, à moins que la sélection du modèle ne soit effectuée indépendamment des ensembles de données d'entraînement. De ce point de vue, une erreur de généralisation strictement positive doit être admise dans la conception des algorithmes d'apprentissage automatique, ce qui n'est pas sans rappeler le théorème du 'repas gratuit' dans la théorie de l'optimisation. D'un autre côté, les algorithmes qui présentent la plus grande erreur de généralisation sont ceux qui choisissent de manière déterministe un modèle basé sur l'ensemble de données d'entraînement, par exemple la minimisation empirique du risque (ERM) [5]. Cette analyse a mis en lumière l'algorithme de Gibbs comme une alternative potentielle aux paradigmes actuels d'apprentissage automatique, par exemple les algorithmes basés sur le gradient, etc. Néanmoins, l'impact des hyper-paramètres d'un tel algorithme reste un territoire inexploré dans le domaine de statistiques, théorie de l'information et apprentissage automatique statistique.
- Les objectifs de cette thèse sont les suivants:
- Concevoir des garanties de généralisation en probabilité, par exemple, probablement-à peu près correct (PAC) ; ou en valeur espérée, par exemple une erreur de généralisation, pour laquelle des limites fondamentales peuvent être fournies. Le point de départ de cette tâche est le cadre mathématique développé sur la mesure de probabilité WCDG.
- Caractériser l'impact des hyper-paramètres sur les garanties de généralisation ci-dessus des algorithmes obtenus à partir de la minimisation empirique des risques soumis à des régularisations de f-divergence [5, 6], par exemple l'algorithme de Gibbs.
- Fournir des lignes directrices pour la conception d'algorithmes basées sur le cadre théorique développé et mettre en œuvre un banc d'essai pour comparer avec les alternatives existantes.
In [1, 2], we have introduced the notion of worst-case data-generating (WCDG) probability measure, which has been a key instrument to the study of generalization capabilities of machine learning algorithms. In particular, the WCDG probability measure is the key mathematical tool to characterize the generalization error of any machine learning algorithm [3]. This is a major result as such a characterization was known exclusively for one algorithm: the Gibbs algorithm [4]. This characterization of the generalization error has led to the conclusion that algorithms with zero-generalization error are impossible to build, unless the model selection is made independently of the training datasets. From this perspective, some strictly positive generalization error is to be admitted in the design of machine learning algorithms, which is reminiscent to a no-free lunch theorem in optimization theory. On the other hand, algorithms that exhibit the largest generalization error are those that deterministically choose a model based on the training dataset, e.g., empirical risk minimization (ERM) [5]. This analysis has put into the spotlight the Gibbs algorithm as a potential alternative to current machine learning paradigms, e.g., gradient-based algorithms, etc. Nonetheless, the impact of the hyper-parameters of such an algorithm, remains uncharted territory in the realms of statistics, information theory, and statistical machine learning.
- The objectives of this thesis are the following:
- To devise generalization guarantees in probability, e.g., probably-approximately-correct (PAC); or in expectation, e.g., generalization error, for which fundamental limits can be provided. The starting point in this task is the mathematical framework developed
-
Cdd Chercheur en Théorie Et Algorithmique de
il y a 4 semaines
Sophia Antipolis, France CNRS Temps pleinCette offre est disponible dans les langues suivantes: - Français - Anglais Date Limite Candidature : vendredi 30 juin 2023 **Informations générales**: **Intitulé de l'offre **:CDD Chercheur en Théorie et algorithmique de graphes (H/F)** Référence : UMR7271-VIVROS-045 Nombre de Postes : 1 Lieu de travail : SOPHIA ANTIPOLIS Date de publication :...
-
Cdd Chercheur en Théorie Et Algorithmique de
il y a 2 semaines
Sophia Antipolis, Provence-Alpes-Côte d'Azur, France CNRS Temps pleinCette offre est disponible dans les langues suivantes:- Français- AnglaisDate Limite Candidature : vendredi 30 juin 2023**Informations générales**:**Intitulé de l'offre **:CDD Chercheur en Théorie et algorithmique de graphes (H/F)**Référence : UMR7271-VIVROS-045Nombre de Postes : 1Lieu de travail : SOPHIA ANTIPOLISDate de publication : vendredi 9 juin...
-
Post-doctoral Research Visit F/m Algorithms
il y a 4 semaines
Sophia Antipolis, France Inria Temps pleinLe descriptif de l’offre ci-dessous est en Anglais_ **Type de contrat **:CDD **Niveau de diplôme exigé **:Thèse ou équivalent **Fonction **:Post-Doctorant **A propos du centre ou de la direction fonctionnelle**: The Inria centre at Université Côte d'Azur includes 37 research teams and 8 support services. The centre's staff (about 500 people) is...
-
Ai and Digital Twins in Metallurgy
il y a 4 semaines
Sophia Antipolis, France Centre de Mise en Forme des Matériaux (CEMEF) Temps plein**AI and digital twins in metallurgy**: - Réf - **ABG-113420** - Sujet de Thèse- 14/04/2023- Cifre- Centre de Mise en Forme des Matériaux (CEMEF)- Lieu de travail- Sophia Antipolis - Provence-Alpes-Côte d'Azur - France- Intitulé du sujet- AI and digital twins in metallurgy- Champs scientifiques- Numérique - Mathématiques - Mots clés- Digital twins,...
-
Postdoc : Contribution of Artificial Intelligence
il y a 4 semaines
Sophia Antipolis, France Centre de Mise en Forme des Matériaux (CEMEF) Temps pleinCEMEF is a research lab. of MINES ParisTech I PSL University associated with CNRS, the French National Centre for Scientific Research (Unité Mixte de Recherche CNRS, UMR7635). Overall, our missions are research and training in collaboration with industry. Our research focuses specifically on materials and their transformation processes in the broadest...
-
Traitement Vidéo Pour Camera-piéton
il y a 4 semaines
Sophia Antipolis, France EURECOM Temps pleinType - Postdoc - Departement - Sécurité Numérique - Date - 02-2023 - Position - Poste de Post-Doctorant H/F (Réf : SN/JLD/bodycam/PostDoc/022023) Ce travail est réalisé en collaboration avec l'UPNM (National Defence University of Malaysia) Les caméras-piétons ont gagné en popularité au cours de la dernière décennie. Elles sont devenues l'un des...
-
Phd Position F/m
il y a 4 semaines
Sophia Antipolis, France Inria Temps pleinLe descriptif de l’offre ci-dessous est en Anglais_ **Type de contrat **:CDD **Niveau de diplôme exigé **:Bac + 5 ou équivalent **Fonction **:Doctorant **A propos du centre ou de la direction fonctionnelle**: The Inria centre at Université Côte d'Azur includes 37 research teams and 8 support services. The centre's staff (about 500 people) is made...
-
Phd Position F/m
il y a 4 semaines
Sophia Antipolis, France Inria Temps pleinLe descriptif de l’offre ci-dessous est en Anglais_ **Type de contrat **:CDD **Niveau de diplôme exigé **:Bac + 5 ou équivalent **Fonction **:Doctorant **A propos du centre ou de la direction fonctionnelle**: The Inria centre at Université Côte d'Azur includes 37 research teams and 8 support services. The centre's staff (about 500 people) is made...
-
3D Urban Reconstruction From Gis Data
il y a 3 semaines
Sophia Antipolis, France Inria Temps pleinLe descriptif de l’offre ci-dessous est en Anglais_ **Type de contrat **:CDD **Niveau de diplôme exigé **:Bac + 5 ou équivalent **Autre diplôme apprécié **:Engineer in Computer Science **Fonction **:Ingénieur scientifique contractuel **Niveau d'expérience souhaité **:Jeune diplômé **A propos du centre ou de la direction...
-
Phd Position F/m doct2024-mctao Optimal Pulse
il y a 2 semaines
Sophia Antipolis, Provence-Alpes-Côte d'Azur, France Inria Temps pleinLe descriptif de l'offre ci-dessous est en Anglais_Type de contrat :CDDNiveau de diplôme exigé :Bac + 5 ou équivalentFonction :DoctorantA propos du centre ou de la direction fonctionnelle:The Inria centre at Université Côte d'Azur includes 37 research teams and 8 support services. The centre's staff (about 500 people) is made up of scientists of...
-
Internship: Video Generation
il y a 2 semaines
Sophia Antipolis, France Inria Temps plein**Type de contrat **:Stage **Contrat renouvelable **:Oui **Niveau de diplôme exigé **:Bac + 4 ou équivalent **Fonction **:Stagiaire de la recherche **Niveau d'expérience souhaité **:Jeune diplômé **A propos du centre ou de la direction fonctionnelle**: Le centre Inria d'Université Côte d'Azur regroupe 42 équipes de recherche et 9 services...
-
Traitement Vidéo Pour Caméra-piéton
il y a 4 semaines
Sophia Antipolis, France EURECOM Temps pleinFonction - Ingénieur de recherche - Département - Sécurité Numérique - Date - 08-2023 - Reference - Poste d'Ingénieur de recherche/PostDoc H/F (Réf : SN_JLD_ING_cam_082023) Les caméras piétons ont gagné en popularité au cours de la dernière décennie. Elles sont devenues l'un des outils essentiels que les agents des services répressifs doivent...
-
Engineer Position Computer Vision
il y a 4 semaines
Sophia Antipolis, France Inria Temps pleinLe descriptif de l’offre ci-dessous est en Anglais_ **Type de contrat **:CDD **Contrat renouvelable **:Oui **Niveau de diplôme exigé **:Bac + 5 ou équivalent **Fonction **:Chercheur contractuel **A propos du centre ou de la direction fonctionnelle**: The Inria Sophia Antipolis - Méditerranée center counts 34 research teams as well as 7 support...
-
Engineer Position for People Tracking From Videos
il y a 4 semaines
Sophia Antipolis, France Inria Temps pleinLe descriptif de l’offre ci-dessous est en Anglais_ **Type de contrat **:CDD **Contrat renouvelable **:Oui **Niveau de diplôme exigé **:Bac + 5 ou équivalent **Autre diplôme apprécié **:master **Fonction **:Ingénieur scientifique contractuel **Niveau d'expérience souhaité **:Jeune diplômé **A propos du centre ou de la direction...
-
These Cifre: Embedded Machine Learning Solutions
il y a 5 jours
Sophia Antipolis, France NXP Semiconductors Temps plein**Environment** This PhD is a collaboration between the ACENTAURI team at Inria and the Vision Technology Engineering Center (VTEC) at NXP Semiconductors. ACENTAURI is a robotics team that studies and develops intelligent, autonomous and mobile robots that can help humans in their day-to-day lives at home, at work or during their travels. The team focuses...
-
Stagiaire de La Recherche
il y a 4 semaines
Sophia Antipolis, France Inria Temps plein**Type de contrat **:Convention de stage **Niveau de diplôme exigé **:Bac + 4 ou équivalent **Fonction **:Stagiaire de la recherche **Mission confiée**: L'objectif du projet est de proposer une nouvelle méthode pour combiner deux signaux dans une architecture multimodale. L'étudiante travaillera avec différents types de données, où les signaux...
-
Sophia Antipolis, Provence-Alpes-Côte d'Azur, France CNRS Temps pleinDoctorant en Correction d'erreur par codage pour un stockage fiable de l'ADN (H/F) Cette offre est disponible dans les langues suivantes : Informations générales Intitulé de l'offre : Doctorant en Correction d'erreur par codage pour un stockage fiable de l'ADN (H/F) Type de contrat : CDD Doctorant/Contrat doctoral Durée du contrat : 36 mois Date de...
-
Ingénieur Développement Logiciel Backend Java Senior F/H
il y a 4 semaines
Sophia Antipolis, France Thales Temps pleinQUI SOMMES-NOUS ? L’activité Systèmes de missions de défense fournit des équipements, des solutions et des services liés aux systèmes de combat électroniques, de surveillance et de reconnaissance, de combat naval, de surface et de lutte sous la mer.Le site de Sophia-Antipolis développe des sonars à destination des sous-marins et des bâtiments...
-
Cifre - Modélisation Thermique Et Tribologique Du
il y a 2 semaines
Sophia Antipolis, Provence-Alpes-Côte d'Azur, France Centre de Mise en Forme des Matériaux (CEMEF) Temps plein**CIFRE - Modélisation thermique et tribologique du laminage à pas de pèlerin de tubes**:- Réf- **ABG-114166**- Sujet de Thèse- 05/05/2023- Cifre- Centre de Mise en Forme des Matériaux (CEMEF)- Lieu de travail- Sophia Antipolis - Provence-Alpes-Côte d'Azur - France- Intitulé du sujet- CIFRE - Modélisation thermique et tribologique du laminage à pas...
-
Research Technician in Computer Vision
il y a 4 semaines
Sophia Antipolis, France Inria Temps pleinLe descriptif de l’offre ci-dessous est en Anglais_ **Type de contrat **:CDD **Niveau de diplôme exigé **:Bac + 2 ou équivalent **Fonction **:Personnel des fonctions support (IT) **A propos du centre ou de la direction fonctionnelle**: The Inria Sophia Antipolis - Méditerranée center counts 34 research teams as well as 8 support departments. The...
