Explicabilité de La Détection D'objet Dans Les
il y a 3 semaines
**Explicabilité de la détection d'objet dans les images : conception d'algorithmes transparents // Object detection in images: towards explainability by design**:
- Réf
- **ABG-118378**
**ADUM-51677**
- Sujet de Thèse- 23/11/2023- Université Paris-Saclay GS Informatique et sciences du numérique- Lieu de travail- Palaiseau - France- Intitulé du sujet- Explicabilité de la détection d'objet dans les images : conception d'algorithmes transparents // Object detection in images: towards explainability by design- Mots clés- Intelligence Artificielle, Explicabilité, Vision par ordinateur, Apprentissage frugal
- Artificial Inteligence, Explainability, Computer vision, Frugal learning**Description du sujet**:
- La généralisation de l'utilisation de l'intelligence artificielle (IA) dans la société, parfois considérée comme une quatrième révolution industrielle, amène à développer des outils pour mieux maitriser son impact et ses risques. Parmi ceux-ci, doter les algorithmes et systèmes d'IA de capacités d'explication de leurs décisions ou de leur fonctionnement est devenu un objectif important, en particulier pour l'Union Européenne, et a conduit à développer un thème de recherche très actif : L'eXplicabilité de l'Intelligence Artificielle (ou « XAI »).
- Dans le domaine de la vision par ordinateur, qui est celui de la thèse, les modèles utilisés sont majoritairement des réseaux de neurones profonds de très grande taille (plusieurs millions de paramètres). Ils permettent d'obtenir d'excellents résultats pour effectuer des tâches telles que la classification d'images, la segmentation sémantique, ou la détection d'objets, mais sont considérés comme opaques, car d'une complexité difficile à appréhender et à interpréter.
- Ce manque de transparence du processus de décision, cet effet « boite noire », limite l'adoption de ces techniques. Il empêche l'utilisateur humain de contrôler efficacement la chaine de décision, freine les processus de validation des systèmes utilisant ces modèles, et rend difficile l'identification de biais dans les décisions.
- La grande majorité des approches XAI s'intéresse à la classification d'images et proposent des méthodes dites « post-hoc » appliquées à des modèles déjà entraînés et ayant pour rôle d'identifier les régions de l'image ayant un impact sur la décision du modèle. C'est par exemple le cas des méthodes qui exploitent les gradients par rapport aux entrée telles que Grad-CAM [1] ou celle proposée par Chefer [2] qui utilise les masques des modèles attentionnels. Ce type d'explication, qui prend la forme d'une carte de chaleur, est cependant d'expressivité limitée et ne donne pas d'indication claire sur le comportement interne du modèle [3].
- D'autres stratégies de conception, dites explicables « par design », consistent à proposer des modèles intrinsèquement « transparents », pour lesquels le mécanisme de décision s'appuie sur des composants directement interprétables comme des patchs visuels [4] ou des descriptions textuelles [5]. Ces méthodes contraignent d'avantage le modèle mais présentent l'avantage de pouvoir identifier plus explicitement les critères qui ont permis de prendre chaque décision. Une des difficultés est de concevoir de tels systèmes transparents sans diminution de performance.
- L'objectif de la thèse est de s'intéresser à une autre fonction de vision: la détection d'objets. Elle est fonctionnellement plus complexe que la classification d'image car elle doit décider de la présence d'objets, les localiser et les catégoriser. Très peu de travaux ont abordé la question de l'explicabilité de la détection d'objet et particulièrement de la détection de présence d'objet et de sa localisation [6,7] ; il n'existe à ce jour pas de modèle explicable « par design » de détection d'objet.
- Deux axes de recherche sont proposés dans cette thèse:
- Il s'agira dans un premier temps de développer un modèle de détection d'objets interprétable par design, en considérant les différentes sous tâches de la détection: existence d'un objet sur l'image, localisation, et catégorisation. Les travaux pourront s'aider de ceux effectués à l'ONERA au sein de l'équipe d'accueil sur l'explicabilité de la classification d'image, de la détection d'objet, et sur l'introduction de concepts sémantiques en vision par ordinateur [8, 9, 10].
- Dans un second temps, on s'interrogera sur les capacités de généralisation de ce modèle, et plus spécifiquement dans le cadre d'un apprentissage avec peu de données (apprentissage frugal). Il s'agira d'évaluer si une conception judicieuse de modèle de détection d'objet explicable par design permet de faciliter l'adaptabilité à un nouveau domaine ou à de nouvelles classes.
The widespread use of artificial intelligence (AI) in society, sometimes referred to as a fourth industrial revolution, is leading to the develop
-
PALAISEAU, 91120, Palaiseau, France Télécom SudParis Temps pleinMissionsLes approches comportementales basées sur l'apprentissage machine génèrent de nombreux faux positifs. En particulier, lorsque des méthodes d'apprentissage profond sont utilisées, les faux positifs s'avèrent difficiles à expliquer, l'apprentissage profond étant souvent considéré comme une boîte noire difficile à...
-
Palaiseau, Île-de-France Télécom SudParis Temps pleinMissionsLes approches comportementales basées sur l'apprentissage machine génèrent de nombreux faux positifs. En particulier, lorsque des méthodes d'apprentissage profond sont utilisées, les faux positifs s'avèrent difficiles à expliquer, l'apprentissage profond étant souvent considéré comme une boîte noire difficile à interpréter. Il existe...
-
Palaiseau, Île-de-France Institut Mines-Télécom Temps pleinMissionsLes approches comportementales basées sur l'apprentissage machine génèrent de nombreux faux positifs. En particulier, lorsque des méthodes d'apprentissage profond sont utilisées, les faux positifs s'avèrent difficiles à expliquer, l'apprentissage profond étant souvent considéré comme une boîte noire difficile à interpréter. Il existe...
-
Palaiseau, France Institut Mines-Télécom Temps pleinMissionsLes approches comportementales basées sur l’apprentissage machine génèrent de nombreux faux positifs. En particulier, lorsque des méthodes d’apprentissage profond sont utilisées, les faux positifs s’avèrent difficiles à expliquer, l’apprentissage profond étant souvent considéré comme une boîte noire difficile à interpréter. Il...
-
Palaiseau, France Institut Mines-Télécom Temps pleinMissionsLes approches comportementales basées sur l’apprentissage machine génèrent de nombreux faux positifs. En particulier, lorsque des méthodes d’apprentissage profond sont utilisées, les faux positifs s’avèrent difficiles à expliquer, l’apprentissage profond étant souvent considéré comme une boîte noire difficile à interpréter. Il...
-
Palaiseau, France Thales Temps pleinQUI SOMMES-NOUS ?Situé sur le campus de l’École polytechnique, au cœur du pôle scientifique et technologique d’envergure mondiale de Paris-Saclay, à Palaiseau, Thales Research & Technology (TRT) France constitue le centre de recherche et technologies français du Groupe Thales, au service des activités mondiales de Thales. Grâce à une politique...
-
Ingénieur de recherche en IA de la décision et IA explicable
il y a 3 semaines
Palaiseau, France Thales Temps pleinQUI SOMMES-NOUS ?Situé sur le campus de l’École polytechnique, au cœur du pôle scientifique et technologique d’envergure mondiale de Paris-Saclay, à Palaiseau, Thales Research & Technology (TRT) France constitue le centre de recherche et technologies français du Groupe Thales, au service des activités mondiales de Thales. Grâce à une politique...
-
PALAISEAU, 91120, Palaiseau, France CEA Temps plein« Rejoignez le CEA pour donner du sens à votre activité, mener et soutenir des projets de R&D nationaux et internationaux, cultiver et faire vivre votre esprit de curiosité. »EN SYNTHESE, QU'EST-CE QUE NOUS VOUS PROPOSONS ?Le Commissariat à l'Énergie Atomique et aux Énergies Alternatives (CEA) recherche un(e) Ingénieur Chercheur...
-
Ingénieur de recherche en capteurs à fibre optiques
il y a 1 jour
Palaiseau, France Thales Temps pleinChez Thales, nous sommes fiers de travailler ensemble pour imaginer des solutions innovantes qui contribuent à construire un avenir plus sûr, plus vert et plus inclusif. Un avenir de confiance. Mais ces technologies ne viennent pas de nulle part. L'intelligence humaine est le moteur derrière la technologie qui fait la renommée de Thales. Les projets...
-
Ingénieur de recherche en capteurs à fibre optiques
il y a 2 jours
Palaiseau, 91120, Palaiseau, France THALES Temps pleinChez Thales, nous sommes fiers de travailler ensemble pour imaginer des solutions innovantes qui contribuent à construire un avenir plus sûr, plus vert et plus inclusif. Un avenir de confiance. Mais ces technologies ne viennent pas de nulle part. L'intelligence humaine est le moteur derrière la technologie qui fait la renommée de Thales. Les projets...
-
PALAISEAU, France CEA Temps pleinDans le cadre d'un projet de maturation technologique structurant, le LASTI vise à exploiter les technologies du traitement automatique des langues dans le cadre de l'ingénierie des exigences. En effet, l'information textuelle est partout dans ce cadre : documents de spécifications, collections d'exigences historisées, etc. Les...
-
Ingénieur Chercheur en Vision et Deep Learning
il y a 4 semaines
PALAISEAU, 91120, Palaiseau, France CEA Temps plein« Rejoignez le CEA pour donner du sens à votre activité, mener et soutenir des projets de R&D nationaux et internationaux, cultiver et faire vivre votre esprit de curiosité. »EN SYNTHESE, QU'EST-CE QUE NOUS VOUS PROPOSONS ?Le CEA recherche un(e) Ingénieur Chercheur en Vision et Deep Learning pour la CEA/DRT (Direction de la Recherche...
-
PALAISEAU, France CEA Temps pleinL'identification automatique de radionucléides à partir de mesures spectroscopiques joue un rôle clef dans différentes applications nucléaires telles que la prévention du trafic illicite de matières nucléaires, l'analyse de données expérimentales en situation de crise radiologique ou encore le démantèlement des installationsnucléaires....
-
Gestionnaire DépensesCdi de Droit Public H/F
il y a 4 semaines
PALAISEAU, France Direction générale de l'Institut Mines-Télécom Temps pleinDESCRIPTION DU POSTE :Sous l'autorité hiérarchique du responsable du service dépenses-paie, en lien avec les équipes et services de l'Institut Mines-Télécom, vous- Réalisez les actes de gestion courante du service. Réalisez ses missions en fonction des objectifs et des directives assignés par son responsable.- Rendez compte des opérations...
-
Post-Doctorante ou Post-Doctorant en Imagerie Biomedicale
il y a 4 semaines
PALAISEAU, France Télécom Paris Temps pleinNous sommes à la recherche d'une Post doctorante ou d'un Post doctorant en Imagerie Biomedicale & IA pour rejoindre notre équipe dynamique au sein du département Image, Données et Signal (IDS) de Télécom Paris.CONTEXTE SCIENTIFIQUEDéveloppements de méthodes de transformations d'images et de métriques dédiées documentant le niveau de...
-
Alternant Technicien en Instrumentation Optique H/F
il y a 4 semaines
PALAISEAU, France Onera Temps pleinLe Département Physique, Instrumentation, Environnement, Espace (DPHY) de l'ONERA conçoit des instruments innovants et évalue certains environnements aérospatiaux et leurs conséquences sur les systèmes embarqués. Il développe en particulier des instruments inertiels pour le guidage-navigation, la géodésie ou la physique fondamentale, des...
-
Ingénieur de recherche en systèmes optroniques H/F
il y a 1 semaine
Palaiseau, France Onera Temps pleinPrésentation de l'ONERAL’ONERA, acteur central de la recherche aéronautique et spatiale, emploie plus de 2100 personnes. Placé sous la tutelle du Ministère des Armées, il dispose d’un budget de 294 millions d’euros (2023), dont plus de la moitié provient de contrats d'études, de recherche et d'essais. Expert étatique, l’ONERA...
-
PALAISEAU, 91120, Palaiseau, France CEA Temps pleinDans le cadre d'un projet de maturation technologique structurant, le LASTI vise à exploiter les technologies du traitement automatique des langues dans le cadre de l'ingénierie des exigences. En effet, l'information textuelle est partout dans ce cadre : documents de spécifications, collections d'exigences historisées, etc. Les...
-
Alternant Simulation et Developpement Informatique H/F
il y a 4 semaines
PALAISEAU, France Onera Temps pleinCette alternance s'inscrit dans le projet de recherche intitulé HUMANS (Health and Usage Monitoring for Aerospace Next-generation Systems). Ce projet de recherche s'intéresse au développement et à la simulation d'une architecture générique de surveillance avancée pour assurer la sécurité et optimiser la maintenance de systèmes...
-
Ingénieur de recherche en capteurs à fibre optiques
il y a 2 semaines
Palaiseau, France THALES Temps pleinPoste : CE QUE NOUS POUVONS ACCOMPLIR ENSEMBLE :Au sein du Groupe de Recherche en Physique de TRT, le Laboratoire « Ondes et Traitement du Signal » travaille sur de nouveaux concepts de capteurs à fibre optique distribués de divers types et pour de multiples applications : mesures acoustiques, détection de vibrations,...
