Phd (M/F) Vulnerabilities in Code Generated By Llm
il y a 2 semaines
Cette offre est disponible dans les langues suivantes:
- Français
- Anglais
Date Limite Candidature : lundi 23 décembre 2024 23:59:00 heure de Paris
**Informations générales**:
**Intitulé de l'offre **:Doctorant (H/F) vulnérabilités dans codes générés par LLM (projet TAP)**
Référence : UMR6074-OLIZEN-003
Nombre de Postes : 1
Lieu de travail : RENNES
Date de publication : lundi 2 décembre 2024
Type de contrat : CDD Doctorant
Durée du contrat : 36 mois
Date de début de la thèse : 27 janvier 2025
Quotité de travail : Complet
Rémunération : La rémunération mensuelle est d'un minimum de 2200 euros bruts (1769 euros nets payés)
Section(s) CN : 6 - Sciences de l'information : fondements de l'informatique, calculs, algorithmes, représentations, exploitations
**Description du sujet de thèse**:
Depuis les 60 à 70 dernières années, la programmation a largement prévalu dans le domaine de l'informatique, englobant la capture d'intentions et la production de code. Les spécifications formelles ont gagné en importance grâce aux avancées en modélisation et conception de systèmes, ce qui permet une capture plus précise des objectifs. Malgré les progrès réalisés, les ingénieurs en logiciel hésitent à rédiger des spécifications formelles, ce qui se traduit par l'absence d'une déclaration formelle d'intention pour les grands systèmes logiciels, rendant ainsi le débogage et la correction d'erreurs difficiles. Malgré l'absence de capture d'intention, des tests et des analyses ont été utilisés pour élaborer des bases de code fiables. Lors des tests, ces travaux visent à obtenir une couverture comportementale plus étendue et utilisent des oracles de test. Les approches de fuzzing ont gagné en importance au cours de la dernière décennie. Cependant, obtenir la correction fonctionnelle du logiciel sans exigence formelle approfondie reste un objectif difficile.
Les récents progrès dans la génération automatique de code à partir de grands modèles de langage (LLMs) offrent une nouvelle perspective. Il est envisageable de programmer à partir de spécifications en langage naturel en utilisant la génération de code par LLM, ce qui suggère que l'autocodage est réalisable. Cela soulève la question de la correction et la sécurité du code généré automatiquement par les LLMs et des conditions dans lesquelles il est possible de lui faire confiance.
Le projet TAP (Trustworthy Automatic Programming), se focalise spécifiquement sur ces aspects. Les objectifs de ce projet consistent à identifier les vulnérabilités dans le code généré par LLM, à les analyser et les classifier, ainsi qu'à déterminer si certains types de vulnérabilités sont plus fréquents dans le code généré par LLM que dans le code rédigé par des humains. Les objectifs du projet comprennent également la correction automatique des vulnérabilités dans le code généré par LLM et le renforcement des LLM par rapport aux vulnérabilités dans les codes générés.
L'objectif principal de l'équipe DiverSE sur ce projet est d'effectuer les travaux de recherche permettant d'identifier les vulnérabilités dans les codes générés par les LLM. Pour atteindre cet objectif, nous mettrons en place un système capable de générer automatiquement des ensembles de données (datasets) de vulnérabilités. Cela sera réalisé en utilisant les catalogues web disponibles pour les vulnérabilités et en modélisant ces vulnérabilités de manière à les intégrer de manière transparente dans un outil de test, nous permettant ainsi d'analyser le code et les bibliothèques générés par LLM. Les langages cibles seront prioritairement C et Java, du fait de leur grande utilisation et afin de maximiser l’impact de nos travaux.
Dans ce cadre, l’équipe DiverSE (en étroite collaboration avec le laboratoire IPAL et la DGA) recrute une doctorante ou un doctorant pour une durée de 36 mois, sous la responsabilité scientifique et technique de permanents de l’équipe impliqués dans le projet. Cette personne sera chargée des travaux de recherche et de conception liés aux objectifs de DiverSE indiqués ci-dessus, dans le but d'analyser l'état de l'art, et de concevoir techniques et méthodes qui seront ensuite mises en oeuvre dans des prototypes des prototypes et démonstrateurs.
Les synergies avec d’autres travaux effectués dans l’équipe seront également explorées et exploitées.
Les résultats de nos travaux seront utilisés par les partenaires de NUS à Singapour.
Le développement exponentiel de l'usage des LLMs pour toutes sortes de tâches, dont la production assistée de code source, assure aux résultats du projets un impact considérable. En effet, la sécurisation des codes produits par le LLMs est actuellement balbutiante, et fournir un système s'acquittant de cette tâche automatiquement répondrait à un besoin mondial tout à fait immense. Les enjeux de cybersécurité qui en
-
Phd Position F/m Llm4code and Soprasteria: Software
il y a 2 semaines
Rennes, France Inria Temps pleinLe descriptif de l’offre ci-dessous est en Anglais_ **Type de contrat **:CDD **Niveau de diplôme exigé **:Bac + 5 ou équivalent **Fonction **:Doctorant **A propos du centre ou de la direction fonctionnelle**: The Inria Centre at Rennes University is one of Inria's eight centres and has more than thirty research teams. The Inria centre is a major and...
-
Chercheur Post-doctorant
il y a 2 semaines
Rennes, France CNRS Temps pleinCette offre est disponible dans les langues suivantes: - Français - Anglais Date Limite Candidature : mardi 24 décembre 2024 23:59:00 heure de Paris **Informations générales**: **Intitulé de l'offre **:Chercheur Post-Doctorant (H/F) vulnérabilités dans codes générés par LLM (projet TAP)** Référence : UMR6074-OLIZEN-004 Nombre de Postes :...
-
Rennes, France INRIA Temps pleinContexte et atouts du poste Context This PhD will occur in the context of the project Adapting ( from the PEPR AI ( This project focuses on designing adaptive embedded hardware architectures for AI. In this context, our team wants to design new incremental machine learning algorithms that could serve as use cases in the Adapting project for other...
-
Phd Position F/m Phd Position F/m Interacting with
Il y a 6 mois
Rennes, France Inria Temps pleinLe descriptif de l’offre ci-dessous est en Anglais_ **Type de contrat **:CDD**Niveau de diplôme exigé **:Bac + 5 ou équivalent**Fonction **:Doctorant**Niveau d'expérience souhaité **:Jeune diplôméA propos du centre ou de la direction fonctionnelle The Inria Centre at Rennes University is one of Inria's eight centres and has more than thirty...
-
Rennes, Bretagne, France INRIA Temps pleinAbout the RoleWe are seeking a highly motivated and creative PhD student to join our team at INRIA Rennes, within the TARAN team. The successful candidate will be involved in common initiatives with other members of the FAIRe project.Job DescriptionThe position is focused on investigating the performance impact of using low-precision arithmetic in the...
-
Phd Position F/m Workflow Provenance and Its
Il y a 6 mois
Rennes, France Inria Temps pleinLe descriptif de l’offre ci-dessous est en Anglais_ **Type de contrat **:CDD **Niveau de diplôme exigé **:Bac + 5 ou équivalent **Autre diplôme apprécié **:Master's degree **Fonction **:Doctorant **A propos du centre ou de la direction fonctionnelle**: The Inria Centre at Rennes University is one of Inria's eight centres and has more than thirty...
-
Software Migration and Modernization Expert
il y a 18 heures
Rennes, Bretagne, France Inria Temps pleinJob DescriptionWe are seeking a highly skilled Software Migration and Modernization Expert to join our team at Inria, a leading research centre in digital sciences. The successful candidate will be responsible for collaborating with SopraSteria and the DiverSE research team on a project focused on leveraging Large Language Models (LLMs) for software...
-
Verification of Clock Discipline Algorithm in Coq
il y a 2 jours
Rennes, France Inria Temps plein_Le descriptif de l’offre ci-dessous est en Anglais_ **Niveau de diplôme exigé**: Bac + 5 ou équivalent **Fonction**: Stagiaire de la recherche **A propos du centre ou de la direction fonctionnelle**: The Inria center at the University of Rennes is one of eight Inria centers and has more than thirty research teams. The Inria center is a major and...
-
Phd Position F/m Workflow Provenance and Its
Il y a 6 mois
Rennes, France Inria Temps pleinLe descriptif de l’offre ci-dessous est en Anglais_ **Type de contrat **:CDD **Niveau de diplôme exigé **:Bac + 5 ou équivalent **Autre diplôme apprécié **:Master's degree **Fonction **:Doctorant **A propos du centre ou de la direction fonctionnelle**: The Inria Centre at Rennes University is one of Inria's eight centres and has more than thirty...
-
PhD Position in Reliable AI Hardware Architectures
il y a 1 semaine
Rennes, Bretagne, France Inria Temps pleinInria seeks a talented PhD student to join its research team focused on Trustworthy AI hardware architectures. The selected candidate will be responsible for analyzing hardware failure mechanisms, deriving corresponding faults, and designing low-cost fault tolerance approaches.Key Responsibilities:Analyze hardware failure mechanisms and derive corresponding...
-
Rennes, Bretagne, France INRIA Temps pleinCompany OverviewInria, a leading research institution, invites applications for a PhD position in the field of immersive social interactions and inclusive virtual environments. Our team is dedicated to advancing the understanding and improvement of human interactions in social extended reality.
-
Rennes, France INRIA Temps pleinContexte et atouts du poste The Odyssey team is offering a PhD position on numerical ocean dynamics simulation, machine learning and data assimilation. Odyssey (for Ocean DYnamicS obSErvation analYsis) is a recently created team involving researchers from Inria (Rennes, France), Ifremer (Brest) and IMT Atlantique (Brest). Inria is one of the leading...
-
Phd Position F/m Learning-based Control of An
Il y a 6 mois
Rennes, France Inria Temps pleinLe descriptif de l’offre ci-dessous est en Anglais_ **Type de contrat **:CDD **Niveau de diplôme exigé **:Bac + 5 ou équivalent **Fonction **:Doctorant **A propos du centre ou de la direction fonctionnelle**: The Inria Centre at Rennes University is one of Inria's eight centres and has more than thirty research teams. The Inria Centre is a major and...
-
Phd Position F/m Sensors-based Control of An Aerial
Il y a 6 mois
Rennes, France Inria Temps pleinLe descriptif de l’offre ci-dessous est en Anglais_ **Type de contrat **:CDD**Niveau de diplôme exigé **:Bac + 5 ou équivalent**Fonction **:DoctorantA propos du centre ou de la direction fonctionnelle The Inria Centre at Rennes University is one of Inria's eight centres and has more than thirty research teams. The Inria Centre is a major and...
-
Phd Position at Ietr
Il y a 6 mois
Rennes, France INSA RENNES Temps plein**About us**: INSA Rennes, a founding member of the INSA Group, is the largest public engineering school in Brittany. It welcomes 2,200 students and apprentices and graduates more than 340 engineers, 60 masters and 40 PhDs per year. Composed of 10 teaching departments, including 7 specialties and an apprenticeship program, and supervised by 6 research...
-
Phd Position F/m Reliability Enhancement of
il y a 2 semaines
Rennes, France Inria Temps pleinLe descriptif de l’offre ci-dessous est en Anglais_ **Type de contrat **:CDD **Niveau de diplôme exigé **:Bac + 5 ou équivalent **Fonction **:Doctorant **A propos du centre ou de la direction fonctionnelle**: The Inria Rennes - Bretagne Atlantique Centre is one of Inria's eight centres and has more than thirty research teams. The Inria Center is a...
-
2-year Postdoc Atomistic Methodology to Treat
Il y a 6 mois
Rennes, France INSA RENNES Temps plein**About us**: The postdoctoral associate will mainly work within the theory group in Rennes (around 15 staff, PhD students and postdocs) involving the Foton Institute and the Rennes Chemical Sciences Institute in tight collaboration with experimentalists on the topic of water splitting or materials for energy. The group is involved in European Union...
-
Cyber Resilience in Platform-driven Supply Chains:
il y a 2 semaines
Rennes, France Rennes School of Business Temps plein**Cyber Resilience in Platform-Driven Supply Chains: Addressing Cyber and Maintenance Disruptions in Weak Institutional Environments**: - Réf **ABG-127258** - Sujet de Thèse- 28/11/2024- Financement public/privé- Rennes School of Business- Lieu de travail- Rennes - Bretagne - France- Intitulé du sujet- Cyber Resilience in Platform-Driven Supply Chains:...
-
Phd Position F/m Reliable Deep Neural Network
Il y a 6 mois
Rennes, France Inria Temps pleinLe descriptif de l’offre ci-dessous est en Anglais_ **Type de contrat **:CDD **Niveau de diplôme exigé **:Bac + 5 ou équivalent **Fonction **:Doctorant **A propos du centre ou de la direction fonctionnelle**: The Inria Rennes - Bretagne Atlantique Centre is one of Inria's eight centres and has more than thirty research teams. The Inria Center is a...
-
R&d Engineer in Exascale High-performance Computing
Il y a 6 mois
Rennes, France Inria Temps pleinLe descriptif de l’offre ci-dessous est en Anglais_ **Type de contrat **:CDD **Contrat renouvelable **:Oui **Niveau de diplôme exigé **:Thèse ou équivalent **Fonction **:Ingénieur scientifique contractuel **A propos du centre ou de la direction fonctionnelle**: Inria, the French national research institute for the digital sciences, promotes...
