Internship - Formal Reasoning Examples Generation

Le descriptif de l’offre ci-dessous est en Anglais_

**Type de contrat **:Stage

**Niveau de diplôme exigé **:Bac + 4 ou équivalent

**Autre diplôme apprécié **:Msc preferably last year

**Fonction **:Stagiaire de la recherche

**Niveau d'expérience souhaité **:Jeune diplômé

**A propos du centre ou de la direction fonctionnelle**:
The Inria University of Lille centre, created in 2008, employs 360 people including 305 scientists in 15 research teams. Recognised for its strong involvement in the socio-economic development of the Hauts-De-France region, the Inria University of Lille centre pursues a close relationship with large companies and SMEs. By promoting synergies between researchers and industrialists, Inria participates in the transfer of skills and expertise in digital technologies and provides access to the best European and international research for the benefit of innovation and companies, particularly in the region.For more than 10 years, the Inria University of Lille centre has been located at the heart of Lille's university and scientific ecosystem, as well as at the heart of Frenchtech, with a technology showroom based on Avenue de Bretagne in Lille, on the EuraTechnologies site of economic excellence dedicated to information and communication technologies (ICT)

**Contexte et atouts du poste**:
Large Language Models (LLMs) are trained to predict missing words in many situations, which leads them to absorb knowledge, natural language structure, and some (brittle) algorithmic problem
- resolution capabilities.

The goal of the Adada project is to construct reasoning examples to infuse symbolic AI into large language models. To do so, we will formalize a general problem generation framework and instantiate multiple type of symbolic problems generators. We will use existing symbolic solvers to obtain solutions and fine-tune language models to match the solver ouputs.
We will start problem generations using simple grammars (e.g. context free grammars). However, most generated problems will be junk (intractable, redundant, or trivial problems). To address this, we will define the desirable properties of generated problems, and we will steer problem generations toward desirable problems with machine learning techniques (guided generation, efficient language models).

**Mission confiée**:
Interns will work on dataset generation on a specific topic that depends on their interests, which can include: Modal logic or non standard-logic, planning, first order logic with external knowledge, mathematics (with Lean), formal language processing (grammar induction), symbolic regression, simple visual reasoning.

**Principales activités**:

- Survey existing research
- Construct synthetic dataset generators
- Evaluate LLM on them (zero-shot and after fine-tuning)

**Compétences**:

- Python
- English (french optional)
- Solid background on formal reasoning (symbolic AI) or math/probability theory
- Language interest (formal semantics appreciated)

"LLMs skills" are not enough and not mandatory, this position is mostly about formal semantics and formal reasoning applied to LLMs

**Avantages**:

- Subsidized meals
- Partial reimbursement of public transport costs
- Leave: 7 weeks of annual leave
- Professional equipment available (videoconferencing, loan of computer equipment, etc.)
- Social, cultural and sports events and activities
- Access to vocational training
- Social security coverage

**Informations générales**:

- **Thème/Domaine**: Représentation et traitement des données et des connaissances
- **Ville**: Villeneuve d'Ascq
- **Centre Inria**: Centre Inria de l'Université de Lille
- **Date de prise de fonction souhaitée**: 2024-12-01
- **Durée de contrat**: 6 mois
- **Date limite pour postuler**: 2024-12-08

**Consignes pour postuler**:
**Sécurité défense**:
Ce poste est susceptible d’être affecté dans une zone à régime restrictif (ZRR), telle que définie dans le décret n°2011-1425 relatif à la protection du potentiel scientifique et technique de la nation (PPST). L’autorisation d’accès à une zone est délivrée par le chef d’établissement, après avis ministériel favorable, tel que défini dans l’arrêté du 03 juillet 2012, relatif à la PPST. Un avis ministériel défavorable pour un poste affecté dans une ZRR aurait pour conséquence l’annulation du recrutement.

**Politique de recrutement**:
Dans le cadre de sa politique diversité, tous les postes Inria sont accessibles aux personnes en situation de handicap.

**Contacts**:

- **Équipe Inria**: MAGNET
- **Recruteur**:
**A propos d'Inria**:
Inria est l’institut national de recherche dédié aux sciences et technologies du numérique. Il emploie 2600 personnes. Ses 215 équipes-projets agiles, en général communes avec des partenaires académiques, impliquent plus de 3900 scientifiques pour relever les défis du numérique, souvent à l’interface d’autres disciplines. L’institut fait appel