Stage de Recherche de 6 Mois

**Type de contrat**: Stage

**Niveau de diplôme exigé**: Bac + 5 ou équivalent

**Fonction**: Stagiaire de la recherche

**A propos du centre ou de la direction fonctionnelle**:
Le centre Inria d'Université Côte d'Azur regroupe 42 équipes de recherche et 9 services d’appui. Le personnel du centre (500 personnes environ) est composé de scientifiques de différentes nationalités, d’ingénieurs, de techniciens et d’administratifs. Les équipes sont principalement implantées sur les campus universitaires de Sophia Antipolis et Nice ainsi que Montpellier, en lien étroit avec les laboratoires et les établissements de recherche et d'enseignement supérieur (Université Côte d’Azur, CNRS, INRAE, INSERM...), mais aussi avec les acteurs économiques du territoire.

Présent dans les domaines des neurosciences et biologie computationnelles, la science des données et la modélisation, le génie logiciel et la certification, ainsi que la robotique collaborative, le Centre Inria d’Université Côte d’Azur est un acteur majeur en termes d'excellence scientifique par les résultats obtenus et les collaborations tant au niveau européen qu'international.

**Contexte et atouts du poste**:
Ce stage est une collaboration entre l’équipe WIMMICS (Université Côte d’Azur, Inria, CNRS, I3S) et l’entreprise Forgeron3. Il aura lieu dans les locaux de l’équipe WIMMICS3 à Sophia Antipolis, en collaboration avec Forgeron3 et sous la supervision de:
Wimmics (Web-Instrumented Man-Machine Interactions, Communities and Semantics) est une équipe de recherche commune à Université Côte d’Azur, Inria, CNRS, I3S, qui se situe à l’intersection de l’intelligence artificielle et du Web. Les membres de Wimmics travaillent sur des méthodes pour extraire, contrôler, interroger, valider, déduire, expliquer et interagir avec les connaissances.

Forgeron3 développe Marcus, une plateforme d'assistants intelligents collaboratifs, fondée sur des LLM open source tels que ceux de Meta et Mistral. L’objectif de Forgeron3 est de démocratiser l'IA pour les PME européennes, permettant aux collaborateurs de se concentrer sur l'essentiel pendant que les tâches répétitives sont gérées par des assistants intelligents, améliorant ainsi chaque interaction humaine.

**Mission confiée**:
**Contexte**
- L’apparition des grands modèles de langue (Large Language Models - LLM) a récemment accéléré l’usage et l’intégration avancée de l’Intelligence Artificielle en entreprise. Néanmoins, un élément bloquant reste la possibilité d’hallucinations, c'est-à-dire des réponses non fondées des LLMs. Ces hallucinations représentent un risque significatif limitant l’utilisation des LLMs pour des tâches en entreprise, et leur atténuation constitue donc une direction de recherche particulièrement active. Récemment, les concepts de Retrieval Augmented Generation (RAG) [1] et GraphRAG [2] ont été proposés et ont pour objectif d’enrichir le prompt du LLM par des éléments contextuels adéquats extraits de documents disponibles dans une base de documents. Ces techniques ont pu atténuer les hallucinations, mais elles mettent en avant deux nouveaux défis:

- Le besoin d’indexer et de récupérer correctement des éléments contextuels adéquats
- Et donc, le besoin pour les LLMs d’avoir accès à du vocabulaire / expressions / définitions métier n’étant pas nécessairement vu à l’entraînement.
- Les graphes de connaissances et les ontologies du Web Sémantique ont été mentionnés comme source de connaissances permettant de compléter les LLMs et d’atténuer leurs hallucinations [3,4]. Notamment, les graphes et ontologies publiquement disponibles comme Wikidata1 ou LOV2 constituent des répertoires étendus et donc particulièrement intéressants pour fournir le vocabulaire, les définitions et le contexte métier nécessaires pour indexer et retrouver les documents, ainsi qu’enrichir directement les prompts.

**Bibliographie**

**Principales activités**:
Dans le cadre de ce stage, pour répondre aux deux problématiques identifiées, nous proposons d’étudier la création d’un pipeline de Semantic Web Retrieval Augmented Generation. En particulier, le stage comportera les tâches suivantes:

- État de l’art et montée en compétences sur les LLMs, RAG, GraphRAG, Web Sémantique
- Design d’un pipeline extensible de SemWebRAG étendant les concepts de RAG et GraphRAG nécessitant de sélectionner de manière flexible et adéquate les ressources du Web Sémantique pour- Améliorer l’indexation des documents en les annotant sémantiquement.
- Améliorer la récupération de documents adéquats par une meilleure interprétation des
prompts et / ou un processus de récupération amélioré.
- Enrichir les prompts avec davantage d’éléments contextuels récupérés du Web Sémantique,
en plus des éléments issus des documents.
- Expérimentation et évaluation des résultats.

**Compétences**:
Vous possédez les connaissances suivantes:

- Programmation en Python
- Machine Learning / Deep Learning, notamment avec des frameworks comme PyTorch ou Tensorflow
- Une connaissa