QA IA

Taux journalier (TJM): 550 Notre client est un grand cabinet d'audit et de conseil. Il développe et opère en interne une quinzaine de produits applicatifs en C# .
NET / Vue.js sur Microsoft Azure, destinés à ses métiers Audit, Advisory et à ses fonctions support. Vos missions
* Concevoir, développer et améliorer des agents IA de conception et de scripting de tests : génération de cas de test, de scénarios et de scripts automatisés
* Définir et mettre en œuvre la stratégie de qualification des solutions IA (LLM, RAG, agents)
* Mettre en place des méthodes d'évaluation adaptées à l'IA générative :
* jeux de tests de référence
* métriques de qualité (pertinence, fidélité, hallucinations)
* non-régression des prompts et des modèles
* Sécuriser le passage du POC au produit : critères d'acceptation, robustesse, sécurité (injection de prompt, fuite de données), performance et maîtrise des coûts
* Intégrer les tests dans les chaînes CI/CD (Azure DevOps / GitHub)
* Accompagner les équipes produit sur les bonnes pratiques qualité appliquées à l'IA
* Expérience confirmée en QA / ingénierie de la qualité, niveau Senior / Expert
* Indispensable : une solide expérience en automatisation des tests, avec conception et maintenance de frameworks automatisés en production (Playwright, Selenium, Cypress, SpecFlow ou équivalent) et intégration dans les chaînes CI/CD
* Indispensable : la maîtrise d'au moins un langage d'automatisation (C#, Python ou TypeScript), avec du code de test écrit au quotidien
* Indispensable : une expérience concrète et démontrable de développement assisté par IA et de mise en production d'applications à base de LLM (Azure OpenAI / AI Foundry ou équivalent)
* Indispensable : une réalisation IA à présenter en entretien, sous forme d'agent, d'application LLM en production, de dépôt de code ou de démonstration
* Pratique des briques IA générative : prompt engineering, RAG, frameworks d'agents (Semantic Kernel, LangChain, AutoGen ou équivalent)
* Seraient un plus :
* connaissance des outils d'évaluation LLM (Azure AI Foundry evaluation, Promptfoo, DeepEval, Ragas.)
* environnement Azure : Azure OpenAI, AI Search, Azure DevOps

Experience:
Débutant accepté