Data Engineer Senior/réplication
il y a 2 jours
Contexte : CRM Lakehouse ? Architecture Data & IA convergée La plateforme ONE DATA s?inscrit au c?ur de la transformation d?entreprise du groupe, en fournissant les outils nécessaires pour exploiter les données de manière plus stratégique et renforcer une culture "data driven". Cette transformation impacte non seulement les technologies, mais aussi l?organisation et les processus. Les projets mis en oeuvre sont multiples : - Initiatives métiers : intelligence artificielle, profil 4D du client, segmentation & activation, reportings & analyses - Initiatives techniques : socles de données, gouvernance & qualité Nous sommes à la recherche d?un consultant de haut niveau spécialisé en Data Engineering, disposant d?une expertise approfondie dans les technologies AWS (Kinesis, DMS, S3, etc.), Airflow, Terraform, GitLab CI/CD, Python ainsi qu?une solide maîtrise des bases de données telles qu?Exadata, Oracle, SQL Server et Snowflake. Il sera chargé de concevoir et développer des pipelines de réplication et de traitement de données dans un environnement cloud tout en contribuant activement à la fiabilité, l?automatisation et la scalabilité de notre plateforme data. Dans ce cadre, le client a déployé les outils : AWS, Dataiku, Gitlab, Terraform, Snowflake, Braze, AI, Spark, Python, POWERBI,.etc. pour mettre en place des architectures sophistiquées pour ingérer plus de 100To de données par jours: Datalake, Event-driven, Streaming, etc. Des exemples de projets sont nombreux: - AI Chatbot - AI pour recommandation des programmes.etc. - feature store - Socle vidéo - Content Platform - Partager des données avec nos partenaires (Netflix, Apple, M6, TF1, etc.) Description du poste: Concevoir, développer et maintenir des pipelines de réplication et de traitement de données issues des sources hétérogènes, dans un contexte international, vers une plateforme de données centralisée sur AWS. Responsabilités: - Développement de pipelines ETL/ELT avec Airflow, Python, SQL - Connexion aux bases soiurces (Exadata, Oracle, etc.) - Intégration des données dans AWS (S3, Kinesis, DMS, Lambda...) - Nettoyage, mapping, déduplication et enrichissement des données - Collaboration avec les ?architectes pour appliquer les modèles cibles - Documentation technique et référentiels - Concevoir et mettre en ?uvre les flux de réplication - Harmoniser et transformer les données - Automatiser les pipelines de données - Développer des Pipelines Gitlab CI/CD - Développer d'IaC pour des architectures sophistiquées full AWS avec Terraform, Ansible et Python. - Contribuer au FinOps Compétences: - Aptitudes : Être dynamique, proactif, autonome, et ouvert d'esprit, bon communicant avec une grande curiosité scientifique - Très bonne maîtrise de l?écosystème AWS (S3, Kinesis, DMS, Lambda?) - Très bonne maîtrise des bases des données et des Data warehouses (Exadata, Oracle, SQL Server, Snowflake, etc.) - Maitrise des langages : SQL, Python - Maîtrise des outils de traitement et d?orchestration (Apache Airflow, dbt, Python, SQL) - Bonne expérience en Terraform pour l?IaC - Connaissance de GitLab CI/CD pour l?automatisation des déploiements - Expérience avec des CRM - Connaissance des problématiques de data quality, modélisation, monitoring et alerting - Expérience : Justifier d'au moins 6 ans d'expérience en tant que Data Engineer ou Ingénieur Intégration Data dans des environnements dans un environnement similaire - Une ou plusieurs certifications (AWS, Snwoflake, Terraform, etc.) sont fortement appréciées - Langues : Maîtrise de l'anglais courant
-
Consultant IDR – Data Replication
il y a 1 semaine
Paris, Île-de-France HOXTON PARTNERS Temps pleinNous recherchons un consultant senior pour accompagner l?évolution d?un modèle de réplication de données vers une architecture Publish & Subscribe dans un environnement IBM.Missions principales :Analyser l?architecture de réplication existante.Configurer et optimiser CDCRE for Kafka.Paramétrer les User Exit et propriétés Kafka.Assurer la publication...
-
Consultant IDR – Data Replication
il y a 2 semaines
Paris, Île-de-France a-82ac-4f4c-a6b2-5eb6545b4923 Temps pleinNous recherchons un consultant senior pour accompagner l'évolution d'un modèle de réplication de données vers une architecture Publish & Subscribe dans un environnement IBM.Missions principales :Analyser l'architecture de réplication existante.Configurer et optimiser CDCRE for Kafka.Paramétrer les User Exit et propriétés Kafka.Assurer la publication...
-
Senior Data Engineer
il y a 1 semaine
Paris, France MP Data Temps pleinUne entreprise innovante à Paris recherche un Data Engineer Senior pour construire et optimiser des pipelines de données à grande échelle. Vous collaborerez avec les équipes Data Science et BI tout en garantissant des traitements sécurisés sur Databricks et l'écosystème cloud. Le poste requiert un Bac +5 et au moins 5 ans d'expérience dans des...
-
Senior AWS Data Engineer
il y a 2 jours
Paris, Île-de-France Data Reply Temps pleinSenior AWS Data EngineerTasksImplement new use cases and data pipelines on AWSMap data and data flows across cloud platformsDevelop and industrialize data pipelines and processing workflowsDesign and build dashboards and reporting toolsPerform unit and integration testing of data flowsParticipate in Data Reply events (Reply Xchange, hackathons, AWS summits,...
-
Senior Data Engineer
il y a 1 semaine
Paris, France Dataworks Temps plein**Senior Data Engineer** **Paris - France (full remote possible)** **60-70K€ + variable** **TECH STACK**: GCP, Python, SQL, Airflow, dbt **LA SOCIÉTÉ**: Voici une opportunité de travailler pour une startup avec un produit SaaS à destination des métiers marketing. Avec une forte culture tech, ils recherchent un Senior Data Engineer pour renforcer...
-
Data Engineer Snowflake
il y a 2 semaines
Paris, France BLOOMAYS Temps pleinContexte & ÉquipeUne équipe data structurée et exigeante recherche un Data Engineer Senior pour renforcer ses activités autour de la plateforme Snowflake et de systèmes critiques de gestion de données. Le poste s?inscrit dans un environnement technique de haut niveau, avec une forte culture de qualité et d?amélioration continue. Missions...
-
Data Engineer
il y a 1 semaine
Paris, Île-de-France MP DATA Temps pleinEn tant que Data Engineer Senior, vous jouerez un rôle clé dans la construction, l'optimisation et la fiabilisation de nos pipelines de données à grande échelle, au cœur de notre plateforme analytique. Votre expertise sur Databricks et l'environnement Spark sera essentielle pour garantir des traitements performants, sécurisés et scalables.Vos...
-
Senior Data Engineer
il y a 1 semaine
Paris, France HOXTON PARTNERS Temps pleinNous recherchons pour notre client un Senior data engineer freelance, **Lieu**: Montreuil **Remote**: une présence de 2 jours sur site **Date de début**: 1er septembre **Durée**: 4 mois renouvelable Expérience minimum 5 ans Secteur Assurance **Contexte**: ils ont fait un POV qui est terminé, le but est d' industrialisé ce POV **Mission**: agile à...
-
Data Engineer
il y a 3 heures
Paris, France MP DATA Temps pleinGénéraliste des RH et chargée de recrutementEn tant que Data Engineer Senior, vous jouerez un rôle clé dans la construction, l’optimisation et la fiabilisation de nos pipelines de données à grande échelle, au cœur de notre plateforme analytique. Votre expertise sur Databricks et l’environnement Spark sera essentielle pour garantir des...
-
Senior Data Engineer | IA
il y a 4 jours
Paris, France Data Recrutement Temps pleinL’ENTREPRISE : L'IA AU SERVICE DE LA FASHIONTECH Société fondée en 2019 Les bureaux sont situés à Paris dans le Marais Fort impact écologique Une dizaine de collaborateurs font déjà parti de l’aventure Une clientèle internationale et rennomée Solution innovante dans le domaine de la mode qui fournit des analyses de tendances basées sur des...