Data Engineer
il y a 2 semaines
In the frame of the ongoing transformation at Group level, technology adoption and implementation are key success factors, as well as processes transition. As a member of DDPO, **Data Engineer will build, deliver and maintain products & data products (data pipelines, services, APIs )**He will work in close collaboration with data product managers to develop new features linked to these products, especially features linked to:
- Data ingestion, transformation, exposition
- Data servicing (through API) or restitution (through apps / dashboards)
- Parallel calculation on big volumes of data
The Data Engineer is responsible for:
- Building, delivering, maintain, documenting data products & features (data pipelines, data services, APIs ) following state-of-the-art patterns (medaillon architecture, gitflow)
- Acting as SME and representative of Data Chapter
The Data Engineer needs to:
- Be problem-solving oriented with strong analytical thinking
- Be autonomous and rigorous in the way he/she approaches technical challenges
- Advise on the architecture of end-to-end data flows
- Collaborate with various stakeholders (product owners, solution owners, data solution analysts, developers, technical leads, architects) to deliver data artefacts in a team spirit
- Commit and bring his/her skills to contribute to the success of the Group
Under the responsibility of the Head of Data Delivery & Engineering, your mission will be to:
- Build, deliver, maintain and document data artefacts or features linked to the products you will be assigned to, under the prioritization of the Data Product Manager you will be working with:
- Develop data pipelines leveraging ELT / ETL techniques to ingest, transform and display data for well-defined purposes following state-of-the art approach (medaillon architecture for data, gitflow for development, unit tests where applicable )
- Tackle key technical questions linked to data, like parallelization, calculation on big volumes of data, optimization of queries, etc.
- Develop, when relevant, taylor-made services / APIs to expose the data for various means (BI, APIs, services, data science )
- Enrich SCOR ontology and document data artefacts (code documentation for data pipelines / services / APIs, contribution to the data definition, processes, etc.)
- Reuse when relevant components or assets (code, frameworks, data objects) to leverage as much as possible on the DDPO ecosystem
- Acting as SME and representative of Data Chapter
- Contribute to the design of solutions (end-to-end data flows) in close collaboration with Architects, Data Modelers, Product Owners & Managers and advise on best practices to external stakeholders
- Contribute to the overall data community by sharing good practices, return of experiences, expertise on relevant technology, etc.
- Perform peer review amongst other data engineers to ensure consistency and quality of development
- Be aware of the DDPO ecosystem to best ask advise when relevant to the appropriate experts (Data Modelers, ML Engineers, Architects, etc.)
- Additional activities related to your day-to-day mission
- Ensure a technological watch on Data platform solutions, especially related to data engineering topics
- Participate to Scrum rituals (dailys, sprint planning, sprint reviews, retrospectives, etc.)
- Contribute to ICS
**Required experience & competencies**
- +5 years of experience as a data engineer, data oriented mindset
- Proven experience in development and maintenance of data pipelines
- Good development practices (gitflow, unit tests, documentation )
- Proven experience in agile projects (Scrum and/or Kanban)
- Knowledge of (Re)insurance industry and / or Financial Services is a plus
- Awareness on data management and data privacy topics
Technical Skills:
- Strong level in Python and Pyspark, ability to develop data pipelines under various platform (Databricks, Palantir Foundry,)
- Strong level in SQL (knowledge of ANSI92 SQL, execution plan analysis)
- Good knowledge of parallelization, distributed programming techniques
- Good knowledge of datalakes environments and concepts (delta lakes, medaillon architecture, blob storage vs file shares )
- Good knowledge in decisional data modeling (Kimball, Inmon, Data Vault concepts ) and associated good practices (slowly changing dimensions, point in time tables, chasM/Fan trap management, change data capture management )
- Knowledge of CI / CD pipelines (AzureDevOps, Jenkins, Artifactory, Azure Container Registry )
- Knowledge of REST API development (Flask, FastAPI, Django )
- Knowledge of containers (Docker Compose, Kubernetes) is a plus
- Knowledge of reporting tools is a plus (Tableau, Power BI )
- Knowledge of streaming technologies is a plus (Kafka)
- Knowledge of typescript is a plus
Behavioral & Management Skills:
- Strong analytical thinking, solution-oriented and force of proposal
- Capacity to navigate in a matrix and international environment
- Autonomy, rigorous mindset, com
-
Data Engineer
il y a 2 semaines
Paris, Île-de-France MP Data Temps pleinEn tant que Data Engineer Senior, vous jouerez un rôle clé dans la construction, l'optimisation et la fiabilisation de nos pipelines de données à grande échelle, au coeur de notre plateforme analytique. Votre expertise sur Databricks et l'environnement Spark sera essentielle pour garantir des traitements performants, sécurisés et scalables. Vos...
-
Graduate Data Engineer
il y a 2 semaines
Paris, Île-de-France Data Reply Temps pleinGraduate Data EngineerTasks• Implementing new use cases• Mapping data and data flows• Implementing data analysis and processing pipelines• Industrializing data flows and their visualization through dashboards and reporting• Carrying out unit tests and integration tests Benefits• Structured career progression – at Reply, we encourage career...
-
Data Engineer
il y a 2 heures
Paris, France MP Data Temps pleinEn tant que Data Engineer Senior, vous jouerez un rôle clé dans la construction, l'optimisation et la fiabilisation de nos pipelines de données à grande échelle, au coeur de notre plateforme analytique. Votre expertise sur Databricks et l'environnement Spark sera essentielle pour garantir des traitements performants, sécurisés et scalables. Vos...
-
Lead Data engineer
il y a 1 jour
Paris, France Data Recrutement Temps pleinL'ENTREPRISE : PROPTECH QUI DISRUPTE SON MARCHÉ GRÂCE À LA DATAPourquoi j’ai sélectionné cette société ? Projet révolutionnant son marché Une première levée de fonds finalisée et bientôt rendue publique, Break Even dans 14 mois, Série A dans moins de 2 ans Sujets très Data Un rôle clé et responsabilisant avec un impact direct sur le...
-
Consultant Data
il y a 1 jour
Paris, France Data Recrutement Temps pleinL'ENTREPRISE : UNE STARTUP QUI ACCOMPAGNE SES CLIENTS DANS LA CRÉATION DE SES ARCHITECTURES DATA Startup d'une bonne dizaine de personnes Un pipe de clients solides et en forte croissance (plusieurs postes ouverts en interne) Un framework de pointe et des solutions de dataviz à la page Locaux en plein coeur de Paris Pour en savoir plus sur le nom de...
-
Paris, France Data Recrutement Temps pleinL'ENTREPRISE : SOCIÉTÉ DE CONSEIL TECHNIQUE ET INNOVANTE Magnifique société de conseil, experte en accompagnement numérique et en réalisation technique !Elle intervient sur l’ensemble du cycle de vie des projets – du cadrage à la mise en production – pour des clients prestigieux dans les secteurs de la mobilité, du service public, des médias...
-
Senior Data Engineer | IA
il y a 1 jour
Paris, France Data Recrutement Temps pleinL’ENTREPRISE : LEADER DANS LA CONCEPTION DE SOLUTIONS TECHNOLOGIQUES Société fondée en 2017 Les bureaux sont situés à Paris intra-muros dans de superbes locaux Près de 90 collaborateurs font déjà parti de l’aventure ! Une clientèle internationale et la présence des équipes entre la France et l'Amérique du Nord Réalisation de projet sur...
-
Lead Data Engineer | IA
il y a 1 jour
Paris, France Data Recrutement Temps pleinL’ENTREPRISE : LEADER DANS LA CONCEPTION DE SOLUTIONS TECHNOLOGIQUES Société fondée en 2017 Les bureaux sont situés à Paris intra-muros dans de superbes locaux Près de 90 collaborateurs font déjà parti de l’aventure ! Une clientèle internationale et la présence des équipes entre la France et l'Amérique du Nord Réalisation de projet sur...
-
Data Engineer | ESN high level
il y a 1 jour
Paris, France Data Recrutement Temps pleinL'ENTREPRISE : ESN DATA EN FORTE CROISSANCE Magnifique ESN créée il y a quelques années par des experts du secteur IT, avec déjà plus de 70 consultants en mission et une croissance soutenue !Elle accompagne aujourd’hui de grands comptes (banque, assurance, énergie, environnement) ainsi que de nouveaux secteurs comme les Life Sciences. Sa...
-
Data Scientist NLP/LLM Engineer confirmé(e)
il y a 2 semaines
Paris, Île-de-France MP DATA Temps pleinESN spécialisée Data & IA pour les environnements industriels. Pour l'un de nos clients, nous recherchons unLLM Engineerchargé d'industrialiser lesPOC GenAIdéveloppés par les équipes Data Science et de déployer des solutions robustes et scalables en production.Développement et Industrialisation des POC LLM / GenAI.Conception et optimisation de...