Data Engineer Databricks

Company Description

Talan est un groupe international de conseil et d’expertises technologiques qui accélère la transformation de ses clients par les leviers de l'innovation, la technologie et la data. Depuis plus de 20 ans, Talan conseille et accompagne les entreprises et les institutions publiques dans la mise en œuvre de leurs projets de transformation et d'innovation en France et à l'international. 

Présent sur cinq continents, dans 18 pays, le Groupe, certifié Great Place To Work, qui comptera plus de 7200 collaborateurs fin 2024, ambitionne de réaliser un chiffre d'affaires de 850 millions d'euros cette même année et de dépasser la barre du milliard d'euros à horizon 2025. 

Doté d'un Centre de recherche et d'innovation, Talan met l'innovation au cœur de son développement et intervient dans les domaines des mutations technologiques telles que l'Intelligence Artificielle, la Data Intelligence, la Blockchain, pour servir la croissance des grands groupes et des ETI dans une démarche engagée et responsable. www.talan.com 

En plaçant au cœur de sa stratégie « L’innovation Positive » le Groupe Talan est convaincu que c’est en étant au service de l’humain que la technologie démultiplie son potentiel pour la société. 

Job Description

• Concevoir, créer et maintenir une infrastructure de données solide et évolutive sur Databricks avec AWS.
• Travailler en étroite collaboration avec les équipes ETL et front-end pour intégrer les sources de données et créer un modèle de données unifié.
• Mettre en place et maintenir des pipelines de streaming de données en temps réel en utilisant Databricks et les technologies associées pour permettre le traitement et l'analyse des données en temps opportun et précis.
• Assurer la disponibilité, l'intégrité et les performances des pipelines de données.
• Collaborer avec des équipes pluridisciplinaires pour identifier les opportunités d'améliorations et d'analyses basées sur les données.
• Surveiller et analyser les performances de la plateforme, identifier les goulots d'étranglement et recommander des améliorations.
• Développer et maintenir la documentation technique pour les implémentations ETL.
• Rester à jour avec les dernières fonctionnalités et les meilleures pratiques de Databricks/Spark et contribuer à l'amélioration continue de nos capacités de gestion des données.

Qualifications

• Diplôme de licence en informatique, technologies de l'information ou domaine connexe.
• 10 ans d'expérience en tant qu'ingénieur(e) de données, avec une expérience antérieure dans la mise en œuvre de pipelines sur Databricks (2 ans min).
• Forte expertise dans l'utilisation de Spark.
• Maîtrise de SQL et des langages de script (par exemple, Python).
• Une expérience dans les environnements cloud AWS.
• Excellentes compétences analytiques et résolution de problèmes. 
• Connaissance des réglementations spécifiques à l'industrie et des exigences de conformité est appréciée.
• Fortes compétences en communication, à la fois écrite et verbale.
• Maîtrise de l'anglais indispensable.
• Adaptabilité et volonté d'apprendre de nouvelles technologies et outils