Data Engineer (K/M)

Data Engineer (GCP / Data Lakehouse) Dla naszego klienta z branży paliwowo-energetycznej poszukujemy Data Engineera, który/która dołączy do zespołu odpowiedzialnego za rozwój i utrzymanie platformy CDP opartej na architekturze Data Lakehouse w Google Cloud Platform. Praca w większości w trybie zdalnym – 1-2 dni w miesiącu w biurze w Warszawie Zakres obowiązków Wsparcie zespołu projektowego i utrzymaniowego w budowie oraz rozwoju platformy CDP w architekturze Data Lakehouse (GCP) Projektowanie, implementacja i optymalizacja potoków ETL/ELT (batch i streaming) Tworzenie i zarządzanie transformacjami danych w warstwach Bronze, Silver, Gold (architektura medalionowa) Orkiestracja przepływów danych oraz monitorowanie zadań Praca z mechanizmami CDC i replikacją danych ze źródeł transakcyjnych do BigQuery Dbanie o jakość danych, katalogowanie metadanych oraz zgodność z zasadami Data Governance (w tym RODO) Bliska współpraca z zespołami IT i Project Managerami technicznymi w środowisku międzynarodowym Wymagania Doświadczenie w co najmniej kilku projektach wdrożeniowych rozwiązań chmurowych w roli Data Engineer Minimum 6-miesięczne praktyczne doświadczenie w pracy z technologiami GCP (Google Cloud Platform). Bardzo dobra znajomość kluczowych usług GCP Data & Analytics : BigQuery (partycjonowanie, klastrowanie, tabele zewnętrzne, optymalizacja zapytań), Cloud Storage, Cloud Dataflow (Apache Beam) oraz Cloud Composer (Apache Airflow) Znajomość usług wspierających integrację i zarządzani