на главную
telegram•только что

Senior Data Engineer

УдалённоПолная занятость

Навыки и технологии

Infrastructure as CodeApache SparkAWSPythonMySQL

Ключевая задача

Построение и масштабирование платформы данных на Databricks для аналитики компании, включая пайплайны на Python и Spark и модели в dbt.

Описание вакансии

Обязанности

💎 Trust Wallet ищет Senior Data Engineer для построения и масштабирования платформы данных, обеспечивающей аналитику в компании: предстоит проектировать и поддерживать масштабируемую и безопасную инфраструктуру данных на Databricks (включая потоковые и пакетные нагрузки), разрабатывать и поддерживать пайплайны данных на Python и Spark для автоматизации сбора и трансформации данных из внутренних систем, внешних провайдеров и он‑чейн источников, проектировать и вести размерностные модели данных и слои трансформаций в dbt с тестированием и документированными контрактами, управлять слоями data lake и lakehouse (эффективное хранение, партиционирование, контроль качества, мониторинг и алерты), интегрировать Databricks с различными источниками данных (CDC из операционных БД, сторонние API, блокчейн‑данные), адаптировать потоки данных под бизнес‑задачи, оптимизировать производительность, надёжность и стоимость хранения и обработки на масштабе, применять практики управления данными, безопасности и соответствия требованиям (контроль доступа, шифрование, мониторинг), взаимодействовать с инженерами и аналитиками, документировать инфраструктуру, модели и лучшие практики.

Требования

🧩 Требования: от 3 лет опыта в роли Data Engineer с практическим сопровождением продакшн‑пайплайнов и архитектурой lakehouse или хранилища данных; уверенный практический опыт с Databricks, Delta Lake и Spark (потоковая и пакетная обработка, понимание, когда что применять); понимание размерностного моделирования, медленно меняющихся измерений и проектирования хранилищ данных, умение обосновывать гранулярность моделей; опыт работы с dbt или аналогичным фреймворком для трансформаций, тестирования и отслеживания происхождения данных; сильные знания облачных основ (управление идентификацией и доступом, объектное хранилище, сети, инфраструктура как код); работа на AWS (опыт с Azure или GCP также подходит); уверенное владение Python и SQL для написания продакшн‑трансформаций, сервисов и коннекторов; опыт внедрения практик контроля качества, мониторинга и управления данными в облачных средах.

Условия

Удалённо, необходимо право на работу в стране проживания · Полная занятость