数据开发工程师(ADF & Databricks)

岗位背景
我们正在寻找一位同时具备 Azure Data Factory（ADF） 与 Databricks 设计与开发能力的资深数据工程师。你将参与企业级数据平台的建设，负责从数据集成、数据转换、数据湖治理到数据服务的全链路开发，支撑业务分析、数据科学与 AI 应用。
岗位职责
负责基于 Azure Data Factory（ADF） 的数据集成方案设计、开发与运维，包括但不限于：
设计并实现批处理、增量、CDC、API 等多种数据抽取与同步管道；
编排跨系统、跨云、跨数据库的数据工作流；
配置调度、重试、告警、监控与参数化模板。
负责基于 Databricks 的数据设计与开发，包括但不限于：
使用 PySpark / Spark SQL / Scala 进行大规模数据清洗、转换、聚合与建模；
基于 Delta Lake 实现数据湖的 ACID、时间旅行、合并与增量处理；
设计并优化 Lakehouse 分层架构（Bronze / Silver / Gold）；
使用 Databricks Jobs、Workflows、Delta Live Tables 等能力构建可靠的数据管道。
与业务团队协作，理解数据需求并落地数据模型与服务。
负责数据管道的性能调优、成本优化、数据质量校验、异常监控与故障排查。
参与数据平台 CI/CD、DevOps 与基础设施即代码建设，推动自动化测试、发布与版本管理。
编写技术设计文档、开发规范与运维手册，参与代码评审与技术分享。
任职要求
本科及以上学历，计算机、软件工程、数据科学、信息技术等相关专业。
3 年以上数据工程、大数据开发或数据平台开发经验。
精通 Azure Data Factory（ADF）：
熟悉 Linked Services、Datasets、Pipelines、Data Flows、Triggers、Integration Runtime；
具备复杂数据集成、增量抽取、参数化管道与错误处理经验。
精通 Databricks：
熟悉 Notebook、Jobs、Workflows、Cluster 管理；
熟练使用 PySpark / Spark SQL 进行数据处理与性能调优；
熟悉 Delta Lake、Parquet、数据分区、Z-Order、Merge 等湖仓技术。
熟练掌握 SQL，具备复杂查询、数据建模与性能优化能力。
熟练掌握 Python，具备良好的工程化编码习惯；熟悉 Scala 者优先。
熟悉 Azure 数据生态：Azure Data Lake Storage（ADLS Gen2）、Azure SQL、Azure Synapse、Event Hubs、Key Vault 等。
具备数据管道调度、监控、日志、告警与数据质量治理经验。
具备良好的问题分析、沟通协作与跨团队推动能力。
加分项
有 Azure Databricks 认证（Data Engineer Associate / Professional）或 Azure Data Engineer 认证；
熟悉 Delta Live Tables、Unity Catalog、Databricks SQL Warehouse；
熟悉 Kafka、Event Hubs、Streaming / Structured Streaming 实时数据处理；
熟悉 Terraform、ARM / Bicep、Azure DevOps、GitHub Actions 等 IaC 与 CI/CD 工具；
有 Power BI、Synapse Analytics、Microsoft Fabric 使用经验；
有数据治理、元数据管理、数据血缘、数据安全与合规经验；
有大规模数据平台从 0 到 1 建设经验。
有SFE 项目经验优先考虑。