Databricks / CI-CD - Senior DevOps Engineer (Remote)

.

Responsabilidades e atribuições

• Projetar, implementar e evoluir a esteira de CI/CD da plataforma Databricks, garantindo a promoção automatizada e auditável de artefatos entre os ambientes de desenvolvimento, homologação e produção;
• Padronizar o empacotamento e o deploy de workloads com Databricks Asset Bundles (DABs), disponibilizando templates reutilizáveis e escaláveis para os domínios de dados;
• Definir a estratégia de controle de versão (Git), políticas de branching (trunk-based, GitFlowou equivalente), fluxo de revisões de código (code review), versionamento e release da plataforma no repositório corporativo (Bitbucket, GitHub ou GitLab);
• Definir e implementar gitflowse quality gatesautomatizados na esteira: testes unitários e de integração, validação de contratos de dados, análise estática de código, lint e cobertura mínima como pré-requisito de merge;
• Garantir a estruturação e modularização de projetos, empacotamento de bibliotecas em Python (construção de arquivos .wheel) e publicação em artifact registry;
• Disseminar boas práticas de engenharia de software, automação e governança, atuando como referência técnica e suportando as squads de dados nos deployments dos pipelines;
• Acompanhar a saúde, estabilidade e observabilidade das esteiras e dos artefatos da plataforma Lakehouse em produção.

Requisitos e qualificações

• Sólida experiência e maturidade profissional em DevOps ou DataOps, com atuação na concepção, implementação e sustentação de esteiras de CI/CD ponta a ponta;

• Domínio na implementação de esteiras de CI/CD em Jenkins, incluindo definição de estratégias de deploy, rollback e versionamento de releases;
• Domínio avançado de controle de versão com Git, estratégias de branching (trunk-based, GitFlow), pull requests, code review e proteção de branches;
• Conhecimento avançado de engenharia de software com Python ou Groovy, com vivência prática em estruturação/modularização de projetos, empacotamento de bibliotecas (.wheel) e publicação em repositório de artefatos;
• Experiência prática na criação e automação de testes unitários e de integração aplicados a pipelines de dados utilizando Pytest (ou equivalente), com uso de mocks, fixtures e métricas de cobertura de código;
• Vivência sólida com ecossistemas de nuvem AWS ou Azure aplicados ao contexto de plataformas de dados (gestão de identidade/IAM, storage, rede e serviços gerenciados).
• Desejáveis: Vivência prática com Databricks Asset Bundles (DABs), Databricks CLI e Databricks Repos; Experiência em projetos de migração de Data Warehouse legado para arquitetura Lakehouse Databricks; Conhecimento em observabilidade e monitoramento de pipelines e infraestrutura com ferramentas como DataDogou similares; Conhecimento em Infraestrutura como Código (IaC) com Terraform; Experiência com outras ferramentas de esteira como Bitbucket Pipelines, GitLab CI ou GitHub Actions.

Informações adicionais