Databricks Data Engineer | Senior (Remote)

Compass UOL · posted 3 days ago

Open to candidates in Brazil

Senior

Sign up and we score this job against your resume. You never pay to apply.

RemoteHunt reads employers' own pages. Free to browse. How we check

What this job asks for

Extracted by RemoteHunt

Must have

  • •Databricks experience
  • •PySpark, Spark SQL, Delta Lake, Apache Spark
  • •Data architecture (Lakehouse, Medallion)
  • •Python for APIs/automations
  • •Unity Catalog knowledge
  • •Azure Data Factory experience

Nice to have

  • •DLT/Lakeflow, CDC, Structured Streaming
  • •Liquid Clustering, Auto Loader
  • •Databricks Workflows, CI/CD
  • •AWS, Azure, GCP certifications

Tools and technologies

Databricks, PySpark, Spark SQL, Delta Lake, Apache Spark, DLT, Lakeflow, CDC, Structured Streaming, Liquid Clustering, Auto Loader, Unity Catalog, Azure Data Factory, ADF, Python

Languages required

pt

Read the full posting

.Responsabilidades e atribuições
Atuar no desenvolvimento, implementação e evolução de soluções de Engenharia de Dados utilizando o ecossistema Databricks;Definir e implementar arquiteturas de dados escaláveis, baseadas no modelo Lakehouse e na arquitetura Medallion (Bronze, Silver e Gold);Desenvolver, otimizar e manter pipelines de dados utilizando Databricks, PySpark, Spark SQL e Delta Lake;Implementar soluções de ingestão, processamento e integração de dados, incluindo CDC e Structured Streaming;Atuar na orquestração de pipelines e integração de sistemas por meio do Azure Data Factory (ADF);Desenvolver APIs REST, microsserviços e automações utilizando Python;Garantir a governança, segurança, linhagem e controle de acesso aos dados;Realizar otimizações de performance, escalabilidade e custos de processamento;Atuar na observabilidade, monitoramento e sustentação de pipelines em produção;Ser referência técnica para o time, orientando profissionais e estabelecendo boas práticas de Engenharia de Dados.

Requisitos e qualificações
Experiência sólida e avançada em projetos produtivos com Databricks;Domínio de PySpark, Spark SQL, Delta Lake e Apache Spark;Experiência com DLT / Lakeflow Spark Declarative Pipelines, CDC e Structured Streaming;Experiência com Liquid Clustering, Auto Loader e otimização de tabelas Delta;Conhecimento avançado em Unity Catalog, governança, segurança, linhagem e controle de acesso;Experiência na definição de arquiteturas de dados, modelo Lakehouse e arquitetura Medallion;Experiência com Azure Data Factory (ADF) para orquestração, ingestão e integração de dados;Domínio de Python para desenvolvimento de APIs REST, microsserviços e automações;Experiência com Spark Performance Tuning, Photon, particionamento, shuffle e análise de planos de execução;Conhecimento em Databricks Workflows, CI/CD, Git e Declarative Automation Bundles;Experiência com otimização de workloads, dimensionamento de recursos computacionais e redução de custos;Vivência com observabilidade, monitoramento e sustentação de pipelines em produção;Autonomia na resolução de problemas técnicos complexos e capacidade de tomada de decisão arquitetural;Experiência como referência técnica, apoiando e orientando outros profissionais.Certificações: Obrigatória: Databricks Certified Data Engineer Associate.

Fortemente desejável: Databricks Certified Data Engineer Professional. Diferencial: Databricks Certified Associate Developer for Apache Spark.Desejável: certificações AWS, Azure ou GCP relacionadas à Engenharia de Dados e Arquitetura de Soluções.

Informações adicionaisBenefíciosVale-alimentação e/ou vale-refeição;Plano de saúde e plano odontológico;Plano de saúde para o seu pet;Auxílio home office (para vagas remotas);Kit de boas-vindas no onboarding;Seguro de vida;Zenklub, com acompanhamento psicológico e nutricional;TotalPass;Programa de Certificações e Capacitação Contínua com parceiros (Adobe, Anthropic, AWS, Google, Microsoft, Salesforce);Parcerias e descontos para o seu desenvolvimento;Acesso ao conteúdo UOL;Kit maternidade;Licença maternidade e paternidade estendidas; Programa de indicações.

Send this job to a friend:TelegramWhatsApp

More remote Data Engineer jobs

See all

More remote jobs open to candidates in

Get new jobs like this by email

Once a week. Remote data engineer jobs that can hire you in your country.

Hiring in: your countryChange

Weekly, only when there are at least 3 new jobs. No account needed. Unsubscribe in one click. You never pay to apply. Privacy

See how well this job fits your resume

Free, no card.

See my match for each job — free