Engenheiro de Dados - Pleno

A FCamara está em busca de uma pessoa para atuar comoEngenheiro de Dados- Pleno.

Desenvolvimento de Pipelines de Dados:

Projetar, implementar e otimizar pipelines de ETL (Extração, Transformação e Carga) para garantir a fluidez dos dados entre sistemas.

Utilizar ferramentas como Apache Airflow para orquestrar e agendar tarefas de processamento de dados.

Implementação de Cloud Functions:

Criar e gerenciar funções em ambientes de cloud (ex.: AWS Lambda, Google Cloud Functions) para automação de processos e manipulação de dados.

Integrar serviços de dados na nuvem para melhorar a escalabilidade e a eficiência.

Monitoramento e Observabilidade:

Configurar e manter dashboards em Grafana para monitorar o desempenho de pipelines de dados e identificar possíveis gargalos.

Implementar alertas e métricas para garantir a integridade e a disponibilidade dos dados.

Documentação e Melhoria Contínua:

Documentar processos e rotinas de dados para garantir a transparência e facilitar a manutenção.

Participar de Engineering Change Proposals (ECP) para propor melhorias e inovações nos fluxos de trabalho e na arquitetura de dados.

Colaboração Interdisciplinar:

Trabalhar em estreita colaboração com equipes de ciência de dados, analistas e desenvolvedores para entender requisitos e garantir que as soluções atendam às necessidades do negócio.

Participar de reuniões de planejamento e revisão para alinhar objetivos e prioridades.

Qualidade de Dados:

Implementar e monitorar processos de validação de dados para garantir a qualidade e a precisão das informações.

Realizar testes e auditorias nos pipelines de dados para identificar e corrigir problemas.

Requisitos e qualificações

Técnicos:

Proficiência em SQL e em linguagens de programação como Python ou Java.

Experiência com ferramentas de ETL e integração de dados.

Sólido entendimento de arquiteturas de dados em nuvem (ex.: AWS, Google Cloud, Azure).

Ferramentas de Orquestração:

Conhecimento profundo em Apache Airflow para gerenciamento de workflows.

Habilidade em configurar e utilizar ferramentas de monitoramento como Grafana.

Cloud Computing:

Familiaridade com serviços de cloud (ex.: S3, BigQuery, Redshift) e suas melhores práticas.

Conhecimento em gerenciamento de custos e otimização de recursos em ambientes de nuvem.

Originally posted on Himalayas