Engenharia de Dados AWS Sênior - 136709

O que buscamos: Buscamos um(a) profissional de Engenharia de Dados L3 com experiência em coleta, processamento, transformação e gerenciamento de grandes volumes de dados, utilizando ferramentas de ETL, Python/PySpark e serviços de Cloud AWS. O profissional será responsável pela manutenção de pipelines de dados, garantia da segurança e qualidade das informações, criação de métricas e estruturação de dados para consumo analítico e de negócio. A posição terá forte atuação na modernização da plataforma de dados, com foco em arquitetura Lakehouse utilizando Apache Iceberg, modelagem dimensional, governança, observabilidade e preparação de dados para consumo analítico e aplicações de Inteligência Artificial. Responsabilidades: Organizar, coletar e processar grandes volumes de dados utilizando ferramentas de ETL; Traduzir os objetivos de negócio do cliente em estratégias de gerenciamento de informações e inteligência de negócios; Desenvolver e manter pipelines de dados, garantindo a segurança no acesso às informações; Criar e disponibilizar métricas e painéis sobre os dados obtidos, assegurando a qualidade e a integridade das informações; Atuar na modernização da plataforma de dados, com foco em arquitetura Lakehouse, governança, qualidade e preparação dos dados para consumo analítico e de IA; Estruturar modelos dimensionais para consumo por times de negócio, dashboards e relatórios; Atuar em todo o ciclo de vida dos dados, incluindo ingestão, processamento, armazenamento, transformação, consumo e governança; Desenvolver e otimizar pipelines utilizando Python, PySpark e serviços da AWS; Trabalhar com Apache Iceberg, contribuindo para o gerenciamento de tabelas analíticas, versionamento, evolução de schema, particionamento e otimização de performance; Utilizar mecanismos de consulta para grandes volumes de dados, como Athena, Trino, Presto ou Spark SQL, trabalhando com formatos colunares como Parquet e ORC; Implementar testes unitários e de performance, além de boas práticas de segurança, controle de acesso e monitoramento em nuvem; Contribuir para a qualidade, rastreabilidade, integridade e eficiência dos processos de dados. Requisitos e Qualificações Experiência com coleta, transformação e carga de dados utilizando ferramentas de ETL; Experiência com Python e PySpark; Experiência com serviços AWS, incluindo Glue, EMR, Athena, SNS, Lambda, Step Functions, S3, Lake Formation, IAM e CloudWatch; Conhecimento em bancos de dados NoSQL, como MongoDB e DynamoDB, e tecnologias relacionadas a Hadoop; Experiência com arquitetura Lakehouse e Apache Iceberg, incluindo gerenciamento de tabelas analíticas, versionamento, evolução de schema, particionamento e otimização de performance; Experiência com query engines para grandes volumes de dados, como Athena, Trino, Presto ou Spark SQL; Conhecimento em formatos colunares, como Parquet e ORC; Experiência com modelagem dimensional, incluindo fatos, dimensões, granularidade, chaves, hierarquias, métricas e indicadores; Experiência no processamento de dados estruturados, semiestruturados e não estruturados; Conhecimento na execução de testes unitários e testes de performance; Experiência com boas práticas de segurança, controle de acesso e monitoramento em ambientes Cloud. Diferenciais Certificações AWS Practitioner e AWS Data Engineer; Experiência com Data Quality e Data Observability, incluindo validações de completude, consistência, unicidade, integridade e acurácia, monitoramento contínuo e detecção de anomalias; Conhecimento em infraestrutura como código, como Terraform, e ferramentas de monitoramento, como CloudWatch; Conhecimento em Data Mesh, incluindo dados como produto, ownership por domínio, governança federada, infraestrutura self-service, contratos de dados e catálogo; Conhecimento em Inteligência Artificial aplicada a dados, incluindo feature stores, integração de pipelines com modelos de IA e preparação de dados limpos e rastreáveis para utilização em modelos. Descrição comportamental: Procuramos uma pessoa que: Goste de trabalhar em equipe e seja colaborativa em suas atribuições; Tenha coragem para se desafiar e ir além, abraçando novas oportunidades de crescimento; Transforme ideias em soluções criativas e busque qualidade em toda sua rotina; Tenha habilidades de resolução de problemas ; Possua habilidade e se sinta confortável para trabalhar de forma independente e gerenciar o próprio tempo ; Tenha interesse em lidar com situações adversas e inovadoras no âmbito tecnológico. Big enough to deliver – small enough to care. #VempraGFT #VamosVoarJuntos #ProudToBeGFT