Skip to content

Latest commit

 

History

History
40 lines (27 loc) · 678 Bytes

README.md

File metadata and controls

40 lines (27 loc) · 678 Bytes

Bootcamp Data Engineering

Meta da disciplina

  1. Case: ingestão e pipeline de dados:
    1. Implementar uma ingestão de maneira manual utilizando serviços
    2. Implementar um pipeline de dados orientado a eventos utilizando serviços
    3. Converter o formato dos dados
    4. Ler os dados em repouso baseado em um meta-store

BOOTCAMP DATA ENGINEER:

Data Prep/Transform Data

  • Glue
  • Athena

Queue Service

  • SQS

Ingestion

  • kinesis

Formato de armazenamento de dados

  • Avro
  • Parquet

Micro Services

  • Serverless lambda

Armazenamento

  • S3

Assessment Governance

  • IAM

Monitoring Logs

  • CloudWatch