databricks-lakehouse

KO | EN

gitlite — search

#javascript #python #hacktoberfest #react #ai #typescript #llm #go #golang #android #machine-learning #rust #deep-learning #linux

databricks-lakehouse

(★ 3)

Pipeline de dados end-to-end em Medallion Architecture (Bronze → Silver → Gold) construído no Databricks Free Edition,

databricks-lakehouse Latest Version Download

Download Latest Version (.zip)

// repository documentation

Was this content helpful?

★ 0 (0 ratings)

<h1 align="center">databricks-lakehouse</h1>

Databricks Platform Architect • AWS • Azure • Google Cloud

<a href="https://credentials.databricks.com/profile/regileneamodasilva957596/wallet" target="_blank">
 ⭐ View all my Databricks Credentials
 </a>

## Databricks-Lakehouse

Pipeline de dados end-to-end em arquitetura medalhão (Bronze → Silver → Gold) construído no [Databricks Free Edition](https://docs.databricks.com/aws/en/getting-started/free-edition), usando o dataset público [Olist Brazilian E-Commerce](https://www.kaggle.com/datasets/olistbr/brazilian-ecommerce).

Neste projeto vamos estudar os fundamentos de engenharia de dados em um ambiente lakehouse moderno: 
Delta Lake, PySpark, SQL, Unity Catalog, orquestração de jobs, lineage e Lakeflow Declarative Pipelines.

## Arquitetura

Este projeto segue a [Medallion Architecture](https://www.databricks.com/blog/what-is-medallion-architecture), o padrão recomendado pela própria Databricks para organizar dados em camadas de qualidade progressiva:

| Camada | Descrição |
|:-------:|-----------|
| 🥉 **Bronze** | Dados brutos, ingeridos como estão, sem transformações. |
| 🥈 **Silver** | Dados limpos, tipados, deduplicados e atualizados com **`MERGE INTO`** (upserts). |
| 🥇 **Gold** | Modelo dimensional (**Star Schema**), pronto para BI, dashboards e análises. |

<img src="https://www.databricks.com/sites/default/files/inline-images/building-data-pipelines-with-delta-lake-120823.png"
 alt="Medallion Architecture"
 width="700">
 
 
 Fonte:
 <a href="https://www.databricks.com/blog/what-is-medallion-architecture">
 Databricks – What is Medallion Architecture?
 </a>

## Tecnologias

- Databricks Free Edition
- Arquitetura Medallion (Bronze → Silver → Gold)
- Apache Spark / PySpark
- Delta Lake (ACID, Time Travel, MERGE INTO, OPTIMIZE, VACUUM)
- MERGE INTO para upsert incremental
- Deduplicação e validação de integridade
- Time Travel para auditoria e recuperação
- Modelagem dimensional e Star Schema
- Spark SQL / Databricks SQL para transformação e análise
- Unity Catalog (catalog → schema → tabela/volume, governança, lineage)
- Databricks Jobs (Lakeflow Jobs) - orquestração automatizada
- Git & GitHub (Databricks Git folders) - para versionamento
- GitHub Actions (CI - lint automatizado)
-  Data Quality checks
- (Bônus / opcional) Lakeflow Declarative Pipelines

## Dataset

Brazilian [E-Commerce Public Dataset by Olist](https://www.kaggle.com/datasets/olistbr/brazilian-ecommerce) - dados reais e anonimizados de ~100 mil pedidos feitos na loja Olist entre 2016-2018.

| Tabela | Chave Primária | Descrição |
|---------|----------------|-----------|
| `olist_customers_dataset` | `customer_id` | Dados dos clientes (cidade e estado). |
| `olist_orders_dataset` | `order_id` | Pedidos, incluindo status e timestamps. |
| `olist_order_items_dataset` | `order_id` + `order_item_id` | Itens de cada pedido, com preço e valor do frete. |
| `olist_order_payments_dataset` | `order_id` | Informações de pagamento, parcelas e valor pago. |
| `olist_order_reviews_dataset` | `review_id` | Avaliações dos pedidos realizadas pelos clientes. |
| `olist_products_dataset` | `product_id` | Dados dos produtos, incluindo categoria, dimensões e peso. |
| `olist_sellers_dataset` | `seller_id` | Informações dos vendedores, cidade e estado. |
| `olist_geolocation_dataset` | `geolocation_zip_code_prefix` | Coordenadas geográficas (latitude e longitude) por CEP. |
| `product_category_name_translation` | `product_category_name` | Tradução das categorias de produtos do português para o inglês. |

Relacionamento central: orders → order_items → products/sellers, e orders → customers, payments, reviews.

Detalhamento completo em [docs/data_dictionary.md](https://github.com/RegiMaria/databricks-lakehouse/blob/main/docs/tutorials/04_data_dictionary.md).

## Estrutura do repositório

```text
olist-lakehouse/
├── .github/
│   └── workflows/
│       └── lint.yml                     ← Sprint 7, CI com GitHub Actions
├── notebooks/
│   ├── 00_setup.py
│   ├── 01_bronze_ingestion.py
│   ├── 02_silver_transform.py
│   ├── 03_gold_aggregation.py
│   ├── 04_time_travel_demo.py
│   └── bonus_ldp_pipeline/              ← Sprint 6 (bônus), Lakeflow Declarative Pipelines
├── data/
│   └── raw/                             ← Amostra do dataset ou instruções de download
├── docs/
│   ├── tutorials/
│   │   ├── 01_developer_guide.md
│   │   ├── 02_github_token.md
│   │   ├── 03_databricks_add_git_credential.md
│   │   └── 04_data_dictionary.md
│   ├── roadmap/
│   │   ├── sprint_01.md
│   │   ├── sprint_02.md
│   │   ├── sprint_03.md
│   │   ├── sprint_04.md
│   │   ├── sprint_05.md
│   │   ├── sprint_06.md
│   │   └── sprint_07.md
│   └── star_schema.md
├── screenshots/                         ← Lineage, Jobs, Dashboards e evidências
├── requirements-dev.txt                 ← Dependências de desenvolvimento                          
├── .gitignore
└── README.md
```

## Pré-requisitos

1. Contas e ferramentas

- Conta no Databricks Free Edition
- Conta no GitHub
- Git instalado localmente (ou uso via Databricks Git folders)
- Conta no Kaggle (para baixar o dataset Olist)

2. Conceitos recomendados antes de começar
- Git/GitHub: clone, branch, commit, push, pull, merge, pull request
- ETL/ELT e Medallion Architecture
- Modelagem dimensional (star schema: fato + dimensões)
- SQL básico: joins, group by, window functions
- Python/PySpark básico: DataFrame API (select, filter, groupBy, join)
- Delta Lake: ACID transactions, MERGE INTO, time travel, OPTIMIZE/VACUUM
- Unity Catalog: conceito de catalog → schema → tabela/volume

## Setup

`git clone https://github.com/<usuario>/olist-lakehouse.git`
`cd olist-lakehouse`

No Databricks: Workspace → Repos → Add Repo, conectar ao GitHub (permite commitar/pushar direto do notebook).

Criação do catalog/schemas (Unity Catalog):

CREATE CATALOG IF NOT EXISTS olist_project;

CREATE SCHEMA IF NOT EXISTS olist_project.bronze;

CREATE SCHEMA IF NOT EXISTS olist_project.silver;

CREATE SCHEMA IF NOT EXISTS olist_project.gold;

CREATE VOLUME IF NOT EXISTS olist_project.bronze.raw_files;

Upload dos CSVs do Kaggle para o Volume via UI: Catalog → volume → Upload.

## Plano de sprints

Projeto dividido em 5 sprints de 1 semana + 1 sprint bônus, organizadas como Issues/Milestones no GitHub.

Consulte aqui `docs/roadmap`

## Como realizar esse projeto

Consulte `docs/tutorials`

## Papéis técnicos

Consulte [team-roles.md](https://github.com/Databricks-projects-lab/databricks-lakehouse/tree/main/docs/team-roles)

##  Documentação oficial de referência

| 📚 Tópico | 🔗 Documentação Oficial |
|-----------|-------------------------|
| Git folders (Databricks) | https://docs.databricks.com/aws/en/repos |
| Medallion Architecture | https://docs.databricks.com/gcp/en/lakehouse/medallion |
| Star Schema | https://www.databricks.com/blog/what-is-star-schema |
| PySpark Basics | https://docs.databricks.com/aws/en/pyspark/basics |
| Window Functions | https://docs.databricks.com/gcp/en/sql/language-manual/sql-ref-window-functions |
| Delta Lake - Tutorial Completo | https://docs.databricks.com/aws/en/delta/tutorial |
| Delta Lake - Table History (Time Travel) | https://docs.databricks.com/aws/en/tables/history |
| Delta Lake - Cheat Sheet (PDF) | https://www.databricks.com/sites/default/files/2022-08/delta-lake-cheat-sheet.pdf |
| Unity Catalog | https://docs.databricks.com/aws/en/data-governance/unity-catalog |
| Unity Catalog - Catalogs | https://docs.databricks.com/aws/en/catalogs |
| Unity Catalog - Volumes | https://docs.databricks.com/aws/en/volumes |
| Lakeflow Declarative Pipelines - Tutorial | https://docs.databricks.com/aws/en/getting-started/data-pipeline-get-started |
| Lakeflow Declarative Pipelines - Sintaxe Python | https://docs.databricks.com/aws/en/ldp/developer/python-dev |
| O que aconteceu com o DLT? | https://docs.databricks.com/aws/en/ldp/concepts/where-is-dlt |
| CI/CD no Databricks (Asset Bundles) | https://docs.databricks.com/aws/en/dev-tools/ci-cd |

## 🛑 Aviso para o time:

---

o conteúdo deste README.md deverá ir para `docs/orientacoes-iniciais/orientacoes.md`.

Assim, preservamos as orientações iniciais.

O README atua deverá conter a descrição do projeto, arquitetura, stack, como rodar o projeto atualizados.

databricks-lakehouse

databricks-lakehouse Latest Version Download

Today's picks

Was this content helpful?

Recent Feedback

databricks-lakehouse

databricks-lakehouse Latest Version Download

Today's picks

Was this content helpful?

Recent Feedback

Download README