Modul penutup ini mengubah pengetahuan dari seluruh jalur menjadi proyek yang utuh. Pemilihan proyek memberi ujian tiga ciri agar masalah yang dipilih memang layak Spark, dan menekankan cakupan yang terukur. Desain pipeline menyusun tata letak medallion, skema tiap lapisan, dan jadwal yang mengikuti konsumen. Implementasi mengerjakan desain tersebut sebagai satu skrip nyata pada data yang sengaja berisi duplikat dan nilai kosong, dari enam baris mentah sampai tabel gold yang benar. Putaran optimasi menutup dengan kerangka profil berbasis bukti yang memeriksa keluaran pipeline sungguhan, sekaligus menautkan setiap gejala pada topik jalur ini yang menjawabnya.
Pengerjaan proyek
Dari pemilihan masalah sampai putaran optimasi.
0/0 selesai
- Pemilihan proyek
Masalah batch dan streaming dengan data nyata.
- Desain pipeline
Tata letak bergaya medallion, schema, jadwal.
- Implementasi
Tahap ingest, transform, serve.
- Putaran optimasi
Pemrofilan dan penyetelan berbasis bukti.