Modul ini menguraikan bagian yang paling menentukan dalam setiap proyek PyTorch, yaitu perulangan pelatihan yang ditulis secara manual. Lima topik di dalamnya membahas anatomi lima baris inti perulangan, alasan setiap baris ada, perbedaan mode training dan eval, pelacakan kemajuan antara epoch, serta ritual debug overfit satu batch. Modul ini berada tepat setelah modul pemuatan data, sehingga Dataset dan DataLoader sudah dikenal sebelum kelima baris itu dipraktikkan, dan tepat sebelum modul evaluasi yang menuntut perulangan pelatihan yang benar.
Perulangan Pelatihan
Modul inti pelatihan: anatomi perulangan pelatihan yang ditulis manual, mode training vs eval, hingga ritual debug overfit satu batch.
0/0 selesai
- Anatomi perulangan
Lima baris inti perulangan pelatihan: zero_grad, forward, loss, backward, step.
- Mengapa setiap baris ada
Alasan setiap baris perulangan pelatihan ada, dijelaskan tanpa abstraksi dini.
- Mode training vs eval
Perbedaan model.train() dan model.eval() serta perilaku dropout dan batchnorm.
- Epoch dan pelacakan kemajuan
Melacak kurva loss antara epoch dan menampilkan kemajuan dengan tqdm.
- Ritual overfit satu batch
Ritual debug nomor satu: memastikan model mampu menghafal satu batch sebelum pelatihan penuh.