Modul ini menjawab pertanyaan bagaimana sebuah jaringan belajar dari data. Gradient descent diperkenalkan sebagai gagasan optimasi, backpropagation diturunkan sekali dengan tangan pada jaringan kecil, dan autograd PyTorch mengambil alih perhitungan yang sama. Modul ditutup dengan varian SGD berupa Momentum dan Adam serta struktur pelatihan mini-batch yang menjadi pola dasar seluruh pelatihan selanjutnya.
Mekanika Pelatihan
Modul mekanika: gradient descent, backpropagation manual, autograd PyTorch, varian SGD, dan pelatihan mini-batch.
0/0 selesai
- Gradient descent
Gagasan optimasi berbasis gradien dan peran learning rate.
- Backpropagation dengan tangan
Aturan rantai pada jaringan kecil yang dihitung manual, tepat satu kali.
- Autograd
Membiarkan PyTorch menghitung gradien secara otomatis dan memeriksanya.
- Varian SGD
Intuisi Momentum dan Adam serta kapan masing-masing dipilih.
- Batch dan epoch
Pelatihan mini-batch, sifat stokastiknya, dan struktur satu epoch.