Modul Autograd membahas mesin diferensiasi otomatis yang menjadi dasar seluruh pelatihan di PyTorch, mulai dari konsep gradien, pelacakan operasi melalui requires_grad, pemanggilan backward(), hingga mode inferensi dengan no_grad dan detach. Materi ditutup dengan penurunan gradien manual untuk meminimalkan sebuah fungsi tanpa optimizer. Modul ini berada tepat setelah modul tensor dan menjadi bekal langsung bagi modul pembangunan model serta perulangan pelatihan.
Autograd
Modul autograd: graf komputasi, pelacakan gradien melalui requires_grad dan backward, mode inferensi, hingga penurunan gradien manual.
0/0 selesai
- Penyegaran turunan
Penyegaran konsep gradien dan alasan pelatihan jaringan saraf membutuhkannya.
- requires_grad
Mekanisme graf komputasi dan pelacakan operasi melalui atribut requires_grad.
- backward()
Memanggil backward() untuk menghitung gradien dan membaca hasilnya di atribut grad.
- no_grad dan detach
Mode inferensi dengan no_grad dan penghentian pelacakan dengan detach.
- Penurunan gradien manual
Meminimalkan sebuah fungsi hanya dengan autograd, tanpa optimizer.