Modul ini menjelaskan paradigma yang mengubah cara model dibangun: pretraining pada data masif, lalu penyesuaian pada tugas kecil. Teknik fine-tuning dibahas bersama keputusan membekukan layer, ekosistem Hugging Face diperkenalkan sebagai sumber model pretrained, dan peta lanskap LLM menempatkan prompting serta pelatihan pada urutan keputusan yang benar.
Transfer Learning dan LLM
Modul transfer learning: paradigma pretraining, teknik fine-tuning, ekosistem Hugging Face, dan lanskap LLM.
0/0 selesai
- Paradigma pretraining
Mengapa bobot pretrained mengubah segalanya dalam pengembangan model.
- Fine-tuning
Membekukan head, learning rate diskriminatif, dan variasinya.
- Menggunakan Hugging Face
Memakai transformer pretrained dari ekosistem Hugging Face.
- Peta lanskap LLM
Model bergaya GPT, prompting versus pelatihan, dan batasannya.