Melatih model besar dari nol itu mahal, dan untungnya sering tidak perlu. Praktik modern berdiri di atas dua kaki: komunitas membuka bobot model yang telah dilatih pada data besar, lalu kita menyesuaikannya untuk kebutuhan spesifik lewat transfer learning — pola yang telah kita kerjakan dari chapter Transfer Learning hingga Fine-Tuning . Konsekuensinya, kemampuan baru yang sama pentingnya dengan menulis arsitektur adalah memilih model pretrained yang tepat. Chapter ini memetakan tiga pusat model utama, mengajarkan cara membaca model card, lalu merangkum pilihan umum per tugas.
Tiga Pusat Model Terkurasi #
Hugging Face Hub (huggingface.co/models
) adalah pusat terbesar saat ini: ratusan ribu model untuk teks, gambar, audio, dan multimodal, lengkap dengan halaman percobaan langsung di peramban. Pustaka transformers membuat pemuatan model menjadi dua baris kode, dan setiap model disertai model card yang wajib dibaca sebelum dipakai.
torchvision (docs.pytorch.org/vision/stable/models.html
) menyediakan arsitektur visi klasik beserta bobot ImageNet-nya — ResNet, EfficientNet, hingga Vision Transformer — sebagai bagian resmi ekosistem PyTorch. Pilihan ini paling nyaman ketika kita sudah bekerja dalam pipeline torchvision dan hanya butuh backbone yang teruji tanpa dependensi tambahan.
timm (timm.fast.ai ) adalah koleksi model visi mutakhir yang dirawat oleh Ross Wightman dan kini berada di bawah payung Hugging Face. Kekuatannya adalah kedalaman pilihan: ratusan varian arsitektur dengan bobot hasil pelatihan ulang yang mutakhir, berguna saat kita ingin membandingkan backbone di luar deret standar.
Membaca Model Card #
Model card adalah “kemasan” sebuah model — halaman ringkas yang menjelaskan apa yang dibeli sebelum dipakai. Lima bagian berikut hampir selalu ada dan urutan membacanya penting:
- Lisensi — bisa berbeda dari lisensi kode: bobot tertentu berlisensi terbuka (MIT, Apache-2.0), yang lain memakai ketentuan khusus yang membatasi penggunaan komersial.
- Jumlah parameter dan ukuran unduhan — menentukan kebutuhan memori; model 7 miliar parameter pada presisi 16-bit sudah menyita sekitar 14 GB.
- Tabel benchmark — skor pada tolok ukur standar; bandingkan relatif terhadap model seukurannya, bukan angka mentah.
- Cakupan data latih — bahasa, domain, dan rentang waktu data pelatihan; model bahasa yang dilatih tanpa bahasa Indonesia akan menampilkan kinerja berbeda untuk teks kita.
- Peruntukan dan batasan — bagian intended use dan out of scope menyatakan untuk apa model dirancang dan di mana ia tidak diharapkan bekerja baik.
Angka parameter juga menuntun strategi penyesuaian. Model kecil dapat di-fine-tune penuh di GPU tunggal, sedangkan model besar lebih efisien diadaptasi lewat teknik berperingkat rendah seperti LoRA yang kita bahas di chapter LoRA dan QLoRA . Setelah model siap, jalur produksi berlanjut ke ekspor ONNX dan penyajian API di section Deployment dan Inference .
Pilihan Umum per Tugas #
| Tugas | Keluarga model umum | Pusat model |
|---|---|---|
| Klasifikasi gambar | ResNet, EfficientNet, ViT | torchvision, timm |
| Deteksi objek | Faster R-CNN, keluarga YOLO | torchvision, HF Hub |
| Klasifikasi teks dan sentimen | BERT, DistilBERT | HF Hub |
| Pembangkitan teks | keluarga Llama, Qwen, Mistral | HF Hub |
| Pengenalan ucapan | Whisper | HF Hub |
| Representasi gambar-teks | CLIP dan turunannya | HF Hub |
Tabel ini adalah titik awal, bukan putusan akhir: dalam setiap keluarga tersedia varian dengan kompromi ukuran versus kinerja yang berbeda, dan angka benchmark pada model card adalah dasar perbandingannya. Untuk kasus Indonesia, tabel CLIP-style dan Whisper patut dicatat — keduanya telah kita pakai sebagai studi kasus di section Multimodal Deep Learning .
Model pretrained pada akhirnya adalah hasil pemadatan penelitian bertahun-tahun. Bagi yang ingin memahami asal-usul gagasan di balik setiap arsitektur, sumber aslinya menunggu di tempat yang berbeda: paper penelitian. Chapter berikutnya mengajarkan cara membacanya secara efisien dan memetakan paper-paper yang membentuk bidang ini.