Large Language Model

Kenali large language model: transformer decoder-only berskala besar yang dilatih memprediksi token berikutnya, kemampuan yang muncul dari skala, keluarga model modern, dan siklus hidupnya dari pretraining hingga alignment.

Bedah algoritma BPE dari nol — menggabungkan pasangan simbol terfrekuen hingga vocabulary tumbuh — beserta implementasi mini yang dilatih pada korpus kecil, special token chat, dan implikasi vocabulary besar pada LLM.

Telusuri tahap termahal siklus hidup LLM: korpus web triliunan token, klaster GPU, scaling laws ala Chinchilla, plus demo teruji bagaimana ukuran korpus menentukan loss language model hingga mendekati lantai entropi.

Bedah mekanisme inti LLM dari logits ke distribusi: cross-entropy dan teacher forcing di sisi pelatihan, loop autoregressive di sisi inference — semuanya pada decoder mini satu blok yang dilatih nyata.

Kenali jarak antara model yang melanjutkan teks dan model yang mengikuti perintah, lalu buktikan pada decoder mini: perilaku acak sebelum tuning berubah menjadi format instruksi-respons yang dipatuhi setelah SFT pada empat contoh instruksi.

Bedah training loop SFT: pasangan prompt-respons menjadi tensor, token prompt di-masking dengan ignore_index agar loss dihitung hanya pada respons, lalu seluruh bobot diperbarui — lengkap dengan bukti angka dan pengukuran catastrophic forgetting.

Kenali keluarga PEFT — adapter, LoRA, prefix tuning, BitFit — yang membekukan hampir seluruh bobot dan hanya melatih modul kecil, lalu buktikan pada demo adapter: 4,6% parameter mengalahkan full fine-tuning sekaligus menjaga kemampuan lama tetap utuh.

Pangkas biaya fine-tuning LLM dengan LoRA: delta bobot ber-rank rendah delta W = B kali A yang dilatih di atas bobot beku, lalu QLoRA yang menumpuk adapter pada model 4-bit — semua dibuktikan pada model attention mini dengan hitungan parameter nyata.

Dari RLHF tiga tahap (reward model plus PPO) menuju DPO yang melatih kebijakan langsung dari pasangan preferensi lewat rasio log-likelihood — dibuktikan pada LM mainan yang margin chosen-rejected-nya tumbuh dari nol tanpa reward model sama sekali.

Pangkas memori LLM dari 28 GB ke 3,5 GB lewat kuantisasi bobot int8 dan int4 dengan skala per grup, bedah grid NF4 yang mengikuti distribusi gaussian bobot, serta pilihan antara PTQ dan QAT — semuanya dibuktikan dengan kuantisasi NumPy murni dan angka error nyata.

Dari logits menuju teks: cara kerja temperature, top-k, top-p, dan beam search beserta strategi kapan masing-masing dipakai, plus KV cache yang membuat generasi panjang tetap terjangkau — semua diuji pada distribusi contoh dengan angka nyata.

Kenapa format percakapan menentukan kualitas jawaban: anatomi chat template dengan peran dan token khusus, dua gaya format yang umum, few-shot prompting, hingga risiko kebocoran system prompt — dirender dan ditokenisasi dengan mesin template mini yang bisa diaudit.

Cara menilai model bahasa besar tanpa tertipu: anatomi benchmark seperti MMLU dan HumanEval, bahaya data contamination, human eval dan LLM-as-judge beserta biasnya, serta perplexity yang membedakan teks pola dari teks acak pada demo LM mainan dengan angka yang berbeda jauh.

Peta jujur batas-batas large language model: halusinasi yang fasih tanpa dasar data, knowledge cutoff, bias warisan korpus, prompt injection, hingga privasi dan jejak karbon — disertai mitigasi praktis untuk tiap risiko dan posisi verifikasi manusia di tengahnya.