Seluruh rumus pada dua chapter sebelumnya — b1 = Sxy/Sxx, koefisien berganda dari matrix — dihitung tanpa syarat apa pun: data apa pun bisa dimasukkan dan garis pasti keluar. Kesahihan kesimpulan statistiknya, bukan hitungannya, bergantung pada beberapa asumsi tentang data dan residualnya. Asumsi-asumsi inilah yang menentukan apakah standard error, confidence interval, dan p-value model bisa dipercaya, atau hanya angka indah tanpa jaminan. Chapter ini memetakan empat asumsi regresi linear (dikenali lewat mnemonik LINE), gejala dan dampak tiap pelanggarannya, lalu mendemonstrasikan ancaman yang tidak masuk daftar asumsi namun sama kuatnya: satu titik data yang bisa memutar seluruh garis.
Empat Asumsi LINE #
Metode ordinary least squares (OLS) menghasilkan taksiran terbaik — tak bias dan paling efisien — ketika empat kondisi terpenuhi. Mnemonik LINE merangkumnya:
| Huruf | Asumsi | Artinya | Cara memeriksa |
|---|---|---|---|
| L | Linear relationship | hubungan x dan y memang mengikuti garis lurus | scatter plot data; plot residual vs fitted harus pola acak |
| I | Independence of errors | residual antar observasi saling bebas, tidak berkorelasi | plot residual terhadap urutan pengambilan data; statistik Durbin-Watson (nilai jauh dari 2 = autocorrelation) |
| N | Normality of residuals | residual menyebar mengikuti distribusi normal | histogram residual; QQ plot (titik menempel diagonal) |
| E | Equal variance (homoskedastisitas) | sebaran residual sama besar pada semua tingkat x | plot residual vs fitted — bentuk corong menandakan pelanggaran |
Pembacaan tabelnya perlu satu penekanan: yang diuji normalitas dan kesamaan variannya adalah residual, bukan datanya. Data y boleh miring atau bertumpuk; yang OLS tuntut adalah galat modelnya menyebar simetris dan stabil. Alat utama pemeriksaan juga bukan satu angka, melainkan plot residual — grafik residual terhadap nilai prediksi ŷ yang sehat tampak seperti awan tanpa pola.
Konsekuensi Tiap Pelanggaran #
Asumsi yang dilanggar tidak membuat komputer menolak bekerja; ia bekerja dan mengeluarkan angka yang salah secara diam-diam. Dampak dan penanganan kasarnya:
| Pelanggaran | Gejala khas | Dampak | Penanganan kasar |
|---|---|---|---|
| Non-linear | residual vs fitted berpola lengkung (misal bentuk U) | prediksi bias pada wilayah tertentu, R² menipu | transformasi (log, akar), tambah prediktor atau suku kuadrat |
| Residual berkorelasi | data berurutan (waktu, ruang) dengan autocorrelation | standard error terlalu sempit, p-value terlalu kecil | variabel lag atau model khusus deret waktu |
| Residual tidak normal | histogram residual miring, QQ plot melengkung | confidence interval dan p-value melenceng pada sampel kecil | transformasi log pada data miring; pada n besar CLT meredam |
| Heteroskedastisitas | residual vs fitted melebar seperti corong | standard error bias, interval kepercayaan tidak andal | transformasi log pada y, weighted least squares |
Empat baris itu berbagi satu pesan: pola pada residual adalah diagnostik utama. Sebelum melaporkan model, plotkan residualnya — dua menit pemeriksaan visual yang menyingkap pelanggaran paling umum. Kerangka lengkap diagnostik regresi dirangkum dalam NIST/SEMATECH e-Handbook dan Penn State STAT 500 .
Outlier dan Leverage Point #
Anehnya, kepekaan terhadap titik ekstrem bukan bagian dari asumsi LINE — padahal dampaknya paling mudah dilihat. Dua jenis titik menonjol perlu dibedakan. Outlier pada arah y adalah observasi dengan residual besar: nilainya jauh dari pola. Leverage point adalah observasi dengan nilai x yang jauh dari x̄ — letaknya yang ekstrem memberinya daya ungkit: garis least squares ditarik kuat ke arahnya, karena kuadrat residualnya berbobot besar dan posisinya memberi momen paling panjang. Titik yang benar-benar mengubah koefisien saat dihapus disebut influential observation; ukuran baku untuk mendeteksinya adalah Cook’s distance.
Angka konkret dari dataset enam siswa. Siswa baru melaporkan belajar 8 jam (jauh di luar rentang 2-7) dan memperoleh nilai 40 — mungkin ia sakit saat ulangan. Satu titik ini saja membalikkan seluruh model:
tanpa titik (8, 40) : b1 = 5.29, b0 = 54.38, r = 0.9981
dengan titik (8, 40): b1 = -0.79, b0 = 76.64, r = -0.0997Slope berubah tanda — dari “tiap jam belajar menambah 5.29 poin” menjadi “tiap jam belajar mengurangi 0.79 poin” — dan korelasi yang tadinya nyaris sempurna jatuh nyaris ke nol, hanya karena satu dari tujuh titik. Inilah daya ungkit bekerja: titik (8, 40) punya nilai x paling ekstrem sekaligus residual besar, kombinasi yang paling berpengaruh. Chapter Scatter Plot telah mengingatkan hal yang sama secara visual; kini kita punya angkanya.
Menghitung Dampak Outlier dengan Python #
Perbandingan kedua model di atas dihitung langsung dari data — kini dengan verifikasi statistics:
import statistics
jam = [2, 3, 4, 5, 6, 7]
nilai = [65, 70, 75, 82, 86, 91]
model_a = statistics.linear_regression(jam, nilai)
r_a = statistics.correlation(jam, nilai)
jam_b = jam + [8]
nilai_b = nilai + [40]
model_b = statistics.linear_regression(jam_b, nilai_b)
r_b = statistics.correlation(jam_b, nilai_b)
print(f"tanpa outlier : b1 = {model_a.slope:.4f}, r = {r_a:.4f}")
print(f"dengan outlier: b1 = {model_b.slope:.4f}, r = {r_b:.4f}")
print(f"intercept bergeser dari {model_a.intercept:.2f} ke {model_b.intercept:.2f}")Output yang Dihasilkan:
tanpa outlier : b1 = 5.2857, r = 0.9981
dengan outlier: b1 = -0.7857, r = -0.0997
intercept bergeser dari 54.38 ke 76.64Mari kita bedah kode di atas:
- Baris 6-7 (model asli): slope 5.2857 dan korelasi 0.9981 — model enam siswa dari chapter Simple Linear Regression.
- Baris 11-12 (model dengan titik baru): menambahkan satu pasangan (8, 40) membuat slope jatuh ke −0.7857 dan korelasi ke −0.0997 — satu observasi membalikkan tanda kedua ukuran.
- Baris 16 (intercept): b0 bergeser dari 54.38 ke 76.64 — seluruh garis berputar mengikuti titik baru, bukan sekadar bergeser tipis.
Asumsi versus Kenyataan #
Dalam praktik, keempat asumsi jarang terpenuhi secara persis: residual sedikit miring, variannya sedikit berubah, hubungan sedikit melengkung. Statistikawan terkenal George Box merangkum sikap yang tepat: semua model salah, tetapi sebagian berguna. Regresi yang asumsinya dilanggar ringan tetap memberi prediksi yang layak dan koefisien yang mendekati kebenaran — ia aproksimasi yang terukur, bukan kebenaran struktur. Yang menuntut sikap tegas adalah pelanggaran berat: heteroskedastisitas parah, autocorrelation kuat, atau titik berpengaruh tak terjelaskan — di titik itu, angka-angka model berhenti bisa dipercaya dan pilihan penanganan pada tabel di atas wajib dijalankan sebelum menyimpulkan apa pun.
Asumsi yang sehat memberi kita hak untuk memercayai koefisien dan prediksi model. Pertanyaan terakhir rangkaian regresi kita bersifat praktis: seberapa baik model ini bekerja? Jawabannya butuh satu set metrik — seberapa besar variasi yang dijelaskan, seberapa besar galat tipikalnya, dan bagaimana mengujinya pada data yang belum pernah dilihat model — topik chapter penutup section ini: Evaluasi Model Regresi.