Point Estimation

Sejauh ini kita memakai x̄ untuk menaksir μ seolah pilihan itu satu-satunya. Kenyataannya, banyak statistik bisa mengajukan diri: median, rata-rata dua nilai tengah, rata-rata tanpa nilai ekstrem — semuanya menghasilkan angka dari sampel yang sama. Statistika tidak memilih penaksir secara selera; ada kriteria terukur untuk menilai mana yang layak. Chapter ini memformalkan gagasan penaksiran titik (point estimation): membedakan estimator dari taksirannya, menguji tiga sifat penaksir yang baik — tak-bias, konsisten, dan efisien — dengan bukti numerik dari chapter-chapter sebelumnya, lalu mengintip dua cara membangun estimator: method of moments dan maximum likelihood.

Estimator dan Taksiran #

Notasi umum memakai θ (dibaca “theta”) untuk parameter yang ditaksir dan θ̂ (dibaca “theta-topi”) untuk penaksirnya. Dua istilah yang menyertainya harus dipisahkan sejak awal:

Estimator adalah aturan atau rumus — fungsi dari data sampel. Contoh: “rata-ratakan seluruh nilai sampel” adalah estimator; demikian pula “ambil nilai tengah”.
Taksiran (estimate) adalah angka yang dihasilkan estimator pada satu sampel konkret. Dari data sembilan siswa, estimator x̄ menghasilkan taksiran 83.33.

Analogi sederhananya: estimator adalah alat ukur, taksiran adalah hasil pembacaannya sekali pakai. Estimator bersifat tetap untuk satu masalah; taksiran berganti setiap kali sampel diambil ulang — persis perilaku variabel acak yang dipetakan pada chapter Distribusi Sampling.

Sifat Pertama: Tak-bias #

Estimator disebut tak-bias (unbiased) bila rata-rata seluruh taksiran yang mungkin tepat sama dengan parameter:

text

E[θ̂] = θ        (harapan estimator = parameter)
bias = E[θ̂] - θ (nol bila tak-bias)

Kita sudah punya bukti numeriknya. Chapter Distribusi Sampling menghitung seluruh 15 sampel n = 2 dari populasi enam siswa: mean dari 15 nilai x̄ adalah 72.5, tepat sama dengan μ. Tidak ada kebetulan di situ — mean distribusi sampling x̄ selalu μ, sehingga x̄ adalah penaksir tak-bias untuk μ. Proporsi sampel p̂ juga tak-bias untuk p. Sebaliknya, sejarah statistika menyimpan estimator yang bias dan harus diperbaiki; contoh klasiknya ada di rumus varians.

Estimator yang bias ke bawah akan, dalam jangka panjang, menaksir parameter terlalu kecil secara sistematis — sampel mana pun yang diambil, kecondongan itu terbawa. Sifat tak-bias adalah syarat pertama yang murah dan bisa diuji, tetapi bukan satu-satunya: dua estimator tak-bias bisa sama adil namun berbeda jauh kualitasnya. Pembeda berikutnya: konsistensi dan efisiensi.

Sifat Kedua: Konsistensi #

Estimator konsisten bila taksirannya makin menempel pada parameter seiring n membesar. Mekanismenya sudah kita hitung: sebaran x̄ menyempit mengikuti σ/√n (chapter Standard Error), sehingga jarak tipikal x̄ dari μ menyusut menuju nol. Simulasi kecil berikut menggambarkannya pada satu aliran data dari populasi nilai dengan μ = 72.5 dan σ = 8.5391 — mean kumulatif dihitung pada beberapa titik n:

text
n =   10  x̄ = 70.7722  selisih dari μ = -1.7278
n =  100  x̄ = 71.0233  selisih dari μ = -1.4767
n =  500  x̄ = 71.4042  selisih dari μ = -1.0958
n = 1000  x̄ = 71.8828  selisih dari μ = -0.6172
n = 4000  x̄ = 72.3497  selisih dari μ = -0.1503

Pada 10 data, rata-rata kumulatif meleset 1.73 poin; pada 4000 data, meleset tinggal 0.15 poin. Konsistensi tidak menjamin selisih mengecil pada setiap langkah — fluktuasi kecil tetap terjadi — tetapi tren jangka panjangnya jelas menempel ke μ. Inilah dasar logika menambah data ketika taksiran belum cukup presisi.

Sifat Ketiga: Efisiensi #

Dua estimator tak-bias bisa dibandingkan lewat varians: yang lebih kecil variansnya lebih efisien, karena taksirannya lebih sering mendarat dekat parameter. Kandidat terkenal untuk μ adalah mean dan median. Simulasi berikut mengambil 1000 sampel n = 9 dari populasi normal (μ = 72.5, σ = 8.5391), lalu membandingkan sebaran kedua penaksir (angka dibulatkan ke empat desimal):

text
var(x̄)      = 8.4254
var(median) = 11.4196
rasio       = 1.36

Pada populasi normal, median juga tak-bias, tetapi variansnya sekitar 36 persen lebih besar — median hanya memakai urutan data, sementara mean memanfaatkan seluruh nilainya. Mean kalah ketika data terkontaminasi nilai ekstrem (rujuk pembahasan outlier pada chapter Mean dan Median); pada populasi normal yang bersih, mean juara efisiensi. Tidak ada estimator unggul untuk semua situasi — itulah mengapa sifat-sifat ini perlu diuji, bukan diasumsikan.

Method of Moments: Satu Contoh Sederhana #

Method of moments membangun estimator dengan menyamakan moment populasi (mean, varians, dan seterusnya) dengan moment sampelnya. Contoh paling sederhana: parameter p distribusi Bernoulli (chapter Distribusi Bernoulli) punya E[X] = p, jadi samakan mean populasi dengan mean sampel:

text

E[X] = p  =  (jumlah sukses) / n
p̂ = x̄ dari data Bernoulli

Dari 20 percobaan yang menghasilkan 12 sukses, taksirannya p̂ = 12/20 = 0.6. Frekuensi relatif yang selama ini kita pakai untuk menaksir peluang ternyata adalah estimator method of moments — dan sekaligus tak-bias, karena E[p̂] = p.

Sekilas Maximum Likelihood #

Pendekatan kedua yang lebih umum di dunia modern adalah maximum likelihood estimation (MLE): pilih nilai parameter yang membuat data teramati menjadi paling mungkin terjadi. Untuk kasus-kasus sederhana hasilnya sering sama dengan method of moments — taksir p Bernoulli lewat frekuensi relatif adalah MLE sekaligus. Perbedaannya tampak pada kasus yang lebih kaya: MLE bagi σ² memakai pembagi n, bukan n − 1. Kita tidak menurunkan MLE di course ini; cukup dikenali namanya sekarang, karena hampir seluruh regresi dan machine learning pada section lanjutan dibangun di atas prinsip likelihood.

Mengapa s² Membagi n − 1 #

Bias contoh paling instruktif justru ada di varians. Pembagi n menghasilkan estimator s² yang bias ke bawah — rata-rata jangka panjangnya lebih kecil dari σ² — karena x̄ sendiri dihitung dari data yang sama sehingga simpangan data terhadap x̄ lebih kecil daripada simpangan terhadap μ. Pembagi n − 1 membetulkan kecondongan itu dan menjadikan s² tak-bias. Penurunan lengkapnya sudah dibahas pada chapter Varians; bagi kita, cukup dicatat bahwa keputusan kecil “n atau n − 1” dalam rumus adalah keputusan tentang bias.

Tabel Estimator Umum #

Praktik sehari-hari memakai pasangan parameter-estimator yang sudah baku, lengkap dengan standard error-nya:

Parameter	Estimator	Standard error
μ	x̄	s / √n
p	p̂	√(p̂(1 - p̂) / n)
σ²	s²	tidak dibahas di course ini
μ1 - μ2	x̄1 - x̄2	√(s1²/n1 + s2²/n2)

Baris terakhir membandingkan dua populasi: selisih dua mean dipakai sebagai penaksir selisih parameter, dan varians penaksirnya menjadi penjumlahan varians kedua komponen — aturan yang akan banyak dipakai pada Section Pengujian Hipotesis. Seluruh SE pada kolom ketiga lahir dari aturan yang sama: sebaran penaksir mengecil terhadap sebaran data seiring n membesar.

Menghitung dengan Python #

Dua blok berikut memverifikasi sifat tak-bias dan efisiensi, lalu konsistensi:

python
import numpy as np
import statistics
from itertools import combinations

populasi = [60, 65, 70, 75, 80, 85]
xbar_semua = [statistics.mean(p) for p in combinations(populasi, 2)]
print(f"mu populasi         = {statistics.mean(populasi)}")
print(f"mean dari 15 x-bar  = {statistics.mean(xbar_semua)}")

rng = np.random.default_rng(42)
sampel = rng.normal(72.5, 8.5391, size=(1000, 9))
rata = sampel.mean(axis=1)
median = np.median(sampel, axis=1)
print(f"var(x-bar)   = {rata.var(ddof=1):.4f}")
print(f"var(median)  = {median.var(ddof=1):.4f}")
print(f"rasio        = {median.var(ddof=1) / rata.var(ddof=1):.2f}")

Output yang Dihasilkan:

text
mu populasi         = 72.5
mean dari 15 x-bar  = 72.5
var(x-bar)   = 8.4254
var(median)  = 11.4196
rasio        = 1.36

python
import numpy as np

mu, sigma = 72.5, 8.5391
rng = np.random.default_rng(7)
data = rng.normal(mu, sigma, size=4000)

for n in (10, 100, 500, 1000, 4000):
    xbar = data[:n].mean()
    print(f"n = {n:>4}  x-bar = {xbar:8.4f}  selisih dari mu = {xbar - mu:+.4f}")

Output yang Dihasilkan:

text
n =   10  x-bar =  70.7722  selisih dari mu = -1.7278
n =  100  x-bar =  71.0233  selisih dari mu = -1.4767
n =  500  x-bar =  71.4042  selisih dari mu = -1.0958
n = 1000  x-bar =  71.8828  selisih dari mu = -0.6172
n = 4000  x-bar =  72.3497  selisih dari mu = -0.1503

Mari kita bedah kode di atas:

Blok 1, baris 6-8 (uji tak-bias eksak): seluruh 15 sampel dari populasi mini dihitung ulang; mean 15 nilai x̄ tercetak 72.5, sama persis dengan μ — bukti tak-bias tanpa simulasi.
Blok 1, baris 10-16 (uji efisiensi): 1000 sampel n = 9 dari populasi normal dengan seed tetap; varians mean 8.4254 lebih kecil daripada varians median 11.4196 — rasio 1.36 sesuai pembahasan efisiensi.
Blok 2, baris 6-9 (uji konsistensi): satu aliran 4000 data dengan seed 7; mean kumulatif pada titik n = 10 hingga 4000 merapat ke μ — selisih menyusut dari 1.7278 menjadi 0.1503.

Taksiran titik memberi satu angka terbaik, tetapi satu angka tidak membawa informasi seberapa jauh angka itu bisa meleset. Standard error dari chapter sebelumnya sudah menunggu untuk diangkat menjadi rentang bermakna: “x̄ plus-minus berapa”. Konstruksi rentang itulah isi chapter Confidence Interval berikutnya. Pengantar ringkas teori penaksiran tersedia di OpenIntro Statistics dan Penn State STAT 500 .