Model deep learning dapat gagal dengan cara yang tidak terduga: tertipu oleh gangguan kecil, membocorkan data pelatihan, atau memperkuat bias yang sudah ada. Section ini membahas ancaman tersebut beserta praktik mitigasinya, mulai dari fairness hingga interpretabilitas dan lisensi dataset.

# Bias dan Fairness

Lacak tiga sumber bias pada data latih, ukur ketimpangan dengan demographic parity dan equalized odds, lalu ratakan laju persetujuan lewat threshold per kelompok — semua dengan angka nyata pada dataset kredit fiktif.

Buka → # Privasi Data

Hadapi privasi sebagai masalah keamanan: re-identification lewat join quasi-identifier pada data yang sudah dibuang namanya, lalu penyimpanan kredensial yang benar dengan hash dan salt — dua demo nyata dengan angka konkret.

Buka → # Adversarial Examples

Pahami mengapa model deep learning rapuh terhadap gangguan kecil: FGSM menggeser tiap fitur sebesar epsilon lewat tanda gradien, akurasi model mini runtuh dari 0.93 ke 0.50, dan gangguannya berpindah ke model lain yang tak dikenal penyerang.

Buka → # Data Poisoning

Sisipkan racun ke data latih sebelum model dilatih: 5% label terbalik berpola menurunkan akurasi kelas tertentu, sampel backdoor bertanda titik kecil membuka pintu rahasia, dan deteksi statistik sederhana memulihkan sebagiannya.

Buka → # Model Inversion dan Data Leakage

Model yang dilatih bisa bocor: membership inference membedakan anggota data latih dari orang luar dengan akurasi 71% hanya dari confidence, model inversion merekonstruksi citra representatif, dan LLM menghafal potongan korpus — beserta mitigasinya.

Buka → # Robustness dan Distribution Shift

Ketika dunia bergeser, model ikut jatuh: tiga jenis shift (covariate, label, concept) dipetakan lewat tabel, lalu demo nyata — MLP dengan akurasi sempurna runtuh menjadi 0% pada wilayah fitur yang tak pernah dilihat, dan augmentasi aturan memulihkannya.

Buka → # Interpretabilitas Model

Buka kotak hitam secara terukur: permutation importance menyingkap tiga fitur informatif di antara tiga derau lewat penurunan akurasi, surrogate tree merangkum random forest menjadi empat aturan dengan kesesuaian 90%, dan attention bukan penjelasan.

Buka → # Responsible AI

Rangkai delapan chapter keamanan menjadi kerangka kerja: prinsip yang diterjemahkan menjadi tindakan konkret, pola human-in-the-loop pada titik keputusan, model card sebagai dokumen standar, dan impact assessment sebelum model menyentuh pengguna.

Buka → # Lisensi Dataset dan Model

Kepemilikan hukum atas tiga artefak berbeda — dataset, bobot model, kode — diatur lisensi berbeda: peta MIT, Apache-2.0, CC-BY, CC-BY-NC, hingga GPL beserta izin komersialnya, dan demo filter katalog yang menyingkirkan artefak NC sebelum proyek komersial dimulai.

Buka →