Apa itu deep learning?

Definisi deep learning, bidang tempatnya unggul seperti visi dan bahasa, serta keterbatasannya yang nyata.

Daftar isi

Deep learning adalah cabang machine learning yang membangun model dari jaringan saraf berlapis, yaitu rangkaian operasi matematika yang menata ulang representasi data secara bertahap. Topik ini mendefinisikan letak deep learning di dalam peta kecerdasan buatan, menjelaskan bidang tempatnya unggul, dan menyebut keterbatasannya secara jujur. Hasil yang diperoleh pembaca adalah kerangka keputusan sederhana untuk menilai kapan deep learning menjadi pilihan yang tepat pada sebuah masalah.

Pembelajaran representasi berlapis#

Ciri pembeda deep learning terletak pada kata deep, yakni banyaknya lapis transformasi yang diterapkan pada data sebelum keputusan akhir diambil. Model klasik seperti regresi logistik bekerja pada fitur yang disiapkan manusia, sedangkan jaringan saraf dalam mempelajari fitur itu sendiri dari data mentah. Pada pengenalan citra, layer awal cenderung merespons garis dan tepi, layer tengah merespons tekstur dan bagian objek, dan layer akhir merespons objek utuh. Susunan ini disebut pembelajaran representasi berlapis (hierarchical feature learning).

Istilah feature (fitur) dipakai sepanjang jalur ini untuk menyebut besaran terukur yang menjadi masukan keputusan. Karena representasi dipelajari, pekerjaan manusia bergeser dari merancang fitur ke merancang arsitektur dan proses pelatihan. Pergeseran ini yang menjelaskan mengapa satu keluarga arsitektur yang sama, misalnya jaringan konvolusional, dapat melayani pengenalan wajah, deteksi tumor pada rontgen, dan klasifikasi jenis awan dengan penyesuaian data dan parameter pelatihan saja.

Jumlah parameter menjadi ukuran kapasitas model. Parameter adalah bilangan yang diubah oleh proses pelatihan, dan jaringan yang dalam dapat memuat jutaan sampai miliaran parameter. Kapasitas besar inilah yang memungkinkan model menangkap pola halus, dengan syarat data pelatihan juga masif.

Tempat deep learning unggul#

Deep learning unggul pada masalah persepsi yang datanya masif dan strukturnya kaya, tetapi sulit dinyatakan sebagai aturan eksplisit. Tidak ada aturan manusia yang mampu menyebut ciri geometris “kucing” pada piksel, namun ribuan contoh berlabel cukup bagi jaringan untuk mempelajarinya. Tiga bidang berikut memuat sebagian besar keberhasilan praktisnya.

BidangMasalah tipikalMengapa deep learning cocok
Penglihatan komputerKlasifikasi dan deteksi objek pada citraStruktur spasial ditangkap konvolusi
Pemrosesan bahasaKlasifikasi teks, terjemahan, asisten percakapanUrutan dan konteks ditangkap attention
Sinyal dan suaraPengenalan ucapan, analisis audioPola temporal ditangkap model sekuens

Dua syarat menemani keunggulan tersebut. Pertama, data berlabel dalam jumlah besar, atau data mentah masif untuk paradigma pretraining. Kedua, tenaga komputasi yang memadai, karena pelatihan mengalikan matriks berukuran besar berulang kali. Ketika kedua syarat itu terpenuhi, deep learning hampir selalu menetapkan batas terbaik kinerja pada masalah persepsi.

Tempat deep learning bukan pilihan terbaik#

Klaim keunggulan harus disertai pembaliknya, karena deep learning bukan alat untuk semua masalah. Pada data tabular berukuran kecil hingga menengah, misalnya ratusan baris data pelanggan dengan belasan kolom, alat berbasis pohon seperti gradient boosting sering mengungguli jaringan saraf sekaligus lebih cepat dilatih dan lebih mudah ditafsirkan. Pemilihan alat yang jujur adalah keterampilan profesional, bukan kelemahan.

Keterbatasan lain bersifat struktural. Deep learning membutuhkan data yang banyak, tenaga komputasi yang nyata, dan siklus debug yang disiplin, sehingga biayanya mahal untuk masalah sederhana. Modelnya sulit ditafsirkan karena keputusan lahir dari jutaan perkalian, dan kinerjanya rapuh terhadap distribusi data yang bergeser. Pada sistem yang menuntut penjelasan kepada pengguna atau regulator, kesederhanaan regresi atau pohon keputusan justru menjadi nilai tambah.

Peta istilah yang dipakai sepanjang jalur#

Kosakata inti dipakai dengan makna tetap mulai dari sini. Model adalah fungsi berparameter yang memetakan masukan ke keluaran. Pelatihan (training) adalah proses menyesuaikan parameter agar kekeliruan pada data pelatihan mengecil, sedangkan inference adalah penggunaan model yang sudah dilatih untuk mengolah data baru. Dataset dipilah menjadi data pelatihan untuk penyesuaian parameter dan data evaluasi untuk mengukur kinerja yang belum pernah dilihat model.

Setiap istilah di atas diperdalam pada modul-modulnya masing-masing, sehingga pada tahap ini cukup dipahami relasinya. Satu hal yang perlu ditetapkan sejak awal adalah kerangka kerja implementasinya. Jalur ini menggunakan PyTorch, yaitu pustaka deep learning Python yang menghitung tensor, gradien, dan modul jaringan saraf. Konsep berada pada modul-modul ini, sementara latihan intensif API framework berada pada jalur PyTorch yang menjadi pendampingnya.

Ringkasan#

  • Deep learning mempelajari representasi datanya sendiri melalui lapisan transformasi, alih-alih bergantung pada fitur yang dirancang manusia.
  • Keunggulan terbesarnya ada pada persepsi berbasis data masif, yaitu citra, bahasa, dan sinyal, dengan syarat data dan komputasi memadai.
  • Pada data tabular kecil, gradient boosting sering lebih tepat, sehingga pemilihan alat harus didasari sifat masalah, bukan tren.
  • Model, parameter, pelatihan, dan inference adalah kosakata inti yang maknanya dipakai konsisten sepanjang jalur.

Referensi#

  • Deep Learning — MIT Press — Buku teks rujukan pascasarjana yang memuat fondasi representasi berlapis pada bagian Applied Math and Machine Learning Basics.
  • Deep learning — Nature — Artikel tinjauan LeCun, Bengio, dan Hinton yang memetakan keunggulan deep learning pada persepsi.
  • Dive into Deep Learning — Buku terbuka yang menggabungkan konsep dan kode serta menjadi rujukan silang untuk seluruh modul jalur ini.