Topik ini menempatkan NLP klasik di antara kurikulum lain yang menjadikan bahasa sebagai data, yaitu machine-learning, deep-learning, dan llm-apps. Pembahasan menyatakan materi apa yang diwariskan setiap kurikulum kepada NLP klasik, materi apa yang diserahkan NLP klasik kepada kurikulum modern, dan peran alat pendukung di sepanjang perbatasan itu. Tabel di akhir topik merangkum pembagian kerja tersebut dalam satu pandangan.
Peta empat kurikulum#
Kurikulum machine-learning, yaitu kurikulum pembelajaran mesin, mengajarkan dasar-dasar yang dipinjam NLP klasik tanpa perombakan. Klasifikasi terawasi, validasi silang (cross-validation), dan metrik evaluasi seperti presisi serta recall sudah dibahas dalam kurikulum tersebut. Pada jalur ini, teks hanya mengganti domain data, sedangkan mesin evaluasinya tetap sama.
Kurikulum deep-learning, yaitu kurikulum jaringan saraf dalam, membawa embedding berskala besar dan arsitektur transformer, yaitu arsitektur jaringan saraf yang menghitung hubungan antarkata melalui mekanisme attention. Transformer mengambil alih banyak tugas yang dahulu dikerjakan model klasik apabila data melimpah dan biaya komputasi tersedia. NLP klasik tetap mengajarkan vektor statis dan batasnya, karena pemahaman itu menjadi dasar untuk membaca model yang lebih besar.
Kurikulum llm-apps adalah kelanjutan modernnya, yaitu kurikulum pembangunan aplikasi di atas model bahasa besar (LLM). Instruksi bagi model disusun melalui prompting, yakni perumusan instruksi dalam bahasa alami, sedangkan pengetahuan tambahan diberikan melalui retrieval-augmented generation (RAG), yakni penggabungan pencarian dokumen dengan LLM. Kedua teknik tersebut tidak menghapus kebutuhan NLP klasik, karena bahan yang dicari tetap harus dipraproses dan disaring.
Jalur NLP klasik mengisi lapisan yang tidak dibahas mendalam oleh ketiga kurikulum tersebut, yaitu teknik yang membuat teks dapat dihitung dengan biaya rendah. Lapisan inilah yang menjalankan praproses, penyaringan, dan klasifikasi bervolume tinggi pada sistem nyata. Keempat kurikulum karenanya saling melengkapi, bukan saling menggantikan.
Perbatasan dengan kurikulum machine-learning#
Perbatasan pertama menyangkut mesin evaluasi. Kurikulum machine-learning mengasumsikan penguasaan klasifikasi terawasi, validasi silang, dan pembacaan metrik, sehingga NLP klasik tidak perlu mengulang mekanikanya dari nol. Tugas NLP klasik pada batas ini adalah menerjemahkan masalah bahasa ke dalam bentuk yang dapat dievaluasi mesin tersebut, misalnya menetapkan label kelas dan membagi korpus menjadi data latih serta data uji. Hasil evaluasinya pun dapat dibandingkan secara adil antarmodel karena mesin metriknya sama.
Perbatasan kedua menyangkut mekanika representasi. scikit-learn menyediakan vectorizer, yaitu komponen yang mengubah kumpulan dokumen menjadi matriks hitungan kata atau bobot TF-IDF. Mekanika tersebut menjadi tulang punggung klasifikasi teks klasik, sedangkan keputusan bahasanya, seperti pilihan token dan daftar kata yang dibuang, datang dari pengetahuan NLP klasik.
Pada perbatasan yang sama, pandas menangani sisi data. Kolom teks pada tabel data ditata, difilter, dan dibersihkan menggunakan pandas sebelum masuk ke vectorizer. Pembagian kerjanya jelas, yaitu pandas mengelola data, scikit-learn menghitung representasi dan melatih model, sedangkan NLP klasik menentukan keputusan bahasa pada setiap langkahnya.
Perbatasan dengan kurikulum deep-learning#
Kurikulum deep-learning menangani embedding pada skala besar, mulai dari vektor praterlatih hingga vektor kontekstual dari transformer. NLP klasik berhenti pada vektor statis yang dilatih pada korpus kecil, seperti arsitektur word2vec, dan menyatakan batasnya secara terbuka, misalnya kegagalan membedakan makna kata yang polisemik. Pemetaan ini menjaga ekspektasi tetap realistis ketika vektor klasik digunakan untuk tugas semantik.
Pada tugas klasifikasi dan pelabelan barisan, transformer umumnya unggul apabila data pelatihan melimpah dan infrastruktur kartu grafis tersedia. Kondisi itu tidak selalu terpenuhi, misalnya pada data organisasi yang sensitif dan berukuran kecil. Pada kondisi tersebut, model klasik masih menjadi pilihan pertama karena pelatihannya cepat dan perilakunya dapat diaudit.
Perbatasan ini bersifat serah terima, bukan penggantian penuh. Tugas yang berpindah ke transformer adalah tugas berdata besar yang menuntut pemahaman konteks, sedangkan tugas berdata kecil dengan kategori tetap berada di jalur klasik. Menyatakan batas seperti ini lebih jujur daripada mengklaim satu pendekatan menggantikan semuanya. Klaim berlebihan pada kedua arah sama-sama menyesatkan perancang sistem.
Perbatasan dengan kurikulum llm-apps#
Kurikulum llm-apps membangun aplikasi di atas LLM. Instruksi disusun melalui prompting, sedangkan pengetahuan tambahan diberikan melalui RAG. Kedua teknik tersebut adalah kelanjutan modern dari permasalahan yang sama, yaitu bagaimana teks diubah menjadi jawaban yang berguna.
NLP klasik berdiri di sekitar panggilan LLM, bukan di dalamnya. Praproses dokumen, pemenggalan dokumen menjadi bagian kecil, penyaringan hasil, dan pencarian kata kunci tetap dikerjakan komponen klasik. Pencarian kata kunci pada skala besar ditampung elasticsearch dengan algoritma BM25, yaitu algoritma peringkat dokumen yang mengembangkan hitungan kata klasik. Praproses dan pencarian tersebut berjalan setiap kali pengguna meminta jawaban, sehingga kecepatannya langsung memengaruhi pengalaman pengguna.
Pembagian ini menjaga biaya tetap terkendali. Panggilan LLM mahal dan lambat dibandingkan operasi teks biasa, sehingga langkah yang dapat diselesaikan dengan aturan atau model kecil tidak perlu dibebankan kepadanya. Perbatasan llm-apps karenanya menyangkut keputusan biaya, bukan sekadar perbedaan teknologi. Keputusan tersebut diambil per langkah, sehingga satu sistem dapat memadukan komponen klasik dan LLM pada alur yang sama.
Pembagian kerja dalam satu tabel#
Tabel berikut merangkum pembagian kerja antarkurikulum dan alat yang dibahas sepanjang topik ini. Setiap baris menyebutkan satu kurikulum atau alat, materi yang dibawanya, dan arah serah terimanya dengan NLP klasik. Baris alat menegaskan bahwa alat menjalankan mekanika, sedangkan kurikulum menjelaskan alasannya.
| Kurikulum atau alat | Materi yang dibawa | Perbatasan dengan NLP klasik |
|---|---|---|
| machine-learning | klasifikasi terawasi, validasi silang, metrik evaluasi | menyumbang mesin evaluasi yang digunakan NLP klasik untuk menguji model teks |
| deep-learning | embedding berskala besar, transformer | mengambil alih tugas berdata besar yang menuntut pemahaman konteks |
| NLP klasik (jalur ini) | tokenisasi, regex, klasifikasi teks, embedding kata, pelabelan barisan, pemodelan topik | menjadi lapisan perangkat pra-LLM yang cepat, murah, dan dapat diperiksa |
| llm-apps | prompting, retrieval-augmented generation (RAG) | menggunakan NLP klasik untuk praproses, penyaringan, dan pencarian bahan |
| scikit-learn | vectorizer, model klasik, evaluasi | menyediakan mekanika hitungan kata sampai TF-IDF |
| pandas | tabel dan kolom teks | mengelola data teks sebelum masuk ke pipeline |
| elasticsearch | indeks pencarian dan BM25 | menampung peringkat dokumen berbasis kata kunci |
Cara membacanya sederhana. Apabila sebuah masalah teks membutuhkan evaluasi terukur, mesinnya datang dari kurikulum machine-learning. Apabila datanya melimpah dan konteksnya rumit, pilihan berpindah ke transformer yang dibawa kurikulum deep-learning. Apabila aplikasinya dibangun di atas LLM, komponen klasik tetap mengerjakan praproses dan pencariannya.
Ringkasan#
- Kurikulum machine-learning menyumbang klasifikasi terawasi, validasi silang, dan metrik, sedangkan scikit-learn menyediakan mekanika vectorizer dan pandas mengelola kolom teks.
- Kurikulum deep-learning membawa embedding berskala besar dan transformer untuk tugas berdata besar, sehingga vektor statis klasik digunakan pada wilayah data kecil.
- Kurikulum llm-apps adalah kelanjutan modern melalui prompting dan RAG, dengan elasticsearch menampung pencarian BM25 di sekitarnya.
- NLP klasik mengisi lapisan teknik pra-LLM yang cepat, murah, dan dapat diperiksa, sehingga setiap kurikulum memiliki wilayah kerja yang jelas.
Referensi#
- Speech and Language Processing, draf edisi ke-3 — Jurafsky & Martin, Stanford — Buku ini menjabarkan tokenisasi, klasifikasi teks, dan pelabelan barisan sebagai fondasi NLP pra-transformer.
- Feature extraction dari teks — scikit-learn — Dokumentasi resmi mekanika vectorizer, mulai dari hitungan kata sampai TF-IDF.