scikit-learn

Modul pembuka: kedudukan scikit-learn, perumusan masalah machine learning, dan penyiapan lingkungan.

1. Apa itu scikit-learn ?Kedudukan scikit-learn sebagai pustaka machine learning klasik dan desain API yang konsisten.
2. Perumusan Masalah Machine LearningMembedakan supervised dan unsupervised learning serta mengenali fitur dan target.
3. Penyiapan LingkunganInstalasi scikit-learn, pemeriksaan versi, dan pemuatan dataset bawaan seperti iris dan digits.

Kontrak universal fit, predict, dan transform yang menjadi pola berulang di seluruh scikit-learn.

1. Pola fit dan predictAntarmuka estimator universal yang menaungi semua model scikit-learn.
2. Classifier PertamaMelatih dan menguji KNeighborsClassifier pada dataset iris secara end-to-end.
3. Train/test splitMemecah data dengan train_test_split, stratify, dan disiplin random_state.
4. Kebocoran DataMengenali data leakage, mengapa skor menjadi menggelembung, dan jalur masuknya.
5. Model BaselineDummyClassifier sebagai tolok ukur minimum yang harus dikalahkan setiap model.

Transformasi data mentah menjadi siap model: scaling, encoding, imputasi, dan pemilihan kolom.

1. ScalingStandardScaler, MinMaxScaler, dan RobustScaler untuk penyetaraan skala fitur.
2. Mengapa Scaling DiperlukanModel berbasis jarak dan gradien membutuhkan skala seragam, model pohon tidak.
3. Encoding KategoriOneHotEncoder dan OrdinalEncoder untuk fitur non-numerik.
4. Nilai yang HilangStrategi SimpleImputer untuk menangani data yang tidak lengkap.
5. Fitting Hanya pada TrainAturan anti-kebocoran untuk setiap transformer: fit di train, transform di test.
6. Pemilihan Kolom dengan ColumnTransformerMenangani kolom numerik dan kategorikal dalam satu transformasi.

Merangkai praproses dan model menjadi satu objek yang tak bisa bocor.

1. Dasar PipelineMerangkai transformer dan estimator menjadi satu alur.
2. Pipeline dan ColumnTransformerPola kanonik praproses kolom campuran di dunia nyata.
3. Pipeline Mencegah KebocoranMengapa cross-validation di atas pipeline menghasilkan skor yang jujur.
4. Transformer KustomFunctionTransformer dan penulisan transformer buatan sendiri.

Memprediksi nilai kontinu dengan regresi linear, fitur polinomial, dan regularisasi.

1. Regresi LinearFitting LinearRegression dan interpretasi koefisien.
2. Fitur PolinomialPolynomialFeatures, nonlinearitas, dan demonstrasi overfitting.
3. Regularisasi Ridge dan LassoMenahan kompleksitas model dengan penalaan alpha.
4. Metrik RegresiMAE, MSE, RMSE, dan R-squared beserta maknanya.
5. Analisis ResidualMembaca error model dan mengenali asumsi yang dilanggar.

Kelas-kelas classifier utama scikit-learn, masing-masing dibandingkan terhadap baseline.

1. Regresi LogistikLogisticRegression sebagai classifier linear yang namanya mengandung kata regresi.
2. Decision TreePemisahan fitur, kontrol kedalaman, dan keterinterpretasian pohon.
3. Random ForestEnsemble pohon dan intuisi skor out-of-bag.
4. Gradient BoostingHistGradientBoostingClassifier sebagai pilihan modern untuk data tabular.
5. KNN dan Naive BayesDua baseline sederhana dengan kegunaan nyata.
6. Kesadaran SVMKernel dan situasi ketika SVM cocok dipakai.

Metrik klasifikasi yang jujur: confusion matrix, precision, recall, F1, dan ROC.

1. Batas-Batas AccuracyKetidakseimbangan kelas membuat accuracy berbohong.
2. Confusion MatrixTP, FP, FN, TN beserta konsekuensi nyatanya.
3. Precision, Recall, dan F1Memilih kompromi antara presisi dan cakupan.
4. ROC dan AUCKurva ROC, threshold, dan ukuran kualitas yang bebas threshold.
5. Penanganan Ketidakseimbangan Kelasclass_weight dan kesadaran resampling.

Estimasi performa yang stabil dan penalaan hyperparameter yang disiplin.

1. Cross-validationKFold, StratifiedKFold, dan cross_val_score.
2. GridSearchCVPenalaan menyeluruh hyperparameter di atas pipeline.
3. RandomizedSearchCVKapan pencarian acak mengalahkan grid penuh.
4. Kesadaran Nested CVEstimasi performa yang jujur bagi model yang telah ditala.

Clustering dan PCA: belajar dari data tanpa label.

1. Masalah ClusteringMenata data tanpa label dan menilai hasil dengan kriteria yang berbeda.
2. KMeansMemilih k, membaca inertia, dan silhouette.
3. DBSCANClustering kepadatan dan penanganan noise.
4. Clustering HierarkisAgglomerativeClustering dan kesadaran dendrogram.
5. PCAVariansi, komponen utama, dan pentingnya scaling sebelum PCA.

Fitur yang tepat menggerakkan metrik lebih daripada model yang canggih.

1. Penciptaan FiturFitur berbasis pengetahuan domain dan efeknya pada metrik.
2. Interaksi dan RasioFitur multiplikatif yang memperjelas pola.
3. Seleksi FiturSelectKBest dan kepentingan berbasis model.
4. Membaca Kepentingan FiturKoefisien, kepentingan, dan kehati-hatiannya.

Model yang disimpan, dimuat, dieksekusi ulang, dan ditata sebagai modul.

1. Persistensi ModelMenyimpan dan memuat model dengan joblib serta penguncian versi.
2. Desain InferensiJebakan prediksi batch versus satu baris.
3. Pelacakan EksperimenMengorganisasi run, parameter, dan hasil.
4. Dari Notebook ke ModulMenata kode scikit-learn agar dapat dipakai ulang.

Proyek end-to-end: pemilihan masalah, pipeline penuh, dan evaluasi yang jujur.

1. Pemilihan Masalah dan DataMemilih masalah tabular dan menilai datanya sebelum memodelkan.
2. Pembangunan Pipeline PenuhDari ingestion hingga model tertala dalam satu pipeline.
3. Evaluasi yang JujurStrategi CV, holdout akhir, dan narasi metrik.