Kajian Seleksi Peubah pada Algoritma K Nearest Neighbors dan Support Vector Machine untuk Klasifikasi Mutu SMP/MTs di Provinsi Papua

Abstract

Analisis klasifikasi merupakan salah satu metode pengolahan data dalam pembelajaran statistika terawasi (supervised) yang bertujuan menemukan sebuah model yang dapat menjelaskan dan membedakan konsep dari kelas data dengan tujuan memprediksi kelas dari sebuah objek tertentu yang tidak diketahui kelasnya. Beberapa model yang umum digunakan dalam analisis klasifikasi antara lain Neural Network, Naïve Bayes, k Nearest Neighbor, Decision Tree, Regresi Logistik, dan Support Vector Machines (SVM). Beberapa hal yang perlu diperhatikan pada data sebelum melakukan analisis klasifikasi antara lain data hilang, relevansi peubah penjelas, dan ketidakseimbangan kelas. Penelitian ini menggunakan teknik Multivariate Imputation by Chained Equation (MICE) untuk penanganan nilai hilang pada data, algoritma Boruta untuk menyeleksi peubah yang relevan, penanganan ketidakseimbangan kelas pada data dengan Synthetic Minority Oversampling Technique (SMOTE), dan K-Nearest Neighbor (KNN) dan Support Vector Machines (SVM) sebagai algoritma klasifikasinya. MICE merupakan salah satu teknik mengisi nilai hilang pada data dengan membuat model prediktif dengan peubah lain dalam data untuk memprediksi nilai yang hilang tersebut. Boruta merupakan teknik wrapper yang dibangun berdasarkan keunggulan algoritma Random Forest untuk menyeleksi and mengestimasi kepentingan peubah yang relevan. KNN merupakan salah algoritma klasifikasi pada pembelajaran statistika terawasi yang melakukan klasifikasi terhadap suatu objek baru dalam data latih berdasarkan jarak yang paling dekat dengan objek pada data uji. SVM adalah salah satu metode klasifikasi pembelajaran statistika terawasi berbasis linear dengan tujuan mencari bidang pemisah terbaik yang dapat memisahkan setiap kelas dengan baik. Beberapa penelitian terdahulu telah membuktikan bahwa penggunaan model KNN dan SVM dapat menghasilkan nilai akurasi klasifikasi yang tinggi. ...