Kajian Analisis Klasifikasi Ensemble dengan Pendekatan Riam (Cascade).

Abstract

Salah satu cara yang dapat digunakan untuk meningkatkan akurasi pada pemodelan klasifikasi adalah menggabungkan prediksi dari beberapa model dasar. Beberapa metode yang dapat dilakukan untuk menggabungkan prediksi model diantaranya voting, model averaging, stacking, dan riam (cascade). Dari keempat metode tersebut, kajian metode riam masih sedikit dilakukan. Metode riam menggabungkan beberapa prediksi model dasar secara bertahap. Pada setiap tahap, prediksi peluang dari model dasar dimasukkan ke dalam data. Data kemudian dimodelkan dengan algoritma model akhir. Penerapan metode riam dapat dilakukan secara global ataupun lokal. Secara global, peluang model dasar dimasukkan secara bertahap pada data dan dilakukan prediksi dengan model akhir yang ditentukan. Penerapan secara lokal, dapat dilakukan dengan algoritma pohon klasifikasi. Peluang model dasar dimasukkan setiap algoritma akan melakukan split. Kajian pada penelitian ini dibatasi pada metode riam lokal. Algoritma model akhir yang digunakan adalah pohon klasifikasi (CART), dengan kombinasi algoritma model dasar regresi logistik, diskriminan linier, neural networks, linear support vector machine, bagging, boosting, dan random forest. Untuk setiap kombinasi dipilih dua algoritma model dasar, sehingga akan dicobakan 21 kombinasi. 11 gugus data dengan respon biner digunakan untuk mengevaluasi kebaikan metode riam. Perbandingan akurasi dilakukan dengan penelitian yang dipublikasi tahun 1996 hingga 2009. Hasil penelitian menunjukkan tidak ada pengaruh pemilihan algoritma model dasar pada metode riam. Pengaruh struktur data terlihat bahwa metode riam baik untuk gugus data dengan peubah prediktor kategorik. Walaupun demikian, tidak terlihat perbaikan akurasi pada gugus data dengan jenis peubah prediktor kategorik. Perbaikan akurasi terlihat lebih stabil pada gugus data dengan prediktor numerik.