Penerapan Best Subset Selection dan Least Absolute Shrinkage and Selection Operator (LASSO) Dalam Mereduksi Peubah Bebas

Abstract

Metode kuadrat terkecil pada umumnya tidak memberikan hasil yang memuaskan ketika banyak peubah bebas yang terlibat pada pendugaan parameter regresi apalagi jika terjadi masalah mutikolinearitas. Penduga kuadrat terkecil akan memiliki bias yang rendah namun ragam menjadi lebih besar, selain itu semakin banyak peubah bebas maka interpretasi model menjadi semakin sulit. Oleh karena itu, diperlukan suatu metode seleksi peubah dalam menduga model regresi. Metode Best Subset merupakan salah satu metode seleksi peubah yang dapat mengurangi ragam pendugaan dengan mengorbankan sedikit bias. Kemudian pada tahun 1996 muncul metode Least Absolute Shrinkage and Selection Operator (LASSO) yang berusaha menerapkan prinsip penyusutan koefisien dan seleksi peubah bebas. Penelitian ini akan menerapkan metode LASSO dan Best Subset Selection sebagai operator seleksi peubah bebas pada data yang terdapat multikolinearitas. Pemilihan model dengan metode best subset menghasilkan dua pilihan model terbaik karena terdapat beberapa kriteria dalam memilih model. Sementara pada LASSO pemilihan model didasarkan pada nilai validasi silang (Cross validation) dan Cp mallows menghasilkan satu model terbaik dengan lima peubah bebas. Pada model subset (1) hanya dua peubah yang masuk, kedua peubah ini berpengaruh signifikan terhadap peubah respon. Pada subset (2) menghasilkan enam peubah dimana hanya peubah X7, X10. dan X12 yang berpengaruh nyata terhadap peubah respon. Terdapat perbedaan tanda koefisien pada model subset (2) dengan koefisien korelasi sederhananya. Hal ini dapat disebabkan masih adanya pengaruh multikolinearitas pada model. Oleh karena itu, metode LASSO lebih baik karena selain menghasilkan model yang sederhana, metode ini dapat mengatasi multikolinearitas.