Penerapan Regresi Gulud dan Least Absolute Shrinkage and Selection Operator (LASSO) dalam Penyusutan Koefisien Regresi

Abstract

Multikolinearitas merupakan salah satu pelanggaran asumsi dalam analisis regresi linier berganda yang dapat terjadi ketika terdapat korelasi yang tinggi antar peubah bebas. Multikolinearitas menyebabkan penduga dengan metode kuadrat terkecil (MKT) menjadi tidak stabil dan menghasilkan ragam yang besar. Salah satu cara untuk mengatasi masalah multikolinearitas tersebut adalah dengan menggunakan regresi gulud (ridge regression). Regresi gulud dapat mengatasi masalah multikolinearitas melalui pemilihan nilai λ yang tepat. Regresi gulud menyusutkan koefisien MKT ke arah nol tetapi tidak dapat melakukan seleksi model. Meskipun model yang diperoleh dari regresi gulud berbias, tetapi keragaman koefisien regresi yang dihasilkan relatif kecil. Akan tetapi, regresi gulud semakin sulit diinterpretasikan jika jumlah peubah bebas yang digunakan sangat banyak. Least Absolute Shrinkage and Selection Operator (LASSO) merupakan metode komputasi dengan menggunakan pemrograman kuadratik yang dapat memerankan prinsip regresi gulud serta melakukan seleksi model. Metode LASSO mulai dikenal setelah ditemukannya algoritma LAR pada tahun 2004. Modifikasi dari LAR untuk LASSO menghasilkan algoritma yang lebih efisien dalam menduga solusi penduga koefisien LASSO dengan komputasi yang lebih cepat dibandingkan pemrograman kuadratik. Metode LASSO dapat menyusutkan koefisien MKT tepat nol sehingga dapat melakukan seleksi peubah. Dengan demikian, model yang dihasilkan metode LASSO lebih sederhana dan secara tidak langsung bebas dari multikolinearitas.