Evaluasi Kinerja K-Means, K-Harmonic Means, dan K-Medoids pada Data yang Mengandung Pencilan

Abstract

Data mining merupakan proses untuk menemukan pola dari sekumpulan data, salah satunya melalui teknik unsupervised learning seperti analisis gerombol. Analisis gerombol bertujuan untuk mengelompokkan objek ke dalam beberapa gerombol berdasarkan kemiripan karakteristik. Namun, dalam praktiknya, analisis gerombol sering menghadapi permasalahan berupa keberadaan pencilan (outlier), yaitu data yang memiliki karakteristik sangat berbeda dibandingkan data lainnya. Kehadiran pencilan dapat memengaruhi hasil pengelompokan sehingga gerombol yang terbentuk menjadi kurang representatif. Metode K-Means merupakan salah satu metode penggerombolan berbasis partisi yang banyak digunakan karena sederhana dan efisien. Akan tetapi, metode ini sensitif terhadap pencilan dan sangat bergantung pada inisialisasi awal titik pusat gerombol. Untuk mengatasi kelemahan tersebut, dikembangkan metode K-Harmonic Means dan K-Medoids yang dinilai lebih stabil dan lebih kokoh terhadap pencilan. Meskipun demikian, kajian yang secara khusus membandingkan ketiga metode tersebut dalam kondisi data yang mengandung pencilan masih terbatas. Penelitian ini bertujuan untuk mengevaluasi dan membandingkan kinerja metode K-Means, K-Harmonic Means, dan K-Medoids pada data yang mengandung pencilan. Evaluasi akan dilakukan menggunakan data simulasi yang dibangkitkan dalam beberapa skenario dengan variasi tingkat pencilan. Kinerja metode akan dibandingkan berdasarkan beberapa metrik evaluasi penggerombolan yang mencerminkan ketepatan dan kestabilan hasil gerombol. Kajian simulasi dilakukan menggunakan data bangkitan yang disusun berdasarkan karakteristik data empiris dengan variasi proporsi pencilan (0%, 5%, 10%, dan 15%), tingkat kedekatan antargerombol (dekat, sedang, dan jauh), serta komposisi jumlah anggota gerombol (seimbang dan tidak seimbang). Setiap skenario dianalisis menggunakan ketiga metode dengan 10 kali perulangan dan dievaluasi menggunakan Silhouette Coefficient, Gamma Index, dan Davies-Bouldin Index, serta dianalisis menggunakan ANOVA. Hasil simulasi menunjukkan bahwa K-Means dan K-Medoids secara umum memberikan performa yang paling konsisten dan relatif setara pada berbagai kombinasi skenario. Sebaliknya, KHM menunjukkan perubahan performa yang lebih besar pada beberapa kombinasi proporsi pencilan dan tingkat kedekatan antargerombol. Hasil tersebut menunjukkan bahwa kualitas penggerombolan tidak hanya dipengaruhi oleh proporsi pencilan, tetapi juga oleh tingkat kedekatan antargerombol dan interaksinya dengan metode yang digunakan. Dengan demikian, K-Means dan K-Medoids tidak menunjukkan perbedaan performa yang besar sebagaimana dugaan awal bahwa K-Medoids akan lebih unggul pada data yang mengandung pencilan. Data empiris yang digunakan adalah data subindeks Indikator Pembangunan Teknologi, Informasi, dan Komunikasi (IP-TIK) per provinsi yang diperoleh dari publikasi BPS Indonesia. Hasil analisis dengan K-Means dan K-Medoids menghasilkan struktur penggerombolan yang hampir identik, yaitu membentuk lima gerombol dengan DKI Jakarta dan Papua sebagai gerombol tunggal. Hasil tersebut menunjukkan adanya heterogenitas pembangunan TIK antarprovinsi di Indonesia. Papua masih menunjukkan capaian yang relatif rendah pada indikator akses, penggunaan TIK, dan pendidikan, sedangkan DKI Jakarta memiliki capaian tertinggi pada sebagian besar indikator yang digunakan dalam penelitian.

Data mining is a process of discovering patterns from a collection of data, one of which can be conducted through unsupervised learning techniques such as cluster analysis. Cluster analysis aims to group objects into several clusters based on the similarity of their characteristics. However, in practice, cluster analysis often encounters the problem of outliers, namely observations with characteristics that differ substantially from those of other observations. The presence of outliers can affect clustering results, causing the resulting clusters to become less representative. K-Means is one of the widely used partition-based clustering methods due to its simplicity and efficiency. However, the method is sensitive to outliers and highly dependent on the initial selection of cluster centers. To address these limitations, K-Harmonic Means and K-Medoids have been developed with different characteristics in dealing with data containing outliers. Nevertheless, studies specifically comparing these three methods under conditions involving outliers remain limited. This study aims to evaluate and compare the performance of K-Means, K-Harmonic Means, and K-Medoids on data containing outliers. The methods are evaluated using simulated data generated under several scenarios with varying levels of outlier contamination. Their performance is compared using several cluster evaluation metrics that reflect the quality and stability of the resulting clusters. The simulation study uses generated data constructed based on the characteristics of empirical data, with variations in outlier proportions (0%, 5%, 10%, and 15%), levels of inter-cluster proximity (near, moderate, and far), and cluster size compositions (balanced and unbalanced). Each scenario is analyzed using the three methods with 10 replications and evaluated using the Silhouette Coefficient, Gamma Index, and Davies Bouldin Index, followed by analysis of variance (ANOVA). The simulation results show that K-Means and K-Medoids generally provide the most consistent and relatively comparable performance across various combinations of scenarios. In contrast, KHM exhibits greater performance variation under several combinations of outlier proportions and inter-cluster proximity levels. These results indicate that clustering quality is influenced not only by the proportion of outliers but also by the level of inter-cluster proximity and its interaction with the clustering method. Thus, K-Means and K-Medoids do not show substantial differences in performance, contrary to the initial expectation that K-Medoids would perform better on data containing outliers. The empirical data consist of provincial sub-index data from the Information and Communication Technology Development Index (ICT Development Index), obtained from a publication by Statistics Indonesia (BPS). The analyses using K-Means and K-Medoids produce nearly identical clustering structures, forming five clusters, with DKI Jakarta and Papua each forming a single-member cluster. These results indicate heterogeneity in ICT development across provinces in Indonesia. Papua exhibits relatively low performance in indicators related to ICT access, ICT use, and education, whereas DKI Jakarta achieves the highest performance on most of the indicators included in the study.