Model Deteksi Botnet pada Trafik Terenkripsi dalam Jaringan Software-Defined Network (SDN) menggunakan Deep Neural Network (DNN).

Abstract

Konfigurasi perangkat jaringan baru yang dilakukan terpusat dan tanpa bergantung kepada vendor perangkat merupakan salah satu konsep yang ditawarkan jaringan Software-Defined Network (SDN). Konsep SDN sangat efektif diterapkan pada jaringan yang memiliki perangkat sangat banyak atau jaringan dengan infrastruktur besar dan luas. Kehadiran jaringan SDN membuat pengelola jaringan perlahan-lahan mulai meninggalkan jaringan konvensional. Perbedaan jaringan SDN dengan jaringan konvensional terletak pada arsitektur jaringannya. Arsitektur jaringan SDN membagi perangkat jaringannya kedalam tiga bagian utama yaitu data plane, control plane dan application plane, sedangkan didalam arsitektur jaringan konvensioanl, tiga bagian utama dalam jaringan SDN digabung menjadi satu dalam sebuah perangkat jaringan seperti router dan switch, yang dalam arsitektur jaringan SDN dikenal sebagai data plane. Di dalam jaringan SDN, aktivitas seperti konfigurasi perangkat jaringan baru, controling dan monitoring jaringan dilakukan terpusat pada bagian yang dikenal dengan control plane. Bagian control plane juga mengatur keluar masuk semua aliran lalu lintas dalam jaringan SDN. Fungsi dan peran control plane dalam jaringan SDN sangatlah penting. Untuk itu, perlu adanya sebuah sistem keamanan yang kuat untuk melindungi control plane dalam jaringan SDN dari serangan. Jika tidak, ketika terjadi serangan pada bagian control plane dalam jaringan SDN maka, bisa dipastikan semua sumberdaya jaringan dengan cepat bisa diambil alih dan dikuasasi seluruhnya oleh penyerang. Untuk mengatasi hal tersebut, jaringan SDN menyediakan sistem keamanan yang dikenal dengan protocol OpenFlow. Protokol keamanan tersebut berfungsi mengarahkan setiap aliran lalu lintas paket yang lewat sesuai tujuannya. Protocol OpenFlow dalam jaringan SDN menghubungkan bagian control palane dan data plane, sehingga setiap aliran yang dilewatkan protocol OpenFlow sesuai tujuannya diatur pada bagian control plane. Beberapa penelitian terdahulu menjelaskan bahwa sistem keamanan protocol OpenFlow belum mampu melakukan identifikasi terhadap trafik terenkripsi dengan baik. Protocol TLS/HTTP merupakan salah satu trafik terenkripsi yang mampu melewati sistem keamanan protocol OpenFlow. Hal tersebut merupakan masalah yang perlu diperbahrui oleh jaringan SDN. Sebab, jika ada serangan menggunakan trafik terenkripsi dan berhasil menyerang maka, akibatnya penyerang akan dengan cepat dan mudah menguasai jaringan SDN. Dewasa ini banyak sekali serangan dalam jaringan yang memanfaatkan trafik terenkripsi untuk menyerang sistem keamanan dari sebuah jaringan. Botnet adalah salah satu serangan dalam dunia jaringan yang menggunakan trafik terenkripsi sebagai celah untuk melancarkan serangannya. Serangan botnet merupakan kumpulan aplikasi jahat seperti DDoS, fast-flux, click fraud, port scan, dan spam. Kumpulan aplikasi tersebut didesain oleh pembuatnya (botmaster / botheader) untuk menyerang jaringan, dengan tujuan melemahkan performa sebuah jaringan atau mengambil informasi penting (userid dan password) dalam jaringan secara illegal. Kurang lebih 16% sampai 25% komputer yang terhubung dengan internet terinfeksi botnet. Hal ini tentunya sangat mengkhawatirkan bagi pengelola jaringan, sehingga penelitian ini bertujuan membangun sebuah model sistem kamanan yang baik, untuk membantu protocol OpenFlow melakukan pengamanan terhadap lalu lintas trafik dalam jaringan SDN. Model yang dibangun diharapkan mampu melakukan deteksi terhadap serangan dalam jaringan SDN, terutama pada serangan botnet yang menggunakan trafik terenkripsi. Model keamanan yang dibangun pada penelitian ini, menggunakan pendekatan Deep Neural Network (DNN) dan function stochastic Adptive momentum (Adam) untuk optimasi model. DNN merupakan metode Machine Learning (ML) yang dikenal dengan Deep Learning (DL) dan merupakan pengembangan dari Neural Network (NN). Penelitian ini memanfaatkan salah satu framework DNN yang cukup populer yaitu Keras dan Tensorflow. Data yang digunakan pada penelitian adalah data traffic network CTU-13, hasil tangkapan (capture) Lab. Networking Ceko Technical University (CTU) tahun 2011 dan di-publish untuk umum, pada alamat URL https://mcfp.weebly.com/the-ctu-13-dataset-a-labeled-dataset-with-botnet-normaland- background-traffic.html, dari data tersebut dilakukan akuisis data paket botnet dan normal pada trafik terenkripsi, setelah data botnet dan normal diakusisi, data tersebut sebelum digunakan, terlebih dahulu perlu dilakukan praproses data dan setelah itu, data bisa digunakan sebagai data model. Data model yang digunakan mempunyai 2 class target berjenis factor atau kategorial yaitu botnet dan normal. Model deteksi botnet pada trafik terenkripsi dibangun dengan pendekatan DNN dan dievaluasi menggunakan metode confusion matrix. Hasil evaluasi model menunjukan model mampu melakukan deteksi botnet, pada trafik terenkripsi dalam jaringan SDN dengan tingkat akurasi 94.78%, presisi 93.28% dan recall 99.11%. Model tersebut mampu melakukan identifikasi serangan botnet dengan cukup baik, dari 3730 data paket botnet yang diberikan, model mampu mendeteksi dengan baik 3697 data peket sebagai botnet dan melakukan kelasahan yang cukup kecil yaitu 33 paket botnet diprediksi sebagai paket normal, sehingga kesimpulannya adalah model dengan akurasi 94.78% dan data uji 20% merupakan model terbaik yang dihasilkan pada penelitian ini, selain itu dengan melakukan optimasi model menggunakan metode function stochastic adptive momentum (Adam), mampu meningkatkan akurasi model cukup signifikan yaitu mencapai 94.78%.