Komparasi Algoritma K-Nearest Neighbor, Naïve Bayes, dan Random Forest dengan SMOTE untuk Prediksi Dropout Mahasiswa

Abstract

Angka putus kuliah (dropout) merupakan persoalan serius bagi perguruan tinggi karena berdampak langsung pada akreditasi institusi, efisiensi pembiayaan pendidikan, dan masa depan mahasiswa itu sendiri. Deteksi dini terhadap mahasiswa berisiko menjadi kunci agar intervensi akademik dapat dilakukan tepat waktu. Penelitian ini membandingkan kinerja tiga algoritma klasifikasi, yaitu K-Nearest Neighbor (KNN), Naïve Bayes, dan Random Forest, untuk memprediksi status mahasiswa pada dataset publik Predict Students' Dropout and Academic Success yang memuat 4.424 instance dengan 34 fitur dan tiga kelas target (Dropout, Enrolled, Graduate). Ketidakseimbangan kelas pada data latih ditangani menggunakan Synthetic Minority Over-sampling Technique (SMOTE), sedangkan data uji dipertahankan pada distribusi aslinya dengan pembagian 80:20 secara stratified. Hasil pengujian menunjukkan Random Forest memberikan kinerja terbaik dengan akurasi 76,72% dan F1-score makro 0,7134, mengungguli Naïve Bayes (akurasi 65,99%) dan KNN (akurasi 61,24%). Validasi silang lima lipatan memperkuat temuan tersebut dengan F1 makro 0,6887 ± 0,0099 sekaligus simpangan baku terkecil di antara ketiga model. Analisis feature importance mengungkap bahwa kinerja akademik pada dua semester pertama, khususnya jumlah mata kuliah yang lulus dan rata-rata nilai, merupakan prediktor paling dominan. Temuan ini dapat dimanfaatkan perguruan tinggi sebagai dasar pembangunan sistem peringatan dini (early warning system) untuk menekan angka putus kuliah.