Sistem rekomendasi kini menjadi bagian penting dari berbagai platform digital, mulai dari media sosial hingga e-commerce dan aplikasi kesehatan. Meskipun dirancang untuk membantu pengguna menyaring informasi dan membuat keputusan lebih mudah, berbagai penelitian menunjukkan bahwa sistem ini juga dapat membawa dampak negatif, terutama terhadap kesehatan mental dan kualitas pengambilan keputusan.
Integrasi recommender systems ke dalam platform media sosial telah menimbulkan kekhawatiran terhadap dampak negatifnya pada kesehatan mental. Penelitian menunjukkan adanya korelasi negatif antara algorithmic feeds, seperti yang digunakan di Instagram, dengan kesehatan mental pada remaja (Simona, 2025). Efek negatif ini kemungkinan besar dipicu oleh penguatan algoritmik terhadap konten yang mendorong perbandingan sosial yang negatif, sehingga menimbulkan perasaan tidak cukup pantas (inadequacy) dan penurunan kepercayaan diri. Paparan terus-menerus terhadap citra ideal dari orang lain dapat menciptakan lingkungan yang memicu kecemasan dan depresi, terutama untuk kalangan yang rentan.
Selain itu, desain algoritma yang memprioritaskan user engagement juga berkontribusi pada pola doomscrolling, di mana orang terus menerus ditunjukkan konten dengan citra yang ideal sehingga memperparah ketidakpuasan terhadap kondisi diri dan memicu dampak kesehatan mental lainnya (Kawahata, 2024). Dengan demikian, kurasi konten oleh algoritma perlu dipertimbangkan secara hati-hati karena potensinya dalam memperburuk kondisi psikologis pengguna.
Dampak dari recommender systems juga meluas ke ranah pengambilan keputusan pengguna di berbagai konteks, mulai dari belanja daring, konsumsi informasi, hingga pilihan terkait kesehatan. Meskipun tujuan awalnya adalah membantu pengguna menyaring informasi yang berlebih dan mempermudah proses memilih, sistem ini juga dapat memperkenalkan berbagai bentuk bias serta membatasi eksplorasi terhadap alternatif lain, yang dapat mengarah pada keputusan yang kurang optimal (Carnovalini, et al., 2025). Misalnya, sistem sering kali dioptimalkan untuk mencapai metrik keterlibatan seperti click-through rate, yang berujung pada penayangan konten yang hanya memperkuat preferensi yang sudah ada. Hal ini dapat menciptakan filter bubbles, di mana pengguna hanya menerima informasi yang sesuai dengan pandangan mereka saat ini, sehingga membatasi paparan terhadap perspektif yang berbeda (Cha, et al. 2024). Selain itu, banyak recommender systems tidak mempertimbangkan secara memadai berbagai bias keputusan seperti position effects atau framing effects yang terbukti memengaruhi pilihan pengguna. Bahkan, dalam beberapa kasus, desain sistem justru secara tidak sengaja memperkuat bias tersebut, sehingga menghasilkan keputusan yang menyimpang atau terdistorsi (Teppan & Zanker, 2015)
Dengan demikian, meskipun algoritma rekomendasi dirancang untuk memberikan kemudahan dan efisiensi, berbagai penelitian menunjukkan bahwa sistem ini dapat membawa konsekuensi yang tidak diinginkan, mulai dari masalah kesehatan mental hingga distorsi dalam pengambilan keputusan. Oleh karena itu, desain algoritma yang lebih etis diperlukan, agar sistem rekomendasi benar-benar dapat mendukung kesejahteraan dan kesehatan pengguna.
Referensi
- Mandile, S. (2025). The Dark Side of Social Media: Recommender Algorithms and Mental Health (No. 11648). CESifo.
- Kawahata, Y (2024). Algorithmic Pollution and Its Impact on Mental Health: Provisional Study Evaluating the Risks of Induced Reliance on Short-Form Video Content. American Journal of Biomedical Science & Research.
- Jayakumar, P. (2024). For You Page or For Corporate Profits: How Recommender Systems are Harmfully Designed.
- Carnovalini, F., Rodà, A., & Wiggins, G. A. (2025). Popularity Bias in Recommender Systems: The Search for Fairness in the Long Tail. Information, 16(2), 151. https://doi.org/10.3390/info16020151
- Cha, S., Loeser, M., & Seo, K. (2024). The Impact of AI-Based Course-Recommender System on Students’ Course-Selection Decision-Making Process. Applied Sciences, 14(9), 3672. https://doi.org/10.3390/app14093672
- Teppan, E. C., & Zanker, M. (2015). Decision biases in recommender systems. Journal of Internet Commerce, 14(2), 255-275.
Disclaimer: Sebagian konten dalam tulisan ini dikembangkan dengan bantuan teknologi kecerdasan buatan (AI). Ide utama dan draf awal tulisan merupakan kontribusi orisinal penulis. AI digunakan sebagai alat bantu untuk mempercepat penulisan (OpenAI ChatGPT), mencari dan mengumpulkan literatur yang relevan (Google Gemini), serta menciptakan ilustrasi di awal (ChatGPT). Penulis tetap melakukan kurasi dan pengeditan naskah, serta pengecekan terhadap literatur untuk memastikan akurasi dan relevansinya. Penggunaan AI tidak menggantikan tanggung jawab intelektual penulis, melainkan berfungsi sebagai mitra kreatif dalam pengembangan materi.