Dokumen Rahasia TikTok Ungkap Fitur Keamanan Algoritma Sengaja Ditahan dari Jutaan Pengguna

Sebuah dokumen internal yang sempat dirahasiakan perusahaan mengungkap bahwa keputusan untuk menahan fitur keamanan dari sebagian besar penggunanya bukan kelalaian teknis, melainkan eksperimen yang sengaja dirancang.

Dokumen internal rahasia TikTok mengungkap bahwa perusahaan sempat menahan pembaruan keamanan algoritma dari jutaan penggunanya pada 2021, meski pembaruan itu dirancang khusus untuk mengurangi paparan konten berbahaya. Berdasarkan laporan Bloomberg yang mengutip dokumen tersebut, perubahan itu awalnya dibuat untuk mencegah pengguna kebanjiran konten berbahaya di linimasa mereka.

Eksperimen di Balik Penahanan Fitur

Alih-alih merilis versi yang lebih aman ke seluruh pengguna, TikTok justru menjalankan eksperimen internal untuk mengukur dampaknya terhadap tingkat keterikatan pengguna atau "stickiness" aplikasi. Perusahaan membentuk kelompok kontrol yang terdiri dari 10 persen pengguna Amerika Serikat—saat itu setara sekitar 15 juta orang—yang tetap menerima versi algoritma lama tanpa pembaruan keamanan tersebut.

Salah satu anggota kelompok kontrol itu, menurut dokumen tersebut, adalah Chase Nasca, remaja berusia 16 tahun asal Suffolk County, New York. Algoritma TikTok terus mengirimkan ribuan video bertema kesedihan, keputusasaan, dan kesepian kepadanya hingga ia meninggal pada Februari 2022.

Gugatan yang Masih Bergulir

Orang tua Chase, Dean dan Michelle Nasca, telah mengajukan gugatan wrongful death terhadap TikTok dan perusahaan induknya, ByteDance, pada 2023. Gugatan itu sempat ditolak hakim tahun lalu setelah TikTok berargumen bahwa Section 230 dari Communications Decency Act melindungi mereka dari tanggung jawab hukum atas konten yang dihasilkan algoritma. Proses banding atas putusan tersebut masih berjalan.

Kantor Jaksa Agung Arkansas, dalam gugatan terpisah terhadap TikTok, sempat mengajukan permohonan untuk memeriksa ayah Chase pada Juni lalu, dengan maksud menunjukkan 15 dokumen kepadanya—termasuk dokumen yang mengungkap bahwa putranya masuk dalam kelompok kontrol eksperimen tersebut.

Kasus Chase bukan satu-satunya. Lebih dari 1.200 keluarga saat ini terlibat dalam berbagai gugatan terhadap TikTok dan platform media sosial lain, dengan tuduhan serupa bahwa algoritma platform tersebut secara agresif mendorong pengguna—termasuk remaja—ke konten yang semakin ekstrem berdasarkan durasi tontonan mereka, bukan sekadar preferensi atau interaksi yang mereka pilih sendiri.

Catatan: Jika Anda atau seseorang yang Anda kenal sedang mengalami krisis kesehatan mental atau memiliki pikiran untuk menyakiti diri sendiri, silakan hubungi layanan dukungan seperti Kementerian Kesehatan RI (119 ext 8) atau layanan konseling terdekat.