Investigasi baru-baru ini yang dilakukan oleh AI Forensics, sebuah lembaga penelitian nirlaba Eropa, telah mengungkap jaringan penyalahgunaan yang sangat besar dan terorganisir yang beroperasi di Telegram. Laporan tersebut mengungkapkan adanya “ekosistem pelecehan dalam skala besar”, di mana hampir 25.000 pengguna di Spanyol dan Italia secara aktif mendistribusikan materi seksual nonkonsensual dan pornografi anak.
Dengan menganalisis 2,8 juta pesan di 16 grup berbeda selama periode enam minggu, para peneliti mengidentifikasi jalur lintas platform canggih yang digunakan untuk mengeksploitasi korban dan memonetisasi konten ilegal.
Anatomi Jaringan Penyalahgunaan
Studi ini menyoroti pola yang meresahkan dalam cara konten ini diperoleh, didistribusikan, dan dijual. Siklus ini biasanya mengikuti lintasan multi-platform:
- Sumber: Pelaku sering kali mengambil materi asli dari bursa pribadi di Instagram dan WhatsApp.
- Distribusi: Telegram berfungsi sebagai pusat bagi kelompok-kelompok berskala besar ini. Konten seringkali sangat bertarget; wanita yang ditampilkan dalam video sering kali diberi nama, ditandai, dan bahkan diberi lokasi geografis melalui tautan profil bersama.
- Perekrutan: Platform seperti Reddit bertindak sebagai “gerbang”, yang menyediakan tautan yang mengarahkan pengguna ke saluran Telegram pribadi dan berbayar.
- Redistribusi: Setelah bocor, konten sering kali bermigrasi kembali ke platform arus utama seperti TikTok dan Instagram.
Ancaman yang Dimonetisasi
Pelecehan ini tidak hanya bersifat sosial; ini adalah perusahaan komersial. Pelaku memonetisasi arsipnya melalui:
– Biaya akses satu kali hingga €50 untuk arsip lengkap.
– Langganan bulanan dengan biaya sekitar €5.
– Bot “nudifying”, yang menggunakan AI untuk menghilangkan pakaian dari gambar, sehingga memungkinkan pengguna menghasilkan konten nonkonsensual baru dengan kecepatan dan kemudahan yang belum pernah terjadi sebelumnya.
Skala Masalah
Jangkauan jaringan ini sangat luas, mempengaruhi sekitar 52.000 orang (27.000 di Italia dan 25.000 di Spanyol). Gerakan lintas batas ini menunjukkan bahwa kekerasan seksual digital bukanlah isu yang terlokalisasi, melainkan sebuah krisis struktural Eropa yang mengabaikan batas-batas negara.
Temuan ini muncul pada saat yang kritis bagi regulasi digital. Data terbaru dari Institut Kesetaraan Gender Eropa menunjukkan bahwa satu dari tiga perempuan di UE telah mengalami kekerasan seksual sejak usia 15 tahun, angka ini mencakup meningkatnya gelombang kekerasan siber.
Kegagalan Moderasi
Temuan utama dari laporan ini adalah kurangnya upaya moderasi yang dilakukan Telegram saat ini. Meskipun platform tersebut dilaporkan menutup kelompok-kelompok yang melakukan kekerasan, para peneliti mengamati bahwa kelompok-kelompok ini sering kali dibentuk kembali dengan nama yang sama dalam beberapa jam.
Dinamika “whack-a-mole” ini menimbulkan pertanyaan serius tentang kemampuan platform ini dalam mengawasi ekosistemnya sendiri. AI Forensics berpendapat bahwa model langganan Premium Telegram mungkin secara tidak sengaja membantu pelaku dengan menyediakan cara yang efisien untuk memonetisasi konten ilegal.
Usulan Solusi Regulasi
Untuk mengatasi hal ini, laporan ini menyarankan beberapa intervensi mendesak:
1. Penunjukan VLOP: Komisi Eropa harus menetapkan Telegram sebagai Very Large Online Platform (VLOP) berdasarkan Digital Services Act (DSA). Hal ini akan memaksa platform untuk menjalani penilaian risiko yang lebih ketat dan memberikan transparansi mengenai algoritmanya.
2. Peraturan AI yang Lebih Ketat: Terdapat seruan untuk memperluas UU AI UE dengan memasukkan ketentuan khusus yang membuat penghapusan materi pelecehan seksual terhadap anak-anak (CSAM) yang bersifat non-konsensual dan anak-anak (CSAM) menjadi lebih efisien.
3. Pelaporan yang Lebih Baik: Mekanisme pelaporan yang lebih baik diperlukan untuk memastikan bahwa ketika suatu kelompok ditandai, mereka tidak dapat langsung muncul kembali.
“Ini adalah masalah struktural yang mempunyai cakupan Eropa dan menuntut tanggapan Eropa.” — Forensik AI
Kesimpulan
Investigasi ini mengungkap jaringan penyalahgunaan digital yang sangat terorganisir, menguntungkan, dan tanpa batas yang mengeksploitasi teknologi AI dan celah platform. Untuk mengatasi hal ini, kita perlu beralih dari sekedar penghapusan konten sederhana menuju pengawasan peraturan yang sistemik mengenai bagaimana platform pengiriman pesan besar beroperasi di UE.
