YouTube telah memblokir dua saluran secara permanen – Screen Culture dan KH Studio – karena berulang kali melanggar kebijakannya terhadap spam dan konten menyesatkan. Platform tersebut ditutup setelah mengeksploitasi AI untuk menghasilkan trailer film palsu yang menipu pemirsa agar percaya bahwa itu nyata, menurut laporan dari Deadline dan CNET.
Jangkauan dan Pelanggaran Saluran
Kedua saluran tersebut, yang beroperasi di India dan Georgia, telah mengumpulkan gabungan 2 juta pelanggan dan lebih dari 1 miliar penayangan sebelum dihentikan. YouTube pertama kali menangguhkan monetisasi iklan di kedua akun tersebut awal tahun ini ketika cuplikan yang menyesatkan pertama kali terdeteksi. Juru bicara YouTube, Jack Malon, menyatakan bahwa saluran tersebut diterima kembali ke Program Mitra YouTube setelah melakukan koreksi. Namun, mereka segera melanjutkan praktik penipuan tersebut.
“Saluran-saluran ini telah melakukan koreksi yang diperlukan agar dapat diterima kembali ke dalam Program Mitra YouTube. Namun, setelah melakukan monetisasi lagi, saluran-saluran tersebut kembali melanggar kebijakan spam dan metadata kami yang menyesatkan, dan akibatnya, saluran-saluran tersebut telah dihentikan dari platform.” – Jack Malon, Juru Bicara YouTube
Mengapa Ini Penting
Tindakan ini menggarisbawahi semakin besarnya tantangan disinformasi yang disebabkan oleh AI di platform-platform besar. Meskipun alat AI dapat digunakan secara kreatif, pelaku kejahatan semakin sering memanfaatkannya untuk membuat konten palsu yang dapat dipercaya. Insiden ini menimbulkan pertanyaan tentang kemampuan YouTube untuk secara konsisten mendeteksi dan menghapus materi tersebut sebelum menjangkau khalayak luas. Hal ini sangat relevan karena video yang dihasilkan AI menjadi lebih realistis, sehingga lebih sulit dibedakan dari konten asli.
Pesatnya penyebaran trailer palsu menunjukkan betapa mudahnya penonton disesatkan, sehingga berpotensi merusak kepercayaan terhadap promosi film yang sah. Respons YouTube menandakan kesediaan untuk menegakkan kebijakannya, namun insiden ini juga menyoroti perlunya metode deteksi yang lebih proaktif dan penegakan hukum yang lebih cepat terhadap konten menipu yang dihasilkan oleh AI.
Penghapusan saluran-saluran ini berfungsi sebagai peringatan bagi pihak lain yang mencoba mengeksploitasi AI untuk tujuan penipuan di platform.
