Selama bertahun-tahun, para orang tua memperdebatkan pro dan kontra memposting foto anak-anak mereka secara online. Meskipun kekhawatiran mengenai predator online dan pengambilan data selalu ada, kebangkitan kecerdasan buatan (AI) telah menambah tingkat bahaya baru ke dalam dilema yang sudah lazim ini. Munculnya aplikasi “nudifier”, yang didukung oleh AI generatif, mendorong banyak orang tua untuk memikirkan kembali kebiasaan media sosial mereka.
Aplikasi ini dapat dengan mudah menghasilkan gambar eksplisit yang menampilkan wajah siapa pun hanya dengan menggunakan foto. Meskipun sekilas tampak tidak berbahaya, dampaknya sangat meresahkan. Kemudahan akses—banyak yang menawarkan uji coba gratis—dan keterjangkauan membuat alat ini tersedia bagi siapa saja yang memiliki koneksi internet, termasuk anak di bawah umur. Hal ini menghadirkan prospek yang menakutkan: anak-anak dapat menjadi korban dan pelaku deepfake yang tidak disengaja dan sering kali menimbulkan trauma.
Penelitian menunjukkan bahwa berbagi foto anak-anak secara online masih merupakan praktik umum, meskipun hanya seperempat orang tua yang menahan diri untuk tidak melakukannya karena masalah privasi. Namun, potensi penyalahgunaan yang disebabkan oleh AI masih membayangi tindakan memposting foto masa kecil yang tampaknya tidak bersalah. Undang-undang federal baru-baru ini mengkriminalisasi distribusi foto telanjang palsu secara online, namun tidak membahas pembuatan dan ketersediaan aplikasi tersebut secara luas.
Lusinan situs nudifier berkembang pesat, beberapa di antaranya menghasilkan jutaan setiap tahunnya. Alexios Mantzarlis, salah satu pendiri publikasi teknologi Indicator, yang menyelidiki 85 situs semacam itu, memberikan gambaran yang mengerikan: “Itu ada di mana-mana,” katanya. “Setiap anak yang memiliki akses internet bisa menjadi korban atau pelaku.”
Kemudahan pengoperasian aplikasi-aplikasi ini menyoroti kerentanan mendasar di dunia digital kita: penggunaan AI untuk tujuan jahat. Meskipun AI menawarkan potensi manfaat yang luar biasa, penyalahgunaannya menimbulkan risiko besar terhadap keselamatan dan kesejahteraan pribadi, terutama bagi kelompok rentan seperti anak-anak. Ancaman yang muncul ini memerlukan penilaian ulang secara kritis terhadap cara kita menavigasi dunia online dan melindungi aset kita yang paling berharga, yaitu anak-anak.
