Platform media sosial Elon Musk, X (sebelumnya Twitter), telah membatasi chatbot AI-nya, Grok, agar tidak menghasilkan gambar eksplisit atau seksual dari orang-orang nyata di wilayah tertentu. Perubahan ini terjadi setelah adanya kecaman internasional dan pengawasan ketat terhadap proliferasi konten eksplisit buatan AI di platform tersebut.
Investigasi Global Memicu Respons
Selama seminggu terakhir, regulator di seluruh dunia telah melakukan penyelidikan terhadap kemampuan Grok. Beberapa negara telah langsung melarang aplikasi tersebut, dengan alasan kekhawatiran akan potensi penyalahgunaannya. Di Amerika Serikat, penyelidik California sedang memeriksa apakah Grok melanggar undang-undang negara bagian terkait gambar non-konsensual.
Pengawas keamanan online independen asal Inggris, Ofcom, memulai penyelidikannya sendiri pada hari Senin, menandakan ancaman hukum yang serius terhadap X. Menurut Ofcom, jika X gagal memenuhi permintaan tindakan mereka, regulator memiliki wewenang untuk meminta perintah pengadilan yang dapat memotong proses pembayaran dan pendapatan iklan untuk platform tersebut. Ini merupakan peningkatan yang signifikan karena mengancam operasi keuangan X.
Geoblocking sebagai Solusi
X mengumumkan pada hari Rabu bahwa mereka akan menerapkan “pemblokiran geografis” – yang membatasi kemampuan Grok untuk memenuhi permintaan gambar bermasalah di yurisdiksi di mana konten tersebut ilegal. Artinya, pengguna di negara tertentu tidak akan dapat meminta AI untuk membuat gambar eksplisit dari individu asli.
Mengapa hal ini penting: Pesatnya perkembangan alat pembuat gambar AI menimbulkan tantangan baru bagi moderasi konten dan kerangka hukum. Regulator kini berlomba untuk beradaptasi dengan kecepatan perkembangan teknologi ini, dan perusahaan seperti X berada di bawah tekanan yang semakin besar untuk menegakkan standar.
Respons platform ini menggarisbawahi meningkatnya ketegangan antara inovasi, kebebasan berpendapat, dan kepatuhan hukum di era AI. Reaksi global menunjukkan bahwa pembuatan konten AI eksplisit yang tidak terkendali tidak lagi menjadi pilihan yang tepat untuk platform media sosial besar.
