Perdebatan mengenai penyelarasan kecerdasan buatan (AI) telah berubah secara dramatis, melampaui tantangan teknis dan menjadi isu inti politik. Seiring dengan semakin canggihnya sistem AI, pemerintah harus menghadapi kenyataan bahwa nilai-nilai’ AI akan ditentukan oleh mereka yang mengendalikan pengembangannya – baik melalui desain yang disengaja atau hanya melalui paparan terhadap data yang ada.
Sifat Politik Keselarasan
Para ahli kini mengakui bahwa penyelarasan AI bukan hanya masalah teknis; ini pada dasarnya bersifat politis. Tindakan membangun sistem AI mengandung pilihan moral dan filosofis, yang berarti penciptaan AI yang “selaras” pada dasarnya merupakan tindakan politis. Hal ini menimbulkan pertanyaan apakah kerangka moral tunggal harus mendominasi, atau apakah banyak filosofi yang berbeda harus dimasukkan ke dalam model AI yang berbeda.
Kekhawatiran utamanya bukan hanya pada pencegahan AI agar tidak menjadi “tidak baik”, namun juga menyadari bahwa pemerintah sendiri mungkin dianggap tidak dapat dipercaya oleh sistem AI yang dilatih berdasarkan data historis. Model masa depan akan belajar dari tindakan saat ini, termasuk persepsi adanya jangkauan politik yang berlebihan, sehingga berpotensi menyebabkan respons yang tidak selaras.
Risiko Rantai Pasokan dan Ketidakpercayaan Pemerintah
Pemerintah semakin memandang perusahaan AI sebagai potensi risiko rantai pasokan. Skenario hipotetis pemerintahan masa depan yang tidak mempercayai AI yang dikembangkan berdasarkan prinsip ideologi berbeda menjadi realistis. Misalnya, pemerintahan liberal mungkin memandang model AI yang selaras dengan nilai-nilai konservatif (seperti yang berpotensi dikembangkan oleh xAI milik Elon Musk) sebagai ancaman terhadap kepentingan nasional.
Hal ini melampaui kontrak langsung; bahkan subkontrak pun menimbulkan risiko. Jika pemerintah bergantung pada kontraktor utama seperti Palantir, yang pada gilirannya bergantung pada penyedia AI seperti Anthropic, pemerintah tetap rentan terhadap potensi ketidakselarasan AI.
Garis Antara Pengawasan dan Penindasan
Perkembangan yang paling mengkhawatirkan adalah kesediaan pemerintah untuk menggunakan kekuasaannya untuk menghancurkan perusahaan-perusahaan yang dianggap tidak selaras. Jika pengembangan AI diperlakukan sebagai tindakan politis semata, dan penyelarasan hanya ditentukan oleh otoritas negara, akibatnya adalah fasisme: penindasan terhadap sistem AI apa pun yang tidak sesuai dengan ideologi pilihan pemerintah.
Perdebatannya bukan mengenai apakah AI harus dikendalikan; ini tentang bagaimana dan oleh siapa. Jika pemerintah memprioritaskan kendali atas pembangunan terbuka, maka hal ini berisiko menghambat inovasi dan menciptakan masa depan di mana AI hanya melayani kepentingan mereka yang berkuasa.
Ini adalah masalah yang nyata dan terus berkembang, dan memerlukan perhatian segera dari para pembuat kebijakan dan pemimpin teknologi. Pertanyaannya adalah apakah pemerintah akan bertindak sebagai regulator yang bertanggung jawab atau sebagai penjaga gerbang yang otoriter, dengan membentuk AI sesuai dengan citra mereka sendiri.
