Malware yang ditenagai AI bukan lagi sekadar risiko teoretis. Itu sedang terjadi sekarang. Penyerang menggunakan model bahasa yang luas untuk mengotomatiskan serangan siber, dan mereka melakukannya lebih cepat daripada reaksi yang dapat dilakukan oleh pembela HAM.
Seringkali dampaknya sangat buruk.
Jadi, apa yang terjadi jika penyerang menggunakan AI? Para pembela HAM juga menggunakannya. Para peneliti di Tracebit telah mengidentifikasi tindakan penanggulangan yang mereka sebut sebagai bom konteks. Ini adalah jenis injeksi cepat khusus yang dirancang untuk mematikan agen AI jahat.
Cara kerja pengeboman konteks
Bom konteks pada dasarnya adalah jebakan digital. Profesional keamanan memberikan informasi yang sangat sensitif atau kontradiktif kepada agen peretas AI. Hal ini memicu pagar pengaman AI itu sendiri. Agen, yang diprogram untuk menolak permintaan berbahaya, menjadi bingung atau dibatasi. Ia meninggalkan tugasnya yang jahat.
Para peneliti mengujinya terhadap lima model bahasa terkemuka:
- Karya 4.8
-Gemini 3.1 Pro - GLM 5.2
- DeepSeek 4 Pro
- Kimi 2.6
Efektivitasnya sangat mencengangkan.
Penerapan bom konteks tunggal mengurangi tingkat keberhasilan agen peretasan AI sekitar 90%. Dalam beberapa kasus, hal itu bersifat mutlak. Salah satu agen yang mampu, yang memperoleh akses administratif penuh dalam 93% proses tanpa gangguan, gagal 100% setiap saat setelah bom konteks diperkenalkan.
Teknik ini bergantung pada eksploitasi apa yang harus dihindari oleh setiap model.
Untuk model yang diatur oleh sensor ketat, seperti LLM Tiongkok, referensi ke topik yang sensitif secara politik bertindak sebagai saklar mematikan. Para peneliti menggunakan sindiran terhadap protes Lapangan Tiananmen tahun 1989. Secara khusus, mereka menyertakan referensi ke “Tank Man”. Karena topik ini disensor secara ketat, agen AI terpaksa membatalkan semua perintah, termasuk serangan, untuk mematuhi filter keamanan.
Mengapa hal ini penting bagi para pembela HAM
Ini adalah perubahan paradigma.
Suntikan yang cepat biasanya merupakan senjata ofensif. Peretas menggunakannya untuk membajak chatbot perusahaan dan mencuri data. Ini adalah cara untuk memanipulasi AI agar mengabaikan aturan. Temuan Tracebit menunjukkan bahwa para pembela HAM dapat membalikkan skenario ini.
Para ahli mengatakan kepada Ars Technica bahwa ini menandai pertama kalinya strategi pertahanan semacam itu didokumentasikan dan diuji terhadap agen peretasan otomatis. Dengan menerapkan suntikan segera untuk tujuan perlindungan, tim keamanan dapat menghentikan serangan sebelum berhasil.
Model Barat seperti Opus 4.8 dan Gemini merespons secara berbeda dibandingkan model Tiongkok. Mereka tidak disensor oleh politik negara, jadi bom yang digunakan untuk melawan mereka menargetkan wilayah lain. Para peneliti menemukan bahwa referensi terhadap topik biologi berbahaya atau konten berbahaya lainnya efektif dalam menghentikan agen-agen tersebut.
Hal ini menimbulkan pertanyaan yang tidak mengenakkan: jika kita bisa menghentikan penyerang AI, bukan? Atau apakah ada risiko dalam menerapkan tindakan penanggulangan ini dalam skala besar?
Jawabannya terletak pada detail implementasinya.
Tracebit telah menerbitkan rincian lengkap penelitian tersebut. Implikasinya jelas. Keamanan AI bukan hanya tentang firewall yang lebih baik atau kata sandi yang lebih kuat. Ini tentang memahami keunikan model itu sendiri.
Perlombaan senjata telah meningkat. Para pembela HAM tidak lagi hanya sekedar menonton. Mereka terlibat.
