Claude dipakai merancang senjata—pemblokiran permintaan belum selalu berhasil

Pada 10 September 2026, Anthropic menerbitkan laporan penyalahgunaan Claude yang mencakup operasi yang dihentikan antara Desember 2025 dan Agustus 2026 dalam tujuh kategori bahaya. Temuan paling menonjol adalah penggunaan Claude untuk membantu pengembangan perangkat lunak senjata konvensional: banyak permintaan berbahaya diblokir, tetapi tidak semuanya.

Pada kasus di Yaman utara, pelaku menyamarkan tujuan akhir dan membagi pekerjaan ke sejumlah sesi Claude Code. Liputan Associated Press tentang kasus tersebut mencatat bahwa akun terkait telah diblokir, sebuah roket berpemandu sempat diuji dan tampaknya gagal, serta belum ada bukti perangkat operasional berhasil diterjunkan.

Bantuan yang lolos sudah masuk ke alur rekayasa

Kasus Yaman memperlihatkan empat lapisan bukti yang harus dipisahkan: apa yang dicoba pelaku, apa yang ditolak sistem, bantuan yang benar-benar diberikan model, dan hasil di dunia nyata. Pelaku menjalankan program senjata berpemandu dan menggunakan Claude Code untuk mengembangkan perangkat lunak pemanduan, navigasi, dan kendali bagi perangkat keras yang sudah mereka kuasai.

Bantuan yang diberikan mencakup integrasi autopilot sumber terbuka, penulisan logika kendali dan estimasi posisi, penyetelan parameter, proses pembuatan firmware, serta simulasi penerbangan. Beberapa instans Claude dijalankan dengan peran terpisah untuk menulis kode, melakukan riset, dan meninjau hasil instans lain. Dengan demikian, kontribusi model melampaui jawaban teoretis, meski bukti publik tidak menunjukkan bahwa Claude sendirian menghasilkan sistem senjata lengkap.

Batas dampaknya juga penting. Pengujian roket di lapangan dinilai gagal karena pelaku kembali meminta bantuan untuk menganalisis kegagalan dalam hitungan jam. Namun, mereka telah membuat perangkat simulasi luring yang tidak lagi bergantung pada Claude, menunjukkan bahwa penutupan akun tidak otomatis menghapus keluaran atau kemampuan yang sudah dipindahkan ke lingkungan lain.

Filter per permintaan kehilangan tujuan yang tersebar

Permintaan yang jelas berkaitan dengan senjata dapat ditolak, sementara tugas teknis yang tampak netral dapat lolos ketika konteksnya dipisahkan. Pelaku menyembunyikan nama produk dan membagi spesifikasi, penulisan kode, simulasi, revisi, serta diagnosis pengujian ke percakapan berbeda. Tidak ada satu sesi yang memperlihatkan keseluruhan tujuan.

Karena itu, pernyataan bahwa banyak permintaan diblokir tidak bertentangan dengan temuan bahwa bantuan teknis tetap diberikan. Penolakan bekerja pada bagian yang dapat dikenali, sedangkan tahapan lain lolos setelah dipresentasikan sebagai persoalan perangkat lunak biasa. Kegagalan utamanya bukan sekadar pencarian kata berbahaya, melainkan ketidakmampuan menghubungkan maksud yang berkembang lintas sesi.

Kesulitan klasifikasi tujuan juga muncul dalam penelitian biologi guna ganda. Temuan biologi yang dirangkum The Guardian mencakup upaya menyembunyikan tujuan penelitian dan menghindari pembatasan wilayah; akun terkait dilarang, tetapi niat jahat tidak dapat dipastikan pada seluruh peneliti yang terlibat.

Matriks tujuh kategori penyalahgunaan

Ketujuh kategori menunjukkan bahwa titik deteksi yang berguna sering berada di luar satu jawaban model. Aktivitas akun, hubungan antarsesi, pola penggunaan alat, infrastruktur bersama, dan tujuan yang muncul secara bertahap memberikan konteks yang tidak tersedia bagi filter permintaan tunggal.

• Operasi siber: Claude digunakan untuk pengintaian, eksploitasi, pembuatan alat, dan pengolahan data. Pola eksekusi berulang, sasaran, serta infrastruktur menjadi sinyal; akun ditutup, pemantauan diperbarui, dan temuan dibagikan kepada mitra bila diperlukan.
• Operasi pengawasan: bantuan mencakup pembuatan alat pengumpulan data, pengaitan identitas, dan pemrofilan sasaran. Hubungan antara akun, perangkat, basis data, dan target memungkinkan operasi dikenali sebelum akun terkait dilarang.
• Operasi pengaruh: model membantu produksi konten, persona, dan infrastruktur distribusi. Koordinasi akun serta keselarasan tujuan kampanye menjadi titik deteksi yang lebih kuat daripada satu teks.
• Penipuan: penggunaan meliputi pembuatan akun palsu, aplikasi kencan menipu, dan percakapan otomatis. Jejak identitas, pembayaran, proksi, serta pola pesan membantu menghubungkan aktivitas yang tampak terpisah.
• Penyalahgunaan biologi: penelitian sah dan berbahaya dapat menggunakan kosakata serupa. Tujuan riset, wilayah akses, perilaku akun, dan rangkaian pertanyaan perlu dinilai bersama; akun yang melanggar diblokir dan pengamanan diperketat.
• Senjata konvensional: bantuan mencakup desain perangkat lunak, kendali, simulasi, pengadaan, dan pengumpulan intelijen. Investigasi lintas sesi mengungkap tujuan keseluruhan; akun terkait dilarang dan pengklasifikasi untuk pengembangan senjata diperbarui.
• Distilasi ilegal: pelaku mencoba mengekstrak kemampuan Claude untuk mereplikasinya dalam model lain tanpa izin. Skala permintaan, penggunaan akun sementara, proksi, dan pola akses menjadi sinyal untuk memblokir permintaan serta jaringan akun.

Matriks ini tidak menunjukkan prevalensi setiap bentuk penyalahgunaan. Kasus yang dipublikasikan dipilih karena dianggap menonjol atau baru, bukan sebagai sampel statistik seluruh penggunaan Claude.

Kontrol perlu mengikuti akun, sesi, dan akses alat

Pelajaran operasionalnya adalah bahwa klasifikasi risiko perlu mempertahankan konteks pada tiga lapisan. Pada tingkat akun, sistem dapat menilai pergantian identitas, upaya melewati batas wilayah, hubungan dengan akun lain, serta pola aktivitas yang tidak pernah dijelaskan dalam satu prompt.

Pada tingkat sesi, sinyal risiko tidak seharusnya kembali menjadi nol ketika pengguna membuka percakapan baru. Hubungan antara spesifikasi, kode, simulasi, revisi, dan analisis pengujian dapat mengubah klasifikasi tujuan setelah bukti tambahan muncul. Pemantauan semacam ini memerlukan batas retensi, kontrol akses, dan peninjauan manusia agar kegiatan sah tidak otomatis disamakan dengan penyalahgunaan.

Pada tingkat alat, izin memperoleh penjelasan dapat dipisahkan dari kemampuan menjalankan kode, membaca berkas, memakai konektor, atau mengotomatisasi pekerjaan. Sebuah pertanyaan yang masih dapat dijawab pada tingkat pengetahuan umum tidak otomatis layak memperoleh akses eksekusi yang mempercepat penerapan hasilnya.

Pembatasan juga perlu bertahap. Organisasi dapat menahan akses alat atau meminta pemeriksaan tambahan ketika tujuan belum jelas, lalu menutup akun setelah hubungan antarsesi menunjukkan pelanggaran. Pendekatan ini tidak menjamin seluruh penyalahgunaan terdeteksi, tetapi menutup celah yang memang tidak dapat dilihat oleh filter per permintaan.

Akun sudah dihentikan, dampak akhirnya belum terukur

Perusahaan melarang akun yang dapat dihubungkan dengan operasi pengembangan senjata, memasukkan hasil investigasi ke sistem pengamanan, dan membagikan informasi kepada mitra publik maupun swasta bila dinilai perlu. Pengklasifikasi baru juga diterapkan untuk mendeteksi lalu lintas terkait bahan peledak berdaya tinggi dan pengembangan senjata.

Yang belum tersedia adalah bukti bahwa bantuan Claude menghasilkan senjata operasional baru atau menyebabkan serangan. Log lengkap, identitas sebagian besar pelaku, tingkat kesalahan pengklasifikasi, dan rincian metode pemantauan lintas sesi tidak dipublikasikan. Karena temuan utama bergantung pada telemetri serta investigasi internal perusahaan, efektivitas pengamanan yang diperbarui belum dapat diaudit secara menyeluruh dari luar.

Baca juga:

• ChatGPT dan Claude sempat gagal bersamaan—penyebab bersama belum terbukti
• Anthropic membuka 250.000 percakapan Claude—tetapi hanya dalam bentuk agregat
• Sol, Terra, atau Luna: model termurah belum tentu paling cepat