Claude dipakai dalam tujuh jenis penyalahgunaan—Anthropic memblokir akun

Laporan Threat Intelligence Anthropic tertanggal 10 September 2026 memuat aktivitas penyalahgunaan Claude yang dideteksi dan diganggu antara Desember 2025 dan Agustus 2026. Kasusnya dikelompokkan ke dalam tujuh kategori; akun yang terhubung dengan operasi tersebut diblokir, temuan dimasukkan ke sistem pengamanan, dan intelijen dibagikan kepada otoritas atau mitra industri bila dinilai perlu.

Liputan Associated Press pada tanggal yang sama mencakup pemblokiran penggunaan untuk serangan siber, pengawasan, dan riset yang berpotensi mendukung senjata biologis. Namun, kumpulan studi kasus tersebut berisi aktivitas yang dianggap paling menonjol dan baru, bukan gambaran penggunaan Claude yang tipikal atau ukuran prevalensi penyalahgunaan.

Tujuh kategori dan kontrol yang dapat diadaptasi

Claude tidak selalu berperan pada tahap yang sama. Dalam sejumlah kasus model membantu perencanaan atau analisis, sedangkan pada kasus lain ia dipakai untuk membuat perangkat lunak, memproses data, menghasilkan konten, atau mengoordinasikan rangkaian pekerjaan. Rangkuman berikut memisahkan tahap penggunaan, sinyal yang dapat diamati, tindakan platform, dan kontrol defensif yang dapat diadaptasi organisasi; bagian kontrol merupakan sintesis operasional, bukan jaminan bahwa satu langkah akan menghentikan seluruh aktivitas.

• Operasi siber. Tahap penggunaan mencakup pengintaian, pengembangan alat, pelaksanaan sebagian alur serangan, dan pengolahan data curian. Sinyalnya meliputi penggunaan agen berulang, banyak sasaran, alat berisiko, serta kredensial atau kunci API yang tidak sah. Akun terkait diblokir dan pola baru dimasukkan ke deteksi. Pengelola dapat membatasi izin alat, mencabut kunci yang menyimpang, dan mengorelasikan aktivitas antarsesi.
• Operasi pengaruh. Model dipakai untuk merencanakan kampanye, menerjemahkan atau memproduksi konten, dan membangun persona. Volume keluaran, narasi seragam, rotasi akun, penggunaan VPN, serta identitas yang saling terhubung menjadi sinyal koordinasi. Selain pemblokiran akun dan pembagian indikator, kontrol yang relevan ialah pemeriksaan asal konten dan hubungan antarakun.
• Pengawasan. Penggunaan berlangsung pada pembuatan perangkat lunak, pengolahan informasi massal, pemilihan sasaran, dan penyusunan profil. Sinyalnya adalah pemrosesan kelompok sensitif, penggabungan data komunikasi, atau produksi dossier secara sistematis. Akun diblokir dan jejak perilaku dipakai untuk deteksi lanjutan. Organisasi dapat menerapkan peninjauan khusus atas data sensitif dan membatasi pemrosesan massal.
• Penipuan dan kecurangan. Salah satu pola melibatkan jaringan aplikasi kencan palsu, persona sintetis, serta percakapan otomatis. Pendaftaran berulang, infrastruktur proxy, identitas buatan, dan percakapan terkoordinasi menuju eksploitasi finansial dapat dinilai sebagai satu rangkaian. Pemblokiran diperluas ke akun dan organisasi terkait; verifikasi identitas, batas laju, serta analisis keterhubungan akun dapat mempersempit ruang operasi.
• Penyalahgunaan biologis. Claude membantu pekerjaan ilmiah penggunaan ganda yang dapat mendukung tujuan medis tetapi juga menghasilkan pengetahuan berisiko. Pengelabuan wilayah akses, penyamaran konteks penelitian, serta pola permintaan yang baru terlihat mencurigakan setelah dianalisis secara menyeluruh menjadi sinyal utama. Akun terkait diblokir dan pengaman diperkuat. Akses bertingkat, verifikasi institusi, dan peninjauan oleh ahli biologi diperlukan ketika klasifikasi konten saja tidak memadai.
• Pengembangan senjata konvensional. Model digunakan untuk pekerjaan perangkat lunak, pengadaan, dan pengumpulan intelijen yang berkaitan dengan sistem senjata. Risiko dapat tersebar dalam permintaan teknis yang tampak terpisah. Setelah akun yang melanggar diblokir, hasil investigasi dimasukkan ke pengaman dan deteksi tambahan. Kontrol yang dapat ditiru ialah penilaian risiko pada tingkat proyek, bukan hanya pada satu prompt.
• Distilasi ilegal. Pelaku berusaha mengekstrak kemampuan model melalui akses berskala besar, akun sementara, proxy, atau kredensial yang tidak sah. Pergantian akun, metadata akses yang tidak wajar, dan pola permintaan berulang membantu menghubungkan aktivitas tersebar ke satu operator. Responsnya mencakup pemblokiran akun maupun organisasi; pertahanan yang sepadan meliputi deteksi anomali, perlindungan kredensial, dan korelasi lintas akun.

Pemblokiran akun tidak selalu menghentikan operasi eksternal

Pemblokiran mengakhiri akses yang berada dalam jangkauan Anthropic, tetapi tidak otomatis mematikan perangkat yang sudah dipindahkan ke luar platform. Dalam salah satu kasus pengawasan, tindakan akun mengganggu pekerjaan desain dan perangkat lunak, sementara pengguna akhir menjalankan platform secara lokal dengan model lain. Karena itu, istilah “diganggu” tidak berarti seluruh infrastruktur pelaku disita atau semua kegiatannya berhenti.

Uraian Axios tentang operasi pengawasan mencatat bahwa semua akun yang dikaitkan dengan kasus yang ditemukan telah dilarang dan pengamannya diperkuat. Dampak praktis AI dalam kasus tersebut terutama berupa penurunan kebutuhan tenaga dan percepatan pekerjaan pengawasan, bukan perubahan mendasar pada kelompok yang menjadi sasaran.

Deteksi harus menghubungkan perilaku lintas sesi

Temuan ini menunjukkan bahwa pemeriksaan satu prompt tidak cukup. Permintaan teknis yang tampak biasa dapat menjadi bagian dari operasi berbahaya ketika sesi, akun, lokasi akses, alat terhubung, kredensial, dan sasaran dinilai bersama. Unit investigasi yang lebih berguna adalah perilaku lintas sesi dan tingkat proyek.

Lapisan kontrol juga menangani masalah yang berbeda. Filter konten dapat menahan permintaan yang jelas berbahaya; pemeriksaan identitas dan wilayah membantu menemukan penyamaran akses; pembatasan izin mengurangi dampak eksekusi; analisis metadata mengungkap jaringan akun; sedangkan peninjauan manusia diperlukan untuk riset penggunaan ganda yang niatnya sulit dinilai otomatis.

Kunci API curian perlu diperlakukan sebagai sinyal keamanan, bukan sekadar persoalan tagihan. Pengelola sebaiknya membatasi cakupan kunci, mencatat penggunaannya, mendeteksi perubahan pola akses, dan menyediakan pencabutan cepat. Dalam susunan ini, pemantauan penyalahgunaan Claude tetap perlu dipadukan dengan telemetri aplikasi dan sistem identitas milik organisasi.

Laporan tidak menunjukkan seberapa umum penyalahgunaan Claude

Laporan tersebut tidak memberikan jumlah seluruh penggunaan Claude sebagai pembanding. Akibatnya, tujuh kategori itu tidak dapat dipakai untuk menghitung persentase interaksi berbahaya atau membandingkan tingkat penyalahgunaan Claude dengan layanan AI lain. Pemilihan kasus yang menonjol juga membuat contoh paling dramatis tidak mewakili pengalaman pengguna pada umumnya.

Kategori biologis memerlukan batas bukti yang lebih ketat. Pekerjaan penggunaan ganda dapat berguna bagi pengembangan terapi sekaligus menghasilkan pengetahuan berbahaya; dokumen itu tidak menuduh para ilmuwan dalam studi kasus berniat mencelakakan dan menahan rincian yang dapat menimbulkan risiko. Ketidakjelasan niat tersebut menjelaskan mengapa sinyal akun, legitimasi institusi, dan konteks penelitian tidak dapat sepenuhnya digantikan oleh filter prompt.

Per 10 September 2026, yang dapat dipastikan ialah publikasi tujuh kategori, pemblokiran akun yang dikaitkan dengan operasi terdokumentasi, dan penguatan pengaman berdasarkan hasil investigasi. Data agregat untuk mengukur skala penyalahgunaan secara keseluruhan belum tersedia, sedangkan kegiatan yang sudah berpindah ke infrastruktur lain dapat berada di luar jangkauan penegakan Anthropic.

Baca juga:

• Claude memantau penyalahgunaan tanpa mengambil alih log perusahaan
• Anthropic membuka 250.000 percakapan Claude—tetapi hanya dalam bentuk agregat
• Claude memformalkan Teorema Fermat dalam 11 hari—bukan bukti baru