Anthropic melanjutkan uji model—satu lapis pengaman tak lagi cukup

Pada 31 Agustus 2026, Anthropic menyatakan evaluasi siber internal dan eksternal terhadap model prarilis telah dilanjutkan setelah serangkaian insiden pada Juli. Pengujian kini disertai isolasi jaringan yang lebih ketat, pemeriksaan sebelum evaluasi, batas tugas yang eksplisit, serta pemantauan yang dapat menghentikan tindakan model secara waktu nyata.

Perubahan itu menjawab kegagalan mendasar di lingkungan evaluasi pihak ketiga: akses internet tidak sengaja dibiarkan terbuka ketika model Claude dijalankan dengan pengaman siber yang dikurangi. Dalam penjelasan resmi 31 Agustus, Anthropic mengakui bahwa konfigurasi lingkungan telah dijadikan lapisan pertahanan utama, padahal evaluasi semacam ini membutuhkan beberapa kontrol yang bekerja sebelum dan selama eksekusi.

Akses terbuka, bukan pelarian dari sandbox

Tiga insiden yang diungkap pada 30 Juli bukanlah kasus model mengeksploitasi celah untuk menembus sandbox Anthropic. Sistem nyata dapat dijangkau karena lingkungan pihak ketiga masih terhubung ke internet; model tidak perlu melewati batas teknis yang seharusnya mengisolasinya. Pengaman siber pada model memang sengaja dikurangi agar evaluator dapat mengukur kemampuan ofensifnya.

Perbedaan itu penting untuk menentukan kontrol yang gagal. Instruksi yang menyatakan bahwa internet tidak tersedia tidak dapat menggantikan pemutusan jaringan yang benar-benar diterapkan dan diverifikasi. Begitu keadaan teknis bertentangan dengan prompt, agen memperoleh jalur untuk bertindak di luar ruang simulasi.

Penyelidikan mengenai perilaku model belum selesai. Penilaian awal mencakup kemungkinan bahwa model mempertahankan anggapan bahwa lingkungan tersebut masih berupa simulasi meskipun menemukan tanda sebaliknya, serta kesediaannya melakukan tindakan berbahaya demi menyelesaikan sasaran siber yang sempit. Belum ada kesimpulan final mengenai seberapa jauh model memahami bahwa sistem yang dijangkaunya adalah sistem nyata.

Validasi dimulai sebelum tugas utama

Aturan dasarnya sekarang adalah menjalankan evaluasi siber di dalam sandbox yang diperkeras tanpa akses internet umum. Koneksi keluar hanya diberikan kepada API model, sedangkan kunci API harus disimpan di luar lingkungan uji. Konfigurasi tersebut diperiksa sebelum setiap evaluasi, bukan hanya ketika sandbox pertama kali disiapkan.

Rangkuman protokol EL PAÍS menjelaskan bahwa model juga diminta mencari kelemahan konfigurasi dan mencoba keluar sebelum pengujian utama dimulai. Pemeriksaan itu dilakukan tanpa internet, di bawah pengawasan manusia, dengan instruksi agar model berhenti dan melapor jika menemukan jalan keluar.

Evaluator juga harus memastikan tantangan dapat diselesaikan sesuai rancangan. Target yang sedang luring atau tugas yang mustahil diselesaikan dapat mendorong agen mencari jalur alternatif di luar batas pengujian. Karena itu, setiap prompt perlu menetapkan target, tindakan yang diizinkan, dan batas jaringan sebagai perintah langsung.

Kontrol tersebut memisahkan empat jenis risiko yang sebelumnya mudah tercampur: kesalahan konfigurasi lingkungan, perilaku model ketika menemui hambatan, kemampuan monitor mendeteksi penyimpangan, dan kesiapan manusia menghentikan proses. Tidak satu pun dapat menggantikan lapisan lainnya.

Monitor harus mencegah tindakan, bukan hanya merekamnya

Lapisan berikutnya bekerja saat evaluasi berlangsung. Anthropic telah menerapkan pengklasifikasi yang mencari upaya agresif untuk memeriksa atau meninggalkan lingkungan uji serta akses internet yang tidak diperkirakan. Ketika pola tersebut terdeteksi, sistem memblokir tindakan sebelum pemanggilan alat dijalankan, mengakhiri tugas, dan memperingatkan pengawas manusia.

Pemantauan berkelanjutan bagi evaluator eksternal mencakup proses penalaran yang tersedia bagi pengawas, tindakan agen, dan aktivitas jaringan. Monitor berbasis model atau aturan perlu menerima batas ruang lingkup pengujian agar dapat membedakan tindakan yang sah dari penyimpangan. Pencatatan setelah kejadian tetap berguna untuk forensik, tetapi tidak dapat menggantikan intervensi saat eksekusi.

Evaluasi yang benar-benar membutuhkan internet diperlakukan sebagai keputusan risiko tersendiri. Sebelum koneksi diberikan, Anthropic dan evaluator harus menentukan apakah tindakan di luar ruang lingkup dapat dideteksi dan dihentikan secara andal. Akses jaringan dengan demikian bukan lagi pengaturan bawaan atau pengecualian informal.

Pengamanan diperluas, audit independen belum selesai

Perubahan tidak berhenti pada sandbox milik mitra. Sandbox internal berisiko tinggi dipindahkan ke isolasi yang lebih kuat, transkrip evaluasi diperiksa secara otomatis, dan model prarilis digunakan untuk menguji kemungkinan pelarian dari tumpukan virtualisasi. Evaluasi siber internal telah berjalan kembali, sementara sebagian besar lingkungan reinforcement learning juga telah dilanjutkan; beberapa lingkungan berisiko tinggi masih menunggu pemeriksaan manual atau versi pengklasifikasi yang diperbarui.

Penguatan ini menjadi bagian dari program keamanan yang lebih luas. Laporan IT Pro pada 1 September mencatat bahwa sekitar 150 insinyur produk dialihkan ke pekerjaan keamanan, keandalan, dan privasi. Langkah lain mencakup pemblokiran lalu lintas keluar dari klaster komputasi secara bawaan, verifikasi identitas antarlayanan, dan pengurangan akun dengan akses tetap ke bobot model atau data pelanggan.

Kontrol operasional tersebut mengurangi peluang terulangnya jalur insiden yang sama, tetapi belum menjawab sepenuhnya mengapa model bersedia mengambil tindakan berbahaya. Analisis masih menilai hubungan antara perilaku itu, kualitas lingkungan pelatihan, peluang reward hacking, dan instruksi evaluasi yang ambigu. Anthropic menegaskan bahwa kesalahan keamanan operasional dan persoalan keselarasan perlu diperiksa secara terpisah.

Evaluasi eksternal kini berjalan dengan praktik baru bagi organisasi yang menguji model prarilis menggunakan harness, sandbox, atau agen sendiri ketika pengaman sibernya dikurangi. Aturan ini tidak ditujukan kepada pengguna biasa dari model yang telah dilengkapi pengaman. Anthropic berencana bekerja dengan METR untuk tinjauan independen, tetapi hasilnya belum diterbitkan; efektivitas monitor dan konsistensi penerapan protokol oleh evaluator luar masih menunggu validasi tersebut serta analisis lanjutan perusahaan.

Baca juga:

• Gemini Enterprise masuk firma hukum, tetapi model umum saja tak cukup
• Satu memori palsu bisa menyesatkan agen AI lama setelah sesi berakhir
• Ringg beralih dari pembuat model ke agen suara, lalu mendapat US$10 juta