Inggris pakai AI menutup 1.000 celah—agen otonom jadi ancaman baru

Dalam pengumuman pemerintah Inggris pada 12 Oktober 2026, dua proyek percontohan berbasis AI disebut telah membantu menemukan dan memperbaiki lebih dari 1.000 potensi celah pada sistem pemerintah; program pertahanan siber itu kini diperluas. Langkah yang sama mencakup persiapan respons terhadap insiden serius yang melibatkan agen AI otonom. Perbaikan celah merupakan hasil yang sudah dicapai, sedangkan prosedur respons dan kemungkinan kewajiban pelaporan masih dikembangkan.

Dalam pernyataan tertulis di Parlemen, Menteri AI Kanishka Narayan merinci 1.352 kerentanan yang ditemukan dan ditangani pada 548 repositori kode di 18 departemen peserta. Perluasan program diarahkan pada sistem pemerintah dengan risiko tertinggi agar layanan publik lebih sulit diserang. Angka tersebut menggambarkan cakupan pilot di departemen peserta, bukan seluruh celah pada layanan publik Inggris.

Hasil pilot: celah ditemukan dan ditangani

Rincian repositori menunjukkan bahwa pekerjaan percontohan berpusat pada kode yang dipakai departemen pemerintah. AI membantu menelusuri kelemahan yang tersebar di banyak basis kode, sementara tindakan menangani kelemahan tetap harus dikaitkan dengan sistem yang terdampak. Hasilnya layak dibaca sebagai pencapaian program keamanan yang menggunakan AI, bukan klaim bahwa sebuah agen otomatis memperbaiki semua sistem tanpa campur tangan manusia.

Pembedaan antara menemukan dan menangani penting karena peringatan dari alat analisis belum otomatis menjadi celah yang dapat dieksploitasi. Temuan perlu divalidasi, dinilai menurut dampaknya, lalu dihubungkan dengan perubahan pada kode atau konfigurasi yang relevan. Pemerintah menyatakan kerentanan yang dihitung telah ditemukan dan ditangani, tetapi tidak merinci waktu perbaikan, tingkat keparahan, atau jumlah temuan yang semula keliru. Karena itu, jumlah total tidak dapat dipakai sendirian untuk menghitung penurunan risiko pada tiap departemen.

Proyek itu juga membantu organisasi mendeteksi ancaman siber yang lebih maju. Fungsi deteksi ini berbeda dari pencarian kerentanan: yang pertama mengamati tanda aktivitas mencurigakan, sedangkan yang kedua mencari kelemahan yang mungkin dimanfaatkan. Perbedaan tersebut menjelaskan mengapa perluasan program tidak cukup dinilai dari banyaknya celah baru yang ditemukan; kemampuan menilai sinyal dan meresponsnya juga menentukan manfaatnya bagi layanan publik.

Perluasan menyasar sistem pemerintah yang paling berisiko

Tahap lanjutan diarahkan ke kelemahan pada sistem dengan risiko tertinggi di berbagai departemen, sebagai bagian dari kemampuan pertahanan siber pemerintah yang lebih luas. Prioritas itu penting karena repositori kode yang berbeda tidak memiliki akibat yang sama bagi pelayanan: gangguan pada sistem penting dapat memengaruhi orang yang mengandalkannya. Penentuan prioritas memerlukan informasi tentang fungsi layanan, kemungkinan celah dimanfaatkan, dan seberapa cepat tindakan korektif dapat diterapkan tanpa mengganggu operasi.

Perluasan akses alat AI ke kode pemerintah membuat batas kewenangan menjadi bagian dari desain program. Akses untuk membaca repositori, menjalankan pengujian, mengusulkan perubahan, dan menerapkan perubahan ke lingkungan produksi membawa risiko yang berbeda. Tim keamanan dapat memperoleh kecepatan pencarian sambil mempertahankan persetujuan manusia untuk tindakan yang mengubah sistem penting. Ini merupakan implikasi operasional dari perluasan penggunaan AI, bukan ketentuan teknis yang diumumkan bagi setiap departemen.

Fokus pada sistem berisiko tinggi juga membuat kualitas hasil lebih penting daripada jumlah peringatan. Jika satu kelemahan serius muncul berulang di beberapa lokasi, tim harus mengetahui komponen yang sama-sama terdampak agar perbaikannya tidak terpecah menjadi pekerjaan terpisah. Sebaliknya, banyak temuan kecil dapat menyita waktu jika semuanya diperlakukan setara. Kebutuhan memilah temuan itu muncul dari skala repositori yang sudah dicakup pilot dan rencana memperluasnya.

Insiden agen otonom memerlukan kemampuan respons tersendiri

Di sisi lain program, rencana respons sedang disusun untuk menghadapi agen AI yang bertindak di luar instruksi atau menimbulkan kerugian serius. National Cyber Security Centre, Department for Digital, Culture, Media and Sport, serta AI Security Institute terlibat dalam pekerjaan ini. Agen dapat menyelesaikan tugas kompleks dengan sedikit pengawasan manusia, sehingga insiden yang melibatkannya bisa berkembang lebih cepat dan lebih luas daripada insiden besar yang selama ini menjadi acuan prosedur pemerintah.

Untuk menahan insiden semacam itu, penyelidik perlu dapat merekonstruksi instruksi awal, alat yang dipanggil, sumber daya yang diakses, dan tindakan yang benar-benar dijalankan. Catatan ini membedakan keluaran model yang hanya berupa saran dari perubahan yang sudah dilakukan pada sistem. Pemisahan tersebut membantu menentukan apakah gangguan berasal dari keputusan manusia, izin yang terlalu luas, atau tindakan agen yang menyimpang dari tugasnya. Tanpa jejak yang cukup, penghentian proses mungkin terlambat atau malah mengganggu layanan yang tidak terlibat.

Batas kewenangan dan prosedur penghentian adalah konsekuensi praktis dari risiko itu. Ketika agen mulai bertindak di luar cakupannya, operator perlu mampu mencabut izin yang digunakan, menghentikan pekerjaan yang berjalan, serta menahan perubahan yang belum diterapkan. Pilihan teknisnya bergantung pada sistem dan jenis akses yang diberikan; belum ada satu mekanisme penghentian yang ditetapkan untuk semua organisasi. Kendali manusia harus tetap dapat dipakai saat kecepatan dan jangkauan tindakan otomatis meningkat.

Pelaporan insiden masih menjadi usulan

Cyber Security and Resilience (Network and Information Systems) Bill yang sedang dibahas di House of Lords menjadi jalur untuk mempertimbangkan perlindungan tambahan bagi layanan esensial, termasuk kesehatan, energi, dan air minum. Salah satu pertanyaan yang dibuka ialah bagaimana insiden AI yang serius serta kejadian nyaris celaka dapat dikenali dan dilaporkan. Risiko kehilangan kendali atas agen juga perlu dipahami lintas organisasi agar pelajaran dari satu peristiwa dapat mengurangi kemungkinan dampak serupa.

Dalam laporan ITPro, Nuala Polo dari Ada Lovelace Institute mengatakan, “There is no new regulatory power, no timetable and no obligation on AI developers.” Penilaiannya menegaskan jarak antara rencana dan kewajiban yang sudah berlaku. Cakupan pelapor, ambang insiden, serta perlakuan terhadap kejadian nyaris celaka masih memerlukan keputusan; operator layanan esensial dan pengembang AI bisa menghadapi tanggung jawab yang berbeda.

Perbedaan status ini berdampak pada cara organisasi mengawasi agen sekarang. Pencatatan tindakan, pemilik izin, dan jalur eskalasi berguna untuk penyelidikan internal meski format laporan resmi belum diputuskan. Ketika pembahasan rancangan undang-undang berlanjut, rincian yang paling menentukan ialah siapa yang wajib melapor dan informasi apa yang harus tersedia segera setelah agen melampaui instruksi. Keputusan itu akan menghubungkan kemampuan teknis menghentikan agen dengan kemampuan lembaga memahami insiden dan mencegah pengulangannya.

Baca juga:

• Cymphony menemukan 85.000 berkas terbuka bagi AI—akses lama menjadi celah baru
• Celah Cisco AsyncOS memberi akses root—patch belum menutup jejak serangan
• Agen AI memanen kredensial dalam enam jam—waktu respons makin sempit