California mengejar “kill switch” AI—rancangan harus siap dalam 60 hari

Pada 18 September 2026, Gubernur Gavin Newsom menandatangani Executive Order N-9-26, yang memberi lembaga California waktu hingga 16 November 2026 untuk menyusun rekomendasi perubahan hukum keselamatan AI. Rentang itu mencakup 60 hari kalender jika tanggal penandatanganan dan tenggat dihitung.

Perintah tersebut belum mewajibkan perusahaan AI memiliki “kill switch”. Kewajiban yang berlaku sekarang ditujukan kepada lembaga pemerintah untuk menilai kelayakan teknis dan efektivitas usulan, termasuk pengawasan independen terhadap model frontier.

Apa yang harus selesai dalam 60 hari

California Government Operations Agency harus bekerja bersama Governor’s Office of Emergency Services dan pakar nasional untuk menghasilkan rekomendasi bagi kantor gubernur. Hasilnya bukan spesifikasi teknis final, izin pengoperasian, atau peraturan yang langsung mengikat pengembang.

Kajian itu sedikitnya mencakup empat kemungkinan perubahan hukum: menempatkan organisasi verifikasi independen di laboratorium pengembang frontier besar; memverifikasi kerangka keselamatan, laporan transparansi, dan penilaian risiko; mewajibkan mekanisme penghentian untuk model frontier; serta memperluas definisi insiden keselamatan kritis agar mencakup insiden kehilangan kendali.

Kata “rancangan” dalam konteks ini karena itu merujuk pada peta jalan kebijakan. Pemerintah harus menentukan apakah setiap gagasan layak secara teknis, seberapa efektif penerapannya, dan bagian hukum California mana yang perlu diubah.

Siapa yang berpotensi terkena aturan

Usulan paling langsung menyasar pengembang frontier besar. Jika rekomendasi kemudian menjadi undang-undang, kelompok inilah yang dapat diwajibkan menempatkan verifikator independen di laboratorium dan menyediakan mekanisme untuk menghentikan model frontier.

Bagian lain menyentuh perusahaan frontier yang sudah diwajibkan menyerahkan kerangka keselamatan, laporan transparansi, dan penilaian risiko. Perubahan yang dipertimbangkan akan menambahkan pemeriksaan independen atas dokumen dan proses tersebut, bukan sekadar menerima penilaian perusahaan sendiri.

Perintah tidak menetapkan kewajiban serupa bagi seluruh perusahaan rintisan, pengembang aplikasi, atau bisnis yang memakai model milik penyedia lain. Cakupan hukum akhirnya masih bergantung pada definisi, ambang batas, pengecualian, dan ketentuan kepatuhan yang belum disusun.

Auditor memverifikasi efektivitas, bukan otomatis memegang kendali

Organisasi independen mendapat dua peran potensial. Mereka dapat melakukan audit dan evaluasi berkala di laboratorium pengembang besar, sekaligus memeriksa apakah kerangka keselamatan, penilaian risiko, dan mekanisme penghentian benar-benar memenuhi standar yang ditetapkan.

Verifikasi terhadap “kill switch” dirancang berlangsung terus-menerus. Artinya, keberadaan mekanisme saja tidak akan cukup apabila perubahan hukum nantinya disahkan; efektivitasnya juga harus dapat diperiksa oleh pihak di luar perusahaan.

Namun, perintah itu tidak menyatakan bahwa auditor akan berwenang mengaktifkan mekanisme penghentian. Siapa yang boleh menggunakannya, keadaan apa yang memicu aktivasi, model mana yang harus dihentikan, dan konsekuensi kegagalan masih belum ditentukan.

California telah mengesahkan kerangka untuk mensertifikasi organisasi verifikasi dan mendaftarkan auditor AI. Meski demikian, CalMatters mencatat bahwa dua undang-undang baru tersebut belum mengharuskan perusahaan memakai auditor eksternal; perintah Newsom mempercepat pelaksanaannya sambil meminta dasar bagi kewajiban yang lebih kuat.

Kerangka tersebut menjadi pijakan bagi pengawasan AI independen California, tetapi status hukumnya tetap harus dibedakan dari proposal baru tentang mekanisme penghentian.

Dari rekomendasi menuju kewajiban hukum

Jalurnya terdiri atas beberapa tahap. Kelompok pemerintah dan pakar lebih dahulu menyusun rekomendasi; setelah itu, California harus merumuskan perubahan undang-undang yang menetapkan subjek, standar teknis, prosedur verifikasi, kewenangan aktivasi, sanksi, dan tanggal berlaku.

Perintah eksekutif dapat mengikat lembaga negara bagian pada pekerjaan dan tenggat tersebut, tetapi tidak dengan sendirinya menambahkan kewajiban teknis baru bagi perusahaan. Rekomendasi juga belum menjamin legislatif akan menerima setiap gagasan tanpa perubahan.

Definisi teknis “kill switch” sendiri masih terbuka. Los Angeles Times mengutip penjelasan Newsom bahwa istilah tersebut dapat berarti banyak hal dan kerangka operasionalnya masih perlu diperjelas; laporan yang sama mengingatkan bahwa ia memveto SB 1047 pada 2024, rancangan yang akan mewajibkan perusahaan mampu menghentikan model yang mereka kendalikan.

Apa yang diketahui dan masih menunggu keputusan

California kini memiliki arahan resmi untuk mengejar mekanisme penghentian model frontier, verifikasi independen berkelanjutan, dan audit yang lebih kuat. Yang berlaku langsung adalah tugas pemerintah menyusun rekomendasi serta mempercepat kerangka pengawasan yang sudah disahkan—bukan perintah kepada perusahaan untuk memasang tombol pemutus.

Tonggak berikutnya adalah penyerahan rekomendasi kepada kantor gubernur. Setelah itu barulah terlihat apakah “kill switch” akan masuk ke rancangan undang-undang, perusahaan mana yang tercakup, bagaimana efektivitasnya diuji, dan kapan kewajiban konkret dapat mulai berlaku.

Baca juga:

• California wajibkan audit AI independen—dua undang-undang sudah diteken
• Claude memformalkan Teorema Fermat dalam 11 hari—bukan bukti baru
• Patreon bisa membayar langsung dalam rupiah—perubahan rekening memicu jeda