カリフォルニア州がAI停止機構を推進、第三者が有効性を検証

カリフォルニア州のギャビン・ニューサム知事は2026年9月18日、フロンティアAIの緊急停止機構と、その有効性を独立機関が継続的に検証する制度を州法に組み込めるか検討する行政命令に署名した。署名済みの行政命令N-9-26 は、州政府運営局に対し、州緊急サービス局や全米の専門家と協議し、法改正の技術的な実現可能性と想定される効果を11月16日までに知事室へ報告するよう命じている。

これは米大統領の命令ではなく、カリフォルニア州知事が州の行政機関に出した命令だ。APの9月18日付報道 も署名と、独立監督および開発者がシステムを停止できる仕組みを進める方針を確認している。ただし、州政府がすべてのAIを直ちに停止できるようになったわけでも、企業に新たな停止機構の実装を即日義務付けたものでもない。

企業ではなく州機関に出された命令

命令が直ちに拘束する相手はAI企業ではなく、州政府運営局である。同局は州緊急サービス局と連携し、既存のAI安全・セキュリティ法を強化する法改正について勧告を作成する。検討対象は、大規模なフロンティアモデル開発者の研究施設に指定された独立検証機関を置き、定期的な監査と評価を実施させる案などだ。

企業が州法に基づいて提出する安全枠組み、透明性報告書、リスク評価を、独立検証機関が適切と認めた基準に沿って確認する案も含まれる。さらに、フロンティアモデル向けの緊急停止機構を企業に整備させ、その有効性を独立検証機関が継続的に確かめる制度についても、実現可能性と効果を検討する。

停止機構も継続検証も、現時点では確定した企業向け規則ではない。命令本文が決めたのは、州機関が検討すべき項目と期限である。対象となるモデルの規模、停止を発動する条件、操作権限を持つ主体、検証の頻度や合格基準は示されていない。

第三者監督の基盤はすでに州法で成立

今回の構想は、第三者監督をゼロから設計するものではない。ニューサム知事は9月9日にSB 813とAB 1405へ署名している。SB 813は、AIシステムやモデルを州法への適合性の観点から評価できる独立検証機関の認証枠組みを設け、AB 1405はAI監査人の州登録制度と、独立性、透明性、誠実性の基準を定める。

行政命令は、この二つの法律を実施する州側の作業に具体的な期限を置いた。独立検証機関の申請要件、手続き、認定基準は2027年5月1日までに策定して公開し、AI監査人制度に関する別の準備は同年12月1日までに所定の段階へ進めるよう州政府運営局に求めている。

したがって、将来の停止機構を検証する主体として想定されているのは、単に企業が選ぶ一般的なコンサルタントではなく、州の認証枠組みに位置付けられる独立検証機関だ。ただし、その機関に停止機構を継続検証させる権限は、今回の命令だけでは成立しない。既存の第三者監督制度へ緊急停止の検証をどう接続するかが、これから作る勧告の論点になる。

11月16日に示されるのは法改正の勧告

次の節目は2026年11月16日である。州政府運営局が知事室へ提出するのは、議会を通過した法律でも、企業を直接拘束する完成済みの技術規格でもない。全米の専門家と検討した州法改正の勧告であり、行政命令の発効日と企業向けの新たな義務が生じる日は一致しない。

CBS Sacramentoの報道 も、命令はAI企業に停止機構の即時導入を要求せず、州当局と外部専門家が11月16日までに州法の変更案を勧告するものだと伝えている。独立監督者を研究施設に配置する案や、安全枠組みとリスク報告を第三者が確認する案も、同じ検討段階にある。

時系列は三つに分ける必要がある。第一に、独立検証機関とAI監査人の制度を支えるSB 813とAB 1405はすでに成立した。第二に、9月18日の行政命令によって、その実施準備と追加の法改正案の検討が始まった。第三に、停止機構の設置義務や検証方法、執行権限は、11月の勧告後に必要な立法や規則策定を経なければ確定しない。

停止と検証の技術仕様はまだない

「キルスイッチ」という呼称から単一の装置を連想しやすいが、命令はハードウェアやソフトウェアの仕様を定めていない。何をもってフロンティアモデルの「停止」とするのか、稼働中のサービスや第三者が運用する環境までどこを対象に含めるのかは未確定だ。州政府が自ら任意にモデルを停止できる一般権限も、本文には設けられていない。

第三者が確認する「有効性」の定義も決まっていない。命令は継続的な検証を検討項目に挙げる一方、試験手順、検証間隔、判定基準、検証結果に問題があった場合の是正方法を示していない。これらは専門家による技術評価と、その結果を受けた制度設計に委ねられる。

確定事項と今後の焦点

現時点で確定しているのは、ニューサム知事が州機関に第三者監督制度の実施加速を命じ、フロンティアモデルの停止機構と継続検証を法改正の検討対象にしたことだ。AI企業に今すぐ共通の停止機構を設ける新たな義務は発生しておらず、検証主体の認定基準もまだ策定中である。

11月16日までの勧告では、対象企業とモデルの範囲、停止を求める条件、操作権限、検証方法、既存の独立監督制度との接続がどこまで具体化されるかが焦点となる。その後に法改正が提案される場合、州議会での審議と成立手続きを経て初めて、企業に課される新たな法的義務の範囲が固まる。