米議員が超知能AIの永久禁止案、成立前に残る定義の穴

米国のBernie Sanders上院議員とGreg Casar下院議員は2026年9月3日、超知能AIの開発・展開の恒久禁止、先端AI開発の一時停止、新たな連邦規制機関、国際協調を柱とする法案方針を発表した。両議員による9月3日の公式発表 は、名称を「Ban Artificial Superintelligence Act」としつつ、今後提出する法案だと位置づけている。

したがって、超知能AIが米国ですでに禁止されたわけではない。9月3日の報道時点で法案全文は公開されておらず、何を禁止対象とするのか、先端AI開発をどこまで止めるのか、誰が執行し、どの行為を処罰するのかは、法的には確定していない。

恒久禁止と一時停止は対象も終了条件も違う

公表された構想には、性格の異なる二つの制限がある。第一は「人工超知能」の開発と展開を恒久的に禁じる措置、第二は新たな連邦規制機関が安全規則とモデル審査手続きを整えるまで、より広い「先端AI」の開発を一時的に止める措置だ。

恒久禁止の対象として概要に挙げられたのは、人間の知能を上回るシステム、人間の政府を転覆させる能力を持つシステム、停止命令を回避するような危険能力を備えたシステムである。しかし、これは政策上の説明であり、裁判所や規制当局が適用できる確定条文ではない。

一時停止は超知能だけに限定されていない点が重要になる。「先端AI」が計算量や学習費用で区切られるのか、能力評価で区切られるのかは不明だ。新規の基盤モデル学習に加え、既存モデルの追加学習、安全性評価、公開、商用提供、オープンモデルの改変まで含むのかも、現段階の資料からは判断できない。

新機関の構想はあるが、執行権限の境界は見えない

提案は、閣僚級の連邦AI規制機関を新設し、専門家によるAI諮問委員会が科学・技術面の助言を行う枠組みを掲げる。規制機関には、フロンティアAIをライフサイクル全体で監視し、危険能力の除去や超知能システムの破棄を監督する役割を持たせるとしている。

Washington Postによる両議員への取材 では、新機関が危険能力を監視できる体制になるまで先端AI開発を止め、違反企業には事業継続を認めない「corporate death penalty」を科す構想が示された。

もっとも、規制機関が企業へ直接命令するのか、裁判所への申立てを通じて執行するのかは、公開情報だけでは確定できない。研究者、企業経営者、モデル提供者、クラウド事業者の責任をどう区別するか、違反の故意や過失をどう認定するか、既存システムに猶予期間を設けるかも未公表である。

国際協定は米国外への直接禁止を意味しない

第四の柱は、米国が国際協定、同盟国との調整、輸出管理などを追求し、世界規模で人工超知能の開発を防ぐという方針だ。米国内だけで開発を止めても、計算資源や人材、モデル開発が国外へ移れば政策目的を達成できないという発想に基づいている。

ただし、米国の国内法だけで外国の研究機関や企業を一律に禁止できるわけではない。実効性は、参加国、管理対象となる半導体・計算資源・技術移転、検証の仕組み、違反時の対応によって変わる。国際協定は法案成立と同時に生じる効果ではなく、相手国との交渉や各国の国内手続きが別途必要になる。

ここでも条文の射程が問題になる。米国人や米国企業による国外開発を対象にするのか、外国で学習されたモデルの輸入・提供を制限するのか、研究交流や安全性研究に例外を設けるのかは明らかになっていない。

「超知能」を法的に測る基準が最大の空白

見出しに掲げられた「永久禁止」を執行するには、禁止線を再現可能な方法で判定する必要がある。「人間の知能を上回る」という表現だけでは、比較対象を平均的な人間とするのか、各分野の専門家とするのか、どの課題と評価環境を使うのかを決められない。

既存のAIは、計算や画像認識など特定課題ではすでに多くの人間を上回り得る。一方、提案が念頭に置く超知能は、幅広い領域で人間を超え、自律的に行動し、人間による制御を逃れる将来のシステムとして説明されている。この二つを分ける能力の幅、持続性、自律性、再現性の基準はまだ示されていない。

「政府を転覆させる能力」や「停止命令を回避する能力」も、実害が生じた後に認定するのか、事前評価で能力が確認された時点で禁止するのかによって対象が変わる。モデル単体を評価するのか、外部ツール、ネットワーク接続、複数エージェント、利用者権限を含むシステム全体を見るのかという問題も残る。

この定義は技術的な分類にとどまらない。禁止命令、事業停止、刑事責任に結びつくなら、開発者が事前に適法性を判断でき、規制当局と裁判所が一貫して適用できる明確さが必要になる。法案本文が公開されるまで、概要の強い表現と実際の法的効果を同一視することはできない。

現在地は政策発表、成立には複数の段階が残る

現時点の到達点は、法案方針の発表である。 Axiosの9月3日報道 は、全文がまだ公開されておらず、議会でどの程度の支持を得られるかも不明だと伝えている。正式な法案番号、所管委員会、審査日程も公表済みの資料では確認できない。

今後、構想が法律になるまでには、少なくとも次の段階を通る必要がある。

1. 確定した条文を下院または上院へ正式に提出し、法案番号を得る。
2. 所管委員会への付託後、審査、必要に応じた公聴会や修正を経る。
3. 下院と上院がそれぞれ審議し、同一内容の法案を可決する。
4. 大統領へ送付し、署名を得る。拒否された場合は、両院で拒否権を覆す手続きが必要になる。

米議会調査局の立法過程解説が示す通り、法案提出後も委員会がすべての案件を正式審査するとは限らず、成立までの経路や所要時間は案件ごとに異なる。上下両院の議員が発表に参加したことは、両院での可決や超党派の支持を保証しない。

次の判断材料は、法案本文と法案番号である。そこで初めて、超知能と先端AIの定義、停止対象となる行為、例外、規制機関の権限、罰則の要件を具体的に検証できる。現段階で確認できるのは強力な禁止・停止構想が政治課題として提示されたことまでで、法的な射程と成立可能性はまだ開かれている。