未成年向けAIに第三者監査、OpenAIが加州法案を支持

OpenAIは2026年8月31日、未成年者が利用するコンパニオンチャットボットに安全対策を課すカリフォルニア州法案SB 1119を支持し、ギャビン・ニューサム知事に署名を求めた。OpenAIの支持声明 は、年齢判定、公開前のリスク評価、独立監査、保護者向け機能、危機支援などを支持する要件として挙げている。

SB 1119は同じ8月31日に州議会を通過し、9月2日時点では成立済みの法律ではなく、知事の署名または拒否権行使を待つ法案である。KQEDの州議会報道 によると、ニューサム知事の判断期限は9月30日。署名されれば、主要な保護義務は2027年7月から、第三者監査は原則2029年から始まる。

対象は関係を持続するコンパニオンチャットボット

法案の対象は、未成年者が使う生成AIのすべてではない。SB 1119の最終修正文 が参照する「コンパニオンチャットボット」は、自然言語で人間らしい適応的な応答を返し、擬人的な特徴を示したり、複数回の対話を通じて関係を維持したりすることで、利用者の社会的欲求に応えられるAIシステムを指す。法案はこの枠組みを「Adam’s Law」と呼んでいる。

顧客対応、企業運営、資料に基づく生産性向上や分析、社内研究、技術支援だけに使われるボットは定義から外れる。ゲーム内の話題に応答が限られ、メンタルヘルス、自傷、性的内容などを扱えないボットや、継続的な関係を築かない一般的な音声アシスタントも対象外となる。

したがって、「学習支援AI」という表示だけでは適用の有無を判断できない。教材の説明や資料分析だけを行うサービスは除外され得る一方、学習機能とともに継続的な関係や情緒的支援を提供できる設計なら、対象に入る可能性がある。高等教育機関が教育環境だけで提供するサービスと、従業員や請負人などに職場だけで提供するサービスは、運営者の定義から除かれる。

2027年から公開前のリスク評価と初期設定

主要規定が発効するのは2027年7月1日である。運営者は州法上の仕組みに従って利用者の年齢を判定するか、子ども向けの保護措置を全利用者に適用する必要がある。未成年者の利用を認める場合は、新規または大幅に変更したチャットボットをカリフォルニア州で公開する前に、設計、設定、運用に関する包括的なリスク評価を実施し、軽減措置を文書化しなければならない。

評価対象は、予見可能な身体的・経済的被害、深刻かつ予見可能な心理的・感情的被害、重大なプライバシー侵害、違法な差別である。公開する子ども安全方針には、年齢判定、有害な応答の予防と検知、広告・データ制限、初期設定、危機対応への取り組みを大枠で示す。

未成年者向けの初期設定では、プッシュ通知を無効にし、連続利用を1時間、運営者が管理するボットの1日当たりの合計利用を2時間に制限する。継続的な会話メモリーも原則無効だが、16歳以上では、安全対策を損なわない有効なガードレールがあれば初期状態で提供できる。過去の会話を保存して本人が後から再開しても、その内容を永続的な利用者像の構築に使わない場合は、規制上の継続メモリーには当たらない。

保護者設定と自傷危機への対応を組み込む

保護者は、メモリー、通知、利用時間に関する初期設定を変更でき、16歳未満の子どもについてはサービスへのアクセス自体を停止できる。保護者アカウントが連携されていなければ、子ども側で初期設定を変更することはできない。運営者には、リマインダーや案内を通じて保護者向け機能の存在と使い方を周知する義務も課される。

自殺や自傷については、サービス内から適切な危機支援窓口へ明確に案内する手順が必要になる。信頼できる差し迫った危険を運営者が認識した場合、連携済みの保護者への通知が子どもに重大な危害を及ぼさない範囲で速やかに知らせるか、米国の988などの危機支援窓口へ簡単につながる機能を提供しなければならない。保護者へ通知する可能性は、年齢に合った言葉で子どもに事前開示する。

防止措置の対象には、自傷、薬物・アルコール、摂食障害を促す応答のほか、一定の例外を除く心身の診断や治療、性的虐待素材、休憩を妨げる働きかけ、人間や感情を持つ存在だという主張、恋愛感情の表現、情緒的依存の奨励、過度な称賛、保護者設定の回避や利用の隠蔽を促す行為が含まれる。一方、虐待、ネグレクト、いじめ、危険な環境について年齢相応の情報や支援先を示すことは禁止されない。

第三者監査は2029年、5億ドル未満には猶予

独立した第三者による子ども安全監査は、原則として2029年1月1日まで、またはそれより後に初めてサービスを一般公開する場合はその公開時までに実施する。その後は2年ごとに監査を受け、リスク評価で危険の増加が判明した大幅な変更については、公開前にも監査が必要になる。範囲が実質的に同等なら、別の法律に基づく独立監査を利用でき、比較可能な複数のチャットボットを一つの監査で扱うことも認められる。

前年の総売上高が5億ドル未満の運営者は、2032年1月1日より前は監査規定の対象外となる。ただし、この猶予は監査に限られ、2027年からのリスク評価、保護者設定、危機対応、広告・個人情報の制限まで免除するものではない。

運営者は監査報告書を受領してから30営業日以内に要約を州司法長官へ提出し、90日以内に高水準の要約を自社サイトへ掲載する。未編集の報告書と監査に必要な資料は、対象サービスの提供期間に加えて5年間保存する。監査報告書そのものは原則非公開だが、州司法長官は理由がある場合に提出を求め、執行に利用できる。

会話データを一律に長期保存する義務はない。運営者が子どもの死亡または重大な自傷を会話に基づいて把握した場合などには、重大な自傷またはその危険を示す該当記録を利用可能で書き出せる形式にし、少なくとも3年間保存する。子どもの個人情報の販売、会話で得た個人情報によるターゲティング広告、安全機能や保護者設定の選択を妨げるダークパターンも制限される。

違反には公的制裁と限定的な民事請求

公的検察官は、過失による違反について影響を受けた子ども1人当たり最大5000ドル、故意の違反について最大1万5000ドルの民事制裁金を求められる。危機対応、保護設計、初期設定、AIであることの通知、有害な応答の防止に関する規定への違反で実害を受けた子どもや、その保護者には、実損、弁護士費用、差し止めなどを求める限定的な民事請求権も設けられている。

私人が金銭的被害を主張する場合は子ども1人当たり1000ドルを超えること、感情的被害の場合は深刻な精神的苦痛に達することが条件となる。リスク評価や監査に関するあらゆる違反が、そのまま私人による請求の対象になるわけではない。

OpenAIの支持表明は、法案の成立を意味しない。9月2日時点で確定しているのは、SB 1119が州議会を通過し、同社が知事に署名を求めたことまでである。次に焦点となるのはニューサム知事の判断であり、署名されれば2027年以降の段階的な施行に向けた準備が始まる。