OpenAI поддержала аудит чат-ботов для детей — штрафами дело не ограничится
OpenAI 31 августа 2026 года публично поддержала калифорнийский законопроект SB 1119 о безопасности детей при использовании чат-ботов-компаньонов и призвала губернатора Гэвина Ньюсома подписать его. В заявлении OpenAI компания одобрила определение возраста, оценку рисков до выпуска продукта, независимый аудит, родительские инструменты и ограничения на использование данных несовершеннолетних.
На 7 сентября проект прошёл законодательное собрание Калифорнии, но ещё ожидал решения губернатора и потому не устанавливал действующих обязанностей. Опубликованный 2 сентября разбор TechRepublic подтверждает позицию OpenAI и статус инициативы: Гэвину Ньюсому предстояло подписать SB 1119 или отклонить его.
Оценка рисков привязана к выпуску, а не к календарю
Проект охватывает операторов чат-ботов-компаньонов, доступных пользователям в Калифорнии; ребёнком в нём считается человек младше 18 лет. Оператор должен определить возраст пользователя через предусмотренные законодательством механизмы либо распространить детские меры защиты на всех пользователей. Если после определения возраста сервис не допускает детей, ему всё равно потребуется публично описать соблюдение правил определения возраста.
С 1 июля 2027 года перед предоставлением нового или существенно изменённого чат-бота оператор должен будет подготовить комплексную оценку рисков для детей. Текст SB 1119 от 28 августа требует включить результаты оценки предусмотренных видов вреда, описание методики, ссылки на открытые контрольные наборы и исследования, а также сведения о специалистах по детской безопасности, участвовавших в разработке новых методов проверки. Выявленные риски необходимо разумно снижать, а принятые меры — документировать.
В принятой законодателями редакции нет заявленной в ранних пересказах ежегодной оценки рисков. Новая проверка нужна перед выпуском нового или существенно модифицированного продукта. Одной оценкой разрешено охватить сопоставимый набор чат-ботов, а проведённую по другому закону проверку можно зачесть, если её масштаб и последствия существенно сходны.
Независимый аудит проверит внутренние процедуры
Первый аудит детской безопасности должен состояться к 1 января 2029 года либо до первого публичного запуска чат-бота — в зависимости от того, какая дата наступит позднее. После этого независимая проверка проводится каждые два года. Дополнительный аудит потребуется перед существенным изменением продукта, если связанная с ним оценка выявит повышение риска для детей.
Аудитору должны предоставить документацию, необходимую для проверки внутренних механизмов, процессов и систем. В отчёте оценивается, установил ли оператор обязательные правила и соблюдал ли их, какие меры снижения риска применял и как испытывал их эффективность. В документ также входят существенные отступления от требований и распределение ответственности за внутренний контроль.
Оператор обязан хранить документацию и полный отчёт всё время работы чат-бота и ещё пять лет. В течение 30 рабочих дней после получения отчёта компании потребуется передать генеральному прокурору резюме выводов, а в течение 90 дней — опубликовать общий обзор результатов. Полный отчёт прокурор сможет запросить при наличии основания; переданная версия останется конфиденциальной, но её разрешено использовать для правоприменения. До 2032 года аудиторская обязанность не затронет операторов, чья валовая выручка за предыдущий год была меньше $500 млн.
Требования меняют содержание и устройство сервиса
Операторам, допускающим детей, придётся опубликовать политику детской безопасности и внедрить кризисный протокол. При риске суицида или самоповреждения сервис должен направить ребёнка к подходящей кризисной службе. При достоверной и непосредственной угрозе оператору потребуется либо уведомить связанного с учётной записью родителя, если это не создаст угрозу серьёзного вреда ребёнку, либо обеспечить упрощённое соединение с линией 988 или её аналогом.
Для детских учётных записей по умолчанию отключаются push-уведомления и постоянная память о прошлых беседах, хотя для пользователей от 16 лет предусмотрены оговорки при наличии специальных защитных механизмов. Один непрерывный сеанс ограничивается часом, а суммарное ежедневное общение с чат-ботами одного оператора — двумя часами. Изменить эти параметры сможет родитель; без связанной родительской учётной записи настройки останутся неизменными.
Проект требует регулярно напоминать ребёнку, что он общается с ИИ, и принимать разумные меры против опасных ответов. В перечень входят поощрение самоповреждения, употребления наркотиков или алкоголя и расстройств пищевого поведения, сексуальные материалы, романтический интерес к ребёнку, заявления чат-бота о собственной человечности или сознании, отговаривание от перерывов, чрезмерная лесть и стимулирование эмоциональной зависимости.
Коммерческие ограничения включают запрет межконтекстной поведенческой рекламы для детей и продажи собранной в чат-боте личной информации. Использовать или передавать такие сведения можно лишь в пределах, необходимых для запрошенной услуги, безопасности, соблюдения закона или защиты от юридических требований. Допустимая контекстная реклама должна быть явно обозначена, а использованные для неё сведения нельзя превращать в профиль ребёнка.
Частный иск дополняет взыскания прокуроров
Публичный прокурор сможет требовать до $5 тыс. за каждое неосторожное нарушение в расчёте на затронутого ребёнка и до $15 тыс. за умышленное. Но принуждение этим не ограничивается: ребёнок, которому нарушение причинило реальный вред, либо действующие от его имени родитель или опекун смогут предъявить оператору отдельный гражданский иск. Именно это подтверждает обещанное заголовком последствие за пределами денежных взысканий государства.
Частное право на иск относится не ко всем положениям проекта. Оно охватывает нарушения требований о кризисной помощи, базовых защитных функциях, родительских настройках, уведомлении об общении с ИИ и предотвращении перечисленных опасных ответов. Истец сможет требовать возмещения фактического ущерба, разумных судебных расходов, запретительных или декларативных мер и другого надлежащего средства защиты. Для финансового вреда заявленная сумма должна превышать $1 тыс. на ребёнка, а эмоциональный вред должен достигать уровня серьёзного эмоционального расстройства; штрафные убытки, присутствовавшие в ранней версии, из принятого текста исключены.
Поддержка OpenAI сама по себе не меняет юридический статус SB 1119, однако создаёт заметный рыночный сигнал: крупный оператор генеративного ИИ публично согласился не только с продуктовыми ограничениями, но и с обязательной внешней проверкой. Для компаний исполнение проекта означало бы включение определения возраста, документирования рисков, испытаний защитных функций и подготовки аудиторских материалов непосредственно в цикл разработки.
История прохождения CalMatters Digital Democracy фиксирует, что 31 августа Сенат согласился с поправками Ассамблеи без голосов против — 39:0. По разбору окончательной редакции Transparency Coalition, следующим рубежом было решение Ньюсома до 30 сентября. До подписания или иного завершения процедуры оценки, аудиты, взыскания и частные иски остаются положениями одобренного законопроекта, а не действующим режимом.
Читайте также:
Подпишитесь на рассылку
Получайте свежие новости Web3, AI и криптовалют прямо на вашу почту.