Нью-Ёрк выклікаў распрацоўшчыкаў ШІ пад прысягу — рыхтуюцца новыя правілы

5 кастрычніка 2026 года прадстаўнікі OpenAI, Anthropic, Google і Meta далі паказанні пад прысягай на слуханнях гарадскога савета Нью-Ёрка. Разам з імі выступілі былыя супрацоўнікі ШІ-кампаній, якія папярэдзілі пра рызыкі ўсё больш аўтаномных сістэм. Савет разглядае мясцовыя законапраекты пра бяспеку ШІ; патрабаванні з іх пакуль не сталі законам.

Былы інжынер Anthropic Джэйкаб Коксан апісаў культуру распрацоўкі словамі «Move fast, break things, fix them later», якія прыводзіць рэпартаж AP пра слуханні. Былыя супрацоўнікі OpenAI і Google DeepMind таксама папярэдзілі дэпутатаў пра цяжкасці кантролю над развіццём сістэм. Прадстаўнікі кампаній гаварылі пра ўласныя меры бяспекі, але слуханні пакінулі адкрытым пытанне, якія з гэтых мер стануць абавязковымі для пастаўшчыкоў.

Чаму кампаніі давалі паказанні пад прысягай

Савет дамагаўся публічных адказаў ад кампаній, чые прадукты даступныя жыхарам горада. Згодна з паведамленнем гарадскога савета, Meta пагадзілася ўдзельнічаць раней, а OpenAI, Google і Anthropic пацвердзілі ўдзел пасля папярэджання пра магчымыя позвы. Для SpaceXAI савет выдаў асобную позву. Таму выклік кампаній пад прысягу меў розныя працэдурныя падставы: прадстаўнікі чатырох кампаній пагадзіліся выступіць, а SpaceXAI атрымала абавязковае патрабаванне з’явіцца.

Падчас слуханняў спікер савета Джулі Менін пыталася, ці спыніць няўдалая незалежная праверка выпуск мадэлі і хто будзе несці юрыдычную адказнасць, калі сістэма прычыніць шкоду. Прадстаўнікі OpenAI, Anthropic, Google і Meta апісалі свае працэдуры ацэнкі рызык, але не далі агульнага безумоўнага абавязацельства не выпускаць мадэль пасля адмоўнага выніку праверкі. У гэтым і заключаецца практычны канфлікт для савета: добраахвотныя працэдуры кампаніі можа змяняць сама, а мясцовы закон вызначыў бы абавязак і наступствы яго парушэння.

Якія патрабаванні прапануюць пастаўшчыкам ШІ

У пакеце прапаноў гарадскога савета для мадэлі без належнай незалежнай валідацыі прадугледжаны штраф у 25 000 долараў за кожны выпадак, а для інцыдэнтаў, звязаных з гарадскімі кантрактамі, — пісьмовае паведамленне цягам 24 гадзін і публічнае раскрыццё звестак яшчэ цягам 24 гадзін. Гэта розныя праекты з розным колам адказных: ад кампаній, якія прапануюць сістэмы на мясцовым рынку, да гарадскіх устаноў і іх падрадчыкаў.

• Незалежная валідацыя. Кампанія павінна была б прайсці праверку трэцім бокам перад тым, як прадаваць, прапаноўваць да продажу або ўкараняць ШІ-сістэму ў горадзе. Правяральнік ацэньваў бы якасць даных, прадузятасць, вынікі працы, прыватнасць і бяспеку сістэмы, а таксама раскрываў бы ўласны канфлікт інтарэсаў. Такі падыход пераносіць ацэнку за межы ўнутранай каманды распрацоўшчыка і робіць яе ўмовай доступу да гарадскога рынку.
• Адключэнне чалавекам. Той жа праект патрабуе тэхнічнай магчымасці спыніць працу сістэмы ўмяшаннем чалавека. Незалежны правяральнік мусіў бы пацвердзіць наяўнасць і працаздольнасць гэтага механізму. Для пастаўшчыка гэта азначала б неабходнасць паказаць рэальны спосаб адключэння, а не толькі апісаць чалавечы кантроль у палітыцы бяспекі.
• Паведамленне пра інцыдэнты. Гэты абавязак датычыўся б падрадчыка або гарадской установы, якія даведаліся пра інцыдэнт бяспекі ШІ падчас дзеяння адпаведнага кантракта. Паведамленне паступала б у гарадскую службу кібербяспекі, якая затым раскрывала б факт яго атрымання публічна. Такім чынам, прапанова звязвае тэрмін справаздачнасці з працай на горад, а не з кожным выкарыстаннем ШІ па-за яго кантрактамі.
• Абарона інфарматараў. Адзін праект дазволіў бы чалавеку, які паведаміў пра парушэнне ШІ-кампаніі, атрымаць частку спагнанага штрафу. Іншы пашырыў бы абарону гарадскіх супрацоўнікаў і ахопленых гарадскіх падрадчыкаў і субпадрадчыкаў, якія паведамляюць пра звязаную з ШІ пагрозу грамадскай бяспецы. Для людзей у гэтых арганізацыях істотна, што стымул паведаміць пра парушэнне і абарона ад адказных мер працадаўцы прапануюцца як асобныя механізмы.
• Празрыстасць чат-ботаў. Гэта асобны набор абавязкаў для пастаўшчыкоў размоўных сэрвісаў: паведамляць чалавеку, што ён узаемадзейнічае з праграмай, да першай рэплікі і падчас далейшай размовы, даваць доступ да захаванай гісторыі і абмяжоўваць выкарыстанне карыстальніцкіх даных. Ён таксама закранае заявы пра тое, ці могуць адказы чат-бота замяняць параду ліцэнзаванага спецыяліста.

Што асобна прадугледжвае праект для чат-ботаў

Тэкст праекта для чат-ботаў удакладняе, што папярэджанне пра размову з праграмай трэба было б паўтараць кожную гадзіну і пры прамым пытанні карыстальніка, ці размаўляе ён з чалавекам. Дарослы карыстальнік павінен быў бы даць выразную згоду на выкарыстанне яго даных для навучання мадэлі. Для даных непаўналетніх такое навучанне забараняецца; доступ карыстальніка да захаванай гісторыі размовы прадугледжаны ў фармаце, які можна спампаваць.

Праект таксама патрабуе ад пастаўшчыка праграмы бяспекі даных і ацэнкі рызыкі шкоды карыстальнікам. Ён забараняе ствараць у рэкламе, інтэрфейсе або адказах уражанне, што чат-бот дае парады, раўназначныя парадам ліцэнзаванага медыцынскага, юрыдычнага ці іншага спецыяліста. Гэта канкрэтныя патрабаванні да паводзін сэрвісу і абыходжання з размовамі карыстальнікаў, а не толькі да таго, як распрацоўшчык правярае мадэль перад выпускам.

Чаму гарадскія правілы могуць выйсці за межы Нью-Ёрка

Прапанаваная валідацыя прывязана да продажу і ўкаранення сістэмы ў Нью-Ёрку, таму месца знаходжання распрацоўшчыка само па сабе не вызначала б, ці закране яго патрабаванне. Пастаўшчык з іншай краіны, які прапануе прадукт на гарадскім рынку, павінен быў бы ўлічваць мясцовую праверку і магчымасць адключэння. Правілы для гарадскіх падрадчыкаў і чат-ботаў маюць іншыя межы дзеяння, таму пакет не стварае аднаго аднолькавага абавязку для ўсіх ШІ-кампаній.

Калі савет прыме гэтыя нормы, іншыя юрысдыкцыі атрымаюць прыклад таго, як звязаць доступ сістэмы да мясцовага рынку з незалежнай ацэнкай, чалавечым кантролем і справаздачнасцю пра інцыдэнты. Пакуль гэта магчымае наступства прапанаванай канструкцыі, а не дзеючы стандарт за межамі горада. Наступным крокам стануць пісьмовыя адказы кампаній на пытанні, якія засталіся пасля слуханняў, і далейшы разгляд законапраектаў саветам.

Чытайце таксама:

• FTC расследуе OpenAI і Anthropic: пад праверкай рызыкі ШІ-агентаў