AI-инсајдери сведочеа под заклетва: Њујорк бара локални заштитни мерки

На 5 октомври 2026 година пред Градскиот совет на Њујорк сведочеа поранешни вработени во Anthropic, OpenAI и Google DeepMind; поранешниот инженер на Anthropic, Џејкоб Коксон, ја опиша културата во индустријата со зборовите „Move fast, break things, fix them later“, пренесе Асошиејтед прес. Тие предупредија дека развојот на напредни системи оди побрзо од способноста сигурно да се контролира нивното однесување. Нивните проценки беа сведоштво за ризик, а не утврдување дека најлошото сценарио веќе се случило.

Претставници на Anthropic, OpenAI, Google и Meta одговараа под заклетва, додека Советот разгледуваше локални заштитни мерки. Во најавата за сослушувањето Советот ги именуваше компаниите и објасни дека Комитетот на целиот совет ги опфаќа сите 51 советник. Сослушувањето отвори расправа за предложени правила; само по себе не усвои закон и не создаде нови обврски за компаниите.

Што предупредија поранешните вработени

Коксон, поранешниот истражувач на OpenAI Даниел Кокотајло и поранешниот истражувач на Google DeepMind Алекс Тарнер зборуваа за сè посамостојни системи и за границите на човечкиот надзор. Коксон рече „We don’t fully control it“, а Тарнер ја процени веројатноста за идно преземање контрола од AI на околу една третина, според репортажата на amNewYork. Проценката на Тарнер е негова лична проценка, а не измерена стапка на ризик.

Коксон повика на поголема транспарентност пред јавноста и независните експерти, како и на забавување на развојот на најнапредните модели додека нивната безбедност не може посигурно да се оцени. Неговото предупредување се однесува на можен иден губиток на контрола, па не кажува дека секој денешен систем претставува иста опасност. Сведоштвото, сепак, му постави на Советот конкретно прашање: кој има право да запре објавување модел кога проценката за ризик е спорна?

Таа разлика е важна за исходот од расправата. Поранешните вработени ги опишаа опасностите што ги гледаат од својата работа во индустријата, но градот ќе мора да утврди каков доказ може да бара од фирмите што продаваат или применуваат системи во Њујорк. Ниту лична проценка на сведок, ниту уверување на производител автоматски не станува задолжителен стандард со тоа што е изнесено пред советниците.

Каде останаа празнини во одговорите на компаниите

Најтешките прашања се однесуваа на веројатноста за катастрофална штета, неуспешните безбедносни проверки и правната одговорност. Претставниците на компаниите не дадоа заедничка бројчена проценка на најлошото сценарио. Тие ги опишаа своите постапки за процена на ризик, но не дадоа општо ветување дека секој неуспешен внатрешен или независен тест автоматски ќе го запре објавувањето модел.

На прашањето дали компанија би сносела правна одговорност ако нејзин систем предизвика сериозна штета, одговорите исто така се разликуваа. Некои претставници зборуваа за обврската безбедно да ги развиваат и оценуваат системите, без да прифатат одговорност за секое наведено сценарио. Така расправата стигна до суштинскиот јаз меѓу внатрешна постапка за безбедност и правило што надворешен орган може да го провери или спроведе.

Советот ги повика компаниите токму за да добие јавни одговори на тие прашања. Заклетвата ја зголемува тежината на нивното сведочење, но не решава сама по себе кој тест е доволен, кога систем треба да се повлече или кој ќе ја плати штетата. Тоа се различни одлуки: едната се носи во компанијата, а другите би зависеле од содржината и усвојувањето на конкретен пропис.

Што предвидуваат локалните предлози

Најширокиот предлог би барал независна проверка пред AI-систем да се рекламира, понуди на продажба или примени во градот. Според пакетот објавен од Градскиот совет, проверувачот би оценувал квалитет на податоците, пристрасност, резултати од одлучувањето, приватност и безбедност, а системот би морал да има механизам со кој човек може да го исклучи. Предлогот предвидува и казна од 25.000 долари за поединечен случај на продажба или примена без потребната проверка, односно со лажирана проверка.

Друг предлог би им дозволил на лицата што пријавуваат прекршувања да добијат дел од наплатените казни. Посебна мерка би им дала можност на оштетени лица да тужат AI-компанија за предвидлива штета од злонамерна употреба, ако компанијата не поставила разумни заштити. За градските договори се предлага и известување за одредени безбедносни инциденти во рок од 24 часа. Секој од овие текстови има различен опфат; расправата не ги претвори во важечки обврски.

Независната проверка би го поместила делот од оценувањето надвор од фирмата што го нуди системот. Механизмот за исклучување би поставил прашање кој човек навистина може да интервенира, а правилото за пријавување би определило кога градот дознава за инцидент кај свој изведувач. Затоа предлозите се однесуваат и на техничка контрола и на одговорност: уверувањето дека производот е безбеден би требало да биде поткрепено со проверлива постапка.

Зошто Њујорк ја води расправата на градско ниво

Градскиот совет ја отвори темата додека федералната власт во САД не воспоставила сеопфатни задолжителни правила за безбедноста на најнапредните AI-системи. Неговиот интерес е врзан за жителите, градските служби и системите што се нудат или применуваат во Њујорк. Тој локален опфат објаснува зошто советниците разговараат и со развивачите на модели и со луѓе што ја напуштиле индустријата.

Градот веќе има правила за употребата на AI и алгоритамски системи во своите служби. Објаснувањето на Градскиот совет ги опишува постојните механизми за преглед на системите што ги користат градските агенции, процена на ризик, заштита при набавка и јавен попис. Новите предлози отвораат пошироки прашања за системите на приватни компании, за надворешна проверка и за одговорност при штета. Постојните правила за градските служби и предложените услови за фирмите затоа имаат различен правен статус и различен опфат.

За читател во Северна Македонија, случајот јасно ги раздвојува прашањата што може да ги постави локален регулатор или јавен набавувач: кој го проверува системот, кој може да го запре и кога се пријавува инцидент. Тоа е споредба на регулаторни прашања, а не тврдење дека њујоршките предлози важат во Северна Македонија. Во Њујорк следниот конкретен чекор е Советот да ги разгледа текстовите на мерките и дополнителните одговори што ги побара од компаниите; новите локални обврски зависат од понатамошната законодавна постапка.

Прочитајте и:

• Kajabi или Teachable: поевтиниот курс може да бара посебен маркетинг-систем
• ВЕЗИЛКА излезе пред јавноста: македонската AI-фабрика бара корисници
• Turnstile или reCAPTCHA: невидливиот тест не гарантира посилна заштита