AI-fyrirtæki svöruðu eiði — New York íhugar sjálfstætt eftirlit

Fulltrúar OpenAI, Anthropic, Google og Meta svöruðu spurningum um öryggi gervigreindar við yfirheyrslu borgarráðs New York 5. október 2026; þegar forseti ráðsins bað um tölulegt mat á hættu á stórfelldum afleiðingum svaraði Morgan Dwyer hjá OpenAI: „I don’t know.“ Borgarráðið íhugar að gera óháða úttekt á gervigreindarkerfum að skilyrði fyrir markaðssetningu og notkun þeirra í borginni.

Borgarráðið hafði boðað fyrirtækin til vitnisburðar undir eiði á fundi nefndar alls ráðsins, sem telur 51 fulltrúa. OpenAI, Google og Anthropic samþykktu þátttöku eftir að þeim hafði verið hótað stefnu; Meta hafði þegar staðfest að það myndi mæta. Vitnisburðurinn og umræðan um frumvörpin breyttu þó engum tillagnanna í gildandi lög.

Hvað svöruðu fyrirtækin?

Fyrirtækin lýstu öryggi sem mikilvægum hluta af þróun kerfa sinna og bentu jafnframt á gagnsemi þeirra. Svarið við spurningu Julie Menin um verstu hugsanlegu afleiðingarnar sýndi þó hvers vegna ráðið vill fá meira en yfirlýsingar fyrirtækjanna sjálfra: Dwyer hafnaði því ekki að áhættan skipti máli, heldur sagði að ekkert af þeim áhættustigum sem nefnd voru í spurningunni væri ásættanlegt. Að hans mati ætti ekki að þjálfa líkön nema hægt væri að færa sterk rök fyrir því að þau héldust undir stjórn manna.

Logan Graham hjá Anthropic lýsti fyrirtækinu sem opnu fyrir skynsamlegu regluverki og sagði ríki og borgir geta átt þátt í að móta það. Þessi afstaða jafngildir ekki stuðningi við hvert frumvarp borgarráðsins. Munurinn skiptir máli fyrir framhaldið: fyrirtæki getur lýst yfir vilja til að ræða eftirlit án þess að fallast á tiltekna skyldu, úttektaraðila eða viðurlög.

Fyrrverandi starfsmenn vildu að fleiri sæju áhættuna

Fyrrverandi starfsmenn Anthropic, OpenAI og Google DeepMind lýstu annarri mynd af þróunarumhverfinu. Jacob Coxon, fyrrverandi verkfræðingur hjá Anthropic, varaði við því að kapphlaup um öflugri kerfi gæti farið hraðar en geta fyrirtækjanna til að sýna fram á stjórn á þeim. Hann kallaði eftir auknu gagnsæi og öryggisvörnum. Vitnisburður hans var mat á mögulegri hættu, ekki niðurstaða úr prófun á tilteknu líkani.

Ágreiningurinn á fundinum snerist því ekki aðeins um hvort fyrirtækin hefðu innri öryggisferla. Hann snerist líka um hver fengi að skoða forsendur þeirra, hvaða upplýsingar yrðu aðgengilegar utan fyrirtækjanna og hvort sjálfstæður aðili gæti stöðvað markaðssetningu kerfis sem stæðist ekki kröfur. Borgarráðið reynir að færa þá spurningu úr vitnisburði yfir í framkvæmdanlegar reglur.

Úttekt, ábyrgð og uppljóstrarar í frumvörpunum

Í frumvarpapakka borgarráðsins er meðal annars lagt til að fyrirtæki og úttektaraðili geti hvort um sig sætt 25.000 dala sekt fyrir hvert tilvik þar sem kerfi er boðið fram án tilskilinnar staðfestingar eða staðfesting er fölsuð. Tillögurnar beinast að ólíkum stigum: mati áður en kerfi fer á markað, tilkynningum um vandamál og ábyrgð ef tjón verður. Þær eru enn til meðferðar og skyldurnar hér að neðan myndu aðeins gilda ef viðkomandi frumvörp verða samþykkt.

• Óháð staðfesting: Fyrirtæki þyrftu að fá utanaðkomandi aðila til að meta kerfi áður en þau væru markaðssett, boðin til sölu eða tekin í notkun í New York. Matið ætti meðal annars að ná til gagna, skekkju í niðurstöðum, persónuverndar og öryggis. Úttektaraðili þyrfti að upplýsa um hagsmunaárekstra og staðfesta að manneskja gæti stöðvað kerfið.
• Hvati fyrir uppljóstrara: Einstaklingar sem upplýsa um lögbrot gervigreindarfyrirtækja gætu fengið hluta sekta eða annarra viðurlaga sem innheimtust. Önnur tillaga myndi skýra vernd starfsmanna borgarinnar og tiltekinna verktaka hennar þegar þeir tilkynna háttsemi sem þeir telja ógna almannaöryggi.
• Leið til að krefjast bóta: Sá sem verður fyrir tjóni gæti höfðað mál gegn fyrirtæki ef tjónið var fyrirsjáanlegt, fyrirtækið brást við að setja eðlilegar varnir og þriðji aðili olli tjóninu með því að nýta þann veikleika. Tillagan tengir þannig ábyrgð við tiltekna vanrækslu fremur en alla skaðlega notkun gervigreindar.
• Upplýsingar og viðbrögð: Fleiri frumvörp fjalla um upplýsingagjöf um gervigreindarverkfæri, villandi fullyrðingar um öryggi þeirra, persónuvernd í spjallmennum og tilkynningar um öryggisatvik í samningum borgarinnar. Þau myndu gefa eftirlitsaðilum upplýsingar um vandamál sem koma fram eftir að kerfi er tekið í notkun.

Borgin hefur þegar sett reglur um notkun gervigreindar hjá eigin stofnunum. Nýju tillögurnar myndu ná lengra með því að setja skilyrði fyrir fyrirtæki sem bjóða kerfi á markaði eða taka þau í notkun innan borgarmarkanna. Umfangið skýrir bæði vægi umræðunnar og helstu framkvæmdaspurninguna: hvernig borgin gæti framfylgt kröfum gagnvart kerfum sem sömu fyrirtæki bjóða víða um heim.

Af hverju leitar New York eigin leiðar?

Borgaryfirvöld telja bindandi alríkiseftirlit ekki hafa fylgt þróuninni. Nýlegt samkomulag bandarískra stjórnvalda við tæknifyrirtæki byggir á valkvæðum aðgerðum og eftirliti sem fyrirtækin skipuleggja sjálf. Frumvörp New York myndu í staðinn tengja úttekt og ábyrgð við starfsemi innan lögsögu borgarinnar. Þau gætu því haft bein áhrif á fyrirtæki sem vilja bjóða þar kerfi, þótt borgin geti ekki ein sett reglur um alla þróun þeirra á heimsvísu.

Fyrir íslenska lesendur er munurinn á lögsögunum lykilatriði. Reglur Evrópusambandsins samkvæmt AI Act taka gildi í áföngum á sameiginlegum markaði, en upptaka þeirra í EES er enn til meðferðar og íslensk réttarstaða fylgir því sérstöku ferli. Í New York ræðst næsti áfangi af meðferð frumvarpanna í borgarráðinu: þar kemur í ljós hvort óháð mat verður lagaskilyrði með viðurlögum eða verður áfram krafa sem rædd var við yfirheyrsluna.

Lestu einnig:

• AI Act er ekki komið inn í EES — svona undirbúa fyrirtæki sig
• MongoDB sameinar minni og eftirlit gervigreindarfulltrúa í Atlas