AI-risar lofa sjálfseftirliti — samkomulagið er ekki bindandi lög

Í frétt Associated Press kemur fram að Donald Trump Bandaríkjaforseti og Dario Amodei fyrir Anthropic, Sundar Pichai fyrir Google, Mark Zuckerberg fyrir Meta, Greg Brockman fyrir OpenAI, Jensen Huang fyrir Nvidia og Elon Musk fyrir xAI skrifuðu undir sjálfviljugt samkomulag í Hvíta húsinu 29. september 2026; Trump kallaði það „morally binding“, eða siðferðilega bindandi. Fyrirtækin lofa að fylgjast með öryggi eigin gervigreindarlíkana, en undirritunin setur ekki sjálf lög sem stjórnvöld geta framfylgt.

Í frumtexta White House Accord on Super Intelligence frá 29. september 2026 eru fjögur eftirlitslög: innri varnir, sérstakt innra teymi, óháð ytra mat og eftirlit nefndar innan stjórnar hvers fyrirtækis. Fyrirtækin skuldbinda sig til að koma þessu fyrirkomulagi á. Textinn tilgreinir hvorki opinber viðurlög við vanefndum né skyldu til að birta niðurstöður úttekta, svo undirritunin ein sýnir ekki hvort öll lögin séu þegar virk hjá hverju fyrirtæki.

Hvað felst í eftirlitslögunum fjórum?

Samkomulagið færir athugunina frá þeim sem reka líkönin til innra teymis, síðan til óháðs matsaðila og loks til stjórnarnefndar. Á hverju stigi breytist hver á að sjá vandamál og bregðast við þeim; ekkert þeirra fær þó sérstakt opinbert vald samkvæmt samkomulaginu.

• Innri varnir og vöktun: Hvert fyrirtæki á að fylgjast með getu líkana sinna og því hvort þau hegði sér eins og til er ætlast við þjálfun og notkun. Samkomulagið nefnir netöryggi, líffræðilegar og efnafræðilegar ógnir og ófyrirséðan aðgang líkana að tæknikerfum. Fyrirtækið ber sjálft ábyrgð á að byggja upp varnirnar og greina frávik. Þetta er grunnurinn sem hin eftirlitslögin eiga að meta, en enginn utanaðkomandi aðili er nefndur sem staðfestir hverja daglega athugun.
• Innri yfirferð: Sérstöku teymi innan fyrirtækisins á að vera falið að ganga úr skugga um að varnir, vöktun og greining virki og að vandamál séu lagfærð. Þannig á yfirferðin að ná lengra en að starfsmenn sem reka kerfin meti eigin verk. Teymið er samt hluti af sama fyrirtæki. Samkomulagið lýsir hlutverki þess en ákveður hvorki samsetningu þess né opinbera birtingu niðurstaðna.
• Óháð ytra mat: Hvert fyrirtæki á að vinna með óháðum utanaðkomandi úttektaraðila eða matsaðila. Hans verkefni er að meta hvort varnir, vöktun og greining skili því sem til er ætlast. Þetta er eina lagið þar sem mat utan fyrirtækisins er beinlínis áskilið. Textinn skilgreinir ekki hvernig matsaðilinn er valinn, hve oft mat fer fram eða hver fær niðurstöðurnar; hann veitir matsaðilanum heldur ekki vald til að stöðva þjálfun eða útgáfu líkans.
• Eftirlit stjórnar: Óháð nefnd innan stjórnar hvers fyrirtækis á að hafa yfirumsjón með starfinu. Hún á að fá skýrslur frá þeim sem reka varnirnar og frá innri og ytri úttektaraðilum og sjá til þess að úr greindum vandamálum sé bætt. Stjórnin fær því ábyrgð á viðbrögðum, ekki aðeins vitneskju um niðurstöður. Samkomulagið lýsir hins vegar ekki opinberu úrræði ef nefndin lætur hjá líða að krefjast úrbóta.

Hver getur sannreynt efndirnar?

Ytri matsaðili getur metið hvort öryggisráðstafanir fyrirtækis virki og stjórnarnefnd þess á að fá skýrslur um það mat. Aðgangur þeirra er þó ekki það sama og að almenningur eða stjórnvöld fái að sjá niðurstöðurnar. Samkomulagið skyldar fyrirtækin ekki til að birta úttektarskýrslur eða afhenda þær opinberri eftirlitsstofnun. Það setur heldur ekki sameiginlega mælikvarða sem gera kleift að bera framkvæmdina saman milli undirritenda.

Fyrirtækin ætla jafnframt að hittast reglulega til að móta viðmið og góða starfshætti. Sú vinna gæti skýrt síðar hvað telst fullnægjandi vöktun eða úttekt, en engin tímasetning fyrir birtingu viðmiðanna er í samkomulaginu. Meðan fyrirtækin birta ekki upplýsingar um framkvæmdina er hægt að sjá hvað þau lofuðu, en síður hvort óháð mat hafi farið fram hjá hverju þeirra eða hvaða úrbætur það leiddi til.

Hvað gerist ef loforðið er ekki efnt?

Samkomulagið felur innra teyminu og stjórnarnefndinni að sjá til þess að brugðist sé við vandamálum sem finnast. Það lýsir þannig leið til úrbóta innan fyrirtækis. Þar er aftur á móti hvorki ákveðin sekt vegna vanefnda, lögbundin tilkynningarskylda um brot á samkomulaginu né málsmeðferð sem stjórnvöld geta beitt til að knýja fram þessi tilteknu loforð.

Í textanum er tekið fram að síðar kunni að vera skynsamlegt að festa skrefin í lög eða reglugerðir. Það er mögulegur framhaldsáfangi, ekki ákvæði sem tekur gildi við undirritun. Önnur gildandi lög geta eftir atvikum átt við starfsemi fyrirtækjanna, en þau verða ekki sjálfkrafa tæki til að framfylgja hverju atriði þessa samkomulags. Áhrif þess ráðast því fyrst um sinn af því hvernig fyrirtækin skipuleggja matið og hvort stjórnir þeirra fylgja niðurstöðum þess eftir.

Evrópskar skyldur byggja á öðru valdi

Á evrópskum markaði er munurinn á loforði og lagaskyldu áþreifanlegur. Samkvæmt skýringum framkvæmdastjórnar ESB um framkvæmd gervigreindarlaganna urðu reglur um almenn gervigreindarlíkön framfylgjanlegar 2. ágúst 2026. Þar geta þar til bær yfirvöld aflað upplýsinga, krafist úrbóta og gripið til takmarkana þegar skilyrði laganna eru uppfyllt. Þau úrræði byggja á skilgreindum lagaskyldum, ekki undirritun sjálfviljugs samkomulags.

Evrópsku reglurnar ráðast af því hvaða líkan og starfsemi falla undir lögin; þær eru ekki einfaldlega evrópsk útgáfa af eftirlitslögunum í Hvíta húsinu. Fyrir lesendur á Íslandi skiptir þessi aðgreining máli þegar öryggisloforð alþjóðlegra fyrirtækja eru metin: sjálfviljug úttekt getur leitt til raunverulegra breytinga, en aðgangur yfirvalda að upplýsingum og vald þeirra til að krefjast úrbóta verður að eiga sér sjálfstæða lagastoð. Næsta sýnilega skref í bandaríska samkomulaginu verður að fyrirtækin móta sameiginleg viðmið; birting þeirra og upplýsinga um óháðar úttektir myndi sýna mun betur hvernig loforðið er efnt.

Lestu einnig:

• Good Tape verður sjálfstætt fyrir €600.000 — leitin nær yfir gömul viðtöl
• AI Act er ekki komið inn í EES — svona undirbúa fyrirtæki sig
• Prófaðu gervigreindarfulltrúa með ferlum — lokasvarið dugar ekki