AI firmy sľúbili externé audity, dohoda však nemá sankcie ani termín

Podľa CoinDesk podpísali Donald Trump a predstavitelia šiestich firiem – Google, Anthropic, Meta, OpenAI, xAI a Nvidia – 29. septembra 2026 v Bielom dome dobrovoľnú dohodu o bezpečnostných kontrolách pokročilých modelov: zahŕňa externé hodnotenie, ale nemá sankcie ani termín zavedenia; Trump ju označil za „morally binding“, teda morálne záväznú. Podpisy vyjadrujú spoločný prísľub firiem, nie výsledok už vykonaného nezávislého auditu.

Znenie dohody z 29. septembra 2026 menuje Sundara Pichaia za Google, Daria Amodeia za Anthropic, Marka Zuckerberga za Meta, Grega Brockmana za OpenAI, Elona Muska za xAI a Jensena Huanga za Nvidia. Jej jadrom sú štyri nadväzujúce vrstvy: kontrola modelov vo firme, interný tím zodpovedný za fungovanie kontrol, nezávislý externý hodnotiteľ a výbor predstavenstva. Text hovorí, čo by mali signatári zaviesť, no neurčuje spoločnú skúšku, po ktorej by sa dalo vyhlásiť, že záväzok splnili.

Štyri vrstvy kontroly: úloha a chýbajúca poistka

Postup sa začína pri vývoji a používaní modelu a končí pri vedení spoločnosti. Každá vrstva má iného nositeľa zodpovednosti; externý hodnotiteľ nenahrádza prácu interného tímu a výbor predstavenstva nie je štátny dohľad. Rozdiel medzi prisľúbeným krokom a chýbajúcou poistkou je pri jednotlivých vrstvách tento:

• Interné kontroly. Firma má pri trénovaní a nasadení sledovať schopnosti modelu a to, či sa správa podľa zámeru. Dohoda uvádza kybernetickú bezpečnosť, biologické a chemické hrozby aj prístup modelu do technických systémov neplánovaným spôsobom. Neurčuje však spoločné prahové hodnoty testov ani podobu záznamov, ktoré by umožnili výsledky porovnať medzi signatármi.
• Interný tím. Poverená skupina má zabezpečiť, že kontrola, monitorovanie a odhaľovanie problémov fungujú, a postarať sa o nápravu zistených nedostatkov. Text nehovorí, ako má tím preukazovať účinnosť opravy, komu mimo firmy musí hlásiť zlyhanie ani koľko času má na jeho odstránenie. Vnútrofiremná zodpovednosť preto sama osebe nevytvára verejný záznam o náprave.
• Externý hodnotiteľ. Nezávislý audítor alebo hodnotiteľ má preveriť, či firemné kontroly, monitorovanie a odhaľovanie problémov pracujú podľa zámeru. Jeho úlohou je posúdenie fungovania opatrení, nie automatické schvaľovanie každého modelu pred uvedením do používania. Dohoda neurčuje, kto hodnotiteľa vyberie, aký prístup dostane k testom ani či sa zverejní jeho meno a závery.
• Výbor predstavenstva. Nezávislý výbor má prijímať správy od ľudí, ktorí kontroly vykonávajú, aj od interných a externých hodnotiteľov. Má tiež dohliadať na odstránenie zistených problémov. Dokument mu však nestanovuje lehotu na rozhodnutie alebo nápravu a neukladá povinnosť zverejniť, aké zistenia dostal a ako na ne reagoval.

Signatári sa zároveň zaviazali pravidelne stretávať a spoločne vytvárať štandardy a osvedčené postupy. Interval stretnutí ani hotové spoločné meradlá v texte nie sú. Táto časť môže postupy firiem časom zbližovať, ale zatiaľ nedáva hodnotiteľom jednotný zoznam testov, podľa ktorého by museli posudzovať každý model.

Čo by externý audit ukázal a čo zostane vo firme

Prisľúbené nezávislé posúdenie sa zameriava na funkčnosť kontrol, nie iba na existenciu bezpečnostnej politiky na papieri. Hodnotiteľ by mohol skúmať, či monitorovanie zachytáva nežiaduce správanie modelu a či interné postupy vedú k náprave; konkrétny rozsah takého skúmania však bude závisieť od prístupu, ktorý firma poskytne. Dokument nedefinuje povinný spôsob výberu testovaných modelov, frekvenciu hodnotenia ani minimálny obsah správy.

Osobitne dôležité je, kto sa dozvie výsledok. Výbor predstavenstva má správy dostať, verejnosť na ne podľa dohody nárok nedostáva. Firma tak môže splniť sľub o externom hodnotení bez toho, aby zákazníci poznali hodnotiteľa, hranice jeho práce alebo závažnosť nálezov. Verejná kontrola potom závisí od informácií, ktoré sa jednotlivé spoločnosti samy rozhodnú poskytnúť, a nie od povinnosti zverejnenia v dohode.

Slovo „nezávislý“ samo nerozhoduje o kvalite preverovania. Ak by hodnotiteľ videl iba vybrané testy, mohol by posúdiť fungovanie týchto testov, nie všetky riziká modelu; to je podmienený dôsledok rozsahu prístupu, nie tvrdenie, že signatári už takto audity obmedzili. Práve preto je rozsah mandátu rovnako významný ako samotná existencia externého hodnotiteľa.

Podpis vytvára tlak, nie právny postih

Analýza Ars Technica uvádza, že dohoda firmám neukladá nové právne povinnosti. Nesplnenie jej ustanovení preto samo osebe nespúšťa pokutu ani konanie podľa mechanizmu vytvoreného týmto textom. Politický a reputačný tlak môže mať pre signatárov význam, no jeho sila závisí od toho, či budú ich kroky navonok viditeľné.

Podpísaný dokument predpokladá nápravu zistených problémov, ale nepíše, kedy sa majú jednotlivé kontroly zaviesť ani dokedy má byť konkrétny nedostatok odstránený. Neustanovuje ani orgán, ktorý by rozhodoval o porušení sľubu. Morálna záväznosť môže vyjadrovať očakávanie voči firmám, no nedáva verejnosti právny nástroj na vynútenie auditu alebo na získanie jeho správy.

Dohoda pripúšťa, že jej postupy by sa časom mohli dostať do zákonov alebo nariadení. Zatiaľ sa bude jej skutočný dosah dať posúdiť až podľa toho, či signatári určia nezávislých hodnotiteľov, čo im umožnia preveriť a či ukážu, ako odstránili odhalené slabiny. Pre ľudí a firmy používajúce tieto modely je práve dostupnosť takýchto konkrétnych výsledkov rozdielom medzi verejne overiteľnou kontrolou a prísľubom pri podpise.

Prečítajte si aj:

• Premiere prišiel na Android zadarmo, kredity Firefly však ostávajú platené
• Biolevate získal 30 miliónov eur, 20-násobný rast nemá základnú sumu
• AI ovláda 93 % uchádzačov? Firmy pod pojmom pripravenosť myslia viac