Americké AI firmy slíbily samokontrolu, sankce v dohodě chybějí

Prezident Donald Trump a zástupci šesti společností – Google, Anthropic, Meta, OpenAI, xAI a Nvidia – podepsali 29. září 2026 v Bílém domě dobrovolnou dohodu White House Accord on Super Intelligence; jejich jména zachycuje archivovaný podpisový dokument. Za firmy se podepsali Sundar Pichai, Dario Amodei, Mark Zuckerberg, Greg Brockman, Elon Musk a Jensen Huang. Přijali závazek kontrolovat pokročilé modely uvnitř firem a přizvat nezávislé posouzení.

Podle rozboru Al Jazeery má dohoda čtyři vrstvy kontroly, včetně externího auditora a výboru správní rady, ale neukládá zveřejňovat výsledky ani nestanoví sankce za nesplnění; Trump ji označil za „morally binding“, tedy morálně závaznou. Podpis vyjadřuje veřejný slib firem. Sám o sobě nedokládá dokončený audit konkrétního modelu.

Čtyři vrstvy kontroly mají odlišné úkoly

Text se obrací na společnosti, které trénují a nasazují nejpokročilejší modely. Kontrola má začínat už při trénování a pokračovat po nasazení: firma má sledovat schopnosti modelu i to, zda se chová podle záměru. Další vrstvy mají prověřovat fungování kontrol a nápravu zjištěných problémů.

• Vnitřní kontrolní mechanismy: firma má sledovat schopnosti modelů a jejich soulad se zamýšleným chováním. Dokument výslovně uvádí kybernetická, biologická a chemická rizika i situace, kdy by model mohl nežádoucím způsobem proniknout do technických systémů nebo k nim získat přístup. Za podobu průběžného sledování odpovídá sama společnost.
• Vnitřní tým: má ověřovat, zda kontroly, monitoring a detekce fungují podle záměru a zda se odhalené problémy napravují. Technická zjištění tak mají vést k nápravným rozhodnutím uvnitř podniku.
• Externí auditor nebo hodnotitel: nezávisle posuzuje, zda kontroly, monitoring a detekce pracují podle záměru. Předmětem posouzení jsou zavedené mechanismy; samotná účast auditora neznamená osvědčení každého modelu ani záruku bezpečnosti každého jeho výstupu.
• Nezávislý výbor správní rady: má přijímat zprávy od týmů provozujících kontroly i od interních a externích auditorů a hodnotitelů. Dohlíží také na odstranění zjištěných problémů. Odpovědnost za reakci se tím dostává k vedení společnosti.

Mezi technickým zjištěním a rozhodnutím vedení má vzniknout sled odpovědností: vnitřní kontrola zachytí problém, tým zajistí nápravu, externí hodnotitel posoudí fungování mechanismů a výbor sleduje zprávy i další postup. Dohoda ale nepředepisuje jednotný test, podle kterého by šlo výsledky signatářů přímo srovnat. Neuvádí společnou metodiku, měřitelné bezpečnostní prahy ani termín dokončení auditních zpráv.

Externí auditor nepřináší státní vymahatelnost

Externí hodnotitel má být nezávislý na firmě při posuzování jejích kontrol. Dohoda mu však nepřisuzuje pravomoc regulátora ani nevymezuje právo zastavit nasazení modelu. Výbor správní rady zůstává součástí podepsané společnosti, i když má být nezávislý na týmech, jejichž práci sleduje.

Audit může firmě a jejímu vedení ukázat, zda vnitřní systémy zachycují rizika a zda se zjištěné nedostatky napravují. Zákazník ovšem potřebuje znát také výsledek a rozsah posouzení. Dohoda neurčuje, který auditor prověří kterou firmu, k jakým modelům získá přístup ani v jaké podobě se zákazník dozví o zjištěních. Zveřejnění auditních závěrů není povinnou součástí slibu.

Účastníci se dále zavázali pravidelně se scházet a vytvářet standardy a osvědčené postupy pro bezpečnost svých systémů. Dokument současně připouští, že by se popsané kroky časem mohly promítnout do zákonů či předpisů. Dokud k tomu nedojde, stojí jejich plnění na rozhodnutí signatářů: za vynechání některé vrstvy dohoda neuvádí pokutu, správní řízení ani jiný postih.

Prezidentský příkaz má jiné adresáty

Ve stejný den Trump vydal prezidentský příkaz o označení Super Intelligence. Federálním úřadům nařizuje v úřední korespondenci, veřejných sděleních, na webech a v dalších nestatutárních materiálech používat „Super Intelligence“ a „SI“ místo „Artificial Intelligence“ a „AI“, pokud to zákon dovoluje. Prezidentův poradce pro vědu a technologie má do 60 dnů předložit návrh nové federální definice těchto pojmů.

Příkaz prozatím přebírá rozsah dosavadní zákonné definice umělé inteligence. Nevyžaduje zpětné přepisování dříve vydaných předpisů, smluv ani historických dokumentů. Jeho adresátem je federální exekutiva; lhůta pro návrh definice se netýká auditů firem, které podepsaly bezpečnostní dohodu.

Co z dohody pozná zákazník v Česku

Česká firma, která používá službu některého ze signatářů, získává informaci o tom, jaký rámec dohledu dodavatel veřejně přijal. Z podpisu ale nevyčte, zda externí hodnotitel už posoudil konkrétní model nebo službu, kterou používá. Dohoda nevytváří veřejný registr auditovaných modelů ani povinnou srovnatelnou zprávu o zjištěných rizicích.

Údaje o rozsahu auditů, jejich závěrech a způsobu nápravy by zákazníkovi umožnily posoudit, jak byl slib proveden. Zatím závazek určuje především role uvnitř podepsaných společností: kdo má problémy zachytit, kdo má posoudit kontrolní mechanismy a kdo má sledovat reakci vedení. Míru prověření konkrétní služby bude český odběratel znát až z informací, které mu její dodavatel zpřístupní.

Přečtěte si také:

• IT pozice mají dost uchazečů, firmy však hledají jinou kombinaci dovedností