Američki AI divovi pristali na samonadzor — obveze su zasad dobrovoljne

Donald Trump i čelnici Googlea, Anthropica, Mete, OpenAI-ja, xAI-ja i Nvidije potpisali su 29. rujna 2026. u Bijeloj kući dobrovoljni sigurnosni sporazum koji je Trump nazvao „morally binding”. Tvrtke su prihvatile interne kontrole razvoja naprednih modela, neovisnu vanjsku procjenu tih kontrola i nadzor unutar vlastitih upravnih odbora. Sporazum ne propisuje kazne za neispunjavanje obećanja.

Istoga dana Trump je potpisao i zasebnu predsjedničku naredbu od 29. rujna 2026. kojom američkoj izvršnoj vlasti nalaže uporabu izraza „Super Intelligence” u službenim materijalima te traži prijedlog zakonske definicije u roku od 60 dana. Ta se obveza odnosi na savezna tijela, dok sigurnosne postupke iz sporazuma trebaju provesti same tvrtke. Za korisnike u Hrvatskoj razlika je važna: američki potpis ne mijenja pravila koja vrijede za modele ponuđene u EU-u.

Što su tvrtke preuzele na sebe

Obveze su usmjerene na tvrtke koje razvijaju i uvode najnaprednije modele. One trebaju pratiti sposobnosti modela i njihovo ponašanje tijekom razvoja i uporabe, među ostalim u područjima kibernetičke sigurnosti te bioloških i kemijskih prijetnji. Kontrole trebaju pomoći i u otkrivanju slučajeva u kojima model nepredviđeno pristupa tehničkim sustavima ili ih napada.

Sljedeći sloj nadzora jest interna skupina ovlaštena provjeravati rade li kontrole, praćenje i otkrivanje problema te otklanjaju li se utvrđeni nedostaci. Neovisni vanjski revizor ili procjenitelj trebao bi ocijeniti funkcioniraju li ti postupci. Povjerenstvo unutar upravnog odbora svake tvrtke trebalo bi primati nalaze unutarnjih i vanjskih provjera te nadzirati ispravke.

Takav raspored određuje tko provjerava postupke i kome nalazi stižu, ali ne postavlja jedinstven javni prag koji svaki model mora dosegnuti prije objave. Potpisnici su se obvezali i na redovite zajedničke sastanke radi razvoja standarda i dobre prakse. Sporazum ostavlja otvorenom mogućnost da se pojedini postupci poslije pretoče u zakon ili propis; njihov sadašnji status time se ne mijenja.

Dva poteza s različitim pravnim učinkom

• Predsjednička naredba: američka savezna tijela izvršne vlasti trebaju, u granicama zakona, rabiti „Super Intelligence” i „SI” umjesto „Artificial Intelligence” i „AI” u novoj službenoj korespondenciji, javnoj komunikaciji, na mrežnim stranicama i u drugim dokumentima koji nisu zakonski tekstovi. Naredba ne zahtijeva prepravljanje ranije donesenih propisa, ugovora ni povijesnih dokumenata.
• Sporazum tvrtki: potpisnici su prihvatili vlastite kontrole, vanjsku procjenu i nadzor upravnog odbora. Sporazum ne uspostavlja regulatora koji bi odobravao modele, ne propisuje kaznu za tvrtku koja ne provede obećano i ne daje korisniku pravo da zahtijeva revizorski nalaz.

Naredba za svoje potrebe zasad pridaje novom izrazu značenje koje postojeći američki zakon daje umjetnoj inteligenciji. Predsjednik je od svojeg savjetnika za znanost i tehnologiju zatražio prijedlog drukčije zakonske definicije, no prijedlog sam po sebi ne mijenja zakon. Naziv koji će rabiti savezna uprava stoga ne određuje automatski kako će tehnologiju zvati privatne tvrtke, hrvatska tijela ili institucije EU-a.

Što mogu pokazati revizor i upravni odbor

Vanjski procjenitelj trebao bi provjeriti djeluju li kontrole koje je pojedina tvrtka uspostavila. To je uži zadatak od državnog odobravanja modela za tržište: procjena postupaka može otkriti slabosti u praćenju i otklanjanju problema, ali sam potpis sporazuma ne govori ništa o nalazu za određeni model. Sporazum ne određuje rok do kojeg svaka procjena mora biti dovršena ni nalaže javnu objavu njezinih rezultata.

Nadzor upravnog odbora također ostaje u svakoj tvrtki. Predviđeno povjerenstvo prima izvješća i prati rješavanje uočenih problema, dok odluke o provedbi i dalje donosi tvrtka. Zato će se stvarni učinak obećanja moći procjenjivati prema provedenim kontrolama i dostupnim nalazima, a ne prema broju potpisa. Moguće je da će se postupci među potpisnicima razlikovati iako svi prihvaćaju isti okvir.

Trumpova ocjena da je sporazum moralno obvezujući opisuje političku težinu javnog obećanja, a ne pravnu sankciju. Reputacijski pritisak može potaknuti tvrtku da ispuni ono što je potpisala, ali kupcu ne pruža isti mehanizam zaštite kao provedivo regulatorno pravilo. Time razlika između obećane revizije i objavljenog, provjerljivog nalaza postaje presudna za razumijevanje dosega sporazuma.

Što to znači za Hrvatsku i EU

Model koji ista tvrtka nudi na više tržišta može se razvijati uz jednake interne sigurnosne postupke, pa bi promjene uvedene nakon sporazuma mogle utjecati i na usluge dostupne u Hrvatskoj. Sporazum ipak ne jamči da će svaka kontrola biti jednako primijenjena na svaki model ili tržište. Korisnik u Hrvatskoj samim potpisivanjem ne dobiva novo pravo uvida u izvješće vanjskog procjenitelja.

Za pružatelje modela opće namjene obuhvaćene Aktom o umjetnoj inteligenciji vrijede zasebne obveze. Europska komisija navodi tehničku dokumentaciju, politiku poštovanja autorskih prava i javni sažetak sadržaja uporabljenog za učenje; za modele sa sistemskim rizikom navodi i procjenu te ublažavanje rizika, prijavu ozbiljnih incidenata i kibernetičku zaštitu. Dobrovoljna američka revizija ne zamjenjuje te zahtjeve.

Dobavljač može europskom kupcu opisati sigurnosne postupke prihvaćene u Washingtonu, no sama takva tvrdnja ne pokazuje ispunjava li obveze koje za njegov model proizlaze iz pravila EU-a. Dokumentacija o modelu, informacije koje pravila EU-a traže i nalazi koje tvrtka odluči objaviti odgovaraju na različita pitanja. Za kupce je najvažnije da se javno obećanje o nadzoru ne zamijeni s već provedenom procjenom konkretnog proizvoda.

Na američkoj strani sljedeći je određeni korak predaja prijedloga zakonske definicije predsjedniku u roku utvrđenom naredbom. Za sigurnosni sporazum bit će važnije hoće li potpisnici pokazati da su vanjske procjene obavljene i da su pronađene slabosti otklonjene. Tek će takvi podaci omogućiti da se opseg samonadzora sagleda i izvan izjava njegovih potpisnika.

Pročitajte i:

• MongoDB Atlas Agent Engine obećava memoriju agenata — zasad samo u previewu