Akt o UI v Sloveniji: oznaka vsebine je le ena od obveznosti

Slovensko podjetje mora za vsak sistem umetne inteligence najprej določiti svojo vlogo in način uporabe. Po 50. členu Akta o umetni inteligenci ponudnik skrbi za obvestilo ob neposredni interakciji in strojno berljivo označevanje določenih izhodov, uvajalec pa za obveščanje ljudi pri nekaterih biometričnih uporabah ter za razkritje globokih ponaredkov in določenih objavljenih besedil. Vidna oznaka na sliki zato ne izpolni vseh zahtev glede preglednosti.

Obveznosti glede preglednosti se uporabljajo od 2. avgusta 2026. Evropska komisija v pojasnilu o uporabi pravil določa omejen prehodni rok do 2. decembra 2026 samo za ponudnikovo obveznost strojno berljivega označevanja izhodov sistemov, danih na trg pred 2. avgustom 2026. Obvestil ljudem in razkritij objavljene vsebine ta rok ne odloži.

Kdo je ponudnik in kdo uvajalec?

Ponudnik je subjekt, ki sistem razvije ali naroči njegov razvoj ter ga pod svojim imenom ali znamko da na trg oziroma v uporabo. Uvajalec sistem uporablja pod svojo pristojnostjo pri poslovni ali drugi poklicni dejavnosti. Zaposleni, ki orodje uporablja po navodilih podjetja, zato običajno ni samostojen uvajalec: vlogo ima podjetje, ki odloča o uporabi.

Razvrstitev opravite za konkreten sistem, ne za podjetje kot celoto. Podjetje, ki s kupljenim orodjem izdela oglas za naročnika, je pri tej uporabi uvajalec; če hkrati pod svojo znamko ponuja lasten sistem, mora za ta sistem preveriti tudi dolžnosti ponudnika. V delovnem zapisu navedite, kdo sistem daje na trg, kdo upravlja njegovo uporabo in kdo odloča o objavi izhodov. Tako je razvidno, na kateri točki nastane posamezna obveznost.

Katero vejo pravil sproži sistem?

1. Neposredna interakcija z osebo. Če sistem sam vodi dvosmeren pogovor s fizično osebo, ga mora ponudnik zasnovati tako, da je oseba jasno obveščena o interakciji z UI. Obvestilo mora biti na voljo najpozneje ob prvi interakciji. Izjema velja, kadar je uporaba UI očitna razmeroma dobro obveščeni, pozorni in preudarni osebi glede na okoliščine in prikaz sistema.
2. Ustvarjanje zvoka, slik, videa ali besedila. Ponudnik mora praviloma zagotoviti, da je sintetičen izhod strojno berljivo označen in prepoznaven kot umetno ustvarjen ali prirejen. Gre za tehnično lastnost izhoda, ne zgolj za napis, ki ga vidi občinstvo. Pri izbiri rešitve so pomembni njena učinkovitost, zanesljivost in možnost zaznave po običajni obdelavi vsebine.
3. Prepoznavanje čustev ali biometrična kategorizacija. Uvajalec mora posameznike obvestiti, da so izpostavljeni delovanju takega sistema. Podatke mora obdelovati tudi skladno z veljavnimi pravili o varstvu osebnih podatkov. Za odločitev zabeležite, koga sistem zajame in kdaj oseba prejme obvestilo.
4. Objava slikovne, zvočne ali video vsebine. Če umetno ustvarjena ali prirejena vsebina spominja na resnične osebe, predmete, kraje ali dogodke in lahko daje lažen vtis pristnosti, preverite obveznost razkritja globokega ponaredka. Uvajalčevo razkritje mora človek zaznati brez posebnega tehničnega orodja; skrita strojna oznaka ponudnika tega sama ne zagotovi.
5. Objava besedila o zadevah javnega interesa. Uvajalec preveri, ali je besedilo ustvarjeno ali prirejeno z UI in objavljeno z namenom obveščanja javnosti. Če sta pogoja izpolnjena, mora praviloma razkriti umetni izvor. Besedilo za interno uporabo ali objava, katere namen ni takšno obveščanje, zahteva drugačno presojo.

Informacije, namenjene ljudem, morajo biti jasne, razločne in dostopne najpozneje ob prvi interakciji ali izpostavljenosti. Pri isti vsebini sta lahko hkrati pomembni dve ločeni nalogi: ponudnik zagotovi tehnično zaznavnost ustvarjenega izhoda, uvajalec pa občinstvu razkrije globoki ponaredek ob objavi.

Kdaj pride v poštev izjema?

Pri tehničnem označevanju ponudnik preveri, ali sistem opravlja le pomožno nalogo pri običajnem urejanju oziroma bistveno ne spremeni vhodnih podatkov ali njihovega pomena. Lektoriranje obstoječega besedila in ustvarjanje novega sporočila imata lahko različni posledici. Odločilno je dejansko delovanje sistema, zato oznaka »pomoč pri pisanju« sama še ne utemelji izjeme.

Pri besedilu za obveščanje javnosti razkritje ni potrebno, če je vsebina prestala vsebinsko človeško preverjanje ali uredniški nadzor in fizična ali pravna oseba nosi uredniško odgovornost za objavo. Slovnični popravki ali samodejna odobritev niso vsebinska presoja navedb. Pri očitno umetniškem, ustvarjalnem, satiričnem ali podobnem delu z globokim ponaredkom se način razkritja prilagodi delu, da ne ovira njegovega prikaza ali doživljanja; dolžnost razkritja ostane.

Izjemo vežite na določen izhod in okoliščine uporabe. Isti sistem lahko enkrat popravi že napisano besedilo, drugič pa ustvari novo objavo. Prav tako je lahko prikaz UI v enem kanalu očiten, v drugem pa občinstvo ne ve, da odgovarja sistem. Zato splošna odločitev za celotno orodje pogosto ne opiše dovolj natančno dejanske uporabe.

Katera dokazila je smiselno shraniti?

Za vsak sistem pripravite kratek delovni zapis: ime sistema, odgovorno osebo, vlogo podjetja, način interakcije ali vrste izhodov ter odločitev za vsako relevantno obveznost. Pri izjemi dodajte dejstva, ki jo utemeljujejo, na primer opis spremembe vhodnega besedila, potek vsebinskega pregleda ali prikaz, zaradi katerega je interakcija z UI očitna. Tak zapis je priporočljiv način organizacije dela, ne predpisan obrazec.

Shranite tudi dokaz izvedbe: besedilo in mesto obvestila, primer razkritja ob objavi ter opis tehničnega označevanja izhodov. Pri vsebini, ki gre skozi več orodij ali objavnih kanalov, preverite, ali oznaka in razkritje ostaneta prisotna tam, kjer ju pravilo zahteva. Ob spremembi občinstva, kanala ali načina delovanja sistema posodobite presojo; starejša odločitev lahko temelji na drugačnih okoliščinah.

Komu zastaviti vprašanje v Sloveniji?

Za nadzor nad zahtevami glede preglednosti je v Sloveniji pristojna Agencija za komunikacijska omrežja in storitve Republike Slovenije (AKOS), ki je tudi enotna kontaktna točka za izvajanje Akta o umetni inteligenci. Slovensko vladno pojasnilo navaja, da AKOS odgovarja na vprašanja podjetij in uvajalcev ter da nacionalni izvedbeni zakon za kršitve obveznosti glede preglednosti določa prekrškovne sankcije.

Če razvrstitev ostane nejasna, v vprašanju AKOS opišite konkreten sistem, vlogo podjetja, ljudi ali vsebino, ki jih uporaba zadeva, način objave in morebitno izjemo. Opis dejanskega poteka omogoča natančnejšo obravnavo kot splošno vprašanje, ali je treba »označiti uporabo UI«.