Merking av KI-innhold: Når maskinspor ikke er nok

Ved publisering av KI-innhold må du skille mellom leverandørens maskinlesbare merking og utgiverens informasjon til publikum. En deepfake eller KI-generert tekst om en sak av offentlig interesse kan kreve en opplysning mennesker kan oppfatte, selv om innholdet allerede har et teknisk spor. Artikkel 50 i KI-forordningen fordeler disse pliktene og gjelder i EU fra 2. august 2026; leverandører av systemer som var på markedet før den datoen, har til 2. desember 2026 med å oppfylle akkurat kravet om maskinlesbar merking.

For en chatbot er hovedspørsmålet et annet: Personen som starter en direkte samtale, skal få vite at motparten er KI, med mindre det allerede er åpenbart. For et bilde, lydklipp, en video eller en tekst må du derimot vurdere både hvem som laget systemet, hva slags innhold systemet produserte, og hvordan resultatet skal brukes.

Hvem har plikten?

Leverandøren utvikler eller får utviklet KI-systemet og tilbyr det under eget navn. Brukeren i forordningens forstand bruker systemet under eget ansvar i en virksomhet eller annen yrkesmessig sammenheng. En redaksjon som lager et bilde med en ekstern modell, kan derfor være bruker av modellen uten å være leverandør av den. Utvikler og tilbyr redaksjonen også sitt eget KI-system, må den vurdere begge rollene.

Skillet avgjør hva som skal kontrolleres. Leverandøren må bygge løsningen slik at syntetiske utdata kan merkes og oppdages maskinelt der kravet gjelder. Brukeren må i de særskilt angitte publiseringstilfellene sørge for en tydelig opplysning til publikum. Å bare være vert for eller videreformidle innhold andre har laget, betyr ikke i seg selv at virksomheten har brukt KI-systemet som skapte det.

Publiseringsmatrise: innhold, rolle og merking

Direkte samtale med en chatbot: Leverandøren skal utforme systemet slik at personen får tydelig beskjed om KI-interaksjonen senest ved første kontakt. Det finnes et unntak når dette er åpenbart for en normalt oppmerksom person i den aktuelle situasjonen. Dersom chatboten også genererer syntetisk tekst eller annet innhold, vurderes leverandørens maskinlesbare merking av utdata separat. Samtalebeskjeden er informasjon til mennesket; den erstattes ikke av et spor i generert tekst.
Generert bilde, lyd, video eller tekst ellers: Leverandøren skal som hovedregel sørge for at syntetiske utdata er maskinlesbart merket og kan identifiseres som KI-genererte eller manipulerte. Denne regelen innebærer ikke en generell plikt for utgiveren til å sette en synlig KI-etikett på ethvert resultat. Leverandørkravet gjelder ikke i den utstrekning systemet bare hjelper til med vanlig redigering eller ikke endrer brukerens inndata eller meningen vesentlig.
Deepfake som spres til publikum: Brukeren av KI-systemet skal opplyse at bildet, lyden eller videoen er kunstig generert eller manipulert. Opplysningen må kunne oppfattes av publikum; leverandørens maskinlesbare merking dekker et annet krav. Inngår innholdet i et åpenbart kunstnerisk, kreativt, satirisk eller fiktivt verk, skal opplysningen fortsatt gis, men på en måte som ikke hindrer opplevelsen av verket.
Tekst som skal informere om en sak av offentlig interesse: Brukeren skal opplyse at publisert tekst er generert eller manipulert med KI. Synlig informasjon til publikum kommer i tillegg til leverandørens eventuelle maskinlesbare merking. Opplysningsplikten for brukeren gjelder ikke når teksten har vært gjennom reell menneskelig gjennomgang eller redaksjonell kontroll, og en person eller virksomhet har redaksjonelt ansvar for publiseringen.

Når er bilde eller tekst omfattet?

Et KI-laget bilde er ikke automatisk en deepfake. Innholdet må ligne en eksisterende person, gjenstand, et sted, en virksomhet eller hendelse og kunne fremstå som ekte selv om fremstillingen er kunstig. Et troverdig manipulert bilde av en virkelig hendelse kan dermed stille seg annerledes enn en åpenbart fantasifull illustrasjon. Hva publikum med rimelighet forventer i publiseringssammenhengen, har betydning for vurderingen.

For tekst er det formålet med publiseringen som snevrer inn plikten. Regelen gjelder tekst som skal informere offentligheten om saker av offentlig interesse, for eksempel politikk, offentlige tjenester eller folkehelse. En privat melding eller en tekst som ikke har dette formålet, omfattes ikke av akkurat denne opplysningsplikten bare fordi et KI-system bidro til formuleringen.

Unntaket for gjennomgått tekst krever arbeid med innholdets substans. En fagperson kan undersøke påstander og vurdere om teksten er riktig; en redaktør kan ha faktisk myndighet til å endre, avvise eller godkjenne den på innholdsmessig grunnlag. Stavekontroll og ren språkvask er ikke tilstrekkelig. Det må dessuten finnes en person eller virksomhet som bærer redaksjonelt ansvar for publiseringen. For en utgiver er det derfor relevant å kunne vise hvem som vurderte innholdet, hva som ble vurdert, og hvem som tok ansvaret.

Plasser opplysningen der publikum møter innholdet

Når informasjon til publikum er påkrevd, skal den være klar og kunne skilles fra annet innhold senest ved første møte med samtalen eller publiseringen. Ved en chatbot må beskjeden komme når samtalen begynner. Ved et bilde eller en tekst bør opplysningen følge visningen av innholdet; ved lyd må publikum kunne få informasjonen i en form de kan oppfatte. Den konkrete plasseringen må fungere også når innholdet vises i den publiseringsflaten virksomheten faktisk bruker.

Maskinlesbare markører og synlige eller hørbare opplysninger løser forskjellige oppgaver. En markør kan hjelpe programvare med å identifisere KI-opphav, men forteller ikke nødvendigvis en leser eller lytter hva vedkommende møter. Kontroller derfor både at utdata har den tekniske merkingen som kreves av leverandøren, og at en eventuell opplysning til publikum følger med det ferdige innholdet.

Norske utgivere og den frivillige kodeksen

EU-reglenes anvendelse må holdes atskilt fra norsk innføring. EFTAs oversikt over KI-forordningen viser at rettsakten fortsatt er under behandling for innlemmelse i EØS-avtalen. Norske virksomheter som tilbyr KI-systemer i EU, eller har utdata som brukes der, må likevel vurdere om EU-reglene gjelder den aktiviteten.

Den frivillige EU-kodeksen beskriver tiltak for maskinlesbar merking og opplysninger til publikum som leverandører og brukere kan støtte seg på. Tiltakene kan hjelpe en virksomhet med å vise hvordan den oppfyller pliktene, men endrer ikke hvem som har ansvaret etter forordningen.

Les også: