Dataetisk Råd kritiserer bred AI-hjemmel og uklar kontrol

Dataetisk Råd bad i sit høringssvar af 12. oktober 2026 regeringen og Folketinget genoverveje en bred hjemmel til offentlig brug af AI med personoplysninger; rådets formand, Johan Busse, understregede: »Det gør en forskel, hvilken opgave et system skal løse«. Kritikken retter sig mod, at forslaget åbner for mange forskellige anvendelser, mens fælles krav til kvalitet, værn om borgernes rettigheder og en bindende beskrivelse af reel menneskelig kontrol endnu mangler.

Der er tale om et høringsudkast, ikke en vedtaget lov. Datatilsynets udmelding samme dag beskriver forslaget som en generel databeskyttelsesretlig hjemmel, der blandt andet omfatter AI-baseret beslutningsstøtte, men ikke giver hjemmel til fuldautomatiske afgørelser efter GDPR artikel 22. Myndighederne skal fortsat opfylde de øvrige krav til behandling af personoplysninger.

En fælles hjemmel til meget forskellige opgaver

Forslaget skal give offentlige myndigheder og organer et supplerende retsgrundlag til at udvikle og anvende AI med personoplysninger, som de allerede behandler som led i deres lovlige opgaver. Det giver ikke i sig selv adgang til at indhente nye oplysninger om borgerne eller dele dem med andre. Den væsentlige ændring er, at samme generelle hjemmel skal kunne bruges på tværs af offentlige opgaver med vidt forskellige følger for den enkelte.

Det er her, bredden får betydning. Et forslag om rækkefølgen af pleje på et plejehjem og et forslag om, hvilke sager der skal udtages til kontrol, stiller forskellige krav til både datakvalitet og vurdering af fejl. Kritikken peger derfor på særskilte hjemler til bestemte myndigheder og konkrete anvendelser som et muligt alternativ. Hvis den brede model fastholdes, efterlyses fælles minimumskrav og retningslinjer for, hvordan myndigheder vurderer fejl, algoritmisk skævhed og manglende gennemsigtighed, før et system tages i brug.

Beslutningsstøtte kræver mere end et sidste klik

I lovudkastets definition og bemærkninger er beslutningsstøtte et forslag eller en anbefaling fra et AI-system, som en fysisk person inddrager i sin samlede faglige vurdering, uden at systemet selv træffer afgørelsen eller iværksætter tiltaget. Bemærkningerne nævner forslag til prioritering af visitering og pleje på et plejehjem samt udvælgelse til kontrol. I begge tilfælde kan systemets forslag få væsentlig indflydelse, selv om et menneske formelt står for det næste skridt.

Udkastet giver også et præcist modeksempel: En sagsbehandler, der kopierer systemets forslag ind i sin egen afgørelse uden at tage stilling til det, yder ikke reel menneskelig kontrol. Et godkendelsesklik er derfor ikke nok, hvis medarbejderen i praksis blot viderefører anbefalingen. Vedkommende må kunne holde den op mod sagens oplysninger, opdage relevante fejl og vælge en anden løsning, når den faglige vurdering tilsiger det.

Bemærkningerne beskriver dette krav, men selve den foreslåede lovdefinition siger ikke udtrykkeligt, hvad meningsfuld kontrol kræver af medarbejderens kompetence, ansvar og ressourcer. Det er den konkrete mangel bag kritikken af menneskelig kontrol. En klarere definition i lovteksten ville også give myndigheder og leverandører et mere præcist grundlag for at indrette arbejdsgange, hvor en ansat faktisk kan ændre udfaldet.

Borgernes rettigheder berøres allerede under udviklingen

Forslaget omfatter både brug og udvikling af AI. Dermed kan historiske personoplysninger fra sager, som en myndighed lovligt behandler, indgå i træning af et system, før det leverer anbefalinger i nye sager. For borgeren handler spørgsmålet derfor både om, hvordan oplysningerne bruges til at bygge systemet, og om den efterfølgende vurdering af den konkrete sag.

Udkastet åbner for, at ministre under bestemte betingelser kan fastsætte begrænsninger i blandt andet retten til indsigt, berigtigelse og sletning. Begrundelsen er blandt andet, at oplysninger kan være vanskelige at finde eller fjerne, når de er indgået i udviklingen af en model. En teknisk vanskelighed afgør dog ikke alene, om en begrænsning er rimelig. Kritikken kræver, at lovteksten tydeligere angiver, hvornår undtagelser er nødvendige og proportionale, og hvilke hensyn der kan begrunde dem.

En eventuel hjemmel vil heller ikke fjerne myndighedens ansvar for behandlingssikkerhed, beskyttelse af følsomme oplysninger eller andre databeskyttelseskrav. Disse spørgsmål skal afklares for den konkrete behandling. Det gør forskellen mellem en generel adgang til at anvende AI og en forsvarlig anvendelse i en bestemt myndighedsopgave væsentlig for borgerens mulighed for at forstå og anfægte grundlaget for en beslutning.

Tre roller, tre konkrete konsekvenser

Den foreslåede ramme får forskellig praktisk betydning alt efter, om man er berørt af en sag, arbejder med den eller leverer systemet. Konsekvenserne afhænger af den endelige lovtekst og af, hvordan hver myndighed indretter sin anvendelse:

Borger: En anbefaling kan påvirke, hvilke forhold en medarbejder lægger vægt på, eller om en sag udtages til kontrol. Borgerens væsentlige værn er en individuel vurdering og rettigheder knyttet til behandlingen af personoplysninger. Hvis en rettighed begrænses, får afgrænsningen af den konkrete undtagelse direkte betydning for borgerens mulighed for indsigt eller rettelse.
Sagsbehandler: Medarbejderen skal kunne vurdere anbefalingen sammen med de øvrige oplysninger i sagen og fravige den. Det kræver fagligt råderum, forståelse af systemets rolle og tid til at forholde sig til resultatet. En arbejdsgang, der reelt gør godkendelse til en formalitet, opfylder ikke den kontrol, som beslutningsstøtte forudsætter.
AI-leverandør: Leverandørens løsning skal kunne bruges i en arbejdsgang, hvor myndigheden kan undersøge forslag, opdage fejl og dokumentere menneskets rolle. Hvor præcise sådanne krav bliver ved indkøb og drift, afhænger af lovens endelige ramme og myndighedens konkrete risikovurdering. Ansvaret for myndighedens behandling af personoplysninger flyttes ikke automatisk til leverandøren.

Det næste afgørende dokument er den endelige lovtekst. Den vil vise, om den brede hjemmel fastholdes, og om kravet om reel menneskelig stillingtagen får en plads i lovens definition frem for alene i bemærkningerne.

Læs også: