Californien forbyder robotfyringer – et menneske skal levere beviset

Californiens guvernør Gavin Newsom underskrev 30. september 2026 SB 947 sammen med tre andre love om AI på arbejdspladsen. SB 947 forbyder en arbejdsgiver at lade et automatiseret system alene afgøre, om en ansat skal disciplineres eller fyres. Når systemets resultat er det primære grundlag, skal et menneske også kunne underbygge afgørelsen med relevante oplysninger.

Den vedtagne lovtekst til SB 947 fastsætter, at kravene får virkning 1. juli 2027. En leders godkendelse af en anbefaling er ikke i sig selv den krævede kontrol: Hvis resultatet ikke kan underbygges, må det ikke bruges til sanktionen. Senator Jerry McNerney, der står bag loven, bliver citeret i IT Pro: “No worker should ever be fired or disciplined by a robo boss.”

To grænser for automatiserede afgørelser

Loven skelner mellem at bruge et system som hjælp og at overlade afgørelsen til det. Den første grænse er absolut: Arbejdsgiveren må ikke støtte en disciplinær beslutning eller en fyring udelukkende på systemets output. Den anden gælder, når outputtet er det primære grundlag. Her skal arbejdsgiveren sætte et menneske til at efterprøve og underbygge beslutningen.

Et automatiseret beslutningssystem er i loven bredere end en generativ chatbot. Det kan være en proces baseret på maskinlæring, statistisk modellering, dataanalyse eller anden kunstig intelligens, som giver en score, klassifikation eller anbefaling med væsentlig betydning for en person. Afgrænsningen handler om systemets funktion i personaleafgørelsen, ikke om leverandøren markedsfører værktøjet som AI.

SB 947 forbyder også arbejdsgivere at bruge sådanne systemer til at udlede en ansats beskyttede status eller til at forudsige og reagere negativt på, at en medarbejder udøver sine lovlige rettigheder. De regler vedrører selve anvendelsen af systemet; kravet om at underbygge en afgørelse vedrører den efterfølgende disciplinering eller fyring. Det er forskellige grænser i samme lov.

Beslutningskæden i tre led

Den særlige menneskelige kontrol kan beskrives som en kæde fra systemets signal til arbejdsgiverens afgørelse:

1. Output: Systemet producerer en score, vurdering eller anbefaling, som arbejdsgiveren vil bruge ved disciplinering eller fyring. Allerede her er det afgørende, hvor stor vægt outputtet får; en beslutning kan ikke hvile på det alene.
2. Efterprøvning: Er outputtet det primære grundlag, skal et menneske underbygge beslutningen med data, der blev indsamlet eller brugt til at skabe outputtet, eller med andre relevante oplysninger. Loven nævner blandt andet ledervurderinger, personalemapper, medarbejderens arbejdsresultater, kollegavurderinger og vidneinterview.
3. Afgørelse: Kan den menneskelige gennemgang ikke underbygge outputtet, eller viser det sig at være unøjagtigt, ufuldstændigt eller misvisende, må arbejdsgiveren ikke bruge det til den konkrete sanktion eller fyring. Bygger afgørelsen primært på systemet, følger også en pligt til at informere medarbejderen skriftligt.

Den mellemste del er lovens skarpeste skelnen. Oplysningerne behøver ikke være helt adskilt fra systemets eget datagrundlag; de data, som systemet brugte, kan indgå i gennemgangen. Men kontrollanten skal kunne finde faktisk støtte for konklusionen og opdage mangler, som ændrer dens betydning. En underskrift eller et klik uden denne prøvelse opfylder ikke kravet om at underbygge outputtet.

Medarbejderen får besked og indsigt

Når arbejdsgiveren primært har støttet sig på et automatiseret system, skal den berørte medarbejder have en skriftlig meddelelse samtidig med beskeden om den disciplinære afgørelse eller fyringen. Meddelelsen skal være selvstændig, skrevet i klart sprog og på det sprog, der normalt bruges i kommunikationen med ansatte. Den skal oplyse, at systemet var det primære grundlag, og at et menneske har gennemgået beslutningen og underbygget outputtet.

Meddelelsen skal også give kontaktoplysninger på et menneske, som kan svare på spørgsmål om afgørelsen og retten til indsigt i de egne data, systemet brugte. Medarbejderen kan bede om en meningsfuld, objektiv beskrivelse af disse data. Andre personers oplysninger skal anonymiseres i beskrivelsen; adgangen til at forstå grundlaget giver dermed ikke adgang til kollegers eller kunders personoplysninger.

Loven forbyder desuden gengældelse mod medarbejdere, der bruger deres rettigheder eller klager over en mulig overtrædelse. Californiens arbejdsmarkedskommissær og offentlige anklagere kan håndhæve reglerne.

Hvad den californiske regel betyder set fra Danmark

SB 947 ændrer ikke dansk ret. For danske HR- og complianceansvarlige gør den dog et konkret skel synligt: Hvor i en personalesag stopper systemets vurdering, og hvilket grundlag har den person, der træffer afgørelsen? Et navn i et godkendelsesfelt fortæller ikke, om lederen har efterprøvet de registreringer eller vurderinger, som anbefalingen bygger på.

Det næste spørgsmål er, om arbejdspladsen kan skelne mellem et system som mindre støtte og et system som det primære grundlag for en alvorlig beslutning. Den forskel udløser netop den strengere menneskelige gennemgang og medarbejderens ret til meddelelse i Californien. Hvis mange små registreringer samles i én score, bliver det særligt vigtigt at kunne gå fra scoren tilbage til de oplysninger, der faktisk beskriver medarbejderens arbejde.

Læs også:

• Finanstilsynet åbner for AI og tokenisering – men styringen skal følge med