Claude får nye brugsregler – autonome handlinger kræver en nødstopper

Anthropics opdatering af Usage Policy fra 8. oktober 2026 træder i kraft 12. november 2026. Den indfører et krav om, at en kvalificeret operatør kan overvåge og stoppe udstyr, når Claude uden forudgående menneskelig godkendelse styrer fysiske handlinger, der kan skade mennesker.

Reglerne omfatter også virksomheder, der bruger Claude gennem et API, en cloududbyder eller et produkt bygget oven på modellen. En gennemgang hos MacRumors fremhæver operatørkravet som en ny regel for fysisk udstyr. For personlige anbefalinger om sundhed og økonomi er kravet om menneskelig gennemgang derimod videreført og beskrevet mere præcist.

Når Claude kan sætte udstyr i bevægelse

Den fulde Usage Policy knytter kravet til udstyr, som handler på modellens output uden menneskelig godkendelse, og hvor handlingen kan medføre personskade. Eksemplerne omfatter mobile robotter blandt mennesker, maskiner der kan ramme eller klemme nogen, udstyr der håndterer farlig energi eller materialer, medicinsk udstyr der virker på kroppen, og sikkerhedssystemer der kan spærre mennesker inde.

En kvalificeret operatør skal kunne følge driften og stoppe udstyret når som helst. Udstyret skal standse eller forblive i en sikker tilstand, både når operatøren griber ind, og når forbindelsen til Anthropics tjenester forsvinder. Sikkerhedsgrænser for eksempelvis hastighed, kraft, temperatur eller dosis skal håndhæves af udstyret selv eller af en styring, der fungerer uafhængigt af modellens output. En besked, som Claude selv skal vælge at adlyde, er derfor ikke tilstrækkelig som stopmekanisme.

Reglen afhænger af, hvad integrationen faktisk kan sætte i gang. Ren overvågning og rapportering af udstyr er undtaget, ligesom planer og kommandoer, som en kvalificeret person gennemgår før udførelse. Også husholdningsudstyr med indbyggede sikkerhedsgrænser er undtaget, når den værst tænkelige følge er ubehag eller besvær. For en administrator er skillelinjen, om et modelsvar kan blive til en risikofyldt fysisk handling uden dette menneskelige mellemled.

Ændringsmatrix for Claude i drift

Politikken samler nye sikkerhedskrav og præciseringer af eksisterende regler. Forskellen har betydning for, om en organisation skal indføre en ny kontrol eller sikre, at en nuværende arbejdsgang faktisk opfylder et krav, som allerede gjaldt.

• Autonome fysiske handlinger: Her er stopkontrol og uafhængige sikkerhedsgrænser nye, udtrykkelige krav. Menneskeligt godkendte kommandoer og ren overvågning falder uden for denne del. Administratoren må finde forbindelser fra Claude til udstyr og afklare, hvem der kan gribe ind, samt hvad der sker ved afbrudt forbindelse.
• Personlige sundheds- og finansråd: En kvalificeret person skal gennemgå og kunne ændre en højrisikoanbefaling, før den gives til den berørte eller bruges til en beslutning. Personen skal også have at vide, at AI indgik. Det er en præcisering af gældende krav; generel information og interne udkast, som ikke bliver den endelige personlige anbefaling, er undtaget. Administratoren må identificere det punkt, hvor et udkast bliver til konkret rådgivning.
• Kredit, forsikring og adgang til behandling: Politikken nævner blandt andet kreditværdighed, lånevilkår, forsikringsdækning og prioritering af behandling som højrisikoområder. En snæver undtagelse fra forudgående menneskelig gennemgang gælder, hvor loven tillader det, for visse afgørelser der er fuldt ud til fordel for personen, eksempelvis betaling af et forsikringskrav eller godkendelse af allerede ordineret behandling. En delvis godkendelse eller en godkendelse med betingelser tæller ikke som fuldt fordelagtig; oplysningspligten kan stadig gælde. Administratoren må derfor skelne mellem hele og betingede godkendelser.
• Overvågning og retshåndhævelse: Forbuddene er skrevet tydeligere, mens håndhævelsespraksis beskrives som uændret. Claude må ikke bruges til at foreslå, hvem der skal efterforskes eller anholdes, eller til at spore mennesker uden samtykke. Samtykkebaseret svindelkontrol og analyse af anonymiserede data kan fortsat være tilladt. Administratoren må undersøge formål, samtykke og den konkrete anbefaling, som systemet leverer.
• Adgang fra regioner uden understøttelse: Adgangspolitikken er præciseret. En brugers fysiske placering, en virksomheds registreringsland eller hovedsæde samt flertalsejerskab eller kontrol fra en region uden understøttelse kan afskære brug. Et dansk teams placering afgør derfor ikke alene virksomhedens adgang; administratoren må også kende den relevante selskabs- og ejerstruktur.

Samtykke sætter grænsen for overvågning

Ved analyse af menneskers færden og adfærd er formålet lige så vigtigt som teknikken. Forbuddet mod at spore personer eller deres ejendom uden samtykke gælder både løbende sporing og analyse af allerede indsamlede data. Det gælder også udvikling eller forbedring af værktøjer til de forbudte overvågningsformål. En organisation kan derfor ikke gøre brugen tilladt ved blot at lade Claude bygge værktøjet i stedet for at udføre sporingen direkte.

Politikken tillader blandt andet sporing, som den berørte har accepteret, eksempelvis kontrol af en finansiel konto for svindel eller hvidvask. Aggregeret eller anonymiseret analyse, indholdsmoderation, journalistik og juridisk research kan også være tilladt, så længe de ikke bruges til de forbudte formål. En arbejdsgang skal vurderes ud fra, hvem den følger, hvilket samtykke der foreligger, og hvad dens resultat bruges til.

Hvem har ansvaret, når en agent handler?

En agent med adgang til værktøjer, browsere og tilsluttede systemer kan udføre handlinger, som ingen bruger godkender enkeltvis. Politikken placerer ansvaret for disse handlinger hos dem, der bygger eller anvender agenten. Det gør eksisterende integrationer relevante, selv hvis ingen medarbejder direkte beder Claude om at betjene et bestemt stykke udstyr.

For danske og øvrige europæiske organisationer gælder brugsreglerne sammen med lokal lovgivning. Kravet om en operatør erstatter eksempelvis ikke regler om medicinsk udstyr, maskiner eller sikkerhed på arbejdspladsen. Den nye politik forbyder også vedvarende, formålsløs grov eller ondskabsfuld behandling af modellerne; almindelig frustration, kritik samt forskning og test er undtaget. For en organisation med fysisk handlende systemer er den umiddelbare konsekvens, at både operatørens mulighed for at standse udstyret og udstyrets sikre tilstand ved tabt forbindelse skal fungere, når reglerne træder i kraft.

Læs også:

• ChatGPT, Claude eller Gemini til 20 dollar? Pakken afgør valget
• Claude åbner tre cyberniveauer – adgang kræver stadig godkendelse
• Claude Code eller Codex? Repository-testen bør afgøre abonnementet