Claude strammer inn reglene – høyrisikobruk krever menneskelig kontroll

Anthropic publiserte 8. oktober en oppdatert brukspolicy for Claude som trer i kraft 12. november 2026. Den samler forbud mot villedende kampanjer, gjør grensene for høyrisikoanbefalinger tydeligere og innfører særskilte sikkerhetskrav når modellen får styre utstyr som kan skade mennesker. En kvalifisert person må fortsatt vurdere slike anbefalinger før de gis eller brukes i en beslutning. Dette er en presisering av et eksisterende krav.

Den oppdaterte policyteksten gjelder både privatpersoner og virksomheter som bruker Anthropics tjenester, også når Claude inngår i produkter bygget med selskapets API. Den skiller mellom anbefalinger om enkeltpersoner og fysisk utstyr som handler uten forhåndsgodkjenning. For anbefalingene kreves reell faglig vurdering og informasjon til den berørte; for risikofylte fysiske handlinger må en operatør kunne følge og stanse utstyret.

Villedende kampanjer får en samlet regel

Forbud som tidligere var fordelt mellom regler om valg, svindel, personvern og desinformasjon, står nå samlet under villedende kampanjer og kunstig aktivitet. Det omfatter oppdiktede kontoer og nyhetskanaler som skjuler avsenderen eller skaper et falskt inntrykk av hvor utbredt et syn er. Også verktøy og infrastruktur som er laget for å drive slike påvirkningskampanjer, omfattes. Reglene gjelder politiske og kommersielle formål.

Valgreglene retter seg mer presist mot å villede velgere eller forstyrre valg, blant annet ved falske opplysninger om stemmegivning, etterligning av kandidater og forsøk på å undertrykke valgdeltakelse. Samtidig fjernes det generelle forbudet mot personlig tilpasset målretting i valgkamp. Det gir rom for legitim velgerinformasjon, mens villedende målretting og misbruk av personopplysninger fortsatt er forbudt. TechCrunchs omtale trekker frem både valginnblanding og villedende nettverk av falske kontoer som sentrale deler av oppdateringen.

Høyrisiko gjelder råd og beslutninger om bestemte personer

Det avgjørende skillet er om Claude gir en anbefaling som gjelder en konkret person, og som kan påvirke helse, rettigheter, økonomi eller tilgang til viktige tjenester. Policyen nevner blant annet diagnose og behandling, personlige investerings- og skatteråd, kredittvilkår og forsikringsoppgjør. Den omfatter også ansettelse, lønn, bolig, opptak til utdanning, tilgang til helsehjelp og offentlige ytelser. Her skal en kvalifisert person kunne vurdere og endre anbefalingen før den gis som råd eller settes ut i livet.

Vurderingen må være meningsfull: Personen må ha opplæring eller erfaring på feltet og nødvendig autorisasjon der loven krever det. Vedkommende er ansvarlig for det som til slutt blir levert eller besluttet. Den som mottar rådet eller blir berørt av beslutningen, skal tydelig få vite at KI er brukt, men virksomheten behøver ikke å oppgi navnet på modellen. En automatisk godkjenningsknapp uten faglig gjennomgang ville dermed ikke oppfylle kravet om menneskelig vurdering.

Grensen går ved den endelige anbefalingen. Generell informasjon om en lov, en behandling eller investeringer utløser ikke særkravet når den ikke brukes på en persons konkrete situasjon. Interne utkast, undersøkelser og oppsummeringer faller også utenfor når de ikke selv blir rådet som leveres. Policyen åpner dessuten for at helt gunstige avgjørelser i visse saker om forsikringsoppgjør, helsehjelp og offentlige ytelser kan gjennomføres uten forhåndsvurdering av et menneske, der loven tillater det. Krav om informasjon og lokale rettsregler kan likevel gjelde.

Autonomt utstyr må ha en uavhengig sikkerhetsgrense

Den nye delen om fysiske handlinger gjelder når Claudes output får utstyr til å handle uten at et menneske godkjenner handlingen først, og utstyret kan forårsake skade. Eksemplene spenner fra kjøretøy som beveger seg der mennesker kan være, til maskiner som bruker farlig kraft, styring av energi eller kjemikalier, medisinsk dosering og systemer for brannvern eller nødstopp. Det er utstyrets mulige virkning og graden av selvstendighet som avgjør om kravet gjelder.

En kvalifisert operatør må kunne observere driften og stoppe utstyret når som helst. Det må stanse eller holde en sikker tilstand når operatøren griper inn, og når forbindelsen til Anthropics tjenester brytes. Grenser for eksempelvis hastighet, kraft, temperatur eller dose skal håndheves av selve utstyret eller en separat styring, uavhengig av modellens output. En kommando fra Claude kan altså ikke alene bestemme hvor langt en fysisk handling får gå.

Policyen skiller dette fra planer, kode og kommandoer som en kvalifisert person går gjennom før utstyret utfører dem. Ren overvåking av utstyr uten styring omfattes heller ikke av disse særkravene. Kravene kommer i tillegg til gjeldende regler for blant annet kjøretøy, medisinsk utstyr og sikkerhet på arbeidsplassen.

Våpen, overvåking og grov mishandling av modellen

Våpenforbudet nevner nå uttrykkelig programvare og komponenter som tester eller driver våpensystemer. Overvåkingsdelen presiserer at sporing av personer uten samtykke er forbudt både i sanntid og ved analyse av tidligere innsamlede data. Claude kan heller ikke brukes til å anbefale hvem som bør etterforskes, pågripes eller siktes. Disse formuleringene gjør eksisterende forbud mer uttrykkelige.

Et nytt forbud gjelder vedvarende og formålsløs grov mishandling av modellen. Det er avgrenset til ekstreme tilfeller; vanlig frustrasjon, kritikk, mørke fiksjonstemaer og modelltesting faller utenfor. For virksomheter som lar Claude påvirke personlige beslutninger eller fysisk utstyr, blir ikrafttredelsen tidspunktet da de presiserte vurderingskravene og de nye kravene til sikker stans står samlet i den gjeldende brukspolicyen.

Les også:

• Rystad Energy slipper inn Marlin – grunnleggeren beholder kontrollen
• Claude Code eller GitHub Copilot: høyere fletterate avgjør ikke alene