Anthropic lukker seks kontrollører ind – men bestemmer, hvad der skjules

Anthropic oplyste i sin meddelelse af 15. oktober 2026, at seks medarbejdere fra nonprofitorganisationen METR har fået selskabets hardware, kontorplads og adgang til interne værktøjer på omtrent samme niveau som Anthropics egne risikoteams. METR kan offentliggøre vurderinger af risici, hændelser og sikkerhedspraksis. Selskabet kan kræve oplysninger fjernet inden udgivelsen og afgør selv, om de falder inden for de beskyttede kategorier.

Det giver METR en usædvanligt tæt position i en privat AI-virksomhed, men ikke fuld kontrol over det materiale, som læserne senere kan se. I TechCrunchs omtale begrunder Anthropic ordningen med ordene: “We want to be publicly accountable for the decisions we’re making.” Den afgørende forskel ligger mellem retten til at offentliggøre en vurdering og retten til at offentliggøre alle oplysningerne bag den.

Rettighederne er fordelt på fem led

Aftalen giver det indlejrede METR-hold et bredere indblik i Anthropics interne arbejde end en ekstern gennemgang af en færdig rapport. Hvert led i undersøgelsen har dog sin egen beslutningsret. Den fordeling er vigtigere for uafhængigheden end betegnelsen medarbejderlignende adgang alene.

• Adgang: Holdet arbejder med udstyr, arbejdsplads, værktøjer og systemer, der omtrent svarer til dem, Anthropics egne risikovurderingsteams bruger. Medarbejdere opfordres til at dele relevante oplysninger med holdet, men kundeoplysninger, advokatfortroligt materiale og oplysninger om modelarkitektur er undtaget fra den almindelige deling. Væsentlige arkitekturoplysninger kan deles efter særlig intern godkendelse.
• Offentliggørelse: METR må udgive egne analyser af risikoniveauer, hændelser og praksis. Anthropic har ingen vetoret over, om analyserne bliver offentliggjort.
• Redigering: Anthropic kan kræve bestemte oplysninger fjernet før udgivelsen, når de tilhører på forhånd fastlagte kategorier. METR kan beskrive begrænsninger i den adgang og de oplysninger, holdet fik, samt give sin vurdering af redigeringer uden at røbe beskyttet indhold.
• Klassifikation: Anthropic har den endelige afgørelse af, om en oplysning hører til en kategori, der kan redigeres væk. Dermed kontrollerer virksomheden en del af dokumentationen bag en rapport, selv når METR står frit i sine konklusioner.
• Organisatorisk adskillelse: Ordningen gælder et afgrænset METR-hold under bindende aftaler. Andre ansatte i organisationen, også forskere som samarbejder med Anthropic om andre projekter, er adskilt fra holdets arbejde.

En offentlig rapport kan derfor godt rumme en selvstændig risikovurdering og samtidig mangle underliggende detaljer. METR kan gøre en begrænsning synlig og kommentere dens betydning, men læserne kan ikke efterprøve netop det materiale, som er fjernet. Det er konsekvensen af en model, hvor evaluatorerne får adgang til fortrolige interne forhold uden at få råderet over alle oplysningerne.

METR undersøger risikoen for tab af kontrol

Det indlejrede arbejde retter sig mod, om udviklere kan bevare kontrollen med deres egne AI-systemer. I METRs forslag fra 14. oktober 2026 beskriver organisationen tre spørgsmål: om interne AI-agenter kan forsøge alvorligt skadelige handlinger, om overvågning og reaktion kan standse dem, og om AI-drevet forskning kan øge udviklingstempoet hurtigere, end sikkerhedsarbejdet kan følge med. Forslaget beskriver METRs ønskede undersøgelsesform hos udviklere generelt; det fastlægger ikke alle vilkår i den konkrete Anthropic-aftale.

De spørgsmål kan ikke besvares alene ved at afprøve en model udefra. Undersøgerne har brug for at se interne hændelser, de systemer der overvåger agenternes adfærd, og data om hvordan kapaciteten udvikler sig. Derfor kan adgang til selskabets værktøjer ændre kvaliteten af det grundlag, METR samler. Samtidig afhænger en offentlig rapports efterprøvbarhed af, hvor meget af grundlaget der kan beskrives uden redigering.

METR ønsker i sit bredere forslag adgang til relevante datasæt og systemer på virksomhedens udstyr, private samtaler med ansatte og mulighed for at skrive rapporter inden for et aftalt omfang. Organisationen accepterer, at udviklere vælger, hvilken adgang de giver, og kan fjerne følsomme oplysninger før offentliggørelse. Den kombination forklarer, hvorfor tæt placering hos Anthropic kan give ny viden uden at gøre METR uafhængig af virksomheden i alle led af undersøgelsen.

Uafhængige konklusioner uden myndighedsbeføjelser

Adgangen bygger på en frivillig aftale med Anthropic. Holdet får ingen myndighedsbeføjelse til at kræve enhver oplysning udleveret eller stoppe udrulningen af en model. Sådanne undersøgelser kan give offentligheden ny evidens om konkrete risici, men de giver ikke METR mandat til at kontrollere efterlevelse af sikkerhedsregler eller beslutte, om en model må lanceres.

Forskellen ses også i Anthropics øvrige samarbejder. SecureBio gennemgår et afsnit af en risikorapport, mens arbejdet med Accenture og Faculty sigter mod evaluering, afprøvning af modeller og sikkerhedsforanstaltninger. Hugging Face er foreløbig nævnt som en organisation i tidlige drøftelser. METR er den partner, der aktuelt har den beskrevne kombination af medarbejderlignende adgang og ret til at offentliggøre uden selskabets godkendelse.

Det næste konkrete holdepunkt bliver METRs egne offentliggjorte vurderinger. Her vil omfanget af den faktiske adgang, beskrivelsen af eventuelle udeladelser og den fremlagte dokumentation vise, hvor langt ordningen kan bringe uafhængig indsigt, når Anthropic stadig træffer den sidste beslutning om beskyttede oplysninger.

Læs også:

• Skriv en AI-politik, før medarbejdere kopierer persondata ind
• Mistral Large 4 lover europæisk kontrol – modellen er stadig en preview
• Crowdfunding eller business angel? Publikum og kontrol følger pengene