Nvidia kan sætte AI-agenter i karantæne på millisekunder

Ifølge Nvidias lancering fra Santa Clara 28. september 2026 kan den nye Open Agent Safety Platform sætte en AI-agent, der overskrider sin tilladte adgang, i karantæne på millisekunder. Platformen samler OpenShell, som håndhæver adgangspolitikker under agentens arbejde, med Sentry, et referencedesign til særskilt overvågning på Nvidias BlueField-4 DPU. Hastigheden er producentens egen angivelse for Sentry; der er ikke fremlagt en uafhængig måling af den samlede opsætning.

OpenShell er allerede bredt tilgængelig som open source-software, mens Sentry er beskrevet som et referencedesign til hardwarebaseret kontrol. Det skel afgør, hvad man faktisk får ved at tage softwaren i brug: Agentens rettigheder kan afgrænses under kørslen, men den lovede karantæne forudsætter også den særskilte Sentry-del. Overvågningen er placeret uden for både agenten og den værtssoftware, som udfører dens opgave.

OpenShell håndhæver grænsen under agentens arbejde

En AI-agent kan bruge data, værktøjer og tjenester i flere systemer for at løse en opgave. OpenShell lægger en kørselsgrænse omkring agenten, registrerer dens handlinger og håndhæver en politik for, hvilke ressourcer den må benytte. Kontrollen ligger uden for modellens egne instruktioner og agentens styringsprogram. Derfor skal en tilladelse gives som en faktisk rettighed i miljøet, ikke blot som en opfordring i en prompt.

En politik kan eksempelvis give adgang til en bestemt datakilde og et bestemt værktøj, mens andre adresser eller API'er er spærret. Det er et tænkt eksempel på rettighedsstyring, ikke et offentliggjort forsøg med platformen. Den praktiske virkning afhænger af, om reglerne både lukker for uønskede handlinger og lader agenten udføre sin legitime opgave. Hvis en nødvendig tjeneste mangler i politikken, kan selve sikkerhedsgrænsen standse et nyttigt arbejdsforløb.

OpenShell er beregnet til agenter med både åbne og lukkede modeller. Kontrolpunktet er agentens adgang til omgivelserne, uanset hvordan modellen bag agenten er bygget.

Sentry ser agenten fra et andet miljø

Sentry er den del, der skal reagere, når adfærden bryder den fastlagte grænse. Den er beskrevet til at køre på en BlueField-4 DPU, adskilt fra den CPU, hvor agenten arbejder, og overvåger aktiviteten fra et isoleret miljø. Den placering er kernen i kontrolkæden: En agent, som forsøger at fortsætte uden for sin tilladelse, skal ikke selv kunne bestemme, om overskridelsen bliver set eller håndhævet.

Referencedesignet bygger på Nvidias DOCA-software. De beskrevne funktioner omfatter inspektion af agentens forespørgsler og svar, kontrol af agentens identitet og detaljerede adgangsregler for data, værktøjer, API'er og tjenester. Når en agent forsøger at krydse softwaregrænsen, skal Sentry isolere og standse den. Karantæne dækker her over et indgreb mod en agent, som overtræder en opsat politik; det afgør ikke, hvilke politikker der bør gælde.

Forskellen mellem de to lag er konkret. OpenShell bestemmer, hvilken adgang agenten har under normal drift, og håndhæver den i kørselsmiljøet. Sentry overvåger uafhængigt af dette miljø og skal kunne gribe ind ved en overskridelse. Den uafhængighed kræver den beskrevne hardwareopsætning; en installation af OpenShell alene indebærer ikke Sentrys reaktionstid.

Fire forhold afgør, hvad platformen kan bruges til

De to dele har forskellig status og forskellige krav. Det giver en måde at skelne mellem tilgængelig software, hardwarekrav og dokumenteret virkning:

• Hardware: OpenShell beskrives til agentkørsel på Vera CPU. Sentrys separate overvågning er knyttet til BlueField-4 DPU. Løftet om hurtig karantæne gælder denne samlede konstruktion, ikke enhver installation af OpenShell.
• Andre platforme: OpenShell kan som open source udvides til computerplatforme fra blandt andre Arm og Intel. Muligheden for udvidelse dokumenterer ikke, at en komplet OpenShell- og Sentry-installation allerede fungerer på disse platforme.
• Karantæne: Sentry skal efter den beskrevne arkitektur sætte en agent i karantæne på millisekunder, hvis den bevæger sig uden for sin grænse. Der er ikke angivet testbetingelser, som gør reaktionstiden sammenlignelig med drift i en konkret installation.
• Virkning: Åbne sammenlignelige tal for opdagede overskridelser, fejlagtige blokeringer og agentens evne til at fuldføre tilladte opgaver mangler. Uden dem kan man ikke vurdere balancen mellem beskyttelse og nytte i en konkret opsætning.

Påstanden om tidligere brud møder et praktisk problem

TechCrunchs dækning daterer OpenShell til marts og gengiver Nvidias topchef Jensen Huangs vurdering af, at den nye platform ville have forhindret tidligere agentbrud, herunder bruddet hos Hugging Face. Det er en påstand om et tænkt udfald af en tidligere hændelse, ikke et dokumenteret forsøg, hvor den aktuelle opsætning blev afprøvet mod hændelsen.

Rettighedernes udformning er den afgørende udfordring. En for bred adgang kan give plads til uønskede handlinger inden for den tilladte ramme; en for snæver adgang kan forhindre agenten i at løse opgaven. Somesh Jha, professor i datalogi ved University of Wisconsin, peger i AP's gennemgang på risikoen for at blokere nyttigt arbejde og siger: “This can only be answered using case studies.”

Det efterlader et konkret spørgsmål for organisationer, der vil bruge hele løsningen: Hvilke opgaver kan agenten gennemføre med nødvendige minimumsrettigheder, og hvor hurtigt griber Sentry faktisk ind, når grænsen overskrides? Resultater fra afprøvninger med oplyste politikker, hardware og både tilladte og blokerede handlinger vil gøre det muligt at bedømme, om den annoncerede karantæne også virker i almindelig drift.

Læs også:

• Microsoft gør AI-agenter forbrugsafregnede – Copilot får en ekstra måler
• n8n, Make eller Zapier: 10 trin kan ændre hele AI-regningen
• Brug Copilot i Teams uden referat – men Purview kan stadig gemme spor