Slå begreber og forkortelser op i ordbogen
Fastlæg menneskelig kontrol med AI agenter
Giv agenten det mindste mandat, der kan skabe den ønskede værdi. Kontrollen skal følge konsekvens, usikkerhed og muligheden for at rette en fejl. Ved væsentlige handlinger skal et menneske kunne forstå det konkrete forslag, ændre eller afvise det og overtage arbejdet.
En agent kan finde oplysninger, foreslå en handling eller udføre den. Det er forskellige niveauer af ansvar. Ledelsen skal beslutte, hvilket niveau den valgte proces kan bære. Et godt resultat i en læseassistent er ikke i sig selv et grundlag for at give samme løsning ret til at ændre ordrer eller sende beskeder.
Anthropic beskriver agenter som modeller, der bruger værktøjer og feedback til at vælge næste skridt. [4] Vores anbefaling er at gøre mandatet til en eksplicit del af løsningen. Det skal kunne håndhæves i systemet, ikke kun beskrives i en prompt.
Vurder handlingen før I vælger kontrollen
Se på beløb, modtagere, personers rettigheder og driftskonsekvenser. Spørg, om handlingen kan gøres om, hvor hurtigt en fejl opdages, og hvor meget grundlaget kan ændre sig. En afsendt besked kan ikke altid trækkes tilbage, selv om en databaseændring kan rulles tilbage teknisk.
| Mandat | Eksempel | Kontrol før udvidelse |
|---|---|---|
| Læse og forklare | Find relevante returvilkår | Kilder, adgang og faglig kvalitet |
| Klargøre | Foreslå en kreditnota | Korrekt sag, beløb og beslutningsgrundlag |
| Udføre med godkendelse | Bogfør godkendt kreditnota | Godkendelse knyttet til præcis handling |
| Udføre inden for ramme | Afgrænset, kontrollerbar standardhandling | Systemregler, overvågning og sikker overtagelse |
Tabellen er en praktisk model, ikke en officiel risikoklassifikation. Nogle handlinger bør blive på et niveau med menneskelig beslutning. Høj modenhed betyder, at virksomheden kan styre anvendelsen; det betyder ikke nødvendigvis størst mulig autonomi.
Gør godkendelsen konkret og meningsfuld
En godkender skal kunne se modtager, beløb, ændring, relevante kilder og væsentlig usikkerhed. Vis også, hvad der sker, hvis forslaget accepteres. En generel knap med godkend AI er utilstrækkelig til at forstå en konkret forretningshandling.
Godkendelsen skal gælde den version, som faktisk udføres. Hvis agenten efterfølgende ændrer beløb eller modtager, kræves en ny kontrol. Hvis ordrestatus ændres, skal forudsætningerne vurderes igen. Systemmodenhed klar til agentisk AI (AI-03-001) beskriver sikre handlinger og samtidige ændringer.
Giv personen reel tid, kompetence og mandat. Hvis arbejdsbyrden gør grundig vurdering umulig, kan kontrollen blive en rutinemæssig bekræftelse. Følg derfor kontroltid, afvisninger og rettelser som en del af driften. Målet er en virkningsfuld kontrol, ikke flest mulige godkendelsesklik.
Håndhæv grænser uden for modellen
Systemet skal validere rettigheder, tilladte kunder, beløbsgrænser og destinationer. OWASP fremhæver behovet for at begrænse agenters værktøjer og beføjelser. [1] En model skal ikke kunne udvide sit eget mandat, fordi en mail eller et dokument instruerer den i det.
Adskil de oplysninger, agenten læser, fra de regler, der giver den ret til at handle. Kontroller værktøjskald før udførelse og læs resultatet tilbage bagefter. Gem nødvendige spor, så en fejl kan undersøges. Forbind AI med virksomhedens eksisterende systemer (Q15) beskriver integrationerne, og Vurdér kvaliteten af AI svar og handlinger (Q24) evaluering af handlinger.
Sørg for, at gentagelser ikke skaber dobbelt virkning. Et afbrudt forløb skal kunne standses og overtages. Begræns antal forsøg, tidsforbrug og samlet omkostning. En agent, der fortsætter med at prøve uden fremdrift, kan skabe både driftsproblemer og unødvendige udgifter.
Vurder regler om automatiske afgørelser særskilt
Hvis personoplysninger bruges til afgørelser, som alene træffes automatisk og har retsvirkning eller tilsvarende væsentlig betydning, skal GDPR artikel 22 vurderes. Relevante undtagelser har betingelser og garantier. [2] Det kan ikke afgøres alene ud fra, om et menneske formelt indgår i processen.
En person, der kan ændre udfaldet og foretager en reel vurdering, er noget andet end en automatisk bekræftelse af modellens forslag. Brug personoplysninger lovligt i AI (Q17) behandler persondata, og Afklar hvilke AI regler virksomheden skal følge (Q18) AI-forordningens særskilte krav. Få den konkrete vurdering før anvendelse med væsentlige konsekvenser.
NIST AI RMF støtter en kontekstafhængig vurdering af risici. [3] Vores praktiske anvendelse er at afprøve både agentens adfærd og menneskets mulighed for at gribe ind. En kontrol, som kun findes i en procedure, er ikke nok, hvis brugerfladen skjuler afgørende information.
Et eksempel med kreditering
Virksomheden i dette eksempel lader en agent finde ordre og returregel og klargøre en kreditnota. Økonomisystemet kontrollerer kunde, restbeløb og medarbejderens rettighed. Godkenderen ser præcis kreditnota og begrundelse.
Hvis ordren ændres før bogføring, afbrydes forløbet til ny kontrol. Hvis systemet ikke kan bekræfte, om bogføringen er gennemført, må agenten ikke blot oprette en ny kreditnota. Sagen går til en ansvarlig med det eksisterende operations-ID og kendt status.
Udvid mandatet med dokumentation
Eksperimentet bruger simulerede handlinger eller læseadgang. MVP’en giver få kontrollerede beføjelser og tester fejl, afvisning og overtagelse. Ved skalering vurderes, om større autonomi giver en dokumenteret gevinst, som opvejer ekstra risiko og vedligeholdelse. Gør kvalitet og sikkerhed til en del af leverancen (A08) sammenligner med agile kvalitetskrav.
Næste ledelsesbeslutning: Godkend agentens konkrete handlinger, grænser og stopvej. Udpeg, hvem der kan ændre mandatet, og kræv en ny vurdering, når data, brugere eller konsekvenser ændres.
Kundeeksempel med mål og opfølgning
I fakturakontroleksemplet er potentialet 250 færre fejl om måneden. En assistent kan finde en mulig fejl og foreslå en kreditnota, mens en medarbejder ser beløb, kunde og begrundelse før godkendelse.
Mål samlet kontroltid, fejlagtige forslag og gentagne handlinger. Automatisk bogføring er en udvidelse af mandatet og kræver en ny vurdering. Den forventede kapacitetsgevinst på cirka 83 timer begrunder ikke alene at fjerne kontrollen.
Brug den samlede VP/SE-model, VP-vejledningen og SE-vejledningen. Begge estimater revurderes før Hypotese, MVP og Skalering. VP/SE er et lokalt præferenceindeks, ikke økonomisk ROI eller WSJF. Lær anvendelsen på halvdag 1 om VP og halvdag 2 om SE og prioritering, hver fire timer inklusive pause.
Kilder og videre læsning
Eksempler og handlingsforslag er EnableAIs faglige vurdering. Virksomhedseksempler og regnetal er illustrative. Artiklen er opdateret med konkrete regneeksempler og henvisninger den 15. september 2026.
[2] EU · Databeskyttelsesforordningen