Hvad er human in the loop?
Human in the loop er designprincippet om at et menneske gennemgår eller godkender et AI-resultat før det får reel effekt. Det findes i forskellige grader: AI foreslår og mennesket beslutter, AI udfører men kun efter godkendelse, eller AI udfører og et menneske kontrollerer med stikprøver. Ved beslutninger om penge, personale og jura bør kontrollen sjældent droppes.
Human in the loop er designprincippet om at et menneske gennemgår eller godkender et AI-resultat før det får reel effekt. Udtrykket betyder cirka “menneske i løkken”: En person er med i flowet på et sted hvor det betyder noget. Modellen arbejder, men den sidste kontrol ligger hos et menneske.
Princippet bliver stadig vigtigere i takt med at AI får lov at udføre ting, ikke bare foreslå dem. Så længe en model kun skriver et udkast, er følgen af en fejl lille. Når en løsning kan handle (sende, betale, beslutte), bliver spørgsmålet om hvem der har det sidste ord, afgørende.
Tre niveauer af kontrol
Human in the loop er ikke én tilstand, men en skala. Groft sagt kan man tale om tre niveauer med stadig mindre menneskelig involvering.
- AI foreslår, mennesket beslutter. Modellen udarbejder et forslag, men beslutningen træffes af et menneske. AI’en er en støtte, intet mere.
- AI udfører, med godkendelse. Modellen forbereder og kan gennemføre en handling, men først efter at et menneske har sagt ja. Kontrolpunktet ligger lige før handlingen får virkning.
- AI udfører, mennesket kontrollerer med stikprøver. Modellen handler på egen hånd, og et menneske kontrollerer et udsnit bagefter for at fange fejl og følge kvaliteten.
Jo højere oppe på listen, desto mere kontrol og desto langsommere flow. Jo længere nede, desto mere fart, men også større tillid til at modellen gør det rigtige. Det rigtige niveau afhænger helt af hvad der står på spil.
Hvornår princippet ikke bør droppes
Fristelsen til at automatisere det sidste menneskelige trin væk er stor. Det er jo dér farten er. Men der er områder hvor det sjældent er klogt.
| Type beslutning | Passende grad af kontrol |
|---|---|
| Penge (udbetalinger, transaktioner) | Godkendelse før virkning |
| Personale (vurderinger af medarbejdere) | Mennesket beslutter |
| Jura (bindende beslutninger) | Mennesket beslutter |
Fælles for penge, personale og jura er at en fejl er svær at gøre om og kan få store følger. En fejlagtig udbetaling, en forkert vurdering af en ansat eller et juridisk fejltrin er ikke noget man vil opdage bagefter via en stikprøve. I den slags flows er menneskelig godkendelse sjældent noget man skal spare på uanset hvor godt modellen klarer sig i gennemsnit.
En almindelig tankefejl er at ræsonnere ud fra gennemsnittet: “Modellen har ret i næsten alle tilfælde, altså kan vi stole på den.” Men ved følsomme beslutninger er det ikke gennemsnittet der er problemet, men de enkelte tilfælde hvor den tager fejl, og netop de kan være dyre. En model der gør det rigtige nioghalvfems gange ud af hundrede, lyder betryggende indtil den hundrede gang er en fejlagtig udbetaling eller et lån der afvises på et forkert grundlag. Derfor bliver kontrollen liggende dér hvor konsekvenserne er store uanset hvor sjældent fejlen sker.
Et konkret scenarie
Forestil dig en agent der håndterer leverandørfakturaer. På et mellemniveau læser den fakturaen, matcher den med en indkøbsordre og lægger den i kø til godkendelse: Et menneske klikker ja før betalingen sker. De ukontroversielle, tilbagevendende fakturaer glider hurtigt igennem mens afvigelser bliver fremhævet. Kontrollen ligger hvor penge skifter hænder, men ikke i vejen for det der er rutine. Sådan ser en gennemtænkt anvendelse ud: kontrol hvor det er nødvendigt, fart hvor det er muligt.
Det samme flow kan justeres efter hvor meget I stoler på det over tid. I begyndelsen kræver hver faktura måske en godkendelse. Når I har set at agenten matcher rigtigt gang på gang, kan de mindste og mest rutineprægede fakturaer lukkes igennem automatisk med kun stikprøver mens de store beløb fortsat godkendes manuelt. Pointen er at niveauet ikke behøver at ligge fast. Det kan flyttes efterhånden som tilliden vokser. Men kontrollen slipper man ikke dér hvor den virkelig betyder noget.
Kravet fra lovgivningen
Nogle gange er princippet ikke valgfrit. EU’s AI-forordning stiller krav om menneskeligt tilsyn med AI-systemer der klassificeres som højrisiko, f.eks. inden for rekruttering og kreditvurdering. Dér er human in the loop en reguleret forventning, ikke bare en god vane.
For mindre følsomme anvendelser er det op til jer at vælge niveau, men princippet er ofte klogt, også når ingen lov kræver det. Vil du drøfte hvor den menneskelige kontrol bør ligge i en løsning hos jer, kan du læse mere om vores AI-ydelser eller kontakte os med en beskrivelse af hvilke beslutninger løsningen skal understøtte.
Ofte stillede spørgsmål
Hvilke niveauer af human in the loop findes der?
Groft sagt tre. På det første foreslår AI’en, og et menneske træffer beslutningen. AI’en er en støtte. På det andet udfører AI’en handlingen, men først efter at et menneske har godkendt den. På det tredje udfører AI’en på egen hånd, og et menneske kontrollerer bagefter med stikprøver. Niveauerne adskiller sig ved hvor meget kontrol mennesket har, og valget afhænger af hvor alvorligt et fejltrin er.
Hvornår bør human in the loop ikke droppes?
Når en forkert beslutning får store konsekvenser. Det gælder især beslutninger om penge, personale og jura: En fejlagtig udbetaling, en forkert vurdering af en medarbejder eller et juridisk fejltrin er svært at gøre om. I den slags flows er menneskelig godkendelse sjældent noget man skal automatisere væk uanset hvor godt modellen klarer sig i gennemsnit.
Gør human in the loop AI-løsningen langsommere?
Et godkendelsestrin tager noget tid, ja. Men det er en afvejning mod risiko. Til ukritiske opgaver i stor skala kan stikprøver være nok, og farten kan bevares. Ved beslutninger med store konsekvenser er den lille forsinkelse en billig pris for at undgå dyre fejl. Pointen er at vælge det rigtige niveau til opgaven, ikke at lægge kontrol ind overalt eller ingen steder.
Kræver loven menneskelig kontrol med AI?
For visse anvendelsesområder, ja. EU’s AI-forordning stiller krav om menneskeligt tilsyn med AI-systemer der klassificeres som højrisiko, f.eks. inden for rekruttering og kreditvurdering. Dér er human in the loop ikke bare en god idé, men en reguleret forventning. For mindre følsomme anvendelser er det op til jer, men princippet er ofte klogt, også når det ikke er påbudt.
Er human in the loop det samme som at gennemgå alt manuelt?
Nej. Det handler om at placere den menneskelige kontrol hvor den gør mest gavn, ikke om at lade et menneske lave alt AI’ens arbejde om. Ofte er det nok at gennemgå det der er usikkert eller har store konsekvenser mens resten glider igennem. Godt udformet giver princippet både fart og tryghed: Mennesket fokuserer på det der virkelig kræver dømmekraft.