Vad är human in the loop?

Human in the loop är designprincipen att en människa granskar eller godkänner ett AI-resultat innan det får verklig effekt. Uttrycket betyder ungefär “människa i loopen”: en person finns med i flödet, på en plats där det spelar roll. Modellen arbetar, men den sista kontrollen ligger hos en människa.

Principen blir allt viktigare i takt med att AI får utföra saker, inte bara föreslå dem. Så länge en modell bara skriver ett utkast är följden av ett fel liten. När en lösning kan agera – skicka, betala, besluta – blir frågan om vem som har sista ordet avgörande.

Tre nivåer av kontroll

Human in the loop är inte ett läge utan en skala. Grovt kan man tala om tre nivåer, med allt mindre mänsklig inblandning.

1. AI föreslår, människan bestämmer. Modellen tar fram ett förslag, men beslutet fattas av en människa. AI:n är ett stöd, inget mer.
2. AI utför, med godkännande. Modellen förbereder och kan genomföra en åtgärd, men först efter att en människa sagt ja. Kontrollpunkten ligger precis före verkan.
3. AI utför, människan granskar i stickprov. Modellen agerar på egen hand, och en människa kontrollerar ett urval i efterhand för att fånga fel och följa kvaliteten.

Ju högre upp i listan, desto mer kontroll och desto långsammare flöde. Ju längre ner, desto mer fart men också större tillit till att modellen gör rätt. Rätt nivå beror helt på vad som står på spel.

När principen inte bör slopas

Frestelsen att automatisera bort det sista mänskliga steget är stor – det är ju där farten finns. Men det finns områden där det sällan är klokt.

Gemensamt för pengar, personal och juridik är att ett fel är svårt att ta tillbaka och kan få stora följder. En felaktig utbetalning, en oriktig bedömning av en anställd eller ett juridiskt felsteg är inte något man vill upptäcka i efterhand via ett stickprov. I sådana flöden är mänskligt godkännande sällan något att spara in på, hur bra modellen än presterar i genomsnitt.

Ett vanligt tankefel är att resonera utifrån genomsnittet: “modellen har rätt i nästan alla fall, alltså kan vi lita på den”. Men vid känsliga beslut är det inte genomsnittet som är problemet, utan de enstaka fallen där den har fel – och just de kan vara dyra. En modell som gör rätt nittionio gånger av hundra låter tryggt, tills den hundrade gången är en felaktig utbetalning eller ett nekat lån på fel grunder. Därför ligger kontrollen kvar där konsekvenserna är stora, oavsett hur sällan felet inträffar.

Ett konkret scenario

Tänk en agent som hanterar leverantörsfakturor. På en mellannivå läser den fakturan, matchar den mot en beställning och lägger den i kö för godkännande – en människa klickar ja innan betalning sker. De okontroversiella, återkommande fakturorna flödar snabbt, medan avvikelser lyfts fram. Kontrollen ligger där pengar byter händer, men inte i vägen för det som är rutin. Så ser en genomtänkt tillämpning ut: kontroll där det behövs, fart där det går.

Samma flöde kan skruvas efter hur mycket ni litar på det över tid. I början kanske varje faktura kräver ett godkännande. När ni sett att agenten matchar rätt gång på gång kan de minsta, mest rutinmässiga fakturorna släppas igenom automatiskt med enbart stickprov, medan de stora beloppen fortsatt godkänns för hand. Poängen är att nivån inte behöver vara fast – den kan flyttas i takt med att förtroendet växer, utan att man släpper kontrollen där den verkligen betyder något.

Kravet från lagstiftningen

Ibland är principen inte valfri. EU:s AI-förordning ställer krav på mänsklig tillsyn för AI-system som klassas som högrisk, exempelvis inom rekrytering och kreditbedömning. Där är human in the loop en reglerad förväntan, inte bara en god vana.

För mindre känsliga tillämpningar är det upp till er att välja nivå – men principen är ofta klok även när ingen lag kräver den. Vill du resonera kring var den mänskliga kontrollen bör ligga i en lösning hos er kan du läsa mer om våra AI-tjänster eller höra av dig med en beskrivning av vilka beslut lösningen ska stödja.