Vad är guardrails?

Guardrails är de tekniska skyddsräcken som begränsar vad en AI-lösning får läsa, säga och göra. Ordet betyder just skyddsräcke, och bilden är träffande: räcket hindrar inte bilen från att köra, men det håller den på vägen. På samma sätt hindrar guardrails inte AI-lösningen från att vara användbar – de ser till att den håller sig inom det den ska.

En generell modell kan i princip svara på vad som helst, i vilken ton som helst. För en verksamhet är det sällan önskvärt. Guardrails är det som gör en formbar modell till en tjänst man vågar släppa lös mot riktiga användare och riktig data.

De tre lagren

Guardrails byggs inte som en enda spärr, utan i tre lager som griper in på olika ställen i flödet.

• Filtrera indata. Innan en fråga ens når modellen kan den kontrolleras och stoppas om den är olämplig eller farlig. Här fångas till exempel uppenbara försök att missbruka tjänsten.
• Styra beteende. Genom instruktioner och regler hålls modellen inom sitt uppdrag – vilken roll den har, vilka ämnen den ska undvika och hur den ska svara.
• Granska utdata. Innan svaret når användaren kan det kontrolleras. Har modellen råkat få med en personuppgift eller formulerat något olämpligt kan det fångas i det här sista steget.

Poängen med tre lager är att inget enskilt lager är fullständigt tillförlitligt. Det som slinker förbi filtret ska helst fångas av granskningen. Djupet är skyddet.

Konkreta exempel

Abstraktionen blir tydlig med verkliga exempel på vad guardrails gör i praktiken.

En ämnesspärr ser till att en bot avstår från frågor den inte ska besvara. Maskning av personuppgifter gör att känsliga fält aldrig når fram i klartext. Ett maxbelopp hindrar en agent från att på egen hand godkänna en transaktion över en viss gräns. Gemensamt för dem alla är att de sätter en tydlig, teknisk gräns för vad lösningen får göra – inte bara en förhoppning om att den ska bete sig.

Värt att notera är att en guardrail ska vara just en teknisk regel, inte enbart en instruktion i systemprompten. En instruktion om att “aldrig ge medicinska råd” kan påverkas av illa formulerad indata, medan en riktig spärr sitter utanför modellen och är svårare att prata sig förbi. Skillnaden mellan en förhoppning och en spärr är precis den: en förhoppning kan modellen svika, en spärr kan den inte kringgå lika lätt.

Guardrails ersätter aldrig behörighetsstyrning

Här finns en avgörande gränsdragning. Guardrails styr hur AI-lösningen beter sig, men de avgör inte vad som i grunden är åtkomligt. Det gör behörighetsstyrningen – den bestämmer vilken data och vilka system en användare eller tjänst över huvud taget har rätt att nå.

Skillnaden spelar roll. En guardrail kan hindra modellen från att visa en känslig uppgift i ett svar. Men om behörigheterna är fel satta och uppgiften egentligen inte borde vara åtkomlig alls, är grundproblemet kvar – guardrailen döljer bara symptomet. Riktig säkerhet börjar därför i behörigheterna, och guardrails läggs ovanpå som ett kompletterande skydd. Att förväxla de två är ett vanligt och farligt misstag.

Ett sätt att hålla isär dem: behörighetsstyrningen bestämmer vad som finns bakom dörren, guardrails bestämmer hur den som redan är inne får bete sig. Båda behövs, men i fel ordning blir skyddet bara skenbart. En AI-lösning som förlitar sig på guardrails för att kompensera för slappa behörigheter står och faller med att varje enskild spärr håller – och det är en svag grund att bygga på. Sätt behörigheterna först, och låt guardrails förfina snarare än ersätta.

Vad det betyder för dig som beställare

För dig som köper en AI-lösning är guardrails en av de delar som avgör om tjänsten går att lita på i skarp drift. En lösning utan skyddsräcken kan svara olämpligt, läcka uppgifter eller agera utanför sitt uppdrag – och det räcker med ett tillfälle för att skada förtroendet.

Hur omfattande skyddet behöver vara beror på vad tjänsten gör och vilka data den rör. Vi på Weapp bygger guardrails som en del av lösningen från början, inte som något som läggs till i efterhand. Vill du resonera kring vilka skyddsräcken en tjänst hos er skulle behöva kan du läsa mer om våra AI-tjänster eller höra av dig med en beskrivning av vad tjänsten ska göra.