Vad är en systemprompt?

En systemprompt är den grundinstruktion som talar om för en AI-tjänst vem den ska vara och hur den ska bete sig, innan användaren skrivit ett enda ord. Den ligger dold bakom gränssnittet och sätter ramarna för varje samtal: rollen, tonen och gränserna. Allt användaren sedan frågar tolkas i ljuset av den instruktionen.

Man kan tänka på den som en rollbeskrivning som modellen får läsa varje gång, precis innan den möter en ny fråga. Utan den är modellen allmän och formbar. Med den blir den en specifik tjänst med ett tydligt uppdrag.

Systemprompt kontra användarprompt

Skillnaden mellan de två är central. Systemprompten är fast och satt av den som bygger tjänsten – den gäller alla samtal och alla användare lika. Användarprompten är den enskilda fråga en besökare skriver för stunden, och den varierar från gång till gång.

Bilden blir tydlig om man tänker sig ett kundtjänstflöde. Systemprompten säger: “Du är kundtjänst för ett försäkringsbolag, svara sakligt och vänligt på svenska, och hänvisa juridiska frågor vidare.” Användaren skriver sedan: “Vad gäller om jag råkat ut för vattenskada?” Modellen svarar på frågan, men inom den ram systemprompten redan dragit upp.

Vad företag lägger i systemprompten

I praktiken används systemprompten för att göra en generell modell till en tjänst som passar just verksamheten. Tre saker återkommer:

• Varumärkeston. Hur svaren ska låta – kort och rakt, eller mer utförligt och personligt. På vilket språk, och med vilken grad av formalitet.
• Förbjudna ämnen. Vad tjänsten inte ska ge sig in på. En banktjänst kanske ska avstå från skatterådgivning, en vårdtjänst från diagnoser.
• Svarsformat. Om svaren ska följa en viss struktur, alltid avslutas med ett nästa steg, eller hålla sig inom en viss längd.

Poängen är förutsägbarhet. En genomtänkt systemprompt gör att tjänsten svarar likartat gång på gång, i stället för att skifta i ton och innehåll beroende på hur frågan råkar formuleras.

Första försvarslinjen – men inte ett säkerhetsskydd

Här är den viktigaste missuppfattningen att reda ut. En systemprompt styr modellens beteende i normalfallet, men den är inte ett skydd i teknisk mening. Den kan påverkas av illasinnad indata, där någon medvetet formulerar en fråga för att få modellen att bortse från sina instruktioner.

Riktig säkerhet ligger i lagren runt modellen: vad tjänsten över huvud taget har behörighet att göra, hur indata filtreras och hur utdata granskas. Lägg därför aldrig hemligheter i en systemprompt, och lita aldrig på att den ensam håller en illvillig användare borta. Den är första försvarslinjen, inte hela försvaret.

Vanliga misstag med systemprompten

Några fällor återkommer när företag skriver sin första systemprompt.

• Att lägga känslig information i den. Lösenord, nycklar eller intern affärslogik hör inte hemma i en systemprompt, eftersom den kan avslöjas. Håll den till roll, ton och regler – inte hemligheter.
• Att packa den för full. En systemprompt med hundra regler blir svår för modellen att följa konsekvent, och reglerna kan börja motsäga varandra. Färre och tydligare instruktioner ger mer pålitliga svar.
• Att aldrig ändra den. Verkligheten visar snart var modellen svarar fel. En systemprompt som lämnas orörd efter lanseringen missar det, medan en som justeras när problem dyker upp gradvis blir bättre.

Den som undviker de tre får en systemprompt som gör mer nytta och orsakar färre överraskningar.

Vad det betyder för dig som beställare

När ni beställer en AI-tjänst är systemprompten en av de delar som formar upplevelsen mest, och den är värd att äga och förfina över tid. Vi på Weapp behandlar den som en levande del av lösningen: den versioneras, testas och justeras när verkligheten visar var modellen svarar fel.

Vill du förstå hur en tjänst kan styras för att matcha er ton och era gränser, kan du läsa mer om våra AI-tjänster eller höra av dig med en beskrivning av vad tjänsten ska göra.