Hvad er en system prompt?
En systemprompt er den skjulte grundinstruktion der styrer en AI-tjenestes rolle, tone og grænser før brugeren har skrevet noget. Den sætter rammerne: hvem modellen skal være, hvad den må og ikke må tage op og hvordan svarene skal se ud. Brugerens spørgsmål lægges derefter oven på den ramme og tolkes i lyset af den.
En system prompt, eller systemprompt, er den grundinstruktion der fortæller en AI-tjeneste hvem den skal være og hvordan den skal opføre sig før brugeren har skrevet et eneste ord. Den ligger skjult bag brugerfladen og sætter rammerne for hver samtale: rollen, tonen og grænserne. Alt hvad brugeren derefter spørger om, tolkes i lyset af den instruktion.
Man kan tænke på den som en rollebeskrivelse som modellen får at læse hver gang, lige før den møder et nyt spørgsmål. Uden den er modellen generel og formbar. Med den bliver den en bestemt tjeneste med en klar opgave.
Systemprompt over for brugerprompt
Forskellen mellem de to er central. Systemprompten er fast og sat af den der bygger tjenesten. Den gælder alle samtaler og alle brugere ens. Brugerprompten er det enkelte spørgsmål en besøgende skriver i øjeblikket, og det varierer fra gang til gang.
Billedet bliver tydeligt hvis man forestiller sig et kundeserviceflow. Systemprompten siger: “Du er kundeservice for et forsikringsselskab. Svar sagligt og venligt på dansk, og henvis juridiske spørgsmål videre.” Brugeren skriver derefter: “Hvad gælder hvis jeg har fået en vandskade?” Modellen svarer på spørgsmålet, men inden for den ramme systemprompten allerede har sat.
Hvad virksomheder lægger i systemprompten
I praksis bruges systemprompten til at gøre en generel model til en tjeneste der passer netop til forretningen. Tre ting går igen:
- Brandets tone. Hvordan svarene skal lyde: kort og direkte eller mere udførligt og personligt. På hvilket sprog, og med hvilken grad af formalitet.
- Forbudte emner. Hvad tjenesten ikke skal begive sig ind på. En banktjeneste skal måske holde sig fra skatterådgivning, en sundhedstjeneste fra diagnoser.
- Svarformat. Om svarene skal følge en bestemt struktur, altid afsluttes med et næste skridt eller holde sig inden for en bestemt længde.
Pointen er forudsigelighed. En gennemtænkt systemprompt gør at tjenesten svarer ensartet gang på gang i stedet for at skifte i tone og indhold afhængigt af hvordan spørgsmålet tilfældigvis er formuleret.
Første forsvarslinje, men ikke en sikkerhedsforanstaltning
Her er den vigtigste misforståelse at få ryddet af vejen. En systemprompt styrer modellens adfærd i normaltilfældet, men den er ikke en beskyttelse i teknisk forstand. Den kan påvirkes af ondsindet input, hvor nogen bevidst formulerer et spørgsmål for at få modellen til at se bort fra sine instruktioner.
| Lag | Beskyttelse |
|---|---|
| Systemprompt | Styrer adfærd, kan omgås |
| Adgangsstyring | Afgør hvad tjenesten faktisk må gøre |
| Filtrering af input og output | Fanger det der smutter igennem |
Rigtig sikkerhed ligger i lagene omkring modellen: hvad tjenesten overhovedet har rettigheder til at gøre, hvordan input filtreres og hvordan output kontrolleres. Læg derfor aldrig hemmeligheder i en systemprompt, og stol aldrig på at den alene holder en ondsindet bruger ude. Den er første forsvarslinje, ikke hele forsvaret.
Typiske fejl med systemprompten
Nogle faldgruber går igen når virksomheder skriver deres første systemprompt.
- At lægge følsomme oplysninger i den. Adgangskoder, nøgler eller intern forretningslogik hører ikke hjemme i en systemprompt fordi den kan blive afsløret. Hold den til rolle, tone og regler, ikke hemmeligheder.
- At proppe den for fuld. En systemprompt med hundrede regler bliver svær for modellen at følge konsekvent, og reglerne kan begynde at modsige hinanden. Færre og tydeligere instruktioner giver mere pålidelige svar.
- Aldrig at ændre den. Virkeligheden viser hurtigt hvor modellen svarer forkert. En systemprompt der står urørt efter lanceringen, går glip af det. En der justeres når problemer dukker op, bliver gradvist bedre.
Den der undgår de tre, får en systemprompt der gør mere gavn og skaber færre overraskelser.
Hvad det betyder for dig som kunde
Når I bestiller en AI-tjeneste, er systemprompten en af de dele der former oplevelsen mest, og den er værd at eje og forfine over tid. Hos Weapp behandler vi den som en levende del af løsningen: Den versioneres, testes og justeres når virkeligheden viser hvor modellen svarer forkert.
Vil du forstå hvordan en tjeneste kan styres så den matcher jeres tone og jeres grænser, kan du læse mere om vores AI-ydelser eller kontakte os med en beskrivelse af hvad tjenesten skal gøre.
Ofte stillede spørgsmål
Hvad er forskellen på en systemprompt og en brugerprompt?
Systemprompten er den faste grundinstruktion som du sætter når du bygger tjenesten, og som gælder for alle samtaler. Brugerprompten er det enkelte spørgsmål den besøgende skriver i øjeblikket. Systemprompten sætter rammen, brugerprompten fylder den ud. Den besøgende ser normalt kun sit eget spørgsmål, ikke den underliggende instruktion.
Hvad lægger virksomheder i en systemprompt?
Ofte tre ting: en rolle og en tone der matcher brandet, en liste over emner tjenesten ikke skal begive sig ind på, og et ønsket svarformat. Det kan være "svar kort og sagligt på dansk", "henvis medicinske spørgsmål videre" eller "afslut altid med næste skridt". Formålet er at gøre svarene forudsigelige og i tråd med forretningen.
Kan brugeren se systemprompten?
Normalt ikke. Den ligger bag kulisserne og vises ikke i brugerfladen. Men den er ikke hemmelig i teknisk forstand. Med de rette formuleringer kan en bruger nogle gange få modellen til at afsløre eller omgå dele af den. Læg derfor aldrig adgangskoder, nøgler eller følsom forretningslogik i en systemprompt.
Er en systemprompt nok som sikkerhed?
Nej. Den er en første forsvarslinje som styrer modellens adfærd i normaltilfældet, men den kan påvirkes af ondsindet input. Rigtig sikkerhed bygges i lagene omkring modellen: adgangsstyring, filtrering af input og output samt begrænsning af hvad tjenesten faktisk må gøre. Systemprompten supplerer de lag, den erstatter dem ikke.
Hvor ofte ændres en systemprompt?
Den justeres løbende mens tjenesten modnes. Når I opdager at modellen svarer forkert i visse situationer, rammer en forkert tone eller tager noget op den burde undgå, er systemprompten ofte det første sted at skrue på. Derfor bør den versioneres og testes som enhver anden del af løsningen, ikke behandles som en engangstekst.