Hva er en systemprompt?
En systemprompt er den skjulte grunninstruksen som styrer rollen, tonen og grensene til en AI-tjeneste før brukeren har skrevet noe. Den setter rammene: hvem modellen skal være, hva den har lov til å ta opp og ikke, og hvordan svarene skal se ut. Brukerens spørsmål kommer deretter oppå den rammen og tolkes i lys av den.
En systemprompt er grunninstruksen som forteller en AI-tjeneste hvem den skal være og hvordan den skal oppføre seg, før brukeren har skrevet et eneste ord. Den ligger skjult bak grensesnittet og setter rammene for hver samtale: rollen, tonen og grensene. Alt brukeren deretter spør om, tolkes i lys av den instruksen.
Man kan tenke på den som en rollebeskrivelse modellen får lese hver gang, rett før den møter et nytt spørsmål. Uten den er modellen generell og formbar. Med den blir den en bestemt tjeneste med et tydelig oppdrag.
Systemprompt kontra brukerprompt
Forskjellen mellom de to er sentral. Systemprompten er fast og satt av den som bygger tjenesten. Den gjelder alle samtaler og alle brukere likt. Brukerprompten er det enkelte spørsmålet en besøkende skriver der og da, og den varierer fra gang til gang.
Bildet blir tydelig hvis man tenker seg en kundeserviceflyt. Systemprompten sier: «Du er kundeservice for et forsikringsselskap. Svar saklig og vennlig på norsk, og henvis juridiske spørsmål videre.» Brukeren skriver så: «Hva gjelder hvis jeg har fått en vannskade?» Modellen svarer på spørsmålet, men innenfor den rammen systemprompten allerede har trukket opp.
Hva virksomheter legger i systemprompten
I praksis brukes systemprompten til å gjøre en generell modell om til en tjeneste som passer akkurat denne virksomheten. Tre ting går igjen:
- Merkevaretone. Hvordan svarene skal låte: kort og rett på sak, eller mer utfyllende og personlig. På hvilket språk, og med hvilken grad av formalitet.
- Forbudte temaer. Hva tjenesten ikke skal gå inn på. En banktjeneste skal kanskje avstå fra skatterådgivning, en helsetjeneste fra diagnoser.
- Svarformat. Om svarene skal følge en bestemt struktur, alltid avsluttes med et neste steg eller holde seg innenfor en viss lengde.
Poenget er forutsigbarhet. En gjennomtenkt systemprompt gjør at tjenesten svarer konsekvent gang på gang, i stedet for å skifte tone og innhold avhengig av hvordan spørsmålet tilfeldigvis er formulert.
Første forsvarslinje, men ikke et sikkerhetstiltak
Her er den viktigste misforståelsen som må ryddes opp i. En systemprompt styrer modellens atferd i normaltilfellet, men den er ikke en beskyttelse i teknisk forstand. Den kan påvirkes av ondsinnede inndata, der noen bevisst formulerer et spørsmål for å få modellen til å se bort fra instruksene sine.
| Lag | Beskyttelse |
|---|---|
| Systemprompt | Styrer atferd, kan omgås |
| Tilgangsstyring | Avgjør hva tjenesten faktisk har lov til å gjøre |
| Filtrering av inn- og utdata | Fanger opp det som slipper gjennom |
Reell sikkerhet ligger i lagene rundt modellen: hva tjenesten i det hele tatt har rettigheter til å gjøre, hvordan inndata filtreres og hvordan utdata kontrolleres. Legg derfor aldri hemmeligheter i en systemprompt, og stol aldri på at den alene holder en ondsinnet bruker unna. Den er første forsvarslinje, ikke hele forsvaret.
Vanlige feil med systemprompten
Noen feller går igjen når virksomheter skriver sin første systemprompt.
- Å legge sensitiv informasjon i den. Passord, nøkler eller intern forretningslogikk hører ikke hjemme i en systemprompt fordi den kan avsløres. Hold den til rolle, tone og regler, ikke hemmeligheter.
- Å fylle den for full. En systemprompt med hundre regler blir vanskelig for modellen å følge konsekvent, og reglene kan begynne å motsi hverandre. Færre og tydeligere instrukser gir mer pålitelige svar.
- Å aldri endre den. Virkeligheten viser snart hvor modellen svarer feil. En systemprompt som blir stående urørt etter lanseringen, fanger det ikke opp, mens en som justeres når problemer dukker opp, gradvis blir bedre.
Den som unngår disse tre, får en systemprompt som gjør mer nytte og skaper færre overraskelser.
Hva det betyr for deg som kjøper
Når dere kjøper en AI-tjeneste, er systemprompten en av delene som former opplevelsen mest, og den er verdt å eie og forbedre over tid. Hos Weapp behandler vi den som en levende del av løsningen: Den versjoneres, testes og justeres når virkeligheten viser hvor modellen svarer feil.
Vil du forstå hvordan en tjeneste kan styres slik at den passer til tonen og grensene deres, kan du lese mer om AI-tjenestene våre eller ta kontakt med en beskrivelse av hva tjenesten skal gjøre.
Ofte stilte spørsmål
Hva er forskjellen på systemprompt og brukerprompt?
Systemprompten er den faste grunninstruksen du legger inn når du bygger tjenesten, og den gjelder for alle samtaler. Brukerprompten er det enkelte spørsmålet den besøkende skriver der og da. Systemprompten setter rammen, brukerprompten fyller den. Den besøkende ser normalt bare sitt eget spørsmål, ikke instruksen som ligger under.
Hva legger virksomheter i en systemprompt?
Ofte tre ting: en rolle og en tone som passer merkevaren, en liste over temaer tjenesten ikke skal gå inn på, og et ønsket svarformat. Det kan være «svar kort og saklig på norsk», «henvis medisinske spørsmål videre» eller «avslutt alltid med neste steg». Formålet er å gjøre svarene forutsigbare og i tråd med virksomheten.
Kan brukeren se systemprompten?
Normalt ikke. Den ligger bak kulissene og vises ikke i grensesnittet. Men den er ikke hemmelig i teknisk forstand. Med riktig formulerte spørsmål kan en bruker noen ganger få modellen til å avsløre eller omgå deler av den. Legg derfor aldri passord, nøkler eller sensitiv forretningslogikk i en systemprompt.
Holder en systemprompt som sikkerhetstiltak?
Nei. Den er en første forsvarslinje som styrer modellens atferd i normaltilfellet, men den kan påvirkes av ondsinnede inndata. Reell sikkerhet bygges i lagene rundt modellen: tilgangsstyring, filtrering av inn- og utdata og begrensning av hva tjenesten faktisk har lov til å gjøre. Systemprompten utfyller disse lagene, den erstatter dem ikke.
Hvor ofte endres en systemprompt?
Den justeres fortløpende etter hvert som tjenesten modnes. Når dere oppdager at modellen svarer feil i visse situasjoner, bommer på tonen eller tar opp noe den burde unngå, er systemprompten ofte det første dere justerer. Derfor bør den versjoneres og testes som enhver annen del av løsningen, ikke behandles som en engangstekst.