Hva er en chatbot?

En chatbot er et program som fører en samtale med mennesker, i tekst eller tale, og enten svarer på spørsmål eller utfører en oppgave. Begrepet rommer alt fra den enkle knappemenyen i hjørnet av en nettside til avanserte assistenter som forstår fritt formulerte spørsmål. Forskjellen mellom de to er stor, og det er den forskjellen som avgjør hva en bot faktisk klarer.

Hvordan en regelbasert bot fungerer

Den klassiske chatboten følger en forhåndsbestemt flyt. Utvikleren har bygd et tre av spørsmål og svar: Brukeren klikker på «Spor ordre», boten svarer med neste steg, og så videre. Noen varianter reagerer på nøkkelord i stedet for knapper, men prinsippet er det samme. Alt boten kan si, er skrevet på forhånd.

Det gjør boten forutsigbar, og det er en styrke. Den sier aldri noe upassende og gjør nøyaktig det den er bygd for. Men nettopp det er også begrensningen. Stiller brukeren et spørsmål som ligger utenfor treet, eller formulerer seg på en måte utvikleren ikke har forutsett, mister boten tråden. Den oppleves som stiv, og brukeren havner fort i en blindgate med «det forstod jeg ikke, velg et alternativ nedenfor».

For hvert nytt tilfelle noen vil håndtere, må flyten bygges ut for hånd. Akkurat som med gamle regelstyrte systemer blir det et lappeteppe som aldri føles ferdig.

Hva LLM-teknologien endret

Store språkmodeller endret hva en chatbot kan være. I stedet for en fast flyt sitter det nå en modell som er trent på enorme mengder tekst, og som kan tolke og skape språk. Tre ting endret seg i praksis.

• Fritekst. Brukeren trenger ikke lenger å gjette riktig nøkkelord eller følge en meny. Spørsmålet kan stilles hvordan som helst, med skrivefeil og omveier, og boten forstår likevel hensikten.
• Kontekst. En moderne bot husker hva som er sagt tidligere i samtalen. Du kan stille et oppfølgingsspørsmål som «og den andre, da?», og boten vet hva du sikter til, uten at du gjentar deg selv.
• Tone. Svarene er formulert i naturlig språk, tilpasset spørsmålet, i stedet for ferdigskrevne standardreplikker. Samtalen føles som en samtale.

Den fleksibiliteten kommer med et ansvar. En LLM-bot kan formulere svar den ikke burde, og derfor må den avgrenses, kobles til riktige kilder og følges opp basert på ekte samtaler. Det er arbeid, men det er arbeidet som gjør en bot nyttig snarere enn bare imponerende.

Når en enkel regelbot faktisk holder

Alt trenger ikke å være AI. Handler det om et lite, stabilt antall spørsmål med gitte svar, er en regelstyrt bot ofte både billigere og tryggere. Åpningstider, hvor lageret ligger, hvordan man tilbakestiller passordet sitt: Slikt endres sjelden og har ett riktig svar. Da er en enkel flyt med noen knappevalg helt tilstrekkelig, og du slipper både kostnaden og risikoen som en språkmodell fører med seg.

Tommelfingerregelen er å la problemet styre teknologien. Er spørsmålene få og forutsigbare, hold boten enkel. Er de mange, åpne og formulert på tusen forskjellige måter, er det der en språkmodell utgjør en reell forskjell. Det er også fullt mulig å begynne enkelt og bygge ut senere. Mange innfører en regelstyrt bot først, ser hvilke spørsmål som faktisk kommer inn, og legger til en AI-drevet del når mønsteret viser at den trengs.

Et konkret eksempel

Et selskap med stor pågang i kundeservice får hundrevis av spørsmål om dagen. Noen er enkle og går igjen, andre er komplekse saker knyttet til en bestemt kunde. En fornuftig løsning kombinerer begge verdener: En enkel del håndterer standardspørsmålene direkte, mens en AI-drevet del koblet til kundesystemet tar de åpne spørsmålene, henter riktig ordrestatus og sender saken videre til et menneske når det trengs. Vil dere se hvordan et slikt opplegg kan bygges og settes i drift hos dere, kan tjenestene våre innen AI hjelpe dere fra idé til ferdig løsning i drift og forvaltning.