Hvad er en chatbot?

En chatbot er et program der fører en samtale med mennesker, i tekst eller tale, og enten svarer på spørgsmål eller udfører en opgave. Begrebet rummer alt fra den enkle knapmenu i hjørnet af en hjemmeside til avancerede assistenter der forstår frit formulerede spørgsmål. Forskellen mellem de to er stor, og det er den forskel der afgør hvad en bot faktisk kan klare.

Sådan fungerer en regelbaseret bot

Den klassiske chatbot følger et forudbestemt flow. Udvikleren har bygget et træ af spørgsmål og svar: Brugeren klikker på “Spor ordre”, botten svarer med næste skridt, og så videre. Nogle varianter reagerer på nøgleord i stedet for knapper, men princippet er det samme. Alt hvad botten kan sige, er skrevet på forhånd.

Det gør botten forudsigelig, og det er en styrke. Den siger aldrig noget upassende og gør præcis det den er bygget til. Men det samme er også dens begrænsning. Stiller brugeren et spørgsmål der ligger uden for træet, eller formulerer sig på en måde udvikleren ikke har forudset, taber botten tråden. Den opleves som stiv, og brugeren havner hurtigt i en blindgyde med “Det forstod jeg ikke, vælg en mulighed nedenfor”.

For hvert nyt tilfælde nogen vil håndtere, skal flowet udbygges manuelt. Præcis som med gamle regelstyrede systemer bliver det et kludetæppe der aldrig føles færdigt.

Hvad LLM-teknologien ændrede

Store sprogmodeller ændrede hvad en chatbot kan være. I stedet for et fast flowtræ sidder der nu en model der er trænet på enorme mængder tekst, og som kan tolke og skabe sprog. Tre ting ændrede sig i praksis.

• Fritekst. Brugeren behøver ikke længere at gætte de rigtige nøgleord eller følge en menu. Spørgsmålet kan stilles på alle måder, med stavefejl og omveje, og botten forstår alligevel hensigten.
• Kontekst. En moderne bot husker hvad der er blevet sagt tidligere i samtalen. Du kan stille et opfølgende spørgsmål som “Og hvad med den anden?”, og botten ved hvad du mener uden at du gentager dig selv.
• Tone. Svarene er formuleret i naturligt sprog, tilpasset spørgsmålet, i stedet for forhåndsskrevne standardreplikker. Samtalen føles som en samtale.

Med den fleksibilitet følger et ansvar. En LLM-bot kan formulere svar den ikke burde, og derfor skal den afgrænses, kobles til de rette kilder og følges op ud fra rigtige samtaler. Det er arbejde, men det er det arbejde der gør en bot brugbar snarere end bare imponerende.

Når en enkel regelbot faktisk er nok

Ikke alt behøver at være AI. Drejer det sig om et lille, stabilt antal spørgsmål med givne svar, er en regelstyret bot ofte både billigere og sikrere. Åbningstider, hvor lageret ligger, hvordan man nulstiller sin adgangskode: Den slags ændrer sig sjældent og har ét rigtigt svar. Så er et enkelt flow med nogle knapvalg helt tilstrækkeligt, og du slipper for både den omkostning og den risiko en sprogmodel fører med sig.

Tommelfingerreglen er at lade problemet styre teknologien. Er spørgsmålene få og forudsigelige, så hold botten enkel. Er de mange, åbne og formuleret på tusind forskellige måder, er det dér en sprogmodel gør en reel forskel. Det er også fuldt ud muligt at starte enkelt og udbygge senere. Mange indfører først en regelstyret bot, ser hvilke spørgsmål der faktisk kommer ind, og tilføjer en AI-drevet del når mønstret viser at der er brug for den.

Et konkret eksempel

En virksomhed med en travl kundeservice får hundredvis af spørgsmål om dagen. Nogle er enkle og tilbagevendende, andre er komplekse sager knyttet til en bestemt kunde. En fornuftig løsning kombinerer begge verdener: En enkel del håndterer standardspørgsmålene direkte. En AI-drevet del koblet til kundesystemet tager de åbne spørgsmål, henter den rigtige ordrestatus og sender sagen videre til et menneske når der er brug for det. Vil du se hvordan sådan en opsætning kan bygges og sættes i drift hos jer, hjælper vi med vores AI-ydelser fra idé til en løsning der er i drift og bliver vedligeholdt.