Hvad er en LLM?

LLM står for large language model, stor sprogmodel. Det er teknologien bag værktøjer som ChatGPT, og selvom den kan virke næsten magisk, er grundidéen til at forstå uden matematik. En LLM er en model der er trænet på enorme tekstmængder til at forudsige næste ord, og som ved at blive rigtig god til det kan ræsonnere, opsummere og skrive. Her er hvad det betyder i praksis.

Grundprincippet uden matematik

Under al kompleksiteten gør en sprogmodel egentlig kun én ting: Den forudsiger næste ord. Den har læst ufattelige mængder tekst og lært mønstrene for hvordan sprog hænger sammen, altså hvilket ord der sandsynligvis følger efter hvilket, givet alt det der er kommet før.

Det lyder enkelt, næsten for enkelt. Men når den evne bliver god nok, opstår der noget mere: Modellen kan opsummere en lang tekst, ræsonnere sig gennem et problem, oversætte eller skrive et udkast. Evnerne er en følge af at løse “næste ord”-opgaven ekstremt godt, på ekstremt meget tekst. Man behøver ikke at forstå matematikken bag for at bruge resultatet, lige så lidt som man behøver at forstå en forbrændingsmotor for at køre bil.

Model over for produkt: GPT og ChatGPT

En af de mest nyttige sondringer at få på plads tidligt er forskellen mellem modellen og produktet.

GPT er modellen. ChatGPT er et produkt bygget omkring sådan en model, med chatbrugerflade, sikkerhedslag og en masse funktioner ovenpå. Den samme model kan drive flere forskellige produkter, og et produkt kan skifte modellen ud under motorhjelmen uden at brugeren mærker det. Når man holder de to adskilt, bliver meget i AI-diskussionen straks klarere, f.eks. at “vi bruger GPT” og “vi bruger ChatGPT” ikke er det samme for en virksomhed.

Hvad en LLM ikke ved

Det er mindst lige så vigtigt at forstå begrænsningerne. En sprogmodel har to tydelige blinde vinkler:

• Jeres interne data. Modellen er trænet på offentlig og licenseret tekst, ikke på jeres dokumenter, kunderegistre eller ERP-systemer. Den kan ikke kende til noget den aldrig har set.
• Begivenheder efter træningen. Hver model har et knowledge cutoff, et tidspunkt hvor træningsdataene slutter. Det der er sket siden, kender den ikke til.

Det er forklaringen på at en model nogle gange svarer selvsikkert, men forkert, om aktuelle begivenheder eller om netop jeres virksomhed. Den gætter ud fra mønstre i stedet for at sige “det ved jeg ikke”. For at give modellen adgang til jeres data eller aktuel information kobler man den til eksterne kilder, f.eks. med teknikken RAG, der henter relevant materiale ind ved hvert spørgsmål.

Sådan bruger virksomheder en LLM

I privat sammenhæng møder de fleste en LLM gennem en chat. Virksomheder bruger den derimod oftest via API, en grænseflade hvor virksomhedens egne systemer kalder modellen og bygger den ind i et produkt eller en arbejdsgang.

Forskellen er vigtig. Via API kan modellen fodres med den rette kontekst til hver opgave, kobles til interne data på en kontrolleret måde og sættes til at løse konkrete problemer: klassificere sager, opsummere dokumenter, drive en kundeserviceløsning. I stedet for en selvstændig chat bliver modellen en byggesten i systemerne, med de krav til sikkerhed og integration det indebærer.

LLM, chatbot og AI-agent: Sådan hænger de sammen

LLM’en er motoren, men I møder den sjældent i ren form. En chatbot er en LLM iklædt en samtalebrugerflade, ofte med adgang til jeres dokumenter via RAG. En AI-agent er en LLM som desuden har fået værktøjer og et mål så den kan udføre ting og ikke bare svare. Samme grundteknologi, forskellig grad af selvstændighed og integration.

At holde motoren adskilt fra det der bygges omkring den, gør indkøbssamtalen klarere. “Vi vil bruge en LLM” er ikke nok som krav. Spørgsmålet er hvad I vil have den til at gøre og dermed hvor meget der skal bygges ovenpå.

Hvorfor det betyder noget for en køber

For dig der skal købe AI ind, er to af modellens egenskaber særligt vigtige at forstå. Den første er at modellen ikke kender jeres interne data. Derfor kombinerer næsten alle seriøse virksomhedsløsninger en LLM med jeres egne kilder i stedet for at stole på hvad modellen “tilfældigvis ved”. Den anden er at modellen kører et sted: Når I kalder den via API, sendes jeres tekst til en leverandørs infrastruktur, og hvor den ligger, afgør hvilke databeskyttelsesspørgsmål der opstår.

Det gør valget af LLM til mere end en teknisk detalje. Hvilken model, hos hvilken leverandør og i hvilken region: Det påvirker både kvaliteten og jeres evne til at redegøre for hvor oplysninger behandles. En god kunde spørger derfor ikke kun “hvilken model er bedst?”, men “hvor kører den, og hvad sendes derhen?”.

At gå fra “vi burde bruge AI” til en fungerende LLM-løsning i jeres systemer er netop den rejse vi hjælper med. Vil du forstå hvordan en sprogmodel kan passe ind hos jer, kan du læse mere om vores AI-ydelser eller kontakte os med en beskrivelse af hvad I vil opnå.