Vad är en LLM?

LLM står för large language model – stor språkmodell. Det är tekniken bakom verktyg som ChatGPT, och trots att den kan verka nästan magisk är grundidén begriplig utan matematik. En LLM är en modell som tränats på enorma textmängder för att förutsäga nästa ord, och som genom att bli riktigt bra på det kan resonera, sammanfatta och skriva. Här är vad det betyder i praktiken.

Grundprincipen utan matematik

Under all komplexitet gör en språkmodell egentligen en enda sak: den förutsäger nästa ord. Den har läst ofattbara mängder text och lärt sig mönstren för hur språk hänger ihop – vilket ord som sannolikt följer på vilket, givet allt som kommit innan.

Det låter enkelt, nästan för enkelt. Men när den förmågan blir tillräckligt skicklig uppstår något mer: modellen kan sammanfatta en lång text, resonera sig igenom ett problem, översätta eller skriva ett utkast. Förmågorna är en följd av att göra “nästa ord”-uppgiften extremt bra, över extremt mycket text. Man behöver inte förstå matematiken bakom för att använda resultatet – lika lite som man behöver förstå en förbränningsmotor för att köra bil.

Modell kontra produkt: GPT och ChatGPT

En av de nyttigaste distinktionerna att göra tidigt är skillnaden mellan modellen och produkten.

GPT är modellen. ChatGPT är en produkt byggd runt en sådan modell, med chattgränssnitt, säkerhetslager och en massa funktioner ovanpå. Samma modell kan driva flera olika produkter, och en produkt kan byta ut modellen under huven utan att användaren märker det. När man håller isär dessa två blir mycket i AI-diskussionen genast klarare – till exempel att “vi använder GPT” och “vi använder ChatGPT” inte är samma sak för ett företag.

Vad en LLM inte vet

Det är minst lika viktigt att förstå gränserna. En språkmodell har två tydliga blinda fläckar:

• Er interna data. Modellen har tränats på offentlig och licensierad text, inte på era dokument, kundregister eller affärssystem. Den kan inte känna till sådant den aldrig sett.
• Händelser efter träningen. Varje modell har ett kunskapsstopp – en tidpunkt då träningsdatan tog slut. Det som hänt därefter känner den inte till.

Det här är förklaringen till varför en modell ibland svarar självsäkert men fel om aktuella händelser eller om just ert företag. Den gissar utifrån mönster i stället för att säga “det vet jag inte”. För att ge modellen tillgång till era data eller aktuell information kopplar man den till externa källor, till exempel med tekniken RAG, som hämtar in relevant underlag vid varje fråga.

Så använder företag en LLM

I ett privat sammanhang möter de flesta en LLM genom en chatt. Företag använder den däremot oftast via API – ett gränssnitt där de egna systemen anropar modellen och bygger in den i en produkt eller ett arbetsflöde.

Skillnaden är viktig. Via API kan modellen matas med rätt kontext för varje uppgift, kopplas till interna data på ett kontrollerat sätt och sättas att lösa konkreta problem – klassificera ärenden, sammanfatta dokument, driva en kundtjänstlösning. I stället för en fristående chatt blir modellen en byggsten i systemen, med de säkerhets- och integrationskrav det innebär.

LLM, chatbot och AI-agent – hur de hänger ihop

LLM:en är motorn, men den möter er sällan i ren form. En chatbot är en LLM klädd i ett samtalsgränssnitt, ofta med tillgång till era dokument via RAG. En AI-agent är en LLM som dessutom fått verktyg och ett mål, så att den kan utföra saker och inte bara svara. Samma grundteknik, olika grad av självständighet och integration.

Att hålla isär motorn från det som byggs runt den gör inköpssamtalet klarare. “Vi vill använda en LLM” räcker inte som kravbild – frågan är vad ni vill att den ska göra, och därmed hur mycket som ska byggas ovanpå.

Varför det spelar roll för en svensk köpare

För dig som ska köpa in AI är två av modellens egenskaper särskilt viktiga att förstå. Den första är att modellen inte kan er interna data – det är därför nästan alla seriösa företagslösningar kombinerar en LLM med era egna källor i stället för att förlita sig på vad modellen “råkar veta”. Den andra är att modellen körs någonstans: när ni anropar den via API skickas er text till en leverantörs infrastruktur, och var den ligger avgör vilka dataskyddsfrågor som uppstår.

Det gör valet av LLM till mer än en teknisk detalj. Vilken modell, hos vilken leverantör och i vilken region – det påverkar både kvalitet och er förmåga att redovisa var uppgifter behandlas. En bra beställare frågar därför inte bara “vilken modell är bäst?” utan “var körs den, och vad skickas dit?”.

Att gå från “vi borde använda AI” till en fungerande LLM-lösning i era system är precis den resan vi hjälper till med. Vill du förstå hur en språkmodell skulle passa in hos er kan du läsa mer om våra AI-tjänster eller höra av dig med en beskrivning av vad ni vill uppnå.