Hva er en LLM?

LLM står for large language model, stor språkmodell. Det er teknologien bak verktøy som ChatGPT, og selv om den kan virke nesten magisk, er grunnideen forståelig uten matematikk. En LLM er en modell som er trent på enorme tekstmengder for å forutsi neste ord, og som ved å bli virkelig god på det kan resonnere, oppsummere og skrive. Her er hva det betyr i praksis.

Grunnprinsippet uten matematikk

Under all kompleksiteten gjør en språkmodell egentlig bare én ting: Den forutsier neste ord. Den har lest ufattelige mengder tekst og lært seg mønstrene for hvordan språk henger sammen, altså hvilket ord som sannsynligvis følger etter hvilket, gitt alt som har kommet før.

Det høres enkelt ut, nesten for enkelt. Men når den evnen blir god nok, oppstår noe mer: Modellen kan oppsummere en lang tekst, resonnere seg gjennom et problem, oversette eller skrive et utkast. Evnene er en følge av at modellen løser «neste ord»-oppgaven ekstremt godt, over ekstremt mye tekst. Man trenger ikke å forstå matematikken bak for å bruke resultatet, like lite som man trenger å forstå en forbrenningsmotor for å kjøre bil.

Modell kontra produkt: GPT og ChatGPT

Noe av det nyttigste du kan gjøre tidlig, er å skille mellom modellen og produktet.

GPT er modellen. ChatGPT er et produkt bygd rundt en slik modell, med chattegrensesnitt, sikkerhetslag og en rekke funksjoner oppå. Samme modell kan drive flere ulike produkter, og et produkt kan bytte ut modellen under panseret uten at brukeren merker det. Når man holder disse to fra hverandre, blir mye i AI-diskusjonen straks klarere, for eksempel at «vi bruker GPT» og «vi bruker ChatGPT» ikke er det samme for en virksomhet.

Hva en LLM ikke vet

Det er minst like viktig å forstå begrensningene. En språkmodell har to tydelige blinde flekker:

• De interne dataene deres. Modellen er trent på offentlig og lisensiert tekst, ikke på dokumentene, kunderegistrene eller forretningssystemene deres. Den kan ikke kjenne til noe den aldri har sett.
• Hendelser etter treningen. Hver modell har en kunnskapsgrense, et tidspunkt da treningsdataene tok slutt. Det som har skjedd etterpå, kjenner den ikke til.

Dette forklarer hvorfor en modell noen ganger svarer selvsikkert, men feil, om aktuelle hendelser eller om nettopp deres virksomhet. Den gjetter ut fra mønstre i stedet for å si «det vet jeg ikke». For å gi modellen tilgang til dataene deres eller til oppdatert informasjon kobler man den til eksterne kilder, for eksempel med teknikken RAG, som henter inn relevant grunnlag ved hvert spørsmål.

Slik bruker virksomheter en LLM

I privat sammenheng møter de fleste en LLM gjennom en chat. Virksomheter bruker den derimot oftest via API, et grensesnitt der virksomhetens egne systemer kaller opp modellen og bygger den inn i et produkt eller en arbeidsflyt.

Forskjellen er viktig. Via API kan modellen få riktig kontekst for hver oppgave, kobles til interne data på en kontrollert måte og settes til å løse konkrete problemer: klassifisere henvendelser, oppsummere dokumenter, drive en kundeserviceløsning. I stedet for en frittstående chat blir modellen en byggestein i systemene, med de sikkerhets- og integrasjonskravene det innebærer.

LLM, chatbot og AI-agent: Slik henger de sammen

LLM-en er motoren, men den møter dere sjelden i ren form. En chatbot er en LLM kledd i et samtalegrensesnitt, ofte med tilgang til dokumentene deres via RAG. En AI-agent er en LLM som i tillegg har fått verktøy og et mål slik at den kan utføre handlinger og ikke bare svare. Samme grunnteknologi, ulik grad av selvstendighet og integrasjon.

Å holde motoren atskilt fra det som bygges rundt den, gjør innkjøpssamtalen klarere. «Vi vil bruke en LLM» holder ikke som kravbeskrivelse. Spørsmålet er hva dere vil at den skal gjøre, og dermed hvor mye som må bygges oppå.

Hvorfor det betyr noe for en kjøper

For deg som skal kjøpe inn AI, er to av modellens egenskaper særlig viktige å forstå. Den første er at modellen ikke kjenner de interne dataene deres. Det er derfor nesten alle seriøse virksomhetsløsninger kombinerer en LLM med virksomhetens egne kilder i stedet for å stole på det modellen «tilfeldigvis vet». Den andre er at modellen kjører et sted: Når dere kaller den via API, sendes teksten deres til en leverandørs infrastruktur, og hvor den står, avgjør hvilke personvernspørsmål som oppstår.

Det gjør valget av LLM til mer enn en teknisk detalj. Hvilken modell, hos hvilken leverandør og i hvilken region: Alt dette påvirker både kvaliteten og evnen deres til å gjøre rede for hvor opplysningene behandles. En god innkjøper spør derfor ikke bare «hvilken modell er best?», men «hvor kjører den, og hva sendes dit?»

Å gå fra «vi burde bruke AI» til en fungerende LLM-løsning i systemene deres er nettopp den reisen vi hjelper til med. Vil du forstå hvordan en språkmodell kan passe inn hos dere, kan du lese mer om AI-tjenestene våre eller ta kontakt med en beskrivelse av hva dere vil oppnå.