Hvad er embedding?

En embedding er et af de begreber der lyder mere kompliceret end det er. Grundlæggende er det en måde at omsætte tekst til en liste med tal på så betydningen følger med. Det gør det muligt for en computer at sammenligne hvad tekster faktisk handler om, ikke bare hvilke bogstaver de indeholder, og det er motoren bag moderne søgning og RAG.

Betydning som tal

Forestil dig at hvert tekststykke får tilknyttet en lang liste med tal, en såkaldt vektor. Tallene er valgt så de fanger tekstens betydning. Det centrale er hvad der sker når man sammenligner to sådanne lister: Tekster der betyder omtrent det samme, får vektorer der ligger tæt på hinanden mens tekster om helt forskellige ting havner langt fra hinanden.

Et intuitivt eksempel gør det tydeligt. Ordene “faktura” og “regning” havner tæt på hinanden fordi de betyder næsten det samme. “Faktura” og “ferie” havner langt fra hinanden fordi de handler om vidt forskellige ting. Computeren forstår ikke ordene som et menneske gør, men afstanden mellem vektorerne bliver et mål for hvor ens betydningerne er.

Det er hele grundidéen: betydning oversat til tal, hvor nærhed betyder lighed. Man behøver ikke at forstå hvordan tallene regnes ud, for at forstå hvad de bruges til.

Hvad embeddings bruges til

Når tekst først kan sammenlignes på betydning, åbner der sig flere anvendelsesmuligheder. Tre er særligt almindelige:

Semantisk søgning er måske det tydeligste eksempel. En almindelig søgning kræver at brugeren gætter de rigtige ord; en søgning bygget på embeddings finder det rigtige også når dokumentet udtrykker det samme med andre ord. Det er forskellen på at lede efter præcise bogstaver og at lede efter betydning.

RAG bygger direkte på dette. Når en sprogmodel skal svare ud fra jeres egne dokumenter, bruges embeddings til at finde netop de tekststykker der er relevante for spørgsmålet så modellen får det rigtige grundlag serveret. Endelig gør dubletdetektion det muligt at finde poster der i virkeligheden handler om det samme selvom de er formuleret forskelligt. Det er nyttigt når der skal ryddes op i registre og vidensbaser.

Forholdet til vektordatabaser

Et naturligt opfølgende spørgsmål er hvor alle disse vektorer bliver af. Svaret er som regel en vektordatabase: en database bygget til at gemme embeddings og hurtigt finde de vektorer der ligger tættest på et givet spørgsmål. I laver embeddings af jeres dokumenter, lægger dem i vektordatabasen, og den klarer derefter selve lighedssøgningen effektivt, også når der er tusindvis af dokumenter.

For en beslutningstager er det nok at forstå kæden: Tekst bliver til embeddings, embeddings gemmes i en vektordatabase, og tilsammen gør de det muligt at søge og ræsonnere ud fra betydning. Det er fundamentet under de fleste løsninger hvor AI skal arbejde med jeres egne tekster.

Sådan laves embeddings, og et vigtigt forbehold

Selve omsætningen klares af en embedding-model, en særlig AI-model der udelukkende er trænet til at oversætte tekst til vektorer. I sender et tekststykke ind og får dets vektor tilbage. Det er en hurtig og relativt billig operation sammenlignet med at lade en stor sprogmodel generere tekst, og det er en af grundene til at semantisk søgning skalerer godt, også til store mængder dokumenter.

Et forbehold er værd at nævne. Embeddings fanger betydning påfaldende godt, men de forstår ikke alt: Ironi, meget specifik fagterminologi eller nuancer der kræver baggrundsviden, kan gå tabt. Kvaliteten afhænger også af hvilken embedding-model der bruges og hvor godt den passer til jeres sprog og jeres domæne. Både for sproget og for branchespecifikke begreber er det værd at teste på virkelige eksempler snarere end at gå ud fra at en hvilken som helst model er god nok. Vil du vide hvordan det kan bruges hos jer, kan du læse mere om vores arbejde med AI eller kontakte os.