Hvad er fine-tuning?

Fine-tuning, eller finjustering, er at tage en allerede færdigtrænet AI-model og træne den videre på dine egne eksempler. Målet er at den skal lære noget specifikt: en bestemt tone, et fast svarformat eller sproget i din branche. Det lyder kraftfuldt, og det er det. Men det er også ofte det første man tror man har brug for, og sjældent det man faktisk har brug for.

Hvad fine-tuning ændrer

Den bedste måde at forstå fine-tuning på er at se hvad den påvirker: modellens adfærd. Ved at vise modellen mange eksempler på hvordan et godt svar ser ud netop i jeres sammenhæng, kan den lære at svare mere konsekvent i den rigtige tone, holde et fast format eller bruge jeres fagtermer korrekt.

Et eksempel: En virksomhed vil have at alle svar fra en kundeserviceassistent har en bestemt venlig, men kortfattet stil og altid følger samme struktur. Det er præcis den slags adfærd fine-tuning kan bage ind så modellen rammer den rigtige stil uden at man behøver at instruere den om det i hver eneste prompt.

Hvad det ikke løser

Her kommer den vigtigste afgrænsning, og den der sparer mange virksomheder for at gå den forkerte vej. Fine-tuning ændrer hvordan modellen svarer, ikke hvad den ved om aktuelle fakta.

At forsøge at træne viden ind i modellen har to problemer. Det ene er holdbarhed: Så snart fakta ændrer sig, er den indtrænede viden forældet, og at træne om er besværligt og dyrt. Det andet er pålidelighed: Indtrænede fakta fjerner ikke risikoen for at modellen alligevel opdigter svar. Til viden der skal være korrekt, aktuel og kunne spores til en kilde, er RAG det rigtige værktøj, altså teknikken hvor modellen henter relevante dokumenter ved hvert spørgsmål og svarer ud fra dem. Tommelfingerreglen er enkel: fine-tuning til adfærd, RAG til fakta.

Hvad det kræver

Hvis I alligevel har et tydeligt behov for fine-tuning, hvad koster det så i praksis? Frem for alt data af den rigtige slags. Regn med typisk hundredvis til tusindvis af eksempler af høj kvalitet, hvor hvert eksempel viser præcis den adfærd I vil opnå.

Kvaliteten vejer tungere end mængden. Et mindre antal omhyggeligt udvalgte og konsekvente eksempler giver bedre resultater end en stor, men uensartet samling. Modstridende eller sjuskede eksempler lærer modellen de forkerte ting. I praksis er det arbejdet med at udarbejde og kvalitetssikre grundlaget der er tungt, ofte tungere end selve træningstrinnet, som i dag er relativt tilgængeligt rent teknisk.

De fleste klarer sig langt uden

Det er værd at sige lige ud: De fleste virksomheder har aldrig brug for at finjustere en model. Med gennemtænkte prompts og RAG på egne dokumenter kommer man overraskende langt, hurtigere og billigere, og med en løsning der er let at opdatere når noget ændrer sig.

Fine-tuning bliver først relevant når I har et tilbagevendende, veldefineret behov for en bestemt tone eller et format som virkelig ikke kan opnås på anden måde. Start derfor enklere, mål om resultatet er godt nok, og tilføj først finjustering hvis behovet består.

Fine-tuning over for bare at instruere modellen

Før man tager skridtet til fine-tuning, er det værd at afprøve et enklere alternativ: simpelthen at instruere modellen godt. Ofte kan man beskrive den ønskede tone og det ønskede format tydeligt i selve prompten sammen med et par eksempler og få næsten samme resultat uden nogen træning overhovedet.

Forskellen i indsats er stor. At omformulere en instruktion tager minutter og kan ændres når som helst. At finjustere kræver at I indsamler data, træner og derefter træner om hver gang behovet ændrer sig. En fornuftig rækkefølge er derfor: Start med en tydelig instruktion, tilføj eksempler i prompten hvis det er nødvendigt, og overvej først fine-tuning når I opdager at modellen trods det ikke holder stilen konsekvent nok over mange kald. For de fleste rækker de to første trin længere end man tror. Vil du have hjælp til at afgøre hvilken vej der passer til jer, kan du læse mere om vores arbejde med AI eller kontakte os for en snak.