Vad är finetuning?

Finetuning, eller finjustering, är att ta en redan färdigtränad AI-modell och träna den vidare på dina egna exempel. Målet är att den ska lära sig något specifikt: en viss ton, ett bestämt svarsformat eller språket i din bransch. Det låter kraftfullt, och det är det – men det är också ofta det första man tror att man behöver och sällan det man faktiskt behöver.

Vad finetuning ändrar

Det bästa sättet att förstå finetuning är att se vad den påverkar: modellens beteende. Genom att visa modellen många exempel på hur ett bra svar ser ut i just ert sammanhang kan den läras att svara mer konsekvent i rätt ton, hålla ett bestämt format eller använda era facktermer korrekt.

Ett exempel: ett bolag vill att alla svar från en kundtjänstassistent ska ha en viss vänlig men koncis stil, och alltid följa samma struktur. Det är precis den sortens beteende finetuning kan baka in, så att modellen träffar rätt stil utan att man behöver instruera den om det i varje enskild prompt.

Vad det inte löser

Här kommer den viktigaste avgränsningen, och den som sparar många företag från fel väg. Finetuning ändrar hur modellen svarar – inte vad den vet om aktuella fakta.

Att försöka träna in kunskap i modellen har två problem. Det ena är färskvara: så fort fakta ändras är den intränade kunskapen inaktuell, och att träna om är trögt och kostsamt. Det andra är tillförlitlighet: intränade fakta tar inte bort risken att modellen ändå hittar på. För kunskap som ska vara korrekt, aktuell och spårbar till en källa är RAG rätt verktyg – tekniken där modellen hämtar relevanta dokument vid varje fråga och svarar utifrån dem. Tumregeln är enkel: finetuning för beteende, RAG för fakta.

Vad som krävs

Om ni ändå har ett tydligt behov av finetuning, vad kostar det i praktiken? Framför allt data av rätt sort. Räkna med typiskt hundratals till tusentals exempel av hög kvalitet, där varje exempel visar precis det beteende ni vill uppnå.

Kvaliteten väger tyngre än mängden. Ett mindre antal noggrant utvalda och konsekventa exempel ger bättre resultat än en stor men spretig samling. Motsägelsefulla eller slarviga exempel lär modellen fel saker. I praktiken är det arbetet med att ta fram och kvalitetssäkra underlaget som är tungt – ofta tyngre än själva träningssteget, som numera är relativt tillgängligt tekniskt.

De flesta klarar sig långt utan

Det här är värt att säga rakt ut: de flesta företag behöver aldrig finjustera en modell. Med genomtänkta prompter och RAG mot egna dokument kommer man förvånansvärt långt, snabbare och billigare, och med en lösning som är lätt att uppdatera när något ändras.

Finetuning blir motiverat först när ni har ett återkommande, väldefinierat behov av en viss ton eller ett format som verkligen inte går att få fram på annat sätt. Börja därför enklare, mät om resultatet räcker, och lägg till finjustering först om behovet står kvar.

Finetuning kontra att bara instruera modellen

Innan man tar steget till finetuning är det värt att pröva ett enklare alternativ: att helt enkelt instruera modellen väl. Ofta går det att beskriva önskad ton och format tydligt i själva prompten, tillsammans med ett par exempel, och få nästan samma resultat utan någon träning alls.

Skillnaden i insats är stor. Att formulera om en instruktion tar minuter och kan ändras när som helst. Att finjustera kräver att ni samlar in data, tränar och sedan tränar om varje gång behovet ändras. Rimlig ordning är därför: börja med en tydlig instruktion, lägg till exempel i prompten om det behövs, och överväg finetuning först när ni märker att modellen trots det inte håller stilen konsekvent nog över många anrop. För de flesta räcker de två första stegen längre än man tror. Vill du ha hjälp att avgöra vilken väg som passar er, läs mer om vårt arbete med AI eller hör av dig för ett samtal.