Hva er fine-tuning?

Fine-tuning, eller finjustering, er å ta en ferdigtrent AI-modell og trene den videre på dine egne eksempler. Målet er at den skal lære noe bestemt: en viss tone, et fast svarformat eller språket i bransjen din. Det høres kraftfullt ut, og det er det. Men det er også ofte det første man tror man trenger, og sjelden det man faktisk trenger.

Hva fine-tuning endrer

Den beste måten å forstå fine-tuning på er å se hva den påvirker: modellens atferd. Ved å vise modellen mange eksempler på hvordan et godt svar ser ut i akkurat deres sammenheng, kan den læres opp til å svare mer konsekvent i riktig tone, holde et fast format eller bruke fagtermene deres riktig.

Et eksempel: Et selskap vil at alle svar fra en kundeserviceassistent skal ha en bestemt vennlig, men konsis stil, og alltid følge samme struktur. Det er nettopp den typen atferd fine-tuning kan bake inn slik at modellen treffer riktig stil uten at man må instruere den om det i hver enkelt prompt.

Hva det ikke løser

Her kommer den viktigste avgrensningen, og den som sparer mange virksomheter for å velge feil vei. Fine-tuning endrer hvordan modellen svarer, ikke hva den vet om aktuelle fakta.

Å prøve å trene kunnskap inn i modellen har to problemer. Det ene er ferskvare: Så snart fakta endres, er den innlærte kunnskapen utdatert, og å trene om er tungvint og kostbart. Det andre er pålitelighet: Innlærte fakta fjerner ikke risikoen for at modellen likevel dikter opp ting. For kunnskap som skal være korrekt, oppdatert og sporbar til en kilde, er RAG riktig verktøy. Det er teknikken der modellen henter relevante dokumenter ved hvert spørsmål og svarer ut fra dem. Tommelfingerregelen er enkel: fine-tuning for atferd, RAG for fakta.

Hva som kreves

Hvis dere likevel har et tydelig behov for fine-tuning, hva koster det i praksis? Først og fremst data av riktig slag. Regn med typisk hundrevis til tusenvis av eksempler av høy kvalitet, der hvert eksempel viser nøyaktig den atferden dere vil oppnå.

Kvaliteten veier tyngre enn mengden. Et mindre antall nøye utvalgte og konsekvente eksempler gir bedre resultater enn en stor, men sprikende samling. Motstridende eller slurvete eksempler lærer modellen feil ting. I praksis er det arbeidet med å lage og kvalitetssikre grunnlaget som er tungt, ofte tyngre enn selve treningssteget, som i dag er relativt tilgjengelig teknisk.

De fleste kommer langt uten

Dette er verdt å si rett ut: De fleste virksomheter trenger aldri å finjustere en modell. Med gjennomtenkte prompter og RAG mot egne dokumenter kommer man overraskende langt, raskere og billigere, og med en løsning som er lett å oppdatere når noe endrer seg.

Fine-tuning blir først aktuelt når dere har et tilbakevendende, veldefinert behov for en bestemt tone eller et format som virkelig ikke lar seg oppnå på annen måte. Start derfor enklere, mål om resultatet er godt nok, og legg til finjustering bare hvis behovet fortsatt er der.

Fine-tuning kontra å bare instruere modellen

Før man tar steget til fine-tuning, er det verdt å prøve et enklere alternativ: rett og slett å instruere modellen godt. Ofte kan du beskrive ønsket tone og format tydelig i selve prompten, sammen med et par eksempler, og få nesten samme resultat uten noen trening i det hele tatt.

Forskjellen i innsats er stor. En instruksjon omformulerer du på noen minutter, og den kan endres når som helst. Å finjustere krever at dere samler inn data, trener og så trener på nytt hver gang behovet endrer seg. En fornuftig rekkefølge er derfor: Start med en tydelig instruksjon, legg til eksempler i prompten om nødvendig, og vurder fine-tuning først når dere merker at modellen likevel ikke holder stilen konsekvent nok over mange kall. De fleste kommer lenger med de to første stegene enn de tror. Vil du ha hjelp til å avgjøre hvilken vei som passer dere, kan du lese mer om arbeidet vårt med AI eller ta kontakt for en prat.