Hvad er træningsdata?

Træningsdata er det eksempelmateriale en AI-model lærer mønstre af. Modellen “forstår” ikke noget i menneskelig forstand: Den opdager mønstre i det den er blevet fodret med, og gengiver dem. Derfor sætter datakvaliteten loftet for modellen. Lærer den af skævt eller mangelfuldt materiale, bliver svarene også skæve og mangelfulde.

Det gør træningsdata til en af de mest afgørende dele af en AI-løsning og samtidig en af de mest undervurderede. Det er let at fokusere på modellen og glemme at det er materialet den har lært af, der former hvad den kan.

Fortræning kontra virksomhedens egne eksempler

Der findes to helt forskellige skalaer af træning, og de bliver ofte blandet sammen.

Den første er fortræning. Her lærer modellen af enorme mængder generel tekst, ofte store dele af det der er offentligt tilgængeligt på nettet. Det giver den brede sproglige evner og generel viden: evnen til at skrive, ræsonnere og forstå sammenhænge. Det er et tungt og dyrt trin som udføres af dem der bygger grundmodellerne.

Den anden er finjustering på virksomhedens egne eksempler. Det er et langt mindre trin hvor en allerede trænet model trænes videre på et specifikt, udvalgt materiale for at blive styret mod en bestemt opgave eller tone. Her er det jeres data der former modellen efter netop jeres behov. Fortræningen bygger fundamentet; finjusteringen tilpasser det.

Skidt ind, skidt ud

Det vigtigste princip for træningsdata er gammelt, men stadig sandt: En model bliver aldrig bedre end de data den lærer af. Fodrer I den med rodet, forældet eller modstridende materiale, lærer modellen netop det og gengiver det i sine svar.

Et eksempel fra erhvervslivet gør det konkret. Lad os sige at I vil finjustere en model til at svare som jeres kundeservice. I træner den på flere års gemte svar. Men hvis de svar er inkonsekvente (forskellige medarbejdere har sagt forskellige ting, nogle er forældede og nogle direkte forkerte), så lærer modellen det rod. Resultatet bliver en model der selvsikkert giver gamle, modstridende svar. Ikke fordi teknologien er dårlig, men fordi materialet var det.

Konklusionen er enkel, men ofte ubekvem: Meget af arbejdet i et træningsprojekt ligger i at rydde op i, udvælge og kvalitetssikre data, ikke i selve træningen.

Mængde kontra kvalitet

Det er fristende at tro at flere data altid er bedre. I praksis hjælper mængde kun hvis kvaliteten er i orden.

Et mindre sæt rene, relevante og velvalgte data slår ofte en stor mængde rodet materiale. Ved finjustering er det vigtigere at eksemplerne er repræsentative og korrekte, end at de er mange. Kvalitet frem for kvantitet er et fornuftigt udgangspunkt.

Skæve data indebærer også en risiko der er værd at nævne. Afspejler materialet kun en del af virkeligheden, lærer modellen den skævhed. Træner I en model på eksempler der tilfældigvis mangler visse tilfælde, vil den præstere dårligere netop dér. At materialet er repræsentativt, altså at det dækker de situationer modellen faktisk skal håndtere, er derfor lige så vigtigt som at det er korrekt. En model bliver god til det den har set meget af, og usikker på resten.

Rettighederne til dataene

Ét spørgsmål bliver let glemt i begejstringen: Må I faktisk træne på de data I har tænkt jer at bruge? Personoplysninger, kundedata og materiale I har licenseret fra andre, kan have begrænsninger for hvordan de må bruges. At afklare det før træningen går i gang, er langt enklere end at opdage et problem når modellen allerede er bygget.

Det er også værd at skelne mellem træningsdata og det materiale en RAG-løsning henter. Træningsdata bages ind i modellen og sidder derefter fast; at opdatere dem kræver ny træning. RAG henter i stedet dokumenter ved hvert spørgsmål uden at røre modellen, hvilket gør viden let at skifte ud. For materiale der ændres ofte, er det tit en fordel slet ikke at træne det ind, men at hente det efter behov. Hvilken vej der passer, afhænger af hvor ofte materialet ændres og hvor meget I har brug for at kunne spore svarene til en kilde.

Træningsdata er altså ikke kun et teknisk spørgsmål, men lige så meget et spørgsmål om kvalitet og rettigheder. Vil du drøfte hvilket materiale der skulle til for en AI-løsning hos jer, kan du læse mere om vores AI-ydelser eller kontakte os med en beskrivelse af hvad modellen skal kunne.