Llama vs. Mistral: Hvilken skal I self-hoste?
Llama og Mistral er de to førende åbne modelfamilier til self-hosting. De adskiller sig på licensvilkår, størrelsesklasser og økosystem, og Mistral har desuden et europæisk hjemsted der kan veje i en diskussion om suverænitet. Valget afhænger af jeres krav til licensen, jeres hardware og hvordan I har tænkt jer at fine-tune.
Når valget er faldet på at self-hoste en åben sprogmodel i stedet for at købe adgang via et API, står to familier ofte i centrum: Metas Llama og franske Mistral. Begge er stærke, og begge bruges i reelle produktionsløsninger. Forskellene handler mindre om hvem der er “bedst” og mere om licens, hjemsted, størrelse og økosystem: fire spørgsmål der afgør hvilken der passer til netop jer.
Licensforskelle og hvad de betyder kommercielt
Det vigtigste at forstå tidligt er at “åben” ikke betyder det samme for de to familier. Licensvilkårene er forskellige, og de påvirker hvad I må gøre kommercielt.
Mistral har udgivet flere af sine modeller under en meget permissiv åben licens, af den type der giver stor frihed til at bruge, ændre og distribuere. Llama bruger i stedet sin egen community-licens der tillader kommerciel brug, men med visse betingelser.
Den praktiske konsekvens: Læs licensen for den specifikke model I har tænkt jer at køre, ikke kun for familien. En familie kan indeholde modeller med forskellige vilkår, og det er den enkelte models licens der styrer hvad I juridisk må. Ved kommerciel drift er det ikke en formalitet, men et spørgsmål der skal afklares før I bygger videre.
Mistrals europæiske hjemsted som argument for suverænitet
En forskel der ofte fremhæves, er at Mistral er en europæisk, fransk virksomhed mens Llama kommer fra amerikanske Meta. I en diskussion om digital suverænitet, altså hvem der i sidste ende kontrollerer teknologien og under hvilken jurisdiktion, kan det veje.
Samtidig er det værd at nuancere billedet når det gælder self-hosting. Kører I modellen i jeres eget miljø, forlader data aldrig jeres infrastruktur uanset hvem der har bygget modellen. Dermed bliver hjemstedet først og fremmest et argument på leverandør- og økosystemniveau snarere end et dataspørgsmål. Pointen med self-hosting er netop at I tager kontrollen over hvor behandlingen sker. Hjemstedet kan alligevel spille en rolle for den langsigtede afhængighed og for hvordan et indkøb begrundes, men det skal vejes op mod at self-hostingen i sig selv allerede løser meget af suverænitetsspørgsmålet.
Størrelsesklasser, hardwarekrav og fine-tuning i praksis
Her ligger det afgørende ofte i praksis, og det handler ikke om familienavne, men om størrelse. Både Llama og Mistral findes i flere størrelsesklasser, og størrelsen bestemmer både kapacitet og hardwarebehov.
| Størrelsesklasse | Hvad den betyder i drift |
|---|---|
| Mindre modeller | Kan køre på et enkelt kraftigere grafikkort: laveste tærskel og omkostning |
| Mellemstore modeller | Kræver mere hukommelse, ofte flere GPU’er: balance mellem evne og omkostning |
| De største modeller | Kræver solid GPU-kapacitet og hukommelse: størst evne, dyrest at drive |
Det praktiske råd er at starte med størrelsesklassen, ikke med familien. Spørg først hvor meget hardware I realistisk kan afsætte, og vælg derefter en model der passer til det budget. En mindre model der kører stabilt, er næsten altid bedre end en stor som jeres hardware knap kan klare fordi svartider og driftsomkostninger ellers bliver en konstant kilde til problemer.
Når det gælder fine-tuning, er begge familier godt dækket. De understøttes af de modne, åbne værktøjer der bruges til at videretræne åbne modeller, så økosystemet er sjældent flaskehalsen. Men tænk over om I virkelig har brug for at fine-tune. Mange behov (at svare ud fra jeres egne dokumenter, at holde en bestemt tone) løses med gode prompts og RAG uden at modellen trænes om. Fine-tuning bliver først begrundet når I har brug for en adfærd, et format eller et domænesprog som ikke kan nås på anden måde.
Sådan vælger I
Kort sagt: Der findes intet generelt “Llama er bedre end Mistral” eller omvendt. Vej licensvilkårene op mod hvad I vil gøre kommercielt, lad hjemstedet spille ind hvis suverænitet er en faktor, og match størrelsesklassen med jeres hardware. Afprøv derefter en mindre model fra hver familie på jeres egen opgave før I beslutter jer.
Vil I have hjælp til at sætte en self-hostet model op og veje valget mod et API-alternativ, kan I læse mere om vores arbejde med AI eller kontakte os for en uforpligtende snak.
Ofte stillede spørgsmål
Er Llama og Mistral gratis at bruge kommercielt?
Begge kan bruges kommercielt, men vilkårene er forskellige, og det er dér man skal læse grundigt. Mistral har udgivet flere modeller under en meget permissiv åben licens mens Llama bruger sin egen community-licens med visse betingelser. Læs altid licensen for den specifikke model I har tænkt jer at køre. Modelfamilien fortæller ikke det hele.
Hvad betyder Mistrals europæiske hjemsted i praksis?
Mistral er en fransk virksomhed, hvilket kan veje i en diskussion om suverænitet hvor jurisdiktion og leverandørafhængighed spiller en rolle. Kører I desuden modellen self-hostet i jeres eget miljø, bliver spørgsmålet mindre skarpt fordi data aldrig forlader jeres infrastruktur uanset model. Hjemstedet er først og fremmest et argument på leverandørniveau.
Hvilken hardware kræves for at self-hoste modellerne?
Det afhænger helt af størrelsesklassen. Mindre modeller kan køre på et enkelt kraftigere grafikkort mens de største kræver flere GPU’er og rigeligt med hukommelse. Både Llama og Mistral findes i flere størrelser netop for at matche forskellige hardwarebudgetter, så start med størrelsen snarere end med familienavnet.
Skal vi selv fine-tune modellen?
Som regel ikke i første omgang. Mange behov løses med gode prompts og RAG på egne dokumenter uden at modellen trænes om. Fine-tuning bliver først relevant når I har brug for en bestemt tone, et format eller et domænesprog som ikke kan opnås på anden måde. Begge familier har modne værktøjer til det når der er brug for det.
Hvilken er nemmest at komme i gang med?
Begge er godt understøttet i de almindelige værktøjer til at køre og fine-tune åbne modeller, så tærsklen er lav for dem begge. Forskellen ligger mere i licensvilkår, valg af størrelse og hjemsted end i hvor svært det er at starte. Afprøv gerne en mindre model fra hver familie på jeres egen opgave.