Hvad koster AI-integration i jeres eksisterende produkt?

Mange virksomheder står ikke over for at skulle “indføre AI”. De har allerede et produkt eller et forretningssystem og vil tilføje en AI-funktion i det: smart søgning, automatiske opsummeringer, forslag til svar, kategorisering. Det er som regel en klogere vej end at bygge nyt, og prisen er til at håndtere: normalt 210.000 DKK–1,1 mio. DKK pr. funktion.

Prisniveau pr. funktionstype

Den lave ende af spændet forudsætter at jeres produkt har et moderne API-lag og at funktionen kan afgrænses klart. Skal datamodellen laves om eller adgangsstyringen udbygges, ender I højere.

Forskellen på demo og produktion: Det er den du betaler for

At få en AI-funktion til at virke i en demo tager dage. At gøre den klar til produktion er størstedelen af projektet, og det er her tilbuddene adskiller sig. Fire ting er afgørende:

• Latenstid. En demo må gerne bruge otte sekunder; en funktion i jeres produkt må ikke. Produktionsløsninger arbejder med streamede svar, forudindlæsning og nogle gange en hurtigere model til de mest almindelige tilfælde.
• Fallback. Hvad sker der når modelleverandøren har driftsforstyrrelser eller svarer langsomt? En produktionsfunktion har en reservevej: en anden model, et cachet svar eller en tydelig nedgradering, ikke en spinner der bare snurrer.
• Fejlhåndtering. Modeller giver nogle gange ubrugelige svar. Produktionskode validerer svarene, prøver igen med en justeret prompt og ved hvornår den skal give op og vise en ærlig fejlmeddelelse.
• Omkostningsloft pr. bruger. Uden loft kan en enkelt storbruger, eller et script, få driftsomkostningen til at løbe løbsk. Kvoter og alarmer pr. bruger skal med fra start.

Et tilbud der ikke nævner de fire punkter, prissætter en demo, ikke en funktion I kan lancere over for kunder.

Modelvalg via API: pris og jura i samme beslutning

De fleste integrationer kalder en model via API i stedet for at hoste en selv, og det er det rigtige valg for næsten alle. Men hvilken model og hvilken leverandør I vælger, påvirker to ting på én gang:

Prisen. Forskellen mellem modelklasser er ofte en faktor ti eller mere pr. kald. En funktion der bruges tusindvis af gange om dagen, kan koste nogle hundrede DKK eller titusindvis af DKK om måneden afhængigt af modelvalget. Vurdér derfor altid om en billigere model er nok til netop jeres opgave før I låser jer fast på en topmodel.

Juraen. Hvor behandles dataene? Gemmes de? Bruges de til træning? Svarene er forskellige fra leverandør til leverandør og fra aftaleniveau til aftaleniveau. Til funktioner der håndterer personoplysninger, skal I have databehandleraftaler og styr på overførsler til tredjelande efter GDPR; EU-hosting eller europæiske driftsalternativer kan være et krav snarere end en præference. Det er billigere at vælge rigtigt fra starten end at migrere efter en indsigelse fra jeres databeskyttelsesrådgiver.

Byg desuden udskiftelighed ind: Prompts, modelvalg og parametre skal ligge i et separat lag så I kan skifte model når prisniveauet eller kravene ændrer sig. Det koster lidt ekstra i udviklingen, men betaler sig første gang en ny modelgeneration halverer prisen, eller når juraen kræver et skifte.

Et konkret scenarie

En SaaS-virksomhed med et sagshåndteringssystem vil tilføje “foreslå svar” til sine kunders supportteams. Funktionen afgrænses til en knap i den eksisterende brugerflade med produktets egen sagshistorik som grundlag. Udviklingen (promptdesign, datakobling, streamede svar, fallback, omkostningsloft og evaluering mod historiske sager) lander på cirka 530.000 DKK og tre måneder. Driften estimeres pr. kunde og prissættes som et premiumtillæg, hvilket gør funktionen selvfinansierende.

Har I et produkt og en idé om hvad AI kunne gøre i det? Vi hos Weapp har lang erfaring med både systemudvikling og AI-integrationer. Kontakt os, så drøfter vi afgrænsning og pris.