Hva koster AI-integrasjon i produktet deres?

Mange virksomheter står ikke overfor å «innføre AI». De har allerede et produkt eller et fagsystem og vil legge til en AI-funksjon i det: smart søk, automatiske sammendrag, forslag til svar, kategorisering. Det er som oftest en klokere vei enn å bygge nytt, og prislappen er overkommelig: normalt 250 000 kr–1,2 millioner kr per funksjon.

Prisnivå per funksjonstype

Den laveste prisklassen forutsetter at produktet deres har et moderne API-lag, og at funksjonen kan avgrenses tydelig. Må datamodellen gjøres om eller tilgangsstyringen bygges ut, havner dere høyere.

Forskjellen mellom demo og produksjon er det du betaler for

Å få en AI-funksjon til å fungere i en demo tar dager. Å gjøre den klar for produksjon er mesteparten av prosjektet, og det er her tilbudene skiller seg fra hverandre. Fire ting avgjør:

• Latens. En demo kan godt bruke åtte sekunder; en funksjon i produktet deres kan ikke det. Produksjonsløsninger bruker strømmende svar, forhåndslasting og iblant en raskere modell for de vanligste tilfellene.
• Fallback. Hva skjer når modelleverandøren har driftsforstyrrelser eller svarer tregt? En produksjonsfunksjon har en reservevei: en annen modell, et bufret svar eller en tydelig nedgradering, ikke et ikon som bare snurrer.
• Feilhåndtering. Modeller gir iblant ubrukelige svar. Produksjonskode validerer svarene, prøver igjen med justert prompt og vet når den skal gi opp og vise en ærlig feilmelding.
• Kostnadstak per bruker. Uten tak kan én enkelt storbruker, eller et skript, få driftskostnaden til å løpe løpsk. Kvoter og varsler per bruker skal inn fra start.

Et tilbud som ikke nevner disse fire punktene, prissetter en demo, ikke en funksjon dere kan lansere for kunder.

Modellvalg via API: pris og juss i samme beslutning

De fleste integrasjoner kaller en modell via API i stedet for å kjøre en egen, og det er riktig valg for nesten alle. Men hvilken modell og hvilken leverandør dere velger, påvirker to ting samtidig:

Prisen. Forskjellen mellom modellklasser er ofte en faktor ti eller mer per kall. En funksjon som brukes tusenvis av ganger om dagen, kan koste noen hundrelapper eller titusenvis av kroner i måneden, avhengig av modellvalget. Vurder derfor alltid om en billigere modell er god nok for akkurat deres oppgave før dere låser dere til en toppmodell.

Jussen. Hvor behandles dataene? Lagres de? Brukes de til trening? Svarene er forskjellige fra leverandør til leverandør og fra avtalenivå til avtalenivå. For funksjoner som håndterer personopplysninger, trenger dere databehandleravtale og kontroll på overføringer til tredjeland etter GDPR; hosting i EU eller europeiske driftsalternativer kan være et krav snarere enn en preferanse. Det er billigere å velge riktig fra starten enn å migrere etter en innvending fra personvernombudet deres.

Bygg dessuten inn utskiftbarhet: Prompter, modellvalg og parametere skal ligge i et eget lag slik at dere kan bytte modell når prisnivået eller kravene endrer seg. Det koster litt ekstra i utviklingen, men lønner seg første gang en ny modellgenerasjon halverer prisen, eller når jussen krever et bytte.

Et konkret scenario

Et SaaS-selskap med et saksbehandlingssystem vil legge til «foreslå svar» for supportteamene hos kundene sine. Funksjonen avgrenses til en knapp i det eksisterende grensesnittet, med produktets egen sakshistorikk som grunnlag. Utviklingen, altså promptdesign, datakobling, strømmende svar, fallback, kostnadstak og evaluering mot historiske saker, ender på omtrent 620 000 kr og tre måneder. Driftskostnaden anslås per kunde og prissettes som et premiumtillegg, noe som gjør funksjonen selvfinansierende.

Har dere et produkt og en idé om hva AI kunne gjort i det? Vi i Weapp har lang erfaring med både systemutvikling og AI-integrasjoner. Ta kontakt, så diskuterer vi avgrensning og prislapp.