Hva er utfasing av AI-modeller?

En AI-modell føles permanent helt til den plutselig ikke er det. Utfasing av modeller, altså at leverandøren pensjonerer en versjon og tvinger frem en migrering, er en av de mest undervurderte risikoene i AI-avtaler. For de fleste er det en fotnote. For en regulert virksomhet kan det bli en krise hvis varslingstiden ikke står i avtalen.

Definisjonen

Utfasing av en modell betyr at en AI-leverandør slutter å tilby en bestemt modellversjon og krever at de som bruker den, bytter til en nyere. Det er en normal del av modellenes livssyklus: Nye versjoner lanseres, og gamle blir ikke vedlikeholdt i all evighet.

Konsekvensen for dere avhenger av hvordan dere bruker modellen. Noen ganger er et bytte en ukomplisert oppdatering. Andre ganger, særlig når modellens atferd er bakt inn i en virksomhetskritisk eller regulert prosess, innebærer det en omfattende omarbeiding. Og det som avgjør om dere rekker det, er varslingstiden.

Hvorfor det betyr noe også uten formelle krav

Utfasing av modeller oppfattes ofte som et problem bare for strengt regulerte bransjer. Men også en vanlig virksomhet blir berørt fordi en ny modellversjon ikke oppfører seg helt som den gamle. Prompter som er finpusset for én versjon, kan gi andre svar på den neste. Noen ganger er de bedre, noen ganger dårligere, men sjelden identiske. Har dere bygd en tjeneste der tone, format eller presisjon er viktig, må den testes på nytt ved hvert modellbytte.

Et konkret eksempel: En kundeserviceassistent er nøye justert slik at svarene har riktig tone og lengde. Når den underliggende modellen fases ut og erstattes, kan de samme instruksjonene plutselig gi lengre eller mer formelle svar. Uten varsel og en testperiode merker dere det først når kundene gjør det. Derfor er varslingstiden et spørsmål for flere enn dem som har en formell valideringsprosess.

Varslingstiden varierer dramatisk

Her er kjernen i problemet: Hvor lang varslingstid dere får, varierer enormt mellom leverandører og modelltyper.

Spennet går altså fra over et år ned til et par uker. Legg særlig merke til at noen leverandører ikke har noe avtalt minimum i det hele tatt. Da er dere prisgitt en policy som kan endres. Og observerte mønstre, som Copilots rundt én måned, er ikke det samme som en avtalt forpliktelse.

Konsekvensen for regulerte virksomheter

For virksomheter som må revalidere formelt ved et modellbytte, blir varslingstiden avgjørende. Revalidering betyr å vise at den nye modellversjonen oppfyller de samme kravene som den gamle, og det arbeidet tar tid.

Er varslingstiden kortere enn revalideringsvinduet, oppstår det et gap: Modellen er faset ut før den nye er godkjent. Et konkret scenario: En virksomhet med formell modellvalidering får to ukers varsel om at modellversjonen den bruker, skal pensjoneres, men revalideringsprosessen tar lenger tid enn det. Resultatet er at virksomheten må velge mellom å bli værende på en modell som er avviklet, eller å kjøre en som ikke er ferdig validert.

Løsningen er å kjøre to modellversjoner parallelt i revalideringsvinduet. Den gamle holder produksjonen i gang mens den nye valideres. Det forutsetter at dere har planlagt for det, og at avtalen gir tilstrekkelig varslingstid.

Gjør varslingstiden til et avtalepunkt

Konklusjonen er enkel: Behandle varslingstiden som et forhandlingspunkt, ikke en fotnote. Skriv inn et minimum for varslingstiden i avtalen, planlegg for parallell drift der revalidering kreves, og bygg løsningen slik at et modellbytte ikke tvinger frem en fullstendig omarbeiding.

Og fordi varslingstider og policyer for utfasing endres over tid: Sjekk leverandørens gjeldende policy i stedet for å stole på et tall du har lest et sted. Det som gjaldt ved forrige avtale, kan ha endret seg.

Vil du se hvordan utfasing av modeller henger sammen med valg av leverandør, hvor dataene behandles og driftssikkerhet i et helt AI-prosjekt, finner du mer på AI-siden vår. Trenger du hjelp til å bygge en AI-løsning som tåler et modellbytte? Ta kontakt.