Amerikansk AI i det offentlige: Hvad gælder?
Der er intet generelt forbud, og amerikanske cloudtjenester er ikke i sig selv udelukket. Men beslutningen skal bygge på en dokumenteret risikovurdering: hvor lagring og inferens sker, hvilken overførselsmekanisme der gælder og hvad der sker ved en anmodning fra amerikanske myndigheder. For højrisikosystemer efter AI-forordningen kræves desuden en konsekvensanalyse vedrørende grundlæggende rettigheder før systemet idriftsættes.
Myndigheder står i en klemme: Borgerne forventer digital service i verdensklasse, de stærkeste AI-modeller kommer fra amerikanske leverandører, og forvaltningen er underlagt regler der stiller højere krav end dem de fleste private virksomheder møder. Spørgsmålet er ikke om amerikansk AI må bruges. Spørgsmålet er hvad der skal til for at et ja kan holde til en gennemgang.
Vidneudsagnet der rammesætter risikoen
Den mest citerede hændelse i debatten kom fra Frankrig. Under en høring i det franske senat bekræftede en repræsentant for Microsoft Frankrig under ed at virksomheden ikke kan garantere at europæiske kunders data er beskyttet mod anmodninger fra amerikanske myndigheder. I samme vidneudsagn blev det konstateret at en sådan anmodning rettet mod virksomhedens europæiske offentlige kunder aldrig havde fundet sted.
Det er præcis det risikobillede en myndighed skal vurdere åbent: Sandsynligheden fremstår som lav, konsekvensen kan være høj, og garantier findes ikke. En risikovurdering der lader som om et af de tre led ikke eksisterer, uanset i hvilken retning, holder hverken til intern styring eller til ekstern kontrol. Skriv begge halvdele af vidneudsagnet ind i beslutningsgrundlaget, og vurdér dem op mod hvor følsomme oplysningerne er.
Den offentlige sektor har ekstra forpligtelser
Ud over GDPR’s krav om lovlig behandling og dokumenterede overførsler til tredjelande har offentlige aktører forpligtelser som private virksomheder slipper for.
- FRIA før idriftsættelse. Artikel 27 i AI-forordningen kræver at offentlige aktører udarbejder en konsekvensanalyse vedrørende grundlæggende rettigheder før et højrisikosystem tages i brug. Den skal være på plads før systemet møder borgerne, ikke bagefter.
- Åbenhed og sporbarhed. Beslutninger om leverandørvalg og risikoaccept kan blive omfattet af aktindsigt efter offentlighedsloven. Gå ud fra at hver vurdering vil blive læst af journalister, revisorer og tilsynsmyndigheder.
- Signalet fra EU-niveau. EU’s egne institutioner har fået deres cloudaftaler med amerikanske leverandører undersøgt og har måttet skærpe vilkår og konfigurationer. Den undersøgelse er en brugbar målestok: Ligger jeres konstruktion under den barre, skal I have gode grunde.
Den dokumenterbare vej til et ja
Myndigheder der er landet på et holdbart ja, bygger typisk beslutningen på fire konkrete komponenter:
| Komponent | Hvad den indebærer |
|---|---|
| EU-inferens som aktiv konfiguration | Databehandlingen sker i EU gennem et aktivt konfigurationsvalg der verificeres, ikke gennem en antagelse om standardindstillinger |
| Kundekontrollerede nøgler | Kryptering hvor myndigheden kontrollerer nøglerne, bruges hvor tjenesten tilbyder det, og begrænsningen ved inferens dokumenteres ærligt |
| Komplet oversigt over underdatabehandlere | Alle underdatabehandlere og deres roller er kortlagt, med overvågning af ændringer og ret til at gøre indsigelse |
| Ikke-amerikansk reservevej | Et udpeget alternativ for de mest følsomme dataflows der kan aktiveres hvis retstilstanden eller vilkårene ændrer sig |
Et scenarie der viser logikken: En kommune vil indføre en AI-assistent til borgerservice. Den begynder med dataflows bygget på offentligt tilgængelig information (takster, åbningstider, ansøgningsprocesser) hvor der ikke behandles følsomme personoplysninger. Sideløbende dokumenteres konfigurationen for EU-behandling, oversigten over underdatabehandlere udarbejdes, og en europæisk reservevej identificeres til næste trin, hvor sagsdata kan blive aktuelle. Hvert trin har sit eget beslutningsgrundlag. Når tilsynet spørger, findes svarene på skrift.
Hos Weapp hjælper vi organisationer med at bygge AI-løsninger hvor konfiguration, logning og leverandørvalg kan fremvises. Det er som regel forskellen på et ja der holder, og et ja der bliver omstødt.
Retstilstanden flytter sig, så datér beslutningen
Overførselsmekanismerne mellem EU og USA er to gange blevet underkendt af EU-Domstolen, og den nuværende ordning prøves løbende retligt. Det betyder ikke at beslutninger skal udskydes mens man venter på endelig klarhed. Den kommer ikke. Det betyder at hver beslutning skal være dateret, bygge på navngivne retskilder og svar fra leverandøren og have en udpeget ejer der holder øje med ændringer.
Praktisk: Læg en årlig revurdering ind i myndighedens planlægning, abonnér på tilsynsmyndighedernes udmeldinger, og beskriv reservevejen så konkret at den kan aktiveres uden et nyt års udredning. En myndighed der kan vise hvornår, på hvilket grundlag og med hvilket beredskab beslutningen blev truffet, står fast selv når omverdenen ændrer sig. Kontakt os hvis I vil have støtte til at strukturere beslutningsgrundlaget.
Ofte stillede spørgsmål
Er der et forbud mod amerikanske AI-tjenester i den offentlige sektor?
Nej. Der er intet generelt forbud, og amerikanske cloudtjenester er ikke i sig selv udelukket i den offentlige forvaltning. Ansvaret ligger hos den enkelte myndighed: Behandlingen skal være lovlig, risiciene analyseret og dokumenteret, og følsomme oplysninger kan kræve særlige beskyttelsesforanstaltninger eller en anden vej.
Hvad sagde Microsoft i det franske senat?
En repræsentant for Microsoft Frankrig bekræftede under ed at virksomheden ikke kan garantere at data er beskyttet mod anmodninger fra amerikanske myndigheder. Samtidig var en sådan anmodning rettet mod virksomhedens europæiske offentlige kunder ifølge samme vidneudsagn aldrig forekommet. Begge dele hører hjemme i en ærlig risikovurdering.
Hvad er en FRIA, og hvornår kræves den?
FRIA er en konsekvensanalyse vedrørende grundlæggende rettigheder efter artikel 27 i AI-forordningen. Offentlige aktører skal gennemføre den før et højrisikosystem tages i brug. Den supplerer konsekvensanalysen efter GDPR og fokuserer på hvordan systemet kan påvirke den enkeltes rettigheder.
Er det nok at data lagres i et datacenter i EU?
Nej, ikke i sig selv. Amerikanske leverandører kan være omfattet af amerikansk lovgivning som CLOUD Act uanset hvor datacentret står. Lagring i EU er en vigtig komponent, men den skal kombineres med en analyse af den retlige adgang til data, kundekontrollerede nøgler hvor det er muligt og en dokumenteret vurdering af overførslen.
Hvad menes der med en ikke-amerikansk reservevej?
At myndigheden udpeger et alternativ, en europæisk leverandør eller et eget driftsmiljø, som de mest følsomme dataflows kan flyttes til hvis retstilstanden eller vilkårene ændrer sig. Reservevejen behøver ikke at være funktionelt ligeværdig, men den skal være identificeret, testet i lille skala og mulig at aktivere.