Hvad AI-forordningen betyder for svenske kommuner
EU's AI-forordning stiller nye, skarpe krav til, hvordan kunstig intelligens må bruges i den offentlige sektor. Her er, hvad kommunale beslutningstagere, it-chefer og fagchefer skal vide før udbud og idriftsættelse.
AI-forordningens risikobaserede ramme
EU's AI-forordning inddeler AI-systemer i fire risikoniveauer: uacceptabel risiko, høj risiko, begrænset risiko og minimal risiko. Den offentlige forvaltning, og især de områder, der træffer afgørelser om borgernes rettigheder og hjælp (såsom socialområdet og uddannelse), kommer i fokus for lovgivers granskning.
En udbredt misforståelse er, at al AI i kommunen automatisk betragtes som forbudt eller uoverkommeligt reguleret. Lovgivningen har ikke til formål at stoppe digitaliseringen, men at sikre gennemsigtighed, sporbarhed og menneskelig kontrol.
Mennesket i loopet (Human-in-the-loop)
Det mest centrale krav i AI-forordningen for den offentlige sektor er princippet om 'Human-in-the-loop'. Et AI-system må aldrig selvstændigt træffe myndighedsafgørelser eller gennemføre automatiserede retlige foranstaltninger, der påvirker borgere negativt.
Interpreto er fra bunden bygget som administrativ støtte, der udarbejder beslutningsgrundlag. Det betyder, at AI'en transskriberer, sammenfatter og foreslår tekst ud fra samtaler og styringsdokumenter, men det er altid den bemyndigede sagsbehandler, der gennemgår, redigerer og underskriver afgørelsen. Den klare ansvarsfordeling gør systemet fuldt foreneligt med forordningens krav.
Datasuverænitet og forbud mod amerikanske cloudtjenester
Ud over AI-forordningen skal svenske kommuner forholde sig til Offentlighets- och sekretesslagen (OSL), Sveriges lov om offentlighed og tavshedspligt, til GDPR og til Schrems II-dommen. Når følsomme personoplysninger om børn, kriminalitetsofre eller borgere, der modtager hjælp, behandles, må data ikke eksponeres for udenlandsk lovgivning som US Cloud Act eller FISA 702.
For at opfylde kravene skal al databehandling, transskribering og inferens foregå udelukkende inden for Sveriges og EU's grænser på suveræn europæisk infrastruktur, uden amerikanske afhængigheder.
Tjekliste ved kommunalt udbud af AI
1. Sørg for, at leverandøren ikke træner sine grundmodeller på jeres kommunes data.
2. Kræv fuld datasuverænitet med drift i certificerede svenske/europæiske datacentre.
3. Verificér, at løsningen fungerer som støtte (human-in-the-loop) og ikke som automatiseret beslutningstager.
4. Kontrollér, at der er logning og sporbarhed for alt genereret materiale.
Opsummering
AI-forordningen stiller klare krav til gennemsigtighed og menneskelig kontrol. Ved at vælge løsninger med drift i Sverige og mennesket ved roret kan kommuner trygt modernisere deres forvaltninger i fuld overensstemmelse med EU-retten.
Vil du prøve det i jeres forvaltning?
Book en gennemgang og se, hvordan jeres skabeloner kan automatiseres.