Hva AI Act betyr for svenske kommuner
EUs KI-forordning stiller nye, skarpe krav til hvordan kunstig intelligens får brukes i offentlig sektor. Dette må kommunale beslutningstakere, IT-sjefer og virksomhetsledere vite før anskaffelse og idriftsetting.
KI-forordningens risikobaserte rammeverk
EUs AI Act deler KI-systemer inn i fire risikonivåer: uakseptabel risiko, høy risiko, begrenset risiko og minimal risiko. Offentlig forvaltning, og særlig tjenesteområder som fatter vedtak om enkeltpersoners rettigheter og bistand (som sosialtjeneste og utdanning), havner i lovgivers søkelys.
En vanlig misforståelse er at all KI i kommunen automatisk regnes som forbudt eller uoverkommelig regulert. Regelverket har ikke som formål å stanse digitalisering, men å sikre åpenhet, sporbarhet og menneskelig kontroll.
Mennesket i loopen (Human-in-the-loop)
Det mest sentrale kravet i AI Act for offentlig sektor er prinsippet om «Human-in-the-loop». Et KI-system får aldri på egen hånd fatte myndighetsvedtak eller gjennomføre automatiserte rettslige tiltak som påvirker innbyggere negativt.
Interpreto er fra grunnen av bygget som en administrativ støtte og et verktøy for beslutningsgrunnlag. Det betyr at KI-en transkriberer, oppsummerer og foreslår tekst basert på samtaler og styringsdokumenter, men det er alltid den ansvarlige saksbehandleren som gjennomgår, redigerer og signerer vedtaket. Denne tydelige ansvarsfordelingen gjør systemet fullt forenlig med forordningens krav.
Datasuverenitet og forbud mot amerikanske skytjenester
I tillegg til AI Act må svenske kommuner forholde seg til den svenske offentlighets- og taushetsloven (OSL), GDPR og Schrems II-dommen. Når sensitive personopplysninger om barn, kriminalitetsutsatte eller mottakere av bistand behandles, får data ikke eksponeres for utenlandsk lovgivning som US Cloud Act eller FISA 702.
For å oppfylle kravene må all databehandling, transkribering og inferens skje utelukkende innenfor Sveriges og EUs grenser, på suveren europeisk infrastruktur, uten amerikanske avhengigheter.
Sjekkliste ved kommunal anskaffelse av KI
1. Sørg for at leverandøren ikke trener grunnmodellene sine på dataene til kommunen deres.
2. Krev full datasuverenitet med drift i sertifiserte svenske/europeiske datasentre.
3. Verifiser at løsningen fungerer som støtte (human-in-the-loop) og ikke som automatisert beslutningstaker.
4. Kontroller at logging og sporbarhet finnes for alt generert materiale.
Sammendrag
AI Act stiller tydelige krav til åpenhet og menneskelig kontroll. Ved å velge løsninger med svensk drift og mennesket ved roret kan kommuner trygt modernisere tjenestene sine i full overensstemmelse med EU-retten.
Vil du prøve det i virksomheten deres?
Book en gjennomgang og se hvordan malene deres kan automatiseres.