Wat de AI Act betekent voor Zweedse gemeenten
De Europese AI-verordening stelt nieuwe, scherpe eisen aan hoe kunstmatige intelligentie in de publieke sector mag worden ingezet. Dit moeten gemeentelijke beslissers, IT-managers en leidinggevenden weten voor aanbesteding en ingebruikname.
Het risicogebaseerde kader van de AI-verordening
De Europese AI Act deelt AI-systemen in vier risiconiveaus in: onaanvaardbaar risico, hoog risico, beperkt risico en minimaal risico. Het openbaar bestuur, en vooral organisaties die beslissen over de rechten van en hulp aan burgers (zoals de sociale dienst en het onderwijs), komt daarbij in het vizier van de wetgever.
Een veelvoorkomend misverstand is dat alle AI binnen de gemeente automatisch als verboden of onoverkomelijk gereguleerd wordt gezien. De wetgeving is niet bedoeld om digitalisering tegen te houden, maar om transparantie, traceerbaarheid en menselijke controle te waarborgen.
De mens in de loop (Human-in-the-loop)
De belangrijkste eis van de AI Act voor de publieke sector is het principe van ‘human-in-the-loop’. Een AI-systeem mag nooit zelfstandig overheidsbesluiten nemen of geautomatiseerde juridische handelingen uitvoeren die burgers nadelig raken.
Interpreto is van meet af aan ontworpen als administratieve ondersteuning en als systeem voor de onderbouwing van besluiten. Dat betekent dat de AI transcribeert, samenvat en tekst voorstelt op basis van gesprekken en beleidsdocumenten, maar dat het altijd de bevoegde consulent is die het besluit controleert, bewerkt en ondertekent. Deze duidelijke verdeling van verantwoordelijkheden maakt het systeem volledig verenigbaar met de eisen van de verordening.
Datasoevereiniteit en het verbod op Amerikaanse clouds
Naast de AI Act moeten Zweedse gemeenten rekening houden met de wet op openbaarheid en geheimhouding (Offentlighets- och sekretesslagen, OSL), de AVG en het Schrems II-arrest. Wanneer gevoelige persoonsgegevens over kinderen, slachtoffers van misdrijven of bijstandsontvangers worden verwerkt, mogen de gegevens niet worden blootgesteld aan buitenlandse wetgeving zoals de US Cloud Act of FISA 702.
Om aan de eisen te voldoen moet alle gegevensverwerking, transcriptie en inferentie uitsluitend binnen de grenzen van Zweden en de EU plaatsvinden, op soevereine Europese infrastructuur, zonder Amerikaanse afhankelijkheden.
Checklist voor een gemeentelijke AI-aanbesteding
1. Zorg ervoor dat de leverancier zijn basismodellen niet traint op de gegevens van jullie gemeente.
2. Eis volledige datasoevereiniteit, met hosting in gecertificeerde Zweedse/Europese datacenters.
3. Controleer dat de oplossing werkt als ondersteuning (human-in-the-loop) en niet als geautomatiseerde beslisser.
4. Ga na of er logging en traceerbaarheid is voor elk gegenereerd stuk.
Samenvatting
De AI Act stelt duidelijke eisen aan transparantie en menselijke controle. Door te kiezen voor oplossingen die in Zweden worden gehost en waarbij de mens aan het roer staat, kunnen gemeenten hun organisaties met vertrouwen moderniseren, volledig in overeenstemming met het EU-recht.
Wil je het uitproberen in jullie organisatie?
Plan een demo en bekijk hoe jullie sjablonen geautomatiseerd kunnen worden.