Was der AI Act für schwedische Kommunen bedeutet
Die KI-Verordnung der EU stellt neue, strenge Anforderungen daran, wie künstliche Intelligenz im öffentlichen Sektor eingesetzt werden darf. Das müssen Entscheidungsverantwortliche, IT-Leitungen und Fachbereichsleitungen in Kommunen vor Vergabe und Inbetriebnahme wissen.
Der risikobasierte Rahmen der KI-Verordnung
Die KI-Verordnung der EU teilt KI-Systeme in vier Risikostufen ein: unannehmbares Risiko, hohes Risiko, begrenztes Risiko und minimales Risiko. Die öffentliche Verwaltung, und insbesondere Bereiche, die über Rechte und Hilfen einzelner Personen entscheiden (etwa Soziale Dienste und Bildung), rückt dabei in den Fokus des Gesetzgebers.
Ein häufiges Missverständnis ist, dass jede KI in der Kommune automatisch als unzulässig oder als unüberwindbar streng reguliert gilt. Die Gesetzgebung will die Digitalisierung nicht stoppen, sondern Transparenz, Nachvollziehbarkeit und menschliche Kontrolle sicherstellen.
Der Mensch in der Schleife (Human-in-the-loop)
Die zentrale Anforderung der KI-Verordnung für den öffentlichen Sektor ist das Prinzip „Human-in-the-loop“. Ein KI-System darf niemals eigenständig behördliche Entscheidungen treffen oder automatisierte rechtliche Maßnahmen durchführen, die Bürgerinnen und Bürger negativ betreffen.
Interpreto ist von Grund auf als administrative Unterstützung und System für Entscheidungsgrundlagen aufgebaut. Die KI transkribiert, fasst zusammen und schlägt Text auf Grundlage von Gesprächen und Richtlinien vor, aber es ist immer die zuständige Fachkraft, die die Entscheidung prüft, bearbeitet und unterzeichnet. Diese klare Verteilung der Verantwortung macht das System voll vereinbar mit den Anforderungen der Verordnung.
Datensouveränität und Verbot von US-Clouds
Neben der KI-Verordnung müssen schwedische Kommunen das schwedische Öffentlichkeits- und Geheimhaltungsgesetz (OSL), die DSGVO und das Schrems-II-Urteil beachten. Werden sensible personenbezogene Daten über Kinder, Opfer von Straftaten oder Leistungsbeziehende verarbeitet, dürfen die Daten keiner ausländischen Gesetzgebung wie dem US Cloud Act oder FISA 702 ausgesetzt werden.
Um die Anforderungen zu erfüllen, müssen Datenverarbeitung, Transkription und Inferenz ausschließlich innerhalb der Grenzen Schwedens und der EU stattfinden, auf souveräner europäischer Infrastruktur und ohne US-Abhängigkeiten.
Checkliste für die kommunale KI-Vergabe
1. Stellen Sie sicher, dass der Anbieter seine Basismodelle nicht mit den Daten Ihrer Kommune trainiert.
2. Fordern Sie vollständige Datensouveränität mit Betrieb in zertifizierten schwedischen/europäischen Rechenzentren.
3. Prüfen Sie, ob die Lösung als Unterstützung (Human-in-the-loop) arbeitet und nicht als automatisierte Entscheidungsinstanz.
4. Kontrollieren Sie, ob für alle erzeugten Unterlagen Protokollierung und Nachvollziehbarkeit vorhanden sind.
Zusammenfassung
Die KI-Verordnung stellt klare Anforderungen an Transparenz und menschliche Kontrolle. Mit Lösungen, die in Schweden betrieben werden und den Menschen am Steuer lassen, können Kommunen ihre Verwaltung sicher modernisieren, in vollem Einklang mit dem EU-Recht.
Möchten Sie es in Ihrer Verwaltung ausprobieren?
Buchen Sie eine Vorführung und sehen Sie, wie sich Ihre Vorlagen automatisieren lassen.