Mitä EU:n tekoälyasetus tarkoittaa Ruotsin kunnille
EU:n tekoälyasetus asettaa uusia, tiukkoja vaatimuksia sille, miten tekoälyä saa käyttää julkisella sektorilla. Tässä on, mitä kuntien päättäjien, IT-johtajien ja toimialajohtajien on tiedettävä ennen hankintaa ja käyttöönottoa.
Tekoälyasetuksen riskiperusteinen kehys
EU:n tekoälyasetus jakaa tekoälyjärjestelmät neljään riskitasoon: ei-hyväksyttävä riski, suuri riski, rajallinen riski ja vähäinen riski. Julkinen hallinto ja erityisesti toiminnot, joissa päätetään yksilöiden oikeuksista ja tuesta (kuten sosiaalihuolto ja koulutus), ovat lainsäätäjän tarkastelun keskiössä.
Yleinen väärinkäsitys on, että kaikki kunnissa käytettävä tekoäly katsotaan automaattisesti kielletyksi tai ylivoimaisen tiukasti säännellyksi. Lainsäädännön tarkoitus ei ole pysäyttää digitalisaatiota vaan varmistaa läpinäkyvyys, jäljitettävyys ja ihmisen valvonta.
Ihminen silmukassa (Human-in-the-loop)
Tekoälyasetuksen keskeisin vaatimus julkiselle sektorille on periaate ”Human-in-the-loop”. Tekoälyjärjestelmä ei saa koskaan itsenäisesti tehdä viranomaispäätöksiä tai toteuttaa automatisoituja oikeudellisia toimia, jotka vaikuttavat kansalaisiin kielteisesti.
Interpreto on alusta asti suunniteltu hallinnolliseksi tueksi ja aineistoa tuottavaksi järjestelmäksi. Tekoäly siis litteroi, tiivistää ja ehdottaa tekstiä keskustelujen ja ohjausasiakirjojen pohjalta, mutta päätöksen tarkistaa, muokkaa ja allekirjoittaa aina toimivaltainen käsittelijä. Tämä selkeä vastuunjako tekee järjestelmästä täysin asetuksen vaatimusten mukaisen.
Datasuvereniteetti ja amerikkalaisten pilvipalvelujen kielto
Tekoälyasetuksen lisäksi ruotsalaisten kuntien on otettava huomioon Ruotsin julkisuus- ja salassapitolaki (OSL), GDPR sekä Schrems II -tuomio. Kun käsitellään arkaluonteisia henkilötietoja lapsista, rikosten uhreista tai tuen saajista, dataa ei saa altistaa ulkomaiselle lainsäädännölle, kuten US Cloud Actille tai FISA 702:lle.
Vaatimusten täyttäminen edellyttää, että kaikki tietojenkäsittely, litterointi ja inferenssi tapahtuvat yksinomaan Ruotsin ja EU:n rajojen sisällä suvereenilla eurooppalaisella infrastruktuurilla, ilman amerikkalaisia riippuvuuksia.
Tarkistuslista kunnan tekoälyhankintaan
1. Varmistakaa, ettei toimittaja kouluta perustamallejaan kuntanne datalla.
2. Vaatikaa täysi datasuvereniteetti ja käyttöympäristö sertifioiduissa ruotsalaisissa/eurooppalaisissa datakeskuksissa.
3. Todentakaa, että ratkaisu toimii tukena (human-in-the-loop) eikä automatisoituna päätöksentekijänä.
4. Tarkistakaa, että jokaisesta tuotetusta aineistosta on lokitiedot ja jäljitettävyys.
Yhteenveto
Tekoälyasetus asettaa selkeät vaatimukset läpinäkyvyydelle ja ihmisen valvonnalle. Valitsemalla ratkaisuja, joissa on ruotsalainen käyttöympäristö ja ihminen ohjaimissa, kunnat voivat modernisoida toimintaansa turvallisesti ja täysin EU-oikeuden mukaisesti.
Haluatteko kokeilla organisaatiossanne?
Varatkaa esittely ja katsokaa, miten pohjanne voidaan automatisoida.