Riskiluokka: mihin assistenttia käytetään?

Riskiluokka määräytyy tekoälyassistentin tarkoituksen mukaan. Tekoälyasetus jakaa käytön eri kategorioihin:

Kategoria	Kuvaus ja tyypilliset kunnalliset alueet	Tärkeitä tarkennuksia ja poikkeuksia
Korkea riski	Käyttö koulutuksessa, työllistymisessä ja rekrytoinnissa, välttämättömiin palveluihin pääsyssä (ml. hyvinvointi) ja demokraattisissa prosesseissa.	Poikkeus: Jos assistentti suorittaa rajatun, menettelyllisen tehtävän, joka ei aiheuta riskiä terveydelle, turvallisuudelle tai perusoikeuksille, poikkeukseen voidaan vedota.
Ei korkea riski	Käyttö, johon liittyy minimaalinen riski. Esimerkiksi tehtävät, jotka noudattavat puhtaasti rajattua menettelyä tai joiden tarkoituksena ei ole korvata tai olennaisesti vaikuttaa inhimilliseen arviointiin.
Kielletty käyttö	Järjestelmät, joihin liittyy perusoikeuksien kannalta hyväksymätön riski (esim. tahallinen manipulointi, sosiaalinen pisteytys, henkilön rikoksentekemisriskin arviointi).	Kunnille suurelta osin merkityksetön.

Poikkeus: näin arvioitte riskin käytännössä

Poikkeukset ovat hyvin yleisiä kuntien tekoälyassistenttien käytössä. Vaikka assistenttia käytettäisiin alueella, joka on alun perin määritelty korkean riskin alueeksi (kuten koulutus tai hyvinvointi), käyttö voi saada poikkeuksen tiukimmista vaatimuksista. Tämä koskee erityisesti tilanteita, joissa assistentti:

• Ei ole tarkoitettu korvaamaan tai vaikuttamaan inhimilliseen arviointiin.
• On suunniteltu suorittamaan rajattu, menettelyllinen tehtävä.

Kaksi tyypillistä esimerkkiä kuntien arjesta havainnollistavat, että on olemassa monia turvallisia ja erittäin hyödyllisiä käyttötapauksia, joita ei luokitella korkean riskin tapauksiksi:

Esimerkki 1: Asiakirjojen laadunvarmistus (Inhimillinen arviointi säilyy)

Virkailija käyttää tekoälyassistenttia asiakirjojen laadunvarmistukseen ennen niiden lähettämistä kaupunginvaltuustolle. Tekoälyassistentti viittaa asianmukaisiin malleihin ja antaa palautetta asiakirjoista: se tarkistaa, että aiempiin asiakohteisiin viitataan oikeassa kohdassa, sisältö täyttää vähimmäisvaatimukset ja kirjoitustyyli vastaa selkokielisyysvaatimuksia.

• Miksi tämä on poikkeus? Tekoälyassistenttia käytetään vain parantamaan virkailijoiden jo tekemän työn laatua. Virkailija lukee palautteen, tekee omat arviointinsa ja muokkaa asiakirjoja manuaalisesti ennen lähettämistä. Assistentti ei korvaa eikä tee itsenäisiä päätöksiä.

Esimerkki 2: Sääntöhaut kouluille ja iltapäivätoiminnalle (Rajattu ja menettelyllinen)

Koulupäällikkö rakentaa tekoälyassistentin kunnan omien oppilaaksiottoasetusten, hyväksymissääntöjen ja prioriteettiperusteiden pohjalta. Tavoitteena on, että kollegat voivat helposti hakea vastauksia menettelykysymyksiin: mitä asiakirjoja tarvitaan iltapäiväkerhopaikkaa haettaessa? Mitkä ovat määräajat? Miten koulupiirialueiden rajat on määritelty?

• Miksi tämä on poikkeus? Vaikka kyseessä on “koulutus”, tekoälyassistentti suorittaa vain rajatun, menettelyllisen tehtävän — nimittäin selittää sääntöjä, jotka ovat jo saatavilla kunnan verkkosivustolla. Se ei tee mitään arviointia yksittäisestä lapsesta tai tietystä tapauksesta. Työntekijä ottaa tiedot, arvioi ne ja kirjoittaa vastauksen vanhemmille.