AI Act

Intricin alusta tarjoaa paljon joustavuutta ja hyviä yhteistyömahdollisuuksia. Kunnat voivat päättää — joka kerta erikseen tai kerralla pysyvästi — kuinka paljon kontrollia haluavat siihen, miten assistenttia käytetään ja jaetaan.

EU:n tekoälyasetuksen (AI Act) vaatimusten noudattamisen varmistamiseksi jokaisen luomanne assistentin kohdalla tarvitaan kaksi perusarviointia:

1. Mihin riskiluokkaan assistentti kuuluu?
2. Mikä on kunnan rooli?

Näiden kahden arvioinnin perusteella kunta saa selkeän luettelon velvoitteista. Velvoitteiden tarkoituksena on suojata asukkaiden terveyttä, turvallisuutta ja perusoikeuksia.

Vaihe vaiheelta: näin arvioit assistenttisi

1 Kuvaile2 Riskiluokka3 Rooli4 Velvoitteet

Vaihe 1 — Kuvaile assistenttisi käyttötapaus

Kartoita ensin tarkasti, mitä assistentti tekee käytännössä.

Kysymyksiä, joihin kannattaa vastata:

• Mikä on assistentin tarkoitus?
• Ketkä ovat loppukäyttäjiä (virkailijat, opettajat, asukkaat)?
• Minkä tyyppistä dataa se käsittelee?

Vaihe 2 — Arvioi käyttötapauksen riskiluokka

Kuvauksen perusteella arvioi, mihin riskiluokkaan assistentti kuuluu säännösten mukaan.

Kategoriat:

• Korkea riski: Esimerkiksi tapausten käsittely, pääsy hyvinvointipalveluihin ja rekrytointi.
• Korkea riski, mutta täyttää poikkeuskriteerit: Suorittaa vain rajatun, menettelyllisen tehtävän (esim. selkokielisyyden laadunvarmistus asiakirjassa) tekemättä itsenäisiä päätöksiä.
• Ei korkea riski: Käyttö, johon liittyy minimaalinen riski selkeistä rajoituksista johtuen (esim. yksinkertaiset säännöshaut).

Vaihe 3 — Määritä roolisi

Roolisi määräytyy sen mukaan, jaatko assistenttia oman organisaatiosi ulkopuolelle. Tämä määrittää, missä kohtaa “tekoälyn arvoketjua” vastuusi sijaitsee.

Jaatko assistenttia toiselle organisaatiolle?

• Ei → Käyttöönottaja (Deployer): Rakennat ja käytät assistenttia yksinomaan sisäisesti.
• Kyllä → Jatkojakelija (Downstream provider): Annat toiselle kunnalle suoran pääsyn järjestelmään rakentamaasi assistenttiin (pelkkä promptin jakaminen “Assistant Libraryssa” ei ole tätä).

Vaihe 4 — Kartoita velvoitteet riskiluokan ja roolin mukaan

Vaiheiden 2 ja 3 valintojen perusteella tiedät nyt tarkalleen, mitkä vaatimukset koskevat teitä. Siirry tilanteeseenne sopivaan tarkistuslistaan:

• Skenaario A: Käyttöönottaja + Ei korkea riski
• Skenaario B: Käyttöönottaja + Korkea riski
• Skenaario C: Jatkojakelija + Korkea riski

1 / 4

← Edellinen Seuraava →

1. Riskiluokka: mihin assistenttia käytetään?

Riskiluokka määräytyy tekoälyassistentin tarkoituksen mukaan. Tekoälyasetus jakaa käytön eri kategorioihin:

Kategoria	Kuvaus ja tyypilliset kunnalliset alueet	Tärkeitä tarkennuksia ja poikkeuksia
Korkea riski	Käyttö koulutuksessa, työllistymisessä ja rekrytoinnissa, välttämättömiin palveluihin pääsyssä (ml. hyvinvointi) ja demokraattisissa prosesseissa.	Poikkeus: Jos assistentti suorittaa rajatun, menettelyllisen tehtävän, joka ei aiheuta riskiä terveydelle, turvallisuudelle tai perusoikeuksille, poikkeukseen voidaan vedota.
Ei korkea riski	Käyttö, johon liittyy minimaalinen riski. Esimerkiksi tehtävät, jotka noudattavat puhtaasti rajattua menettelyä tai joiden tarkoituksena ei ole korvata tai olennaisesti vaikuttaa inhimilliseen arviointiin.
Kielletty käyttö	Järjestelmät, joihin liittyy perusoikeuksien kannalta hyväksymätön riski (esim. tahallinen manipulointi, sosiaalinen pisteytys, henkilön rikoksentekemisriskin arviointi).	Kunnille suurelta osin merkityksetön.

Poikkeus: näin arvioitte riskin käytännössä

Poikkeukset ovat hyvin yleisiä kuntien tekoälyassistenttien käytössä. Vaikka assistenttia käytettäisiin alueella, joka on alun perin määritelty korkean riskin alueeksi (kuten koulutus tai hyvinvointi), käyttö voi saada poikkeuksen tiukimmista vaatimuksista. Tämä koskee erityisesti tilanteita, joissa assistentti:

• Ei ole tarkoitettu korvaamaan tai vaikuttamaan inhimilliseen arviointiin.
• On suunniteltu suorittamaan rajattu, menettelyllinen tehtävä.

Kaksi tyypillistä esimerkkiä kuntien arjesta havainnollistavat, että on olemassa monia turvallisia ja erittäin hyödyllisiä käyttötapauksia, joita ei luokitella korkean riskin tapauksiksi:

Esimerkki 1: Asiakirjojen laadunvarmistus (Inhimillinen arviointi säilyy)

Virkailija käyttää tekoälyassistenttia asiakirjojen laadunvarmistukseen ennen niiden lähettämistä kaupunginvaltuustolle. Tekoälyassistentti viittaa asianmukaisiin malleihin ja antaa palautetta asiakirjoista: se tarkistaa, että aiempiin asiakohteisiin viitataan oikeassa kohdassa, sisältö täyttää vähimmäisvaatimukset ja kirjoitustyyli vastaa selkokielisyysvaatimuksia.

• Miksi tämä on poikkeus? Tekoälyassistenttia käytetään vain parantamaan virkailijoiden jo tekemän työn laatua. Virkailija lukee palautteen, tekee omat arviointinsa ja muokkaa asiakirjoja manuaalisesti ennen lähettämistä. Assistentti ei korvaa eikä tee itsenäisiä päätöksiä.

Esimerkki 2: Sääntöhaut kouluille ja iltapäivätoiminnalle (Rajattu ja menettelyllinen)

Koulupäällikkö rakentaa tekoälyassistentin kunnan omien oppilaaksiottoasetusten, hyväksymissääntöjen ja prioriteettiperusteiden pohjalta. Tavoitteena on, että kollegat voivat helposti hakea vastauksia menettelykysymyksiin: mitä asiakirjoja tarvitaan iltapäiväkerhopaikkaa haettaessa? Mitkä ovat määräajat? Miten koulupiirialueiden rajat on määritelty?

• Miksi tämä on poikkeus? Vaikka kyseessä on “koulutus”, tekoälyassistentti suorittaa vain rajatun, menettelyllisen tehtävän — nimittäin selittää sääntöjä, jotka ovat jo saatavilla kunnan verkkosivustolla. Se ei tee mitään arviointia yksittäisestä lapsesta tai tietystä tapauksesta. Työntekijä ottaa tiedot, arvioi ne ja kirjoittaa vastauksen vanhemmille.

2. Roolisi: jaatteko assistenttia?

Miksi roolisi on tärkeä?

Tekoälyasetus on pitkälti laadittu tuoteturvallisuussääntelyksi. Tämä tarkoittaa, että vastuu ja velvoitteet jaetaan sen mukaan, missä kohtaa tekoälyn arvoketjua organisaatio sijaitsee. Tämä tarkoituksellinen erottelu asettaa vastuun sinne, missä se voidaan parhaiten hoitaa:

• Toimittajat (Providers) kantavat raskainta vastuuta ja heidän on dokumentoitava, että itse tekoälyjärjestelmä on turvallinen ennen kuin se asetetaan saataville (suunnittelu, tekninen dokumentaatio, testaus, CE-merkintä).
• Käyttöönottajilla (Deployers) on vastuu, joka kohdistuu järjestelmän konkreettiseen käyttöön jokapäiväisessä toiminnassa (inhimillisen valvonnan varmistaminen, käyttöohjeiden noudattaminen ja asukkaiden oikeuksien turvaaminen).

Roolisi tekoälyasetuksen mukaan määräytyy ensisijaisesti sen perusteella, jaatko assistenttia oman organisaatiosi ulkopuolelle:

• Käyttöönottaja (Deployer): Olet käyttöönottaja, jos kuntasi käyttää assistentteja yksinomaan sisäisesti.
• Jatkojakelija (Downstream provider): Sinusta tulee jatkojakelija, jos kuntasi jakaa valmiiksi rakennetun assistentin muille kunnille. (Otat tällöin “toimittajan” vastuun jakamastasi.)
  • Huomio: “Jakamisella” tarkoitetaan, että annat toiselle kunnalle pääsyn rakentamaasi assistenttiin, jota se ei ole itse rakentanut alustalla. Jos toinen kunta rakentaa oman assistenttinsa ohjeidesi/promptiesi pohjalta (esim. “Assistant Libraryn” kautta), tämä ei ole järjestelmän jakamista, ja pysyt käyttöönottajana.

3. Velvoitteesi

Velvoitteenne määräytyvät riskiluokan (miten assistenttia käytetään) ja roolin (jaetaanko se) yhdistelmän perusteella.

Tässä ovat kolme yleisintä skenaariota kunnille. Alla olevat luettelot kuvaavat konkreettiset vaatimukset, jotka teidän on täytettävä ennen käyttöä ja käytön aikana.

Skenaario A: Käyttöönottaja + Ei korkea riski

Tämä koskee kuntia, jotka käyttävät itse kehitettyjä assistentteja yksinomaan sisäisesti matalan riskin tehtäviin.

Esimerkki käytöstä: Kunta on luonut assistentin, joka auttaa HR-osastoa laadimaan työpaikkailmoituksia olemassa olevien mallien pohjalta, tai assistentin, joka tiivistää pitkiä julkisia raportteja kunnan johdolle.

Nämä ovat velvoitteenne (tarkistuslista):

• Tekoälyosaamisen vaatimus: Kunnan on varmistettava, että käyttäjillä on riittävästi tekoälytietoa (“AI literacy”). Työntekijöillä on oltava riittävä osaaminen käyttää alustaa turvallisesti ja tehdä perusteltuja päätöksiä Intricin tuottamasta sisällöstä.

Skenaario B: Käyttöönottaja + Korkea riski

Tämä koskee kuntia, jotka käyttävät assistentteja sisäisesti korkean riskin alueiksi määritellyillä alueilla.

Esimerkki käytöstä: Kunta käyttää tekoälyassistenttia osana automatisoitua tapaustenkäsittelyprosessia toimeentulotuen myöntämisen laskemiseen tai hakijoiden lajitteluun ja arviointiin rekrytointiprosessissa, jossa se tekee tai merkittävästi vaikuttaa yksittäisiä henkilöitä koskeviin päätöksiin.

Nämä ovat velvoitteenne (tarkistuslista):

• Inhimillinen valvonta: Varmista todellinen inhimillinen valvonta henkilöiltä, joilla on oikea toimivalta ja osaaminen. Ihmisellä on aina oltava viimeinen sana.
• Ilmoitus työntekijöille ja ammattiliitoille: Ilmoita henkilöstön edustajille ja työntekijöille ennen järjestelmän käyttöönottoa työpaikalla.
• Ilmoitus asukkaille: Asianomaisille henkilöille (esim. hakijoille) on ilmoitettava, että he ovat automatisoitujen päätöksentekoprosessien kohteena tai että tekoälyä käytetään päätöksenteon tukena.
• Oikeat syöttötiedot: Varmista, että assistentille syötetään vain asiaankuuluvia ja asianmukaisia tietoja (input).
• Käyttö ohjeiden mukaisesti: Assistenttia on käytettävä yksinomaan toimittajan (Intric) antamien käyttöohjeiden mukaisesti.
• Seuranta ja kirjaaminen: Seuraa järjestelmän käyttöä ja kirjaa tapahtumat järjestelmällisesti.
• Rekisteröinti viranomaisille: Järjestelmä on rekisteröitävä julkiseen rekisteriin Norjan viestintäviranomaisella (Nkom).
• Tietosuoja (DPIA): Tee tietosuojan vaikutustenarviointi (DPIA), jos ratkaisu käsittelee henkilötietoja.

Skenaario C: Jatkojakelija + Korkea riski

Tämä koskee kuntia, jotka ovat rakentaneet assistentin korkean riskin alueelle ja päättävät jakaa varsinaisen järjestelmäpääsyn muille organisaatioille tai kunnille.

Esimerkki käytöstä: Kunta on rakentanut edistyneen tekoälytyökalun rakennuslupien arviointiin. Pelkän reseptin (promptin) jakamisen sijaan se antaa naapurikunnalle suoran pääsyn järjestelmään kuntien välisen yhteistyön kautta. Kunta siis “toimittaa” järjestelmän eteenpäin.

Nämä ovat velvoitteenne (tarkistuslista):

• Laadunhallinta: Perusta ja ylläpidä virallista laadunhallintajärjestelmää tekoälyassistentille.
• Riskiarvioinnit: Tee ja dokumentoi viralliset riskiarvioinnit ennen jakamista ja sen aikana.
• Datahallinto: Luo tiukat rutiinit tiedonhallintaan ja tietolaatuun (“Data governance”).
• Rekisteröinti viranomaisille: Rekisteröi assistentti korkean riskin järjestelmänä Nkomissa.
• Seuranta ja kirjaaminen: Ota käyttöön järjestelmällinen seuranta ja kirjaaminen siitä, miten järjestelmä toimii ja miten muut kunnat käyttävät sitä.