Velvoitteesi

Johdanto

🎯 Oppimistavoitteet

• Ymmärrät, miten vaatimukset kertyvät roolisi ja riskiluokkasi perusteella
• Tiedät kaikille soveltuvan perusvelvoitteen: tekoälylukutaidon
• Ymmärrät, mitä lisävaatimuksia koskee korkean riskin järjestelmiä
• Tiedät, mitkä GPAI-vaatimukset koskevat tarjoajia ja käyttäjätahoja

Vaatimukset kertyvät organisaation roolista (tarjoaja tai käyttäjätaho) sekä olennaisesta riskiluokasta tai avoimuusvaatimuksista. Soveltamisalan ulkopuolisilla tekoälyjärjestelmillä ei ole vaatimuksia.

Tässä osiossa käydään läpi vaatimukset kevyimmästä raskaimpaan.

Tekoälylukutaito – koskee kaikkia

Niille, joita asia koskee, sekä tarjoajien että käyttäjätahojen perusvaatimus on tekoälylukutaito. Kaikilla, jotka työskentelevät järjestelmän parissa tarjoajan puolelta ja kaikilla, jotka käyttävät tai hallitsevat järjestelmää käyttäjätahon puolelta, on oltava “riittävä taso” tekoälylukutaitoa.

Lisävaatimuksia tai tarkennuksia ei ole, joten tarjoajat ja käyttäjätahot voivat vapaasti valita, miten tämä vaatimus täytetään, kunhan “riittävä taso” ottaa huomioon ihmisten teknisen osaamisen, kokemuksen, koulutuksen, tekoälyjärjestelmien käyttökontekstin ja henkilöt, joihin tekoälyjärjestelmää sovelletaan.

Esimerkki riittämättömästä tekoälylukutaidosta: Lukion kesäharjoittelijoille annetaan pääsy assistenttiin ensimmäisenä päivänä ja heitä kehotetaan katsomaan koulutusvideoita ennen sen käyttämistä. Heidän esimiehensä ei ota huomioon heidän ikäänsä tai tutki heidän olemassa olevaa tekoälyosaamistaan, eikä seuraa heidän assistentin käyttöään ensimmäisten päivien aikana.

Avoimuusvaatimukset

Jos tekoälyjärjestelmälläsi on avoimuusvaatimuksia (kuten useimmilla GPAI:lla ja niistä rakennetuilla järjestelmillä on), tarjoajille ja käyttäjätahoille on velvoitteita.

Käyttäjätahoille: Ei erityisiä vaatimuksia.

Tarjoajille: Vaatimus tässä on yksinkertaisesti varmistaa, että järjestelmän kanssa vuorovaikutuksessa oleva henkilö tietää, että tämä järjestelmä ei ole ihminen. Jos henkilö näkee tulosteen, hän tietää, ettei se tullut ihmiseltä.

Korkean riskin tekoälyjärjestelmien vaatimukset

Jos tekoälyjärjestelmäsi kuuluu korkean riskin alueelle, lisävaatimuksia sovelletaan. Vaatimukset eroavat roolin mukaan.

Korkean riskin järjestelmien käyttäjätahot

• Ihmisten valvonta: Varmista todellinen inhimillinen valvonta henkilöiltä, joilla on oikea toimivalta ja osaaminen. Ihmisellä on aina oltava viimeinen sana. Tarjoajan on tehtävä käyttäjätaholle mahdolliseksi harjoittaa tätä valvontaa.
• Työntekijöille tiedottaminen: Jos järjestelmää käytetään työpaikalla, ilmoita asiasta työntekijöille ja ammattiliitoille.
• Asianomaisille henkilöille tiedottaminen: Jos järjestelmä on mukana päätöstuen tai ihmisiin vaikuttavan päätöksenteon prosessissa, ilmoita näille henkilöille järjestelmän käytöstä.
• Oikea syöttödata: Varmista, että assistenttiin syötetään vain relevanttia ja asianmukaista dataa (syötteet).
• Käyttö ohjeiden mukaisesti: Assistenttia on käytettävä yksinomaan tarjoajan antamien käyttöohjeiden mukaisesti.
• Seuranta ja lokikirjaus: Seuraa järjestelmän käyttöä ja kirjaa tietyt tapahtumat järjestelmällisesti lokiin.
• Rekisteröinti viranomaisille: Järjestelmä on rekisteröitävä julkiseen rekisteriin EU:n tai kansallisella tasolla.
• Tietosuoja (DPIA): Suorita tietosuojavaikutusten arviointi (DPIA) jos ratkaisu käsittelee henkilötietoja.

Korkean riskin järjestelmien tarjoajat

Useimmat näistä vaatimuksista eivät koske Intric-asiakkaita, jotka ovat vain käyttäjätahoja. Mutta Intricilla ja asiakkailla, jotka käyttävät widgettejä asettaakseen assistenttinsa muiden organisaatioiden saataville, on nämä vaatimukset. Intric täyttää nämä vaatimukset koko alustaa varten, kun taas jatkoketjun tarjoajan tarvitsee miettiä vain jakamansa assistentin osalta:

• Laadunhallinta: Perusta ja ylläpidä muodollista laadunhallintajärjestelmää assistentille.
• Riskiarvioinnit: Suorita ja dokumentoi muodolliset riskiarvioinnit ennen jakamista ja sen aikana.
• Datahallinto: Luo tiukat rutiinit tiedonhallintaan ja tiedon laatuun.
• Rekisteröinti viranomaisille: Rekisteröi assistentti korkean riskin järjestelmänä.
• Seuranta ja lokikirjaus: Toteuta järjestelmällinen seuranta ja lokikirjaus siitä, miten järjestelmä toimii ja miten muut kunnat sitä käyttävät.

GPAIen vaatimukset

GPAI:lla on omat vaatimuksensa, erillään korkean riskin luokituksesta.

GPAIen tarjoajille

Helpoin tapa täyttää kaikki vaatimukset on täyttää vapaaehtoinen käytännesäännöstö: digital-strategy.ec.europa.eu/en/policies/contents-code-gpai. Vaatimukset liittyvät dokumentointiin (erityisesti tarjoajille, jotka haluavat käyttää GPAI-mallejaan omissa tekoälyjärjestelmissään), avoimuuteen ja olemassa oleviin tekijänoikeuksiin liittyviin sääntöihin.

Systeemisen riskin mallit edellyttävät myös arviointia, kyberturvallisuutta ja tapahtumien seurantaa. Näiltä tarjoajilta odotetaan systeemisten riskien käsittelyä.

GPAIen käyttäjätahoille

Ei erityisiä vaatimuksia GPAIen käyttäjätahoille, vaikka GPAI:n käyttöönottamisen ja avoimuusvaatimuksia sisältävän tekoälyjärjestelmän käyttöönottamisen välillä on paljon päällekkäisyyttä.

Keskeiset opit

• Tekoälylukutaito on perusvaatimus kaikille
• Avoimuusvelvoitteet kohdistuvat ensisijaisesti tarjoajiin: varmista, että vuorovaikutuksessa oleva henkilö tietää järjestelmän olevan tekoäly, ei ihminen
• Korkean riskin käyttäjätahoilla on merkittäviä velvoitteita: ihmisten valvonta, työntekijöille tiedottaminen, asianomaisille henkilöille tiedottaminen, oikea syöttödata, seuranta, lokikirjaus ja rekisteröinti
• Korkean riskin tarjoajilla on raskain taakka: laadunhallinta, riskiarvioinnit, datahallinto ja rekisteröinti
• Useimmat Intric-asiakkaat ovat käyttäjätahoja, eivät tarjoajia – mutta asiakkaat, jotka jakavat assistenttejaan ulkoisesti, tulevat jatkoketjun tarjoajiksi tarjoajatason velvoitteineen

Testaa tietosi

4 kysymystä · 100 % oikein läpäistäksesi · Tarkista vastaukset lopussa

Aloita tietovisa →