AI Act · 3 min lesing
Dine forpliktelser
Kravene følger av din rolle og risikoklassen til AI-systemet ditt — fra AI-kompetanse til det fulle settet med høyrisikokrav.
Introduksjon
Section titled “Introduksjon”Læringsmål
- Forstå hvordan krav følger av din rolle og risikoklasse
- Kjenne den grunnleggende forpliktelsen som gjelder for alle: AI-kompetanse
- Forstå hvilke tilleggskrav som gjelder for høyrisikosystemer
- Vite hvilke GPAI-krav som gjelder for tilbydere og brukere
Kravene følger av organisasjonens rolle (tilbyder eller bruker) og den iboende risikoklassen eller transparenskravene. AI-systemer som er utenfor scope har ingen krav.
Denne delen tar deg gjennom krav fra lettest til tyngst.
AI-kompetanse — gjelder for alle
Section titled “AI-kompetanse — gjelder for alle”Den grunnleggende forpliktelsen for både tilbydere og brukere er AI-kompetanse. De som arbeider med systemet fra tilbyderens side, og de som bruker eller styrer systemet fra brukerens side, må ha et «tilstrekkelig nivå» av AI-kompetanse.
Det finnes ingen ytterligere krav eller spesifikasjoner, så tilbydere og brukere kan fritt velge hvordan de oppfyller dette kravet, så lenge det «tilstrekkelige nivået» tar hensyn til folks tekniske kunnskap, erfaring, utdanning og opplæring, konteksten AI-systemene skal brukes i, og personene AI-systemet vil brukes på.
Eksempel på utilstrekkelig AI-kompetanse: Videregående elever i sommerjobb får tilgang til en assistent første dag og får beskjed om å se opplæringsvideoene før de bruker den. Lederen tar ikke hensyn til alderen deres eller undersøker eksisterende AI-kunnskap, og overvåker ikke bruken av assistenten i de første dagene.
Transparenskrav
Section titled “Transparenskrav”Hvis AI-systemet ditt har transparenskrav (som de fleste GPAIer og systemer bygget på dem har), finnes det forpliktelser for tilbydere og brukere.
For brukere: Ingen spesifikke krav.
For tilbydere: Kravet her er ganske enkelt å sikre at personen som samhandler med et system vet at dette systemet ikke er menneskelig. Hvis personen ser resultater, vet de at disse resultatene ikke kom fra et menneske.
Krav for høyrisiko AI-systemer
Hvis AI-systemet ditt faller inn i et høyrisikoområde, gjelder tilleggskrav. Kravene varierer etter rolle.
Brukere av høyrisikosystemer
Section titled “Brukere av høyrisikosystemer”- Menneskelig tilsyn: Sikre reelt menneskelig tilsyn av personer med riktig myndighet og kompetanse. Et menneske må alltid ha det siste ordet. Tilbyderen må gjøre det mulig for brukeren å utøve dette tilsynet.
- Varsling av ansatte: Hvis systemet brukes på arbeidsplassen, varsle ansatte og fagforeninger.
- Varsling av berørte personer: Hvis systemet er involvert i beslutningsstøtte eller beslutningstaking som påvirker mennesker, varsle disse personene om at systemet er i bruk.
- Korrekte inndata: Sikre at bare relevante og passende data (inndata) mates inn i assistenten.
- Bruk i henhold til instruksjoner: Assistenten må brukes utelukkende i henhold til bruksanvisningene gitt av tilbyderen.
- Overvåking og logging: Overvåk bruken av systemet og logg visse hendelser systematisk.
- Registrering hos myndigheter: Systemet må registreres i et offentlig register på EU- eller nasjonalt nivå.
- Personvern (DPIA): Gjennomfør en konsekvensutredning for personvern (DPIA) hvis løsningen behandler personopplysninger.
Tilbydere av høyrisikosystemer
Section titled “Tilbydere av høyrisikosystemer”De fleste av disse kravene vil ikke gjelde for Intrics kunder, som bare vil være brukere. Men Intric, og eventuelle kunder som bruker widgeter til å gjøre assistentene sine tilgjengelige for andre organisasjoner, har disse kravene. Intric oppfyller disse kravene for plattformen som helhet, mens en nedstrøms tilbyder bare trenger å tenke på assistenten de deler:
- Kvalitetsstyring: Etabler og vedlikehold et formelt kvalitetsstyringssystem for assistenten.
- Risikovurderinger: Gjennomfør og dokumenter formelle risikovurderinger før og under deling.
- Datastyring: Etabler strenge rutiner for datahåndtering og datakvalitet.
- Registrering hos myndigheter: Registrer assistenten som et høyrisikosystem.
- Overvåking og logging: Implementer systematisk overvåking og logging av hvordan systemet presterer og brukes av de andre kommunene.
Krav for GPAIer
Section titled “Krav for GPAIer”GPAIer har egne krav, separat fra høyrisikoklassifiseringen.
For tilbydere av GPAIer
Section titled “For tilbydere av GPAIer”Den enkleste måten å oppfylle alle krav på er å fylle ut den frivillige atferdsregelkoden: digital-strategy.ec.europa.eu/en/policies/contents-code-gpai. Kravene gjelder dokumentasjon (særlig for tilbydere som ønsker å bruke GPAI-modellene sine i egne AI-systemer), transparens og eksisterende opphavsrelaterte regler.
Modeller med systemrisiko krever også evaluering, cybersikkerhet og overvåking av hendelser. Disse tilbyderne forventes å adressere systemrisikoer.
For brukere av GPAIer
Section titled “For brukere av GPAIer”Ingen spesifikke krav for brukere av GPAIer, selv om det vil være mye overlapp mellom det å bruke en GPAI og det å bruke et AI-system med transparenskrav.
Viktige lærepunkter
Section titled “Viktige lærepunkter”- AI-kompetanse er grunnkravet for alle
- Transparensforpliktelser faller primært på tilbydere: sikre at personen som samhandler vet at systemet ikke er menneskelig
- Høyrisiko-brukere har betydelige forpliktelser: menneskelig tilsyn, varsling av ansatte, varsling av berørte personer, korrekte inndata, overvåking, logging og registrering
- Høyrisiko-tilbydere bærer den tyngste byrden: kvalitetsstyring, risikovurderinger, datastyring og registrering
- De fleste Intric-kunder er brukere, ikke tilbydere — men kunder som deler assistenter eksternt blir nedstrøms tilbydere med tilbydernivå-forpliktelser
Test kunnskapen din
Spørsmål 1 av 4
Hvem har ansvaret for å registrere et høyrisiko-KI-system hos myndighetene?