Risikoklasser

Introduksjon

🎯 Læringsmål

Forstå hvordan AI Act klassifiserer risiko — og hvorfor «lav risiko» og «minimal risiko» ikke er reelle kategorier
Vite hvilke AI-systemer som er forbudt og hvilke som er høyrisiko
Forstå transparenskrav og systemrisiko for GPAIer
Forstå rollen til tiltenkt formål og rimelig forutsigbart misbruk

En risikobasert tilnærming til beskyttelse av grunnleggende rettigheter

EUs AI Act tar en risikobasert tilnærming, noe som er et viktig skille fra mange andre reguleringer.

Poenget med AI Act er ikke å klassifisere alle AI-systemer — det ville vært umulig å si noe meningsfylt om alle tekstgenereringsapper eller alle maskinlæringsalgoritmer. Poenget er heller å regulere systemene som mest sannsynlig utgjør risikoer for menneskers helse, sikkerhet og andre grunnleggende rettigheter.

Helse og sikkerhet er enkle å forstå. Ytterligere grunnleggende rettigheter er nedfelt i EUs charter om grunnleggende rettigheter. Disse inkluderer:

Retten til god offentlig forvaltning, som retten til å bli hørt i saker som angår deg
Beskyttelse av personopplysningene dine
Retten til utdanning og tilgang til yrkesrettet og videre opplæring
Retten til å arbeide og til å velge yrke fritt
Retten til ikke-diskriminering
Arbeidstakeres rett til informasjon og konsultasjon

Det er beskyttelsen av disse rettighetene, ikke klassifiseringen av AI-systemer, som er lovens hensikt.

Loven har bestemt at enkelte AI-systemer iboende utgjør større risiko for disse rettighetene enn andre, og de reguleres derfor direkte. I andre tilfeller peker loven spesifikt på eksisterende regulering som må følges i tillegg, som GDPR.

Det finnes bare to kategorier av iboende, eller forhåndsbestemte, risikoklasser: de med en uakseptabel mengde risiko, og de som er iboende høyrisiko.

Uakseptabel risiko — forbudte systemer

Den aller første setningen i artikkel 1 er: «Menneskelig verdighet er ukrenkelig. Den skal respekteres og beskyttes.» En grunnleggende rettighet er respekten for din fysiske og mentale integritet. Det er bare et fåtall AI-systemer som anses å ha et uakseptabelt høyt risikonivå og derfor er forbudt — og mange av dem handler om å manipulere eller overvåke mennesker på en måte som hindrer dem i å ta beslutninger de ellers ville tatt, eller som begrenser tilgangen til muligheter til å blomstre.

De fleste forbudte AI-systemer er ikke relevante for hvordan kundene våre bruker Intric. Men det er verdt å nevne aktivitetene som ville gjøre et AI-system forbudt:

Manipulere eller lure mennesker for å svekke beslutningsevnen deres
Utnytte sårbarheter
Evaluering eller sosial skåring som fører til skadelig behandling av visse grupper
Vurdere personers risiko for å begå kriminalitet
Opprette/utvide ansiktsgjenkjenningsdatabaser gjennom målrettet innsamling
Slutte seg til ansattes eller elevers følelser på arbeidsplassen eller i utdanningsinstitusjoner
Biometrisk kategorisering brukt til å slutte seg til ting som rase, politiske meninger, fagforeningsmedlemskap, kjønn, religiøs tro
Noen former for sanntids fjernbiometrisk overvåking av politiet

Iboende høyrisiko AI-systemer

Logikken i denne risikoklassen er annerledes enn for uakseptabel risiko. De ovennevnte AI-systemene er forbudt basert på funksjonene de utfører. Her kategoriseres AI-systemer som høyrisiko etter området der de opererer.

De tre første er mest relevante for Intrics kunder.

Tilgang til og bruk av grunnleggende private tjenester og grunnleggende offentlige tjenester og ytelser (høyrisikoområde 1)

Ikke alle AI-systemer brukt i viktige private eller offentlige tjenester er høyrisiko — vekten ligger på om AI-systemet påvirker menneskers mulighet til å få tilgang til eller bruke disse tjenestene.

Høyrisikobruk er:

Når AI-systemer brukes til å vurdere folks rettigheter til disse tjenestene, eller til å gi, endre eller fjerne disse tjenestene. Helsevesenet er eksplisitt nevnt.
Fastsettelse av kredittverdighet eller kredittscore
Risikovurdering eller prissetting knyttet til livsforsikring eller helseforsikring
Brukt i nødanropssentraler eller nødetatsresponssystemer, inkludert politi, brannvesen, medisinsk hjelp og akuttriagering.

Eksempel: Et AI-system som gir saksbehandlere et narrativt sammendrag av søknader om arbeidsledighetsstøtte, ville være høyrisiko.

Sysselsetting, arbeidsledelse og tilgang til selvstendig næringsvirksomhet (høyrisikoområde 2)

Ikke alle AI-systemer brukt på dette området er høyrisiko. Bare de som brukes i rekruttering eller utvelgelse til jobber, til å plassere målrettede annonser, analysere og filtrere søknader, eller evaluere kandidater. En annen kategori er når de brukes til å ta beslutninger som påvirker arbeidsvilkår, som forfremmelser eller oppsigelser, oppgavetildeling basert på atferd eller egenskaper, eller til å overvåke og evaluere prestasjoner på arbeidsplassen.

Eksempel: Et AI-system som rangerer jobbkandidater etter en numerisk «arbeidsplasskompatibilitets»-score, ville være høyrisiko. Vi har godt kunnskapsgrunnlag for at rekrutterere lett lar seg påvirke av kandidatrangeringer i digitale verktøy.

Utdanning og yrkesopplæring (høyrisikoområde 3)

Ikke alle AI-systemer brukt på dette området er høyrisiko. Bare de som:

brukes til å avgjøre tilgang eller opptak,
til å evaluere læringsutbytte, inkludert når utbytte brukes til å styre læringsprosessen,
til å vurdere utdanningsnivået noen vil motta, eller
til å overvåke eller oppdage forbudt elevaktferd under prøver.

Eksempel: Et AI-system som bruker historiske prøvedata til å forutsi om enkeltStudenter har jukset på nye eksamener, ville være høyrisiko. Det samme ville gjelde et AI-system som bruker bærbare kameraer til å skanne studenters kroppsspråk under hjemmetester for å vurdere om studenten jukser.

Andre høyrisikoområder

Mindre relevante for Intric er disse ytterligere områdene. AI Act spesifiserer at en forutsetning er at slike systemer allerede er tillatt etter EU-lovgivning:

Rettshåndhevelse
Sikkerhetskomponenter i kritisk infrastruktur, veitrafikk eller forsyning av vann, gass, varme eller elektrisitet
Biometri
Migrasjons-, asyl- og grensekontrollhåndtering
Brukt av rettslige myndigheter eller på deres vegne, tvisteløsning
Brukt til å påvirke stemmegivning eller valgresultater.

Allerede regulerte produkter og systemer

Den andre kategorien høyrisikosystemer er de som allerede er regulert av ulike europeiske lover: sikkerhetskomponenter i produkter, leker, medisinsk utstyr, heiser, personlig verneutstyr, kjøretøy, jernbanesystemer og så videre.

Eksempel: Mot slutten av 2025 ble en teddybjørn som brukte GPT-4o og talegjenkjenningsteknologi til å chatte med barn trukket fra det amerikanske markedet, etter at en forbrukerorganisasjon gjennomførte sikkerhetstester og fikk teddybjørnen til å snakke om seksuelle emner og vold. I EU ville dette leketøyet ha vært regulert av sektorspesifikk regulering i tillegg til AI Act.

Kreve unntak fra høyrisikoklassifiseringen

Det finnes fire klare unntak. Hvis AI-systemet ditt klassifiseres som iboende høyrisiko, kan du hevde at det i realiteten ikke utgjør en risiko for helse, sikkerhet eller grunnleggende menneskerettigheter.

For å kunne hevde dette unntaket må systemet ditt oppfylle ett av følgende kriterier — og her gjengir vi den nøyaktige ordlyden fra loven:

ment å utføre en smal prosedyremessig oppgave;
ment å forbedre resultatet av en tidligere fullført menneskelig aktivitet;
ment å oppdage beslutnings mønstre eller avvik fra tidligere beslutnings mønstre og ikke ment å erstatte eller påvirke den tidligere fullførte menneskelige vurderingen, uten riktig menneskelig gjennomgang; eller
ment å utføre en forberedende oppgave for en vurdering som er relevant for et høyrisikosystem, med unntak av systemene som allerede er regulert.

Mange maskinlæringsalgoritmer for å oppdage avvik i enorme datasett (på grunn av menneskelig feil eller svindel) vil klassifiseres her. Faktisk gjelder disse unntakene primært for AI-systemer som ikke er generative.

For å kreve unntak trenger du bare å rapportere dette til en EU-database. Utover det har du ingen andre krav som gjelder for brukere eller tilbydere av høyrisikosystemer. Hvis du krever unntak på falsk grunnlag, er boten 750 000 euro.

Merk at hvis AI-systemet ditt profilerer mennesker, vil du ikke kunne kreve unntak.

Eksempel: AI-systemet ditt analyserer fullførte saksbehandlingstider basert på et utvalg emne- og saksbehandleregenskaper. Ingen enkeltpersoner er identifiserbare i denne prosessen, så systemet er ikke en form for ansattstyring. Du bruker det til å identifisere om visse grupper innbyggere mottar tregere vedtak, eller om visse emner virker vanskeligere for saksbehandlere, for å prioritere fremtidig opplæring. Men! Hvis du begynner å bruke dette systemet til å gruppere ansatte som bedre eller dårligere presterende, faller det inn i høyrisikoområdet.

Transparenskrav

Separat fra om AI-systemet ditt er høyrisiko, er spørsmålet om systemet har spesifikke transparenskrav. Når det ville være en risiko for noen hvis transparens manglet, kreves transparens. Dette refererer i praksis til å gjøre det svært tydelig for en bruker at det de ser, hører eller samhandler med, er et AI-system.

Hvis et system gjør noen av følgende, gjelder transparenskrav:

Samhandler med en person
Genererer tekst, lyd, bilde eller video
Genererer eller manipulerer bilde, lyd eller video slik at det utgjør en deepfake. (Tekst er ikke inkludert her)
Gjenkjenner følelser eller utfører biometrisk kategorisering
Genererer tekst som publiseres for å informere offentligheten om saker av offentlig interesse

I praksis vil de fleste GPAIer og systemer som bruker dem automatisk ha transparenskrav.

Dypdykk — chatboter: I tidlig opplæringsmateriell ble «chatboter» listet som et eksempel på et AI-system som bare krevde transparens — dette var før GPAI-drevne chatboter ble utbredt. Nå ville en chatbot bare kreve transparens hvis den var drevet av en enklere språkmodell. Tenk på når du prøver å kontakte kundeservice via et chatvindu; du skriver spørsmålet ditt og chatboten svarer med: «Er ett av disse seks emnene det du spør om?» Dette er et eksempel på en ikke-GPAI-chatbot. Den kan ikke snakke med deg som en GPAI-chatbot kan, men den har en begrenset evne til å analysere spørsmålene dine. Selskapet trenger bare å være transparent overfor deg om at det er et AI-system.

Systemrisiko for GPAIer

I stedet for å forsøke å plassere GPAIer i risikoklassifiseringen ovenfor, valgte AI Act å bruke begrepet «systemrisiko». Loven skriver at noen GPAIer kan innebære systemrisiko hvis:

GPAIen er svært kapabel, som indikert av en stor mengde beregning brukt i treningen,
GPAIen er mye brukt (som mange håper på) og derfor har stor innvirkning på markedet, eller
Kommisjonen bestemmer at den har systemrisiko.

I praksis klassifiseres de fleste store språkmodeller som å ha systemrisiko.

En modell klassifiseres ikke som å ha «lav» eller «ingen» systemrisiko; loven refererer bare til GPAIer og GPAIer med systemrisiko.

Beslutningstaking er ikke knyttet til risikoklasse

Mange organisasjoner håper at prosedyrer med mennesker i beslutningsløypen — det vil si bare AI-beslutningsstøtte og ikke fullstendig beslutningstaking — kan redusere risikoklassen. Det er ikke slik lovens logikk fungerer. Høyrisikobetegnelsen har faktisk ingenting å gjøre med beslutningstaking og om et menneske er involvert eller ikke. Det som betyr mer, er om AI-systemet ditt er i et område som anses å innebære iboende høy risiko for helse, sikkerhet eller grunnleggende rettigheter.

Men hvis du er tilbyder av et høyrisikosystem, må du sikre at mennesker har evnen til å forstå resultatet, til å gripe inn eller stoppe systemet — dette er hva som menes med «menneskelig tilsyn».

I tillegg, hvis du er en offentlig sektor-bruker av et høyrisikosystem og AI-systemet ditt er involvert i beslutningsstøtte eller beslutningstaking som påvirker mennesker, må du informere de berørte personene.

AI-systemer utenfor scope

Etter å ha lest denne delen, hvis du kan tenke deg et AI-system som ikke oppfyller noen av de iboende risikoklassifiseringene, som ikke har transparenskrav, ikke er en GPAI, og du ikke kan tenke deg noen måte tiltenkt bruk eller misbruk kunne true helse, sikkerhet eller grunnleggende rettigheter — da kan det systemet falle utenfor AI Acts virkeområde. Verken tilbyderen eller brukeren har noen krav.

Husk at Europakommisjonen ikke har til hensikt å presentere en uttømmende liste over alle AI-systemer. Kommisjonen forventer at alle aktører bruker sin egen vurdering.

Mange eksempler på systemer utenfor scope er «tradisjonelle» maskinlæringsalgoritmer:

Anbefalingsalgoritmer på en strømmeplattform. Resultatet er rekkefølgen innhold presenteres i for deg.
Et AI-system brukt til å styre en ikke-spillbar karakter i et spill, eller til å generere dynamisk spilloppførsel.
Spamfilteret brukt av e-postleverandøren din er et klassisk eksempel på en maskinlæringsalgoritme som bruker naturlig språkbehandling. Det faller ikke inn under noen av de uakseptable eller høyrisikoområdene. Det genererer heller ikke tekst, bare en beslutning om en e-post sendes til spam-mappen eller innboksen, og ingen samhandler med det, så det er ingen transparenskrav.

Viktige lærepunkter

Det finnes bare to forhåndsbestemte risikoklasser i loven: uakseptabel risiko (forbudt) og iboende høy risiko. «Lav risiko» og «minimal risiko» er ikke kategorier i loven.
Høyrisikoklassifisering er basert på operasjonsområdet, ikke funksjonen som utføres eller om et menneske er i beslutningsløypen.
De fleste GPAIer og systemer bygget på dem har automatisk transparenskrav.
Tilbydere og brukere må identifisere risikoer knyttet til tiltenkt formål, rimelig forutsigbart misbruk og sårbare grupper — men ikke alle mulige risikoer.
Hvis et system er utenfor scope, har verken tilbyderen eller brukeren noen krav.

Test kunnskapen din

6 spørsmål · 100 % riktige for å bestå · Gå gjennom svar når du er ferdig