Ting du ikke kan gjøre med en gang
Introduksjon
Section titled “Introduksjon”🎯 Læringsmål
- Forstå hvorfor fullt automatiserte beslutninger om mennesker er begrenset
- Vite hva profilering er og hvorfor det krever ekstra steg
- Forstå den høyere terskelen som gjelder for særlige kategorier personopplysninger
Noen KI-bruksområder med personopplysninger er begrenset uavhengig av hvilken assistent du bruker. Disse begrensningene finnes fordi risikoen for enkeltpersoner anses som for høy uten ytterligere sikkerhetstiltak. Du vil legge merke til noe overlapp med EU AI-loven sine høyrisikoategorier — se AI Act-kurset for det perspektivet.
Fullt automatiserte beslutninger
Section titled “Fullt automatiserte beslutninger”Du kan ikke bruke en KI-assistent til å fatte en endelig beslutning som vesentlig påvirker en person — for eksempel om de mottar en ytelse, en tillatelse eller tilgang til en tjeneste — uten at et menneske gjennomgår og er ansvarlig for den beslutningen.
Dette er ikke bare god praksis; det er et lovkrav. Enkeltpersoner har rett til ikke å bli underlagt en beslutning basert utelukkende på automatisert behandling dersom den beslutningen har vesentlige konsekvenser for dem.
Nøkkelordet er utelukkende. KI-assistert beslutningsstøtte er helt greit — assistenten kan oppsummere en sak, fremheve relevante faktorer eller komme med en anbefaling. Det den ikke kan gjøre, er å være den eneste beslutningstakeren. Et menneske må genuint gjennomgå outputen og være i stand til å overstyre den, ikke bare godkjenne det assistenten produserte.
Eksempel: En kollega foreslår å la assistenten automatisk godkjenne eller avslå søknader om tillatelse uten menneskelig kontroll — det er ikke tillatt. En person må være ansvarlig og i stand til å være uenig.
Profilering
Section titled “Profilering”En relatert begrensning er profilering — å bruke KI til å systematisk vurdere personlige aspekter ved noen, som prestasjoner, atferd eller pålitelighet. Selv en intern KI-generert profil krever et klart rettslig grunnlag.
Eksempel: Å bruke en assistent til å generere en “prestasjonsscore” for ansatte faller inn under dette. En person må være ansvarlig og i stand til å overstyre vurderingen.
Særlige kategorier — høyere terskel
Section titled “Særlige kategorier — høyere terskel”Som diskutert i seksjon 1 krever helsedata, religiøse overbevisninger, politiske meninger, etnisk opprinnelse og lignende kategorier strengere håndtering. Du bør generelt unngå å mate disse dataene inn i en assistent med mindre:
- Den spesifikke assistenten er godkjent for det
- Organisasjonen din har bekreftet at det er et gyldig rettslig grunnlag
- En DPIA er fullført dersom det kreves
Anonymiser ved tvil — hvis du kan utføre oppgaven uten å inkludere de sensitive detaljene, gjør det.
Test kunnskapen din
3 spørsmål · 100 % riktige for å bestå · Gå gjennom svar når du er ferdig