Saker du inte kan göra direkt
Introduktion
Section titled “Introduktion”🎯 Lärandemål
- Förstå varför fullt automatiserade beslut om människor är begränsade
- Veta vad profilering är och varför det kräver extra steg
- Förstå den högre ribba som gäller för känsliga personuppgifter
Vissa AI-användningar med personuppgifter är begränsade oavsett vilken assistent du använder. Dessa begränsningar finns för att riskerna för individer anses vara för höga utan ytterligare skyddsåtgärder. Du märker viss överlappning med EU AI-förordningens högriskategorier — se AI Act-kursen för det perspektivet.
Fullt automatiserade beslut
Section titled “Fullt automatiserade beslut”Du kan inte använda en AI-assistent för att fatta ett slutgiltigt beslut som avsevärt påverkar en person — till exempel om de får ett bidrag, ett tillstånd eller tillgång till en tjänst — utan att en människa granskar och är ansvarig för det beslutet.
Det här är inte bara god praxis; det är ett lagkrav. Individer har rätt att inte bli föremål för ett beslut som enbart grundas på automatiserad behandling om det beslutet har väsentliga konsekvenser för dem.
Nyckelordet är enbart. AI-assisterat beslutsstöd är helt okej — assistenten kan sammanfatta ett ärende, lyfta fram relevanta faktorer eller ge en rekommendation. Vad den inte kan göra är att vara den enda beslutsfattaren. En människa måste genuint granska svaret och ha möjlighet att åsidosätta det, inte bara skriva under det assistenten producerade.
Exempel: En kollega föreslår att låta assistenten automatiskt godkänna eller avslå tillståndsansökningar utan mänsklig kontroll — det är inte tillåtet. En person måste vara ansvarig och ha möjlighet att inte hålla med.
Profilering
Section titled “Profilering”En relaterad begränsning är profilering — att använda AI för att systematiskt utvärdera personliga egenskaper hos någon, som deras prestanda, beteende eller pålitlighet. Även en intern AI-genererad profil kräver en tydlig rättslig grund.
Exempel: Att använda en assistent för att generera ett “prestationspoäng” för anställda faller under detta. En person måste vara ansvarig och kunna åsidosätta bedömningen.
Känsliga personuppgifter — högre ribba
Section titled “Känsliga personuppgifter — högre ribba”Som diskuterades i avsnitt 1 kräver hälsodata, religiösa övertygelser, politiska åsikter, etniskt ursprung och liknande kategorier striktare hantering. Du bör i allmänhet undvika att mata in dessa uppgifter i en assistent om inte:
- Den specifika assistenten är godkänd för det
- Din organisation har bekräftat att det finns en giltig rättslig grund
- En DPIA har genomförts om det krävs
Anonymisera vid osäkerhet — om du kan lösa uppgiften utan att ta med de känsliga detaljerna, gör det.
Testa dina kunskaper
3 frågor · 100 % rätt för att godkännas · Granska svar när du är klar