Riskklass: Vad används assistenten till?
Riskklassen avgörs av syftet med AI-assistenten. AI-förordningen delar in användningen i olika kategorier:
| Kategori | Beskrivning och typiska kommunala områden | Viktiga preciseringar och undantag |
|---|---|---|
| Högrisk | Användning inom utbildning, arbetsmarknad och rekrytering, tillgång till viktiga tjänster (inkl. välfärd) och demokratiska processer. | Undantag: Om assistenten utför en avgränsad, procedurmässig uppgift som inte utgör en risk för hälsa, säkerhet eller grundläggande rättigheter kan man åberopa undantag. |
| Inte högrisk | Användning som utgör minimal risk. Till exempel uppgifter som utför en rent avgränsad procedur, eller som inte är avsedda att ersätta eller väsentligt påverka en mänsklig bedömning. | |
| Förbjuden användning | System med oacceptabel risk för grundläggande rättigheter (t.ex. avsiktlig manipulation, social poängsättning, bedömning av en persons risk att begå brott). | I stort sett irrelevant för kommuner. |
Undantag: Så bedömer ni risk i praktiken
Section titled “Undantag: Så bedömer ni risk i praktiken”Undantag är mycket vanliga för kommunal användning av AI-assistenter. Även om en assistent används inom ett område som ursprungligen definieras som högrisk (till exempel utbildning eller välfärd) kan användningen beviljas undantag från de strängaste kraven. Det gäller särskilt om assistenten:
- Inte är avsedd att ersätta eller påverka en mänsklig bedömning.
- Är utformad för att utföra en avgränsad, procedurmässig uppgift.
Här är två typiska exempel från kommunal vardag som illustrerar att det finns många trygga och mycket användbara användningsfall som inte klassificeras som högrisk:
Exempel 1: Kvalitetssäkring av ärendehandlingar (Mänsklig bedömning behålls)
En rådgivare använder en AI-assistent för att kvalitetssäkra ärendehandlingar innan de skickas till kommunfullmäktige. AI-assistenten hänvisar till relevanta mallar och ger återkoppling på dokumenten: Den kontrollerar att tidigare ärendenummer är refererade på rätt ställe, att innehållet uppfyller minimikraven och att den skriftliga stilen uppfyller klarspråkskraven.
- Varför är detta ett undantag? AI-assistenten används bara för att förbättra kvaliteten på det arbete som handläggarna redan har gjort. Rådgivaren läser igenom återkopplingen, gör sina egna bedömningar och redigerar ärendehandlingarna manuellt innan utskick. Assistenten varken ersätter eller fattar egna beslut.
Exempel 2: Regeluppslag för skola och fritidshem (Avgränsat och procedurmässigt)
En skolchef bygger en AI-assistent baserad på kommunens egna intagningsföreskrifter, antagningsregler och prioriteringskriterier. Syftet är att kollegor enkelt ska kunna slå upp svar på procedurfrågor: Vilken dokumentation krävs vid ansökan om fritidshemsplats? Vilka är tidsfristerna? Hur är upptagningsområdenas gränser definierade?
- Varför är detta ett undantag? Även om detta rör “utbildning” utför AI-assistenten bara en avgränsad, procedurmässig uppgift — nämligen att förklara regler som redan finns på kommunens webbplats. Den gör ingen bedömning av ett enskilt barn eller ett specifikt ärende. Det är den anställde som tar informationen, bedömer den och skriver svar till föräldrarna.