Risikoklasse: Hva brukes assistenten til?
Risikoklassen avgjøres av hva formålet med KI-assistenten er. KI-forordningen deler bruken inn i ulike kategorier:
| Kategori | Beskrivelse og typiske kommunale områder | Viktige presiseringer og unntak |
|---|---|---|
| Høy-risiko | Bruk innen utdanning, arbeidsliv og rekruttering, tilgang til viktige tjenester (inkl. velferd), og demokratiske prosesser. | Unntak: Hvis assistenten utfører en avgrenset, prosedyremessig oppgave som ikke utgjør risiko for helse, sikkerhet eller grunnleggende rettigheter, kan man påberope seg unntak. |
| Ikke høy-risiko | Bruk som utgjør minimal risiko. Dette er for eksempel oppgaver som utfører en rent avgrenset prosedyre, eller som ikke er ment å erstatte/vesentlig påvirke en menneskelig vurdering. | |
| Forbudt bruk | Systemer med uakseptabel risiko for grunnleggende rettigheter (f.eks. bevisst manipulering, sosial skåring, vurdering av persons risiko for å begå kriminalitet). | Stort sett uaktuelt for kommuner. |
Unntak: Slik vurderer dere risiko i praksis
Section titled “Unntak: Slik vurderer dere risiko i praksis”Unntak er svært vanlig for kommunal bruk av KI-assistenter. Selv om en assistent brukes innenfor et område som i utgangspunktet er definert som høyrisiko (som utdanning eller velferd), kan bruken få unntak fra de strengeste kravene. Dette gjelder spesielt hvis assistenten:
- Ikke er ment for å erstatte eller påvirke en menneskelig vurdering.
- Er beregnet på å utføre en avgrenset, prosedyremessig oppgave.
For å illustrere at det finnes mange trygge og svært nyttige bruksområder som ikke klassifiseres som høyrisiko, kan vi se på to typiske eksempler fra kommunal hverdag:
Eksempel 1: Kvalitetssikring av sakspapirer (Menneskelig vurdering beholdes)
En rådgiver bruker en KI-assistent til å kvalitetssikre sakspapirer som skal sendes til bystyret. KI-assistenten henviser til aktuelle maler og gir tilbakemeldinger på dokumentene: Den sjekker at tidligere saksnumre er referert på riktig sted, at innholdet oppfyller minimumskravene, og at den skriftlige stilen oppfyller Språklovens krav til klarspråk.
- Hvorfor er dette et unntak? KI-assistenten brukes kun for å forbedre kvaliteten på arbeidet som saksbehandlerne allerede har gjort. Rådgiveren leser gjennom tilbakemeldingene, gjør sine egne vurderinger, og redigerer sakspapirene manuelt før utsending. Assistenten verken erstatter eller fatter egne vedtak.
Eksempel 2: Regeloppslag for skole og SFO (Avgrenset og prosedyremessig)
En skoleavdelingsleder bygger en KI-assistent basert på kommunens egne inntaksforskrifter, opptaksregler og prioriteringskriterier. Formålet er at kolleger enkelt kan slå opp svar på prosedyrespørsmål: Hvilken dokumentasjon kreves ved søknad om SFO? Hva er fristene? Hvordan er nærskolesonegrensene definert?
- Hvorfor er dette et unntak? Selv om dette gjelder “utdanning”, gjør KI-assistenten kun en avgrenset, prosedyremessig oppgave – nemlig å forklare regler som allerede finnes på kommunens nettsider. Den gjør ingen vurdering av et enkelt barn eller en spesifikk sak. Det er den ansatte selv som tar informasjonen, vurderer den, og skriver svar til foreldrene.