Hva det innebærer for deres organisasjon
Deres forpliktelser etter EUs KI-forordning avgjøres av to ting: risikoklassen til assistenten (hva den brukes til) og rollen deres (om dere deler den utenfor organisasjonen).
Nedenfor finner dere de tre vanligste scenarioene for organisasjoner som bruker Intric, sammen med en fullstendig sjekkliste over krav for hvert av dem.
Usikker på hvilket scenario som gjelder for dere?
Scenario A: Idriftssetter, ikke høyrisiko
Section titled “Scenario A: Idriftssetter, ikke høyrisiko”Dette er det vanligste scenarioet. Assistenten brukes internt til oppgaver som ikke faller innenfor et høyrisikoområde, eller der et gyldig unntak gjelder.
Eksempler: Utarbeide stillingsutlysninger basert på maler, oppsummere rapporter, svare på spørsmål om interne regler og rutiner, kvalitetssikre dokumenter etter at et menneske allerede har foretatt vurderingen.
Deres forpliktelser:
- KI-kompetanse: Sørg for at alle brukere har tilstrekkelig kunnskap til å bruke plattformen trygt og ta informerte beslutninger om innholdet Intric genererer.
Scenario B: Idriftssetter, høyrisiko
Section titled “Scenario B: Idriftssetter, høyrisiko”Assistenten opererer i et høyrisikoområde, for eksempel tilgang til velferdstjenester, arbeidsliv og rekruttering, eller utdanning, og den påvirker beslutninger som berører enkeltpersoner.
Eksempler: En assistent som støtter saksbehandling av søknader om sosialhjelp, eller som sorterer og vurderer kandidater i en rekrutteringsprosess.
Deres forpliktelser:
- Menneskelig tilsyn: Sørg for reelt menneskelig tilsyn av personer med riktig myndighet og kompetanse. Et menneske skal alltid ha siste ord.
- Varsle ansatte og fagforeninger: Informer tillitsvalgte og ansatte før systemet tas i bruk på arbeidsplassen.
- Varsle berørte personer: Personer som berøres av KI-assisterte beslutninger (f.eks. søkere) må informeres om at KI brukes som beslutningsstøtte eller i beslutningsprosessen.
- Riktig inndata: Sørg for at kun relevant og hensiktsmessig data brukes som inndata til assistenten.
- Bruk i samsvar med instruksjoner: Assistenten må brukes i samsvar med Intrics bruksanvisninger.
- Overvåking og loggføring: Overvåk bruken systematisk og loggfør relevante hendelser.
- Registrering hos myndighetene: Registrer systemet i det relevante offentlige registeret (Nkom).
- DPIA: Gjennomfør en vurdering av personvernkonsekvenser (DPIA) dersom assistenten behandler personopplysninger.
Scenario C: Nedstrømsleverandør, høyrisiko
Section titled “Scenario C: Nedstrømsleverandør, høyrisiko”Dere har bygget en høyrisiko-assistent og deler faktisk systemtilgang med en annen organisasjon, for eksempel via Intrics widget-funksjonalitet. Dere påtar dere da leverandørforpliktelser for denne assistenten.
Merk: Å dele en prompt via Assistentbiblioteket gjør dere ikke til nedstrømsleverandør. Det gjelder kun når dere gir en annen organisasjon direkte tilgang til en assistent dere har bygget.
Eksempel: Deres organisasjon har bygget en assistent for vurdering av byggesøknader og gir en partnerorganisasjon tilgang til den gjennom et tverretatlig samarbeid.
Deres forpliktelser inkluderer alt i Scenario B, pluss:
- Kvalitetsstyring: Etabler og vedlikehold et formelt kvalitetsstyringssystem for assistenten.
- Risikovurderinger: Gjennomfør og dokumenter formelle risikovurderinger før og under delingen.
- Datastyring: Etabler rutiner for dataforvaltning og datakvalitet.
- Registrering: Registrer assistenten som et høyrisikosystem hos relevant myndighet.
- Overvåking og loggføring: Implementer systematisk overvåking av hvordan assistenten presterer og brukes av mottakerorganisasjonen.
Transparensforpliktelser
Section titled “Transparensforpliktelser”Selv om assistenten ikke er høyrisiko, kan dere ha transparensforpliktelser etter KI-forordningen art. 50. Sjekk om noen av de følgende gjelder:
| Situasjon | Forpliktelse |
|---|---|
| Assistenten interagerer direkte med personer (f.eks. via widget, chatbot eller innbyggerportal) | Brukere må tydelig informeres om at de kommuniserer med et KI-system |
| Assistenten genererer tekst som er ment å informere offentligheten om saker av allmenn interesse | Teksten må merkes som KI-generert |
| Assistenten gjenkjenner følelser eller utfører biometrisk kategorisering | Berørte personer må informeres |
| Assistenten genererer eller manipulerer bilder, lyd eller video som kan utgjøre en deepfake | Innholdet må merkes som KI-generert eller -manipulert |
Ønsker dere en veiledet vurdering?
Section titled “Ønsker dere en veiledet vurdering?”KI-forordningsvurdereren i Assistentbiblioteket leder dere gjennom hele beslutningstreet trinn for trinn, på norsk eller engelsk. Den produserer en dokumentert konklusjon med juridiske referanser som dere kan lagre og bruke som etterlevelsesdokumentasjon.