Dina skyldigheter
Introduktion
Section titled “Introduktion”🎯 Lärandemål
- Förstå hur krav härleds från din roll och riskklass
- Känna till den grundläggande skyldigheten som gäller alla: AI-kompetens
- Förstå vilka ytterligare krav som gäller för högrisk-system
- Veta vilka GPAI-krav som gäller för leverantörer och driftsansvariga
Krav härleds från en organisations roll (leverantör eller driftsansvarig) och den inneboende riskklassen eller transparenskraven. AI-system som är utanför scope har inga krav.
Det här avsnittet tar dig igenom kraven från lättaste till tyngsta.
AI-kompetens — gäller alla
Section titled “AI-kompetens — gäller alla”För de som använder AI-system är det grundläggande kravet för både leverantörer och driftsansvariga AI-kompetens. Den som arbetar med systemet på leverantörens sida, och den som använder eller styr systemet på den driftsansvariges sida, måste ha en “tillräcklig nivå” av AI-kompetens.
Det finns inga ytterligare krav eller specifikationer, så leverantörer och driftsansvariga är fria att välja hur de uppfyller det kravet, så länge “tillräcklig nivå” tar hänsyn till personers tekniska kunskaper, erfarenhet, utbildning och träning, det sammanhang AI-systemen ska användas i, och de personer som AI-systemet kommer att användas på.
Exempel på otillräcklig AI-kompetens: Gymnasieelever som är sommarjobbare ges tillgång till en assistent sin första dag och uppmanas att titta på utbildningsvideorna innan de använder den. Deras chef tar inte hänsyn till deras ålder eller undersöker deras befintliga AI-kunskaper, och övervakar inte heller deras användning av assistenten under de första dagarna.
Transparenskrav
Section titled “Transparenskrav”Om ditt AI-system har transparenskrav (vilket de flesta GPAIs och system som bygger på dem har) finns det skyldigheter för leverantörer och driftsansvariga.
För driftsansvariga: Inga specifika krav.
För leverantörer: Kravet här är helt enkelt att se till att den person som interagerar med ett system vet att systemet inte är mänskligt. Om personen ser utdata ska de veta att utdata inte kom från en människa.
Krav för högrisk-AI-system
Om ditt AI-system faller inom ett högriskområde gäller ytterligare krav. Kraven skiljer sig åt beroende på roll.
Driftsansvariga för högrisk-system
Section titled “Driftsansvariga för högrisk-system”- Mänsklig tillsyn: Säkerställ verklig mänsklig tillsyn av personer med rätt befogenhet och kompetens. En människa måste alltid ha sista ordet. Leverantören måste göra det möjligt för den driftsansvariga att utöva denna tillsyn.
- Medarbetarinformation: Om systemet används på arbetsplatsen, informera anställda och fackföreningar.
- Information till berörda personer: Om systemet är involverat i beslutsstöd eller beslutsfattande som påverkar människor, informera dessa personer om att systemet används.
- Korrekt indata: Se till att bara relevant och lämplig data (indata) matas in i assistenten.
- Användning i enlighet med anvisningar: Assistenten måste uteslutande användas i enlighet med de bruksanvisningar som leverantören tillhandahåller.
- Övervakning och loggning: Övervaka användningen av systemet och logga vissa händelser systematiskt.
- Registrering hos myndigheter: Systemet måste registreras i ett offentligt register på EU- eller nationell nivå.
- Integritet (DPIA): Genomför en konsekvensbedömning avseende dataskydd (DPIA) om lösningen behandlar personuppgifter.
Leverantörer av högrisk-system
Section titled “Leverantörer av högrisk-system”De flesta av dessa krav gäller inte Intrics kunder, som bara är driftsansvariga. Men Intric, och kunder som använder widgets för att göra sina assistenter tillgängliga för andra organisationer, har dessa krav. Intric uppfyller dessa krav för plattformen som helhet, medan en nedströmsleverantör bara behöver tänka på den assistent de delar:
- Kvalitetsledning: Upprätta och underhåll ett formellt kvalitetsledningssystem för assistenten.
- Riskbedömningar: Genomför och dokumentera formella riskbedömningar före och under delning.
- Datastyrning: Upprätta strikta rutiner för datahantering och datakvalitet.
- Registrering hos myndigheter: Registrera assistenten som ett högrisk-system.
- Övervakning och loggning: Implementera systematisk övervakning och loggning av hur systemet presterar och används av de andra kommunerna.
Krav för GPAIs
Section titled “Krav för GPAIs”GPAIs har egna krav, skilda från högrisk-klassificeringen.
För leverantörer av GPAIs
Section titled “För leverantörer av GPAIs”Det enklaste sättet att uppfylla alla krav är att fylla i den frivilliga uppförandekoden: digital-strategy.ec.europa.eu/en/policies/contents-code-gpai. Kraven rör dokumentation (särskilt för leverantörer som vill använda sina GPAI-modeller i egna AI-system), transparens och befintliga upphovsrättsregler.
Modeller med systemrisker kräver också utvärdering, cybersäkerhet och övervakning av incidenter. Dessa leverantörer förväntas hantera systemrisker.
För driftsansvariga av GPAIs
Section titled “För driftsansvariga av GPAIs”Inga specifika krav för driftsansvariga av GPAIs, även om det kommer att finnas stora överlapp mellan att drifta en GPAI och att drifta ett AI-system med transparenskrav.
Viktiga lärdomar
Section titled “Viktiga lärdomar”- AI-kompetens är grundkravet för alla
- Transparens-skyldigheter faller främst på leverantörer: se till att den person som interagerar vet att systemet inte är mänskligt
- Driftsansvariga för högrisk-system har betydande skyldigheter: mänsklig tillsyn, information till anställda, information till berörda personer, korrekt indata, övervakning, loggning och registrering
- Leverantörer av högrisk-system bär den tyngsta bördan: kvalitetsledning, riskbedömningar, datastyrning och registrering
- De flesta Intric-kunder är driftsansvariga, inte leverantörer — men kunder som delar assistenter externt blir nedströmsleverantörer med leverantörsnivåskyldigheter
Testa dina kunskaper
4 frågor · 100 % rätt för att godkännas · Granska svar när du är klar