I tuoi obblighi

Introduzione

🎯 Obiettivi di apprendimento

Capire come i requisiti derivano dal tuo ruolo e dalla classe di rischio
Conoscere l’obbligo di base che si applica a tutti: l’alfabetizzazione AI
Capire quali requisiti aggiuntivi si applicano ai sistemi ad alto rischio
Sapere quali requisiti GPAI si applicano a fornitori e deployer

I requisiti derivano dal ruolo di un’organizzazione (fornitore o deployer) e dalla classe di rischio intrinseca o dalle esigenze di trasparenza. I sistemi AI fuori ambito non hanno requisiti.

Questa sezione ti guida attraverso i requisiti dal più leggero al più pesante.

Alfabetizzazione AI — si applica a tutti

Per chi è coinvolto, il requisito di base sia per i fornitori che per i deployer è l’alfabetizzazione AI. Chiunque lavori sul sistema dal lato dei fornitori e chiunque utilizzi o governi il sistema dal lato dei deployer deve avere un “livello sufficiente” di alfabetizzazione AI.

Non esistono ulteriori requisiti o specifiche, quindi fornitori e deployer sono liberi di scegliere come soddisfare questo requisito, purché il “livello sufficiente” tenga conto delle conoscenze tecniche delle persone, della loro esperienza, istruzione e formazione, del contesto in cui i sistemi AI verranno utilizzati e delle persone su cui il sistema AI verrà utilizzato.

Esempio di alfabetizzazione AI insufficiente: Ai tirocinanti estivi delle scuole superiori viene concesso l’accesso a un assistente il primo giorno e viene detto loro di guardare i video di formazione prima di utilizzarlo. Il loro responsabile non tiene conto della loro età né esplora le loro conoscenze AI esistenti, né monitora il loro utilizzo dell’assistente nei primi giorni.

Requisiti di trasparenza

Se il tuo sistema AI ha requisiti di trasparenza (cosa che la maggior parte dei GPAI e dei sistemi costruiti su di essi fa), esistono obblighi per fornitori e deployer.

Per i deployer: Nessun requisito specifico.

Per i fornitori: Il requisito qui è semplicemente garantire che la persona che interagisce con un sistema sappia che questo sistema non è umano. Se la persona sta vedendo un output, sa che questo output non proviene da un essere umano.

Requisiti per i sistemi AI ad alto rischio

Se il tuo sistema AI rientra in un’area ad alto rischio, si applicano requisiti aggiuntivi. I requisiti differiscono in base al ruolo.

Deployer di sistemi ad alto rischio

Supervisione umana: Garantire una reale supervisione umana da parte di persone con la giusta autorità e competenza. Un essere umano deve avere sempre l’ultima parola. Il fornitore deve rendere fattibile per il deployer esercitare questa supervisione.
Notifica ai dipendenti: Se il sistema viene utilizzato sul luogo di lavoro, notificarlo ai dipendenti e ai sindacati.
Notifica alle persone interessate: Se il sistema è coinvolto nel supporto decisionale o nel processo decisionale che riguarda le persone, notificare a queste persone che il sistema è in uso.
Dati di input corretti: Garantire che vengano inseriti nell’assistente solo dati (input) pertinenti e appropriati.
Uso in conformità alle istruzioni: L’assistente deve essere utilizzato esclusivamente in conformità alle istruzioni per l’uso fornite dal fornitore.
Monitoraggio e registrazione: Monitorare l’utilizzo del sistema e registrare determinati eventi in modo sistematico.
Registrazione presso le autorità: Il sistema deve essere registrato in un registro pubblico a livello europeo o nazionale.
Privacy (DPIA): Effettuare una Valutazione d’Impatto sulla Protezione dei Dati (DPIA) se la soluzione tratta dati personali.

Fornitori di sistemi ad alto rischio

La maggior parte di questi requisiti non si applicherà ai clienti di Intric, che saranno solo deployer. Ma Intric, e qualsiasi cliente che utilizzi widget per rendere i propri assistenti disponibili ad altre organizzazioni, ha questi requisiti. Intric soddisfa questi requisiti per la piattaforma nel suo complesso, mentre un fornitore a valle deve pensare solo all’assistente che sta condividendo:

Gestione della qualità: Stabilire e mantenere un sistema formale di gestione della qualità per l’assistente.
Valutazioni del rischio: Effettuare e documentare valutazioni formali del rischio prima e durante la condivisione.
Governance dei dati: Stabilire procedure rigorose per la gestione e la qualità dei dati.
Registrazione presso le autorità: Registrare l’assistente come sistema ad alto rischio.
Monitoraggio e registrazione: Implementare un monitoraggio sistematico e la registrazione di come il sistema funziona e viene utilizzato dagli altri enti.

Requisiti per i GPAI

I GPAI hanno i propri requisiti, separati dalla classificazione ad alto rischio.

Per i fornitori di GPAI

Il modo più semplice per soddisfare tutti i requisiti è compilare il Codice di Pratiche volontario: digital-strategy.ec.europa.eu/en/policies/contents-code-gpai. I requisiti riguardano la documentazione (in particolare per i fornitori che vogliono utilizzare i propri modelli GPAI nei loro sistemi AI), la trasparenza e le norme esistenti relative al diritto d’autore.

I modelli con rischi sistemici richiedono anche valutazione, sicurezza informatica e monitoraggio degli incidenti. Questi fornitori devono affrontare i rischi sistemici.

Per i deployer di GPAI

Nessun requisito specifico per i deployer di GPAI, sebbene ci sarà molta sovrapposizione tra il deploying di un GPAI e il deploying di un sistema AI con requisiti di trasparenza.

Punti chiave

L’alfabetizzazione AI è il requisito di base per tutti
Gli obblighi di trasparenza ricadono principalmente sui fornitori: garantire che la persona che interagisce sappia che il sistema non è umano
I deployer ad alto rischio hanno obblighi significativi: supervisione umana, notifica ai dipendenti, notifica alle persone interessate, dati di input corretti, monitoraggio, registrazione e iscrizione
I fornitori ad alto rischio hanno l’onere più pesante: gestione della qualità, valutazioni del rischio, governance dei dati e registrazione
La maggior parte dei clienti di Intric sono deployer, non fornitori — ma i clienti che condividono assistenti esternamente diventano fornitori a valle con obblighi a livello di fornitore

Metti alla prova le tue conoscenze

4 domande · 100% per superarlo · Rivedi le risposte al termine