Cosa comporta per la propria organizzazione

Gli obblighi previsti dal Regolamento UE sull’IA (AI Act) sono determinati da due fattori: la classe di rischio dell’assistente (a cosa serve) e il ruolo dell’organizzazione (se l’assistente viene condiviso al di fuori dell’organizzazione stessa).

Di seguito sono riportati i tre scenari più comuni per le organizzazioni che utilizzano Intric, con la checklist completa dei requisiti per ciascuno.

Non si è sicuri di quale scenario si applichi?

Seguire la procedura di valutazione passo dopo passo per scoprirlo.

Scenario A: Deployer, non ad alto rischio

Questo è lo scenario più comune. L’assistente è utilizzato internamente per attività che non rientrano in un’area ad alto rischio, oppure per le quali è applicabile una valida eccezione.

Esempi: Redazione di annunci di lavoro sulla base di modelli, sintesi di report, risposta a domande su regole e procedure interne, controllo qualità di documenti dopo che un essere umano ha già completato la valutazione.

Obblighi:

Alfabetizzazione all’IA: Garantire che tutti gli utenti dispongano di conoscenze sufficienti per utilizzare la piattaforma in modo sicuro e prendere decisioni informate sui contenuti generati da Intric.

Scenario B: Deployer, ad alto rischio

L’assistente opera in un’area ad alto rischio, come l’accesso ai servizi di welfare, l’occupazione e la selezione del personale, o l’istruzione, e influenza decisioni che incidono sugli individui.

Esempi: Un assistente che supporta la gestione dei casi per le domande di assistenza sociale, o che ordina e valuta i candidati in un processo di selezione del personale.

Obblighi:

Supervisione umana: Garantire una reale supervisione umana da parte di persone con la giusta autorità e competenza. Un essere umano deve avere sempre l’ultima parola.
Notifica a dipendenti e sindacati: Informare i rappresentanti dei lavoratori e i dipendenti prima che il sistema venga messo in uso sul posto di lavoro.
Notifica alle persone interessate: Le persone interessate da decisioni assistite dall’IA (es. i candidati) devono essere informate che l’IA viene utilizzata come supporto decisionale o nel processo decisionale.
Correttezza dei dati di input: Garantire che all’assistente vengano forniti solo dati rilevanti e appropriati.
Utilizzo in conformità alle istruzioni: L’assistente deve essere utilizzato in conformità alle istruzioni per l’uso di Intric.
Monitoraggio e registrazione: Monitorare l’utilizzo in modo sistematico e registrare gli eventi rilevanti.
Registrazione presso le autorità: Registrare il sistema nel registro pubblico pertinente (es. Nkom in Norvegia).
DPIA: Effettuare una Valutazione d’Impatto sulla Protezione dei Dati se l’assistente tratta dati personali.

Scenario C: Fornitore downstream, ad alto rischio

È stato creato un assistente ad alto rischio e si condivide l’accesso effettivo al sistema con un’altra organizzazione, ad esempio tramite la funzionalità widget di Intric. In tal caso si assumono obblighi a livello di fornitore per quell’assistente.

Nota: La condivisione di un prompt tramite la Libreria Assistenti non configura la qualità di fornitore downstream. Si applica esclusivamente quando si fornisce a un’altra organizzazione accesso diretto a un assistente creato dalla propria organizzazione.

Esempio: La propria organizzazione ha creato un assistente per la valutazione delle domande di permesso edilizio e ne concede l’accesso a un’organizzazione partner nell’ambito di una collaborazione inter-organizzativa.

Gli obblighi comprendono tutto quanto previsto nello Scenario B, più:

Gestione della qualità: Istituire e mantenere un sistema formale di gestione della qualità per l’assistente.
Valutazioni del rischio: Effettuare e documentare valutazioni formali del rischio prima e durante la condivisione.
Governance dei dati: Definire procedure per la gestione e la qualità dei dati.
Registrazione: Registrare l’assistente come sistema ad alto rischio presso l’autorità competente.
Monitoraggio e registrazione: Implementare un monitoraggio sistematico delle modalità di utilizzo e delle prestazioni dell’assistente da parte dell’organizzazione ricevente.

Obblighi di trasparenza

Anche se l’assistente non è ad alto rischio, potrebbero sussistere obblighi di trasparenza ai sensi dell’art. 50 dell’AI Act. Verificare se si applica una delle seguenti situazioni:

Situazione	Obbligo
L’assistente interagisce direttamente con le persone (es. tramite widget, chatbot o portale per i cittadini)	Gli utenti devono essere chiaramente informati che stanno interagendo con un sistema di IA
L’assistente genera testi destinati a informare il pubblico su questioni di interesse pubblico	Il testo deve essere contrassegnato come generato dall’IA
L’assistente riconosce emozioni o effettua categorizzazioni biometriche	Le persone interessate devono essere informate
L’assistente genera o manipola immagini, audio o video che potrebbero costituire un deepfake	Il contenuto deve essere contrassegnato come generato o manipolato dall’IA

Si desidera una valutazione guidata?

L’AI Act Screening Assistant nella Libreria Assistenti guida passo dopo passo attraverso l’intero albero decisionale, in norvegese o in inglese. Produce una conclusione documentata con riferimenti normativi che può essere salvata e utilizzata come documentazione di conformità.