Cose che non puoi fare subito
Introduzione
Sezione intitolata “Introduzione”🎯 Obiettivi di apprendimento
- Capire perché le decisioni completamente automatizzate sulle persone sono limitate
- Sapere cos’è la profilazione e perché richiede passaggi aggiuntivi
- Capire la soglia più alta che si applica ai dati di categoria speciale
Alcuni utilizzi dell’IA con dati personali sono limitati indipendentemente dall’assistente che usi. Queste restrizioni esistono perché i rischi per gli individui sono considerati troppo alti senza ulteriori misure di salvaguardia. Noterai alcune sovrapposizioni con le categorie ad alto rischio dell’AI Act dell’UE — consulta il corso sull’AI Act per quella prospettiva.
Decisioni completamente automatizzate
Sezione intitolata “Decisioni completamente automatizzate”Non puoi usare un assistente IA per prendere una decisione finale che abbia conseguenze significative per una persona — ad esempio se riceve un beneficio, un permesso o l’accesso a un servizio — senza che un essere umano la riveda e ne sia responsabile.
Non è solo una buona pratica; è un requisito legale. Le persone hanno il diritto di non essere soggette a una decisione basata esclusivamente su trattamento automatizzato se tale decisione ha conseguenze significative per loro.
La parola chiave è esclusivamente. Il supporto decisionale assistito dall’IA è del tutto corretto — l’assistente può riassumere un caso, evidenziare fattori rilevanti o fornire una raccomandazione. Quello che non può fare è essere l’unico decisore. Un essere umano deve genuinamente revisionare l’output ed essere in grado di ignorarlo, non limitarsi ad approvare ciò che l’assistente ha prodotto.
Esempio: Un collega suggerisce di far approvare o rifiutare automaticamente le domande di permesso senza controllo umano — questo non è consentito. Una persona deve essere responsabile e in grado di dissentire.
Profilazione
Sezione intitolata “Profilazione”Una restrizione correlata è la profilazione — usare l’IA per valutare sistematicamente gli aspetti personali di qualcuno, come le sue prestazioni, il suo comportamento o la sua affidabilità. Anche un profilo interno generato dall’IA richiede una base giuridica chiara.
Esempio: Usare un assistente per generare un “punteggio di prestazione” per i dipendenti rientra in questa categoria. Una persona deve essere responsabile e in grado di contestare la valutazione.
Dati di categoria speciale — soglia più alta
Sezione intitolata “Dati di categoria speciale — soglia più alta”Come discusso nella sezione 1, i dati sanitari, le credenze religiose, le opinioni politiche, l’origine etnica e categorie simili richiedono una gestione più rigorosa. In generale dovresti evitare di inserire questi dati in un assistente a meno che:
- L’assistente specifico sia stato approvato per questo
- La tua organizzazione abbia confermato l’esistenza di una base giuridica valida
- Una DPIA sia stata completata se richiesta
In caso di dubbio, anonimizza — se puoi portare a termine il compito senza includere i dettagli sensibili, fallo.
Metti alla prova le tue conoscenze
3 domande · 100% per superarlo · Rivedi le risposte al termine