Classe di rischio: a cosa serve l'assistente?
La classe di rischio è determinata dallo scopo dell’assistente IA. L’AI Act suddivide l’utilizzo in diverse categorie:
| Categoria | Descrizione e aree comunali tipiche | Precisazioni importanti ed eccezioni |
|---|---|---|
| Alto rischio | Utilizzo in istruzione, occupazione e selezione del personale, accesso a servizi essenziali (incl. welfare) e processi democratici. | Eccezione: Se l’assistente svolge un compito limitato e procedurale che non rappresenta un rischio per la salute, la sicurezza o i diritti fondamentali, è possibile invocare un’eccezione. |
| Rischio non elevato | Utilizzo con rischio minimo. Ad esempio compiti che seguono una procedura puramente limitata, o che non sono destinati a sostituire o influenzare significativamente una valutazione umana. | |
| Utilizzo vietato | Sistemi con rischio inaccettabile per i diritti fondamentali (es. manipolazione deliberata, scoring sociale, valutazione del rischio che una persona commetta un reato). | In gran parte irrilevante per i comuni. |
Eccezione: come valutare il rischio nella pratica
Sezione intitolata “Eccezione: come valutare il rischio nella pratica”Le eccezioni sono molto comuni per l’utilizzo municipale degli assistenti IA. Anche se un assistente viene utilizzato in un’area originariamente definita ad alto rischio (come l’istruzione o il welfare), l’utilizzo può qualificarsi per un’eccezione dai requisiti più stringenti. Ciò vale in particolare se l’assistente:
- Non è destinato a sostituire o influenzare una valutazione umana.
- È progettato per svolgere un compito limitato e procedurale.
Ecco due esempi tipici del lavoro quotidiano dei comuni che illustrano i molti casi d’uso sicuri e molto utili che non sono classificati ad alto rischio:
Esempio 1: Controllo qualità di documenti amministrativi (La valutazione umana è mantenuta)
Un funzionario utilizza un assistente IA per verificare la qualità dei documenti prima di inviarli al consiglio comunale. L’assistente IA fa riferimento ai modelli pertinenti e fornisce feedback sui documenti: verifica che i numeri di riferimento dei casi precedenti siano citati nel punto corretto, che il contenuto soddisfi i requisiti minimi e che lo stile di scrittura rispetti i requisiti di linguaggio chiaro.
- Perché è un’eccezione? L’assistente IA viene utilizzato solo per migliorare la qualità del lavoro già svolto dai funzionari. Il responsabile legge il feedback, effettua le proprie valutazioni e modifica manualmente i documenti prima dell’invio. L’assistente non sostituisce né prende decisioni autonome.
Esempio 2: Consultazione di regole per scuole e servizi extrascolastici (Limitato e procedurale)
Il responsabile del dipartimento scolastico crea un assistente IA basato sui regolamenti comunali di ammissione, sulle norme di iscrizione e sui criteri di priorità. Lo scopo è che i colleghi possano facilmente trovare risposte a domande procedurali: quale documentazione è richiesta per iscriversi a un servizio extrascolastico? Quali sono le scadenze? Come sono definiti i confini dei bacini d’utenza scolastica?
- Perché è un’eccezione? Anche se riguarda “l’istruzione”, l’assistente IA svolge solo un compito limitato e procedurale — spiegare regole già pubblicate sul sito web del comune. Non effettua alcuna valutazione di un singolo bambino o di un caso specifico. È il dipendente che prende le informazioni, le valuta e scrive la risposta ai genitori.