Fonte Algorithmwatch che ringraziamo
Poiché i sistemi di intelligenza artificiale sono sempre più utilizzati dalle forze dell’ordine, dalle autorità di controllo dell’immigrazione e dalle autorità di sicurezza nazionale, la legge sull’intelligenza artificiale dell’UE (legge sull’intelligenza artificiale) rappresenta un’urgente opportunità per prevenire danni, proteggere le persone dalle violazioni dei diritti e fornire limiti legali alle autorità per utilizzare l’intelligenza artificiale all’interno del contesto. confini dello Stato di diritto.
In Europa e nel mondo, i sistemi di intelligenza artificiale vengono sviluppati e utilizzati per forme dannose e discriminatorie di sorveglianza statale. Dall’uso della biometria per l’identificazione, il riconoscimento e la categorizzazione, ai sistemi predittivi in varie capacità decisionali e di allocazione delle risorse , l’intelligenza artificiale nelle forze dell’ordine prende di mira in modo sproporzionato comunità già emarginate, mina i diritti legali e procedurali e consente la sorveglianza di massa.
Quando i sistemi di intelligenza artificiale vengono utilizzati in contesti di applicazione della legge, sicurezza e controllo della migrazione (compresa la polizia della sicurezza sociale), lo squilibrio di potere tra le autorità e le persone sorvegliate è ancora più profondo. Ciò significa che esiste un rischio ancora maggiore di danni e violazioni dei diritti fondamentali e dello Stato di diritto.
Sottolineiamo i pericoli specifici per la libertà di riunione, la libertà, il diritto di asilo, la privacy e la protezione dei dati, il diritto alla protezione sociale e la non discriminazione quando tale tecnologia viene utilizzata da tali autorità.
Le organizzazioni della società civile chiedono una legge sull’intelligenza artificiale che prevenga forme incontrollate di sorveglianza discriminatoria e di massa. Al fine di difendere i diritti umani e prevenire danni derivanti dall’uso dell’IA nelle attività di polizia, nel controllo della migrazione e nella sicurezza nazionale, la legge UE sull’IA deve:
- Includere limiti legali che vietino l’IA per usi che rappresentano un rischio inaccettabile per i diritti fondamentali. Ciò include un divieto legale su diverse forme di sorveglianza biometrica, polizia predittiva e usi dannosi dell’IA nel contesto migratorio.
- Fornire trasparenza pubblica e controllo quando la polizia, le agenzie di migrazione e le agenzie di sicurezza nazionale utilizzano l’IA “ad alto rischio”, sostenendo l’eguale dovere di queste autorità di registrare gli usi ad alto rischio nel database dell’UE sull’IA.
- Garantire che la legge sull’intelligenza artificiale regoli adeguatamente gli usi dell’intelligenza artificiale nelle attività di polizia, migrazione e sicurezza nazionale che mettono a rischio i diritti umani, in particolare l’elenco completo dell’intelligenza artificiale nel controllo della migrazione, e garantendo che la sicurezza nazionale non sia esclusa dall’ambito di applicazione.
