Fonte AlgorithmWatch
Dopo lunghi mesi di intensi negoziati, i membri del Parlamento europeo hanno votato la legge sull’intelligenza artificiale (AI Act) dell’UE. AlgorithmWatch plaude al Parlamento per aver rafforzato la protezione dei diritti fondamentali contro gli impatti negativi dell’intelligenza artificiale, come quello del riconoscimento facciale negli spazi pubblici. Tuttavia, il Parlamento ha perso l’opportunità di rafforzare la protezione per alcune persone che ne avrebbero più bisogno.
l voto storico segna la posizione del Parlamento europeo in vista dei negoziati del trilaterale con il Consiglio dell’UE (che comprende gli Stati membri dell’UE) e la Commissione.
Una delle questioni più controverse e accresciute relative al voto è stata l’identificazione biometrica remota (RBI) come il riconoscimento facciale. Andando oltre la proposta della Commissione nel 2021, che avrebbe lasciato una serie di eccezioni al divieto di RBI, i membri del Parlamento hanno deciso di mettere le persone al primo posto: suggeriscono di vietare completamente l’uso in tempo reale di RBI e di consentire post-RBI (dove l’analisi biometrica non avviene in tempo reale ma successivamente) solo a condizione di presidi molto forti. La maggioranza si è quindi opposta a un tentativo dell’ultimo minuto da parte di parlamentari di destra di annacquare il divieto. Con un divieto così completo, i nostri spazi pubblici saranno efficacemente protetti da forme intrusive e permanenti di sorveglianza di massa. Ciò è integrato dal voto del Parlamento per il divieto della categorizzazione biometrica discriminatoria e dei sistemi utilizzati per il riconoscimento delle emozioni nel settore delle forze dell’ordine, dell’istruzione, del controllo delle frontiere e del posto di lavoro. Il Parlamento ha inoltre accettato di vietare la polizia predittiva basata sulla profilazione delle persone.
Maggiore trasparenza e responsabilità
Secondo il Parlamento, se le autorità pubbliche implementano sistemi di IA ad alto rischio, dovrebbero essere obbligate a registrarne l’uso in una banca dati a livello di UE e quindi a fornire informazioni sul contesto dell’implementazione. Ciò consentirebbe al pubblico di avere una migliore comprensione di dove questi sistemi sono utilizzati da chi e per quale scopo. Questo potrebbe rivelare come gli individui e la società sono influenzati da questi sistemi. Inoltre, tutti gli utilizzatori di sistemi di IA ad alto rischio dovrebbero essere obbligati a condurre una valutazione d’impatto sui diritti fondamentali prima dell’implementazione, che, nel caso di istituzioni pubbliche, sarà resa pubblica. Con questi due requisiti, il Parlamento segue due delle richieste fondamentali di AlgorithmWatch: “Sottoponendo coloro che implementano sistemi di intelligenza artificiale sotto il controllo pubblico, potremmo finalmente far luce sulla scatola nera di come gli algoritmi influenzano le persone e la società.
Altrettanto importante è l’invito del Parlamento a considerare le questioni di sostenibilità relative ai sistemi di IA. I distributori di IA ad alto rischio dovranno condurre una valutazione dell’impatto ambientale prima di utilizzare un sistema e i modelli di base come quelli alla base di ChatGPT dovranno rispettare gli standard ambientali europei.
Occasione persa per proteggere le persone che ne avrebbero più bisogno
In modo deludente, i legislatori non hanno votato per estendere la protezione delle persone in movimento: non hanno adottato un divieto sui sistemi che tentano di profilare le persone in base alle loro caratteristiche sensibili o ai dati previsti per valutare se rappresentano una minaccia nell’area di migrazione, asilo e controllo delle frontiere. Inoltre, purtroppo, i responsabili politici non hanno votato per concedere il diritto alle persone di essere rappresentate da un’organizzazione di interesse pubblico di presentare un reclamo quando colpite negativamente da un sistema di intelligenza artificiale.
Queste carenze saranno corrette nei prossimi negoziati tra il Parlamento europeo, gli Stati membri e la Commissione, che dovrebbero iniziare subito dopo il voto di oggi. “Nel complesso, i membri del Parlamento hanno dato un forte segnale che danno la priorità alla protezione delle persone e dei loro diritti fondamentali rispetto agli interessi delle grandi tecnologie e all’eccessivo intervento dello Stato. Sono andati ben oltre la Commissione e il Consiglio dell’UE nel definire le salvaguardie per lo sviluppo e l’uso dell’intelligenza artificiale”, afferma Nikolett Aszódi, Policy & Advocacy Manager presso AlgorithmWatch.
Per maggiori informazioni e richieste di interviste contattare:
Nikolett Aszodi
aszodi@algorithmwatch.org
+49 (0)30 99 40 49 001
Maggiori informazioni sulla nostra politica e attività di advocacy sull’Artificial Intelligence Act