La Fortezza Europa automatizzata: non c’è posto per i diritti umani

Droni, satelliti e altri sistemi di monitoraggio digitale: da decenni le frontiere esterne dell’UE sono state potenziate con tecnologie di sorveglianza all’avanguardia per creare le cosiddette frontiere intelligenti. Ora, gli algoritmi e l’intelligenza artificiale si stanno sempre più aggiungendo al muro.

Il loro sviluppo è finanziato con milioni di euro da programmi di ricerca dell’UE con nomi come  Horizon 2020  o  Horizon Europe . I progetti finanziati si leggono come un catalogo di tecnologie di sorveglianza. Invece di cercare di salvare le persone dalla perdita della vita, hanno messo tutti noi in pericolo.

Non sorprende che la maggior parte delle iniziative siano tenute segrete. Il pubblico non impara quasi nulla su di loro. Le forze dell’ordine e le autorità di frontiera preferiscono non prendersi la briga di fornire informazioni sul loro lavoro. Cercano di evitare un dibattito democratico sulla  ricerca e lo sviluppo  di questo tipo di tecnologia di sorveglianza basata sull’intelligenza artificiale. 

ABBIAMO SCOPERTO COSA L’UE PREFERISCE TENERE FUORI DAGLI OCCHI DEL PUBBLICO

Quando abbiamo chiesto informazioni sui progetti di ricerca in cui si stanno sviluppando tali sistemi, abbiamo ricevuto molte risposte che non ci davano informazioni sostanziali.

L’Agenzia esecutiva europea per la ricerca (REA) ha il mandato della Commissione europea di finanziare e gestire progetti innovativi praticamente in tutti i settori della ricerca, compreso Orizzonte 2020. Tuttavia, la REA non è particolarmente esplicita riguardo ai propri progetti di ricerca.

Avevamo cercato, ad esempio, di ottenere dettagli sulla  “metodologia applicata per la valutazione delle prestazioni del sistema” del progetto ROBORDER attraverso l’accesso alle richieste di informazioni. Inizialmente ci è stato negato in riferimento alla “tutela dell’interesse pubblico in materia di pubblica sicurezza”. Anche l’identità e l’affiliazione delle persone coinvolte nel processo di revisione etica non verrebbero condivise, per proteggere la loro “privacy e integrità”. La REA ha anche citato gli “interessi commerciali” e la tutela della proprietà intellettuale come motivi legittimi per rifiutare la divulgazione: “rendere queste informazioni di dominio pubblico fornirebbe ai concorrenti del consorzio un vantaggio ingiusto, poiché i concorrenti sarebbero in grado di utilizzare queste informazioni commerciali sensibili a loro favore”. Queste ragioni che ci sono state fornite per evitare la divulgazione sono state reazioni comuni a tutte le richieste che abbiamo inviato. Alla fine, però, la REA ci ha fornito informazioni sulla metodologia.

È urgentemente necessaria maggiore trasparenza. ROBORDER mira a sviluppare veicoli senza pilota per pattugliare i confini dell’UE, in grado di operare in sciami. Tali capacità molto probabilmente interesserebbero anche i militari. Infatti, una ricerca di AlgorithmWatch e ZDF Magazin Royale mostra che in un’analisi di mercato condotta nell’ambito del progetto ROBORDER, le “unità militari” sono state identificate come potenziali utenti del sistema. I documenti che abbiamo ottenuto mostrano che i membri del gruppo di ricerca si sono incontrati con potenziali ufficiali della Marina greca per presentare il sistema ROBORDER.

Le applicazioni militari escluderebbero ROBORDER dai finanziamenti di Orizzonte 2020, che sono riservati alle applicazioni civili. Tuttavia, un portavoce della Commissione europea ha affermato che il semplice fatto che sia stato scelto anche un “pubblico militare” per diffondere il progetto non “mette di per sé in discussione l’applicazione esclusivamente civile delle attività svolte nell’ambito di questo progetto”.

Il progetto ROBORDER è stato eseguito come previsto fino alla sua conclusione prevista nel 2021. I suoi risultati hanno contribuito ai progetti successivi. A livello nazionale, uno è REACTION, finanziato dallo strumento UE per la gestione delle frontiere e i visti e coordinato dal Ministero greco dell’Immigrazione e dell’Asilo. AlgorithmWatch e ZDF Magazin Royale hanno provato a chiedere al centro di ricerca greco CERTH – che ha coordinato ROBORDER e sta ora lavorando su REACTION – quali risultati o componenti siano stati adottati esattamente, ma non abbiamo ottenuto risposta.

Grazie alla nostra tenacia, siamo riusciti a ottenere documenti per vari progetti finanziati dall’UE. Alcuni di essi che abbiamo ricevuto erano così pesantemente oscurati che era impossibile avere un’idea di cosa trattassero. La convenzione di sovvenzione e gli allegati al  progetto NESTOR  contenevano 169 pagine oscurate consecutive.

SOLO UN ALTRO MATTONE NEL MURO AUTOMATIZZATO

Una Fortezza Europa automatizzata avrebbe anche un impatto sui diritti di tutti, poiché la tecnologia che facilita consente ai governi di scoprire tutto su di noi.

Come lo fanno, chiedi? Utilizzando il riconoscimento facciale, ad esempio, e riducendo la tua identità al tuo volto e ad altre caratteristiche biometriche misurabili. I volti possono essere catturati e analizzati da sistemi di riconoscimento biometrico sempre più sofisticati. Nel  progetto D4FLY , combinano “biometria facciale 2D+termica, facciale 3D, iride e somatotipo”. In progetti come  iBorderCtrl , esaminano emozioni e “microespressioni”, fugaci espressioni facciali che durano solo frazioni di secondo, per valutare se i viaggiatori stanno mentendo ai funzionari di frontiera (virtuali). In questo modo, vengono create automaticamente valutazioni del rischio, il che potrebbe portare a controlli di sicurezza più severi alle frontiere dell’UE.

Tali progetti finanziati dall’UE sono progettati per digitalizzare, informatizzare e automatizzare la mobilità umana. L’UE immagina un futuro in cui i viaggiatori rispettosi della legge  godano di libertà ininterrotta, mentre le persone “a rischio” verranno automaticamente contrassegnate per ulteriori controlli.

Come ha affermato il vicedirettore esecutivo di Frontex, Uku Särekanno,  in una recente intervista : “Ciò che verrà dopo è una discussione molto seria sull’automazione. Stiamo esaminando come, nei prossimi cinque-dieci anni, potremo avere valichi di frontiera più automatizzati e un’esperienza di viaggio più fluida”.

Secondo diversi scienziati, questo è il  risultato di oltre due decenni di lavoro ,  che alla fine portano  alla sorveglianza remota totale e quindi a  una società panottica perfetta , in cui siamo completamente dominati da tali tecnologie digitali e dalla logica sottostante della politica di sicurezza.

FOLDOUT: Tecnologia e automazione nella politica migratoria dell’UE

Le tecnologie e i processi di automazione finanziati dall’UE sono in fase di sviluppo per conformarsi alle leggi dell’UE:

• Il Patto sulla migrazione  prevede  controlli preliminari, “procedure di frontiera” accelerate e trasferimenti e rimpatri più efficienti dei richiedenti asilo respinti. Molto probabilmente, ciò includerà l’estrazione e l’analisi dei dati dei telefoni cellulari, sistemi di sorveglianza basati sull’intelligenza artificiale in strutture per l’immigrazione simili a prigioni e profilazione automatizzata. La coalizione della società civile ProtectNotSurveil  ha definito  tale scenario “una nuova era mortale di sorveglianza digitale, che espande l’infrastruttura digitale per un regime di frontiera dell’UE basato sulla criminalizzazione e la punizione dei migranti e delle persone razzializzate”. 
• L’  espansione di EURODAC , la banca dati delle impronte digitali dei richiedenti asilo a livello UE, proposta nel Patto porterà a una maggiore raccolta di dati biometrici per le banche dati sulla migrazione dell’UE, comprese le immagini dei volti.
• Il  pacchetto anti-contrabbando  richiede capacità di monitoraggio e analisi dei social media per consentire alle forze dell’ordine di “identificare e rimuovere i contenuti online che istigano pubblicamente le persone a migrare irregolarmente o che promuovano attività illecite legate al traffico di migranti”.
• La riforma del codice frontiere Schengen proposta nel 2021  implica  un maggiore utilizzo di tecnologie di monitoraggio e sorveglianza delle frontiere senza adeguate garanzie.

L’AI Act avrebbe potuto fornire un contrappeso a tali richieste, imponendo requisiti di trasparenza e persino divieti nel contesto migratorio, ma la maggior parte di tali garanzie sono state respinte dagli Stati membri dell’UE e  non sono più state incluse  nella sua  bozza finale .

PER COSA È BUONO? SELEZIONANDO IL CATALOGO DELLA SORVEGLIANZA

Controllare le persone richiede tempo e risorse. Pertanto, alcuni progetti  mirano a “alleggerire” automaticamente i funzionari di frontiera , il che significa renderli ausiliari di sistemi automatizzati che si presume erroneamente più obiettivi o affidabili.

I sistemi automatizzati dovrebbero rilevare “comportamenti anomali”, aumentare la “consapevolezza della situazione” e ricavare informazioni e previsioni in tempo reale (“ nowcasts ”) da più sensori collegati a individui, gruppi, ma anche mercantili o altri veicoli. I movimenti migratori devono essere previsti algoritmicamente, analizzando  i dati di Google Trends , i contenuti sulle piattaforme di social media come Facebook e X (ex Twitter) e gli “ indicatori quantitativi (geolocalizzati) delle conversazioni telefoniche ”. Ma tali sistemi automatizzati non possono sostituire le decisioni politiche prendendo i dati disponibili e lasciando la decisione agli algoritmi. Le decisioni devono essere motivate. Inoltre, le decisioni politiche non sono solo un sottoprodotto delle soluzioni tecnologiche e devono essere messe al primo posto.

I rischi diventano evidenti osservando  EuMigraTool  del progetto  ITFLOWS . Include “previsioni mensili delle domande di asilo nell’UE” e dovrebbe “identificare i potenziali rischi di tensioni tra migranti e cittadini dell’UE” fornendo “intuizioni” sugli “atteggiamenti nei confronti della migrazione” nell’UE utilizzando il “modello di analisi del sentiment di Twitter”. dati come input”. Lo stesso Consiglio degli utenti del progetto, in cui sono rappresentate organizzazioni come la Croce Rossa e Oxfam, ha messo in guardia  contro  gli abusi, “l’uso improprio potrebbe comportare la chiusura delle frontiere, l’istigazione alla violenza e l’uso improprio per scopi politici per ottenere sostegno e consenso per una lotta anti -politica migratoria.” Lo strumento è stato comunque sviluppato.

In questi progetti finanziati dall’UE, le persone in movimento vengono costantemente rappresentate come una minaccia alla sicurezza. Il  progetto FOLDOUT spiega questa premessa fondamentale in tutta franchezza: “negli ultimi anni la migrazione irregolare è aumentata drammaticamente”, quindi “non era più gestibile con i sistemi esistenti”. Le forze dell’ordine e le agenzie di frontiera ora presuppongono che, per “stare un passo avanti” rispetto a criminali e terroristi, l’automazione debba diventare la norma, soprattutto nei contesti legati alla migrazione. 

FOLDOUT: Tutto solo teoria e ricerca fondamentale? No: il progetto ANDROMEDA

I progetti di ricerca e innovazione finanziati dall’UE spesso si basano sui rispettivi risultati. Solitamente lo sviluppo è legato a esigenze specifiche della comunità di sicurezza dei confini, e quindi indirizzato verso una effettiva implementazione.

A volte ciò viene affermato esplicitamente, ad esempio in un documento ufficiale di iBorderCtrl, dove si afferma che il progetto “è sviluppato principalmente dall’industria con l’obiettivo di andare un giorno oltre i risultati della ricerca e passare a prodotti reali sul mercato”.

Il fornitore tedesco di soluzioni di identità Veridos ha coordinato D4FLY e ammette in un  comunicato stampa  di aver “sviluppato prodotti e tecnologie tra il 2019 e il 2022 che, a seconda del loro grado di maturità, sono già in uso oggi o sono vicini alla maturità del prodotto finale , o richiedono ulteriori ricerche di base che continueranno anche dopo la fine ufficiale del progetto.”

Dal rapporto Frontex del 2022 sulle sue attività di ricerca e innovazione apprendiamo   che gli “obiettivi e i risultati” del progetto EFFECTOR sono stati “tradotti nei sistemi Frontex”. Ciò ha consentito l’introduzione di “concetti e strumenti testati nelle operazioni di Frontex”.

In altri casi, l’implementazione delle tecnologie nella fase di test può essere altrettanto opaca quanto il loro sviluppo. Uno di questi casi è stato scoperto dalla ricercatrice indipendente sulla sorveglianza delle frontiere Lena Karamanidou. In un  thread sulla piattaforma X ha documentato come la tecnologia di sorveglianza sviluppata nell’ambito del progetto  ANDROMEDA H2020  sia stata testata per la prima volta nel delta del fiume Evros in Grecia durante una prova del progetto. “Il pilone e le sue attrezzature, il motoscafo da pattuglia e le piattaforme sviluppate da ANDROMEDA hanno continuato ad essere utilizzati dalla polizia locale dopo la conclusione del progetto.”

Karamanidou è riuscito a dimostrarlo analizzando i filmati trasmessi dalla televisione greca. Nel video, il capo di un centro di protezione delle frontiere coinvolto in ANDROMEDA ha rivelato involontariamente dettagli sugli strumenti di sorveglianza attualmente in atto nella regione. Questi strumenti corrispondevano perfettamente a quelli del test. “I collegamenti tra la ricerca finanziata dall’UE e la tecnologia di sorveglianza delle frontiere sono ben consolidati”, conclude il ricercatore, “ma questa è stata la prima volta che ho trovato un collegamento concreto tra un progetto specifico e una tecnologia specifica utilizzata sul campo”.

FRONTEX: È OVUNQUE

Una forza trainante nella sicurezza delle frontiere è anche uno dei principali clienti: Frontex. Fondata nel 2004, l’Agenzia europea della guardia di frontiera e costiera ha svolto negli ultimi anni un ruolo sempre più importante nei progetti di ricerca e innovazione dell’UE. Il budget dell’agenzia è  aumentato  del 194% rispetto al budget precedente e di un incredibile 13.200% negli ultimi 20 anni. Ma l’influenza di Frontex va ben oltre il denaro a sua disposizione. L’agenzia  è intervenuta  per “aiutare”, “partecipare attivamente” e “promuovere” diversi progetti di Orizzonte 2020, affrontando “un ampio spettro di capacità tecnologiche critiche per la sicurezza delle frontiere”, tra cui l’intelligenza artificiale, la realtà aumentata o la realtà virtuale.

Nel 2020, l’agenzia ha formalizzato la  collaborazione  con la direzione generale della Migrazione e degli affari interni (DG-HOME) della Commissione europea. Ha consentito a Frontex di fornire assistenza alla DG-HOME “nei settori della programmazione, del monitoraggio e dell’adozione dei risultati dei progetti”. L’agenzia è ora  responsabile  di “identificare le attività di ricerca”, valutare le proposte di ricerca e supervisionare la “rilevanza operativa” dei progetti di ricerca di Orizzonte Europa.

L’agenzia ha quindi partecipato a prove, dimostrazioni e workshop di progetti finanziati dall’UE, ha organizzato eventi che coinvolgevano progetti finanziati dall’UE e ha persino creato un laboratorio (il Border Management Innovation Centre,  BoMIC ) per aiutare a implementare progetti finanziati dall’UE nella sicurezza delle frontiere. A ciò si aggiunge il “Programma di sovvenzioni per la ricerca” di Frontex, il cui  primo invito a presentare proposte  è stato annunciato nel novembre 2022, per “portare idee promettenti dal laboratorio ad applicazioni reali nella sicurezza delle frontiere”.

COME PUÒ DIVENTARE REALTÀ?

Il  progetto NESTOR  promette “un sistema di sorveglianza delle frontiere completo, di nuova generazione e completamente funzionale che offra consapevolezza della situazione pre-frontaliera oltre i confini marittimi e terrestri”. Il sistema si basa su tecnologie di analisi ottica, di imaging termico e di spettro di radiofrequenza. Tali dati saranno “alimentati da una rete di sensori interoperabili” composta sia da installazioni fisse che da veicoli mobili con o senza pilota (che possono operare sott’acqua, sulle superfici dell’acqua, a terra o in aria). I veicoli sono anche in grado di funzionare in sciami. Ciò consente di rilevare, riconoscere, classificare e tracciare “bersagli in movimento” come persone, imbarcazioni, veicoli o droni. Un “sistema di intelligence di comando, controllo e coordinamento delle frontiere” adotterà “tecnologie all’avanguardia di intelligenza artificiale e valutazione dei rischi”,  fondendo  “in tempo reale i dati di sorveglianza in combinazione con l’analisi dei dati web e dei social media”.

Il termine chiave qui è “consapevolezza pre-frontiera”. Secondo l’UE, “pre-frontiera”  si riferisce a  “l’area geografica oltre le frontiere esterne che è rilevante per la gestione delle frontiere esterne attraverso l’analisi dei rischi e la consapevolezza situazionale”. O, per dirla senza mezzi termini: la nozione stessa di “confine” alla fine si dissolve in qualunque cosa le autorità vogliano che significhi. 

CONCLUSIONE: SOLO POCHI BENEFICIANO DELLA FORTEZZA AUTOMATIZZATA DELL’UE E TU NON SEI SICURAMENTE UNO DI LORO.

L’elenco dei progetti potrebbe continuare all’infinito (vedi riquadro sotto), ma si capisce il concetto dell’UE: percepisce i migranti come una minaccia e vuole proteggere meglio i propri confini da loro migliorando costantemente l’automazione e aumentando la sorveglianza – ben oltre confini esistenti. L’UE evoca l’immagine di una “crisi” migratoria a cui possiamo sperare di porre fine solo attraverso soluzioni tecnologiche.

FOLDOUT: Un approccio illusorio alla sorveglianza e al controllo basati sull’intelligenza artificiale

I nuovi algoritmi “Manipulation Attack Detection” (MAD)  sviluppati nell’ambito del progetto iMARS rilevano automaticamente i documenti d’identità contraffatti. Nell’ambito del  progetto MELCHIOR  si stanno sviluppando nuove tecnologie basate sull’intelligenza artificiale e sensori multipli per il “rilevamento rapido di droghe, esplosivi, armi e beni illeciti nascosti su individui e in cavità critiche del corpo umano”. I veicoli senza pilota  diventano  “più leggeri dell’aria” e  capaci  di individuare “persone e veicoli in movimento” attraverso il rilevamento laser e a microonde, anche in caso di  fitto fogliame e condizioni ambientali estreme . Possono essere schierati in  sciami  – “intelligentemente” e controllati a distanza da altri algoritmi, o da esseri umani che indossano  occhiali per realtà mista .  

In combinazione con le reti 5G, la tecnologia della realtà aumentata sviluppata nel  progetto DARLENE  “consentirà agli agenti di vedere la posizione delle persone all’interno degli edifici attraverso i muri di cemento”. Dovrebbe anche evidenziare se le persone sono amiche, nemiche o bisognose di assistenza medica, “andando oltre i limiti della capacità umana di elaborare le informazioni sulla scena e persino facendo luce in aree non rilevabili dagli esseri umani (punti ciechi)”.

Tuttavia, anche di fronte a questa vasta gamma di tecnologie di sorveglianza di nuova concezione, i membri di progetti come  COMPASS 2020  ed  EFFECTOR  condividono la  convinzione  che “l’adozione” delle tecnologie di sorveglianza “da parte delle autorità competenti sia stata lenta” a causa della mancanza di uniformità e integrazione tra le infrastrutture esistenti. Di conseguenza, “concetti di sorveglianza nuovi e innovativi sono ancora sottoutilizzati”.

Questa convinzione è  ampiamente  e sempre più affermata e modellata dalla comunità delle guardie di frontiera e costiere in stretta collaborazione con le  industrie della sorveglianza e della sicurezza , come è stato  ben documentato . Ma minaccia la giustizia sociale, la non discriminazione, l’equità e il rispetto fondamentale dei diritti fondamentali. Le “valutazioni etiche” non fanno altro che scalfire la superficie della complessità dell’automazione della migrazione. I sistemi verranno comunque sviluppati, anche se le valutazioni fondamentalmente mettono in dubbio se l’uso dei sistemi possa essere giustificato. Molti di questi progetti non avrebbero dovuto essere finanziati in primo luogo, quindi non dovrebbero essere portati avanti.