Come combattere la discriminazione algoritmica? Una guida di AutoCheck

Postiamo  questo articolo  pubblicato dal sito Algorithm Watch  Riteniamo importante che si dia visibilità alla tematica della introduzione sempre più diffusa di  ” Sistemi decisionali automatizzati” . Questi sistemi possono diventare “agenti” di scelte  che creano discriminazioni. Il Report qui segnalato …. va letto con attenzione in fattispecie da coloro che hanno responsabilità nelle scelte  in sanità, nei servizi educativi, nella giustizia e in ogni settore produttivo. editor

 

 

 

Ci troviamo di fronte a sistemi decisionali automatizzati quasi ogni giorno e potrebbero essere discriminanti, senza che nemmeno ce ne accorgiamo. Una nuova guida aiuta a riconoscere meglio tali casi e supportare le persone colpite.

Il nostro nuovo rapporto “Sistemi decisionali automatizzati e discriminazione” esamina in modo più approfondito la discriminazione algoritmica: cos’è, come è causata e cosa si può fare al riguardo. Con istruzioni complete, diagrammi e casi di studio, la guida offre ai consulenti antidiscriminazione e alle persone colpite un’introduzione di base all’argomento e li supporta nella ricerca di aiuto con liste di controllo, fonti e informazioni di contatto.

Uno dei maggiori problemi nella lotta alla discriminazione da parte dei sistemi algoritmici è che spesso passa inosservata e le persone colpite – nella maggior parte dei casi – non sanno di essere state discriminate. Ma quando i sistemi algoritmici decidono in modo discriminatorio o suggeriscono decisioni discriminanti, molte persone sono potenzialmente interessate, perché tutte le decisioni seguono lo stesso schema. Questi rischi sono sistematici e l’impatto complessivo sulla società può essere ampio.

Questa pubblicazione fa parte del progetto AutoCheck , finanziato dall’Agenzia federale tedesca per la lotta alla discriminazione. L’obiettivo del progetto è ridurre questa mancanza di consapevolezza sviluppando istruzioni e strumenti concreti e completi per i centri di consulenza antidiscriminazione. Vogliamo supportare i dipendenti degli uffici di consulenza antidiscriminazione per valutare e riconoscere meglio i rischi, e quindi supportare meglio le persone colpite. La project manager e autrice del rapporto, Jessica Wulf, ha iniziato a ricercare casi e condurre interviste con consulenti ed esperti anti-discriminazione nel febbraio 2021. La guida e i corsi di formazione si basano su questo corpus completo di lavoro.

Leggi tutto