Fonte Algorithm Watch che ringraziamo. Postiamo la traduzione dell’articolo per facilitarne la lettura. Per un uso professionale o per studio si raccomanda di fare riferimento al testo originale alla fonte Algorithm Watch |
Berlino, 16 marzo 2023. I sistemi ADM vengono utilizzati per scansionare automaticamente i CV durante il processo di assunzione, assegnare turni ai dipendenti, condurre valutazioni delle prestazioni lavorative, selezionare dipendenti per programmi educativi o promozioni e potrebbero persino essere utilizzati per decidere chi licenziare. Con l’aiuto delle applicazioni AI, è possibile rilevare le strutture sottostanti nei set di dati a portata di mano, il che consente di prevedere gli sviluppi futuri. Tali previsioni possono portare a decisioni che hanno conseguenze di vasta portata per il personale.
Squilibrio di potere
A causa dell’opacità di questi sistemi, aumentano ulteriormente lo squilibrio di potere tra datori di lavoro e dipendenti. I dipendenti sono quelli soggetti alle decisioni di questi sistemi mentre non possono valutare se le loro decisioni sono giuste, giuste e basate su set di dati appropriati. Dopotutto, ciò che manca è un’autorità di controllo per questi sistemi. “I sistemi decisionali automatizzati nella gestione della forza lavoro minano i processi consolidati che garantiscono la partecipazione dei lavoratori. Senza una visione di questi sistemi, i dipendenti esposti a loro il più delle volte rimangono impotenti. Per questo motivo, la trasparenza completa deve essere introdotta come standard. Inoltre, i dipendenti devono essere inclusi e avere voce in capitolo in ogni processo che riguarda il loro posto di lavoro”, conclude la coautrice dello studio, la dott.ssa Anne Mollen.
Sforzi di regolamentazione
Con l’AI Act, l’Unione Europea attualmente cerca di regolamentare l’uso dei sistemi ADM, in quanto considerati ad alto rischio per le persone. Questo approccio, tuttavia, affronta solo gli scenari peggiori sul posto di lavoro. Ulteriori misure politiche, come i requisiti obbligatori di trasparenza, sono essenziali per evitare che i sistemi ADM continuino a sfruttare le forme tradizionali di rappresentanza e codeterminazione dei dipendenti.
La codeterminazione in pratica
Quando vengono introdotti i sistemi di gestione del posto di lavoro ADM, i dipendenti ei loro rappresentanti devono occuparsi attivamente dei loro interessi durante l’intero processo di pianificazione, sviluppo, implementazione e implementazione. Uno scambio con esperti di Machine Learning potrebbe aiutarli a ottenere una comprensione di base delle connessioni sistemiche fondamentali e porre domande importanti caso per caso. Ciò consentirebbe loro di esaminare questi sistemi in modo critico, vedere i loro difetti e valutare i potenziali rischi che ne derivano.