Un articolo da TheConversation di grande interesse. Per facilitare la lettura al fondo dell’articolo in lingua originale abbiamo postato una traduzione automatica google in italiano. Per qualsiasi utilizzo e riferimento vale la versione in lingua originale.

Horrible bosses: how algorithm managers are taking over the office

Robert Donoghue, University of Bath and Tiago Vieira, European University Institute

The 1999 cult classic film Office Space depicts Peter’s dreary life as a cubicle-dwelling software engineer. Every Friday, Peter tries to avoid his boss and the dreaded words: “I’m going to need you to go ahead and come in tomorrow.”

This scene is still popular on the internet nearly 25 years later because it captures troubling aspects of the employment relationship – the helplessness Peter feels, the fake sympathy his boss intones when issuing this directive, the never-ending demand for greater productivity.

There is no shortage of pop culture depictions of horrible bosses. There is even a film with that title. But things could be about to get worse. What is to be made of the new bosses settling into workplaces across all sectors: the algorithm managers?

The rise of algorithm management

The prospect of robots replacing workers is frequently covered in the media. But, it is not only labour that is being automated. Managers are too. Increasingly we see software algorithms assume managerial functions, such as screening job applications, delegating work, evaluating worker performance – and even deciding when employees should be fired.

The offloading of tasks from human managers to machines is only set to increase as surveillance and monitoring devices become increasingly sophisticated. In particular, wearable technology that can track employee movements.

From an employer’s point of view, there is much to be gained from transferring managers’ duties to algorithms. Algorithms lower business costs by automating tasks that take longer for humans to complete. Uber, with its 22,800 employees, can supervise 3.5 million drivers according to the latest yearly figures.

Artificial intelligence systems can also discover ways to optimise business organisations. Uber’s surge pricing model (temporarily raising prices to attract drivers during busy times) is only possible because an algorithm can process real-time changes in passenger demand.

The risks

Some problems associated with algorithm management receive more attention than others. Perhaps the risk most discussed by journalists, researchers, and policymakers is algorithmic bias.

Amazon’s defunct CV ranking system is an infamous example. This program, which was used to rate applicant CVs on a one-to-five scale, was discontinued because it consistently rated CVs with male characteristics higher than comparable ones deemed more feminine.

But several other issues surround the growth of algorithm management.

One is the problem of transparency. Classic algorithms are programmed to make decisions based on step-by-step instructions and only give programmed outputs.

Machine-learning algorithms, on the other hand, learn to make decisions on their own after exposure to lots of training data. This means they become more complex as they develop, making their operations opaque even to programmers.

When the reasoning behind a decision like whether to sack an employee is not transparent, a morally dubious arrangement is afoot. Was the algorithm’s decision to fire the employee biased, corrupt or arbitrary?

If so, its output would be considered morally illegitimate, if not illegal in most cases. But how would an employee demonstrate that their dismissal was the result of unlawful motivations?

Algorithm management exacerbates the power imbalance between employers and employees by shielding abuses of power from redress. And algorithms cut a critical human function from the employment relationship. It’s what late philosopher Jean-Jacques Rousseau called our “natural sense of pity” and “innate repugnance to seeing one’s fellow human suffer”.

Even though not all human managers are compassionate, there is zero per cent chance that algorithm managers will be. In our case study of Amazon Flex couriers, we observed the exasperation that platform workers feel about the algorithm’s inability to accept human appeals. Algorithms designed to maximise efficiency are indifferent to childcare emergencies. They have no tolerance for workers moving slowly because they are still learning the job. They do not negotiate to find a solution that helps a worker struggling with illness or disability.

What can we do

The risks faced by workers under the management of algorithms are already a central focus of researchers, trade unions and software developers who are trying to promote good working conditions. US politicians are discussing an extension of digital rights for workers. Other solutions include regular impact assessments of how algorithms affect workers and giving employees a say in how these technologies are used.

While businesses may find management algorithms to be highly lucrative, the need to make a profit is no reason to tolerate employee suffering.

Peter eventually learned how to manage his boss and make work enjoyable. He did this by showcasing his value in highly personable encounters with top levels of management. The question is, how would he have fared if his boss had been an algorithm?

Robert Donoghue, PhD Candidate, Social and Policy Sciences, University of Bath and Tiago Vieira, PhD Candidate, Political and Social Sciences, European University Institute

This article is republished from The Conversation under a Creative Commons license. Read the original article.

===============================

[ traduzione in italiano con google translator, per usi professionali fare riferimento al testo in lingua originale ]

Capi orribili: come gli algoritmi managers stanno prendendo il controllo dell’ufficio

Il film cult del 1999 Office Space descrive la triste vita di Peter come ingegnere del software che vive in un cubicolo. Ogni venerdì, Peter cerca di evitare il suo capo e le temute parole: “Ho bisogno che tu vada avanti e torni domani”.

Questa scena è ancora popolare su Internet quasi 25 anni dopo perché cattura aspetti preoccupanti del rapporto di lavoro: l’impotenza che Peter prova, la falsa simpatia che il suo capo intona quando emana questa direttiva, la richiesta senza fine di una maggiore produttività.

Non mancano le rappresentazioni della cultura pop di boss orribili. C’è anche un film con quel titolo . Ma le cose potrebbero andare peggio. Cosa fare dei nuovi capi che si insediano nei luoghi di lavoro in tutti i settori: i gestori degli algoritmi?

L’ascesa degli algoritmi managers

La prospettiva che i robot sostituiscano i lavoratori è spesso trattata dai media. Ma non è solo il lavoro ad essere automatizzato. Anche i manager lo sono. Vediamo sempre più spesso che gli algoritmi software assumono funzioni manageriali, come lo screening delle domande di lavoro, la delega del lavoro, la valutazione delle prestazioni dei lavoratori e persino la decisione quando i dipendenti devono essere licenziati.

Il trasferimento di compiti dai manager umani alle macchine è destinato solo ad aumentare man mano che i dispositivi di sorveglianza e monitoraggio diventano sempre più sofisticati. In particolare, la tecnologia indossabile in grado di tracciare i movimenti dei dipendenti.

Dal punto di vista del datore di lavoro, c’è molto da guadagnare dal trasferire i compiti dei manager agli algoritmi. Gli algoritmi riducono i costi aziendali automatizzando le attività che richiedono più tempo per essere completate dagli esseri umani. Uber, con i suoi 22.800 dipendenti , può supervisionare 3,5 milioni di conducenti secondo gli ultimi dati annuali.

I sistemi di intelligenza artificiale possono anche scoprire modi per ottimizzare le organizzazioni aziendali. Il modello di aumento dei prezzi di Uber (aumento temporaneo dei prezzi per attirare i conducenti durante i periodi di punta) è possibile solo perché un algoritmo può elaborare i cambiamenti in tempo reale nella domanda dei passeggeri.

I rischi

Alcuni problemi associati alla gestione dell’algoritmo ricevono più attenzione di altri. Forse il rischio più discusso da giornalisti, ricercatori e responsabili politici è il pregiudizio algoritmico .

Il defunto sistema di classificazione dei CV di Amazon è un esempio famigerato. Questo programma, che è stato utilizzato per valutare i CV dei candidati su una scala da uno a cinque, è stato interrotto perché valutava costantemente i CV con caratteristiche maschili superiori a quelli comparabili ritenuti più femminili.

Ma molti altri problemi circondano la crescita della gestione degli algoritmi.

Uno è il problema della trasparenza. Gli algoritmi classici sono programmati per prendere decisioni basate su istruzioni dettagliate e fornire solo output programmati.

Gli algoritmi di apprendimento automatico, d’altra parte, imparano a prendere decisioni da soli dopo l’esposizione a molti dati di addestramento. Ciò significa che diventano più complessi man mano che si sviluppano, rendendo le loro operazioni opache anche per i programmatori.

Quando il ragionamento alla base di una decisione come se licenziare un dipendente non è trasparente, è in atto un accordo moralmente discutibile. La decisione dell’algoritmo di licenziare il dipendente è stata parziale, corrotta o arbitraria?

In tal caso, la sua produzione sarebbe considerata moralmente illegittima , se non illegale nella maggior parte dei casi. Ma come dimostrerebbe un dipendente che il licenziamento è frutto di motivazioni illecite?

La gestione degli algoritmi esacerba lo squilibrio di potere tra datori di lavoro e dipendenti proteggendo gli abusi di potere dal risarcimento. E gli algoritmi tagliano una funzione umana critica dal rapporto di lavoro. È ciò che il filosofo Jean-Jacques Rousseau definì il nostro “senso naturale di pietà” e “ ripugnanza innata nel vedere il proprio prossimo soffrire”.

Anche se non tutti i manager umani sono compassionevoli, c’è zero per cento di possibilità che i gestori di algoritmi lo siano. Nel nostro caso di studio dei corrieri Amazon Flex, abbiamo osservato l’esasperazione che provano i lavoratori della piattaforma per l’incapacità dell’algoritmo di accettare gli appelli umani. Gli algoritmi progettati per massimizzare l’efficienza sono indifferenti alle emergenze per l’infanzia. Non tollerano i lavoratori che si muovono lentamente perché stanno ancora imparando il lavoro. Non negoziano per trovare una soluzione che aiuti un lavoratore alle prese con una malattia o una disabilità.

Cosa possiamo fare

I rischi affrontati dai lavoratori sotto la gestione degli algoritmi sono già al centro dell’attenzione di ricercatori , sindacati e sviluppatori di software che stanno cercando di promuovere buone condizioni di lavoro. I politici statunitensi stanno discutendo di un’estensione dei diritti digitali per i lavoratori. Altre soluzioni includono valutazioni d’impatto regolari di come gli algoritmi influiscono sui lavoratori e danno ai dipendenti voce in capitolo su come vengono utilizzate queste tecnologie.

Sebbene le aziende possano trovare gli algoritmi di gestione altamente redditizi, la necessità di realizzare un profitto non è un motivo per tollerare la sofferenza dei dipendenti.

Peter alla fine ha imparato a gestire il suo capo e a rendere piacevole il lavoro. Lo ha fatto mostrando il suo valore in incontri altamente personalizzabili con i massimi livelli di gestione. La domanda è: come se la sarebbe cavata se il suo capo fosse stato un algoritmo?