Con IA (l’intelligenza artificiale) non si scherza. Un’idea distopica per controllare i comportamenti dei giovani

Riprendiamo questo articolo di denuncia dell’Osservatorio “Algorithm Watch” sull’idea del Partito FdI di utilizzare Intelligenza Artificiale per “individuare” i giovani che al termine dell’obbligo scolastico non proseguono gli studi e non lavorano….Un’idea per il momento messa da parte, non è apparsa sul programma elettorale ma… una volta al governo potrebbe essere riesumata. Per le implicazioni gravi per le libertà personali che comporterebbe questo progetto se fosse realizzato rimandiamo alla lettura dell’articolo. Al fondo del testo originale in lingua inglese abbiamo postato una traduzione automatica in italiano. Per un uso professionale di questo testo va utilizzato il testo alla fonte. Ringraziamo Algorithm Watch per il prezioso lavoro che svolge.

Italian neofascists considered building an authoritarian AI to solve unemployment. They are far from alone.

       The neofascist party Brothers of Italy proposed to use Artificial Intelligence to assign young people mandatory jobs. The idea has a lot in common with “algorithmic solutions” to unemployment in other EU countries.

CPAC 2022 con Hermann Tertsch y Victor Gonzalez | | flickr | CC0 1.0

Back in April, the far-right Brothers of Italy party presented “Notes on a Conservative Program”. In a chapter on work, they called for an “artificial intelligence system” that “traces the list of young people who finish high school and university every year and connects them to companies in the sector.” This, the authors of the chapter wrote, would finally solve “youth unemployment,” as “the young person will no longer be able to choose whether to work or not, but [will be] bound to accept the job offer for himself (sic), for his family and for the country, under penalty of loss of all benefits with the application of a system of sanctions.”

The proposal did not make it to the final program that Brothers of Italy published prior to the election on 25 September, when they became Italy’s largest party with 26% of the vote.

Ironically, the neofascists most likely had intended to use Artificial Intelligence to “create a fog around them, around what they are and what they want, because they want to attract a more moderate right-wing electorate,” says sociologist Antonio Casilli. Guido Crosetto, the Brothers of Italy co-founder who edited the work chapter, is not considered knowledgeable on technology, though he once tweeted about being “in favor of introducing artificial intelligence to the Ministry of Justice”. Unlike in other countries, there is no noticeable overlap between the Italian tech scene and far-right parties like Lega Nord and Brothers of Italy.

“I haven’t met a fascist geek in Italy,” Casilli tells us. (He added later, posting on Twitter, “but I’ve left the country two decades ago, and I’ve met many elsewhere in Europe.”)

Artificial Intelligence and the far-right

In his essay Ur-Fascism, Umberto Eco, who was a child during Benito Mussolini’s dictatorship, lists some of the characteristics of fascism. As well as being into a “cult of tradition” that mythologizes and idolizes the past (e.g. Mussolini’s call for a “new Rome”), fascists also – irrationally, unsurprisingly – worship technology, insofar as they believe in it as a way to reassert inegalitarianism, Eco wrote.

In the United States, powerful people in the field of Artificial Intelligence are known to have been fascinated with extreme-right views. William Shockley, also known as Silicon Valley’s first founder, was an ardent eugenicist. Another AI pioneer, Stanford professor John McCarthy, believed that women were biologically less gifted in math and science. In 2020, the founder of face recognition firm Clearview AI collaborated with far-right extremist Chuck Johnson in the development of Clearview AI’s software. A few weeks later, the CEO of the AI surveillance firm Banjo was exposed to be a former member of the Dixie Knights of the Ku Klux Klan, who in 1990 was charged with a hate crime for shooting at a synagogue. (This revelation lost the company a contract with Utah’s Department of Public Safety.)

In 2016, one of the groups that far-right provocateur Milo Yianoppolous featured in his (ghostwritten) Breitbart “guide to the far-right” were the “neoreactionaries”: folks who subscribe to the political philosophy that democracy has failed and a return to authoritarian rule is required. In her essay “The Silicon Ideology”, critic Josephine Armistead describes one of the neoreactionary fantasies to be aristocrats or monarchs in a world ruled by a tech CEO or a super-intelligent AI.

An early incubator of these ideas was LessWrong.com, a discussion forum created by the California-based Machine Intelligence Research Institute (MIRI), which holds – without proof – that a general AI with potential for world domination will be created. People associated with MIRI “do basically no research and tell scary stories about how AI will turn us all into paper clips,” says researcher David Gerard, “It’s a huge distraction.”

Back in 2010, some LessWrong users were chatting about how to live forever by being reincarnated on a hard drive by a godlike AI. Then a man called Roko Mijic – a self-described “tradhumanist” barred from MIRI events for sexual harassment – posted the argument that anyone who imagines this future “AI god” but doesn’t help fund its development risks one day being tortured by it. Several users had breakdowns. Famous MIRI donors include tech mogul Peter Thiel and cryptocurrency founder Vitalik Buterin. “They’re reactionaries whose version of libertarian economics ends at neofeudalism with them on top,” Gerard says.

“Algorithmic solutions” to unemployment in the EU

According to Casilli, the Brothers of Italy party’s “Artificial Intelligence” proposal actually has a lot in common with previous proposals for using automated systems to tackle or manage unemployment that have been made by center-right or liberal parties in other countries of the European Union.

For example, in 2014, the then-liberal Polish government introduced a ranking system for job centers to use to decide how to best allocate welfare resources. The centers were widely regarded as overworked and short on time to pay attention to people who were registering there as unemployed. For the scoring system, information was gathered from people who registered as unemployed (age, duration of unemployment, etc.) The system was then used to sort them into three categories, which determined how much help a jobseeker received. Single mothers, people with disabilities or who lived in the countryside disproportionately ended up in the third category, which in practice received little help from job centers, as this category was considered “not worth investing in”. And, similarly to the Brothers of Italy proposal, it was hardly possible to appeal against the algorithm’s decision. The system was scrapped in 2019.

Meanwhile in 2017 France, Emmanuel Macron was elected president and promised to turn France into a “startup nation.” Around the same time, a 24-year-old “young genius” businessman called Paul Duan started a public relation blitz. He said he could reduce unemployment by 10% by designing an algorithm that – similarly to the Brothers in Italy proposal – would help people find jobs by matching them with potential employers and assisting them through the application process. Years later, the public administration that originally commissioned the project issued a report to say that the algorithm to match jobseekers with open positions does not work.

“This kind of algorithmic solution to unemployment shows a continuum between far-right politicians in Italy, politicians in Poland and center-right politicians like Macron,” says Casilli. He adds, “They are different shades of the same political ideology, some are presented as market-friendly solutions like the French one, others are presented as extremely bureaucratic and boring like the Polish one, and the Italian proposal, the way it is phrased, is really reactionary and authoritarian.”

edited on October 11 to better reflect Mr. Casilli’s position

====================================

Postiamo un testo in italiano tradotto con google translator per facilitare la lettura. Per ogni uso professionale e pubblico  occorre fare riferimento al testo originale della fonte 

I neofascisti italiani hanno considerato la costruzione di un’IA autoritaria per risolvere la disoccupazione. Sono tutt’altro che soli.

   

Il partito neofascista Fratelli d’Italia ha proposto di utilizzare l’Intelligenza Artificiale per assegnare ai giovani lavori obbligatori. L’idea ha molto in comune con le “soluzioni algoritmiche” alla disoccupazione in altri paesi dell’UE.

 

Ad aprile, il partito di estrema destra Fratelli d’Italia ha presentato “ Note su un programma conservatore ”. In un capitolo sul lavoro, hanno auspicato un “sistema di intelligenza artificiale” che “traccia l’elenco dei giovani che ogni anno finiscono le scuole superiori e l’università e li collega alle aziende del settore”. Questo, scrivono gli autori del capitolo, risolverebbe finalmente la “disoccupazione giovanile”, in quanto “il giovane non potrà più scegliere se lavorare o meno, ma [sarà] tenuto ad accettare per sé l’offerta di lavoro (sic ), per la sua famiglia e per il Paese, a pena di decadenza da ogni beneficio con l’applicazione di un sistema sanzionatorio”.

La proposta non è arrivata al programma finale che Brothers of Italy ha pubblicato prima delle elezioni del 25 settembre, quando sono diventati il ​​​​più grande partito italiano con il 26% dei voti.

Ironia della sorte, molto probabilmente i neofascisti avevano intenzione di utilizzare l’Intelligenza Artificiale per “creare una nebbia intorno a loro, intorno a ciò che sono e ciò che vogliono, perché vogliono attirare un elettorato di destra più moderato”, afferma il sociologo Antonio Casilli. Guido Crosetto, il co-fondatore di Fratelli d’Italia che ha curato il capitolo del lavoro, non è considerato esperto di tecnologia, anche se una volta ha twittato di essere “favorevole all’introduzione dell’intelligenza artificiale al Ministero della Giustizia”. A differenza di altri paesi, non vi è alcuna sovrapposizione evidente tra la scena tecnologica italiana e partiti di estrema destra come Lega Nord e Fratelli d’Italia.

“Non ho incontrato un fanatico fascista in Italia”, ci dice Casilli. (Ha aggiunto in seguito, postando su Twitter, “ma ho lasciato il paese due decenni fa e ne ho incontrati molti altrove in Europa.”)

Intelligenza artificiale e estrema destra

Nel suo saggio Ur-Fascismo , Umberto Eco, che era bambino durante la dittatura di Benito Mussolini, elenca alcune delle caratteristiche del fascismo. Oltre ad essere parte di un “culto della tradizione” che mitizza e idolatra il passato (ad esempio l’appello di Mussolini a una “nuova Roma”), i fascisti anche – irrazionalmente, non sorprendentemente – adorano la tecnologia, nella misura in cui credono in essa come un modo per riaffermare inegualitarismo, scriveva Eco.

Negli Stati Uniti, è noto che le persone potenti nel campo dell’intelligenza artificiale sono state affascinate dalle opinioni di estrema destra. William Shockley , noto anche come il primo fondatore della Silicon Valley, era un ardente eugenista. Un altro pioniere dell’IA, il professore di Stanford John McCarthy, credeva che le donne fossero biologicamente meno dotate in matematica e scienze. Nel 2020, il fondatore della società di riconoscimento facciale Clearview AI ha collaborato con l’estremista di estrema destra Chuck Johnson allo sviluppo del software Clearview AI. Poche settimane dopo, l’amministratore delegato della società di sorveglianza AI Banjo è stato smascherato per essere un ex membro dei Dixie Knights del Ku Klux Klan, che nel 1990 è stato accusato di un crimine d’odio per aver sparato in una sinagoga. (Per questa rivelazione  l’azienda ha perso contratto con il Dipartimento di Pubblica Sicurezza dello Utah.)

Nel 2016, uno dei gruppi che il provocatore di estrema destra Milo Yianoppolous ha caratterizzato nella sua “guida all’estrema destra” di Breitbart (scritta da fantasmi) erano i “neoreazionari”: persone che aderiscono alla filosofia politica secondo cui la democrazia ha fallito e un ritorno a è richiesto un governo autoritario. Nel suo saggio “The Silicon Ideology”, la critica Josephine Armistead descrive una delle fantasie neoreazionarie di essere aristocratici o monarchi in un mondo governato da un CEO tecnologico o da un’IA super intelligente.

Uno dei primi incubatori di queste idee è stato LessWrong.com, un forum di discussione creato dal Machine Intelligence Research Institute (MIRI) con sede in California, che sostiene, senza prove, che verrà creata un’IA generale con un potenziale per il dominio del mondo. Le persone associate al MIRI “praticamente non fanno ricerche e raccontano storie spaventose su come l’IA ci trasformerà tutti in graffette”, afferma il ricercatore David Gerard, “È un’enorme distrazione”.

Nel 2010, alcuni utenti di LessWrong stavano chiacchierando su come vivere per sempre reincarnandosi su un disco rigido da un’intelligenza artificiale divina. Quindi un uomo chiamato Roko Mijic – un autodefinito “tradumanista” escluso dagli eventi MIRI per molestie sessuali – ha pubblicato l’argomento secondo cui chiunque immagini questo futuro “dio dell’IA” ma non aiuti a finanziarne lo sviluppo rischia un giorno di essere torturato da esso . Diversi utenti hanno avuto guasti. Famosi donatori MIRI includono il magnate della tecnologia Peter Thiel e il fondatore della criptovaluta Vitalik Buterin. “Sono reazionari la cui versione dell’economia libertaria finisce con il neofeudalesimo con loro in cima”, dice Gerard.

“Soluzioni algoritmiche” alla disoccupazione nell’UE

Secondo Casilli, la proposta di “Intelligenza Artificiale” dei fratelli d’Italia ha in realtà molto in comune con le precedenti proposte di utilizzo di sistemi automatizzati per affrontare o gestire la disoccupazione avanzate da partiti di centrodestra o liberali in altri paesi dell’Unione Europea .

Ad esempio, nel 2014, l’allora governo liberale polacco ha introdotto un sistema di classificazione per i centri per l’impiego da utilizzare per decidere come allocare al meglio le risorse del welfare. I centri erano ampiamente considerati oberati di lavoro e a corto di tempo per prestare attenzione alle persone che si registravano lì come disoccupate. Per il sistema di punteggio, le informazioni sono state raccolte dalle persone che si sono registrate come disoccupate (età, durata della disoccupazione, ecc.). Il sistema è stato quindi utilizzato per classificarle in tre categorie, che hanno determinato l’importo dell’aiuto ricevuto da una persona in cerca di lavoro. Nella terza categoria sono finite le madri sole, le persone con disabilità o che vivevano in campagna in modo sproporzionato, che in pratica ricevevano scarsi aiuti dai centri per l’impiego, in quanto questa categoria era considerata “in cui non valeva la pena investire”. E, analogamente alla proposta di Fratelli d’Italia, difficilmente è stato possibile appellarsi contro la decisione dell’algoritmo. Il sistema e stato    demolito nel 2019.

Nel frattempo, nel 2017 in Francia, Emmanuel Macron è stato eletto presidente e ha promesso di trasformare la Francia in una “nazione in fase di avvio”. Più o meno nello stesso periodo, un uomo d’affari “giovane genio” di 24 anni chiamato Paul Duan iniziò un blitz di pubbliche relazioni. Ha detto che potrebbe ridurre la disoccupazione del 10% progettando un algoritmo che, analogamente alla proposta di Brothers in Italy, aiuterebbe le persone a trovare lavoro abbinandole a potenziali datori di lavoro e assistendole durante il processo di candidatura. Anni dopo, la pubblica amministrazione che aveva inizialmente commissionato il progetto ha pubblicato un rapporto in cui affermava che l’algoritmo per abbinare le persone in cerca di lavoro alle posizioni aperte non funziona.

“Questo tipo di soluzione algoritmica alla disoccupazione mostra un continuum tra politici di estrema destra in Italia, politici in Polonia e politici di centrodestra come Macron”, afferma Casilli. Aggiunge: “Sono sfumature diverse della stessa ideologia politica, alcune sono presentate come soluzioni favorevoli al mercato come quella francese, altre sono presentate come estremamente burocratiche e noiose come quella polacca, e la proposta italiana, per come è formulata , è davvero reazionario e autoritario”.

modificato l’11 ottobre per rispecchiare meglio la posizione del Sig. Casilli

 396 total views,  1 views today