di Michael Bird e Nathan Schepers
Le aziende di annotazione dei dati tramite intelligenza artificiale stanno perdendo il controllo della loro catena di approvvigionamento. Le reti criminali stanno prendendo il controllo della gestione degli account aziendali.
“Guadagna più di $ 1000 a settimana lavorando da remoto… Impara come preparare account di attività, profili diversi, BMS , estensioni, formazione gratuita, proxy… Guadagno garantito… 💥💥💯✅”
Questa strategia ricorda l’esca che le aziende statunitensi da miliardi di dollari usano per convincere i lavoratori dei dati a lavorare da remoto nell’economia dei lavoretti online.
Annunci simili compaiono nei messaggi di LinkedIn o nei feed dei social media, promettendo orari flessibili, nessun obbligo, la possibilità di entrare nel settore all’avanguardia dell’intelligenza artificiale, formazione gratuita e pagamento garantito.
Tuttavia, questo post contiene un errore di ortografia (“weekely”), nonché errori di grammatica e punteggiatura, cosa che di solito non accade con gli annunci di reclutamento legittimi.
L’immagine allegata al testo mostra uno screenshot di una dashboard associata a un account di Outlier, con sede nella Silicon Valley. L’azienda fa parte di Scale AI, azienda da 13,8 miliardi di dollari specializzata nell’annotazione dei dati e nella formazione sull’intelligenza artificiale.
Tra i clienti di Scale AI figurano aziende con sede in Europa come i giganti della consulenza aziendale Accenture, SAP e Deloitte, i giganti tecnologici statunitensi Meta, OpenAI, Anthropic e Microsoft, nonché la Casa Bianca e l’Esercito degli Stati Uniti. Outlier stessa non rivela i propri clienti, ma i documenti indicano che tra questi figurano Google e Meta.
Outlier è una delle aziende per cui l’autore del post lascia intendere di lavorare.
Esaminando il feed e gruppi simili, diventa chiaro che questi post non provengono da recruiter. I loro autori cercano di acquistare e vendere account di data worker che lavorano per grandi aziende occidentali di annotazione dei dati e formazione in intelligenza artificiale. Non sono in vendita solo gli account di Outlier, ma anche quelli di aziende simili, come CrowdGen, Echolabs e Prolific.
AlgorithmWatch ha monitorato i truffatori per scoprire chi si nascondeva dietro tali post e denunciare le loro attività. A quanto pare, esiste un vero e proprio mercato nero.
Salari occidentali per il Sud del mondo
Le applicazioni di intelligenza artificiale sono supportate da centinaia di migliaia di lavoratori da remoto che svolgono attività manuali di “formazione” per poche grandi aziende. Affinché un’intelligenza artificiale possa dialogare con un essere umano su qualsiasi argomento, necessita di dati di addestramento, come testi o richieste personalizzate da parte dei data worker.
La domanda di formatori è così elevata che aziende come Outlier ne sfruttano a fondo la rete. Assumono lavoratori in tutto il mondo e pagano gli stipendi in base alle consuetudini dei rispettivi Paesi. Questo porta a un’enorme differenza nelle retribuzioni tra i collaboratori esterni assunti nel Sud del mondo e quelli in Europa e negli Stati Uniti.
Per far crescere rapidamente la propria forza lavoro, le aziende di intelligenza artificiale si affidano a processi automatizzati per la creazione di account da parte dei dipendenti sulle loro piattaforme. I dipendenti inseriscono nome, indirizzo e numero di telefono e verificano il numero tramite un link di registrazione. Forniscono i dati identificativi e fiscali e il pagamento viene impostato, solitamente tramite PayPal. Una volta verificato, un account è considerato “pronto per l’incarico” o “pronto per lavorare”.
Questa semplice procedura di registrazione consente alle persone nei paesi a basso reddito di aggirare il sistema creando un account associato a un paese ad alto reddito. Per farlo, hanno bisogno dei dati personali di un residente di tale paese.
È qui che entrano in gioco i truffatori. Acquistano e vendono account di questo tipo su Facebook. Da un lato, i lavoratori del Sud del mondo, provenienti da India o Filippine, possono acquistare account con sede in Europa o negli Stati Uniti e ricevere uno stipendio occidentale. Dall’altro, i titolari di account con sede negli Stati Uniti o in Europa possono assumere un “tasker” di un altro paese, solitamente del Sud del mondo, per svolgere il lavoro. I titolari degli account e i tasker si dividono poi lo stipendio.
Facebook: un mercato per le frodi
AlgorithmWatch ha esaminato il post di Facebook citato in precedenza. Includeva un link WhatsApp che appare in diversi profili di gruppi diversi.
Chi l’ha pubblicato cerca di attirare clienti mostrando uno screenshot dei suoi guadagni. “Questa è quella che chiamiamo pura felicità”, dice.
Seguendo le istruzioni dell’offerta, il link nel post porta a un gruppo WhatsApp chiamato “Account Remotask”, che prende il nome da Remotasks, una società affiliata di Outlier specializzata nell’annotazione dei dati e parte di Scale AI. Non vi è alcuna indicazione che il gruppo sia ufficialmente collegato a Remotasks.
Il gruppo di messaggistica è gestito da qualcuno con un numero di telefono keniota. Afferma di avere “account Outlier verificati” “pronti per l’intervento”, con sede negli Stati Uniti, in Canada e nelle Filippine.
Scegliamo un cognome spagnolo come pseudonimo per interagire nel gruppo, “Bartolome”, e usiamo un numero di telefono spagnolo. Bartolome viene contattato direttamente da “Felix”, che ha un numero keniota e sta cercando qualcuno in Spagna che gli crei un account Outlier da utilizzare (o eventualmente vendere).
Aziende come Outlier hanno l’obbligo di effettuare controlli “KYC” (Know Your Customer) sui dipendenti che svolgono mansioni per loro conto, proprio come le banche controllano i clienti a rischio e cercano di individuare eventuali frodi. In generale, le aziende eseguono i controlli KYC collegando i conti degli utenti a numeri di telefono e indirizzi locali, nonché ai dati identificativi e al codice fiscale dei titolari dei conti.
Felix ha bisogno di qualcuno con un numero di telefono spagnolo e un documento d’identità con foto per aprire un conto a suo nome. Bartolome ha la residenza e un documento d’identità spagnoli, e Felix chiede i suoi dati personali, inclusi indirizzo e numero di telefono.
Felix potrebbe risiedere fisicamente in Kenya, ma per registrarsi all’account Outlier utilizza un proxy residenziale in Spagna.
Un proxy residenziale è un’alternativa a una rete privata virtuale (VPN). Le VPN vengono utilizzate per nascondere la propria posizione reale online, ad esempio per guardare contenuti con restrizioni geografiche sui servizi di streaming, instradando il traffico online tramite indirizzi IP di proprietà di un provider di servizi VPN. Poiché tali indirizzi sono noti, le VPN sono facilmente identificabili. Le piattaforme di lavoro online sono obbligate a verificare identità e posizione. Se vengono rilevati utenti di VPN commerciali, questi vengono bloccati per prevenire frodi.
Un’alternativa alle VPN sono i proxy residenziali, servizi del mercato grigio che funzionano come le VPN, ma fanno sembrare che gli utenti accedano al servizio da un indirizzo residenziale.
Felix spera di evitare di essere scoperto dai sistemi anti-frode di Outlier, che controllano specificamente l’uso di VPN, e inizia ad aprire un nuovo account Outlier con il proxy residenziale spagnolo e il numero di telefono di Bartolome.
Bartolome attende una conferma sul suo telefono. Arriva un SMS sul numero spagnolo. Il sistema di verifica di Outlier chiede a Bartolome di caricare il suo documento d’identità con foto. È qui che il nostro esperimento si conclude e interrompiamo i contatti con Felix.
Vendita fittizia di conti Outlier
Il sistema per aprire falsi account Outlier usando numeri di telefono e documenti d’identità europei sembra essere diffuso. Felix ha affermato di ricevere dieci falsi account al giorno pronti per essere processati. Il gruppo in cui ha trovato Bartolome conta circa 1.000 membri.
Alcuni membri di questi gruppi WhatsApp fanno probabilmente parte di una rete criminale. Il nostro alter ego Bartolome tenta di acquistare un account Outlier.
“Rehan”, che ha un numero keniota, offre conti Outlier dell’UE in Indonesia e nelle Filippine. Afferma di avere un conto che paga 35 dollari all’ora. “Outliers è la piattaforma migliore al momento”, afferma. Bartolome è interessato.
Rehan si offre di venderlo per 70 dollari tramite proxy. Vuole essere pagato tramite l’exchange di criptovalute Binance o il portafoglio digitale AirTM.
“Segui i miei semplici passaggi e guadagnerai di più sotto la mia guida, amico”, dice. Su Binance, Bartolome versa 70 dollari sul conto di Rehan “Escobar Crypto”. Una volta arrivati i soldi, Bartolome chiede a Rehan il conto Outlier e la password.
Rehan si rifiuta di darglieli. Dice che Bartolome avrebbe bisogno di una proroga per frode, che potrebbe fornire per altri 30 dollari. Bartolome trasferisce i 30 dollari su Binance. Ma Rehan continua a trattenere i dati del conto. Vuole altri 50 dollari.
Ne nasce una discussione [la chat è stata modificata per maggiore chiarezza]:
Bartolomé non è disposto a inviare altri 50 dollari a Escobar Crypto e lascia perdere. Ma poiché è noto che Bartolomé ha un numero di telefono e un documento d’identità spagnoli, un altro membro del gruppo WhatsApp gli chiede di unirsi a un’operazione di frode con carta di credito che coinvolge una catena di ipermercati spagnola.
Lavoratori del Sud del mondo nel mercato del lavoro nero
I data worker, soprattutto in Europa e Nord America, ricevono email da tasker del Sud del mondo che si propongono di lavorare sui loro account, cedendo loro in cambio una parte del compenso. Qualsiasi account occidentale è di grande valore, poiché gli stipendi sono più alti.
Si tratta di un modello coloniale adattato all’era digitale: i cittadini europei possono usare il loro status e la loro residenza per essere pagati senza fare nulla, mentre i tasker del Sud del mondo ricevono solo una frazione del lavoro necessario per svolgere tutto. Il mercato nero riflette un rapporto commerciale legale tra aziende: le aziende statunitensi sfruttano globalmente la manodopera a basso costo per addestrare i loro modelli di intelligenza artificiale.
AlgorithmWatch ha condotto un secondo esperimento. Con lo pseudonimo rumeno “Tudor”, abbiamo pubblicato un annuncio per i tasker di Outlier in un gruppo Facebook. L’azienda è menzionata più frequentemente in questi gruppi.
“40%” significa che Tudor è disposto a pagare il 40% dei guadagni dell’account al tasker.
I membri del gruppo Facebook possono contattarci.
Sanjib, dall’India, non vuole essere un tasker, ma offre a Tudor l’accesso a un conto Outlier indiano per 25 dollari. Poche persone sono interessate ai conti indiani, dato che lì gli stipendi sono molto bassi, ma Sanjib ci sta ancora provando.
Tudor parla con altre sei persone, tutte provenienti dal Kenya. Il motivo per cui così tanti tasker provengono dal Kenya potrebbe essere che Remotasks, la società affiliata di Outlier, operava nel Paese su larga scala fino a marzo 2024, quando ha chiuso tutte le attività. Molte persone nello Stato dell’Africa orientale hanno lavorato su queste piattaforme. Tutti i tasker con cui Tudor ha parlato affermano di poter aggirare il blocco geografico della piattaforma utilizzando proxy residenziali.
Victor afferma di addestrare modelli linguistici di grandi dimensioni su account Outlier in lingua inglese. Applicherebbe competenze in matematica, chimica, biologia e “altro ancora”. “Ho molta esperienza”, aggiunge. Quando Tudor chiede una prova, Victor mostra un account canadese per il quale ha lavorato la settimana precedente. “Questa settimana non c’è lavoro… nessun compito aggiunto”, dice. “Posso svolgere qualsiasi lavoro in Outlier, indipendentemente da dove si trovi l’account. Sono sicuro che ti piacerà”.
Quando Tudor gli chiede come sia riuscito ad aggirare la restrizione regionale, Victor risponde: “È tutta una questione di qualità del lavoro inviato. Molte persone inviano lavori di scarsa qualità, il che porta alla sospensione dei loro account”. Non userebbe una VPN. “Un proxy è più potente e sicuro”. Riguardo all’offerta di Tudor, dice: “Non male, anche se il proprietario canadese mi dà il 50%”.
Jonathan è di Nairobi e la sua competenza è la risoluzione di problemi matematici. “Mi occupo principalmente di Outlier”, spiega. “Ho lavorato su un account italiano prima che il progetto venisse rimosso”. Fornisce immagini come prova, tra cui date, nomi dei progetti e l’indirizzo IP del proxy residenziale italiano che utilizza per accedere all’account.
Tudor ha parlato anche con Mugo dal Kenya. Afferma di essere un “responsabile/coordinatore di progetto” presso Remotasks, il che è improbabile dato che l’azienda ha lasciato il Kenya. Mugo gestisce “un team di tasker”, dice, ma sta riscontrando problemi perché Outlier continua a segnalare i loro account come fraudolenti. Ecco la trascrizione del suo dialogo online con Tudor (la chat è stata modificata per maggiore chiarezza):
I data worker in Europa hanno notato un cambiamento in Outlier. L’azienda sembra stia diventando più severa con gli account sospetti. “Hanno iniziato a bannare molte più persone e stanno indagando attivamente sulle reti di truffatori che le persone hanno creato su Facebook”, afferma uno studente americano in Germania che lavora per Outlier.
Ci siamo rivolti a Outlier per sapere se l’azienda può essere certa che le attività svolte sulla piattaforma siano effettivamente svolte da individui che si sono iscritti alla piattaforma, se teme che tali “tasker” siano collegati a reti criminali e se ciò potrebbe creare opportunità per malintenzionati di accedere a materiale sensibile.
Outlier non ci ha fornito risposte dirette e, al contrario, un portavoce ha rilasciato una dichiarazione in cui si legge: “Prendiamo sul serio l’integrità delle piattaforme dei nostri collaboratori e disponiamo di solide misure di sicurezza per prevenire le frodi. Ogni collaboratore deve superare la verifica dell’identità prima di accedere al lavoro e utilizziamo un sistema a più livelli di misure di sicurezza tecniche, che include segnali comportamentali in tempo reale e rilevamento delle frodi. Gli account segnalati per attività sospette vengono prontamente esaminati e disattivati se necessario. Ci impegniamo a implementare sistemi solidi che riflettano le migliori pratiche del settore attraverso test e miglioramenti continui per anticipare i rischi emergenti”.
Condividere non è più prendersi cura
Quando aziende di intelligenza artificiale come Meta o Google esternalizzano la formazione di modelli linguistici di grandi dimensioni ad aziende come Outlier, si verifica un’espansione della catena di subappalto al mercato nero, un fenomeno chiamato “allungamento della catena”.
Il modello di condivisione degli account è stato diffuso nel lavoro occasionale online in tutto il mondo. I membri di una famiglia possono lavorare su un singolo account, e ogni membro completa le attività quando è disponibile. Dietro un account può esserci un’intera catena di fornitura di lavoratori.
Alcuni corrieri di generi alimentari e autisti Uber noleggiano i propri account. “Succede soprattutto tra migranti irregolari, a volte senza compenso, tra amici, così chi non ha un lavoro legale può trovare lavoro”, afferma un esperto di lavoro occasionale che ha chiesto di rimanere anonimo. “È una pratica commerciale, e a volte è un gesto di solidarietà. Sembra essere diffuso tra i fattorini, soprattutto nel Regno Unito”.
In Sud America, lo scambio di conti è una pratica comune, afferma un altro esperto. Possono persino essere considerati una forma di valuta. Gli utenti della piattaforma possono vendere un conto prezioso per estinguere i debiti.
Questo mercato è diventato un modello per i gruppi criminali di tutto il mondo. I clienti non sanno più chi sta lavorando ai loro progetti. Il nostro esperimento suggerisce che gli account manager e i tasker potrebbero appartenere o essere collegati a reti criminali.
Questa indagine è stata condotta nell’ambito del nostro Algorithmic Accountability Reporting Fellowship dai nostri relatori Michael Bird e Nathan Schepers.
