L'intelligenza artificiale è un male per i più poveri

Riccardo Liguori

Miliardi di euro investiti in intelligenza artificiale stanno inficiando la qualità di vita di milioni di persone, soprattutto quelle a basso reddito. E' quanto emerge da una serie di articoli del Guardian, che mette in luce gli effetti di quella che appare sempre più come una “distopia digitale”, cercando di capire “come i nostri governi si stanno servendo dei poteri dell'intelligenza artificiale per colpire i più vulnerabili”.

“Il digitale ascolta i governi. Si sentiranno, sempre più, grandi promesse su come le nuove tecnologie trasformeranno la povertà grazie ad una nobile impresa a fin di bene. L'intelligenza artificiale sarà dichiarata in grado di accelerare i pagamenti, aumentare l'efficienza e la trasparenza, ridurre gli sprechi, e risparmiare denaro ai contribuenti. Verrà proposta come arma per sradicare la fallibilità e i pregiudizi umani, assicurando alle persone più bisognose l'accesso ai beni primari”, commenta la politologa americana Virginia Eubanks.

Eppure, in azione è un mondo sommerso, oscuro ai più e tenuto lontano da occhi indiscreti. Matematici e informatici sono gli unici a comprendere e gestire il cambiamento digitale in atto. In azione c'è un sistema di algoritmi informativi, modelli biometrici e di rischio che sta compromettendo il sistema previdenziale e l'accesso ai beni primari di centinaia di milioni di cittadini.

Dall'India all'Inghilterra, dall'Australia agli Usa, si sta attivando una rivoluzione digitale che colpisce fasce sempre più ampie di popolazione, soprattutto le più svantaggiate.

Il nuovo stato sociale digitale

In un momento in cui l'austerità domina il panorama politico, milioni di persone stanno vedendo i loro diritti silenziati da programmi computerizzati che operano attraverso dinamiche che pochi sembrano in grado di controllare o, addirittura, comprendere.

Indennità di disoccupazione, assistenza all'infanzia, sovvenzioni per vitto e alloggio (e molto altro) sono ora affidati a dinamiche online. Dinamiche che, spesso fallaci, sono per noi inaccessibili.

Così, grandi somme vengono spese dai governi di tutto il mondo industrializzato e in via di sviluppo per automatizzare la povertà e trasformare in anonimi codici numerici i bisogni dei cittadini più vulnerabili.

Quella che si sta delineando è l'immagine di una distopia non così lontana da quella narrata dalla fantascientifica serie Netflix “Black Mirror”. Anzi, quel mondo non pare poi così inverosimile. Una realtà cupa, condizionata e dominata dalla supremazia di tecnologia e mezzi di comunicazione online.

La denuncia globale di Philip Alston

Questa settimana, il problema verrà sottoposto all'attenzione della comunità internazionale da Philip Alston, relatore speciale delle Nazioni Unite sulla povertà estrema e i diritti umani. L'avvocato americano presenterà all'assemblea generale di New York una analisi che lancia l'allarme sulle implicazioni negative cui la corsa alla digitalizzazione sta portando, soprattutto nel campo dell'assistenza previdenziale.

Ciò che l'avvocato ha studiato è l'impatto della tecnologia digitale sulle reti di sicurezza sociale di tutto il mondo focalizzandosi, soprattutto, sulle falle di questo sistema.

Qualche esempio? Impronte digitali non correttamente scansionate, funzionari (umani) che non forniscono assistenza tempestiva, copertura internet troppo scarsa e debole per rendere fruibile alla cittadinanza il servizio di assistenza sociale “computerizzata”.

“A causa di mancanza di responsabilità, le tecnologie digitali sono impiegate, nell'ambito del welfare state, per sorvegliare, colpire, molestare e punire i beneficiari, in particolare i più poveri e vulnerabili”, sottolinea Alston. Le decisioni cruciali per il passaggio al digitale, a detta dell'avvocato, “sono state liberamente assunte dai ministri dei governi e dai funzionari”.

Alston, nel giugno 2018, aveva avanzato critiche verso l'amministrazione Trump, segnalando che i nuovi tagli fiscali stavano compromettendo il benessere di milioni di persone. Successivamente aveva criticato l'austerità portata avanti nel Regno Unito. Oggi, l'avvocato denuncia la “distopia digitale” in atto, rea di aver introdotto un processo decisionale automatizzato, eliminando la discrezionalità umana dai sistemi previdenziali. “In questo modo, i cittadini diventano sempre più “visibili” ai loro governi. Non si può dire, però, che valga l'inverso”.

L'avvento della rivoluzione digitale, secondo Alston, ha anche permesso al settore privato di appropriarsi, incontrastato, di vasti strati di welfare senza ricevere alcuna resistenza dalle istituzioni. “Una manciata di dirigenti potenti – continua l'avvocato - sta sostituendo i governi e i legislatori nel determinare le direzioni verso cui le società si muoveranno, modificando anche i valori che le guideranno”.

L'autoregolamentazione del mondo tecnologico, in particolare tra i principali settori dell'economia, “deve finire e le imprese tecnologiche devono essere giuridicamente obbligate a rispettare le norme applicabili in materia di diritti umani”, conclude Alston. “Invece di infliggere miseria a milioni di persone, la tecnologia digitale potrebbe essere usata come una forza positiva. Potrebbe garantire un tenore di vita più elevato per i più vulnerabili e svantaggiati. Questa sarebbe la vera rivoluzione digitale dello stato sociale”.

Gli effetti globali della distopia digitale

In Illinois, il Guardian ha scoperto che lo stato e i governi federali hanno unito le forze per chiedere ai beneficiari di servizi di assistenza sociale di rimborsare con “overpayments” debiti che risalivano a trent'anni prima. Questo sistema di “debito zombie”, sempre più diffuso, sta ora mettendo in ginocchio le fasce più vulnerabili della popolazione.

Parallelamente, in Australia, sotto torchio è il “robodebt”, un sistema accusato di riconquistare, senza diritto, debiti storici grazie all'azione di un algoritmo difettoso. Attualmente, il governo ha aperto un nuovo fronte digitale: si serve dell'automazione per sospendere milioni di pagamenti sociali. I beneficiari, senza preavviso, si trovano privi del denaro che spetterebbe loro: in 12 mesi, i pagamenti del welfare australiano sono rimasti bloccati un milione di volte grazie alle tecnologie automatizzate.

Il caso indiano

Ma la storia più inquietante, forse, proviene da Dumka, in India. Qui la distopia digitale ha colpito le famiglie a seguito dell'introduzione di un codice numerico di identificazione unico a 12 cifre (“Aadhaar”) che il governo indiano ha rilasciato a tutti i residenti.

Protagonista, inconsapevole, dei lati oscuri di questo sistema è Motka Manjhi. Non essendogli stata riconosciuta la chiave biometrica (tramite il riconoscimento digitale del pollice), all'uomo sono state bloccate le razioni alimentari, impedendogli l'accesso al cibo.

Il 22 maggio scorso Manjhi, abbandonato dal sistema previdenziale dello stato, è morto sull'uscio di casa. La sua famiglia sostiene sia deceduto per inedia.

In passato, lui come tutti gli altri indiani a basso reddito dovevano solo esibire i propri documenti per ricevere alimenti. Poi, con l'introduzione di Aadhaar, il sistema è cresciuto così rapidamente dalla sua introduzione, nel 2009, che ora assiste più di 1,2 miliardi di persone. Si tratta del più grande sistema di identificazione biometrica del mondo.

Nonostante le gravi preoccupazioni sollevate dagli economisti e dagli esperti di povertà, il software continua a crescere ed ora è coinvolto nell'accesso per qualsiasi servizio previdenziale, dalla pensione ai rimborsi medici.

Rivoluzione digitale Vs umanità

All'interno di questa rivoluzione digitale, l'elemento umano viene sacrificato.

“La gente non sa perché l'assistenza sociale si è fermata e non sa a chi rivolgersi per risolvere il problema. I funzionari possono dire perché un pagamento si è fermato; tuttavia non sono in grado di risolvere il problema”, ha sottolineato Reetika Khera, professore associato di economia presso l'Istituto Indiano in Management di Ahmedabad.
“Dal momento che molti di questi problemi stanno colpendo i poveri, che non hanno voce né potere nel sistema, gran parte di loro passa inosservato”, ha continuato Khera. “Dov'è la dignità in tutto questo? Questi programmi sono stati messi in atto per consentire alle persone di condurre una vita dignitosa. Ma, al contrario, ora sono ridotte a mendicanti.”