Gli esiliati digitali di Achille de Tommaso 20-7-2018

Cosa pensereste se, una mattina, appena alzati, e consultando per prima cosa (come al solito) Facebook, il sistema vi comunicasse: “ACCESSO NON CONSENTITO, IL SUO ACCOUNT E’ STATO RIMOSSO DEFINITIVAMENTE E PERMANENTEMENTE. NON SIAMO TENUTI A DARVI SPIEGAZIONI IN MERITO”, e se, cercando di collegarvi al vostro account mail, anch’esso risultasse inaccessibile ? E se, parimenti, cercaste di prenotare un viaggio online e il sistema vi rifiutasse ? Così come tutte le altre piattaforme di acquisti, come Amazon, Uber, Ebay ? E se non ci fosse difesa o appello contro queste decisioni ? Siete stati in pratica “banned”, MESSI AL BANDO DALLA SOCIETA’ DIGITALE, ESILIATI.

Un incubo sicuramente.

Ma questo è ciò che sta accadendo in Cina (e forse non solo in Cina)

***

Il giornalista cinese Liu Hu ha avuto sempre problemi con le autorità; infatti ha scritto per anni contro la corruzione e l'ingiustizia; ed è quindi abituato ad essere perseguitato con frequenti multe e scuse forzate imposte dal suo governo autoritario.

Ha continuato tuttavia a dire e scrivere quella che per lui era la verità.

Un giorno del 2017, Hu si collegò a un sito di viaggi, ma non riuscì a prenotare il volo perché il sito dichiarò che non era "qualificato". E presto si accorse di essere stato bloccato anche dall'acquisto di proprietà, dall'utilizzo della rete di treni ad alta velocità, dall'ottenere prestiti dalla sua banca e da altre cose.

E non c'era niente che potesse fare al riguardo. I suoi diritti su beni e servizi essenziali erano stati limitati per mezzo di un algoritmo che oggi discrimina oltre 7,5 milioni di cinesi presenti sull' " Elenco dei Disonesti soggetti a limitazioni".

Il sistema è definito, all’inglese, "social credit score", il suo obiettivo finale è classificare tutti gli 1,4 miliardi di cinesi. Concettualmente, non è così diverso dal punteggio di credito finanziario che vige in molti paesi. Ma il punteggio di credito sociale include cose come la schiettezza politica, le abitudini di acquisto, gli amici, le abitudini di viaggio e qualsiasi cosa le autorità vogliano incoraggiare o scoraggiare. Questo punteggio quindi ottimizza l'accesso ai beni sociali essenziali sulla base di un algoritmo discriminatorio.

I pianificatori cinesi vogliono il sistema completamente funzionante entro tre anni. Dicono che porterà ad un paese più onesto e degno di fiducia. Ma una recensione su “Globe” e “Mail” di oltre due dozzine di casi, tra cui quello di un uomo nella lista nera per aver rubato qualche pacchetto di sigarette, suggerisce che il sistema stia già esigendo un enorme tributo dalla democrazia. Il caso del signor Liu mostra, infatti, nella realtà, come il sistema del credito sociale venga ben usato anche per mettere a tacere il dissenso; perché la mancanza di un meccanismo di ricorso ha reso queste persone incapaci di cercare l'aiuto, il che li lascia nella disperazione, perché le loro relazioni sociali, così come le loro vite materiali, vengono rovinate. Si pensi che alcune città hanno persino cambiato il tono di chiamata del telefono di coloro che sono stati puniti, per avvertire il chiamante che "la persona che chiami si trova sulla lista nera del credito centrale".

Per alcuni, questo è motivo di ottimismo per il futuro della Cina. "Abbiamo un disperato bisogno di ricostruire, dobbiamo ricostruire la moralità sociale, l'integrità degli affari, la sicurezza alimentare, il potere dei funzionari", afferma Lin Junyue, un accademico a volte definito il fondatore della teoria del credito sociale cinese, studiato fin dalla metà degli anni 90. Un tale sistema, dichiara, può fungere da strumento di controterrorismo, promuovendo stabilità sociale e coesistenza pacifica. "Le persone a cui piace mi vedono come un grande contributore per una società migliore. Le persone che lo disprezzano mi accusano di fornire uno strumento digitale al governo per esercitare il suo potere contro le persone”.

Quindi questo sistema di credito sociale ora in costruzione in Cina promette di rimodellare il paese in modo profondo. Nel bene.

Intanto il documento preliminare, edito nel 2014, offre un elenco parziale delle aree sociali che saranno disciplinate dai punteggi di credito: commercio di importazione ed esportazione, ispezione sanitaria, appalti pubblici, lavoro e occupazione, fiscalità, trasporti pubblici, sicurezza sociale, gestione della ricerca scientifica, promozione del partito comunista e appuntamenti, domande per il sostegno finanziario del governo, alberghi e ristoranti, conversione valutaria, vendite assicurative, lavori nel settore minerario, prodotti chimici, produzione di attrezzature speciali e produzione di cibo e medicine.

Ma per la Cina il “credito sociale” non è proprio una novità. Da tempo i pesi massimi cinesi dell'e-commerce hanno iniziato non solo a creare propri indicatori di credito, ma anche a condividerli. Ad esempio Sesame Credit, una filiale di Alibaba: analizza abitudini e contatti di acquisto di una persona per ottenere un punteggio di credito. E aziende di leasing, offrono uno sconto del 50 per cento sui noleggi per chi ha punteggi alti.

Per inciso, pare proprio che lo sviluppo del credito sociale sia anche un tentativo di riguadagnare l'ampiezza del controllo che il Partito Comunista esercitò sul paese, prima che l'ascesa delle imprese private erodesse quel potere. Ma non solo: Il credito sociale dà un nuovo straordinario potere a coloro che progettano e mantengono l'algoritmo del sistema. "Metti nelle mani del governo cinese la capacità di determinare il tuo livello di onestà e hai una tempesta perfetta di violazioni dei diritti umani", ha detto Maya Wang, ricercatrice cinese per Human Rights Watch. Le conseguenze possono essere gravi. Quando Xie Wen, fondatore di un'azienda di intrattenimento aziendale, si accorse che essa era stata inserita nell'elenco dopo una controversia con un'altra società, si accorse anche che le banche gli avevano interrotto il credito, rendendolo incapace di pagare i dipendenti e ostacolando la sua capacità di cercare un risarcimento legale. Essendo "screditato", il suo nome e i suoi partner commerciali lo abbandonarono. Alla fine il signor Xie pagò però la somma di denaro ordinata dal tribunale e fu rimosso dalla lista nera.

Un simile sistema da incubo non potrebbe mai, ovviamente, prendere piede da noi.

O potrebbe?

In realtà la (becera) novità fondamentale di questo sistema è che la decisione di esiliarti non consente difesa o appello; come invece accade per tutte le condanne dei tribunali nei paesi civili.

Ma, se andiamo ad analizzare la questione ci accorgiamo che questo aspetto di inappellabilità è già presente in molte attività “social”; come Facebook ed altre. Ovviamente essere “bannato” da Facebook non ha le stesse conseguenze della lista nera cinese; ma quanto durerà questa differenza ?

Da manuale il caso di Jackson Cunningham, che è stato “bannato” per la vita da Airbnb, con la seguente nota:

“Dear Jackson,

We regret to inform you that we’ll be unable to support your account moving forward, and have exercised our discretion under our Terms of Service to disable your account(s). This decision is irreversible and will affect any duplicated or future accounts.

Please understand that we are not obligated to provide an explanation for the action taken against your account. Furthermore, we are not liable to you in any way with respect to disabling or canceling your account. Airbnb reserves the right to make the final determination with respect to such matters, and this decision will not be reversed.”

Entro nel merito delle motivazioni di questa “sentenza” semplicemente per dire che a me paiono abbastanza futili: si tratta del fatto che Jackson è stato messo fuori dall’abitazione che aveva prenotato tramite Airbnb, un’ora prima del previsto, dal padrone di casa. E per questo aveva dato un “feedback” molto negativo; ma non usando la piattaforma AirBnB, bensì quella Google.

Non voglio comunque giudicare né la bontà delle motivazioni di Jackson (trovate molto in Rete) né quelle della piattaforma; quanto soffermarmi sull’inappellabilità di questo “BANNING”. Finché, infatti si limita a piattaforme di intrattenimento, il danno può essere poco grave; ma se entra nel merito delle attività quotidiane, magari commerciali, il discorso può essere diverso, perché, oltre a portare danni sociali, non esclude quelli materiali.

In prospettiva, dovremmo cominciare a chiederci se queste modalità di sospensioni debbano essere consentite a una manciata di giganti della tecnologia, senza alcuna supervisione o regolamentazione. A che punto una piattaforma online diventa abbastanza pervasiva nella vita di tutti i giorni da dover fornire spiegazioni o avvertimenti agli utenti prima di far cadere la ghigliottina? E se questi giganti si mettessero d’accordo per fare una “lista nera” di tutti quelli che scrivono recensioni negative ai loro servizi ? E se questa lista fornisse una base di consultazione per qualsiasi fornitore di servizi, prima di accettarci come clienti ?

Oppure tutto questo fa parte di una tendenza in corso, verso qualcosa come il sistema cinese di punteggio di credito sociale, in cui le conseguenze di non mantenere un rating elevato sono socialmente paralizzanti? In fondo siamo da tempo abituati alle “classi di merito” delle assicurazioni e a quelle degli insoluti bancari (il SIC) ; per spingerci un poco più in là ci vuole poco. Forse.

Quanti di voi sono al corrente della ventilata (dal 2015…) istituzione di un registro dei morosi nel pagamento delle bollette del telefono? Se non avete pagato non potete cambiare operatore. E magari non avete pagato per protesta contro un disservizio …