“Black Mirror” è una serie televisiva britannica, prodotta da Charlie Brooker per Endemol. La fiction, ambientata nel futuro, ma in realtà ispirata al mondo di oggi, è incentrata sui problemi di attualità e sulle sfide poste dall’introduzione di nuove tecnologie, in particolare nel campo dei media (il titolo infatti si riferisce allo schermo nero di ogni televisore, monitor o smartphone). È stata trasmessa in prima visione su Channel 4 dal 4 dicembre 2011 ed è oggi disponibile sulla piattaforma Netflix. Nell’episodio “Nosedive”, tradotto in italiano con il titolo “Caduta libera”, disponibile dal 21 ottobre 2016, l’attenzione è rivolta ad una società (immaginaria?) basata su punteggi individuali acquisiti grazie alla popolarità sociale conquistata sui social media. La protagonista, Lacie, è ossessionata, come del resto tutti, dal suo punteggio e tenta ad ogni costo di andare al matrimonio della sua amica Naomi, sperando, grazie al suo discorso da damigella d’onore, di ritrovarsi in una situazione che l’avrebbe aiutata ad accrescere la sua “fama”. In questo suo obiettivo è ostacolata dal meccanismo imperante: perde l’aereo che l’avrebbe portata dall’amica e, infuriandosi, le viene abbassato il punteggio e, a causa di ciò, non ha accesso ad un’altra prenotazione; noleggia un’auto elettrica un po’ datata e anche questa alla fine l’abbandonerà scaricandosi. Decide di scavalcare il sistema e chiede un passaggio in autostop. Viene accettata come passeggera da una donna che le racconta il suo passato. Anche lei era stata ossessionata dall’aumentare il punteggio sociale finché non morì suo marito, a cui fu negata la terapia per il cancro a favore di un paziente con un punteggio più alto. Nel frattempo il suo punteggio scende inesorabilmente tanto che Naomi, l’amica che cerca di raggiungere, la chiama invitandola a non presentarsi al matrimonio a causa del suo punteggio in costante calo. Delusa Lacie si rende conto di essere stata sfruttata dalla sua amica solo per ricevere punteggi alti al suo matrimonio e non per vera e profonda amicizia che credeva le legassero da anni. Lacie si presenterà ubriaca al matrimonio e verrà arrestata e si ritroverà infine felice nella sua cella, libera di poter scambiare insulti con il prigioniero della cella di fronte alla sua.
La trama sembra ispirata ad un importante cambiamento del 2014, quando il Consiglio di Stato della Repubblica Popolare Cinese ha rilasciato il piano per la costruzione di un credito sociale: un sistema nato per classificare la reputazione dei cittadini, osservandoli attraverso l’utilizzo di telecamere situate ad ogni angolo delle città, con app che registrano incontri e acquisti.
Abbiamo intervistato Fabrizia Candido, sinologa, editor per China Files, Opinio Juris – Law & Politics Review, Centro Studi Internazionali (CSI) e Istituto Analisi Relazioni Internazionali (IARI), per cercare di capire più a fondo la funzionalità di un sistema politico che per noi occidentali, attualmente, sembra risiedere solo nei libri.
Domanda: Nel 2014 è stato pubblicato il documento ufficiale del sistema di credito sociale cinese, da allora sono state eseguite delle prove per il sistema?
Risposta: Sì, il 14 giugno 2014 il Consiglio di Stato della Repubblica Popolare Cinese ha rilasciato il “Planning Outline for the Construction of a Social Credit System” ed ha autorizzato otto compagnie private ad elaborare sistemi di calcolo per i punteggi: tra queste compaiono China Rapid Finance, partner di Tencent, sviluppatore della popolare app di messaggistica WeChat, e Sesame Credit, gestita da Ant Financial Services Group, affiliato del colosso Alibaba che gestisce anche Alipay.
D.: Come funziona il sistema, con quali tecnologie è stato progettato e a quale scopo?
R.: Il sistema sfrutta l’utilizzo di Big data (estesa raccolta di dati informativi) e algoritmi di calcolo basati su AI (intelligenza artificiale). Esistono diverse versioni locali di esperimenti pilota, con differenti criteri di giudizio, come per esempio storia di credito, capacità di conseguimento di task in maniera puntuale e affidabile, caratteristiche personali, comportamento e preferenze, relazioni interpersonali, pagamento puntuale delle tasse ecc. Ad incentivare i cittadini a prendere parte al grande progetto c’è un sistema di ricompense e privilegi (agevolazioni nella concessione di mutui e prestiti o nella ricerca di lavoro e alloggio), controbilanciato però da sanzioni per chi dimostra una condotta inaffidabile o irrispettosa delle regole. Per fare un esempio, nel marzo 2018 la Commissione Nazionale per lo Sviluppo e le Riforme annunciò che a partire da maggio di quell’anno sarebbe stato vietato ai cittadini con un rating basso di viaggiare su treni e aerei per un periodo di dodici mesi. Il provvedimento fu indirizzato a coloro che erano stati sorpresi a viaggiare senza biglietto, a fumare nel bagno di un convoglio, a causare disordini sui trasporti pubblici, o che erano stati dichiarati colpevoli della diffusione di false informazioni. Lo scopo annunciato del sistema di crediti sociali è monitorare e valutare l’affidabilità e il rispetto delle leggi e delle regole da parte di individui, di organizzazioni, imprese e anche funzionari governativi. Il progetto, poi, oltre a mirare ad una maggiore sicurezza pubblica e ad una società più “giusta e affidabile”, punterebbe ad un’espansione dell’industria del servizio di credito, proprio come accaduto negli Stati Uniti in seguito all’introduzione del FICO score.
D.: Il documento prevedeva che dal 2020 sarebbe divenuto obbligatorio per tutti i cittadini, è così?
R.: Questa era l’intenzione dichiarata, ma per adesso sembra non essere così. La varietà di programmi pilota locali piuttosto che un singolo sistema nazionale unificato spiega in parte perché sono emerse così tante informazioni contrastanti e vari rallentamenti sul sistema di credito sociale. Le regioni pilota differiscono per il tipo di dati che raccolgono, il modo in cui valutano tali dati e in che modo distribuiscono i premi e le punizioni risultanti.
D.: Il sistema di credito sociale in Cina è stato accettato senza problemi?
R.: Per quanto ho avuto modo di constatare, i cinesi non sembrano farsene un gran problema. Tendono ad accettare più facilmente rispetto a noi forme di controllo in nome di un maggiore senso di sicurezza e in nome della realizzazione della cosiddetta “comunità armoniosa” alla quale da sempre aspirano. La ratio alla base di questo progetto sarebbe quella di marginalizzare l’”inaffidabile” e l’”irrispettoso” o chi potrebbe essere ritenuto “pericoloso” per la comunità. Naturalmente la questione sta nell’arbitrarietà con cui una persona viene definita tale.
Un esempio di inaffidabilità è il giornalista Liu Hu, che ha scoperto di essere stato bandito dal volo perché il suo nome era in un elenco di “persone inaffidabili”. Nel 2013 Hu è stato arrestato per diffamazione dopo aver pubblicato post molto critici nei confronti di funzionari governativi, un crimine per il quale gli è stato ordinato di scusarsi, ma la Corte ha ritenuto le sue scuse insoddisfacenti. Il sistema di credito sociale ha limitato le sue opzioni di viaggio: Hu non può effettuare prenotazioni alla ferrovia ad alta velocità poiché l’app afferma che gli è legalmente limitato. “I loro occhi sono accecati e le orecchie sono bloccate. Conoscono poco del mondo e vivono in un’illusione”,afferma Hu. Anche gli account sui social media di Hu, dove ha pubblicato gran parte del suo giornalismo investigativo, sono stati chiusi. Hu afferma che i suoi account Wechat e Weibo combinati avevano due milioni di follower al loro apice, ma ora sono censurati. Sembra un racconto distopico del genere orwelliano, un futuro lontano che increduli guardiamo e magari giudichiamo senza renderci conto che in realtà ci stiamo lentamente avvicinando a questo mondo anche in occidente. Se in Cina possiamo vederlo realizzato attraverso un piano dichiarato dallo Stato, noi possiamo vederlo manifestarsi attraverso i nostri computer e smartphone che utilizzano la geolocalizzazione, i cookies, i social network e soprattutto Google, che è capace di conoscere posizione e movimenti, ricerche e link visitati, preferenze musicali, con il dichiarato obiettivo di aiutare le persone ad esplorare e interagire nel mondo più velocemente e in base alle proprie preferenze personali. La sensibilità dei nostri smartphone è ormai capace di personalizzarsi su di noi, di prevedere in anticipo di cosa necessitiamo essendosi creato ormai anche per noi un profilo virtuale che lascia le nostre tracce ovunque andiamo. Oggi che, grazie al coronavirus, diversi paesi stanno utilizzando la tecnologia per rintracciare e archiviare tutti, siamo sempre più vicini ad accettare di non avere più alcuna privacy. La domanda è: in occidente accetteremo tutto questo, o preferiremo anche noi vivere liberi senza paura di cadere?
