Acţiunea se petrece în primul episod al celei de a treia serii a serialului Black Mirror. într-un decor în culori pastel, oamenii pot să îşi ofere ratinguri reciproc în baza interacţiunilor din viaţa de zi cu zi. Lacie, personajul principal, este o tânără obsedată de scorul ei, ce se plasează la 4,2 (dintr-un maxim de 5) şi pe care vrea să şi-l crească la 4,5 pentru a obţine un discount la achiziţia unui apartament de lux.
În încercările ei de a se face plăcută în sistemul care îmbină viaţa reală cu ratingurile din social media, vorbeşte cu un consultant care îi sugerează să câştige atenţia persoanelor cu ratinguri mari, care au un impact pozitiv asupra scorului ei. Reuşeşte astfel să se apropie de o prietenă populară din copilărie şi să obţină o invitaţie de participare în calitate de domnişoară de onoare la nunta ei. în drumul spre acest eveniment varsă, în grabă, cafeaua pe un trecător pe trecerea de pietoni, iar de aici evaluarea ei intră pe o pantă descendentă: la aeroport i se spune că, din cauza ratingului pe care îl are, nu poate să urce în avionul plin şi, în urma reacţiei ei – umane de altfel – intervine securitatea şi este astfel penalizată şi mai mult. De aici încolo acţiunile ei conduc spre scăderea la zero a ratingului, moment în care ajunge într-o închisoare, alături de alţi eşuaţi social.
Nosedive, unul dintre episoadele din Black Mirror cu cele mai bine recenzii, pare să traseze viitorul – cel puţin în viziunea guvernului chinez. Acesta plănuieşte să lanseze un sistem de credite sociale până în 2020, cu scopul de a stabili nivelul de încredere al celor 1,3 miliarde de locuitori ai ţării. Pe 14 iunie 2014, Consiliul de Stat din China a publicat un document numit ”Planificarea proiectului pentru construirea unui sistem de credite sociale“, analizat într-un amplu articol al publicaţiei britanice Wired
. Planul conţinea o idee radicală: cum ar fi dacă ar exista un sistem naţional de evaluare a încrederii care ar indica, în baza unui rating, ce fel de cetăţean eşti? O lume în care multe dintre activităţile noastre zilnice sunt constant monitorizate şi evaluate: ce cumpărăm din magazinele online, dar şi din cele fizice; cine sunt prietenii noştri şi cum interacţionăm cu ei, câte ore petrecem urmărind un anumit tip de conţinut sau jucând jocuri video; ce facturi şi taxe plătim (sau nu). Nu este greu de imaginat un astfel de scenariu, în contextul în care acest lucru aproape se întâmplă deja prin giganţi colectori de informaţii precum Google, Facebook, Instagram sau aplicaţiile de monitorizare a sănătăţii precum cele ale Fitbit. Imaginaţi-vă acum un sistem unde toate aceste comportamente sunt evaluate ca pozitive sau negative şi transformate într-un număr, potrivit unor reguli stabilite de guvern.
Acest lucru ar genera Scorul de Cetăţean al fiecărui individ şi ar spune tuturor dacă acesta este sau nu demn de încredere. în plus, evaluarea indivizilor ar fi afişată public, disponibilă întregii populaţii şi folosită pentru a determina eligibilitatea pentru obţinerea unui credit sau a unui loc de muncă, pentru a stabili şcoala la care va merge copilul nostru sau chiar şi şansele de a ieşi la o întâlnire.
Proiectul este deja pus la cale în China, unde guvernul dezvoltă Sistemul Social de Credite (Social Credit System – SCS) pentru a evalua nivelul de încredere al celor 1,3 miliarde de cetăţeni. Guvernul chinez promovează sistemul drept o modalitate dezirabilă de măsurare şi creştere a ”încrederii“ la nivelul naţiunii şi de construire a unei culturi a ”sincerităţii“. ”Aceasta va crea un mediu de opinie publică în care păstrarea încrederii este glorioasă şi va întări credibilitatea în afacerile guvernamentale, credibilitatea comercială, socială şi va contribui la construirea credibilităţii judiciare“, spun declaraţiile publice referitoare la acest proiect citate de Wired.
”Este urmărirea comportamentului consumatorilor cu o influenţă politică orwelliană“, interpretează Johan Lagerlvist, un specialist al Institutului Suedez de Afaceri Internaţionale, sistemul de credite sociale. Rogier Creemers, un cercetător postdoctoral specializat în lege şi guvernanţă chineză la Institutul Van Vollenhoven de la Universitatea Leiden, care a publicat o traducere detaliată a planului, l-a comparat cu recenziile de pe Yelp, în care ”statul-bonă“ veghează peste umărul indivizilor. Deocamdată, tehnic vorbind, participarea la Scorul Cetăţenilor din China este opţională.
Până în 2020 va fi însă obligatorie. Comportamentul fiecărui cetăţean, dar şi persoanelor juridice – orice companie sau orice altă entitate – va fi evaluat şi clasificat, fie ei că îşi doresc acest lucru sau nu. Până la implementarea programului în 2020, guvernul testează proiectul. în acest ”mariaj“ dintre supravegherea comunistă şi capitalism, guvernul a oferit licenţa pentru opt companii private în vederea dezvoltării sistemelor şi algoritmilor pentru realizarea scorurilor creditelor sociale. în mod predictibil, giganţi ai datelor administrează două dintre cele mai cunoscute proiecte de acest tip.
Primul este China Rapid Finance, un partener al reţelei sociale Tencent şi dezvoltatorul aplicaţiei de mesagerie WeChat, care are mai mult de 850 de milioane de utilizatori activi. Celălalt, Sesame Credit, este deţinut de Ant Financial Services Group (AFSG), o companie afiliată Alibaba. Ant Financial Services vinde produse de asigurare şi oferă credite companiilor mici şi mijlocii. Totuşi, adevărata vedetă a Ant este AliPay, ramura de plăţi folosită de oameni nu doar pentru achiziţiile online, dar şi pentru restaurante, taxiuri, taxe şcolare, bilete de cinema şi chiar şi pentru transferuri de bani între utilizatori. Sesame Credit a făcut echipă cu alte platforme generatoare de date, precum Didi Chuxing, compania de ride-hailing care a fost principalul competitor al Uber în China înainte ca aceasta să cumpere operaţiunile din China ale companiei americane în 2016, dar şi Baihe, cel mai mare serviciu de matchmaking al ţării. Nu este dificil de observat cum toate acestea se acumulează în munţi de date pe care Sesame Credit îi poate folosi pentru a evalua comportamentul oamenilor, în vederea oferirii unui rating corespunzător.
Cum sunt, mai exact, evaluaţi indivizii? Cei de pe Sesame Credite sunt ”preţuiţi“ în baza unui scor care variază între 350 şi 950 de puncte. Alibaba nu divulgă algoritmul complex folosit pentru a calcula numărul, dar dezvăluie totuşi că sunt cinci factori incluşi în ecuaţie. Primul este istoria de plăţi. Spre exemplu, cetăţeanul îşi plăteşte cheltuielile de electricitate şi factura telefonică la timp? Următorul factor este capacitatea de împlinire, definită drept ”abilitatea unui utilizator de a îndeplini obligaţiile din contractul său“. Al treilea factor este reprezentat de caracteristicile personale, ce includ verificarea de informaţii personale precum telefonul mobil al cuiva şi adresa. Lucrurile încep însă să devină mai interesante la a patra categorie, comportamentul şi preferinţele.
Sub acest sistem, ceva inofensiv precum obiceiurile de cumpărare ale unei persoane poate deveni o măsură a caracterului său. Alibaba admite că judecă oamenii în baza tipurilor de produse pe care ei le ccumpără. ”Cineva care joacă jocuri video timp de 10 ore pe zi, spre exemplu, ar fi considerată o persoană inactivă“, spune Li Yingyun, directorul de tehnologie al Sesame. ”Cineva care cumpără în mod frecvent scutece este părinte, care este cel mai probabil să aibă un simţ al responsabilităţii mai ridicat.“