Podziel się



Totalna kontrola społeczeństwa. Władza, która wie, co jesz, gdzie bywasz, co myślisz i z kim sypiasz – każdego dnia, przez całe twoje życie. Ta wizja od lat przeraża i inspiruje. A jednocześnie właśnie staje się rzeczywistością – od 2020 roku dla przeszło miliarda ludzi.

Totalna kontrola społeczeństwa. Władza, która wie, co jesz, gdzie bywasz, co myślisz i z kim sypiasz – każdego dnia, przez całe twoje życie. Ta wizja od lat przeraża i inspiruje. A jednocześnie właśnie staje się rzeczywistością – od 2020 roku dla przeszło miliarda ludzi.





Dobrze znana jest filmowa adaptacja powieści Philipa K. Dicka "Raport mniejszości". Policja jest w niej do tego stopnia wszechwiedząca, że potrafi zatrzymywać ludzi, nim ci popełnią przestępstwa. Każdy ludzki krok jest śledzony przez kamery i skanery, zaś gdy wchodzi się do centrum handlowego, interaktywne reklamy zwracają się do klientów po imieniu. Jedynym sposobem na anonimowość jest nielegalny przeszczep gałek ocznych oraz enzym zwiotczający, który na krótki czas zmienia rysy twarzy.

Social Credit System

To była fikcja, ale zdaje się ona właśnie stawać rzeczywistością. System, który już jest testowany w Chinach, właściwie ją nawet przerasta, przypominając raczej przerażającą wizję z książki "Rok 1984" George'a Orwella. Pod angielską nazwą Social Credit System (SCS), a więc System Zaufania Społecznego lub System Wiarygodności Społecznej, został on enigmatycznie zapowiedziany trzy lata temu, czemu towarzyszyło umiarkowane zainteresowanie.

W styczniu tego roku chińska agencja Xinhua równie enigmatycznie zapowiedziała uruchomienie jego wersji pilotażowej z udziałem ochotników na obszarze delty rzeki Jangcy, a więc m.in. mieszkańców Szanghaju. Nastąpiło to latem. Ale dopiero pod koniec października portal "Wired" opisał pierwsze doświadczenia z jego funkcjonowania, informując, że dobrowolnie pozwoliło się już objąć nim aż kilka milionów osób. Dzięki temu na światło dzienne po raz pierwszy wyszły szczegóły działania SCS i nie pozostawiły złudzeń co do tego, czym ten system może się stać.

Do jego rozpoczęcia chińskie władze szykują się już od lat, w tym czasie uruchamiając programy "pomocnicze". Stopniowo tworzone są bazy odcisków palców, nagrań głosu, danych biometrycznych twarzy oraz kodów DNA chińskich obywateli – czyli docelowo miliarda trzystu milionów ludzi. Dane te gromadzone są na rządowych serwerach przez pracujące na usługach władzy najpotężniejsze chińskie spółki z branży IT – przede wszystkim podmioty koncernu Alibaba (które swój system nazwały Sesame Credit) oraz powiązaną z Tencent spółkę China Rapid Finance (z systemem o nazwie Tencent Credit).

Po drugie, monitorowany jest coraz większy zakres aktywności obywateli. Kontroli podlega już nie tylko to, co piszą, lubią czy kupują w coraz bardziej ocenzurowanym internecie. Również gdy w realnym świecie robią zakupy lub planują podróż, muszą oni okazywać swój dokument tożsamości, a ulice miast pokrywa coraz gęstsza sieć kamer i sensorów.

W ten sposób możliwy stał się system totalnego monitorowania wszystkiego, co ludzie robią.

W oparciu o gromadzone dane w ramach testowanych właśnie systemów każdy ma być na bieżąco oceniany w określonej skali - w Sesame Credit wstępnie od 350 do 950 punktów. Im wyższa wartość, tym oficjalnie bardziej "zaufany" i "wiarygodny" człowiek, a w rzeczywistości bardziej posłuszny i niesprzeciwiający się władzy.





Kij i marchewka

Jak to działa w praktyce? Dzięki kontroli danych z karty płatniczej i wszechobecnemu obowiązkowi okazywania dowodu, system będzie wiedział, co i gdzie kupujesz oraz czy za to sumiennie płacisz. Dzięki kontroli internetu będzie wiedział, co oglądasz, ile czasu grasz w gry oraz jakie treści zamieszczasz w portalach społecznościowych. Wreszcie dzięki kamerom ulicznym z systemem rozpoznawania twarzy oraz geolokalizacji w smartfonach będzie notował, gdzie jesteś oraz z kim się spotykasz.

Informacje te będą dodatkowo uzupełniane o opinie o tobie wyrażane przez innych – znajomych, internautów, pracodawcę czy urząd skarbowy. Na koniec ta gigantyczna ilość danych trafiać będzie do niejawnego, testowanego właśnie, oprogramowania, które zgodnie z kluczem oczekiwanych przez władzę postaw będzie je na bieżąco wyceniać. I już – stałeś się właśnie liczbą, na dodatek publicznie znaną.

A od tego, jaką liczbą jesteś, zależeć będzie niemal wszystko w twoim życiu. W testowym systemie Sesame Credit, mając ocenę powyżej 600, obywatel będzie mógł liczyć na pożyczkę na korzystniejszych niż zwykle warunkach. Mając co najmniej 650, będzie mógł wypożyczyć auto bez składania depozytu, zaś w hotelu czy na lotnisku skorzystać z przyspieszonych procedur. Wreszcie mając powyżej 700, będzie mógł łatwiej otrzymać wizę na podróż zagraniczną – "zaufany" obywatel z większym prawdopodobieństwem bowiem wróci do ojczyzny i nie da się "omamić" zachodnim wartościom.

To nie wszystko. Od twojej oceny zależeć będą szanse na znalezienie pracy – zarówno z uwagi na selekcję przez samych pracodawców, jak też odgórne zamknięcie bardziej prestiżowych ścieżek kariery dla osób "mało wiarygodnych". Podobnie zależeć też będą szanse na wysłanie dziecka do dobrej szkoły, złapanie taksówki czy nawet na randkę i znalezienie swojej drugiej połówki – twoja ocena będzie bowiem przyciągać lub zniechęcać osoby płci przeciwnej, system będzie mógł także zwyczajnie ograniczyć twój dostęp do aplikacji randkowych czy wstęp na określone imprezy.

Analogicznie osoby z niską oceną będą musiały liczyć się z karami: mogą mieć np. odebrany dostęp do prestiżowych miejsc jak restauracje, teatry czy imprezy, stracić prawo wyjazdu za granicę, a nawet mieć spowolniony internet.

Gorzej niż stalinizm

Nietrudno sobie wyobrazić, że istnienie systemu jawnych, liczbowych ocen będzie miało jeszcze jedną koszmarną konsekwencję – permanentne porównywanie się przez obywateli i obsesyjne (zwłaszcza w chińskim społeczeństwie) dążenie do poprawy swoich notowań.

Do tego momentu cały system mógłby się jeszcze wydawać wielu osobom atrakcyjny – pełniłby w końcu funkcję wychowawczą i promował pozytywne wzorce zachowań. - Ma promować odpowiednie prospołeczne zachowania i karać działania przestępcze, nieetyczne i antyspołeczne. I to nie jest tylko pusta retoryka, bo wprowadzenie systemu powinno mieć również te właśnie pozytywne skutki – zaznacza Łukasz Sarek, analityk rynku chińskiego.

Problem jednak w tym, że to władza będzie autorytarnie decydowała, co podnosi, a co obniża ocenę. Tym samym poprzez system będzie mogła świadomie kształtować życie ludzi i będzie zdolna do upolitycznienia każdej jego sfery.

I tak w trosce o poprawę swojej oceny ktoś może w telewizji wybrać neutralny serial komediowy zamiast dokumentu o trującym smogu w chińskich miastach, a w sklepie produkt państwowego przedsiębiorstwa zamiast znanego, zagranicznego konkurenta. Może też wręcz zmienić swoich znajomych – wszechobecne kamery szybko zarejestrują, czy przestaliśmy przyjaźnić się z osobą krytykującą władze, a zamiast tego zaprosiliśmy na drinka członka lokalnych organów partii. Wszystko, by nasza ocena drgnęła w pożądanym przez władze kierunku i "ułatwiła" nam życie.

Ludzie będą też nawzajem się kontrolować, niczym w najgorszych czasach stalinizmu czy maoizmu. Będą powstrzymywać członków własnej rodziny, znajomych czy współpracowników przed np. publicznym krytykowaniem sytuacji w kraju czy robieniem niewskazanych przez rząd rzeczy, bojąc się, by nie odbiło się to negatywnie także na ich ocenie. Trudno w takich realiach wyobrazić sobie powstanie w Chinach społeczeństwa obywatelskiego czy choćby szczerą, publiczną dyskusję o jakimkolwiek problemie, nie mówiąc już o powstaniu opozycji.

- Nie można wykluczyć, że wraz z rozwojem technologii opartych na sztucznej inteligencji będzie możliwe także przewidywanie poczynań ludzi na podstawie zebranych danych, zwłaszcza tak różnorodnych i szczegółowych jak w SCS – zauważa Łukasz Sarek, zaznaczając jednocześnie, że "póki co nie jest to jeszcze kluczowym elementem projektu".

Z dużo większą pewnością można za to zgadywać, że system ten będzie kolejnym obszarem, w którym rozkwitnie korupcja. Za pieniądze będzie można nie tylko poznać prostsze sposoby na poprawę swojej oceny, ale być może także wprost sobie ocenę kupować, choćby od hakerów. Gra jest warta ryzyka, bo czy lokalny milioner nie straci swojego biznesu, jeżeli ludzie zobaczą, jak "niegodną zaufania" ma notę?

Z czasem obok SCS mógłby wreszcie powstać podziemny, nielegalny świat ludzi ukrywających się przed wszechwidzącą władzą. Równoległy świat osób wykluczonych przez zbyt niską ocenę, azyl dla przestępczości i brudnych pieniędzy, ale też jednostek zwyczajnie niepokornych, niezależnych czy wyrażających niepochlebne dla władz poglądy. Prawdziwy "Matrix".

Chiny nie znają fantastyki

Jak dotąd to bardzo odległa wizja, a będący jedynie jej namiastką prototyp SCS znajduje się dopiero w fazie testów. Nie wybiegając zbyt daleko w przyszłość, warto jednak zwrócić uwagę, że sama wizja publicznego wartościowania, kategoryzowania ludzi i kontrolowania w ten sposób ich życia jest motywem, który od lat pojawiał się w powieściach fantastycznych. Przypomnieć można nie tylko "Rok 1984" George'a Orwella, ale też znacznie młodsze dzieło "Limes inferior" autorstwa legendy polskiej fantastyki Janusza Zajdla czy wyemitowany w 2016 roku odcinek brytyjskiego serialu "Black Mirror".

I wizja ta, podobnie jak skumulowane europejskie doświadczenia z systemami totalitarnymi, kojarzy się nam jednoznacznie negatywnie. Powstaje więc pytanie: jak to możliwe, że w Chinach ludzie nie tylko nie są przerażeni, ale wręcz dobrowolnie garną się, by zostać częścią tego systemu? Tym bardziej, że sami doświadczyli już ustroju totalnej kontroli społeczeństwa i powszechnego donosicielstwa podczas rewolucji kulturalnej (1966-1976).

Odpowiedź może być bardzo prosta – ochotnikami do programów pilotażowych są głównie młodzi Chińczycy, którzy ze względu na cenzurę nie słyszeli nigdy traumatycznych relacji z rewolucji kulturalnej.

W przypadku młodych znaczenie może mieć także fakt, że w Chinach nie są znane dzieła zachodniej fantastyki, nie licząc najpłytszych i najbardziej skomercjalizowanych jej produktów. Co więcej, totalitaryzm wcale nie kojarzy się tam tak negatywnie. Historia Chin uczy bowiem, że największym złem jest anarchia, a silna władza i silne państwo dają stabilność i pewną przyszłość. Z tego bierze się choćby fenomen podobizn Adolfa Hitlera w azjatyckich muzeach figur woskowych, z tego też bierze się brak strachu przed funkcjonowaniem potencjalnie tak omnipotentnego systemu. W końcu służy on porządkowi.

Co ciekawe, w Chinach już od wielu lat funkcjonowała także namiastka podobnego systemu obejmująca obcokrajowców. Na przykład meldując się w hotelu w Szanghaju, w recepcji można było usłyszeć pytanie: "Jak minęła podróż z Pekinu?". Mimo że podróżowało się samotnie, bilety kupowało na dworcach i nikomu nie mówiło, skąd ani dokąd przemieszcza. Ale władze wiedziały i tak. Wystarczyło, że punkty sprzedaży biletów oraz hotele zostały wcześniej zobowiązane do wprowadzania danych paszportowych swoich klientów do specjalnej rządowej bazy danych. Niby nic, a dziwne uczucie w recepcji, że "wielki brat patrzy", pozostawało.









Najpierw palec, potem wszystko

Jak dotąd system ten prawdopodobnie nie będzie jednak aż tak wszechobecny i ingerujący w prywatność, jak mógłby być. Faktem jest, że chińskie władze nadały priorytet badaniom nad tak zwaną analizą big data oraz rozwojem sztucznej inteligencji, a więc dwoma technologiami, bez których cały system nie zadziała. Wydaje się jednak, że są małe szanse, by osiągnęły one do 2020 roku poziom umożliwiający wykonywanie tak monstrualnej i skomplikowanej pracy, jaką jest szczegółowe ocenienie przeszło miliarda obywateli.

Odtwarzaj Ekspert o sztucznej inteligencji. Rozmowa z 5 września / Wideo: TVN24 BiS

W związku z tym system prawdopodobnie będzie uruchamiany stopniowo, a pierwszym obszarem przez niego objętym będzie przede wszystkim przestrzeń gospodarcza. System stanowić może początkowo coś na wzór dodatkowego ratingu finansowego spółek i przedsiębiorców, a jednocześnie platformę do szybkiego zgłaszania i karania gospodarczych oszustów. Tak przynajmniej swoje intencje tłumaczy władza za pośrednictwem agencji Xinhua.

- Oficjalnie system ten ma ułatwić transakcje gospodarcze, szczególnie te najdrobniejsze, na przykład w handlu internetowym czy pożyczkach online – tłumaczy Łukasz Sarek.

Fantastyka ratunkiem rzeczywistości?

Nawet jeśli motywy Pekinu są w pierwszej kolejności gospodarcze, a system przyniesie również pozytywne rezultaty, niewielka jest to pociecha. Przy takiej skali gromadzonych od obywateli danych jest faktem, że chińskie władze są o krok od stworzenia systemu totalnej kontroli społeczeństwa. I tylko od nich będzie zależało, kiedy i w jakim stopniu zaczną z niego korzystać.

Zwraca na to uwagę Łukasz Sarek, który podkreśla, że mimo wszystko "głównym celem Pekinu jest uzyskanie możliwie pełnej kontroli nad jednostką". - To trochę jak w PRL: wycieczki zagraniczne, szybszy odbiór małego fiata, mieszkania, lepsza praca dla tych, którzy są posłuszni władzy. Dla opornych kary – mówi. - Tyle tylko, że PZPR i podległe jej służby dysponowały niewielką cząstką wiedzy o jednostce, jaką będą dysponowali ich chińscy odpowiednicy - podkreśla.

Porównanie do polskich doświadczeń może dawać do myślenia - naiwnością byłoby bowiem sądzić, że tylko Chiny kuszone są dziś wizją posiadania tak potężnych możliwości nadzoru obywateli. – My, jako społeczeństwo, powinniśmy zadać sobie pytanie, do jakiego stopnia, słuchając sloganów o walce z terroryzmem, oszustwami podatkowymi, uchylaniem się od alimentów, damy zgodę na oddanie naszej prywatności i wiedzy o nas przedstawicielom administracji i służb; gdzie dla nas jest ta granica – mówi analityk.

Szczęśliwie, polskie i zachodnie społeczeństwa znają chociaż dzieła fantastyki.