Technologia zniewolenia. Nie będziesz mieć żadnych tajemnic i będziesz szczęśliwy

Jak wyeliminować przestępstwa? Zamiast niwelować ich skutki, lepiej sprawić, aby do łamania prawa w ogóle nie dochodziło. Pomysły rodem z fantastyki naukowej są już wdrażane w Chinach. Ale kiedy opinia publiczna skupia uwagę na totalitarnych władzach, podobne rozwiązania z entuzjazmem testują zachodnie demokracje.

Chiński System Zaufania Społecznego (Social Credit System) od lat budzi kontrowersje, ale i wielkie zainteresowanie. Gigantyczna baza wiedzy o obywatelach powstała na fundamencie danych, zebranych przez chińskie banki na temat swoich użytkowników.

Informacje używane przez sektor bankowy do oceny wiarygodności kredytowej okazały się niezwykle użyteczne z punktu widzenia totalitarnego państwa. Po uzupełnieniu ich o dane na temat podróży, połączeń telefonicznych, aktywności w internecie czy przypadków łamania prawa (także tych drobnych, jak choćby przejście przez ulicę na czerwonym świetle), pozwalają na stały nadzór i analizę zachowań setek milionów obywateli.

Sam system to po prostu narzędzie – od chińskich władz zależy, czy wykorzystają je do efektywnego zarządzania państwem, czy do umacniania totalitarnych rządów. Przykład ostatnich lat wskazuje, że próbują łączyć jedno z drugim. Niezależnie od intencji, dla obywateli oznacza to inwigilację totalną.

O jej skali dobitnie świadczy niedawna oferta, złożona na forum dyskusyjnym Breach Forums przez użytkownika kryjącego się za Nickiem ChinaDan. Za kwotę 10 bitcoinów zaoferował on 23-terabajtową, policyjną bazę danych, zawierającą informacje na temat ponad miliarda Chińczyków.

To dane personalne, adresowe, ale także m.in. rejestr popełnionych przestępstw. Jeśli prawdziwość oferty zostanie potwierdzona, będzie to największy wyciek danych w historii tego kraju.

Ale to nie rozmiar bazy danych jest w przypadku chińskiej inwigilacji najbardziej interesujący. Znacznie ciekawsze są narzędzia, które mają do dyspozycji władze, jak choćby sposób na monitorowanie nie deklarowanych, ale prawdziwych przekonań danej osoby. Czyli – nieco upraszczając całą sprawę – "czytanie w myślach".

Doniesienia na ten temat pojawiły się m.in. w kontekście nadzoru nad emocjami pracowników fabryki w Hangzhou czy monitorowania serwisów społecznościowych pod kątem obecności materiałów pornograficznych.

Pokazana wówczas metoda wymagała od użytkowników założenia na głowę hełmu, pozwalającego na monitorowanie aktywności mózgu. W praktyce nie różni się to od testowanych od wielu lat interfejsów mózg-komputer, bazujących na odczytywaniu aktywności fal mózgowych.

Znacznie ciekawsza wydaje się metoda opisana na początku lipca przez amerykański "Newsweek". Badanie przeprowadzone z udziałem członków Komunistycznej Partii Chin miało weryfikować ich faktyczne przekonania.

Było to możliwe m.in. dzięki automatycznej analizie mikroekspresji osób oglądających chińskie materiały propagandowe. Mikroekspresje to mimowolne, trwające ułamki sekund ruchy mięśni twarzy, obrazujące nasze emocje, zanim zdołamy nad nimi świadomie zapanować.

Uzupełnieniem nadzoru prowadzonego w taki sposób jest m.in. propagandowa aplikacja Xuexi Qiangguo. Została ona opracowana jako narzędzie do propagowania myśli Xi Jinpinga – Przewodniczącego Chińskiej Republiki Ludowej.

Obecnie prezentuje także różnego rodzaju materiały przygotowane przez władze i udostępnia quizy i konkursy na temat prezentowanych treści, a na obywateli wywierana jest presja (choć nie oficjalny przymus!), aby instalowali i aktywnie korzystali z aplikacji.

Już w 2019 roku korzystało z niej 100 mln Chińczyków, a aplikacja – poza danymi dotyczącymi sposobu, w jaki korzysta z niej użytkownik, zapewnia władzom m.in. dostęp do danych lokalizacyjnych, historii zakupów, danych na temat stanu zdrowia, kontaktów, danych biometrycznych i wszelkiego rodzaju informacji, jakie zbiera czy wykorzystuje system Android.

Technologiczny nadzór nad obywatelami może jednak sięgać jeszcze głębiej i dotyczyć nie ich aktualnych działań, ale tego, co zamierzają zrobić. Wizja "przedstępstw", którym można zapobiec, zanim zostaną popełnione, przez długie lata była domeną fantastyki naukowej.

Jak donosi "New York Times", rozwiązania tego typu są już testowane w Chinach. Istnienie bazy danych na temat aktywności i poglądów obywateli umożliwia bowiem poszukiwanie wzorców zachowań, które można uznać za ryzykowne czy prowadzące do łamania prawa.

Choć działania władz Państwa Środka przykuwają powszechną uwagę, a totalna inwigilacja postrzegana jest jako cecha totalitarnej władzy, mieszkańcy liberalnych, zachodnich demokracji są poddawani podobnemu nadzorowi.

Przewidywanie przestępstw? To już było – jak choćby w amerykańskim hrabstwie Pasco, gdzie na lokalnego szeryfa spadła fala krytyki za nękanie mieszkańców, wskazanych przez algorytm jako potencjalni przestępcy.

Wskazywanie zagrożeń? Algorytm o złowrogiej nazwie "Skynet" już lata temu typował cele dla dronów, wyłuskując z bogatej bazy danych wzorce zachowań, typowe dla potencjalnych terrorystów. Wolny wybór? Tu również jesteśmy dość ograniczeni, czego dowodem mogą być choćby patenty Amazonu, który zabezpieczył nimi możliwość wysyłania paczek, zanim jeszcze zostaną zamówione.

Czytanie w myślach? Dość przywołać wystąpienie jednej z polskich europarlamentarzystek, które – poddane analizie za pomocą narzędzi do badania mikroekspresji – wskazało na całkowitą rozbieżność wypowiadanych słów i towarzyszących im emocji.

Nawet wypływające co pewien czas afery w stylu Cambridge Analityca pokazują, że to, co stanowi fundament państw szeroko rozumianego Zachodu, czyli demokratyczny wybór władz, jest podatne na technologiczną manipulację.

I choć stawianie znaku równości pomiędzy chińskim totalitaryzmem a zachodnimi demokracjami byłoby absurdem, warto mieć na uwadze, że otaczająca nas technologia zagwarantowała spełnienie najbardziej dystopijnych wizji, jakimi przed laty straszyła nas popkultura. "Nowy wspaniały świat" czy "Rok 1984" miały być ostrzeżeniem. W wielu aspektach stały się opisem naszej rzeczywistości.

Łukasz Michalik, dziennikarz Wirtualnej Polski